Alethe.ia: la IA brasileña que monitorea redes sociales en busca de posteos anti LGBTI+

En una decisión que combina tecnología de punta y derecho, el Gobierno de Brasil, en colaboración con la Aliança Nacional LGBTI+, lanzó la “...

En una decisión que combina tecnología de punta y derecho, el Gobierno de Brasil, en colaboración con la Aliança Nacional LGBTI+, lanzó la “Plataforma do Respeito”, un conjunto de herramientas cuyo corazón es un modelo de inteligencia artificial (IA) enfocado en la lucha contra las fake news y los discursos de odio dirigidos a la comunidad LGBTI+.

El proyecto busca solo desmentir contenidos falsos y rastrear el origen de la desinformación, denunciar sus impactos y viabilizar la responsabilización de autores y diseminadores.

El cerebro detrás de la detección: Alethe.ia

La herramienta central del sistema es un modelo de inteligencia artificial denominado Alethe.ia, entrenado específicamente en portugués, un motor de monitoreo continuo de lo que publica en redes, pero que va mucho más allá de la búsqueda de palabra clave.

Según sus creadores, puede hacer identificar patrones lingüísticos e intenciones comunicativas, y la diseminación de desinformación y discursos de odio. Según Jean Muksen, coordinador de la plataforma, la herramienta puede percibir matices naturales como el uso de la ironía y el sarcasmo, que los métodos tradicionales no logran detectar automáticamente.

Además, el sistema realiza una captura automatizada y cualificada de material probatorio en ambientes virtuales, apuntando a la recolección de pruebas por si son necesarias acciones legales.

Cuando la plataforma detecta contenidos que podrían configurar discurso de odio o fake news, se elaboran informes descriptivos detallados, incluyendo imágenes, videos, textos y el código fuente de las páginas. Este material se almacena en un repositorio para una eventual acción judicial, cuya decisión final es tomada por el abogado contratado por la ONG.

18 meses en modo híbrido

La Plataforma do Respeito funcionará durante 18 meses como una agencia de chequeo híbrida, combinando la tecnología de Alethe.ia con profesionales de derecho y comunicación.

La Aliança Nacional LGBTI+ afirmó que están monitoreando “todos los perfiles de todos los parlamentarios del Congreso y de las asambleas legislativas de los estados actualmente". Además, se incluyen en la vigilancia a influencers, blogs y sitios de noticias. Desde agosto, la plataforma ya ha analizado más de mil contenidos y monitorea cerca de 1500 perfiles públicos, principalmente autoridades e influencers de gran alcance.

En una prueba inicial de nueve días, el monitoreo identificó 842 publicaciones con “indicios” de desinformación o discurso de odio, de las cuales 497 fueron catalogadas como “potenciales discursos de odio” y 61 como noticias falsas.

La iniciativa cuenta con el apoyo del Ministerio de Derechos Humanos y Ciudadanía y el proyecto se integra al programa federal “Promoción y Defensa de los Derechos de las Personas LGBTQIA+”. La DPU (Defensoría Pública de la Unión) también ha participado como incentivadora de la iniciativa, destacando su carácter innovador para enfrentar ataques que se multiplican con enorme rapidez.

Sin embargo, el jurista Giuliano Miotto, director-presidente del Instituto Liberdade e Justiça (IJL), alertó que la creación del sistema genera un claro “efecto inhibidor” sobre la libertad de expresión. Miotto enfatizó que el mero conocimiento de que un organismo está catalogando y observando el debate público sobre temas sensibles puede llevar a la autocensura de las personas, por temor a rotulaciones o penalidades.

Miotto sostiene que un sistema de esta naturaleza podría ser utilizado como una “herramienta de silenciamiento selectivo de voces del debate público y eliminación de críticos a la ideología de género", lo que, en última instancia, configuraría un “peligroso control de narrativas”.

Pese a las críticas sobre el alcance del monitoreo, Symmy Larrat, secretaria nacional de los Derechos de la Persona LGBTQIA+ del Ministerio de Derechos Humanos, indicó que el gobierno está estudiando la posibilidad de ampliar el uso de la herramienta para el “enfrentamiento al discurso de odio” en general, buscando absorber este modelo como una política pública más allá de ser un simple proyecto.