25 Nov Un nuevo estudio revela que la IA puede debilitar el antisemitismo, no solo amplificarlo

Investigadores vinculados a la Liga Antidifamación entrenaron un chatbot de inteligencia artificial para refutar teorías conspirativas sobre los judíos con hechos convincentes, con un éxito alentador.

Por Philissa Cramer

Ilustrativo: Un hombre escribe en un teclado de computadora mientras se ve un lenguaje de codificación en la pantalla (gorodenkoff; iStock por Getty Images)

JTA — Parece que cada día hay un nuevo titular sobre cómo los chatbots de IA difunden ideas de odio. Sin embargo, investigadores encargados de comprender el antisemitismo y cómo frenarlo afirman haber encontrado pruebas de que los chatbots de IA pueden combatir el odio.

Investigadores afiliados al Centro de Investigación del Antisemitismo de la Liga Antidifamación entrenaron un modelo de lenguaje extenso (LLM por sus siglas en inglés) para contrarrestar las teorías conspirativas antisemitas e invitaron a interactuar con él a personas que compartían al menos una de esas teorías.

El resultado, según un estudio publicado el miércoles: los usuarios pronto creyeron menos en las teorías antisemitas, a la vez que se sentían más favorables hacia los judíos como grupo. Y los efectos seguían siendo fuertes un mes después, incluso sin mayor interacción con el LLM.

Los investigadores elogian el hallazgo como un avance en la búsqueda de estrategias prácticas para combatir el odio a los judíos.

«Lo notable de estos hallazgos es que la desacreditación basada en hechos funciona incluso para teorías conspirativas con profundas raíces históricas y fuertes conexiones con la identidad y los prejuicios», declaró David Rand, profesor de la Universidad de Cornell y autor principal del estudio.

«Nuestro bot de desacreditación de inteligencia artificial no suele recurrir a apelaciones emocionales, ejercicios de empatía ni tácticas anti-sesgo para corregir creencias falsas», continuó Rand, refiriéndose a las prácticas que emplean frecuentemente quienes luchan contra el antisemitismo, incluyendo la Liga Antidifamación (ADL por sus siglas en inglés). «Principalmente, proporciona información precisa y contra-argumentos basados ​​en la evidencia, lo que demuestra que los hechos siguen siendo importantes para cambiar las mentalidades».

Matt Williams es vicepresidente del Centro de Investigación del Antisemitismo de la Liga Antidifamación. (Cortesía de JTA)

Matt Williams, quien ha dirigido el Centro para la Investigación del Antisemitismo desde su fundación hace tres años, afirma que el estudio se basa en un creciente conjunto de investigaciones que consideran el antisemitismo contemporáneo principalmente un problema de desinformación, más que un problema de derechos civiles.

«Necesitamos pensar en el antisemitismo menos como sentimientos hacia los judíos y más como sentimientos hacia Pie Grande», declaró en una entrevista. «Y lo que quiero decir con esto es que el problema no son los ‘judíos’. Es ‘el judío’ en función de la teoría de la conspiración el que lo constituye. Y la relación entre ‘judíos’ y ‘el judío’ en ese contexto es mucho más tenue de lo que podríamos pensar».

Williams, al calificar las teorías de la conspiración de «disfunciones en la forma en que construimos la verdad del mundo», afirmó que el estudio demostró algo notable. «La gente puede corregir esas disfunciones», afirmó. «Realmente pueden, lo cual es sumamente emocionante y realmente impactante».

El estudio surge del esfuerzo relativamente reciente de la ADL por encontrar maneras basadas en la evidencia para reducir el antisemitismo. Colaboró ​​con docenas de investigadores de diversas instituciones para diseñar y llevar a cabo experimentos destinados a transformar un sólido espacio de defensa en un proceso menos complejo.

El nuevo experimento, realizado a principios de este año, involucró a más de 1200 personas que, en una encuesta previa de la ADL, afirmaron creer en al menos una de seis teorías conspirativas antisemitas prominentes, como la de que los judíos controlan los medios de comunicación o la teoría del «Gran Reemplazo» sobre la participación judía en la inmigración.

A continuación, se les asignaron aleatoriamente tres escenarios diferentes: un tercio conversó con un LLM programado por los investigadores para desacreditar dichas teorías, desarrollado con el modelo de inteligencia artificial Claude de Microsoft; otro tercio conversó con Claude sobre un tema no relacionado; y al último tercio simplemente se le dijo que su creencia representaba una teoría conspirativa «peligrosa».

Después, se les volvió a preguntar sobre sus creencias. Los investigadores descubrieron que los miembros del grupo que conversaron con lo que los investigadores llaman DebunkBot tenían muchas más probabilidades de ver sus creencias debilitadas que los miembros de los otros grupos.

DebunkBot, un chatbot de IA utilizado para contrarrestar teorías conspirativas. (Captura de pantalla de DebunkBot)

DebunkBot no fue la panacea para el antisemitismo: el estudio reveló que quienes creían en teorías conspirativas más antisemitas experimentaron menos cambios. Williams señala que el estudio solo halló que la creencia en conspiraciones antisemitas se redujo, no se erradicó por completo.

Sin embargo, afirmó que cualquier estrategia que pueda contrarrestar lo que los investigadores consideran una explosión generalizada de la creencia en teorías conspirativas es positiva.

La proporción de estadounidenses que suscriben teorías conspirativas en la última década ha alcanzado el 45%, más del doble de la tasa que se mantuvo estable durante 70 u 80 años, afirmó Williams.

«Para mí, el aumento de ese nivel de saturación es mucho más preocupante que cualquier teoría conspirativa en particular que se transmita a través de las diferentes generaciones», afirmó. «No creo que vayamos a crear jamás un mundo en el que bajemos del 15% – pero pasar del 45% al 30 o 25% parece más factible».

El nuevo estudio surge en un momento en que los modelos de IA se están generalizando entre los estadounidenses, lo que genera preocupación por sus implicaciones para los judíos. Cuando Elon Musk lanzó un modelo propio a principios de este año llamado Grok, inmediatamente recibió críticas por amplificar el antisemitismo – iniciando un patrón que se ha repetido repetidamente. Poco después, la compañía se disculpó y afirmó que entrenaría a su modelo para evitar el mismo comportamiento en el futuro. Las críticas a Grok siguen siendo generalizadas, pero ya no alaba a Hitler, aunque incluso esta semana, según se informó, le dijo a un usuario que las cámaras de gas nazis no estaban diseñadas para asesinatos en masa, lo que provocó una investigación por parte de las autoridades francesas.

Esta fotografía muestra pantallas con el logotipo de Grok, un chatbot de inteligencia artificial generativa desarrollado por la empresa estadounidense de inteligencia artificial xAI, en Toulouse, sur de Francia, el 15 de enero de 2025. (Lionel Bonaventure/AFP)

El entrenamiento de chatbots se considera esencial para obtener resultados de IA de alta calidad. DebunkBot ya está disponible en línea en su propio sitio web, pero Williams afirmó que la ADL está trabajando para convencer a las empresas que operan las principales plataformas de IA de que incorporen su experiencia.

«Hay mucha más receptividad, sin duda», afirmó, aunque señaló que el trabajo se encuentra en una etapa temprana y que no podía compartir muchos detalles.

Sea cual sea el resultado de ese esfuerzo, afirmó Williams, la nueva investigación demuestra que es posible combatir lo que a veces se denomina el odio más antiguo del mundo.

«La IA y los LLM – son herramientas, ¿verdad? Y podemos usarlas para el bien y para el mal», afirmó Williams. «Pero el hecho de que podamos someter las teorías de la conspiración a conversaciones y argumentos racionales y, de hecho, conducir a resultados favorables es, en sí mismo, creo, relativamente innovador, sorprendente y extraordinariamente útil».

Traducción: Consulado General H. de Israel en Guayaquil
Fuente: The Times of Israel