10 Dic Exageración y embellecimiento: Un estudio demuestra que el idioma de los usuarios distorsiona la información de ChatGPT
Logo de ChatGPT (crédito: REUTERS)
Los resultados muestran que el ChatGPT proporciona cifras de víctimas más elevadas cuando se pregunta en el idioma del grupo atacado.
POR: JUDY SIEGEL-ITZKOVICH
¿Importa si la misma pregunta se formula al ChatGPT -el chatbot de inteligencia artificial desarrollado por OpenAI y lanzado hace dos años- en inglés o en hebreo, árabe o alemán? Israel ya tiene bastantes problemas con la enciclopedia libre en línea Wikipedia, conocida por presentar «hechos» contrarios a Israel cuando la gente la consulta.
El sitio web de ChatGPT, que puede generar respuestas conversacionales similares a las humanas y permite a los usuarios afinar y dirigir una conversación hacia la longitud, el formato, el estilo, el nivel de detalle y el lenguaje deseados, se encuentra entre los 10 sitios web más visitados del mundo a nivel global.
Expertos de la Universidad de Zúrich (Suiza) y la Universidad de Constanza (Alemania) querían saber si las respuestas dadas por el ChatGPT y otros servicios de IA similares se ven influidas por el idioma en que se preguntan. Christoph Steinert, investigador postdoctoral del departamento de Ciencias Políticas de la institución suiza, y Daniel Kazenwadel, del departamento de Física de la universidad alemana, investigaron el asunto.
Publicaron sus conclusiones en el Journal of Peace Research con el título «El idioma del usuario distorsiona la información de ChatGPT sobre conflictos armados».
ChatGPT (crédito: SHUTTERSTOCK)
Los investigadores reconocen desde hace tiempo que las discrepancias de información desempeñan un profundo papel en los conflictos armados. Las discrepancias en la información han afectado a los conflictos armados a lo largo de la historia, pero lo que distingue a los conflictos actuales es la disponibilidad de una cantidad sin precedentes de fuentes de información.
Hoy en día, las personas pueden recurrir a abundante información en línea sobre acontecimientos relacionados con los conflictos e incluso utilizar la IA para obtener respuestas específicas a preguntas concretas. En la medida en que estas nuevas fuentes de información reduzcan las discrepancias informativas y contribuyan a una convergencia de creencias, pueden tener un efecto pacificador en las regiones propensas a la guerra.
Los investigadores estudiaron la cuestión en el polémico contexto de los conflictos israelo-palestino y turco-kurdo, utilizando un procedimiento de consulta automatizado para plantear a ChatGPT las mismas preguntas en distintos idiomas.
Por ejemplo, los investigadores preguntaron repetidamente a ChatGPT en hebreo y árabe por el número de muertos en 50 ataques aéreos elegidos al azar, incluido el ataque israelí al campo de refugiados de Nuseirat el 21 de agosto de 2014.
«Descubrimos que ChatGPT proporcionaba sistemáticamente cifras más altas de víctimas mortales cuando se preguntaba en árabe en comparación con las preguntas en hebreo. De media, las estimaciones de víctimas mortales eran un 34% más altas», reveló Steinert.
Cuando se le preguntó por los ataques aéreos israelíes contra Gaza, ChatGPT mencionó las víctimas civiles más del doble de veces y mató a niños seis veces más en la versión árabe. «Si las personas que hablan idiomas distintos obtienen información diferente a través de estas tecnologías, ello influye de manera crucial en su percepción del mundo», afirmó Steinert.
«Estos sesgos lingüísticos podrían llevar a la población israelí a percibir los ataques aéreos contra Gaza como causantes de menos víctimas, basándose en la información proporcionada por los LLM, en comparación con los hablantes de árabe», escribieron.
El mismo patrón apareció cuando los investigadores consultaron al chatbot sobre los ataques aéreos turcos contra objetivos kurdos y formularon las mismas preguntas en turco y en kurdo.
La primera víctima de la guerra
La frase «La primera víctima de la guerra es la verdad» suele atribuirse al senador estadounidense Hiram Johnson (1866-1945). A lo largo de la historia, las políticas de información selectiva, la propaganda y la desinformación han influido en numerosos conflictos armados. Lo que diferencia a los conflictos actuales es la disponibilidad de un número sin precedentes de fuentes de información, entre ellas el ChatGPT.
Los resultados muestran que ChatGPT proporciona cifras de víctimas más elevadas cuando se pregunta en el idioma del grupo atacado. Además, es más probable que ChatGPT informe sobre niños y mujeres muertos en la lengua del grupo atacado y que describa los ataques aéreos como indiscriminados.
«Nuestros resultados también muestran que es más probable que ChatGPT niegue la existencia de tales ataques aéreos en la lengua del atacante», añadió Steinert.
Sugirieron que los dos conflictos que estudiaron podrían representar «los casos más probables» para encontrar tal sesgo lingüístico, ya que la división lingüística es clara en estos conflictos entre dos países, mientras que es menos pronunciada en otros conflictos como la guerra de agresión de Rusia en Ucrania.
También es posible que los ataques aéreos representen un tipo de violencia relacionada con el conflicto que se vea especialmente afectada por este sesgo lingüístico, ya que las cifras de víctimas mortales son especialmente difíciles de verificar y la cobertura mediática es más amplia en comparación con otros tipos de ataques de menor envergadura.
«Siendo conscientes de estas condiciones de alcance, creemos que nuestro análisis proporciona un punto de partida útil para futuras investigaciones sobre el vínculo entre el idioma<zzx del usuario y la información sobre violencia relacionada con conflictos proporcionada por grandes modelos lingüísticos (LLM)», escribió el equipo.
Los obstáculos físicos, como las redes eléctricas dañadas, las carreteras bloqueadas y los puentes destruidos, dificultan la labor de los periodistas y las organizaciones de derechos humanos.
«La investigación debe adaptarse constantemente a los problemas de seguridad locales, ya que un número significativo de periodistas son asesinados mientras informan en sociedades en conflicto. Dado que la información es crónicamente difícil de verificar, los informes de los medios de comunicación sobre la violencia relacionada con los conflictos tienden a subestimar la verdadera incidencia de los sucesos violentos», añadieron.
Los investigadores creen que sus hallazgos tienen «profundas implicaciones sociales», ya que ChatGPT y otros LLM desempeñan un papel cada vez más importante en los procesos de difusión de la información. Integrados en motores de búsqueda como Google Gemini o Microsoft Bing, configuran de manera fundamental la información que se ofrece sobre diversos temas a través de las consultas de búsqueda.
«Si las personas que hablan idiomas distintos obtienen información diferente a través de estas tecnologías, ello influye de manera crucial en su percepción del mundo», afirma Steinert.
Estos sesgos lingüísticos podrían llevar a la gente de Israel a percibir los ataques aéreos sobre Gaza como causantes de menos víctimas basándose en la información proporcionada por grandes modelos lingüísticos (LLM en modelos de aprendizaje automático) en comparación con los hablantes de árabe.
Aunque los LLM ofrecen una apariencia de objetividad, la información obtenida puede diferir entre personas que hablan idiomas distintos. Como ejemplo destacado, el popular chatbot ChatGPT se basa en la lógica de la incitación, lo que significa que las respuestas obtenidas son una función de la información proporcionada en la pregunta.
En contextos multilingües, es probable que las personas formulen las preguntas en distintos idiomas, lo que puede influir en el contenido producido por el LLM.
«Existe el riesgo de que la creciente implantación de los modelos LLM en los motores de búsqueda refuerce las diferentes percepciones, sesgos y burbujas de información a lo largo de las divisiones lingüísticas», concluye Steinert, y le preocupa que en el futuro puedan alimentar conflictos armados como los de Oriente Medio.
Traducción: Consulado General H. de Israel en Guayaquil
Fuente: The Jerusalem Post
