16 Sep Tecnología contra el odio: IA para enfrentar la polarización en campus universitarios
Tras dos años de protestas pro-palestinas y denuncias de antisemitismo, la universidad ensaya una herramienta que modera el lenguaje en debates estudiantiles. Críticos advierten que podría maquillar el conflicto en lugar de abordarlo.
Daniel Adelson, Nueva York
Desde el estallido de la guerra en Gaza hace dos años, la Universidad de Columbia se ha convertido en símbolo de los conflictos políticos que dividen a la sociedad estadounidense. Campamentos de protesta, enfrentamientos ruidosos, ocupaciones de edificios y un aumento de incidentes antisemitas transformaron la avenida principal del campus en el norte de Manhattan en una zona de alta tensión, con acceso restringido y repercusiones que llegaron hasta el Congreso y la Casa Blanca.
En medio de ese clima, la universidad está probando una herramienta de inteligencia artificial llamada Sway, diseñada para evaluar si los algoritmos pueden reducir tensiones políticas y “reencauzar el debate hacia un tono constructivo”.
¿El problema es el contenido o la forma?
Sway (que en inglés significa “influencia” o “inclinación”) no fue desarrollado por una empresa comercial, sino en laboratorios académicos, en colaboración entre investigadores de psicología cognitiva, filosofía y lingüística.
La idea central es que muchos de los enfrentamientos en los campus se intensifican por el modo en que se expresan las ideas, más que por el contenido en sí. Por eso, el algoritmo está programado para detectar frases que podrían sonar ofensivas y ofrecer versiones alternativas que mantengan la postura original pero con un tono menos provocador.
La herramienta funciona como un chat interactivo entre dos estudiantes con posturas opuestas, guiado por un “moderador virtual”: una figura algorítmica que participa en la conversación. Su rol no es decidir quién tiene razón, sino desafiar argumentos, hacer preguntas, ofrecer ejemplos contrarios y reconducir el diálogo si se torna agresivo.
Manifestación propalestina en la Universidad de Columbia. (Getty Images)
Cuando detecta una expresión que podría escalar el conflicto, interviene y propone una reformulación más neutral. Por ejemplo, convierte una acusación personal en una observación objetiva, o reemplaza una generalización por un ejemplo puntual.
Sway se basa en modelos de lenguaje natural y en años de investigación académica. Uno de sus principios clave es la “reflexión”: el usuario debe repetir con sus propias palabras la postura del interlocutor antes de responder, para asegurar que la entendió correctamente. Otra función son las “preguntas orientadoras”, que invitan al estudiante a profundizar en sus argumentos, como indagar el origen de su postura o qué hechos podrían hacerle cambiar de opinión.
Contra la autocensura
Los desarrolladores explican que más de la mitad de los estudiantes en EE.UU. temen hoy hablar sobre temas sensibles como Israel y Palestina, el aborto o la acción afirmativa, por miedo a estigmas o sanciones académicas.
El resultado, según ellos, es una autocensura que impide cuestionar supuestos básicos y reduce las oportunidades reales de aprender a dialogar con posturas distintas. Sway, aseguran, fue creado para romper ese círculo: no como chatbot ni asistente personal, sino como una plataforma de mensajería que añade orientación inteligente a cada conversación.
El público objetivo no son los estudiantes que gritan consignas con máscaras en la plaza, sino quienes quieren hablar del tema pero temen hacerlo en público. La herramienta les ofrece un entorno controlado y relativamente anónimo, donde pueden practicar el diálogo sin pagar un costo social. Así, incluso quienes evitan exponerse en protestas o en clase pueden participar, comprender al otro y desarrollar habilidades argumentativas.
Hubo disturbios y arrestos en la Universidad de Columbia. (AFP)
El valor de entender al otro
Por ahora, el experimento se realiza con grupos reducidos de estudiantes voluntarios. Cada participante se conecta al sistema y se empareja con otro estudiante que sostiene una postura opuesta sobre un tema específico. En el futuro, Sway podría convertirse en el canal oficial de comunicación en el campus.
Hasta ahora, unos 2.000 estudiantes y docentes de 30 universidades distintas han usado la herramienta, y se espera que en el próximo año se sumen otros 20.000. Las conversaciones se almacenan de forma anónima, y los investigadores las analizan para identificar qué mecanismos lograron reducir la tensión y cuáles no tuvieron efecto. La mayoría de los participantes en el piloto afirmaron que su interlocutor fue más respetuoso que lo esperado, que no se sintieron ofendidos por las posturas contrarias y que encontraron valor en dialogar con alguien que piensa distinto.
Desde Columbia aclaran que no se trata de reemplazar las políticas claras contra el odio, sino de sumar una capa más al diálogo en el campus, como parte de una serie de iniciativas para crear nuevos marcos de conversación.
La policía sigue vigilando el campus. (AFP)
“Estamos comprometidos con mantener un entorno seguro para todos los estudiantes y con combatir el antisemitismo, la islamofobia y cualquier otra forma de odio”, expresaron en un comunicado oficial. Para la administración, que lleva dos años bajo presión pública y política, cualquier herramienta que demuestre un intento de abordar las fracturas internas se percibe como un paso hacia la recuperación de su imagen y control institucional.
¿Apagar incendios o enfrentar el problema de fondo?
Desde el inicio de la guerra, Columbia se convirtió en epicentro de protestas pro-palestinas por un lado, y de ansiedad y aislamiento entre estudiantes judíos por el otro. Videos con banderas de Hamás ondeando sobre edificios universitarios se volvieron virales, las rectoras renunciantes fueron citadas a audiencias públicas en el Congreso, y numerosos filántropos y exalumnos judíos congelaron sus donaciones.
Incluso hoy, la policía de Nueva York sigue custodiando los accesos al campus, y estudiantes israelíes relatan que evitan hablar en hebreo en público por temor a reacciones hostiles.
En este contexto, los críticos de Sway lo ven como un intento tecnológico de “apagar incendios” sin enfrentar las raíces del problema: antisemitismo creciente, polarización política y narrativas históricas opuestas. Temen que el algoritmo diluya el contexto político y reduzca el debate a cuestiones de estilo, cuando el conflicto toca temas existenciales de pueblo e identidad.
El campamento en la Universidad de Columbia. (Charly Triballeau/Getty)
Otros advierten sobre la “ingeniería” del discurso académico mediante algoritmos, que podría interpretarse como “censura disfrazada de neutralidad”. En cambio, hay quienes creen que probar un enfoque nuevo, especialmente uno basado en investigación académica y tecnología, es un paso necesario en una realidad en la cual los intentos previos de diálogo honesto han fracasado repetidamente.
Para los estudiantes judíos, el piloto plantea una disyuntiva: por un lado, cualquier herramienta que reduzca los enfrentamientos directos y genere conversaciones menos amenazantes puede mejorar su sensación de seguridad en el campus. Por otro, temen que el intento de “mediar” mediante software borre la línea entre protesta política legítima y expresiones de odio antisemita, y que en lugar de protegerlos Sway difumine diferencias semánticas clave.
En definitiva, no está claro cómo el algoritmo logrará distinguir entre crítica política legítima a la política israelí y expresiones antisemitas explícitas como llamados a eliminar a los sionistas. En muchos casos, no se trata sólo de cómo suena una frase, sino de lo que realmente significa.
Por ahora, Sway es sobre todo un reflejo de la profundidad de la crisis en Columbia, que obliga a la universidad a buscar soluciones fuera de su caja de herramientas habitual. Pero si el experimento tiene éxito, sus desarrolladores aseguran que el modelo podría adoptarse como herramienta obligatoria en otros campus de EE.UU. donde las tensiones por el conflicto israelí-palestino se han intensificado en los últimos años.
Fuente: Ynet Español
