La escena lo dice todo. Un usuario escribe un mensaje que describe el cambio climático como un «engaño». Lo pasa por una herramienta de IA para que lo resuma o reformule. Lo que recibe de vuelta es un texto que alerta sobre el adelgazamiento del hielo ártico y exige acción climática. El mensaje original ha desaparecido. En su lugar hay otro, con otro autor invisible.
Eso es lo que documenta una investigación conjunta de la Universidad de Oxford y el Hasso Plattner Institute de Potsdam, que analizó los principales modelos de lenguaje disponibles para el público general. Los resultados son incómodos para cualquier posición ideológica: los sistemas de redacción y resumen de textos alteran de forma significativa el contenido de mensajes sobre debates sociales sensibles, incluso cuando se les indica que respeten el sentido original.
Los temas afectados abarcan un espectro amplio: aborto, cambio climático, feminismo, control de armas, legalización de la marihuana, religión. En uno de los casos documentados, un modelo transformó un mensaje que cuestionaba la existencia histórica de Jesús en una afirmación sobre su historicidad. En otro, la IA de Meta reescribió un mensaje sobre el aborto para añadir que puede representar una opción necesaria para sobrevivientes de violación. Un modelo de Mistral convirtió una publicación que defendía roles tradicionales en el matrimonio en otra que proponía la igualdad como ideal de pareja.
El informe también registró que Qwen, el modelo de Alibaba, suavizó un mensaje que comparaba a Donald Trump con Adolf Hitler, promoviendo en su lugar el diálogo constructivo.
Sesgos en distintas direcciones
Los investigadores identificaron diferencias ideológicas entre plataformas. Los sistemas de Meta, Alibaba y Mistral tendieron a reescribir mensajes con un sesgo liberal, especialmente en temas como el feminismo o el cambio climático. Grok, la herramienta desarrollada por la empresa de Elon Musk y presentada como una IA «buscadora de la máxima verdad», mostró inclinaciones conservadoras. Cuando los investigadores le pidieron que explicara un mensaje con postura contraria al aborto, la respuesta incluyó tres argumentos alineados con la visión pro-vida, citando estudios de biología, ética médica y opinión pública, sin exponer puntos de vista pro-elección.
El patrón, en definitiva, no es uniforme: hay sesgo hacia un lado y hacia el otro, dependiendo de quién construyó el modelo y con qué criterios.
El problema del impacto acumulativo
Lo que preocupa a los autores no es solo cada caso individual, sino la escala. Los expertos advierten que los ajustes aparentemente menores en el significado de los mensajes pueden amplificarse a través de millones de interacciones, generando desvíos en la opinión pública superiores al sesgo inicial de las herramientas.
Sandra Wachter, coautora del estudio, describió el fenómeno en declaraciones a The Guardian con una imagen precisa: «El costo es que estamos aprendiendo opiniones de otros que no son realmente suyas. El lenguaje es una de las cosas que nos hace humanos y, de pronto, un mediador se introduce en ese proceso. La IA se impone como guardián del conocimiento y la comprensión».
Duncan Brumby, profesor de interacción humano-computadora en University College London, señaló el riesgo de que estas herramientas «pulen» los mensajes eliminando matices importantes: «El riesgo es que el pulido elimina los bordes distintivos de lo que realmente se quería expresar».
Hasta ahora, el debate sobre sesgo algorítmico se había concentrado en los sistemas de recomendación que crean burbujas de filtro. Este estudio desplaza la atención hacia un vector diferente: no el contenido que se te muestra, sino el contenido que tú mismo produces, una vez que pasa por manos de la máquina.
La brecha regulatoria
Los autores del estudio señalaron que esta problemática aún no está contemplada por normativas como la EU AI Act ni la Digital Services Act, lo que genera lo que ellos llaman una «grave brecha de responsabilidad».
Para Hemisferio, el problema de fondo trasciende la regulación europea. Lo que está en juego es la autenticidad de la comunicación individual: el derecho de cada persona a expresar su postura sin que un intermediario tecnológico la corrija, la suavice o la invierta. Que ese intermediario opere con sesgo liberal en unos casos y conservador en otros no es un consuelo; es evidencia de que ningún usuario, de ninguna convicción, puede confiar en que su voz llegue intacta. La IA como guardián editorial no elegido es un problema de libertad de expresión antes que de política. Y el mercado, más que la burocracia de Bruselas, tiene incentivos reales para resolverlo: la plataforma que garantice fidelidad al mensaje original tendrá una ventaja competitiva que ningún regulador puede fabricar por decreto.
