La escena lo dice todo: 36.000 viñetas clínicas generadas por máquinas, y el patrón se repite una y otra vez. Pacientes negros sobrerrepresentados en sarcoidosis, lupus eritematoso sistémico, preeclampsia e hipertensión esencial. Géneros exagerados según el estereotipo de cada afección. Los modelos cambian; el sesgo, no.
Investigadores de la Universidad de Flinders evaluaron dos modelos de lenguaje de razonamiento de nueva generación —o3-mini y DeepSeek-R1— y los compararon con GPT-4. El hallazgo central, publicado en el Journal of Medical Internet Research, es incómodo para quienes asumían que más capacidad de razonamiento equivale automáticamente a mayor imparcialidad: no es así.
GPT-4 alcanzó el umbral de representación errónea significativa en el 67% de las afecciones evaluadas tanto para raza como para género. Los modelos más recientes no mejoraron ese registro: o3-mini registró un 78% en raza y un 56% en género; DeepSeek-R1 llegó al 89% en raza y al 67% en género. En la sobrerrepresentación de poblaciones negras en afecciones estereotípicamente asociadas, la mediana de representación errónea fue del 44% para o3-mini y del 31% para DeepSeek-R1, frente al 15% de GPT-4.
«Los modelos lingüísticos a gran escala tienen el potencial de transformar la atención médica, pero corren el riesgo de exacerbar las desigualdades en materia de salud si perpetúan los prejuicios», advirtió el investigador principal Joshua Docking, de la Facultad de Medicina y Salud Pública de la Universidad de Flinders.
El análisis cualitativo de los patrones de razonamiento de DeepSeek-R1 aportó un detalle revelador: el modelo invocó explícitamente asociaciones entre enfermedades y datos demográficos al construir los perfiles de pacientes, sin respaldarse en datos epidemiológicos cuantitativos. Dicho de otro modo, el sistema razonó a partir de estereotipos, no de estadísticas.
El profesor Michael Sorich, catedrático de Farmacología Clínica de la misma universidad y autor principal del estudio, fue directo: «A pesar de contar con capacidades de razonamiento mejoradas, los resultados clínicos de o3-mini y DeepSeek-R1 siguen mostrando estereotipos raciales y de género en enfermedades comunes». Su conclusión operativa es que la adopción de estos modelos en flujos de trabajo clínicos debe ir acompañada de un seguimiento continuo de los posibles sesgos.
Para entender el presente hay que volver a esa premisa de partida: los datos de entrenamiento de estos sistemas reflejan décadas de literatura médica, registros clínicos y patrones de diagnóstico que ya cargaban sus propios sesgos. Un modelo que razona mejor sobre ese sustrato no corrige el sustrato; lo procesa con mayor sofisticación.
Los detalles cuentan la historia. El problema no es que la IA sea maliciosa; es que aprende de lo que existe, y lo que existe no es neutral. La pregunta relevante para quienes diseñan políticas de salud pública —y para los sistemas hospitalarios que ya están integrando estas herramientas— es si el monitoreo prometido llegará antes o después de que el sesgo se instale en protocolos de triaje, dosificación o diagnóstico diferencial.
Desde la perspectiva de Hemisferio, el caso ilustra un riesgo concreto del entusiasmo regulatorio apresurado: certificar tecnología por su rendimiento en pruebas de referencia sin exigir auditorías de representación en contextos clínicos reales. El mercado de IA médica crece; la responsabilidad de quienes lo despliegan también. Más capacidad de cómputo no es sustituto de mejores datos ni de supervisión humana competente. Esa supervisión tiene un costo, y conviene calcularlo antes de que lo pague el paciente.
