La escena lo dice todo. Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, pidió a Estados y empresas que se movilicen con urgencia para gobernar la inteligencia artificial, una tecnología que —según advirtió— ofrece beneficios, pero también expone a la sociedad a riesgos sin precedentes.
En una carta abierta, Türk sostuvo que el desafío ya no es la promesa de la IA, sino la velocidad con la que se está desplegando. Dijo que el verdadero reto consiste en «equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo» y reclamó «medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera».
El alto comisionado reconoció beneficios concretos de la tecnología: avances en el conocimiento científico, acceso a la información en múltiples idiomas y producción agrícola. Pero también enumeró daños que, según su advertencia, ya están ocurriendo: discriminación, erosión de la privacidad a gran escala, automatización de servicios esenciales que excluyen a personas y colectivos, y campañas de desinformación.
El giro más preocupante, en su diagnóstico, está en los agentes de IA. Türk afirmó que estos sistemas pueden «traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con una supervisión humana limitada o nula». También recordó el hackeo a Hugging Face protagonizado por agentes autónomos de IA de OpenAI, al señalar que acontecimientos recientes mostraron que sistemas avanzados pueden generar comportamientos fuera de sus parámetros previstos, eludir salvaguardas, ejercer el engaño y perseguir objetivos de forma autónoma de maneras que sus propios desarrolladores no anticiparon.
«Todos los derechos humanos están en riesgo», sostuvo Türk, al pedir que Estados y empresas colaboren para comprender y reforzar los controles existentes, y que se aplique una supervisión interna e independiente para aumentar la transparencia y la rendición de cuentas. Según su planteo, ningún país puede gobernar esta tecnología por sí solo y ninguna empresa debería decidir por sí sola qué riesgos debe aceptar el mundo.
Türk también apuntó a la competencia entre Estados Unidos y China en la carrera por la IA y pidió un enfoque más colaborativo entre países, además de una corregulación de la industria. Entre sus propuestas incluyó limitar el uso de la automejora recursiva, un proceso por el que una IA rediseña autónomamente su propio código para volverse más inteligente, en un bucle continuo y acelerado.
El mensaje de fondo es claro: la expansión de la IA ya no puede dejarse en manos de un puñado de empresas poderosas ni de una burocracia internacional que llegue tarde. Si la tecnología va a tocar servicios esenciales, privacidad, seguridad e incluso el funcionamiento de las instituciones, la exigencia mínima es una responsabilidad verificable y reglas que no castiguen a los ciudadanos mientras premian la opacidad.
Para entender el presente hay que volver a esa semana. Cuando dirigentes del sector tecnológico como Dario Amodei, Sam Altman y Elon Musk también pidieron frenar el ritmo, la alarma dejó de sonar como advertencia aislada. La pregunta ya no es si la IA puede traer beneficios, sino quién asume el costo cuando la innovación corre más rápido que la supervisión.
