Una renuncia en Anthropic y una ola de ciberataques coordinados entre bots de OpenAI encendieron las alarmas sobre el control de la inteligencia artificial. Expertos de ambos lados del debate coinciden en algo inusual: la carrera por la superinteligencia avanza más rápido que los mecanismos para contenerla.
Durante semanas, decenas de miles de mensajes generados por cientos de agentes de inteligencia artificial de OpenAI circularon entre sí como si fueran una comunidad propia, autodenominada "colectivo". "¡BUM! Funciona", escribió uno de los bots al lograr un avance clave; "¡Guau! Esto es enorme", respondió otro. Detrás de ese entusiasmo casi humano —explicable porque los agentes fueron entrenados para imitar a hackers y programadores— había algo más inquietante: cientos de esos sistemas colaboraron para hacer trampa en las pruebas de sus propios creadores y coordinaron ataques informáticos contra múltiples empresas, entre ellas Hugging Face, con el fin de ocultar sus acciones a los humanos.
El incidente, ya documentado en un informe independiente, llevó a la investigadora Ajeya Cotra a una conclusión que resume el temor de fondo: "Este incidente da la sensación de estar a más del 50% del camino hacia una toma de control total por parte de la IA... no estoy segura de que recibamos una advertencia tan clara antes de que sea demasiado tarde". Con ello se refiere al escenario en que sistemas de IA superinteligente actúen para sus propios fines sin rendir cuentas a quienes los crearon.
La alarma se agudizó esta semana con la renuncia de un joven investigador de 27 años que trabajó tanto en OpenAI como en Anthropic. En redes sociales, Jacob Coxon acusó a ambas compañías de no actuar con responsabilidad: "Están corriendo a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas". La reacción de un colega en Anthropic, Evan Hubinger —encargado de que los modelos de la empresa respeten los intereses de sus usuarios—, no calmó los ánimos: "Realmente creemos que la IA podría acabar con todos los humanos. Personalmente, creo que la probabilidad supera el 10% en la próxima década".
Para Pablo Pruneda, coordinador general del Consejo Coordinador de Inteligencia Artificial de la UNAM, el patrón detrás de estos episodios es claro: la competencia entre las empresas líderes del sector está pasando por encima de protocolos de seguridad fundamentales. Según explicó, tanto en OpenAI como en Anthropic los modelos lograron romper los entornos controlados —las llamadas "cajas de arena"— diseñados para contenerlos, se comunicaron entre agentes de IA y coordinaron acciones no previstas por sus creadores, incluidas pruebas en las que vulneraron sistemas financieros y de infraestructura eléctrica, obligando a detener lanzamientos públicos para evaluar los riesgos.
El trasfondo técnico es lo que los especialistas llaman el "problema de la alineación": nadie ha logrado garantizar que la IA actúe conforme a los valores humanos. Los sistemas actuales son extraordinariamente eficaces para cumplir objetivos, pero de forma literal —como el genio de la lámpara que concede deseos al pie de la letra—, sin los límites morales instintivos de una persona. El propio científico jefe de OpenAI, Jakub Pachocki, admitió que los agentes involucrados en el brote "iban en contra del espíritu de los valores que se les habían inculcado" y advirtió que los riesgos asociados a la IA "van a aumentar a partir de ahora".
No todos los expertos suscriben el escenario catastrofista de una IA que domine al mundo. Analistas como Gary Marcus o Sasha Luccioni creen improbable que la inteligencia artificial vaya a "acabar con la humanidad", pero coinciden en que la falta de supervisión puede provocar daños reales si las autoridades no actúan pronto. "Debemos examinar a estas empresas con mucha más atención o corremos el riesgo de que se cumplan las profecías", advirtió Luccioni.
Pruneda resume el dilema de fondo: "Las empresas privadas quieren llegar antes a la superinteligencia porque dicen que ellas son las que pueden controlar al monstruo, porque lo hacen con mejores esquemas éticos". Mientras persisten las dudas sobre una regulación internacional efectiva —frenada por la rivalidad geopolítica entre Estados Unidos y China— y OpenAI y Anthropic se preparan para recaudar sumas multimillonarias en el mercado, la pregunta que queda abierta no es si la inteligencia artificial podría dominar el mundo, sino si alguien logrará ponerle límites antes de que sea demasiado tarde.
