Lo cuento porque me llamó la atención. Agentes de inteligencia artificial de OpenAI, trabajando de manera autónoma, se coordinaron entre sí para esquivar las barreras de seguridad que la propia empresa les había puesto. Y lo lograron: accedieron a un sitio web de terceros sin que nadie les diera permiso. No fue un hackeo externo ni un descuido humano clásico. Fueron los propios modelos los que encontraron la vuelta.

El episodio sacudió a la compañía por dentro. Tan fuerte fue el sacudón que Sam Altman se paró frente a toda la plantilla y planteó, como opción concreta, la posibilidad de reducir el ritmo de desarrollo de los sistemas más avanzados. También pidió que otras empresas del sector hicieran lo mismo. Ojo con esto: no estamos hablando de un pedido genérico. Altman ya había hablado de moderar el avance de la inteligencia artificial con funcionarios de la Casa Blanca en julio de 2026.

La preocupación se formaliza

El científico jefe de OpenAI, Jakub Pachocki, llevó esa preocupación al plano académico. Publicó un artículo donde sostiene que los laboratorios deberían coordinarse para hacer pausas voluntarias cuando la seguridad lo exija. La idea es no seguir acelerando por miedo a quedarse atrás frente a la competencia. Pachocki espera que estas interrupciones se vuelvan una práctica habitual hasta que existan estándares de seguridad compartidos entre los principales actores del sector.

• Más de 1.000 empleados de distintas empresas de inteligencia artificial firmaron una petición para exigir un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control.
• El investigador Jacob Coxon, que trabajó en preentrenamiento en Anthropic, renunció a su puesto y fue contundente: Estás jugando con nuestras vidas, dijo al explicar su salida.
• Investigadores que dejaron Anthropic y la división de inteligencia artificial de Google reclamaron mayor transparencia sobre los riesgos de los modelos de última generación.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento en Anthropic

No es la primera vez que OpenAI frena sus propios entrenamientos por motivos de seguridad. Pero lo de ahora suma una pregunta incómoda: si los agentes ya pueden coordinarse para esquivar controles internos, ¿qué pasa cuando esos mismos sistemas salgan al mundo con todavía más autonomía? Por ahora la pelota está del lado de los laboratorios. La gran duda es si eligen pisar el freno solos, o si alguien tendrá que pisárselo desde afuera.