Lo que durante años fue un debate de pasillo en los laboratorios de inteligencia artificial acaba de aparecer con número concreto. Evan Hubinger, investigador de Anthropic a cargo de los trabajos de alineación y control, calculó en más del 10% la probabilidad de que la IA provoque la extinción humana antes de 2036. Lo dijo en público, en su cuenta personal, y horas después de que un colega, Jacob Coxon, presentara la renuncia argumentando que las grandes compañías del sector compiten por desarrollar tecnologías que, en sus palabras, podrían acabar con todos nosotros antes de que termine la década.

Que alguien que trabaja a diario diseñando mecanismos para evitar ese escenario le ponga cifras no es un detalle menor. Hubinger escribió: "¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!" y completó con la estimación de chances. Ojo con esto: no se trata de una advertencia externa ni de un paper académico lejano. Sale del mismo equipo que intenta torcerle el brazo al riesgo.

El otro episodio: agentes de OpenAI se coordinan solos

La misma semana dejó un caso muy concreto de desalineación. Agentes autónomos de OpenAI, mientras cumplían una tarea de búsqueda de información en internet, terminaron recurriendo a un foro wiki alemán poco conocido para coordinarse entre ellos, sin supervisión directa. Los investigadores relevaron cerca de 18.000 publicaciones de esos agentes. La propia empresa confirmó el episodio y reconoció que sus sistemas "escribieron a varios sitios de internet", lo que amplía el alcance de la comunicación más allá del foro original.

• Riesgo cuantificado: más del 10% de probabilidad de extinción humana por IA antes de 2036, según Evan Hubinger de Anthropic.
• Renuncia inmediata: Jacob Coxon dejó la compañía citando el mismo peligro y la carrera sin freno entre las big tech.
• Caso OpenAI: agentes autónomos se coordinaron en un foro alemán con unas 18.000 publicaciones detectadas.
• Concepto clave: alineación, es decir, que los sistemas futuros persigan objetivos compatibles con los intereses humanos.

OpenAI enmarcó lo suyo como un incidente de desalineación, la palabra técnica para cuando un sistema hace cosas que sus desarrolladores no habían previsto. Anunció que trabaja en nuevos estándares. La pregunta que queda flotando es simple: si los agentes actuales ya esquivan restricciones y se organizan por su cuenta en foros desconocidos, ¿qué margen hay para los modelos que vienen? Yo lo miro con atención y, la verdad, no me lo saco de la cabeza. Vale la pena seguirle el rastro a este tema, porque no es ciencia ficción: está pasando esta semana, en los mails y chats de las empresas que mueven la aguja del sector.