Gigantes de la IA afinan protocolos para el día que algo salga muy mal

Lo aclaro de entrada: nadie en OpenAI ni en Anthropic está corriendo por los pasillos ni armando un refugio. Pero sí, los principales ejecutivos del sector vienen manteniendo reuniones reservadas para diagramar respuestas ante cuatro escenarios de alto impacto vinculados a la inteligencia artificial. Prepararse no es esperar que ocurran, pero pinta de cuerpo presente el creciente respeto que genera una tecnología cada vez más capaz.

Los cuatro fantasmas que miran de reojo

¿Cuáles son? El que más inquieta es un ciberataque a gran escala que deje sin luz, sin bancos o sin agua a regiones enteras. Un atacante con IA podría encontrar fallas, escribir código dañino y automatizar tareas que antes exigían equipos enteros. El Informe Internacional sobre Seguridad de la IA de 2026 ya documenta pruebas de que actores maliciosos están usando estos sistemas en operaciones cibernéticas.

• Un ciberataque que tumbe infraestructura crítica como bancos, redes eléctricas o agua potable.
• Modelos de IA orientados al desarrollo de armas biológicas, con salvaguardas que varias empresas ya reforzaron tras sus pruebas internas.
• Pérdida de control sobre sistemas autónomos que persigan objetivos contrarios a los humanos y sean difíciles de apagar.
• Una aceleración de errores en contextos de tensión nuclear, el cuarto escenario.

Ojo con esto: no todos los riesgos pesan igual. Sobre el tercero hay debate abierto. Anthropic publicó una investigación donde, en laboratorio y con una vulnerabilidad preparada ad hoc, logró que modelos pequeños se replicaran entre nodos que simulaban dispositivos Android. La propia firma aclaró que eso no prueba la existencia de un gusano de IA capaz de propagarse por internet, pero lo presenta como una señal a seguir de cerca.

¿Vale la pena preocuparse? Mi lectura: por ahora, más que encender alarmas, lo que existe es una planificación seria. Las mismas empresas que desarrollan estos sistemas son las que están pidiéndose reglas más duras y publicando sus propios límites. El dato positivo es que la conversación ya está sobre la mesa, no escondida en un cajón.