Lo confieso: cuando el padre del deep learning dice que la cosa es seria, a mí se me eriza la piel. Geoffrey Hinton, el hombre que hace años tendió los cables del aprendizaje profundo, soltó una cifra que circula como bomba: entre el 10 % y el 20 % de probabilidades de que una IA superinteligente termine con la especie humana en los próximos treinta años. Lo dijo en una entrevista reciente y la frase ya rebota en todos los diarios de tecnología.

A sus 78 años, el Nobel de Física 2024 dejó Google en 2023 justamente para poder hablar sin mordaza. Y lo que dice ahora es incómodo: nunca en la historia tuvimos que convivir con algo más inteligente que nosotros. Para él, ese punto ciego es el verdadero riesgo, más que cualquier falla técnica.

Ojo con esto: ya no es solo estadística

Hinton insiste en algo que muchos investigadores esquivan. Los modelos de lenguaje actuales, según él, no se quedan en correlaciones de texto: entienden de verdad los conceptos abstractos que procesan. Si eso es así, cambia la categoría del peligro. Ya no hablamos de un loro muy bueno que repite patrones, sino de algo que comprende lo que dice.

Y acá viene su metáfora más gráfica: la innovación tecnológica es como un auto sin volante. Cuanto más rápido acelera, más peligroso se vuelve si no hay quién lo dirija. Para Hinton, la regulación estatal es ese volante. La autorregulación del mercado, dice, no alcanza cuando la amenaza es de esta escala.

El propio Hinton maneja números concretos. Habla de un horizonte hasta 2055 y advierte que la ventana para poner reglas se achica mes a mes. A los que argumentan que regular frena la competencia contra China o Estados Unidos, les responde que la geopolítica no puede ser excusa para postergar leyes globales. Si no actuamos ahora, dice, los modelos pronto van a ganar capacidad de forma autónoma y ahí sí no habrá quién los frene.

¿Vale la pena prestarle atención?

• No es un catastrofista cualquiera: Hinton es la referencia académica del campo y se llevó el Nobel hace menos de un año.
• El rango del 10 % al 20 % no es un dato menor: equivale a decir que hay una o dos chances sobre diez de que la especie se acabe por esta vía.
• La regulación todavía es posible, pero el propio científico reconoce que el margen se reduce con cada nuevo modelo que sale al mercado.

Mientras los CEOs de las big tech firman cartas abiertas pidiendo cautela y siguen entrenando modelos cada vez más grandes, Hinton hace lo que pocos se animan: poner un número concreto al peor escenario. A mí, como usuaria cotidiana de estas herramientas, no me queda otra que tomarme en serio la advertencia. La pregunta es si los gobiernos van a hacer lo mismo antes de que sea tarde.