Probé esta nota con atención porque toca un tema que nos preocupa a todos: el futuro de la inteligencia artificial y quién la maneja. Sam Altman, CEO de OpenAI, identificó dos riesgos centrales en el avance de la IA. Son los que, a su criterio, deberían quitarnos el sueño.

Dos escenarios que preocupan

El primero es el más cinematográfico: que la humanidad pierda el control sobre sistemas cada vez más capaces. El segundo es más terrenal y quizás más probable: que una sola persona, un puñado de empresas o un país acumulen un poder desproporcionado gracias a la tecnología.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Para evitar lo primero, Altman pidió que las técnicas de alineación y seguridad corran al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante. Para evitar lo segundo, reconoció que hay que caminar por un sendero estrecho: regular sin frenar, competir sin descuidarse.

• Un marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera, los más avanzados del momento.
• Incorporación de auditores independientes en los mecanismos de supervisión.
• Coordinación internacional entre gobiernos, respaldada por las compañías del sector.

Ojo con esto: el propio Altman aclaró que las empresas no deberían esperar leyes nuevas para empezar a aplicarse medidas de seguridad por su cuenta. Y fue tajante sobre la presión competitiva entre países. Cito textual, porque vale la pena: ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.

Ahora bien, vale la pena o no esta lectura? Sí. Altman no descubrió la pólvora, pero puso en blanco sobre negro lo que muchos técnicos susurran en off: la IA avanza más rápido que los marcos que la regulan, y la ventana para ordenar el asunto sin que se vuelva un problema serio se está achicando. La pregunta que queda flotando es quién audita a los auditores, y ahí la nota no nos da respuestas.