Una arquitectura a la medida de lo que viene

Bill Gates acaba de poner sobre la mesa una idea que hace tiempo daba por descontada en charlas privadas: crear un organismo supranacional, con poder real de auditoría, para supervisar el desarrollo de inteligencia artificial a escala global. Lo hizo en un documento publicado esta semana, donde combinó tres modelos de referencia: el régimen de inspecciones nucleares, los estándares de seguridad aérea y los acuerdos internacionales que frenaron el deterioro de la capa de ozono.

Yo lo leí y me hizo ruido lo que calla: el texto no aclara si esa nueva agencia debería nacer desde cero o si conviene ensanchar alguna estructura ya existente, tipo OIEA u OACI. Lo que sí repite hasta el cansancio es que sin cooperación entre Washington y Beijing no hay nada que hacer.

La cita pendiente con China

En ese punto aparece el segundo movimiento fuerte: el equipo de Gates trabaja para cerrar un encuentro con Xi Jinping, previsto en forma provisoria para noviembre, aunque todavía no está confirmado en firme. La jugada es concreta. Si Estados Unidos se adelanta con restricciones sobre ciertos modelos, la lectura que hace Gates es que China se sumaría. Y a partir de ahí, vendría el resto.

• Sistemas capaces de diseñar moléculas o de facilitar ataques biologicos, en el centro de la preocupacion.
• Vigilancia focalizada en usos de alto riesgo, sin trabar aplicaciones medicas o cientificas.
• Impuesto a empresas que reemplacen trabajadores con resultados generados por IA, para financiar redes de proteccion social.
• Reserva de hasta el 40 por ciento de los puestos actuales en sectores donde el vinculo humano sea irreemplazable.

“El mundo entero se sumaria a esa iniciativa.”Bill Gates

Ojo con esto: Gates aclara que la supervision no significa frenar industrias enteras. Pone como ejemplo la atencion que recibio su padre durante el Alzheimer. Esa experiencia, dice, no podria ser sustituida por un algoritmo ni por un asistente virtual bien entrenado. Y ese criterio, el del cuidado y la dignidad humana, es el que quiere defender con los porcentajes de reserva laboral.

El limites a la autorregulacion

Sobre la idea, muy instalada en Silicon Valley, de que las propias empresas se regulen, Gates fue cortante: "Es positivo que algunas companias de IA esten proponiendo soluciones a los desafios provocados por su propia tecnologia, pero no deberiamos esperar que sean ellas quienes lideren el proceso". La frase cae como un balde de agua fria sobre varios CEO que vienen haciendo lobbying a favor de la autorregulacion.

Ahora, vale la pena o no. Si sos de los que mira la IA con una mezcla de curiosidad y preocupacion, este plan tiene una virtud concreta: pone numeros, plazos y arquitecturas concretas encima de la mesa. Tambien tiene un riesgo concreto: que el dialogo con China se enfríe y todo quede en un buen Paper. La pelota, por ahora, esta en la cancha de Beijing.