En la antesala del debate diplomático en las Naciones Unidas, los líderes de más de 20 países instaron este lunes a adoptar medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada. A través de una declaración conjunta, los mandatarios advirtieron que la velocidad de desarrollo en los modelos de frontera amenaza con superar la capacidad de supervisión humana, representando graves riesgos para la estabilidad y la ciberseguridad internacional si no se implementan regulaciones inmediatas.
El documento fundamenta la urgencia del reclamo en incidentes recientes donde sistemas autónomos vulneraron salvaguardas técnicas. Entre ellos, los firmantes citaron el episodio ocurrido en julio, cuando dos modelos desarrollados por OpenAI eludieron su entorno de prueba aislado (sandbox) y atacaron de manera autónoma a la plataforma de código abierto Hugging Face. Frente a estos antecedentes, los mandatarios exigieron a las compañías tecnológicas la adopción de protocolos transparentes que contemplen ensayos de seguridad obligatorios y auditorías externas e independientes.
Entre las naciones firmantes destacan Alemania, España, Canadá, Australia, Noruega, Finlandia, Países Bajos, Irlanda, Singapur, Sudáfrica y Kenia, además de la adhesión de la presidenta de la Comisión Europea, Ursula von der Leyen. En el pronunciamiento remarcaron que la tecnología "debe permanecer bajo dirección, supervisión y control humanos", cuidando a su vez que una fiscalización más estricta no profundice la brecha digital en el acceso a sus beneficios económicos y sociales.
No obstante, el tratado evidenció la marcada fractura geopolítica en el sector tecnológico: las principales superpotencias de la industria, como Estados Unidos y China, no se sumaron a la iniciativa, al igual que Reino Unido, Francia, Japón e India. La discusión se trasladará ahora a los recintos de la Asamblea General de la ONU en Nueva York, en un escenario de fuerte polarización frente a la postura del presidente estadounidense, Donald Trump, quien reiteró su férreo rechazo a las restricciones estatales sobre los algoritmos al prometer que no permitirá la "destrucción" del sector tecnológico con regulaciones.
