La ONU alertó por la IA: “Estamos al borde de un cambio irreversible”

La Organización de las Naciones Unidas (ONU) lanzó una fuerte advertencia por el avance acelerado de la inteligencia artificial y reclamó a los gobiernos y a las empresas tecnológicas que establezcan límites antes de que las capacidades de estos sistemas superen las herramientas disponibles para controlarlos.

El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, sostuvo que el desarrollo de modelos cada vez más potentes pone en riesgo derechos fundamentales y pidió una acción urgente para establecer mecanismos internacionales de regulación.

“Estamos al borde de un cambio irreversible”, afirmó Türk, quien advirtió que todos los derechos humanos pueden verse afectados, entre ellos el derecho a la vida, la alimentación, la privacidad, la salud y la seguridad.

El funcionario austríaco puso especial atención en los sistemas conocidos como IA agéntica, capaces de realizar tareas complejas y tomar decisiones con un grado creciente de autonomía.

Según planteó, eventuales fallas o usos indebidos de estas tecnologías podrían tener consecuencias que excedan el ámbito digital y afectar el funcionamiento cotidiano de las sociedades.

Entre los riesgos mencionados se encuentran la posibilidad de interrumpir servicios esenciales, afectar las comunicaciones, desestabilizar infraestructuras críticas y generar problemas en instituciones democráticas.

Türk incluso advirtió que poblaciones enteras podrían quedar sin acceso a servicios básicos como el agua, la calefacción o los sistemas financieros si se produjeran fallas graves en infraestructuras dependientes de estos sistemas.

El pedido de una regulación internacional

Frente a este escenario, el alto comisionado reclamó que los Estados y las principales compañías tecnológicas alcancen acuerdos internacionales para establecer reglas comunes sobre el desarrollo y utilización de la inteligencia artificial.

La propuesta apunta a construir una gobernanza de la IA basada en el derecho internacional y en la protección de los derechos humanos.

Türk cuestionó especialmente la concentración de decisiones en un grupo reducido de empresas que compiten por desarrollar los modelos más avanzados. Según su planteo, esa competencia puede incentivar el lanzamiento de tecnologías cuyos riesgos todavía no hayan sido suficientemente evaluados.

El funcionario no propuso detener el desarrollo tecnológico, sino establecer límites, controles independientes y mecanismos de supervisión que acompañen el crecimiento de las capacidades de los sistemas.

También alertó sobre el impacto de la IA en los conflictos armados. Según sostuvo, estas herramientas pueden acelerar el ritmo de las guerras, ampliar su alcance y debilitar las barreras de seguridad destinadas a evitar el uso de armas de destrucción masiva.

Amodei, Altman y Musk también pidieron cautela

La advertencia de la ONU se produjo después de que distintas figuras de la industria tecnológica plantearan preocupaciones similares sobre la velocidad con la que avanza la inteligencia artificial.

Dario Amodei, CEO de Anthropic, reclamó reducir deliberadamente el ritmo de desarrollo de los modelos de frontera, aquellos que concentran las capacidades más avanzadas. El empresario advirtió que el progreso tecnológico está avanzando más rápido que las investigaciones destinadas a garantizar la seguridad de estos sistemas.

Amodei también señaló los riesgos asociados con una eventual mejora recursiva, escenario en el que una inteligencia artificial podría contribuir al desarrollo de versiones posteriores cada vez más potentes.

Su postura recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y de Elon Musk, fundador de xAI. Aunque mantienen fuertes diferencias comerciales y públicas, los tres coincidieron en la necesidad de reforzar las evaluaciones de seguridad y establecer mecanismos de control.

Altman, además, apoyó la participación de evaluadores independientes con acceso suficiente a los sistemas para comprobar el cumplimiento de los protocolos de seguridad anunciados por las empresas.

Una carrera tecnológica que preocupa

Las advertencias también se intensificaron luego de la salida de investigadores especializados en seguridad de compañías vinculadas al desarrollo de IA, entre ellas Anthropic y Google DeepMind.

Una de las principales preocupaciones dentro del sector es que la competencia comercial acelere la llegada de sistemas capaces de mejorarse con una intervención humana cada vez menor, mientras los mecanismos destinados a supervisarlos avanzan a un ritmo inferior.