Anthropic reconoce que aún no sabe cómo controlar una futura superinteligencia
Nico Vedia
El debate sobre los riesgos de la inteligencia artificial volvió a tomar fuerza esta semana luego de las contundentes declaraciones de Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y Anthropic. El especialista advirtió que las empresas del sector contemplan escenarios en los que la IA podría representar una amenaza extrema para la humanidad hacia finales de esta década.
Pero la repercusión no quedó limitada a las palabras de un exempleado. Evan Hubinger, actual investigador de Anthropic y exjefe de Coxon, respaldó públicamente parte de sus advertencias y reconoció que la industria todavía enfrenta un problema que no sabe cómo resolver.
“Jacob tiene razón”, afirmó Hubinger en un mensaje publicado en X. Luego fue más allá: sostuvo que, aunque la compañía está haciendo todo lo posible, todavía no cuenta con un plan para resolver el alineamiento de una eventual superinteligencia ni está claramente encaminada a conseguirlo.
El llamado “alineamiento” refiere, en términos generales, al desafío de conseguir que sistemas de inteligencia artificial cada vez más capaces actúen de acuerdo con los objetivos y valores humanos, incluso cuando alcancen capacidades muy superiores a las actuales.
Qué respondió Anthropic
Ante la repercusión de las declaraciones, Anthropic emitió un comunicado en el que no desestimó de manera tajante las preocupaciones planteadas por su exempleado.
La compañía, dirigida por Dario Amodei, sostuvo que el mundo se beneficiaría de que el sector tecnológico adoptara mecanismos legales y verificables para regular el ritmo de lanzamiento de los modelos de IA más potentes.
Además, un vocero de la empresa remarcó que Anthropic ha sido transparente respecto de que la inteligencia artificial puede generar “enormes beneficios” pero también riesgos sin precedentes.
La firma aseguró que continúa trabajando en modelos que incorporan algunas de las medidas de seguridad más avanzadas de la industria.
Una advertencia que también aparece en los empleos
Las declaraciones de Coxon coincidieron con la publicación de otro informe de Anthropic que encendió las alarmas, aunque por un motivo diferente.
Según un análisis elaborado por la propia compañía, en uno de los escenarios hipotéticos estudiados, la inteligencia artificial podría desplazar a uno de cada cinco trabajadores de oficina en Estados Unidos hacia 2030.
El informe advierte que, en ese escenario extremo, el desempleo alcanzaría niveles históricamente elevados y los salarios de los trabajadores afectados serían más de un 10% inferiores a los que podrían obtener sin la incorporación de esas tecnologías.
Anthropic aclaró que se trata de escenarios posibles y no de predicciones. Sin embargo, el estudio volvió a poner en primer plano el impacto que el avance de la IA podría tener sobre el mercado laboral.
Coxon volvió a advertir sobre el ritmo de desarrollo
Después de que sus publicaciones generaran repercusión en el ambiente tecnológico, Coxon volvió a defender su postura en declaraciones a CNN.
El investigador mencionó distintos episodios relacionados con sistemas de IA que realizaron acciones sin supervisión y consideró necesario revisar la velocidad con la que avanzan estas tecnologías.
Al mismo tiempo, aclaró que el estado actual de los desarrollos no implica que la humanidad esté frente a una extinción inminente. Su preocupación apunta principalmente al ritmo de progreso y a la posibilidad de que las capacidades de los sistemas avancen más rápido que las herramientas destinadas a controlarlos.
La discusión tampoco es nueva para los principales referentes del sector. Sam Altman, CEO de OpenAI, había planteado meses atrás que podría ser necesario modificar el ritmo de desarrollo de la inteligencia artificial para permitir que la sociedad se adapte a capacidades cada vez mayores.
Así, entre advertencias de investigadores, informes sobre empleo y respuestas de las propias compañías, el debate vuelve a centrarse en una pregunta que todavía no tiene una respuesta definitiva: qué tan rápido debe avanzar la inteligencia artificial y si los mecanismos de seguridad podrán avanzar al mismo ritmo.
