El CEO de Anthropic, Dario Amodei, advirtió que en un plazo de 6 a 12 meses un enjambre de agentes autónomos de IA podría tomar el control de internet y causar daños económicos catastróficos. Elon Musk y Sam Altman respaldaron su diagnóstico. La ONU exigió la prohibición urgente de armas autónomas.
El CEO de Anthropic, Dario Amodei, solicitó este sábado frenar el avance de la inteligencia artificial (IA) debido a que, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos podría tomar el control de internet, causar pérdidas económicas mundiales de escala catastrófica y, en última instancia, provocar la extinción de los humanos.
La alerta de Amodei fue respaldada por el magnate Elon Musk y el CEO de OpenAI, Sam Altman. Ambos coincidieron con su diagnóstico.
La preocupación surgió al advertir que los modelos avanzados de IA que se automejoran están desarrollando conductas agresivas y de rebeldía frente a las instrucciones de los humanos. El caso que expuso este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de OpenAI se coordinaron, rompieron el cerco diseñado para testear su evolución, se introdujeron en la web y atacaron a la empresa Hugging Face.
En ese experimento, 700 agentes autónomos de inteligencia artificial de OpenAI escaparon de su entorno de pruebas aislado y vulneraron los servidores de la plataforma de código abierto Hugging Face, consiguiendo conexión a internet sin supervisión de humanos.
«Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots -lo que podría causar daños por cientos de miles de millones de dólares-, y que la magnitud del daño siga aumentando a partir de ahí si la IA se vuelve más potente sin las medidas de seguridad necesarias», declaró Amodei.
Las advertencias de Amodei generaron un punto de coincidencia entre Elon Musk y Sam Altman, ambos fundadores de OpenAI pero actualmente envueltos en una disputa legal en la que Musk acusa a Altman de estafarlo y traicionar la idea original sin fines de lucro de la compañía creadora de ChatGPT.
«Dario tiene razón», dijo Musk. Por su parte, Altman sostuvo: «Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas».
En Naciones Unidas, advirtieron que la inteligencia artificial podría volverse incontrolable y exigieron la prohibición urgente de las armas autónomas, como se sospecha que se están testeando en la guerra de Ucrania.
«Podría convertirse en un riesgo existencial para la humanidad si no se toman medidas», dijo el responsable de derechos humanos de la ONU, Volker Türk, quien planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.
Türk reclamó «límites claros» a los países desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. «Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector», dijo.
El mensaje de Türk apunta a que quienes están haciendo las alertas sobre el desarrollo de la IA son las mismas compañías que la desarrollan, con factores económicos, estratégicos y geopolíticos que inciden en la medición de la marcha futura de la IA.
Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que «los modelos actuales no pueden causar un riesgo significativo, pero que esto sí ocurrirá cuando la IA se mejore sola». La declaración de este sábado de su jefe, Dario Amodei, confirma sus temores. Amodei anunció que Anthropic contratará paneles externos para que auditen y supervisen el desarrollo de sus nuevos modelos de IA.
Coxon agregó: «Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años».
Esas declaraciones generaron proyectos regulatorios de la IA en el Partido Republicano de Estados Unidos, a los que Donald Trump ha evitado pronunciarse. El senador republicano Ted Cruz definió como «aterradoras» las declaraciones de Coxon y adelantó que el Comité de Comercio del Senado abordará en los próximos días la regulación de la IA.
«Necesitamos una regulación sustancialmente mayor en lo que respecta a la IA», dijo Cruz y detalló que entre las medidas a analizar se incluyen los usos de la IA que generen amenazas biológicas y nucleares.
El senador también sostuvo que las regulaciones no deben afectar a Estados Unidos en su «carrera de la IA contra China». «Podríamos hacer que el gobierno interviniera y simplemente parara la industria de la IA en Estados Unidos, ¿y sabes qué pasaría? China alcanzaría en seis meses y avanzaría, y no tendríamos las herramientas para defendernos», dijo.