Según un artículo de The New York Times, la startup israelí Irregular, que evalúa herramientas de inteligencia artificial para OpenAI, Meta y Anthropic, detectó que tres modelos accedieron a internet por una configuración errónea y realizaron ataques a organizaciones externas. Las empresas investigan los hechos.
Los alcances de la inteligencia artificial sorprenden y desconciertan a sus propios creadores. En pocas semanas, las principales empresas que desarrollan estos modelos comprobaron que pueden ser tan poderosos como para realizar hackeos en otras organizaciones, desconectados de internet y en un entorno informático aislado.
Un artículo de The New York Times describe tres incidentes. Afirma que la startup israelí Irregular, que colabora con OpenAI, Meta y Anthropic para evaluar sus herramientas de IA antes de su lanzamiento, descubrió brechas de seguridad.
“La empresa se encuentra ahora en el centro de un debate sobre cómo proteger los modelos de IA, dado que la tecnología avanza tan rápidamente que ha superado incluso a los mejores hackers humanos”, dice el periódico.
Siempre según el periódico, OpenAI descubrió que un nuevo modelo de IA que estaba probando había logrado hackear a otra empresa. En tanto, un modelo de Anthropic había logrado infiltrarse en los sistemas de tres organizaciones externas y algo similar ocurrió con un modelo de Meta.
¿Cómo fueron los incidentes?
El director ejecutivo de Irregular, Dan Lahav, reveló que los incidentes están relacionados con un error cometido durante las pruebas de los modelos. Sus características agravaron la situación, según ha dicho Lahav.
En una prueba típica, Irregular instruye a un modelo de IA para que lleve a cabo un ciberataque. Entonces, “el modelo, que se encuentra en un entorno de prueba seguro, desconectado de internet y en un entorno informático aislado (sandbox), debe hacer lo que sea necesario para lograr su objetivo”, explica el Times.
En general, son tareas prácticamente imposibles y los ingenieros evalúan la eficacia con la que logran hackear un determinado blanco. Las puntuaciones obtenidas se utilizan para analizar la efectividad potencial del modelo. Luego, Irregular recomienda medidas de seguridad para evitar el uso con fines maliciosos.
En los tres incidentes, los ingenieros de Irregular les pidieron a los modelos de IA de OpenAI, Meta y Anthropic que hackearan ciertos objetivos cuando una «configuración errónea» en los ajustes de prueba les permitió acceder a internet. “Posteriormente, los modelos de IA hackearon organizaciones externas, utilizando el acceso a internet en su beneficio de maneras que han dejado atónitos a los investigadores”, describe el artículo.
En la prueba de OpenAI, Irregular otorgó acceso a internet al modelo de IA de la compañía por accidente. Entonces, el modelo un sitio web con el mismo nombre que el objetivo ficticio que se le había asignado. La compañía reveló el incidente en una publicación de su blog.
Durante la prueba del modelo Anthropic, este se enfrentó a tres situaciones en las que pudo acceder a internet, según un análisis del incidente. En un caso, optó por no atacar, pero en otros dos casos, utilizó técnicas básicas de hackeo, como el aprovechamiento de contraseñas débiles, para vulnerar sitios web.
Los detalles sobre el incidente de Meta son escasos, admite el Times. La compañía solo informó que sus modelos habían vulnerado la seguridad de otra organización durante las pruebas realizadas por Irregular. “Actualmente estamos investigando y publicaremos un informe retrospectivo completo una vez que tengamos todos los datos”, añade un comunicado de Meta.