Los responsables de Anthropic, Google DeepMind, OpenAI y xAI se pronunciaron en menos de dos días sobre la velocidad de desarrollo de los modelos de inteligencia artificial. Las propuestas van desde evaluadores externos dentro de las compañías hasta un organismo regulador federal, sin coincidencia en los detalles.
Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, escribió en X: “El ensayo de Dario (Amodei) apunta hacia el camino correcto. Los detalles hay que trabajarlos, pero la dirección es la correcta para enfrentar este momento crítico. Por eso también publicamos hace poco nuestra propuesta de un organismo de estándares para la IA de frontera”.
Con esa publicación, los cuatro directivos de las empresas que desarrollan los modelos más potentes del mundo (Anthropic, OpenAI, xAI y Google DeepMind) señalaron en menos de dos días que el ritmo de desarrollo debe moderarse. Ninguno de los cuatro propuso lo mismo.
Anthropic: auditores dentro de la empresa
Dario Amodei, director ejecutivo de Anthropic, pidió en su ensayo “We Must Pace the Frontier” (Debemos marcar el ritmo de la frontera) frenar la velocidad a la que mejoran las capacidades de los modelos.
Comprometió a su empresa a un paso concreto: permitir el ingreso de evaluadores externos, menciona a la organización METR, con escritorio, credencial y computadora portátil de la empresa, acceso comparable al de los equipos internos de riesgo y derecho a publicar hallazgos sin control editorial de Anthropic.
Los evaluadores son contratados por Anthropic y trabajan dentro de Anthropic. El modelo, según Amodei, son los supervisores bancarios. Frenar de manera efectiva, aclara, requiere que la industria coordine con permiso antimonopolio del gobierno y, en el mejor de los casos, un acuerdo global.
Google: un regulador externo
Hassabis no comprometió a DeepMind a abrir sus puertas. Lo que hizo fue volver a poner sobre la mesa el marco que publicó el 14 de julio. Propone que Estados Unidos cree un organismo de estándares para la IA de frontera, con supervisión federal pero financiado por la industria, “muy parecido a FINRA”, la entidad que vigila a los corredores de bolsa.
Tendría un directorio con expertos independientes y representantes del código abierto, definiría con pruebas qué modelo es “de frontera”, y esos modelos se le entregarían hasta 30 días antes del lanzamiento para ser examinados en ciberseguridad, riesgo biológico, intentos de saltarse las barreras de seguridad y señales de engaño.
Al principio sería voluntario; después, obligatorio para vender el modelo en Estados Unidos. Las pruebas se renovarían cada trimestre, y el organismo podría “coordinar una desaceleración del desarrollo entre los laboratorios de frontera si se considera necesario”.
La diferencia con Amodei es de arquitectura. Uno pone al vigilante dentro de la empresa, contratado por la empresa. El otro lo pone afuera, con el gobierno mirando.
Hassabis, además, escribe con otra escala: dice que la inteligencia artificial general está “a pocos años”, que su impacto puede ser “10 veces la Revolución Industrial a 10 veces la velocidad”, y que “encontramos la forma de hacer que la arena piense”. Cree que estamos “en las faldas de la singularidad”.
OpenAI y xAI: palabras, por ahora
Sam Altman respondió en X, según recogió CNN: “Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera. Fue un tema central de nuestras discusiones en OpenAI en las últimas semanas. Comprometerse a tener evaluadores independientes con acceso de empleado es una gran idea, y haremos lo mismo”. Y prometió “más para compartir pronto”.
Es la adhesión más cercana al paso uno de Amodei, y llega después de que Jakub Pachocki, científico jefe de OpenAI, pidiera una desaceleración coordinada en un ensayo propio, y de que la empresa dijera haber frenado el desarrollo de su modelo Astra por sus capacidades en ciberseguridad.
Elon Musk, dueño de xAI, escribió dos palabras: “Dario tiene razón”. No dijo a qué. Días antes había calificado de “montaje” la renuncia del investigador de Anthropic que abrió esta discusión.
En qué coinciden y en qué no
Coinciden en el diagnóstico: la automejora recursiva, la capacidad de la IA de construir a la siguiente IA, ya empezó, y los ataques de agentes de OpenAI contra Hugging Face demostraron que los sistemas pueden actuar por su cuenta. Coinciden en que hace falta un tercero que mire.
Y coinciden en algo menos visible: en los cuatro casos, frenar es una posibilidad futura, no un compromiso presente. Amodei lo condiciona a la coordinación; Hassabis lo deja en manos de un organismo que todavía no existe, “si se considera necesario”; Altman lo promete para un futuro próximo; Musk ni siquiera lo menciona.
Difieren en tres aspectos importantes. Primero, quién paga y contrata a quien supervisa: la propia empresa, en el caso de Amodei, o una entidad bajo supervisión federal, en el de Hassabis.
Segundo, cuándo se examina el modelo: durante el entrenamiento, según Amodei, o antes de su lanzamiento, según Hassabis. Y tercero, qué se le pide al gobierno de Estados Unidos: Amodei reclama autorización para que los competidores puedan coordinarse entre sí; Hassabis propone la creación de un organismo específico.
Hay cuatro firmas para la dirección. Para la velocidad, todavía ninguna.