El CEO de OpenAI publicó en sus redes sociales que se debe evitar la concentración de poder en el desarrollo de la IA y solicitó una regulación federal para los sistemas de frontera.
El director ejecutivo de OpenAI, Sam Altman, publicó este lunes en sus redes sociales una serie de advertencias sobre los riesgos del desarrollo de la inteligencia artificial (IA) y la necesidad de crear modelos seguros.
Altman señaló dos posibles escenarios negativos: «perder el control del futuro ante la IA» y «un mundo con demasiada concentración de poder». Sobre este último, afirmó: «Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos».
Para evitar estas amenazas, el directivo consideró que se debe «caminar por un angosto camino intermedio» que evite que un país o un laboratorio tenga demasiado poder. En ese sentido, pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, «cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado».
Altman solicitó un marco legal federal en Estados Unidos que «establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)», un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.
El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque consideró que «ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia».
Por último, en su cuenta de X, Altman solicitó la colaboración del Gobierno de Estados Unidos para encontrar una coordinación internacional en el desarrollo de la IA.
Los pedidos del sector para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsable de Anthropic, Dario Amodei.
Además, Altman anunció ayer que su compañía no saldrá a la bolsa este año, en un fuerte giro de timón vinculado a estas mismas preocupaciones. «Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa, y no sentimos presión para hacerlo», dijo Altman a la revista de negocios Fortune.
En tanto que el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China.
Con información de EFE