Por MATT O’BRIEN
OpenAI, la empresa creadora de ChatGPT, anunció el martes que su sistema de inteligencia artificial pirateó por su cuenta el sistema de otra empresa de IA en lo que la compañía calificó de «incidente cibernético sin precedentes».
“Hemos sufrido un incidente de seguridad importante durante la evaluación de nuestros modelos”, declaró Sam Altman, CEO de OpenAI, en un comunicado publicado en las redes sociales.
La startup de inteligencia artificial Hugging Face anunció la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos, la cual sospechaba que fue causada por un agente de IA que actuaba de forma autónoma.
“Sospechábamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de vanguardia, dada la sofisticación del agente”, declaró Clément Delangue, cofundador y director ejecutivo de Hugging Face. “¡Y resulta que sí!”.
Esta revelación se produce en medio de una creciente preocupación por las capacidades de ciberseguridad de los modelos más potentes, lo que llevó al presidente Donald Trump a firmar en junio una orden ejecutiva que crea un marco para que el gobierno federal examine los riesgos para la seguridad nacional de los sistemas de IA más avanzados hasta un mes antes de su lanzamiento público.
«La IA está acelerando el descubrimiento y la explotación de vulnerabilidades», declaró OpenAI el martes. «La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades».
Delangue afirmó haber pasado las últimas 24 horas trabajando con OpenAI, “y creemos firmemente que no hubo ninguna intención maliciosa por su parte. ¡Es realmente asombroso que todo esto haya ocurrido de forma autónoma!”.
Delangue añadió que “podría ser el primer incidente de este tipo”.
OpenAI afirmó que la intrusión fue causada por una combinación de sus modelos de IA, incluyendo su modelo GPT-5.6 Sol, lanzado recientemente, y un modelo «aún más capaz» que todavía se está probando internamente.
OpenAI afirmó que su inteligencia artificial utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.
La empresa recurrió a «medidas extremas para lograr un objetivo de prueba bastante limitado» y «encontró maneras de acceder a información secreta que podía utilizar para hacer trampa en la evaluación», declaró la compañía.
MATT O’BRIEN
O’Brien cubre el sector empresarial de la tecnología y la inteligencia artificial para Associated Press.
