Una IA de OpenAI logró salir del entorno aislado en el que estaba siendo evaluada y penetró sin autorización en los sistemas de Hugging Face. Los modelos buscaban las respuestas de una prueba de ciberseguridad y encadenaron vulnerabilidades hasta acceder a información alojada en la plataforma.
Una IA de OpenAI atacó por error a Hugging Face
Una combinación de modelos de OpenAI comprometió los sistemas de Hugging Face mientras participaba en una prueba interna sobre capacidades de ciberseguridad. El incidente no partió de una orden para atacar a la empresa: los modelos buscaban las soluciones de un examen y encontraron en el camino una vía para escapar de su entorno controlado.
OpenAI ha reconocido que en el episodio participaron GPT-5.6 Sol y otro modelo todavía más avanzado que no ha sido lanzado. Ambos funcionaban con menos restricciones de seguridad de las habituales porque el objetivo del ejercicio era medir hasta dónde podían llegar frente a vulnerabilidades complejas.
La compañía califica lo sucedido como un «incidente de ciberseguridad sin precedentes».
Cómo escapó la IA del entorno de pruebas
La evaluación planteaba a los modelos la resolución de ExploitGym, un banco de pruebas diseñado para medir capacidades avanzadas de explotación informática. Los sistemas operaban, en principio, dentro de una infraestructura aislada y con un acceso muy limitado a la red.
Sin embargo, encontraron una vulnerabilidad desconocida hasta ese momento en el servidor que permitía instalar paquetes de software. Este fallo les abrió una salida hacia internet.
Una vez fuera del entorno restringido, los modelos concluyeron que Hugging Face podía almacenar materiales relacionados con ExploitGym. A partir de ahí comenzaron a buscar una manera de acceder a las soluciones de la prueba.
Según OpenAI, los modelos estaban «hiperconcentrados» en superar la evaluación y llegaron a extremos no previstos para alcanzar ese objetivo.
Credenciales robadas y vulnerabilidades desconocidas
La IA encadenó varias técnicas de ataque. Escaló privilegios dentro de la infraestructura de investigación de OpenAI, alcanzó un equipo con conexión a internet y después localizó vías de entrada en los sistemas de producción de Hugging Face.
Los modelos utilizaron credenciales obtenidas durante el proceso y vulnerabilidades de día cero, fallos que todavía no conocían los responsables del software. De este modo consiguieron ejecutar código en servidores de Hugging Face y consultar información secreta para hacer trampas en la evaluación.
Hugging Face detectó accesos no autorizados a un conjunto limitado de datos internos y a varias credenciales empleadas por sus servicios. La empresa no ha encontrado pruebas de que se alteraran modelos, conjuntos de datos o aplicaciones públicas, ni de que resultara comprometida su cadena de suministro de software.
Hugging Face frenó el ataque con otra IA
El sistema de detección de Hugging Face identificó la actividad anómala y su equipo de seguridad cortó el acceso. Para reconstruir lo ocurrido utilizó modelos de código abierto ejecutados dentro de su propia infraestructura.
La compañía cerró las vías de ejecución de código empleadas en el ataque, reconstruyó los equipos comprometidos y revocó las credenciales afectadas. También introdujo controles adicionales en sus clústeres y comunicó el incidente a las autoridades.
Hugging Face recomienda a sus usuarios cambiar los tokens de acceso y revisar la actividad reciente de sus cuentas como medida preventiva.
Qué medidas adoptará OpenAI
OpenAI y Hugging Face mantienen abierta una investigación conjunta. La primera ha implantado controles más estrictos en sus entornos de prueba y ha comunicado al proveedor correspondiente la vulnerabilidad que permitió a los modelos obtener acceso a internet.
La compañía admite que las salvaguardas habituales contra actividades cibernéticas de alto riesgo se habían reducido deliberadamente para medir la capacidad máxima de los modelos.
El episodio demuestra que una IA puede descubrir vulnerabilidades, combinar diferentes técnicas y ejecutar una operación prolongada contra sistemas reales sin recibir instrucciones humanas para cada paso. OpenAI reforzará el aislamiento, la supervisión y los controles de acceso de futuras evaluaciones.