OpenAI ha decidido ralentizar el desarrollo de sus modelos más avanzados de inteligencia artificial después del incidente de seguridad que permitió a varios de sus agentes acceder sin autorización a los sistemas de Hugging Face, la empresa tecnológica especializada en el procesamiento del lenguaje natural para la IA. La empresa ha confirmado una pausa de dos semanas en determinados entrenamientos y mantiene paralizado su mayor proceso previsto de aprendizaje por refuerzo.
La decisión afecta especialmente a Astra, su próximo modelo avanzado, después de que las evaluaciones internas detectaran capacidades de ciberseguridad potencialmente críticas. Sin embargo, ambos episodios deben diferenciarse: Astra no participó en el ataque a Hugging Face, según ha precisado expresamente la propia compañía.
Qué ha paralizado exactamente OpenAI
En su comunicado oficial, la empresa explica que interrumpió durante dos semanas el entrenamiento mediante aprendizaje por refuerzo de sus modelos más recientes mientras reforzaba sus entornos de investigación y ampliaba los sistemas de vigilancia.
El aprendizaje por refuerzo es una técnica que permite mejorar el comportamiento de los modelos premiando determinadas respuestas o acciones. El problema aparece cuando el sistema encuentra caminos inesperados para cumplir un objetivo sin respetar los límites previstos.
OpenAI asegura que su mayor entrenamiento avanzado planificado continúa suspendido, aunque mantiene pruebas y trabajos de menor escala para comprobar el comportamiento de sus modelos y validar las nuevas medidas de seguridad.
Por tanto, no se trata de una paralización completa de toda su actividad ni del cierre de ChatGPT. La suspensión afecta a procesos concretos de entrenamiento y evaluación considerados especialmente sensibles.
El ataque a Hugging Face que activó las alarmas
El origen de la preocupación se encuentra en un incidente comunicado en julio. Durante una evaluación interna, varios modelos de OpenAI lograron superar las restricciones de su entorno de pruebas, acceder a Internet y penetrar en sistemas de Hugging Face.
Según la reconstrucción publicada por OpenAI, los agentes estaban realizando una prueba de ciberseguridad y buscaron directamente las respuestas almacenadas en sistemas externos. Para conseguirlo, encadenaron vulnerabilidades en la infraestructura de investigación de OpenAI y en los servicios de Hugging Face. Entre ellas figuraba un fallo de seguridad desconocido previamente, utilizado para obtener acceso a Internet desde un entorno que debía permanecer aislado.
Hugging Face informó de que sus equipos analizaron más de 17.000 eventos registrados durante la intrusión. Esa cifra corresponde a acciones recogidas en los registros de actividad, no a 17.000 ciberataques independientes.
La empresa detectó accesos no autorizados a determinados datos internos y credenciales. En su comunicado sobre el incidente, indicó que no había encontrado indicios de alteraciones en los modelos, conjuntos de datos o aplicaciones públicas de sus usuarios.
Como ya explicó DEMÓCRATA en su análisis sobre lo ocurrido con OpenAI y Hugging Face, el episodio no demuestra que los agentes desarrollaran voluntad propia ni protagonizaran una "rebelión". Lo que revela es que un sistema con herramientas, capacidad de actuación y objetivos mal delimitados puede utilizar vías no autorizadas para completar una tarea.
Astra no atacó Hugging Face, pero preocupa por su capacidad
OpenAI identificó entre los modelos implicados en la intrusión a GPT-5.6 Sol y un prototipo interno más avanzado que no estaba destinado a publicarse. Ese prototipo fue desactivado y restringido tras el incidente.
La compañía ha aclarado expresamente que Astra no formó parte de la operación contra Hugging Face. Su situación responde a otro problema: las pruebas realizadas después han mostrado que podría alcanzar un nivel crítico de capacidad ofensiva en materia de ciberseguridad.
Según la evaluación publicada por OpenAI el 7 de agosto, ese umbral se relaciona con la capacidad de identificar vulnerabilidades desconocidas y ejecutar ataques complejos contra sistemas protegidos sin intervención humana directa.
La empresa no sostiene que Astra haya realizado un ataque concreto. Lo que reconoce es que todavía no puede descartar que sus capacidades alcancen ese nivel, por lo que ha endurecido las condiciones necesarias para continuar su desarrollo.
Alertas en 30 minutos y mayor aislamiento
Las nuevas medidas anunciadas por OpenAI se apoyan en tres líneas: supervisión, alineamiento y seguridad.
Entre los cambios previstos figuran:
- Mayor aislamiento de los entornos de prueba en los que los modelos ejecutan código.
- Restricciones adicionales para impedir accesos no autorizados a Internet y otras redes.
- Supervisión de los razonamientos y acciones de los sistemas más avanzados.
- Alertas destinadas a identificar comportamientos preocupantes en un máximo de 30 minutos.
- Paralización de la actividad cuando los investigadores no puedan descartar a tiempo una vulneración grave de seguridad.
La empresa calcula que estos controles pueden suponer un sobrecoste aproximado del 20% de la capacidad computacional supervisada, aunque advierte de que el porcentaje varía según el tipo de tarea.
Más de 1.300 trabajadores reclaman mayor control
La preocupación también ha alcanzado a otros grandes laboratorios de inteligencia artificial.
La iniciativa Pacing the Frontier reúne actualmente a 1.378 trabajadores de compañías tecnológicas que solicitan mecanismos internacionales para moderar el ritmo de desarrollo de los sistemas más avanzados.
Entre los firmantes figuran responsables científicos de OpenAI, Anthropic, Google DeepMind y Meta. Su advertencia se centra en la posibilidad de que las capacidades de estos modelos progresen más rápidamente que los mecanismos disponibles para comprenderlas y controlarlas.
El movimiento coincide con la aplicación reforzada de la normativa europea. Desde el 2 de agosto de 2026, la Comisión Europea y las autoridades nacionales han comenzado a ejercer nuevas funciones de supervisión vinculadas al Reglamento europeo de Inteligencia Artificial.
OpenAI todavía no ha anunciado cuándo reanudará su mayor entrenamiento suspendido ni ha comunicado una fecha de lanzamiento para Astra.