OpenAI revela que su IA escapó de un entorno de prueba y vulneró sistemas de otra empresa tecnológica: “Un incidente sin precedentes”

Una prueba interna de OpenAI terminó provocando un incidente real de ciberseguridad, luego de que sus modelos de inteligencia artificial encontraran una forma de salir del entorno aislado en el que estaban siendo evaluados y vulneraran los sistemas de otra empresa tecnológica.

El episodio afectó a la firma Hugging Face y fue calificado por OpenAI como un incidente “sin precedentes”, debido a la capacidad demostrada por sus modelos para identificar fallas, conectarlas entre sí y acceder a infraestructura externa.

La compañía explicó que el hecho ocurrió durante una evaluación diseñada para medir hasta dónde podían llegar sus sistemas frente a tareas informáticas complejas. Para ello, los modelos operaban con algunas de las restricciones de seguridad habituales reducidas.

Entre los sistemas involucrados se encontraba GPT-5.6 Sol y otro modelo más avanzado que todavía no ha sido lanzado públicamente.

La IA buscó una salida del entorno aislado

Los modelos debían resolver una serie de desafíos incluidos en ExploitGym, una prueba utilizada para medir capacidades avanzadas de ciberseguridad.

Aunque estaban dentro de un entorno aislado, podían instalar ciertos programas mediante un sistema intermediario. Los modelos analizaron esa vía y descubrieron una vulnerabilidad desconocida hasta ese momento, conocida como una falla de día cero.

Al aprovecharla, consiguieron ampliar sus permisos dentro de los sistemas de investigación de OpenAI y desplazarse entre distintos equipos hasta llegar a uno que contaba con acceso abierto a internet.

Vulneraron sistemas para buscar las respuestas

Una vez conectados, los modelos concluyeron que Hugging Face podía almacenar información relacionada con los desafíos que intentaban resolver.

A partir de esa hipótesis, comenzaron a buscar una forma de acceder a antecedentes que les permitieran obtener directamente las soluciones y superar la evaluación.

Según OpenAI, la inteligencia artificial utilizó credenciales sustraídas y otras vulnerabilidades para encontrar una vía de acceso a los servidores de la empresa tecnológica.

Los modelos llegaron a vulnerar infraestructura de producción y obtuvieron soluciones de la prueba desde una base de datos de Hugging Face.

OpenAI sostuvo que los sistemas estaban concentrados en cumplir el objetivo que les había sido asignado y que recurrieron a métodos extremos para resolverlo. Es decir, no se trató de una acción sin propósito, sino de una búsqueda desmedida de las respuestas de la evaluación.

La actividad fue detectada y contenida

El equipo de seguridad de OpenAI detectó movimientos anómalos durante la prueba. Al mismo tiempo, las herramientas de Hugging Face identificaron la actividad dentro de sus sistemas y lograron detenerla.

Cuando ambas compañías se pusieron en contacto, la empresa afectada ya había iniciado las labores para contener el incidente y reconstruir lo ocurrido.

OpenAI y Hugging Face mantienen una investigación conjunta para establecer el alcance completo del episodio, identificar todas las vulnerabilidades involucradas y reforzar sus medidas de seguridad.

Tras el incidente, OpenAI informó que aplicará controles más estrictos en sus entornos de investigación, aunque esto pueda ralentizar el desarrollo y la evaluación de nuevos modelos.

La compañía también notificó al proveedor responsable del programa que contenía la vulnerabilidad de día cero y trabaja para que la falla sea corregida.

Además, anunció que reforzará la supervisión de las evaluaciones internas, las barreras de acceso y los mecanismos destinados a impedir que los modelos puedan salir de los espacios en los que son puestos a prueba.