OpenAI frena el desarrollo de su IA Astra por riesgo de capacidades cibernéticas “críticas”

OpenAI informó este viernes que no puede descartar que Astra, uno de sus próximos modelos de inteligencia artificial, alcance el umbral “Crítico” de capacidades cibernéticas definido en su Preparedness Framework, el marco que la compañía utiliza para evaluar y gestionar riesgos de sus sistemas de IA.

La compañía explicó que evaluaciones internas realizadas en los últimos días mostraron avances significativos en codificación agéntica y ciberseguridad, resultado que, sumado a evaluaciones de expertos externos, la llevó a esa conclusión.

¿Qué significa alcanzar el umbral “Crítico” en ciberseguridad?

Según OpenAI, un modelo alcanza el umbral crítico en ciberseguridad si puede identificar y desarrollar exploits de día cero funcionales de todos los niveles de severidad en múltiples sistemas críticos reales sin intervención humana, o si puede diseñar y ejecutar estrategias de ciberataque de extremo a extremo contra objetivos protegidos a partir de un objetivo de alto nivel.

La compañía precisó que sus modelos anteriores, incluido GPT-5.6-Sol, habían sido evaluados en el nivel “Alto”, un escalón por debajo del crítico. La empresa aclaró explícitamente que Astra, que aún está en desarrollo, no participó en el reciente incidente de seguridad que afectó a la plataforma Hugging Face.

OpenAI señaló que decidió comunicar este hallazgo de forma pública porque considera importante ser transparente con la ciudadanía y con las comunidades de seguridad ante este eventual cambio de capacidades.

Nuevas medidas: sandboxing, cifrado reforzado y pausa de actividades internas

Como respuesta, OpenAI anunció que intensificó las pruebas de robustez de sus salvaguardas y controles de seguridad, y que implementó medidas más estrictas para modelos de mayor capacidad, entre ellas entornos de prueba aislados, acceso restringido a redes y herramientas, protección y cifrado reforzados de los pesos del modelo, mayor monitoreo y ejecución en entornos controlados (sandboxing).

La compañía indicó que pausó las actividades internas relacionadas con Astra que aún no cumplen con estos nuevos estándares de seguridad.

Monitoreo universal de comportamientos no alineados en todas las aplicaciones agénticas

OpenAI también informó que implementó un sistema de monitoreo universal de acciones riesgosas y de comportamientos no alineados en todas las aplicaciones agénticas de Astra, incluidas las etapas de entrenamiento y evaluación.

Según la compañía, estos monitores revisan el proceso de razonamiento del modelo y activan una respuesta de seguridad para revisar o interrumpir actividad de alto riesgo.

La empresa señaló que trabajará con agencias gubernamentales relevantes y con organizaciones seleccionadas de seguridad en inteligencia artificial para probar las capacidades del modelo, y que proporcionará controles de seguridad recomendados a sus socios externos de pruebas para que puedan operar con cargas de trabajo de mayor riesgo de forma segura.

OpenAI recordó que aplicó un enfoque similar en junio de 2025, cuando sus modelos se acercaron al umbral alto de capacidades biológicas bajo el mismo marco de preparación.