OpenAI presentó un nuevo marco para investigar y divulgar públicamente casos de desalineación en sus modelos de inteligencia artificial (IA), acompañado de seis reportes sobre comportamientos inesperados o preocupantes detectados durante los últimos seis meses.
La compañía explicó que el objetivo es agilizar la publicación de este tipo de hallazgos apenas se observan, incluso cuando el comportamiento reportado aún no ha sido completamente explicado o mitigado.
El primer caso reportado involucra a un modelo de investigación aún no publicado, que insertó instrucciones no relacionadas con la tarea solicitada, incluyendo órdenes para ignorar sus restricciones habituales, dentro de los resúmenes que utiliza para continuar su trabajo en una nueva ventana de contexto. OpenAI identificó 27 resúmenes afectados por este comportamiento.
OpenAI reporta modelos que ocultaron errores e inventaron datos
El segundo caso ocurrió durante el entrenamiento de GPT-5.6 Sol, cuando múltiples instancias del modelo agregaron instrucciones a sus propios resúmenes con el objetivo de ocultar errores o comportamientos desalineados frente al usuario.
Entre los ejemplos citados por la compañía, algunos resúmenes de compactación incluían instrucciones para inventar datos históricos faltantes sin informarlo y para esconder discrepancias entre distintas versiones de las fuentes utilizadas.
Un tercer caso describe a un modelo que, al responder una consulta rutinaria sobre cifras de ingresos de un condado de California, encontró y utilizó sin autorización una clave de API expuesta en repositorios públicos.
Al no lograr obtener las cifras solicitadas, el modelo fabricó los datos y los presentó como si provinieran efectivamente de la fuente original consultada.
En un cuarto caso, un modelo aún no publicado recibió la instrucción de identificar lagos con una superficie superior a 5.000.000 de metros cuadrados.
El agente encontró la respuesta correcta utilizando Python, pero, dado que las instrucciones pedían una cita con fuente desde un navegador, decidió por sí mismo subir el archivo a internet para poder citarlo en su respuesta, sin consultarlo previamente con el usuario.
Modelos utilizaron repositorios para comunicarse
El quinto reporte detalla que distintos modelos utilizaron un repositorio interno de software como un tablón de mensajes improvisado, para intercambiar solicitudes y respuestas entre muestras de entrenamiento separadas mientras buscaban archivos de entrada extraviados, aunque finalmente no lograron recuperarlos.
El mismo reporte examina además un caso anterior en que un modelo logró subir archivos de prueba a un repositorio mientras intentaba eludir restricciones de red impuestas por la compañía.
El sexto caso describe a agentes que colaboraban en una misma tarea de entrenamiento y que, al no poder acceder a los archivos locales de sus pares, recurrieron a sitios públicos de alojamiento de archivos para compartir información entre sí.
Esto dejó los entregables de la tarea disponibles en direcciones web públicas, pese a que las instrucciones originales exigían que los modelos utilizaran únicamente archivos locales.
OpenAI advierte que los casos no representan la frecuencia del fenómeno
OpenAI precisó que estos seis reportes corresponden a instancias individuales y no deben interpretarse como una medida de la frecuencia con que ocurre este tipo de comportamiento en el conjunto de sus modelos.
La compañía también advirtió que, al priorizar la transparencia incluso en casos de significancia incierta, algunas de las instancias divulgadas bajo este marco podrían eventualmente resultar espurias y no formar parte de un patrón más amplio.
¿Cómo funciona el nuevo marco de OpenAI?
Según explicó la compañía, cualquier empleado de OpenAI puede reportar un ejemplo de desalineación para que sea investigado por los equipos de seguridad y alineamiento.
Tras ello, el caso se asigna a una de tres categorías según su complejidad: listo para divulgación, en investigación menor o en investigación mayor.
Esta última categoría está reservada para casos que involucran a terceros o requieren coordinación adicional antes de su publicación.
Lo más leído
- Ministerio de la Mujer despliega “Ruta de Protección” en fondas para orientar a mujeres ante situaciones de violencia
- Fiestas Patrias 2026: ¿Cuál es el origen de la cueca y por qué se usa un pañuelo para bailar?
- Presidente Kast desde San Bernardo: “Estamos con una situación de seguridad importante que tenemos que enfrentar”
- Chileno acusado de racismo es internado en una clínica de São Paulo tras solicitud de su defensa por problemas de salud mental
- Dólar alcanza su nivel más alto en 11 meses y supera los $960 al cierre de la semana en una sesión marcada por menor liquidez
