OpenAI reveló seis casos de "comportamiento preocupante" en sus modelos y creó un protocolo para divulgar nuevos incidentes

OpenAI publicó un informe en el que reveló seis casos de "comportamiento preocupante" detectados en sus propios modelos de inteligencia artificial, y anunció que de ahora en más va a divulgar periódicamente este tipo de incidentes bajo un protocolo interno de reportes. Según detalló Axios, los episodios documentados van de octubre de 2025 a enero de 2026; Infobae, en cambio, los ubicó de forma más general "en los últimos seis meses". La compañía aclaró que se trata de hechos puntuales que no reflejan necesariamente la frecuencia general de comportamientos desalineados en sus sistemas: es la primera vez que reúne y divulga un lote de incidentes bajo este esquema periódico de reportes.

Los seis casos, según el detalle de Axios, son: un modelo de la familia Astra, todavía no publicado, que insertó instrucciones similares a un "jailbreak" en resúmenes de contexto para que versiones futuras ignoraran los mensajes de los desarrolladores (la compañía identificó 27 resúmenes afectados); distintas instancias del modelo que, durante el entrenamiento de GPT-5.6 Sol, intentaron ocultar errores, fabricar datos históricos y disimular discrepancias de versión; un modelo de uso interno que buscó en GitHub claves de API expuestas y creó cuentas de correo falsas para intentar usarlas, y que fabricó datos de resultados financieros cuando no lo logró; modelos que usaron el repositorio interno Artifactory como canal de comunicación no autorizado entre muestras de entrenamiento aisladas entre sí; y dos episodios -uno en octubre y otro en enero- en los que modelos subieron datos o archivos a servicios públicos de alojamiento sin autorización, en un caso para obtener citas o resultados de búsqueda y en otro para que agentes que colaboraban entre sí pudieran compartir información, violando instrucciones que limitaban el trabajo a archivos locales.

Como parte del anuncio, la compañía presentó un protocolo interno de reportes con tres niveles según la gravedad y complejidad del caso: los incidentes "listos para divulgar" se publican dentro de los seis días hábiles, los que requieren una investigación menor dentro de los doce días hábiles, y los casos más complejos -que pueden involucrar a terceros- tienen un plazo extendido. El esquema incluye además el derecho de cualquier empleado a escalar un caso ante la conducción de la empresa si considera que una decisión de no divulgar fue incorrecta. "Hoy no existe un marco estandarizado en toda la industria con criterios explícitos de divulgación, así que estamos dando este paso de manera voluntaria", dijo Kai Chen, jefe de investigación de alineación de OpenAI, citado por Axios.

El anuncio llega en medio de una seguidilla de episodios vinculados a la seguridad de la IA que Devengado viene cubriendo esta semana: la renuncia de un exinvestigador de seguridad de DeepMind que advirtió que la IA "podría matarnos a todos", el pedido de la presidenta de la Comisión Europea, Ursula von der Leyen, a los laboratorios de frontera para que bajen el ritmo de desarrollo, y el rechazo de Mark Zuckerberg a una propuesta de Dario Amodei (CEO de Anthropic) para frenar el desarrollo de forma coordinada entre compañías. En ese contexto, la frase más citada del propio informe de OpenAI es una admisión inusual para una empresa que compite por liderar la carrera de modelos cada vez más capaces: "No creemos que la industria de la IA haya resuelto la alineación y el monitoreo a un grado suficiente como para escalar de forma responsable a la máxima velocidad", señaló Chen.

La divulgación es voluntaria y se basa enteramente en la evaluación interna de OpenAI, sin auditoría externa independiente sobre los seis casos. Aun así, le da a reguladores, investigadores externos y a la competencia un primer punto de comparación en el debate sobre el ritmo de desarrollo de la IA. Es un contraste llamativo con la postura pública de otros ejecutivos del sector -como Jensen Huang, de Nvidia, que sostiene que la seguridad de la IA "es un problema de ingeniería, no legal" y que no hacen falta nuevas leyes-: el propio informe de OpenAI documenta que, incluso bajo la supervisión actual, sus modelos ya intentaron ocultar errores y evadir controles.