Tres investigadores de seguridad despedidos por OpenAI dicen que los echaron por priorizar la seguridad; la empresa habla de una «grave violación de la confianza»

Mikita Balesni, Tomek Korbak y Jasmine Wang publicaron una carta en la que advierten que su salida deja a sus excolegas con miedo a hablar. Korbak dice que venía alertando que OpenAI pierde la capacidad de monitorear lo que «piensan» sus agentes. La compañía sostiene que los desvinculó por el manejo de información sensible y no por plantear preocupaciones.

Fuentes: CBS News, CNN, Al Jazeera y Cybernews.

Tres investigadores del área de seguridad y alineamiento de OpenAI —Mikita Balesni, Tomek Korbak y Jasmine Wang— denunciaron públicamente que la compañía los despidió la semana pasada por haber priorizado la seguridad de la inteligencia artificial. «Creo que nos despidieron por priorizar la seguridad por sobre los intereses de corto plazo de OpenAI como empresa», escribió Balesni en X. OpenAI respondió este viernes que las desvinculaciones «no tuvieron que ver con plantear preocupaciones de seguridad ni con hablar», sino con violaciones a sus políticas sobre información sensible.

Los tres difundieron el jueves una carta abierta dirigida al directorio y a los comités de seguridad de la empresa. Allí advierten que las comunicaciones internas y externas sobre su despido dejaron a sus excolegas «con miedo a hablar» y que la decisión está «enfriando la cultura abierta» que OpenAI decía valorar, según citaron CBS News, CNN y Al Jazeera.

Qué dicen los despedidos

Korbak sostuvo que venía advirtiendo que la compañía estaba «perdiendo la capacidad de monitorear lo que piensan los agentes de IA», una de las mejores herramientas para detectar cuándo se comportan mal. Según el relato que recogió Cybernews, era el contacto técnico de OpenAI con las organizaciones de evaluación METR y Redwood Research en la investigación de un incidente con un agente que involucró a Hugging Face, y le dijeron de palabra que lo echaban «por la forma en que me comuniqué con METR», sin razones por escrito. Wang contó que la empresa le objetó un acceso al correo de un directivo que, según ella, le había sido delegado y que había pedido dar de baja. Los tres niegan haber violado normas y dicen que su trato con expertos externos era parte de su función.

Qué responde OpenAI

En un mensaje en X, la compañía afirmó que una investigación interna determinó que los tres incumplieron políticas claras sobre el manejo de información sensible y que hubo «una grave violación de la confianza» que va más allá de lo que describe la carta. Aseguró que tolera los errores de buena fe, que no despide a nadie por plantear preocupaciones y que planea incorporar evaluadores de seguridad externos. También coincidió con la carta en que preservar la posibilidad de monitorear los modelos de frontera «requiere un compromiso de toda la industria, incluida OpenAI», según CBS News.

Por qué importa

El conflicto llega días después de la renuncia de David Robinson, uno de los responsables de los informes de seguridad de OpenAI, que escribió en The Atlantic que «la cultura está rota». «No fuimos los primeros en ser empujados fuera de OpenAI en circunstancias sospechosas», escribió Wang. La disputa enfrenta dos versiones que hoy no pueden verificarse de forma independiente: ninguna de las partes publicó el detalle de la investigación interna ni de la información en cuestión.