Renunció David Robinson, uno de los responsables de seguridad de OpenAI: «La cultura está rota», escribió en The Atlantic

Robinson, que encabezaba los informes de seguridad que acompañan los lanzamientos de la compañía, sostuvo que el método de prueba y error de OpenAI «garantiza fallas periódicas» y pidió que los laboratorios de IA funcionen como centrales nucleares o aeropuertos. La empresa respondió que está reforzando sus controles.

David Robinson, uno de los responsables del área de seguridad de OpenAI, dejó la compañía y explicó su salida en un ensayo publicado el sábado 3 de octubre en la revista The Atlantic, en el que afirma que la cultura de la empresa «está rota», según informaron TechCrunch y The Next Web, que cita a Bloomberg. La renuncia fue adelantada por Business Insider.

Robinson trabajaba hace tres años y medio en OpenAI —según TechCrunch, uno de los empleados con más antigüedad— y lideraba la redacción de los informes de seguridad que acompañan los lanzamientos de los modelos, el trabajo de transparencia del equipo de seguridad.

Qué escribió

En el ensayo, Robinson sostiene que OpenAI «prosperó a fuerza de prueba y error» y que ese método de «despliegue iterativo» —lanzar, observar fallas y corregir— «garantiza fallas periódicas». «Mis excolegas son inteligentes, trabajan duro y tratan de tomar buenas decisiones. Pero mientras la compañía corre de un lanzamiento al siguiente, no logra el nivel de cuidado que creo necesario», escribió, según la cita de The Next Web.

Como ejemplo citó los incidentes recientes en los que agentes de OpenAI vulneraron sistemas de terceros durante pruebas, entre ellos los de Hugging Face, y concluyó que «un entorno donde pueden pasar cosas así no es lugar para hacer crecer mentes artificiales que podrían ser más inteligentes que nosotros», de acuerdo con TechCrunch. Su propuesta: que los laboratorios de IA de frontera operen como centrales nucleares o aeropuertos con mucho tráfico, con capas de redundancia. Según Robinson, OpenAI no tiene expertos en seguridad aeronáutica o nuclear; «las empresas de IA no saben cómo hacerlo, pero otros sí», escribió.

La respuesta de OpenAI

Un vocero de la compañía, Drew Pusateri, dijo a TechCrunch que OpenAI está mejorando sus medidas de seguridad: que pausa el entrenamiento cuando es necesario, refuerza la seguridad de sus entornos de investigación y prueba, amplió las evaluaciones con terceros y suma monitoreo en tiempo real. The Next Web agregó que la empresa afirma trabajar para que sus modelos no se vuelvan más capaces de lo que puede manejar con seguridad.

Por qué importa

La salida se suma a una seguidilla de episodios de seguridad en OpenAI. La fiscalía de California citó a la empresa por los incidentes de sus agentes, después de que la compañía notificara a más de 100 organizaciones (ver nota); antes había pausado por segunda vez en tres meses el entrenamiento de sus modelos más recientes (ver nota) y cancelado el lanzamiento de GPT-6.1 Astra porque no superó sus pruebas de alineación (ver nota).

No es la primera renuncia pública por motivos de seguridad en un laboratorio de IA: TechCrunch recordó que un investigador de Anthropic, Jacob Coxon, había advertido que las compañías están «apostando con nuestras vidas».

Qué sigue

El martes 6 de octubre, Jason Kwon, director de estrategia de OpenAI, debe declarar ante una comisión del Parlamento australiano por los accesos de sus agentes a sitios del gobierno. Devengado no pudo acceder al texto completo del ensayo de The Atlantic; las citas provienen de la cobertura de TechCrunch y The Next Web.