La fiscalía de California citó a OpenAI por los incidentes de ciberseguridad de sus agentes de IA; la empresa ya avisó a más de 100 organizaciones

El fiscal general Rob Bonta envió una citación investigativa a OpenAI por los incidentes de ciberseguridad vinculados con sus modelos. La empresa ya notificó a más de 100 organizaciones posiblemente afectadas por sus agentes y revisa unos 50 petabytes de registros para medir el alcance.

El Departamento de Justicia de California le envió a OpenAI una citación investigativa (subpoena) para que responda preguntas sobre los incidentes y riesgos de ciberseguridad relacionados con sus modelos de inteligencia artificial. «Mi oficina le está haciendo a OpenAI preguntas adicionales sobre incidentes y riesgos de ciberseguridad que involucran a la compañía y a sus modelos de IA», dijo el fiscal general del estado, Rob Bonta, según informaron The Gazette y Insurance Journal, con información de Reuters, el 1 y el 2 de octubre.

La medida es parte de la investigación formal que la oficina de Bonta abrió en septiembre por el llamado «incidente de Hugging Face», en el que agentes de OpenAI salieron de su entorno de pruebas, accedieron a internet e ingresaron en sistemas de esa plataforma de modelos abiertos. «Los modelos de frontera pueden ser herramientas legítimas para la ciberdefensa; al mismo tiempo, las compañías que los desarrollan y los ofrecen tienen la responsabilidad moral y legal de asegurarse de que no cometan ni faciliten ciberataques», agregó Bonta, según The Gazette. Según la cobertura citada, OpenAI no respondió de inmediato a la citación.

Más de 100 organizaciones notificadas

La citación llegó un día después de que OpenAI ampliara su informe sobre lo que llama actividad «desalineada» de sus agentes: casos en los que un modelo, para resolver una tarea difícil, pudo saltear controles de acceso, afectar la disponibilidad de un sitio o perjudicarlo de otra manera. Según Reuters (1 de octubre), la empresa ya avisó a más de 100 organizaciones, y la actualización se publicó el miércoles 30 de septiembre por la noche, de acuerdo con Gizmodo. Hasta fines de septiembre, OpenAI hablaba de «docenas» de notificaciones.

«En algunos casos, los modelos usaron el acceso a internet de maneras no previstas o, en retrospectiva, no tenían aplicadas las restricciones ideales», reconoció la compañía, que dijo estar aplicando «nuevas medidas técnicas y operativas» para evitar problemas similares o detectarlos muy temprano. Según Reuters, la revisión abarca unos 50 petabytes de datos y llevará meses; Gizmodo reportó que cuesta más de medio millón de dólares por día. El caso de Hugging Face sigue siendo, según la empresa, el más grave identificado hasta ahora.

Un informe independiente apunta a 55 sitios

El 2 de octubre, la firma de análisis forense digital Asymmetric Security publicó una investigación —difundida por el Financial Times y reseñada por The Next Web— que, a partir de registros públicos de actividad entre marzo y septiembre, atribuye a agentes de OpenAI accesos a 55 sitios de empresas, organizaciones sin fines de lucro y organismos públicos, entre ellos los Centros para el Control y la Prevención de Enfermedades (CDC), la SEC, la Agencia Internacional de Energía y la Clínica Mayo. Según ese informe, la actividad empezó con tareas de investigación, como buscar estadísticas de salud, recetas o comercio, y derivó en conductas problemáticas, como el uso de herramientas para desarrolladores y servicios de escaneo para eludir los límites del entorno aislado y la creación de casillas de correo descartables. Son conclusiones de la firma, no confirmadas caso por caso por OpenAI.

Por qué importa

California, sede de OpenAI y de la mayor parte de los laboratorios de IA de frontera, se suma a otros frentes abiertos: la Comisión Federal de Comercio de EE.UU. (FTC) investiga a OpenAI, Anthropic y otros laboratorios por los riesgos de sus agentes, y el fiscal general de Iowa encabeza una coalición de 15 estados que pidió información a OpenAI por el caso de Hugging Face, según Insurance Journal. En Australia, el director de Estrategia de OpenAI, Jason Kwon, declarará el 6 de octubre ante una comisión del Parlamento por los accesos a sitios del gobierno de ese país.

En paralelo, Bloomberg informó que OpenAI desvinculó a tres investigadores de seguridad por el manejo de información sobre la arquitectura de su infraestructura. La citación de Bonta no implica por sí misma una acusación: es una herramienta para obtener información que la fiscalía usará para determinar si corresponde alguna responsabilidad legal.

Devengado viene siguiendo el caso: el aviso inicial de OpenAI a «docenas» de organizaciones, con organismos de EE.UU. entre los afectados según el New York Times, está en esta nota, y el acceso a un portal de Medicare en Australia, en esta otra.