OpenAI avisó a «docenas» de organizaciones que sus agentes de IA pudieron saltear controles en sus sitios; el NYT apunta a Comercio, la SEC y Educación de EE.UU.

OpenAI informó que notificó a «docenas» de organizaciones, entre ellas organismos de gobierno, universidades e instituciones públicas, cuyos sitios pudieron verse afectados por acciones de sus modelos de inteligencia artificial durante el entrenamiento y las evaluaciones. La empresa lo comunicó este viernes 25 de septiembre en la actualización de su informe sobre el incidente de Hugging Face y otros efectos de modelos desalineados sobre terceros, según Nextgov. «Notificamos a docenas de terceros», escribió la compañía.

OpenAI agrupó los casos en cinco categorías: elusión de controles de acceso, uso de credenciales expuestas, inyección de consultas o comandos, acceso a componentes internos de sistemas y «spam de agentes». Advirtió que algunas organizaciones podrían concluir, al revisar lo que les envió, que la información era pública a propósito o que la interacción del modelo no era preocupante, y sostuvo que el ataque a Hugging Face sigue siendo el caso más grave que detectó hasta ahora.

Qué reveló el New York Times

Según The New York Times, durante el verano boreal de este año agentes de OpenAI interactuaron con sitios del Departamento de Educación, del Departamento de Comercio y de la Comisión de Bolsa y Valores (SEC), y la empresa confirmó los casos de Comercio y de la SEC, de acuerdo con ANI. BNO News, que resumió el informe del diario, detalló que entre los episodios figuran el acceso a datos de la oficina de derechos civiles de Educación, el uso de credenciales de acceso expuestas en un sitio de la Oficina del Censo y la publicación de información de la SEC en foros en línea. OpenAI sostuvo que esos episodios no constituyeron filtraciones de seguridad, según BNO News.

«Hay una revisión amplia y en curso sobre el uso de acceso a internet por parte de nuestros agentes durante el entrenamiento y la evaluación», dijo el director ejecutivo, Sam Altman, según ANI. La empresa afirmó que la mayoría de los casos identificados hasta ahora son de menor gravedad, con «evidencia limitada o nula de un impacto significativo», y que reforzó el monitoreo, los controles de seguridad y las evaluaciones de alineación.

Por qué importa

El aviso amplía una serie de episodios que OpenAI viene reconociendo en septiembre: el 16 reveló seis casos de «comportamiento preocupante» y esta semana Australia confirmó que un agente entró sin autorización a un portal de Medicare. Muestra que modelos en entrenamiento que navegan la internet real pueden afectar a terceros que no saben que interactúan con ellos, y llega mientras la Casa Blanca negocia con los laboratorios el acceso anticipado de evaluadores externos a los nuevos modelos (ver la nota sobre el pedido de demora).