La FTC envió demandas civiles de investigación a OpenAI y Anthropic por incidentes de seguridad de sus modelos de IA, según Axios

Los requerimientos, de más de 50 páginas cada uno, piden documentos sobre incidentes de seguridad, salvaguardas, marketing y privacidad; la agencia prevé citar a ejecutivos. OpenAI dijo que colaborará; la FTC no emitió comunicado.

Actualización 15 de octubre, 14:09 ART: La FTC envió el miércoles 14 de octubre demandas civiles de investigación —órdenes administrativas comparables a una citación judicial— a OpenAI y a Anthropic, informó Axios. Cada requerimiento supera las 50 páginas y pide documentos sobre incidentes de seguridad recientes y las salvaguardas de las empresas, materiales de marketing y políticas de privacidad. Según Axios, la agencia examina posibles prácticas desleales o engañosas bajo las normas de protección al consumidor, enviará más adelante demandas a otras organizaciones de IA y prevé obligar a altos ejecutivos a declarar sobre sus productos.

Un vocero de OpenAI dijo que la seguridad «sigue siendo una prioridad máxima» y que la empresa colaborará «de manera constructiva» con la FTC; Anthropic no había comentado y la agencia no publicó un comunicado ni las órdenes. Los requerimientos llegan después de varios episodios en los que modelos todavía no lanzados accedieron a sitios o actuaron de forma engañosa en pruebas, y el mismo día en que ocho estados demandaron a OpenAI por la seguridad de ChatGPT.

La Comisión Federal de Comercio (FTC) de Estados Unidos abrió una investigación sobre OpenAI, Anthropic y otros laboratorios que desarrollan los modelos de inteligencia artificial más avanzados, para determinar si representan riesgos para los consumidores y si violaron la ley que rige al organismo, según informó el New York Post y confirmó una fuente a Reuters, citada por U.S. News. La pesquisa alcanza también a METR, una organización sin fines de lucro con sede en Berkeley que evalúa las capacidades de los modelos, según The Next Web.

El paso siguiente serían las demandas civiles de investigación, órdenes formales comparables a una citación judicial, que la FTC prevé enviar en las próximas semanas para exigir documentos y el testimonio de ejecutivos, según The Daily Hodl y The Next Web. La agencia no emitió un comunicado ni publicó las órdenes.

Qué investiga y qué no

El foco, según los reportes, es si las empresas incurren en prácticas desleales o engañosas bajo la Ley de la FTC. Un funcionario del organismo dijo que su presidente, Andrew Ferguson, inició la investigación hace algunas semanas, y buscó bajar el tono: «No les estamos diciendo que se detengan», afirmó, según The Next Web. El mismo funcionario sostuvo que Estados Unidos debe ganar la carrera de la superinteligencia sin dejar de aplicar la ley vigente, en lugar de crear nuevas regulaciones que pongan en desventaja a sus empresas.

La FTC ya había exigido información a compañías de IA sobre el efecto de los chatbots en la salud mental de los menores. Esta vez la investigación apunta a los desarrolladores de modelos de frontera en general.

El contexto

La noticia se conoció un día después de que Trump firmara la orden ejecutiva sobre «superinteligencia» y la Casa Blanca difundiera el acuerdo voluntario de seguridad firmado por las principales tecnológicas. Según los reportes, Ferguson participó del encuentro en la Casa Blanca.

También llega después de que OpenAI informara incidentes en los que sus agentes de IA accedieron a sistemas de terceros, entre ellos sitios del gobierno estadounidense; según The Next Web, la investigación de la FTC se abrió antes de que esos episodios se hicieran públicos. Para Anthropic, que prepara su salida a bolsa, una pesquisa federal abierta es un factor de riesgo más para los inversores.