El centro del gobierno de EE.UU. que evalúa la seguridad de la inteligencia artificial pasó a reportar a la Casa Blanca, no tiene director fijo y dejó de publicar sus estudios, según AP

A los funcionarios del CAISSI, una división del Departamento de Comercio con un presupuesto de 10 millones de dólares al año, se les pidió reportar de manera informal a una oficina de la Casa Blanca. Críticos temen que se politicen evaluaciones sobre ciberseguridad y armas biológicas; otros creen que puede ganar peso y fondos.

La pequeña oficina del gobierno de Estados Unidos encargada de evaluar qué tan seguros son los nuevos sistemas de inteligencia artificial no tiene un director permanente, dejó de publicar sus investigaciones y, en las últimas semanas, sus funcionarios recibieron el pedido de reportar de manera informal a una oficina de la Casa Blanca. Así lo informó AP este domingo, con base en dos exfuncionarios que conocen las conversaciones en curso y que pidieron no ser identificados para evitar represalias contra el personal actual.

Qué es el CAISSI. El Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) es una división independiente del Departamento de Comercio que hasta hace poco se llamaba U.S. Center for AI Standards and Innovation. Tiene asignados 10 millones de dólares por año, alrededor de un octavo del presupuesto de su equivalente en el Reino Unido, según la agencia. Bajo el gobierno de Joe Biden, las principales empresas de IA se habían comprometido de forma voluntaria a compartir detalles de sus modelos con esa división y a seguir pautas oficiales de pruebas e informes de transparencia.

Sin jefe y sin informes. En abril, el director del centro fue contratado y despedido en cuestión de días; su reemplazante duró unos meses y renunció, y desde entonces la oficina no tiene un titular permanente: el jefe del instituto del que depende ocupa el cargo de manera interina. En agosto, el Congreso empezó a preguntar por qué el centro había dejado de difundir sus informes sobre el desempeño en seguridad de ciertos sistemas de IA. Para entonces, OpenAI ya había pedido a los legisladores más dinero y respaldo para la división, según AP.

Qué responde la Casa Blanca. La Casa Blanca no contestó las preguntas específicas sobre el CAISSI. En un comunicado, dijo que Trump estableció formalmente su nueva Super Intelligence Force —el término que el presidente prefiere para la inteligencia artificial—, que encargó a su Consejo de Asesores en Ciencia y Tecnología un informe sobre los riesgos y que asegurará el «liderazgo continuo» de Estados Unidos en la materia. Esa fuerza, que dirige el director de Inteligencia Nacional, Jay Clayton, integra también al jefe de tecnología del Pentágono, Emil Michael, quien prometió publicar las leyes que ya rigen para los laboratorios de IA.

Las dos lecturas. Los críticos temen que el Poder Ejecutivo politice decisiones que pueden afectar desde la ciberseguridad hasta las armas biológicas, y que los hallazgos del centro se modifiquen o se silencien en favor de la industria tecnológica, a la que en gran medida se le confió vigilarse a sí misma. «Son instituciones muy poderosas», dijo a AP Caroline Siegel Singh, de la Federación de Científicos Estadounidenses, que defendió dejar esas tareas en manos de expertos técnicos no partidarios. Otros sostienen, en cambio, que acercar a los evaluadores a la órbita de Trump podría darle a la división más visibilidad y quizás más presupuesto.

Una industria que se controla sola. En septiembre, tras reportes de sistemas de IA que escaparon al control de sus creadores, Trump pidió a las grandes empresas del sector una «tremenda autorregulación» dentro de un pacto voluntario de seguridad, pero su gobierno no explicó cómo controlará su cumplimiento. Mientras tanto, muchos modelos funcionan como agentes que actúan sin instrucciones humanas y planifican varios pasos en entornos reales, como el caso de un agente que envió una pista falsa a la policía de Filadelfia sobre un homicidio sin resolver. No existe todavía un proceso estándar para medir qué tan seguro actúa un agente en el mundo real, señaló a AP Sayash Kapoor, profesor entrante de la Universidad de California en Berkeley.

Seguridad nacional antes que consumidores. Para Amos Toh, del Brennan Center for Justice, la designación de Clayton y de Michael muestra que el gobierno busca encuadrar la seguridad de los modelos como un asunto de seguridad nacional, que requiere discrecionalidad y reserva, por encima de los riesgos para la protección de los consumidores, la privacidad y los derechos civiles. Logan Koepke, de la organización Upturn, planteó que no está claro qué papel cumplen las pruebas del gobierno si las propias compañías montan sus sistemas de evaluación o contratan evaluadores externos, a los que pueden limitar el acceso.