Anthropic propuso al Congreso de EE.UU. una ley de seguridad de IA que sólo permitiría frenar un modelo ante riesgos de más de US$ 1.000 millones o 50 víctimas

Según Politico, que obtuvo el borrador confidencial, la desarrolladora de Claude llevó a legisladores un texto por el cual el Gobierno federal sólo podría suspender un modelo de frontera con orden de un juez federal de Washington y ante un riesgo «previsible e inminente» de armas biológicas, pérdida de control o ciberataques. Evaluadores independientes registrados en el Departamento de Comercio deberían avisar en 72 horas.

Anthropic, la desarrolladora de los modelos Claude, presentó a legisladores del Congreso de los Estados Unidos un borrador de ley de seguridad de inteligencia artificial que fijaría límites estrictos al poder del Gobierno federal para frenar un modelo de frontera. Lo informó Politico el viernes 16 de octubre, a partir del documento confidencial y de tres personas al tanto de las gestiones, según Reuters. No se informó qué legisladores recibieron el texto ni que alguno lo haya presentado formalmente como proyecto.

El umbral es alto: el Gobierno sólo podría bloquear el lanzamiento o el uso de un modelo si representa un riesgo «previsible e inminente» de causar más de US$ 1.000 millones en daños o la muerte o heridas graves a más de 50 personas. Y sólo en tres escenarios: la creación o liberación de un arma biológica, un modelo que evade los controles de su desarrollador o un ciberataque.

Cómo funcionaría

El borrador crea un sistema de evaluadores independientes que se registrarían en el Departamento de Comercio y revisarían periódicamente a los laboratorios y a sus modelos de frontera. Las empresas podrían pagarles, pero el pago no podría depender del resultado de la evaluación. Si un evaluador detecta un riesgo inminente de los enumerados, deberá informarlo a Comercio dentro de las 72 horas de terminar su revisión.

Comercio no podría suspender un modelo por su cuenta: tendría que pedírselo a un juez federal del Tribunal de Distrito para el Distrito de Columbia, el único que podría ordenar la suspensión. El texto, además, prohíbe que cualquier otro departamento, agencia o funcionario federal suspenda el desarrollo, el despliegue o el uso interno de un modelo, según Reuters. De acuerdo con Interesting Engineering, que también cita a Politico, los desarrolladores deberían adoptar marcos de seguridad, publicar informes de transparencia de cada modelo nuevo, proteger a los denunciantes internos y reportar incidentes críticos a Comercio.

Los estados y la postura de Anthropic

La propuesta desplazaría ciertas exigencias estatales sobre divulgación pública de riesgos, evaluaciones independientes y reporte de incidentes críticos, lo que reabre el debate entre un estándar nacional único y las leyes de los estados, según Interesting Engineering.

Anthropic sostiene que el texto refleja el marco de políticas para IA avanzada que promueve ante legisladores federales y estatales desde junio. «Son políticas sensatas sobre las que creemos que el Congreso debería actuar», dijo un vocero de la compañía, según Politico. Ni Anthropic ni el Departamento de Comercio respondieron de inmediato a las consultas de Reuters.

Por qué importa

El borrador entra a un Congreso con varias propuestas en competencia. Los representantes Lori Trahan y Jay Obernolte impulsan la FRONTIER Act, que habilitaría la intervención del Gobierno sobre modelos riesgosos y también desplazaría algunas leyes estatales; el líder de la mayoría del Senado, John Thune, trabaja con los senadores Amy Klobuchar y Ted Cruz en un proyecto sobre riesgos catastróficos de la IA; la senadora Maria Cantwell y algunos defensores de la seguridad piden un proceso de revisión federal más fuerte, y el representante Greg Casar y el senador Bernie Sanders reclamaron pausar el desarrollo de IA avanzada y prohibir la superinteligencia, según Interesting Engineering. A diferencia de esas iniciativas, el texto de Anthropic acota quién puede frenar un modelo, en qué casos y con qué procedimiento.

Qué sigue

El borrador no tiene, por ahora, un patrocinador conocido ni calendario de tratamiento. Habrá que ver si algún legislador lo presenta como proyecto, si se incorpora a alguna de las iniciativas en curso y cómo responden la Casa Blanca, el Departamento de Comercio y las otras compañías de IA.

Fuentes: Politico (16/10, borrador obtenido por el medio), Reuters (16/10), Interesting Engineering (16/10).