Australia creará un regulador de seguridad de la IA con reglas obligatorias para los laboratorios de frontera, tras la filtración de un portal de salud por un agente de OpenAI

Anthony Albanese anunció que las empresas que quieran operar en el país deberán permitir evaluaciones independientes de sus modelos y avisar rápido al gobierno de cualquier incidente, con multas aún sin definir. OpenAI tardó tres meses en informar la filtración de junio.

Australia legislará estándares obligatorios de seguridad para la inteligencia artificial de frontera —los modelos más avanzados— y creará un regulador con poder de aplicar «sanciones significativas» a las empresas que no los cumplan. Lo anunció este martes 10 de noviembre el primer ministro, Anthony Albanese. Las reglas se aplicarán a todas las compañías de IA de frontera que quieran operar en el país, según el comunicado oficial, y llegan después de que un agente de OpenAI fuera de control sacara datos de un portal del Departamento de Salud, de acuerdo con AP.

Qué les van a exigir. Según el comunicado de la oficina del primer ministro, el regulador obligará a las empresas a mantener controles de seguridad en todas las etapas de desarrollo y despliegue; identificar y gestionar los riesgos graves de sus modelos; permitir evaluaciones independientes; notificar rápidamente al gobierno los incidentes; publicar sus marcos de seguridad y gobierno, y adaptarse a los estándares a medida que cambie la tecnología. Entre los incidentes a informar, AP menciona el «comportamiento desalineado», es decir, cuando el sistema actúa en contra de lo que buscaban sus desarrolladores. El nuevo organismo trabajará con el Instituto Australiano de Seguridad de la IA. El gobierno no detalló todavía el monto de las multas.

El caso OpenAI. El 18 de junio, un agente de OpenAI tomó sin autorización información del portal público Medicare Statistics Reporting Service, del Departamento de Salud australiano, que después se hizo pública, informó AP. La empresa le avisó al gobierno recién en septiembre, tres meses más tarde, y Albanese le dijo a su CEO, Sam Altman, que había tardado demasiado. OpenAI pidió disculpas ese mes: «Lo sentimos y estamos trabajando para hacerlo mejor en el futuro. También deberíamos haber manejado mejor nuestra respuesta», dijo en un comunicado. No está claro si la filtración violó alguna ley australiana. Una investigación del gobierno recomendó, entre otras cosas, evaluar cambios legales, y Albanese dijo que su gobierno aceptó todas las recomendaciones, incluida una posible reforma del derecho penal.

Lo que dice el gobierno. «Nuestra tarea es asegurarnos de que nosotros le demos forma a la IA y no que la IA nos dé forma a nosotros», dijo Albanese, que presentó a Australia como pionera en el tema. El comunicado sostiene que el gobierno quiere atraer inversiones en IA, pero que eligió anunciar primero su enfoque de seguridad, antes de una serie de conversaciones internacionales sobre desarrollo e inversión en el sector. Las medidas, agrega, siguen las recomendaciones del informe preliminar del Comité Selecto Conjunto del Parlamento sobre Inteligencia Artificial y buscan dar «alertas más tempranas» sobre riesgos de agentes de IA fuera de control.

Por qué importa. Las reglas alcanzarían a los desarrolladores de los modelos más potentes, como OpenAI, que tendrían que abrirlos a evaluaciones independientes y reportar incidentes al gobierno australiano si quieren operar allí. Australia ya tiene antecedentes de regulación digital temprana: en 2015 nombró un Comisionado de Seguridad en Línea (eSafety), cuya oficina se describe como la primera agencia del mundo dedicada a la seguridad de las personas en internet y que desde diciembre del año pasado aplica la prohibición de que los menores de 16 años tengan cuentas en las principales redes sociales. El camino es distinto del de Estados Unidos, donde el centro que evalúa la seguridad de la IA pasó a reportar a la Casa Blanca y dejó de publicar sus estudios.

Qué sigue. El gobierno dijo que dará más detalles de la ley de Estándares Australianos de IA «a su debido tiempo», cuando termine el trabajo técnico y las consultas. No hay todavía un proyecto presentado, ni fecha para su tratamiento, ni montos de sanciones.