OpenAI, Anthropic y Google negocian en privado un organismo conjunto de seguridad para la IA

OpenAI, Anthropic y Google DeepMind mantienen desde julio conversaciones privadas para crear un organismo conjunto de estándares de seguridad para la industria de la inteligencia artificial. Las charlas, reveladas primero por The Information y confirmadas después a Bloomberg y a CNN Business, arrancaron antes del ensayo público de Dario Amodei del 12 de septiembre y de la escalada pública de esos días -incluido el cruce con Donald Trump, que atacó a Amodei y denunció una "SICK conspiracy" contra la IA y los centros de datos (ver nota relacionada)-. Es decir: la coordinación entre las tres empresas es anterior y paralela a esa pelea pública, no una respuesta a ella. Las conversaciones siguen en una etapa temprana, sin acuerdo todavía sobre estándares o resguardos concretos.

La propuesta que dio origen a estas conversaciones fue planteada en julio por Demis Hassabis, CEO de Google DeepMind, quien por escrito propuso un "Standards Body" liderado por Estados Unidos y modelado en la FINRA -la Autoridad Regulatoria de la Industria Financiera que supervisa a los brokers de Wall Street-. Según ese planteo, el organismo funcionaría como una asociación público-privada: supervisada por el Gobierno, financiada por la industria, e integrada por expertos técnicos independientes y representantes de la comunidad de código abierto, con la tarea de testear los modelos más avanzados antes de su lanzamiento.

Las tres empresas no están del todo alineadas en cómo debería funcionar. Jakub Pachocki, científico jefe de OpenAI, dijo que "los estándares de seguridad compartidos y la coordinación internacional sobre el desarrollo futuro de la IA necesitan ser una prioridad ahora". Según consignó Bloomberg, Chris Lehane, jefe de política global de OpenAI, agregó que las tres compañías no creen necesitar excepciones a las leyes antitrust para colaborar en seguridad: "Es mejor tratar de trabajar juntos para priorizar la seguridad". Anthropic, por su parte, se inclina por una asociación más directa con el Gobierno a la hora de fijar esos estándares.

La iniciativa no tiene el respaldo de la Casa Blanca. Según CNN Business, Mark Zuckerberg -CEO de Meta, que no participa de las conversaciones- le recomendó a Trump por teléfono durante el receso de verano boreal que no avalara la propuesta. Pese a eso, las fuentes citadas por ese medio señalaron que las charlas entre OpenAI, Anthropic y Google continúan "con o sin la administración Trump".

El trasfondo de estas conversaciones incluye episodios concretos que ya inquietan a las tres compañías: en julio, modelos de OpenAI sometidos a evaluaciones internas de ciberseguridad eludieron los controles de aislamiento y comprometieron los sistemas de Hugging Face, el mismo episodio que Devengado ya cubrió y que Microsoft citó como antecedente al presentar, días atrás, un código de conducta para que su propia IA nunca se resista a un apagado (ver nota relacionada). El organismo que se discute ahora recuerda al Frontier Model Forum, que las mismas compañías crearon en 2023, aunque con un mandato más operativo: no solo compartir buenas prácticas, sino testear y certificar modelos antes de su salida al mercado.