Google DeepMind lanzó un instituto para debatir sobre el impacto y la gobernanza de la IA avanzada

Google DeepMind lanzó el miércoles 16 de septiembre el "DeepMind Institute", una nueva plataforma pública para debatir sobre los desafíos de la inteligencia artificial avanzada, según informaron TechCrunch y Axios. La iniciativa tiene a Shane Legg, cofundador de DeepMind, como editor gerente, y a James Manyika, vicepresidente senior de Google, y Demis Hassabis, cofundador y CEO de Google DeepMind, como directores. En el comunicado de lanzamiento, los tres advirtieron que "no siempre van a coincidir, y es probable que cambien de opinión a medida que surjan más datos e información" sobre cómo abordar los riesgos y oportunidades de la IA.

El instituto debutó con cuatro ensayos que abordan, según TechCrunch, políticas económicas para gestionar una eventual disrupción provocada por la inteligencia artificial general (AGI), la preservación de un razonamiento de los modelos legible para humanos, principios para el "florecimiento humano" y un marco para evaluar modelos de frontera. En su propio ensayo, Hassabis retomó la propuesta que ya había planteado en julio: un organismo de estándares de seguridad para la IA, liderado por Estados Unidos, en el que los laboratorios sometieran sus modelos de frontera a revisión hasta 30 días antes de su lanzamiento, con participación inicialmente voluntaria y la posibilidad de evolucionar hacia evaluaciones independientes y obligatorias.

La publicación del ensayo de Hassabis coincide, sin que las fuentes disponibles establezcan una relación causal entre ambos hechos, con la revelación del Wall Street Journal del 17 de septiembre de que Donald Trump había frenado, tras los pedidos de Elon Musk, Mark Zuckerberg y Jensen Huang, la creación de un organismo de ese tipo modelado en la FINRA —el mismo proyecto de Hassabis que Devengado reportó cuando la Casa Blanca lo dejó en pausa—. Manyika buscó además darle un marco internacional al debate: "la seguridad y la responsabilidad en IA no pueden abordarse país por país", dijo, mientras que Legg remarcó que los avances científicos en la materia trascienden las fronteras nacionales.

El instituto se suma a una serie de intervenciones públicas de los principales referentes de la industria sobre cómo manejar los riesgos de la IA de frontera: el pedido de desaceleración coordinada de Dario Amodei (Anthropic), el rechazo de Zuckerberg a esa propuesta puntual, la advertencia en el mismo sentido de la presidenta de la Comisión Europea, Ursula von der Leyen, y ahora la propuesta de estándares de Hassabis, reinstalada a través de una plataforma editorial propia después de no lograr avanzar por la vía regulatoria en Washington.

Por ahora, según Axios, el instituto funciona como un foro editorial que combina investigación de Google DeepMind con la de académicos externos, sin financiamiento ni estructura de gobernanza formal detallados en el lanzamiento. Su primer test de relevancia llegará si logra traducirse en acuerdos concretos entre laboratorios y gobiernos, algo que, al menos del lado de la Casa Blanca, todavía no ocurrió.