El rey Carlos III convocó a líderes de Nvidia, DeepMind, OpenAI y Anthropic a una cumbre de seguridad de IA en Escocia

El rey Carlos III reunió este jueves en Dumfries House, la propiedad de Ayrshire vinculada a su fundación The King's Foundation, a unas 30 personas del sector de la inteligencia artificial para discutir los riesgos de seguridad de la tecnología, en un encuentro organizado junto con la Ditchley Foundation, el King's Trust y la Sustainable Markets Initiative. Según reportaron The Associated Press, CNN y otros medios, entre los asistentes confirmados estuvieron Jensen Huang, CEO de Nvidia; Demis Hassabis, presidente de Google DeepMind; Sarah Friar, directora financiera de OpenAI, y representantes de Anthropic, además del ministro de Inteligencia Artificial del Reino Unido, Kanishka Narayan. No hay confirmación de que Dario Amodei, CEO de Anthropic, haya asistido en persona al encuentro.

En su discurso de apertura, Carlos III dijo que "el desarrollo de la IA -su naturaleza y su ritmo- es a la vez intrigante y profundamente preocupante en igual medida", según citó la agencia AP. El monarca advirtió sobre los "peligros existenciales" que implicaría que estas tecnologías "caigan en las manos equivocadas" y pidió a los presentes "medios de control suficientes antes de que sea demasiado tarde". En otro pasaje de su intervención, citado por el sitio The Next Web, llamó a mantener la inteligencia artificial "firmemente al servicio de la humanidad, la comunidad y el mundo natural", y sostuvo que "las decisiones que se tomen en este momento formativo determinarán el mundo que hereden las próximas generaciones".

La convocatoria se suma a una serie creciente de intervenciones institucionales sobre el ritmo de desarrollo de la inteligencia artificial: en las últimas semanas, la presidenta de la Comisión Europea, Ursula von der Leyen, pidió bajar el ritmo de los modelos de frontera; Canadá y Alemania comprometieron fondos para LawZero, el laboratorio de seguridad de Yoshua Bengio; y el propio Dario Amodei había planteado en su ensayo "Pacing the Frontier" la necesidad de una desaceleración coordinada, una propuesta que generó respuestas divididas entre Sam Altman (OpenAI), que la respaldó, y Mark Zuckerberg (Meta), que la rechazó públicamente. A diferencia de esas intervenciones, esta convocatoria llegó de un jefe de Estado, aunque en un rol ceremonial, sin poder ejecutivo ni regulatorio.

El Reino Unido ya había organizado en 2023 la primera cumbre global de seguridad de IA en Bletchley Park, con participación de gobiernos y empresas. La reunión de este jueves, en cambio, tuvo un formato mucho más acotado: se realizó en una propiedad privada vinculada a las fundaciones benéficas del rey y no contó con la presencia de reguladores más allá del ministro Narayan. Según los reportes disponibles, no hubo compromisos concretos, cronogramas ni anuncios de política pública surgidos del encuentro: funcionó como un espacio de diálogo antes que como una instancia de negociación regulatoria.