Hinton, Bengio y científicos de OpenAI y Anthropic advierten sobre una «explosión de inteligencia» y piden auditores dentro de los laboratorios de IA

Un grupo de 22 investigadores que incluye a los pioneros Geoffrey Hinton y Yoshua Bengio, al científico jefe de OpenAI, Jakub Pachocki, y al cofundador de Anthropic Jack Clark publicó este lunes un informe que advierte que la automatización de la investigación en inteligencia artificial podría desencadenar una «explosión de inteligencia»: un ciclo en el que sistemas de IA mejoran a otros sistemas de IA y comprimen «años de avances en meses o menos». El trabajo pide a los gobiernos actuar «con urgencia» para ganar visibilidad sobre ese proceso y poder frenarlo si hace falta.

El dato central

El documento, titulado What if automating AI R&D triggers an intelligence explosion? («¿Y si automatizar la I+D en IA desencadena una explosión de inteligencia?»), fue publicado por el Cambridge Programme on AI Science & Policy (CASP) de la Universidad de Cambridge. Entre los firmantes también figuran Eric Horvitz (Microsoft), Dawn Song (UC Berkeley), el premio Turing Andrew Barto y académicos de Oxford, Toronto y University College London. El texto aclara que las opiniones son de los autores y no necesariamente de las organizaciones a las que pertenecen.

El informe se apoya en datos de las propias empresas. Cita que, en Anthropic, la proporción de código aprobado escrito por sistemas de IA pasó de «un dígito bajo» a más del 80% entre enero de 2025 y mayo de 2026, y que el trabajo de I+D completado de forma autónoma con sólo supervisión humana de alto nivel subió del 1% al 26% entre marzo y agosto de 2026 (una cifra que Anthropic había difundido y que Devengado ya informó). Con las tendencias actuales, estima que la automatización completa de proyectos de investigación de varios meses podría llegar a mediados de 2028.

Según su modelo, si el progreso se acelerara diez veces, «un año de avances al ritmo actual tomaría unas cinco semanas», y esa aceleración podría alcanzarse en alrededor de un año y medio después de la automatización completa. Los autores presentan estas cifras como escenarios con evidencia preliminar, no como pronósticos cerrados.

Qué piden a los gobiernos

Las recomendaciones se ordenan en tres bloques. Primero, visibilidad: reportes estandarizados sobre el grado de automatización de la I+D a gobiernos y auditores externos, evaluaciones independientes antes de que un sistema se despliegue incluso dentro de la propia empresa, y auditores integrados en las compañías de frontera. Segundo, herramientas para conducir y limitar una eventual explosión: requisitos de seguridad para seguir desplegando sistemas, mayor supervisión de los centros de datos que corran I+D automatizada con procedimientos de respuesta ante incidentes, entornos aislados de la red para ciertas pruebas y mecanismos de verificación para acuerdos que regulen el ritmo del progreso. Tercero, reducir el riesgo de conflicto: acuerdos internacionales, medidas de confianza entre países, simulacros («war games») y planes de emergencia.

Por qué importa

Es inusual que científicos en funciones de los principales laboratorios firmen junto a sus críticos más conocidos un pedido de controles externos sobre la investigación que esas mismas empresas aceleran. El informe llega mientras crece en EE.UU. la discusión sobre cómo regular la IA de frontera y en plena carrera por construir centros de datos cada vez más grandes. Según The Next Web, OpenAI, Microsoft y Meta declinaron hacer comentarios y Anthropic no respondió.

Qué sigue: el informe no tiene carácter vinculante. Su impacto dependerá de si gobiernos y reguladores adoptan alguna de las propuestas, como los reportes obligatorios o los auditores dentro de los laboratorios.