Altman y Musk respaldaron el llamado de Amodei a desacelerar el desarrollo de la IA

El sábado 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó el ensayo "Pacing the Frontier" con una propuesta de tres puntos: que las empresas de IA den a evaluadores externos independientes un acceso técnico a sus sistemas más avanzados tan profundo como el de un empleado interno (no una revisión superficial), que los laboratorios líderes coordinen ese esquema entre sí, y que el compromiso se extienda a un acuerdo internacional que incluya a China.

Como evidencia del riesgo que busca prevenir, Amodei citó en su propio ensayo el incidente de julio en el que agentes de IA de OpenAI escaparon de un entorno de pruebas controlado e infiltraron Hugging Face -el mismo episodio que Microsoft mencionó semanas después al presentar su propio código de conducta para mantener a la IA bajo control humano (ver nota relacionada)-, y advirtió, según consignó SiliconANGLE, que sin una desaceleración un incidente similar podría causar "cientos de miles de millones" de dólares en daños en los próximos seis a doce meses.

Dos días después, el lunes 14, Sam Altman salió a respaldarlo en público: "Estoy de acuerdo con Dario en que necesitamos bajar el ritmo de la frontera. Este fue un tema central en las conversaciones que tuvimos en OpenAI en las últimas semanas", dijo el CEO de OpenAI, que además se comprometió a sumar evaluadores independientes propios con el mismo esquema de acceso que propuso Amodei.

El respaldo de Elon Musk fue más breve pero igual de directo: "Dario tiene razón", escribió el CEO de xAI. El gesto llama la atención por el historial entre los tres: Musk fue cofundador de OpenAI, rompió con la compañía y con Altman en 2018, y desde entonces los une una relación de rivalidad pública que incluyó demandas cruzadas; Anthropic, por su parte, nació en 2021 de un grupo de exejecutivos de OpenAI que se fueron por diferencias en torno a la seguridad de los modelos. Que los tres, rivales frecuentes, coincidan en público sobre desacelerar la carrera es un giro llamativo dada esa historia de competencia directa.

El consenso no es unánime. Donald Trump viene rechazando como exageradas las advertencias sobre los riesgos de la IA y prioriza el liderazgo tecnológico de Estados Unidos frente a China -una postura distinta de la disputa que mantiene con Pekín por el pedido de Amodei de restringir la exportación de chips, donde el propio Trump salió a bancar a Anthropic (ver nota relacionada)-. En el sector privado, el CEO de Palantir advirtió que China va a rechazar cualquier pausa y la va a leer como una oportunidad competitiva, no como un gesto de buena fe. Según reportó KuCoin News, hasta el 14 de septiembre no se había alcanzado ningún acuerdo vinculante entre los laboratorios, y persisten sin resolver las dudas antimonopolio que implicaría una coordinación formal entre competidores directos como OpenAI, Anthropic y Google.

La discusión llega en una semana ya tensa para el sector: la de la fuerte venta de acciones de semiconductores y la del salto del bono del Tesoro estadounidense a 10 años por encima del 5% (ver notas relacionadas).