Zuckerberg rechazó la propuesta de Amodei de frenar el desarrollo de la IA de forma coordinada

Mark Zuckerberg se despegó este martes de los pedidos de una desaceleración coordinada del desarrollo de la inteligencia artificial, en una publicación en X en la que argumentó que la responsabilidad legal y la competencia entre empresas ya generan, a su juicio, incentivos suficientes para que cada laboratorio cuide la seguridad de sus modelos por su cuenta. "Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizarlo", escribió el CEO de Meta.

La publicación llega días después de que Dario Amodei, CEO de Anthropic, planteara un esquema de tres pasos para que empresas y países coordinen una desaceleración del desarrollo de sistemas de IA más avanzados. La propuesta había sumado el respaldo de Sam Altman (OpenAI) y Elon Musk (xAI), y generó un cruce público con Jensen Huang (Nvidia) en la conferencia Dreamforce, además del rechazo del gobierno chino, que lo calificó de "fearmongering".

Zuckerberg citó como ejemplo la demora de Meta en el lanzamiento de Muse, su agente de IA, una decisión que —aclaró— tomó la propia compañía por cuestiones de seguridad y no como parte de ninguna coordinación previa con otros laboratorios. "No pedimos que todos los demás lo hicieran antes de hacerlo nosotros", escribió, en referencia a esa demora.

El argumento central del CEO de Meta es que la competencia de mercado y la presión de los propios usuarios ya funcionan como mecanismo de control: los sistemas mal alineados, sostuvo, terminan perdiendo usuarios porque "la gente no va a querer usar agentes que no hacen lo que les piden". A eso sumó que cada laboratorio enfrenta "responsabilidad legal significativa" si sus modelos causan daños, lo que en su visión ya desincentiva el desarrollo apresurado sin controles de seguridad. Zuckerberg planteó además que la prioridad debería estar en modelos que sirvan a los usuarios, y no en sistemas orientados a la "auto-mejora recursiva".

La postura de Zuckerberg suma un rechazo de peso, por parte del CEO de un laboratorio de punta, al esquema de coordinación que impulsa Amodei. Ocurre, además, mientras OpenAI, Anthropic y Google negocian en privado la creación de un organismo conjunto de seguridad para la IA, un proceso separado del que Meta, de acuerdo con la postura expresada por Zuckerberg, prefiere mantenerse al margen.