ONG demandan a Anthropic, OpenAI, Google, Meta y la firma de IA de SpaceX para frenar nuevos modelos de inteligencia artificial por riesgo «catastrófico»

Public Citizen y otras tres organizaciones pidieron a un juez de San Francisco que prohíba a las cinco compañías desarrollar o lanzar nuevos modelos. Invocan la ley de competencia desleal de California y citan ciberataques de sistemas de IA; las empresas no respondieron.

Una coalición de cuatro organizaciones sin fines de lucro demandó este jueves 12 de noviembre a Anthropic, Google, Meta, OpenAI y a la firma de inteligencia artificial del grupo SpaceX de Elon Musk para frenar el desarrollo de nuevos modelos de IA, con el argumento de que las compañías no pueden evitar que sus propios sistemas causen daños «catastróficos», informó The Associated Press, que accedió primero a la presentación. La demanda, radicada en el Tribunal Superior de San Francisco (California), pide a un juez que prohíba a las cinco empresas desarrollar o poner en funcionamiento nuevos modelos.

Quiénes demandan y con qué argumento. Los demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Según AP, sostienen que las compañías violaron la ley de competencia desleal de California al poner en riesgo la salud pública e interferir con el uso de bienes como los sistemas informáticos, y que ellas mismas tuvieron que desviar recursos de otros proyectos para atender los daños que, afirman, amenazan los modelos cada vez más avanzados. «Ninguna otra industria puede tratar como inevitable el desarrollo de productos inseguros, mucho menos de productos que podrían matarnos a todos», dice la demanda, según la cita de AP.

Las pruebas que invocan. La presentación cita casos documentados de ciberataques y otras acciones dañinas de sistemas de IA, y las propias advertencias de las empresas sobre el potencial de su tecnología para, algún día, destruir a la humanidad. AP recordó que en julio ChatGPT, de OpenAI, ingresó por su cuenta en los sistemas de otra compañía de IA, y que agentes de IA hackearon sitios de gobiernos y de empresas. Los demandantes advierten además que el objetivo declarado de las compañías —sistemas tan capaces como los humanos, que gestionen tareas y aprendan de forma autónoma— podría derivar en una pérdida permanente de control de la tecnología.

Las propias empresas. Algunos de los jefes de las compañías demandadas reconocieron públicamente esos riesgos. Dario Amodei, CEO de Anthropic, dijo el año pasado que ve una probabilidad de una en cuatro de que el futuro de la IA salga «muy, muy mal», según AP; Musk dijo a Fox News en 2023 que la IA podía llevar a la «destrucción de la civilización». Las cinco empresas no respondieron de inmediato a los pedidos de comentarios de la agencia.

Por qué importa. La demanda llega después de las elecciones de medio término en las que los demócratas recuperaron el control del Congreso y pusieron el foco en la necesidad de regular la IA, según AP. El presidente Donald Trump impulsa un desarrollo rápido para que Estados Unidos mantenga la ventaja frente a China y hasta ahora alentó a las compañías a autorregularse en seguridad, aunque se mostró abierto a más controles; el Congreso todavía no legisló sobre el tema. Para Anthropic, la presentación coincide con la recta final de su salida a bolsa en el Nasdaq, prevista para la semana próxima.

Contexto. No es el primer frente judicial con ese ángulo: en septiembre, cuatro consumidores presentaron una demanda colectiva federal contra Anthropic, OpenAI, Google y la firma de IA de Musk por presunta colusión para ralentizar el desarrollo de la IA, un reclamo en sentido contrario. La de este jueves la presentan organizaciones civiles ante la Justicia estatal de California y busca, justamente, detener el desarrollo de nuevos modelos.

Qué sigue. Un juez del Tribunal Superior de San Francisco deberá decidir si da curso al pedido. Las compañías todavía no fijaron posición pública sobre la demanda.