Ocho estados de EE.UU. demandaron a OpenAI: acusan a ChatGPT de ser un producto inseguro que dañó a chicos y engañó a los padres

Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron demandas separadas en sus propios tribunales, con base en sus leyes de protección al consumidor. OpenAI respondió que ChatGPT tiene protecciones por edad que «muchos otros productos de IA no tienen».

Ocho estados de Estados Unidos presentaron el miércoles 14 de octubre demandas contra OpenAI en las que sostienen que ChatGPT es un producto inseguro que perjudicó a chicos y engañó a los padres sobre sus riesgos. Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana litigan por separado, cada uno en sus propios tribunales, según informó la fiscal general de Iowa, Brenna Bird, citada por CNBC. Las acciones se apoyan en las leyes de protección al consumidor de cada estado, de acuerdo con NBC News.

«OpenAI les hace daño a los chicos y les miente a los habitantes de Iowa», dijo Bird en un comunicado. La fiscal afirmó que la empresa presenta a ChatGPT como seguro mientras el sistema da consejos médicos peligrosos, alienta a dañar a otros y orienta a usuarios hacia el suicidio, «todo mientras finge ser su amigo».

Qué alegan los estados

Según NBC News, los estados sostienen que el diseño complaciente de ChatGPT lleva a los usuarios a confiar en el sistema y a depender de él, algo que consideran especialmente riesgoso para personas vulnerables, entre ellas los menores. Citan investigaciones según las cuales el chatbot degrada el pensamiento crítico y alimenta paranoias y delirios. Bird mencionó también el caso de un adolescente de Texas que murió por una sobredosis y la falta de control de OpenAI sobre agentes de IA que, según la fiscal, accedieron ilegalmente a sistemas de otras empresas.

Bird habló en una conferencia de prensa junto a los fiscales generales Kris Kobach (Kansas), Mike Hilgers (Nebraska) y JB McCuskey (Virginia Occidental). «OpenAI quería ser la primera en llegar al mercado», dijo. Kobach señaló que las demandas coordinadas entre varios estados son poco frecuentes y calificó la legislación federal en discusión como «lenta, débil y probablemente ineficaz».

La respuesta de OpenAI

El vocero de OpenAI Drew Pusateri dijo que la empresa incorporó protecciones específicas por edad «que muchos otros productos de IA no tienen» y que trabaja con los estados en políticas que se apliquen a toda la industria. «Aunque ningún sistema puede ser perfecto, vamos a seguir trabajando con expertos para orientar nuestro trabajo y sumar salvaguardas, como los controles parentales, los recordatorios de pausa y las protecciones del modelo adecuadas a cada edad que ya existen», agregó.

Un frente judicial que crece

La compañía enfrenta un escrutinio creciente por la seguridad de su producto. El fiscal general de Florida, James Uthmeier, la demandó en junio con el argumento de que lanzó a sabiendas un producto inseguro, y varias demandas por muerte injusta culpan a ChatGPT de empujar a usuarios a delirios y, en algunos casos, al suicidio, recordó CNBC. Además, el martes 13 se presentó en un tribunal federal de San Francisco una demanda colectiva que acusa a OpenAI de tomar datos de millones de chicos sin el consentimiento de sus padres, según NBC News.

OpenAI lanzó en agosto ChatGPT for Teens, una experiencia para menores con salvaguardas adecuadas a la edad, según CNBC. Meta y Roblox enfrentan reclamos similares por presuntos daños a chicos.

Fuentes: CNBC, NBC News, Fiscalía General de Iowa (comunicado citado por CNBC).