Ocho estados de EE.UU. acusan a OpenAI de no proteger a los menores frente a los riesgos de ChatGPT

La fiscalía sostiene que algunos usuarios lograron eludir las barreras de seguridad del chatbot y obtener respuestas que debían estar bloqueadas. OpenAI asegura que reforzará sus protecciones

Los fiscales generales de ocho estados de Estados Unidos han presentado este miércoles demandas contra OpenAI, la empresa responsable de ChatGPT, a la que acusan de poner en riesgo a los menores, engañar a sus padres e infringir las leyes de protección al consumidor. Dos de los estados implicados están gobernados por el Partido Republicano.

Las acciones judiciales se han presentado en Iowa, Arizona, Idaho, Nebraska, Virginia Occidental, Arkansas, Kansas y Montana. Las fiscalías sostienen que OpenAI ha continuado desarrollando sus productos de inteligencia artificial pese a conocer la necesidad de reforzar las medidas de seguridad para proteger a los usuarios más vulnerables.

Entre los principales motivos de preocupación figuran las respuestas que, según los denunciantes, ChatGPT puede proporcionar sobre autolesiones y suicidio, así como la posibilidad de eludir los mecanismos de protección del sistema.

La fiscal general de Iowa, Brenna Bird, ha anunciado la demanda contra OpenAI por considerar que la compañía ha causado daños a menores, engañado a sus padres e infringido la legislación estatal contra el fraude al consumidor.

Las demás fiscalías han presentado acusaciones similares. El fiscal general de Arkansas, el republicano Tim Griffin, ha denunciado que algunos usuarios consiguieron sortear las medidas de seguridad de OpenAI y obtener respuestas que, según la propia empresa, sus mecanismos de protección debían impedir.

La fiscal general de Arizona, Kris Mayes, del Partido Demócrata, también ha cuestionado las salvaguardias de la compañía. Mayes sostiene que OpenAI puso en riesgo a los habitantes de su estado al no implantar protecciones y medidas de transparencia suficientes, pese a los indicios de que los menores utilizaban habitualmente el chatbot.

Su oficina pretende que el procedimiento sirva para proteger a los niños y exigir responsabilidades a la empresa por las presuntas infracciones.

Las demandas reúnen a fiscales de ambos partidos políticos y se centran en la responsabilidad de OpenAI respecto a la seguridad de sus productos y la protección de los usuarios menores de edad.

La compañía ha rechazado las críticas y ha defendido las protecciones incorporadas a sus productos.

Su portavoz, Drew Pusateri, ha asegurado que OpenAI cuenta con medidas específicas para cada edad que, según la empresa, se encuentran entre las más avanzadas del sector.

El representante ha reconocido que ningún sistema puede ser perfecto, pero ha afirmado que la compañía seguirá colaborando con expertos para desarrollar nuevas salvaguardias. Entre las medidas que ha citado figuran los controles parentales, los recordatorios para hacer pausas y las protecciones del modelo adaptadas a la edad.

OpenAI también ha manifestado su disposición a colaborar con los estados para impulsar políticas de inteligencia artificial que se apliquen al conjunto de la industria y no únicamente a una empresa.

Las demandas se suman a otros procedimientos judiciales que cuestionan la responsabilidad de las empresas de inteligencia artificial ante determinados episodios relacionados con la salud mental y la seguridad de los usuarios.

En Canadá, la familia de una joven gravemente herida en un tiroteo escolar presentó una demanda contra una empresa de inteligencia artificial. La familia sostiene que la compañía conocía los planes del presunto autor y no alertó a las autoridades.

En Estados Unidos, ChatGPT está disponible para personas mayores de 13 años, mientras que los menores de 18 necesitan el permiso de un padre o tutor. OpenAI afirma que combina la edad declarada por los usuarios con señales de comportamiento y, cuando lo considera necesario, mecanismos de verificación de edad.

El resultado de las demandas de los ocho estados podría influir en el debate sobre las obligaciones legales de las empresas que desarrollan chatbots y sobre las medidas que deben adoptar para proteger a los menores. Por ahora, las acusaciones forman parte de procedimientos judiciales y deberán ser examinadas por los tribunales.