Los fiscales generales de ocho estados de Estados Unidos, entre ellos dos con gobiernos republicanos, han presentado este miércoles una demanda conjunta contra la empresa de inteligencia artificial OpenAI. Acusan a la compañía creadora de ChatGPT de “causar daño a niños, engañar a padres” y de vulnerar diversas normativas de protección de los consumidores.
Según el comunicado difundido por la Fiscalía de Iowa, “La fiscal general (de Iowa), Brenna Bird, ha anunciado hoy en una rueda de prensa que va a demandar a OpenAI por causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa”, una formulación que ha sido reproducida de forma prácticamente idéntica por las fiscalías de Arizona, Idaho, Nebraska y Virginia Occidental. Estos estados han registrado demandas separadas, al igual que Arkansas, Kansas y Montana.
El grupo de fiscales, en el que figuran responsables designados tanto por demócratas como por republicanos, sostiene que OpenAI ha continuado impulsando el desarrollo de sus herramientas de inteligencia artificial aun siendo consciente de que precisaban salvaguardas adicionales. Argumentan también que la compañía ha quebrantado las leyes de protección al consumidor de sus estados y que comercializa un producto que supone un riesgo para colectivos especialmente vulnerables, como los menores.
Varias de las fiscalías detallan en sus notas informativas que uno de los motivos de preocupación es el uso de ChatGPT para acceder a instrucciones sobre autolesiones e, incluso, sobre el suicidio. Entre quienes han puesto el foco en este punto figura el fiscal general de Arkansas, el republicano Tim Griffin, que subraya que, en numerosos casos, algunos usuarios “lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar”.
En la misma línea, la fiscal general de Arizona, la demócrata (y republicana hasta 2019) Kris Mayes, ha señalado que “OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, a pesar de existir claros indicios de que los menores interactuaban habitualmente con su chatbot”. Por ello, ha recalcado que su departamento tratará, mediante esta acción judicial, de “proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones”.
Las nuevas demandas se añaden a otros frentes judiciales abiertos contra OpenAI, en un contexto en el que los tribunales analizan hasta qué punto los desarrolladores de sistemas de IA pueden ser considerados responsables de episodios vinculados con la salud mental. En Canadá, por ejemplo, la familia de una joven que resultó gravemente herida en un tiroteo escolar ha denunciado a la compañía, alegando que esta conocía de antemano los planes del presunto autor y no avisó a las autoridades.
En la actualidad, el uso de ChatGPT está permitido a partir de los 13 años, aunque los menores de 18 necesitan el consentimiento de un progenitor o tutor legal. OpenAI sostiene que intenta comprobar la edad de quienes utilizan el servicio combinando la edad que declara el propio usuario, distintos indicadores de comportamiento y, cuando lo considera necesario, procesos adicionales de verificación.
El portavoz de la empresa, Drew Pusateri, ha defendido en un comunicado remitido a varios medios estadounidenses que la firma ha incorporado en sus herramientas “protecciones específicas por edad líderes en el sector”, de las que, según afirma, otras tecnológicas aún no disponen.
“Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen”, ha explicado el representante de OpenAI. También ha asegurado que sus directivos están “comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria, y no solo a una empresa”.