Els fiscals generals de vuit estats dels Estats Units, entre ells dos amb governs republicans, han presentat aquest dimecres una demanda conjunta contra l'empresa d'intel·ligència artificial OpenAI. Acusen la companyia creadora de ChatGPT de "causar danys als nens, enganyar als pares" i de vulnerar diverses normatives de protecció dels consumidors.
Segons el comunicat difós per la Fiscalia d'Iowa, "La fiscal general (d'Iowa), Brenna Bird, ha anunciat avui en una roda de premsa que va a demandar a OpenAI per causar danys als nens d'Iowa, enganyar als pares i infringir la Llei contra el Fraude al Consumidor d'Iowa", una formulació que ha estat reproduïda de forma pràcticament idèntica per les fiscalies d'Arizona, Idaho, Nebraska i Virgínia Occidental. Aquests estats han registrat demandes separades, igual que Arkansas, Kansas i Montana.
El grup de fiscals, en el qual figuren responsables designats tant per demòcrates com per republicans, sosté que OpenAI ha continuat impulsant el desenvolupament de les seves eines d'intel·ligència artificial tot i ser conscient que necessitaven salvaguardes addicionals. Argumenten també que la companyia ha trencat les lleis de protecció al consumidor dels seus estats i que comercialitza un producte que suposa un risc per a col·lectius especialment vulnerables, com els menors.
Vàries de les fiscalies detallen en les seves notes informatives que un dels motius de preocupació és l'ús de ChatGPT per accedir a instruccions sobre autolesions i, fins i tot, sobre el suïcidi. Entre qui han posat el focus en aquest punt figura el fiscal general d'Arkansas, el republicà Tim Griffin, que subratlla que, en nombrosos casos, alguns usuaris "van aconseguir eludir les mesures de seguretat d'OpenAI i generar respostes que, segons l'empresa mateixa, els seus mecanismes de protecció estaven dissenyats per evitar".
En la mateixa línia, la fiscal general d'Arizona, la demòcrata (i republicana fins al 2019) Kris Mayes, ha assenyalat que "OpenAI va posar en risc la seguretat dels habitants d'Arizona en no implementar proteccions adequades per als usuaris ni mesures de transparència, malgrat existir clars indicis que els menors interactuaven habitualment amb el seu chatbot". Per això, ha recalcat que el seu departament tractarà, mitjançant aquesta acció judicial, de "protegir els nens d'Arizona i exigir responsabilitats a l'empresa per les seves reiterades infraccions".
Les noves demandes s'afegeixen a altres fronts judicials oberts contra OpenAI, en un context en què els tribunals analitzen fins a quin punt els desenvolupadors de sistemes d'IA poden ser considerats responsables d'episodis vinculats amb la salut mental. A Canadà, per exemple, la família d'una jove que va resultar greument ferida en un tiroteig escolar ha denunciat la companyia, al·legant que aquesta coneixia d'antuvi els plans de l'presumpte autor i no va avisar les autoritats.
Actualment, l'ús de ChatGPT està permès a partir dels 13 anys, tot i que els menors de 18 necessiten el consentiment d'un progenitor o tutor legal. OpenAI sosté que intenta comprovar l'edat dels qui utilitzen el servei combinant l'edat que declara el propi usuari, diferents indicadors de comportament i, quan ho considera necessari, processos addicionals de verificació.
El portaveu de l'empresa, Drew Pusateri, ha defensat en un comunicat remès a diversos mitjans nord-americans que la firma ha incorporat en les seves eines "proteccions específiques per edat líders en el sector", de les quals, segons afirma, altres tecnològiques encara no disposen.
"Si bé cap sistema pot ser perfecte, continuarem col·laborant amb experts per orientar la nostra feina i desenvolupar salvaguardes addicionals, com els controls parentals, els recordatoris de descans i les proteccions del model adaptades a l'edat que ja existeixen", ha explicat el representant d'OpenAI. També ha assegurat que els seus directius estan "compromesos a treballar amb els estats per promoure polítiques pragmàtiques sobre IA que s'apliquin a tota la indústria, i no només a una empresa".