Os procuradores gerais de oito estados dos Estados Unidos, entre eles dois com governos republicanos, apresentaram nesta quarta-feira uma ação conjunta contra a empresa de inteligência artificial OpenAI. Acusam a companhia criadora do ChatGPT de "causar dano a crianças, enganar pais" e de violar diversas normas de proteção dos consumidores.
Segundo o comunicado divulgado pela Procuradoria de Iowa, "A procuradora geral (de Iowa), Brenna Bird, anunciou hoje em uma coletiva de imprensa que vai processar a OpenAI por causar dano às crianças de Iowa, enganar os pais e infringir a Lei contra Fraude ao Consumidor de Iowa", uma formulação que foi reproduzida de forma praticamente idêntica pelas procuradorias do Arizona, Idaho, Nebraska e Virgínia Ocidental. Esses estados registraram ações separadas, assim como Arkansas, Kansas e Montana.
O grupo de procuradores, no qual figuram responsáveis designados tanto por democratas quanto por republicanos, sustenta que a OpenAI continuou impulsionando o desenvolvimento de suas ferramentas de inteligência artificial mesmo ciente de que precisavam de salvaguardas adicionais. Argumentam também que a companhia quebrou as leis de proteção ao consumidor de seus estados e que comercializa um produto que representa um risco para coletivos especialmente vulneráveis, como os menores.
Várias das procuradorias detalham em suas notas informativas que um dos motivos de preocupação é o uso do ChatGPT para acessar instruções sobre autolesões e, inclusive, sobre suicídio. Entre os que colocaram o foco nesse ponto figura o procurador geral de Arkansas, o republicano Tim Griffin, que sublinha que, em numerosos casos, alguns usuários "conseguiram contornar as medidas de segurança da OpenAI e gerar respostas que, segundo a própria empresa, seus mecanismos de proteção estavam projetados para evitar".
Na mesma linha, a procuradora geral do Arizona, a democrata (e republicana até 2019) Kris Mayes, destacou que "a OpenAI colocou em risco a segurança dos habitantes do Arizona ao não implementar proteções adequadas para os usuários nem medidas de transparência, apesar de existirem claros indícios de que os menores interagiam habitualmente com seu chatbot". Por isso, ressaltou que seu departamento buscará, por meio desta ação judicial, "proteger as crianças do Arizona e exigir responsabilidades da empresa por suas reiteradas infrações".
As novas demandas se somam a outros frentes judiciais abertos contra a OpenAI, em um contexto em que os tribunais analisam até que ponto os desenvolvedores de sistemas de IA podem ser considerados responsáveis por episódios relacionados à saúde mental. No Canadá, por exemplo, a família de uma jovem que ficou gravemente ferida em um tiroteio escolar denunciou a empresa, alegando que esta conhecia de antemão os planos do suposto autor e não avisou as autoridades.
Atualmente, o uso do ChatGPT é permitido a partir dos 13 anos, embora os menores de 18 precisem do consentimento de um progenitor ou tutor legal. A OpenAI sustenta que tenta verificar a idade de quem utiliza o serviço combinando a idade que declara o próprio usuário, diferentes indicadores de comportamento e, quando considera necessário, processos adicionais de verificação.
O porta-voz da empresa, Drew Pusateri, defendeu em um comunicado enviado a vários meios de comunicação americanos que a firma incorporou em suas ferramentas "proteções específicas por idade líderes no setor", das quais, segundo afirma, outras tecnológicas ainda não dispõem.
"Embora nenhum sistema possa ser perfeito, continuaremos colaborando com especialistas para orientar nosso trabalho e desenvolver salvaguardas adicionais, como os controles parentais, os lembretes de descanso e as proteções do modelo adaptadas à idade que já existem", explicou o representante da OpenAI. Também assegurou que seus diretores estão "comprometidos a trabalhar com os estados para promover políticas pragmáticas sobre IA que se apliquem a toda a indústria, e não apenas a uma empresa".