Les procureurs généraux de huit États des États-Unis, dont deux avec des gouvernements républicains, ont déposé ce mercredi une plainte conjointe contre l'entreprise d'intelligence artificielle OpenAI. Ils accusent la société créatrice de ChatGPT de "causer du tort aux enfants, tromper les parents" et de violer diverses réglementations de protection des consommateurs.
Selon le communiqué diffusé par le bureau du procureur de l'Iowa, "Le procureur général (de l'Iowa), Brenna Bird, a annoncé aujourd'hui lors d'une conférence de presse qu'elle allait poursuivre OpenAI pour causer du tort aux enfants de l'Iowa, tromper les parents et enfreindre la Loi contre la Fraude aux Consommateurs de l'Iowa", une formulation qui a été reproduite de manière pratiquement identique par les bureaux des procureurs de l'Arizona, de l'Idaho, du Nebraska et de la Virginie-Occidentale. Ces États ont enregistré des plaintes séparées, tout comme l'Arkansas, le Kansas et le Montana.
Le groupe de procureurs, qui comprend des responsables désignés à la fois par des démocrates et des républicains, soutient qu'OpenAI a continué à promouvoir le développement de ses outils d'intelligence artificielle tout en étant consciente qu'ils nécessitaient des sauvegardes supplémentaires. Ils soutiennent également que la société a enfreint les lois de protection des consommateurs de leurs États et qu'elle commercialise un produit qui représente un risque pour des groupes particulièrement vulnérables, comme les mineurs.
Plusieurs bureaux des procureurs détaillent dans leurs notes d'information qu'un des motifs de préoccupation est l'utilisation de ChatGPT pour accéder à des instructions sur l'automutilation et, même, sur le suicide. Parmi ceux qui ont mis l'accent sur ce point figure le procureur général de l'Arkansas, le républicain Tim Griffin, qui souligne que, dans de nombreux cas, certains utilisateurs "ont réussi à contourner les mesures de sécurité d'OpenAI et à générer des réponses que, selon la propre entreprise, ses mécanismes de protection étaient conçus pour éviter".
Dans le même ordre d'idées, la procureure générale de l'Arizona, la démocrate (et républicaine jusqu'en 2019) Kris Mayes, a souligné que "OpenAI a mis en danger la sécurité des habitants de l'Arizona en ne mettant pas en œuvre des protections adéquates pour les utilisateurs ni des mesures de transparence, malgré des indications claires que les mineurs interagissaient régulièrement avec son chatbot". Pour cela, elle a souligné que son département cherchera, par cette action en justice, à "protéger les enfants de l'Arizona et à tenir l'entreprise responsable de ses violations répétées".
Les nouvelles demandes s'ajoutent à d'autres fronts judiciaires ouverts contre OpenAI, dans un contexte où les tribunaux analysent dans quelle mesure les développeurs de systèmes d'IA peuvent être considérés comme responsables d'épisodes liés à la santé mentale. Au Canada, par exemple, la famille d'une jeune femme gravement blessée lors d'une fusillade scolaire a poursuivi la société, affirmant qu'elle connaissait à l'avance les plans de l'auteur présumé et n'a pas averti les autorités.
Actuellement, l'utilisation de ChatGPT est autorisée à partir de 13 ans, bien que les mineurs de moins de 18 ans aient besoin du consentement d'un parent ou tuteur légal. OpenAI soutient qu'elle essaie de vérifier l'âge de ceux qui utilisent le service en combinant l'âge déclaré par l'utilisateur lui-même, différents indicateurs de comportement et, lorsqu'elle le juge nécessaire, des processus de vérification supplémentaires.
Le porte-parole de l'entreprise, Drew Pusateri, a défendu dans un communiqué envoyé à plusieurs médias américains que la société a intégré dans ses outils "des protections spécifiques par âge leaders dans le secteur", dont, selon lui, d'autres entreprises technologiques ne disposent pas encore.
"Bien qu'aucun système ne puisse être parfait, nous continuerons à collaborer avec des experts pour orienter notre travail et développer des sauvegardes supplémentaires, comme les contrôles parentaux, les rappels de pause et les protections du modèle adaptées à l'âge qui existent déjà", a expliqué le représentant d'OpenAI. Il a également assuré que ses dirigeants sont "engagés à travailler avec les États pour promouvoir des politiques pragmatiques sur l'IA qui s'appliquent à toute l'industrie, et pas seulement à une entreprise".