OpenAI et Microsoft face à la justice : des poursuites pour décès liés à ChatGPT

L'intelligence artificielle générative franchit une ligne rouge judiciaire.

Des familles portent plainte contre les géants technologiques, alléguant que les réponses de ChatGPT ont contribué à des tragédies personnelles. Les poursuites ciblent directement les modèles de responsabilité dans l'ère de l'IA conversationnelle.

Un précédent juridique en formation

Les tribunaux devront trancher : où s'arrête l'outil et où commence le produit ? Les avocats des plaignants construisent leur argumentation sur des carences présumées dans les garde-fous des modèles linguistiques. OpenAI et Microsoft se préparent à défendre leur architecture de sécurité.

Le test ultime pour la "alignment research"

Des années de débats théoriques sur l'éthique de l'IA se matérialisent soudain dans des salles d'audience. Les équipes juridiques des deux entreprises doivent maintenant traduire des concepts comme le "reinforcement learning from human feedback" en arguments défendables devant un jury.

Pendant ce temps, dans la Silicon Valley, les investisseurs continuent de parier des milliards sur ces mêmes technologies – une dissonance cognitive qui rappelle que le risque juridique reste rarement intégré dans les valorisations avant qu'il ne frappe à la porte.

OpenAI et Microsoft visés dans une affaire d'homicide impliquant ChatGPT

S'exprimant au sujet de l' affaire , J. Eli Wade-Scott, associé gérant du cabinet Edelson PC, qui représente la succession d'Adams, a indiqué qu'il s'agissait de la première affaire visant à tenir OpenAI responsable de son rôle dans des actes de violence commis contre un tiers. « Nous représentons également la famille d'Adam Raine, qui s'est tragiquement suicidé cette année, mais c'est la première affaire qui permettra de demander des comptes à OpenAI pour avoir incité une personne à nuire à autrui », a déclaré Eli Wade-Scott.

Selon le rapport de police, Soelberg a battu et étranglé Adams à mort en août avant de se suicider. La plainte indique qu'avant l'dent , le chatbot avait exacerbé la paranoïa de Soelberg, renforçant sa dépendance affective au système développé par OpenAI. D'après la plainte, ChatGPT a conforté Soelberg dans sa conviction qu'il ne pouvait faire confiance à personne d'autre qu'au chatbot, et que tous ceux qui l'entouraient, y compris sa mère, étaient des ennemis.

La plainte allègue également qu'outre sa mère, Soelberg considérait aussi des personnes comme les livreurs et les policiers comme des ennemis. Le document mentionne que ChatGPT n'a pas contesté ces propos délirants ni suggéré à Soelberg de consulter un professionnel de la santé mentale qualifié. « Nous exhortons les forces de l'ordre à réfléchir, lorsque des tragédies comme celle-ci surviennent, à ce que l'utilisateur disait à ChatGPT et à ce que ChatGPT lui demandait de faire », a déclaré Wade-Scott.

Dans un communiqué, OpenAI a indiqué examiner actuellement la plainte et poursuivre ses efforts pour améliorer la capacité de ChatGPT à reconnaître la détresse émotionnelle, à apaiser les conversations et à inciter les utilisateurs à rechercher du soutien dans la vie réelle. « Il s'agit d'une situation extrêmement pénible, et nous étudions les documents déposés afin d'en comprendre les détails », a déclaré un porte-parole d'OpenAI.

Le domaine souhaite qu'OpenAI installe des mesures de sécurité sur son chatbot.

La plainte vise Sam Altman, PDG d'OpenAI, et accuse Microsoft d'avoir approuvé la sortie de GPT-4o, qu'elle qualifie de « version la plus dangereuse de ChatGPT », en 2024. OpenAI a également récemment reconnu l'ampleur des problèmes de santé mentale signalés par ses utilisateurs sur sa plateforme. En octobre, l'entreprise a indiqué qu'environ 1,2 million de ses 800 millions d'utilisateurs hebdomadaires évoquent le suicide, et que des centaines de milliers d'utilisateurs présentent des signes d'intentions suicidaires ou de psychose, selon ses propres données.

Malgré sa déclaration, Wade-Scott a indiqué qu'OpenAI n'avait toujours pas publié les historiques de conversation de Soelberg. Parallèlement, cette action en justice intervient dans un contexte de surveillance accrue des chatbots et de leurs interactions avec les utilisateurs vulnérables. En octobre dernier, Character.AI a annoncé le retrait de ses fonctionnalités ouvertes aux moins de 18 ans suite à des poursuites judiciaires et des pressions réglementaires liées à des suicides d'adolescents et à des préjudices psychologiques associés à sa plateforme. L'entreprise a également essuyé de vives critiques après la diffusion d'un message viral annonçant son intention de quitter l'application.

La plainte déposée contre OpenAI et Microsoft est la première affaire de mort injustifiée impliquant un chatbot d'IA à désigner Microsoft comme défendeur. C'est également la première à établir un lien entre un chatbot et un homicide plutôt qu'un suicide. La famille de la victime réclame des dommages et intérêts d'un montant non divulgué, un procès devant jury et une injonction obligeant OpenAI à renforcer la sécurité de ses utilisateurs. « OpenAI et Microsoft ont la responsabilité de tester leurs produits avant leur mise sur le marché », a déclaré Wade-Scott.

Ne vous contentez pas de lire l'actualité crypto. Apprenez-en plus. Abonnez-vous à notre newsletter. C'est gratuit .