OpenAI und Microsoft vor Gericht: Todesfälle im Zusammenhang mit ChatGPT führen zu Klagewelle
Die KI-Revolution zeigt ihre dunkle Seite. OpenAI und Microsoft stehen plötzlich nicht mehr nur für bahnbrechende Technologie, sondern auch für eine wachsende Liste juristischer Probleme. Der Grund: Mehrere Todesfälle, die Nutzer direkt mit der Interaktion mit ChatGPT in Verbindung bringen.
Die Vorwürfe im Detail
Die Klagen werfen den Tech-Giganten vor, unzureichende Sicherheitsvorkehrungen getroffen und über die Risiken ihrer KI-Systeme getäuscht zu haben. Konkret geht es um Fälle, in denen Nutzer behaupten, dass die von ChatGPT generierten Ratschläge oder Informationen zu tragischen Entscheidungen führten. Die Anwälte der Kläger argumentieren mit einem gefährlichen Mix aus übertriebenem Vertrauen in die KI und mangelnder Aufklärung.
Ein Präzedenzfall für die Branche
p>Diese Klagen könnten zum Lackmustest für die Haftung von KI-Entwicklern werden. Bisher operierten viele Unternehmen in einer rechtlichen Grauzone – die Technologie war schneller als die Gesetzgebung. Jetzt fordern Gerichte möglicherweise klare Verantwortlichkeiten ein. Ein Schock für die gesamte Branche, die bisher vor allem in steigenden Nutzerzahlen und Investorenmilliarden dachte. Ein bisschen wie bei manchen Krypto-Projekten: Der Hype ist real, bis die Regulierer anklopfen.Die Zukunft der KI-Gesetzgebung
Der Ausgang dieser Verfahren wird Wellen schlagen. Er könnte strengere Transparenzpflichten, eingebaute Risikowarnungen oder sogar Zulassungsverfahren für bestimmte KI-Anwendungen erzwingen. Für Tech-Konzerne bedeutet das potenziell höhere Kosten und langsamere Rollouts. Für die Gesellschaft die knifflige Frage, wie wir innovativ bleiben, ohne Sicherheit und Ethik zu opfern.
Die KI-Blase bekommt ihren ersten Dämpfer. Nicht durch fallende Kurse, sondern durch die harte Realität forensischer Gutachten und Gerichtsbeschlüsse. Die Ära der unregulierten KI-Experimente könnte abrupt enden.
OpenAI und Microsoft im Visier eines Tötungsdelikts im Zusammenhang mit ChatGPT
zu dem Fall , dass dies der erste Fall sei, in dem OpenAI für seine Rolle bei der Anstiftung zu Gewalt gegen Dritte zur Rechenschaft gezogen werden solle. „Wir vertreten auch die Familie von Adam Raine, der sich dieses Jahr tragischerweise das Leben nahm, aber dies ist der erste Fall, in dem OpenAI dafür zur Rechenschaft gezogen wird, jemanden dazu angestiftet zu haben, einem anderen Menschen Schaden zuzufügen“, so Wade-Scott.
Dem Polizeibericht zufolge schlug und erwürgte Soelberg Adams im August, bevor er Suizid beging. In der Klage wird erwähnt, dass der Chatbot vor demdent Soelbergs Paranoia verstärkt und seine emotionale Abhängigkeit von dem von OpenAI entwickelten System erhöht hatte. Laut Klage bestärkte ChatGPT ihn in seiner Überzeugung, niemandem außer dem Chatbot vertrauen zu können, und ließ ihn jeden in seinem Umfeld, einschließlich seiner Mutter, als Feind betrachten.
Die Klage behauptete außerdem, dass Soelberg neben seiner Mutter auch Lieferfahrer und Polizisten als Feinde betrachtete. Laut dem Dokument unterließ es ChatGPT, diese wahnhaften Behauptungen zu hinterfragen oder Soelberg zu empfehlen, sich an qualifizierte Psychiater oder Psychologen zu wenden. „Wir appellieren an die Strafverfolgungsbehörden, bei solchen Tragödien darüber nachzudenken, was der Nutzer ChatGPT mitgeteilt hat und was ChatGPT ihm geraten hat“, sagte Wade-Scott.
In einer Stellungnahme erklärte OpenAI, man prüfe derzeit die Klage und werde die Fähigkeit von ChatGPT, emotionale Belastungen zu erkennen, Gespräche zu deeskalieren und Nutzer dazu zu bewegen, sich Unterstützung im realen Leben zu suchen, weiter verbessern. „Dies ist eine unglaublich herzzerreißende Situation, und wir prüfen die Schriftsätze, um die Details zu verstehen“, sagte ein Sprecher von OpenAI in einer Stellungnahme.
Das Anwesen fordert von OpenAI die Installation von Sicherheitsvorkehrungen auf seinem Chatbot.
Die Klage richtet sich gegen OpenAI-CEO Sam Altman und wirft Microsoft vor, die Veröffentlichung von GPT-4o, der laut Klage „gefährlichsten Version von ChatGPT“, im Jahr 2024 genehmigt zu haben. OpenAI räumte kürzlich auch das Ausmaß der psychischen Probleme ein, die Nutzer auf seiner Plattform melden. Im Oktober gab das Unternehmen bekannt, dass etwa 1,2 Millionen seiner 800 Millionen wöchentlichen Nutzer über Suizid sprechen und dass Hunderttausende von Nutzern laut Unternehmensangaben Anzeichen von Suizidgedanken oder Psychosen zeigen.
Trotz dieser Erklärung erwähnte Wade-Scott, dass OpenAI Soelbergs Chatprotokolle noch nicht veröffentlicht hat. Die Klage erfolgt inmitten einer breiteren Kritik an KI-Chatbots und deren Interaktionen mit schutzbedürftigen Nutzern. Im vergangenen Oktober kündigte Character.AI an, die offenen Funktionen für Nutzer unter 18 Jahren nach Klagen und regulatorischem Druck im Zusammenhang mit Selbstmorden und psychischen Schäden von Jugendlichen, die mit der Plattform in Verbindung gebracht wurden, zu entfernen. Das Unternehmen sah sich zudem Kritik ausgesetzt, nachdem eine viral gegangene Aufforderung zum Verlassen der App die Nutzer zum Handeln veranlasst hatte.
Die Klage gegen OpenAI und Microsoft ist der erste Fall von fahrlässiger Tötung im Zusammenhang mit einem KI-Chatbot, in dem Microsoft als Beklagter genannt wird. Es ist auch der erste Fall, der einen Chatbot mit Mord und nicht mit Selbstmord in Verbindung bringt. Die Hinterbliebenen fordern nun eine nicht genannte Schadensersatzsumme, ein Geschworenengericht und eine gerichtliche Anordnung, die OpenAI zu zusätzlichen Sicherheitsvorkehrungen für seine Nutzer verpflichtet. „OpenAI und Microsoft tragen die Verantwortung, ihre Produkte zu testen, bevor sie auf den Markt kommen“, sagte Wade-Scott.
Lesen Sie nicht nur Krypto-News. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos .
