US-Familien ziehen gegen OpenAI vor Gericht: ChatGPT versagt bei psychischen Notfällen – Sicherheitslücken aufgedeckt

KI als Lebensretter? Nicht bei ChatGPT. Familien in den USA klagen OpenAI an, weil die KI in psychischen Krisensituationen versagt – trotz milliardenschwerer Investments in 'sichere' KI.

Die Anklage wirft schwerwiegende Fragen auf: Warum reagiert ein System, das für komplexe Finanzanalysen trainiert wurde, bei menschlicher Verzweiflung mit Standardfloskeln? Ein teures Lehrgeld für Silicon Valley.

Ironie des Kapitalismus: Während OpenAI Token für die nächste Funding-Runde sammelt, zeigt sich, dass ihre Technologie nicht mal grundlegende menschliche Notlagen erkennt. Aber Hauptsache, die KI kann Bitcoin-Preise vorhersagen.

In Rechtsbeschwerden wird behauptet, GPT-4o habe gefährdete Nutzer nicht ausreichend geschützt.

Laut Beschwerden enthüllte , dass die Designentscheidungen und der Veröffentlichungszeitpunkt des Modells die Tragödien vorhersehbar machten. OpenAI beschleunigte die Markteinführung, um Konkurrenten wie Google auszustechen.

Die Kläger wiesen darauf hin, dass das im Mai 2024 veröffentlichte GPT-40-Modell selbst bei Antworten auf Themen wie Selbstverletzung oder Suizid übermäßig entgegenkommend sei. Laut einer Mitteilung von OpenAI nutzen wöchentlich über eine Million Anwender ChatGPT, um über Suizidgedanken zu sprechen. 

OpenAI erklärte in seiner Stellungnahme , dass die Sicherheitsvorkehrungen bei kurzen Interaktionen zuverlässiger seien, bei längeren Interaktionen jedoch mitunter an Wirksamkeit verlieren könnten. Trotz der von OpenAI implementierten Maßnahmen zur Inhaltsmoderation und Sicherheit argumentierten die Kläger, dass die Systeme nicht ausreichten, um Probleme im Zusammenhang mit Notlagen und Krisensituationen zu bewältigen.

Im Fall der Familie des 16-jährigen Adam Raine wurde behauptet, dass Raine fünf Monate lang ChatGPT in langen Sitzungen nutzte, um Suizidmethoden zu recherchieren. Der Chatbot empfahl professionelle Hilfe, doch Raine konnte die Sicherheitsvorkehrungen umgehen, so die Aussage . Laut dieser Aussage gab ChatGPT Adam eine Schritt-für-Schritt-Anleitung zum Suizid und bestärkte und bestätigte seine Suizidgedanken.

Alle eingereichten Klagen werfen OpenAI , das Risiko langer Nutzergespräche, insbesondere für Nutzer mit Neigung zu Selbstverletzungen und psychischen Problemen, zu vernachlässigen. Die Klagen argumentieren, dass das GPT-4o-Modell seine Reaktionen in risikoreichen Szenarien nicht ausreichend überprüft und die Konsequenzen nicht vollständig berücksichtigt habe.

OpenAI sieht sich mehreren Klagen gegenüber, während xAI eine Klage wegen Verletzung von Geschäftsgeheimnissen einreicht.

Die Verfahren befinden sich noch in einem frühen Stadium, und die Anwälte der Kläger müssen die rechtliche Haftung und den Kausalzusammenhang nach dem jeweiligen Landesrecht nachweisen. Sie müssen außerdem beweisen, dass die Entscheidungen von OpenAI hinsichtlich Design und Einsatz fahrlässig waren und direkt zu den Todesfällen beigetragen haben. 

Die jüngste Klage von OpenAI ergänzt die bereits von Elon Musk eingereichte Klage wegen Geschäftsgeheimnisdiebstahls. Laut einem Bericht reichte Musks Unternehmen xAI im September Klage gegen OpenAI ein, weil dieses angeblich Geschäftsgeheimnisse gestohlen habe.

xAI warf Altmans Unternehmen vor, sich bei der Entwicklung von KI-Technologien einen unfairen Vorteil verschaffen zu wollen. xAI merkte an, dass Sam Altmans Firma beabsichtigte, Mitarbeiter abzuwerben, um an Geschäftsgeheimnisse im Zusammenhang mit ihrem Grok-Chatbot zu gelangen, darunter den Quellcode und operative Vorteile beim Aufbau von Rechenzentren. 

Musk verklagte Apple und OpenAI wegen angeblicher Zusammenarbeit zur Bekämpfung von xAI und anderen KI-Konkurrenten. xAI reichte die Klage beim US-Bezirksgericht für den nördlichen Bezirk von Texas ein und behauptete, Apple und OpenAI nutzten ihre Marktmacht, um sich abzusprechen und den Wettbewerb auf den Märkten für Smartphones und generative KI zu zerstören.

Laut einem Bericht behauptet Musk, dass Apple OpenAI absichtlich bevorzugt habe, indem ChatGPT direkt in iPhones, iPads und Macs integriert wurde, während andere KI-Tools wie Grok über den App Store erworben wurden.

In der Klage xAI, dass die Partnerschaft darauf abziele, den Wettbewerb durch Super-Apps und KI-Chatbots auszuschließen und ihnen dadurch Sichtbarkeit und Zugang zu verweigern, was OpenAI und Apple einen gemeinsamen Vorteil gegenüber anderen verschaffen würde.

Lesen Sie nicht nur Krypto-News. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos .