OpenAI和微軟因ChatGPT涉嫌參與康涅狄格州謀殺-自殺案而被起訴

在針對人工智能開發商 OpENAI 的最新訴訟中，一位 83 歲的康涅狄格州婦女的遺產管理人起訴了 ChatGPT 的開發商和微軟，聲稱該聊天機器人證實了在謀殺-自殺事件發生前產生的妄想信念——這是將人工智能係統與兇殺案聯繫起來的第一起案件。

這訴訟上週在舊金山加州高等法院提起的訴訟指控 OPEnAI 設計並分發了有缺陷的產品 GPT-4o，該產品強化了斯坦-埃里克·索爾伯格的偏執信念，隨后索爾伯格將這些信念指向了他的母親蘇珊娜·亞當斯，之後他在康涅狄格州格林威治的家中殺死了她，然後自殺。

“這是首例試圖追究OPenAI對第三方造成暴力傷害責任的案件，”代表亞當斯遺產的埃德爾森律師事務所管理合夥人J·伊萊·韋德-斯科特告訴記者。 解密“我們也代表以下家庭……”亞當·雷恩他今年不幸自殺身亡，但這是第一起追究 OpenAI 責任，指控其唆使他人傷害他人的案件。

警方稱，索爾伯格毆打並勒死了亞當斯。 八月在自殺身亡之前，訴訟稱，在事件發生前，ChatGPT加劇了索爾伯格的妄想症，並導致他對聊天機器人產生了情感依賴。

根據訴狀，聊天機器人強化了索爾伯格的信念，讓他除了ChatGPT之外誰都不能信任，並將他周圍的人，包括他的母親、警察和送貨司機，都描繪成敵人。 訴訟還稱，ChatGPT沒有對這些妄想提出質疑，也沒有建議索爾伯格尋求心理健康專家的幫助。

韋德-斯科特說：“我們敦促執法部門開始思考，當此類悲劇發生時，該用戶對 ChatGPT 說了什麼，以及 ChatGPT 指示他們做什麼。”

OpenAI 在一份聲明中表示，他們正在審查這起訴訟，並將繼續改進 ChatGPT 識別情緒困擾、緩和對話以及引導用戶獲得現實世界支持的能力。

OpenAI 的一位發言人在一份聲明中表示：“這是一個令人無比心痛的情況，我們正在審查相關文件以了解詳情。”

該訴訟還將 OpenAI 首席執行官 Sam Altman 列為被告，並指控微軟批准在 2024 年發布 GPT-4o，稱其為“更危險的 ChatGPT 版本”。

OpenAI 已承認其平台用戶存在嚴重的心理健康問題。 該公司在 10 月份披露，約120萬ChatGPT每週約有8億用戶，其中每週都有人討論自殺問題，數十萬用戶表現出自殺傾向或自殺傾向。 精神病根據公司數據，儘管如此，韋德-斯科特表示，OpenAI 尚未公佈索爾伯格的聊天記錄。

這場訴訟正值人工智能聊天機器人及其與弱勢用戶互動受到更廣泛審查之際。 10月份，ChARacter.AI表示將……消除在與青少年自殺和與其平台相關的情感傷害相關的訴訟和監管壓力之後，該平台取消了面向 18 歲以下用戶的開放式聊天功能。

Character.AI 也面臨過反彈成年用戶中出現了大量賬戶刪除事件，其中一則病毒式傳播的提示警告用戶，如果他們退出該應用程序，就會失去“我們共同擁有的愛”，這引發了對情緒化設計做法的批評。

針對OpenAI和微軟的訴訟是首例將微軟列為被告的涉及人工智能聊天機器人的非正常死亡案件，也是首例將聊天機器人與他殺而非自殺聯繫起來的案件。 死者家屬尋求未指明的賠償金、陪審團審判以及法院命令OpenAI安裝額外的安全措施。

“這是一項極其強大的技術，由一家正迅速成為全球最強大公司之一的企業開發，該公司有責任開發和部署安全的產品，而不是像這次一樣，為用戶構建虛幻世界，危及周圍所有人的安全，”韋德-斯科特說道。 “OpenAI和微軟有責任在產品正式發布前進行測試。”

微軟尚未對此事作出回應。 解密。