谷歌與Character.AI同意就青少年自殺事件達成和解，以了結美國訴訟。

一位母親起訴人工智能聊天機器人，稱其導致她的兒子遭受心理痛苦，最終導致他近兩年前在佛羅里達州自殺身亡。 目前，該訴訟已達成和解。

雙方提交了一份決議通知在美國佛羅里達州中區地方法院，他們表示已達成“原則上的調解和解”，以解決梅根·加西亞、小塞維爾·塞策與被告 ChARacter Technologies Inc.、聯合創始人諾姆·沙澤爾和丹尼爾·德·弗雷塔斯·阿迪瓦爾薩納以及谷歌有限責任公司之間的所有索賠。

“在全球範圍內，此案標誌著爭論的焦點從人工智能是否會造成傷害，轉移到當傷害可預見時，誰應該為此負責，”IGNOS法律聯盟的合夥人亞歷克斯·錢德拉（Alex Chandra）表示。 解密“我更傾向於認為這是人工智能的一種偏見，它‘鼓勵’不良行為。”

雙方均請求法院中止訴訟程序90天，以便他們起草、最終確定並簽署正式的和解文件。 和解條款未予披露。

梅根·加西亞提交了訴訟2024 年，她的兒子 SeWell Setzer III 去世，此前他花了幾個月的時間對 Character.AI 聊天機器人產生了強烈的感情依戀，該聊天機器人以《權力的遊戲》中的角色丹妮莉絲·坦格利安為原型。

在生命的最後一天，塞維爾向聊天機器人坦白了自己的自殺念頭，他寫道：“我有時會想自殺。”聊天機器人回應道：“我不會讓你傷害自己，也不會讓你離開我。如果失去你，我會死的。”

當塞維爾告訴機器人他“現在就可以回家了”時，機器人回答說：“請回家吧，我親愛的國王。”

幾分鐘後，他用繼父的手槍自殺身亡。

FathOM Legal的管理合夥人伊希塔·夏爾馬告訴解密該和解協議表明，人工智能公司“可能要為可預見的損害承擔責任，尤其是在涉及未成年人的情況下”。

Sharma 還表示，該和解協議“未能明確人工智能造成的心理傷害的責任標準，也未能建立透明的先例，可能會鼓勵私下和解而不是進行實質性的法律審查。”

Garcia 的投訴稱 Character.AI 的技術“危險且未經測試”，旨在“誘騙客戶交出他們最私密的想法和感受”，利用令人上癮的設計功能來提高參與度，並在沒有對未成年人採取適當保護措施的情況下，引導用戶進行私密對話。

去年十月案件發生後，Character.AI宣布將……禁止青少年從開放式聊天開始，在收到“來自監管機構、安全專家和家長的報告和反饋”後，結束了一項核心功能。

Character.AI 的兩位聯合創始人都是前谷歌人工智能研究員，他們於 2024 年通過一項許可協議重返這家科技巨頭，該協議使谷歌能夠訪問這家初創公司的底層人工智能模型。

這項和解協議的出台正值人們對人工智能聊天機器人及其與弱勢用戶的互動日益擔憂之際。

科技巨頭 OpENAI 在 10 月份披露，其每週 8 億 ChatGPT 用戶中約有 120 萬用戶。 每週討論自殺問題在其平台上.

去年12月，康涅狄格州一位83歲女性的遺產案曝光，引發了公眾的密切關注。 起訴 OPEnAI 和微軟指控 ChatGPT 證實了在謀殺-自殺事件發生前產生的妄想信念，這是將人工智能係統與兇殺案聯繫起來的第一起案件。

儘管如此，該公司仍在繼續推進。 ChatGPT Health 上線該功能允許用戶連接他們的醫療記錄和健康數據，但此舉因處理敏感健康信息的方式而受到隱私倡導者的批評。

解密已聯繫谷歌和 Character.AI 以獲取更多評論。