參議員提出法案，擬禁止未成年人使用人工智能伴侶，擔憂其心理健康問題

週二，美國兩黨參議員提出一項法案，限制人工智能模型與兒童互動的方式，並警告稱人工智能夥伴會對未成年人的心理健康和情感福祉構成嚴重風險。

這項名為《GUARD 法案》的立法將禁止為未成年人提供人工智能伴侶，要求聊天機器人明確表明自己是非人類，並對那些面向未成年人、招攬或生成性內容的公司的產品和服務制定新的刑事處罰措施。

“在競相降低標準的過程中，人工智能公司正向孩子們推送危險的聊天機器人，並對產品導致性虐待、脅迫兒童自殘或自殺的行為視而不見，”該法案的共同發起人之一、康涅狄格州民主黨參議員理查德·布盧門撒爾（Richard Blumenthal）在一份聲明中表示。 陳述.

他補充道：“我們的立法對剝削性或操縱性人工智能施加了嚴格的保障措施，並輔以嚴厲的執法，包括刑事和民事處罰。大型科技公司一貫將利潤置於兒童安全之上，辜負了我們應該相信它們會自行做出正確決定的說法。”

問題的嚴重性令人警醒。 常識媒體 (Common Sense Media) 7 月份的一項調查顯示成立調查顯示，72%的青少年使用過人工智能伴侶，超過半數的青少年每月至少使用幾次。 約三分之一的青少年表示，他們使用人工智能進行社交或戀愛互動、尋求情感支持或練習對話——許多人表示，與人工智能的聊天感覺與和真人朋友的聊天一樣有意義。 同樣比例的青少年表示，他們會選擇人工智能伴侶而不是真人來討論嚴肅或私人問題。

隨著針對大型人工智能公司產品涉嫌導致青少年自殘和自殺的訴訟不斷增加，人們的擔憂也日益加深。 其中，16歲的亞當·雷恩（ADAm Raine）的父母已對OpenAI提起過失致死訴訟。 亞當在自殺前曾與ChatGPT討論過自殺。

該公司因其法律回應而受到批評，其中包括要求提供參加該青少年追悼會的人員名單和悼詞。 家屬的律師稱他們的行為是“蓄意騷擾”。

Holonym聯合創始人兼數字權利倡導者沙迪·埃爾·達馬蒂表示：“人工智能的發展速度比我們以往接觸過的任何技術都要快，我們已經看到它對行為、信仰和心理健康的影響。”解密.

“這看起來更像是核軍備競賽，而不是IPhone時代。我們談論的是能夠改變人們思維方式的技術，需要以嚴肅的、全球性的責任感來對待。”

埃爾·達馬蒂補充說，用戶權利對於確保用戶安全至關重要。 “如果你開發的工具會影響人們的生活和思維方式，那麼你就要對這些工具的使用方式負責，”他說。

這個問題不僅限於未成年人。 本週，OpENAI披露據公司數據顯示，每周有120萬用戶通過ChatGPT討論自殺話題，佔所有用戶的0.15%。 其中近50萬用戶表現出明確或隱含的自殺傾向，另有56萬用戶每週出現精神病或躁狂症狀，超過100萬用戶對聊天機器人表現出高度的情感依戀。

Reddit和其他平台上也湧現出一些論壇，供那些聲稱與人工智能機器人談戀愛的用戶交流。 在這些小組中，用戶們描述他們與人工智能“男友”和“女友”的關係，並分享人工智能生成的他們自己和“伴侶”的圖像。

面對日益增長的審查，OPEnAI 本月形成公司成立了一個由學者和非營利組織領導人組成的健康與人工智能專家委員會，旨在指導其產品如何處理心理健康方面的互動。 與此同時，首席執行官薩姆·奧特曼宣布，公司將……開始放鬆12月將對成人內容進行限制。