三名青少年在美國起訴 xAI，指控 Grok 產生兒童性剝削圖像

深潮 TechFlow 消息，3 月 18 日，據 International Business Times 報道，三名青少年女性在美國加州聯邦法院對 Elon Musk 旗下人工智慧公司 xAI 提起訴訟，指控其聊天機器人 Grok 在未經當事人同意的情況下，生成了涉及她們的兒童性剝削圖像。 訴訟要求獲得未指定金額的賠償，並申請立即禁令，阻止 Grok 繼續產生此類內容。 三名原告均選擇匿名，其中兩人尚未成年。

訴狀顯示，相關用戶利用 Grok 的影像處理功能篡改原告照片，將其製作成裸露或性暴力內容，並在私人 Discord 伺服器上傳播，受害者範圍涉及至少 18 名未成年人。 其中一名原告在收到匿名 Instagram 私訊後發現，其高中畢業照已被篡改為性暗示圖像。

原告律師指出，xAI 明知 Grok 的"Grok Imagine"功能（含"脫衣"選項）可產生此類內容，仍選擇公開發布，意在推動 Grok 及社交平台 X 的用戶增長。 根據"打擊數位仇恨中心"報告，該功能上線兩週內已生成逾 2 萬張涉及未成年人的性化圖像。