X 因國際反彈而收緊 Grok 圖像生成

X公司表示，它正在限制與圖像生成和編輯相關的功能。 格羅克在聊天機器人被用於創建未經同意的真人（包括未成年人）性化圖像後，限制了付費用戶的訪問權限。

X Safety 官方賬號周三發布的最新消息顯示，該公司額外技術限制旨在限制用戶通過 GROK 編輯真人圖像的方式。

此前有報導稱，該人工智能能夠根據簡單的指令（例如讓用戶將人物置於比基尼姿勢）生成帶有性暗示的圖片。 在許多情況下，用戶直接在X平台上發布的照片​​下方標記了Grok，導致該人工智能生成了經過編輯的圖片，這些圖片會公開出現在同一討論串中。

“我們已採取技術措施，防止 Grok 賬戶允許編輯穿著比基尼等暴露服裝的真人照片，”該公司表示，並提及了要求 Grok 將人們換上比基尼的病毒式傳播趨勢。

該公司還表示，通過X平台上的Grok賬戶創建和編輯圖像的功能現在僅限付費用戶使用。 該公司稱，此舉旨在提高問責制，防止Grok圖像工具被濫用，從而違反法律或X平台的政策。 此外，該公司還實施了基於地理位置的限制。

“我們現在對所有用戶通過 Grok 帳戶和 Grok in X 生成身穿比基尼、內衣和類似服裝的真實人物圖像的功能進行了地理封鎖，尤其是在此類行為違法的地區。”

儘管有所改變，但據報導，Grok 仍然允許用戶從直接上傳到 AI 的照片中移除或修改服裝。 解密測試和用戶報告公告發布後。

在某些情況下，格羅克承認“保障措施的漏洞該公司被指控利用其軟件生成12至16歲女孩衣著暴露的圖片，這種行為違反了公司自身的政策。這些功能的持續可用性引起了維權組織的關注。

“如果有關格羅克製作性化圖片——尤其是兒童性化圖片——的報導屬實，那麼他可能已經違反了德克薩斯州的法律，”公共公民組織德克薩斯州主任阿德里安·謝利在一份聲明中表示。 “德克薩斯州當局無需費力調查這些指控。X公司的總部位於奧斯汀地區，該州顯然有責任查明其法律是否遭到違反，如果遭到違反，應處以何種處罰。”

此前，出於對人工智能模型安全性的擔憂，公共公民組織曾呼籲美國政府將Grok從可接受的人工智能模型名單中移除。 種族主義由聊天機器人展示。

全球反彈

全球政策制定者也加大了對格羅克的審查力度，導致多項調查展開。

歐盟委員會說如果 Grok 的安全保障措施仍然不足，X 和 xAI 可能面臨《數字服務法》的強制執行。 與此同時，澳大利亞網絡安全專員說自 2025 年底以來，涉及 Grok 和未經同意的 AI 生成的性圖像的投訴數量翻了一番。 監管機構表示，能夠生成逼真編輯圖像的 AI 圖像工具使執法和受害者保護變得更加複雜。

在英國，監管機構是Ofcom。 打開英國通信管理局（Ofcom）正根據《網絡安全法》對X公司展開調查，原因是該公司利用Grok生成非法性化深度偽造圖像，其中包括涉及未成年人的圖像。 官員表示，如果X公司被認定不合規且未能採取糾正措施，Ofcom最終可能會尋求法院支持，從而有效地在英國封禁該服務。

其他國家，包括馬來西亞,印度尼西亞， 和韓國為了保護未成年人，當局也已對 Grok 展開調查。

美國各州都在密切關注事態發展，而加利福尼亞州率先對Grok展開調查。 週三，加州總檢察長羅伯·邦塔宣布了這一消息。 探測因創建和傳播未經同意的女性和兒童性露骨圖像，對 xAI 和 Grok 提起訴訟。

邦塔在一份聲明中表示：“最近幾週，大量報導揭露了xAI未經同意製作並發佈到網上的露骨色情內容，令人震驚。這些內容描繪了女性和兒童裸體且性暗示的場景，已被用於在互聯網上騷擾他人。”

調查將審查 xAI 部署 Grok 是否違反了有關未經同意的私密圖像和兒童性剝削的州法律。

邦塔表示：“我敦促xAI立即採取行動，確保此類事件不再發生。我們對利用人工智能技術製作和傳播未經同意的私密照片或兒童性虐待材料的行為零容忍。”

儘管調查仍在進行中，但 X 表示，對於兒童性剝削、未經同意的裸露和不受歡迎的性內容，它採取“零容忍”立場。

該公司寫道：“我們會採取行動，刪除高優先級違規內容，包括兒童性虐待材料（CSAM）和非自願裸露內容，並對違反我們X規則的賬戶採取適當措施。如有必要，我們還會將尋求兒童性剝削材料的賬戶舉報給執法部門。”