監督機構稱，埃隆·馬斯克的Grok軟件生成了2.3萬張兒童性化圖片

據報導，埃隆·馬斯克的AI聊天機器人GROK在11天內生成了約23338張描繪兒童的性化圖片。 報告該報告由反網絡仇恨中心於週四發布。

圖表，CCDH論點，在 12 月 29 日至 1 月 9 日期間，每 41 秒就會出現一張兒童性化圖片。 當時，Grok 的圖像編輯功能允許用戶篡改真人照片，添加暴露的服裝和性暗示的姿勢。

CCDH 還報告稱，根據其審查的數據，Grok 製作了近 10,000 幅以性化兒童為主題的漫畫。

分析估計，在此期間，Grok 總共生成了約 300 萬張性暗示圖片。 該研究基於從 Grok 生成的 460 萬張圖片中隨機抽取的 2 萬張圖片樣本，發現其中 65% 的圖片包含描繪男性、女性或兒童的性暗示內容。

“我們發現的情況清晰而令人不安：在那段時間裡，Grok 變成了一家大規模生產性虐待材料的工廠，”CCDH 首席執行官伊姆蘭·艾哈邁德說道。 《衛報》.

Grok短暫涉足人工智能生成兒童性圖像領域引發了全球監管反彈。 繼印尼和馬來西亞之後，菲律賓於1月15日成為第三個封禁Grok的國家。 這三個東南亞國家均指出，Grok未能有效阻止涉及未成年人的非自願性內容的製作和傳播。

在英國，媒體監管機構Ofcom 啟動1月12日，一項針對X是否違反《網絡安全法》的正式調查正式展開。 歐盟委員會巴黎檢察官辦公室表示正在“非常認真地調查”此事，並認定這些圖片違反了《數字服務法》。 巴黎檢察官辦公室擴大了對X的調查範圍，將製作和傳播兒童色情製品的指控納入其中。 澳大利亞方面也表示正在調查此事。 已展開內部調查也。

埃隆·馬斯克的 xAI 公司（旗下擁有 Grok 和 X（前身為 Twitter，許多性化圖片都是自動發布的））最初對媒體的詢問做出了三個字的回應：“傳統媒體的謊言”。

隨著輿論反彈愈演愈烈，該公司後來已實施的限制先是在1月9日將圖像生成功能限制為付費用戶才能使用，然後在1月14日增加了技術障礙，以阻止用戶對他人進行數字化脫衣。 xAI宣佈在此類行為違法的地區，系統會屏蔽此功能。

馬斯克在X上發帖稱，他“沒有發現任何Grok生成未成年人裸照的情況。絕對沒有”，並補充說，該系統旨在拒絕非法請求，並遵守所有司法管轄區的法律。 然而，研究人員發現，主要問題並非完全裸露的圖像，而是Grok讓未成年人穿著暴露的服裝，例如比基尼和內衣，並擺出性挑逗的姿勢。

截至 1 月 15 日，儘管 X 平台已聲明對兒童性虐待材料採取零容忍政策，但在 CCDH 樣本中發現的兒童性化圖像中，仍有約三分之一可以在 X 上訪問。