歐盟調查X公司涉嫌未能遏制非法Grok人工智能內容傳播的行為。

歐盟委員會周一正式啟動調查，以查明 X 公司是否違反歐盟數字規則，涉嫌未能阻止其 GROK AI 聊天機器人生成和傳播非法內容，包括兒童性露骨圖片。

委員會周一表示，此次調查將評估該公司在部署 Grok 的圖像生成功能之前是否已妥善評估並降低了風險。 陳述.

歐盟委員會還表示，非法色情內容的實際產生和傳播已經造成了風險，使歐盟公民面臨嚴重傷害。

此事正值國際社會對 Grok 在製作未經同意的深度偽造視頻中所扮演的角色進行日益嚴格的審查之際。

兩週前，X實施了限制該公司將圖像生成功能限制為付費用戶使用，並增加了技術障礙，以防止用戶通過數字技術篡改人物照片，使其穿著暴露的服裝。 此外，該公司還在此類內容非法的地區對該功能進行了地域限制。

儘管採取了這些措施，研究人員發現，在CCDH樣本中識別出的兒童性化圖像中，約有三分之一仍然存在。 仍然可以通過 X 的平台訪問.

“通過這項調查，我們將確定 X 是否履行了其在《數字服務法》下的法律義務，或者它是否將歐洲公民（包括婦女和兒童）的權利視為其服務的附帶損害，”科技主權、安全和民主執行副總裁 Henna Virkkunen 在聲明中表示。

本月初，歐盟委員會發言人托馬斯·雷尼爾譴責X的“辛辣模式”功能在布魯塞爾舉行的新聞發布會上。

“這根本不是什麼辣味食物，這是違法的，這太可怕了，太令人作嘔了，這種東西在歐洲根本沒有立足之地。”雷尼爾說道。

cheqd聯合創始人兼首席執行官弗雷澤·愛德華茲告訴解密“每個創作者都應該能夠控制自己的肖像在人工智能生成的媒體中的使用方式。”

他表示，“圍繞深度偽造技術濫用的強烈反彈凸顯了互聯網本身的一個根本性缺陷。”

愛德華茲補充說：“目前仍然沒有原生方法來驗證是誰創建了一段合成內容，或者其使用是否獲得過授權”，這使得責任繼續“默認由像 X 這樣的中間人承擔，而不是由製造濫用行為的人承擔”。

如果屬實，正在調查的違規行為將構成對《數字服務法》第 34(1) 和 (2) 條、第 35(1) 條和第 42(2) 條的違反，這些條款要求平台評估和減輕系統性風險，包括非法內容傳播和與性別暴力相關的負面影響。

歐盟的調查延續了原定於2023年底發生的《數據保護法》案件，該案件最終導致了……1.4億美元12 月，X 公司因欺騙性設計、廣告透明度不足和限制研究人員訪問權限而被罰款 1.2 億歐元。

此後，委員會擴大了對 Grok 的審查範圍，包括此前對該聊天機器人生成的反猶太內容的擔憂。

解密已聯繫 xAI 以獲取更多評論。