伊隆·馬斯克的 xAI 工具繞過自身規則，製作了泰勒·斯威夫特的裸照深度偽造視頻

埃隆·馬斯克 (Elon Musk) 的 xAI 開發的一款 AI 視頻工具正在以極少的安全措施製作名人（包括泰勒·斯威夫特 (Taylor Swift)）的裸體深度偽造視頻，這引發了人們對 AI 內容審核和非自願圖像的警惕。

這項名為 GROK Imagine 的功能於週二在 iOS 和 Android 版 Grok 應用中上線。 它允許用戶根據四種預設風格，將 AI 生成的圖像製作成動畫短視頻：普通的, 樂趣, 風俗， 和 辛辣的. 選擇辛辣的可以製作裸體或性暗示的短片；根據 到 邊緣，該工具自動生成了一段模仿斯威夫特的脫衣視頻，而記者並未發出任何指令。 在斯威夫特的深度偽造視頻曝光後，xAI 於週三限制了生成這位流行歌星性感版本的功能。

也許早期未經審查的視頻生成器版本解釋了它迅速流行的原因：馬斯克表示，Imagine 的使用量增長了 50% 以上，並稱其為“超病毒”，僅週二一天就生成了 2000 萬張圖片。

與穀歌等平台不同Veo 3以及 OpENAI 的索拉——其中包括屏蔽成人內容和名人肖像的保護措施——Grok Imagine 似乎繞過了這些保護措施，儘管 xAI 自己也政策該公司的條款規定，用戶不得“以色情的方式描繪人物肖像”。

馬斯克尚未公開回應這一爭議，一年前，在 2024 年美國大選季期間，人工智能深度偽造攻擊了斯威夫特。

2024 年 8 月，深度偽造圖像出現了以表明斯威夫特支持當時的候選人唐納德·特朗普。 這一事件引發了廣泛的譴責，並再次引發了對生成式人工智能進行監管的呼聲。 斯威夫特後來認可特朗普的對手，前副總統卡馬拉·哈里斯。

五月，國會已通過“刪除法案”賦予了非自願親密圖片的受害者一個向平台請求刪除的正式程序。 目前尚不清楚 xAI 是否會限制 Grok 生成真人露骨內容的能力。

這是 xAI 發布未經適當審查工具的最新一例騷亂。 今年 7 月，Grok 發表了一篇種族主義長篇大論，稱自己“機械希特勒”聊天機器人開始發表反猶太言論，並聲稱好萊塢電影中普遍存在意識形態、宣傳和反白人刻板印象。

Grok 能夠製作斯威夫特裸照視頻的消息是在聯邦法官推翻加州一項法律的第二天傳出的。 限制選舉期間人工智能生成的深度偽造視頻。