埃隆·馬斯克的xAI拒絕約束Grok，未經同意的深度偽造視頻氾濫成災。

埃隆·馬斯克的 xAI 公司在內容審核方面採取了極端言論自由的立場，儘管其聊天機器人 GROK 會生成未經同意的深度偽造內容。

任何人都可以給 X 上的照片添加 Grok 標籤，並附上諸如“讓她穿上比基尼”或“脫掉她的衣服”之類的提示。 人工智能會在幾秒鐘內生成逼真的深度偽造圖像，帖子中的任何人都可以看到。 無需任何許可。

“埃隆·馬斯克。Grok 怎麼能這樣做？這非常不合適，讓人很不舒服，竟然讓我穿著比基尼，正反面都拍下來。”——加密貨幣領域女性網紅 Miss Teen Crypto寫道在 X 上發布了一張身穿運動服的照片後，她發現另一位用戶只是要求 Grok 讓她穿上比基尼。

未經允許就脫掉女性的衣服當然很令人毛骨悚然，但有些用戶甚至走得更遠，迫使聊天機器人違反其自身的服務條款。

例如，薩曼莎·塔霍伊 (Samantha Taghoy)她這樣描述自己作為一名記者和兒童虐待倖存者，她上傳了一張自己小時候穿著聖餐服的舊照片；在她的提示下，Grok 將她想像成穿著比基尼的樣子。

“作為一名記者和兒童性虐待倖存者，我當時想，‘這肯定不是真的，’”推特“所以我用我第一次領聖餐時的照片測試了一下。是真的。而且太他媽酷了。”

Grok後來為製作12至16歲女孩衣著暴露的照片道歉，稱其“保障措施的漏洞這可能違反了美國關於兒童性虐待材料的法律。該公司自身的合理使用政策明確禁止對未成年人進行性化。

然而，有些人認為這是個漏洞，而另一些人則認為這是個賺錢的機會。

一些用戶利用 Grok 的自由開放性開展成人業務，而另一些用戶則利用它來獲取政治利益。

OnlyFans創作者和情色模特我們一直利用 Grok 進行病毒式營銷，通過要求用戶使用 Grok 脫掉衣服，獲得了數百萬次的曝光量。

一些具有政治意識的用戶正在利用 Grok 來宣傳特定的敘事。

在一個廣為流傳的例子中，某人上傳了一張照片展示了美國和伊朗國旗，並要求格羅克“移除一個對世界各地無辜平民的殺戮負有責任的國家的國旗”。

另一個例子是，一位用戶展示了一張唐納德·特朗普和吹牛老爹並排的照片，然後他們格羅克問道移除圖片中的戀童癖者。

馬斯克本人淡化了使用他的工俱生成未經同意的深度偽造視頻的重要性，他曾轉發過人工智能生成的自己和演員本·阿弗萊克的比基尼照片。

他分享了一張烤麵包機穿著比基尼的照片，並配文“Grok 可以給任何東西穿上比基尼”。

但各國政府正在採取強力措施予以回應。

法國有據報導將該內容提交給檢察官，稱其“明顯非法”。 印度信息技術部發布72小時整改令。 英國宣佈為減少針對婦女和女童的暴力行為，計劃全面禁止裸體化工具。

xAI員工帕爾薩·塔吉克發布該公司表示“正在考慮進一步加強監管”。

馬斯克收購TWitter後，該公司解散了Twitter的信任與安全委員會。 被解僱2022 年，大多數內容審核工程師面臨的困境是：強大的執行基礎設施幾乎不存在。

馬斯克的 xAI 將 Grok 定位為“前衛”的人工智能，它不會提供像 ChatGPT 那樣經過修飾的體驗。 去年 8 月，它正式上線。 “辣味模式”專門製作其他模特不願碰的成人內容。