《怪奇物語》AI視頻爆紅網絡，引發人們對深度偽造技術的擔憂。

本週，一段據稱使用 Kling AI 的 2.6 版運動控制技術製作的視頻在社交媒體上迅速走紅。 這段由巴西內容創作者 Eder Xavier 發布的視頻顯示，他完美地將自己的臉和身體與《怪奇物語》演員 Millie Bobby Brown、David HARbour 和 Finn Wolfhard 的臉和身體互換。

這些視頻在社交平台上廣泛傳播，在X平台上的觀看次數已超過1400萬次，此後又發布了其他版本。 這些視頻也引起了技術專家的關注，其中包括a16z的合作夥伴Justine Moore，她分享了Xavier在Instagram賬號上發布的視頻。

“我們還沒有做好準備，應對人工智能將如何迅速改變生產流程，”摩爾寫道“一些最新的視頻模型對好萊塢有著立竿見影的影響。可以以極低的成本進行無限次的角色替換。”

隨著圖像和視頻生成工具的不斷改進，出現了像谷歌的 Kling 這樣的新型號。 Veo 3.1和納米香蕉,面部融合以及 OpENAI 的索拉2研究人員警告說，隨著高質量合成媒體的普及，病毒式傳播的視頻片段中出現的技術可能會迅速從孤立的演示中傳播開來。

儘管觀眾對換身視頻的質量感到驚嘆，但專家警告說，這無疑會成為一種工具……冒充詐騙.

“閘門已經打開。竊取個人的數字形象——聲音、面孔——從未如此容易，現在，只需一張圖片就能將其栩栩如生地呈現出來。沒有人是安全的，”網絡安全公司首席調查官艾曼紐·薩利巴 (Emmanuelle Saliba) 表示。 GetReal安保人員告訴解密。

他說：“我們將開始看到各個層面的系統性濫用，從一對一的社會工程到有組織的虛假信息宣傳活動，再到對關鍵企業和機構的直接攻擊。”

薩利巴表示，《怪奇物語》演員出演的病毒式傳播視頻表明，目前針對虐待行為的防護措施有多麼薄弱。

“現在只需幾美元，任何人都能用一張照片生成政治人物、名人、首席執行官或普通人的全身視頻，”她說。 “目前沒有任何針對個人數字肖像的默認保護措施，也沒有任何身份保證。”

對於賓漢頓大學電氣與計算機工程系教授餘晨來說，全身角色替換超越了早期深度偽造工具中僅用於面部操作的範疇，並帶來了新的挑戰。

“全身角色替換代表著合成媒體能力的顯著提升，”陳告訴解密“這些系統必須同時處理姿態估計、骨骼跟踪、服裝和紋理遷移以及整個人體形態的自然運動合成。”

除了《怪奇物語》之外，創作者們還發布了萊昂納多·迪卡普里奧在電影《華爾街之狼》中身體互換的視頻。

陳教授表示：“早期的深度偽造技術主要在有限的操控空間內運作，側重於替換面部區域，而對畫面的其他部分基本不做任何改動。檢測方法可以利用合成面部和原始身體之間的邊界不一致，以及頭部運動與身體運動不自然同步時產生的瞬態偽影。”

陳繼續說道：“雖然金融詐騙和身份冒用詐騙仍然令人擔憂，但其他一些濫用途徑也值得關注。”陳表示，“未經同意的私密影像是最直接的危害途徑，因為這些工具降低了製作以真人為主角的合成露骨內容的技術門檻。”

薩利巴和陳都強調的其他威脅包括政治虛假信息和商業間諜活動，詐騙分子會冒充員工或首席執行官，發布捏造的“洩露”片段，繞過控制措施，並通過攻擊竊取憑證。 薩利巴說，在這種攻擊中，“視頻中可信的人會降低人們的懷疑，從而獲得進入關鍵企業內部的權限”。

目前還不清楚視頻中出現的製片公司或演員將如何回應，但陳表示，由於這些片段依賴於公開的人工智能模型，因此開發人員在實施安全措施方面發揮著至關重要的作用。

不過，他表示，責任應該由平台、政策制定者和最終用戶共同承擔，因為僅僅將責任歸咎於開發者可能行不通，並會扼殺有益的用途。

陳表示，隨著這些工具的普及，研究人員應該優先考慮能夠識別合成內容固有統計特徵的檢測模型，而不是依賴容易被剝離的元數據。

他表示：“平台應該同時投資於自動化檢測流程和人工審核能力，同時針對涉及公眾人物或潛在欺詐的高風險內容制定明確的升級程序。”他還補充說，政策制定者應該專注於建立明確的責任框架和強制披露要求。

陳說：“這些能力的快速普及意味著，今天制定的應對框架將在幾個月內而不是幾年內進行大規模測試。”