《堡壘之夜》修復了人工智能驅動的達斯·維達開始說髒話的問題
《堡壘之夜》遊戲開發商 EPIc Games 在遊戲中添加了一個由人工智能生成的達斯·維達角色，該角色基於已故配音演員詹姆斯·厄爾·瓊斯的授權肖像。 但事情很快就出了問題，因為玩家能夠誘導這個人工智能角色說出種族主義、恐同言論以及髒話。
推出於星期五作為《星球大戰》/《堡壘之夜》聯動活動的一部分，“Fortnite：銀河之戰” 達斯·維達在《堡壘之夜》中的對話是由紐約語音人工智能公司 ElevenLABs 創作的。 這個人工智能角色能夠實時回應玩家。
遊戲上線幾小時後，社交媒體上就開始流傳一些視頻，玩家們引誘這位由人工智能驅動的《星球大戰》反派說出種族歧視、恐同的辱罵和髒話。 玩家們甚至可以讓達斯·維達說出聽起來像仇恨言論、侮辱或其他髒話的詞語或名字。
多名玩家在社交媒體上分享了該角色使用貶義詞做出反應的視頻。 針對其中一個爆紅的視頻，EPic Games 表示已發布熱修復補丁來糾正維達令人意外的新詞彙。
該公司表示：“我們立即發布了修復程序，這種情況不會再發生。”寫道在 X 上。
在後續郵件中解密，Epic Games 承認在達斯維達加入 Fortnite 之前存在內容審核疏忽。
Epic Games 發言人表示：“雖然我們添加了幾條具體規則和說明作為防護措施的一部分，以防止達斯·維達咒罵或重複髒話，但在這種情況下，我們的過濾器沒有捕捉到髒話的特定變體。”解密“我們的修補程序專門針對這個詞。”
據該發言人介紹，AI 功能包含三層安全過濾器。 第一層是 Gemini 的可配置安全設置。 第二層添加了系統指令，以防止 AI 生成違反社區規則或可能對玩家造成傷害的響應。 第三層是最終審核，用於發現任何剩餘的違規行為，例如仇恨或露骨的語言、提及自殘或提及危險或非法活動。
AI 生成的達斯·維達是使用詹姆斯·厄爾·瓊斯的存檔錄音創建的。 瓊斯於 2024 年去世，此前他已將自己的配音授權給盧卡斯影業，使得該角色的形像在他去世後仍能在新媒體上繼續展現。
Epic Games 在一份聲明中表示：“如果沒有詹姆斯·厄爾·瓊斯的傳奇演繹，達斯·維達就不會如此陰險，他在《星球大戰》系列電影中為維達配音。我們很榮幸能邀請已故瓊斯先生配音，並感謝他的遺產給予玩家這樣的機會。”
自 2023 年以來，該公司擁抱儘管競爭對手一直在努力阻止這項新興技術，但該公司仍通過其 Epic Games Store 平台開發生成式人工智能創作。
這並非《堡壘之夜》第一次因為 AI 生成內容而引發擔憂。 2024 年 1 月，Epic 匆忙清理了種族主義的因玩家強烈抗議，Epic Games 決定為用戶創建的島嶼添加 AI 圖像。 當時，Epic Games 表示，所有用戶創建的島嶼在發布前都會經過審核員的審核，但團隊採取了較為謹慎的措施。
Epic Games 表示：“如果內容違規，我們要求審核團隊代表創作者假設其意圖良好，這樣我們就不會過度審查。”
編輯安德魯·海沃德
