谷歌推出 SynthID 檢測器，當場抓獲作弊者

隨著深度偽造、虛假信息和人工智能輔助作弊在網絡和課堂上蔓延，谷歌 DEEPMind 於週二發布了 SynthID 探測器。 這款新工具可以掃描圖像、音頻、視頻和文本，查找谷歌日益壯大的 AI 模型套件嵌入的隱形水印。

設計用於在一個地方跨多種格式工作，SynthID Detector旨在通過識別谷歌人工智能（包括音頻人工智能）創建的內容來提高透明度筆記本LM、Lyria 和圖像生成器圖像，並突出顯示最有可能被加水印的部分。

谷歌在演示中表示：“對於文本，SynthID 會查看接下來要生成的單詞，並改變合適單詞選擇的概率，而不會影響整體文本質量和實用性。”

它補充道：“如果一段文字包含更多首選詞彙，SynthID 就會檢測到它被加了水印。”

SynthID 在文本生成過程中調整詞彙選擇的概率分數，並嵌入不可見的水印，該水印不會影響輸出的含義或可讀性。 此水印隨後可用於識別由 Google Gemini 應用或網絡工俱生成的內容。

Google 首次在2023年8月作為檢測 AI 生成圖像的工具。 隨著 SynthID Detector 的推出，谷歌擴展了此功能，使其涵蓋音頻、視頻和文本。

目前，SynthID Detector 僅提供有限版本，並且有記者、教育工作者、設計師和研究人員可以試用該程序。

隨著生成式人工智能工具的普及，教育工作者發現越來越難以確定學生的作品是否原創，即使是旨在反映個人經歷的作業也是如此。

最近報告 經過 紐約雜誌凸顯了這一日益嚴重的問題。

聖克拉拉大學的一位技術倫理學教授佈置了一篇個人反思論文，結果發現一名學生使用 ChatGPT 完成了它。

在小石城阿肯色大學，另一位教授發現學生依靠人工智能來撰寫課程介紹論文和課程目標。

儘管越來越多的學生利用其人工智能模型在課堂上作弊，OpENAI關閉該公司表示，由於準確率較低，將於 2023 年推出其 AI 檢測軟件。

OPEnAI 當時表示：“我們認識到識別人工智能編寫的文本一直是教育工作者討論的重要點，同樣重要的是認識到人工智能生成的文本分類器在課堂上的局限性和影響。”

人工智能作弊問題變得更加嚴重的是一些新工具，例如巧妙地Cluely 是一款旨在繞過 AI 檢測軟件的應用程序。 Cluely 由哥倫比亞大學前學生 Roy Lee 開發，可在桌面層面規避 AI 檢測。

李將該應用程序宣傳為一種在考試和麵試中作弊的方法，他籌集了 530 萬美元來開發該應用程序。

李之前曾告訴記者：“我在亞馬遜面試時上傳了一段自己使用它的視頻，之後它就火了。”解密“在使用它的過程中，我意識到用戶體驗真的很有趣——沒有人探索過這種半透明屏幕覆蓋的想法，它可以看到你的屏幕，聽到你的音頻，並充當你的電腦的第二個播放器。”

儘管 SynthID 等工具前景光明，但許多當前的 AI 檢測方法仍然不可靠。

10 月份，領先的 AI 探測器解密發現四大領先的人工智能檢測器中，只有 GrammARly、Quillbot、GPTZero 和 ZeroGPT 能夠決定是人類還是人工智能分別撰寫了美國《獨立宣言》。

編輯塞巴斯蒂安·辛克萊