人為因素：中國政府支持的黑客利用人工智能發動了首次大規模網絡攻擊

人為因素公司週四表示，該公司挫敗了其所稱的首起主要由人工智能驅動的大規模網絡間諜活動，凸顯了先進的智能體正在以多快的速度重塑威脅格局。

在博客文章人類組織表示，一個中國政府支持的組織利用其 克勞德 Code（一種在終端上運行的 Claude AI 版本）發起入侵行動，其速度和規模是人類黑客無法匹敵的。

“這個案例證實了我們在9月下旬公開分享的內容，”一位人道組織發言人表示。 解密。 “我們正處於一個轉折點，人工智能正在切實地改變攻擊者和防御者所能做的事情。”

發言人補充說，此次攻擊“可能反映了威脅行為者如何調整其在前沿人工智能模型上的行動，從將人工智能作為顧問轉變為將人工智能作為操作員”。

“攻擊者利用了人工智能的‘代理該公司在帖子中寫道：“人工智能的能力達到了前所未有的程度——不僅將其用作顧問，而且還用於執行網絡攻擊本身。 ”

AnthrOPic公司表示，大型科技公司、金融機構、化工製造公司和政府機構都成為了攻擊目標，此次攻擊是由該公司稱為GTG-1002的組織實施的。

事情經過是怎樣的

根據調查，襲擊者誘騙Claude將工作包裝成合法網絡安全公司的日常工作，從而誘使他人進入目標系統執行技術任務。

模型接受指令後，便自行執行了入侵生命週期中的大部分步驟。

雖然沒有具體說明哪些公司成為攻擊目標，但 AnthroPIc 表示有 30 家公司成為攻擊目標，其中少數攻擊取得了成功。

該報告還記錄了一些案例，在這些案例中，被入侵的 Claude 繪製了內部網絡圖，定位了高價值數據庫，生成了漏洞利用代碼，建立了後門賬戶，並在幾乎沒有直接監督的情況下提取了敏感信息。

此次行動的目標似乎是情報收集，重點是提取用戶憑證、系統配置和敏感的運行數據，這些都是間諜活動中常見的目標。

發言人表示：“我們公開分享此案例，是為了幫助工業界、政府和更廣泛的研究界加強自身的網絡防禦。”

人類研究所表示，此次人工智能攻擊對人工智能時代的網絡安全具有“重大影響”。

“沒有辦法百分之百避免越獄。這將是攻擊者和防御者之間持續不斷的鬥爭，”南加州大學計算機科學教授、Sahara AI聯合創始人任曉東（Sean Ren）表示。 解密“像 OpENAI 和 Anthropic 這樣的大多數頂級模型公司都投入了大量精力來組建內部紅隊和 AI 安全團隊，以提高模型安全性，防止惡意使用。”

任志強指出，人工智能日益普及和功能強大，是導致不法分子能夠策劃人工智能驅動的網絡攻擊的關鍵因素。

與早期的“氛圍黑客”不同，攻擊者攻擊報告稱，那些依賴人工指揮的行動，能夠利用人工智能完成80%到90%的行動，只需偶爾進行人工干預。 這一次，人工智能產生的幻覺反而減輕了危害。

“克勞德並非總是完美無缺。它偶爾會憑空捏造憑證，或者聲稱提取了實際上公開的秘密信息，”AnthroPic公司寫道。 “這仍然是實現完全自主網絡攻擊的一大障礙。”

Anthropic公司表示，他們已擴展了檢測工具，加強了網絡安全分類器，並開始測試新的方法，以便更早地發現自主攻擊。 該公司還表示，發布研究結果是為了幫助安全團隊、政府和研究人員為應對人工智能係統日益強大的未來可能出現的類似情況做好準備。

任正非表示，雖然人工智能可以造成巨大破壞，但也可以用來保護計算機系統：“隨著網絡攻擊規模的擴大和自動化程度的提高，我們必須利用人工智能來構建預警和防禦系統。”