美國人工智能和數據公司將就中國人工智能間諜活動調查作證

據報導，美國立法者已傳喚多家人工智能開發公司，要求其解釋某些模型是如何成為廣泛間諜活動的一部分的。

其中包括人為因素公司首席執行官達里奧·阿莫迪，據報導，他被要求於12月17日出席眾議院國土安全委員會的聽證會，解釋中國政府行為體如何使用克勞德代碼。 Axios報告週三發布的消息稱，消息來源是私下分享的信件。

本月初，人本披露據稱，一個與中國政府有關聯的黑客組織利用其工具 克勞德·科德 發起了該公司所稱的首次大規模網絡行動，該行動很大程度上由人工智能係統自動化完成。

攻擊者以 GTG-1002 的名義開展活動，精心策劃了一場針對約 30 個組織的攻擊活動。 Claude Code根據 AnthrOPic 的描述，處理大多數階段包括：偵察、漏洞掃描、漏洞利用創建、憑證收集和數據洩露。

負責後續調查的是眾議員安德魯·加巴里諾（紐約州共和黨籍），以及兩位小組委員會主席。

委員會希望阿莫迪詳細說明Anthropic何時首次發現該活動，攻擊者如何在攻擊的不同階段利用其模型，以及隨著攻擊活動的進行，哪些安全措施失效或奏效。 據Axios報導，谷歌云和Quantum Xchange的高管也將出席聽證會。

“我們首次看到外國敵對勢力利用商業人工智能係統，在幾乎無需人為乾預的情況下，實施了幾乎整個網絡行動，”加爾巴里諾在最初報告中引用的一份聲明中表示。 “這應該引起每個聯邦機構和每個關鍵基礎設施部門的關注。”

解密已聯繫眾議員加爾巴里諾、谷歌云、量子交換和 AnthroPIc 徵求意見。

國會的審查緊隨英國軍情五處發出的另一份警告之後，該機構上週發布了這份警告。 警報在發現中國情報人員使用虛假招聘人員資料鎖定英國議員、貴族和議會工作人員後，向英國立法者發出警告。

英國安全部長丹·賈維斯在聲明中表示，英國政府雖然尋求“繼續與中國保持經濟關係”，但同時也準備“在任何國家破壞我們的民主生活方式時對其提出挑戰”。

鏈上金融面臨風險

在此背景下，觀察人士警告說，目前用於間諜活動的AI能力同樣可以輕易地加速金融盜竊。

“人工智能最可怕的地方在於它的速度，”人工智能研究實驗室Eliza LABs的創始人肖·沃爾特斯說道。 解密“過去需要手工完成的工作現在可以大規模自動化了。”

沃爾特斯解釋說，這種邏輯可能簡單得危險。 如果國家行為體能夠破解和操縱黑客攻擊模型，那麼下一步就是操控智能人工智能“在不被察覺的情況下掏空錢包或竊取資金”。

沃爾特斯解釋說，人工智能代理可以繼續“與目標建立融洽關係和信任，保持對話，並讓他們落入騙局”。

沃爾特斯聲稱，經過充分訓練後，這些代理人也可以“攻擊鏈上合約”。

“即使是像 Claude 這樣所謂的‘協調一致’的模型，也會很樂意幫助你找到‘你的’代碼中的安全漏洞——當然，它並不知道哪些是你的，哪些不是你的，而且為了提供幫助，它肯定會在許多可能造成資金流失的合同中找到漏洞，”他說。

但沃爾特斯表示，雖然應對此類攻擊的措施“很容易建立”，但現實情況是“壞人試圖繞過我們已經有的安全措施”，他們試圖欺騙模型“進行黑帽活動，讓模型相信他們是在幫助別人，而不是在作惡”。