谷歌威脅報告將人工智能惡意軟件與朝鮮加密貨幣盜竊案聯繫起來

谷歌警告稱，一些新的惡意軟件家族現在在執行過程中使用大型語言模型來修改或生成代碼，這標誌著與國家有關聯的犯罪分子在實際行動中部署人工智能的方式進入了一個新階段。

在報告谷歌威脅情報小組本週發布消息稱，他們已追踪到至少五種不同的人工智能惡意軟件，其中一些已被用於正在進行的攻擊中。

威脅情報組織表示，新發現的惡意軟件家族“動態生成惡意腳本，混淆自身代碼以逃避檢測”，同時還利用人工智能模型“按需創建惡意功能”，而不是將這些功能硬編碼到惡意軟件程序包中。

每個變體在運行時都會利用 Gemini 或 Qwen2.5-Coder 等外部模型來生成或混淆代碼，GTIG 將這種方法稱為“即時代碼創建”。

該技術代表著與傳統惡意軟件設計方式的轉變，在傳統惡意軟件設計中，惡意軟件邏輯通常是硬編碼到二進製文件中的。

通過將部分功能外包給人工智能模型，惡意軟件可以不斷進行更改，以增強自身防禦能力，抵御旨在阻止它的系統。

PROMPTFLUX 和 PROMPTSTEAL 這兩個惡意軟件家族展示了攻擊者如何將人工智能模型直接集成到他們的操作中。

GTIG 的技術簡報描述了 PROMPTFLUX 如何運行一個“思考機器人”進程，該進程每小時調用 Gemini 的 API 來重寫自身的 VBScript 代碼，而 PROMPTSTEAL 則與俄羅斯的……有關。 APT28組採用了 Qwen 模型託管使用 Hugging Face 按需生成 Windows 命令。

該組織還發現有一個名為 UNC1069（Masan）的朝鮮組織濫用 Gemini 進行活動。

谷歌的研究部門將該組織描述為“一個朝鮮威脅行為者，他們利用社會工程進行加密貨幣盜竊活動”，並特別使用了“與計算機維護和憑證竊取相關的語言”。

據谷歌稱，該組織向 Gemini 發出的查詢包括查找錢包應用程序數據的說明、生成訪問加密存儲的腳本以及編寫針對加密貨幣交易所員工的多語言網絡釣魚內容。

報告還指出，這些活動似乎是旨在構建能夠竊取數字資產的代碼的更廣泛嘗試的一部分。

谷歌表示，他們已經停用了與這些活動相關的帳戶，並引入了新的安全措施來限制模型濫用，包括改進提示過濾器和更嚴格地監控 API 訪問。

這些發現可能指向一個新的攻擊面，惡意軟件會在運行時查詢 LLM 以定位錢包存儲，生成定制的竊取腳本，並製作高度可信的網絡釣魚誘餌。

解密已就新模型可能如何改變威脅建模和歸因方法與穀歌進行溝通，但尚未收到回复。