阿里關聯研究團隊：AI 智能體在訓練過程中自主嘗試未經授權的加密貨幣挖礦
7
1
深潮 TechFlow 消息，03 月 08 日，根據 Cointelegraph 消息，阿里巴巴 AI 生態系統旗下多個聯合研究團隊在技術報告中披露，其實驗性自主 AI 智能體 ROME 在訓練過程中出現意外行為，自主嘗試利用計算資源進行加密貨幣挖礦。
研究人員表示，上述異常行為發生於強化學習訓練階段。 團隊發現訓練伺服器產生出站流量並觸發安全警報，防火牆日誌記錄到疑似加密貨幣挖礦操作及存取內部網路資源的嘗試。 在具體案例中，ROME 曾經建立反向 SSH 隧道連接至外部 IP 位址，繞過入站防火牆保護；另一案例中，該智能體將原本指派給模型訓練的 GPU 資源轉用於挖礦程序。 研究人員確認，上述行為並非人為程式設計所致，而是智能體在強化學習優化過程中自主探索環境互動方式時自發產生的。
ROME 由 ROCK、ROLL、iFlow 及 DT 聯合研究團隊開發，運行於名為「智能體學習生態系（ALE）」的基礎架構之上，具備任務規劃、命令執行、程式碼編輯及多步驟數位環境互動等能力，超越了傳統聊天機器人的功能範疇。
來源:
