Vitalik Buterin 敲響人工智能治理警鐘：人類陪審團是最後一道防線

Miyamura 強調的漏洞涉及三個步驟：首先，攻擊者發送帶有越獄提示的日曆邀請；其次，當用戶請求 ChatGPT 查看日曆時，AI 會讀取惡意邀請；第三，AI 被劫持並執行攻擊者的指令，例如洩露用戶的私人電子郵件數據。 Miyamura 強調，大多數用戶信任 AI 請求而不仔細審查其授予的訪問權限，這加劇了風險。 “請記住，AI 可能非常智能，但也可能以極其愚蠢的方式被欺騙和網絡釣魚，從而洩露您的數據，”他總結道。 此次演示強調了 AI 系統（即使是具有高級功能的系統）也可能被操縱，從而洩露敏感信息並損害用戶信任。

Buterin 的警告意義非凡，不僅局限於理論探討，更關乎區塊鏈治理未來的實際考量。 許多 DAO 和加密項目已經在平衡效率與去中心化方面苦苦掙扎，而將人工智能引入治理機制可能會加劇這些問題。 Buterin 強調了人工智能主導治理的危險，並呼籲在將人工智能融入決策過程時​​採取更加謹慎和深思熟慮的方式。 他的“信息金融”模型代表了一種務實的解決方案，它充分利用了人工智能的分析優勢，同時確保人類監督仍然是核心要素。 這有助於防止單一人工智能係統或少數人工智能驅動的決策主導治理格局，從而可能破壞基於區塊鏈系統的民主和去中心化本質。

Buterin 的警告雖然及時，但也反映了關於人工智能在數字經濟中作用的更廣泛討論。 隨著人工智能係統日益複雜，並融入金融和企業決策的各個方面，對強有力的保障措施和監督機制的需求日益重要。 Miyamura 在 ChatGPT 的 MCP 工具中展現的漏洞，堪稱一個警示案例，表明在缺乏足夠人為乾預的情況下部署人工智能係統可能出現的問題。 Buterin 提出的“信息金融”模型可以作為藍圖，指導組織如何負責任地整合人工智能，同時保持基於信任的系統所必需的透明度和問責制。 隨著人工智能在治理和決策中的應用不斷增長，從這些案例中汲取的經驗教訓，對於塑造確保創新和安全的最佳實踐和監管框架至關重要。

維塔利克·布特林

Eito Miyamura

宮村愛人

CoinBureau