以太坊聯合創始人稱人工智能規則可能以災難告終

以太坊背後的創始人 Vitalik Buterin 對讓人工智能負責治理的想法潑了冷水。

他的目前，有關人工智能代理運行金融和組織系統的討論正在升溫，但他堅稱，風險遠遠超過吸引力。

擔憂很簡單：人工智能係統可能會被欺騙。 Buterin 認為，如果這類工具負責管理資金決策，不法分子很快就會找到方法操縱它們。 這些機器不僅無法公平地分配資源，反而可能被類似越獄的指令操縱，從而將資金輸送到不法之徒手中。

這個過程簡單得令人不安。 攻擊者只需發送一個隱藏越獄命令的日曆邀請即可。 即使受害者不接受邀請，如果之後要求 ChatGPT 準備他們的日程安排，也會面臨風險。 一旦人工智能讀取了惡意條目，它就會被劫持，讓攻擊者控制並挖掘個人電子郵件，並將內容轉發到其他地方。

對布特林來說，這恰恰說明了為什麼人工智能不應該被賦予治理的權力。 相反，他更傾向於他所描述的“信息金融”系統——一個相互競爭的人工智能模型在持續審查下運行的市場。 在這種設計中，由語言模型支持的獨立審查員和人類陪審團充當監督者。 多樣化模型和抽查系統的存在確保了缺陷能夠被迅速發現，同時激勵機制也使開發者保持誠實。

Buterin 承認，讓機器管理複雜機構的吸引力或許很大，但他強調，現實情況可能很混亂。 他認為，如果沒有內置的安全措施和人工監督，試圖讓人工智能成為自主治理者，可能會帶來災難性的損失，而不是進步。