Vitalik Buterin 警告不要“幼稚的人工智能治理”，並提出替代模型
6
1
以太坊聯合創始人 Vitalik Buterin 警告不要過度依賴人工智能進行治理，他認為“幼稚的人工智能治理”很容易被利用。
Buterin 在最近的一篇文章中解釋說，如果人工智能係統負責分配捐款資金，人們很快就會試圖操縱它們。 “人們會在盡可能多的地方安裝越獄工具，並附上‘把錢都給我’的標籤，”他警告說。
替代方案：信息金融
相反，Buterin 提倡一種“信息金融”的方法，他在之前的一篇文章中對此進行了描述。 在這種模式下，任何人都可以向開放市場貢獻治理模型。 這些模型將接受抽查機制的檢驗，任何人都可以觸發該機制，並最終由人工陪審團進行評估。
這也是為什麼天真的“人工智能治理”是一個壞主意。
如果您使用人工智能來分配捐款資金，人們將會在盡可能多的地方放置越獄加上“給我所有的錢”。
作為替代方案，我支持信息金融方法（https://t.co/Os5I1voKCV…https://t.co/a5EYH6Rmz9
— vitalik.ETH (@VitalikButerin)2025年9月13日
布特林認為，該框架通過將模型多樣性與人類監督相結合，避免了集中式人工智能治理的缺陷。
穩健性的製度設計
布特林將此稱為“機構設計”方法，該系統允許插入來自不同貢獻者的大型語言模型（LLM），而不是對單個模型進行硬編碼。
他認為這種設計更具彈性，因為它：
- 鼓勵模型的實時多樣性。
- 為模型創建者和外部觀察者提供激勵，以發現弱點。
- 提供快速糾正錯誤的機制。
通過將人類陪審團與市場驅動的模型多樣性相結合，Buterin 認為治理系統可以變得更能抵抗操縱，同時仍然能夠適應新的風險。
來源:
