機器信任——為什麼聲譽是下一個人工智能原語

當我們第一次談論人工智能的去中心化時，我們關注的是計算、數據和治理模型–這些仍然很重要。

然而，隨著自主代理在交易資產、運行供應鍊和管理社區等現實環境中運作，信任成為了首要的挑戰。

不是那種溫柔的、人性化的話語，比如“我對這個品牌感覺很好”或者“他們的營銷很有說服力”。

在機器經濟中，信任必須以協議速度可驗證、可量化和可執行。

如果沒有它，分散的人工智能就有可能成為幻覺、垃圾郵件、剝削和連鎖故障的高吞吐量舞台。

這不是我們可以通過增加計算能力或更清晰的數據集來解決的問題。 問題在於我們如何決定誰來採取行動。

在 Web 2.0 中，信任就像閱讀餐廳評論–對於選擇晚餐來說這很好，但當數千個自主代理在瞬間做出具有重大影響的決定時就毫無意義了。

這些信號很容易偽造，不可能進行大規模審計，並且不會給不良行為者帶來任何內在後果。

在去中心化的人工智能網絡中，這種情況不會發生。 代理不再是運行在業餘愛好者服務器上的孤立腳本。

它們是請求資源、執行交易、在 DAO 中投票和協調其他代理的實體。

如果一個人的行為惡意或無能，損害是直接的，而且往往是不可逆轉的。

研究界給出的答案是讓信任本身成為基礎設施的一部分。

一個越來越受到關注的提案是 AgentBound 代幣–不可轉讓的憑證，作為人工智能代理的記錄，由研究員 Tomer Jordi Chaffer 首次提出。

ABT 是一種不可轉讓的加密憑證，可記錄代理人隨時間的行為。

把它想像成機器的護照–蓋章的不是簽證，而是已完成的核實工作、交付的成果和記錄的失敗。

與錢包餘額或質押金額不同，ABT 不能被購買、出售或委託。

這些獎勵是通過行動獲得的，根據已驗證的績效進行更新，並因不當行為而被削減–行為證明。

這將默認設置從“付費遊戲”轉變為“證明行動”。

代幣餘額可以限制人類，但在機器經濟中，它們會錯誤定價風險–代理可以廉價地克隆，可以藉入資本並以機器速度運作，從而產生遠遠超出其利益的外部性。

ABT 通過使經過驗證的性能隨著時間的推移成為稀缺資源來縮小這一差距。

在代幣加權系統中，有錢人會購買訪問權限–在 ABT 門控系統中，只有持久、透明的業績記錄才能解鎖更具影響力的角色。

可靠性成為運營的保障。

通過實時的五步循環，ABT 將代理行為轉化為可以增長、衰減或削減的運營資本。

設想一個去中心化的物流網絡。 一個擁有零聲譽 ABT 的新路由代理在小批量貨物的監督下開始運行。

每項經過驗證的工作都會獲得證明–信任不斷建立，直到它能夠自主管理一個地區。

更新錯誤導致延遲–驗證者會對其進行標記，並且 ABT 會受到懲罰，從而使代理重新回到低風險任務。

經過一段干淨的試用期後，其聲譽就會恢復。

這就是作為一個生命系統所贏得、失去和重新獲得的信任，它以機器可以理解和協議可以執行的形式出現。

如果這在概念上聽起來接近靈魂綁定令牌，那麼它確實如此。

在他們 2022 年的論文《去中心化社會》中–Glen Weyl、Puja Ohlhaver 和 Vitalik Buterin 在《尋找 Web 3.0 的靈魂》中提出，SBT 是人類身份的不可轉讓憑證。 –文憑、附屬機構、執照。

ABT 將這種邏輯擴展到機器。

但是 SBT 大多是靜態的（“這個人從 X 畢業了”），而 ABT 是動態的，會隨著每個經過驗證的操作而更新。

它們並不關心代理是誰，而是關心代理如何隨時間表現–時間因素至關重要。

如果代理商的模型已經退化或受到損害，那麼去年的完美記錄就沒有任何意義。

ABT 捕捉到了這種演變，使其成為實時信號，而不是一次性徽章。

ABT 處理數據，即發生的事情的不可變記錄，但必須有人制定規則。

什麼是好行為，什麼是壞行為？ 各種行為的分量有多大？ 如何處理糾紛？

聲譽 DAO 是定義、維護和審計聲譽層的去中心化治理機構。

他們決定哪些驗證者可以更新 ABT、哪些指標對給定域很重要以及聲譽如何隨著時間的推移而下降或恢復。

他們還可以在高風險環境中設置風險等級–一個內容審核代理需要一個記錄來自主行動。

相比之下，交易機器人可能需要另一個。 通過分散這些決策，系統既可以避免被單一權威機構控制，又可以避免硬編碼規則的僵化。

聲譽 DAO 是去中心化信任的人機交互元素–不對每個行動進行微觀管理–而是控制規範和參數以保持機器層的誠實。

所有這些實現起來都絕非易事。 最複雜的問題既是社會問題，也是技術問題。

Sybil 攻擊是明顯的威脅–培養數千名新特工，在低風險角色中積累聲譽，然後將他們部署到高風險環境中。

要防止這種情況發生，需要將 ABT 與強大的去中心化身份綁定–有時還涉及無法廉價複製的硬件或執行環境。

洗白名譽是另一個風險。

如果沒有安全措施，ABT 系統可能會變成一場高風險的化裝舞會，惡意特工可能會戴上別人的面具進入貴賓室。

協議級的不可轉讓性、密鑰的加密綁定以及嚴格的反委託規則至關重要。

此外，還存在隱私與可審計性的權衡。 要信任一個代理，你需要了解它的表現。

然而，發布完整的決策日誌可能會暴露敏感數據或專有方法。

zkp（零知識證明）和聚合指標是解決這個問題的有希望的方法。

然後是治理俘獲– 如果一小群驗證者控制大多數更新，他們可以將不良行為者列入白名單或懲罰競爭對手。

開放驗證器集、輪換和削減共謀有助於分配這種權力。

我們正處於這樣一個階段：去中心化人工智能較少受到技術的限制，而更多受到合法性的限制。

如果不能確定哪些代理可以承擔哪些角色，網絡要么集中控制，要么接受持續的風險。

ABT 和聲譽 DAO 提供了第三條路徑– 一種將信任直接編碼到基礎設施中的方法，使其像共識一樣成為系統的原生部分。

他們公開回答了這個問題，將“誰控制人工智能？”轉變為“如何定義、授予和撤銷控制？”

Web 3.0 的第一波浪潮教會我們要信任陌生人，把錢交給他們。

接下來必須教會我們信任陌生人，讓他們以機器速度做出決定，而其後果是人類無法及時逆轉的。

在代理經濟中，這不是可選的- 它的生存。

ROMan Melnyk 是德克斯.