黑箱問題：為什麼人工智能需要證明，而不是承諾

當人們想到人工智能時，他們會想到聊天機器人和大型語言模型。 然而，人們很容易忽視人工智能正日益與社會關鍵領域緊密結合。

這些系統不再只是推薦觀看或購買什麼；它們還可以診斷疾病、批准貸款、檢測欺詐和瞄準威脅。

隨著人工智能越來越深入我們的日常生活，我們需要確保它的行為符合我們的最佳利益。 我們需要確保它的輸出是可證明的。

大多數人工智能係統都在黑匣子中運行，我們通常無法知道它們如何做出決策或它們是否按照預期行事。

其工作方式缺乏透明度，導致事後幾乎不可能對人工智能決策進行審計或質疑。

對於某些應用來說，這已經足夠好了。 但在醫療保健、金融和執法等高風險領域，這種不透明性會帶來嚴重風險。

人工智能模型可能會在不知不覺中編碼偏見、操縱結果，或做出違反法律或道德規範的行為。 如果沒有可驗證的線索，用戶只能猜測決策是否公平、有效，甚至是否安全。

當人工智能能力繼續呈指數級增長時，這些擔憂就變得至關重要。

業界普遍認為，開發人工智能超級系統（ASI）是不可避免的。

遲早，我們將擁有在所有領域超越人類智能的人工智能，從科學推理到戰略規劃，再到創造力，甚至情商。

質疑快速發展

法學碩士在泛化能力和任務自主性方面已經顯示出快速的進步。

如果超級智能係統的行為方式是人類無法預測或理解的，我們如何確保它符合我們的價值觀？ 如果它對命令的理解不同，或者追求目標卻帶來了意想不到的後果，該怎麼辦？ 如果它失控了，又該怎麼辦？

甚至人工智能的倡導者也意識到這種事情可能威脅人類的情景。

深度學習的先驅杰弗裡·辛頓警告能夠進行文明級別的網絡攻擊或大規模操縱的人工智能係統。 生物安全專家擔心，人工智能增強實驗室可能會產生病原體超出人類的控制範圍。

Anduril 創始人 Palmer Luckey 聲稱其 Lattice AI 系統可以乾擾、黑客攻擊或欺騙幾秒鐘內就能擊落軍事目標，使自主戰爭成為迫在眉睫的現實。

面對如此多的可能情況，我們如何確保 ASI 不會將我們全部消滅？

透明人工智能的必要性

所有這些問題的簡短答案是可驗證性。

依賴不透明模型的承諾已不再適用於將其整合到關鍵基礎設施中，更不用說在ASI的規模上。 我們需要保證。 我們需要證據。

政策和研究界越來越一致地認為，人工智能需要技術透明措施。

監管討論中經常提到人工智能決策的審計追踪。 例如，美國國家標準與技術研究院 和 歐盟人工智能法案強調了人工智能係統“可追踪”和“可理解”的重要性。

幸運的是，人工智能的研發並非憑空而來。 在其他領域也取得了重要突破，例如高級密碼學，這些突破可以應用於人工智能，並確保我們能夠控制當今的系統——以及最終的ASI系統——並與人類利益保持一致。

其中目前最相關的是零知識證明。 zkp 提供了一種實現可追溯性的新方法，可立即應用於 AI 系統。

事實上，零知識證明 (ZKP) 可以將這種可追溯性從頭嵌入到 AI 模型中。 它不僅可以記錄 AI 的行為（這些信息可能被篡改），還能生成不可篡改的證據。

具體來說，使用 zkML 庫，我們可以結合零知識證明和機器學習來驗證這些模型上產生的所有計算。

具體來說，我們可以使用 zkML 庫來驗證 AI 模型是否被正確使用、是否運行了預期的計算以及其輸出是否遵循指定的邏輯——所有這些都無需暴露內部模型權重或敏感數據。

黑匣子

這有效地將人工智能從黑匣子中解放出來，讓我們確切地了解它目前的狀態以及它是如何實現這一目標的。 更重要的是，它讓人類能夠隨時掌握最新動態。

AI發展需要開放、去中心化、可驗證，zkML需要實現這一點。

為了在未來掌控人工智能，我們必須立即行動。 我們需要確保人工智能在實現自主之前能夠按照我們的預期運行，從而從第一天起就保護人類的利益。

然而，ZkML 不僅僅是為了阻止惡意 ASI。

短期內，我們要確保我們可以信任人工智能來自動化貸款、診斷和警務等敏感流程，因為我們有證據證明它的運作透明且公平。

如果大規模使用，ZkML 庫可以讓我們有理由信任 AI。

儘管擁有更強大的模型可能會有所幫助，但人工智能開發的下一步是確保它們正確地學習和發展。

有效且可擴展的 zkML 的廣泛使用將很快成為人工智能競賽和最終創建 ASI 的關鍵組成部分。

通往超級人工智能的道路不能靠猜測鋪就。 隨著人工智能係統功能日益強大，並逐漸融入關鍵領域，證明它們能做什麼以及如何做到至關重要。

可驗證性必須從研究概念轉化為設計原則。 借助 zkML 這樣的工具，我們現在有了一條可行的途徑，將透明度、安全性和可追溯性嵌入到人工智能的基礎中。

問題不再是我們是否能夠證明人工智能的作用，而是我們是否選擇這樣做。

編輯塞巴斯蒂安·辛克萊