作者：Sam Altman

編譯：深潮 TechFlow

深潮導讀：有人在凌晨3點45分向Sam Altman家丟了燃燒瓶。 他罕見地公開全家福，希望這能讓下一個人住手。 這篇文章不只是控訴攻擊，他還首次完整闡述了對AI的信念：AI必須民主化，少數實驗室不應決定人類未來，而"看到AGI就回不去了"的誘惑讓這個領域充滿莎士比亞式的戲劇衝突。

這是我家人的照片。 我愛他們勝過一切。

我希望影像有力量。 通常我們會保持相當的隱私，但在這種情況下我分享一張照片，希望它可能勸阻下一個人不要向我們家扔燃燒瓶，無論他們怎麼看我。

第一個人昨晚這樣做了,凌晨3點45分。 幸運的是它從房子上彈開了,沒有人受傷。

文字也有力量。 幾天前有一篇關於我的煽動性文章。 昨天有人對我說,他們認為這篇文章出現在人們對AI極度焦慮的時候,讓我的處境更危險。 我當時不以為意。

現在我半夜醒著很生氣,並且想到我低估了文字和敘事的力量。 這似乎是個好時機來談幾件事。

為每個人的繁榮而努力,賦能所有人,推進科學技術,這些對我來說是道德義務。

AI將是擴展人類能力和潛力的最強大工具。 這個工具的需求基本上沒有上限,人們會用它做不可思議的事情。 世界應該擁有大量的AI,我們必須弄清楚如何實現它。

並不是一切都會順利。 對AI的恐懼和焦慮是合理的;我們正在見證很長時間以來,也許是有史以來社會最大的變化。 我們必須把安全做好,這不僅僅是對齊一個模型——我們迫切需要全社會的響應來應對新威脅。 這包括新政策來幫助度過艱難的經濟轉型期,以抵達一個更好的未來。

AI必須民主化;權力不能太集中。 對未來的控制屬於所有人和他們的機構。 AI需要賦能個人,我們需要集體決定我們的未來和新規則。 我不認為少數幾個AI實驗室來做關於我們未來形態的最重要決定是正確的。

適應能力至關重要。 我們都在非常快速地學習新事物;我們的一些信念會是對的,一些會是錯的,有時我們需要隨著技術發展和社會演變快速改變想法。 還沒有人理解超級智能的影響,但它們將是巨大的。

當我回顧自己在OpenAI第一個十年的工作時,我可以指出很多我引以為豪的事情和一堆錯誤。

我正在想我們即將與Elon的審判,並記起我多麼堅持不願意同意他想要對OpenAI的單方面控制。 我為此感到自豪,為我們當時走過的狹窄道路感到自豪,那讓OpenAI得以繼續存在,以及隨後的所有成就。

我不為自己迴避衝突感到自豪,這給我和OpenAI帶來了巨大痛苦。 我不為自己在與前董事會的衝突中處理不當感到自豪,那給公司帶來了巨大混亂。 在OpenAI瘋狂的軌跡中我犯了許多其他錯誤;我是一個有缺陷的人,處在一個異常複雜的情況中心,試圖每年變得更好一點,始終為使命工作。 我們一開始就知道AI的風險有多大,以及我關心的善意的人之間的個人分歧會被極大放大。 但親身經歷這些激烈衝突並經常不得不仲裁它們是另一回事,代價是嚴重的。 我對我傷害過的人感到抱歉,希望我能學得更快。

我也非常清楚OpenAI現在是一個主要平台,不是一個小型創業公司,我們現在需要以更可預測的方式運作。 過去幾年極度緊張、混亂和高壓。

不過,我最自豪的是我們正在實現我們的使命,這在我們開始時似乎極不可能。 克服所有困難,我們弄清楚瞭如何構建非常強大的AI,弄清楚瞭如何積累足夠的資本來建設交付它的基礎設施,弄清楚瞭如何建立產品公司和業務,弄清楚瞭如何大規模交付相當安全和穩健的服務,以及更多。 很多公司說他們要改變世界;我們真的做到了。

我從過去幾年的個人收穫,以及對為什麼我們領域的公司之間有如此多莎士比亞式戲劇的看法,歸結為這一點:"一旦你看到AGI你就無法不看到它。"它有一種真正的"權力之戒"動態,讓人們做瘋狂的事情。 我不是說AGI本身就是戒指,而是"成為控制AGI的那個人"的極權主義哲學。

我能想到的唯一解決方案是朝著與人們廣泛分享技術的方向前進,並且沒有人擁有戒指。 做到這一點的兩種明顯方式是個人賦能和確保民主系統保持控制。

重要的是民主進程保持比公司更強大。 法律和規範會改變,但我們必須在民主進程內工作,即使它會混亂和比我們希望的慢。 我們想成為一個聲音和利益相關者,但不擁有所有權力。

對我們這個行業的許多批評來自對這項技術極高風險的真誠關切。 這是非常合理的,我們歡迎善意的批評和辯論。 我對反技術情緒感同身受,顯然技術並不總是對每個人都好。 但總的來說,我相信科技進步可以讓未來好得難以置信,為你的家人和我的家人。

當我們進行那場辯論時,我們應該降級言辭和策略,並儘量在更少的家裡有更少的爆炸,無論是比喻還是字面意義上。