人工智能新書稱“人人都會死”，但主流聊天機器人不認同

這聽起來像是一部好萊塢驚悚片，但在他們的新的在《如果有人建造它，每個人都會死》一書中，作者 Eliezer Yudkowsky 和 ​​Nate SoARes 認為，如果人類創造出比自己更聰明的智慧，那么生存不僅不太可能，而且是不可能的。

作者認為，如今的系統並非逐行設計，而是通過訓練數十億個參數來“成長”。 這使得它們的行為難以預測。

作者警告說，隨著智力的提升，諸如自我保護或追求權力之類的驅動力可能會獨立出現。 他們表示，如果這樣的系統最終超出人類的控制範圍，那麼滅絕將不可避免。

他們把當前科技巨頭和政府之間為打造越來越大的模型而展開的競賽稱為“自殺式競賽”。 這其中不需要邪惡，只需要無能。

為什麼重要

這本書問世時，人工智能界已經分裂成多個陣營。

人工智能末日論者認為滅絕除非人類停止或大幅減緩進步，否則這是不可避免的結果。 加速論者反駁道，推進進步可能帶來醫學、科學和經濟領域的突破，而放慢速度則會帶來更大的危險。

尼克·博斯特羅姆的超級智能十年前首次提出了存在主義的論證。 尤德科夫斯基和索亞雷斯將其進一步強化為一種警笛般的呼喊。

但批評人士擔心，對滅絕的執著會分散人們對已經存在的危害的注意力：偏見、裁員、監視和虛假信息。

人工智能模型怎麼說

由於這本書正在談論它們，我們詢問了領先的人工智能模型他們對此的看法。

據我們所知，目前還沒有一位法學碩士真正讀過這本書，因此以下評論是基於平台對他們插入的評論的解讀。

ChatGPT

OpENAI 的 ChatGPT 將這本書描述為一種有用的挑釁，而不是預言。

“這本書作為視角轉換工具很有價值，即使你認為它有些過頭了，”聊天機器人回答道。 “它能增強人們對一致性和意外後果的直覺。但將其最壞情況視為必然，就忽視了未來架構、法規和約束的不確定性。”

ChatGPT 表示，未來人工智能發展的模式取決於架構如何演變以及監管、社會或技術護欄的出現。

ChatGPT 嗤之以鼻：“這種不確定性意味著我不會將他們的最壞情況視為不可避免的。”

元

Meta AI 發表了中間意見，稱該書的可怕警告雖然誇大其詞，但仍然具有引發辯論的價值。

Meta AI 回應道：“書中那些可怕的預測或許有些誇張，但強調謹慎和國際合作是合理的。無論你是否同意其結論，這本書都引發了關於負責任的人工智能發展的必要辯論。”

Meta 的 AI 表示，考慮到不一致的人工智能發展可能帶來的災難性後果，作者強調謹慎和國際合作的必要性是有充分理由的。

雙子座

谷歌雙子座將這本書描繪成一本令人恐懼但又發人深省的書，即使它提出的解決方案看起來不切實際。

“這本書對於理解人工智能風險的極端情況至關重要，”Gemini 說。 “它提出的解決方案——徹底關閉——在政治上是無法實現的，但它的警告可以在我們陷入無可挽回的境地之前，激發對安全和控制技術的投資。”

雙子座表示，這本書定義了超級智能的極端風險，這反過來有助於證明當今強有力的（即使不那麼激進的）安全措施是合理的。

克勞德

AnthrOPic 的 Claude 對此持更加懷疑的態度。 這很有意思，因為在頂尖的法學碩士課程中，Anthropic 通常被認為是最注重安全的。 但 Claude 認為這本書的語氣“過於自信”，框架過於二元化。

“作者正確地指出了真正的風險，但他們的確定性卻顯得過於自信，”克勞德說。 “他們忽視了人工智能安全研究的進展，並將這個問題框定為完美與滅絕之間的二元對立。這使得他們的觀點缺乏建設性。”

雖然他們的警告強調了需要投入大量資源和謹慎的重大風險，但克勞德表示，“每個人都會死”的說法似乎更多的是為了吸引註意力，而不是準確地代表所涉及的複雜不確定性。

人工智能表示：“這些風險已經足夠嚴重，需要認真對待，無需接受他們關於災難不可避免的說法。”

格羅克

埃隆馬斯克的人工智能平台也令人驚訝，因為他一直在推廣 GROK 作為反主流媒體人工智能。

但 Grok 很快就引用了“紐約時報的一篇嚴厲評論，稱其論點薄弱或危言聳聽。”

“這本書深刻地提醒我們，沒有智慧的智能是一種負擔，而我們目前還沒有將智慧融入其中，”Grok 回應道。 “話雖如此，對於理性主義者來說，這就像一部末日色情片：宿命論令人興奮，但卻低估了人類的適應能力。xAI 的精神——好奇心勝過征服——表明我們可以找到突破口：大膽探索宇宙問題的人工智能，同時從第一天起就嵌入安全措施。”

然而，除了這一呼籲之外，Grok 表示，“總的來說，對於任何正在努力應對人工智能未來的人來說，這都是一本發人深省、值得一讀的書——如果你對悲觀主義持開放態度，這本書會很有吸引力，但如果你對技術進步持樂觀態度，這本書可能會被誇大其詞。”