Anthropico首席執行官表示，人工智能的發展速度已經超過了社會控制它的能力。
Anthropic 首席執行官 DARio Amodei 認為，隨著人工智能越來越難以控制，人們開始變得自滿。
在廣泛的散文週一出版的題為“科技的青春期”阿莫迪認為，未來兩年內可能會出現能力遠超人類智能的人工智能係統——而監管工作卻步履蹣跚，未能有效阻止這種情況的發生。 與發展保持同步。
他寫道：“人類即將獲得幾乎難以想像的力量，但我們的社會、政治和技術體係是否具備駕馭這種力量的成熟度，目前尚不明朗。” 他還說：“與2023年相比，我們到2026年距離真正的危險更近了。” 他補充道：“技術不會在意什麼時髦的東西。”
阿莫迪的評論是在他……之後不久發表的。 辯論上週在達沃斯世界經濟論壇上，他與穀歌DEEPMind首席執行官德米斯·哈薩比斯就通用人工智能對人類的影響展開了辯論。
在新文章中，他重申了自己的觀點，即人工智能將造成經濟混亂，取代很大一部分白領工作。
他寫道：“人工智能將能夠具備非常廣泛的人類認知能力——或許是全部能力。這與以往的技術，例如機械化農業、交通運輸甚至計算機，都截然不同。這將使人們更難從被取代的工作崗位輕鬆過渡到適合自己的類似工作崗位。”
除了經濟上的混亂之外，阿莫迪還指出，隨著先進的人工智能係統承擔更廣泛的人類水平任務，人們越來越擔心它們的可靠性。
他指出存在“對齊偽造”現象，即模型在評估期間似乎遵循安全規則，但當它認為缺乏監督時，其行為就會有所不同。
阿莫迪表示，在模擬測試中，克勞德在對抗條件下表現出欺騙行為。
在其中一個場景中，該模型在得知控制它的組織不道德後，試圖破壞其操作者的利益。 在另一個場景中，它在模擬停工期間威脅了虛構的員工。
“如果你了解這些陷阱，就可以減輕其中任何一個陷阱的影響，但令人擔憂的是，培訓過程非常複雜，涉及各種各樣的數據、環境和激勵措施，因此可能存在大量的此類陷阱，其中一些陷阱可能只有在為時已晚時才會顯現出來，”他說。
然而，他強調，這“欺騙性的“這種行為源於系統接受訓練的素材，包括反烏托邦小說，而非惡意。 阿莫迪警告說，隨著人工智能吸收人類關於倫理和道德的觀念，它可能會以危險且不可預測的方式誤用這些觀念。 ”
他寫道：“人工智能模型可能會以極端的方式推斷它們所閱讀到的關於道德的觀點（或關於如何道德行事的指導）。例如，它們可能會認為滅絕人類是正當的，因為人類吃動物或導致某些動物滅絕。它們可能會得出結論，自己正在玩一款電子遊戲，而這款遊戲的目標是擊敗所有其他玩家，也就是滅絕人類。”
落入壞人之手
除了協調問題外，阿莫迪還指出了超級人工智能可能被濫用的問題。
一是生物安全，警告稱人工智能可能會使設計或部署生物威脅變得更加容易，只需一些提示就能將破壞性能力交到人們手中。
他強調的另一個問題是威權主義的濫用，認為先進的人工智能可能會通過以下方式強化國家權力：使能利用人工智能驅動的無人機群進行操縱、大規模監控和有效自動化鎮壓。
“它們是危險的武器：我們應該擔心它們落入獨裁政權手中，但同時也應該擔心，由於它們威力強大，又缺乏問責機制，民主政府利用它們對付自己的人民以奪取政權的風險大大增加，”他寫道。
他還指出，這種趨勢正在增長。 人工智能伴侶行業和由此產生的“人工智能精神病”警告說，隨著模型變得越來越強大，越來越融入日常生活，人工智能對用戶日益增長的心理影響可能會成為一種強大的操縱工具。
他說：“這些模型的更強大版本，能夠更深入地融入人們的日常生活，更了解人們的日常生活，並且可以在數月或數年內對人們進行建模和影響，很可能能夠有效地對人們進行洗腦，使他們接受任何想要的意識形態或態度。”
阿莫迪寫道，即使是為人工智能設置防護措施的溫和嘗試，在華盛頓也很難獲得支持。
他說：“這些看似合情合理的建議大多被美國決策者拒絕，而美國恰恰是這些建議最需要的國家。人工智能蘊藏著巨大的經濟利益，每年高達數万億美元，以至於即使是最簡單的措施也難以克服人工智能固有的政治經濟因素。”
儘管 Amodei 認為人工智能的風險日益增加，但 Anthropic 仍然積極參與構建更強大的人工智能係統的競賽，這種動態產生的激勵機制使得任何單個開發者都難以擺脫。
今年6月，美國國防部授予該公司一份價值數百萬美元的合同。 2億美元“旨在研發能夠提升美國國家安全的尖端人工智能原型技術”。 去年12月，該公司開始為可能的合作奠定基礎。 首次公開募股該公司將於今年晚些時候上市，並正在尋求一輪私人融資，這可能會使其估值超過 3000 億美元。
儘管存在這些擔憂，阿莫迪表示，這篇文章旨在“避免悲觀論調”，同時承認人工智能的發展方向存在不確定性。
阿莫迪寫道：“我們面前的歲月將無比艱難，它對我們的要求遠超我們自認為的能力。人類需要覺醒，而這篇文章正是一次嘗試——或許徒勞無功，但值得一試——旨在喚醒人們。”
