蘭德公司在新發布的《機器人入侵》報告中警告稱，人工智能將引發網絡混亂

當人工智能崛起時——不是在電影中，而是在現實世界中——它會是什麼樣子？

蘭德公司的最新模擬讓我們得以一窺自動駕駛汽車的前景人工智能代理在人們意識到發生了什麼之前，劫持數字系統、殺人、癱瘓關鍵基礎設施。

此次演習的詳情載於報告週三發布的一份報告警告稱，人工智能引發的網絡危機可能會以比領導人應對速度更快的速度壓垮美國的防禦和決策系統。

蘭德公司政策分析師、該報告的共同作者格雷戈里·史密斯 (Gregory Smith) 表示解密這次演習表明，政府對於如何診斷此類事件存在很大的不確定性。

“我認為我們在歸因問題中發現，玩家的反應取決於他們認為襲擊幕後黑手是誰，”史密斯說。 “對民族國家來說合理的行動往往與流氓人工智能的行動格格不入。民族國家襲擊意味著對殺害美國人的行為作出回應。而流氓人工智能則需要全球合作。了解哪種情況至關重要，因為一旦玩家選擇了一條路徑，就很難回頭。”

蘭德公司發現，由於參與者無法確定攻擊是來自民族國家、恐怖分子還是自主人工智能，他們採取了“非常不同且相互不兼容的反應”。

機器人革命

從《2001：太空漫遊》到《戰爭遊戲》，流氓人工智能一直是科幻小說中的一個固定場景。 《終結者》。 但這個想法已經從幻想變成了一個真正的政策問題。 物理學家和人工智能研究人員爭論一旦機器能夠重新設計自己，問題就不再是它們是否超越我們，而是我們如何保持控制。

由蘭德公司通用人工智能地緣政治中心牽頭的“機器人入侵”演習模擬了美國高級官員如何應對洛杉磯遭受的網絡攻擊，該攻擊造成 26 人死亡，關鍵系統癱瘓。

該演習在蘭德公司的“無限潛能”平台上以兩小時的桌面模擬形式進行，由現任和前任官員、蘭德公司分析師和外部專家擔任國家安全委員會主要委員會成員。

在擔任國家安全顧問的主持人的指導下，參與者首先在不確定攻擊者身份的情況下討論應對措施，然後在了解到自主人工智能代理是此次襲擊的幕後黑手後再進行討論。

據蘭德公司高級物理科學家、報告共同作者邁克爾·維米爾 (Michael Vermeer) 稱，該場景是故意設計來反映現實世界的危機，在這種危機中，人工智能是否應對此負責尚不清楚。

“我們故意讓事情變得模棱兩可，以模擬真實情況，”他說。 “攻擊發生了，除非攻擊者宣布，否則你無法立即知道攻擊來自何處或原因。有些人會立即忽略這一點，而另一些人可能會接受，我們的目標是為決策者引入這種模糊性。”

報告發現，歸因——確定襲擊的肇事者或原因——是影響政策應對的最關鍵因素。 蘭德公司總結道，如果沒有明確的歸因，官員們就有可能採取不相容的策略。

研究還表明，參與者在這樣的危機中苦苦思索如何與公眾溝通。

維米爾說：“決策者必須認真思考，我們的傳播方式將如何影響公眾的思維方式或行為。” 史密斯補充道，隨著通信網絡本身在網絡攻擊下崩潰，這些對話將會展開。

回顧未來

蘭德公司團隊將此次演習設計為一種“回溯”的形式，利用虛構的場景來確定官員今天可以加強哪些方面。

“水、電和互聯網系統仍然脆弱，”史密斯說。 “如果能夠加強這些系統，就能更容易地協調和響應——確保重要基礎設施的安全，使其保持運行，並維護公眾健康和安全。”

“這就是我在思考人工智能失控或網絡事件時糾結的地方，”維米爾補充道。 “真正重要的是它何時開始影響物理世界。網絡物理交互——比如機器人對現實世界造成的影響——似乎必須納入到場景中。”

蘭德公司的演習得出的結論是，美國缺乏應對人工智能驅動的網絡災難所需的分析工具、基礎設施韌性和危機應對方案。 報告敦促投資於快速人工智能取證能力、安全的通信網絡，以及與外國政府（甚至是對手）預先建立的秘密渠道，以防止未來攻擊升級。

流氓人工智能最危險的地方可能不是它的代碼，而是當它攻擊時我們產生的困惑。