“人工智能教父”警告超級智能機器可能利用生物戰殺死人類

被譽為“人工智能教父”的杰弗裡·辛頓在一次新採訪中發出了迄今為止最嚴厲的警告，警告稱人工智能不僅對就業構成威脅，而且隨著世界加速走向自動化，人工智能還會對整個人類的生存構成威脅。 超級智能機器。

談論《CEO日記》播客，HinTON 描繪了一幅黯淡的未來景象，他認為人工智能最終可能會認定人類本身已經過時了。

“如果它想除掉我們，我們根本沒辦法阻止，”辛頓說。 “我們不習慣思考比我們更聰明的事物。如果你想知道當你不是頂尖智力時生活是什麼樣的，去問一隻雞吧。”

辛頓表示，威脅將採取兩種不同的形式：一種是源於人類的濫用，例如網絡攻擊、錯誤信息的傳播和自主武器的製造；另一種是源於完全自主和不受控制的人工智能係統。

“他們現在可以製造致命的自主武器了，我認為所有主要的國防部門都在忙著製造它們，”他說。 “即使它們不比人類聰明，它們仍然是非常危險、可怕的東西。”

2023 年 5 月，神經網絡先驅 Hinton左邊他曾在谷歌和多倫多大學從事人工智能研究十多年，因此他可以自由談論這項技術的危險性。

欣頓的警告是在人工智能軍事應用激增的背景下發出的。 近期的發展突顯了技術與國防行動的快速融合，美國在資金和合作夥伴關係方面處於領先地位。

11 月，為了增強軍隊的人工智能和自主武器，美國國防部請求1430億美元在其提交給國會的2025年預算提案中，有18億美元專門用於人工智能研發。 同年早些時候，軟件開發商Palantir獲得了1.75億美元與美國陸軍簽訂合同，開發人工智能瞄準系統。 今年3月，五角大樓與Scale AI合作，推出了一款名為“雷霆熔爐.

Hinton 將當前時刻比作核武器，只不過人工智能更難控制，而且在更多領域有用。

“原子彈只有一個用途，它的工作原理非常明顯，”他說，“而人工智能可以做很多很多事情。”

辛頓解釋說，企業利潤動機和國際競爭的結合是人工智能發展不會放緩的原因。

“利潤動機就是告訴他們：只要能讓他們點擊就給他們看，而真正讓他們點擊的，是越來越極端的東西，這進一步證實了他們已有的偏見，”他說。 “所以，你的偏見一直在不斷得到證實。”

人工智能會如何滅絕人類？ 辛頓表示，超級智能AI可以設計出新的生物威脅來消滅人類。

“最顯而易見的方法是製造一種極其危險的病毒——傳染性極強、致命性極高、傳播速度極慢——這樣每個人都會在不知不覺中感染它，”他說。 “如果超級智能想要消滅我們，它很可能會選擇某種不會對它造成影響的生物。”

儘管前景黯淡，但辛頓並非完全沒有希望。

“我們根本不知道能否阻止它們佔領地球，阻止它們傷害我們。我認為我們目前還不清楚能否做到，所以我覺得這或許毫無希望，”辛頓說。 “但我也認為我們或許能夠做到，而且如果因為我們懶得嘗試而導致人類滅絕，那也未免太瘋狂了。”