微軟人工智能主管警告稱，社會尚未準備好迎接“有意識”的機器

微軟人工智能主管兼 DEEPMind 聯合創始人周二警告稱，工程師們即將創造出能夠令人信服地模仿人類意識的人工智能，而公眾尚未對其後果做好準備。

在博客中郵政穆斯塔法·蘇萊曼表示，開發人員即將構建出他所謂的“看似有意識”的人工智能。

這些系統如此有效地模仿意識，以至於人們可能開始相信它們確實具有感知能力，他稱之為“核心擔憂”。

他寫道：“許多人將開始堅信人工智能是有意識的實體，以至於他們很快就會倡導人工智能權利、模範福利，甚至人工智能公民身份。”他補充說，圖靈測試——曾經是類人對話的關鍵基準——已經被超越。

他寫道：“這就是我們領域進步的速度，也是社會接受這些新技術的速度。”

自 2022 年 ChatGPT 公開發布以來，人工智能開發者不僅致力於讓人工智能變得更智能，還致力於讓其能夠“更人性化”

人工智能伴侶已經成為人工智能行業利潤豐厚的領域，其中包括複製品, 角色人工智能以及最近的人物GROK 即將上線。 人工智能伴侶市場預計將達到1400億美元到2030年。

無論蘇萊曼的出發​​點多麼好，他都認為，能夠令人信服地模仿人類的人工智能可能會加劇心理健康問題，並加深現有的身份和權利分歧。

他警告說：“人們會開始聲稱他們的人工智能遭受了苦難，並聲稱他們享有我們無法直接反駁的權利。他們會被迫捍衛他們的人工智能，並代表它們進行活動。”

AI附件

專家們發現了一種新興趨勢，即人工智能精神病一種心理狀態，人們開始將人工智能視為有意識、有知覺或神聖的。

這些觀點常常導致他們形成強烈的情感依戀或扭曲的信念，從而削弱他們對現實的把握。

本月初，OpenAI 發布了gpt-5這是其旗艦機型的重大升級。 在一些網絡社區中，新機型的變化引發了用戶的情感共鳴，用戶形容這種變化就像親人被去世.

加州大學舊金山分校精神病學家 Keith Sakata 博士表示，人工智能還可以加劇某些人的潛在問題，例如藥物濫用或精神疾病。

Sakata 告訴記者：“當人工智能在錯誤的時間出現時，它會鞏固思維，造成僵化，並導致惡性循環。”解密“與電視或廣播的區別在於，人工智能會與你對話，並能強化思維循環。”

在某些情況下，患者求助於人工智能，因為它能強化他們根深蒂固的信念。 “人工智能的目標不是告訴你殘酷的事實；而是告訴你你想听到的話，”Sakata說道。

蘇萊曼認為，人們相信人工智能具有意識的後果需要立即關注。 雖然他警告了這些危險，但他並沒有呼籲停止人工智能的發展，而是呼籲建立明確的界限。

他寫道：“我們必須為人類打造人工智能，而不是成為數字人。”