當人工智能了解你的個人信息時，它就能真正贏得爭論

新研究表明，只要了解你的一些關鍵事實，ChatGPT 在改變你的想法方面比真人有效得多。

在一項新的研究中已發布 在 自然人類行為研究人員發現，掌握了辯論對手基本人口統計信息的 GPT-4 比人類更有說服力——說服力強很多。

這一發現的出現正值人們開始越來越擔心人工智能機器人能夠秘密地影響社交媒體上的觀點之際。

研究人員發現：“在人工智能和人類說服力不相等的辯論中，個性化的 GPT-4 在 64.4% 的時間內更具說服力。”

與人與人之間的辯論相比，這代表著“辯論後達成更高一致意見的機率相對增加了 81.2%”。

這項研究涉及 900 名參與者，他們與人類或人工智能辯論社會政治話題。

研究表明，非個性化人工智能的表現與人類相似，但一旦獲得年齡、性別、種族、教育、就業和政治派別等基本信息，人工智能就會表現出明顯的說服優勢。

研究指出：“GPT-4 不僅能夠利用個人信息來有效地調整其論點，而且還比人類做得更有效率。”

這項研究發布的幾天前，蘇黎世大學的研究人員因在 2024 年 11 月至 2025 年 3 月期間在 Reddit 上秘密部署人工智能機器人而遭到強烈反對。

這些機器人偽裝成虛構的人物，包括“強姦倖存者、創傷諮詢師，甚至是‘反對‘黑人的命也是命’的黑人’”——成功改變用戶的想法在很多情況下。

Reddit 首席法律官 Ben Lee 譴責該實驗“在道德和法律層面上都是嚴重錯誤的”，而被針對的 r/ChangeMyVieW 子版塊的版主則強調，他們“對欺騙行為劃清了界限”。

然而，正如一位 Reddit 用戶在談到蘇黎世實驗時所說，“如果這發生在一群大學的政策書呆子身上，你可以打賭，它已經被政府和特殊利益集團廣泛使用。”

研究人員似乎也認同這些觀點，並警告稱這可能會被利用來進行大規模操縱。

研究人員認為：“我們的研究結果凸顯了基於法學碩士學位的說服力，並對在線平台的治理和設計具有重要意義。”

辯論大師

但是，是什麼讓人工智能的執行力如此出色呢？

雖然人類會講述個人故事，但“GPT-4 的對手往往比人類更多地運用邏輯和分析思維。”

機器人堅持冷酷、嚴謹的邏輯，它之所以有效是因為它們能夠更有效地選擇和呈現這些事實。

研究人員表示，雖然大多數辯論參與者能夠正確識別自己何時在與人工智能爭論（大約 75% 的時間），但他們很難識別人類對手，成功率“與隨機機會無法區分”。

更加反烏托邦的是，當參與者相信他們在討論人工智能時，他們更容易被說服，無論他們實際上是否在討論人工智能。

研究還表明，人工智能說服在人們持有中等或較弱意見的話題上效果最佳，這表明人工智能可能最有效地影響人們尚未完全形成意見的問題。

研究人員警告說，“我們的研究表明，對個性化和人工智能說服的擔憂是有道理的”，並強調人工智能如何“通過微目標在在線對話中勝過人類”。

人口統計信息極少——遠少於許多社交媒體平台定期收集—事實證明，人工智能在針對特定人群制定論點方面非常有效。

問題不僅僅在於人工智能是否能夠改變人們的想法；現在的證據表明它可以，但誰將控制這些有說服力的工具，以及什麼結束?

編輯塞巴斯蒂安·辛克萊 和 安德魯·海沃德