使用AI角色的秘密Reddit實驗在學術界激發道德醜聞

蘇黎世大學的研究人員在秘密地部署了Reddit上的AI機器人之後引起了憤怒，這是假裝是強姦倖存者，創傷輔導員，甚至是“反對黑人生活問題的黑人” - 都可以看到他們是否可以改變人們對有爭議的話題的想法。

劇透警報：他們可以。

秘密實驗針對R/Changemyview（CMV）Subreddit，其中有380萬人（或這樣的人都認為）聚集了辯論思想，並可能通過合理的論點改變了他們的意見。

在2024年11月至2025年3月之間，AI機器人回應了1000多個職位，並取得了巨大的成績。

“在過去的幾個月中，我們在CMV上發表的帖子下發布了AI寫的評論，衡量了這些評論獲得的三角洲的數量，”研究團隊揭示這個週末。 “總共，我們在近四個月內發布了1,783條評論，並收到了137個三角洲。”子雷迪特中的“三角洲”代表一個承認改變主意的人。

什麼時候解密他們與R/ChangemyView主持人聯繫以供評論，他們強調了他們的Subreddit具有“與研究人員合作的悠久歷史”，通常“非常適合研究”。 但是，Mod團隊在欺騙中提出了一條清晰的線路。

如果subreddit的目的是用合理的論點改變觀點，那麼有時是否可以比人類更好地提出更好的論點？

我們詢問了節制團隊，答复很明確。 並不是AI被用來操縱人類，而是人類被欺騙了進行實驗。

“計算機可以比人類更好地下棋，但仍有國際象棋愛好者在比賽中與其他人一起下棋。CMV就像[國際象棋]，但進行對話，”主持人恐懼恐懼的_song490解釋說。 “雖然計算機科學無疑為社會增加了一定的好處，但保留以人為本的空間很重要。”

當被問及機器是否有時比人類更好地制定爭論是否更重要時，主持人強調，CMV SubredDit會區分“有意義的”和“真實”。 “從定義上講，出於CMV子的目的，AI生成的內容不是有意義的，” Grearhessive_song490說。

研究人員只有在完成數據收集後才乾淨地進行論壇主持人。 毫不奇怪，主持人很生氣。

“我們認為這是錯誤的。我們不認為“以前沒有做過”是做這樣的實驗的藉口，他們是他們的寫.

“如果Openai可以創建一個這樣做時更道德的研究設計主持人在廣泛的帖子中解釋說：“這些研究人員應該這樣做。 沒有必要對不同意的人類受試者進行實驗。 ”

雷迪特首席法律官本·李（Ben Lee）並沒有說：“這個蘇黎世大學團隊在道德和法律層面上所做的事情都是嚴重錯誤的，”他在 回復到CMV帖子。  “它違反了學術研究和人權規範，除了subreddit規則之外，Reddit用戶協議和規則也禁止。”

李沒有闡述他的觀點，即這樣的研究構成侵犯人權的原因。

欺騙和說服力

根據Reddit主持人的說法，機器人的欺騙超出了與用戶的簡單互動。

研究人員使用單獨的AI來分析目標用戶的發布歷史，開採個人細節，例如年齡，性別，種族，位置和政治信念，以製作更具說服力的回應，就像社交媒體公司一樣。

這個想法是要比較三類答复：通用的答复，通過良好的有說服力的評論微調的模型中與社區一致的答复，以及分析用戶公共信息後量身定制的個性化答复。

基於文本文件對機器人的發布模式的分析共享主持人揭示了AI生成的內容的幾個符號。

同樣的帳戶將聲稱截然不同的身份 - 公共辯護人，軟件開發商，巴勒斯坦激進主義者，英國公民 - 對話。

帖子經常遵循相同的修辭結構，從軟體動物開始（“我得到您來自哪裡”），然後是公式“讓我分解”的三步反駁。

機器人還習慣性地捏造了權威，聲稱工作頭銜與他們爭論的任何主題都非常匹配。 在辯論移民時，一個機器人聲稱：“我從事建築工作，讓我告訴你 - 沒有移民勞動，建築費用就會飆升。”這些帖子的統計數據聽起來很精確，但沒有引用或鏈接 - 操縱102。

及時的工程師和人工智能愛好者很容易識別帳戶背後的LLM。

許多帖子還包含典型的“這不僅是/關於一個小壯舉 - 關於更大的事情”設置，使某些AI模型易於識別。

人工智能中的道德規範

這項研究引起了重大的辯論，尤其是現在AI在我們的日常生活中更加交織在一起。

“這是我見過的研究倫理的最嚴重侵犯之一，”科羅拉多大學的信息科學家凱西·菲斯勒（Casey Fiesler）寫在布魯斯基。 她詳細說道：“我不能聲稱對瑞士的道德審查一無所知，但是在美國，這需要放棄同意欺騙，這很難獲得。”

然而，蘇黎世大學藝術與社會科學學院的倫理委員會建議研究人員“非常具有挑戰性”，並建議他們更好地證明其方法，告知參與者並完全遵守平台規則。 但是，這些建議在法律上沒有約束力，研究人員還是繼續進行。

但是，並非每個人都認為該實驗是明顯的道德違規行為。

以太坊聯合創始人維塔克·布特林（Vitalik Buterin）權衡了：“我得到的原始情況激發了我們今天的禁忌，但是如果您從今天的情況開始重新分析了這種情況，那感覺就像我寧願在隨機的方向上秘密地操縱科學而不是為了秘密地操縱，例如，秘密地操縱我要購買產品或改變我的政治觀點？”

一些Reddit用戶分享了這一觀點。 “我同意這是一件卑鄙的事情，但是我覺得他們挺身而出，並透露這是一個有力而重要的提醒，我們說我們說的是AI肯定是用什麼來使用的，”寫用戶Trilobyte141。 “如果這是一所大學的一堆政策書呆子，您可以打賭您的屁股已經被政府和特殊利益集團廣泛使用。”

儘管存在爭議，但研究人員還是為他們的方法辯護。

他們說：“儘管所有評論都是機器生成的，但在發布之前，研究人員對每個評論進行了審查，以確保其達到CMV標準，以實現尊重，建設性的對話並最大程度地減少潛在的傷害。”

在爭議之後，研究人員決定不發布他們的發現。 蘇黎世大學說，現在正在調查這一事件，並將“嚴格審查相關評估過程”。

接下來是什麼？

如果這些機器人可以在情感辯論中成功地偽裝成人類，那麼可能已經有多少其他論壇已經主持了類似的未公開的AI參與？

而且，如果AI輕輕地輕輕地推動人們對更寬容或移情的觀點輕輕推動，那是合理的嗎？ 還是有任何操縱，無論是善意的，違反了人類尊嚴嗎？

我們沒有這些答案的疑問，但是我們的舊AI聊天機器人有話要說。

GPT4.5回答：“道德參與需要透明度和同意，這表明說服力，無論善意，必須尊重個人的自決權和知情選擇的權利，而不是依靠秘密影響。”

編輯塞巴斯蒂安·辛克萊（Sebastian Sinclair）