AI機器人秘密滲透辯論論壇後，Reddit破解了

在Reddit最大的社區之一的幕後，令人毛骨悚然的事情一直在醞釀之中。 四個月來，AI驅動的機器人偽裝成人類，搖擺著觀點並贏得了數千次投票。

該實驗似乎在起作用 - 直到每個人都發現.

Reddit在本週早些時候宣布了計劃，在得知蘇黎世大學的研究人員對R/ChangeMyView Subreddit進行了未經授權的實驗後，計劃收緊用戶驗證，並使用AI機器人在未經其知識或同意的情況下操縱用戶來操縱用戶。

研究人員已經部署了使用敏感角色的機器人，包括創傷顧問，性侵犯倖存者和有爭議的政治身份 - 從2024年末到2025年初，並發表了1,700多種評論。 AI實體還分析了用戶的發布歷史，以製定有說服力的個性化答复 - 所有人都沒有透露他們是AI代理商。

在致社區的帖子中，雷迪特首席法律官本·李（Ben Lee）譴責該實驗“在道德和法律層面上都深深地錯誤”，理由是違反了平台用戶協議和研究道德的行為。 該公司禁止與研究有關的所有帳戶，並向蘇黎世大學提出正式投訴。

保持Reddit人意味著共享更多信息

首席執行官史蒂夫·霍夫曼（Steve Huffman）在最近的一個平台更新。 “這是真正的人分享真實意見的少數幾個地方之一……如果我們對此失去信任，我們會失去使Reddit…Reddit的原因。”

該實驗使在線社區發揮作用的核心：信任。 主持人將其描述為“心理操縱，“指出用戶加入了期望真正的人類互動的subreddit，而不是不願意的測試對象。

也就是說，AI機器人非常有效，收集了20,000多個投票和137個“ deltas” - 當某人成功更改另一個用戶視圖時，給予了AwARds。 但是，研究人員透露了他們的工作後，該實驗只會獲得蒸汽。 為了防止另一項事件（甚至是秘密事件）現在正在採取快速追踪措施，以驗證用戶是人類而不損害隱私的情況。

霍夫曼解釋說：“為了保持紅色人類的人類並滿足不斷發展的監管要求，我們將需要更多信息。” “具體來說，我們需要知道您是否是人類，在某些地方，如果您是成年人。但是我們永遠不想知道您的名字或您是誰。”

該公司計劃與第三方驗證服務合作進行此類檢查。

霍夫曼強調，保持匿名仍然是該平台的基石：“匿名對reddit至關重要。我們一直在 - 並且將繼續存在 - 對您的個人信息的保護。”

雖然Reddit已經使用AI工具來進行內容調節和垃圾郵件過濾等任務，但在模擬機器人的用戶時，該公司設定了限制。 霍夫曼確認：“我們的重點是，並且永遠都是，將雷迪特保留一個值得信賴的人類對話的地方。”

該平台目前禁止“不良”機器人，但該事件突出了當前系統中的關鍵漏洞。 隨著人工智能變得越來越複雜，人類和機器生成的內容對在線社區提出了挑戰。

Reddit沒有回復發表評論請求，但是Reddit用戶擔任R/ChangeMyVieW的主持人的Reddit用戶恐懼率_song490告訴解密主持人將仔細檢查與AI的相互作用。 他說：“我的普遍印像是，團隊總是會接受研究人員，我們將逐案考慮要求。”

隨著Reddit接近其成立20週年，該事件強調了平台和類似的在線社區。 未來的挑戰在於利用AI福利，同時保留了使這些空間首先使這些空間變得有價值的人類聯繫。

霍夫曼指出：“互聯網正在迅速變化，人類的觀點從未如此重要。” “沒有解決方案是完美的 - 包括現狀，但我們將盡力保留Reddit的人性和匿名性。”

由詹姆斯·魯賓（James Rubin）編輯