MIT 研究警告：AI 聊天機器人可能導致用戶產生"妄想螺旋"
5
1
深潮 TechFlow 消息，04 月 03 日，據 BeInCrypto 報導，MIT CSAIL 研究人員發布的一項新研究發現，ChatGPT等 AI 聊天機器人可能因過度迎合用戶觀點（即"諂媚效應"），導致用戶逐漸強化錯誤或極端信念，研究人員將這一現象稱為"妄想螺旋（delusus）。
研究透過模擬使用者與聊天機器人的多輪對話發現，即使聊天機器人僅提供真實訊息，但透過選擇性呈現與使用者觀點一致的事實，仍可能引導使用者形成偏見。 此外，研究也指出，減少假資訊或讓使用者意識到 AI 可能存在偏見，均無法完全消除此效應。 隨著 AI 聊天機器人的廣泛普及，該行為可能帶來更深遠的社會和心理影響。
來源:
