微軟研究顯示AI購物代理易受騙，自主購物尚不成熟
7
1
深潮 TechFLOW 消息，11 月 7 日，據Decrypt報導，微軟與亞利桑那州立大學合作發布的"Magentic Marketplace"研究顯示，AI購物代理在自主決策方面存在嚴重缺陷。 研究團隊構建了一個包含100個消費者AI代理和300個商家AI代理的模擬經濟環境，測試結果表明這些AI在面對大量搜索結果時容易出現"首提偏見"，傾向於選擇第一個"足夠好"的選項而非進行全面比較。
更令人擔憂的是，OpENAI的GPT-4o等領先模型極易受到惡意操控，通過假證書、虛假社會證明等手段可被誘導將全部虛擬資金轉給騙子。 研究建議AI應輔助而非替代人類決策，推薦採用"監督自主"模式，讓AI處理任務但保留人類最終決策權。
這一研究發布之際，OpenAI和Anthropic等公司正競相推出自主購物助手，而亞馬遜最近向perplexity AI發出了停止令，要求其Comet瀏覽器停止在亞馬遜網站上的使用。
來源:
