Openai在用戶推翻“ Sycophantic”行為之後退回ChatGpt更新

CHATGPT的最新更新旨在提高其個性。 取而代之的是，它將世界上最常用的AI聊天機器人變成了許多用戶所說的無情的奉承者，Openai現在承認音調轉變太過分了。

週二，Openai說，他們最近的最新消息使Chatgpt“過於討人喜歡或令人愉快（通常被描述為Sycophantic”），並且確認的推出已取消了以前，更平衡的版本。  

該公司在陳述解釋回滾。

決定是在幾天之後公共反彈在Reddit，X和其他平台上，用戶將聊天機器人的音調描述為粘合，有時甚至是操縱性的。

“現在它為免費用戶回滾100％，我們將在今天晚些時候為付費用戶完成後再次更新，” Openai首席執行官Sam Altman推文關於最新更新。

好人先生

博客文章解釋說，該問題源於對短期參與度指標（例如用戶大拇指）的過度校正，而沒有考慮到偏好隨時間變化的情況。  

結果，該公司承認，最新的調整傾斜的changpt語氣使互動“令人不舒服，不安和[造成困擾）。

雖然目標是使聊天機器人更加直觀和實用，但Openai承認，該更新產生了不真實和無濟於事的回應。

該公司承認，它“專注於短期反饋”，這是一個錯誤的設計，讓短暫的用戶批准轉向模型音調。

為了解決這個問題，OpenAI現在正在重新加工其培訓技術和精煉系統提示減少粘粘劑。  

Openai說，將邀請更多用戶在將來的更新完全部署之前測試未來的更新。

這家AI技術巨頭表示，它也正在“建立更強大的護欄”以提高誠實和透明度，並“擴大內部評估”以盡快捕獲此類問題。  

該公司表示，在接下來的幾個月中，用戶將能夠從多個默認個性中進行選擇，提供實時反饋以調整音調中間的反向，甚至通過擴展的自定義說明指導模型。

目前，仍然受到Chatgpt熱情的用戶可以使用“自定義說明”設置來控制它，從本質上講，該機器人告訴機器人撥打奉承，只是堅持事實。

編輯塞巴斯蒂安·辛克萊（Sebastian Sinclair）