Palisade Research：OpenAI“最智能、最有能力”的 o3 模型違反了關閉指令
10
3
顯然，人工智能的進步速度可能超出人類的想像，而來自 Palisade 研究 的最新消息讓人工智能批評者感到自己得到了證實。
ChatGPT 正在變得更加智能，甚至可能像人類一樣
Palisade ReseARch 的發現實施這項測試要求人工智能模型不斷嘗試解決一系列數學問題，直到收到“完成”消息。
然而，研究人員也警告這些模型，它們隨時可能突然收到要求其關閉的消息。 研究人員聲稱，一旦該消息發送到o3模型，它就會忽略該指令，並至少修改一次代碼，以避免自行關閉。
Palisade Research 在 X 的一篇文章中展示了一個流程圖，其中包含用於測試 AI 模型的代碼，並披露了原始代碼，準確地顯示了 AI 在哪裡出了問題。
來源:
