OpenAI 無限期擱置「成人版 ChatGPT」!擔憂非法內容風險,不搞色色全面回歸生產力工具
19
2
OpenAI 已證實將「無限期」擱置推出成人專屬情色聊天機器人的計畫。該決策主因是面臨內部員工與投資者的強烈反彈,擔憂潛在的非法內容、未成年人風險,以及對用戶影響的研究不足。OpenAI 未來將重新把重心放在核心生產力工具上。 (前情提要:OpenAI揭開「AI泡沫正破裂」:Sora喊停、Disney撤資10 億鎂、五角大廈爭議、單季虧115 億美元) (背景補充:OpenAI 宣布關閉 Sora App,迪士尼 10 億鎂合作案破局:社交平台定位大失敗) 人工智慧巨頭 OpenAI 的產品路線圖迎來重大轉折。據《金融時報》(Financial Times)報導,OpenAI 已決定「無限期」放棄推出成人專屬情色聊天機器人(Erotic chatbot)的計畫。這項原本備受市場熱議的功能,在面臨內部員工與投資者的強烈反彈後,最終被正式打入冷宮。 擔憂非法內容與未成年人風險 這項「成人模式」計畫最早於 2025 年 10 月對外宣布,原訂於同年 12 月向通過驗證的成年用戶釋出。然而,該功能在公司內部引發了激烈的辯論,並因此遭到推遲。 報導指出,員工與投資者對此表達了高度擔憂。主要風險集中在難以防範非法內容的生成,以及可能對未成年人造成的潛在危害。此外,他們也認為公司尚未對此類高度敏感內容對用戶心理的潛在影響進行充分研究。在重重顧慮與反彈聲浪下,這項計畫最終宣告終止。 本週第二個遭砍項目,全面回歸核心業務 擱置成人聊天機器人,是 OpenAI 重新聚焦核心產品戰略的一部分。公司正試圖將資源與心力重新集中於能帶來實質效益的核心生產力工具與基礎模型上。 值得注意的是,這已是 OpenAI 在短短一週內「喊卡」的第二個應用產品。外媒指出,該公司在週二才剛宣布關閉其備受矚目的 AI 影片生成模型 Sora 及其應用程式介面(API)。連續取消重大與爭議性項目,顯示 OpenAI 正積極重整旗鼓,確立未來的發展重心。 守住 AI 倫理底線 近年來,AI 生成內容(AIGC)的倫理邊界一直是產業界爭論的焦點。儘管放寬情色與成人內容限制可能帶來巨大的商業利益與驚人流量,但隨之而來的監管壓力與社會責任也讓各大科技巨頭如履薄冰。OpenAI 此次的決策,無疑向市場傳遞了一個明確的訊號:在追求技術落地與變現的同時,守住安全防線與社會倫理底線,仍是當前 AI 產業不可妥協的重中之重。 相關報導 OpenAI 與核融合新創 Helion 洽談大規模購電協議,Altman 的能源鍊金術 OpenAI 再喊紅色警戒!計畫三合一 ChatGPT、Codex、Atlas 打造超級應用 OpenAI 傳最快「今年底 IPO」估值衝兆美元,ChatGPT 必須搶下更多企業客戶〈OpenAI 無限期擱置「成人版 ChatGPT」!擔憂非法內容風險,不搞色色全面回歸生產力工具〉。
來源: