OpenAI 成立幸福委員會，Altman 放寬 ChatGPT 成人內容限制

OpENAI 週二宣布形成健康和人工智能專家委員會，由一群學者和非營利組織領導人組成，負責幫助該公司了解其產品如何影響心理健康。

該公司在一份聲明中表示：“他們的職責是為我們提供建議、提出問題，並幫助定義各個年齡段的人與人工智能的健康互動應該是什麼樣的。”

該小組由八名成員組成，包括來自哈佛大學、斯坦福大學、牛津大學和其他機構的研究人員，他們將幫助制定指導方針。

OPEnAI 補充道：“我們與委員會的合作將包括定期檢查我們的方法，並定期召開會議探討人工智能在復雜或敏感情況下應如何表現以及哪些類型的護欄可以最好地支持使用 ChatGPT 的人們等主題。”

人工智能與公共安全

OPenAI 和其他人工智能公司面臨著越來越大的壓力，因為他們擔心這項技術會對用戶（尤其是兒童）產生影響。 OpenAI 和其他業內公司都面臨著家長的訴訟，他們指控人工智能對話導致青少年自殺，這促使 OpenAI 在今年早些時候推出了家長控制功能。 其他人則將人際關係破裂和孤獨感加劇歸咎於對聊天機器人的依賴。

在公眾壓力下成立的福利委員會凸顯了科技行業一個持續存在的問題：企業只有在產品大規模流通後才開始考慮其心理和道德後果。 批評人士表示，這是一個常見的循環：先創新，後問責。

非政府組織 ALGOrithmWatch 的一位發言人告訴解密.

AlgorithmWatch 還質疑新委員會的獨立性，並指出 OpenAI 的歷史內部權力鬥爭他們補充道：“我們應該記住，當之前的 OpenAI 董事會試圖通過表達對 Sam Altman 的不信任來產生影響時，他們都被撤職並被替換了。”

AlgorithmWatch 建議，Meta 監督委員會可能是一個“稍微好一點（但仍然有限）的先例”，並指出雖然他們的建議“通常非常緩慢且經常被忽視”，但該委員會提供了“明確的建議，並且足夠公開，人們可以看到 Meta 忽略了什麼”。

Holonym 聯合創始人兼數字權利倡導者 Shady El Damaty 告訴解密他發現，那些競相部署最強大人工智能工具的公司現在卻將自己定位為“道德裁判”，這很諷刺。

“但這些對話緊迫且早就該進行了，所以我不會否定這個委員會的存在。如果真要說的話，我希望它能為每個人爭取發言權，”他補充道。

除了福祉之外，他還表示希望看到委員會也能解決隱私和身份問題。 “委員會至少應該建立透明公開的指標來衡量人工智能的情感影響，並要求定期進行獨立審計，”他說。 “但我們確實需要強化的規章制度來保護我們的數字權利，而且越快越好。”

他補充道：“OpenAI 的專家委員會有機會在安全領域進行更深入的研究。他們應該問：人們在數字空間中擁有哪些權利？他們的身份、行為和肖像歸誰所有？以人為本的設計究竟是什麼樣的……不僅針對兒童，也針對所有人？”

OpenAI 放寬成人內容限制

該公司重新關注福祉的同時，首席執行官 Sam Altman 也宣布 OpenAI 也將開始放寬限制，包括成人內容，將於 12 月推出。

Altman 表示：“我們對 ChatGPT 進行了嚴格的限制，以確保我們能夠妥善處理心理健康問題。”發推文同一天。

“我們意識到，對於許多沒有心理健康問題的用戶來說，這會降低它的實用性/樂趣，但考慮到問題的嚴重性，我們希望解決這個問題。”

奧特曼表示，經過驗證的成年人很快將被允許使用 ChatGPT 創作色情作品，並將其描述為“像對待成年人一樣對待成年用戶”這一更廣泛原則的一部分。