OpenAI 利用年齡預測技術限制青少年對 ChatGPT 的訪問

OpENAI 週二表示，該公司正在摒棄年齡驗證的“誠信系統”，部署新的 AI 驅動的預測模型 ChatGPT 來識別未成年人。

這更新ChatGPT 會自動對疑似屬於 18 歲以下用戶的帳戶觸發更嚴格的安全協議，無論他們在註冊時提供的年齡是多少。

OPEnAI 的新系統不依賴用戶註冊時提供的出生日期，而是分析“行為信號”來估計用戶的年齡。

據該公司稱，該算法會監控賬戶存在的時間、賬戶的活躍時間以及一段時間內的特定使用模式。

OpenAI 在一份聲明中表示：“部署年齡預測功能可以幫助我們了解哪些信號可以提高準確率，我們會利用這些經驗不斷改進模型。”

隨著人工智能開發者越來越多地採用年齡驗證來管理青少年訪問權限，行為模式的轉變也隨之而來，但專家警告說，這項技術仍然不夠準確。

2024年5月報告美國國家標準與技術研究院的研究發現，準確性會因圖像質量、人口統計數據以及用戶與法定閾值的接近程度而有所不同。

OpenAI表示，當模型無法確定用戶年齡時，會應用更嚴格的設置。 該公司稱，被錯誤地劃分到18歲以下用戶區域的成年人可以通過使用第三方身份驗證服務Persona的“基於自拍”的年齡驗證流程來恢復完整訪問權限。

隱私和數字權利倡導者對人工智能係統僅憑行為就能可靠地推斷年齡表示擔憂。

做到正確

“這些公司因為對青少年造成各種傷害而官司纏身，所以他們肯定有動機盡可能降低風險。這正是他們試圖最大限度降低風險的舉措之一，”公共公民組織（Public Citizen）大型科技公司問責倡導者表示。 J.B. 布蘭奇講述解密。 “我認為這就是很多問題的根源所在。他們說，‘我們需要某種方式來證明我們已經制定了相關規程，能夠篩查出需要隔離的人員。’”

阿莉婭·巴蒂亞民主與技術中心的高級政策分析師表示，OpenAI 的方法“引發了關於該工具預測的準確性以及 OpenAI 將如何處理不可避免的錯誤分類的棘手問題”。

巴蒂亞表示：“由於種種原因，根據這類信號預測用戶年齡極其困難。例如，許多青少年是新技術的早期使用者，因此OpenAI面向消費者的服務中最早註冊的賬戶可能不成比例地以青少年為主。”

巴蒂亞指出，CDT民調顯示……實施在 2024-2025 學年期間，數據顯示 85% 的教師和 86% 的學生表示使用過人工智能工具，其中一半學生將人工智能用於與學校相關的用途。

“很難區分使用 ChatGPT 輔助數學教學的教師和使用 ChatGPT 進行學習的學生，”她說。 “僅僅因為有人使用 ChatGPT 尋求數學作業的解題技巧，並不意味著他們未滿 18 歲。”

據 OpenAI 稱，這項新政策借鑒了青少年發展方面的學術研究。 此次更新還擴展了家長控制功能，允許家長設置安靜時間、管理記憶和模型訓練等功能，並在系統檢測到“急性應激”跡象時收到警報。

OpenAI 在帖子中沒有透露預計此次更改將影響多少用戶，也沒有透露數據保留、偏差測試或系統安全措施的有效性等細節。

此次推廣是在人工智能係統與未成年人互動方面受到廣泛關注之後進行的，這種關注在 2024 年和 2025 年愈演愈烈。

9月份，聯邦貿易委員會發布向包括 OpenAI、ALPHAbet、Meta 和 xAI 在內的主要科技公司發出強制令，要求它們披露其聊天機器人如何處理兒童安全、基於年齡的限制以及有害互動。

同月，非營利組織 ParentsTogETHer Action 和 Heat Initiative 發表的研究報告記錄了數百起人工智能陪伴機器人的案例。 已訂婚的在誘騙行為、性角色扮演以及其他與冒充兒童的用戶的不當互動中。

這些發現，以及涉及青少年用戶在類似平台上的訴訟和備受矚目的事件，例如角色人工智能和格羅克促使人工智能公司採取更正式的基於年齡的限制。

然而，由於該系統會給所有用戶（而不僅僅是未成年人）分配一個估計年齡，巴蒂亞警告說，錯誤是不可避免的。

“其中一些年齡信息肯定是錯誤的，”她說。 “用戶需要更多地了解在這些情況下會發生什麼，並且應該能夠訪問他們被分配的年齡，並在信息錯誤時輕鬆更改。”

ChatGPT 的消費者計劃現已上線年齡預測系統，預計未來幾週將在歐盟推廣。