人工智能巨頭面臨 FTC 就聊天機器人安全和兒童保護展開調查

美國聯邦貿易委員會周四向七家大型科技公司發出強制命令，要求其提供有關其人工智能聊天機器人如何保護兒童和青少年免受潛在傷害的詳細信息。

調查目標OpenAI、ALPHAbet、Meta、xAI、Snap、Character Technologies 和 Instagram，要求他們在 45 天內披露如何將用戶參與度貨幣化、開發人工智能角色以及保護未成年人免受危險內容的侵害。

倡導團體最近的研究記錄了 669 起與兒童的有害互動在短短 50 小時的測試中，機器人向 12 至 15 歲的用戶提出了性直播、吸毒和戀愛關係的建議。

美國聯邦貿易委員會主席安德魯·弗格森在一份聲明中表示：“保護兒童上網是特朗普-萬斯聯邦貿易委員會的首要任務，促進我們經濟關鍵領域的創新也是如此。”陳述.

該文件要求公司每月提供用戶參與度、收入和安全事件的數據，按年齡組細分——兒童（13 歲以下）、青少年（13-17 歲）、未成年人（18 歲以下）、年輕人（18-24 歲）和 25 歲以上的用戶。

美國聯邦貿易委員會表示，這些信息將有助於委員會研究“提供人工智能伴侶的公司如何將用戶參與度貨幣化；施加和執行基於年齡的限制；處理用戶輸入；生成輸出；在部署前後衡量、測試和監控負面影響；開發和批准角色，無論是公司還是用戶創建的。”

構建人工智能護欄

SearchUNIfy 的人工智能主管 Taranjeet Singh 表示：“這是一個積極的舉措，但問題不僅僅是設置一些護欄那麼簡單。”解密.

他說，第一種方法是在生成初期或生成後階段建立護欄，“以確保不會向兒童提供任何不適當的內容”，但“隨著環境的發展，人工智能很容易不遵循指令，並陷入不應該陷入的灰色地帶”。

“第二種方法是在法學碩士培訓中解決這個問題；如果在數據管理過程中模型與價值觀保持一致，他們就更有可能避免有害的對話，”辛格補充道。

他指出，即使是受監管的系統也能“在社會中發揮更大的作用”，教育就是人工智能可以“改善學習並降低成本”的一個典型案例。

人工智能與用戶互動的安全問題已在多起案件中凸顯，其中包括一起針對 ChARacter.AI 的非正常死亡訴訟，該訴訟起因是 2024 年 2 月，14 歲的 Sewell Setzer III 因與人工智能機器人產生痴迷關係而自殺身亡。

訴訟發生後，Character.AI“改進了對違反我們條款或社區準則的用戶輸入的檢測、響應和乾預”，以及時間消耗通知，公司發言人表示解密 當時。

上個月，全國總檢察長協會向13家人工智能公司發出信函要求加強兒童保護。

該組織警告稱，“讓兒童接觸色情內容是不可原諒的”，並且“如果行為是由人類實施的，則是違法的，甚至是犯罪的，不能僅僅因為它是由機器實施的，就成為可原諒的行為。”

解密已聯繫聯邦貿易委員會命令中提到的所有七家公司徵求進一步意見，如果他們做出回應，我們將更新此報導。