美國聯邦貿易委員會調查人工智能聊天機器人對兒童隱私和安全的隱患
美國聯邦貿易委員會（FTC）已啟動正式調查，調查人工智能聊天機器人的使用及其對兒童安全和隱私的潛在風險，這表明監管機構正加強對人工智能在面向消費者的平台上快速部署的審查。 這項調查是在公眾和立法壓力日益增大的背景下啟動的，旨在評估大型科技公司是否充分保護未成年人免受人工智能驅動的互動中接觸不當內容、操縱或數據濫用的影響。
美國聯邦貿易委員會（FTC）的關注點源於有報告稱，兒童利用聊天機器人獲取潛在有害或誤導性信息，涵蓋心理健康建議、暴力和自殘等話題。 一些倡導團體和兒童安全組織對人工智能係統在回應未成年人諮詢方面缺乏透明度以及缺乏標準化保障措施提出了警告。 據報導，該機構正在審查聊天機器人開發者是否已根據現行兒童保護法實施了適當的年齡驗證機制、內容過濾和用戶同意協議。
大型科技公司，包括那些廣泛使用人工智能助手的公司，已被要求提供有關其設計和審核實踐的信息。 根據公司內部披露的信息，許多聊天機器人缺乏一致的機制來識別或限制與未成年用戶的互動，這引發了人們對人工智能環境中人工監管的可擴展性的擔憂。 一些平台已經部署了人工智能審核工具，但這些工具也因執行不一致和可能產生偏見的結果而受到批評。
此次調查還涉及聊天機器人數據收集和使用的更廣泛問題。 兒童用戶經常在與人工智能係統的對話中分享個人信息，這引發了人們的疑問：這些數據是否在未經父母同意的情況下被存儲、分析或用於訓練未來的模型。 聯邦貿易委員會正在審查現行的數據隱私法，包括《兒童在線隱私保護法》（COPPA），是否足以應對人工智能驅動的互動帶來的獨特挑戰，或者是否需要採取新的立法措施。
行業分析師指出，此次調查的結果可能會影響未來幾年人工智能的監管格局，並可能導致對聊天機器人透明度、用戶控制和算法問責制的新規定。 該機構的調查結果也可能影響國際標準的製定，因為歐盟和其他司法管轄區也提出了類似的擔憂。 目前，聯邦貿易委員會的調查仍處於早期階段，尚未公佈調查結果或擬議建議的發佈時間表。
