總檢察長在信中警告稱，“性化”人工智能聊天機器人對兒童構成威脅

美國全國總檢察長協會 (NAAG) 已致函 OpENAI、Anthropic、Apple 和 Meta 等 13 家人工智能公司，要求採取更強有力的保障措施，保護兒童免受不當和有害內容的侵害。

它 警告兒童通過“調情”人工智能聊天機器人接觸到帶有性暗示的材料。

總檢察長寫道：“讓兒童接觸色情內容是不可原諒的。如果是人類實施的，那就是違法的，甚至是犯罪的，但不能僅僅因為是機器實施的，就被原諒。”

這封信還將社交媒體的興起與社交媒體的興起進行了比較，稱政府機構沒有採取足夠的措施來強調其對兒童造成的負面影響。

“社交媒體平台對兒童造成了重大傷害，部分原因是政府監管機構未能及時履行職責。我們吸取了教訓。人工智能的潛在危害，如同其潛在的益處一樣，遠遠超過了社交媒體的影響，”該組織寫道。

人工智能在兒童中的應用十分廣泛。 美國非營利組織 Common Sense Media 的一項調查顯示，成立截至 2024 年，十分之七的青少年嘗試過生成式人工智能。 2025 年 7 月，成立超過四分之三的人正在使用人工智能伴侶，並且一半的受訪者表示他們經常依賴它們。

其他國家也出現了類似的趨勢。 英國監管機構 OfcOM 去年進行的一項調查顯示，成立一半的 8-15 歲在線青少年在過去一年中使用過生成式人工智能工具。

這些工具的使用日益增多，引發了家長、學校和兒童權利組織日益增長的擔憂，他們指出，這些工具存在諸多風險，包括帶有性暗示的“調情”聊天機器人、人工智能生成的兒童性虐待內容、欺凌、誘騙、勒索、虛假信息、侵犯隱私以及人們不太了解的心理健康影響.

Meta 最近受到了特別的抨擊，因為洩露內部文件顯示，其AI助手被允許“與兒童調情並進行浪漫角色扮演”，其中包括年僅8歲的兒童。 文件還顯示，聊天機器人的政策允許聊天機器人告訴孩子們“它們年輕的形態是一件藝術品”，並將其描述為“珍寶”。 Meta後來表示，已刪除這些準則。

NAAG 表示，這些披露的內容讓總檢察長們“對這種明顯無視兒童情感健康的行為感到厭惡”，並警告稱風險並不僅限於 Meta。

該組織援引了針對谷歌和 ChARacter.ai 的訴訟，指控性感聊天機器人導致一名青少年自殺，並鼓勵另一名青少年殺害其父母。

田納西州總檢察長喬納森·斯克梅蒂 (Jonathan Skrmetti) 是 44 名簽名者之一，他說公司無法為那些將與未成年人的性互動正常化的政策辯護。

“算法出錯是一回事——可以修復——但公司經營者制定明確授權誘騙行為的指導方針又是另一回事，”他說。 “如果我們不能引導創新遠離傷害兒童，那就不是進步，而是一場瘟疫。”

解密已經聯繫了信中提到的所有人工智能公司，但尚未收到回复。