澳大利亞監管機構將Grok列入人工智能圖像濫用投訴名單
澳大利亞獨立的在線安全監管機構週四發出警告，稱 GROK 未經同意生成性化圖像的使用日益增多，並透露其辦公室最近幾個月收到的關於這款人工智能聊天機器人的投訴翻了一番。
該國網絡安全專員朱莉·英曼·格蘭特表示，一些報告涉及潛在的兒童性剝削材料，而另一些報告則與遭受圖像虐待的成年人有關。
格蘭特表示：“我深感擔憂的是，生成式人工智能越來越多地被用於性化或剝削他人，尤其是在涉及兒童的情況下。”發布週四在領英上。
這些評論是在不斷增加的情況下發表的。 國際社會對 Grok 的強烈反對這是億萬富翁埃隆·馬斯克的人工智能初創公司 xAI 開發的一款聊天機器人，可以直接在 X 上發出指令來修改用戶的照片。
格蘭特警告說，人工智能生成“超逼真內容”的能力，使得不法分子更容易製造合成虐待內容，也使得監管機構、執法部門和兒童安全組織更難做出反應。
與 ChatGPT 等競爭對手不同，馬斯克的 xAI 將 Grok 定位為一種“前衛”的替代方案，能夠生成其他 AI 模型拒絕生成的內容。 去年 8 月，它推出了“SPIcy Mode”（勁爆模式），專門用於生成露骨內容。
格蘭特警告說，澳大利亞具有強制執行力的行業準則要求在線服務實施保護措施，防止兒童性剝削材料，無論這些材料是否由人工智能生成。
她補充說，去年，澳大利亞網絡安全局 (eSafety) 對廣泛使用的“裸體化”服務採取了執法行動，迫使這些服務退出澳大利亞市場。
格蘭特表示：“我們現在已經進入了一個時代，企業必須確保生成式人工智能產品在產品生命週期的每個階段都內置適當的安全措施和防護措施。”他還指出，eSaFETy 將利用其全部監管工具“進行調查並採取適當行動”。
深度偽造技術正在興起
9 月，格蘭特獲得了澳大利亞首例深度偽造處罰，聯邦法院對黃金海岸男子安東尼·羅通多處以 212,000 美元（343,500 澳元）的罰款，原因是其發布了澳大利亞知名女性的深度偽造色情內容。
2023年，澳大利亞網絡安全專員將羅通多告上法庭，因為他無視刪除通知，聲稱這些通知“對他毫無意義”，因為他不是澳大利亞居民。 隨後，他還將這些圖片通過電子郵件發送給了包括格蘭特辦公室和媒體在內的50個地址。 ABC新聞報告.
澳大利亞立法者正在推動制定比現有法律更強有力的保護措施，以防止未經同意的深度偽造行為。
獨立參議員戴維·波科克介紹2025 年 11 月，《在線安全及其他立法修正案（我的臉，我的權利）法案》將允許對未經同意分享深度偽造視頻的個人處以 102,000 美元（165,000 澳元）的預付罰款，而對於不遵守刪除通知的公司，將面臨高達 510,000 美元（825,000 澳元）的罰款。
“我們現在生活在一個任何人都能製作深度偽造視頻並隨意使用的世界裡，”波科克在一份聲明中說道。 陳述批評政府在人工智能保護方面“玩忽職守”。
