OpenAI 報告稱，中國人惡意使用 ChatGPT 的情況日益增多

自 2022 年 11 月 ChatGPT 推出並立即獲得成功以來，人們一直擔心其潛在的後果，因為它能夠生成類似人類的音頻、文本、圖像和視頻。 OpENAI定期發布有關其平台上任何惡意活動的報告，例如網站的虛假內容。

OpenAI 搗毀了 10 個濫用其工具的獨立活動

這家總部位於舊金山的公司在周四發布的一份報告中透露，它最近搗毀了十起利用其人工智能工具的獨立攻擊活動。 其中四起是由與中國有關聯的團體策劃的，而一些規模較小的計劃則與其他國家有關。

根據 本·尼莫OPEnAI 調查團隊首席研究員表示，這些與中國有關的行動在多個在線場所部署了各種各樣的策略。

他告訴記者：“我們正在觀察一個不斷擴大的工具包。”

“一些活動融合了影響力行動、社會工程和監視，涉及從 TikTok 和 X 到 Reddit 和 Facebook 等平台。”

尼莫。

其中一個關鍵的例子被稱為“冷笑評論”使用 ChatGPT 發布了英語、中文和烏爾都語的簡短帖子和評論。 這些帖子和評論涵蓋了諸如美國國際開發署解散等話題，對該決定的褒貶不一，以及對一款被描繪成攻擊中國執政黨的台灣戰略電子遊戲的批評。

根據OPenAI的報告，在大多數情況下，此次行動不僅發布了原創帖子，還發布了回复，使其看起來像是一場“真正的”辯論。 這些團體還撰寫了一篇長篇文章，聲稱公眾對這款遊戲的強烈抗議。

“冷笑評審”團隊還使用 ChatGPT 起草內部文件和績效評估，詳細記錄了活動執行的每個步驟。 OpenAI 的分析師發現，實際的社交媒體行為與這些自我評估高度一致，凸顯了人工智能如何簡化一線影響力和後台管理。

報告還顯示，另一個與中國有關聯的網絡專注於情報收集，偽裝成記者和地緣政治評論員。 他們利用聊天機器人創建X賬戶簡介，翻譯中英文通信，甚至還針對一位美國參議員發送了有關聯邦提名的消息。

其他國家的團體也濫用了 OpenAI 的工具

除了中國業務外，報告還指出俄羅斯和伊朗參與者還試圖利用 ChatGPT 來影響選舉，這與人們對生成式人工智能在塑造公眾輿論方面的作用的擔憂相呼應。

在菲律賓，一家商業營銷機構涉嫌參與垃圾郵件活動，同時還發現了一起與柬埔寨有關的招聘騙局。 該公司還透露了另一項與朝鮮利益相關的就業計劃。

所有這些威脅都與 2 月份的一份報告相吻合。 OpenAI 在報告中發現了一項與中國相關的監控計劃。 據報導，該計劃實時監控西方抗議活動，並向中國安全機構提供摘要，而 ChatGPT 則為監控軟件提供了從代碼調試到起草銷售宣傳等所有服務。

尼莫表示，儘管這些行動似乎使用了複雜的工具，但大多數行動都被發現並被阻止。

他指出：“先進的人工智能並不一定能帶來更有效的結果。” 事實上，OpenAI 的定期威脅報告表明，雖然生成模型可以加速內容創作，但它們並不能保證真正的影響力或廣泛的吸引力。

為了應對這些發現，OpenAI 持續完善其監控和執行機制。 該公司禁止與檢測到的操作相關的賬戶，並刪除所有涉及創建惡意軟件、自動發送政治信息或誤導性內容的賬戶。

在最新一輪的行動中，OpenAI 刪除了發布與中國有關的地緣政治爭議的賬戶，包括對巴基斯坦活動人士的虛假指控以及對特朗普的評論。 關稅政策。

儘管 OpenAI 取得了成功，但該公司也承認生成式人工智能具有雙刃劍性質，既是創新的工具，也是虛假信息的工具。

Cryptopolitan Academy：想在 2025 年實現財富增值嗎？ 歡迎參加我們即將推出的網絡課程，學習如何利用 DeFi 實現增值。 保存您的位置