中國現在使用人工智能來增強審查和鎮壓

洩漏的數據顯示，中國正在使用大型語言模型來增強其審查機器。

最近的洩漏表明，建立在133,000個用戶內容示例的基礎上的複雜的AI系統旨在標記政府認為敏感的任何材料。  

該數據集由安全研究人員發現，並被TechCrunch，表明中國正在採取措施擴展其在線控制，遠遠超出了諸如天安門廣場大屠殺等主題。

中國正在使用現代技術來過濾在線內容

該洩漏的歷史可追溯至2024年12月，這清楚地表明中國當局或其分支機構正在使用新技術來過濾在線內容。  

該數據庫包括有關中國農村貧困的投訴，有關腐敗的共產黨成員的新聞報導，以及哭泣的腐敗的警察哭泣，震驚企業家。  

每個內容都被饋入大型語言模型（LLM），以掃描可能引起公眾異議的主題。

研究中國審查制度的加州大學伯克利分校的研究人員肖·昆格（Xiao Qiang）告訴TechCrunch，洩漏的數據是政府意圖使用LLMS來改善鎮壓的“明確證據”。  

Qiang解釋說，與依靠人工勞動進行關鍵字過濾和手動審查的傳統方法不同，LLM可以快速準確地確定甚至微妙的批評，從而使國家主導的信息控制更加有效，更深遠。

該系統不僅用於審查政治話題，而且還擴展到社會生活和軍事事務中的敏感領域。 根據洩漏的數據集中的細節，與污染，食品安全醜聞，財務欺詐和勞資糾紛有關的任何內容均被“最高優先級”審查。  

數據顯示，諸如2012年Shifang反污染抗議活動之類的主題受到仔細監控，以防止公眾動盪。 即使是針對當前政治人物的政治諷刺和歷史類似物也立即被標記。 與台灣政治有關的內容也是針對軍事問題的目標，包括運動，練習和武器的細節 - 仔細審查。

“台灣”出現在中國審查數據集15,000次

洩漏內容中的一個值得注意的細節是，台灣的中文單詞（台灣）出現了15,000次，強調了可能挑戰官方敘述的任何討論的重點。  

數據集中的其他敏感內容包括有關台灣軍事能力的評論以及有關中國噴氣式戰鬥機的詳細信息。 即使是微妙的異議形式也無法倖免。 數據庫中發現的一個例子是使用流行的中國習慣“當樹倒下時，猴子散佈”的軼事。

安全研究人員Netaskari發現了dataset它存儲在Baidu服務器上的無抵押Elasticsearch數據庫中。  

“公眾輿論工作”是由強大的中國網絡空間管理（CAC）監督的審查和宣傳工作的術語。 亞洲權利組織第19條的亞洲計劃經理邁克爾·卡斯特（Michael Caster）解釋說，這項工作旨在確保政府敘事在線占主導地位。  

一個報告上個月的Openai還透露，一位可能從中國運作的身份不明的演員使用Generative AI來監視社交媒體對話，尤其是那些要求人權抗議的對話，並將信息轉發給中國政府。 同一份報告指出，該技術被用來發表評論，高度批評中國持不同政見的凱西。

中國的傳統審查制度通常依賴基本算法，這些算法會自動阻止包含黑名單的內容，例如“天安門大屠殺”或“ xi jinping”。 用戶通過Deepseek之類的工具親身體驗了這一第一手。 但是，較新的系統可以大規模地檢測到微妙的批評，並且隨著它們被餵養更多的數據，它們會有所改善。

密碼大都會學院：厭倦了市場波動？ 了解DEFI如何幫助您建立穩定的被動收入。 立即註冊