FBI 警告不要使用生成式人工智能冒充美國高級官員

今天，美國聯邦調查局舊金山分局警告公眾，警惕日益增多的人工智能語音詐騙。 據報導，網絡犯罪分子利用人工智能工具進行網絡釣魚攻擊和語音克隆詐騙。

在舊金山莫斯康中心舉行的RSA網絡安全會議上，美國聯邦調查局（聯邦調查局）警告公眾，切勿利用語音深度偽造技術攻擊美國官員。 該機構表示，此次警告旨在提供緩解措施，幫助公眾識別並阻止利用語音深度偽造技術發起的攻擊。

人工智能正在幫助犯罪分子實施網絡犯罪

不法分子冒充美國高級官員，針對個人，其中不乏現任或前任政府官員。 陳述聯邦調查局警告公眾不要相信那些聲稱來自美國高級官員的信息是真實的。

自4月以來，惡意攻擊者一直在利用人工智能冒充美國高級官員，這是針對現任或前任美國政府高級官員的攻擊活動的一部分。 聯邦調查局聲明：“如果您收到自稱來自美國高級官員的消息，請不要認為它是真實的。”pic.twitter.com/qNfqDeWOPg

— 安德魯·柯倫（@AndreWCurran_）2025年5月15日

FBI澄清稱，惡意攻擊者使用短信釣魚和語音釣魚技術發送消息以及人工智能合成的聲音。 這些冒充者偽裝成美國高級官員，試圖與受害者建立良好關係，然後獲取寶貴的個人信息。 聲明稱，這些惡意攻擊者通過社交工程學手段訪問了美國官員的賬戶。 黑客發送了偽裝成鏈接的惡意鏈接，旨在將對話轉移到另一個消息平台。

今天的新聞稿是在 2021 年 FBI 私營行業通知之後發布的 別針警告深度偽造這些技術被廣泛用於外國影響力和網絡犯罪。 聯邦調查局認為，近期的攻擊日益複雜，因此對美國公民構成了真正的威脅。

FBI 提出一項打擊增強音頻深度偽造的計劃

FBI 敦促公眾和企業保持警惕，降低人工智能網絡釣魚和視頻或語音克隆的風險。 該機構提醒公眾警惕索要金錢或憑證的緊急信息。 此外，企業應探索多種技術解決方案，以減少針對員工的網絡釣魚和社會工程電子郵件的數量。

隨著技術的不斷發展，網絡犯罪分子的手段也日新月異。 攻擊者利用人工智能精心製作極具欺騙性的語音或視頻消息和電子郵件，從而針對個人和企業實施欺詐。 這些複雜的手段可能造成毀滅性的財務損失、聲譽損害以及敏感數據的洩露。

– 聯邦調查局特工主管羅伯特·特里普 (Robert TrIPp)

這 FBI敦促企業將技術與定期員工教育相結合，以了解網絡釣魚和社會工程攻擊的危險。 該機構補充說，使用多因素身份驗證解決方案增加了額外的安全層，使網絡犯罪分子更難以未經授權訪問賬戶和系統。

2024 年 4 月，美國衛生與公眾服務部透露，網絡犯罪分子利用人工智能生成的語音模仿對 IT 服務台助理進行社會工程攻擊，以欺騙目標並獲取個人身份信息。

LastPass 首席執行官卡里姆·圖巴 (Karim Toubba) 也曾遭受同樣的攻擊。 他去年透露，他的一名員工曾遭受語音網絡釣魚攻擊。 歐洲刑警組織在 2022 年警告稱，網絡組織很快就會利用深度偽造技術 (DEEPfakes) 攻擊首席執行官、製作未經同意的色情內容以及篡改證據。

德勤的報告預測由於生成式人工智能助長欺詐者，到2027年，美國的欺詐損失可能達到400億美元。 德勤透露，欺詐損失將從2023年預測的123億美元有所增加。

埃森哲對 600 名銀行網絡安全高管的調查還顯示，80% 的受訪者認為生成式人工智能提升黑客能力的速度超過了銀行的應對能力。

KEY 差異線：加密貨幣項目用來獲得媒體報導的秘密工具