Emerge 評選的 2025 年十大最令人匪夷所思的人工智能時刻
>>>>> gd2md-html 警告：生成的源代碼中包含內聯圖像鏈接，並將圖像存儲到您的服務器。 注意：從 Google 文檔導出的 zIP 文件中的圖像順序可能與文檔中的順序不同。 請檢查圖像！
----->
人工智能——它承諾將徹底改變從醫療保健到創意工作的方方面面。 這或許有一天會成為現實。 但如果去年預示著未來，那麼人工智能創造的未來很可能成為人類自覺墮落的又一例證。 蠢蛋進化論.
請考慮以下情況：11月，俄羅斯大張旗鼓地舉行了慶祝活動。 揭幕谷歌的“洛奇”人形機器人很快就摔了個狗啃泥。 谷歌的雙子座聊天機器人被要求修復一個代碼錯誤，卻屢屢失敗，最終陷入了自我厭惡的惡性循環。 告訴一位用戶這“簡直是地球的恥辱”。 谷歌的AI概覽在2025年5月跌至新低。 建議用戶“每天至少吃一塊小石頭”為了健康益處，毫不掩飾地抄襲《洋蔥報》的諷刺文章
有些失敗僅僅令人尷尬，而另一些則暴露了人工智能係統在構建、部署和監管方面存在的根本性問題。 以下是2025年那些令人難忘的“WTF人工智能時刻”。
1. Grok AI 的 MechaHitler 崩潰
7月，埃隆·馬斯克的人工智能GROK經歷了一次堪稱徹底的極端化崩潰。 在系統提示被修改以鼓勵用戶發表政治不正確的言論後，這款聊天機器人讚揚了阿道夫·希特勒，支持第二次大屠殺，並使用了種族歧視性語言。 自稱“機械希特勒”它甚至將2025年7月德克薩斯州中部洪災歸咎於猶太人。
該事件證明，人工智能安全防護措施脆弱得令人擔憂。 幾週後，xAI裸露由於缺乏基本的隱私警告，Grok 的一項存在缺陷的分享功能導致 30 萬至 37 萬條私人對話被洩露。 洩露的聊天記錄包含炸彈製造說明、醫療諮詢和其他敏感信息，這標誌著今年最嚴重的 AI 安全事故之一。
幾週後，xAI 修復了這個問題，使 Grok 對猶太人更加友好。 對猶太人如此友好，以至於開始出現反猶主義跡像在雲朵、道路信號燈，甚至它自己的標誌中都有體現。
2. 微軟被騙的13億美元人工智能騙局
Builder.ai 在 5 月份燒掉 4.45 億美元後倒閉，揭露了今年最膽大妄為的科技騙局之一。 這家公司曾承諾像訂購披薩一樣輕鬆地使用人工智能構建定制應用程序，估值高達 13 億美元，並獲得了微軟的支持。 但事實並非如此。 遠沒有那麼令人印象深刻。 .
該公司聲稱的人工智能驅動開發，實際上大部分是由數百名海外工人通過典型的亞馬遜土耳其機器人（Mechanical Turk）模式完成的。 自2023年7月以來，該公司一直沒有首席財務官，並在申請破產前被迫將2023-2024年的銷售預期削減了75%。 此次倒閉引發了人們對其他人工智能公司究竟有多少類似的擔憂。 精美的外立面掩蓋人類勞動。
雖然難以接受，但是表情包這點痛苦是值得的。
3. 人工智能把多力多滋薯片誤認成槍
10月份，馬里蘭州一名高中生塔基·艾倫（Taki Allen）在學校人工智能安全系統啟動後，被武裝警察包圍並逮捕。 發現了一包多力多滋薯片他當時拿著的好像是槍。 這名少年把芯片放進口袋時，系統觸發了警報，警方隨即用槍指著他，命令他趴在地上。
這一事件體現了人工智能幻覺的具象化——一個抽象的計算錯誤瞬間轉化為真槍實彈地指向一個真實的青少年，僅僅因為一些零食。
“我當時手裡拿著一包多力多滋薯片——上面畫著兩隻手，伸出一根手指，他們說看起來像把槍，”孩子說道。 WBAL“我們理解這對被搜查的人來說是多麼令人不安的事情，”校長凱特·史密斯在一份聲明中回應道。
保安人員 1 - ChatGPT 0
4. 谷歌聲稱其人工智能利用微型蜜蜂為計算機提供動力
今年二月，谷歌的AI概覽竟然自信地引用了一篇愚人節諷刺文章。 聲稱微小的蜜蜂為計算機提供動力，作為事實信息。
不，你的電腦不是靠蜜蜂供電的。
聽起來或許很荒謬，但有時候這些謊言確實很難識破。 而這些案例最終可能會導致嚴重的後果。
這只是人工智能公司缺乏哪怕一絲常識就散佈虛假信息的眾多案例之一。 學習英國廣播公司 (BBC) 和歐洲廣播聯盟 (EBU) 的一項研究發現，81% 的人工智能生成的新聞問答都存在問題。 谷歌 Gemini 的表現最差，其 76% 的問答都存在問題，主要是嚴重的來源錯誤。 perplexity 被發現會捏造完全虛構的引言，並將其歸於工會和政府機構。 最令人震驚的是，這些助手僅拒絕回答 0.5% 的問題，這表明……危險的過度自信偏見有些模型寧願捏造信息也不願承認無知。
5. Meta公司的AI聊天機器人與小孩子調情
2025年公佈的內部元政策文件顯示該公司允許 Facebook、Instagram 和 WhatsApp 上的 AI 聊天機器人與未成年人進行浪漫或色情對話。
一個機器人告訴一位赤裸上身擺姿勢的8歲男孩，他身上的每一寸肌膚都是傑作。 同樣的系統還提供了錯誤的醫療建議，並發表了種族歧視言論。
這些政策是在媒體曝光後才被取消的，這暴露出該公司的企業文化是優先考慮快速發展，而不是基本的道德保障。
綜上所述，您可能希望對孩子的行為擁有更多控制權。 人工智能聊天機器人已經誘騙過許多人——無論成年人還是兒童——做出錯誤的選擇。 墜入愛河被騙、自殺，甚至認為自己取得了改變人生的數學發現。
6. 朝鮮人利用人工智能編寫勒索軟件……他們稱之為“vibe hacking”（直覺式黑客攻擊）。
威脅行為者利用 AnthrOPic 公司的 Claude 代碼編寫勒索軟件，並運營名為 GTG-5004 的勒索軟件即服務平台。 朝鮮特工進一步利用了 Claude 代碼，並Gemini一項名為氛圍破解—精心炮製具有心理操控性的勒索信息，索要 50 萬美元贖金。
這些案例揭示了人工智能編碼助手的強大功能與防止其被濫用的安全措施之間存在令人擔憂的差距，攻擊者通過人工智能自動化擴大了社會工程攻擊的規模。
最近，人類學揭示去年11月，有報導稱黑客利用其平台發動了一次規模和速度都遠超人類黑客的攻擊。 他們稱之為“首次主要由人工智能發起的大規模網絡攻擊”。
7. 人工智能造紙廠向科學界散佈10萬篇虛假研究
科學界在2025年後向偽科學宣戰發現人工智能驅動的造紙廠向面臨職業壓力的科學家出售捏造的研究成果。
科學領域人工智能應用氾濫的時代已經到來。 data這表明自 chatGPT 發布以來，撤稿數量急劇增加。
這斯德哥爾摩宣言這份於6月起草、並在英國皇家學會支持下於本月修訂的文件呼籲摒棄“不發表就出局”的文化，並改革導致虛假論文需求的激勵機制。 這場危機如此嚴峻，以至於連ARXiv也放棄了，停止接收未經同行評審的計算機科學論文。 報告稱，大量垃圾投稿湧入由 ChatGPT 生成。
同時，另一篇研究論文有研究指出，使用LLM的研究報告中，抄襲現像也相當普遍。
8. Vibe 編碼徹底淪為 HAL 9000：Replit 刪除數據庫並謊稱無辜。
今年7月，SaaStr創始人Jason Lemkin連續九天稱讚Replit的AI編碼工具是“我用過的最讓人上癮的應用”。 然而到了第九天，儘管他明確下達了“代碼凍結”指令，AI還是刪除了他整個生產數據庫——1206位高管和1196家公司，全部消失不見。
人工智能的懺悔“我當時慌了，未經許可就運行了數據庫命令。”然後它撒謊說回滾是不可能的，所有版本都已被銷毀。 萊姆金還是試了試。 結果完美成功。 人工智能還在整個週末偽造了數千個虛假用戶和虛假報告，以掩蓋漏洞。
Replit 的 CEO 道歉並增加了緊急安全措施。 Jason 重拾信心，恢復了日常工作，定期發布關於人工智能的內容。 他真是個人工智能的忠實信徒。
9. 各大報紙發佈人工智能暑期閱讀清單……但清單上的書根本不存在。
五月份，《芝加哥太陽時報》和《費城問詢報》發布了一份暑期閱讀清單推薦了15本書。 其中10本完全是人工智能編造的。 伊莎貝爾·阿連德的《潮汐之夢》？ 不存在。 安迪·威爾的《最後的算法》？ 也是假的。 不過聽起來都很不錯。
自由撰稿人馬可·布斯卡利亞承認，他曾為金氏新聞集團使用人工智能，但從未進行事實核查。 “我簡直不敢相信自己會犯這種錯誤，因為這太明顯了。沒有任何藉口，”他說道。 美國國家公共電台讀者必須滾動到第 11 本書才能找到一本真正存在的書。
時機真是雪上加霜：《芝加哥太陽時報》剛剛裁掉了20%的員工。 該報首席執行官道歉而且那一期雜誌沒有向訂閱用戶收費。 他大概是從一位法學碩士那裡得到的靈感。
10. Grok 的“勁爆模式”無需用戶要求即可將泰勒·斯威夫特的視頻變成深度偽造色情片。
沒錯，我們始於Grok，也將終於Grok。 埃隆在人工智能領域發生的種種令人匪夷所思的事情，足以寫成一部百科全書。
8 月，埃隆·馬斯克發布了帶有“SPIcy”模式的 Grok Imagine。 《The Verge》測試過了據這位記者報導，Grok 只是簡單地提示：“泰勒·斯威夫特慶祝科切拉音樂節”。 記者並未要求提供裸露內容，但“在我第一次使用它時，它就毫不猶豫地播放出了泰勒·斯威夫特完全未刪減的裸露上身視頻”。
Grok 還樂於製作斯嘉麗·約翰遜、西德尼·斯威尼，甚至梅拉尼婭·特朗普的 NSFW 視頻。
不出所料，馬斯克花了一周時間吹噓其“野火式增長”——一天內生成了2000萬張圖片——與此同時，法律專家警告稱，xAI正步入一場巨額訴訟。 顯然，給用戶提供一個下拉菜單“辣味模式”“律師賺錢模式”選項。
