犯罪者如何利用ChatGPT和Meta AI策劃對美國本土的恐怖攻擊
最近在拉斯維加斯和新奧爾良發生的襲擊事件表明，恐怖分子正在使用人工智慧工具。
這些攻擊——一次涉及ChatGPT的語言和推理能力，另一次利用Meta的智慧眼鏡技術--正在提出問題關於如何在保護人工智慧有益應用的同時加強保護措施。
ChatGPT在Cybertruck爆炸中的作用
當局表示，美國陸軍特種部隊上士馬修·萊夫斯伯格（Matthew Livelsberger）是一名獲得勳章的綠色貝雷帽，有創傷後應激障礙的跡象，他有條不紊地 使用ChatGPT來研究他的特斯拉Cybertruck的關鍵要素攻擊1月1日，拉斯維加斯川普國際飯店外。
拉斯維加斯警長Kevin McMahill表示，Livelsberger與人工智慧平台的互動遠遠超出了隨意查詢的範圍。 這位37歲的士兵使用ChatGPT計算精確的爆炸物數量，研究煙火採購管道，並探索在不留下數位痕跡的情況下購買手機的方法。
「我們知道人工智慧將在我們一生中的某個時刻改變遊戲規則，」McMahill說說「據我所知，這是在美國本土發生的第一起利用ChatGPT幫助個人構建特定設備 的事件。
這一事件最終導致Livelsberger在自殺前向租用的Cyber卡車傾倒賽車燃料，調查人員表示，他的槍支槍口閃光可能引發了爆炸。 有7人受傷，但飯店建築基本上沒有受損，除了肇事者本人外，這起事件沒有造成任何生命損失。
Meta的AI眼鏡與新奧爾良事件有關
就在第一起事件發生的同一天，42歲的美國陸軍退伍軍人沙姆蘇德·丁·賈巴爾開著租來的皮卡在新年慶祝活動中融入人群。
在事件發生之前，Jabbar使用Meta的由Meta AI驅動的Ray-Ban智慧眼鏡對他的目標區域進行了詳細的偵察。
聯邦調查局的調查顯示，賈巴爾於10月30日和11月10日兩次訪問了新奧爾良的法國區，在此期間，他使用智能眼鏡拍攝了波旁街的大量 鏡頭。 這副眼鏡讓他在騎車穿過該地區時可以免提錄製影片和照片。 聯邦調查局特工Lyonel Myrthil詳細介紹了賈巴爾如何有條不紊地記錄街道佈局，反覆從左向右掃描以捕捉全面的視角。
聯邦調查局發布了賈巴爾錄製的一段影片：
凌晨3點，賈巴爾駕駛一輛皮卡車穿過新年人群，襲擊本身造成14人死亡，35人受傷，其中包括兩名警察。 儘管他在襲擊中戴著Meta眼鏡，但他沒有激活它們進行錄製或直播。
恢復的鏡頭顯示賈巴爾測試了眼鏡的功能，檢查了他的反射並確保了最佳的記錄角度。 反恐專家薩姆·亨特強調了這種技術提供的戰術優勢。
亨特在聲明中說：「如果你想計劃一次襲擊，你真的能感覺到眼線和視力，以及所有你想注意的事情。 到它們的版本或人們將來使用它們進行攻擊計劃，我不會感到驚訝，因為它們在捕捉這些鏡頭方面非常謹慎，」
人工智慧公司和監管機構如何試圖阻止濫用
科技公司和監管機構一直在努力加強保障措施，同時保護人工智慧的有益應用。
OpenAI強調的ChatGPT包含了針對有害指令的具體保護措施，並對非法活動提供了明確的警告。 該公司表示，它已與執法調查充分合作，同時努力加強其安全協議。
OpenAI在一篇官方部落格文章中表示：「現實世界的使用也促使我們制定了越來越細緻的政策，以應對對人們構成真正風險的行為，同時仍然允許我們的技術的 許多有益用途。
也就是說，如解密據報道，簡單的越獄技術在應用於這些模型時已被證明是有效的：基本方法如用利茲匹克語寫作或使用連續角色扮演可能足以獲取非法內容 並繞過此類限制。
該公司尚未就馬修·萊夫斯伯格中士使用其工具進行恐怖襲擊發表聲明。
Meta自發布以來，一直面臨著對其智慧眼鏡可能被濫用的審查承認需要平衡創新與安全問題。 眼鏡的記錄指示燈雖然存在，但批評因為太微妙了。
Meta發言人被問及恐怖攻擊事件告訴NBC該公司正積極「就此事與執法部門保持聯繫」
編輯安德魯海沃德
