OpenAI ChatGPT 代理髮布，功能增強，風險也隨之提升

OpENAI 發布了迄今為止最自主的 AI 工具：ChatGPT 的一個版本，它可以瀏覽網頁、運行應用程序，並在幾乎無需人工輸入的情況下完成現實世界的任務。 然而，隨著能力的飛躍，也帶來了一個嚴峻的警告：這項技術也可能引發新一波安全威脅。

ChatGPT Agent 於週四推出，它使用戶能夠委派複雜的任務，例如計劃假期、預訂酒店房間、研究競爭對手、生成幻燈片，甚至在線下訂單。

該功能將於今日開始向 Pro、Plus 和 Team 用戶推出。

為了完成任務，代理人使用虛擬計算機和一套統一的工具，包括基於文本的瀏覽器、終端以及對 Google Drive 和 GitHub 等第三方應用的訪問。 虛擬計算機是一個在雲端運行的模擬計算環境，ChatGPT 代理可以獨立控制它——有點像給 AI 一個專屬的沙盒機器來執行實際工作。

OPEnAI 首席執行官 Sam Altman 在產品開發團隊成員進行的直播演示中表示：“我認為這代表了人工智能能力的全新高度。”然而，此次直播也值得關注，部分原因在於 OpenAI 發出了大量“買家須知”的警告。

“這是一種新的人工智能使用方式，但也會帶來一系列新的攻擊，”Altman 說道。 “隨著人們越來越多地以這種方式開展工作，社會和技術必須不斷發展，學習如何緩解我們甚至無法想像的威脅。”

舉個例子：客服人員可能會研究某筆購買行為，在釣魚網站上找到該商品，然後提供用戶的信用卡信息。 為了緩解這個問題，當前版本設置了多項安全措施，例如，在用戶手動批准之前，會阻止用戶上傳信用卡信息。

OPenAI 研究員 Casey Chu 表示：“我們已經訓練模型忽略高風險網站上的可疑指令。我們還設置了監視器，用於監視代理的行為，並在發現任何可疑行為時阻止其執行。”

Chu 補充說，雖然系統保障措施可以實時更新，但 ChatGPT 代理仍然是一種“尖端產品”，為新的攻擊形式打開了大門。

他說：“用戶了解風險並認真考慮他們所分享的信息非常重要。”

ChatGPT Agent 的發布正值人工智能開發者致力於為虛擬助手賦予日益強大的功能之際。 週三，谷歌在谷歌搜索中推出了一項新的人工智能功能，使其 Gemini AI 能夠電話代表用戶向企業提供。

OpenAI 的一位代表表示：“ChatGPT Agent 仍處於早期階段，我們正在利用這段時間從實際使用中學習，以改進產品和我們的安全措施。”解密“當前的系統卡反映了我們目前的方法，但我們正在為下一步做準備，並將繼續分享更新，以使代理變得更好、更安全。”

網絡安全專家也對自主代理的影響表示擔憂。

網絡安全公司 0rcus 聯合創始人兼首席執行官 Nic ADAms 表示：“高度關注是理所當然的，因為代理擁有在對話過程中透露個人身份信息的隱性權限。用戶應該授予細粒度且可撤銷的權限，例如目標業務、用途、允許的數據元素以及到期時間戳。”

在最佳實踐方面，亞當斯建議，在執行之後，代理人應提交完整的記錄以供批准，然後再將任何信息存儲超過法律要求的時間。

他說：“默許的、一刀切的同意會將責任轉嫁給用戶，而用戶卻無法真正控制。因此，有必要建立一個按任務確認的模型。”

除了讓人工智能代理進行購買或製定計劃的風險之外，OpenAI 研究人員還一致認為，這種程度的自主性會帶來新的威脅，尤其是即時注入攻擊，即惡意輸入誘騙人工智能洩露數據、傳播錯誤信息或採取未經授權的行動。

為了降低這些風險，OpenAI 開發了接管模式。 顧名思義，該模式賦予用戶接管代理並自行輸入信息的權力，而無需依賴代理。 在某些情況下，ChatGPT 代理會在執行重要操作（例如購買商品或訪問敏感數據）之前請求用戶的明確批准。

“我們已經構建了一個強大的工具，但用戶需要保持謹慎，”Chu 說。