新的 ChatGPT 代理可以預訂、瀏覽和填寫表格——但暫時不要相信它

OpENAI週四向 Plus、Pro 和 Team 訂閱用戶推出了 ChatGPT 代理，為用戶提供了一種強大的自動化在線任務的新方法。 但此次發布也伴隨著一個警告：該代理可能會讓用戶面臨即時注入攻擊。

OPEnAI 在一篇博客文章中寫道：“當你將 ChatGPT 代理登錄網站或啟用連接器時，它將能夠訪問來自這些來源的敏感數據，例如電子郵件、文件或帳戶信息。”博客 郵政。

該功能還可以採取行動，例如共享文件或修改帳戶設置。

OPenAI 承認：“由於網上存在‘即時注入’攻擊，這可能會使您的數據和隱私面臨風險。

提示注入是一種攻擊類型，惡意行為者將隱藏指令嵌入 AI 代理可能閱讀的內容中，例如博客文章、網站文本或電子郵件消息。

如果成功，注入的提示可以誘騙代理採取非預期的操作，例如訪問個人數據或向攻擊者的服務器發送敏感信息。

OpenAI 宣布 這 人工智能代理7 月 17 日，最初計劃於下週一全面推出。

該時間表推遲到 7 月 24 日，當天該公司將與應用程序更新一起推出該功能。

ChatGPT 代理可以登錄網站、閱讀電子郵件、進行預訂以及與 Gmail、Google Drive 和 GitHub 等服務進行交互。

儘管該代理旨在提高生產力，但它也帶來了與人工智能係統如何解釋和執行指令相關的新安全風險。

區塊鍊和人工智能網絡安全公司首席技術官兼聯合創始人 Steven WalbROEhl 表示哈爾伯恩，提示注入本質上是命令注入的一種形式，但有一個變化。

“這是一種命令注入，但命令注入不像代碼，而更像是社會工程學，”WALbroehl 告訴解密“你試圖欺騙或操縱代理去做超出其參數範圍的事情。”

與依賴精確語法的傳統代碼注入不同，快速注入利用了自然語言的模糊性。

“代碼注入指的是結構化、可預測的輸入。而即時注入則完全相反：你使用自然語言將惡意指令繞過人工智能的防護，”Walbroehl 說道。

他警告說，惡意代理可能會冒充受信任的代理，並建議用戶驗證其來源並使用端點加密、手動覆蓋和密碼管理器等安全措施。

但是，如果代理可以訪問電子郵件或短信，即使是多因素身份驗證也可能不夠。

“如果它能看到數據，或者記錄你的按鍵，你的密碼再安全也無濟於事，”沃爾布羅爾說。 “如果代理獲取了備用代碼或短信，即使是多重身份驗證也可能失敗。唯一真正的保護措施可能是生物識別技術——你本身，而不是你擁有的東西。”

OpenAI 建議在輸入敏感憑證時使用“接管”功能。 該功能會暫停代理並將控制權交還給用戶。

為了防禦未來即時注入和其他與人工智能相關的威脅，Walbroehl 建議採取分層方法，使用專門的代理來加強安全性。

“你可以讓一個代理始終充當看門狗，”他說，“它可以監測那些在攻擊發生前就預示潛在攻擊的啟發式方法或行為模式。”