市場快訊AI / TechCrunch3 分鐘閱讀
OpenAI 推出 Lockdown Mode，降低 ChatGPT prompt injection 資料外洩風險
TechCrunch AI 報導，OpenAI 新增 Lockdown Mode，會關閉即時瀏覽、網路圖片擷取、deep research 與 agent mode，用來降低敏感資料遭 prompt injection 帶出系統的風險。
圖片來源： TechCrunch AI
本文重點
- 即使啟用了鎖定模式，ChatGPT 仍然可能容易受到提示注入攻擊，但其目標是降低敏感資料在此過程中被共享的可能性。
- OpenAI 宣布推出一項新功能，稱其將提供額外保護，防止惡意聊天機器人指令被隱藏在網頁和其他內容來源中，從而抵禦提示注入攻擊。
- 除此之外，鎖定模式還會停用即時網頁瀏覽（因此您只能存取快取內容）、從網路檢索和顯示圖像（您仍然可以產生圖像）、深度研究和代理模式。
- OpenAI 表示：“鎖定模式並非適用於所有人。
TechCrunch AI 報導，OpenAI 推出 Lockdown Mode，目標是降低 ChatGPT 在處理敏感資料時遭遇 prompt injection 後外洩資料的風險。Prompt injection 指的是惡意指令被藏在網頁、文件或其他內容來源中，讓模型在讀取資料時被帶往攻擊者想要的行為。
這個模式會限制 ChatGPT 能接觸的外部內容。報導提到，Lockdown Mode 會關閉即時網頁瀏覽、網路圖片擷取與顯示、deep research，以及 agent mode；使用者仍可讀取快取內容，也仍可生成圖片。
OpenAI 同時提醒，Lockdown Mode 不是完整防線。prompt injection 仍會出現在快取網頁內容或上傳檔案中，並影響回覆的行為或準確度；因此這項功能的重點不是消除所有攻擊，而是降低敏感資料被帶出系統的機率。
報導指出，OpenAI 把 Lockdown Mode 定位給處理敏感資料的個人與組織，而不是一般使用者都必須開啟的模式。公司目前正把這項功能推向自助式 ChatGPT Business 帳戶與符合資格的個人帳戶。
來源與參考
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
ALTOS LAB 產品與 AI 導入編輯，關注企業流程、生成式搜尋與能真正落地的決策框架。
