Berita PasaranAI / TechCrunch3 minit bacaan
OpenAI memperkenalkan Lockdown Mode untuk kurangkan risiko data akibat prompt injection ChatGPT
TechCrunch AI melaporkan Lockdown Mode OpenAI mematikan live browsing, pengambilan imej web, deep research dan agent mode untuk mengurangkan risiko data exfiltration akibat prompt injection.
Sumber imej: TechCrunch AI
Isi Utama
- Walaupun dengan Mod Lockdown, ChatGPT mungkin masih terdedah kepada suntikan segera, tetapi matlamatnya adalah untuk mengurangkan kemungkinan data sensitif dikongsi dalam proses…
- OpenAI mengumumkan ciri baharu yang dikatakan akan memberikan perlindungan tambahan daripada serangan suntikan segera, di mana arahan chatbot berniat jahat disembunyikan dalam…
- Antara lain, Mod Lockdown akan melumpuhkan pelayaran web secara langsung (jadi anda hanya boleh mengakses kandungan yang disimpan dalam cache), pengambilan dan paparan imej dari…
- "Mod Lockdown tidak bertujuan untuk semua orang," kata OpenAI
TechCrunch AI melaporkan OpenAI memperkenalkan Lockdown Mode untuk mengurangkan risiko data sensitif terdedah apabila ChatGPT berdepan prompt injection. Prompt injection ialah corak serangan yang menyembunyikan arahan berniat jahat dalam halaman web, fail atau sumber kandungan lain yang dibaca oleh model.
Mod ini mengecilkan akses ChatGPT kepada kandungan di luar perbualan. Menurut laporan itu, Lockdown Mode mematikan live web browsing, pengambilan dan paparan imej daripada web, deep research serta agent mode; pengguna masih boleh membuka kandungan cache dan menjana imej.
OpenAI turut menjelaskan bahawa mod ini bukan pertahanan penuh. Prompt injection masih boleh wujud dalam kandungan web yang disimpan cache atau fail yang dimuat naik, lalu menjejaskan tingkah laku atau ketepatan jawapan. Jadi, matlamatnya ialah mengurangkan risiko data exfiltration, bukan menghapuskan semua laluan serangan.
Laporan itu menyebut OpenAI meletakkan Lockdown Mode untuk individu dan organisasi yang mengendalikan data sensitif, bukan tetapan yang perlu dihidupkan oleh semua pengguna. Ciri ini sedang dilancarkan kepada akaun ChatGPT Business self-service dan akaun individu yang layak.
Sumber dan Rujukan
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
Editor produk dan pelaksanaan AI di ALTOS LAB, memfokuskan aliran kerja perusahaan, carian generatif dan rangka keputusan yang praktikal.
