Kabar PasarAI / TechCrunch3 menit baca
OpenAI merilis Lockdown Mode untuk menekan risiko data dari prompt injection ChatGPT
TechCrunch AI melaporkan Lockdown Mode OpenAI mematikan live browsing, pengambilan gambar web, deep research, dan agent mode untuk menekan risiko data exfiltration akibat prompt injection.
Sumber gambar: TechCrunch AI
Poin Utama
- Bahkan dengan Mode Penguncian, ChatGPT masih rentan terhadap injeksi prompt, tetapi tujuannya adalah untuk mengurangi kemungkinan data sensitif dibagikan dalam proses tersebut.
- OpenAI mengumumkan fitur baru yang menurut mereka akan memberikan perlindungan tambahan dari serangan injeksi prompt, di mana instruksi chatbot berbahaya disembunyikan di halaman…
- Di antara hal-hal lain, Mode Karantina akan menonaktifkan penjelajahan web langsung (sehingga Anda hanya dapat mengakses konten yang di-cache), pengambilan dan tampilan gambar…
- “Mode Penguncian tidak ditujukan untuk semua orang,” kata OpenAI.
TechCrunch AI melaporkan OpenAI merilis Lockdown Mode untuk menurunkan risiko kebocoran data sensitif saat ChatGPT berhadapan dengan prompt injection. Prompt injection adalah pola serangan ketika instruksi berbahaya disembunyikan di halaman web, file, atau sumber konten lain yang dibaca model.
Mode ini mempersempit akses ChatGPT ke konten di luar percakapan. Menurut laporan tersebut, Lockdown Mode menonaktifkan live web browsing, pengambilan dan tampilan gambar dari web, deep research, serta agent mode; pengguna tetap bisa membuka konten cache dan membuat gambar.
OpenAI juga menyatakan mode ini bukan pertahanan penuh. Prompt injection tetap bisa muncul di konten web yang tersimpan di cache atau file yang diunggah, lalu memengaruhi perilaku atau akurasi jawaban. Jadi, fokusnya adalah mengurangi risiko data exfiltration, bukan menghapus semua jalur serangan.
Laporan itu menyebut OpenAI menempatkan Lockdown Mode untuk orang dan organisasi yang menangani data sensitif, bukan sebagai pengaturan yang wajib dinyalakan semua pengguna. Fitur ini sedang diluncurkan untuk akun ChatGPT Business self-service dan akun individual yang memenuhi syarat.
Sumber dan Rujukan
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
Editor produk dan implementasi AI di ALTOS LAB, berfokus pada workflow perusahaan, pencarian generatif, dan kerangka keputusan yang praktis.
