Balitang MerkadoMarket Brief / AI / TechCrunch3 min read
Inilabas ng OpenAI ang Lockdown Mode para bawasan ang data risk mula sa prompt injection sa ChatGPT
Iniulat ng TechCrunch AI na idi-disable ng Lockdown Mode ng OpenAI ang live browsing, web image retrieval, deep research, at agent mode para bawasan ang data-exfiltration risk mula sa…
Source ng larawan: TechCrunch AI
Key Points
- Kahit na may Lockdown Mode, maaaring mahina pa rin ang ChatGPT sa mga agarang iniksyon, ngunit ang layunin ay mabawasan ang posibilidad na maibahagi ang sensitibong data sa…
- Inihayag ng OpenAI ang isang bagong tampok na sinasabi nitong magbibigay ng karagdagang proteksyon mula sa mga agarang pag-atake, kung saan ang mga malisyosong tagubilin sa…
- Bukod sa iba pang mga bagay, idi-disable ng Lockdown Mode ang live na pag-browse sa web (kaya ang naka-cache na nilalaman lang ang maa-access mo), ang pagkuha at pagpapakita ng…
Iniulat ng TechCrunch AI na inilabas ng OpenAI ang Lockdown Mode para bawasan ang panganib na mailabas ang sensitibong data kapag may prompt injection na nabasa ang ChatGPT. Ang prompt injection ay pag-atake kung saan itinatago ang masamang instructions sa webpages, files, o iba pang content na binabasa ng model.
Nililimitahan ng mode na ito ang naaabot ng ChatGPT sa labas ng usapan. Ayon sa ulat, idi-disable ng Lockdown Mode ang live web browsing, pagkuha at pagpapakita ng web images, deep research, at agent mode; puwede pa ring buksan ang cached content at gumawa ng images.
Nilinaw din ng OpenAI na hindi ito kumpletong depensa. Maaari pa ring lumitaw ang prompt injection sa cached web content o uploaded files at makaapekto sa kilos o accuracy ng sagot. Kaya ang layunin ay bawasan ang data-exfiltration risk, hindi burahin ang lahat ng attack paths.
Sabi ng ulat, inilalagay ng OpenAI ang Lockdown Mode para sa mga tao at organisasyong humahawak ng sensitibong data, hindi bilang setting na kailangang buksan ng lahat ng user. Iro-roll out ito sa self-service ChatGPT Business accounts at eligible individual accounts.
Sources
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
Product at AI implementation editor ng ALTOS LAB, nakatuon sa enterprise workflows, generative search, at praktikal na decision frameworks.
