Tin thị trườngTin nhanh thị trường / AI / TechCrunch3 phút đọc
OpenAI ra mắt Lockdown Mode để giảm rủi ro dữ liệu từ prompt injection trên ChatGPT
TechCrunch AI đưa tin Lockdown Mode của OpenAI tắt duyệt web trực tiếp, truy xuất hình ảnh web, deep research và agent mode để giảm rủi ro dữ liệu bị đưa ra ngoài qua prompt injection.
Nguồn ảnh: TechCrunch AI
Ý chính
- Ngay cả khi bật Chế độ Khóa (Lockdown Mode), ChatGPT vẫn có thể dễ bị tấn công bằng cách chèn mã độc, nhưng mục tiêu là giảm thiểu khả năng dữ liệu nhạy cảm bị chia sẻ trong quá…
- OpenAI vừa công bố một tính năng mới mà họ cho rằng sẽ cung cấp thêm khả năng bảo vệ khỏi các cuộc tấn công chèn lời nhắc, trong đó các hướng dẫn chatbot độc hại được ẩn giấu…
- Trong số những thay đổi khác, Chế độ Khóa (Lockdown Mode) sẽ vô hiệu hóa việc duyệt web trực tiếp (vì vậy bạn chỉ có thể truy cập nội dung được lưu trong bộ nhớ cache), việc tải…
- OpenAI cho biết: “Chế độ phong tỏa không dành cho tất cả mọi người”.
TechCrunch AI đưa tin OpenAI ra mắt Lockdown Mode nhằm giảm rủi ro lộ dữ liệu nhạy cảm khi ChatGPT gặp prompt injection. Prompt injection là kiểu tấn công trong đó hướng dẫn độc hại được giấu trong trang web, tệp hoặc nguồn nội dung khác mà mô hình đọc vào.
Chế độ này thu hẹp những gì ChatGPT có thể truy cập ngoài cuộc trò chuyện. Theo bài viết, Lockdown Mode tắt duyệt web trực tiếp, truy xuất và hiển thị hình ảnh từ web, deep research và agent mode; người dùng vẫn có thể mở nội dung đã lưu trong cache và tạo hình ảnh.
OpenAI cũng nói rõ đây không phải lớp phòng thủ tuyệt đối. Prompt injection vẫn có thể nằm trong nội dung web được cache hoặc tệp đã tải lên, rồi ảnh hưởng đến hành vi hoặc độ chính xác của câu trả lời. Vì vậy, mục tiêu là giảm rủi ro dữ liệu bị đưa ra ngoài, không phải loại bỏ mọi đường tấn công.
Bài viết cho biết OpenAI định vị Lockdown Mode cho cá nhân và tổ chức xử lý dữ liệu nhạy cảm, không phải cài đặt mà mọi người dùng đều cần bật. Tính năng đang được triển khai cho tài khoản ChatGPT Business self-service và một số tài khoản cá nhân đủ điều kiện.
Nguồn tham khảo
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
Biên tập viên sản phẩm và triển khai AI tại ALTOS LAB, tập trung vào quy trình doanh nghiệp, tìm kiếm tạo sinh và khung quyết định có thể áp dụng.
