ข่าวตลาดAI / TechCrunchอ่าน 3 นาที
OpenAI เปิดตัว Lockdown Mode ลดความเสี่ยงข้อมูลจาก prompt injection ใน ChatGPT
TechCrunch AI รายงานว่า Lockdown Mode ของ OpenAI จะปิด live browsing, การดึงภาพจากเว็บ, deep research และ agent mode เพื่อลดความเสี่ยงข้อมูลรั่วจาก prompt injection
ที่มาภาพ: TechCrunch AI
ประเด็นสำคัญ
- แม้จะมีโหมดล็อกดาวน์แล้ว ChatGPT ก็ยังคงมีความเสี่ยงต่อการถูกแทรกข้อความแจ้งเตือนอยู่ดี แต่เป้าหมายคือการลดโอกาสที่ข้อมูลสำคัญจะถูกแชร์ในกระบวนการนี้
- OpenAI ประกาศฟีเจอร์ใหม่ที่ระบุว่าจะช่วยเพิ่มการป้องกันการโจมตีแบบแทรกคำสั่งแฝง ซึ่งเป็นการซ่อนคำสั่งแชทบอทที่เป็นอันตรายไว้ในหน้าเว็บและแหล่งเนื้อหาอื่นๆ
- โหมดล็อกดาวน์จะปิดใช้งานการท่องเว็บแบบเรียลไทม์ (ทำให้คุณเข้าถึงได้เฉพาะเนื้อหาที่แคชไว้เท่านั้น) การดึงและแสดงภาพจากเว็บ (คุณยังคงสามารถสร้างภาพได้) การวิจัยเชิงลึก…
- OpenAI กล่าวว่า "โหมดล็อกดาวน์ไม่ได้เหมาะสำหรับทุกคน"
TechCrunch AI รายงานว่า OpenAI เปิดตัว Lockdown Mode เพื่อลดความเสี่ยงที่ข้อมูลอ่อนไหวจะรั่วไหลเมื่อ ChatGPT เจอกับ prompt injection โดย prompt injection คือรูปแบบโจมตีที่ซ่อนคำสั่งไม่พึงประสงค์ไว้ในหน้าเว็บ ไฟล์ หรือแหล่งคอนเทนต์อื่นที่โมเดลอ่านเข้าไป
โหมดนี้จำกัดสิ่งที่ ChatGPT เข้าถึงได้นอกบทสนทนา รายงานระบุว่า Lockdown Mode จะปิด live web browsing การดึงและแสดงภาพจากเว็บ deep research และ agent mode แต่ผู้ใช้ยังเปิดคอนเทนต์ที่ถูก cache ไว้และยังสร้างภาพได้
OpenAI ระบุด้วยว่าโหมดนี้ไม่ใช่เกราะป้องกันทั้งหมด Prompt injection ยังอยู่ในคอนเทนต์เว็บที่ cache ไว้หรือไฟล์ที่อัปโหลด และยังส่งผลต่อพฤติกรรมหรือความแม่นยำของคำตอบได้ ดังนั้นเป้าหมายคือการลดความเสี่ยง data exfiltration ไม่ใช่ลบทุกเส้นทางโจมตี
รายงานบอกว่า OpenAI วาง Lockdown Mode ไว้สำหรับบุคคลและองค์กรที่จัดการข้อมูลอ่อนไหว ไม่ใช่การตั้งค่าที่ผู้ใช้ทุกคนต้องเปิดตลอดเวลา ฟีเจอร์นี้กำลังทยอยไปยังบัญชี ChatGPT Business แบบ self-service และบัญชีบุคคลที่เข้าเกณฑ์
แหล่งอ้างอิง
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
บรรณาธิการด้านผลิตภัณฑ์และการนำ AI ไปใช้ของ ALTOS LAB โฟกัสเวิร์กโฟลว์องค์กร การค้นหาเชิงสร้างสรรค์ และกรอบตัดสินใจที่ใช้งานได้จริง
