시장 브리프AI / TechCrunch3분 읽기
OpenAI, ChatGPT prompt injection 위험 줄이는 Lockdown Mode 공개
TechCrunch AI는 OpenAI의 Lockdown Mode가 실시간 웹 브라우징, 웹 이미지 검색, deep research, agent mode를 꺼 prompt injection에 따른 데이터 유출 위험을 낮춘다고 보도했습니다.
이미지 출처: TechCrunch AI
핵심 포인트
- 잠금 모드가 적용되더라도 ChatGPT는 여전히 프롬프트 주입에 취약할 수 있지만, 목표는 이 과정에서 민감한 데이터가 공유될 가능성을 줄이는 것입니다.
- OpenAI는 악성 챗봇 명령어가 웹페이지 및 기타 콘텐츠에 숨겨지는 프롬프트 주입 공격으로부터 추가적인 보호 기능을 제공하는 새로운 기능을 발표했습니다.
- 잠금 모드는 다른 기능들과 더불어 실시간 웹 브라우징(캐시된 콘텐츠만 이용 가능), 웹에서 이미지 검색 및 표시(이미지 생성은 가능), 심층 검색, 에이전트 모드 등을 비활성화합니다.
- 오픈아이얼은 "봉쇄 모드는 모두를 위한 것이 아닙니다"라고 밝혔습니다.
TechCrunch AI는 OpenAI가 ChatGPT용 Lockdown Mode를 공개했다고 보도했습니다. 목적은 민감한 데이터를 다룰 때 prompt injection으로 데이터가 노출되는 위험을 낮추는 것입니다. Prompt injection은 모델이 읽는 웹페이지, 파일, 기타 콘텐츠 안에 악성 지시를 숨기는 공격 방식입니다.
이 모드는 ChatGPT가 대화 밖에서 접근할 수 있는 범위를 줄입니다. 보도에 따르면 Lockdown Mode는 실시간 웹 브라우징, 웹 이미지 검색과 표시, deep research, agent mode를 비활성화합니다. 캐시된 콘텐츠 접근과 이미지 생성은 계속 가능합니다.
OpenAI는 이 모드가 완전한 방어책은 아니라고 설명합니다. Prompt injection은 캐시된 웹 콘텐츠나 업로드된 파일에도 남아 응답의 동작과 정확도에 영향을 줄 수 있습니다. 따라서 핵심은 모든 공격 경로를 제거하는 것이 아니라 데이터 유출 위험을 낮추는 데 있습니다.
보도에 따르면 OpenAI는 Lockdown Mode를 민감한 데이터를 다루는 개인과 조직을 위한 기능으로 보고 있습니다. 모든 사용자가 항상 켜야 하는 설정이 아니라, 현재 셀프서비스 ChatGPT Business 계정과 자격을 갖춘 개인 계정에 배포되고 있습니다.
출처
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
ALTOS LAB 제품 및 AI 도입 에디터. 기업 워크플로, 생성형 검색, 실행 가능한 의사결정 프레임을 다룹니다.
