市場ブリーフマーケット速報 / AI / TechCrunch3 分で読めます
OpenAI、ChatGPT の prompt injection 対策として Lockdown Mode を発表
TechCrunch AI は、OpenAI の Lockdown Mode がリアルタイム閲覧、ウェブ画像取得、deep research、agent mode を無効にし、prompt injection によるデータ流出リスクを下げると報じました。
画像出典： TechCrunch AI
要点
- ロックダウンモードを使用しても、ChatGPTはプロンプトインジェクションに対して脆弱なままですが、目的は、その過程で機密データが共有される可能性を低減することです。
- OpenAIは、悪意のあるチャットボットの指示がウェブページやその他のコンテンツソースに隠されているプロンプトインジェクション攻撃に対する追加の保護を提供する新機能を発表した。
- ロックダウンモードでは、ライブWebブラウジング（キャッシュされたコンテンツのみアクセス可能）、Webからの画像取得と表示（画像の生成は可能）、詳細検索、エージェントモードなどが無効になります。
- 「ロックダウンモードはすべての人を対象としているわけではない」とOpenAIは述べている。
TechCrunch AI は、OpenAI が ChatGPT の Lockdown Mode を発表したと報じました。狙いは、機密データを扱う場面で prompt injection によるデータ流出リスクを下げることです。Prompt injection は、モデルが読むウェブページ、ファイル、その他のコンテンツに悪意ある指示を隠す攻撃手法です。
このモードでは、ChatGPT が会話外でアクセスできる範囲が狭くなります。報道によると、Lockdown Mode はリアルタイムのウェブ閲覧、ウェブ画像の取得と表示、deep research、agent mode を無効にします。キャッシュされた内容の参照と画像生成は引き続き使えます。
OpenAI は、このモードが完全な防御策ではないとも説明しています。Prompt injection はキャッシュされたウェブ内容やアップロード済みファイルにも残り、回答の挙動や正確性に影響します。そのため、目的は攻撃経路をすべて消すことではなく、データ流出リスクを下げることです。
報道では、OpenAI が Lockdown Mode を機密データを扱う個人と組織向けの機能として位置づけているとされています。一般利用者全員が常時オンにする設定ではなく、現在はセルフサービス型の ChatGPT Business アカウントと対象となる個人アカウントへ展開されています。
出典
- OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Even with Lockdown Mode, ChatGPT could be still vulnerable to prompt injections, but the goal is to reduce the likelihood that sensitive data gets shared in the process.
- TechCrunch AI AI coverage
TechCrunch AI's current AI coverage page for related reporting and follow-up context.
Tommy
ALTOS LAB のプロダクト／AI導入編集者。企業ワークフロー、生成型検索、実装できる判断軸を扱います。
