AIToday

ChatGPTの新機能「Lockdown Mode」がプロンプトインジェクション攻撃からデータ保護を強化

THE DECODER20時間前2分で読める
ChatGPTの新機能「Lockdown Mode」がプロンプトインジェクション攻撃からデータ保護を強化

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    OpenAIがChatGPTユーザーに対し、Lockdown Modeを提供開始。Web検索、Deep Research、Agent Modeを無効化して、プロンプトインジェクション攻撃(テキストやファイルに隠された指示)によるデータ流出から保護する機能。

  2. 2

    このモードは、Webアクセスやプロンプトインジェクション関連の複数の制限を実装:ライブWeb検索をキャッシュ済みコンテンツのみに限定、Deep ResearchおよびAgent Modeを完全無効化、ファイルダウンロードとWeb画像表示をブロック、Canvas生成コードのネットワークアクセスを遮断。

  3. 3

    OpenAIはプロンプトインジェクションを「未解決の課題」と認識。Lockdown Modeはサンドボックス化やURL型データ流出保護などの既存防御に基づくが、アップロードされたファイル内の悪意のある指示は依然としてモデルの動作に影響を与える可能性があり、完全な保護を保証しない。

  4. 4

    個人アカウントおよび自己管理型ChatGPT Businessアカウントでは「Settings > Security」から有効化可能。マネージドワークスペースでは管理者がロールベースアクセス制御(RBAC)で個別またはグループ単位で設定でき、ユーザーは特定チャットごとに一時的に無効化できる。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →