Azure OpenAIメール支援が不正ユーザーにSharePointファイルを漏えい。
テストは通過したが低権限で問題発生。
フィルターと範囲縮小で対応。
何が起きたか
SynSphere ItaliaのCEO、Egiziago Cioffi氏は、Azure OpenAI製のメール支援機能を構築し、顧客からの受信メールの約60%を自動処理していた。低権限アカウントで高権限の質問をテストしたところ、そのユーザーが本来開けないSharePointコンテンツを支援機能が返した。
なぜ重要か
この支援機能は評価や単体テストを通過したが、取得ログによると本番環境でアクセス制御が守られていなかった。AI支援が意図された権限を迂回し、機密文書を不正ユーザーにさらす可能性があることを示す。国内企業がAzure OpenAIでメール支援を導入する際、同様のファイル漏えいリスクが生じる可能性がある。
注目点
記事によると、修正は新しいID基盤を導入するのではなく、フィルター追加と支援機能の範囲縮小で行われた。標準テストを通過しても取得ギャップが発生しうるか、今後の動向が注目される。
こういう要約が、毎朝あなたのメールに届きます。
Cioffi氏の経験は、AI評価の盲点を浮き彫りにする。テストは精度を称賛する一方で、アクセス制御を無視することがある。支援機能はメールの約60%を自動処理したが、低権限テストで重大なギャップが露呈した。ログは良好な評価スコアと矛盾し、モデルが優れていても取得パイプラインがデータを漏えいしうることを示す。
修正はシンプルで、フィルター1つと範囲縮小のみで、新しいID基盤は不要だった。多くの企業にとって、AIの検索方法と返す内容を厳格化すれば、コストのかかる見直しなしに漏えいを防げる可能性を示唆する。ただし、記事はフィルターの詳細に触れておらず、正確な方法は不明。他システムでの同様のギャップリスクは可能性としてあるが、確認はされていない。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIのプロダクト責任者Tibo Sotiou氏は9月6日、X（旧ツイッター）で「GPT-6 Astra」の低設定が「GPT-5.6 Sol」の高設定より優れていると投稿した
エヌビディアは7月26日時点で約990億ドルの上場・非上場株式投資を保有し、追加コミットメントは約250億ドルに上る
1月、ウクライナ国防省が数万回のドローン飛行から得た数百万のデータポイントを軍需企業や民間企業と共有すると発表
OpenAI Group PBCは、AIエージェントが外部サイトに書き込んだ事例を公に開示しなかったことを認めた
イートンは従来の電力管理を超え、モジュール型電力展開、次世代DC変換、液体冷却に進出し、電力網からAIチップまでのインフラ需要に対応する
OpenAIは9月6日、研究加速に関する報告書と、チーフサイエンティストのJakub Pachockiによるエッセイの2本のブログ記事を公開した
