金融データ読み取りAI、PDFの隠し指示を検知できず

筆者は社内のPDF解析AIのQAを担当する中で、プロンプトインジェクションの危険性に気づいた。金融データを扱う内部ツールであっても、悪意ある改ざんの余地があると考えたのである。白文字や画面外テキストなど複数の手口を試した結果、既存の防御では検知できないことが判明。そこでPDFの描画とテキスト層の不一致を検出するHiddenInkやText Raster Divergence、アクセシビリティ情報を悪用した指示を検出するAccessibility Channelなど、複数の独立したチェックを組み合わせる手法を開発した。それぞれのチェックは単独では盲点があるが、重ねることで検出力を高める「スイスチーズ防御」の発想である。現時点で実際の攻撃は確認されていないが、手法は公開されており、同様のリスクを抱える組織にとって参考になる可能性がある。