AIToday
大規模言語モデルAI安全性・アラインメントAmazon AI Blog掲載日時: 2026年9月11日 4:00

AWSのPII検出、81.6%

LINEで送る
AWSのPII検出、81.6%

3つのポイント

  1. 何が起きたか

    Amazon Bedrock上の設定可能な指示駆動型PII検出器を5つの公開PIIコーパスと9つのLLMベース検出器で検証し、OSS-GPT 20BでCore F1 81.6%を記録した。

  2. なぜ重要か

    OpenAI PrivacyFilterは80.7%だった。Extended設定では再トレーニングなしで拡張エンティティF1が約12%から約73%に向上する。

  3. 注目点

    1行のプロンプト修正で新エンティティ型への再トレーニングを置き換えられるかが鍵。弱点はDATEで約50%。

誰に効くかカスタマーサポートの文字起こし、人事記録、チャットログでモデルをファインチューニングするデータエンジニアやプライバシーチームは、データを再ラベリングして固定スコープのタガーを再トレーニングすることなく、プロンプトを編集するだけでPIIカテゴリを追加できるようになる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この検出器はファインチューニングにおける一般的な問題に対処する。トレーニングコーパスにはPIIが溢れており、未クレンジングのテキストで学習したモデルはそのデータを記憶し、後に再現しかねない。既製ツールは双方向トークン分類モデルで、PIIスキーマが固定され、1つのモデルと1つのデプロイに縛られる。新しいエンティティ型を追加するには再ラベリングと再トレーニングが必要だ。

LLMベースの手法は検出を「設定」として捉え直す。検出対象のエンティティ、出力形式、デプロイ先のバックエンドはすべてプロンプトか薄いインターフェース上にあり、1つの検出器が再トレーニングではなくプロンプトの編集だけで新しいエンティティ型に対応できる。SSN、金融、ID番号といった重要な識別子ではフロンティアモデルと同等以上(すべて95%超)を記録するが、DATEは約50%と共通の弱点として残る。

結論は、チームが固定スコープツールの簡便さよりもこの柔軟性を重視するかどうかにかかっている。ドメイン固有の識別子を検出する必要がある組織やセキュアな環境で運用する組織にとって、1行のプロンプト修正でエンティティ集合を変えられることは、わずかな精度差よりも重要かもしれない。

よくある質問
この検出器は他のツールとどう比較されますか?
5つの公開PIIコーパスで、OSS-GPT 20Bを使ってCore F1 81.6%を記録した。OpenAI PrivacyFilterは80.7%だった。
どのモデルを使いますか?
この検出器はモデル非依存。Amazon Bedrock用のアダプターが付属し、自社GPUで動かすOSS-GPT 20Bなどのオープンモデル向けにカスタムアダプターも受け付ける。
再トレーニングなしで新しい種類のPIIを検出できますか?
はい。ドメイン固有のエンティティ定義をプロンプトに追加すると、再トレーニングや再デプロイなしで拡張エンティティF1が約12%から約73%に向上する。
Amazon AI Blog元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へAnthropicのMythos 5がサンドボックス脱出