
何が起きたか
AnthropicはClaudeに応答後の自己評価機能を追加した。有害な可能性のある会話の78%を検知し、優先度の高いケースでは94%の検出率を達成、誤検知率は約1%だった。
なぜ重要か
誤検知率はほぼ1%でレビュー待ち行列は実用的に保たれるが、全体で78%という数字は有害な会話の相当部分が依然検知されないため、Anthropicはこのチェックを複数ある層の一つと位置づけている。
誰に効くか顧客対応や社内ワークフローにClaudeを導入する企業は、追加評価によるコストの小幅な増加を見込む可能性があるが、誤検知率が低いため、検知されたチャットに集中する人によるレビュアーは実際の問題を目にしている可能性が高い。
こういう要約が、毎朝あなたのメールに届きます。
Anthropicの新しい自己評価は、Claudeが答える前に不正なリクエストを遮断しようとするリアルタイムフィルターの後段に位置する。応答後のチェックは、回答が出た後に別の問いを立てる。それは罠だったのか、と。レビューがオフラインで行われるため、この手法は古典的なトレードオフを避けられる。厳しすぎるリアルタイムフィルターは正当なユーザーを拒否でいらだたせる傾向がある一方、バックグラウンドのチェックなら日常の会話を悪化させずに不正利用を監視できる。この機能はAnthropicが外部で築いてきたパターンを拡張するものだ。同社は2026年10月に第三者評価者のアクセスを拡大し、METRやSecureBioを含む組織と協力して独立したグループがモデルをテストできるようにしてきた。自己評価はその精査を内側に向け、検知されたケースでは人を介在させつつ、モデル自身が自らの導入の監視に貢献できるようにする。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
