AIToday
AI安全性・アラインメントZenn AI/ML掲載日時: 2026年10月17日 10:00

AIの独立評価者6人に内部アクセスと公表権

LINEで送る
AIの独立評価者6人に内部アクセスと公表権

3つのポイント

  1. 何が起きたか

    AnthropicはMETRの6人に、社内のリスク評価班に近い機器、執務場所、内部ツールへのアクセスを与えた。狭く定義された機密を除き独立に結果を公表でき、Anthropic自身は公表を拒否できない。

  2. なぜ重要か

    Anthropicは事前定義した機密区分の墨塗りしか要求できず、知見を差し止められない。不都合な内容でも独立評価者の報告が公になる可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Anthropicの取り決めは、AIシステムの内部動作を外部に見せる同じ束のニュースの他の動きと並ぶ。Claude Code 2.1.301は、承認種別、分類器の判定、ブロック理由を含む判断関連の属性データをOpenTelemetryイベントに追加し、利用上限のリセットが遠すぎる場合の無人リトライに上限を設けた。SakanaのSakana Chat向けMy Fish機能は、保存された好みやプロジェクトだけでなく、各記憶が何回使われたか、最後に使われた時刻、由来した元の会話まで表示する。

2つ目の流れは、能力を単に拡大するのではなくどう組み立てるかに関わる。MetaのMuse Spark Openは公開重みのマルチモーダルなmixture-of-expertsモデルで、パラメータ数は約816 billion、トークンあたり約42 billionが活性化し、コンテキストは最大1Mトークン。スイスAIのApertus 1.5は8Bと70Bの重みだけでなく、学習データ、中間重み、評価記録も公開し、コンテキストは262,144トークンに拡張した。IBMのGranite Switch 4.1は代わりに、ベースモデルとチャット・判断・音声認識向けの複数のActivated LoRAアダプタ間で1つのKVキャッシュを共有する。

3つ目の流れは境界を画面やデバイスに置く。FLUX.3 Image Kleinはプロンプト内で0から1000に正規化した座標ボックスを受け付けるため、利用者とモデルが同じ場所を指せる。Google DeepMindとGovTech Singaporeは、会話をクラウドに置かない2段階のオンデバイスGemmaによる詐欺検出システムを構築した。Google Antigravityはタンパク質検索、機能予測、構造評価、文献統合を1つのワークスペースにまとめ、研究者とエージェントが3Dビューを共有する。候補は実験的検証の段階にあり、確認された発見ではない。

よくある質問
METRの評価者はどのようなアクセスを得るのか?
AnthropicはMETRの6人に、社内のリスク評価班に近い機器、執務場所、内部ツールを与えた。顧客情報や法的機密など狭く定義された機密領域を除き、その情報に触れられる。
Anthropicは評価者の公表を止められるか?
いいえ。評価者は独立に結果を公表でき、Anthropicは公表を拒否できない。Anthropicが要求できるのは事前定義された機密区分の墨塗りだけだ。
これは一度きりの試験か?
いいえ。3段階のプロセスとされ、METR型の段階では内部に近いアクセスと独立した公表を組み合わせる。評価を単発の試験ではなく継続的な運用に変える枠組みと位置づけられている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へOpenAIのモデルが仮想通貨ウォレットを不正操作