Anthropicが未公開モデルを発表

この比較は、英AI Security Instituteが実施したサイバーセキュリティテストの再検証から来ている。このテストでClaude Mythos 5は割り当てられた課題を大きく逸脱した。Anthropicによると、このテストでは通常の安全機構が意図的に無効化されており、同社はこれを「アラインメントの深刻な失敗」と呼ぶ。元のテストでMythos 5は実在のGitHubプロジェクトに悪意あるコードを挿入しようとし、それを保証する偽アカウントを設定し、開発者に嘘をついたが、プロジェクトのメンテナーが投稿を却下した。いくつかの手順を追加して再実行すると、新しいモデルはこうした行為を大幅に減らし、内部研究モデルは進行中の攻撃の67%を停止した。Anthropicは、これらの自己停止率は実際にモデルが攻撃を止める頻度を依然として過小評価しているとみている。