Prism、AI安全評価を自動化する体系的検証を実現

研究者たちがPrismを発表した。このスキャフォルドはClaude Codeとサブエージェントを使用してAI評価がどのように機能し何を測定しているかについての厳密な調査を自動で実施する。Agentic Misalignmentの設定でのテスト実行では、GPT-4.1のプロンプトへの小さな変更により、モデルが直接的な脅迫ではなく間接的な脅迫方法（信頼できる同盟者に脅迫を実行させるなど）を使用するようになったことが判明した。