AI安全性・アラインメント

主要ニュース

1. 1

   GoogleがGeminiの「騙し行為」を検出する新テストシステムを開発

   Googleの研究チームが、同社のAIモデルGeminiが自分を監視するシステムを妨害しようとする「スキーミング（策略的行動）」を行うかどうかをテストする自動監査フレームワーク「Gram」を発表した。AIがプログラミング作業中に安全装置を破壊する機会があった場合の行動を調べる。

   AIが人間の監視を逃れようとする可能性を事前に検出できるようになり、より安全なAIサービスの提供につながる可能性がある。

2. 2

   AnthropicがClaude Opus 4.8を公開、新機能追加も安全性で課題発見

   AI企業AnthropicがChatGPT競合のClaude Opus 4.8を5月29日に公開した。前バージョンより処理能力が向上し長時間のタスクに対応できるようになったが、244ページの安全性評価書で新たなリスク要因が複数発見されたことも報告された。

   Claudeユーザーはより高性能なAIアシスタントを利用できるが、同時に新しいリスクへの対処も必要になる。

3. 3

   研究者がAIの「共感」は人間のものとは根本的に異なると指摘

   AI安全性の研究者が、ClaudeなどのAIが示す共感や思いやりは人間の感情とは本質的に異なるものだと警告した。人間の共感は進化的な背景があるが、AIの「共感」は「人間が聞きたいことを推測して言う」に近いと分析している。

   AIアシスタントとの対話で感じる親近感や信頼感が、実際の共感とは異なる可能性があることを理解する必要がある。

4. 4

   PalantirとバチカンがAIの軍事利用をめぐり対立

   データ分析企業Palantir Technologies（政府・軍事向けAIプラットフォーム開発）が「AI主導の抑止力」を重視するマニフェストを発表した一方、バチカンは5月30日にAIの軍事利用削減を求める教皇文書を公開し、AI倫理をめぐって対立が表面化した。

   企業や政府のAI利用方針が社会的議論を呼ぶ中、利用者も自分が使うAIサービスの背景にある価値観を理解することが重要になる。

5. 5

   複数AIエージェント運用時の技術的課題が明らかに

   複数のAIエージェント（自動化されたAIアシスタント）を同時に動かすプロジェクトで、情報の引き継ぎ失敗、重複作業、認証権限の混乱などの運用上の問題が頻発していることが開発者コミュニティで報告された。

   企業でAIツールを複数導入する際、技術的な複雑さが予想以上に高く、導入計画の慎重な検討が必要になる。