AI規制・政策

主要ニュース

1. 1

   AnthropicのCEOが強力なAIに航空業界並みの規制を要求

   ChatGPTの競合「Claude」を開発するAnthropicのDario Amodei CEOが6月10日、政府による強力なAIモデル規制を求める論文を発表した。航空業界がFAA（連邦航空局）の厳格な安全規制下にあるように、AIも公共安全のため同様の規制が必要だと主張している。同時に同社は最新モデル「Claude Fable 5」をリリースし、サイバー攻撃・防御機能を持つ「Claude Mythos 5」も限定公開した。

   AIが人間の生活により深く関わるようになる中、政府による安全規制の議論が本格化し、ChatGPTやClaude等の利用方法が将来変わる可能性がある。

2. 2

   金融企業でAIエージェント管理が新たなコンプライアンス課題に

   金融業界では請求書照合やKYC（本人確認）文書処理を自動化するAIエージェントの導入が進んでいるが、EU の新規制NIS2/DORA（デジタル運用レジリエンス法）への対応が困難になっている。AIエージェントがデータ漏洩を起こした場合の責任の所在や、AI の意思決定プロセスの追跡が技術的に複雑で、監査に耐える透明性の確保が課題となっている。

   銀行や保険会社等でのAI活用が慎重になり、金融サービスの自動化・効率化が遅れる可能性がある。

3. 3

   カナダが包括的デジタル安全法案を検討、SNS・AI規制を一括化

   カナダがBill C-34という法案で、子ども向けSNS利用禁止、AIチャットボット規制、プラットフォーム事業者の義務、強力なデジタル安全委員会の設立を一つにまとめた包括的規制を検討している。専門家は異なる分野の規制を一度に導入することのリスクを指摘している。

   カナダでSNSやAIサービスの利用制限が始まれば、他国でも似た規制が広がり、オンラインサービスの利用方法が大きく変わる可能性がある。

4. 4

   AIエージェント実行前の判定システム「JudgeOS V5」が開発中

   AIエージェントが実際に行動を起こす前に、その行動が適切かを判定する「JudgeOS V5」というシステムが開発されている。このシステムはAIが提案した行動を8段階の検証プロセスで評価し、許可・拒否の決定と暗号化された実行記録を残すことで、AIの行動に対する説明責任を確保する仕組みとなっている。

   将来的にAIアシスタントやロボットがより安全に動作し、問題が起きた時の原因究明が簡単になる可能性がある。

5. 5

   OpenAIがOracle Cloudとの連携を発表、企業向けセキュリティを強化

   ChatGPTを開発するOpenAIが6月10日、Oracle Cloudとの連携を発表した。企業は既存のOracle Cloud契約を使ってOpenAIのモデルやプログラミング支援ツール「Codex」にアクセスでき、企業レベルのセキュリティ管理機能も利用可能になる。

   Oracle製品を使う企業では、社内システムとChatGPTの連携がより安全に行えるようになり、業務での AI活用が進む可能性がある。