AI規制・政策

主要ニュース

1. 1

   企業のAIエージェント導入で権限管理が最大の課題に浮上

   WorkdayやTemporal Technologiesなどの企業が、AIエージェント（自動で判断・作業するAI）の導入で最大の障壁はAI性能ではなく権限管理だと報告した。多くの企業が「AIにどこまでアクセス権を与えるか」「誰の代理で作業させるか」という問題で導入が停止している。

   今後、企業でAIアシスタントやチャットボットを使う際に、セキュリティや承認プロセスがより厳格になり、利用できる機能に制限がかかる可能性がある。

2. 2

   Vatican（バチカン）とPalantirがAIの軍事利用で真っ向対立

   5月30日、Palantir Technologies（政府・防衛向けデータ分析企業）がAI駆動の抑止力と国家安全保障を重視するマニフェストを発表。一方、Vaticanは同日、AIの軍事利用削減を求める回勅を発表し、AI倫理とガバナンスをめぐる公開論争が勃発した。

   AIの軍事利用や倫理基準について国際的な議論が活発化し、今後AIサービスの開発や利用に新たな規制が導入される可能性が高まっている。

3. 3

   企業のAIエージェントシステムで大規模な作り直しが進行中

   Temporal Technologiesによると、多くの企業が急速に導入した初期のAIエージェントシステムを作り直している。システム障害からの回復、状態保存、コスト管理などの「配管工事（基盤技術）」を軽視したため、本格運用で問題が続出している。

   企業のAIサービスやチャットボットで一時的な不具合や制限が発生する可能性があり、より安定したサービス提供には時間がかかる見込み。

4. 4

   EC-CouncilがAI導入・運用の統一基準「ADGフレームワーク」を発表

   5月29日、サイバーセキュリティ認定機関EC-CouncilがCiti、JPMorgan Chase、Microsoft、KPMG等と共同でAI導入・防御・ガバナンス（ADG）フレームワークを発表。EU AI法やNIST基準に準拠した企業向け統一運用モデルを提供する。

   今後、企業がAIツールを導入する際により厳格なセキュリティ基準やコンプライアンス要件が求められ、導入プロセスが標準化される見込み。

5. 5

   音声AI企業が「ボット」から「ワークフロー制御」に戦略転換

   音声AIスタートアップOrvera AI（旧CallBotics）が企業顧客からの要求変化を受けて社名変更。顧客が「AIボットが電話に出られるか」ではなく「音声・チャット・メール横断でワークフロー実行できるか」「人間への引き継ぎは可能か」を重視するようになったため。

   企業のカスタマーサポートや営業でAIの活用範囲が拡大し、複数チャネル（電話、メール、チャット）で一貫したサービスを受けられるようになる。