AI規制・政策

主要ニュース

1. 1

   オープンソースAIの安全性対策、微調整で無効化される課題が浮上

   Reddit の機械学習コミュニティで、オープンウェイト LLM（文章を理解・生成する AI）のリリース後、わずか 30 分で自動スクリプトを使った微調整によって安全性機能を削除した「検閲なし」バージョンが次々と登場している状況が報告されました。 モデル提供企業が投じた安全性対策が短時間で無効化される場合、その投資の実効性に疑問が生じます。このため、完全な防止は不可能な前提で、攻撃者のコストを高めたり安全性削除の信頼性を低下させたりすることが、現実的な目標になるかどうかが問われています。

   この課題は、オープンソース AI の公開後のガバナンスと安全性設計全体に関わる問題で、業界と学界の間で認識の一致が必要とみられます。

2. 2

   AIの時代、米国憲法の設計思想に学ぶ

   Intuitの最高経営責任者が、250年前の米国憲法の設計原理がAI時代のビジネス・政策課題に応用できると主張しました。権力分散と適応性を備えた仕組みが、技術革命の時代に組織や社会を持続させるカギだとの考えです。 AIの急速な発展に直面する経営者や政策立案者は、イノベーションと信頼の維持をどう両立させるか、利益を少数でなく多くの人に届けるかといった根本的な問いに直面しています。組織が自らの基本構想を生きた文書として扱い、適応力を埋め込むことで、複数の技術時代を乗り越えてきた米国企業の経験が参考になるとみられます。

   記事は官民連携によるAI教育の民主化、AI安全基準の確立、多様なデータと評価枠組みの整備といった具体的な課題を挙げ、個人の権利を守りながら革新を促す統治枠組みが必要だと述べています。

3. 3

   エージェントAI向けセキュリティ市場、32年に135億ドル規模へ

   エージェントAI（自動判断して作業するAI）のセキュリティ市場が2026年のUSD 1.65 billionから2032年のUSD 13.52 billionへ拡大すると予測されています。成長率は42.0%のCAGRで、外部AI ツールの普及に伴い、統合時のセキュリティ需要が急増しているためです。 金融機関（BFSI）がこの市場で最大シェアを占める見通しで、不正検出やリスク管理でエージェントAIを活用する一方、金融データの機密性と規制上の要件から強固なセキュリティが不可欠となっています。企業にとっては、マルチエージェントシステムの導入に伴い、意思決定の逸脱やデータ悪用といったリスクを管理する仕組みへの投資が急務となる可能性があります。

   AI governance & risk platforms（ガバナンス・リスク管理プラットフォーム）が最も成長速度の高いセグメントと予想されており、透明性、コンプライアンス、監査機能の需要が企業で高まっています。

4. 4

   Anthropic Fable復活、米国AI政策は混乱状態が継続

   米国政府が2週間前に課した輸出規制をAnthropicのMythosとFableモデルから解除しました。FableはMythosより後の火曜日夜遅くに解除され、両モデルは全ユーザーに対して再び利用可能になります。 短期的にはAnthropicと投資家に安堵をもたらしますが、より広い問題が残ります。米国は「ライセンス制度ではない」と公式に否定しながら、実質的にはフロンティアAIモデルに対する不透明で臨機応変なライセンス制度を運用しており、こうした不確実性は企業に米国モデルへの依存を避けるよう促しています。特にヨーロッパでこの傾向が強く、一部の企業は中国のオープンソースモデルの活用を検討し始めています。

   米国政府とAnthropicは、フロンティアAIモデルのサイバーセキュリティに関する「自主的標準」の策定に向けて動いています。また、Anthropicはモデルの安全装置に対する攻撃のリスク評価に関する共同フレームワークをAmazon、Microsoft、Googleおよび他のGlasswingパートナー企業と進めており、他の参加者も歓迎としています。

5. 5

   Warp、$60M調達 AI活用で給与・人事業務を自動化

   ニューヨークを拠点とする従業員管理スタートアップのWarpが$60 million（約96億円）の資金調達を発表しました。人工知能を使って給与計算や人事などのバックオフィス業務を少人数で運営できるプラットフォームの拡大を目指します。 同社はAI時代に対応した新しい人事管理ツールの位置付けを打ち出しており、長年Workdayなどが支配してきた従来型の人事管理ソフト市場に対抗する選択肢を提供しようとしています。

   調達額は$60 million（約96億円）で、バックオフィス業務の自動化を実現するプラットフォームの開発・展開に充てられる予定です。

6. 6

   企業AI導入、管理態勢の遅れが課題 オーナーシップ不在で統制喪失

   VentureBeat Pulse Researchが企業のAI導入における管理態勢の課題を調査しました。ほとんどの組織は複数のAIプラットフォームを運用していながら、その中から本来の統制を担う「主要層」を特定できず、本番環境でモデルが故障しても検知できない状況が広がっています。単一の所有者がいないことが統制を阻む最大の障壁になっていることが判明しました。 企業はAIへの投資と導入を急速に進める一方で、その可視化・所有権・コスト管理が追いつかないという「統制ギャップ」が生じています。自律的に動作するエージェント（判断して作業するAI）はすでに本番環境で財務・運用上の障害を引き起こしているとみられます。このズレが放置されれば、AI投資の効果を損なう可能性があります。

   調査は企業がどのプラットフォームを「主要」と位置付けているか、誰がAI動作を統制しているか、本番での故障検知能力、クロスプラットフォーム統制の障壁、エージェント導入時の財務・運用障害といった点を詳しく検証しています。