AI規制・政策

主要ニュース

1. 1

   Bluesight、6つのコンプライアンス製品を統合するAIエージェント「Prism」をローンチ

   ヘルスケアソフトウェア企業のBluesightがAmazon Bedrock AgentCoreを使用して、Prism AssistantというAIエージェントを開発しました。このエージェントはControlCheck、CostCheck、ShortageCheck、340BCheckなど複数の製品を横断して推論し、病院のコンプライアンスタスクを自動化します。Prism Assistant for ControlCheckは2026年5月にローンチされ、すでに20の医療システムで使用されており、より複雑な複数製品版は2026年後半のリリースを予定しています。 現在、病院は医薬品価格コンプライアンスの管理に施設ごとに年間4,000時間以上を費やし、購入品をFDA不足リスト、在庫データ、バックオーダー信号と手動で照合しています。このような作業は数百の病院からなるネットワーク全体での拡張性が低いのが課題です。Prismはマルチプロダクト境界にまたがる長年の顧客要望に対応し、複数システムのデータを一度にクエリして実行可能なインサイトを手動レポート作成なしに提示することで、このプロセスを自動化します。

   このソリューションは2025年9月のAWSスプリントで3日間で構築され、9ヶ月以内に本番環境へ移行されました。通常は12～18ヶ月かかるようなタイムラインです。このアーキテクチャはAI推論をデータレイヤーから分離し、既存APIをAWS Lambdaでラップしてクエリレイテンシを5分から10秒に削減しました。複数製品版の第2バージョンは2026年後半にリリース予定です。

2. 2

   AI、欧米の金融規制を再構築

   高度な人工知能は、欧州、英国、米国全域の金融規制当局とテクノロジー企業の成長する焦点となっており、当局はサイバーセキュリティ、消費者保護、業界拡大に対する関心を強めている。 AI システムが金融サービスでより大きな役割を担うようになるにつれて、規制当局はイノベーションと消費者および システム安定性のための保護措置のバランスを取るために取り組んでいる。この動きは、金融セクターの企業が AI 展開に関する進化する規制要件に直面することになることを示唆している。

   金融機関は各管轄区域からの規制ガイダンスを監視すべきであり、欧州、英国、米国は銀行および金融サービスにおける AI 監督に対する個別のアプローチを開発する可能性が高い。

3. 3

   Microsoft、AI データセンター拡大で2025年CO2排出量25%増

   Microsoft は2025年に炭素排出量が25%増加したことを報告しました。AI 中心のデータセンター急速な拡大が増加の要因とされており、同社は再生可能エネルギーの一部購入を一時停止しています。 Microsoft は2030年までに炭素ネガティブ達成を掲げていますが、排出量増加と再生可能エネルギー購入停止は、その目標と現状の乖離を浮き彫りにしています。規制当局や ESG 重視の投資家から一層の監視を招く可能性があり、企業の気候戦略と AI インフラ投資のバランスが問われています。

   Microsoft は英国で「重要なクラウドインフラ」として分類されており、今後の規制強化や炭素制限、データセンター新設の条件化など、エネルギー調達と AI 拡大スピードに対する制約が増す可能性があります。

4. 4

   AI政策が研究に遅れ、制約は政治的意思

   LessWrongの分析によると、AI安全保障研究はすでに破滅的リスクに対処するための十分な知識とベストプラクティスを生み出しているが、これらが適用・実施されていないと主張している。著者の推定では、世界で最も影響力のある上位約100～1,000人の政策立案者の大多数が、破滅的リスクについて真摯な議論を一度も行ったことがなく、国連グローバル対話への市民社会提出物の1%未満が実存的リスクに言及している。 AI安全保障の瓶首は、もはや巧妙な政策案の不足ではなく、意思決定者の認識と政治的意思の欠如である。政策立案者は問題の存在を信じないため懸念が生まれず、既存のベストプラクティスは適用されないままである。このことは、より良い研究だけでは問題を解決できないことを示唆しており、必要なのはAIガバナンスを形作る政策・指導者コミュニティとの関与である。

   著者は、破滅的リスクに関する会話への政策レベルでの投資が不足していることを指摘しており、この隙間が既存の知識基盤が強制可能な国際的または国家的規制体制に転換されるかどうかを決定する可能性がある。

5. 5

   AI安全専門家、ボトルネックは研究でなく政策と指摘

   AI安全研究者は、同分野が壊滅的リスク対策に必要な知識を十分に備えている一方で、政策立案者の認識は極めて低く、世界で最も影響力を持つ上位約100～1,000人の政策立案者の大多数がこの問題について真摯な議論をしたことがないと主張している。 利用可能な安全対策とその実施の間のギャップは、進展が新しい発見よりも政治的意志に左右されることを示唆している。深刻な規制体制はほとんどのリスクを軽減できるが、意思決定者の低い認識が行動を阻止している。

   UN Global Dialogueへの1,534件の書面提出のうち、AI支配に言及したのはわずか1件、実存リスクに言及したのは1%未満であり、壊滅的リスク懸念が正式な政策論議でいかに周辺化されているかを示す信号である。

6. 6

   テロ組織がChatGPTなど主要AI活用、攻撃計画や爆発装置に

   Boko HaramがChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekなどのAIチャットボットを使用し、攻撃計画や爆発装置の製造、兵器保守に活用していることが、ケンブリッジ大学の研究者Antonia Jülichによる研究で明らかになりました。同研究者が27人の元メンバーに57回インタビューを実施しました。 ISISは2023年以降、プロンプト工学とジェイルブレイク（安全フィルターの回避）の訓練を提供しており、Boko Haramの司令官たちをトレーニングしていました。安全フィルターが悪用を確実に防げなかったことが判明し、AIラボの自主規制が機能していないことを示唆しています。研究者らは、テロ組織が化学・生物兵器の開発にAI助言を求める可能性について警告しています。

   Boko Haramの両派閥は専任のAI部隊を設置し、プロジェクターを使ってAIの使用方法を大画面で学習させました。ISWAP派はAIを使ってバイクでトレンチ（塹壕）を越える技術を習得しようとし、訓練中に18人が死亡、8人が成功しました。