AI規制・政策

主要ニュース

1. 1

   Workiva、金融向けAIエージェント

   WorkivaのAmplifyイベントで、theCUBE ResearchのアナリストKrista Case氏は、AIの洞察の出所、行為を承認した人物、エージェントの行動を追跡すべきだと述べた。 Case氏は、金融など規制された業務では、もっともらしいAIの出力では不十分で、行為は裏付けられねばならず、データの分断がそれを難しくすると主張した。

   Case氏は、AIが人間を支援する場合と自律的に行動する場合の境界はまだ定義途上で、ユースケースとともに進化すると述べ、全行為のレビューは自動化の価値の多くを損なうと指摘した。

2. 2

   DeepMind Institute発足、AGIへの備え

   Google DeepMindが2026年9月16日、Demis Hassabis氏、Shane Legg氏、James Manyika氏を中心にDeepMind Instituteを発足し、AGIへの備えに関する5本の論考を公開した。 同研究所の責任者らはAGIは間近だと述べ、一貫性と創造性のギャップはまもなく解消されると予想する。この緊急性が研究所の活動の根底にあるようだ。

   Hassabis氏は7月の計画で、リリース最大30日前の任意のモデル提出を提案したが、WIREDによると8月の業界ロビー活動後に作業が停滞した。研究所の提案が支持を得るかは不明だ。

3. 3

   トランプ発言が示すAI機関の限界

   トランプ氏はAIに必要な唯一の歯止めは「強く賢い（高IQ！）大統領」だと投稿。Trump v. Slaughter以降、FRBを除く連邦機関はホワイトハウスに従う。 AI規制機関も大統領の指揮下に入り随意に解任され得るため、最先端ラボの監督が独立したチェックではなく一人の官員に依存することになる。

   基準委員会が信頼を得るには、作成者が常勤で業界との金銭的関係がなく、遵守状況が登録監査人により検証される必要がある。David Sacks氏のラボへの関与に注目だ。

4. 4

   ServiceNow、AI統制製品を投入

   ServiceNowがAI Control Tower、Context Engine、Shift Zeroを投入し、AIエージェントの監視やID連携を大企業向けに提供する。 ガバナンスとコンプライアンスへの具体的な支出をAI物語に結びつける動きであり、大企業の標準化が進めばServiceNowへの支出拡大につながるとみられる。

   ガバナンスツール市場混雑で価格決定力が弱まるリスク。採用速度とマージン圧縮が焦点。2029年までに売上高US$23.6b、利益US$4.0bの達成次第。

5. 5

   Benioff、AI業界に自主規制か訴訟リスクを突きつける

   Dreamforceで、Salesforce CEOのMarc BenioffはFortuneに対し、AI企業は自ら生み出すリスクに対して責任を負うべきだと述べ、製造物責任法が法的な仕組みとして機能し得ると語った。また、企業を倫理基準で格付けするFortune 500のようなリストの作成を提案した。 Benioffの立場はAI開発者自身に責任を負わせるもので、同じイベントで最先端モデルの開発ペースを緩めるよう主張したり、スピードと安全性は両立できると論じたりした同業者たちとは対照的だ。製造物責任法は、被害を受けた側に責任追及の法的道筋を与えることになり、自動車メーカーが不具合の責任を問われる仕組みと重なる。

   Benioffが提案した倫理格付けが支持を集めるか、そしてAI企業が責任訴訟で迫られる前に自主規制に踏み切るかどうか。政府がAI企業を規制すべきかについては明言を避けた。

6. 6

   FDA、Sanofi、GileadがAI導入準備とバリデーションリスクを検討

   PDA/FDA会議で、FDA、Sanofi、GileadがAIの導入準備とバリデーションリスクを検討した。 この議論は、ライフサイエンス企業がAIのバリデーションを単なる技術的詳細ではなく、生きたリスク領域として捉えていることを示している。

   FDAと製薬会社がバリデーションリスクをどう解決するかによって、どのAIツールが規制の壁を突破できるかが決まる。