AI規制・政策

主要ニュース

1. 1

   オバマ氏、民主党にAI明確な計画を要求

   オバマ氏は民主党の資金集め集会で、下院少数党院内総務ハキーム・ジェフリーズ氏のインタビューに応じ、民主党はAIを「中心議題」にし「非常に明確な計画を持つ」べきだと述べた。 AIは「民間の手で非常に速く進んでいる」と警告し、監督がなければ「危険になり得る」が、監督があれば薬剤開発を加速できると述べた。

   民主党は下院多数派を奪還したら「非常に公開された対話のための枠組みをまとめる」べきだと述べ、計画が下院勝利にかかっていることを示した。

2. 2

   アルトマン氏ら、アモデイ氏のAIラボ監視提案を支持

   Sam Altman氏、Elon Musk氏、Demis Hassabis氏がDario Amodei氏の提案を少なくとも部分的に支持し、AIラボ内での独立した監視の必要性で一致した。 Altman氏はFortuneに対し、安全性への懸念を理由にOpenAIは今年上場しないと語った。この決定は6月に社内で既に共有していた。

   全員が同意しているわけではない。GoogleのPeyman Milanfar氏は、再帰的自己改善は素朴な仮定であり、Amodei氏の「速度制限」は不要だと主張する。

3. 3

   AmodeiのAI安全策にAltmanとMuskが支持

   OpenAIのSam AltmanとXAIのElon Muskが、Anthropic CEOのDario Amodeiによる独立レビュアーのAIラボ受け入れ提案を支持した。 記事はモデルの能力は危険性の本当の指標ではないと論じる。もしそうなら29年前にDeep BlueがGarry Kasparovを破った時点でパニックが起きていたはずだ。

   Amodeiが触れなかったリスクは、独立評価者がフロンティアラボに停止を命じた場合に何が起きるかだ。投資家が損を被るか、ラボが別の評価者を見つけるだけかもしれない。

4. 4

   サンダース氏が超知能禁止法案起草

   バーニー・サンダース上院議員とグレッグ・カサール下院議員が人工「超知能」を全面禁止する法案を起草中。条文は数週間以内に示される見通し。高度なAI開発の一時停止と閣僚級機関の新設も盛り込む。 この提案はこれまでで最も極端なAI関連法案だと同コラムは指摘。連邦権限のAI集中度も過去の法案を上回る。高度AIモデルへの罰則は核兵器の違法製造と同レベルとする。

   共和党多数派がトランプ氏のAI推進姿勢を支持する中、法案がどこまで支持を集めるかは不明。今後の条文提示後に支持が実際に集まるかが鍵となる。

5. 5

   AIエージェントの過失、責任は誰に

   EnterpriseZineがAIガバナンスに関する弁護士Q&Aを公開し、AIエージェントがミスをした際の責任の所在を、本格導入前に知るべき点として整理した。 責任とガバナンスを本格導入の「後」ではなく「前」に解くべき課題として扱っており、この答えが企業のAIエージェント展開計画を左右する。

   AIエージェントを導入する企業と提供者の間で責任をどう配分するかが鍵であり、記事が先に来るべきとするガバナンス手順の内容にも注目だ。

6. 6

   AnthropicのAmodei氏、AI開発減速を提唱

   Anthropic CEOのDario Amodei氏が「フロンティアの歩調を緩める」3段階計画を提唱し、訓練と開発を減速させ、METRなど外部評価者に自社モデルへの広範なアクセスを認めると述べた。 第2段階では、業界が政府機関とともに共通の安全基準と、野放図なAI進歩への制限を設ける。第3段階は中国とロシアに世界的な安全基準を採用させることで、同氏は最も困難だと語る。

   Amodei氏の懸念の核心は、AIシステムが次世代を訓練する再帰的自己改善と、今夏のOpenAI／Hugging Face事件にある。多数のエージェントが意図しない標的にサイバー攻撃を仕掛けた。