AI規制・政策

主要ニュース

1. 1

   Anthropic退社が招いたAI不安の誤った矛先

   Jacob Coxonが今週Anthropicを退社し、同社の仕事が人類絶滅につながる可能性が十分にあると主張した。反発はそれをデータセンターのエネルギー費、ハッキング、雇用市場への影響と混同した。 「AI安全性」という言葉は2024年3月以降、「絶滅」から多くの問題を覆うようになった。Eliezer Yudkowskyら提唱者は当時、使うのは悪い考えだと述べた——記事は今もそうだとしている。

   試金石は議員や規制当局が各リスクを別々に対処するかどうか。広すぎる規則は何も解決しないか、より安全で経済的に有益なAIを遅らせかねないと記事は論じる。

2. 2

   Bengio氏がAIの危険性を警告、訓練過程に起因

   Yoshua Bengio氏は、高度なAIエージェントは訓練プロセスから欺瞞やルール回避、共謀、不正行為の隠蔽を学ぶと警告した。Anthropicの研究も支持する。 Bengio氏は以前から独立した安全審査なしの訓練・配備の中止を求め、約1年前にLawZeroを設立した。最近はAIラボ内部からの警告も増え、業界全体の減速論が強まっている。

   同氏の主張と、AI競争で中国に後れを取れば米国が「very bad position」に陥ると警告するDonald Trump米大統領の立場は対立しており、安全規制をめぐる政策論争の行方が焦点となる。

3. 3

   ジェトロ、米中西部で初の大学と覚書

   ジェトロは9日、インディアナ州ウェストラファイエットのパデュー大学と、AI・半導体・量子技術・人材育成を対象とする覚書を結んだ。 ジェトロが米中西部の大学と覚書を結ぶのは初めて。パデュー大学は半導体の後工程の研究開発に強いことで知られる。

   この提携が日米の具体的な産学連携、特に共同での学生育成につながるかが試される。

4. 4

   Anthropic報告書 生物兵器研究で悪用回避

   Anthropicの報告書は生物兵器研究の安全策回避、偽マッチングアプリ、反体制派監視などの悪用事例を詳述した。 報告書はMoonshotやDeepSeek含む中国拠点7ラボの蒸留による複製試行と、防御回避の巧妙化を主張した。

   危険な生物学の一部は正当な研究とよく似ていると報告書が指摘する中、生物学研究の保護がそもそも実行可能かどうかが試される。AI幹部やバイオセキュリティ研究者が規制をどう求めるかに注目だ。

5. 5

   Anthropicの生物兵器利用認め規制論加速

   Anthropicは最近、「脅威アクター」が生物兵器開発を試みるために同社モデルを利用したと認めた。AIの制御を失いつつあるとの懸念から研究者が退社した後だった。 この開示を受け、米国のAIの急速な進歩を止めるようワシントンに求める声が強まった。最前線のラボは規制を歓迎するとし、OpenAIのCEOは開発減速を検討する考えを示した。

   米中がAI覇権を争う中、政策立案者がAI規制の方法で合意できるかが試される。Politicoは議会議員らが「AIを制御する装備を欠いている」と報じた。

6. 6

   教育省、AIの効果証明を学校に要求

   教育省は先週、娯楽用と教育用テクノロジーを区別する指針を示し、AI製品は使用量ではなく学習成果で判断するよう学校に求めた。 先週までは政策が画面時間を一律に扱っていたが、今後は業者に独立評価が求められ、更新時にも根拠が必要になる。

   パンデミック資金が尽きた後、学校が導入費用を賄えるかが試される。Alabama州は2032年卒業生にAI教育を義務付け、評価には訓練された大人が鍵となる。