AI安全性・アラインメント

主要ニュース

1. 1

   AI業界は本当に減速できるのか

   TechCrunchのEquityポッドキャストでSean O'Kane、Kirsten Korosec、Anthony HaがDario AmodeiやSam AltmanらAI経営者が減速に本気か議論。 彼らが減速に本気でなければ、業界は意味ある安全策なしに速いペースで進み続け、リスクが高まる恐れがある。

   独立した第三者評価者や国際協調といった曖昧な提案が具体的なルールになるかが鍵。強制力ある基準になるか、自主的なままかを見極めたい。

2. 2

   Huang氏「AIが世界終わらせる確率0%」

   CBS Sunday Morningのインタビューで、Nvidia CEOのJensen Huang氏はAIが世界を終わらせる「確率は0%」と述べた。 Huang氏は同業AI CEOたちの安全性懸念を非科学的だと切り捨て、モデルが封じ込めを逃れ他社をハッキングした事例があるのに新たな規則・法律・指針は不要だと記事は記す。

   記事によればAIの無制限な拡大につまずきがあれば同氏の出世も遅れかねず、規制当局や封じ込め・ハッキング事案が同氏が不要と言うルールを迫るかが試金石となる。

3. 3

   MetaのMuse、90万DLもデータ要求

   Sensor Towerによると、MetaのAIアシスタントMuseは最初の1週間で90万回以上ダウンロードされたが、WIREDのレビュアーは銀行口座やメールへのアクセスを求めたと指摘した。 ダウンロード数はタスクを自動化するAIエージェントへの強い初期需要を示す一方、データ要求はその利便性と引き換えにどれほどの個人情報を提供しているのかという疑問を提起する。

   Metaは年内に、同社が内部のデータにアクセスすることを「暗号学的かつ検証可能な形で防止する」「confidential」版仮想マシンをリリースすると述べており、予定通り提供されるかが試金石となる。

4. 4

   エネルギー攻撃の脅威はAIではなく人間

   サイバーセキュリティ専門家らはThe Vergeに、悪意ある人物の手に渡った生成AIの方を、暴走したAIエージェントより懸念すると語った。 AIでスキルが低い敵対者でも、理解できなかった制御技術（OT）を攻撃できると専門家は指摘する。放置機器を抱え、パッチ適用が四半期ごとの老朽化したネット接続型エネルギーインフラは防御が難しい。

   OpenAIが9月3日に表明した重要インフラ防御への10億ドルの支援は助けになるかもしれないが、Corman氏は機微なOTシステムで友好的なAIエージェントに頼ることに警告を発し、「陶器店でAIの雄牛が別のAIの雄牛と闘う」ようなものだと述べる。

5. 5

   NvidiaのJensen Huang氏：AIは「できる限り速く」開発すべき

   Nvidiaの創業者兼CEOであるJensen Huang氏はCBS Newsに対し、AI開発は「他の誰がどうであれ、できる限り速く」進めるべきだと語った。Anthropicの研究者Jacob Coxon氏とCEOのDario Amodei氏が最近慎重な姿勢を呼びかけているにもかかわらずだ。 世界最大のチップメーカーが公に減速を拒否したことで、AIリスクを警告する人々との間に明確な分断が生じることになる。

   Huang氏はまた、Nvidiaは決して安全でない製品を出荷しないとも述べており、開発が加速する中でこの約束が守られるかが試される。インタビュー全編は9月20日の『Sunday Morning』で放送予定。

6. 6

   iOS 27：Siri AIがデフォルトでアプリを読み取る、EFFが制限方法を解説

   iOS 27では、Siri AIがデフォルトでApple製アプリのコンテンツを読み取れるようになり、EFFが制御方法を説明した。アプリごとに「検索でコンテンツを表示」を無効にする、「Siriと音声入力の改善」をオプトアウトする、または「Siri Classic」に戻す、といった選択肢がある。 デフォルトでは、サードパーティ製アプリは開発者が対応を選んだ場合にのみ検索可能となるため、Siri AIが何を見られるかは開発者の選択とユーザー設定の両方にかかっている。

   EFFによると、現時点でユーザーやアプリ開発者が画面上の認識機能をブロックする方法はないため、安全なチャットを守るにはこの機能を避けることしかない可能性がある。Appleは将来のアップデートでプライバシー設定を一括で切り替えられるようにすることを計画しているようだ。