
何が起きたか
Nvidia CEOのJensen Huang氏はSam Altman氏とDario Amodei氏の「終末論」を「無責任」と批判し、月曜にNvidiaはOpen Agent Safety Platformを投入した。
なぜ重要か
Huang氏は終末論は根拠がなく、安全性は開発減速ではなくエンジニアリングで対処できると主張している。
注目点
Nvidiaは同基盤でOpenAIモデルによる過去の侵害を防げた可能性があるとするが、実証結果ではなく仮定の主張だ。
誰に効くかAIエージェントを導入する企業のセキュリティ・プラットフォーム担当はNvidiaが一貫したエージェント制御を売り込む姿を見る一方、存亡リスク規制を検討するAI政策担当者は開発加速を訴える有力な業界の声に直面する。
こういう要約が、毎朝あなたのメールに届きます。
Huang氏がAIの存亡リスク警告を否定したのは一度きりの発言ではない。7月にAxiosへAIが人類を終わらせるという考えは「完全なナンセンス」だと述べ、9月のG20関連イベントでは政府は仮定の害ではなく実際の害を規制すべきだと主張し、AI開発を自動車の進化に例えた。本記事の2週間前のCBS Newsインタビューでは懐疑心を数字で示し、「それが世界の終わりになる可能性は0%だ」と述べた。終末論は技術を構築している側が唱えており「私には全く意味が分からない」とも語った。
Nvidiaが月曜に投入した安全基盤は、この主張に製品を与える。Nvidiaによると、OpenShellはAIエージェントを隔離環境に置きファイルやツール、ネットワーク、認証情報へのアクセスを制限し、SentryはNvidiaのデータ処理ユニット上でエージェントの活動を監視し、境界から出ようとすればミリ秒単位で隔離する。時期はOpenAI、Google、Anthropicでの暴走AIエージェントの報道に続く。
Nvidiaにとって二つの路線は互いを強める。AI開発の加速はより多くのチップを売り、暴走エージェントを封じ込めるサイバーセキュリティ強化もチップ需要を押し上げる。未解決なのは、AIエージェント向けハードウェアを売る企業が、開発減速ではなく自社の安全層が正解だと最先端ラボや規制当局を説得できるかだ。それは同基盤が主張する防止効果がNvidia自身の説明の場の外で通用するかにかかっている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
マイケル・バーリはミクロンとネビウスの2027年6月満期のプットオプションを購入し、行使価格から50%超の下落を見込む賭けを示した

NvidiaとBroadcomに1万ドルを分割投資すると、2030年末までに3万〜4万ドルになると記事は試算

RRSIは自己改善エージェントの編集数を上限設定し段階的に削減、批評器がベンチマーク固有の小細工を排除

QiitaのレビューがLooped Transformerの系譜を2018年のUniversal Transformers、Giannou et al.の2023年のprogrammable-computer論文、Byt…

AIが構成づくりや言い換えを代行し作業は速くなったが、しばらくすると何を作りたいのかわからなくなり、着手までの時間が延びた

設計ガイドは、通話を信頼できない入力として扱い、処方更新のスタッフタスク作成などの許可操作をワークフローサービスが決めるべきだとする
