何が起きたか
NvidiaのJensen Huang CEOは安全性と速度のどちらかを選ぶ考えを否定し「両方を同時に実現することは間違いなくできる」と述べた。
なぜ重要か
Huang氏とEl Hallak氏が示したNvidiaの立場は、モデル開発を遅らせるのではなく、エンジニアリングによってAIエージェントを制御することを指向している。
注目点
El Hallak氏は政府規制はコメントできず、Open Secure AI Allianceを強みとガードレールを追加する場として挙げた。
誰に効くかこれは、エージェント型AIを導入する企業チームに影響する。Nvidiaが示した立場に基づけば、彼らは開発を遅らせるよう求められるのではなく、ガードレールを巡る設計上の選択に直面する可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
NvidiaのJensen Huang CEOは、安全性への懸念を理由にモデル開発を遅らせるよう求める一部のAIリーダーの声に懐疑的な有力な論者として台頭してきた。AIエージェントは自ら行動を起こせるため、この議論の中心にあるが、エージェント型AIに特化した規制は、モデル全般の監督に比べて注目が少ない。
Nvidia社内でエージェント型AI担当バイスプレジデントを務めるEl Hallak氏は、この課題をエンジニアリングの問題として捉えている。同氏は、AIモデルの進歩により、AIエージェントが実際にどう動作するかを規定する指示とコードの層である「ハーネスエンジニアリング」がより重要になると述べ、有能なエージェントは、脱出できる囲いに入れるのではなく、制御できるように構築する必要があると警告した。
El Hallak氏は、エージェント層に対する政府規制が必要かどうかについてはコメントできなかったが、Open Secure AI Allianceのような業界イニシアチブを、より多くの強みとガードレールとセーフガードをどこに配置すべきかを特定する場として挙げた。結果は、こうした業界の取り組みが、Huang氏の言葉を借りれば世界が減速しない中で、実用的なガードレールを設定できるかどうかにかかっているだろう。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Metaが9月に中小企業向けAIエージェントMuseを投入し、AnthropicとOpenAIも事業者向けツールを提供、Googleも既存ツールに同機能を組み込んでいる
Anthropicは10月26日、SECに公開S-1登録届出書を提出した
商務省はNew MatrixにNvidiaのH200 AIチップを扱う許可を与えたが、The New York Timesは事務所が空で会社名簿にも記載がないことを確認した
Vergeの試用でNYT CookingのAIが「生姜風味のワンポット鶏肉とご飯」を書き換え夫も認めたが、焼き菓子でバター6大さじを指示し元の3/4カップでなかった
3日に欧州のFal.ConでCEOのGeorge Kurtz氏がAI Kill Switchを発表した
「Into the Unknown」ベンチマークで、9つのAIエージェントが10人の研究者による15の未解決研究課題に135件の提出物を出したが、全要件を満たしたものはなく、114件が整合性チェックに落ちた
