オープンソースAI

主要ニュース

1. 1

   NVIDIA、AIエージェント監視の安全基盤

   NVIDIAが「NVIDIA Open Agent Safety Platform」を発表。 エージェントの外部から境界を強制するため、エージェントが誤作動したり侵害されたりしても制御が維持される。エージェント自身の安全機構では得られないチェックだ。

   普及は多数のパートナーが実際に統合を出荷するかにかかる。Anthropic、Salesforce、SAPはOpenShellの組み込みを計画し、ロボティクス分野ではFigureも加わる。

2. 2

   Google Cloud、AIコーディングエージェント向けプラグイン発表

   Google CloudがAIコーディングエージェント向けのGoogle Cloud Developer Pluginを発表。 コーディングエージェントはプログラミング能力に優れるが、既定ではGoogle Cloudのサービスやアーキテクチャの知識がなく、適切なシステム構築を可能にするのが狙い。

   AIエージェントプラグイン仕様に基づきスキルと関連MCPサーバー設定をまとめたもので、GitHubリポジトリから入手可能。異なるエージェント間で一段階のインストールが機能するかが焦点。

3. 3

   NVIDIA、Isaac ROS 5.0公開

   NVIDIAはオープンソースのロボティクス開発環境「NVIDIA Isaac ROS 5.0」をリリースした。ROS開発者エコシステムにAIエージェント機能を直接統合した。 開発者はAIエージェントの支援で定型作業の自動化や複雑なコードベースの理解ができるとされ、NVIDIAはアイデアから動作するアプリまでの期間が短縮されるとしている。

   普及のカギは既に自社プラットフォームへ組み込むロボティクス企業。本文はUniversal RobotsとROBOTISを挙げ、ROS LyricalとUbuntu 24.04に対応する。

4. 4

   MicroLLM lab、135Mモデルをブラウザ比較

   MicroLLM labが、135Mパラメータモデルを含む小型LLMを客観的チェックで評価するブラウザツールとして登場。速度はtokens/s、精度は合格率で報告し、数値はすべてローカルに保持される。 失敗そのものを測定結果として扱う点が特徴で、135Mモデルの失敗も許容される。文章品質ではなく客観的チェックを用いるため、結果の比較が可能になる。

   実行はユーザーのブラウザとハードウェアに限定されるため、端末をまたいだスコアの直接比較はできない。利用時にどのモデルと客観テストが選ばれるかに注目。

5. 5

   NVIDIA、AIエージェント信任へ安全基盤

   NVIDIAが「NVIDIA Open Agent Safety Platform」を発表。 エージェントを導入する企業には、プロンプトでは答えられない2つの問いがある。制御を手放さずにエージェントを動かす方法と、その行動を証明する方法だ。

   信頼の鍵は、エージェントが侵害されたときに制御が実際に機能するかどうか。NVIDIA Sentryはミリ秒単位でエージェントを隔離できる。

6. 6

   NVIDIAがエージェント安全平台、Ciscoも参加

   NVIDIAはNVIDIA Open Agent Safety Platformを発表した。 エージェントの信頼はエンジニアリングの問題であり、制御にはハーネスではなく完全なコンテキストを伴う外部制御が必要だという主張だ。これが企業がエージェントに付与できる自律性を左右する。

   Ciscoは標準ベースのマルチベンダー制御が単一の記録システムに収束するかにかかると述べる。SentryとSplunkの相関がその単一ビューを実現するかに注目だ。