AIToday

Amazon SageMaker AI、NVIDIA Nemotron 3モデルのサーバーレス微調整に対応

Amazon AI Blog4時間前
Amazon SageMaker AI、NVIDIA Nemotron 3モデルのサーバーレス微調整に対応

要点

Amazon SageMaker AIがNVIDIA Nemotron 3の開放型言語モデルに対するサーバーレス微調整機能を導入しました。企業はGPUクラスタの構築や分散トレーニングフレームワークの設定なしに、教師あり微調整や強化学習を用いてモデルを独自業務に適応させ、インフラ管理の手間を削減しながら専有資産を構築できます。Nemotron 3 Nanoの効率性により、小規模モデルを特定タスクに特化させて大規模モデルの性能に匹敵させることも可能です。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    Amazon SageMaker AIが、NVIDIA Nemotron 3モデル(Nano 30BおよびSuper 120B)に対するサーバーレスモデル微調整機能を導入しました。教師あり微調整(SFT)、検証可能な報酬を用いた強化学習(RLVR)、AIフィードバックを用いた強化学習(RLAIF)の3つの手法をサポートしています。

  • なぜ重要か

    企業は基盤モデルを業界固有の用語や意思決定パターンに適応させ、独自のAPIとの信頼できるツール呼び出しを訓練し、ブランドボイスに合致した出力を生成できるようになります。インフラストラクチャの構築・管理が不要なため、企業は自社データを安全に保ちながら、オフザシェルフモデルより低コストで専門化されたAIを構築できる可能性があります。

  • 注目点

    Nemotron 3 Nanoは3Bのアクティブパラメータで、前任機Nemotron 2 Nanoの4倍のスループットを実現しており、コストと遅延が重要な大規模マルチエージェントワークロードに適しています。SageMaker Studio コンソールまたはSageMaker Python SDKを使用して即座に利用を開始できます。

背景と解説

Nemotron 3モデルはMamba-2層、Transformer注意層、LatentMoE層を組み合わせたハイブリッド・Mamba-Transformer混合エキスパート(MoE)アーキテクチャに基づいており、最大1M トークンのコンテキスト長をネイティブサポートしています。このアーキテクチャは1回の推論で総パラメータの一部のみをアクティブ化するため、高スループットと精度を低い計算コストで実現します。

Amazonがサーバーレス微調整を導入することで、企業が自社データを安全に保ちながら、インフラストラクチャの複雑性を排除して微調整を実行できる環境が提供されます。基盤モデルを特定ドメインや業務に適応させることで、企業は標準的なオフザシェルフモデルでは達成できない業界固有の競争優位性を構築でき、同時により小規模で効率的なモデル(Nanoなど)を専門化させることで運用コストを削減できます。

よくある質問

どの微調整手法が利用できますか?
教師あり微調整(SFT)、検証可能な報酬を用いた強化学習(RLVR)、AIフィードバックを用いた強化学習(RLAIF)の3つの手法が利用できます。SFTはドメインQ&Aペアやツール呼び出し形式の学習に、RLVRはツール呼び出し精度やコード正確性など検証可能な目標を持つタスクに、RLAIFはトーン・有用性・安全性の調整に最適です。
Nemotron 3 Nano と Super の違いは何ですか?
Nemotron 3 Nanoは30Bの総パラメータで3Bがアクティブ(効率的)であり、高ボリュームのマルチエージェントワークロードに向いています。Nemotron 3 Superは120Bの総パラメータで12Bがアクティブであり、ソフトウェア開発やサイバーセキュリティトリアージなど複雑な推論タスクに向いています。
インフラストラクチャの構築・管理は必要ですか?
いいえ、SageMaker AIサーバーレス微調整ではGPUクラスタの構築、分散トレーニングフレームワークの設定、チェックポイント管理を必要としません。使用した分のみの従量課金モデルです。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →