
Amazon SageMaker AIがNVIDIA Nemotron 3の開放型言語モデルに対するサーバーレス微調整機能を導入しました。企業はGPUクラスタの構築や分散トレーニングフレームワークの設定なしに、教師あり微調整や強化学習を用いてモデルを独自業務に適応させ、インフラ管理の手間を削減しながら専有資産を構築できます。Nemotron 3 Nanoの効率性により、小規模モデルを特定タスクに特化させて大規模モデルの性能に匹敵させることも可能です。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Amazon SageMaker AIが、NVIDIA Nemotron 3モデル(Nano 30BおよびSuper 120B)に対するサーバーレスモデル微調整機能を導入しました。教師あり微調整(SFT)、検証可能な報酬を用いた強化学習(RLVR)、AIフィードバックを用いた強化学習(RLAIF)の3つの手法をサポートしています。
なぜ重要か
企業は基盤モデルを業界固有の用語や意思決定パターンに適応させ、独自のAPIとの信頼できるツール呼び出しを訓練し、ブランドボイスに合致した出力を生成できるようになります。インフラストラクチャの構築・管理が不要なため、企業は自社データを安全に保ちながら、オフザシェルフモデルより低コストで専門化されたAIを構築できる可能性があります。
注目点
Nemotron 3 Nanoは3Bのアクティブパラメータで、前任機Nemotron 2 Nanoの4倍のスループットを実現しており、コストと遅延が重要な大規模マルチエージェントワークロードに適しています。SageMaker Studio コンソールまたはSageMaker Python SDKを使用して即座に利用を開始できます。
Nemotron 3モデルはMamba-2層、Transformer注意層、LatentMoE層を組み合わせたハイブリッド・Mamba-Transformer混合エキスパート(MoE)アーキテクチャに基づいており、最大1M トークンのコンテキスト長をネイティブサポートしています。このアーキテクチャは1回の推論で総パラメータの一部のみをアクティブ化するため、高スループットと精度を低い計算コストで実現します。
Amazonがサーバーレス微調整を導入することで、企業が自社データを安全に保ちながら、インフラストラクチャの複雑性を排除して微調整を実行できる環境が提供されます。基盤モデルを特定ドメインや業務に適応させることで、企業は標準的なオフザシェルフモデルでは達成できない業界固有の競争優位性を構築でき、同時により小規模で効率的なモデル(Nanoなど)を専門化させることで運用コストを削減できます。
まだコメントがありません。最初のコメントを投稿しましょう!
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応