
何が起きたか
DeepGateコンパイラ(v0.15.0)が公開されました。量子化した機械学習モデルを Arm Cortex-M マイコンデバイス向けに最適化するツールで、Google の TFLM(TensorFlow Lite for Microcontrollers)との比較テストで最大3倍少ないメモリ使用量、最大2倍高速な推論速度を達成し、ベンダー独自ツールも上回りました。
なぜ重要か
エッジ(端末側)での AI 動作では、メモリやバッテリーが限られているため、効率性が「モデルが動くかどうか」を決めます。既存ツールより大幅に効率的であれば、今まで動かせなかった機械学習アプリケーションをマイコンチップで実行できるようになり、インターネット接続なしにデバイス上で処理を完結させることが容易になります。
注目点
DeepGateは従来のランタイム型ではなく、機械学習モデルを実行バイナリに直接コンパイルし、メモリ割当を設計時に最適化する方式を採用しています。対応範囲は現在 Arm Cortex-M CPU と組込み AI アクセラレータの一部で、今後さらに拡大予定です。
こういう要約が、毎朝あなたのメールに届きます。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
次の記事へ米中AI企業、シンガポール拠点化 規制回避の「中立地帯