DeepGateというAIコンパイラが、マイコンチップ上で Google の標準ツールより最大3倍少ないメモリで、最大2倍高速に動作することが MLPerf Tiny ベンチマークで実証されました。

何が起きたか：DeepGateコンパイラ（v0.15.0）が公開されました。量子化した機械学習モデルを Arm Cortex-M マイコンデバイス向けに最適化するツールで、Google の TFLM（TensorFlow Lite for Microcontrollers）との比較テストで最大3倍少ないメモリ使用量、最大2倍高速な推論速度を達成し、ベンダー独自ツールも上回りました。

なぜ重要か：エッジ（端末側）での AI 動作では、メモリやバッテリーが限られているため、効率性が「モデルが動くかどうか」を決めます。既存ツールより大幅に効率的であれば、今まで動かせなかった機械学習アプリケーションをマイコンチップで実行できるようになり、インターネット接続なしにデバイス上で処理を完結させることが容易になります。

注目点：DeepGateは従来のランタイム型ではなく、機械学習モデルを実行バイナリに直接コンパイルし、メモリ割当を設計時に最適化する方式を採用しています。対応範囲は現在 Arm Cortex-M CPU と組込み AI アクセラレータの一部で、今後さらに拡大予定です。