PrismMLの1ビットBonsai、AR1眼鏡に対応

PrismMLはCaltechの研究者によって設立され、UC BerkeleyのIon Stoicaが顧問を務めている。TechCrunchが以前報じたように、同社の売りは大規模モデルを大幅に縮小し——この場合は4分の1に——標準ベンチマークでほぼ全ての性能を維持することだ。この背景が、クラウドではなくデバイス上で動作するオープンウェイトAIを中心に据える同社の訴えの理由を説明している。

Qualcommでの披露はそのビジョンへの一歩だ。小型でローカルに動作するモデルを、スマートグラス向けに作られたチッププラットフォームと組み合わせる。同社はこれを、独自AIラボのプライバシー約束や計算資源への依存に代わる選択肢と位置づけている。

ここでの焦点は、Snapdragon AR1 Gen 1 Platform版がサミットのデモから実際のデバイスへと移行するかどうかにかかっている。PrismMLを搭載したスマートグラスはまだ発表されていないため、ハードウェアパートナーが採用するかは未知数だ。そうなれば、オンデバイスという訴えが舞台ではなく実際の装着者に届く時となる。