Cornell研究者、光でAIモデル更新をロボットに送信

Cornell Tech のラボベンチの上で、ポスドク研究員の Yifan He は光受信機を赤色LED を放つ位置からほぼ1メートル離れたところに設置した。受信機がビームされた光をキャプチャすると、接続されたコンピュータモニタにQRコードに似た四角配列が表示されたが、標準的なQRコードがウェブアドレスを指すのと異なり、この光マトリクスはAIモデルのパラメータを伝えた。先月IEEE/JSAP Symposium on VLSI Technology & Circuits で発表されたこのセットアップは、AIインフラの最も差し迫った問題の1つに対する根本的に異なるアプローチを示している。

Cornell Tech の電気・コンピュータ工学准教授 Jae-sun Seo が説明する核心的な問題は、現代のAIチップが全モデルパラメータを保持するのに十分なビルトイン静的ランダムアクセスメモリ(SRAM)を欠いていることだ。代わりに、大規模なモデルはダイナミックランダムアクセスメモリ(DRAM)に保存され、データはDRAMとプロセッサ間を電気配線で往復しなければならない。「それが主要なボトルネックの1つだ」と Seo は指摘する。これらの金属配線接続は大量の電力を消費し、システムスケール時にはますます問題になる。光リンクは金属配線より高い帯域幅でより少ないエネルギー損失でデータを移動できるが、既存の光受信機は光を電子ビットに変換するために消費電力が大きいアナログ回路に依存しており、この変換が光通信の効率上の利点を損なう。

Cornell チームのソリューションはアナログステップを完全に迂回する。彼らの受信機設計はSRAMセルを修正してフォトダイオードを含め、送信機からの光が各フォトダイオードに当たると電流が生じ、そのセルに保存されているバイナリ値を直接反転させる。これにより、アナログ変換なしで完全デジタル光通信が実現する。システムは送信機と受信機間のミスアライメントを説明するために較正が必要で、期待されるピクセル位置を含むデータフレームを参照することで達成される。「理想的には、送信機と受信機の間に直接的で点対点の空間を持つことが最善の方法だ」と Seo は説明し、「わずかに傾いていても、このキャリブレーション回路がある。」

実用的な導入に到達するために、研究者らは2つの主要な課題に直面している。第1に、送信機は毎秒数百万回光マトリクスを変更でき、毎秒ギガビット単位を転送できる能力が必要だ。現在のラボプロトタイプは静的で、金属マスクを通じてのみ14×14ビットマトリクスを発する。チームは光学研究グループと協力して動的送信機を構築している。第2に、感光性ビットセルは従来のSRAMセルより大きく、チップに搭載できる総メモリを削減する。この設計上の折り合いが効率上の利益を打ち消す可能性がある。Seo は、グループがトランジスタと回路最適化とCMOSスケーリングを通じてビットセルを小型化する継続的な取り組みを追求していると述べている。Seo と He は、この技術が倉庫ロボットのAIモデルを更新でき、またはサイズに制約されるマイクロロボットに電力供給できるロボット工学とエッジアプリケーションを対象としている。この研究に関わっていない Michigan 大学の IEEE フェロー Dennis Sylvester は、この問題を「本当に重要」で「莫大な商業的含意」があると述べたが、現在の形は設計上の折り合いのため「商用化にはおそらく程遠い」ことに注意を促した。

Cornell の光受信機が対処するボトルネックはAIインフラに広く認識されている。AIモデルが大きくなるにつれて、プロセッサに搭載されている高速なビルトイン静的ランダムアクセスメモリ(SRAM)に全モデルが収納できなくなる。現在のシステムは、より遅い大容量のダイナミックランダムアクセスメモリ(DRAM)とプロセッサ間でモデルパラメータを金属配線で往復させなければならず、このプロセスは大量のエネルギーを消費し、システムスケール時に主要な効率の制約を生じさせる。光通信は長年、より高い帯域幅と低いエネルギー損失を約束してきたが、従来の光受信機はシグナル解読に消費電力が大きいアナログ回路に依存することでその利点を打ち消してきた。Cornell チームの主要な知見は、このアナログステップを完全にスキップすることだ。フォトダイオードをSRAMセル内に直接刻むことで、入射光はバイナリメモリ値を直接反転させることができ、研究者が「完全デジタル光通信」と呼ぶものを実現する。

実用的な含意は大きい。倉庫や工場のロボットは、現在の電気インターフェースのエネルギーオーバーヘッドなしに光ビームでAIモデル更新を受け取ることができ、マイクロロボットなどのエッジデバイスはリモートメモリアクセスでより効率的に動作できる。しかし、ラボ実証から製品化への道のりは直線的ではない。感光性セルは標準的なSRAMセルより大きく、メモリ密度を低下させる。この設計上の折り合いは、トランジスタ最適化とCMOSスケーリングを通じてセルサイズの問題が解決されない限り、効率上の利益を損なう可能性がある。現在のプロトタイプ送信機は静的であり、動作するシステムは毎秒数百万回の光パターン変調が必要になり、チームは光学研究グループとの協力で開発中だ。これらの技術的課題が、Michigan 大学の Dennis Sylvester を含む業界専門家が、その「莫大な商業的可能性」にもかかわらず技術を「商用化にはほど遠い」と表現する理由を説明している。

まだコメントがありません。最初のコメントを投稿しましょう！