MetaがF3 Lightning導入

Metaの元々のF3フレームワークは、AI @ Scale 2020で初めて発表され、すべての広告ランキング機能を単一の統合グラフにコンパイルして計算を共有していた。この設計は実行コストを削減したが、グラフ全体がリリース単位となり、1つの無効な定義が他のすべての機能を妨げた。機能数が増えるにつれ、改善を重ねてもリリース速度は損なわれていった。

F3 Lightningはリリースの境界を実行の境界から分離する。各機能は独自の設定にコンパイルされ、順序付きキューを通じてリリースされる一方、起動時の最適化——安定した計算識別子、単一の実行計画、1つの共有メモリバッファ、密なインデックスマッピング——が共有計算の効率を取り戻す。その結果、初期プロトタイプが抱えたCPUペナルティなしで機能単位のロールバックが可能になった。

Metaはこのプロジェクトから3つの教訓を挙げている。導入と実行の境界は分けるべきこと。リクエスト間で変わらない処理は起動時に行うべきこと。2つの設計が同じ操作を同じ順序で実行しても、結果の置き場所とコピー数によってCPUコストが大きく異なり得ること。インフラ計算コストを増やさずリリースサイクルが約3.6倍速くなった——これがMetaの報告する成果だ。