AppleのSimpleDesign、200万ペア訓練

タンパク質の機能は、アミノ酸配列と三次元構造の相互作用に依存する。タンパク質設計の生成モデルはしばしば多段階アプローチを取ってきた。まずオートエンコーダを訓練してデータを潜在表現にトークン化し、次にその潜在空間で生成モデルを訓練する。Appleの研究者は、この多段階訓練は高性能な共設計モデルに不要ではないかと仮説を立てた。彼らが発表したSimpleDesignは、データ空間で直接、単一ステージのエンドツーエンド目的関数で訓練される。これは、AlphaFold2のようなタンパク質折りたたみモデルがアーキテクチャと訓練パイプラインの設計を通じて画期的な成果を上げ、またフローマッチングモデルがタンパク質構造の生成モデリングの強力な手法として台頭し、通常2段階で訓練されてきた流れを受けたものだ。SimpleDesignの単一ステージ手法は訓練プロセスを簡素化する可能性があるが、創薬やタンパク質工学への広範な影響は、多様なタスクで多段階モデルに匹敵できるかどうかにかかっている。