OpenAI Habitat Rust化 6倍

Habitatは2024年半ば、ChatGPTのメインサーバーとAzure Cosmos DBを扱うシンプルなPythonクライアント側ライブラリとして始まった。OpenAIのプロダクトエンジニアの間で急速に普及し、セルフサービス型のPostgresやAzure Cosmos DBから離れるよう中央から促す動きはなかった。2025年半ばまでに、クライアント側実装としての限界に達した。後方互換のプロトコル変更が実行不可能になり、数十のサービスにまたがるデプロイ調整に数日かかるようになったためだ。

そこでOpenAIはHabitatを独自サービスに取り込み、プロダクト開発者のブロックを解消してプラットフォームの安定性を確保するため、Pythonのパフォーマンス上のトレードオフを「技術的負債の戦略的侵入」として受け入れた。チームは、OpenAI自身のコーディングモデルの急速な進歩が将来のPythonからの移行を容易にするという計算高い賭けに出た。OpenAIによれば、この賭けは正しかった。2026年第2四半期、エンジニアわずか2人とCodex、GPT-5.5で、サービス全体をRustで書き換えた。

結果は今後、Rust版が本番リクエストの95%を処理しながらOpenAIが必要とする信頼性を維持できるか、また表明通りPythonの廃止が進むかにかかっている。OpenAIは今後のブログで、マルチテナンシーの信頼性やAzure Cosmos DBのスケーリングなど、さらなる知見を共有するとしている。