turbopuffer v3、ANNを主索引から外す

turbopufferの当初の設計v1は、文書ごとにIDとベクトルだけを保存し、クラスタIDとローカルIDを組み合わせたANNアドレスをキーとしていた。このレイアウトはオブジェクトストレージ上のベクトル検索に適し、CursorやNotionといった初期顧客がそのトレードオフを裏付けた。その後v2で属性フィルタリングと全文検索を追加し、Linearなどの顧客は同期エンジンといった検索以外の用途にも使い始めた。しかし文書内のすべてがANNアドレスの下に保存されるため、ストレージ増幅、書き込み増幅、ベクトル化の制約という3つの課題に直面したと同社は言う。約100〜200文書というANNクラスタサイズが、あらゆるクエリプランのブロックサイズの上限となっていた。ANNを単なる二次索引の一つにすることで、turbopufferはこの上限を取り払い、すべてのクエリプランを高速化したい考えだ。成否は、既存顧客が依存するベクトル検索性能を落とさずに性能同等化を達成できるかどうかにかかっている。