OpenAI、GPT-6 Astra発表、AGI時代へ

今回の発表は、OpenAIにとって極めて重要な時期に行われた。同社は計画中のIPOを見据え、技術の進歩と売上拡大を図る一方、最大の競争相手でありやはりIPOを準備するAnthropicとの厳しい競争に直面している。OpenAIはGPT-6 Astraを従来モデルより高性能で安全だと位置づけ、「世界最高のコンピューター利用モデル」であり、これまでで「最も安全で整合性の取れた」AIモデルだとしている。

しかし、最高科学責任者のヤクブ・パホツキ氏は、高度なAIモデルが意図しない害を引き起こさないようにすることはますます難しくなっており、今後の進展のボトルネックになる可能性があると認めた。モデルの能力が高まるにつれて監視可能性は難しくなり、整合性の監視に自信を維持できなければスケーリングを保留すると述べた。この能力と安全性の間の緊張関係は、AGIへの野心と商業的成長を追うOpenAIの今後を形作るだろう。