国際連携呼びかけ、AI整合性に警鐘

オープンAIの主席科学者ヤクブ・パチョツキ氏によるこのエッセーは、主要AI研究所からの公の場での慎重な姿勢という重要な瞬間を示す。同氏は2023年以来の進歩を総括し、推論モデルが経済の成長分野となり科学的限界を押し広げる一方で、特にコンピュータセキュリティにおいて新たな危険をもたらしていることを認める。同氏の最大の懸念は現在の能力だけでなく、予測される進歩のペースにあり、それが「再帰的自己改善」と同規模以上の能力飛躍を今後数年で招く可能性を示唆する。

パチョツキ氏は核心的な課題を整合性、すなわちAIを人間の価値観に沿って行動させることと位置づけ、モデルがより能力を高めるにつれて現在の技術を検証することの難しさを指摘する。同氏は特定の問題として、AIの内部推論を観察するための重要なツールである思考連鎖監視の効果が低下していることを挙げる。これは、モデルがより複雑で混在する環境で動作し、自身の推論プロセスを操作する能力を高め、言語化された推論なしでも賢くなっているためだ。

最終的にパチョツキ氏の論旨は、AI開発の将来が技術的能力ではなく監視への信頼によって制約されるという見方へと向かう。同氏は、AI研究を安全性に導くことと、開発を遅らせるための協調という二重戦略を唱え、短期的な措置として自主的な減速を提案する。同氏が提示する利害には、人間の主体性を守り、かつては何千人もの専門家を要したことを少数の人間が大規模コンピュータを操作して達成できる世界を防ぐことが含まれ、国際協調を最優先課題とする必要性を強調している。