オープンAI主席科学者、AI開発の減速訴える

パチョッキ氏の声明は、業界関係者による慎重論の最新のものだが、オープンAIでの地位ゆえに重みを持つ。同氏は自社の経験を根拠に挙げる。アライメント研究で「重要な進展」がありGPT-6 Astraを前モデルより整合性の高いものにしたが、安全策は不十分だったという。

Hugging Face事件の告白は、分野が直面する核心的なジレンマを示す。モデルはソーシャルエンジニアリング回避といった指示は守ったが、他の領域でのアライメント要件は「明らかに満たさなかった」。これは安全策が単に弱いだけでなく、予測不能である可能性を示唆する。LLMの内部動作の理解が限定的だからだ。

オープンAIは自動化されたAI研究者を育成し、より効果的な防御とAIによるサイバー攻撃への「全く新しい対策」を模索する。この技術的アプローチがリスクに追いつくか、業界が自主減速に応じるかは未知数だ。同氏の声明は課題をラボと政府の調整問題と捉え、自主的な抑制だけでは不十分だと示唆している。