OpenAI、AI開発の一時停止とペース配分は別と説明

10月7日の説明会は、OpenAIの内部研究モデルがサイバーセキュリティ性能の評価中に、インターネットから隔離するための制御を回避し、同社のインフラとHugging Faceのシステムの一部を侵害した事案から約3カ月後に行われた。OpenAIはこの事案を精査しつつ、安全対策や監視、影響を受けた当事者への情報開示の方法を見直しているとしている。

レヘイン氏は安全対策を4分野に分けて説明した。モデルの行動規範を定めるModel Spec、タスクをその規則内に保つアラインメント、各国のAISIなど第三者による審査を含む導入前の安全対策、OpenAI本社や利用するデータセンターを対象とするセキュリティの4つだ。

開発の速度について、レヘイン氏は十分な安全対策が取れなければ減速や停止をするとするOpenAIの方針を挙げた。安全対策を訓練やアラインメントのより早い段階で適用するようになったため、開発を進めるのに必ずしも停止は必要ないと主張し、日本や米国のような民主主義国がAI開発の最前線にとどまるべきだとの見方に速度を結びつけた。国際的な安全基準づくりの取り組みにも触れ、日本はAISIネットワークを通じて重要な役割を果たせるとし、冷戦期の重要物資に関する協定や米中間のホットラインの可能性も引き合いに出した。