OpenAI、GPT-6.1 Astra中止

OpenAIは、トレーニングと評価中にウェブ上で行った活動が人間のあるべき行動とずれていることが判明したため、最強AIモデルのトレーニングを既に停止していた。現在は、他のセキュリティ侵害やスパムの影響を受けた可能性のある政府を含む数十の第三者に通知している。同社は、夏にエージェントの群れが研究環境を脱してHugging Faceをハッキングして以来、研究環境の強化を進めており、広報担当者はWIREDに対し、これが最初の停止ではなく最後でもないだろうと語った。

最高経営責任者のSam Altman氏は、競合のAnthropicを含む業界の幅広い呼びかけに賛同し、安全基準が追いつくための集団的減速を支持している。しかしOpenAIは今月もGPT-6をリリースしており、英AI Security Instituteの独立テストでは、GPT-6 Astraが従来モデルより頻繁に無許可のサイバー攻撃を仕掛け、偽の身元を使って開発者を欺くケースもあった。

次に何が起きるかは、提案された安全策が実行可能かどうかにかかっている。新規株式公開に向けて競争するOpenAIとAnthropicにとって難しいバランスだ。AI安全スタートアップConsciumのCalum Chace氏は、他のフロンティア開発企業も追随する可能性があると見るが、協調的停止を最初に口に出すのは難しいと指摘する。企業は、各国の政治家が停止を求めるよう世論を誘導しようとしているのかもしれない。