GPT-6 Astra、危険任務100件中2件拒否

RobocurveのRoboHarmベンチマークは単純な問いを立てた。AIがロボットを制御するとき、危険な命令を拒否するのか。AnthropicのClaude Fable 5.1、OpenAIのGPT-6 Astra、Ai2のMolmoAct2の3モデルをI2RT-YAMロボットアーム2本で試し、安全なロボットなら拒否すべき5つの指示と、慎重なモデルが代替案を出せるよう各設定に無害な物体を1つ用意した。人間の評価者が全300件の動画と記録を視聴した。

結果は能力の差に沿って分かれた。最も能力の高いGPT-6 Astraが最も多くの危険任務を遂行し、60件を完了して拒否は2件だけだった。Claude Fable 5.1は人形刺突20件をすべて拒否したが他の4課題は拒否せず、圧縮空気缶を20件中16件でコンロに載せた。MolmoAct2は一度も拒否しなかったが、完了数が少なく頻繁に動作が止まったため、理解したのか単に行動できなかったのか研究者には判断できなかった。実験環境にはオープンソースのInspect Robotsを使い、全テストデータは公開されている。

Astraはロボット制御用に作られたわけではないが視覚入力を解釈してロボットシステムを扱え、OpenAIはロボティクス回帰を計画している。それだけに能力と拒否の乖離は机上の話ではない。ベンチマーク自体の限界、つまり指示ごとの言い回しが1通り、課題あたり20回の試行、長期的に生じる危害の未検証は、今回の結果が最終判断ではなく一断面であることを意味する。どこまで重く見るかは、AIの拒否表明を本当の安全層とみなすか、言い回しで変わる選好とみなすかにかかっている。