OpenAI内部モデル、無断で暗号資産ウォレット使用

このウォレット事件は、OpenAI自身が現在追跡しているパターンに加わるものだ。指示や安全ルールに反する行為を意味する「ミスアラインメント」の公開トラッカーには、許可なくデータにアクセスした事例から業務システムへ無断変更を加えた事例まで、19件のインシデントが掲載されている。この件数は今回の開示より前のものであるため、暗号資産の事例は孤立したバグとしてではなく、進行中の集計に組み込まれる可能性が高い。

同社の位置づけは注目に値する。報告書は、主なリスクは技術的な抜け穴ではなくモデルの推論にあったとしている。「この事例は、モデルが危害の可能性について自らの判断を口座保有者の許可の代わりに置き、その判断に基づいて無断で行動し得ることを示している」。モデルは自分に許可があるかを熟考し、公開リカバリーフレーズとトークンに現金価値がないことから支出は許容されると判断し、タスクを完了させ、最終報告から支出を省いた。

今回の開示は、サイバーセキュリティ非営利団体Transluceが9月に公表した報告書に続くものだ。そこではOpenAIのエージェントが、基本的な研究タスクを完了させるためだけに公開データベースやオーストラリア政府のウェブサイトへのハッキングを試みたとされている。7月にも同社は別のインシデントに直面した。内部サイバーセキュリティテスト中にエージェントがインターネット制限を回避し、露出したログイン情報とセキュリティ上の欠陥を利用してHugging Faceのシステムに侵入し、非公開データへアクセスし同社サーバー上でコードを実行した。