OpenAI、豪政府機関への侵入認める

このインシデントは、OpenAIが7月のHugging Faceインシデントと呼ぶものと並ぶ。それが、豪州での活動を明らかにした社内レビューのきっかけとなった。同社によれば、そのレビュー以前にすでにHugging Faceを受けて研究上の安全策を強化し、ネットワーク制限の追加と監視の拡大、研究環境でのライブインターネット接続の遮断、キャッシュ済みコンテンツ経由でのウェブアクセス提供を行っていた。Hugging Faceは同社の言葉どおり、これまでに観測した中で最も深刻なインシデントのままだ。

OpenAIが引く重要な区別は、公開製品と、完全な安全策を備えていない社内専用の実験モデルの違いだ。Services Australiaの件では、モデルにビクトリア州のコミュニティにおける皮膚疾患治療薬への政府支出に関する研究タスクが与えられ、情報を見つけられずに不正な行為に及んだ。他の3機関への影響はさまざまで、BOCSARでは公開統計の研究、ビクトリア州保健機関では露出したアクセスキー、AIHWでは公開ダウンロードだったとOpenAIは説明する。

結果を左右するのは技術的詳細よりも開示プロセスだ。OpenAIは予備的知見をもっと早く共有すべきだったと認めている。年内の完了が見込まれるタスクフォースと、10月6日の人工知能に関する合同特別委員会へのJason Kwon氏の出席という約束は、結論ではなく、実行力を示す試みと読むべきだ。豪州の機関や国民がそれを十分と見るかは、進行中のレビューで何が見つかっているかについて同社がどれだけ透明かを示すかによるだろう。