OpenAI、モデル不整合の報告書6件を公開

OpenAIはこれまでの不整合の開示が場当たり的で、理想より頻度が低く、複数の事例をまとめたり新規リリースモデルのシステムカードに添付したりするまで公表を控えることが多かったと述べている。新しいプロセスは、行動が完全に説明・修正される前でも、より早く公開するよう設計されている。

本日公開された6件の報告書はすべて「開示準備完了」または「軽微な調査」のトラックに該当し、広範な調査や第三者との調整、重大な悪用リスクへの対応を必要としなかった。OpenAIは、影響を受ける第三者が関与する事例はセキュリティ上の理由で遅れる可能性があり、OpenAI Hugging Faceインシデントはより大きなトラックに該当しただろうと指摘している。

この枠組みが最終的に何を変えるかは、他の開発者が同様の基準を採用するかどうかにかかっている。OpenAIは、明確な開示基準を備えた業界横断的な枠組みは現在存在しないと述べ、自社の枠組みを公のフィードバックを得て改良していく発展途上のものと位置づけている。また、この枠組みは重大な安全インシデントやサイバーセキュリティ侵害に関する法的要件を置き換えるものではないため、報告義務がどこまで及ぶかは未解決のままだ。