OpenAI、モデル提供サービスに事前審査を義務化

OpenAIは今回のポリシー更新を、すでに進めてきた取り組みの延長と位置づけている。過去数カ月にわたり、同社のモデルを提供する各種サービスについて、顧客やパートナーと安全ポリシーの整合を図ってきた。展開前にモデルの能力とリスクを評価し、安全要件に従うよう訓練し、回避を試みる人に対して保護措置が機能するかをテストし、その後も不正利用を監視するという多層的なアプローチを説明している。要点は、一部の保護措置はモデル内部にあり、別の措置はモデルを取り巻くシステムや人に依存するため、直接アクセスでもパートナー経由でも双方が機能する必要があるということだ。

新要件はこの考え方を仲介事業者にも広げる。OpenAIモデルへのアクセスを提供するパートナーは、OpenAI自身と整合する保護措置を維持し、違反の可能性を調査し、適切な措置を取る必要がある。制限がサービス間で有効に保たれるよう、執行面での連携も含む。利用ポリシーは、モデルルーターやAIゲートウェイなど直接アクセスを提供するサービスに対し、提供前の審査・承認という手続き上の関門を追加する。

OpenAIは不正利用への実務的な仕組みにも言及している。顧客はエンドユーザー、乗っ取られたアカウント、漏えいしたAPIキーを通じて不正利用に遭遇し得る。SafetyIDsは、OpenAIがユーザーの身元を知ることなく調査時に個々のエンドユーザーを区別できるようにするためのもので、これにより他の利用者への影響を抑えつつより精密な対応ができるとしている。執行判断は記録された行為とリスクに基づき、行為や約束、保護措置に意味のある変化があり当初の懸念が解消されれば制限を見直すとしている。