OpenAIがZDR向け秘密安全処理を公開へ

OpenAIの発表は、フロンティアモデルがより長く複雑なタスクを担う中で、深刻な安全リスクが複数のやり取りをまたいで初めて顕在化する可能性がある状況を受けたものだ。既存のZDR対応システムは各やり取りを個別に評価するため、セッションやアカウントにまたがる不正使用のパターンを見逃す可能性がある。同社は、近年のフロンティアモデル導入の一部で、安全上の理由から顧客に機密コンテンツの保持を許可するよう求める必要があり、セキュリティ上の義務と衝突したと指摘する。Private Safety Processingは、関連するやり取りにまたがって自動保護を拡張しつつ、コンテンツを人員にさらさないことで、この緊張関係を解消することを目指す。

両方の導入シナリオにおいて、コンテンツが顧客管理のインフラに留まるか、顧客管理の暗号化キーを持つOpenAIストレージに留まるかに関わらず、自動システムが潜在的な不正使用を特定し、限定的なシグナルを返すことができる。顧客はアラートを調査する能力を保持し、不服申し立てや不正使用調査のために情報をOpenAIと共有することも選択できる。この設計は、さまざまな業界、地域、企業規模の顧客からの意見を取り入れた協力的なアプローチを反映している。

重要なのは、このプレビューが、金融記録や健康情報などの高度に機密性の高いデータを扱う組織に対し、安全監視がプライバシーを損なわないことを納得させられるかだ。成功は技術的実装と、限定的なシグナルへの顧客の信頼にかかっている。9月の技術白書は、精査の重要な場となるだろう。