OpenAIが内容非閲覧でリスク検知を発表

背景として、AIモデルがより長く複雑なタスクを担うようになると、深刻な安全リスクが複数のやり取りをまたいで初めて見えることがあります。既存の安全システムは各やり取りを個別に評価するため、会話をまたぐパターンを見逃す可能性があります。そこでOpenAIは、コンテンツを担当者に晒すことなく、関連するやり取り全体に保護を広げるPrivate Safety Processingを公開しました。

機密データを扱う組織にとって、安全性とプライバシーのバランスが課題です。最近のフロンティアモデル導入では、監視目的でのデータ保持を一部顧客に強いることがあり、それは彼らのセキュリティ上の約束と矛盾します。Private Safety Processingは、コンテンツを顧客管理の鍵で暗号化し、フラグが立てられた場合でもOpenAI担当者がアクセスできないようにすることで、その問題を解決しようとしています。

この取り組みの成否は、自動シグナルが誤検知なしに実際の不正利用を捉えるほど正確かどうかにかかっています。このアプローチが、ZDRが約束する信頼を損なわずに、真の安全性を提供できるかが試されています。詳細は9月にホワイトペーパーが公開される際に判明する見込みです。