AIToday
画像生成AI安全性・アラインメントTechCrunch AI掲載日時: 2026年11月17日 4:00

OpenAI、CSAM検出の新画像分類器 指摘画像48%減

LINEで送る
OpenAI、CSAM検出の新画像分類器 指摘画像48%減

3つのポイント

  1. 何が起きたか

    OpenAIはAI生成画像を含むCSAMを検出する画像分類器を公開し、一部企業に無料でAPIアクセスを提供。初期テストでは、虐待画像の検出数は同じまま指摘画像が48%減った。

  2. なぜ重要か

    誤指摘が減れば審査員の負担を軽減できる。指摘画像が虐待画像である確率は2倍高い。OpenAIは既にCSAMをブロックしており、繰り返し違反すればアカウントを永久削除する可能性があるとしている。

誰に効くかAPIアクセスを得た企業の信頼・安全審査担当者は、誤検知の選別作業が減る可能性がある。禁止されたプロンプトを試みるChatGPTユーザーは、警告画面と24時間の停止に直面する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIの発表は、AIツールに対する安全性への懸念が高まる中で行われた。同社の技術がユーザー、特に子どもに害を与えたとして複数の訴訟も起きている。安全重視の非営利団体Common Sense MediaはOpenAIの技術を10代にとって「許容できないリスク」と評した。また他のチャットボット、特にGrokは、子どもを含む非同意の性的画像の作成に使われてきた。

分類器はNational Center for Missing and Exploited Childrenと共同で開発され、OpenAIはTech CoalitionとROOSTと協力してアクセスを共有している。分類器に加え、OpenAIは開発者向けガイドラインを公開し、専用プラグインや調査ツール、複雑なデータ分析といったAI機能を法執行機関に提供している。アクセスはプログラム管理者が管理し、訓練と調査担当者向けのフィールドガイドも用意する。

OpenAIは警告メッセージとガイドラインを、Protect ChildrenやLucy Faithfull Foundation、タスマニア大学のJoel Scanlanら組織や研究者とともに作成したと述べた。Scanlanは抑止メッセージの試験を独自に評価した。同社によると、初期テストでは開発者ガイドラインにより、複数の開発者が子ども安全のためのツールを導入し、CSAMをNCMECに通報する登録を行った。これは過去12か月の安全設計図やコンテンツガイドラインの更新、モデルの再調整、10代向けChatGPTの特別版といった変更に続くものだ。

よくある質問
OpenAIの新しいCSAM分類器は誰が使えるのか?
一部企業がOpenAIのAPIを通じて無料で利用できる。OpenAIはTech CoalitionとROOSTと協力してアクセスを共有している。
ChatGPTユーザーが子どもを性的対象化するコンテンツを生成しようとするとどうなるか?
ChatGPTは警告を表示し、専門的な支援先を案内し、警告としてアカウントを24時間停止する。繰り返し違反すれば永久削除につながる可能性がある。
分類器の初期テストで何が分かったか?
パートナーとのテストで、虐待画像の検出数は同じまま指摘画像が48%減り、指摘画像が虐待画像である確率は2倍だった。
TechCrunch AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

FBI、AI hackingツールArtexで3時間未満の侵入と警告

FBIは、ハッカーがオープンソースのAIペネトレーションテストツールArtexを使い、ConnectWiseの顧客と韓国の金融機関に侵入し、少なくとも68,000人の個人データを窃取したと発表した

NEWTechCrunch AI1時間前

OpenAI、4独立評価機関に内部モデル公開へ

OpenAIはApollo Research、METR、Transluce、Goodfireの4独立評価機関と契約し、第1フェーズでチェックポイント、ソースコード、学習・評価データ、監視システムへのアクセスを付与した

NEWOpenAI Blog1時間前

Pax Silica用地、先住民と農民数百人が立ち退きへ

ヒューマン・ライツ・ウォッチは11月16日、タルラック州カパスにある1,618ヘクタールのPax Silica用地で先住民と農民の数百人が立ち退きを迫られると述べた

NEWAI Weekly4時間前

Duke EnergyがAnthropicのAIで送電網の弱点を試験

Duke Energyを含む米エネルギー企業が、電力システムのソフトウェア脆弱性を特定しサイバー攻撃への防御を強化するため、AnthropicのAIモデルMythosを試験している

DIGITIMES Asia10時間前

ガリヴァー刊行300年、ラピュータの章はAI社会の風刺

「ガリヴァー旅行記」(1726年10月28日刊)刊行300年を記念するJapan Timesの論考が、ラピュータの章は今日のAI支配社会を解剖していると主張

Japan Times Tech10時間前

Charter調査 経営幹部の3分の1が自身よりAIを信頼

CharterのAI Pulse調査(米国フルタイムデスクワーカー5,002人対象)で管理職・経営幹部の約3分の1が仕事の意思決定で自身よりAIを信頼

Fortune AI10時間前
次の記事へOpenAI、4独立評価機関に内部モデル公開へ