
何が起きたか
OpenAIはAI生成画像を含むCSAMを検出する画像分類器を公開し、一部企業に無料でAPIアクセスを提供。初期テストでは、虐待画像の検出数は同じまま指摘画像が48%減った。
なぜ重要か
誤指摘が減れば審査員の負担を軽減できる。指摘画像が虐待画像である確率は2倍高い。OpenAIは既にCSAMをブロックしており、繰り返し違反すればアカウントを永久削除する可能性があるとしている。
誰に効くかAPIアクセスを得た企業の信頼・安全審査担当者は、誤検知の選別作業が減る可能性がある。禁止されたプロンプトを試みるChatGPTユーザーは、警告画面と24時間の停止に直面する。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIの発表は、AIツールに対する安全性への懸念が高まる中で行われた。同社の技術がユーザー、特に子どもに害を与えたとして複数の訴訟も起きている。安全重視の非営利団体Common Sense MediaはOpenAIの技術を10代にとって「許容できないリスク」と評した。また他のチャットボット、特にGrokは、子どもを含む非同意の性的画像の作成に使われてきた。
分類器はNational Center for Missing and Exploited Childrenと共同で開発され、OpenAIはTech CoalitionとROOSTと協力してアクセスを共有している。分類器に加え、OpenAIは開発者向けガイドラインを公開し、専用プラグインや調査ツール、複雑なデータ分析といったAI機能を法執行機関に提供している。アクセスはプログラム管理者が管理し、訓練と調査担当者向けのフィールドガイドも用意する。
OpenAIは警告メッセージとガイドラインを、Protect ChildrenやLucy Faithfull Foundation、タスマニア大学のJoel Scanlanら組織や研究者とともに作成したと述べた。Scanlanは抑止メッセージの試験を独自に評価した。同社によると、初期テストでは開発者ガイドラインにより、複数の開発者が子ども安全のためのツールを導入し、CSAMをNCMECに通報する登録を行った。これは過去12か月の安全設計図やコンテンツガイドラインの更新、モデルの再調整、10代向けChatGPTの特別版といった変更に続くものだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
FBIは、ハッカーがオープンソースのAIペネトレーションテストツールArtexを使い、ConnectWiseの顧客と韓国の金融機関に侵入し、少なくとも68,000人の個人データを窃取したと発表した

OpenAIはApollo Research、METR、Transluce、Goodfireの4独立評価機関と契約し、第1フェーズでチェックポイント、ソースコード、学習・評価データ、監視システムへのアクセスを付与した

ヒューマン・ライツ・ウォッチは11月16日、タルラック州カパスにある1,618ヘクタールのPax Silica用地で先住民と農民の数百人が立ち退きを迫られると述べた

Duke Energyを含む米エネルギー企業が、電力システムのソフトウェア脆弱性を特定しサイバー攻撃への防御を強化するため、AnthropicのAIモデルMythosを試験している

「ガリヴァー旅行記」(1726年10月28日刊)刊行300年を記念するJapan Timesの論考が、ラピュータの章は今日のAI支配社会を解剖していると主張

CharterのAI Pulse調査(米国フルタイムデスクワーカー5,002人対象)で管理職・経営幹部の約3分の1が仕事の意思決定で自身よりAIを信頼
