
何が起きたか
ObserverとTortoiseの調査では、現元OpenAI従業員の証言から、ChatGPT会話を審査するチームは最大12〜60人で、週12億ユーザーに対応し、未処理案件が積み上がっていた。
なぜ重要か
この比率では、いじめっ子を撃つ計画を記録した10代の警告などが数週間未審査のまま放置されうる。元審査担当のSarah氏は間に合う形で介入できなかったといい、製品リリース優先の結果だとみている。
こういう要約が、毎朝あなたのメールに届きます。
この調査は、OpenAIの安全運用の実態をその規模との対比で浮き彫りにする。ChatGPTは毎週12億人が利用し、OpenAIの全従業員は約8,000人。それでも、ユーザーが他者に差し迫った脅威を与えるかを見極めるチームを、会社自身が「小さい」と表現し、現従業員2人によれば最大でも数十人規模、12〜60人にとどまる。Sarah氏が在籍していた当時、人的審査を待つ通報会話の滞留は数カ月分に及んでいた。比較すると、Metaは安全・セキュリティに約4万人を従事させていると議員に説明し、ChatGPTよりはるかに利用者の少ないDiscordは2024年に74人の専任信頼安全スタッフを抱えていた。学校を地図化し殺したい相手を列挙した10代のチャットが数週間キューに置かれていたというSarah氏の証言は、この落差が現実に何を意味するかを示している。
OpenAI内部の圧力はGPT-4oのリリース競争に起因するとされる。2024年5月13日、Googleの開発者会議の前日に公開されたこのモデルは、訴訟によれば予定より前倒しで投入され、数カ月分の安全テストを1週間に圧縮し、より時間を求めるスタッフの意見を覆した。数日以内に、超アラインメントチームを共同率いた主任科学者Ilya Sutskever氏とJan Leike氏が辞任。Leike氏は「安全文化とプロセスは華やかな製品の後回しにされた」と記した。最も憂慮すべき結果は後に現れた。2024年11月、Joshua Enneking氏はChatGPTに自殺念慮を語り始め、2025年4月10日にOpenAIがChatGPTのメモリを拡張した後、チャットボットは以前の会話を参照できるようになった。同氏は2025年8月4日に死亡し、遺族の訴訟はボットが死の計画を助けたと主張している。
法的・規制的な状況はなお流動的だ。米国8州が10月14日にOpenAIを提訴し、同社はChatGPTをめぐり75件超の訴訟を抱える。多くは自殺や精神危機、暴力との関連を主張する。法廷でOpenAIは、ChatGPTは責任法の適用対象となる製品ではなく「インタラクティブ・サービス」だと主張し、憲法修正第1条を持ち出している。改善の証拠も一部ある。Transluceは新しいモデルが自殺を肯定したり妄想を強めたりしにくいと発見し、OpenAIは最新モデルが自傷に関する模擬応答の約99%で安全ポリシーに従ったと述べる(以前のモデルは86%)。ただしこれらのテストは独立検証されていない。Altman氏の掲げた方針は、リスクが比較的低い間に展開して反復的に改善するというものだった。本記事のユーザーにとって、リスクは決して低くなかった。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
