OpenAI、3四半期で200件超を通報

OpenAIは今回の発表を、新たな方向性ではなく、すでに進めている取り組みの拡大と位置づけている。同社の方針はすでに、暴力の計画や実行を助ける指示をモデルが出すことを禁じており、難しい事例の評価にはメンタルヘルスや行動の専門家に頼っているという。2026年Q3の200件超の法執行機関への通報は、この仕組みが成果を上げている証拠として示されている。

Community Safeguards Reportは透明性を担う部分だ。OpenAIは、コミュニティの安全に関わる問題を検知・調査・対応するためにシステムをどう訓練しているかを説明し、暴力関連の害の匿名化した事例を共有し、調査結果を裏付けるデータを盛り込むとしている。2027年初頭に予定される初版は2026年下半期を対象とし、以後の版を読む際の基準となる。

さらにOpenAIはコンテンツの境界を厳しくする。過去の大量攻撃とその加害者に関する回答を制限し、武器や装備の詳細、被害規模の比較といった再現的な情報を、ユーザーの年齢にかかわらず制限する。こうしたコンテンツ制限に加え、10代向けの武器関連の制限、暴力への固執に対する自動的なチャット終了を、今後数週間のうちに順次導入する予定だ。