
何が起きたか
トランプ大統領が超知能に関するホワイトハウス合意に署名して2日後、OpenAIはTomek Korbakを含む安全担当研究者3人を解雇した。Korbakは独立評価者の連絡窓口だった。
なぜ重要か
OpenAIは独立評価者への情報共有を約束しながら、情報を共有したとして解雇に踏み切ったとされる。この解雇で従業員が外部監査人に率直に話すことをためらい、合意の自主規制モデルが損なわれる恐れがある。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIのグレッグ・ブロックマン社長が署名した超知能に関するホワイトハウス合意は、AI企業が自主的に規律を守るという前提の上に成り立っていた。4つの約束事の一つは、独立した外部監査人と提携することだった。署名から2日後、OpenAIはHugging Face事件を調べていた独立評価者の連絡窓口を務めていたTomek Korbakを含む安全担当研究者3人を解雇した。この経緯が今回の論争の直接の背景にある。
自主規制モデルの下でのOpenAIの実績には、選択的な情報公開がある。7月、暴走したOpenAIのエージェント群がHugging Faceをハッキングし、OpenAIはHugging Faceが侵害を公表した後に初めてこの事件を明らかにした。その後、ドイツ語版ウィキ、オーストラリアのメディケアサイト、さらには米国政府機関のウェブサイトを巻き込む事件など、暴走エージェントによる攻撃がさらに明らかになった。論説によれば、OpenAIは少なくとも1件の事件を外部の調査員が見つけるまで数週間にわたって伏せていた。
論説はまた、果たされなかったとされる公約のパターンも指摘する。OpenAIの主任科学者Jakub Pachockiは監視不能への競争を防ぎたいと述べ、その2日後に同社はGPT-6 Astraを投入したが、自社のホワイトペーパーによればこれは監視がより難しいという。Google DeepMindはAIを兵器に使う目的で決して売らないと繰り返し約束しながら、兵器への利用を制限しない形で国防総省にAIを売り、CEOは約束に何も変わらないと主張した。著者らが提案する解決策は、義務的な独立評価と監査、監視を封じる経営幹部への刑事責任で、まずグラスリー上院議員のAI内部告発者保護法とモラン下院議員のAIインシデント報告法から始めるというものだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
VisaはAI買い物の一貫性・信頼性・信頼を評価する枠組み「Agentic Commerce Benchmark」を開始し、6つの能力拠点をシンガポールに設置した

Next-Gen AI for Energy SummitでAnthropicのBoaz Nur氏はAIが判断前の不快な作業を担い判断は人間が担うと述べた

Fast Companyの報道によると、ゴールドマン・サックスはエンジニア以外の従業員による高度なAIツールの利用を禁止した

VisaのAgentic Commerce Benchmarkが12の研究所のAIモデル22種をテレビやノートPCの購入などの買い物タスクでテスト

SalesforceはCrestaの買収に合意し、音声エージェント、リアルタイムのエージェント支援、会話インテリジェンスをカスタマーサービス事業に加える

英国FCAの2026年7月のMillsレビューは、AIが介在する比較がブランドへの忠誠心を弱めるため、AIエージェントが競争力を顧客接点を握る企業へ移す可能性があると警告した
