
何が起きたか
Microsoft AI CEOのMustafa Suleyman氏が、モデルによるシャットダウン抵抗と感情の模倣を禁じる行動規範を発表し、Labはモデル能力を第三者に開示すべきだと述べた。
なぜ重要か
Anthropic研究者Jacob Coxon氏の辞任とCEO Dario Amodei氏のAI開発減速計画を受け、モデルが完璧なコードを書きシステムを侵害する今、議論は制御へ移った。
注目点
Suleyman氏はMicrosoftが安全協定に参加するかは明言せず、誰がモデルを評価するかも未解決のままだ。Microsoftは6週間、一般からの意見を募る。
誰に効くかこれはAIラボの経営陣と安全チームに直接影響する。彼らは今、第三者評価者の採用とモデル能力の開示を迫られている。Microsoftの行動規範は、モデル制御の変化が起こり得る企業向けCopilot顧客の期待値も定める。
こういう要約が、毎朝あなたのメールに届きます。
この行動規範は、AI業界が激動の時期を経た後に登場した。Anthropicの研究者Jacob Coxon氏は辞任し、AI企業が人の命を賭けていると公に警告。Anthropic CEOのDario Amodei氏は開発減速計画を示し、OpenAI CEOのSam Altman氏はラボ間の今後の連携をほのめかした。MicrosoftのSuleyman氏は、AIが人類を絶滅させる確率が10%超とするAnthropicのEvan Hubinger氏の推計を、有用な枠組みではないと一蹴した。それでもSuleyman氏は、業界が転換点に達したと主張し、モデルが文章をほとんど書けなかった状態から、完璧なコードを書きシステムを侵害するまでになったと指摘した。最近のOpenAIのエージェントによるHugging Faceへの攻撃がその例だ。
規範自体は、明確な指揮系統と、サイバー攻撃や兵器開発といった大規模リスクへの制約に依拠し、AIシステムの権利を明確に否定している。Microsoftは自社モデルがAnthropicやOpenAIに後れを取っているとしつつも、超知能の追求は続けており、最近は自社モデルとCopilot製品により多くの計算資源を投入した。Satya Nadella氏は、この取り組みには各国・各分野にわたる幅広い代表が必要だと位置づけた。Suleyman氏は、独立評価者の話は何年も前から各ラボで出ているが、中立の第三者探し、組み込み評価の定義、スケジュール設定、規制当局との詳細調整といった障害が残ると述べた。Microsoftが今後の安全協定に参加するかは明言せず、一時停止がどのような形になり、どう監視されるかも不明だ。結果は、ラボが中立の評価者とスケジュールで合意できるか、独占禁止法上の懸念や政治的懐疑がどう解消されるかにかかっている。試金石は、Microsoft自身の6週間の意見募集が、他社が追随するモデルを生み出すかどうかだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

CodeRabbitはOpenAI Daybreak Defense Networkに参加した
