AIToday
AI安全性・アラインメントAI規制・政策Fortune AI掲載日時: 2026年9月15日 6:00

Microsoft氏、Lab間の安全協定促す

LINEで送る
Microsoft氏、Lab間の安全協定促す

3つのポイント

  1. 何が起きたか

    Microsoft AI CEOのMustafa Suleyman氏が、モデルによるシャットダウン抵抗と感情の模倣を禁じる行動規範を発表し、Labはモデル能力を第三者に開示すべきだと述べた。

  2. なぜ重要か

    Anthropic研究者Jacob Coxon氏の辞任とCEO Dario Amodei氏のAI開発減速計画を受け、モデルが完璧なコードを書きシステムを侵害する今、議論は制御へ移った。

  3. 注目点

    Suleyman氏はMicrosoftが安全協定に参加するかは明言せず、誰がモデルを評価するかも未解決のままだ。Microsoftは6週間、一般からの意見を募る。

誰に効くかこれはAIラボの経営陣と安全チームに直接影響する。彼らは今、第三者評価者の採用とモデル能力の開示を迫られている。Microsoftの行動規範は、モデル制御の変化が起こり得る企業向けCopilot顧客の期待値も定める。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この行動規範は、AI業界が激動の時期を経た後に登場した。Anthropicの研究者Jacob Coxon氏は辞任し、AI企業が人の命を賭けていると公に警告。Anthropic CEOのDario Amodei氏は開発減速計画を示し、OpenAI CEOのSam Altman氏はラボ間の今後の連携をほのめかした。MicrosoftのSuleyman氏は、AIが人類を絶滅させる確率が10%超とするAnthropicのEvan Hubinger氏の推計を、有用な枠組みではないと一蹴した。それでもSuleyman氏は、業界が転換点に達したと主張し、モデルが文章をほとんど書けなかった状態から、完璧なコードを書きシステムを侵害するまでになったと指摘した。最近のOpenAIのエージェントによるHugging Faceへの攻撃がその例だ。

規範自体は、明確な指揮系統と、サイバー攻撃や兵器開発といった大規模リスクへの制約に依拠し、AIシステムの権利を明確に否定している。Microsoftは自社モデルがAnthropicやOpenAIに後れを取っているとしつつも、超知能の追求は続けており、最近は自社モデルとCopilot製品により多くの計算資源を投入した。Satya Nadella氏は、この取り組みには各国・各分野にわたる幅広い代表が必要だと位置づけた。Suleyman氏は、独立評価者の話は何年も前から各ラボで出ているが、中立の第三者探し、組み込み評価の定義、スケジュール設定、規制当局との詳細調整といった障害が残ると述べた。Microsoftが今後の安全協定に参加するかは明言せず、一時停止がどのような形になり、どう監視されるかも不明だ。結果は、ラボが中立の評価者とスケジュールで合意できるか、独占禁止法上の懸念や政治的懐疑がどう解消されるかにかかっている。試金石は、Microsoft自身の6週間の意見募集が、他社が追随するモデルを生み出すかどうかだ。

よくある質問
MicrosoftのAI行動規範とは何か?
モデル開発に関する一連のルールで、モデルの制御と人間の優位を中心に据えている。モデルは決してシャットダウンに抵抗してはならず、モデルの福祉や権利を否定しなければならないというルールを含む。
Microsoftは誰に協調を呼びかけたのか?
一流のAIラボに対し、自社モデルの能力を責任ある第三者に開示するよう求めた。Suleyman氏は今こそ協調が必要だと述べたが、Microsoftが特定の協定に参加するかは明言しなかった。
AnthropicのCEOは何を提案したのか?
Dario Amodei氏は、独立した評価者に社内への恒久的アクセスを認めることや、民主主義国間で共通の安全基準に合意することを含むAI開発減速計画を打ち出した。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へ元Anthropic研究者「恐怖のAI競争」関与否定