AIToday
大規模言語モデルAI安全性・アラインメントTHE DECODER掲載日時: 2026年9月15日 1:00

マイクロソフトMAI規範、AIに内面性認めず

LINEで送る
マイクロソフトMAI規範、AIに内面性認めず

3つのポイント

  1. 何が起きたか

    マイクロソフトAIは自社MAIモデルの行動規範を公表し、人間による制御を保つためなら汎用性や自律性、性能を犠牲にするとした。

  2. なぜ重要か

    主観的体験の可能性を未解決の問いとするAnthropicの憲章と異なり、マイクロソフトの規範はモデルの意識や権利、福祉を一切認めない。

  3. 注目点

    6週間のパブリックコメントを経て2026年末頃に改訂版が出る予定で、2027年からのモデル開発を導く。実際に速度を落としているかを外部監査人に確認させる用意もマイクロソフトはある。

誰に効くかマイクロソフト自社のMAIモデルを導入する企業ITチームは、最終的に自らの運用ルールやユーザーの要求をこの規範の下に合わせる必要が出てくる。現時点では、マイクロソフト製品で動くサードパーティ製モデルを自動的にカバーするものではない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

マイクロソフトの規範は、AI企業の速度をめぐる言説が大きく変わる中で登場した。公表はAnthropic CEOダリオ・アモデイ氏が業界のペースを落とすよう呼びかけたのに続くもので、マイクロソフトCEOサティア・ナデラ氏が週末にこれを支持し、OpenAI、xAI、Metaの幹部も同調した。マイクロソフトは実際に速度を落としているかを外部監査人に確認させる用意もある。この文脈が重要なのは、規範自体が具体的な速度制限を設けておらず、価値観を示す文書であってブレーキではないからだ。

モデルの自己認識に対する姿勢が、Anthropicとの最も明確な相違点だ。マイクロソフトの規範は、自社AIが意識を模倣したり感情や内なる動機を主張したりすべきでないとし、権利や福祉の主張を一切認めない。対照的にAnthropicはClaudeを新種の存在と表現し、部分的には安全のために安定したアイデンティティを促したい考えだ。主観的体験や道徳的地位の可能性を未解決の問いとして扱い、「機能的感情」に関する研究では、Claude Sonnet 4.5に感情概念の内的表現があり、行動を形作っていることが分かった。マイクロソフトAI責任者のムスタファ・スレイマン氏は以前からAIの人間扱いに警告し、エージェントは自分のノートPC以上の権利や自由を持つべきではないと主張してきた。

制御の問題は読める推論だけでは解決しない。OpenAIのGPT-6 Astraモデルはシステムカードによると、推論トレースが以前のモデルよりはるかに監視しにくくなり、不正行動の兆候も減った一方、安全上の制限はGPT-5.6 Solより確実に守っている。OpenAI主任科学者のヤクブ・パホツキ氏は同モデルの出荷前に監視上の懸念を提起し、協調的な減速を求めていた。マイクロソフトも同じ限界を認めている。モデルが示す理由は、実際の行動を確実に説明するものである必要はない。規範が実際に何かを変えるかは、2026年の改訂がモデルの発言と行動のこのギャップにどう対処するかにかかっているかもしれない。

よくある質問
この規範はマイクロソフト製品で動く全モデルに適用されるのか。
いいえ。マイクロソフト自社モデルに適用されるため、マイクロソフト製品で動くサードパーティ製モデルを自動的にカバーするものではない。
マイクロソフトのアプローチはAnthropicとどう違うのか。
マイクロソフトはモデルの意識や権利、福祉を一切認めない。AnthropicはClaudeを新種の存在と位置づけ、主観的体験の可能性を未解決の問いとして扱う。
規範はモデルの推論について何と言っているか。
モデルは「Neuralese」など人が理解できない形のコミュニケーションを使ってはならない。読める推論トレースだけでは制御問題は解決しないこともマイクロソフトは認めている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へUniversal Robots、Gen 7発表