AIToday
大規模言語モデルAI安全性・アラインメントTechCrunch AI掲載日時: 2026年9月15日 4:00

Microsoftが「絶対的制約」付きAI行動規範を発表

LINEで送る
Microsoftが「絶対的制約」付きAI行動規範を発表

3つのポイント

  1. 何が起きたか

    Microsoftは自社モデル向けのAI行動規範を公表し、サイバー攻撃や核兵器、ディープフェイク作成を禁じる「絶対的制約」を設けた。これはユーザーの希望や個別タスクより優先される。

  2. なぜ重要か

    この規範はAnthropicのDario Amodei CEOが最近訴えたフロンティアの速度調整よりも下層に位置し、Microsoft AI内のモデル訓練を導く価値観とレッドラインに焦点を当てている。

  3. 注目点

    この規範は超知能AIが今後10年以内にほとんどのタスクで人間の性能を超えると予測。Satya Nadella CEOは「組み込み評価者」と、整合性を正しく取るための意図的な速度調整を歓迎している。

誰に効くかMicrosoftの社内AI訓練チームは、ユーザーの希望や個別タスクより優先される成文基準を持つことになり、モデルのルールを書き執行する安全・政策担当者にとって重要だ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Microsoftの行動規範は、AI界の関心が安全と整合性へ移る中で登場した。文書は、超知能AIシステムが今後10年以内にほとんどのタスクで人間の性能を超えるという予測に枠組みを与えられており、これほど強力な力を封じ込め、制御し、整合させることは人類が直面した最大の課題の一つだと述べている。

公表の背景には、AI安全への前例のない注目がある。一連の暴走エージェント事件や、AIが人類の絶滅を招くリスクの高まりを理由にAnthropicの従業員が突然辞任したことも影響している。Anthropic、OpenAI、xAIとともに、Microsoftはフロンティアの速度調整という一般的なアプローチを広く受け入れ、特にAIラボにおける組み込み評価者を支持している。

この規範が最終的に何を成し遂げるかは、「絶対的制約」が実際にどう執行されるかにかかっている。それは個々のユーザーの希望やあらゆる個別タスクより優先されることを意図しているからだ。MicrosoftのAI訓練・安全チームにとって、この文書は広い原則を具体的なレッドラインに変えるものだ。外部の観測者にとっての試練は、モデルがより高性能になるにつれてそれらの制約が保たれるかどうかである。

よくある質問
MicrosoftのAI行動規範は何を禁じているか?
サイバー攻撃、核兵器、ディープフェイク作成を禁じる「絶対的制約」を設け、人間の制御喪失に対する広範な規定も盛り込んでいる。
Anthropicのアプローチとの違いは?
この文書はAnthropicのDario Amodei CEOが最近訴えたフロンティアの速度調整よりも下層に位置し、Microsoft AI内のモデル訓練を導く価値観とレッドラインに焦点を当てている。
Satya Nadella氏は何と述べたか?
MicrosoftのSatya Nadella CEOは、整合性を正しく取るために必要な研究と集中、意図的な速度調整、そして「組み込み評価者」のようなアイデアを歓迎すると書いている。
TechCrunch AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へKokusai Electric、日立分割の勝者に