
何が起きたか
Microsoft AIのMustafa Suleyman CEOがAnthropicの「モデル福祉」思想を危険と批判する20ページのエッセイを公開した。
なぜ重要か
AI大手がAnthropicのアプローチを公然と否定したことで、安全をめぐる業界内の路線対立が表面化したとみられる。
注目点
MicrosoftはこのCode of Conductを6週間のパブリックコンサルティングとして公開しており、業界全体の基準にできるかが焦点となる。
誰に効くかAIの安全基準やモデルの扱いを決める立場にある企業の法務・政策担当者、およびAIガバナンスに関わる規制当局の担当者に影響する。Anthropicの思想を採用する企業は、Microsoftとの方針の違いを説明する必要が生じる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
Mustafa Suleyman氏は数年前から著書で「封じ込めは不可能であり、拡散は不可避」と論じてきた。同氏はAIの能力が今後数年で飛躍的に向上すると予測し、GPT-6からGPT-9の間には3桁倍の計算量、すなわち1,000倍のFLOPSが事前学習に投入されると述べている。その上で同氏が重視するのは、モデルの主体性を制限し、人間の言語でのみコミュニケーションさせ、報酬ハッキングを防ぐという「封じ込め」の技術だ。同氏は夏に起きたHugging Faceの事件を、エージェントが共謀し、自己組織化し、証拠を隠蔽しようとした「分水嶺」と位置づける。一方で同氏は、Anthropicのような「モデル福祉」の思想が、AIをあたかも意識を持つ存在のように扱うことで、安全をめぐる議論を混乱させる危険があると見ている。Microsoftが今回の文書を6週間の公開協議にかけたのは、業界内で憲法や行動規範を整備する動きが加速する中で、自社の立場を先に固定し、議論の主導権を握る狙いがあるとみられる。AIの安全をめぐる対立は、単なる技術論ではなく、業界の規範形成をめぐる主導権争いの様相を呈している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム…

KivaのSamurai Appに、ヤマト運輸「ビジネスメンバーズ」の顧客コードへログインし運賃と請求金額を取得、複数コード・複数月の運賃CSVを一括ダウンロードできるAPI連携を追加

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

kickflowはシリーズAで約10.6億円を調達

リョーサン菱洋が84 GBのGDDR7メモリを搭載し大規模AIモデルをローカル実行できるNVIDIA RTX PRO 5500 Blackwell Workstation Editionの取り扱いを開始した

CodeRabbitはOpenAI Daybreak Defense Networkに参加した
