
何が起きたか
サム・アルトマン氏は先進AIのための全国一律の安全枠組みを呼びかけ、OpenAIは大幅な能力向上をもたらし得る訓練の前に明示的な安全プロトコルを設定していると述べた。
なぜ重要か
アルトマン氏の立場は「ペース配分」は「停止」ではないというものだ。米国の競争圧力が無謀を正当化したり、能力がアラインメントや監視を追い越したりすることを許すべきではないと主張している。
注目点
アルトマン氏は他社がOpenAIの手法から学ぶことを望む。OpenAI、Anthropic、Google間で独立監督機関による自主規制の協議が続き、Cohereなどはカルテルを懸念する。
誰に効くか主な対象はフロンティアAI企業のAI研究所リーダーや政策チームだ。アルトマン氏は立法に先立って業界に安全プロトコルを採用するよう求めており、協調は依然として米国政府の支援にかかっているからだ。
こういう要約が、毎朝あなたのメールに届きます。
サム・アルトマン氏の最新発言は、他のAIリーダーたちのより広範な動きと並ぶものだ。週末にかけて、Anthropic CEOのダリオ・アモデイ氏、元Deepmind CEOのデミス・ハサビス氏、Microsoft CEOのサティア・ナデラ氏、イーロン・マスク氏がそろって、より制御されたAI開発を支持した。
同時に、The Informationによれば、OpenAI、Anthropic、Googleは独立した監督機関による自主規制について数カ月間協議を続けてきた。Cohereのような小規模企業はこれがカルテルになりかねないと懸念しており、自発的な協調と競争上の懸念との間の緊張が浮き彫りになっている。
アルトマン氏の「ペース配分」は「停止」ではないという立場は、AI競争で後れを取ることなく安全プロトコルを業界全体で採用できるかが試金石になることを示唆している。結果は、国際的な協調に対する米国政府の支援が実現するか、また小規模AI企業が自主規制の取り組みにどう応じるかにかかっていそうだ。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
Dario Amodeiはフロンティアの歩調を合わせたい考えだが、Stratecheryはこの提案を非現実的と評する評価を公表した

Anthropic CEOのDario Amodei氏が週末にエッセイを公開し、「pacing the frontier」を提唱して高度AI能力の改善を鈍化させるよう求めた

Anthropic CEOのDario Amodei氏が土曜、AIモデル能力の向上ペースを緩めるよう求める3800語の論考を公開

アリゾナ州選出のYassamin Ansari下院議員(民主党)が、AIの国際ルール策定に向けた協調的な国際努力を主導するようトランプ大統領に求める書簡を回付している

AGIBOTのYao Maoqing氏がFortune Leaders Forumで、具現化AIは3〜5年以内に「GPT-3.5」の水準に達すると述べた

ノースカロライナ州立大学1年のアマンダ・カレンは、ほとんどの授業が引用しない限りAIを禁止していると述べ、全面禁止は現実的か疑問視
