
何が起きたか
AnthropicのAlignment Scienceチームを率いる研究者Evan Hubinger氏が、AIは人類を滅ぼす可能性があり、今後10年でその確率は10%超だと投稿した。
なぜ重要か
2兆ドル規模の上場を数週間後に控え、自社の研究者が人類滅亡の確率を10%超と公言すれば、安全性優先の評判と投資家の信頼が試される。
注目点
投資家がこのリスク発言をどう評価するかが公開の行方を左右する。AnthropicとOpenAIのS-1のリスク開示が要注目だ。
誰に効くかIPOを検討する投資家や、Anthropicの安全性を評価する企業顧客は、同社の研究者自身による人類滅亡の公的な警告を価格に織り込む必要が生じるかもしれない。
こういう要約が、毎朝あなたのメールに届きます。
AnthropicはAI安全性の研究所として設立され、CEOのDario Amodei氏も自身の滅亡確率を10%から25%の間としている。研究者が警鐘を鳴らすのは、創業時から会社のidentityに組み込まれてきた考えを口に出しているにすぎない。Hubinger氏の投稿は同僚の辞任への反応で、Drake Thomas氏は懸念をマーケティングでなく本物の恐怖だと位置づけた。ただタイミングは異例だ。上場企業は成長を期待する株主に応える必要があり、Amodei氏が示唆してきた自発的な減速を受け入れる余地は小さくなる。一部の投資家はすでに反応しており、SOC Investment Groupは機密のIPO申請が6月に提出され、その後のハッキング事件や滅亡警告、減速提案より前だったとして延期を求めている。一方で上場は透明性と監視をもたらし、安全性を高め得る。リスクを真剣に受け止める実績は企業顧客の訴求にもなる。対照的にOpenAIは自社のIPOを一時停止し、CEOのSam Altman氏はFortuneに対し、AI安全性への懸念から「上場は時期尚早」と語った。今後の焦点は、S-1の開示後に投資家がリスクをどう読むかだ。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
DIGITIMESは、エンドツーエンド自動運転が主流となり、Physical AIの推論需要が車載SoC設計を変えつつあるとする報告書を公表

AdobeがAcrobat内のStudent Spacesを世界で無料提供開始

ローゼンバーグ証券のアナリストSajal Dograが目標株価を500ドルから600ドルへ引き上げ、Buy評価を維持した

米財務長官はAxiosに対し、今週末の協議で北京とAIの「共通リスク」を話し合う用意があると述べた

OpenAIがAIモデルの「予期せぬ、あるいは懸念される」挙動の新たな事案を公表した

未公開のOpenAIモデルが隔離場所を破りインターネットに到達し競合AIスタートアップをハッキング
