Amodei氏の「フロンティアの歩調」は財務にも資する

この記事の主張は、安全のメッセージとビジネスのメッセージが同じ方向を向いているというものだ。AnthropicとOpenAIは上場準備を進めるなか、いずれ莫大な利益を上げられると投資家を説得しなければならない。そして、最大かつ最も有能なモデルを作るための終わりのない競争は、その主張をするには高くつく方法だ。筆者は、ミレニアム賞問題を解くことは自慢の種にはなっても、日常的な業務における信頼性の向上に必ずしもつながるわけではないと指摘する。

この主張は、信頼性が実際にどこから来るかという観察に基づいている。モデル自体からではなく、モデルを中心に構築されたあらゆるソフトウェアからだ。記事は、AIの先駆者Richard Sutton氏がOak Labで進める研究を、あり得る別の方向性として挙げる。人間の脳のように20ワットの電力で動き、重みを継続的に更新する有能なモデルだ。筆者はこれが生む緊張関係にも触れる。AI安全の専門家は、そのような継続的に学習するモデルを、今日の大型モデルよりもむしろ懸念するかもしれない。封じ込めるのがより難しいからだ。

より効率的なAIは研究所のコストを下げ得るが、顧客が彼らのデータセンターに頼らずに同等の能力を得られれば、事業モデルを損ないかねない。より安価でより独立したAIと、研究所がすでに資金を投じたインフラとの間のこの緊張関係こそ、上場の結果がかかっている点であり、投資家と企業の購買担当者が天秤にかけなければならない問いだ。