オープンモデル、悪用リスクを指摘

Anthropicの報告書は、フロンティアAIモデルをオープンにすべきか、トップラボの扉の内側に留めるべきかをめぐる長年の議論における最新の動きだ。Zhipuが8月にGLM-5.3をリリースしたことで、この議論に具体的な事例が生まれた。誰でもダウンロードして改変できる強力なモデルである。

商業上の利害は、誰が何を主張するかに表れている。自社ハードウェアでオープンモデルを動かす顧客を持つNvidiaのJensen Huang氏は、米国がより多くのオープンモデルを開発すべきだと訴える。安価で強力なモデルにビジネスを侵されかねないAnthropicのDario Amodei氏は慎重さを求める。その背後にはより深い意見の相違がある。AIの安全性を懸念する人々はオープンモデルが悪用されやすいと警告し、実用性に注目する人々はその力が一握りの大企業の閉ざされた扉の内側に留まるべきではないと主張する。

テキサス大学オースティン校の助教David Gray Widder氏は、開放性をめぐる議論でどちらの側に立つかは、AIをめぐるより広い議論でどちらの側に立つかとおおむね連動すると話す。トニー・ブレア研究所の上級政策顧問Elizabeth Seger氏は、オープンモデルの最大の意義は権力の集中を防ぎ、この基盤技術を公共財として保つことにあると主張し、AIインフラを誰が支配するかという問いを、インターネット上の情報を誰が支配するかという問いに重ねる。