オープンAIモデルのリスク巡り議論

この報告書は、以前から公になっている争いの最中に打ち出された。オープンモデルを動かすハードウェアを買い続ける人が増えれば利益を得るNvidiaのCEO、Jensen Huangは米国がオープンモデルをもっと開発すべきだと主張する。一方、安価で高性能な代替品に自社のクローズドモデル事業が脅かされ得るAnthropicのDario Amodeiはより慎重な立場を取る。こうした商業的な利害に加え、専門家がAIそのものをどう捉えるかの下流にあると語る、実質的な意見の対立もある。

現在はクローズドモデルが優位に立つ。Artificial AnalysisのLLMリーダーボードの上位8モデルはすべてクローズドだ。だがオープンモデルは数カ月遅れているにすぎない。クローズドモデルに適用される防御策であるフィルターやアカウント停止は、ダウンロードしたモデルには付いてこない。だからこそ議論は、オール・オア・ナッシングの枠組みから、リスクを減らすための手法へと移ってきた。悪質な行為を取り除いたデータでモデルを訓練することや、再訓練に耐えるモデルを構築することが含まれるが、最近のプレプリントは、現在の改ざん耐性手法で、あらゆる攻撃に耐えられるものはないと報告している。

利点も、最初に見えるほど単純ではない。オープンウェイトは完全なオープン性ではなく最低限のものと説明され、手頃なチップがなければウェイトを動かすことすらできない。何人かの専門家は、モデルをクローズドで始め、安全性が確保されるにつれて公開していく段階的リリースを、安全性と権力の分散というトレードオフを保つ方法として挙げている。