AIToday

AI巨大企業の囲い込み強まる、オープンソース原則が危機に

Fortune AI1日前6分で読める
AI巨大企業の囲い込み強まる、オープンソース原則が危機に

要点

フォーチュン誌のコラムニストは、AI業界が閉鎖的モデルへ急速に傾く中で、1980年代にリチャード・ストールマンとの議論を通じて学んだオープンソース原則が危機に瀕していると警告しています。オープンソースは現代のインターネットインフラを支える基盤となってきましたが、AI が将来の科学と知識の基盤になるにつれ、最先端モデルが非公開化されれば、科学的進歩全体がロックダウンされるおそれがあります。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    AI業界で最先端モデルが完全に非公開化され、実行可能なオープンな代替案がほぼ存在しない状況が加速しています。中国の主要ラボや米国企業の一部は実行コードは公開しても、構築コードと学習データは秘匿したままにしており、仕組みが見えない「魔法の数字」を提供するだけになっているとのことです。

  • なぜ重要か

    1980年代にリチャード・ストールマンが築いたオープンソース原則は、GCCやGNU/Linuxといった世界規模の協力を通じて現代のテクノロジーを支えてきました。AI が科学の基盤となりつつある今、閉鎖的なAIシステムは将来の科学的進歩全体をロックアウトする危険があります。また医師が診断に、エンジニアが設計に、裁判官が判断に頼るAIモデルについて、利用者が仕組みを理解できなくなれば、説明は事後的な作り話に過ぎず監査にはならないという問題も生じます。

  • 注目点

    現在公開されているモデルは「オープン」と称されていますが、実際には実行コードのみで、構築過程と学習データは大半が非公開のままです。この限定的な公開さえ企業の「好意」であり、今後の最先端システムについて継続する約束はない状況です。

よくある質問

現在「オープン」と呼ばれるAIモデルは実際には何が非公開なのですか?
実行コードは公開されていますが、そのモデルがどのように構築されたかを示すコード(構築コード)と、学習に使われたデータは大半が秘匿されたままです。つまり、なぜそのAIが答えを導き出すのかを理解できない状況になっています。
オープンソースAIが危険だという主張に対する著者の見方は?
オープンモデルが必ずしも安全とは限らないという反論もありますが、閉鎖されたモデルもリークやジェイルブレイクの対象になりますし、少数企業に集中することそのものが新たなリスクを生みます。重要なのは、オープンモデルが既存リスク以上の新たなリスクを本当にもたらすのかという誠実な問い方が必要ということです。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →