ジャロン・ラニアー、AIでなく協調型ソフトウェアと主張

ジャロン・ラニアーは、「人工知能」という用語が誤解を招くものであり、テック分野が技術的未来を形作っている今、潜在的に危険であるとして、その用語を否定することから始める。彼は、この用語が1950年代に造語され、数十年のサイエンスフィクションによって強化されてきたことに注目する。「ターミネーター」や「マトリックス」などの映画、および「スタートレック：ザ・ネクスト・ジェネレーション」のコマンダー・データのようなキャラクターである。これらの文化的ナラティブは、テック文化内でほぼ宗教的な神話となり、研究者に真のAIを創造するという夢を追求させてきた。

しかし、ラニアーは著しいパラドックスを特定する。これらのシステムを構築している多くの同じ科学者たちは、それらについて存在的な恐怖を表明している。最近の調査では、AI科学者の半数が、人類がAIに破壊される可能性が少なくとも10パーセントあることに同意した。OpenAIを運営するサム・アルトマン氏も同様の警告を出している。これはテック界に奇妙な議論を生み出す。新しいコードは単なるコードであり、人間が支配力を持っているままだと主張する者もいれば、この技術がいかに深刻であるかを単に理解していない者はそう思うだけだと主張する者もいる。ラニアーが最も恐れている同僚たちにAI終末論が実際にどのように起こるかを詳しく説明するよう求めると、彼らはしばしば一貫したメカニズムを説明できず、「加速する進歩は私たちを飛び越えて、何が起こっているのかを理解することはできなくなるだろう」のような曖昧な主張に頼る。

ラニアーの立場は実用的である。これらのシステムを生き物ではなくツールとして考えている。これは危険の可能性を排除しない。設計が悪かったり操作が不十分なテクノロジーは依然として私たちを傷つける可能性があるが、判断を曇らせる神話化を拒否する。私たちが実際に構築しているものを理解するために、ラニアーは異なるフレーミングを提案する。それは革新的な社会協働の形態である。文を指示に従って書くGPT-4は、統計を使って組み合わせた、はるかに多くのデータを持つウィキペディアのようなものである。画像生成プログラムは高度なオンライン画像検索のようなものだが、写真を組み合わせるためのシステムがある。どちらの場合も、実在の人物がテキストを書き、画像を提供した。新しいプログラムは統計ガイダンスを使って人間の仕事を混ぜ合わせる。これは重大な成果だとラニアーは主張するが、これは人間の創作の間の隠れた一致を照らし出すのであり、新しい心を発明しない。

これらのシステムの柔軟性と予測不可能性は、それらを知的に感じさせるが、ラニアーはこれが単純な数学から生じることを説明している。大規模言語モデルは、膨大なテキストで単語がどのように共存するかについての累積的な記録を含んでいる。この巨大な集計により、システムは文法パターンと著作スタイルを近似する。ユーザーがクエリを入力すると、それはモデル内にあるものと相関される。数十億エントリの相関の複雑さのため、結果は毎回異なる。このプロセスの非反復的な性質は、活気に満ちたものに感じられることができ、実は人間中心的である。ユーザーは複数の選択肢を取得し、その中から選択しなければならず、プロセスに人間の機関の瞬間を導入する。

ラニアーはこの柔軟性に利点を見いだす。デジタルシステムは歴史的に脆い。人々は評価するのではなく、厳格な設計に適合するよう強制されてきた。彼は、医者のオフィスのフロントデスク画面で苦労している誰かの画像を引用している。彼らの人間性は、マシンに従う必要性によって損なわれている。AIツールはこれを反転させる可能性がある。色盲の誰かのためにその場で自分自身を再構成するウェブサイト、または特定の認知能力とスタイルに合わせて自分自身を調整するサイトを想像してみてください。ラニアーのようなヒューマニストにとって、これはより多くの人間の支配と機関の可能性を提供する。

しかし、ラニアーはまた、テクノロジーが人々を彼らが好きではない、または理解できない方法で押し回すという正当な懸念も認識している。彼は、いくつかの同僚がポリシー作業の時間を作るため雄心的なAI開発を一時停止するよう求める請願書を流通させたことに注目している。ただし、彼はこの概念があまりにも曖昧だと考えた。進捗のどのレベルが一時停止を終わらせることができるようにするのか？彼はまた、既存のAIポリシー努力に対する懐疑主義を表明している。彼はEUプライバシーポリシーに取り組んだ長年の経験から引き出している。彼が主張する問題は、プライバシーが何であるかを十分に知らないため、一般化することはできず、AIの「アライメント」（AIの目標を人間の目標と一致させること）、「安全性」（セーフガードの予見）、「公正性」（バイアスの防止）などのAI概念にも同じことが言える。これらの努力は良いことをしているが、用語の曖昧さはポリシーを妖精を出し抜こうとするゲームに変え、AIリサーチコミュニティが恐ろしい警告を通信する一方でますます緊急だが定義されていない熟議プロセスを提案したままにしている。

非公式な実験で、ラニアーは同僚に電話して、彼らが同意できる具体的なポイントが何であるかを確認した。彼は驚くべき一致を発見した。ほぼ全員が、ディープフェイクと自動操作通信がそれを作成するプログラムによってそのようにラベル付けされるべきであり、人々が対応できるアクションが存在すべきであることに同意している。現在のAIツールのブラックボックスの性質は終わらせるべきであり、システムはより透明性を持つべきだという点でも、ほぼ全員一致がある。課題は、大規模モデルシステムが明確なアイデアで構成されていないということである。システムが「望むもの」が何であるか、または人を操作しているときについて、明確な表現は存在しない。代わりに、膨大な数学的混合がある。

ラニアーは1つの障害物をスケッチしている。ブラックボックスを開く試みは、スクリプトやスケッチなど、その他不要なアイテムを生成するようにシステムに強制することで、最初のものを解釈するために別のブラックボックスを構築することを含むだろう。それは無限回帰である。しかし、彼はそれが必要ではないと主張している。大規模モデルの内部は、道なき荒野のままである必要はない。代わりに、ブラックボックスを開く方法は、人々を明らかにすることである。実在の人物がイラストを作成し、データとして入力され、他の人からの寄付と組み合わせて、新しい画像に変換された。大規模モデルAIは人々で作られている。透明性は彼らを明かすことを意味する。

この概念は「データ尊厳」と呼ばれており、ラニアーはその開発に貢献している。それは、人々が無料サービスと引き換えに無料でデータを提供する身近な取り決めの代替案として出現した。彼が指摘するように、その取り決めは暗い側面を持っていた。ネットワーク効果により、いくつかのプラットフォームが支配的になることができ、地方紙のような小さなプレーヤーが排除される。オンライン体験は無料になると想定されているため、残りの唯一のビジネスモデルは影響力を宣伝することである。データ尊厳は異なるパスを提供している。これらのシステムによって新しい出力に変換された、実在の人間の創作の認識と潜在的な報酬である。

ラニアーのエッセイは、テック文化における基本的な神話に異議を唱えている。それは、コンピュータ科学者が本当に知的な存在を構築しているという神話である。彼は、1950年代の用語の造語にさかのぼり、「ターミネーター」、「マトリックス」、「スタートレック」などの文化的ランドマークまで遡る。これらは研究者の抱負と不安の両方を形作ってきた。彼が特定するパラドックスは際立っている。これらのシステムを構築する多くの科学者は、それらが人類を消滅させるかもしれないと同時に警告している。しかし、AI終末論がどのように起こるかについての具体的な説明を求められると、彼らの推論は曖昧さへと崩れ落ちる。ラニアーは、この矛盾は根底にあるフレーミングが間違っているために生じると主張している。これらは独立した心ではなく、人間の仕事を再構成する統計システムである。

このリフレーミングの実質的な利害関係は高い。ラニアーは、テクノロジーを神話化することは、謎が明確な思考を麻痺させるため、より悪い管理をもたらす可能性が高いと主張している。対照的に、これらのシステムを協調型ツールとして理解することで、合成メディアのラベル付け、システムの透明性の向上、それらを支えた人々の創作の認識など、具体的で実行可能なセーフガードに焦点を当てることができる。彼が既存のポリシー努力（アライメント、安全性、公正性）に対して感じる不満は、それらが定義されていない用語に基づいており、実際の制約ではなく漠然とした熟議プロセスのみを生成するということである。対照的に、データ尊厳は、あらゆる出力に組み込まれている、識別可能な人間という物質的なアンカーを提供する。