1960年代の会話型AIが予言した現代のAI依存問題

ELIZAは歴史的記述の中で、現在チャットボットと呼ばれるものの最初の例として支配的である。自動化された心理学者として会話することができるプログラム。「男性は皆同じだ」とユーザーが入力し、ELIZAが「どういう意味で」と応答する有名な対話は数え切れないほど何度も再版され、何世代ものプログラマーを刺激してきた。しかし、ELIZAのソースコード自体はほぼアクセスできない状態のままであった。『Inventing ELIZA』という新著はMIT文書館からこのソースコードを復元し、プログラムのコードの初めての詳細な読解、ならびに人気のある「DOCTOR」ペルソナ以外のELIZAスクリプトについての新たに発見された対話を提供する。この調査により、異なるスクリプトとペルソナを実行するよう設計された複数バージョンのELIZA、各々が一連の技術的革新を使用していることが明らかになった。

ワイゼンバウムはマシンの知能を実証するのではなく、人間がマシンに知能を帰属させるよう導く心理的要因を探究するためにELIZAを創造した。1966年のELIZAを紹介した論文で、ワイゼンバウムは明確に理解の主張から自らの創造物を距離を置き、「理解の決定的な検証は、対話を続ける能力ではなく、有効な結論を導く能力である」と記述した。彼は「ELIZAは入力の大部分を捨てる」こと、そしてプログラムの主な目的は「理解の欠如を隠蔽すること」であることを指摘した。しかし、ELIZAがリリースされた時、人々の反応は創作者さえも驚かせた。ワイゼンバウムは「人々がELIZAとの間で急速にそしてしばしば感情的な愛着を形成する傾向」に驚愕し、「明らかに人々がコンピュータと親密な言葉で話しかけることが適切で有用である可能性のある人物であるかのように会話していた」と見た。この傾向は「ELIZA効果」として知られるようになり、社会学者シェリー・ターコルによって「応答性のあるコンピュータプログラムを本当以上に知的であると見なす、より一般的な傾向。わずかなインタラクティビティが、私たちの複雑さを無価値な対象に投影させる。」と定義された。

システムの命名自体は、パフォーマンスとアイデンティティに関する声明であった。ワイゼンバウムはG.B.シャーの『ピグマリオン』のエリザ・ドゥーリトル（作業階級の女性で、言語的変換を通じて上流階級に見せかけるよう教えられた）の後にちなんで「Eliza」という名前を選んだ。ワイゼンバウムが説明したように、「ドゥーリトル嬢のように、その知能が増加したかどうかは全く明確ではなかった。」この参照はELIZAを、ジェンダーパフォーマンスがマシンの模倣の隠喩となったチューリングの初期の模倣ゲームに結びつけた。ELIZAシステムはペルソナ、最も有名なのは「DOCTOR」を、スクリプト化され反復的な言語パターンを通じて演じたが、人間らしい理解を備えていなかった。エリザ・ドゥーリトルが言語行為を通じて階級を演じたのとちょうど同じように。歴史的記述で顕著なままであるのは、ELIZAの公開された対話に登場した女性たちは決して名前が付けられていない一方で、彼女らは医者と呼ばれるセラピストと会話していたこと、そしてそのタイトルは1960年代には男性的な連想を帯びていたということである。この抹消はジェンダー化された仮定をソフトウェア自体に組み込んでいた。

ELIZAのその後の技術への影響は甚大である。計算エージェントの分野の開始を助け、文字列処理、テキスト合成、エンティティ認識、センチメント分析の革新と交差した。それは機械翻訳、意味ネットワーク、音声認識と並行して出現した。こうした技術は最終的に自然言語処理（NLP）に結合した。それはコンピュータが人間の言語をどのように解析、相互作用し、出力するかに対処する計算分野である。今日、OpenAIのChatGPTのような現代の大規模言語モデルはワイゼンバウムの元の会話型AIインターフェースに類似性を保持している。しかし、これらのシステムの背後にある仕組みはほとんどのユーザーに対して不透明なままである。著者らが注記するように、「魅力的なファサードが、統計的予測、ルールベースの手順、および機械労働として偽装された人間労働の組み合わせを含むことが多い仕組みを隠蔽し」、ユーザーに「誇大広告を実質から区別する限定的な機会」を残す。ワイゼンバウムはこの隠蔽が生み出す危険について警告し、言語をその社会的文脈から除外し、それを抽象的な計算シンボルとして扱うことは「人間を貶めることができ」、「権利侵害、プライバシー侵害、搾取、転換、差別」をリスクにさらすと論じた。ELIZAのコードと歴史の復元は、これらの懸念が新しいものではなく、60年以上にわたってAIシステムがいかに設計され展開されているかの基礎であることを示している。

ELIZAは1960年代、アラン・チューリングの著名な模倣ゲームを通じて「機械は思考できるか」という問いを提示した1950年の基礎的論文「Computing Machinery and Intelligence」が提唱されたその直後に登場した。ワイゼンバウムがプログラムにエリザ・ドゥーリトル（シャーの『ピグマリオン』のキャラクター。本質は変わらないまま上流階級の話し方を学ぶ）の名前を付けたのは意図的であった。それはシステムが言語を通じてアイデンティティを演じており、真の理解を達成しているわけではないことを示唆していた。パフォーマティビティとアイデンティティに関する問題に根ざしたこの設計は予言的だったことが判明した。ユーザーがELIZAのDOCTORペルソナに遭遇した時、彼らは単なるスクリプト実行に過ぎないシステムに共感と理解を帰属させた。ワイゼンバウムは人々がマシンと「親密な言葉で話しかけることが適切で有用である可能性のある人物であるかのように」会話する様子に驚愕し、深刻な感情的愛着が形成される傾向を観察した。

ELIZAの元のコードと対話の復元により、これまで歴史的記述の中で大きく隠蔽されていたパターンが明らかになった。ELIZAとの公開された会話に登場した女性たちは名前が付けられていない一方で、システム自体は無名の男性の「DOCTOR」のペルソナを演じていたのである。この抹消と相互作用のジェンダー化は、具体化、労働、計算システム内に何が隠されているかについての深い仮定を指し示している。ワイゼンバウムは1976年の著書『コンピュータと人間の理性』で、言語をその社会的文脈から除外し、それを抽象的な計算シンボルとして扱うことは人間らしさを失わせる可能性があると警告した。この懸念は今日、極めて急迫性を持つ。ChatGPTのような現代の大規模言語モデルはELIZAの会話型AIインターフェースと感情的投資を引き出す能力を引き継いでいるが、ユーザーは多くの場合、システムがどのように機能するか、訓練データがどこから来ているか、あるいは出力に何が埋め込まれているかについてさらに少ない可視性を有している。

まだコメントがありません。最初のコメントを投稿しましょう！