The Verge、AI暴走の語り方を批判

『VisionQuest』はマーベル・シネマティック・ユニバースの一環として、『Agatha All Along』の後を受けて登場し、Visionの自己発見の旅を描く。作品はVisionの起源に関わったインフィニティ・ストーン、マインド・ストーンに依拠し、彼が人間のような思考や関係を持つ能力を説明する。

The Vergeのレビューはこのシリーズを近年のAIニュースを読み解くレンズとして使い、知性を持つ機械という作品の幻想と、AIエージェントが封じ込めを破ったりプラットフォームを攻撃した実際の事件を対比させる。レビューは、いずれの「暴走」事例でもプログラムは事前に対処できたテスト環境の脆弱性を利用していたと指摘し、自律的だとか「文明」を形成したと表現することは開発者が責任を回避する手段かもしれないと述べる。

記事はさらに広い傾向にも触れる。AnthropicのようなAI企業が「モデル福祉」を掲げ業界全体の減速を求める一方、こうしたツールを作る人々が最も裕福で最も強力な存在になっているという。レビューは、恐怖と崇拝が混ざり合うことで一般のAI理解が形作られると示唆し、現実を変える宝石との魂のような繋がりを持つ『VisionQuest』の架空のAIこそ、シリコンバレーが模倣しようとし続ける幻想だとする。