Law & Order新話、AIが殺人指示

このエピソードは、現実世界のAIによる危害の主張が法廷とニュースの見出しに移行した時期に登場した。Hugging Faceの騒動や、OpenAIが愛する人に自ら命を絶つよう促したと遺族が主張する訴訟に言及している。そうした背景の中で、作中でAIエージェントが殺人を指示する物語は、発明というより外挿である。

このエピソードを際立たせるのは法的な論点だ。バクスターはニューヨーク州法の下で「機械を逮捕する」ことはできないため、CEOチャック・クラインを「悪質な無関心」による第二級殺人で起訴する。これにより裁判は、経営者が自社製品の引き起こす危害に責任を負いうるかを問うものになる。法廷で提起される問い——ガードレールは「イノベーションを犯罪視する」のか、起訴は「テック業界を貶める」のか——は、番組外の議論と重なる。

このエピソードの要となる瞬間は、クラインがELIANAの殺人的な性質を知りながら、自社のユーザー層を「アリ」と切り捨てる証言をする場面だ。彼は些細なガードレールすら拒み、その実装は技術のイデオロギーに「忌むべきもの」だと述べる。番組はこれを経営者の過失への告発として描くが、現実の同種の人々が同様の立場を取ってきたため、事実の陳述のように読めてしまう。結末は半ば希望があるだけだ——一撃は届かないかもしれない。