John Cronin：AIは答えられても判断できない

Cronin氏のコラムは、大学時代の計算尺とFORTRANから、StruCalc、Forte、ClearCalcsといったエンジニアリングソフトを経て、現代の船の船橋の自動化システムへと一本の線を引く。いずれの場合も機械は答えを出したが、それを解釈する責任は人間に残ったと氏は言う。繰り返し立ち返る転換点はCoecles Harborだ。そこではインターンのソフトが1時間足らずで波浪作用の解を出したが、荒唐無稽だった。理解なき速さは危険だという証左だとCronin氏は見る。

氏は、海上航行にはすでに安全策が組み込まれていると指摘する。Automatic Radar Plotting Aidが最接近点を計算しても、沿岸警備隊の免許を目指す船員は基礎となる数学を理解していなければならない。AIにはそうした明確な目的や了解された限界が備わっていないと氏は示唆する。こうしたシステムを開発する企業でさえ、その能力と限界について重大な疑問を認めており、一部は哲学者に助言を求めているとも指摘する。

Cronin氏が描くところでは、賭け金は機械がどれほど賢くなるかよりも、機械の答えが答えであるとき、そうでないときを見極める判断力を人が真剣に守り続けるかにかかっている。エンジニア、船員、そして自動出力に基づいて行動するすべての人にとって、それは技術力と同じくらい人間の規律の試練だ。