AIに判断を委ねるべきではない時とは

エッセイは著者を驚かせた単純な質問で始まる：「どの決定をAIに委ねるべきではないか」。妻が気づいたパターンは彼が気づくより早かった。彼はますます頻繁に、ますます重い質問のためにAIツールに手を伸ばしていたのだ。ChatGPTに何を食べるか聞くことから始まったのは、家族が別の都市に引っ越すべきかどうかを聞くことまでエスカレートした。

この観察は意思決定の心理についての思考を促した。著者は友人との会話を思い出す。人生の最大の選択が実際にどれほど稀に生じるか（仕事を辞める、人間関係を終わらせる、海外に移動する）、そしてそれらがそうめったにないため、人々は彼らをうまくやり遂げるための練習を決して蓄積しないことについて。その稀さはAIを魅力的にする。それは個人が遭遇した以上の事例をはるかに合成でき、即座の気分や感情で曇らされない。それは妥当な回答へのショートカットを提供する。

しかし著者はそのショートカットがあまりに誘惑的であることを懸念する。彼は子どもの時にビデオゲーム（IDDQD）でチートコードを使用することに平行線を引く。最初はカンニングは素晴らしく感じた。しかし短い時間内に、彼はもはや楽しんでいないことに気づいた。乗り越えるべきチャレンジなしに、報酬は報酬を感じるのをやめた。このアナロジーはAIに決定をアウトソーシングすることは経験を空洞にするかもしれないことを示唆する。選択肢を苦労して選び抜くことは「良い決定をするのに必要な筋肉」を構築し、結果（良い、または悪い）で生活することはフィードバックループを完成させる。そのループを取り除き、あなたは学習をやめる。さらに悪いことに、苦闘なしに、あなた自身の人生の著者性を本当に主張できるか。

しかし著者はそのアナロジーが限界を持つことを認める。すべての困難が隠された教訓ではない。いくつかの状況は単に苦痛であり、いくつかのタスクは退屈な退屈だ。その場合、助けは歓迎される。著者はまた、苦闘が彼がかつて与えたクレジットほどの価値があるかどうかについて反映する。好奇心と物作りが困難と同じくらい彼を形作ってきたこと、そしてAIが自分のためだけに苦しみを課さずに両方のための空間を創出するかもしれないこと。本当の危険はより微妙だ：速く、妥当なAI回答は困難な決定と格闘する不快な部分をスキップさせることができる。あなたの即座の快適さのために最適化されたAIは常に最も安全な道を推奨するかもしれない。容認できる仕事に留まる、困難な会話を避ける、引っ越しを延期する。そして年後には、集合的にあなたを局所最大値に閉じ込めた一連の賢い決定に自分自身が捕まっているかもしれない。

著者はいつ委ねるかいつ苦闘するかについてまだ固い規則を持たないことに率直だ。しかし彼は彼自身の実績にいくらか自信を持っている。即座の満足を愛する誰かとして自分を考えるにもかかわらず、彼は自分の快適ゾーンを離れ、より簡単な気晴らしが利用可能でさえあっても物事を追求する。彼はAIがより有用になり、無視しがたくなると予想するが、それがその人生を小さくし始めた時に気づき、それに応じて調整されるだろうと信じる。

この作品は個人的な観察に端を発している：著者の妻が彼がAIにますます重要な決定を委ねていることに気づいた。食事計画から人生の大きな転機まで。これは選択のアウトソーシングの心理についてのより深い思考を促した。著者は緊張を利便性と主体性の間のものとして枠付けている。AIは本当に有用だ（個人が遭遇した以上の事例を統合でき、その人が気分が悪い時でも明確に考えられる）が、その非常な有用性は危険をもたらす。

ビデオゲームのアナロジーが懸念を支える：チートコードがチャレンジを取り除き楽しさを吸収したのと同じように、AIへの過度な依存は良い意思決定に必要なスキルそのものを衰えさせるリスクがある。重要に、著者は、人生の最大の選択はそれらが稀に起こるため、人々はそれらを上手くするための練習をほとんど得ないと指摘する。それでもAIの即座で妥当な回答は、困難な思考をスキップするよう誘惑する。あなたが今望むものに最適化されたAIは、安全で、最も不快でない選択肢を何度も推奨し、あなたを何度も居心地の良い仕事に留めるか、より良い仕事へと押し出さず、著者が「局所最大値の罠」と呼ぶもの（あなたを何年も後に引っかかったままにする）を創出することがある。

著者は堅い規則に着地しない。代わりに、この作品は自己認識への信頼に基づいている：AIの助けがあなたの人生を広げることをやめ、それを縮め始めた時に気づけるという信念、そしてあなたが進路を修正できるという信念。これはAIが普遍的に悪いわけではないという認識（退屈な仕事と本当の苦痛は助けを保証する）と、苦闘、フィードバック、結果が自分が何者であり、真に何を望んでいるのかを教えるものであるというより深い主張のバランスを取る。

まだコメントがありません。最初のコメントを投稿しましょう！