AIが障害対応95%担うとSREの5%対応力が低下

運用におけるAIの議論は主に、エンジニアの負担をどれだけ減らせるかに注目してきた。Mathew氏の主張はその逆で、リスクはエンジニアができなくなることにある。氏は1983年の論文を引き合いに出す。産業システムで同じパラドックスが描かれ、自動化によってまれな障害への介入機会が減り、介入スキルが損なわれた。SREの場合も具体的だ。AIがログを要約すれば、エンジニアが生のログを読む量は減る。AIが原因を提示すれば、仮説を立てる機会が減る。AIが依存関係をマッピングすれば、システムのメンタルモデルを築く機会が減る。

懸念はキャリアの面でさらに深刻になる。PagerDutyの階層モデルでは、ティア1（既知の問題と既知の修正）は完全に自動化され、ティア2はAIの推奨と人間の検証を組み合わせる。人間に残るのがティア3（新規で複雑、連鎖する障害）だけになった場合、何年もの実践なしにそうした障害に必要な直感やシステムへの感覚をどう養うのか、とMathew氏は問う。自動化が進んだ環境でキャリアを始める若手SREは、技能低下ではなく、そもそも技能を身につけられないというより根本的な問題に直面する。

Mathew氏が提案する対応は拒否ではなく、より深い統合だ。氏はFAAがパイロットに手動飛行時間の記録を義務付けている航空業界を例に挙げ、SREチームもAIで対応できる障害の一部をあえて人間に残し、長期的な技能への投資とすべきだと提案する。目指すのはSREを置き換えるのではなく強化するAIであり、最重要の5%の業務に人間を意図的に組み込むことだと氏は論じる。