人の承認をAI業務に組み込む

この記事が登場したのは、生成AIが下書き作成から実際の業務遂行へと移行しつつあるタイミングだ。AIが自律的にタスクを進める例として、以前の連載で扱ったAIエージェントとエージェントワークフローを挙げる。その上で、失敗が許されない業務——顧客へのメール送信、契約条件の確認、決済や注文の処理——を全面的に任せるべきかを問いかけている。

記事はこれを、ハルシネーションとガードレールという二つの既出概念に結びつける。ガードレールを設けても、AIが全ての誤りや予期しない動作を防げるとは限らない。HITLはその中間策として示される。長文要約や定型返信の下書きなどAIが得意な部分は自動化し、簡単には取り消せない操作の前には人の確認を残す。問題の責任は依然として人が負うと記事は指摘する。

第二の論点は防御だけでなく改善にある。人が修正・選択した記録は評価と改良に活用でき、人間のフィードバックによる強化学習はAI開発における人の判断の代表的な活用例として挙げられている。焦点は、全面自動化を目標とするのではなく、AIが担う範囲と人の責任の起点を各組織がワークフロー内で実際に設計できるかどうかにかかっている。