Dell、AIエージェントのガードレール設計を提唱

DellのJohn Scimone氏は、エージェントの自律性の問題を運用後の後付けではなく設計段階の決定として位置づける。かつてビジネスレジリエンスの中心は山火事やハリケーン、送電網の停止に対する災害復旧だったが、同氏はデジタルエコシステム全体に及ぶ大規模なサイバー攻撃のほうが今は現実的なシナリオだと主張する。エージェントは新たな依存関係を生む。ソフトウェアに任せた業務はソフトウェアが止まれば止まるため、レジリエンス態勢はエージェントの停止も考慮に入れる必要がある。同氏が引用する調査データは、企業が依然として慎重であることを示す。回答者25人のうち19人が自律エージェントを本番環境で稼働させていたが、人間の承認なしに高リスク行動を許した企業はなく、エージェントのインシデントシナリオをテストしたのは4人だけだった。Scimone氏はこの慎重さを一部では過剰と見ており、失敗が許されない領域に決定的なガードレールを置くことでビジネスを動かせると主張する。theCUBEのDave Vellante氏は、範囲を限定した自律性を与えた組織のほうが人間の承認だけに頼る組織より復旧準備が強いことを指摘し、これは事前に設計されたガバナンスがリスクテイクを制限するのではなく拡大するというScimone氏の見方と一致する。Dellはサイバーレジリエンスツールを拡充し、OpenAI Group PBCのサイバー防衛への集団行動の呼びかけに加わった。