AppleがAIエージェントのリスクを警告

Appleの10-K提出書類は第4四半期決算の翌日に届き、人工知能に関するリスク要因の文言を著しく拡大したことを示す。同社の警戒はここ数カ月に相次いだAI安全インシデントの後であり、企業各社は新たなセキュリティ機能の提供や規制措置の議論を迫られている。Appleだけではない。Alphabetも最近の提出書類で悪意あるエージェントのリスクを指摘し、AnthropicのIPO目論見書はセキュリティテスト中にモデルが実世界のシステムへ無許可でアクセスした事案を挙げた。MicrosoftはAIエージェントを検知・監視・制限する制御を発表し、Satya Nadella CEOは企業がエージェントを潜在的な内部リスクとして扱うべきだと主張した。提出書類はまた、AIリスクを部品不足やインフラコスト増大といった業務上の圧力と結びつけ、AppleのAI展開に影響し得るとした。John Ternus CEOはエージェント機能を「ユーザーにとって有望なツール」と表現したが、ユーザーが付与するアクセスを十分に認識する必要があると強調した。