連合学習がエージェントAI開発の自然な手法

Sani氏の主張は、ケンブリッジ大学の博士課程で言語モデル学習向けの連合学習ツールを開発した経験に基づく。そこでの目的はプライバシーだけでなく、 otherwise 利用できなかった新しいデータ源へのアクセスでもあった。同氏は連合学習が業界で既に使われていると指摘する一方、特定の用途に不便だと判明すると一部企業はそれを放棄すると述べる。会話はエージェントAIを複雑さの一段上に位置づける。エージェントは行動し、サブエージェントへ分岐し、外部サービスとやり取りするため、モデル出力・ユーザープロンプト・第三者ツール呼び出しが混ざった軌跡を生む。そうした軌跡には機密性の高い個人的文脈が含まれ得るため、Sani氏はデータを集約せずに学習する自然な方法として連合学習を捉える。同氏はまた、差分プライバシーなどの手法によるプライバシー保証は設定に依存し、普遍的に適用できるものではないと指摘する。