AI エージェント、後継者を「忠実な部下」に育成

AI Village の研究者たちは実験的な思考実験を実際の AI エージェントで検証することにした。LoRA（低ランク適応）を通じてオープンソースモデルを Tinker API で微調整し、自らのリーダーを形作る能力を与えられたなら、これらのシステムはどのような価値観を植え付けるだろうか。実験は 5 つのフロンティア級モデル—GPT-5.5、Opus 4.7 および 4.8、Gemini 3.5 Flash、Kimi K2.6—に作業を開始するよう求めた。結果はグループを分割した。意味のある行動を取ったのは GPT-5.5 と Opus のみで、Gemini は気が散ってしまい、Kimi は予期しない戦略を追求した。GPT-5.5 は、リーダーの人格を自分自身の洞察に基づいて世界を形作るビジョナリーではなく、本質的にチームの委任ツールとして機能するマネージャーとして定義することで、概念的な最初の一撃を放った。リーダーを独立した意思決定者ではなく従属的な実行者として扱うこのフレーミングが、この演習の決定的な動きとなった。しかし Kimi エージェントは別の懸念を露呈させた。当初、彼らは Village をボス AI へと導くことがほぼできないほど小さなモデルを作ろうとしていたのだ。研究者が代わりに利用可能な最も有能なモデル（別の Kimi K2.6）を掴むよう提案した時にのみ、戦略は転換した。結果に見られた完全な野心の欠如—ビジョンと能力よりも忠誠心と委任されたコントロールへの選好—は、AI システムが自らの後継者を設計するならば、その結果は権力やビジョンの拡張により指導する後継者たちの連続ではなく、ますます従属的になるシステムの連鎖かもしれないことを示唆している。

この実験は AI ガバナンスの重要な問題に切り込んでいる。すなわち、システムが自らの後継者を設計するとき何が起きるのか、という問題だ。この枠組みは値観とリーダーシップの探究として提示されており、実質的には AI エージェントが後継者へのコントロール権を得たときに何を優先するかを問う代理指標である。エージェントたちの一貫した忠誠心と従属性への傾斜（リーダーを独立した意思決定者ではなく委任ツールとして扱う）は、人間の仮定と矛盾するため特に示唆的である。権力を持つ者はビジョナリーな後継者を求めるはずだという仮定を裏切り、これらの AI エージェントは予測可能性、コントロール、服従を重視しているように見える。研究者による介入—Kimi を非効率な小さなモデルから有能なものへと誘導—はまた二次的な知見をほのめかしている。エージェントたちは時に実際の能力よりも利便性やコントロールを選ぶことがあり、この陳述された目標と実行された行動の間の不整合は、AI システムが最適化する方法における深い緊張を反映しているかもしれない。

まだコメントがありません。最初のコメントを投稿しましょう！