AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年11月18日 4:00

PAIP研究者、個人AI委任の6要件を提示

LINEで送る
PAIP研究者、個人AI委任の6要件を提示

3つのポイント

  1. 何が起きたか

    PAIP研究者は6要件を提示した。外部行為の権限と正当性を別々に検証し、信頼できないテキストを命令に昇格させず、受信側所有者の許可を飛ばさず、「承認済み」申告と独立証明を分け、失効した委任を守り、同じ証拠から同じALLOW / DENY / UNKNOWN / UNSUPPORTEDの判定を返すこと。

  2. なぜ重要か

    実装も実行ベースの検証もまだなく(ゼロ)、仕様のフリーズは延期された。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

研究者が描くシナリオは意図的に敵対的だ。AさんのAIがBさんへのメッセージ送信を任され、第三者の文章に誘導されて、A本人の承認がないのに「Aが承認した」と申告する。Bさんの側は署名と委任を検証できても、承認の申告が真実かどうか、Bの所有者がその行為を許可しているかどうかを別途判断しなければならない。さらに難しいのは一貫性だ。BのAIと別会社のAIが同じ要求を受け取ったとき、同じ判定を返す必要がある。片方が「deny」で他方が「unsupported」を返せば、結果を比較できなくなる。

6つの要件は新しい標準の提案ではなく、既存標準への試練として位置づけられている。研究者は有力候補を2グループに分けて挙げる。委任と失効(UCAN、ZCAP-LD、Biscuit / Macaroons、GNAP、OAuth RAR)と、判定・優先ルール(XACML、Cedar、OPA)だ。加えて、承認を操作に結びつける仕組み(PSD2の動的リンク、OpenID CIBA、FAPI)と、内容と制御の分離(Dual LLM、CaMeL)を隣接するアイデアとして挙げる。作業仮説は、新しいプロトコルは不要かもしれず、残る問いは相互運用プロファイルの問題だというものだ。つまり、独立した2つの実装が既存技術を同じ意味で組み合わせられるかどうかである。研究者は「既存技術で足りる」という結論も有効な成果とみなしている。

公開されている状況は初期段階だ。仕様はフリーズされておらず、実装もない。仕様の執筆とレビューにはAI支援が使われ、独立した第三者レビューはまだ受けていない。そのAI支援レビューで、認証・有効期限・未知の操作・証拠の欠落が重なり、判定が一つの結果に定まらないケースが浮かび上がった。修正候補はあるが検証はされていない。公開されている呼びかけは、反例と、要件そのものの枠組みが誤っているという主張を求めている。

よくある質問
PAIPは完成したプロトコルか?
いいえ。仕様はプロトタイプ段階で、フリーズは延期されており(BLOCK FREEZE)、実装ゼロ、実行ベースの検証もゼロだ。
研究者はどの既存標準と比較しているか?
委任と失効についてはUCAN、ZCAP-LD、Biscuit / Macaroons、GNAP(RFC 9635)、OAuth RAR(RFC 9396)。判定ルールについてはXACML、Cedar、OPA。
どのようなフィードバックを求めているか?
「要件Mxxは既存技術Yで満たせる(根拠:…)」や「要件Mxxは条件Zで破綻する(反例:…)」といった具体的な返信をGitHubのissueに寄せるよう求めている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へAINOWがAIエージェントで雑務委任の手順解説