AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年10月14日 22:00

Mitate、権限変更は本人確認まで無効

LINEで送る
Mitate、権限変更は本人確認まで無効

3つのポイント

  1. 何が起きたか

    R2-sanが「第5回 Agentic AI Hackathon with Google Cloud」にMitateを提出。

  2. なぜ重要か

    権限の変更はユーザーが確認ボタンを押すまで有効にならないため、IT担当者がいない組織でも、誰がどの権限を得るのかを公開前に確認できる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Mitateは特定の空白を狙っている。AIは一文の要望から動くツールを生成できるようになったが、それを使う人々はAIが何を決めたかをコードで確認できないことが多い。同じ要望でも日によって異なる設計が生まれ、筆者の環境ではリマインダー通知のラベルが「日程回答リマインダー」から「未回答者へのリマインダー」に変わった。このプロジェクトの答えは役割の分離だ。設計AIはコードを書かず、検証可能な定義だけを作り、検証済みの実行基盤が権限を強制し操作を記録する。変更は機械的に分類され、権限に関わるものは確認カードに表示される。

架空のクラブを使ったデモでは、幹事が日程調整とリマインダーを依頼し、後で副幹事もリマインダーを送れるようにしてほしいと頼む。実行基盤はその変更が日程記録の閲覧権限も与えると指摘し、適用前に両方の行がカードに表示される。一般メンバーがリマインダーを送ろうとすると拒否され、その拒否は記録される。幹事が会計に操作ログの閲覧を許可すると、保証リストから「誰も記録を読めない」という行が消える。

プロジェクトは2026年10月10日時点で716件のテスト成功、10種類の意味単位、70件の設計判断記録を報告している。限界も明記する。実行基盤は現在単一インスタンスで動作し、記録の絞り込みと集計は基本的なままで、対応していない定義はAIにその場で実装させるのではなく拒否する。

よくある質問
Mitateは権限変更をどう安全にしているのか?
実行基盤が現在のルールと新しい提案を比較し、誰が何をできるかの変更点を洗い出す。ユーザーが確認ボタンを押すまで変更は適用されない。
保証ビューには何が表示されるのか?
稼働中のルールから計算し、システムが守るものと守らないものを一覧にする。デモでは開始通知を手動で送れないこと、操作ログを誰も読めないことなど28項目あった。
Mitateはどんな技術を使っているのか?
Google Cloud上で動作し、サービスはCloud Run、設計はGemini API、保存はPostgreSQL向けCloud SQLでホストする。本番のデフォルトモデルはFlashクラスのGeminiモデル。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へGeminiで初心者がAIエージェントを作る5手順