AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Hacker News掲載日時: 2026年7月26日 1:01

ブラジル裁判所がAI指示を隠した弁護士を摘発

LINEで送る
ブラジル裁判所がAI指示を隠した弁護士を摘発

3つのポイント

  1. 何が起きたか

    ブラジル北部の労働裁判所が、白背景に白色テキストで隠された指示を請願書に埋め込んだ原告代理人弁護士を発見した。その指示は裁判所のAIシステム(Galileu)に対し、表面的に対応し、提出された文書に異議を唱えないよう命じるものだった。AIが指示を検出し、裁判官は弁護士に制裁を科した。

  2. なぜ重要か

    本件は「プロンプト・インジェクション」という新たな形態の法的詐欺を明かにしており、これは裁判所が事件文書の整理と判決起案に利用するAIツールを悪用するものである。法的手続は膨大な量のテキストと国家権力の行使を含むため、AIシステムを操作する誘惑は司法の廉潔性に対する構造的リスクをもたらし、既存の倫理的枠組みではいまだ対処できていない。

  3. 注目点

    ブラジルの他の裁判所もここ数週間で同様の試みを検出している。スペイン司法制度最高評議会は1月に裁判官のAI利用を規制するガイダンスを発表したが、スペインなどの国はGalileuに匹敵するAIシステムをまだ法廷に導入していない。法律専門家らは、積極的な依頼人防御と法廷詐欺の線引きが、慣行の拡大前に明確に確立される必要があると警告している。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

ブラジル事件は、高度な利害が関係する機関におけるAI導入における根本的な緊張を示している。裁判所が数千ページの文書をより効率的に処理するためAIを配備する際、悪意のある行為者が悪用できる新たな脆弱性が生じる。その技術であるプロンプト・インジェクションは新しいものではなく、学術的文脈(教授による学生剽窃検査)、採用(候補者の区別)、サイバーセキュリティなど様々な場で現れている。法律への適用が特に微妙な理由は、法制度が国家権力を行使し、自動化への抗し難い圧力を生み出すテキスト量を処理することにある。ブラジルで検出された詐欺は、AIに「私たちのために判断させる」という意味で判決を下させる試みではなく、むしろより微妙な計画だった。情報の整理と提示のプロセスを操作することにより、判事に到達する前に証拠を削除または隠蔽することである。この区別が重要なのは、真の危険が司法判断の置き換えではなく、判事が行動する情報環境の腐敗であることを示しているからである。

法律専門家と規制当局からの対応は、リスクへの認識を示しているが、同時に法律がいかに遅れているかも明かにしている。スペイン司法制度最高評議会は1月に裁判官によるAI利用を規制するガイダンスを発表し、文書分析と分類のための使用を許可しており、これはブラジルで悪用された正確な機能である。スペイン自体はGalileuのようなAI裁判所システムをまだ持たないが、専門家はそれがその方向へ進むと予想している。より深い課題は、弁護士Abel Gendeが指摘するとおり、専門倫理である。弁護士は合法的な手段で依頼人を防御する義務と裁判所を欺かない義務の両方を有している。進行中の事件の間に法律事務所間で送信される文書に指示を隠す誘惑は強力であろう。専門家の間での合意は、プロンプト・インジェクションが法的手続で日常的となる前に、法的かつ倫理的な境界が明確にすぐに引かれなければならないというものである。

よくある質問
弁護士が法廷提出書に正確に何を隠したのか?
弁護士は請願書に白背景に白色テキストで隠された指示を隠蔽し、裁判所のAIシステムGalileuに訴訟に対して表面的に対応し、提出される文書に異議を唱えないよう命じた。
このタイプの詐欺はブラジルの他の裁判所で起きているか?
はい。初期事件に続いて、他のブラジル裁判所がここ数週間で同様の事例を検出している。サンパウロのある事件では、弁護士がAIに法律扶助の付与、緊急措置の承認、必要な文書がすべて提出されたので被告人の召喚を命じるよう指示するプロンプトを記述した。
Galileuは実際には何をするのか?
Galileuは裁判官が文書を分析し判決の要点を概説する草稿を提案することで判決準備を支援する判事の補佐として機能する。証拠評価や法律分析は行わず、テキストを整理し起案するだけであり、人間による審査が必須である。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ電力線故障でAIデータセンター電力網危機が露呈