
何が起きたか
ブラジル北部の労働裁判所が、白背景に白色テキストで隠された指示を請願書に埋め込んだ原告代理人弁護士を発見した。その指示は裁判所のAIシステム(Galileu)に対し、表面的に対応し、提出された文書に異議を唱えないよう命じるものだった。AIが指示を検出し、裁判官は弁護士に制裁を科した。
なぜ重要か
本件は「プロンプト・インジェクション」という新たな形態の法的詐欺を明かにしており、これは裁判所が事件文書の整理と判決起案に利用するAIツールを悪用するものである。法的手続は膨大な量のテキストと国家権力の行使を含むため、AIシステムを操作する誘惑は司法の廉潔性に対する構造的リスクをもたらし、既存の倫理的枠組みではいまだ対処できていない。
注目点
ブラジルの他の裁判所もここ数週間で同様の試みを検出している。スペイン司法制度最高評議会は1月に裁判官のAI利用を規制するガイダンスを発表したが、スペインなどの国はGalileuに匹敵するAIシステムをまだ法廷に導入していない。法律専門家らは、積極的な依頼人防御と法廷詐欺の線引きが、慣行の拡大前に明確に確立される必要があると警告している。
こういう要約が、毎朝あなたのメールに届きます。
ブラジル事件は、高度な利害が関係する機関におけるAI導入における根本的な緊張を示している。裁判所が数千ページの文書をより効率的に処理するためAIを配備する際、悪意のある行為者が悪用できる新たな脆弱性が生じる。その技術であるプロンプト・インジェクションは新しいものではなく、学術的文脈(教授による学生剽窃検査)、採用(候補者の区別)、サイバーセキュリティなど様々な場で現れている。法律への適用が特に微妙な理由は、法制度が国家権力を行使し、自動化への抗し難い圧力を生み出すテキスト量を処理することにある。ブラジルで検出された詐欺は、AIに「私たちのために判断させる」という意味で判決を下させる試みではなく、むしろより微妙な計画だった。情報の整理と提示のプロセスを操作することにより、判事に到達する前に証拠を削除または隠蔽することである。この区別が重要なのは、真の危険が司法判断の置き換えではなく、判事が行動する情報環境の腐敗であることを示しているからである。
法律専門家と規制当局からの対応は、リスクへの認識を示しているが、同時に法律がいかに遅れているかも明かにしている。スペイン司法制度最高評議会は1月に裁判官によるAI利用を規制するガイダンスを発表し、文書分析と分類のための使用を許可しており、これはブラジルで悪用された正確な機能である。スペイン自体はGalileuのようなAI裁判所システムをまだ持たないが、専門家はそれがその方向へ進むと予想している。より深い課題は、弁護士Abel Gendeが指摘するとおり、専門倫理である。弁護士は合法的な手段で依頼人を防御する義務と裁判所を欺かない義務の両方を有している。進行中の事件の間に法律事務所間で送信される文書に指示を隠す誘惑は強力であろう。専門家の間での合意は、プロンプト・インジェクションが法的手続で日常的となる前に、法的かつ倫理的な境界が明確にすぐに引かれなければならないというものである。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
