AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年11月20日 16:00

Claude Desktop応答を2段階で検閲する仕組み

LINEで送る
Claude Desktop応答を2段階で検閲する仕組み

3つのポイント

  1. 何が起きたか

    スクリプトはmacOSのアクセシビリティAPIでClaude Desktopのウインドウを読み取り、各回答を切り出して3秒ごとに画面を再読込し、同じテキストを2回読んで初めて回答が完了したとみなす。

  2. なぜ重要か

    第2段階には直近のユーザー発話と自動差し戻しの注記が渡されるため、やり直した回答は単独ではなく元の指示と照らして判定される。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
スクリプトは回答が完了したとどう判断するのか?
3秒ごとに画面を走査し、同じテキストが2回続けて読まれた場合に限り最新の回答を完了とみなす。それ以前の回答は即座に判定され、60文字未満の回答はスキップされる。
第2段階のAIが利用できない場合はどうなるのか?
APIキーがない場合、レビュースクリプトが見つからない場合、または呼び出しが90秒以内に戻らない場合、第2段階のチェックはスキップされ、回答はPASSとして扱われる。ただし第2段階のみの設定でAPIキーがない場合、監視は起動時に停止する。
スクリプトは同じ回答を差し戻せる回数を制限しているのか?
いいえ。差し戻し回数に上限はなく、抵触が見つかるたびにmacOSの通知が表示される。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

企業はAIをどう選ぶようになった? ChatGPT、Copilot

AIworkerの分析で、新規企業AI導入相談のChatGPTシェアは2025年66%から2026年28%へ低下し、Microsoft CopilotとGeminiが各35%に達した

NEWITmedia AI+2時間前

リーマン予想の証明2本が同日公開、AI形式化と12年がかり

Levent Alpögeが4ページのremark.pdfを公開し、Claudeと共にリーマン予想の証明を見つけたと主張

NEWZenn AI/ML2時間前

Claude新モデル、ツール呼び出し強制指定を400エラーで拒否

Opus 5.5(2026年9月22日)、Sonnet 5.5(9月28日)、Fable 5.1(9月1日)はtool_choiceのanyとtoolを400エラーで拒否し、Anthropicはtool_choice:…

NEWZenn AI/ML2時間前

ゴムマリ、海外問い合わせ一次対応AIを11月21日提供開始

Gomumariは2026年11月21日から、多言語の問い合わせを読み取り、根拠付きで過去事例を検索し、一次返信の下書きを作成するAIエージェントの提供を始める

NEWASCII.jp5時間前

ゴムマリ、台帳と帳票の突合AIエージェントを11月21日から販売

Gomumariは2026年11月21日、PDFやExcelの台帳と注文書・納品書・請求書を読み不一致行を理由付きで返すデータ突合AIエージェントを販売する

NEWASCII.jp5時間前

ゴムマリ、営業データ分析AIエージェントを11月21日提供開始

Gomumariは2026年11月21日、営業データ分析AIエージェントの提供を開始する

NEWASCII.jp5時間前
次の記事へAppleが自律型AIエージェント開発のエンジニア募集