AIToday
AIビジネス・産業TechCrunch AI掲載日時: 2026年7月24日 13:00

AI企業の安全対策が正規のセキュリティ研究者をも制限

LINEで送る
AI企業の安全対策が正規のセキュリティ研究者をも制限

3つのポイント

  1. 何が起きたか

    AnthropicやOpenAIなどのAI企業は悪用を防ぐため厳格なガードレールを導入しているが、この安全対策が、犯罪者より先に脆弱性を発見する正規のサイバーセキュリティ研究者による同じツールの利用を妨げている。6月、米国政府はジェイルブレイク懸念を理由にAnthropicのMythosおよびFableモデルに輸出規制を課したが、その後部分的に解除された。

  2. なぜ重要か

    攻撃側のセキュリティ研究者によれば、ガードレールは矛盾した状況を生み出している。バグが悪用可能かテストするのに必要なプロンプト(防御的な作業)と同じものがAI企業から危険の可能性として遮断されている。NCC GroupのChris Anleyはハンマーの例えで説明した。「ハンマムなしで家は建てられない。確かにツールだが、同時に本質的に武器でもある」。一律の制限はセキュリティ専門家を脅威として扱い、より規制の少ない代替手段へと追い込んでいる。

  3. 注目点

    RemoteThreatのChris Thompsonによると、研究者はGLMなどの未検証のオープンソース中国製モデルへと急速にシフトしており、これらはローカル実行で制限がない。Thompsonは、ガードレールが正規の研究者を米国規制のシステムから遠ざけると防御側が「AI競争」に負ける可能性があると警告し、AI企業に対して「プログラムを開放し、責任あるアクセスを提供し、ツールを悪用する者に説明責任を求める」ことを呼びかけた。制限をさらに厳しくするのではなく。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AI安全対策の有効性と有用性との間の緊張は予期しない結果をもたらした。重要なシステムを防御するのに最適な立場にある研究者が、最も能力の高いツールの使用をブロックされているのである。6月のAnthropicモデルに対する米国政府の輸出規制措置はジェイルブレイク懸念に基づくものであり、AI企業がセキュリティ制限をいかに真摯に扱うようになったかを示した。しかし、複数の研究者がTechCrunchに語ったように、ガードレールは攻撃側の人物と防御側の研究者を区別しない。両者が潜在的な脅威として扱われている。

何十年にもわたってゼロデイ脆弱性を西側政府向けに発見してきたMark Dowdは、自身の立場に偏りがあることを認めつつも、核心的な不満を言い表した。「これらの無作為の大企業がセキュリティにおいて何が安全で何が安全でないかについて恣意的な決定を下しているのは本当に心地よくない」。Chris Anleyのハンマーの喩えは、この問題の不可能性を強調している。防御用に開放されながら同時に攻撃用には閉鎖されるツールは存在しえない。防御的作業がブロックされた場合、研究者はより規制が少ない代替案(外国のオープンソースモデルを含む)へ移行し、米国のサイバーセキュリティ全体を実際に弱める可能性がある。

よくある質問
セキュリティ研究者を支援するためにAI企業はどのようなプログラムを提供しているか。
OpenAIはTrusted Access for Cyberプログラムを、AnthropicはCyber Verification Programを提供している。どちらも、一般公開版より少ないサイバーセキュリティ制限でモデルへのアクセスを申請できる検証済み研究者を対象としている。
研究者がガードレールに不満を持つ理由は何か。
バグ悪用を支援するようAIに求めることは、脆弱性が実在し修正が必要であることを確認する重要なステップだが、ガードレールはしばしばこうした要求を直接ブロックしている。Chris Thompsonはガードレールが一貫性に欠け、日ごとに異なることを指摘し、研究者は「コアセキュリティプログラムに取り組む代わりにモデルとの交渉に時間を費やす」羽目になると述べた。
研究者の代わりに何をしているか。
複数の研究者がガードレールのないオープンソースAIモデルやGLMのような未検証の中国製モデルをローカルで実行することで対応している。その他の研究者は攻撃的な作業にAIを使うことを完全に回避し、脆弱性発見に自らの専門知識に頼っている。
TechCrunch AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事