AIToday
AI安全性・アラインメントAI規制・政策AI Weekly掲載日時: 2026年10月31日 16:00

ETSI、AI開発者向けディープフェイク対策規格を公表

LINEで送る
ETSI、AI開発者向けディープフェイク対策規格を公表

3つのポイント

  1. 何が起きたか

    ETSIがTS 104 275を公表。人工知能のセキュリティ確保に関する技術委員会(TC SAI)が策定し、安全な設計、開発、導入、保守、廃止の5つのライフサイクル段階で対策を整理した。

  2. なぜ重要か

    仕様はコンテンツフィルタリング、ラベリング、監視、人による監督に加え、テストシナリオと合否基準を定め、AI組織が設計段階でディープフェイクリスクに対処できるようにする。

誰に効くか生成AIシステムを構築・運用するAI開発者と運用者が直接の対象となる。仕様がディープフェイク対策の実施を示すための要件と合否テスト基準を提供するためだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この仕様は、ディープフェイクリスクの捉え方の変化を反映している。改変コンテンツの検知を主な防御策とするのではなく、ETSI TS 104 275はガバナンスとディープフェイク緩和を、AIシステムのライフサイクル全体で取り組むべき継続的なプロセスとして位置づけ直している。要件を安全な設計、開発、導入、保守、廃止を軸に整理し、事後的な検知だけでなくリスク評価、文書化、人による監督を含めているのはそのためだ。

文書は既存の取り組みともつながる。AIモデルとシステムに関するETSIのEN 304 223標準が定めるサイバーセキュリティの基礎要件を土台とし、EU AI Actが掲げる目標を支える。発表の中で、ETSI TC SAIの報告者兼秘書であるAlex Cadzowは、有害で誤解を招く違法なディープフェイク素材が、合法かつ市販のソフトウェアの悪用によって作成され得ると指摘し、AI組織は生成AIシステムの設計方法から始めて、より早い段階でリスクに対処する支援が必要だと述べた。

よくある質問
ETSI TS 104 275が対象とする範囲は?
生成AIシステムが有害なディープフェイクを生み出すリスクを低減するための対策を定めたもの。本人詐欺やなりすましに使われるものも含む。要件は安全な設計、開発、導入、保守、廃止を軸に整理されている。
仕様を策定したのは誰か?
ETSIの人工知能のセキュリティ確保に関する技術委員会(TC SAI)が策定した。Alex Cadzowが同委員会の報告者兼秘書を務める。
具体的にどのような対策が挙げられているか?
コンテンツフィルタリング、ラベリング、継続的な監視による悪用低減に加え、人による監督と証拠に基づく評価に関する規定が含まれる。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へ無料AIチェッカー判定、10月前半は1日1,657件