深刻化するディープフェイク悪用 — AI生成技術の低廉化で誰でも偽動画・音声を作成可能に

ディープフェイク（AIが生成した偽の動画・音声・画像）の作成ツールが無料または低価格で誰でも入手可能になった。技術改善により、実在しない映像や音声を高精度で作成できるようになり、年来の懸念が現実化している。

従来は専門的な技術と高性能なコンピュータが必要だったが、現在は誰でも無料のアプリやウェブサービスで実行可能になった。結果として、詐欺師が政治家や経営者になりすまして金銭詐欺を仕掛けたり、報道機関を騙したりする被害が実際に起き始めている。

ビジネスパーソンと企業にとって、偽の音声や映像による詐欺や名誉毀損のリスクが急増した。顧客や取引先との信用確認、内部決済の認証プロセスの強化が急務になり、組織内のセキュリティ対策コストが増加する見込み。また学生や求職者は、SNS上の自分の動画が無断で改ざんされるリスクを常に抱えることになる。