生成AIの高度化により、実在の人物と見分けのつかない画像・音声・動画を容易に生成できるようになった。こうしたディープフェイクは、偽情報の拡散にとどまらず、人物のなりすましによる送金詐欺、本人確認の突破による不正口座作成、保険請求等における証拠の偽造など、金融犯罪にも用いられている。
対抗手段となるディープフェイク検出技術は、生成時に透かしや来歴情報を付与する能動的手法と、生成物そのものを分析する受動的手法の双方で研究・実用化が進んでいる。一方、未知の生成器や実環境下での精度低下、検出回避攻撃への脆弱性など、検出技術単独による防御には限界がある。
本レポートでは、ディープフェイクの社会的影響と検出技術の全体像を整理し、技術・企業・規制の動向を概観する。さらに、金融取引の防御に向けた今後の課題と提言を示す。
（技術調査協力：日本電気株式会社 セキュアシステムプラットフォーム研究所 AIトラストチーム）
▼目次
ディープフェイクの社会的影響
ディープフェイクとは
ディープフェイクが金融犯罪にもたらす構造変化
金銭的被害を伴うディープフェイク犯罪の3類型
ディープフェイク検出技術の概要
ディープフェイク検出技術の研究動向
ディープフェイク検出技術の全体像
能動的検出アプローチの基本
受動的検出アプローチの基本
検出技術の最新動向
テキスト／画像／音声／動画における検出技術の動向
マルチモーダルフェイク検出の技術動向
先端的な検出手法のトレンド
社会実装・規制の動向
国内外における検出技術の社会実装状況
金融詐欺に対する各国のディープフェイク規制
生成AI大手による透かし付与と判定ツールの公開
今後の課題と提言
脅威の進化に対する検出技術の課題と対応の方向性
金融取引の防御に向けた多層的な対策
▼執筆者
先端技術ラボ 渡邊 大喜
先端技術ラボ 會田 拓海
先端技術ラボ 稲田 龍人
■ 本件に関する取材依頼等のご相談に関しましては、こちらのフォームよりご連絡ください。
ご連絡の際に、本件のタイトルを件名、または問い合わせ内容にご記載いただきますと、ご案内がスムーズです。
先端技術ラボ 渡邊 大喜
専門領域
先端技術リサーチ
大学院修士課程修了後、NTT研究所を経て、2022年に日本総合研究所に入社。ブロックチェーンやAIエージェント、ゼロ知識証明に関する先端技術のリサーチ業務を行っています。調査レポートの執筆や専門誌への寄稿の他、長年の企業での応用研究の経験を元に、ビジネス活用を見据えた独自技術の創出にも注力しています。アカデミアにおいて国際会議への論文発表も行っており、論文の総被引用数は千件以上。著書に「ブロックチェーン技術入門（森北出版、共著）」があります。
先端技術ラボ 會田 拓海
専門領域
ブロックチェーンや金融×IT領域を中心に、先端技術に関するリサーチ活動、社内外での講演登壇、専門誌への寄稿などの業務に従事しています。また、業務適用に向けた応用研究、国内外の学会・研究会への論文投稿などの研究活動を行っています。
先端技術リサーチ
先端技術ラボ 稲田 龍人
■ 本件に関する取材依頼等のご相談に関しましては、こちらのフォームよりご連絡ください。
ご連絡の際に、本件のタイトルを件名、または問い合わせ内容にご記載いただきますと、ご案内がスムーズです。