不正対策やコンプライアンス業務に携わっているなら、すでに自分のキューの中でディープフェイクや合成文書の兆候を目にし始めている可能性が高いでしょう。
AI を活用した不正行為は急速に増加しており、実行するハードルもどんどん下がっています。現実的な顔や動画、書類をほとんど手間をかけずに生成できる新しいツールが次々と登場しています。かつては高度な技術が必要だったことも、今では数回クリックするだけでできてしまい、その手軽さがあらゆる業界で不正行為の増加を招いています。
問題は、既存の多くのシステムがこの種の不正を見抜くことを前提に設計されていないことです。さらに今では、AI生成の身元情報や合成メディアに関する新たな規制が登場しており、リスク管理チームには、ディープフェイクによるなりすまし不正を効果的に検知し、阻止できる能力が求められています。
このガイドでは、さまざまな種類のディープフェイク、その悪用方法、そしてリスク管理チームがそれらを検知する方法について解説します。
ディープフェイクの種類とその拡散方法
ディープフェイクは、誰かが本物であるかのように見せたり、見た目を変えたりする目的で、AIによって生成・加工された画像や動画のことです。それらはより広い概念である「合成メディア」に分類され、不正対策チームとコンプライアンスチームの双方にとって共通の課題になりつつあります。
詐欺師たちは、合成IDの作成、KYCにおけるディープフェイク検知チェック時の映像や音声のなりすまし、さらには紛争処理や保険金請求において合成文書を使って検知をすり抜ける手口を生み出すなど、さまざまな攻撃にディープフェイクを利用しています。
さまざまな種類のディープフェイクについて見ていきましょう。
部分的な顔モーフィングとAIによる顔入れ替え検出
部分的な顔モーフィング（アイデンティティ・クローク）は、見た目を完全に隠さなくても、顔の特定のパーツだけを変えることを可能にします。これは、他人の顔の特徴をブレンドしたり、目の色を変えたり、鼻の大きさを調整したり、あごのラインを変えたり、顔をリアルタイムで細く見せたり丸く見せたりできるモデルを使うことで実現できます。これらのモデルはごくわずかな処理能力しか必要としないため、詐欺行為を行う者は、遅延や分かりやすい不自然さを生じさせることなく、リアルタイムのビデオ配信中に自分の見た目を変えるために利用します。
完全にAI生成された顔
完全にAIで生成された顔は、DALL-E、SDXL、Midjourney、Stable Diffusion などの生成AIモデルを使い、ゼロから作り出されます。攻撃者は、性別、人種や国籍、居住地、さらには職業といった条件に基づいて人物の画像を生成するよう、AIに簡単に指示できます。例として、これらがどのような見た目になるかを示すために、不動産業者（realtor）の画像を生成するよう ChatGPT に依頼しました。
一般に公開されているAIツールに加えて、詐欺用ツールキットがダークウェブ上で販売されており、詐欺を目的とした極めてリアルな画像や動画を簡単に作成できるようになっています。
顔の入れ替え
フェイススワップは、ある人の顔を別の人の顔に置き換える技術で、現在オンラインで最もよく見かけるディープフェイクの一種と言えるでしょう。画像や動画をアップロードするだけで、こうしたディープフェイクを作成できるツールは数多く存在します。下のGIFでは、私たちのマーケティングチームのメンバーの顔をイーロン・マスクの顔と入れ替えている様子を見ることができます。
顔の再現 / リップシンク
フェイス・リアナクトメント（顔の再演）やリップシンクを使うと、実在の人物の顔写真やスクリーンショットを、別の人物の表情や口の動き、動作のスピードに合わせてアニメーションさせることができます。オンライン上でもいくつかの例を見たことがあるかもしれません。たとえば、ポッドキャストでジョー・ローガンがスティーブ・ジョブズにインタビューしている偽の映像や、アルベルト・アインシュタインが講義をしている録画などです。以下の動画では、CNBCアンカーのアンドリュー・ソーキンが、その一例としてのクリップを共有しており、彼自身と共同アンカーの顔を使って同じことを行った映像が紹介されています。
これらのディープフェイクは通常、いくつか特定の方法で拡散されます。その提示のされ方を理解することで、どのようなシグナルを手がかりに見抜けるのかを判断するヒントになります。
- 物理的な提示：これは、通話中や対面での本人確認の際に、スマートフォン、タブレット、コンピューターモニターなどの物理的なデバイス上でディープフェイクが表示される場合を指します。詐欺師はよく、カメラに向かって自分のスマートフォンをかざして動画を再生したり、画像を見せたりして、自分の言っていることが本当だと信じ込ませようとします。
- ビデオインジェクション：これは、フィンテックアプリに組み込まれたライブネスチェックやオンライン会議などのプラットフォームに対して、仮想カメラやブラウザプラグインを通じて動画ストリームを送り込む形で行われるディープフェイクを指します。
- 改ざんされたメディア：これは、政府発行の身分証明書、法人登記書類、銀行取引明細書、請求書、住所証明書類などの、合成または改ざんされた文書・画像・動画を指します。詐欺師は、こうした資料を本人確認のオンボーディング時や、異議申し立て、返金請求、経費精算の申請などを行うポータル経由で提出することがよくあります。しかし、これらは他にもさまざまな種類の詐欺や詐取行為に利用される可能性があります。
- 画面共有： これは、画面共有セッション中にディープフェイクが表示されたり、事前に録画されたプレゼンテーションに埋め込まれて再生されたりすることを指します。詐欺師は、ユーザーを巧みに誘導してだまそうとするときや、ライブのビデオ通話に直接映像を差し込めない場合に、こうした手口を使うことがあります。
ディープフェイクは詐欺にどのように利用されるか
ディープフェイクは、詐欺およびマネーロンダリング対策（AML）チームの双方に影響を与える、幅広い詐欺手口で利用されています。本人確認や信頼性の検証が行われるあらゆる場面――オンボーディング、ログイン、支払い、異議申し立てなど――でディープフェイクが使われており、その検知は詐欺対策・AML対策の双方にとって最優先事項となっています。以下では、詐欺師がディープフェイク技術を悪用している主なケースをいくつか紹介します。
なりすまし（アイデンティティ）詐欺：攻撃者は、顔全体を生成したり写真を合成したりして、目視チェックをすり抜ける架空の人物像を作り出し、オンボーディング用フォームに入力します。これらの画像は、でっち上げられた個人情報（PII）と組み合わされ、口座開設や各種サービスへの登録に利用されたり、複数の偽プロフィールをつなぎ合わせて一つの詐欺ネットワークを構築するために使われます。
KYC の回避：詐欺師は、バーチャルカメラ検知回避ツールや録画済み動画、あるいはリアルタイムの再現映像をセルフィーのライブネスチェックに入力し、システムにユーザーが実在していると信じ込ませます。
ソーシャルエンジニアリング詐欺： ディープフェイクは、なりすましの電話やメッセージを裏付ける素早い視覚的な「証拠」を与え、標的の警戒心を弱めます。攻撃者は動画を短くし、背景ノイズや遅延を紛れとして加えたうえで、被害者に送金の承認や、通常とは異なる手段での認証情報の共有を急かします。
求職者のディープフェイク詐欺： 最近、増加 しているのが、合成動画や偽の顔写真を使って リモート面接 を突破する手口です。詐欺師が採用されてしまうと、あなたのデータや知的財産を盗み取ったり、あなたの会社や顧客をだましたり、「高コスト地域に住んでいる」と偽って実際ははるかに物価の安い地域に住みながら給与差額で不正な利益を得るといった行為に及ぶ可能性があります。
偽情報と風評被害による攻撃：有名人による偽の推薦コメントやスピーチが作られ、暗号資産のポンプ＆ダンプ詐欺や架空の投資プログラムなどの詐欺を宣伝するために利用されることがよくあります。また、市場を操作したり、虚偽の情報を拡散したり、企業やブランドの評判を傷つけたりする目的で、経営幹部や著名人になりすますためにも使われます。
不正請求の証拠： 攻撃者はディープフェイクを使って、チャージバックや返金、保険金請求のためのもっともらしい「証拠」を作り出します。この種の合成証拠を用いた詐欺は、ECにおける紛争でますます一般的になっています。彼らは配達時の映像を編集して、荷物が届いていない、あるいは盗まれたように見せかけたり、偽の事故動画を作成したり、返金要求を裏付けるために領収書や請求書を改ざんしたりします。場合によっては、詐欺師が荷物が盗まれる様子を映した偽のインターホン（ドアベル）動画や、「別の商品」が配達されたように見せる画像を生成し、人間による確認なしで即時返金を引き出そうとすることもあります。
セクストーション／恐喝：これらの詐欺は主に若い世代を狙い、しばしばソーシャルプラットフォーム上で始まります。攻撃者はディープフェイクのツールを使って、被害者のわいせつな偽画像や動画を作成し、金銭を支払うか金融口座へのアクセスを渡さない限り、それらを公開すると脅します。この種の悪用は世界中のソーシャルプラットフォームや政府にとって大きな懸念となっており、デジタルアイデンティティ保護に焦点を当てた新たな法律や、わいせつなディープフェイク画像の禁止措置を促す要因となっています。
偽アカウントとボットファーム：詐欺師たちは、生成された顔写真や動画を使って偽アカウントを作成し、詐欺的な出品や販売者を本物らしく見せかけます。ECサイトやオンラインマーケットでは、存在しない商品で支払いをだまし取ったり、露出を増やしたりするために、偽の商品ページ、レビュー、店舗情報などの形で現れます。一部のインフルエンサーは、フォロワー数を水増しして見せるために偽フォロワーを利用し、企業からのタイアップ投稿の報酬をつり上げることもあります。
アカウント乗っ取り：セルフィーによる生体認証チェックに依存したアカウント復旧やパスワードリセットのフローにおいて、ディープフェイクが正規ユーザーになりすますために利用されます。一度認証に成功すると、攻撃者は認証情報をリセットし、多要素認証（MFA）を回避して、アカウントを完全に掌握することができます。
検出に関する誤解
ディープフェイクを見抜く方法については、いくつか根強い誤解があります。ここでは、不正行為者が本当に知っておくべきことを説明します。
神話その1：ほとんどのディープフェイクは動きがカクついている
現在では、ほとんど遅延なくディープフェイクを生成できるモデルが存在します。一般的には、顔の差し替えにおけるピクセルの一致度が高くなるほど、より多くのCPU/GPU帯域を必要とするため、遅延が大きくなります。しかし詐欺師たちは、より軽量なオフプレミスのモデルを使うことで、遅延や画質の粗さ（ピクセルの荒れ）なしに高解像度のディープフェイクを作り出しています。
神話その2：映像がカクついていたら、誰も本物だとは信じない
ラグは、ただインターネット接続が悪いだけのように見えます。実際のところ、詐欺に使われるディープフェイクの信ぴょう性を高めてしまうことさえあります。詐欺師は「今いる場所は電波が悪くて、通信状態がよくないんだ。ガソリン代が必要で困っている」などといった話をでっち上げます。本人であることを示すために短い通話を行い、その後は自分たちの得意なテキストでのやり取りに戻すのです。
神話その3：多くのディープフェイクは一目でわかるように見える
たしかに、ディープフェイクの中には、目が不自然だったり、歯が変だったり、雑なフォトショップのように見えるものもあります。しかし攻撃者は、そうした違和感が目立たないように、やり取りを短く切り上げてテキスト中心に切り替えます。また、時間帯や照明、カメラの角度などを利用して、よく知られているこうした兆候を隠そうとします。さらに重要なのは、詐欺師はできるだけだましやすい相手を狙っているという点です。質の低いディープフェイクにだまされてしまう人は、より“おいしい標的”だと見なされてしまいます。
神話その4：メタデータで画像が本物か偽物か証明できる
メタデータは、ExifTool や ImageOptim のようなツールを使えば編集したり削除したりできます。また、画像を保存し直したりスクリーンショットを撮ったり、動画を再エンコードしてタイムスタンプを消したりすることで、メタデータを上書きすることも可能です。ほとんどのソーシャルプラットフォームは、アップロード時に自動的に EXIF データを書き換えたり削除したりします。偽の画像を見抜くための手がかりになることはありますが、真正性を証明する決定的な根拠にはなりません。
神話その5：ライブネスチェックは絶対に誤らない
ライブネスチェックの有効性は、それがどこで、いつ、どのように実施されるかによって決まります。ライブネスチェックはKYCや強化されたデューデリジェンスのフローでは一般的ですが、採用面接やカスタマーサポートの通話などではほとんど使われていません。さらに、導入されている場面であっても、システムによっては依然としてイレギュラーなケースで失敗することがあります。
私たちはディープフェイクツールや仮想カメラを使って、自撮りのライブネスチェックを回避することができました。最も効果的な方法は、動画解析、デバイスインテリジェンス、行動バイオメトリクス、人によるレビューを組み合わせた多層的なアプローチです。
ディープフェイク検出のベストプラクティス
ディープフェイクによる攻撃は、ますます高速化・低コスト化し、見抜くことが難しくなっています。不正対策チームには、視覚的な分析だけに頼らず、ツールの進化に合わせて適応できる検知手法が求められます。 目的は、すべての偽物を目視で見破ることではなく、リスクシグナルを早期にあぶり出す多層的なコントロールを構築することです そして、合成コンテンツがあなたのワークフローをすり抜けることをより困難にすることです。
- なりすましツールに注意してください。仮想カメラ、エミュレーター、画面共有の映像などの兆候を監視し、とくにVPNやプロキシなどの位置情報なりすまし検知シグナルと組み合わさっている場合は要注意です。これらはセルフィー認証やビデオによるオンボーディング、実際のカメラ映像が使われるはずのあらゆるセッションで頻繁に見られます。
- 映像の不自然さに注意してください。動画内で起きていることを、ユーザーの実際の環境と比較しましょう。動画では夜なのに、その人の所在地は昼間を示しているような場合は、要注意のサインです。採用面接では、交通状況や人気のレストラン、近隣の地域など、その土地の人なら知っているようなことを質問して確認しましょう。
- 事前にレンダリングできない動作を求めてください。ユーザーに対して、頭を横に向けてもらう、顔の前にある物を手に取ってもらう、ランダムな指示に従ってもらうなど、予測できない行動をさせてみましょう。ディープフェイクモデルは、人間の顔とその動きを追跡するように設計されています。モデルの追跡能力を妨げると（例：手や書類で顔の片側を隠すなど）、モデルは顔の半分だけをうまく一致させることができず、本当の人物像がにじみ出てきます。これは、ライブで行うKYCセルフィーチェックや面接、オンライン会議などで最も効果を発揮します。
- 既知の参照メディアと画像を比較しましょう。動画や画像を、検証済みの身分証写真、過去の通話記録、または既存のデータベース上のセルフィーと照合します。これは、リピーター顧客の審査、継続的なKYCモニタリング、すでに基準となる画像を取得している従業員の本人確認などに特に有効です。
- 細かな行動のサインに注意してください。ディープフェイクはフレームごとに見ると完璧に見えることがありますが、動きが不自然になる場合があります。まばたきの不自然さ、体のこわばった姿勢、モデルが更新される瞬間の一瞬のフリーズなどに注目しましょう。また、顔の一部だけが動き、もう一方の側や一部が「固まって」いるように見える部分的な動きにも注意してください。こうした違和感は、インタビューやオペレーターへのエスカレーションなど、時間の長い対話の中で特に目立ちます。
- デバイスとセッションのシグナルを相互に照合しましょう。不正検知のためには、ここでのネットワークシグナル分析が非常に重要です。同じデバイスID、ブラウザフィンガープリント、またはIPレンジが複数のユーザーにまたがって現れる場合、高い確率で連携された、あるいは人工的に生成されたアクティビティを扱っていると考えられます。このチェックは、オンボーディング時やアカウント作成が急増しているタイミングで特に重要です。
- 背景の音声を確認してください。ディープフェイクのツールは、部屋の空気感（ルームトーン）や反響音、キーボードの打鍵音といった微妙な音を見落としがちです。こうした不自然さは、自然な環境が想定されるライブ面接やサポート通話の場面で見抜くことができます。
- 別のデバイスに切り替えさせましょう。相手がディープフェイクのモデルを使っている疑いがあり、ノートパソコンを使っているようであれば、スマートフォンに切り替えるよう依頼してください。これらのモデルはデバイス間で一致せず、多くはモバイル端末では動作しません。
- 多層的な防御を構築しましょう。ディープフェイクを検知する最良の方法は、複数種類のチェックを組み合わせて使うことです。書類の真正性確認、セルフィーやライブ動画でのチェック、デバイスインテリジェンス、行動バイオメトリクス、人によるレビューを組み合わせましょう。 これらの一部はユーザーに気づかれないようバックグラウンドで静かに実行してフローの摩擦を抑え、リスクシグナルが現れたときに他のチェックを発動させます。戦略的にレイヤーを重ねることで、ユーザー体験を損なうことなく、早い段階で合成メディアを見抜くことができます。
ディープフェイク検知にSardineを活用する
Sardine は、オンボーディング時や追加認証、ログインフロー、ライブビデオ会議などにおいて、ディープフェイクを検知するのに役立ちます。私たちは、独自のデバイス情報や行動シグナル、カメラ検知アルゴリズムを、合成メディアや改ざんの試みを特定するために構築したカスタムルールと組み合わせることで、これを実現しています。
当社の人事チームも、この技術を使って、採用プロセスを不正に操作しようとする偽の応募者を見抜いています。
また、プラットフォーム外でディープフェイクが行われている場合でもリスクチェックを実行できる、新しい手法も開発しました。たとえば、誰かに Google Meet のリンクを送るとします。そのページには当社の SDK を埋め込めないとしても、実際のミーティングにリダイレクトする前に、デバイス情報や位置情報をすばやく収集できるカスタムの Sardine URL を送ることができます。
ディープフェイク検知ソリューションの詳細にご興味がありましたら、お気軽にお問い合わせください。デモを予約。
よくある質問（FAQ）
バーチャルカメラとは何ですか？
実際のウェブカメラ映像の代わりに、録画済みまたはAI生成の動画を出力するソフトウェア型のカメラフィードのことです。ZoomやTeams、ブラウザベースのセルフィーチェックにライブディープフェイクが差し込まれる仕組みの多くは、これを利用しています。
顔入れ替えツールとは何ですか？
リアルタイムまたは動画作成時に、ある人物の顔を別の人物の顔に重ね合わせるソフトウェア。これらのツールは顔マッピングモデルを使って表情や照明を再現し、あたかも別の人が話している、あるいは通話に参加しているかのように見せます。
ディープフェイク詐欺に対抗するために、どのような規制が制定されていますか？
リアルタイムや動画制作中に、ある人物の顔を別の人物の顔に重ね合わせるソフトウェアです。これらのツールは顔マッピングモデルを使って表情や照明を真似し、あたかも別の人が話している、あるいは通話に参加しているかのように見せます。
ディープフェイク詐欺に対抗するために、どのような規制が作られてきましたか？複数の国が、合成メディアに関する規制を強化しています。米国では、複数の州が悪意のある、または本人の同意のないディープフェイクを禁止する法律を可決しており、さらに2023年の大統領令によって、透かし（ウォーターマーク）の付与や開示に関する全国的な目標が定められました。
新たな「TAKE IT DOWN 法」は、同意のない親密なAI画像の共有を犯罪として扱います。EUのAI法は、AI生成コンテンツの透明性と表示（ラベリング）を義務付けています。デンマークでは、人々に自らのデジタルな肖像に対する所有権を与える法律案が作成されています。韓国、英国、オーストラリアも、有害なディープフェイクの利用に対して刑事罰を導入または提案しています。
全体として、多くの地域では、ディープフェイクを利用した詐欺を防ぐために、明確な開示を義務付け、なりすましを犯罪化し、デジタルアイデンティティの枠組みを強化する方向へと進んでいます。
疑わしいディープフェイク案件を、どのように素早く見極めればよいですか？
最も強力な技術的シグナルから確認してください。デバイス層で、仮想カメラ、エミュレーター、リモートデスクトップセッションがないかチェックしましょう。
次に、VPN、プロキシ、データセンターのIPなどに関するネットワークデータを確認します。そのうえで、視線の動きの欠如、姿勢が固定されていること、発話と顔の動きの間の遅延といった行動指標を組み合わせて評価します。
複数のシグナルカテゴリが一致した場合は、直ちに手動審査に回してください。客観的な重み付けリスクスコアリングを用いることで、アナリストは主観的な判断ではなく、高い確度の異常検知に優先的に集中できます。
いつ自動拒否、ステップアップ、または手動審査へのルーティングを行いますか？
モデルの信頼度に基づいたルールベースのしきい値を使用してください。
・高い確信度で検出されたなりすましや、既知の悪質クラスターに一致するデバイスは、自動的に拒否されるべきです。
・中程度の確信度の結果や、一部のシグナルが重なっている場合には、アクティブ・ライベネス検知や第二の本人確認書類による確認などのステップアップを行うべきです。
信頼度は低いものの異常なセッションは、標準化された処理コードを用いて手動審査のキューに回す必要があります。
しきい値を文書化し、フロー間で一貫性を保つことで、ノイズを増やすことなく、チューニングや再学習に活用できるデータを確保します。
面接官やサポート担当者に、ライブチャレンジの実施方法はどのようにトレーニングしていますか？
ライブでのチャレンジは、雑談ではなく体系立てられた検証プロセスとして扱いましょう。どのプロンプトを使うか、どれくらいの速度で応答すべきか、どのシグナルを記録するかを定義したSOP（標準作業手順書）を作成してください。エージェントは「正常な状態」がどういうものかを理解し、推測に頼らずにレイテンシー、姿勢のフリーズ、フレーム落ちなどを見分けられるようにする必要があります。すべてのセッションを同じ方法で記録し、そのデータがスムーズに再学習に活用できるようにしましょう。
サンプルスクリプト：
「あ、続ける前に、ちょっとだけ本人確認をさせてください。顔の前に指を4本立てて、カメラのほうを向いてもらえますか？」
―「ありがとう。それじゃあ、近くにある物を何か一つ、例えばスマホとかカップとかを手に取って、動きが確認できるように少しの間そのまま持っていてもらえますか？」
―「もう少し光の当たる場所か、窓の近くに寄ってもらえますか？ 身分証に反射やまぶしさが出ていないか確認したいだけです。」そうしたちょっとした動作だけで、事前に用意されたものや
正規ユーザーに気づかれることなく映像ストリームを差し替える行為です。エージェントがいつエスカレーションしたり手動審査のフラグを立てるべきか判断できるよう、想定される遅延やフレーム応答時間に関する社内向けガイドラインを追加してください。