すべての不正対策チームが知っておくべき重要ポイント：
- 偽造された政府発行の身分証明書は、ビットコインで約50ドルを支払えば、わずか数秒で作成できます。1万点以上を販売していたそのサイトには、カスタマーサポートやTelegramチャンネル、特徴的なデザインまで用意されていました。見つけるのも難しくありませんでした。
- リアルタイムの動画ディープフェイクは、今や一般消費者向けのゲーミングハードウェアで動作します。プレミアムプランには、技術導入のための通話サポート、サポートチーム、新規購入者の審査プロセスが含まれています。
- 音声バイオメトリクスは、一般公開されている音声から5分で作成したクローン音声で突破できます。ポッドキャスト、報道インタビュー、公開講演のいずれかがあれば、学習データとして十分です。
- こうしたAI詐欺の手口自体は目新しいものではありません。変わったのは、誰かがそれらを組み合わせ、スキルの低い実行者でも仕掛けられる、組織的な個人情報攻撃としてパッケージ化したことです。
- こうしたAI詐欺を可能にするツールは、人身売買の被害者が大規模な詐欺活動を強制されている詐欺拠点が利用するのと同じTelegramチャンネルで販売されています。両者は別々の世界ではなく、一つのサプライチェーンでつながっています。
- AI詐欺に引っかかるのは高齢者や世間知らずの人だけだという思い込みこそ、被害をさらに拡大させる原因になります。ツールが十分に安価になったことで、もっともらしい攻撃を仕掛けられる人の数が大幅に増えたのです。
ジョセフ・コックスはサンフランシスコで開催されたSardineConの基調講演で、自らも荒唐無稽に聞こえると認める出来事について語り始めた。
配偶者、息子、あるいは娘から電話がかかってきたとしましょう。話し方の抑揚もテンポもいつもどおりなのに、何とは言えないほんのわずかな違和感がある。そこで当然、FaceTime（とても会社員らしいご家庭ならZoom）でビデオ通話をしようと頼みます。相手が応答すると、確かに本人です。ただ、動きにもどこか少し不自然なところがある。すると、ジョセフが「本当に正気とは思えない質問」と呼んだことを尋ねる羽目になります。「身分証明書の写真を送ってくれる？」
家族にそんなことを頼むなんてあまりにも馬鹿げている、と相手は気分を害します。それでも、ソファで撮った写真が送られてきて、あなたは安心します。そこで初めて、ギフトカードの購入や送金を求められるのです。
ジョセフは、その一連の手順をすべて自ら実行している。彼は404 Mediaの共同創業者で、犯罪者が購入しているものを自分でも買い、実際に機能するかどうかを検証するという手法を取っている。個々の手順はどれも簡単だと彼は言う。まだ誰かが実行するのを見たことがないのは、それらを一つにつなぎ合わせることだけだ。
偽造IDはビットコインで約50ドル、わずか数秒で手に入る
Josephは、Telegramで「John Wick」というハンドルネームを使う人物が運営するOnlyFakeというサイトを実際に操作してみせた（そう、運営者は署名まで含めて映画に心酔していた）。彼は約50ドル相当のビットコインを入金し、国と書類の種類を選び、氏名と生年月日を入力して写真をアップロードすると、わずか数秒で偽造書類を入手できた。APIまで用意されているため、購入者はCSVを読み込ませて偽造書類を一括作成することもできる。
最初のバージョンは平面的な画像として出力されました。これは問題でした。というのも、本人確認（KYC）を行う銀行は、実物の書類を撮影した写真を求めるからです。当然ながら、OnlyFakeは背景を追加し、購入者がライブラリから選んだり、自分でアップロードしたり、ランダムに生成したりできるようにしました。ライブラリには屋外用家具の一部や、ジョセフいわく「史上最も不快なカーペットの一つ」も含まれていました。いずれにせよ、身分証明書はカーペットやテーブル、あるいは誰かの膝の上に置かれ、まるで実際に人が撮影した写真のように見える仕上がりになりました。
ジョセフは自分用に旧式の英国パスポートを作り、暗号資産取引所の本人確認で試したところ、審査を通過した。ただし、試したのは書類の確認だけで、顔照合の段階は一度も試していない。
FBIは運営者を逮捕し、1万点を超える偽造身分証明書を販売した罪で起訴した。逮捕も起訴も、彼が有罪を認めるまで公表されず、その間に何があったのかは不明のままで、ジョセフは今も調査を続けている。
しかし当然ながら、サイトを閉鎖しても、その能力自体がなくなったわけではない。研究者のJane Wongは市販のツールを使い、身分証明書と、それを手に持った自身のセルフィーの両方を生成した。また、GoogleのNano Banana Proを使ってパスポートを生成する人々もいる。ベンダーが脱獄手法を修正するたびに、購入者はまだ対策されていない別の主流モデルへと移っていく。他のあらゆるAI安全性の問題で繰り返されているのと同じガードレール対策のいたちごっこが、今や政府発行の身分証明書をめぐって起きており、修正しても問題の所在が移るだけだ。
リアルタイム動画ディープフェイクがゲーミングノートPCで動作可能に
ジョセフは、「Yahoo boys」として知られる恋愛詐欺を仕掛けるナイジェリア人詐欺師たちが、ビデオ通話中にリアルタイムで姿を変える映像を紹介した。会話の途中で、黒人男性がひげを生やした年配の白人男性に変身する。別の人物は、携帯電話上で男性から女性へと姿を変える。
仕上がりは粗い。リングライトを使い、ときにはウィッグもかぶる（ソフトウェアはまだ髪の毛をうまく処理できない）。映像の品質も、映画の特殊効果というより、出来の悪いZoomフィルターに近い。それでも十分に通用し、実際に毎日のように被害者が出ている。
プレミアムプランにはサポートチームが付いてくる
さらに、その上のプランもあります。ジョセフは、ある人物が自分の顔を入れ替えた映像に負荷テストをかけているクリップを再生しました。顔に光を当てて動かしたり、頬をつまんで皮膚を伸ばしたり、片目ずつ閉じたりしても、偽物だと見破れるような破綻は一切ありませんでした。
彼らが使っていたのは中国語のツールで、きちんとしたカスタマーサポートに加え、24時間365日の対応や、導入時の技術説明を受けるための通話まで付いていた。動かすには本格的に高性能なゲーミングPC（最低でも4080 Super、16GBのDDR5）が必要で、利用料は年間約2,000ドル。となれば当然、ジョセフは購入した。
この手続きには1か月以上かかった。売り手側がまず購入希望者を審査し、冷やかしをふるい落とすためにPCのスペックを尋ねることもあるからだ。手持ちの機器で最も高性能なのがPS5というジョセフは、筋金入りのPCゲーマーである共同創業者のエマニュエル・マイバーグに連絡し、本気で購入する意思があることの証明として業者に転送するため、彼のPC環境のスクリーンショットを送ってもらわなければならなかった。
ようやくデモ通話にこぎ着けると、相手は香港の俳優の顔をリアルタイムでディープフェイク表示しており、その後、女性の顔に切り替えた。特定の人物を再現するカスタムモデルは数百ドル余計にかかるため、ジョセフは料金を支払い、これまで撮った中でも最悪の自撮り写真を数枚送った。そしてライブ通話で、誰かが自分の顔をまとっているのを目の当たりにした。母親にも見せたところ、彼女でさえ本物だと信じ込んだ。
今や、ここまで来ている。サポートチームを備え、なりすましをサブスクリプションとして販売するサービス事業だ。
このソフトウェアは、ミャンマーやカンボジアの詐欺拠点が利用するのと同じTelegramチャンネルで販売されています。そこでは、人身売買の被害者がこうした詐欺行為を大規模に行うことを強制されています。一つのサプライチェーンが、市場の両端を支えているのです。
音声生体認証ではAIによる音声クローンを阻止できなかった
英国にあるジョセフの銀行では、顧客が「私の声が私のパスワードです」と言うことで本人認証を行えます。彼はElevenLabsを使い、生成された台本を読み上げて自分の声を複製しました。その台本は（誰にも理由は説明できませんが）官能的な恋愛小説で、彼はオフィスの自席でそれを演じる羽目になりました。その後、複製したフレーズを銀行の音声案内に合わせて電話に聞かせると、認証に成功しました。自分の口座にログインし、残高を確認するところまで、すべてできてしまったのです。
そのクローン音声は、出来がそれほど良かったわけですらない。「password」と発音するときのリズムが微妙に不自然で、アクセントの位置がずれているように聞こえる。それでもシステムは受け入れたため、問題にはならなかった。しかも、これはわずか5分で作成した即席のクローンだ。ElevenLabsには、より自然な音声を生成できる30分の「プロフェッショナル」版もある。標的が公開講演をしたり、ポッドキャストの司会を務めたり、報道機関のインタビューを受けたりしたことがあれば、30分程度の音声素材など簡単に集められる。音声認証に依存するAIネイティブな不正対策チームは、これを理論上のリスクではなく、実証済みの障害モードとして扱うべきだ。
すべてに共通するもの
偽造ID、ディープフェイク、音声クローンはいずれも何年も前から存在していました。変わったのは、その基盤技術を学びたくない購入者向けに、誰かがそれらをパッケージ化したことです。Josephは、身分証明書、顔の入れ替え、音声を個別に販売し、購入者がそれらを組み合わせて1回の通話に利用できるマーケットを見つけました。彼が購入した中国製ツールにはリアルタイム翻訳機能が搭載されているため、英語をまったく話せないオペレーターでも英語で通話を進められます。
年間数千ドルもする高機能ツールにも需要はあるが、Play ストアでいたずらアプリを装って配布されている無料ツールでさえ、すでに多くの人をだませるほどの性能を備えている。
ジョセフは、警告の対象を広く捉えていた。彼は、私たちがAIを悪用した詐欺に対処する準備ができているとは考えていない。それは業界や企業としてだけでなく、社会全体としての話だ。詐欺に引っかかるのは高齢者や世間知らずの人だけだという考えは、彼の言葉を借りれば、偏見に満ちた誤りだ。今ではツールが十分に安価になり、もっと多くの人が巧妙な詐欺を仕掛けられるようになった一方で、だまされる可能性のある人の数はまったく減っていない。
よくある質問
AIネイティブな不正対策チームは、偽造ID生成ツールについて何を理解しておくべきですか？
OnlyFakeのような偽造ID生成サービスにより、50ドル相当のビットコインとTelegramアカウントさえあれば、誰でも精巧な文書偽造を行えるようになりました。こうしたツールは、説得力のある公的文書を数秒で生成し、実物らしい背景に配置できます。また、実際の暗号資産取引所の本人確認フローを突破できることもテストで実証されています。文書ベースの本人確認を実施する不正対策チームにとって、これは仮説上の脅威ではなく、実際に確認されている回避手段です。
リアルタイムの動画ディープフェイクはどのように機能し、なぜ不正防止において重要なのでしょうか？
リアルタイム動画ディープフェイクツールは、一般消費者向けのゲーミングハードウェアを使用し、ビデオ通話中に人物の顔をリアルタイムで別の顔に置き換えます。プレミアムプランは、カスタマーサポートと購入者審査を備えたサブスクリプションサービスとして提供されています。出力品質にはばらつきがあるものの、ライブでの会話中に相手を欺くには十分です。動画を用いたライブネスチェックやリモート面接プロセスを利用する不正対策チームにとって、これらのツールは、実際に大規模に悪用されていることが確認されている攻撃手段です。
音声クローンで銀行の音声認証システムを突破できますか？
はい。ポッドキャストのエピソードや記者インタビューなど、一般公開されている音声を使って5分で作成した音声クローンが、実証テストにおいて英国の大手銀行の音声認証システムを突破することに成功しました。クローンは完全なものではありませんでしたが、それでもシステムに受け入れられました。音声バイオメトリクスを主要な認証手段として利用している不正対策チームは、これを既知の脆弱性として認識し、多層防御を講じる必要があります。
AI詐欺が2年前よりも阻止しにくくなっているのはなぜですか？
AI詐欺を構成する個々の要素、すなわち偽造文書、ディープフェイク動画、音声クローンは、何年も前から存在していました。変わったのは、これらが今や、技術的なスキルがなくても実行できる、組織的ななりすまし攻撃の一式として提供されるようになったことです。低価格のツールは、一般的なアプリストアやTelegramチャンネルで入手できます。高機能な有料ツールには、カスタマーサポートや導入支援まで付いています。説得力のあるAI詐欺を仕掛けるハードルが大幅に下がったため、実行できる人の数も著しく増えています。
