私は20年以上にわたり、統計学と機械学習を駆使して不正行為と闘ってきました。
私がキャリアを始めた当初は、機械学習はまだ不正対策チームの主要なツールではありませんでした。当時、多くの企業は WAF や CAPTCHA、静的データベースといった従来型の手法に頼って、不審な行為をブロックしていました。
今日では、機械学習とAIが、不正行為の検知において多くの重要な役割を担っています。特に、不正パターンの発見、異常検知、リスクスコアの算出などに大きく貢献しています。機械学習ベースのシステムは、変化する脅威にリアルタイムで対応するうえで非常に効果的であるため、多くの組織がすでに導入しているか、あるいは導入を検討しています。その代表例が、不正防止のための機械学習です。機械学習アルゴリズムは、幅広いタスクを処理し、データを分析してパターンを見つけ、膨大なデータ量に基づく意思決定を支援することができます。
ここ最近の生成AIやChatGPTをめぐる盛り上がりを受けて、詐欺防止の分野でGenAIが機械学習に取って代わるのか、またどのような場面で機械学習とGenAIを使い分けるべきなのかとよく質問されます。
私の考えはこうです👇。
重要なポイント
- GenAI が近い将来、不正防止において機械学習に取って代わることはありません。GenAI は、従来型のデータセットから不正リスクを見つけ出す用途にはあまり向いていません。教師あり学習や教師なし学習の機械学習モデルの方が、不正防止にははるかに適しています。
- 教師あり学習では、勾配ブースティング決定木が主力モデルであり、たいていの場合はそれだけで十分です。異常なイベントシーケンスにフラグを立ててアカウント乗っ取りを検知するようなイベントベースのモデルを構築したい場合でも、Long Short Term Memory（LSTM）モデルで事足ります。
- K近傍法（KNN）や異常検知のためのアイソレーションフォレストのような教師なし学習モデルは、クラスタリングや不正グループ（フロードリング）の発見に非常に有効です。
- GenAI は、不正検知やコンプライアンス業務において優れたコパイロットになり得ます。大規模で非構造化なデータセットを分析・要約するために活用できるほか、ルールの作成、紛争処理の支援、さらには疑わしい取引の報告書作成までサポートすることができます。
- 不正行為の発生率は前年比30％、SAR（疑わしい取引報告）の提出件数は前年比15％増加しています。人員やIT予算は、SAR件数や不正発生率ほど速く増やすことはできません。GenAIは、不正行為やSAR提出件数の急増に対応するための最良の手段となる可能性があります。
- GenAI がコパイロットの域を超えて進化するためには、いくつかの重要なデータ品質とガバナンス上の課題を解決する必要があります。
- 理想的な組み合わせは、人間＋ルール＋機械学習（ML）＋生成AI（GenAI）です。
不正防止にはどのように機械学習が活用されていますか？
機械学習を用いた不正防止システムは、アルゴリズムを使って大量のデータを分析し、不審なパターンや異常な行動、データ同士の関係性など、不正の兆候を特定します。
過去のデータとリアルタイムデータを組み合わせて活用することで、機械学習ベースの不正防止システムは、不正が発生する可能性を高い精度で予測できます。さらに、こうしたシステムは通常、時間の経過とともに効果が高まっていきます。新たな不正のパターンを監視する中で、その特徴を素早く学習し、それらの脅威を阻止するように適応していくのです。
これを効果的に行うためには、機械学習モデルを訓練し、「特徴量」を使って継続的に改善していく必要があります。これらの属性や予測因子が、アルゴリズムにパターンの見分け方や予測の立て方を学習させます。私たちは、モデルのトレーニングと特徴量の作成に多くの時間を投資しています（Sardine において）。当社のチームは4,000を超える不正検知用の特徴量を作成しており、通常、四半期ごとに250〜500の新しい特徴量をリリースしています。
生成AIはどのように不正防止に活用されているのか？
ジェネレーティブAIは、詐欺防止および不正検知システムにおいては、まだ比較的新しい技術です。現時点では、不正対策やコンプライアンス業務を支援するコパイロットとして活用するのが最も適しています。
- 大規模な非構造化データセットの分析と要約
- RPAツールでは対応しきれないほど多くの変数を含む事務作業を自動化すること
- ある規則が発動した理由に関する質問に答えること
- リスクスコアリングシステムでルールを作成する際に役立ちます
- 支払いに関する紛争の証拠を準備して提出すること
- SARレポートの記述と活動報告書の提出
皮肉なことに、私たちが見てきたのは、詐欺師たちが現在、GenAI を最も多く活用しているユーザーの一部だということです。彼らはこれらの LLM を使って詐欺行為を大規模に展開し、その手口をより巧妙で効果的なものにしています。
いくつかの例としては、次のようなものがあります。
- 文法が完璧なフィッシングメールやフィッシングメッセージを作成すること
- オンボーディング中に、動画や身分証明書に顔（ディープフェイク）を合成すること
- 電話サポートでの認証を回避するために音声クローン技術を利用すること
- さまざまな詐欺における連絡手段の自動化
このForbesの記事では、AIがどのように不正行為を加速させるために使われているかを深く掘り下げています。
どのツールが不正防止により効果的ですか？
人生の多くのことと同じように、人は白か黒かの二択の答えを求めがちです。イエスかノーか、真か偽か。しかし実際のところ、ここに唯一の正解はありません。目的に合った適切なツールを選ぶかどうかの問題なのです。
1. 不正検知においては、AIより機械学習の方が優れている
GenAI は多くの分野で変革をもたらしています。しかし、詐欺防止には教師あり学習や教師なし学習の機械学習モデルが有効です。これらのモデルは、大規模な統計モデルを扱うのが本来得意であり、より高い確信度をもって結果を提示できます。
生成AIモデルは現代工学の奇跡であり、リスクのあらゆる領域で非常に有用です。
従来型のモデルでは、「Ford」と「car」よりも「Ford」と「farm」のほうがずっと似ていると判断してしまうことがあります。これに対してこのモデルは、学習に用いられた次単語予測用のコーパスに基づいて、言語に対するより深い意味的理解を構築します。
意味のある新しい文章を生成しようとしたり、複雑な状況を理解して要約しようとしたりする場合に、これは非常に有用です。
しかし現在、GenAI は高コストで動作も遅くなる場合があります。これら両方の課題を軽減する方法はあるものの、トランザクション、ユーザー、デバイス、行動シグナルから不正リスクをモデリングする際には、既存のモデルタイプの方が依然として効率的であり、適切なツールである可能性が高いと言えます。
GenAI と大規模言語モデルには、しばしば「幻覚を起こす」という性質もあります。これは、埋め込みを用いて大規模なデータセットから意味を生成するトランスフォーマーアーキテクチャを採用した、オープンソース、クローズドソース、そしてプロプライエタリなモデルすべてに当てはまります。
幻覚はバグではなく、機能になり得ます。それは創造性と問題解決能力であり、より厄介で複雑な問題にも対処できます。詐欺対策チームは、オペレーションチームが多くの時間をこうした対応に費やしていることから、これをよく理解しています。
GenAIは、生の数値計算や統計モデリングにおいては、既存の機械学習手法ほど強力ではありません。
著者のイーサン・モリックは、GenAI と LLM を「けっこう優秀な人たち」と呼んでいます。彼らは創造的で問題解決も得意ですが、常に 100％ 正確というわけではありません。
トランザクションデータやユーザーデータ、ウェブベースのデータセットなどに対して、行動やアクティビティのパターンを統計的に分析しようとする場合、機械学習モデルのほうがはるかに高い堅牢性を発揮できます。
2. 機械学習は最も費用対効果が高い。
ほとんどの金融機関や加盟店は、機械学習（ML）が本来発揮できる力のごく一部にしか、まだ触れていません。
不正対策チームやコンプライアンスチームは、この機能が必要だと理解しているものの、多くの場合、モデルを構築するための投資やエンジニアリングリソースが不足しています（1、2社の顕著な例外はありますが）。私たちが見ている中で最大規模かつベストプラクティスを掲げる企業でさえ、そのモデルは、ビッグテックやアドテックで想定されるようなスケールにはほど遠いのが現状です。機械学習の機能を、スケーラブルかつターンキーな形で利用できるようにすることには、非常に大きなポテンシャルがあります。
機械学習は、不正やコンプライアンスリスクの防止・検知・報告において、性能が大きく向上することになります。現在、多くのモデルは小規模で、限られたデータセットに依存しており、不正対策チームは外部データへのアクセスが不十分なために大きく制約を受けています。
教師あり学習において、機械学習の実務家のあいだで最も知られていない“秘訣”は、勾配ブースティング決定木（GBDT）が主力モデルであるということです。さらに、GBDTは、試行錯誤の履歴が織り込まれた構造化データに対して、常に堅実な性能を発揮してきました。また、より高度な分野であるRTPや暗号資産（クリプト）関連の不正検知では、CNNやGNNモデルも活用されるようになっています。
異常なイベントシーケンスを検知してアカウント乗っ取りを検出するイベントベースのモデルを構築したい場合は、シーケンスモデルも十分に有効です。
最後に、K近傍法（KNN）やアイソレーションフォレストのような異常検知のための教師なし学習モデルは、クラスタリングには十分です。この一次データセットを用いることで、グラフ化の手法が不正行為の輪（フロードリング）を見つけるのに役立ちます。
3. GenAI は不正対策とコンプライアンス業務における優れた副操縦士です
私は、GenAIにとっての「ロー・ハンギング・フルーツ」は、不正対策とコンプライアンス業務におけるコパイロットだと考えています。多くの組織は、人員の10％から30％をコンプライアンス関連の業務に費やしています。
現在、不正対策およびコンプライアンスの担当チームは、予算が増えない中で、増え続ける不正やSAR（疑わしい取引の届出）の件数に対応しようとしています。業務の多くは手作業であり、その多くがデータ要約の繰り返しや、大規模なデータセットの精査といった作業です。その結果、彼らは最悪のケースにしか注力できなくなっています。
大規模言語モデルを使えば、退屈な事務作業の最大90％を自動化できます。その結果、追加の人員を増やすことなく、はるかに多くの不正を検知・防止し、より多くのSARを報告できるようになります。
生成AIはまさにこの用途にうってつけであり、Sardine ではすでに複数のユースケースが本番稼働しています。
最高リスク責任者向けコパイロット | 最高リスク責任者は「今日時点で自分のプラットフォームの全体的な健全性はどうなっているのか？」といった質問をすることができます。 |
アナリスト向けコパイロット | アナリストはルールに関する推奨事項を求めることができます |
オペレーション コパイロット | 案件を審査するために必要なさまざまなタスクをまとめてつなげる |
テキストからSQLへ | 取引モニタリングのルールを自然言語で書くだけで、適切なSQLを自動生成します |
4. データガバナンスとデータ品質は、GenAI を効果的に活用するための重要な要素である
LLM が副操縦士以上の役割として、パフォーマンスを大きく向上させられる分野が数多くあると想像できます。
LLM がより大きな効果を発揮し得る例のひとつは、イベント系列モデリングによるアカウント乗っ取り検知です。しかし多くの場合、問題は優れたモデリング手法がないことではなく、良質なラベル付きデータが不足していることです。私の経験では、どの企業も「どのログインが本当にアカウント乗っ取りだったのか／そうでなかったのか」という優れたラベルを十分に収集できていません。
まずはその問題を解決しよう。そうすれば、あとのことは自然とうまくいく。
不正防止における機械学習と生成AIの比較
まとめると、機械学習とGenAIの両方が不正防止において重要な役割を果たすことは明らかです。これは「どちらか一方」ではなく「両方とも」です。こちらは、Techopediaの人たちがまとめた違いを分かりやすく示した良いチャートです。
いずれ、GenAI ツールは不正対策チームが行っている多くのことをこなして、私たちを驚かせるようになると思います。現在行っている業務です。創造性を発揮し、問題を解決し、新しいルールを生み出して適用することです。
しかし、AI に取って代わられることを心配する必要はないと思います。これらのコパイロットは、私たちの生産性を高め、時間とリソースを解放して、より付加価値の高い業務に集中できるようにしてくれるだけです。
理想的な組み合わせは、人間＋ルール＋機械学習（ML）＋生成AIです。
不正検知モデリングにおける生成AIのユースケースや、うまくいった事例・うまくいかなかった事例について、私より詳しい方々からぜひお話を伺いたいです。