数年ごとに、不正業界は「すべてを永遠に変えてしまう」とされる新しい技術を発見します。
ベンダーが現れ、カンファレンスのパネルディスカッションは活気づき、LinkedIn には不正検知の未来について自信満々な予測があふれます。この分野で十分な期間働いていれば、そのパターンはすぐに見分けがつくようになります。かつて、ルールエンジンが EC 向けのスケーラブルな不正防止を約束したときにも同じことがありました。機械学習が登場し、専門家主導のルールは時代遅れになると言われたときにも、再び同じ光景を目にしました。さらには、ブロックチェーンによって不正が数学的に不可能になるとまで言われた短い時期さえあったのです。
今日では、注目の的はLLM と AI エージェントに移っています。同じような議論が繰り返される一方で、こうした主張は以前にも増して誇張されたものになっています。現在の語られ方では、不正対策の専門家は、彼らが構築してきたルールや機械学習モデルとともに姿を消すだろうと示唆されています。AI がすべてを「勝手に処理してくれる」と主張する人さえいます。
そんなことは決して起こりません。
過去20年間で、不正防止の分野では多くの技術が採用されてきました。それぞれの技術が新たな機能をもたらし、大規模な運用の改善に貢献してきましたが、いずれの技術も、それ以前から使われていたツールを完全に置き換えることはありませんでした。
不正検知システムで機械学習が主流になっても、ルールが消え去ることはありませんでした。高度に自動化されたフィンテック企業であっても、ルールは手動審査チームを排除しませんでした。同様に、LLMが今後しばらくの間、それらのどちらかを完全に置き換えることはないでしょう。
実務家の現実
理由は、ハイプサイクルから一歩引いてみれば明らかです。詐欺防止は、ひとつのアルゴリズムで解決できる単一の問題ではありません。さまざまなツール、さまざまなプロセス、そして異なる専門知識を必要とする、複数の業務上の課題の集合体なのです。
一度そういう見方をすると、テクノロジーに関する議論は、現場の実務経験に根ざしたノウハウというより、漠然とした未来論のように聞こえてきます。工房で家具を作っている大工を思い浮かべてみてください。大工は、ハンマーがノコギリに取って代わるかどうかや、ドリルがケガキ用ナイフの必要性をなくすかどうかを議論したりはしません。道具はそれぞれ異なる役割を果たし、複数の道具を組み合わせることで、はじめて仕事が成り立つのです。
LLM の登場によって、これらの能力が突然無効になるわけではありません。むしろ、既存のツールの使われ方を改善する新しい種類のツールが導入されたのです。しかし、その理由を理解するには、まず AI が登場する以前に、現代の不正検知システムが実際にどのように機能していたのかを振り返る必要があります。
現代的で多層的な不正防止戦略
多層的な不正防止策というとき、多くの場合はユーザーのライフサイクル全体を通じて監視することを指します。ユーザーはサインアップ時、アカウントの利用時、そして支払いまたは出金時など、複数のタイミングで評価される可能性があります。このようなレイヤリングは、ユーザーの行動のどの段階で不正検知を行うかに焦点を当てたものです。GenAI がこのスタックの中で本当に価値を発揮できる場所をどのように判断しているかについては、金融サービスにおける GenAI を以前に取り上げた記事で説明しました。
しかし、同じくらい重要なもう一つのレイヤリングの形があります。それは、同じイベントに対して異なる検知手法を重ねて適用することです。これは、多くの成熟した不正対策プログラムが最終的に行き着くアーキテクチャです。典型的な不正防止システムには、運用上の異なる課題を解決する3つの中核的なレイヤーが含まれています。
最初のレイヤーは機械学習モデルです。これらは行動および取引に関する大量のシグナルを分析し、統計的なリスクスコアを算出します。このレイヤーによって、1日に数百万件のトランザクションをスコアリングできるスケールが実現されます。これは、どれほど優れた人間のチームでも、グローバル規模で安全に対応することは不可能な水準です。
第2層は専門家主導のルールです。これらのルールはアナリストによって発見された不正パターンをコード化したもので、チームが新たな攻撃に素早く対応できるようにします。適切に設計されたルールは、モデルが見逃したり、まだ学習していない特定のパターンを正確に狙い撃ちするための精度を提供します。
第3層は手動審査です。人間の調査担当者が、自動化されたシステムでは確実に解決できない複雑または曖昧なケースを分析します。この層は、アルゴリズムにはない外部コンテキストや業務上の知見を取り入れた判断を提供します。
これらのレイヤーが連携して機能することで、不正検知のさまざまな側面を解決できます。モデルは母集団をリスク帯にセグメント化し、ルールは特定のパターンや既知の例外ケースを処理します。調査担当者は、スピードよりも精度が重要となる残りの事象を対応します。
多くの成熟した不正対策プログラムは、最終的にこのレイヤー型アーキテクチャを採用します。自動化、精度、そして運用コストのバランスが取れているからです。
しかし、そのような構造が整うと、別の疑問が浮かび上がってきます。AI は実際のところ、この仕組みの中でどのような役割を果たすのでしょうか。私たちは第4のレイヤーの出現を目の当たりにしているのでしょうか。
そうでもありません。
不正検知システムを支える手作業のプロセス
LLM とエージェント型 AI を既存の検知手法と比較すると、その「スーパーパワー」がすぐに明らかになります。エージェントは、多くの条件や例外ケースを含む問題の解決を得意としています。これまでは、このような問題はルールや機械学習では自動化が難しく、その結果として、人間に任せるしかありませんでした。しかし人間は、私たちの多層防御の中で最もコストが高く、かつ制約の多いリソースなのです。
LLM はそのようなタスクの自動化において高い効率性を発揮します。では、そのタスクとは具体的に何なのでしょうか？
不正防止における手作業というと、多くの人は通常、ケース調査を思い浮かべます。アナリストが不審なアカウントを精査し、裏付けとなる書類を確認し、リスクの高い事象について最終判断を下している様子を想像するのです。これは多くの不正対策チームにおいて最も目に見える手作業のプロセスですが、調査は物語の半分に過ぎません。
あらゆる自動化された不正検知システムの裏側には、目に見えにくい別の手作業のプロセス群が存在します。これらのプロセスは、自動防御の調査・開発・運用保守を中心に行われています。
ルールは自動的には作られません。機械学習モデルも自分で学習してくれるわけではありません。アナリストやデータサイエンティストが、不正のパターンを調査し、検知ロジックを構築し、その性能をテストし、本番環境へデプロイし、時間の経過とともに有効性を監視する必要があります。この研究開発プロセスは非常に労働集約的です。不正対策アナリストは、データセットを探索し、パターンを特定し、ルールを作成し、モデルの性能を評価し、本番システムで発生する異常を調査することに、数え切れないほどの時間を費やしています。
これは、水平または垂直方向のタスク分解として表現したほうが効果的です——いわば「不正検知アナリストの一日」をイメージしてください。読者である実務者にとって、より具体的で共感しやすい構成になります。特に、AI が実際に人間からどの業務を肩代わりしているのかを示すことが目的の場合に最適です。
言い換えると、不正防止における手作業には、次の二つの形態があります。
- ケースレベルの調査：アナリストが個々の事象を精査し、それが不正に該当するかどうかを判断します。
- 自動化システム向けの研究開発：チームは、大規模な検知を支えるルールやモデルを設計・維持します。
私は、この調査負荷をAIが引き受けている具体的な事例を、いままさに不正対策チームが活用すべき5つのAIユースケースの中で紹介しました。
これら2つの手作業プロセスに気づくと、AI、特にエージェント型AIの役割がはるかに明確になります。ですが、それはAIが不正対策チームそのものを置き換えてしまうという意味なのでしょうか？
それでも人間が重要である理由
これらの新たな能力を踏まえると、エージェント型AIが、現在使われている技術ではなく、不正対策の専門家そのものを置き換えてしまうのではないかと考えるのは自然なことです。実際には、このような結果になる可能性は低いと考えられる理由がいくつかあります。
1つの課題は、再現性と一貫性に関わる点です。機械学習モデルやルールエンジンは、同じ入力が与えられれば決定論的な出力を生成します。対照的に、LLM は同一のプロンプトを与えられても、わずかに異なる応答を生成することがあります。このばらつきにより、LLM を高リスクな環境における唯一の意思決定エンジンとして用いることは難しくなります。
もう一つの課題は、信頼性と説明責任です。不正検知システムは、銀行や決済などの規制産業で運用されることがよくあります。組織は、なぜ特定の判断が下されたのかを説明できなければならず、また自社の検知システムが規制要件に準拠していることを確実にしなければなりません。
そのため、エージェント型AIには人間による監督が依然として不可欠であり、とりわけ幻覚（ハルシネーション）のリスクや再現性に関する課題を克服するうえで重要です。これはまた、エージェント型システムが、最初の設計段階から透明性の高い運用を前提として構築されなければならないことも意味します。
エージェントが単に結果を吐き出すだけでは不十分であり、利用したすべての情報源、実行したデータ分析の手順、そして矛盾するデータや欠落しているデータがあればそれを明示することが求められます。これらがなければ、エージェント型システムは依然として、機械学習モデルとほとんど同じようなブラックボックスのままです。
最後に、不正行為そのものが本質的に敵対的な問題です。不正行為者は、検知システムの弱点を突くよう設計された新たな手口を常に試しています。経験豊富なアナリストは、自動化されたシステムでは見落とされがちな、微妙な行動パターンを見抜くことがよくあります。こうした人間ならではの洞察は、効果的な不正防止のための重要な要素であり続けています。
したがって、AIの役割は不正対策の専門家を置き換えることではなく、スタック全体にわたって彼らの能力を増幅させることです。
エージェント型AIと手動審査：調査担当者のコパイロット
手動による審査は、これまでも常に不正防止業務におけるボトルネックとなってきました。調査には多くの時間がかかり、社内外に分散したさまざまな情報源から専門的な知見を集約する必要があります。
典型的な調査担当者は、意思決定に取りかかる前に、公開データベースを検索し、加盟店のウェブサイトを確認し、取引履歴を突き合わせるのに20分ほど費やすことがあります。こうした作業の多くは、判断を下すというよりも、情報を収集して整理・統合することに時間が割かれています。まさにこの部分で、LLM が大きな支援を提供できます。
AIエージェントは、社内システムやOSINTソースから関連するデータを自動的に収集できます。取引履歴を要約し、不審なパターンを強調し、関連するコンテキスト情報を整理して提示できます。これにより、アナリストはすでに豊富なデータセットが揃った状態から調査を開始できます。
例として、加盟店のオンボーディング調査を考えてみましょう。AIエージェントは加盟店のウェブサイトを分析し、商品説明の不整合を特定し、事業所の住所が他の不審な申請に登場していないかを確認することができます。
データ収集に20分費やす代わりに、アナリストは結果の解釈と最終判断に集中できます。エージェント型AIは人間の調査員の必要性を完全になくすわけではありませんが、業務負荷を軽減するのには役立ちます。AIエージェントは、よくある反復的なケースのうち、既知の不正パターンに合致するものを自動的に処理することができます。
残された複雑な調査においては、Agentic AI によってアナリストの業務が改善されます。案件の裏付けとなるデータセットを一から組み立てる代わりに、調査担当者はそのデータを解釈し、判断を下すことに集中できるようになります。
エージェント型AIとルール：専門家の知見をスケールさせる
専門家が設計したルールは、不正防止において依然として最も効果的な手段の一つです。適切に設計されていれば、非常に特定的な不正パターンを高い精度で捉えることができ、機械学習モデルよりも容易に修正できます。
しかし、これらのルールを維持するには継続的な努力が必要です。不正のパターンは急速に変化し、攻撃者が行動を適応させるにつれて、ルールは時間とともに劣化していきます。そのため、アナリストは多くの時間を費やさなければなりません。
- パフォーマンスの監視
- 新たな傾向を特定すること
- 既存のロジックを調整して精度を維持する
このプロセスには大規模な分析作業が伴います。アナリストは、不正と強く相関するパターンを特定するために、大量のデータセットを調査しなければなりません。また、想定されるルール条件を検証し、誤検知率を評価し、不正者の手口が変化してもそのルールが有効であり続けるかどうかを見極める必要があります。私は、この反復的なプロセスを最初から最後まで解説しています（不正検知ルールを安全にリリースする方法）。
LLM は探索的データ分析のアシスタントとして機能することで、こうした取り組みを加速します。アナリストはモデルにデータセットを与え、新しいルールが必要になり得る相関関係を表面化させることができます。本来であれば何時間もの手作業によるピボット分析が必要だったパターンを特定しながら。
同様に、LLM は既存ルールのパフォーマンス分析にも役立ちます。あるルールの誤検知率が上昇し始めた場合、AI システムはその背後にあるデータセットを分析し、精度を回復させうる具体的な修正案を提案できます。アナリストはそれらの提案を精査し、運用上妥当かどうかを判断します。
しかし、だからといって LLM が突然、熟練した不正検知アナリストになるわけではありません。人間の実務者は、不正パターンの背景にある文脈だけでなく、それらが運用されるビジネス上の文脈も理解しています。その一部は、システムの安全性と事業成長との間の微妙なバランスを保つことです。もう一つは、偏ったデータセットが誤った結論につながりかねない場面を見極めることです。
しかし、リサーチと分析のプロセスを加速することで、LLM は少人数の不正対策チームの成果を大幅に高めることができます。アナリストは、何時間もかけてデータセットを手作業で探索する代わりに、最も有望なアイデアの評価に集中できるようになります。
エージェント型AIと機械学習：研究開発を加速するフォースマルチプライヤー
機械学習モデルは、現代の不正検知システムの中核となっています。これらのモデルは、大規模なデータセットに対してスケーラブルなスコアリングを提供し、複数の行動シグナル間に存在する複雑な関係性を捉えることができます。
つまり、効果的な不正検知モデルの構築は決して容易ではありません。開発には次のような要件があります。
- 特徴量エンジニアリング
- データラベリング
- アルゴリズムの実験
- 継続的なパフォーマンス監視
これらすべてには、多大な時間と高度な専門知識が求められます。
AI はこれらの開発サイクルを加速するのに役立ちます。たとえば、LLM はテキストや非構造化データの中から、従来のモデルでは見落とされがちな有意なパターンを見つけ出すことで特徴量エンジニアリングを支援します。また、データサイエンティストが新たなセグメンテーション戦略を検討したり、モデルの性能が低下し始めた特定のサブ集団を特定したりすることも可能にします。
もう一つの重要な用途が、モデルの説明可能性です。機械学習モデルはしばしばブラックボックスのように振る舞うため、アナリストは特定の取引がなぜ高いリスクスコアを受けたのかを理解するのに苦労します。LLM は、こうした複雑な出力を人間が理解しやすい説明に変換することで、アナリストが不審な事象を調査・検証しやすくします。
この透明性により、社内での分析と社外へのコミュニケーションの両方が向上します。カスタマーサポートチームは、誤って取引を拒否されたユーザーに対して、その判断理由をより分かりやすく説明できるようになり、不正検知アナリストはモデルのパフォーマンス上の弱点をより容易に特定し、修正できるようになります。その結果、プロダクトチームは、不正対策が顧客体験にどのような影響を与えているかを、より明確に把握できるようになります。
改めて強調すると、LLMの役割はモデルそのものを置き換えることではありません。むしろ、モデルの開発・保守・解釈といった周辺のプロセスを改善することにあります。
将来の不正対策スタック
エージェント型AIの登場は、ルールベース、機械学習、あるいは手動による調査の終焉を意味するものではありません。むしろ、不正防止システムの進化における次の段階を示すものです。
ルールは今後も、特定の不正パターンに対して的確なロジックを提供し続けます。機械学習モデルは、巨大なデータセット全体にわたってスケーラブルなリスクスコアリングを提供し続けます。人間の調査担当者は、文脈に基づく推論や判断が求められる複雑な案件を引き続き担当します。これらの柱がなくなることはありません。
しかし、AI は今やこれらすべてのレイヤーを縦断する形で組み込まれ始めており、それぞれの動き方を改善しつつあります。
エージェンティックAIは、調査においてアナリストを支援し、ルールやモデルに関するリサーチを加速させることで、すでにチームの業務の進め方を変えつつあります。詐欺対策部門は、より少ないリソースでより高い成果を上げ始めており、担当者は手作業でのデータ統合から離れ、最も困難で対立的な問題の解決に集中できるようになっています。
将来の不正対策スタックは、テクノロジーか人間かの二者択一ではなく、その両方を効果的に組み合わせたものです。この仕組みの中で、AIは新たなレイヤーというよりも、スタック全体を貫いて機能する「力の増幅装置」として働きます。