
不正検知システムには厄介な点があります。個々の要素はどれももっともらしく見えても、全体としては迷路のような振る舞いをしてしまうことがあるのです。
ひとつルールを直す。いいですね。モデルをチューニングする。素晴らしい。手動審査フローを整理する。とても責任感のある対応です。なのに、どこか別の場所で、別のルールやパートナーからのレスポンス、支払いルーティングの判断、KYCチェック、AIエージェント、デバイスインテリジェンスのシグナル、あるいは3四半期前のどこかで忘れ去られていたロジックが割り込んできて、「絶対にダメだ」と言い出したせいで、まっとうなユーザーが結局ブロックされてしまうのです。
今回の「False Positives Masterclass」では、詐欺オーバーライドロジックについてお話しします。これは、成熟した不正対策チームが、複雑な不正対策スタック全体で誤検知を減らす際に使える、より強力なツールのひとつです。考え方自体はシンプルで、理論としてはこうです。スタックのどこかの要素がユーザーをブロックしようとしても、「このユーザーは十分に信頼できる」と強く判断できる場合には、それを認識して守れるよう、システム全体の上位レイヤーにセーフティネットを構築する、というものです。
しかし、理論上は単純だからこそ、多くの悪い不正対策のアイデアが生まれてしまいます。だからこそ、慎重である必要があります。
不正検知システムのオーバーライドは近道ではありません。「なんとなく良さそう」という雰囲気で承認するためのレイヤーでもなく、その下にあるおかしなロジックを無視するための言い訳でもありません。これは、ユーザーをブロックする前に「この人が本当に正当なユーザーであるという、揺るぎない証拠があるか?」と問いかける、管理されたエビデンスベースの仕組みなのです。
それは一見当たり前のことのように聞こえますが、実際にはそうではありません。もし本当に当たり前のことなら、もっと多くのチームがうまくやれているはずです。
このエピソードでお届けする内容:
- なぜ十分に調整された不正防止ロジックでも、誤検知が発生してしまうのか
- 不正防止のオーバーライドロジックが、ルール、モデル、AIエージェント、手動審査、KYCチェック、パートナーからの回答の上にかぶさるセーフティネットとしてどのように機能するか
- 一部の不正検知ルールは決して自動で上書きすべきでない理由
- 既知の優良ユーザーと継承された信頼シグナルが、誤検知を減らすのにどのように役立つか
- なぜ高い露出度の環境が有用な誤検知の指標になり得るのか
- ジオチェイニングは、旅行者や正当な不一致と不正行為をどのように見分けるのか
- なぜ再販売できない商品やリスクの低い商品が、より安全な不正決済の承認に役立つのか
- シャドウモードでのテストと段階的なロールアウトを用いて、不正防止オーバーライドシステムを安全に導入する方法
このエピソードは次のような方におすすめです:
- 不正対策業務に携わっており、自社のスタックに独立したボトルネックが多すぎると感じている方
- 不正検知ルールを弱めることなく、誤検知を減らそうとしている
- アカウント、デバイス、カード、各種フローをまたいで信頼できるユーザーを特定する、より安全な方法が必要です
- 一般的な許可リストを超えた、不正検知のオーバーライドロジックの具体的な実例が欲しい
- デバイスインテリジェンス、ジオチェイニング、手動審査、あるいはチャレンジャールールを、意思決定の精度向上のためにいつ活用すべきかを検討している
エピソードの概要と主なポイント
不正防止のオーバーライドロジックは、スタック全体を覆うセーフティネットです
このエピソードの主なポイントは、誤検知(フォルスポジティブ)を減らす取り組みは、個々の不正検知ルールをチューニングしたところで終わりではない、ということです。それ自体はもちろん有効ですが、たとえすべてのルール、モデル、AIエージェント、パートナーからのレスポンス、手動審査キュー、ペイメントルーティングの判断、KYCチェック、デバイスインテリジェンスのシグナルがそれぞれ単体では妥当であっても、システム全体としては依然として望ましくない結果を生み出しうるのです。
それは、ユーザーがあなたの管理を一つずつ体験するのではなく、全体という迷路として体験しているからです。
ユーザーは、あるルールは通過できても、その後モデルによってブロックされるかもしれません。モデルを通過しても、パートナーからのレスポンスによって保留にされることもあります。KYC を通過しても、今度は支払いルーティングの判断で引っかかるかもしれません。どこかの段階で、システムの一部が「いいえ」と判断してしまうのです。たとえ全体的な証拠から見れば、そのユーザーはおそらく良いユーザーだとしてもです。
そこで登場するのが、不正オーバーライドロジックです。これはスタックの上位に位置し、却下やブロックを取り消すのに十分な根拠があるかどうかを判断します。不正対策のセーフティネットルールの「鏡像」と考えてください。すり抜けた不正を捕まえる代わりに、誤って止められてしまった優良ユーザーを救い出す役割を果たします。
たしかに危険そうに聞こえます。実際に危険になり得ます。だからこそ、設計が重要なのです。
すべての不正に関する判断が覆されるべきとは限りません
最初の設計上の問いはシンプルです。決して上書きしてはならないものは何でしょうか?
ここではチームに規律が求められます。不正対策スタックにあるあらゆるソリューションが、同じ扱いに値するわけではありません。弱いシグナルもあれば、方向性を示すだけのシグナルもあり、文脈の中でのみ意味を持つものもあります。一方で、安易に上書きしてしまうと問題になりかねないほど強力なシグナルも存在します。
たとえば、盗難カードのブラックリストで「このカードは不正利用されている」と判定された場合、端末の位置情報が良さそうに見えるという理由だけで、その判断を覆したいとはおそらく思わないはずです。デバイスインテリジェンスのベンダーが間違っている可能性もありますし、ネットワークがクリーンに見えることもあります。行動パターンが一見正常に見えることさえあるでしょう。しかし、決済手段そのものがすでに不正利用されていると分かっているのであれば、それはまったく別種のシグナルなのです。
これを必要以上に複雑にする必要はありません。すべての不正検知ルールに対応する誤検知ルールを用意する必要もありません。デフォルトでは上書きすべきでないほど強力なソリューションやロジックのグループだけをマークしておけばよいのです。
そのひと手間を加えるだけで、将来の多くのトラブルを防げます。というのも、もしオーバーライド層があらゆるものをひっくり返せるようになっていると、いずれ本来触るべきではないものまで書き換えてしまうからです。
そして、みんなで楽しい会議を開くことになります。楽しいと言っても、全然楽しくないという意味ですが。
優良ユーザー向けのヒューリスティックは、通常の不正対策ルールよりも強力である必要があります
2つ目の設計上の論点は、ブロックされた集団の中から誤検知を特定できるほど十分に強力なヒューリスティックはどれか、という点です。
この点が重要なのは、あなたが検索している対象の母集団が、すでに高リスクだからです。ここにいるのは、通常のトラフィックに含まれるランダムなユーザーではありません。あなたのシステムがすでにブロックすると判断したユーザーたちです。したがって、たとえ上書きルールが元の却下ロジックより高い精度であったとしても、このセグメントにおける不正発生率は依然として通常より高いままなのです。
つまり、優良ユーザーを示すシグナルは、特に強力である必要があります。通常の不正対策ルールよりも、さらに抜け目なく厳密でなければなりません。
あなたが問うべきことは「このユーザーはなんとなく問題なさそうか?」ではありません。それでは不十分です。あなたが問うべきなのは、「不正検知のどこかがこのユーザーを止めようとしたにもかかわらず、このユーザーが正当な利用者だと強く裏付ける証拠があるか?」ということです。
それはより高いハードルです。そうあるべきです。
このエピソードでは、内容を次の4つの有用なロジックの系統に分解しています:優良ユーザー、高リスクな利用環境、地理的な連鎖、そして転売不可またはリスクの低い商品です。どれも鵜呑みにしてそのまま真似すべきではありませんが、それぞれが不正対策チームにとって、実務的な出発点を与えてくれます。
信頼できる既存ユーザーは、新しいアカウントやイベントにもその信頼を引き継ぐことができます
最もシンプルなオーバーライドの対象は、信頼できる既知のユーザーです。長期間にわたり健全な行動履歴を持つアカウントや、高負荷な本人確認を通過したユーザーなど、強い信頼の根拠がある人たちです。
さて、ええ、わかっています。とても基本的な話に聞こえますよね。「良いユーザーは良いユーザーだ。」素晴らしい洞察です。スライドにでも載せておきましょうか。
しかし、興味深い点は、古くから信頼されているアカウントそのものではありません。本当に重要なのは、そうしたユーザーが新しいアカウントや新しい国、新しいフロー、あるいは単発の取引に現れたときに何が起こるかということです。
「新規」ユーザーが、実は本当の新規ではない場合があります。まだシステム上で紐づいていない、再訪ユーザーである可能性があるのです。新しいイベントを、過去の信頼できるイベントと関連付けることができれば、不必要な摩擦を安全に減らせるかもしれません。
このエピソードで挙げられている例は、個人的な体験に基づくものです。複数の国に住んだことがあるために、複数のPayPalアカウントを持っているという状況です。ユーザー体験としては理想的とは言えませんが、コンプライアンス上の要件としては理解できます。重要なのは、プラットフォーム側がデバイスや氏名、過去のアカウント履歴といったシグナルを使って、新しいアカウントを既存のアカウントと紐づけられることです。
それが本当の教訓です。信頼は集めるだけでなく、推し量ることもできるのです。
以前に正当性が確認されたアカウントと同じデバイスと名前を使って作成された新規アカウントは、その一例です。ほかにも、カード情報とIPアドレスの組み合わせ、メールアドレスと同じ商品を購入した履歴の組み合わせ、あるいは名字と完全に一致する位置情報といった、家族関係を示すようなシグナルの組み合わせなどが考えられます。
重要なのは、無作為なつながりを見つけることではありません。無作為なつながりこそが、誤ったロジックに自信を持ってしまう原因になります。重要なのは、新しいイベントを、確実で信頼できる実績のあるイベントと結びつけることです。
高い注目を集める環境では、不正行為が起こりにくくなることがあります
2つ目のグループは、高い露出度の環境です。
詐欺行為を行う者は、通常、自分の本当の身元や勤務先、所属機関、所属組織が明らかになる可能性のある環境を避けます。一方で正当なユーザーは、そのような場所から自然に取引を行うことがよくあります。
それによって、有用な誤検知シグナルが生まれます。
ユーザーが高度に管理されている、あるいは追跡可能なネットワーク環境から取引を行っている場合、不正行為をしている可能性は低くなることがあります。例としては、企業ネットワーク、政府機関のネットワーク、軍事用IPレンジ、大学のIPネットワーク、または大規模な非営利団体のネットワークなどが挙げられます。
だからといって、企業ネットワーク上にいるすべての人が自動的に正当な利用者だという意味ではありません。そんなことは明らかにありません。勘違いしすぎないようにしましょう。
しかし、雇用主や学校、その他の組織に紐づいた監視下の環境から不正行為を行うことは、別の意味でリスクが高い行為です。多くの詐欺師は、抽象的な意味での刑事訴追そのものをそれほど恐れてはいません。しかし、自分の勤め先や大学、所属組織から処分を受けるとなると話は別です。それは、より直接的で即効性のある抑止力になり得ます。
同じ考え方は、管理された配送先にも当てはまります。たとえば軍事基地に送られる荷物は、転送業者にとって都合のよい一般住宅宛ての荷物とは、異なるリスクプロファイルを持つ可能性があります。
繰り返しになりますが、これはあくまで状況次第の話であって、魔法ではありません。ただし適切に精査されていれば、露出度の高い環境は、不正対策のオーバーライドシステムがブロック対象となっている集団の中から正当なユーザーを見分けるのに役立ちます。
ジオチェイニングは、位置情報に基づく誤検知を減らすことができます
地理的な不一致ルールは、不正検知における典型的な誤検知(偽陽性)の原因です。ロジックは誰もが知っています:カードの国がIPアドレスの国と一致しない、請求先の国が配送先の国と一致しない、アカウントの国がログイン元の国と一致しない。こうしたルールが不正を検知することもありますが、一方で、ごく普通の人間の行動をブロックしてしまうこともあります。人は旅行や通勤をし、VPNを使い、きれいに整ったデータベースの行に収まるような行動ばかりはしてくれないからです。
とても配慮に欠けています。
ジオチェイニングとは、地理データをより賢く活用するための手法です。すべての不一致を不審なものとみなすのではなく、その不一致が正当なものである理由を説明できる、地理的な文脈パターンを探し出すアプローチです。
最初のタイプは、特定の場所における地理的な近接性です。IPアドレスがニューヨーク市の請求先住所のすぐ近くに解決されたとしても、それ自体はあまり意味を持たないかもしれません。詐欺者は大都市の近くにあるオープンプロキシを簡単に見つけられるからです。しかし、請求先住所が小さな町や地方エリアにあり、そのIPがその周辺のごく狭い範囲内に解決される場合、それは正当なユーザーであることを示す、より強いシグナルになり得ます。一般的な大都市近郊の近接性よりも、人目につきにくい地域での地理的近接性を偽装する方がはるかに難しいのです。
2つ目のタイプは、国籍と一貫した不一致です。エピソードでは別の個人的な例として、イスラエルでスペインのカードを使ったところ、スペインのBINとイスラエルのIPアドレスの不一致が原因でブロックされたケースが挙げられています。しかし、名前がイスラエル人らしく、IPもイスラエルのものであれば、その文脈は重要になります。スペインのカードを持つ不正利用者であれば、おそらくスペインのIPを使うはずです。スペインのカード、イスラエル風の名前、イスラエルのIPというパターンを、わざわざ複雑に作り込む明確な理由はありません。
それがジオチェイニングの価値です。正当な行動を説明できる、微妙で文脈的な相関関係を見つけ出します。慎重に使えば、不必要な不正リスクを招くことなく、位置情報に基づく誤検知を覆すことができます。
再販売できない商品は、より安全な支払い不正承認を後押しします
第4のカテゴリーは主に決済詐欺に当てはまり、再販売できない商品やリスクの低い商品が該当します。
詐欺師は、たいてい自分が欲しいから商品を盗むわけではありません。転売できるから盗むのです。これが経済モデルです。もしその商品に転売市場がまったくない、あるいはごく弱い場合には、不正リスクを理由に取引を拒否することが、かえって逆効果になることもあります。
例としては、教育関連の商品やサービス、ニッチまたは高度にパーソナライズされた商品、オーダーメイドの家族向けギフト、セラピーセッション、パーソナルトレーニング、その他、個人的な消費を前提とするサービスなどが挙げられます。
これは、私たちが電子機器や自動車部品、ギフトカードをリスクが高いと考える理由を、裏返したような話です。そういった商品は転売が簡単にできます。家族向けにカスタマイズされた、誰かの犬の写真入りマグカップなんてどうでしょう?組織的な詐欺グループにとっては、あまり魅力的ではありません。たぶんですけど。
よく設計された不正オーバーライドシステムでは、転売価値の低さを承認ロジックの一部として組み込むことができます。すべてを承認するための単独の理由ではなく、不正者が好まない取引をシステムが見分けるのを助ける補助的なシグナルとして活用するのです。
その違いは重要です。リスクの低い商品のロジックは、あくまでオーバーライドを支援する役割であり、それだけで全体を支えるべきではありません。
安全なデプロイはロジックと同じくらい重要です
エピソードの最後のセクションはデプロイについてです。なぜなら、ここが良いアイデアが悪いインシデントに変わりうる場面だからです。
初日から全トラフィックの100%に対して不正上書きロジックを有効化してはいけません。まずテストします。慎重に。
より安全なロールアウトは、まずシャドーモードでのテストから始めます。意思決定に影響を与えないようにしたまま、オーバーライドロジックを実行します。想定していた対象にきちんと当たっているかを計測します。個々のケースを確認し、その結果を自分たちの分析と比較します。
その後、チャレンジャールールを導入して、却下の一部だけを上書きし、残りはシャドーモードのままにしておくことができます。トランスクリプトでは例として20%を挙げていますが、具体的な割合は、あなたのリスク許容度やビジネスの状況によって異なります。
その後、30〜60日ほど、あるいは不正が通過させた母集団の中でどのように成熟していくかを把握できるだけ十分な期間、結果を観察します。結果が良好であれば、段階的に拡大します。はっきりしない場合は様子を見ます。不正が急増した場合は、シャドーモードを再び100%に戻し、ロジックを見直してください。
この慎重な段階的拡大によって、決して上書きすべきでない不正検知ソリューションがどれかも明らかになります。もし、上書き設定をすり抜ける不正の大半がごく一部のルールやモデルから生じているのであれば、それらのソリューションは「上書き禁止」の階層に分類すべきかもしれません。
そして、自分が設けた除外条件に対してさらに除外条件を作らなければならない段階にまで来たのなら、おめでとうございます。あなたは周囲をリードしているか、相当疲れているか、その両方でしょう。
最終的なポイント:
不正検知のオーバーライドロジックが強力なのは、重要な点を理解しているからです。誤検知は、必ずしも一つの悪いルールだけが原因とは限りません。ときには、妥当な要素が多すぎるあまり、それらが不合理な形で相互作用してしまうシステムそのものが原因になることもあります。
高度なオーバーライドレイヤーは、成熟した不正対策チームが、すでに強い信頼の根拠を持っているユーザーを承認するのに役立ちます。ただし、それはロジックが精緻であり、シグナルが完全で、ロールアウトが適切に管理されている場合に限られます。
信頼できる既存ユーザーや高露出環境、ジオチェイニング、低リスクなアイテムなどは、すべて誤検知を減らすのに役立ちます。シャドーモードでのテストと段階的な導入によって、誤検知の問題を解決しようとして新たな不正リスクを生まないようにすることができます。
とにかく、それがバランスというものです。安全網はしっかり張りつつも、重力がなくなったふりはしてはいけません。
慎重になりすぎているでしょうか? たぶんそうです。
しかし不正検知システムでは、たいていの場合、賢さよりも慎重さのほうが長い目で見て通用します。
「The Saturday Fraud Strategist」のホスト
フィンテック企業がより賢い不正防止対策を構築できるよう支援します
『The Fraud Fighter’s AI Playbook』の共著者
私の、そしてできればあなたの一番好きなテーマについての会話を、まだ終わらせたくありませんか? ぜひ購読してください:The Saturday Fraud Strategistニュースレター。










