昔から「金槌を持つ者には、すべてが釘に見える」と言われます。
GenAI は新しいハンマーであり、フィンテックのあらゆるものが釘のような存在になっています。もっともな話でもあります。というのも、金融サービス業界において、現在 AI の最大のユースケースは、不正検知、リスク管理、コンプライアンスの分野だからです。
この投稿では、GenAI が不正防止、リスク管理、コンプライアンスの分野でどこに価値をもたらすのかを検証し、ユースケース、そしてそれについてサーディンとしてどのように考えているかを紹介します。
生成AIは私たちの業界にとって有用なツールになり得ますが、そうなるためには、既存の手法と何が違うのかを理解する必要があります。
この記事では、〜の違いについて説明していきます。
(1) 機械学習（教師あり・教師なし）：ここで機械学習と言うとき、ロジスティック回帰、決定木、勾配ブースティング決定木のような教師あり学習手法、あるいは k-近傍法（kNN）クラスタリングのような教師なし学習手法を指しています。
（2）ニューラルネットワークたとえば Convolutional Neural Networks（CNN）や Long Short Term Memory Models（LSTM）などのニューラルネットワークは、入力層、一連の隠れ層、そして最終的な出力層から構成され、人間の脳の働きを模倣する機械学習手法の一種です。各層はいくつものユニットからなり、それぞれのユニットはニューロンを模しており（入力に線形変換を施すことで変換します）、通常はあらかじめ定義された損失関数を最小化するように、結合の重みを調整することでニューラルネットワークを学習させます（このとき用いられる手法がバックプロパゲーションと呼ばれます）。
（3）生成AI 例：chatGPT、autoGPT。ニューラルネットワークを拡張したもので、現実的な新しいコンテンツを生成できるように訓練されています。たとえば、非常にリアルな画像（midJourney）を作成したり、人間が書いた文章に近い一貫性のあるテキスト（chatGPT）を生成したりします。生成AIの手法では、しばしば「敵対的生成ネットワーク（GANs）」と呼ばれる手法のように、2つのニューラルネットワークを競わせる仕組みが用いられます。一方のネットワークは新しいコンテンツを生成する役割（ジェネレーター）を担い、もう一方は生成されたサンプルと本物のサンプルを見分ける役割（ディスクリミネーター）を担います。
まず最初に、当社の領域におけるAI/MLの活用事例を理解していただくため、Sardineについて簡単にご紹介します。
SardineAI（略してSardine）とは何ですか？
Sardine は、行動データを取り入れたリスク管理および決済プラットフォームです。タイピングやスワイプ、スクロール、マウスの動かし方、スマートフォンの持ち方などの行動バイオメトリクスに重点を置くことで、他の不正検知・リスク管理プロバイダーと一線を画しています。
現在、私たちは3つの製品を提供しています。
リスク：私たちは、フィンテック企業、銀行、BaaS、決済プロセッサー、ギフトカード交換所、オンラインゲーム／ギャンブル、大麻関連決済、暗号資産（クリプト）などのハイリスク業種を含む、あらゆる金融サービス企業向けの不正対策およびコンプライアンスニーズに対応する統合APIを提供しています。re.
当社が対応している不正防止およびコンプライアンスのユースケースには、次のようなものがあります。
- 口座開設時のKYCおよび本人確認詐欺
- 購入フロー中、またはカードや銀行振込でウォレットに入金する際に発生する決済詐欺
- アカウント乗っ取りログイン時の不正行為
- ユーザーの利用状況全体を通じたフィッシングおよびソーシャルエンジニアリング詐欺の検知
- カードテストや番号総当たり攻撃を検知し、盗難・不正使用されたカードの利用をフラグするための発行側不正検知
- スポンサー銀行OS：スポンサー銀行が自社のフィンテックポートフォリオ全体にわたるKYC/AMLおよび不正対策ポリシーを管理するためのオペレーティングシステム
決済：当社は、詐欺補償とKYC/AMLを組み合わせることで優位性を発揮できる、規制産業向けの決済サービスを提供しています。現在対応している分野には、米国でのACHによる暗号資産オンランプ、および米国とEU/英国を含む80カ国以上でのカード決済が含まれます。
SardineX：私たちは最近、SardineX コンソーシアムの立ち上げを発表しました。これは、銀行、フィンテック企業、決済プロセッサーおよびネットワークが協調して、ACH 不正や認証済みプッシュ決済（APP）詐欺を検知し、さらに 314(b) の規定の下で、他の参加金融機関からの情報を用いて疑わしい取引報告書（SAR）の内容を強化できるようにする仕組みです。
詐欺師こそが、いま最もGenAIを活用しているユーザーです
不正防止が当社の主要なユースケースの一つであることを踏まえると、GenAI は本当に大きな影響をもたらします。多くの場合、新しいテクノロジーを最初に取り入れるのは不正行為者であり、これほど強力な技術にこれほど簡単にアクセスできるようになったのは、これまで一度もありませんでした。
生成AIは、プロンプトや入力に応じて新しいアウトプットを「生成」します。動画や画像、テキストなどを出力することができます。ディープフェイク（別個だが関連する技術）と組み合わさることで、詐欺師にとって次のような新たな手口の可能性が生まれます。
- ロマンス詐欺における動画クローン：すでに詐欺師たちは、魅力的だが実在しない人物のもっともらしい動画を作成し、出会い系アプリなどで人々をだまして、典型的なロマンス詐欺の手口に誘導しています。たとえば、疑うことを知らない被害者からお金を送らせるといったものです。ある調査では、70％の人が本物の声と詐欺で使われた声を聞き分けることができませんでした（最近の調査）。
- 家族を狙った詐欺における音声クローン：詐欺師が誰かの声を複製し、その家族に電話をかけて、あたかも危険な状況にいるかのように装い、お金を要求するケースがますます増えています。この事例では、ある女性が、まるで本当の娘が危険な目に遭っているかのような電話を受けました。
- アカウント乗っ取りにおける音声クローン：銀行や金融サービス業界での認証手段として、音声認証はもはや信頼できるものではありません。なぜなら、誰かの声を数秒録音するだけで、その声を使って生成AIモデルを学習させ、銀行のログイン手続き中に行われるあらゆる質問に答えさせることが非常に簡単だからです。実際にこの例では、詐欺師がある企業役員の声をクローンし、ドバイで3,500万ドルをだまし取っています。
外在的AIと内在的AI：
私たちは皆、オンラインでますます公的な生活を送っており、その結果、私たちの声や写真、そして誰の動画でも簡単にオンラインで見つけることができ、それらはAIによって容易に複製されてしまいます――私たちはこれを「外在的AI」と呼びます。
私たちは、不正防止の未来はボット同士の戦いになると考えています。
イントリンシックAIとは、私たちに固有の行動――文字の打ち方、スワイプやスクロールの仕方、マウスの動かし方、スマートフォンの持ち方――に基づいて学習されたモデルのことです。こうしたデータは現在、公的にも容易にも入手できないため、不正者はあなたを真似るモデルを訓練することができません。イントリンシックAIは、本質的にはSardineが賭けているアプローチです。そのため私たちは、ユーザーの行動データを不正対策に組み込んでいます。
例えば、音声認証が銀行の第2要素認証手段としてもはや信頼できなくなったとしても、それはその技術が完全に終わったことを意味するのでしょうか？ そうとは限りません。行動シグナルで学習させたイントリンシックAIを音声認証に組み合わせればよいのです。
例えば、音声認証を使う前の行動として、詐欺犯は本来あなたがパスワードマネージャーで自動入力しているパスワードをコピー＆ペーストしていなかったか、あるいは詐欺犯がパスワードを入力した速度が、あなたが普段入力する速度と違っていなかったか、といった点が挙げられます。
この外的要因と内的要因という捉え方は、「AI」という言葉を使う必要もありません。
例えば、自分や家族がいわゆる「声を使ったなりすまし詐欺」の被害に遭わないようにする最も簡単な方法の一つは、安全な手段（たとえば直接会ったときや、暗号化されたチャットアプリなど）を使って、家族全員であらかじめ合意した「合言葉」を共有しておくことです。この合言葉は「本質的（intrinsic）」な情報であり、そのためAIに推測されることはありません。
GenAIを使うべきか、使わざるべきか？
GenAIというハンマーを手に入れたとして、それを見つけたすべての釘に使うべきでしょうか？ もしあなたが金融サービス企業なら、Sardineと似たようなニーズを持っている可能性が高いでしょう。ですが、あらゆる問題にGenAIが必要というわけではありません。それでは、詳しく見ていきましょう！
（1）機械学習のユースケース
機械学習（教師あり学習と教師なし学習）は、当社のリスクプラットフォーム全体に組み込まれています。機械学習は、ラベル付きデータがあるケースで非常にうまく機能します。不正防止はその典型で、誰かにあなたの決済手段（カード番号、小切手、銀行口座情報など）を盗まれた場合、最終的にはそれに気づき、カード発行会社や銀行にチャージバックを申し立てることになるからです。これにより、ロジスティック回帰、決定木、勾配ブースティング決定木などの教師ありモデルを学習させることができます。不正防止の世界でよく知られた“裏話”として、ロジスティック回帰やCatBoostを使えば、求める性能の99％程度までは到達できてしまう、というものがあります。
不正防止の世界におけるもう一つの秘密は、機械学習そのものはすでにコモディティ化されているということです。本当にサーディンを他のあらゆる不正対策プレーヤーと差別化しているのは、当社が自社のDevice Intelligence & Behavior Biometrics SDK（DI/BB）を通じて独自のデータを生成していること、そして常に新しいソースから最高水準のデータを調達し続けていることです。私たちはしばしば、大企業から中小企業まで、彼らが手元に抱えているデータの価値に気づいてもらい、それをプロダクトとして収益化するためのビジネスケース作りを支援しています。例えば、私自身、あるニッチなデータソースを手に入れるために、何年も頭を抱えながらあらゆる人に『作れないか』と頼み続け、実際に調達できるまでに6年以上かかりました。
- なりすまし（アイデンティティ）詐欺：私たちは、口座開設時にユーザーをリスクスコアリングし、そのユーザーが自分自身の本人情報を使っているのか、それとも盗用／合成された本人情報を使っているのかの可能性を判定するために、教師あり機械学習モデルを活用しています。また、詐欺師がよく利用するリスキーなデバイスを特定するために、さまざまな教師あり・教師なしモデルを使用しています。たとえば、データセンター内のデバイスかどうか、実機か偽装デバイス（スクリプト、ボット、エミュレーターなど）かを判別します。さらに、IPアドレスがプロキシ／VPNかどうか、あるいは住宅用か商用かを分類する機械学習モデルも構築しています。
- 支払い詐欺：監督あり機械学習モデルを用いて、支払い手段（カードまたは銀行口座）のリスクスコアを算出し、利用者が自分自身の支払い手段を使っているのか、他人のものを使っているのかの可能性を判定します。
- アカウント乗っ取り詐欺：私たちは機械学習を用いて、ユーザーがどのように文字を入力するか、あるいはどのようにスマートフォンを持つかといった行動バイオメトリクスのプロファイルを構築します。これにより、銀行口座にログインしているのが同じユーザーなのか、それとも他人がそのスマートフォンを手に取りログインしているのかを判断できるようになります。
- AML/CTF 取引モニタリング： 機械学習の新たな活用分野の一つが AML/CFT 取引モニタリングであり、ここで AML はマネーロンダリング対策（Anti Money Laundering）、CTF はテロ資金供与対策（Counter Terrorism Financing）を意味します
規制対象の金融機関がどのようにマネーロンダリングやテロ資金供与を検知し、Sardine がどのようにそれを支援しているかについての簡単な入門ガイド：
- Sardine は、一般的なマネーロンダリングやテロ資金供与の手口を何百種類もまとめたルールバンクを提供しています。例えば、多額の資金を1万ドルの報告義務が発生しないギリギリの金額に小分け（ストラクチャリング）して移動させ、当局の監視をすり抜けようとしていないか、といったパターンを検知します。
- コンプライアンスオペレーションチームとBSA/AML担当者は、フラグが立てられたアラートを精査し、ネットワークグラフツールやユーザー取引検索ツールを用いて、共有デバイスや共有IPを通じて疑わしいユーザーとつながっている複数のユーザーが存在するかを特定します。つまり、彼らは不正グループ（リング）を特定するのです。
- 最後に、彼らは米国では FINCEN、英国では FCA などの金融規制当局に SAR を提出します。
- そして彼らは待ちます――しかし通常、規制当局から返答が来ることはほとんどありません（そして、それこそが、このプロセスが真の「正解」が分からないために非常に非効率になっている理由です）。
AML/CTF において、教師あり機械学習モデルを最も理想的な形で訓練する方法は、本来であれば金融当局からフィードバックデータを得ること、つまり「私が提出したこの SAR（疑わしい取引報告）は、実際に誰かの逮捕につながりましたか？」という情報をもらうことです。そうした真のフィードバックデータが得られない状況では、次善策として、コンプライアンス・オペレーションチーム（ステップ3）からの過去のフィードバック、すなわち「このアラートは SAR の提出につながったか？」という情報に基づいて、疑わしいマネーロンダリング取引を抽出するモデルを訓練することしかできません。
（2）ニューラルネットワークのユースケース
- 書類によるKYCおよびライブネスチェック：畳み込みニューラルネットワークのようなニューラルネットワークモデルは、次のような課題を解決するのに非常に有用です。
- パスポートの四隅を特定するためのバウンディングボックスを検出し、パスポートから顔部分を抽出すること
- ライブネスチェック中の顔とパスポート上の顔を照合する
- アカウント乗っ取り：Long Short Term Memory（LSTM）のようなニューラルネットワークは、一連のイベントを解析して、それが通常か異常かを判別するのに非常に優れています。例えば、銀行の顧客がソーシャルエンジニアリングの被害に遭っている典型的なイベントの流れは次のようなものです。
- 顧客に関して、銀行はまったく新しいデバイスIDまたはデバイスフィンガープリント、そしてまったく新しいIPアドレスからの新規ログインを検知します（この情報は Sardine の DI/BB SDK が提供します）
- 銀行は、このアカウントについて、これまでは常にブラウザによってパスワードが自動入力されていたのに対し、今回はパスワードがコピー＆ペーストされたことを確認します（この種の情報は Sardine’s DI/BB SDK が提供します）
- 最後に、顧客の口座から多額の出金が行われ、その資金がまったく新しい取引先（新しい銀行／SWIFT取引先、またはZelle／P2P送金用の新しいメールアドレスや電話番号）へ送金されているのが分かります。
このような種類のイベントの連なりを見つけ出すことこそ、LSTM が最も得意とすることです！
（3）生成AIのユースケース：
上記のユースケースの多くは、機械学習やニューラルネットワークに適しており、トランザクション、イベント、ネットワークパケットなどのように、ほとんど構造を持たない、あるいはまったく構造のないデータを利用しています。
生成AIは本当に優れた力を発揮します
- テキストのように、高い構造性を持つデータを扱う問題。
- 変数が多すぎてロボティック・プロセス・オートメーション（RPA）では対応できなかった事務作業を自動化すること
LLM を理解するうえでの一つの考え方として、「とても処理が速い、大卒レベルの学生」とイメージするとよいでしょう。ヘルプドキュメントや自社データのベクターデータベースといったコンテキストを与えることで、不正検知やコンプライアンスといったユースケースを、より高い精度でサポートできるようになります。
私たちは、生成AIが当社のリスクプラットフォームや決済プロダクトにおいて有益となり得る、次のユースケースを特定しました。
- サポートツール：先週のハッカソンでは、openAI の gpt-3.5 モデルを使い、統合・サポート・不正／コンプライアンス運用チームが何時間もかけて対応している一般的なサポート問い合わせに自動で回答できるようにしたプロジェクトがグランプリを獲得しました。これらの質問の多くは繰り返し聞かれるもので、すでに誰かが同じ質問をしているケースがほとんどです。そこで、ドキュメントサイト、Notion ページ、Gong 通話など、当社独自のナレッジベースを使って GenAI モデルを学習させました。さらに、リスク調査に関する質問に答えられるよう、データウェアハウスから情報を抽出する機能も追加しました。そして、お客様が次のようなことを行うために利用できる Slack チャットボットを作成しました。
- 当社の不正検知やコンプライアンススコアリングにおけるさまざまな特徴量が何を意味しているのかを理解する
- なぜSardineがそのユーザーまたは取引をリスクが高いと判定したのかを説明する
- ユーザーをさらに調査するか、あるいは書類によるKYCなどの追加認証を求めるために、新しいZendeskチケットを自動的に作成します
- カードのチャージバックおよびACHリターンの対応：当社の決済プロダクトでは、プロセッサーや銀行から受け取るカードのチャージバックやACHリターンに対して、いわゆる「フレンドリーフラウド」から自社を守るために、異議申し立てを行わなければならないことがよくあります。ここでいうフレンドリーフラウドとは、顧客が実際に取引を行ったと強く確信できる場合の不正請求のことです。このような業務は、作業の大半が反復的であるため、autoGPT に非常に適したユースケースです。たとえば、数か月にわたって当社のクリプト・オンランプを利用して取引を行っている顧客がおり、その顧客が使用しているデバイス識別子やIPアドレスについて、当社には過去の履歴が蓄積されているとします。ところが突然、直近の購入に対してカードのチャージバックやACHリターンが発生しました。この取引に対する反論（カウンターディスピュート）や承認証拠（POA: Proof of Authorization）の提出では、次のような対応が必要になります。
- 現在のデバイスIDを過去のデバイスIDと比較すること
- 現在のIPアドレスを過去のIPアドレスと比較する
- それらが同じであれば、チャージバック異議申し立てフォームまたはPOAフォームに事前入力してください
- プロダクトマーケティングとセールスイネーブルメント： ここ最近、当社が直面している最大級の課題のひとつは、さまざまなプロダクトに関するナレッジベースを、要点を押さえたプロダクトマーケティング用メモに落とし込むことです。プロダクトマネージャーを採用する際には、まずは不正検知／コンプライアンス領域の出身で、実行力のある人材（必ずしも自分のプロダクトをどうマーケティングするかを知っている必要はない）を重視しています。なぜなら、何よりもまず「専門的な会話ができ、実務もきちんとこなせる」人を見つけたいからです。 こうした考え方には、私自身のこれまでの経験が色濃く影響しています。実行面で手を動かしながら、同時にプロダクトマーケティングにも長けている人は、きわめて稀だからです。先週、新たなマーケティング責任者としてエドゥアルド・ロペスがチームに加わってくれたことを、とても嬉しく思っています。ただ、その採用プロセスがあまりにも長引いていたため、私たちは一時、Notion の全ページ、Gong の顧客通話記録、何千もの Slack チャンネル、Zendesk のチケットを GPT 3.5 に学習させて、最高のプロダクトマーケティング用コピーを自動生成できないかと検討していたほどです。
- SARナラティブの作成：ここは、GPT 3.5 と autoGPT を組み合わせることで非常に強力なユースケースとなる分野です。BSA/AML 担当官によって同じ組織（リング）に属すると特定されたユーザーの集合が与えられた場合、その取引活動やユーザー同士のつながりを分析し、自動的にナラティブを生成します。
結論
GenAI は、私たちが長い間出会ってきた中でも、最も変革的なテクノロジーの一つです。そしてそれは、金融サービス業界全般にとって、また不正防止やコンプライアンスツールを提供する当社のような企業にとっても、非常に大きな影響をもたらします。
詐欺師たちがGenAIを使い始めることで不正防止ははるかに難しくなりますが、それは同時に、これから起こることに立ち向かうための本質的なAIを私たちが開発する大きなチャンスでもあります。