10 min
現在、リスク管理責任者は、AIを活用してコストを削減するよう迫られています。コスト削減は通常、人員削減を意味します。特に不正対策業務では、そうした発想がチームに盲点を生み出します。
このシリーズのこれまでのエピソードでは、不正対策業務を手作業中心からAI活用型へ移行する際、実際にどのような変革が起きるのかを解説してきました。しかし、そうした移行と並行して不正分析機能を拡充しなければならない理由については触れていませんでした。そこには、ほとんど誰も想定していない二次的な影響があります。チームがAIを導入しても、縮小するどころか拡大させなければならない機能が一つあるのです。不正対策チームの人員計画でその点を考慮しなければ、導入したばかりの自動化システムを適切に管理する体制を欠いた、単に規模の小さいチームになってしまいます。
それが不正分析です。この機能を拡充しないままAIを導入すると、気づかないうちに、AIが従来の手作業よりも大きなリスクになってしまいます。
このエピソードでお届けする内容：
- AIトランスフォーメーションにおいて、不正分析体制の拡充が他のどの人員配置の判断よりも重要である理由、そして多くのチームがその優先順位を逆に捉えているということ。
- ほとんどの不正対策チームが、不正対策オペレーション、不正分析、不正対策戦略、データサイエンスという4つの機能に分かれている理由。そして、その4つすべてに十分な人員を配置できているチームがほとんどない理由。
- AIの導入に対して、不正対策オペレーションと不正分析が正反対の反応を示す理由。
- 個々のエージェントの判断をレビューすることと、完全に自動化されたパイプラインを大規模に統制することには、明確な違いがあります。
- サイレントなパイプライン障害が実際にはどのような形で現れるのか、そして自動化システムはなぜ異常が発生してもそれを知らせないのか。
- ルール作成を自動化してもなお人によるレビューが必要な理由と、そのレビューで見落としてはならない点。
- 自動化システムのKPI監視や不正検知システムの根本原因分析は、不正対策チームがすでに持っているスキルであり、単にその対象が新しくなっただけであること。
- AI対応に向けた不正対策チームの再編が、四半期レビューでつまずきがちなポイント。エラー率のしきい値が設定されていないことや、監査が毎週ではなく毎月しか行われないことが、その原因となる理由。
- 調査担当者やエンジニアではなく、不正分析担当者が新たなAIチームのリーダーになりつつある理由。
- この変革期における不正対策チームの予算計画をどう考えるべきか。不正対策業務の効率化で得られたコスト削減分を、分析部門の拡充に充てる方法も含めて解説します。
次のような方は、ぜひこのエピソードをお聴きください：
- 現在AIトランスフォーメーションを計画中、またはその途上にある不正対策チームを率いており、分析部門が今後どうなるのかをまだ明確に描けていない方
- 不正対策チームの人員削減を迫られており、その論理がどこで破綻するのかを明確に説明する必要がある
- 調査、ラベリング、ルール作成にエージェント型AIを導入済み、または導入予定であり、多くのチームが見落としているガバナンス上の盲点を理解したい
- 取締役会に提出する不正対策チームの予算案を作成しており、コスト削減効果と、その削減分を実際に再投資すべき領域とを結び付ける表現を必要としている
- 個別案件のレビューだけでなく、パイプライン全体のモニタリングも考慮した、不正対策チームの組織設計に役立つ実践的なフレームワークを求めている
- 不正分析部門の体制が、すでに運用している自動化や、これから導入しようとしている自動化に見合った規模になっているか疑問に感じている
エピソードの概要と重要なポイント
不正分析のスケーリングについて、ほとんどのチームが判断を誤る理由
AI変革に取り組む際、あらゆる部門が縮小するというのが一般的な前提です。30分かかっていた作業が5分で済むようになる調査業務は、まさにAIエージェントが得意とする自動化の対象です。そのため、調査チームは自然とスリム化します。しかし、同じ考え方を不正分析にも当てはめるのは誤りであり、注意が必要です。不正対策業務と不正分析の違いは、自動化によってすべての部門が一様に縮小するという話ではなく、あるチームから別のチームへ業務が移るという話なのです。
「問題なく機能している」の陰に潜むガバナンスの問題
個々のエージェントが提示する案件ごとの推奨内容をレビューするスキルは、不正対策チームがすでに備えています。これは、若手アナリストの仕事をレビューするのとよく似ています。本当に不足しているのは、パイプラインレベルのガバナンスです。つまり、継続的に稼働し、そもそも案件ごとの確認を前提に設計されていないラベリングシステム、ルール推奨エンジン、モデルの学習プロセスを監視する仕組みです。ここで深刻に捉えるべきリスクは、パイプラインが気づかれないまま機能不全に陥ることです。これらのシステムは、問題が発生しても警告を出さないからです。誤ったラベルを付けるエージェントは停止せず、誰かが偶然その被害に気づくまで処理を続けます。
根本原因分析がなくなるわけではなく、対象レベルが一段上がるだけです
不正対策チームは、この作業の進め方をすでに理解しています。自動化システムのKPI監視や、不正検知システムにおける根本原因分析は、新たに求められるスキルです。とはいえ、これは不正分析担当者がこれまでルールやモデルに対して働かせてきた勘所を、新たなレイヤーに向けるだけのことです。エージェントが完全に自律してルールを作成するという最善のシナリオであっても、そのルールがすべてのテストに合格し、既存のビジネスロジックと矛盾せず、統計上の偶然に基づいていないことを、最終的には人間が確認しなければなりません。チームが運用するすべての自動化システムについて同じことを考えると、分析担当者が根本的な問題を修正するために介入した頻度を、誰かが追跡しているかどうかが重要になります。その回数が増えているのに誰も監視していなければ、書類上は自動化が進んでいるように見えても、不正対策プログラムの安全性はまさにそのようにして低下していくのです。
実際の現場で起こる失敗とは
エージェント型調査システムが本格稼働しても、分析チームの人員体制は依然として、ルールを四半期ごとに見直す時代のままです。これは最もよく見られる失敗パターンです。ラベリングパイプラインにはエラー率のしきい値が設定されておらず、ルール監査も毎週ではなく毎月しか行われません。その結果、自動化は進んでも対応サイクルは速くならず、場合によってはAI導入前よりもシステムが明らかに不安定になります。これはテクノロジーの失敗ではなく、自動化と同じペースでガバナンスを拡充できなかったことによる失敗です。
適切な資金配分
不正対策オペレーションチームのスリム化で生まれたコスト削減分は、一般的な経費削減項目に吸収させるのではなく、不正分析体制の拡充に直接充てるべきです。財務上の合理性に加え、これは変革の過程で経験豊富な人材を完全に失うことなく、組織に蓄積された知見を維持するための、より現実的な道筋の一つでもあります。最終的に取締役会へ提示する金額は、当初の想定を上回るかもしれません。それでも提案する価値はあります。その場で伝えるべき要点を一言にまとめるなら、「不正分析担当者が、新たなAIチームのリーダーになる」ということです。調査担当者でも、エンジニアでもありません。今この瞬間に求められているのは、まさにこのような役割の進化です。
最後に押さえておきたいポイント
不正分析体制の拡充は、予算に余裕があれば追加する「あれば望ましいもの」ではありません。AI変革が実際に機能するのか、それとも気づかないうちに不正対策プログラムの安全性を損なうのかを左右する、最も重要な人員配置の判断です。不正対策オペレーション部門の縮小は、この話の中では分かりやすく当然の部分です。一方、ほとんど誰も計画していないのが不正分析部門の拡充であり、システム全体が機能し続けられるかどうかを決めるのは、まさにこの部分です。
これを正しく実現できるのは、最も早く自動化したチームではありません。自動化と同じペースで監督体制を拡充し、何かが壊れてから不足に気づくのではなく、その強化に意図的に予算を投じたチームです。
リソースとリンク
これはシリーズの一部です。最初にこのエピソードにたどり着いた方は、前のエピソードに戻って聴いてみることをおすすめします。今回の内容をより理解しやすくするためのポイントを、これまでに数多く取り上げています。
こちらをチェック：エージェント型不正オペレーションの台頭：パート1
こちらをチェック：エージェント型不正オペレーションの台頭：パート2
私の、そして願わくばあなたにとってもお気に入りのテーマについて、まだ話し足りませんか？The Saturday Fraud Strategistニュースレターにご登録ください。
つながる：Chen Zamir | LinkedIn
「The Saturday Fraud Strategist」ホスト
フィンテック企業のよりスマートな不正対策構築を支援
『The Fraud Fighter’s AI Playbook』共著者
Episode transcript
Chen Zamir
00:06
We started this series by talking about the pressure all risk leaders are facing right now. Use AI to cut costs and by cutting cost I mean cutting headcount. But in fraud operations the push for automation also creates a risk. What happens when teams cut the very function needed to govern automated systems? In the previous episode in this series, we outlined what a transformation journey looks like when you move from mostly manual operations to AI powered ones. And as we've discussed, there's a lot of nuance to it, because it's not a switch you just flip. It's a journey with a specific sequence and dependencies. But one thing I didn't cover previously is how you establish AI governance as you implement more and more AI automation. Specifically, there's a second order effect almost nobody's planning. One function on your team doesn't shrink with AI adoption. On the contrary, it actually needs to grow. Because automation creates new oversight requirements that most teams do not have staff today. And if you don't account for it, you'll end up with a smaller team that isn't equipped to govern all the automated systems it runs. And let me tell you that would not end well. That function is fraud analytics. And without it, your system would break faster than you'd like to think. It is the control layer that catches drift, monitors automated decisions, and prevents silent pipeline failures. So in this video, I want to talk about how fraud teams usually look like, what AI governance really means, and what it means to your future organization.
Chen Zamir
01:43
In my experience, most fraud teams are built from four functions. Now, I will say in our industry, terms and definitions are very loose. Even the word fraud might mean different things to different people or even the same person when considering different contexts. So it might be that you've seen other names or other organizational structures to this. The point I'm trying to make is around co responsibilities and skill sets an organization holds, rather than how it's actually structured or named. So bear with me. Anyway, back to the four functions I usually see. The first is fraud ops which handles investigations. Reviewing alerts, making rulings, managing chargebacks, and so on. The second is fraud analytics which owns rules and monitoring. Writing detection logic, tracking performance, analyzing attack patterns and producing reports. The third is fraud strategy that sets the risk appetite, risk policies and are likely in charge of vendor selection and architecture. And the fourth and last is data science that builds and maintains machine learning and AI models. But as I mentioned, not every fraud organization has all four. And there are a few reasons for that. First, it might be that some of these responsibilities simply don't exist. Not every organization develops their own AI models, for example. In other cases, especially in smaller organizations, some responsibilities are simply held by the team leader. For example, fraud strategy. It doesn't have to be its own function. So in effect, the bare minimum for a fraud team and what you'll almost always say is just one function, fraud ops. Meaning you can run a fraud function even if probably inefficiently with nothing more than investigators reviewing alerts. At the same time, fraud analytics exists in a lot of midsize and larger teams, but it's often informal or undersized. And that creates a potential oversight gap when these teams begin using AI agents to label cases, suggest rules, cluster alerts, all the things we talked about in the previous episodes. Meaning, if you need analytical skills to monitor agentic powered fraud systems, most teams are behind where they should be. And if you're thinking of downsizing them even more, then you might be risking self-sabotage when adopting AI at the same time. Because here's the thing, the traditional fraud analyst role was already important, but in an AI powered fraud team, it becomes central. Why do I think we'll need a bigger fraud analytics function in the age of agentic AI? In one word, governance.
Chen Zamir
04:29
Not all agentic AI creates the same kind of work. And understand the difference is what explains why certain functions on your team grow while others shrink. When fraud teams first roll out Agentic AI, they typically start with investigation assistance. The agent assembles the case and proposes a resolution and the investigator reviews and approves. Which means that this workflow isn't so different from managing a junior analyst. The agent does the leg work and the investigator uses their judgment to validate. And that's the thing, your team already knows how to do that. Governing individual decisions over individual cases is something your team members already do today. But fully automated pipelines are different. Auto labeling uh case clustering, rule recommendations, model training, these decisions operate at scale. They run continuously and you cannot have humans running around after agents because that would slow you down. Exactly the opposite of what you want to achieve. But the problem is that these pipelines can still fail. And when they do, they fail silently. A labeling agent that starts misclassifying doesn't raise its hand. It keeps labeling until someone checks. A rule built on a coincidental correlation looks fine in the back test. This system fails silently. They fail at scale and they fail fast. Unlike a human investigator who notices when something uh feels off, an automated pipeline doesn't feel anything. It just continues to run and spew garbage. But the governance these pipelines need is the same kind of monitoring fraud teams already apply today. KPIs, monitoring, alerting, systematic performance review, and most importantly, being able to run a root cause analysis when something breaks so you are able to fix it. Not just say that it's wrong. Does any of that sound familiar? Observing system performance through data, noticing issues, understanding what causes them, and fixing them, that's the job of fraud analytics.
Chen Zamir
06:33
What is the takeaway from looking at those two governing approaches? The obvious assumption when you start rolling out Agentic AI is that you can downsize your fraud team. But that is only correct for one function, fraud ops. For another, fraud analytics, it's not that simple. In fact, for most teams, it'll have to be exactly the opposite. Why? Because investigators benefit most directly from what AI agents automate. The part of their day that consumed the most time pulling transaction details, running IP lookups, checking device history, cross reference accounts. That's exactly what agents handle, an investigation. Simply put, the efficiency gains are straightforward because what used to take 30 minutes now takes five. Naturally, the function needs fewer people. But fraud analytics on the other hand, and as we just discussed, is different. Right now the team observes data, compiles reports, write rules when new attacks emerge and tweak score cut offs when needed. But when agents take over those tasks, all the automated pipelines we just described become their responsibility as well. Now you might think, but wouldn't I be automating the analysts jobs too? And you'll be right thinking that. But you need to remember that while some of the work is now automated, all the new automation you deployed both in analytics and in operations will now fall under their responsibility as well. Let's take rule writing as an example. Even if we reach an ideal state where agents write rules from scratch completely autonomously, which is definitely a stretch goal, your human analysts still have to review them. They need to check that the rules proposed went through all the tests correctly, that they don't contradict your business logic, and that they are not based on shaky statistics. That's still work, and it's only the start because we're still making individual decisions over single rules. But we also need to monitor how well the agents are proposing rules as a whole. How many times have the analysts corrected something fundamental? Did this number grow since last month? And if so, why? And how can we fix it? And this is just one example of how tasks that don't exist today will land in fraud analytics. And take into account that by the time you'll get to monitor your rules recommendation agents, you probably implemented at least five to 10 other systems. So all of them would need monitoring as well.
Chen Zamir
09:01
Hopefully, the argument I've outlined for why you'd actually need more analysts when you start automating has been convincing thus far. But the sad reality is that many teams don't have a fully fledged analytics team and so are likely blind to their repercussions. If you don't manage existing automated pipelines today or if engineering does it for you, odds are you have a blind spot there. And so when such teams come under cost pressure, it's very easy to commit to cutting the function that you actually need to enable AI adoption. It's all too easy to get to a point where your agentic investigation systems goes live, cases are being assembled, labels are being generated, and rules are being proposed. But the analytics team is still sized for quarterly rule reviews. And then the labeling pipeline has no error rate thresholds. The rule recommendation audits happen once a month when it should be happening weekly. So your fraud system is more automated, but your reaction cycle isn't faster. Even worse, your system is less stable and less safe than it was before. Why? Because we scaled automation without scaling governance. And that's exactly the recipe for failed AI adoption projects. Because it's easy to forget that redesigning your system means also redesigning your team and not just cutting it.
Chen Zamir
10:23
In the first episode in this series, I stressed that redesigning your fraud prevention system will come at a cost and that you'd want to fund it through the cost cutting you achieve. Part of that cost and only one part is making sure your team is properly staffed in the fraud analytics department and that you can increase its size as you go through the transformation journey. To an extent, it means that the savings you make from the shrinking fraud ops team should fund the growth of fraud analytics. And this can also be a way to upscale and retain some of the headcount instead of losing all of the institutional knowledge entirely. Of course, it might be that the target budget figure you show your board is higher than what they or you anticipated at first, but it's mandatory to build the function the new system depends on most because we should expect fraud teams to have a new bare minimum makeup. Investigative capabilities will continue to be part of it, but not all of it. In addition to that, teams will have to include strong analytical functions to operate its agentic workers, monitor automated pipelines, evaluate recommendations, and maintain your system stability as a whole. Or to frame it simply, think of it like that. Fraud analysts will be your new AI team leaders. That's the framing your board would understand.
View full transcript
