12 min
The Saturday Fraud Strategist
Por que os líderes escolhem ferramentas antifraude piores
6 min
Neste episódio, começo com um momento um pouco estranho nos escritórios da Mastercard. Eu estava colocando o papo em dia com um conhecido e ele me disse que eu tinha começado a empurrar uma nova narrativa.
Ok. Aparentemente, a narrativa era que regras são melhores que IA.
Honestamente, entendo por que parecia isso. Falo bastante sobre regras vs. IA na prevenção de fraudes. Mas esse não é bem o ponto.
O ponto é controle.
Prevenção de fraudes com IA, IA para prevenção de fraudes, detecção de fraudes com IA, prevenção de fraudes com machine learning: tudo soa ótimo até a pessoa responsável pela movimentação de dinheiro e pela aquisição de clientes ter que aprovar a mudança. Aí a precisão não é a única coisa que importa. Confiança importa. Explicabilidade importa. Visibilidade da estratégia importa. E se os líderes não se sentirem no controle, vão escolher ferramentas antifraude piores.
Não porque sejam irracionais.
Mas porque quebrar o negócio, tecnicamente falando, não pega bem.
O que você vai ouvir neste episódio:
- Uma análise de por que o debate “regras vs. IA na prevenção de fraudes” ignora a questão maior
- Por que os líderes muitas vezes escolhem regras de detecção de fraudes em vez de ferramentas de IA mais fortes
- Como a gestão de risco de fraude muda quando o processo toca a movimentação de dinheiro e a aquisição de clientes
- Por que o decisioning de fraude depende de confiança, não só da precisão do modelo
- O que as ferramentas de IA antifraude costumam errar sobre explicabilidade
- Como a otimização da taxa de chargebacks fica mais útil quando os usuários podem comparar estratégias de risco baixo, médio e alto
- Por que a confiança na IA para prevenção de fraudes depende de KPIs claros, respostas diretas e trade-offs visíveis
- Os ouvintes podem esperar uma conversa que vai de “qual ferramenta performa melhor?” à pergunta mais desconfortável: quem realmente se sente seguro o bastante para tomar a decisão?
Quem deveria ouvir:
- Líderes e operadores antifraude
- Equipes de risco e compliance
- Equipes de produto construindo ferramentas de IA antifraude
- Líderes de instituições financeiras avaliando prevenção de fraudes com IA
- Fornecedores de tecnologia antifraude e arquitetos de soluções
Qualquer pessoa envolvida em decisioning de fraude, otimização da taxa de chargebacks ou prevenção de fraudes com machine learning
Basicamente, se você já olhou para um modelo e pensou: “A performance é melhor, então por que não usam?”, este episódio é para você.
Notas do episódio
Este episódio é para quem já viu uma ferramenta antifraude “melhor” perder para uma mais simples e pensou: espera, como isso aconteceu?
Vou destrinchar por que a prevenção de fraudes com IA não vence só pela precisão. No decisioning de fraude, o controle faz parte do produto. Se os líderes não conseguem ver a estratégia, entender os trade-offs dos KPIs ou explicar o que acontece quando algo dá errado, vão escolher a ferramenta que parece mais segura.
Mesmo que seja pior.
Vamos falar de por que as regras de detecção de fraudes ainda têm tanta força, por que a prevenção de fraudes com machine learning muitas vezes parece mais difícil de confiar do que deveria, e o que as ferramentas de IA antifraude precisam mostrar aos usuários antes que alguém se sinta confortável entregando decisões ligadas à movimentação de dinheiro, à aquisição de clientes e à otimização da taxa de chargebacks.
Nada de discurso dramático anti-IA.
Apenas um olhar prático sobre por que a confiança na IA para prevenção de fraudes é mais difícil do que os fornecedores gostariam, e por que o caminho à frente provavelmente começa com visibilidade de estratégia mais simples, KPIs mais claros e menos dashboards que parecem feitos para impressionar a plateia de uma conferência.
Respostas diretas que as pessoas possam realmente usar.
Principais conclusões
O modelo de IA pode ser mais forte. A estratégia de prevenção de fraudes com machine learning pode performar melhor. A otimização pode ser real.
Mas se a pessoa que toma a decisão não se sente no controle, nada disso importa muito.
Então talvez a pergunta certa não seja: “Como provamos que a IA é mais precisa que as regras?”
Talvez a pergunta certa seja: “Como fazemos a prevenção de fraudes com IA parecer segura o bastante para ser usada?”
Menos empolgante. Provavelmente mais útil.
Ainda não quer encerrar a conversa sobre o meu assunto favorito (e, espero, o seu também)? Assine a newsletter The Saturday Fraud Strategist.
Episode transcript
Chen Zamir
00:00
Catching up with friends is one of my favourite “business” activities. When I was a tech founder, I was pretty bad at finding time for friends. It was all planning sessions, 1:1s, and endless emails. But as an advisor, catching up with friends is 50% of the job. And what’s even nicer is that I get to meet a lot of new, interesting people as well. So here I was at the Mastercard offices, catching up with a friend I got to know through Linkedin, but actually meeting them in person for the first time. Then at a certain point in our conversation, he tells me: “I see that you recently started pushing a new narrative in your writing”. And he said that with this knowing smile. And that caught me by surprise because I wasn’t aware I’m consciously pushing any narrative. So I asked - “Oh really? Which one is that?” “Those rules are better than AI.” “Ah.” I can see why people would think that I think that. But honestly i don’t think it’s about rules vs. AI. It’s about something entirely different. Because here’s the thing - people say they care about performance, but in my experience what they actually care about is control. Here’s what I mean: I tend to talk quite often about the ongoing debate of “Rules vs. AI”. That’s because there are a lot of things to unpack here: accuracy, coverage, speed, explainability, costs, performance degradation, etc. But it all comes down to one point: control. Or, to put it more accurately, the sense of control. Here’s what we tend to forget: in fraud prevention we touch the most sensitive business processes - money movement and customer acquisition. If you mismanage one of those - you hurt your business. And why do we tend to forget about this fundamental reality? Because as fraud fighters all we see in front of us is optimization. Shaving a few milliseconds here and a few basis-points there. So while fraud fighters often want to optimize by introducing changes, leaders see the changes themselves as a risk. The risk of accidentally breaking the system. And that tension, between small optimization gains versus the risk of complete business disruption is exactly what drives paralysis. And I get it. Sometimes the gamble - what you have to lose - seems too high. Now, fraud teams, both internal and on the vendor side, often fail to realize that. They focus on what can be gained and ignore what can be at risk. And this is especially true when fraud teams push for adopting new technologies like AI or Machine Learning. Because let’s face it, the vast majority of companies don’t use AI or ML as part of their core product and they’re simply not used to it. And if they are not used to handling AI/ML, they won’t understand it. And if they don’t understand it, they won’t trust it. And if they don’t trust it, they won’t FEEL like they’re in control. And how can we expect a business to give up control over its most critical processes? So it’s no wonder then that companies choose to utilize rules over AI. It’s not about understanding the score of a specific event, it’s about having a solid understanding of how decisions are being made as a whole. Rules offer exactly that: simple heuristics, deterministic outcomes, transparent monitoring, straightforward KPIs. Are rules always more accurate? Are they always catching more fraud? Do they adapt well to mutating fraud patterns? Absolutely not. But they are safe. And “safe” wins RFIs. So, does that mean we should give up on AI? No, but we first need to think about how to have our users trust it. How? Well that’s the question I hope anyone building fraud tech is thinking about. I’ve seen some vendors who take a servicing approach. Either by offering a “bring your own model” configuration or by letting users train models directly on their platform. And indeed, being more familiar with the model definitely increases trust. But teams that have their own models are the minority. And let’s face it, these are the teams that can–and are–used to handle complexity. But what about the ones that don’t? How do we get them to adopt AI and ML? Personally I find that a big part of it is helping the user understand which strategies are available for them, and what would be the effect of each. For example: choosing a KPI to optimize around and then suggesting the user low, medium, and high risk strategies. Let’s be more concrete: Say a user wants to optimize around chargeback rate and they set the different risk appetites to be: 0.2% for low, 0.3% for medium, and 0.5% chargeback-rate for high. Now imagine if after setting these requirements, I am presented with this table: Now this might seem quite basic, but truth be told, you won’t find it in most fraud AI tools. And these are just the basics. Imagine if you could double-click on a chosen strategy and explore it further, segment it by regions, or flows, or products. That’s the explainability that matters, not why a certain case got a fraud score of 12. Because like with rules, the decisions we implement with AI are about top-level KPIs. Without knowing exactly how I change those, there’s no chance I’m going to make any changes. So HOW do we retain the sense of control while using AI? We let the user dictate which KPIs are important for them. We allow them to explore a number of alternatives. And we help them monitor the performance. No complex heatmaps, no overlapping ROCs, no fancy graph networks. Just plain answers anyone could understand. Because it’s that “anyone” who will end up making these decisions. Not the data scientist that trained the model.
View full transcript
