A cada poucos anos, o setor de fraudes descobre uma nova tecnologia que supostamente vai mudar tudo para sempre.
Surgem fornecedores, os painéis em conferências ficam mais animados e o LinkedIn se enche de previsões confiantes sobre o futuro da detecção de fraude. Se você já trabalhou tempo suficiente nessa área, o padrão fica fácil de reconhecer. Vimos isso quando os mecanismos de regras prometeram prevenção de fraude em escala para o comércio eletrônico. Vimos de novo quando o aprendizado de máquina chegou, supostamente tornando obsoletas as regras baseadas em especialistas. Houve até um breve período em que o blockchain supostamente estava destinado a tornar a fraude uma impossibilidade matemática.
Hoje, o foco mudou para LLMs e agentes de IA. Embora a conversa esteja se repetindo, essas afirmações se tornaram mais dramáticas. As narrativas atuais sugerem que os especialistas em fraude vão desaparecer, junto com as regras e os modelos de ML que eles construíram. Alguns argumentam que a IA simplesmente “vai cuidar disso”.
Isso nunca acontece.
A prevenção de fraudes adotou muitas tecnologias nas últimas duas décadas. Cada uma delas acrescentou novas capacidades e melhorou a forma como operamos em grande escala, mas nenhuma substituiu completamente as ferramentas que vieram antes.
As regras não desapareceram quando o aprendizado de máquina se tornou predominante nos sistemas de detecção de fraude. As regras também não eliminaram as equipes de revisão manual, mesmo em fintechs altamente automatizadas. Da mesma forma, os LLMs não substituirão nenhuma delas em um futuro previsível.
A realidade do profissional
O motivo é simples quando você se afasta do ciclo de hype: a prevenção a fraudes não é um único problema que possa ser resolvido com um único algoritmo. É um conjunto de desafios operacionais que exigem ferramentas diferentes, processos diferentes e competências diferentes.
Quando você passa a enxergar dessa forma, os debates sobre tecnologia começam a soar como um futurismo vago, em vez de conhecimento prático baseado na experiência real de profissionais. Pense em um carpinteiro construindo móveis em uma oficina. Ele não discute se um martelo vai substituir uma serra ou se uma furadeira elimina a necessidade de um riscador. Cada ferramenta desempenha uma função diferente, e é a combinação delas que torna o ofício possível.
O surgimento dos LLMs não invalida de repente essas capacidades. Em vez disso, introduz um novo tipo de ferramenta que melhora a forma como as ferramentas existentes são usadas. Mas, para entender por quê, primeiro precisamos revisitar como os sistemas modernos de fraude realmente funcionavam antes do surgimento da IA.
Uma estratégia moderna e em camadas de defesa contra fraudes
Quando as pessoas falam sobre defesas contra fraude em camadas, geralmente estão se referindo ao monitoramento dos usuários ao longo de todo o seu ciclo de vida. Um usuário pode ser avaliado durante o cadastro, novamente durante a atividade na conta e, mais tarde, durante pagamentos ou saques. Esse tipo de abordagem em camadas foca em onde a detecção ocorre na jornada do usuário. Eu expliquei como decidimos onde a GenAI realmente merece seu lugar nessa pilha em uma análise anterior sobre GenAI em serviços financeiros.
Mas existe outro tipo de camadas que é igualmente importante: sobrepor diferentes abordagens de detecção em torno do mesmo evento. Essa é a arquitetura à qual a maioria dos programas de fraude mais maduros acaba convergindo. Um sistema típico de defesa contra fraudes contém três camadas principais que resolvem problemas operacionais distintos:
A primeira camada é modelos de aprendizado de máquina. Eles analisam grandes conjuntos de sinais comportamentais e transacionais para produzir pontuações de risco estatísticas. Essa camada fornece a escala necessária para avaliar milhões de transações por dia, algo que nenhuma equipe humana conseguiria gerenciar com segurança em volumes globais.
A segunda camada é regras orientadas por especialistas. Essas regras codificam padrões de fraude descobertos por analistas, permitindo que as equipes reajam rapidamente a novos ataques. Quando bem elaboradas, as regras oferecem a precisão necessária para atingir padrões específicos que os modelos podem deixar passar ou para os quais ainda não foram treinados.
A terceira camada é revisão manual. Investigadores humanos analisam os casos complexos ou ambíguos que os sistemas automatizados não conseguem resolver de forma confiável. Essa camada fornece o julgamento necessário, incorporando contexto externo e conhecimento operacional que os algoritmos simplesmente não possuem.
Quando essas camadas trabalham juntas, elas resolvem diferentes partes do problema de detecção de fraude. Os modelos segmentam a população em faixas de risco. As regras lidam com padrões específicos e casos extremos conhecidos. Os investigadores gerenciam os eventos restantes, em que a precisão é mais importante do que a velocidade.
A maioria dos programas de fraude maduros acaba adotando essa arquitetura em camadas porque ela equilibra automação, precisão e custo operacional.
Mas, uma vez que essa estrutura esteja em vigor, surge uma outra pergunta: como a IA realmente se encaixa nesse sistema? Estamos vendo o surgimento de uma quarta camada?
Não exatamente.
Os processos manuais por trás dos sistemas de fraude
Comparar LLMs e IA Agente com as abordagens de detecção existentes revela rapidamente o seu “superpoder”. Agentes se destacam em resolver problemas que têm muitas condições e casos extremos. Até agora, esses problemas eram difíceis de automatizar com regras ou ML, o que fazia com que fossem delegados a humanos, que são o recurso mais caro e limitado na nossa defesa em camadas.
Os LLMs mostram-se eficientes em automatizar essas tarefas. Mas que tarefas são essas?
Quando as pessoas pensam em trabalho manual na prevenção de fraudes, geralmente pensam em investigações de casos. Elas imaginam analistas revisando contas suspeitas, verificando a documentação de suporte e tomando decisões finais sobre eventos de risco. Esse é o processo manual mais visível na maioria das equipes de fraude, mas as investigações são apenas metade da história.
Por trás de cada sistema automatizado de detecção de fraude existe outro conjunto de processos manuais muito menos visíveis. Esses processos giram em torno da pesquisa, do desenvolvimento e da manutenção de defesas automatizadas.
As regras não se escrevem sozinhas. Os modelos de aprendizado de máquina não se treinam sozinhos. Analistas e cientistas de dados precisam pesquisar padrões de fraude, criar lógicas de detecção, testar seu desempenho, implantá-las em produção e monitorar sua eficácia ao longo do tempo. Esse processo de pesquisa e desenvolvimento é extremamente intensivo em mão de obra. Analistas de fraude passam incontáveis horas explorando conjuntos de dados, identificando padrões, escrevendo regras, avaliando o desempenho de modelos e investigando anomalias em sistemas de produção.
Isso funciona melhor como um desdobramento de tarefas horizontal ou vertical — pense em "um dia na vida de um analista de fraude". É mais concreto e fácil de relacionar para um leitor que atua na área. É ideal se o objetivo for mostrar o que a IA está de fato tirando das mãos das pessoas.
Em outras palavras, o trabalho manual na prevenção de fraudes existe de duas formas:
- Investigações em nível de caso: analistas revisam eventos individuais para determinar se representam fraude.
- P&D para sistemas automatizados: as equipes projetam e mantêm as regras e os modelos que impulsionam a detecção em grande escala.
Abordei exemplos concretos de como a IA assume essa carga de pesquisa em cinco casos de uso de IA que as equipes de fraude já deveriam estar utilizando.
Quando você reconhece esses dois processos manuais, o papel da IA, e especificamente da IA Agente, fica muito mais claro. Mas isso significa que a IA vai substituir as próprias equipes de fraude?
Por que os humanos ainda são importantes
Com essas novas capacidades, é natural perguntar se a IA Agente substituiria os especialistas em fraude em vez das tecnologias que eles utilizam. Na prática, há vários motivos pelos quais esse resultado continua sendo improvável.
Um dos desafios envolve reprodutibilidade e consistência. Modelos de aprendizado de máquina e mecanismos de regras produzem resultados determinísticos quando recebem as mesmas entradas. LLMs, por outro lado, podem gerar respostas ligeiramente diferentes quando apresentados aos mesmos prompts. Essa variabilidade torna difícil usá-los como único mecanismo de decisão em ambientes de alto risco.
Outro desafio envolve confiança e responsabilidade. Os sistemas de detecção de fraude frequentemente operam em setores regulamentados, como bancos e meios de pagamento. As organizações precisam ser capazes de explicar por que decisões específicas foram tomadas e garantir que seus sistemas de detecção estejam em conformidade com os requisitos regulatórios.
Por esse motivo, a supervisão humana sobre a IA Agente continua essencial, especialmente para superar o risco de alucinações e os desafios de reprodutibilidade. Isso também significa que os sistemas agentes precisam ser construídos desde a base para operar de forma transparente.
Não basta que um agente simplesmente apresente um resultado; é necessário que ele mostre todas as fontes que utilizou, as etapas de análise de dados que realizou e reconheça quaisquer dados contraditórios ou ausentes. Sem isso, sistemas agênticos continuam sendo uma caixa-preta, quase como os modelos de ML.
Por fim, a própria fraude é um problema de natureza adversarial. Fraudadores experimentam constantemente novas técnicas projetadas para explorar fragilidades nos sistemas de detecção. Analistas experientes muitas vezes reconhecem padrões comportamentais sutis que sistemas automatizados podem deixar passar. Esses insights humanos continuam sendo um componente fundamental para uma prevenção eficaz de fraudes.
O papel da IA, portanto, não é substituir os profissionais de fraude, mas ampliar suas capacidades em toda a pilha.
IA agêntica e revisão manual: o copiloto do investigador
A revisão manual sempre foi um gargalo nas operações de prevenção a fraudes. As investigações consomem muito tempo e exigem conhecimento especializado, obtido a partir de um cenário fragmentado de fontes internas e externas.
Um investigador típico pode gastar vinte minutos pesquisando bases de dados públicas, inspecionando sites de comerciantes e cruzando históricos de transações antes mesmo de começar a tomar uma decisão. Grande parte desse trabalho envolve coletar e sintetizar informações, em vez de aplicar julgamento. É exatamente nesse ponto que os LLMs oferecem uma ajuda significativa.
Agentes de IA podem coletar automaticamente dados relevantes de sistemas internos e fontes de OSINT. Eles podem resumir históricos de transações, destacar padrões suspeitos e compilar informações contextuais. Isso permite que os analistas iniciem uma investigação com um conjunto de dados muito mais rico já preparado.
Considere uma investigação de onboarding de um comerciante como exemplo: um agente de IA poderia analisar o site do comerciante, identificar inconsistências nas descrições de produtos e verificar se o endereço comercial aparece em outras solicitações suspeitas.
Em vez de gastar vinte minutos coletando dados, o analista pode se concentrar em interpretar os resultados e tomar a decisão final. Embora a IA Agente não elimine a necessidade de investigadores humanos, ela ajuda a reduzir a carga de trabalho. Agentes de IA podem resolver automaticamente casos comuns e repetitivos que correspondem a padrões de fraude conhecidos.
Para as investigações complexas restantes, a IA Agente melhora a forma como os analistas trabalham. Em vez de montar o conjunto de dados por trás de um caso, os investigadores agora podem se concentrar em interpretá-lo e aplicar seu julgamento.
IA Agente e regras: ampliando a lógica especializada
Regras baseadas em especialistas continuam sendo uma das ferramentas mais eficazes na prevenção de fraudes. Quando bem projetadas, elas capturam padrões de fraude altamente específicos com precisão excepcional e são mais fáceis de ajustar do que modelos de aprendizado de máquina.
No entanto, manter essas regras exige um esforço contínuo. Os padrões de fraude evoluem rapidamente e as regras se degradam com o tempo à medida que os fraudadores adaptam seu comportamento. Os analistas precisam dedicar uma quantidade significativa de tempo:
- Monitorar o desempenho
- Identificação de padrões emergentes
- Ajustar a lógica existente para manter a precisão
Esse processo envolve um trabalho analítico significativo. Os analistas precisam explorar grandes conjuntos de dados para identificar padrões que tenham forte correlação com fraude. Eles precisam testar possíveis condições de regras, avaliar taxas de falsos positivos e determinar se uma regra continuará eficaz à medida que os fraudadores se adaptam. Eu explico esse processo iterativo de ponta a ponta em como lançar regras de fraude com segurança.
LLMs aceleram esses esforços ao atuarem como assistentes de análise exploratória de dados. Os analistas podem fornecer conjuntos de dados a um modelo para revelar correlações que possam justificar uma nova regra, identificando padrões que, de outra forma, teriam exigido horas de análise manual detalhada.
Da mesma forma, os LLMs podem ajudar a analisar o desempenho das regras existentes. Se a taxa de falsos positivos de uma regra começar a aumentar, um sistema de IA pode analisar o conjunto de dados subjacente e sugerir modificações específicas que possam restaurar sua precisão. Em seguida, os analistas revisam essas sugestões e decidem se elas fazem sentido do ponto de vista operacional.
Mas isso não significa que os LLMs de repente se tornarão especialistas em análise de fraude. Os profissionais humanos ainda compreendem não apenas o contexto por trás dos padrões de fraude, mas também o contexto de negócios em que eles operam. Parte disso é manter o delicado equilíbrio entre a segurança do sistema e o crescimento do negócio. Outra parte é avaliar quando conjuntos de dados enviesados podem levar a conclusões equivocadas.
No entanto, ao acelerar o processo de pesquisa e análise, os LLMs podem aumentar significativamente a produtividade de uma pequena equipe de combate a fraudes. Em vez de passar horas explorando conjuntos de dados manualmente, os analistas podem agora se concentrar em avaliar as ideias mais promissoras.
IA agente e aprendizado de máquina: o multiplicador de força em P&D
Os modelos de aprendizado de máquina se tornaram a espinha dorsal dos modernos sistemas de detecção de fraude. Eles oferecem pontuação em escala sobre grandes conjuntos de dados e conseguem capturar relações complexas entre múltiplos sinais comportamentais.
Isso significa que construir modelos de fraude eficazes está longe de ser trivial. O desenvolvimento exige:
- Engenharia de atributos
- Rotulagem de dados
- Experimentação de algoritmos
- Monitoramento contínuo de desempenho
…tudo isso exige tempo significativo e conhecimento especializado.
A IA ajuda a acelerar esses ciclos de desenvolvimento. Por exemplo, LLMs auxiliam na engenharia de atributos ao identificar padrões significativos em dados textuais ou não estruturados que modelos tradicionais podem deixar passar. Elas também permitem que cientistas de dados explorem novas estratégias de segmentação ou identifiquem subpopulações específicas em que o desempenho de um modelo começou a se degradar.
Outra aplicação fundamental é a explicabilidade de modelos. Como os modelos de aprendizado de máquina muitas vezes funcionam como caixas-pretas, os analistas frequentemente têm dificuldade para entender por que uma determinada transação recebeu uma pontuação de risco alta. Os LLMs ajudam a traduzir esses resultados complexos em explicações compreensíveis para humanos, facilitando que os analistas investiguem e validem eventos suspeitos.
Essa transparência melhora tanto a análise interna quanto a comunicação externa. As equipes de suporte ao cliente podem explicar melhor as decisões para usuários que foram recusados incorretamente, enquanto os analistas de fraude conseguem identificar e corrigir com mais facilidade as fragilidades no desempenho do modelo. As equipes de produto, por sua vez, passam a ter uma compreensão mais clara de como os controles de fraude impactam a experiência do cliente.
Mais uma vez, o papel dos LLMs não é substituir o próprio modelo. Em vez disso, eles aprimoram os processos relacionados ao desenvolvimento, manutenção e interpretação do modelo.
A futura pilha de combate à fraude
O surgimento da IA Agente não significa o fim das regras, do aprendizado de máquina ou das investigações manuais. Em vez disso, representa a próxima etapa na evolução dos sistemas de prevenção a fraudes.
As regras continuarão a fornecer lógica direcionada para padrões específicos de fraude. Os modelos de aprendizado de máquina continuarão a oferecer pontuações de risco escaláveis em grandes conjuntos de dados. Investigadores humanos ainda lidarão com casos complexos que exigem raciocínio contextual e julgamento. Esses pilares não vão desaparecer.
No entanto, a IA está começando a atuar verticalmente em todas essas camadas, melhorando o funcionamento de cada uma delas.
Ao auxiliar analistas durante investigações e acelerar a pesquisa por trás de regras e modelos, a IA Agente já está mudando a forma como as equipes operam. Os departamentos de fraude estão começando a alcançar maior produtividade com menos recursos, permitindo que os profissionais se afastem da síntese manual de dados e passem a focar na solução dos problemas mais desafiadores e adversariais.
A futura pilha de combate à fraude não é uma escolha entre tecnologias ou pessoas; é a combinação eficaz de ambas. Nesse sistema, a IA atua menos como uma nova camada e mais como um multiplicador de força que atravessa toda a pilha.