Passei mais de 20 anos usando estatística e aprendizado de máquina para combater fraudes.
Quando comecei minha carreira, o aprendizado de máquina ainda não era uma parte central das ferramentas da Equipe de Fraude. Naquela época, a maioria das empresas dependia de métodos tradicionais como WAFs, CAPTCHAs e bancos de dados estáticos para bloquear atividades suspeitas.
Hoje, aprendizado de máquina e IA fazem grande parte do trabalho pesado quando se trata de detectar padrões de fraude, identificar anomalias e determinar pontuações de risco. Os sistemas baseados em aprendizado de máquina são muito mais eficazes em responder a ameaças em constante mudança em tempo real, e é por isso que a maioria das organizações já está usando ou avaliando o uso de aprendizado de máquina para prevenção de fraude. Os algoritmos de aprendizado de máquina conseguem lidar com uma ampla variedade de tarefas, analisar dados, encontrar padrões e auxiliar na tomada de decisões com base em volumes enormes de dados.
Diante de todo o hype que temos visto em torno de IA Generativa e do ChatGPT, tenho sido questionado se a GenAI vai substituir o machine learning na prevenção a fraudes e quando é melhor usar machine learning em vez de GenAI.
Aqui está a minha opinião 👇.
Principais pontos
- A GenAI não substituirá o aprendizado de máquina na prevenção de fraudes tão cedo. A GenAI não é ideal para identificar risco de fraude em conjuntos de dados tradicionais. Modelos de aprendizado de máquina supervisionados e não supervisionados funcionam muito melhor para prevenção de fraudes.
- Para aprendizado supervisionado, as árvores de decisão com gradient boosting são o modelo de trabalho principal, e geralmente são tudo de que você precisa. Se você quiser construir modelos baseados em eventos para sinalizar sequências de eventos anômalas e detectar tomadas de controle de contas, então os modelos de Long Short Term Memory (LSTM) também são suficientes.
- Modelos de aprendizado não supervisionado, como K Nearest Neighbors (KNN) ou Isolation Forests para detecção de anomalias, são excelentes para agrupamento e identificação de quadrilhas de fraude.
- A GenAI pode ser uma ótima copilota para operações de fraude e conformidade. Você pode usá-la para analisar e resumir grandes conjuntos de dados não estruturados. Ela também pode ajudar a criar regras, gerenciar disputas ou até mesmo registrar relatórios de atividades suspeitas.
- As taxas de fraude estão crescendo 30% ano a ano, e os registros de SAR estão aumentando 15% ano a ano. O número de funcionários e os orçamentos de TI não conseguem crescer tão rápido quanto os volumes de SAR e as taxas de fraude. O GenAI pode ser a melhor forma de acompanhar o aumento de fraudes e registros de SAR.
- A GenAI precisará resolver alguns desafios importantes de qualidade de dados e governança para evoluir além dos copilotos.
- A combinação ideal é humano + regras + ML + GenAI.
Como o aprendizado de máquina é usado na prevenção de fraudes?
Os sistemas de prevenção de fraude baseados em aprendizado de máquina usam algoritmos para analisar grandes volumes de dados e identificar sinais de fraude, como padrões suspeitos, atividades anômalas e relações entre pontos de dados.
Ao usar uma combinação de dados históricos e em tempo real, os sistemas de prevenção a fraudes baseados em aprendizado de máquina podem prever a probabilidade de fraude com um alto grau de precisão. E eles geralmente se tornam mais eficazes ao longo do tempo. À medida que monitoram novos cenários de fraude, aprendem rapidamente os padrões e se adaptam para impedir essas ameaças.
Para fazer isso de forma eficaz, os modelos de machine learning precisam ser treinados e refinados usando “features”. Esses atributos e preditores ensinam os algoritmos a reconhecer padrões e fazer previsões. Investimos muito tempo treinando modelos e criando features na Sardine. Nossa equipe já criou mais de 4.000 features de detecção de fraude e normalmente lançamos de 250 a 500 novas features a cada trimestre.
Como a IA Generativa é usada na prevenção de fraudes?
A IA generativa ainda é uma tecnologia relativamente nova na prevenção e detecção de fraudes. Hoje, ela é mais adequada para ser usada como copiloto em operações de fraude e conformidade:
- Análise e síntese de grandes conjuntos de dados não estruturados
- Automatização de tarefas administrativas com variáveis demais para ferramentas de RPA
- Responder a perguntas sobre por que uma regra foi acionada
- Ajudar você a criar regras no seu sistema de pontuação de risco
- Preparar e enviar provas para disputas de pagamento
- Redigir narrativas de RAS e apresentar relatórios de atividades
Ironicamente, observamos que os fraudadores estão entre os maiores usuários de GenAI hoje em dia. Eles usam esses LLMs para ampliar seus golpes e tornar suas táticas mais eficazes.
Alguns exemplos incluem:
- Escrever e-mails e mensagens de phishing com gramática perfeita
- Sobrepor rostos (deep fakes) em vídeos e documentos de identificação durante o onboarding
- Uso de clonagem de voz para contornar a autenticação via suporte telefônico
- Automatizar comunicações para diferentes golpes
Este artigo da Forbes aprofunda-se em como a IA está a ser usada para potenciar fraudes.
Qual ferramenta é melhor para a prevenção de fraudes?
Como muitas coisas na vida, as pessoas querem criar uma resposta binária. Sim ou não. Verdadeiro ou falso. A realidade é que não existe uma resposta certa aqui. Trata-se de escolher a ferramenta certa para o trabalho.
1. O aprendizado de máquina é melhor do que a IA na detecção de fraudes
A GenAI é transformadora em muitos domínios. No entanto, modelos de machine learning supervisionados e não supervisionados funcionam muito bem na prevenção de fraudes. Eles são naturalmente muito mais fortes ao lidar com grandes modelos estatísticos e em fornecer respostas com maior grau de confiança.
Os modelos de IA generativa são milagres da engenharia moderna e incrivelmente úteis em todo o espectro de riscos.
Modelos tradicionais podem considerar palavras como “Ford” e “fazenda” muito mais semelhantes do que “Ford” e “carro”. O modelo constrói uma compreensão semântica mais profunda da linguagem com base no corpus de previsão da próxima palavra em que foi treinado.
Isso é fantástico quando você está tentando gerar um novo texto com significado ou entender um cenário complexo e resumi-lo.
No entanto, hoje, a GenAI pode ser cara e lenta. Embora existam maneiras de mitigar ambos os desafios, os tipos de modelos existentes ainda são mais eficientes e provavelmente a ferramenta certa ao modelar o risco de fraude a partir de sinais transacionais, de usuário, de dispositivo ou comportamentais.
A GenAI e os grandes modelos de linguagem também têm o hábito de alucinar. Isso é verdade para os modelos de código aberto, de código fechado e proprietários que usam arquiteturas transformer para criar significado semântico a partir de grandes conjuntos de dados com embeddings.
A alucinação pode ser uma funcionalidade, não um defeito; ela é criatividade e resolução de problemas e consegue lidar com questões mais complexas. A equipe antifraude sabe bem disso, já que é nisso que as equipes de operações passam grande parte do tempo trabalhando.
A GenAI não é tão forte em processamento bruto de números e modelagem estatística quanto as técnicas atuais de aprendizado de máquina.
O autor Ethan Mollick chama a GenAI e os LLMs de “pessoas razoavelmente boas”. Eles são criativos e bons em resolver problemas, mas nem sempre 100% precisos.
Os modelos de aprendizado de máquina podem ser muito mais robustos quando buscamos realizar análises estatísticas de conjuntos de dados transacionais, de usuários ou baseados na web para identificar padrões de comportamento ou atividade.
2. O aprendizado de máquina oferece a melhor relação custo-benefício.
A maioria das instituições financeiras e dos comerciantes mal começou a explorar o que o ML pode fazer.
As equipes de fraude e compliance sabem que precisam dessa capacidade, mas muitas vezes não têm o investimento ou os recursos de engenharia para desenvolver os modelos (com uma ou duas exceções notáveis). Mesmo nas maiores empresas e nas que seguem as melhores práticas que vemos, os modelos estão muito aquém da escala que você esperaria em big tech ou ad tech. Há um enorme potencial a ser destravado ao acessar capacidades de machine learning em grande escala de forma turnkey.
O Machine Learning terá ganhos substanciais de desempenho na prevenção, detecção e reporte de fraudes ou riscos de compliance. Hoje, a maioria dos modelos é pequena, depende de conjuntos de dados limitados e a equipe de fraude é prejudicada pelo acesso insuficiente a dados externos.
Para o aprendizado supervisionado, o segredo mais bem guardado entre os profissionais de machine learning é que as árvores de decisão com gradient boosting são o modelo de trabalho principal. Além disso, os GBDTs sempre se mostraram sólidos com dados estruturados, nos quais o histórico de tentativa e erro já está incorporado. Também vemos modelos de CNNs e GNN em setores mais avançados, como fraude em RTP e em criptomoedas.
Se você quiser construir modelos baseados em eventos para sinalizar sequências de eventos anômalas e detectar tomadas de controle de contas, então modelos de sequência também são suficientes.
Por fim, modelos de aprendizado não supervisionado como K Nearest Neighbors (KNN) ou florestas de isolamento para detecção de anomalias são suficientes para agrupamento. Com esse conjunto de dados de primeira ordem, métodos de grafos ajudam a encontrar quadrilhas de fraude.
3. A GenAI é uma ótima copilota para operações de fraude e conformidade
Acredito que o “low-hanging fruit” do GenAI seja atuar como co-piloto para fraude e compliance. As organizações dedicam de 10% a 30% de sua força de trabalho a atividades relacionadas à conformidade.
Hoje, as equipes de fraude e compliance estão tentando acompanhar volumes cada vez maiores de fraudes e de SARs sem um orçamento maior. Grande parte do trabalho é manual, e essas tarefas costumam ser resumos de dados repetitivos ou a análise de grandes conjuntos de dados. Isso as obriga a focar apenas nos casos mais graves.
Um modelo de linguagem de grande porte pode realizar até 90% do trabalho administrativo monótono, permitindo detectar e prevenir muito mais fraudes e registrar muito mais RAS sem necessidade de aumentar a equipe.
A IA generativa é feita sob medida para isso e, na Sardine, já temos vários casos de uso em produção.
Copiloto do Chief Risk Officer | O Chief Risk Officer pode fazer perguntas como: “Qual é o estado geral de saúde da minha plataforma hoje?” |
Copiloto de análise | Os analistas podem pedir recomendações para uma regra |
Copiloto de operações | Encadeie as diversas tarefas envolvidas na revisão de um caso |
Texto para SQL | Escreva sua regra de monitoramento de transações em linguagem natural e nós geramos o SQL correto |
4. Governança e qualidade de dados são fundamentais para tornar a GenAI eficaz
Consigo imaginar inúmeras áreas em que LLMs poderiam trazer ganhos significativos de desempenho, atuando como “mais do que” um copiloto.
Um exemplo em que LLMs podem potencialmente ter um impacto maior é na detecção de tomada de conta de contas por meio de modelagem de sequências de eventos. Mas, muitas vezes, o problema não é a falta de uma boa técnica de modelagem disponível, e sim a falta de bons dados rotulados – nenhuma empresa, na minha experiência, coleta rótulos realmente confiáveis sobre quais logins foram de fato tomadas de conta de contas e quais não foram.
Vamos primeiro resolver isso, depois o resto virá com bastante facilidade.
Machine Learning vs. GenAI para prevenção de fraudes
Em resumo, é claro que tanto o machine learning quanto a genAI terão papéis cruciais na prevenção de fraudes. É E, não OU. Aqui está um bom gráfico que resume as diferenças elaborado pelo pessoal da Techopedia:
Com o tempo, acho que as ferramentas de GenAI vão nos surpreender ao fazer grande parte do que a equipe antifraude atualmente faz. Criatividade, resolução de problemas, criação de novas regras e sua aplicação.
Mas não acho que precisaremos nos preocupar em ser substituídos pela IA. Esses copilotos simplesmente nos tornarão mais produtivos e liberarão nosso tempo e recursos para que possamos focar em tarefas de maior valor.
A combinação ideal é humano + regras + ML + IA Generativa.
Eu adoraria ouvir pessoas mais informadas do que eu sobre casos de uso de IA generativa em modelagem de fraude e sobre o que funcionou versus o que não funcionou.