51 min
Fraudology
Tendências de fraude com IA em 2025: dos estados golpistas aos GrinchBots
Vamos analisar isso.
Hoje, vou analisar um extenso resumo de notícias sobre as tendências de fraude com IA em 2025, e há muita coisa para abordar. Estamos falando sobre exposição de dados ligada a detalhes de clientes da API da OpenAI, ferramentas de jailbreak criadas para remover proteções de segurança de modelos de IA amplamente utilizados, relatos de que complexos de golpes no Sudeste Asiático podem estar testando IA como substituta de trabalhadores traficados e abuso de bots no varejo que atingiu a Black Friday por vários ângulos.
É, é muita coisa.
Mas quando você dá um passo para trás, essas não são histórias desconectadas. Elas apontam para a mesma mudança maior. A IA está tornando as operações de fraude mais rápidas, mais baratas, mais escaláveis e, em muitos casos, mais difíceis de atribuir com clareza. Isso é importante para as equipes de fraude. É importante para as equipes de confiança e segurança. E com certeza é importante para as empresas de ecommerce que tentam sobreviver aos períodos de pico de compras sem serem soterradas por abusos automatizados.
À primeira vista, algumas dessas histórias podem parecer notícias de cibersegurança, não de fraude. Mas, quando você aprofunda, todas elas acabam em áreas que são importantes para as equipes de fraude: tomada de contas, personificação, credential stuffing, estornos, identidades falsas, abuso em marketplaces, responsabilidade das plataformas e infraestrutura organizada de golpes. Então vamos destrinchar isso.
Veja o que essas tendências de fraude com IA em 2025 significam na prática:
- Ferramentas de jailbreak de IA para fraude estão facilitando para criminosos o acesso a prompts nocivos e a remoção de filtros de segurança
- As redes de fraude de estados golpistas estão se tornando mais industrializadas, com automação incorporada a sistemas que já são abusivos
- Bots de IA na Black Friday estão impulsionando o acúmulo de estoque, ataques a credenciais e novas formas de fraude com assistentes de compras agentes
- Golpes de personificação habilitados por IA estão se tornando mais convincentes por meio de identidades falsas, credenciais roubadas e fotos de rosto sintéticas
- Os riscos de fraude decorrentes da IA generativa deixaram de ser teóricos para as equipes de prevenção a fraudes, comerciantes, plataformas e marketplaces
O que você vai ouvir neste episódio
- Por que o impacto da violação de dados da API da OpenAI é importante para além de apenas uma empresa ou um único incidente
- Como o Kawaii GPT e outras alternativas ao wormGPT mostram para onde estão caminhando as ferramentas de jailbreak de IA usadas para fraude
- O que a automação do golpe de abate de porcos pode significar para os complexos de fraude que já operam em grande escala
- Como bots de IA na Black Friday afetaram fraudes com bots no comércio eletrônico durante as festas, ataques de credential stuffing e abuso de inventário
- Por que golpistas que se passam por advogados usando IA devem servir como um alerta para marketplaces e equipes de confiança
Você deve ouvir este episódio se você
- Acompanhe as tendências do cibercrime impulsionado por IA e queira uma perspectiva prática de fraude sobre o que está mudando
- Trabalha com comércio eletrônico, confiança e segurança ou prevenção de fraude e precisa entender a fraude de bots no comércio eletrônico durante os feriados
- Quer acompanhar as novas táticas de golpes com IA sem precisar vasculhar seis fontes de notícias diferentes
- Se importa com a responsabilização das plataformas, com as redes de fraude de estados golpistas e com as consequências reais de uma fiscalização fraca
- Precisa de um resumo de notícias sobre fraudes em comércio eletrônico que conecte as manchetes ao risco operacional de fraude
Se você gostou deste episódio, não deixe de assinar e avaliar o podcast no iTunes, Spotify, YouTube ou em qualquer plataforma onde você ouça podcasts. Isso realmente ajuda a divulgar.
Notas do episódio e principais aprendizados
Por que essas tendências de fraude com IA estão conectadas
Vamos começar por aqui.
É muito fácil olhar para uma notícia sobre uma violação de dados de análise, depois outra sobre ferramentas de jailbreak de IA usadas para fraude, e ainda outra sobre esquemas de golpes, e tratá-las como se fossem coisas separadas. Mas não são. Agora, todas fazem parte do mesmo ambiente operacional.
Aqui está o que está realmente acontecendo.
A IA está reduzindo o custo de experimentação para criminosos. Ela está acelerando a geração de conteúdo, a personificação, os testes de ataque e a automação. Ao mesmo tempo, as organizações estão lançando recursos de IA rapidamente, muitas vezes antes de terem refletido completamente sobre casos de abuso, responsabilidade ou controles operacionais.
É aí que as coisas começam a ficar complicadas.
Porque, quando essas duas tendências se encontram, as equipes de fraude acabam lidando com as consequências:
- Phishing e falsificação de identidade mais convincentes
- Teste mais rápido de abuso de credenciais e tomada de contas
- Operações de fraude mais escaláveis com menos esforço humano
- Novos riscos de confiança e segurança em ferramentas de IA que não foram projetadas levando em conta possíveis abusos
Isso pode não parecer algo muito importante. Mas, na prevenção de fraudes, é absolutamente crucial.
O que a violação da OpenAI e as ferramentas de jailbreak nos revelam
A história do impacto da violação de dados da API da OpenAI é importante por alguns motivos. Primeiro, é mais um lembrete de que mesmo as empresas que constroem as ferramentas que moldam o futuro da IA ainda têm pontos de exposição comuns. Problemas com ferramentas de análise de terceiros não são glamorosos. Eles apenas são reais. E podem expor dados de clientes de maneiras que geram fraudes posteriores e preocupações com confiança.
Depois você adiciona o Kawaii GPT e alternativas semelhantes ao wormGPT, e o cenário fica ainda pior.
Porque agora a conversa não é apenas sobre se as ferramentas de IA são seguras. Também é sobre se os controles de segurança podem ser contornados por pessoas que estão ativamente tentando transformá-las em armas. E a resposta, pelo menos em alguns casos, é sim.
Isso é um problema.
Se criminosos puderem usar ferramentas de jailbreak de IA para fraudes a fim de remover proteções, eles poderão forçar modelos amplamente utilizados a ajudar com textos de phishing, roteiros de golpes, suporte a malware, engenharia social e outros fluxos de abuso. O modelo subjacente pode não ter sido criado para esse fim. Mas os atacantes não se importam muito com o que a equipe de produto pretendia.
Aqui está o ponto principal a entender:
- Camadas de segurança só são úteis se resistirem à pressão
- A adoção em massa significa que o uso indevido aumentará rapidamente quando os controles falharem
- As equipes de combate a fraudes precisam observar não apenas o modelo, mas também o ecossistema que está se formando ao seu redor
Estados de golpe, automação de pig butchering e fraude industrializada
É aqui que entra o custo humano. E ele não deve ser esquecido.
Relatos sobre complexos de golpes no Sudeste Asiático que estão testando IA não são apenas mais uma história de inovação em IA. Eles fazem parte de uma realidade muito maior de fraude organizada, trabalho forçado, redes criminosas transnacionais e do que alguns agora estão chamando de estados golpistas. Esse termo não está sendo usado de forma casual.
Então, o que isso significa para as equipes de combate a fraudes?
Isso significa que operações de fraude automatizadas podem ser incorporadas a sistemas que já funcionam em escala massiva. A automação de golpes de “pig butchering” pode permitir que mais golpes sejam executados com menos trabalhadores, mais consistência e um alcance ainda maior. Isso não substitui o dano existente. Ele o amplia.
E é exatamente esse tipo de vulnerabilidade que os criminosos procuram. Uma ferramenta que reduz o custo de mão de obra, aumenta a produtividade e torna a fiscalização ainda mais difícil.
As grandes questões aqui não são apenas técnicas. Elas são estruturais:
- O que acontece quando a infraestrutura de fraude se torna parcialmente automatizada
- Como os reguladores e as plataformas atribuem responsabilidade além das fronteiras
- Como é a disrupção quando os operadores estão distribuídos e protegidos
- Como as empresas respondem quando as redes de fraude de estados golpistas evoluem mais rápido do que as políticas
Nada disso tem uma resposta fácil. Mas ignorar isso geralmente não acaba bem.
Bots da Black Friday, GrinchBots e o problema da fraude no varejo
Se você trabalha com comércio eletrônico, esta parte provavelmente soa familiar.
A Black Friday sempre traz abuso de bots. Acúmulo de estoque. Uso indevido de credenciais durante as compras de fim de ano. Manipulação de carrinhos. Abuso de login. Atividade de revenda. Esse roteiro não é novo.
O que está mudando é a velocidade e a flexibilidade das ferramentas.
Os bots de IA na Black Friday parecem ter ido além de simples scripts e passado a apresentar comportamentos mais adaptativos, incluindo interações com assistentes de compras agentes e outras experiências de comércio automatizado. Assim, agora os varejistas não estão lidando apenas com as fraudes clássicas de bots no comércio eletrônico de fim de ano. Eles estão lidando com novas formas de comportamento automatizado que podem parecer mais humanas, agir mais rápido e explorar fluxos de compra mais recentes.
Não é exatamente o ideal.
É por isso que a prevenção de ataques de bots no varejo precisa continuar focada nos fundamentos:
- Detecte a automação antes do checkout, não apenas após a autorização do pagamento
- Monitorar ataques de preenchimento de credenciais, velocidade de login e comportamento de navegação incomum
- Teste de estresse dos novos recursos de compras com IA para identificar abusos antes dos períodos de pico
- Trate a fraude em assistentes de compras agentes como um problema de design de fraude, não apenas como um caso extremo de produto
Porque, se as equipes de fraude só forem envolvidas depois que os bots já tiverem esgotado o estoque, isso não é exatamente uma estratégia.
A personificação por IA está se tornando cada vez mais convincente
Uma das histórias desta coletânea que realmente se destaca é a reportagem sobre golpistas que se passam por advogados de verdade no Fiverr usando identidades roubadas e fotos de perfil geradas por IA.
À primeira vista, isso pode parecer um problema de confiança no marketplace. E é mesmo. Mas também é um sinal mais amplo de fraude.
Estamos vendo mais identidades falsas geradas por IA em marketplaces, mais perfis profissionais roubados e mais golpes de personificação habilitados por IA que dependem de misturar dados reais com ativos sintéticos. Essa combinação é o que os torna eficazes. Um nome real. Um perfil convincente. Uma foto bem produzida. Uma presença na plataforma que parece legítima o suficiente para passar por uma revisão rápida.
Este é um daqueles casos em que o truque técnico importa menos do que o sinal de confiança que ele explora.
A imagem falsa importa. Mas o verdadeiro dano vem de tomar emprestada a credibilidade de uma pessoa ou profissão real. Já vimos esse roteiro antes. A IA só torna mais fácil fazer isso em grande escala e com menos esforço.
Isso significa que as plataformas precisam refletir mais sobre:
- Verificação de identidade para categorias de serviços de alta confiança
- Monitoramento de padrões de personificação ligados a profissionais reais
- Detetar elementos de perfil que parecem autênticos, mas foram gerados ou alterados
- Responder rapidamente antes que identidades falsas possam construir reputação
Por que as equipes de fraude devem prestar atenção agora
Também abordei histórias sobre funcionários que terceirizam silenciosamente seus trabalhos ou mantêm vários cargos de tempo integral com apoio de IA. E embora isso possa parecer mais um problema de ambiente de trabalho do que de fraude, faz parte do mesmo padrão mais amplo de delegação oculta, supervisão fraca e responsabilidade difusa.
Essa é a linha mestra em tudo isso.
Quem é que está realmente fazendo o trabalho?
Quem está por trás da transação?
Quem está por trás da conta?
Quem é responsável quando a ferramenta causa danos ou encobre abusos?
Essas questões estão aparecendo em todos os lugares agora. No varejo. Em plataformas. Em marketplaces. Em sistemas de IA generativa. Em compras agentivas. Em redes globais de golpes.
Portanto, a principal conclusão deste episódio não é apenas que as tendências de fraude com IA em 2025 estão se acelerando. É que as equipes de combate à fraude precisam se aprimorar na identificação de padrões entre diferentes categorias. Porque a tática exata pode mudar, mas as fragilidades subjacentes são bem consistentes: controles de identidade fracos, baixa responsabilização das plataformas, detecção de abuso insuficiente e confiança excessiva de que a automação vai se comportar como deveria.
Certo. Geralmente não acontece.
Janeiro será o Mês da IA no Fraudology por um motivo. Está acontecendo coisa demais nessa área para ser abordada em uma única conversa, e grande parte disso vai impactar as equipes de fraude, pagamentos e confiança mais cedo do que as pessoas imaginam.
