Principais conclusões que todas as equipes de combate a fraudes precisam conhecer:
- Um documento de identidade governamental falso custa cerca de US$ 50 em bitcoin e leva apenas alguns segundos para ser gerado. O site que vendeu mais de dez mil desses documentos tinha atendimento ao cliente, um canal no Telegram e um padrão visual característico. Não foi difícil encontrá-lo.
- Os deepfakes de vídeo em tempo real agora funcionam em hardware de jogos de uso doméstico. O plano premium inclui uma chamada de integração técnica, uma equipe de suporte e um processo de avaliação de novos compradores.
- A biometria de voz pode ser contornada com um clone criado em cinco minutos a partir de áudio disponível publicamente. Um podcast, uma entrevista à imprensa ou uma palestra pública fornecem dados de treinamento suficientes.
- Esses vetores de fraude com IA não são novos. O que mudou foi que alguém os reuniu em um único ataque coordenado de falsificação de identidade, que agora pode ser executado até mesmo por operadores com pouca experiência.
- As ferramentas que viabilizam esses golpes com IA são vendidas nos mesmos canais do Telegram usados por centros de golpes, onde vítimas de tráfico humano são forçadas a executar operações em escala industrial. Trata-se de uma única cadeia de fornecimento, não de dois mundos distintos.
- A suposição de que apenas pessoas idosas ou ingênuas caem em golpes com IA é justamente o que fará com que mais pessoas sejam enganadas. As ferramentas são baratas o suficiente para ampliar significativamente o número de pessoas capazes de realizar um ataque convincente.
Joseph Cox iniciou sua palestra principal na SardineCon, em São Francisco, descrevendo algo que ele próprio admitiu parecer absurdo.
Imagine que recebe uma chamada do seu cônjuge, do seu filho ou da sua filha. A cadência está certa, o ritmo está certo, mas há qualquer coisa ligeiramente estranha que não consegue identificar. Por isso, naturalmente, pede para fazerem uma videochamada pelo FaceTime (ou pelo Zoom, se forem uma família muito empresarial). A pessoa atende e é mesmo ela, só que os movimentos também parecem um pouco estranhos. E isso leva-o a fazer aquilo a que Joseph chamou uma pergunta verdadeiramente absurda: podes enviar-me uma fotografia do teu documento de identificação?
A pessoa fica ofendida, porque é uma coisa absurda de se pedir a um familiar. Mesmo assim, a foto chega, tirada num sofá, e você relaxa. É aí que vem o pedido de cartões-presente ou de uma transferência bancária.
Joseph realizou pessoalmente cada uma dessas etapas. Ele foi cofundador da 404 Media, e seu método consiste em comprar o que os criminosos estão comprando e testar se funciona. Ele considera cada etapa trivial. A única coisa que ainda não viu ninguém fazer é interligá-las.
Uma identidade falsa custa cerca de US$ 50 em bitcoin e leva apenas alguns segundos
Joseph mostrou como funciona um site chamado OnlyFake, gerido por alguém que usava o nome «John Wick» no Telegram (sim, eram obcecados pelos filmes, até incluíam a assinatura). Carregou cerca de 50 dólares em bitcoin, escolheu um país e um tipo de documento, introduziu um nome e uma data de nascimento, carregou uma fotografia e obteve o documento falso em segundos. Existe até uma API, pelo que um comprador pode fornecer-lhe um ficheiro CSV e produzir documentos em lote.
A primeira versão saiu sem fundo, o que era um problema, porque um banco que realiza verificações de Conheça o Seu Cliente exige uma fotografia do documento físico. Naturalmente, a OnlyFake adicionou fundos para que os compradores pudessem escolher um de uma biblioteca, carregar o seu próprio ou gerar um aleatoriamente. A biblioteca incluía uma peça de mobiliário de exterior e, segundo Joseph, «um dos tapetes mais repugnantes de sempre». De qualquer forma, o documento de identificação acabava sobre um tapete, uma mesa ou o colo de alguém, parecendo uma fotografia realmente tirada por uma pessoa.
Joseph criou para si um passaporte britânico do modelo antigo e testou-o no processo de verificação de identidade de uma plataforma de câmbio de criptomoedas. Foi aprovado. Ele testou apenas o documento, nunca a etapa de correspondência facial.
O FBI prendeu o operador e o acusou de vender mais de dez mil documentos de identidade falsos. Nem a prisão nem as acusações foram divulgadas até que ele se declarasse culpado, deixando uma lacuna inexplicada que Joseph ainda está investigando.
Mas, claro, encerrar o site não eliminou essa capacidade. A investigadora Jane Wong utilizou uma ferramenta disponível comercialmente para criar tanto um documento como uma selfie sua a segurá-lo, e outras pessoas estão a gerar passaportes com o Nano Banana Pro da Google. Sempre que um fornecedor corrige uma forma de contornar as restrições, os compradores passam para qualquer modelo popular que ainda não tenha sido corrigido. O mesmo ciclo de salvaguardas presente em todos os outros problemas de segurança da IA está agora direcionado para documentos de identificação emitidos pelo Estado, e cada correção apenas transfere o problema para outro lado.
Deepfakes de vídeo em tempo real agora rodam em um notebook gamer
Joseph mostrou imagens de golpistas nigerianos, conhecidos como Yahoo boys, aplicando golpes românticos e transformando a própria aparência ao vivo durante videochamadas. No meio de uma conversa, um homem negro se transforma em um homem branco mais velho, com pelos faciais. Outro passa de homem a mulher em um celular.
O resultado é rudimentar. É preciso usar um ring light e, às vezes, uma peruca (o software ainda não consegue reproduzir bem o cabelo), e a qualidade está mais próxima de um filtro ruim do Zoom do que de um efeito cinematográfico. Mesmo assim, funciona, e há pessoas sendo enganadas por ele todos os dias.
O plano premium inclui uma equipe de suporte
Depois, há um nível ainda mais avançado. Joseph mostrou um vídeo de alguém submetendo a própria troca de rosto a testes extremos. A luz se movia pelo rosto, uma bochecha era beliscada para esticar a pele e os olhos se fechavam, um de cada vez. Nada desfez a ilusão.
Eles estavam usando uma ferramenta em chinês, vendida com suporte ao cliente de verdade, atendimento 24 horas por dia, 7 dias por semana, e uma chamada de integração técnica. Ela exige um computador gamer realmente potente (no mínimo, uma 4080 Super e 16 gigabytes de DDR5) e custa cerca de US$ 2.000 por ano. Então, naturalmente, Joseph a comprou.
O processo levou mais de um mês porque os vendedores avaliam primeiro os compradores, em parte pedindo as especificações do PC para excluir quem só lhes quer fazer perder tempo. Como o dispositivo mais potente de Joseph é a sua PS5, ele teve de enviar uma mensagem ao seu cofundador, Emanuel Maiberg, um grande entusiasta de jogos para PC, e pedir-lhe capturas de ecrã da sua máquina para as encaminhar ao vendedor como prova de que era um comprador sério.
Quando finalmente conseguiu uma videochamada de demonstração, a pessoa do outro lado estava a usar um deepfake em tempo real com o rosto de um ator de Hong Kong e depois mudou para o de uma mulher. Um modelo personalizado de uma pessoa específica custa mais algumas centenas, por isso Joseph pagou por um e enviou algumas das piores selfies que alguma vez tirou. Depois, viu alguém usar o seu próprio rosto numa videochamada em direto. Mostrou-o à mãe e até ela ficou convencida.
Esse é o nível a que chegamos. Uma empresa de serviços, com uma equipe de suporte, vendendo roubo de identidade por assinatura.
Este software é comercializado nos mesmos canais do Telegram usados pelos centros de fraude em Mianmar e no Camboja, onde vítimas de tráfico humano são obrigadas a conduzir essas operações em escala industrial. Uma única cadeia de abastecimento atende às duas pontas do mercado.
A biometria de voz não impediu um clone de IA
O banco de Joseph no Reino Unido permite que os clientes se autentiquem dizendo: "a minha voz é a minha palavra-passe". Ele usou o ElevenLabs para clonar a própria voz, lendo o guião que a ferramenta gerou para ele — que, por razões que ninguém conseguiu explicar, era um romance erótico que teve de interpretar à secretária, no escritório. Depois, reproduziu a frase clonada ao telefone quando o sistema de reconhecimento de voz do banco a solicitou, e funcionou. Conseguiu aceder à própria conta, consultar o saldo, tudo.
O clone nem sequer era assim tão bom. Há uma cadência ligeiramente estranha na forma como diz «palavra-passe», como se a ênfase recaísse no sítio errado. Mas isso não importou, porque o sistema aceitou-o na mesma. E isto com um clone instantâneo criado em cinco minutos. A ElevenLabs também disponibiliza uma versão «profissional» de 30 minutos, que produz resultados mais nítidos — um tempo insignificante se o alvo alguma vez tiver feito uma palestra pública, apresentado um podcast ou dado uma entrevista à imprensa. Qualquer equipa de combate à fraude nativa de IA que dependa da autenticação por voz deve encarar isto como um modo de falha documentado, e não meramente teórico.
O que une tudo isso
Documentos de identidade falsos, deepfakes e clonagem de voz já existem há anos. O que mudou é que alguém reuniu essas tecnologias num pacote destinado a compradores que não querem aprender nada sobre a tecnologia subjacente. Joseph encontrou um mercado que vende o documento, a troca de rosto e a voz separadamente, permitindo ao comprador combiná-los numa única chamada. A ferramenta chinesa que comprou inclui uma camada de tradução em tempo real, pelo que um operador que não fale inglês consegue, ainda assim, realizar a chamada nesse idioma.
E embora exista um mercado para as ferramentas premium, que custam alguns milhares de dólares por ano, as gratuitas (disfarçadas de aplicativos de pegadinhas na Play Store) já são boas o suficiente para enganar muita gente.
Joseph fez um alerta abrangente. Ele não acha que estamos preparados para fraudes impulsionadas por IA — e não se referia apenas ao setor ou a uma empresa, mas à sociedade como um todo. A ideia de que apenas pessoas idosas ou ingênuas caem em golpes é, nas palavras dele, preconceituosa e equivocada. As ferramentas agora são baratas o suficiente para que o número de pessoas capazes de aplicar um golpe convincente seja muito maior, enquanto o número de pessoas que podem ser convencidas não diminuiu em nada.
Perguntas frequentes
O que uma equipe de combate a fraudes nativa em IA deve saber sobre ferramentas de geração de documentos de identidade falsos?
Serviços de geração de documentos de identidade falsos, como o OnlyFake, tornaram fraudes documentais de alta qualidade acessíveis a qualquer pessoa com US$ 50 em bitcoin e uma conta no Telegram. Essas ferramentas geram documentos oficiais convincentes em segundos, inserem-nos em fundos realistas e já foram testadas com sucesso em processos reais de verificação de corretoras de criptomoedas. Para equipes antifraude que realizam verificações de identidade baseadas em documentos, trata-se de uma forma de burlar o sistema já comprovada, e não de uma possibilidade hipotética.
Como funcionam os deepfakes de vídeo em tempo real e por que são importantes para a prevenção de fraudes?
As ferramentas de deepfake de vídeo em tempo real substituem o rosto de uma pessoa ao vivo durante videochamadas, utilizando hardware de jogos de uso doméstico. O nível premium funciona como um serviço por assinatura, com suporte ao cliente e verificação de compradores. Embora a qualidade do resultado varie, ela é suficiente para enganar pessoas em conversas ao vivo. Para equipes antifraude que utilizam verificações de vivacidade por vídeo ou processos de entrevista remota, essas ferramentas representam um vetor de ataque documentado que está sendo usado ativamente em larga escala.
A clonagem de voz pode contornar os sistemas bancários de autenticação por voz?
Sim. Em um teste documentado, um clone de voz de cinco minutos, criado a partir de áudio disponível publicamente, como um episódio de podcast ou uma entrevista à imprensa, conseguiu contornar o sistema de autenticação por voz de um grande banco do Reino Unido. O clone era imperfeito, mas, ainda assim, foi aceito pelo sistema. Qualquer equipe antifraude que dependa da biometria de voz como principal mecanismo de autenticação deve considerar isso uma vulnerabilidade conhecida que exige uma defesa em camadas.
O que torna os golpes com IA mais difíceis de combater hoje do que há dois anos?
Os componentes individuais das fraudes com IA — documentos falsos, deepfakes de vídeo e clonagem de voz — existem há anos. O que mudou é que agora são combinados em ataques coordenados de falsificação de identidade, cuja execução não exige qualquer competência técnica. Ferramentas de baixo custo estão disponíveis nas principais lojas de aplicações e em canais do Telegram. As ferramentas premium incluem apoio ao cliente e integração inicial. A barreira para realizar uma fraude convincente com IA baixou a tal ponto que o número de pessoas capazes de a executar aumentou significativamente.
