Se você trabalha com fraude ou compliance, provavelmente já começou a ver sinais de deepfakes e documentos sintéticos nas suas filas.
Fraude impulsionada por IA está crescendo rapidamente e está cada vez mais fácil de ser executada. Novas ferramentas são lançadas constantemente, tornando simples gerar rostos, vídeos e documentos realistas com o mínimo de esforço. O que antes exigia habilidade técnica agora pode ser feito com alguns cliques, e essa acessibilidade está impulsionando mais tentativas de fraude em todos os setores.
O desafio é que a maioria dos sistemas existentes não foi criada para identificar esse tipo de fraude. E agora, com novas regulamentações surgindo em torno de identidades geradas por IA e mídia sintética, as equipes de risco precisam ser capazes de detectar e impedir de forma eficaz fraudes de identidade com deepfakes.
Este guia apresenta os diferentes tipos de deepfakes, como os fraudadores os utilizam e como as equipes de risco podem detectá-los.
Tipos de deepfakes e como são distribuídos
Deepfakes são imagens e vídeos gerados ou manipulados por IA, criados para fazer alguém parecer real ou alterar a sua aparência. Eles se enquadram na categoria mais ampla de mídia sintética e estão se tornando um problema comum tanto para as equipes de fraude quanto para as equipes de conformidade.
Criminosos estão usando-os em diversos tipos de ataques, como criar identidades sintéticas, falsificar suas imagens em verificações de KYC com detecção de deepfakes e desenvolver táticas de evasão de detecção de documentos sintéticos em disputas ou pedidos de indenização de seguros.
Vamos dar uma olhada nos diferentes tipos de deepfakes.
Deteção de morphing parcial de rosto e de troca de rosto por IA
A morphagem parcial de rosto (ocultação de identidade) permite que você altere partes específicas do seu rosto, sem precisar esconder completamente a sua aparência. Isso pode ser feito misturando traços de outras pessoas ou usando modelos que permitem ajustar a cor dos olhos, redimensionar o nariz, alterar o maxilar ou deixar o rosto mais fino ou mais largo em tempo real. Como esses modelos usam muito pouco poder de processamento, fraudadores podem usá-los para mudar a própria aparência durante transmissões de vídeo em tempo real, sem atraso ou sinais óbvios.
Rostos totalmente gerados por IA
Rostos totalmente gerados por IA são criados inteiramente do zero usando modelos de IA generativa como DALL-E, SDXL, Midjourney e Stable Diffusion. Criminosos podem facilmente instruir a IA a gerar a imagem de alguém com base em seu gênero, raça ou nacionalidade, onde moram ou até mesmo qual é a sua profissão. Como exemplo, pedimos ao ChatGPT para gerar a imagem de um corretor de imóveis para que você possa ver como essas imagens ficam.
Além das ferramentas de IA disponíveis publicamente, existem kits de ferramentas para golpes vendidos na dark web que facilitam a produção de imagens e vídeos hiper-realistas feitos especificamente para fraudes.
Troca de rostos
A troca de rostos substitui o rosto de uma pessoa pelo de outra e é provavelmente o tipo mais comum de deepfake que você verá online hoje em dia. Existem muitas ferramentas diferentes que permitem criar esses deepfakes enviando uma imagem ou um vídeo. No GIF abaixo, você pode ver um dos membros da nossa equipe de marketing trocando o próprio rosto pelo do Elon Musk.
Reencenação facial / Sincronização labial
A reencenação facial e a dublagem labial permitem animar a fotografia ou captura de tela do rosto de uma pessoa real para que suas expressões e movimentos da boca correspondam à velocidade ou às ações de outra pessoa. Você talvez já tenha visto alguns exemplos disso online, como os clipes falsos de Joe Rogan entrevistando Steve Jobs em seu podcast, ou as gravações de Albert Einstein dando uma palestra. No vídeo abaixo, o âncora da CNBC Andrew Sorkin compartilhou um clipe de alguém que fez isso com ele e sua coapresentadora.
Esses deepfakes geralmente são veiculados de algumas maneiras específicas, e entender como eles são apresentados pode lhe dar pistas sobre quais sinais podem ser usados para detectá-los.
- Apresentação física: Isso acontece quando um deepfake é exibido em um dispositivo físico, como um telefone, tablet ou monitor de computador durante uma chamada ou uma verificação presencial. Os fraudadores costumam segurar o telefone em frente à câmera e reproduzir um vídeo, ou mostrar uma imagem para tentar provar que o que estão dizendo é verdade.
- Injeção de vídeo: Isso se refere a deepfakes que são entregues por meio de uma câmera virtual ou plugin de navegador que envia um fluxo de vídeo para uma plataforma, como uma verificação de prova de vida incorporada em um app de fintech ou uma chamada de conferência.
- Mídia adulterada: Isso inclui documentos, imagens e vídeos sintéticos ou manipulados, como carteiras de identidade emitidas pelo governo, registros comerciais, extratos bancários, faturas ou comprovantes de endereço. Os fraudadores costumam enviar esse tipo de material durante o processo de onboarding ou por meio de portais usados para solicitar contestações, reembolsos ou ressarcimento de despesas. Mas eles também podem ser usados em muitos outros tipos de fraudes e golpes.
- Compartilhamento de tela: Isso acontece quando um deepfake é exibido durante uma sessão de compartilhamento de tela ou inserido em uma apresentação pré-gravada. Às vezes, fraudadores fazem isso quando estão aplicando engenharia social em um usuário ou quando não conseguem injetar vídeo diretamente em uma chamada de conferência ao vivo.
Como deepfakes são usados para fraudes
Deepfakes estão sendo usados em uma ampla variedade de vetores de fraude que afetam tanto as equipes de fraude quanto de AML. Você os verá em onboarding, logins, pagamentos e disputas – em qualquer lugar onde identidade ou confiança sejam verificadas, tornando a detecção de fraudes com deepfake uma prioridade tanto para as equipes de fraude quanto de AML. Abaixo estão algumas áreas em que vimos fraudadores usando tecnologia de deepfake.
Fraude de identidade: Criminosos geram rostos completos ou manipulam fotos para criar identidades sintéticas que passam em verificações visuais e preenchem formulários de onboarding. Essas imagens são combinadas com dados pessoais falsificados (PII) e usadas para abrir contas, contratar serviços ou conectar vários perfis falsos em um único esquema de fraude.
Contornando o KYC: Criminosos usam ferramentas para burlar a detecção de câmeras virtuais, vídeos pré-gravados ou reencenações em tempo real em verificações de prova de vida por selfie, fazendo o sistema acreditar que o usuário está ao vivo.
Golpes de engenharia social: Deepfakes fornecem uma rápida “prova” visual para dar suporte a chamadas ou mensagens de personificação e reduzir a hesitação das vítimas. Os atacantes mantêm os vídeos curtos, adicionam ruído de fundo ou atraso como disfarce e, em seguida, pressionam a vítima a aprovar pagamentos ou compartilhar credenciais por fora dos canais oficiais.
Fraude com deepfake em candidatos a emprego: Houve recentemente um aumento no uso de vídeos e fotos de rosto sintéticos para passar em entrevistas de emprego remotas. Se um fraudador for contratado, ele pode roubar seus dados e propriedade intelectual, aplicar golpes na sua empresa e nos seus clientes ou praticar arbitragem salarial, alegando falsamente morar em áreas de alto custo enquanto, na verdade, vive em um lugar muito mais barato.
Desinformação e ataques à reputação: Endossos ou discursos falsos de figuras públicas são frequentemente criados para promover golpes, como esquemas de pump and dump de criptomoedas ou falsos programas de investimento. Eles também são usados para se passar por executivos ou pessoas conhecidas a fim de manipular mercados, espalhar informações falsas ou prejudicar a reputação de uma marca.
Provas de reivindicações fraudulentas: Atacantes usam deepfakes para criar “provas” convincentes para estornos, reembolsos e pedidos de seguro. Esse tipo de fraude com evidências sintéticas é cada vez mais comum em disputas de comércio eletrônico. Eles editam gravações de entrega para mostrar um pacote ausente ou roubado, encenam vídeos de acidentes falsos ou alteram recibos e faturas para apoiar um pedido de reembolso. Em alguns casos, golpistas geram vídeos falsos de campainha mostrando um pacote sendo levado, ou imagens do “item errado” sendo entregue, para acionar reembolsos instantâneos sem revisão humana.
Sextorsão / chantagem: Esses golpes geralmente têm como alvo pessoas mais jovens e muitas vezes começam em plataformas sociais. Os criminosos usam ferramentas de deepfake para gerar imagens ou vídeos explícitos falsos das vítimas e depois ameaçam divulgá-los publicamente, a menos que recebam dinheiro ou acesso a contas financeiras. Esse tipo de abuso tornou-se uma grande preocupação para plataformas sociais e governos em todo o mundo, levando à criação de novas leis focadas na proteção da identidade digital e na proibição de imagens explícitas geradas por deepfake.
Contas falsas e fazendas de bots: Golpistas usam rostos e vídeos gerados para criar contas falsas que fazem anúncios e vendedores fraudulentos parecerem legítimos. No comércio eletrônico e em marketplaces, isso aparece como páginas de produtos, avaliações e perfis de empresas falsos usados para aumentar a visibilidade ou receber pagamentos por produtos que não existem. Alguns influenciadores também usam seguidores falsos para cobrar mais caro das marcas por posts patrocinados.
Tomada de contas: Deepfakes são usados para se passar por usuários legítimos durante a recuperação de conta ou em fluxos de redefinição de senha que dependem de verificações de vivacidade por selfie. Uma vez verificados, eles podem redefinir credenciais, contornar a MFA e assumir o controle total da conta.
Mitos sobre detecção
Existem alguns mitos persistentes sobre como identificar deepfakes. Eis o que os operadores de fraude realmente precisam saber.
Mito nº 1: A maioria dos deepfakes é travada
Atualmente, existem modelos que conseguem produzir deepfakes com praticamente zero atraso. Normalmente, quanto maior a correspondência de pixels na troca de rostos, mais atraso isso causa, pois exige maior largura de banda de CPU/GPU. Mas os fraudadores agora estão usando modelos off-prem mais leves para gerar deepfakes em alta resolução, sem qualquer atraso ou pixelização.
Mito nº 2: Se estiver travando, as pessoas não vão acreditar
A lentidão só parece uma conexão de internet ruim. Na verdade, isso pode até aumentar a credibilidade de um deepfake em golpes. Os golpistas vão criar histórias em torno disso, como: “Estou em uma área ruim e com sinal fraco. Preciso de dinheiro para gasolina. Estou em apuros.” Eles fazem uma ligação rápida para provar que são aquela pessoa e depois levam a conversa de volta para o texto, onde são mais fortes.
Mito nº 3: Muitos deepfakes parecem óbvios
Sim, às vezes os deepfakes têm olhos estranhos, dentes ruins ou parecem uma montagem malfeita no Photoshop. Mas os atacantes simplesmente mantêm as interações curtas e passam para o texto. Eles também usam o horário do dia, a iluminação e os ângulos de câmera para esconder esses sinais reveladores já conhecidos. Também é importante lembrar que golpistas querem encontrar as vítimas mais ingênuas. Se uma vítima cai em um deepfake ruim, ela passa a ser vista como um alvo ainda melhor.
Mito nº 4: Metadados provam que uma imagem é real/falsa
Os metadados podem ser editados ou removidos com ferramentas como ExifTool ou ImageOptim. Você também pode sobrescrevê-los ao salvar novamente ou tirar capturas de tela das imagens, ou ao reencodar vídeos para apagar carimbos de data e hora. A maioria das plataformas sociais reescreve ou remove automaticamente os dados EXIF durante o envio, de qualquer forma. Embora às vezes possam ser uma pista útil para detectar imagens falsas, não são uma prova confiável de autenticidade.
Mito nº 5: As verificações de vivacidade são infalíveis
As verificações de vivacidade só são tão eficazes quanto o local, o momento e a forma como são implementadas. Elas são comuns em KYC e em fluxos de diligência prévia reforçada, mas raramente usadas em contextos como entrevistas de emprego ou chamadas de suporte ao cliente. Mesmo onde são implementadas, alguns sistemas ainda podem falhar em casos extremos.
Conseguimos contornar verificações de prova de vida em selfies usando ferramentas de deepfake e câmeras virtuais. A abordagem mais eficaz é em camadas, combinando análise de vídeo, inteligência do dispositivo, biometria comportamental e revisões humanas.
Melhores práticas para detecção de deepfakes
Os ataques com deepfakes estão se tornando mais rápidos, baratos e difíceis de detectar. As equipes de prevenção a fraudes precisam de métodos de detecção que vão além da análise visual e consigam se adaptar à medida que as ferramentas evoluem. O objetivo não é identificar cada falsificação apenas visualmente, mas criar controles em camadas que revelem sinais de risco logo no início e dificultem a passagem de conteúdo sintético pelos seus fluxos de trabalho.
- Procure por ferramentas de spoofing. Fique atento a sinais de câmeras virtuais, emuladores ou transmissões de tela, especialmente quando combinados com sinais de detecção de falsificação de localização, como VPNs ou proxies. Esses indícios costumam aparecer durante a verificação por selfie, onboarding por vídeo ou qualquer sessão em que você espera um feed de câmera real.
- Fique atento a inconsistências no vídeo. Compare o que está acontecendo no vídeo com o ambiente do usuário. Se for noite no vídeo, mas a localização da pessoa indicar que é dia, isso é um sinal de alerta. Em entrevistas de emprego, faça perguntas sobre coisas que apenas moradores locais saberiam, como padrões de trânsito, restaurantes populares ou bairros próximos.
- Peça ações que não possam ser pré-renderizadas. Desafie os usuários a fazer algo imprevisível, como virar a cabeça, pegar um objeto na frente do rosto ou seguir uma instrução aleatória. Modelos de deepfake são projetados para rastrear um rosto humano e seus movimentos. Se você interromper a capacidade de rastreamento do modelo (por exemplo, cobrindo um lado do rosto com a mão ou com um documento), o modelo terá dificuldade para acompanhar apenas metade do rosto e começará a revelar a identidade verdadeira. Isso funciona melhor em verificações de selfie KYC ao vivo, entrevistas ou chamadas de conferência.
- Compare as imagens com mídias de referência conhecidas. Compare o vídeo ou a imagem com fotos de identificação verificadas, chamadas anteriores ou selfies conhecidas em banco de dados. Isso é especialmente útil para revisões recorrentes de clientes, monitoramento contínuo de KYC e verificação de funcionários, quando você já capturou uma imagem de referência.
- Fique atento a pequenos sinais comportamentais. Deepfakes podem parecer perfeitos quadro a quadro, mas às vezes se comportam de forma antinatural. Observe piscadas estranhas, postura rígida ou pequenas travadas quando o modelo é atualizado. Também repare em movimentos parciais do rosto, em que um lado ou parte do rosto se move enquanto o outro lado ou parte fica “travado”. Esses sinais se destacam em interações mais longas, como entrevistas ou escalonamentos para um atendente ao vivo.
- Faça uma verificação cruzada dos sinais do dispositivo e da sessão. A análise de sinais de rede para detecção de fraude é fundamental aqui. Se o mesmo ID de dispositivo, a mesma impressão digital do navegador ou a mesma faixa de IP aparecer em vários usuários, é provável que você esteja lidando com atividade coordenada ou sintética. Essa verificação é crítica durante o onboarding ou em picos de criação de contas.
- Verifique o áudio de fundo. Ferramentas de deepfake muitas vezes não captam sons sutis como o ruído ambiente, eco ou toques de teclado. Você perceberá essas inconsistências durante entrevistas ao vivo ou chamadas de suporte em que espera um ambiente natural.
- Passe para um segundo dispositivo. Se você suspeitar que alguém está usando um modelo de deepfake e essa pessoa parecer estar em um laptop, peça para ela mudar para o smartphone. Esses modelos não vão corresponder e muitos nem sequer rodam em vários dispositivos móveis.
- Crie defesas em camadas. A melhor maneira de detectar deepfakes é usar vários tipos de verificações em conjunto. Combine verificação de documentos, checagens por selfie ou vídeo ao vivo, inteligência do dispositivo, biometria comportamental e revisão humana. Use algumas dessas verificações discretamente em segundo plano para manter os fluxos com baixa fricção e acione outras quando surgirem sinais de risco. Um empilhamento estratégico de camadas ajuda você a identificar mídia sintética cedo, sem prejudicar a experiência dos seus usuários.
Aproveite a Sardine para detecção de deepfakes
A Sardine pode ajudar você a detectar deepfakes durante o onboarding, verificações adicionais, fluxos de login e videoconferências ao vivo. Fazemos isso combinando nossos sinais proprietários de dispositivo e comportamento, além de algoritmos de detecção de câmera, com regras personalizadas que desenvolvemos para identificar mídia sintética e tentativas de manipulação.
Nossa própria equipe de RH usa essa tecnologia para identificar falsos candidatos a emprego que tentam burlar nosso processo de entrevista.
Também desenvolvemos técnicas inovadoras para realizar verificações de risco quando o deepfake está acontecendo fora da sua plataforma. Por exemplo, digamos que você esteja enviando um link do Google Meet para alguém. Mesmo que você não possa incorporar nosso SDK nessa página, você pode enviar para a pessoa uma URL personalizada da Sardine que coleta rapidamente dados de dispositivo e localização antes de redirecioná-la para a reunião de fato.
Se você tiver interesse em saber mais sobre soluções de detecção de deepfakes, entre em contato conosco para agendar uma demonstração.
Perguntas frequentes (FAQ)
O que é uma câmera virtual?
Um fluxo de câmera baseado em software que substitui a saída real da webcam por um vídeo pré-gravado ou gerado por IA. É assim que a maioria dos deepfakes ao vivo é injetada no Zoom, Teams ou em verificações de selfie feitas no navegador.
O que é uma ferramenta de troca de rostos?
Software que sobrepõe o rosto de uma pessoa ao de outra em tempo real ou durante a criação de vídeos. Essas ferramentas usam modelos de mapeamento facial para imitar expressões e iluminação, fazendo parecer que outra pessoa está falando ou participando da chamada.
Quais regulamentações foram criadas para combater fraudes com deepfakes?
Software que sobrepõe o rosto de uma pessoa ao de outra em tempo real ou durante a criação de vídeos. Essas ferramentas usam modelos de mapeamento facial para imitar expressões e iluminação, fazendo parecer que outra pessoa está falando ou participando da chamada.
Que regulamentações foram criadas para combater fraudes com deepfakes? Vários países estão endurecendo as regras em relação a mídias sintéticas. Nos Estados Unidos, diversos estados aprovaram leis que proíbem deepfakes maliciosos ou sem consentimento, e uma ordem executiva de 2023 estabeleceu metas nacionais para marca d’água e transparência.
A nova lei TAKE IT DOWN criminaliza o compartilhamento de imagens íntimas de IA não consensuais. A Lei de IA da UE exige transparência e rotulagem de conteúdo gerado por IA. A Dinamarca está elaborando leis que concedem às pessoas direitos de propriedade sobre sua aparência digital. A Coreia do Sul, o Reino Unido e a Austrália também introduziram ou propuseram sanções criminais para o uso prejudicial de deepfakes.
De modo geral, a maioria das regiões está avançando para exigir divulgação clara, criminalizar o uso indevido de identidade e fortalecer os frameworks de identidade digital para prevenir fraudes viabilizadas por deepfakes.
Como você faz a triagem rápida de um caso suspeito de deepfake?
Comece pelos sinais técnicos mais fortes. Verifique se há câmeras virtuais, emuladores e sessões de área de trabalho remota na camada do dispositivo.
Em seguida, analise os dados de rede em busca de VPNs, proxies ou IPs de data centers. Inclua indicadores comportamentais, como ausência de movimento ocular, postura fixa ou latência entre a fala e o movimento facial.
Se várias categorias de sinais coincidirem, encaminhe imediatamente para revisão manual. Você pode usar uma pontuação de risco ponderada e objetiva para que os analistas se concentrem em anomalias de alta confiança em vez de avaliações subjetivas.
Quando você aplica negação automática, exige autenticação reforçada ou encaminha para revisão manual?
Use limiares baseados em regras orientados pela confiança do modelo.
- Detecções de spoofing com alta confiança ou dispositivos que correspondam a clusters conhecidos como maliciosos devem ser automaticamente negados.
- Resultados de confiança média ou sobreposição parcial de sinais devem acionar uma etapa adicional, como prova de vida ativa ou verificação secundária de identidade.
- Sessões de baixa confiança, mas anômalas, devem ser colocadas em fila para revisão manual com códigos de disposição padronizados.
Mantenha os limites documentados e consistentes entre os fluxos, para que os dados possam ser usados para ajuste fino e re-treinamento sem introduzir ruído.
Como você treina entrevistadores ou agentes de suporte para conduzirem desafios ao vivo?
Trate os desafios ao vivo como uma verificação estruturada, não como uma conversa casual. Crie um POP que defina quais prompts usar, com que rapidez as respostas devem ocorrer e quais sinais registrar. Os agentes devem entender como é o “normal” para que possam reconhecer latência, congelamentos de postura ou quedas de frame sem precisar adivinhar. Registre todas as sessões da mesma forma para que os dados alimentem o retreinamento de maneira consistente.
Roteiro de exemplo:
- “Ei, antes de continuarmos, só preciso fazer uma rápida verificação. Você pode levantar quatro dedos na frente do rosto e olhar para a câmera?”
- “Obrigado. Agora você pode pegar algo que esteja por perto, talvez seu celular ou uma xícara, e segurá-lo por um segundo para que eu possa confirmar o movimento?”
- “Você pode chegar um pouco mais perto da luz ou da janela? Só preciso confirmar que não estamos tendo reflexo no documento de identidade.” Essas ações simples quebram pré-renderizações ou
transmissões de vídeo injetadas sem alertar os usuários legítimos. Adicione orientações internas sobre a latência esperada e os tempos de resposta de quadros, para que os agentes saibam quando devem escalar ou sinalizar para revisão manual.