Conclusiones clave que todo equipo antifraude debe conocer:
- Un documento de identidad oficial falso cuesta unos 50 dólares en bitcoin y se genera en cuestión de segundos. El sitio que vendió más de diez mil contaba con atención al cliente, un canal de Telegram y un diseño distintivo. No fue difícil encontrarlo.
- Los deepfakes de vídeo en tiempo real ya pueden ejecutarse en equipos de gaming de consumo. El nivel prémium incluye una llamada de orientación técnica, un equipo de soporte y un proceso de evaluación para nuevos compradores.
- La biometría de voz puede eludirse con un clon creado en cinco minutos a partir de grabaciones de audio disponibles públicamente. Un pódcast, una entrevista de prensa o una charla pública proporcionan suficientes datos de entrenamiento.
- Estos vectores de estafa mediante IA no son nuevos. Lo que ha cambiado es que alguien los ha combinado en un único ataque coordinado de suplantación de identidad que ahora puede ejecutar cualquier operador con pocos conocimientos técnicos.
- Las herramientas que hacen posibles estas estafas con IA se venden en los mismos canales de Telegram que utilizan los centros de estafas donde se obliga a víctimas de trata a llevar a cabo operaciones a escala industrial. Se trata de una única cadena de suministro, no de dos mundos separados.
- La creencia de que solo las personas mayores o ingenuas caen en estafas con IA es precisamente lo que hará que más personas sean estafadas. Estas herramientas son tan baratas que el número de personas capaces de llevar a cabo un ataque convincente acaba de aumentar considerablemente.
Joseph Cox inauguró su discurso de apertura en SardineCon, en San Francisco, describiendo algo que, según admitió, suena absurdo.
Supongamos que recibes una llamada de tu cónyuge, de tu hijo o de tu hija. La cadencia es la correcta, el ritmo también, pero hay algo que no acaba de encajar, aunque no sabes exactamente qué es. Así que, como es natural, pides hacer una videollamada por FaceTime (o por Zoom, si sois una familia muy corporativa). Responden y, en efecto, son ellos, salvo que sus movimientos también resultan un poco extraños. Y eso te lleva a hacer lo que Joseph calificó como una pregunta verdaderamente disparatada: ¿puedes enviarme una foto de tu documento de identidad?
Se ofenden, porque vaya pregunta tan absurda para hacérsela a un familiar. Aun así, te llega la foto, tomada en un sofá, y te tranquilizas. Es entonces cuando te piden tarjetas regalo o una transferencia bancaria.
Joseph ha realizado personalmente todos y cada uno de esos pasos. Es cofundador de 404 Media, y su método consiste en comprar lo mismo que compran los delincuentes y comprobar si funciona. Considera que cada parte es trivial. Lo único que aún no ha visto hacer a nadie es conectarlas entre sí.
Una identificación falsa cuesta unos 50 dólares en bitcoin y se consigue en segundos
Joseph mostró cómo funcionaba un sitio llamado OnlyFake, gestionado por alguien que usaba el alias «John Wick» en Telegram (sí, estaban obsesionados con las películas, hasta el punto de incluir la firma). Cargó unos 50 dólares en bitcoin, eligió un país y un tipo de documento, introdujo un nombre y una fecha de nacimiento, subió una foto y obtuvo el documento falso en cuestión de segundos. Incluso hay una API, por lo que un comprador podría proporcionarle un archivo CSV y generarlos por lotes.
La primera versión salió sin fondo, lo cual suponía un problema, porque un banco que realiza controles de conocimiento del cliente necesita una foto del documento físico. Como era de esperar, OnlyFake añadió fondos para que los compradores pudieran elegir uno de una biblioteca, subir el suyo propio o generar uno al azar. La biblioteca incluía un mueble de exterior y, según Joseph, «una de las alfombras más repugnantes que existen». En cualquier caso, el documento de identidad acababa sobre una alfombra, una mesa o el regazo de alguien, con el aspecto de una foto tomada por una persona de verdad.
Joseph se hizo un pasaporte británico de estilo antiguo y lo probó con el sistema de verificación de identidad de una plataforma de intercambio de criptomonedas. Pasó la prueba. Solo comprobó el documento, no la fase de reconocimiento facial.
El FBI detuvo al responsable y lo acusó de vender más de diez mil documentos de identidad falsos. Ni la detención ni los cargos se hicieron públicos hasta después de que se declarara culpable, lo que deja un período sin explicar que Joseph sigue investigando.
Pero, por supuesto, cerrar el sitio no eliminó esa capacidad. La investigadora Jane Wong utilizó una herramienta disponible comercialmente para generar tanto un documento como un selfi en el que aparecía sosteniéndolo, y otras personas están generando pasaportes con Nano Banana Pro de Google. Cada vez que un proveedor corrige una vulneración de las restricciones, los compradores se pasan al modelo comercial más popular que aún no haya sido parcheado. El mismo ciclo de medidas de protección que se repite en todos los demás problemas de seguridad de la IA se aplica ahora a los documentos de identidad oficiales, y cada parche no hace más que trasladar el problema.
Los deepfakes de vídeo en tiempo real ya pueden ejecutarse en un portátil para gaming
Joseph mostró imágenes de estafadores nigerianos, conocidos como «Yahoo boys», que se dedican a las estafas románticas y transforman su apariencia en directo durante videollamadas. En plena conversación, un hombre negro se convierte en un hombre blanco de mayor edad con vello facial. Otro pasa de hombre a mujer en un teléfono móvil.
El resultado es rudimentario. Se utiliza un aro de luz y, a veces, una peluca (el software todavía no reproduce bien el cabello), y la calidad se parece más a la de un mal filtro de Zoom que a un efecto cinematográfico. Pero aun así funciona, y todos los días hay personas que caen en la estafa.
El nivel prémium incluye un equipo de soporte
Luego está el nivel superior. Joseph reprodujo un vídeo de alguien sometiendo a una prueba extrema su propio intercambio de rostro. La luz se desplazaba por la cara, se pellizcaba una mejilla para estirar la piel y se cerraban los ojos de uno en uno. Nada rompía la ilusión.
Utilizaban una herramienta en chino que incluía un servicio de atención al cliente de verdad, asistencia las 24 horas del día, los 7 días de la semana, y una llamada de incorporación técnica. Requiere un equipo para videojuegos realmente potente (como mínimo, una 4080 Super y 16 gigabytes de DDR5) y cuesta unos 2.000 dólares al año. Así que, naturalmente, Joseph la compró.
El proceso llevó más de un mes porque los vendedores primero investigan a los compradores y, entre otras cosas, les piden las especificaciones de su PC para descartar a quienes solo les hacen perder el tiempo. Como su dispositivo más potente es una PS5, Joseph tuvo que escribirle a su cofundador, Emanuel Maiberg, un gran aficionado a los juegos de PC, y pedirle capturas de pantalla de las especificaciones de su equipo para enviárselas al vendedor como prueba de que era un comprador serio.
Cuando por fin consiguió una videollamada de demostración, la persona al otro lado estaba usando un deepfake en directo para adoptar el rostro de un actor de Hong Kong y luego cambió al de una mujer. Un modelo personalizado de una persona concreta cuesta unos cientos más, así que Joseph pagó por uno y envió algunas de las peores selfis que se había hecho en su vida. Después vio cómo alguien usaba su propio rostro en una videollamada en directo. Se lo enseñó a su madre y hasta ella quedó convencida.
Ese es el nivel al que hemos llegado. Una empresa de servicios, con un equipo de soporte, que vende el robo de identidad mediante suscripción.
Este software se comercializa en los mismos canales de Telegram que utilizan los centros de estafas de Myanmar y Camboya, donde se obliga a víctimas de trata a llevar a cabo estas operaciones a escala industrial. Una misma cadena de suministro abastece a ambos extremos del mercado.
La biometría de voz no detuvo a un clon de IA
El banco de Joseph en el Reino Unido permite a los clientes autenticarse diciendo: «Mi voz es mi contraseña». Utilizó ElevenLabs para clonar su propia voz leyendo en voz alta el guion que la herramienta había generado para él, que (por razones que nadie ha podido explicar) era una novela romántica subida de tono que tuvo que interpretar sentado en su escritorio de la oficina. Después, reprodujo la frase clonada en un teléfono cuando el sistema de voz del banco se la solicitó, y funcionó. Accedió a su propia cuenta, consultó el saldo y todo lo demás.
El clon ni siquiera era tan bueno. La cadencia al decir «contraseña» suena ligeramente extraña, como si el énfasis recayera en el lugar equivocado. Pero no importó, porque el sistema lo aceptó de todos modos. Y eso con un clon instantáneo creado en cinco minutos. ElevenLabs también ofrece una versión «profesional» de 30 minutos que genera un resultado más limpio, un tiempo insignificante si la persona objetivo ha dado alguna vez una charla pública, presentado un pódcast o concedido una entrevista a la prensa. Cualquier equipo de prevención del fraude nativo de IA que dependa de la autenticación por voz debería considerar esto un modo de fallo documentado, no meramente teórico.
Qué lo conecta todo
Las identificaciones falsas, los deepfakes y la clonación de voz existen desde hace años. Lo que ha cambiado es que alguien los ha empaquetado para compradores que no quieren aprender nada sobre la tecnología subyacente. Joseph encontró un mercado que vende el documento, el intercambio de rostro y la voz por separado, de modo que el comprador puede combinarlos en una sola llamada. La herramienta china que compró incluye una capa de traducción en tiempo real, por lo que un operador que no habla inglés puede realizar la llamada en ese idioma.
Y aunque existe un mercado para las herramientas prémium que cuestan un par de miles de dólares al año, las gratuitas (disfrazadas de aplicaciones de bromas en Play Store) ya son lo bastante buenas como para engañar a mucha gente.
Joseph formuló la advertencia en términos generales. No cree que estemos preparados para el fraude impulsado por IA, y no se refería únicamente a la industria o a una empresa, sino a la sociedad en su conjunto. La idea de que solo las personas mayores o ingenuas caen en estafas es, en sus palabras, prejuiciosa y errónea. Ahora las herramientas son tan baratas que el número de personas capaces de llevar a cabo una estafa convincente es mucho mayor, mientras que el de quienes pueden caer en ella no se ha reducido en absoluto.
Preguntas frecuentes
¿Qué debería saber un equipo antifraude nativo de IA sobre las herramientas de generación de identificaciones falsas?
Los servicios de generación de documentos de identidad falsos, como OnlyFake, han puesto el fraude documental de alta calidad al alcance de cualquiera que disponga de 50 dólares en bitcoin y una cuenta de Telegram. Estas herramientas generan documentos oficiales convincentes en cuestión de segundos, los colocan sobre fondos realistas y han superado con éxito procesos reales de verificación de plataformas de intercambio de criptomonedas. Para los equipos antifraude que realizan comprobaciones de identidad basadas en documentos, se trata de una vulneración documentada, no de una posibilidad hipotética.
¿Cómo funcionan los deepfakes de vídeo en tiempo real y por qué son importantes para prevenir el fraude?
Las herramientas de deepfakes de vídeo en tiempo real sustituyen en directo el rostro de una persona durante las videollamadas utilizando hardware de videojuegos de consumo. La modalidad prémium funciona como un servicio de suscripción con atención al cliente y verificación de compradores. Aunque la calidad del resultado varía, es suficiente para engañar a las personas en conversaciones en directo. Para los equipos antifraude que utilizan comprobaciones de presencia mediante vídeo o procesos de entrevistas a distancia, estas herramientas representan un vector de ataque documentado que se está utilizando activamente a gran escala.
¿Puede la clonación de voz eludir los sistemas bancarios de autenticación por voz?
Sí. En una prueba documentada, un clon de voz creado en cinco minutos a partir de audio disponible públicamente, como un episodio de pódcast o una entrevista de prensa, logró eludir el sistema de autenticación por voz de un importante banco británico. Aunque el clon no era perfecto, el sistema lo aceptó de todos modos. Cualquier equipo antifraude que utilice la biometría de voz como principal mecanismo de autenticación debe considerar este caso como un fallo conocido que requiere una defensa por capas.
¿Qué hace que las estafas con IA sean ahora más difíciles de detener que hace dos años?
Los componentes individuales de las estafas con IA —documentos falsos, ultrafalsificaciones de vídeo y clonación de voz— existen desde hace años. Lo que ha cambiado es que ahora se combinan en ataques coordinados de suplantación de identidad que no requieren conocimientos técnicos para llevarse a cabo. Hay herramientas de bajo coste disponibles en las principales tiendas de aplicaciones y en canales de Telegram. Las herramientas prémium incluyen atención al cliente y asistencia para la puesta en marcha. La barrera para llevar a cabo una estafa convincente con IA se ha reducido tanto que ha aumentado considerablemente el número de personas capaces de ejecutarla.
