El viejo dicho dice: «Si tienes un martillo, todo te parece un clavo».
La GenAI es el nuevo martillo y todo en Fintech es el clavo. Quizá con razón, porque en los servicios financieros el mayor caso de uso de la IA hoy en día es en fraude, riesgo y cumplimiento normativo.
Esta publicación analiza en qué áreas la GenAI aporta valor en fraude, riesgo y cumplimiento casos de uso, y cómo lo estamos planteando en Sardine.
La IA generativa podría ser una herramienta útil para nuestro sector, pero para que lo sea debemos entender por qué es diferente de los enfoques existentes.
En este artículo, voy a establecer una diferencia entre…
(1) aprendizaje automático (supervisado o no supervisado): cuando hablamos de aprendizaje automático, nos referimos a técnicas de aprendizaje supervisado como la regresión logística, los árboles de decisión y los árboles de decisión potenciados por gradiente; o a técnicas de aprendizaje no supervisado como la agrupación de vecinos más cercanos (kNN).
(2) redes neuronales como las Redes Neuronales Convolucionales (CNNs) o los Modelos de Memoria a Largo Corto Plazo (LSTMs): son un subconjunto de técnicas de aprendizaje automático que imitan el cerebro humano mediante una capa de entrada, una serie de capas ocultas y, finalmente, una capa de salida. Cada capa consta de múltiples unidades, y cada unidad imita a una neurona (se transforma una entrada mediante una función de transformación lineal). Normalmente se entrena una red neuronal ajustando los pesos de sus conexiones para minimizar una función de pérdida predefinida (mediante una técnica llamada retropropagación).
(3) IA generativa p. ej., chatGPT, autoGPT: son una extensión de las redes neuronales que han sido entrenadas para crear contenido nuevo y realista, por ejemplo, imágenes de aspecto sorprendentemente realista (midJourney) o redactar textos coherentes que se asemejan a literatura creada por humanos (chatGPT). Las técnicas de IA generativa suelen utilizar una combinación de dos redes neuronales que compiten entre sí en una técnica llamada Redes Generativas Antagónicas (GANs): una red neuronal se entrena para crear nuevo contenido (generador) y la otra distingue entre las muestras generadas y las reales (discriminador).
Primero, ofreceré una breve introducción a Sardine para contextualizar las aplicaciones de IA/ML en nuestro ámbito.
¿Qué es SardineAI (o Sardine, en resumen)?
Sardine es una plataforma de riesgo y pagos potenciada por el comportamiento. Nuestro enfoque en la biometría de comportamiento (cómo escribes, deslizas, haces scroll, mueves el ratón, sostienes el teléfono, etc.) es lo que nos diferencia de otros proveedores de fraude y gestión de riesgos.
Hoy ofrecemos tres productos:
Riesgo: Ofrecemos una API unificada para todas las necesidades de fraude y cumplimiento de cualquier empresa de servicios financieros, incluidas fintechs, bancos, BaaS, procesadores de pagos e industrias de alto riesgo, como los intercambios de tarjetas de regalo, los juegos/apuestas en línea, los pagos relacionados con el cannabis y las criptomonedas. re.
Los casos de uso de fraude y cumplimiento que cubrimos incluyen:
- Fraude de KYC e identidad en la apertura de cuentas
- Fraude de pago durante el proceso de compra o cuando estás recargando una billetera con tarjetas o transferencias bancarias
- Toma de control de cuentas fraude en los inicios de sesión
- Detección de phishing y estafas de ingeniería social en cualquier momento del recorrido del usuario
- Detección de fraude en la emisión para identificar ataques de prueba/enumeración de tarjetas o señalar el uso de tarjetas robadas/no autorizadas
- Sistema operativo para bancos patrocinadores: una plataforma para que los bancos patrocinadores gestionen las políticas de KYC/AML y de fraude en todo su portafolio de fintechs
Pagos: Ofrecemos servicios de pago en industrias reguladas donde la combinación de indemnización por fraude y KYC/AML nos da una ventaja competitiva. Las industrias que cubrimos hoy incluyen: incorporación de cripto mediante ACH en EE. UU. y pagos con tarjeta en más de 80 países, incluidos EE. UU. y la UE/Reino Unido.
SardineX: Hace muy poco anunciamos el lanzamiento de nuestro consorcio SardineX, que permite a bancos, fintechs, procesadores de pagos y redes trabajar de forma colaborativa para detectar fraudes ACH, estafas de Pagos con Autorización Previa (APP) y enriquecer sus Reportes de Actividad Sospechosa (SARs) con información de otras instituciones participantes bajo las disposiciones de la sección 314(b).
Los estafadores son hoy los mayores usuarios de la IA generativa
Dado que la prevención del fraude es uno de nuestros casos de uso principales, GenAI tiene implicaciones realmente enormes. A menudo, los estafadores son los primeros en adoptar cualquier tecnología nueva y nunca antes habían tenido acceso tan fácilmente a una tecnología tan poderosa.
La IA generativa "genera" nuevos resultados como respuesta a un mensaje o entrada. Puede producir videos, imágenes o texto. Cuando se combina con los deepfakes (un tema aparte pero relacionado), crea nuevas posibilidades para los estafadores, como:
- Clonación de video en estafas románticas: Ya estamos viendo a estafadores crear videos convincentes de personas atractivas pero irreales, engañar a gente en aplicaciones de citas en línea y prepararlas para la clásica estafa romántica, por ejemplo, conseguir que las víctimas desprevenidas les envíen dinero. El 70% de las personas no pudo distinguir una voz real de una voz clonada en una encuesta reciente.
- Clonación de voz en estafas familiares: Cada vez vemos más casos de estafadores que clonan la voz de una persona y llaman a un familiar, fingiendo estar en peligro y pidiendo dinero. En este ejemplo una mujer recibió una llamada de lo que parecía ser su hija en apuros.
- Clonación de voz en secuestro de cuentas: La autenticación basada en la voz ya no es fiable para acceder a un banco o a servicios financieros, ya que es muy fácil tomar unos segundos de la voz de alguien y entrenar un modelo de IA generativa para responder cualquier pregunta durante el proceso de inicio de sesión bancario. En este ejemplo, los estafadores clonaron la voz de un director de empresa para robar 35 millones de dólares en Dubái.
IA extrínseca vs IA intrínseca:
Todos llevamos una vida cada vez más pública en internet y, por lo tanto, nuestra voz, fotos y videos de cualquiera pueden encontrarse fácilmente en línea y ser clonados por la IA; a esto lo llamamos IA Extrínseca.
Creemos que el futuro de la prevención del fraude será una batalla de bots:
«IA extrínseca vs. IA intrínseca»
La IA intrínseca son modelos entrenados con comportamientos propios de cada persona: cómo escribimos, deslizamos, hacemos scroll, movemos el ratón o sostenemos el teléfono. Estos datos no son públicos ni fácilmente accesibles hoy en día, por lo que los estafadores no pueden entrenar modelos para imitarte. La IA intrínseca es, en esencia, la apuesta que estamos haciendo en Sardine. Por ello, incorporamos el comportamiento del usuario en la lucha contra el fraude.
Por ejemplo, si la autenticación por voz ya no puede considerarse confiable como un segundo factor de autenticación bancaria, ¿significa eso que esa tecnología está completamente obsoleta? No exactamente. No, si complementamos la autenticación por voz con IA intrínseca entrenada en señales de comportamiento.
Por ejemplo, antes de usar la autenticación por voz, ¿el estafador copió y pegó tu contraseña mientras que tú normalmente usas un gestor de contraseñas para autocompletarla, o la velocidad con la que el estafador escribió tu contraseña fue diferente de cómo lo haces normalmente?
Este enfoque de lo extrínseco frente a lo intrínseco tampoco requiere usar la palabra IA.
Por ejemplo, una de las formas más sencillas de protegerte a ti y a tu familia de ser víctimas de una de esas estafas de voz que se hacen pasar por un familiar es compartir una frase secreta a través de un medio seguro (por ejemplo, cuando se reúnen en persona o mediante una aplicación de mensajería cifrada) con la que todos estén de acuerdo; esta frase secreta es “intrínseca” y, por lo tanto, no puede ser adivinada por una IA.
¿GenAI o no GenAI?
Entonces, si tienes GenAI como un martillo, ¿lo usas en cada clavo que encuentras? Si eres una empresa de servicios financieros, probablemente tengas necesidades similares a las de Sardine. Pero no todos los problemas necesitan GenAI. ¡Vamos a profundizar!
(1) Casos de uso de aprendizaje automático
El aprendizaje automático (supervisado y no supervisado) está integrado en toda nuestra plataforma de riesgos. El aprendizaje automático funciona muy bien en los casos en que contamos con datos etiquetados. La prevención del fraude se presta muy bien a esto, porque si alguien roba tu método de pago (el número de tu tarjeta, tu cheque o los datos de tu cuenta bancaria), tarde o temprano te darás cuenta y presentarás un contracargo ante el emisor de tu tarjeta o el banco. Esto nos permite entrenar modelos supervisados como la regresión logística, los árboles de decisión, los árboles de decisión potenciados por gradiente, etc. El pequeño gran secreto en la prevención del fraude ha sido que, con regresión logística o CatBoost, puedes llegar al 99% del camino.
El otro secreto en el mundo de la prevención del fraude es que el aprendizaje automático está, en realidad, comoditizado. Y lo que realmente diferencia a Sardine de cualquier otro actor en fraude es que generamos nuestros propios datos a través de nuestro SDK de Device Intelligence & Behavior Biometrics (DI/BB) o que estamos constantemente adquiriendo los mejores datos de su clase de nuevas fuentes. A menudo incluso convencemos a empresas grandes y pequeñas de que reconozcan el valor de los datos que tienen bajo sus narices y las ayudamos a construir un caso para convertirlos en producto. Por ejemplo, a mí me llevó más de 6 años conseguir una fuente de datos esotérica después de estrellarme contra la pared por ella y de pedirle a todo el mundo, literalmente, que la construyera.
- Fraude de identidad: Utilizamos modelos de aprendizaje automático supervisado para asignar una puntuación de riesgo a un usuario en la apertura de la cuenta y así identificar la probabilidad de que esté usando su propia identidad o una identidad robada/sintética.Utilizamos una variedad de modelos supervisados y no supervisados para identificar dispositivos de alto riesgo que suelen ser utilizados por estafadores: dispositivos en un centro de datos, dispositivos reales o falsos (scripts, bots, emuladores).Hemos desarrollado modelos de aprendizaje automático para clasificar direcciones IP como proxies/VPN frente a no proxies/VPN, o como residenciales frente a comerciales.
- Fraude de pago: Utilizamos modelos de aprendizaje automático supervisado para asignar un nivel de riesgo a un método de pago (tarjeta o cuenta bancaria) y determinar la probabilidad de que el usuario esté utilizando su propio método de pago o el de otra persona.
- Fraude por toma de control de cuentas: Utilizamos aprendizaje automático para crear perfiles de biometría de comportamiento de los usuarios según cómo escriben o cómo sostienen sus teléfonos. Esto nos permite responder a la pregunta de si es el mismo usuario que inicia sesión en una cuenta bancaria o si es otra persona que tomó su teléfono e inició sesión.
- Supervisión de transacciones AML/CTF: Una de las áreas más recientes en las que se está aplicando el aprendizaje automático es la supervisión de transacciones AML/CFT, donde AML = Anti Lavado de Dinero y CTF = Financiamiento del Terrorismo
Una breve introducción sobre cómo las instituciones financieras reguladas detectan el lavado de dinero o la financiación del terrorismo y cómo Sardine las ayuda:
- Sardine ofrece un banco de reglas con cientos de tipologías comunes de lavado de dinero o financiación del terrorismo; por ejemplo, si alguien está moviendo grandes sumas de dinero mediante estructuración, es decir, dividiéndolas en montos justo por debajo del umbral de 10.000 dólares para que pasen desapercibidas.
- El equipo de operaciones de cumplimiento y los oficiales BSA/AML revisan entonces las alertas marcadas y utilizan nuestra herramienta de gráficos de red y las herramientas de búsqueda de transacciones de usuarios para identificar si hay múltiples usuarios conectados a un usuario sospechoso mediante dispositivos compartidos o IPs compartidas; es decir, identifican una red.
- Por último, presentan un SAR ante su organismo regulador financiero, por ejemplo FINCEN en Estados Unidos o la FCA en el Reino Unido.
- Luego esperan; por lo general nunca reciben respuesta del regulador (y eso es lo que hace que este proceso sea muy poco óptimo debido a la falta de una verdadera verdad de referencia).
Para AML/CTF, la forma más óptima de entrenar un modelo de ML supervisado habría sido obtener datos de retroalimentación del regulador financiero, es decir, ¿esta SAR que presenté ante ustedes llevó a detener a alguien? En ausencia de datos de retroalimentación reales, solo podemos aspirar a lo siguiente mejor: entrenar un modelo que identifique transacciones sospechosas de lavado de dinero basándose en la retroalimentación previa del equipo de operaciones de cumplimiento (paso 3), es decir, ¿esta alerta dio lugar a la presentación de una SAR?
(2) Casos de uso de redes neuronales
- Verificaciones documentales de KYC y de prueba de vida: Los modelos de redes neuronales, como las redes neuronales convolucionales, son muy útiles para resolver problemas como:
- Detección del cuadro delimitador para encontrar las esquinas de un pasaporte y extraer el rostro del pasaporte
- Comparar el rostro del pasaporte con el rostro durante una prueba de detección de vida
- Tomas de control de cuentas: Las redes neuronales como las de memoria a largo y corto plazo (LSTM, por sus siglas en inglés) son muy buenas para analizar una secuencia de eventos y clasificar si es normal o anómala. Por ejemplo, esta es una secuencia de eventos típica de un cliente bancario que está siendo víctima de ingeniería social:
- Para un cliente, el banco detecta un nuevo inicio de sesión desde un dispositivo completamente nuevo (nuevo device-id o huella digital del dispositivo) y una dirección IP totalmente nueva (el SDK DI/BB de Sardine proporciona esta información).
- El banco ve que la contraseña fue copiada y pegada, mientras que en el pasado, para esta cuenta, la contraseña siempre se rellenaba automáticamente desde el navegador (el SDK DI/BB de Sardine proporciona este tipo de información)
- Finalmente, ves una gran retirada que sale de la cuenta del cliente hacia una contraparte completamente nueva (nuevo banco/contraparte SWIFT, o nuevo correo electrónico/número de teléfono para transferencias Zelle/P2P).
¡Identificar este tipo de secuencias de eventos es precisamente en lo que las LSTM son realmente buenas!
(3) Casos de uso de la IA generativa:
La mayoría de los casos de uso anteriores que son adecuados para el aprendizaje automático o las redes neuronales utilizan datos sin estructura o con muy poca estructura, por ejemplo, transacciones, eventos, paquetes de red, etc.
La IA generativa es realmente muy buena en
- Problemas que implican datos con mucha estructura, por ejemplo, texto.
- Automatizar tareas administrativas que la automatización robótica de procesos (RPA) no podía realizar porque hay demasiadas variables
Un modelo mental útil es pensar en los LLMs como un estudiante universitario muy rápido y bien formado. Cuando se les proporciona contexto (como documentación de ayuda o una base de datos vectorial con datos propietarios), pueden respaldar los casos de uso de fraude y cumplimiento con mucha más precisión.
Hemos identificado los siguientes casos de uso en los que la IA generativa puede ser beneficiosa para nuestra plataforma de Riesgo o nuestro producto de Pagos:
- Herramientas de soporte: La semana pasada, durante nuestro hackathon, el proyecto que ganó el Gran Premio utilizó el modelo openAI gpt-3.5 para automatizar las respuestas a preguntas frecuentes de soporte que nuestros equipos de integración, soporte u operaciones de fraude/cumplimiento pasan horas respondiendo. Muchas de estas preguntas son repetitivas y ya han sido formuladas por otros usuarios. Entrenamos un modelo de GenAI con nuestra propia base de conocimiento a partir de nuestro sitio de documentación, páginas de Notion, grabaciones de Gong, etc. Además, incorporamos la capacidad de extraer información de nuestro data warehouse para responder preguntas de investigación de riesgo. Y creamos un bot de chat en Slack que nuestros clientes pueden usar para lo siguiente:
- Comprender qué significan las distintas características en nuestra puntuación de fraude o cumplimiento.
- Explicar por qué Sardine marcó a un usuario o una transacción como de alto riesgo.
- Crea automáticamente un nuevo ticket de Zendesk para investigar más a fondo a un usuario o para exigir medidas adicionales como la verificación KYC con documentos
- Gestión de contracargos de tarjeta y devoluciones ACH:En nuestro producto de pagos, a menudo tenemos que disputar los contracargos de tarjeta o las devoluciones ACH que recibimos de nuestros procesadores o bancos, para protegernos del fraude amistoso, cuando tenemos sólidos motivos para creer que el cliente sí realizó la transacción. Esta es una aplicación muy adecuada para autoGPT, ya que gran parte del trabajo aquí es repetitivo.Por ejemplo, pensemos en un cliente que ha estado operando con nuestra rampa de entrada de criptomonedas durante varios meses y del que ya tenemos historial de los identificadores de dispositivo y las direcciones IP que utiliza. Sin embargo, de repente recibimos un contracargo de tarjeta o una devolución ACH por una compra reciente. La contrademanda o Prueba de Autorización (POA) para esto implicaría:
- Comparar el identificador de dispositivo actual con los identificadores de dispositivos anteriores
- Comparar la IP actual con IPs anteriores
- Si son iguales, entonces completa previamente el formulario de disputa de contracargo o el formulario de POA.
- Marketing de producto y habilitación de ventas: Uno de los problemas más recientes y grandes que hemos tenido como empresa ha sido cómo convertir todo el conocimiento que tenemos sobre distintos productos en resúmenes claros de marketing de producto. Al contratar product managers, nos enfocamos en quienes vienen del ámbito de fraude/cumplimiento y saben cómo ejecutar (no necesariamente cómo comercializar su producto), porque ante todo queremos gente que pueda hablar el mismo idioma y ejecutar de verdad.Esto estaba influido por mis experiencias previas, en las que es muy raro encontrar a alguien que destaque en ambas cosas: ejecución intensa y marketing de producto. Estamos muy entusiasmados porque la semana pasada se unió a nosotros un nuevo director de marketing, Eduardo Lopez. Sin embargo, como esa búsqueda estaba tardando demasiado, estábamos considerando entrenar GPT 3.5 con todas nuestras páginas de Notion, llamadas con clientes en Gong, miles de canales de Slack y tickets de Zendesk para crear el mejor copy de marketing de producto posible.
- Generación de narrativas de ROS: Esta es un área donde la combinación de GPT 3.5 y autoGPT constituye un caso de uso potentísimo. Dado un conjunto de usuarios que han sido identificados por un oficial BSA/AML como pertenecientes al mismo anillo, se genera automáticamente la narrativa analizando sus actividades de transacción y cómo estos usuarios están vinculados entre sí.
Conclusión
GenAI es una de las tecnologías más transformadoras que hemos encontrado en mucho tiempo. Y tiene enormes implicaciones para las industrias de servicios financieros en general y para empresas como la nuestra que proporcionan herramientas de prevención de fraude o de cumplimiento normativo.
Si bien la prevención del fraude se vuelve mucho más difícil a medida que los estafadores empiezan a usar GenAI, también es una gran oportunidad para que desarrollemos IA intrínseca para combatir lo que se viene.