51 min
Fraudology
Responsabilidad de la IA Agente: Fraude y responsabilidad a escala con Robbie MacDiarmid
Hoy vamos a profundizar en la responsabilidad de la IA agéntica y en lo que ocurre cuando la IA empieza a hacer más que solo recomendar productos. Porque en cuanto un agente puede buscar, decidir, interactuar con un comerciante y completar una compra, el fraude y los pagos dejan de ser funciones de segundo plano. Se convierten en toda la historia.
Me senté con Robbie MacDiarmid para hablar sobre hacia dónde va todo esto, cómo se está construyendo el comercio agéntico y por qué tantos equipos se están apresurando hacia el lado de la experiencia del cliente en la IA sin pensar realmente en el fraude, los pagos y la responsabilidad dentro de la ecuación. Y sí, eso es un problema.
A primera vista, esto puede sonar como una conversación sobre innovaciones futuras. Pero cuando se mira más de cerca, en realidad es una conversación sobre operaciones de fraude. Se trata de la toma de control de cuentas mediante agentes de IA, contracargos provocados por IA agentiva, fraude de primera parte en el comercio agentivo y la pregunta sin resolver que subyace a todo ello: ¿quién asume la responsabilidad cuando un agente autónomo realiza la compra, el pago se procesa y luego el cliente afirma que no la autorizó?
Esa pregunta es importante. Mucho.
Porque ya hemos visto este mismo guion antes. Aparece un nuevo comportamiento de pago, la experiencia del usuario se lleva toda la atención y los equipos de fraude se incorporan más tarde para arreglar las partes que nadie definió desde el principio.
Esto es lo que significa en la práctica la responsabilidad de la IA agente:
- Los agentes autónomos pueden introducir nuevos riesgos de fraude en la búsqueda, la interacción con comerciantes y los pagos
- Los pagos realizados por agentes de compra con IA pueden generar confusión en torno a la autenticación, la autorización y la intención
- La responsabilidad por las compras iniciadas por IA aún no está claramente definida en todo el ecosistema
- Los controles contra el fraude en los pagos agénticos deben diseñarse antes de que estos flujos se escalen
- Los comercios, los emisores y las plataformas necesitan un marco de confianza más claro para el comercio con IA
Lo que escucharás en este episodio
- Cómo Robbie desglosa el comercio agéntico en búsqueda, interacción con el comerciante y pago
- Por qué el fraude y los pagos se tratan con demasiada frecuencia como algo secundario en el comercio impulsado por IA
- Dónde es más probable que aparezca primero el riesgo de fraude en el comercio agéntico
- Por qué la toma de control de cuentas a través de agentes de IA y el fraude de primera parte en el comercio agéntico son dos preocupaciones reales
- Qué deberían estar preguntándose ahora los equipos de fraude sobre la responsabilidad de pago de los agentes autónomos
Deberías escuchar este episodio si
- Trabajas en fraude, pagos o confianza y seguridad y quieres entender la responsabilidad de la IA agéntica antes de que se convierta en un problema mayor
- Están pensando en pagos con agentes de compra de IA y necesitan poner a prueba sus suposiciones sobre fraude y responsabilidad
- Apoya la prevención del fraude en comercio electrónico y los flujos de pago con agentes dentro de un comercio, fintech o empresa de pagos
- Quieren entender cómo los contracargos derivados de la IA agéntica pueden redefinir las conversaciones sobre el cambio de responsabilidad en el comercio en línea
- Están intentando desarrollar una estrategia contra el fraude para transacciones autónomas sin esperar a que las pérdidas obliguen a iniciar la conversación
Si te gustó este episodio, asegúrate de suscribirte y dejar una reseña del pódcast en iTunes, Spotify, YouTube o en cualquier plataforma donde escuches pódcasts. Realmente ayuda a que más gente lo conozca.
Notas del episodio y puntos clave
Por qué la responsabilidad de la IA agéntica no es solo un problema de pagos
Desglosemos esto.
Gran parte de la conversación actual sobre el comercio agéntico se centra en la comodidad. Descubrimiento más rápido. Menos fricción. Más automatización. La idea es que un agente de IA pueda encargarse de partes del recorrido de compra del cliente, desde encontrar el producto hasta ayudar a completar la compra.
Pero esto es lo que realmente está sucediendo.
En el momento en que ese agente empieza a actuar en nombre de una persona, el fraude y la responsabilidad pasan a estar en el centro. No en los márgenes. Porque ahora ya no estamos hablando solo de un comprador que navega con ayuda de la IA. Estamos hablando de autorización de compra impulsada por IA, intención de la transacción, autenticación de pagos para agentes de IA y de si la persona detrás de la billetera realmente quiso que esa transacción ocurriera.
Ahí es donde aparece el riesgo real.
Si el sector no define claramente la responsabilidad de la IA agéntica, cada transacción en disputa se convierte en una pelea sobre qué cuenta como consentimiento, qué cuenta como autenticación y quién debe asumir la pérdida.
Estos son los puntos de presión que los equipos de fraude ya deberían estar vigilando:
- Si el cliente autorizó explícitamente al agente de IA a realizar una compra
- Cómo los comerciantes distinguen el comportamiento de compra humano del de la IA en el momento del pago
- Qué pruebas existen si un cliente impugna la transacción más adelante
- Si los controles de fraude actuales pueden gestionar el riesgo de transacciones de agentes autónomos a gran escala
Cómo se manifiesta el fraude en el comercio agéntico
Puede que esto suene como una categoría nueva. En cierto modo, lo es. Pero los patrones de abuso subyacentes resultan bastante familiares.
Ya hemos visto versiones de esto antes con billeteras digitales, acceso delegado, credenciales guardadas y toma de control de cuentas. El comercio agéntico solo añade otra capa entre la persona y la transacción. Y esa capa puede hacer que las ya difíciles cuestiones de fraude sean aún más difíciles.
Entonces, ¿cómo se ve eso en la práctica?
Puede verse como un cliente que afirma no reconocer una compra realizada por un asistente de IA. Puede verse como delincuentes que usan credenciales robadas para conectar su propio agente a una cuenta legítima. Puede verse como fraude de primera parte en el comercio agentivo, donde el titular de la tarjeta se beneficia de la compra y luego la desconoce de todos modos porque el recorrido de compra se siente menos directo. Y puede verse como comercios que aceptan pagos gestionados por agentes sin saber si su pila de autenticación actual puede admitir ese modelo.
No es precisamente sutil.
Lo fundamental que hay que entender es que el riesgo de fraude en el comercio con agentes no necesita inventar rutas de ataque completamente nuevas para causar daño. Solo tiene que hacer que las rutas de ataque existentes sean más escalables, más confusas y que resulte más difícil asignar responsabilidades.
Eso normalmente no termina bien.
La cuestión de la responsabilidad que nadie ha resuelto todavía
Aquí es donde las cosas se ponen interesantes.
El mayor problema sin resolver en toda esta conversación es la responsabilidad por las compras iniciadas por la IA. Porque, una vez que un sistema autónomo actúa en nombre de un consumidor, las viejas suposiciones empiezan a desmoronarse.
Si la IA se equivoca, ¿de quién es la responsabilidad?
Si la cuenta fue tomada, ¿quién lo demuestra?
Si el cliente afirma que nunca aprobó la compra, ¿qué estándar de prueba se aplica?
Y si la transacción cumplió técnicamente todas las normas vigentes, pero aun así resultó en una compra no autorizada, ¿quién asume la pérdida?
En este momento, no hay una respuesta clara.
Y eso es importante porque los comercios, los emisores, las redes y las plataformas tienen incentivos diferentes. Todos quieren un comercio sin fricciones. Menos personas quieren una responsabilidad ambigua.
Es probable que un marco de confianza funcional para el comercio con IA deba responder algunas preguntas muy prácticas:
- ¿Cómo verificamos que el agente actúa en nombre del verdadero titular de la cuenta?
- ¿Cómo debe ser en la práctica la verificación de conocimiento de tu agente?
- ¿Cómo debería asignarse la responsabilidad de pago de los agentes autónomos?
- Qué pruebas deben conservarse para disputas, revisiones por fraude y contracargos
Por qué los equipos de fraude deben involucrarse desde el principio
He estado viendo este patrón cada vez más últimamente.
Una nueva tecnología empieza a ganar impulso. Los equipos de producto se entusiasman. La conversación se centra en la adopción, la eficiencia y la experiencia del cliente. Luego, más tarde, alguien le pregunta al equipo de fraude cómo hacer que sea segura cuando el modelo ya está en producción.
Sí. Eso está al revés.
Los equipos de fraude deberían participar en estas conversaciones ahora, especialmente cuando se trata de la interacción de los comercios con agentes de IA, el riesgo de agentes en billeteras digitales y el fraude en comercio electrónico y el diseño de procesos de pago con agentes. Porque si el fraude se trata como un control de última etapa, es más probable que todo el sistema herede supuestos débiles sobre identidad, autorización y derechos de disputa.
Este es uno de esos momentos en los que hacer mejores preguntas desde el principio puede evitar mucho dolor operativo más adelante.
Preguntas como las siguientes:
- ¿Cómo autenticaremos a un agente en el momento del pago?
- Qué se considera una autorización válida para una compra iniciada por IA
- ¿Cómo investigamos la toma de control de cuentas a través de agentes de IA?
- Qué datos nos ayudarán a diferenciar el uso legítimo del fraude o el abuso
- Quién es responsable cuando el cliente, el comerciante y la IA cuentan cada uno una versión ligeramente diferente de la historia
Qué deberían vigilar a continuación los especialistas en la lucha contra el fraude
Si trabajas en el ámbito del fraude, esto probablemente te resulte familiar.
La tecnología cambia. Las preguntas fundamentales casi nunca lo hacen.
¿Quién es el usuario real?
¿La transacción fue realmente autorizada?
¿Qué pruebas tenemos?
¿Quién asume la pérdida?
La IA agéntica solo añade una nueva capa de complejidad a las cuatro.
Por eso es importante esta conversación con Robbie. No se trata solo del futuro de las compras. Se trata de la próxima ola de riesgos de fraude, del siguiente conjunto de preguntas sobre contracargos y de las próximas disputas de responsabilidad que surgirán cuando estos modelos pasen de la experimentación a la escala.
Así que la conclusión aquí es bastante sencilla.
No esperes a que las pérdidas te den la lección. Empieza ahora a definir tus controles contra el fraude para los pagos gestionados por agentes. Comienza ya a mapear el riesgo de las transacciones de agentes autónomos. Y empieza a impulsar un modelo más claro de confianza y responsabilidad antes de que el comercio con IA avance tanto que todo el mundo esté discutiendo a posteriori.
Porque una vez que eso ocurra, los equipos de fraude seguirán siendo los que tengan que darle sentido a todo.
