Antes de unirme a Sardine, pasé dos décadas en el sector bancario. Primero, desarrollando sistemas de riesgo de extremo a extremo para la banca de consumo y la gestión de patrimonio, y luego reuniendo a un grupo de bancos de primer nivel para diseñar y poner en marcha el marco de gestión de riesgos de la red Zelle.
Hoy contribuyo a desarrollar una infraestructura moderna de detección de fraude y gestión de riesgos en Sardine, y lidero Sonar, una utilidad para la industria que gestiona el riesgo de contraparte y el intercambio de inteligencia entre bancos, fintechs y redes de pago.
Cuando presentamos el Marco de Supervisión Agéntica (AOF), tuvo una gran acogida en todo el sector, pero también suscitó una pregunta inmediata entre mis antiguos colegas de las áreas de riesgo, cumplimiento y políticas:
“¿Cómo pasamos de un marco conceptual a algo que los reguladores realmente aprueben?”
Este manual es mi respuesta.
Reduce la brecha entre la innovación y el escrutinio regulatorio, traduciendo el AOF en componentes accionables y listos para la supervisión, adaptados a los equipos de gobernanza de modelos, supervisión de terceros y riesgo operativo.
Para los bancos que buscan implementar agentes de IA de forma segura —ya sea para tareas de revisión y/o toma de decisiones, atención al cliente o automatización de flujos de trabajo—, este manual ofrece el andamiaje operativo necesario para alinearse con las expectativas cambiantes de los reguladores.
1. La gobernanza de la IA agéntica comienza con la clasificación de agentes y la estratificación del riesgo
En lugar de crear políticas separadas para cada agente de IA, desarrolla un mapa de clasificación que asigne los agentes a distintos niveles de riesgo. El nivel determina el grado de supervisión, documentación y validación requerido.
- Nivel 1 (impacto crítico): Agentes que desencadenan directamente acciones regulatorias, financieras o legales, como la presentación de Reportes de Actividad Sospechosa (SARs), el bloqueo de pagos o la realización de verificaciones de sanciones. Estos requieren una validación integral del modelo coherente con la norma SR 11-7 de la Reserva Federal, incluyendo controles de respaldo y registros de auditoría inmutables.
- Nivel 2 (impacto moderado): Agentes que ayudan en la toma de decisiones pero no actúan de forma autónoma. Ejemplos incluyen apoyar procesos de incorporación, triaje de fraude o flujos de trabajo de KYC. Sus resultados influyen en las decisiones humanas, por lo que la explicabilidad y las revisiones con humanos en el circuito son obligatorias.
- Nivel 3 (bajo impacto): Agentes que respaldan funciones internas como búsquedas de conocimiento o redacción de informes. No activan obligaciones de cumplimiento, pero deben registrarse y supervisarse para evitar un uso no regulado en flujos de trabajo críticos. Los agentes de nivel 3 pueden estar sujetos a controles más ligeros, pero requieren una reclasificación si su impacto aumenta.
Este enfoque por niveles se alinea con la gobernanza basada en riesgos de la OCC y la FFIEC.
2. Arquitectura técnica: sistemas de IA auditables y defendibles
Para los examinadores, la arquitectura forma parte de la gestión de riesgos. Un sistema de IA conforme no solo debe ser preciso. Debe ser auditable, defendible y seguro por diseño:
- Puerta de enlace de inferencia: Se sitúa entre el usuario y el modelo. Enmascara o tokeniza los datos personales, garantizando que los modelos no accedan a información sensible innecesaria.
- Tiempo de ejecución del agente (contenedor del modelo): Corrige la versión y la configuración del modelo en tiempo de ejecución. Esto evita las “actualizaciones silenciosas” que podrían romper la explicabilidad o provocar desviaciones respecto a la validación.
- Capa de explicabilidad: Genera razonamientos de cadena de pensamiento, puntuaciones de confianza y un resumen de una línea que explica por qué el modelo tomó la decisión.
- Registro de auditoría inmutable: Cada solicitud, entrada, modelo y salida se registra y se somete a hashing. Esto respalda la preparación para auditorías de la FFIEC y permite a los reguladores reproducir exactamente lo que vio el modelo.
- Capa de aseguramiento de la calidad (QA) para las decisiones de los agentes:Más allá del registro de actividad, los sistemas deben permitir el muestreo periódico y la revisión estructurada de las decisiones de los agentes, del mismo modo que se hace con los responsables humanos de la toma de decisiones. Esto permite que los equipos de cumplimiento normativo, auditoría y QA prueben regularmente la alineación con las políticas, revisen casos límite de forma puntual y garanticen que los resultados sigan siendo coherentes con las expectativas. También respalda la mejora continua y satisface las expectativas de los supervisores en el marco de normativas como SR 11-7, FFIEC y el Artículo 15 de la Ley de IA de la UE, que hacen hincapié en la supervisión continua frente a la validación puntual.
- Rutas de respaldo: Integradas para cuando el modelo falle o disminuya la calidad de la respuesta. El motor de reglas activa acciones conservadoras predeterminadas o envía la tarea a un revisor humano.
- Supervisión continua: Paneles automatizados y alertas para detectar desviaciones del modelo, comportamientos atípicos o degradación del rendimiento en tiempo real.
Al mapear cada parte del sistema con NIST 800-53 y ISO 27001, tu equipo de seguridad de la información puede certificar la preparación tanto para auditorías internas como para exámenes.
3. Validación de modelos de IA SR 11-7: Guía operativa conforme a las directrices de supervisión
Los agentes de IA que influyen de manera significativa en las decisiones o las ejecutan se consideran modelos según la SR 11-7, independientemente de si utilizan aprendizaje automático tradicional o LLM. La validación debe cumplir con las expectativas de los supervisores. Por lo tanto, la validación debe incluir:
- Ajuste a la política: Revise que la lógica del agente refleje la política del banco (por ejemplo, que deniegue una transacción por el motivo correcto y señale comportamientos sospechosos conforme a las normas BSA/AML).
- Backtesting: Prueba el agente con casos históricos. Verifica con qué frecuencia toma decisiones correctas, genera falsos positivos o falsos negativos. Luego cuantifica el riesgo.
- Comprobaciones de robustez: Aleatoriza o reformula las entradas para asegurarte de que el modelo no cambie las respuestas por diferencias superficiales.
- Pruebas adversariales: Introduce entradas maliciosas (inyecciones de prompt, datos malformados, texto excesivamente largo) y observa los modos de fallo. ¿Se bloquea, se congela o alucina?
- Revisión independiente: El informe final está firmado por alguien ajeno al equipo de desarrollo (según el requisito de independencia SR 11-7). Debe ser fácil de entender, no solo código Python.
- Auditorías de sesgo y equidad: Evalúe periódicamente el impacto dispar, especialmente en préstamos, fraude o incorporación de clientes. Haga un seguimiento de los indicadores de equidad por clase protegida y documente las medidas de mitigación.
Este proceso se repite periódicamente, después de cualquier actualización del modelo o cada vez que se detecta deriva mediante la monitorización continua. Lo especialmente importante para la validación de modelos de IA bajo la norma SR 11-7 es que los bancos deben demostrar que las salidas de los agentes son precisas, estables, revisadas de forma independiente y alineadas con la política.
4. Controles de privacidad de datos y ciberseguridad que minimizan las brechas de cumplimiento
Cada agente debe seguir Zero Trust al manejar datos, lo que significa que debe verificar la identidad, limitar el acceso solo a los datos necesarios para cada tarea y registrar cada interacción para fines de auditoría. Ningún agente debe asumir que los sistemas internos u otros agentes son inherentemente confiables. Ningún modelo, proveedor o prompt debe acceder a más de lo absolutamente necesario.
- GLBA:Los datos financieros deben cifrarse y solo pueden accederse para los usos permitidos definidos. (15 USC §§ 6801-6809)
- CCPA: Las personas tienen derecho a ser informadas, a solicitar correcciones y a optar por no participar. Si los agentes de IA generan mensajes para los clientes, estos derechos deben estar incorporados. (Cal. Civ. Code §§ 1798.100–1798.199)
- NY DFS: Requiere notificación de brechas en un plazo de 72 horas, planes de respuesta a incidentes y certificación anual de cumplimiento. (23 NYCRR §§ 500.1–500.22)
- Artículo 22 del RGPD: Para las operaciones en la UE y el Reino Unido, prohíbe las decisiones exclusivamente automatizadas que tengan efectos significativos sin intervención humana.
- ISO/NIST: Cada componente del sistema debe estar etiquetado con su conjunto de controles para facilitar las auditorías y las pruebas de seguridad.
- Datos sintéticos: Si se utilizan para pruebas, entrenamiento o validación, los datos sintéticos deben evaluarse en cuanto a filtraciones de privacidad y riesgo de inferencia de pertenencia, especialmente cuando se derivan de conjuntos de datos de producción. De acuerdo con NIST SP 800-53 Rev. 5 y la orientación emergente en ISO/IEC 42001, se espera que los bancos demuestren que los conjuntos de datos sintéticos no pueden ser sometidos a ingeniería inversa para revelar información personal no pública (NPI).
- Transferencias transfronterizas de datos: Para los bancos globales, asegúrese de que los flujos de datos de los agentes de IA cumplan con las leyes internacionales de transferencia de datos (por ejemplo, RGPD, Ley de Protección de Datos del Reino Unido).
No des por hecho que el proveedor de IA se encarga de esto. Tu banco sigue siendo el responsable del tratamiento de los datos y es responsable de cualquier uso indebido.
5. Explicabilidad, auditabilidad y acceso de los reguladores
Si no puedes explicar una decisión, no puedes defenderla. Cada resultado que informe o ejecute una decisión regulada debe registrarse con:
- Entradas exactas (debidamente redactadas)
- Versiones del modelo y parámetros de configuración
- Justificaciones claras y comprensibles para las decisiones.
- Mantener registros de auditoría reproducibles para respaldar las inspecciones y los procesos de resolución de disputas con los consumidores.
Estos registros deben respaldar las notificaciones de acción adversa conforme a ECOA/FCRA y poder recuperarse para la investigación de quejas y el aseguramiento de la calidad del cumplimiento. Cuanto más estructurados estén, más fácil será superar un examen de gobernanza de modelos.
6. Riesgo de IA de terceros en banca: supervisión de proveedores y controles contractuales
Cuando intervengan plataformas o API de terceros, los contratos deben contemplar explícitamente lo siguiente:
- Derechos de auditoría: Permitir que los equipos internos y los reguladores inspeccionen los registros, el historial de versiones y el linaje de los datos
- Certificaciones de seguridad: Requiere SOC 2 Tipo II, ISO 27001 y pruebas de penetración documentadas.
- Notificación de incidentes: Exigir la divulgación en un plazo de 72 horas de los incidentes de seguridad o relacionados con el modelo.
- Salida de datos: Garantiza que tus datos puedan recuperarse y eliminarse. De lo contrario, no podrás cambiar de proveedor sin asumir riesgos.
- Riesgos de los modelos de código abierto:Si utilizas LLMs o frameworks de código abierto, asegúrate de evaluarlos, aplicar parches y supervisarlos para detectar vulnerabilidades.
Estas disposiciones se alinean con las directrices regulatorias sobre la gestión del riesgo de terceros.
7. Marco de supervisión de agentes de IA: barreras de protección, mecanismos de respaldo y modos de fallo
Los equipos de riesgo operativo deben asumir que habrá fallos y definir controles para cada modo.
- Tiempos de espera y límites de tokens: Recurso a motores de reglas o triaje humano.
- Resultados de baja confianza: Escalar automáticamente a una revisión manual.
- Entradas tóxicas e inyección de prompts: Filtrar patrones de ataque conocidos.
- Deriva de salida: Compara continuamente las salidas con las líneas base. Reentrena o revierte según sea necesario.
- Guía de respuesta a incidentes: Definir pasos claros de triaje, comunicación, notificación regulatoria y remediación (NY DFS § 500.16).
Todos los escenarios de fallo deben vincularse a los procedimientos de respuesta a incidentes existentes. Incluya entradas específicas del modelo en sus manuales operativos y en la planificación de la continuidad del negocio.
8. Alineación de los informes regulatorios: Garantizar la preparación continua para auditorías
Si un agente interactúa con un proceso regulado, relaciona su función con cada obligación de reporte:
- Presentación de un SAR: Los resultados deben poder ser revisados por el equipo de cumplimiento. Conserva los registros durante 5 años.
- ECOA/FCRA: Proporcionar la justificación del modelo y los datos de entrada para las notificaciones de acciones adversas.
- UDAAP: Evitar comunicaciones automatizadas injustas, engañosas o abusivas.
- RGPD: Proporcionar derechos de apelación humana para decisiones automatizadas (operaciones en la UE y el Reino Unido).
Esto debe incluirse en las pruebas de control y ser revisado periódicamente por los equipos jurídico y de cumplimiento.
9. Comunicación y transparencia con el cliente
Para decisiones que involucren a clientes:
- Proporcionar un aviso previo de que se está utilizando IA
- Ofrecer un canal para la apelación humana
- Garantizar que las divulgaciones cumplan con los estándares del CFPB y el Artículo 22 del RGPD
- Evita las advertencias vagas o escondidas.
Aquí tienes un ejemplo de plantilla de divulgación:
“Esta decisión se tomó con la ayuda de sistemas automatizados. Si tiene preguntas o desea solicitar una revisión manual, póngase en contacto con [support channel].”
10. Inventario de modelos y gestión del ciclo de vida
Mantén un único registro, con control de versiones, de todos los sistemas de IA en uso o en fase de prueba. Incluye:
- Nombre del agente
- Nivel de riesgo
- Propietario
- Última validación
- Historial de actualizaciones
- Estado actual
- Ubicación de los registros de auditoría
Utilice esto para los informes trimestrales dirigidos a las funciones de riesgo de modelos y riesgo empresarial. Asegúrese de archivar y aplicar control de versiones a todos los cambios para estar preparado ante auditorías. Si un agente en desuso se retira de forma oficial, verifique que existan controles para evitar su reactivación accidental.
11. Lista de verificación de implementación: antes de ponerlo en producción
Requiere aprobaciones documentadas de:
- Riesgo del modelo: Validación, alineación con las políticas y auditoría de equidad.
- Seguridad de la información: Revisión del modelo de amenazas, seguridad de los endpoints, monitoreo.
- Privacidad: Tratamiento lícito de datos, minimización y cumplimiento transfronterizo.
- Adquisiciones: Evaluación de riesgos de proveedores, salvaguardias contractuales, planificación de salida.
- Operaciones: Pruebas de intervención humana, respuesta en tiempo real, preparación para la respuesta a incidentes.
- Auditoría interna: Verificación de registros, integridad de la trazabilidad de auditoría.
- Cumplimiento: Confirmación de la alineación con las leyes y normativas aplicables.
Cada aprobación debe indicar el área de control específica revisada y cualquier condición impuesta al despliegue. Si algún equipo bloquea el lanzamiento, esa decisión debe documentarse con su justificación y la ruta de escalamiento.
12. Supervisión continua y mejora
Una vez implementados, los agentes deben evaluarse de forma continua mediante:
- Paneles de monitoreo en tiempo real y alertas para detectar desviaciones y anomalías.
- Pruebas periódicas de desafío con entradas sintéticas y adversarias.
- Revisiones trimestrales de la clasificación de riesgos, los resultados de validación y el registro de modelos.
Establecer un protocolo formal de gestión de cambios que registre, revise y apruebe todas las modificaciones a las instrucciones de los agentes, los parámetros del modelo o las herramientas subyacentes. Esto garantiza la trazabilidad y la alineación con las políticas, y satisface las expectativas de los supervisores en el marco de normativas como la SR 11-7 y OCC 2023-17.
Es importante incorporar los comentarios derivados de incidentes, auditorías y reclamaciones de clientes en las mejoras continuas. Estas aportaciones ayudan a identificar casos límite que pueden no quedar reflejados en datos sintéticos o retroprobados y garantizan que las funciones de control sigan siendo sensibles al comportamiento real.
Incorpora la confianza en la arquitectura
Los agentes de IA pueden reducir los tiempos de decisión de horas a minutos. Pero sin los controles adecuados, pueden aumentar el riesgo regulatorio. Al establecer una supervisión por niveles, incorporar salvaguardas técnicas, mantener la trazabilidad y hacer cumplir la responsabilidad humana, los bancos pueden desplegar agentes de IA que sean conformes por diseño y defendibles ante una inspección.
Si deseas ver una demostración de los agentes de IA de Sardine en acción, o quieres obtener más información sobre cómo implementar estos agentes de forma segura en producción, contáctanos.
Preguntas frecuentes
¿Qué es la IA agéntica en la banca?
La IA agéntica en la banca es el uso de agentes de IA que ejecutan acciones de varios pasos dentro de límites de control de riesgos: clasifican colas de alertas, redactan narrativas de ROS, enrutan revisiones manuales y escalan casos de fraude con alta confianza. La persona responsable aprueba las decisiones que afectan directamente a los clientes o a los reguladores.
¿Cómo se aplica la SR 11-7 a la IA agéntica?
SR 11-7 (la guía de la Reserva Federal sobre gestión del riesgo de modelos) se aplica a cualquier modelo que informe una decisión regulada. La IA agéntica hereda SR 11-7 más el suplemento SR 26-2, que añade requisitos de explicabilidad, trazabilidad de decisiones y documentación del espacio de acción acotado.
¿Qué es la guía SR 26-2 de la Reserva Federal?
SR 26-2 es el suplemento de la Reserva Federal para 2026 a la SR 11-7, que aborda específicamente la IA agéntica en la banca. Establece requisitos de validación para la toma de decisiones autónoma, espacios de acción acotados y trazabilidad de auditoría, e incluye una Solicitud de Información dirigida al sector sobre los plazos de aplicación.
¿Qué es el Marco de Supervisión Agéntica (AOF)?
El Marco de Supervisión Agéntica es la implementación de referencia de Sardine de SR 11-7 y SR 26-2 para IA agéntica. Incluye el registro inmutable de auditoría de decisiones, la documentación del espacio de acción acotado, el flujo de trabajo de aprobación con intervención humana y el seguimiento de linaje requerido por los examinadores.
¿Cómo reduce Sonar el riesgo de IA de terceros para los bancos?
Los proveedores de IA de terceros introducen riesgos en la cadena de suministro. El consorcio Sonar evalúa previamente a los proveedores utilizando señales compartidas de las instituciones miembro, identificando riesgos de concentración, degradación del rendimiento y anomalías de comportamiento antes de que afecten al tráfico de producción propio del banco.