Artículo 13: transparencia en la IA fintech
Transparencia del artículo 13 del Reglamento de IA en la IA financiera: explicabilidad de decisiones crediticias, avisos de medidas adversas y derechos de prestatarios.
El artículo 13 del EU AI Act exige que los sistemas de IA de alto riesgo sean suficientemente transparentes para que los responsables del despliegue puedan interpretar las salidas y utilizarlas adecuadamente. En los servicios financieros, la transparencia afecta directamente a los derechos de los prestatarios, a la protección de los inversores y a la gestión del riesgo sistémico. Conforme al Anexo III, Sección 5(b), los sistemas de IA utilizados para la evaluación de la solvencia y la calificación crediticia se clasifican como de alto riesgo y están sujetos a la totalidad de las obligaciones de transparencia del artículo 13.
Esta página explica cómo los requisitos de transparencia del artículo 13 se aplican específicamente a la fintech — desde las decisiones de crédito hasta la negociación algorítmica — incluidos los derechos de explicación de los prestatarios, las instrucciones para los agentes de crédito, la transparencia de las medidas adversas y qué infracciones a nivel de código detecta Scanara en los sistemas de IA financieros.
¿Qué sistemas de IA de la fintech deben ser transparentes?
Calificación crediticia y decisiones de préstamo
Los sistemas de IA que evalúan la solvencia o formulan recomendaciones de préstamo deben explicar qué factores impulsaron la decisión. “Su solicitud fue denegada por nuestro sistema automatizado” sin motivos específicos no es conforme al artículo 13(1).
Evaluación del riesgo de seguros
Los sistemas de IA de tarificación y suscripción que determinan las primas o la elegibilidad de la cobertura deben ser transparentes respecto a los factores que influyen en las evaluaciones de riesgo. Los asegurados necesitan comprender por qué su prima se fijó en un nivel determinado.
Cribado de prevención del blanqueo de capitales (AML)
Los sistemas de IA que marcan transacciones o clientes sospechosos para revisión AML deben proporcionar a los responsables de cumplimiento salidas interpretables que expliquen por qué se marcó una transacción o una cuenta, permitiendo una investigación humana adecuada.
Idoneidad de la inversión y asesoramiento automatizado
Los sistemas de IA que recomiendan productos de inversión deben explicar la justificación de las recomendaciones. Conforme a MiFID II, las evaluaciones de idoneidad deben ser transparentes — el artículo 13 añade transparencia a nivel de sistema sobre cómo la IA llega a sus recomendaciones.
Sistemas de detección de fraude
La IA que marca transacciones potencialmente fraudulentas debe proporcionar a los analistas de fraude un contexto de alerta interpretable. Una puntuación de fraude sin explicación de las señales contribuyentes impide una investigación adecuada como exige el artículo 13(1).
Obligaciones clave de transparencia para la fintech
El artículo 13 exige instrucciones de uso que permitan a los responsables del despliegue interpretar adecuadamente las salidas de la IA. Para la fintech, esto significa que los agentes de crédito y el personal de cumplimiento deben comprender cómo las puntuaciones de la IA se corresponden con la solvencia, cuáles son las limitaciones conocidas del sistema y cuándo el juicio humano debería anular las recomendaciones algorítmicas.
Los prestatarios deben recibir explicaciones
Cuando se deniega un préstamo sobre la base de la IA, el prestatario debe recibir una explicación de qué factores impulsaron la decisión. El artículo 13 combinado con el artículo 147 de la CRD IV exige que las decisiones crediticias adversas incluyan motivos específicos, no solo un aviso de rechazo genérico. La explicación debe hacer referencia a los factores algorítmicos que contribuyeron al resultado.
La correspondencia entre la puntuación de la IA y la decisión debe documentarse
Las instrucciones de uso deben explicar a los agentes de crédito cómo la puntuación de la IA se corresponde con la solvencia y cuáles son sus limitaciones conocidas. Una puntuación bruta (“Riesgo de crédito: 0,73”) sin contexto sobre lo que significa para las decisiones de préstamo, cómo se derivó y cuándo puede ser poco fiable impide un uso adecuado conforme al artículo 13(1).
Los avisos de medidas adversas deben incluir los factores de la IA
Los avisos de medidas adversas (ya exigidos conforme a la CRD) deben ahora incluir transparencia específica de la IA sobre los factores algorítmicos. Declaraciones genéricas como “sobre la base de nuestros criterios de evaluación” son insuficientes cuando los criterios se determinan algorítmicamente — deben divulgarse los factores específicos impulsados por la IA.
Los indicadores de rendimiento deben divulgarse
El artículo 13(3)(b)(ii) exige la divulgación de la exactitud, la solidez y el rendimiento en materia de ciberseguridad. Para la calificación crediticia, esto significa informar sobre la exactitud de la predicción de impago, las métricas de calibración y las variaciones de rendimiento conocidas entre segmentos de clientes — desagregadas para revelar un posible impacto dispar.
Solapamientos normativos
La transparencia de la IA de la fintech se sitúa en la intersección de la regulación financiera, la protección del consumidor y el derecho de protección de datos. El artículo 13 debe coordinarse con los requisitos de transparencia sectoriales ya vigentes.
Directrices de la ABE sobre la IA en la evaluación del crédito
La Autoridad Bancaria Europea ha emitido orientaciones sobre el uso de la IA en la evaluación de la solvencia, exigiendo explicabilidad y transparencia para las decisiones crediticias impulsadas por la IA. Estas directrices se alinean con el artículo 13, pero añaden requisitos sectoriales sobre validación de modelos, documentación y comunicación de información supervisora que las entidades financieras deben cumplir junto con las obligaciones de la AI Act.
Artículo 147 de la CRD IV — Explicación de las decisiones crediticias
La Directiva de requisitos de capital exige a las entidades que proporcionen los motivos de las decisiones crediticias adversas. El artículo 13 amplía esto al exigir transparencia sobre el propio sistema de IA — no solo sobre el resultado de la decisión, sino sobre las características, capacidades, limitaciones y métricas de rendimiento del sistema que sustentan el proceso de decisión.
MiFID II — Idoneidad y conveniencia
MiFID II exige a las empresas de inversión que evalúen la idoneidad del cliente y proporcionen recomendaciones adecuadas. Cuando la IA impulsa las evaluaciones de idoneidad, deben satisfacerse tanto la transparencia de MiFID II (hacia los clientes) como la transparencia del artículo 13 (hacia los responsables del despliegue). Los asesores deben comprender la lógica de la IA para cumplir sus obligaciones de MiFID II.
PSD2 — Transparencia de los servicios de pago
La Directiva de servicios de pago exige transparencia en el procesamiento de pagos, incluso cuando se deniegan transacciones. La detección de fraude o el cribado de transacciones impulsados por la IA deben proporcionar explicaciones significativas cuando se bloquean pagos — el artículo 13 añade requisitos para la documentación, orientada a los responsables del despliegue, de la lógica y las limitaciones del sistema de cribado.
Infracciones comunes que detecta Scanara
Rechazo de crédito sin divulgación de factores algorítmicos
Puntos de conexión de decisión de préstamo que devuelven respuestas de rechazo sin incluir los factores algorítmicos específicos que impulsaron la decisión adversa. El artículo 13(1) exige salidas interpretables — Scanara marca las API de decisión crediticia que devuelven únicamente un código de estado sin explicación a nivel de factor.
Puntuación de riesgo sin correspondencia puntuación-decisión
Respuestas de API que devuelven puntuaciones de riesgo crediticio sin documentación que asocie las puntuaciones a categorías de solvencia. Una probabilidad o puntuación bruta sin contexto sobre umbrales, interpretación e intervalos de confianza impide que los agentes de crédito utilicen la salida adecuadamente.
Encabezado de divulgación ausente en las respuestas de API orientadas al cliente
Puntos de conexión orientados al cliente (paneles de cuenta, portales de préstamos) que muestran evaluaciones impulsadas por la IA sin divulgar que la evaluación fue generada por un sistema de IA. El artículo 50(1) exige notificación cuando las personas físicas interactúan con sistemas de IA.
Lista de verificación de cumplimiento del artículo 13 para la fintech
Hacer interpretables las decisiones crediticias
Garantice que los agentes de crédito y el personal de cumplimiento puedan comprender qué factores impulsaron una recomendación crediticia de la IA. Proporcione explicaciones a nivel de factor, orientación sobre la interpretación de las puntuaciones e indicadores de confianza junto a cada salida de la IA.
Documentar la correspondencia puntuación-decisión
Proporcione instrucciones que expliquen cómo las puntuaciones de la IA se corresponden con la solvencia, qué significan los rangos de puntuación para las decisiones de préstamo y cuándo los agentes de crédito deben ejercer un juicio independiente. Incluya umbrales, intervalos de confianza y orientación sobre casos límite.
Incluir los factores de la IA en los avisos de medidas adversas
Garantice que los avisos de decisión crediticia adversa incluyan los factores algorítmicos específicos que contribuyeron a la denegación. El lenguaje de rechazo genérico debe complementarse con motivos específicos de la IA que satisfagan tanto los requisitos de la CRD IV como del artículo 13.
Divulgar las métricas de rendimiento y exactitud
Informe sobre la exactitud del modelo, la calibración y las métricas de solidez desagregadas por segmentos de clientes relevantes. Incluya las limitaciones de rendimiento conocidas, la metodología de validación y las condiciones en las que las predicciones del modelo pueden ser menos fiables.
Notificar a los clientes el uso de la IA
Informe a los prestatarios y clientes cuando la IA intervenga en decisiones que les afecten. La divulgación debería producirse antes o en el momento de la decisión impulsada por la IA en los portales orientados al cliente, las solicitudes de préstamo y los paneles de cuenta.
Preguntas frecuentes
Recursos relacionados
Artículo 13: Transparencia
Requisitos completos del artículo 13 en todos los sectores.
IA de la fintech — Centro sectorial
Guía completa de cumplimiento del EU AI Act para la IA de los servicios financieros.
Artículo 12: Conservación de registros para la fintech
Requisitos de registro y conservación de registros para la IA financiera.
Artículo 14: Supervisión humana para la fintech
Obligaciones de supervisión humana para los sistemas de IA financieros.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.