Artigo 13.º: Transparência da IA na fintech — EU AI Act
Como a transparência do artigo 13.º do EU AI Act se aplica à IA financeira — explicabilidade das decisões de crédito, medidas desfavoráveis e direitos dos mutuários.
O artigo 13.º do EU AI Act exige que os sistemas de IA de alto risco sejam suficientemente transparentes para que os responsáveis pela implementação possam interpretar os resultados e utilizá-los adequadamente. Nos serviços financeiros, a transparência afeta diretamente os direitos dos mutuários, a proteção dos investidores e a gestão do risco sistémico. Nos termos do Anexo III, Secção 5(b), os sistemas de IA utilizados para a avaliação da solvabilidade e a notação de crédito são classificados como de alto risco e sujeitos à totalidade das obrigações de transparência do artigo 13.º.
Esta página explica como os requisitos de transparência do artigo 13.º se aplicam especificamente à fintech — das decisões de crédito à negociação algorítmica — incluindo os direitos de explicação dos mutuários, as instruções para os gestores de crédito, a transparência das medidas desfavoráveis e que violações ao nível do código o Scanara deteta nos sistemas de IA financeiros.
Que sistemas de IA da fintech devem ser transparentes?
Notação de crédito e decisões de empréstimo
Os sistemas de IA que avaliam a solvabilidade ou formulam recomendações de empréstimo devem explicar que fatores motivaram a decisão. “O seu pedido foi recusado pelo nosso sistema automatizado” sem motivos específicos não é conforme ao artigo 13.º(1).
Avaliação do risco de seguros
Os sistemas de IA de tarifação e subscrição que determinam os prémios ou a elegibilidade para cobertura devem ser transparentes quanto aos fatores que influenciam as avaliações de risco. Os tomadores de seguro precisam de compreender por que motivo o seu prémio foi fixado num determinado nível.
Rastreio de combate ao branqueamento de capitais (AML)
Os sistemas de IA que sinalizam transações ou clientes suspeitos para revisão AML devem fornecer aos responsáveis pela conformidade resultados interpretáveis que expliquem por que motivo uma transação ou conta foi sinalizada, permitindo uma investigação humana adequada.
Adequação do investimento e consultoria automatizada
Os sistemas de IA que recomendam produtos de investimento devem explicar a fundamentação por detrás das recomendações. Ao abrigo da MiFID II, as avaliações de adequação devem ser transparentes — o artigo 13.º acrescenta transparência ao nível do sistema sobre como a IA chega às suas recomendações.
Sistemas de deteção de fraude
A IA que sinaliza transações potencialmente fraudulentas deve fornecer aos analistas de fraude um contexto de alerta interpretável. Uma pontuação de fraude sem explicação dos sinais contribuintes impede uma investigação adequada, tal como exigido pelo artigo 13.º(1).
Principais obrigações de transparência para a fintech
O artigo 13.º exige instruções de utilização que permitam aos responsáveis pela implementação interpretar adequadamente os resultados da IA. Para a fintech, isto significa que os gestores de crédito e o pessoal de conformidade devem compreender como as pontuações da IA correspondem à solvabilidade, quais são as limitações conhecidas do sistema e quando o juízo humano deve prevalecer sobre as recomendações algorítmicas.
Os mutuários devem receber explicações
Quando um empréstimo é recusado com base na IA, o mutuário deve receber uma explicação sobre que fatores motivaram a decisão. O artigo 13.º conjugado com o artigo 147.º da CRD IV exige que as decisões de crédito desfavoráveis incluam motivos específicos, e não apenas um aviso de recusa genérico. A explicação deve fazer referência aos fatores algorítmicos que contribuíram para o resultado.
A correspondência entre a pontuação da IA e a decisão deve ser documentada
As instruções de utilização devem explicar aos gestores de crédito como a pontuação da IA corresponde à solvabilidade e quais são as suas limitações conhecidas. Uma pontuação em bruto (“Risco de crédito: 0,73”) sem contexto sobre o que isso significa para as decisões de empréstimo, como foi derivada e quando pode ser pouco fiável impede uma utilização adequada ao abrigo do artigo 13.º(1).
Os avisos de medidas desfavoráveis devem incluir os fatores da IA
Os avisos de medidas desfavoráveis (já exigidos ao abrigo da CRD) devem agora incluir transparência específica da IA sobre os fatores algorítmicos. Declarações genéricas como “com base nos nossos critérios de avaliação” são insuficientes quando os critérios são determinados algoritmicamente — os fatores específicos orientados pela IA devem ser divulgados.
Os indicadores de desempenho devem ser divulgados
O artigo 13.º(3)(b)(ii) exige a divulgação da exatidão, da robustez e do desempenho em matéria de cibersegurança. Para a notação de crédito, isto significa reportar a exatidão da previsão de incumprimento, as métricas de calibração e as variações de desempenho conhecidas entre segmentos de clientes — desagregadas para revelar um potencial impacto desigual.
Sobreposições regulamentares
A transparência da IA da fintech situa-se na interseção da regulação financeira, da proteção do consumidor e do direito da proteção de dados. O artigo 13.º deve ser coordenado com os requisitos de transparência setoriais já em vigor.
Orientações da EBA sobre a IA na avaliação do crédito
A Autoridade Bancária Europeia emitiu orientações sobre a utilização da IA na avaliação da solvabilidade, exigindo explicabilidade e transparência para as decisões de crédito orientadas pela IA. Estas orientações alinham-se com o artigo 13.º, mas acrescentam requisitos setoriais em matéria de validação de modelos, documentação e reporte de supervisão que as instituições financeiras devem cumprir juntamente com as obrigações do AI Act.
Artigo 147.º da CRD IV — Explicação das decisões de crédito
A Diretiva relativa aos requisitos de fundos próprios exige que as instituições forneçam os motivos das decisões de crédito desfavoráveis. O artigo 13.º alarga isto ao exigir transparência sobre o próprio sistema de IA — não apenas sobre o resultado da decisão, mas sobre as características, capacidades, limitações e métricas de desempenho do sistema que sustentam o processo de decisão.
MiFID II — Adequação e caráter apropriado
A MiFID II exige que as empresas de investimento avaliem a adequação do cliente e forneçam recomendações adequadas. Quando a IA orienta as avaliações de adequação, devem ser satisfeitas tanto a transparência MiFID II (para os clientes) como a transparência do artigo 13.º (para os responsáveis pela implementação). Os consultores devem compreender a lógica da IA para cumprir as suas obrigações MiFID II.
DSP2 — Transparência dos serviços de pagamento
A Diretiva dos serviços de pagamento exige transparência no processamento de pagamentos, incluindo quando as transações são recusadas. A deteção de fraude ou o rastreio de transações orientados pela IA devem fornecer explicações significativas quando os pagamentos são bloqueados — o artigo 13.º acrescenta requisitos para a documentação, orientada aos responsáveis pela implementação, da lógica e das limitações do sistema de rastreio.
Violações comuns detetadas pelo Scanara
Recusa de crédito sem divulgação dos fatores algorítmicos
Pontos de extremidade de decisão de empréstimo que devolvem respostas de recusa sem incluir os fatores algorítmicos específicos que motivaram a decisão desfavorável. O artigo 13.º(1) exige resultados interpretáveis — o Scanara sinaliza as API de decisão de crédito que devolvem apenas um código de estado sem explicação ao nível dos fatores.
Pontuação de risco sem correspondência pontuação-decisão
Respostas de API que devolvem pontuações de risco de crédito sem documentação que associe as pontuações a categorias de solvabilidade. Uma probabilidade ou pontuação em bruto sem contexto sobre limiares, interpretação e intervalos de confiança impede os gestores de crédito de utilizarem o resultado adequadamente.
Cabeçalho de divulgação em falta nas respostas de API destinadas aos clientes
Pontos de extremidade destinados aos clientes (painéis de conta, portais de empréstimo) que apresentam avaliações orientadas pela IA sem divulgar que a avaliação foi gerada por um sistema de IA. O artigo 50.º(1) exige notificação quando as pessoas singulares interagem com sistemas de IA.
Lista de verificação de conformidade com o artigo 13.º para a fintech
Tornar as decisões de crédito interpretáveis
Garanta que os gestores de crédito e o pessoal de conformidade possam compreender que fatores motivaram uma recomendação de crédito da IA. Forneça explicações ao nível dos fatores, orientações sobre a interpretação das pontuações e indicadores de confiança junto de cada resultado da IA.
Documentar a correspondência pontuação-decisão
Forneça instruções que expliquem como as pontuações da IA correspondem à solvabilidade, o que significam os intervalos de pontuação para as decisões de empréstimo e quando os gestores de crédito devem exercer um juízo independente. Inclua limiares, intervalos de confiança e orientações sobre casos-limite.
Incluir os fatores da IA nos avisos de medidas desfavoráveis
Garanta que os avisos de decisão de crédito desfavorável incluam os fatores algorítmicos específicos que contribuíram para a recusa. A linguagem de recusa genérica deve ser complementada com motivos específicos da IA que satisfaçam tanto os requisitos da CRD IV como do artigo 13.º.
Divulgar as métricas de desempenho e exatidão
Reporte a exatidão do modelo, a calibração e as métricas de robustez desagregadas por segmentos de clientes relevantes. Inclua as limitações de desempenho conhecidas, a metodologia de validação e as condições em que as previsões do modelo podem ser menos fiáveis.
Notificar os clientes sobre a utilização da IA
Informe os mutuários e os clientes quando a IA está envolvida em decisões que os afetam. A divulgação deve ocorrer antes ou no momento da decisão orientada pela IA nos portais destinados aos clientes, nos pedidos de empréstimo e nos painéis de conta.
Perguntas frequentes
Recursos relacionados
Artigo 13.º: Transparência
Requisitos completos do artigo 13.º em todos os setores.
IA da fintech — Centro setorial
Guia completo de conformidade com o EU AI Act para a IA dos serviços financeiros.
Artigo 12.º: Manutenção de registos para a fintech
Requisitos de registo e manutenção de registos para a IA financeira.
Artigo 14.º: Supervisão humana para a fintech
Obrigações de supervisão humana para os sistemas de IA financeiros.
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.