Artikel 13: Transparenz für Fintech-KI — EU AI Act-Compliance
Wie die Transparenzanforderungen aus Artikel 13 des EU AI Act für Finanz-KI gelten — Erklärbarkeit von Kreditentscheidungen, nachteilige Bescheide, Kreditnehmerrechte.
Artikel 13 der EU AI Act verlangt, dass Hochrisiko-KI-Systeme hinreichend transparent sind, damit Betreiber die Ausgaben interpretieren und angemessen nutzen können. Im Finanzdienstleistungssektor wirkt sich Transparenz unmittelbar auf die Rechte der Kreditnehmer, den Anlegerschutz und das Systemrisikomanagement aus. Gemäß Anhang III, Abschnitt 5(b), werden KI-Systeme, die zur Bewertung der Kreditwürdigkeit und zum Kreditscoring eingesetzt werden, als hochriskant eingestuft und unterliegen dem vollen Umfang der Transparenzpflichten von Artikel 13.
Diese Seite erläutert, wie die Transparenzanforderungen von Artikel 13 speziell für Fintech gelten — von Kreditentscheidungen bis zum algorithmischen Handel — einschließlich der Erläuterungsrechte von Kreditnehmern, Anleitungen für Kreditsachbearbeiter, Transparenz bei nachteiligen Maßnahmen und welche Verstöße auf Codeebene Scanara in Finanz-KI-Systemen erkennt.
Welche Fintech-KI-Systeme müssen transparent sein?
Kreditscoring und Kreditentscheidungen
KI-Systeme, die die Kreditwürdigkeit bewerten oder Kreditempfehlungen abgeben, müssen erläutern, welche Faktoren die Entscheidung bestimmt haben. “Ihr Antrag wurde von unserem automatisierten System abgelehnt” ohne konkrete Gründe ist gemäß Artikel 13(1) nicht konform.
Versicherungsrisikobewertung
KI-Preis- und Zeichnungssysteme, die Prämien oder die Deckungsberechtigung bestimmen, müssen hinsichtlich der Faktoren, die die Risikobewertungen beeinflussen, transparent sein. Versicherungsnehmer müssen verstehen, warum ihre Prämie auf ein bestimmtes Niveau festgesetzt wurde.
Screening zur Geldwäschebekämpfung (AML)
KI-Systeme, die verdächtige Transaktionen oder Kunden zur AML-Prüfung markieren, müssen Compliance-Beauftragten interpretierbare Ausgaben bereitstellen, die erläutern, warum eine Transaktion oder ein Konto markiert wurde, und eine angemessene menschliche Untersuchung ermöglichen.
Anlageeignung und Robo-Advisory
KI-Systeme, die Anlageprodukte empfehlen, müssen die Begründung hinter den Empfehlungen erläutern. Gemäß MiFID II müssen Eignungsbeurteilungen transparent sein — Artikel 13 fügt Transparenz auf Systemebene darüber hinzu, wie die KI zu ihren Empfehlungen gelangt.
Betrugserkennungssysteme
KI, die potenziell betrügerische Transaktionen markiert, muss Betrugsanalysten einen interpretierbaren Alarmkontext bereitstellen. Ein Betrugswert ohne Erläuterung der beitragenden Signale verhindert eine angemessene Untersuchung, wie sie Artikel 13(1) verlangt.
Wesentliche Transparenzpflichten für Fintech
Artikel 13 verlangt Betriebsanleitungen, die es Betreibern ermöglichen, KI-Ausgaben angemessen zu interpretieren. Bei Fintech bedeutet dies, dass Kreditsachbearbeiter und Compliance-Mitarbeiter verstehen müssen, wie KI-Werte der Kreditwürdigkeit zugeordnet werden, welche bekannten Grenzen das System hat und wann das menschliche Urteil algorithmische Empfehlungen außer Kraft setzen sollte.
Kreditnehmer müssen Erläuterungen erhalten
Wenn ein Kredit auf der Grundlage von KI abgelehnt wird, muss der Kreditnehmer eine Erläuterung erhalten, welche Faktoren die Entscheidung bestimmt haben. Artikel 13 in Verbindung mit CRD IV Artikel 147 verlangt, dass nachteilige Kreditentscheidungen konkrete Gründe enthalten, nicht nur einen allgemeinen Ablehnungsbescheid. Die Erläuterung muss auf die algorithmischen Faktoren verweisen, die zum Ergebnis beigetragen haben.
Die Zuordnung von KI-Werten zu Entscheidungen muss dokumentiert werden
Die Betriebsanleitung muss Kreditsachbearbeitern erläutern, wie der KI-Wert der Kreditwürdigkeit zugeordnet wird und welche bekannten Grenzen er hat. Ein Rohwert (“Kreditrisiko: 0,73”) ohne Kontext dazu, was das für Kreditentscheidungen bedeutet, wie er abgeleitet wurde und wann er unzuverlässig sein kann, verhindert eine angemessene Nutzung gemäß Artikel 13(1).
Bescheide über nachteilige Maßnahmen müssen KI-Faktoren enthalten
Bescheide über nachteilige Maßnahmen (bereits nach der CRD erforderlich) müssen nun KI-spezifische Transparenz über algorithmische Faktoren enthalten. Allgemeine Aussagen wie “auf der Grundlage unserer Bewertungskriterien” sind unzureichend, wenn die Kriterien algorithmisch bestimmt werden — die konkreten KI-gesteuerten Faktoren müssen offengelegt werden.
Leistungskennzahlen müssen offengelegt werden
Artikel 13(3)(b)(ii) verlangt die Offenlegung von Genauigkeit, Robustheit und Cybersicherheitsleistung. Beim Kreditscoring bedeutet dies, die Genauigkeit der Ausfallvorhersage, Kalibrierungskennzahlen und bekannte Leistungsschwankungen über Kundensegmente hinweg zu berichten — aufgeschlüsselt, um potenzielle unterschiedliche Auswirkungen aufzuzeigen.
Regulatorische Überschneidungen
Die Transparenz von Fintech-KI liegt an der Schnittstelle von Finanzregulierung, Verbraucherschutz und Datenschutzrecht. Artikel 13 muss mit bereits bestehenden sektorspezifischen Transparenzanforderungen abgestimmt werden.
EBA-Leitlinien zu KI in der Kreditbewertung
Die Europäische Bankenaufsichtsbehörde hat Leitlinien zum KI-Einsatz bei der Kreditwürdigkeitsbewertung herausgegeben, die Erklärbarkeit und Transparenz für KI-gesteuerte Kreditentscheidungen verlangen. Diese Leitlinien stimmen mit Artikel 13 überein, fügen jedoch sektorspezifische Anforderungen zu Modellvalidierung, Dokumentation und aufsichtlicher Berichterstattung hinzu, die Finanzinstitute neben den Pflichten der AI Act erfüllen müssen.
CRD IV Artikel 147 — Erläuterung von Kreditentscheidungen
Die Eigenkapitalrichtlinie verlangt von Instituten, Gründe für nachteilige Kreditentscheidungen anzugeben. Artikel 13 erweitert dies, indem er Transparenz über das KI-System selbst verlangt — nicht nur über das Entscheidungsergebnis, sondern über die Eigenschaften, Fähigkeiten, Grenzen und Leistungskennzahlen des Systems, die dem Entscheidungsprozess zugrunde liegen.
MiFID II — Eignung und Angemessenheit
MiFID II verlangt von Wertpapierfirmen, die Eignung der Kunden zu beurteilen und geeignete Empfehlungen abzugeben. Wenn KI Eignungsbeurteilungen steuert, müssen sowohl die MiFID-II-Transparenz (gegenüber Kunden) als auch die Transparenz von Artikel 13 (gegenüber Betreibern) erfüllt werden. Berater müssen die KI-Logik verstehen, um ihre MiFID-II-Pflichten zu erfüllen.
PSD2 — Transparenz bei Zahlungsdiensten
Die Zahlungsdiensterichtlinie verlangt Transparenz bei der Zahlungsabwicklung, einschließlich bei der Ablehnung von Transaktionen. KI-gesteuerte Betrugserkennung oder Transaktionsscreening muss aussagekräftige Erläuterungen bereitstellen, wenn Zahlungen blockiert werden — Artikel 13 fügt Anforderungen an die betreiberseitige Dokumentation der Logik und Grenzen des Screeningsystems hinzu.
Häufige von Scanara erkannte Verstöße
Kreditablehnung ohne Offenlegung algorithmischer Faktoren
Kreditentscheidungsendpunkte, die Ablehnungsantworten zurückgeben, ohne die konkreten algorithmischen Faktoren einzubeziehen, die die nachteilige Entscheidung bestimmt haben. Artikel 13(1) verlangt interpretierbare Ausgaben — Scanara markiert Kreditentscheidungs-APIs, die nur einen Statuscode ohne Erläuterung auf Faktorebene zurückgeben.
Risikowert ohne Zuordnung von Wert zu Entscheidung
API-Antworten, die Kreditrisikowerte zurückgeben, ohne die Zuordnung der Werte zu Kreditwürdigkeitskategorien zu dokumentieren. Eine Rohwahrscheinlichkeit oder ein Rohwert ohne Kontext zu Schwellenwerten, Interpretation und Konfidenzintervallen verhindert, dass Kreditsachbearbeiter die Ausgabe angemessen nutzen.
Fehlender Offenlegungs-Header in kundenorientierten API-Antworten
Kundenorientierte Endpunkte (Konto-Dashboards, Kreditportale), die KI-gesteuerte Bewertungen anzeigen, ohne offenzulegen, dass die Bewertung von einem KI-System erstellt wurde. Artikel 50(1) verlangt eine Benachrichtigung, wenn natürliche Personen mit KI-Systemen interagieren.
Compliance-Checkliste zu Artikel 13 für Fintech
Kreditentscheidungen interpretierbar machen
Stellen Sie sicher, dass Kreditsachbearbeiter und Compliance-Mitarbeiter verstehen können, welche Faktoren eine KI-Kreditempfehlung bestimmt haben. Stellen Sie Erläuterungen auf Faktorebene, Hinweise zur Interpretation von Werten und Konfidenzindikatoren zu jeder KI-Ausgabe bereit.
Zuordnung von Wert zu Entscheidung dokumentieren
Stellen Sie Anleitungen bereit, die erläutern, wie KI-Werte der Kreditwürdigkeit zugeordnet werden, was Wertebereiche für Kreditentscheidungen bedeuten und wann Kreditsachbearbeiter ein unabhängiges Urteil ausüben sollten. Fügen Sie Schwellenwerte, Konfidenzintervalle und Hinweise für Grenzfälle bei.
KI-Faktoren in Bescheide über nachteilige Maßnahmen aufnehmen
Stellen Sie sicher, dass Bescheide über nachteilige Kreditentscheidungen die konkreten algorithmischen Faktoren enthalten, die zur Ablehnung beigetragen haben. Allgemeine Ablehnungsformulierungen müssen durch KI-spezifische Gründe ergänzt werden, die sowohl die Anforderungen der CRD IV als auch von Artikel 13 erfüllen.
Leistungs- und Genauigkeitskennzahlen offenlegen
Berichten Sie über Modellgenauigkeit, Kalibrierung und Robustheitskennzahlen, aufgeschlüsselt nach relevanten Kundensegmenten. Fügen Sie bekannte Leistungsgrenzen, die Validierungsmethodik und die Bedingungen bei, unter denen die Vorhersagen des Modells weniger zuverlässig sein können.
Kunden über den KI-Einsatz benachrichtigen
Informieren Sie Kreditnehmer und Kunden, wenn KI an Entscheidungen beteiligt ist, die sie betreffen. Die Offenlegung sollte vor oder zum Zeitpunkt der KI-gesteuerten Entscheidung in kundenorientierten Portalen, Kreditanträgen und Konto-Dashboards erfolgen.
Häufig gestellte Fragen
Verwandte Ressourcen
Artikel 13: Transparenz
Vollständige Anforderungen von Artikel 13 über alle Branchen hinweg.
Fintech-KI — Branchen-Hub
Vollständiger Leitfaden zur EU AI Act-Compliance für Finanzdienstleistungs-KI.
Artikel 12: Aufzeichnungspflichten für Fintech
Protokollierungs- und Aufzeichnungsanforderungen für Finanz-KI.
Artikel 14: Menschliche Aufsicht für Fintech
Pflichten zur menschlichen Aufsicht für Finanz-KI-Systeme.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.