KI-Verordnung Fintech Compliance: Leitfaden
Welche Fintech-KI die KI-Verordnung als Hochrisiko einstuft: Kreditwürdigkeitsprüfung natürlicher Personen und Preisbildung bei Lebens- und Krankenversicherungen. Rollen, Regeln für Finanzinstitute, Termine, Geldbußen.
Fintech ist in der Verordnung keine Kategorie. Die Bonitätsbewertung natürlicher Personen und die Preisbildung bei Lebens- und Krankenversicherungen sind Hochrisiko-Verwendungen (Anhang III Nummer 5).
Anbieter und Betreiber dieser Systeme müssen die Hochrisiko-Vorschriften ab dem 2. Dezember 2027 erfüllen, sofern nicht die Ausnahme nach Artikel 6 Absatz 3 greift. Die Betrugsaufdeckung ist von Nummer 5 Buchstabe b ausgenommen. Geldbußen: bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des weltweiten Jahresumsatzes. Maßgeblich ist der höhere Betrag (Artikel 99 Absatz 4). Nächster Schritt: Erfassen Sie Ihre KI-Systeme und prüfen Sie jedes anhand von Nummer 5 Buchstabe b und Nummer 5 Buchstabe c.
Was Fintech in der Verordnung bedeutet
Die Verordnung kennt keine Fintech-Kategorie. Diese Website verwendet das Wort für KI, die über die folgenden Verwendungen unter die Verordnung fällt.
Bonitätsbewertung: Anhang III Nummer 5 Buchstabe b
KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen verwendet werden sollen, sind hochriskant. Ausgenommen sind KI-Systeme, die zur Aufdeckung von Finanzbetrug verwendet werden. Nummer 5 Buchstabe b nennt nur natürliche Personen, keine Unternehmen.
Lebens- und Krankenversicherung: Anhang III Nummer 5 Buchstabe c
KI-Systeme, die bestimmungsgemäß für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen verwendet werden sollen, sind hochriskant. Nummer 5 Buchstabe c nennt nur Lebens- und Krankenversicherungen.
Die Betrugsaufdeckung ist von Nummer 5 Buchstabe b ausgenommen
Die Ausnahme betrifft KI-Systeme, die zur Aufdeckung von Finanzbetrug verwendet werden. Ein System zur Betrugsaufdeckung ist nur dann hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I es erfasst.
Andere Fintech-Verwendungen sind in Nummer 5 nicht genannt
Nummer 5 nennt keine Geldwäsche- oder Know-your-Customer-Prüfungen, keinen algorithmischen Handel, kein Robo-Advice, keine Nichtlebensversicherungen, keine Schadenbearbeitung und keine Kreditentscheidungen über juristische Personen. Prüfen Sie jede dieser Verwendungen anhand der übrigen Punkte von Anhang III und anhand von Anhang I, bevor Sie sie als außerhalb der Hochrisiko-Vorschriften behandeln.
Artikel 6 Absatz 3 kann ein System aus Anhang III herausnehmen
Ein System nach Nummer 5 Buchstabe b oder Nummer 5 Buchstabe c ist nach Artikel 6 Absatz 2 hochriskant. Nach Artikel 6 Absatz 3 gilt es nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte birgt. Dazu gehört, dass es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Die Verordnung wendet diese Ausnahme an, wenn eine der folgenden Bedingungen erfüllt ist (Artikel 6 Absatz 3 Buchstaben a bis d). Das System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen. Oder es ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern. Oder es ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen. Oder es ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die in Anhang III aufgeführten Anwendungsfälle relevant ist. Wie sich diese Bedingungen mit dem Test auf ein erhebliches Risiko verbinden, ist eine Frage für Ihre Rechtsberatung. Nimmt das System ein Profiling natürlicher Personen vor, gilt es immer als hochriskant. Profiling ist in Artikel 4 Nummer 4 DSGVO definiert (Artikel 3 Nummer 52). Ob ein bestimmtes Scoring- oder Preisbildungssystem ein Profiling vornimmt, ist ebenfalls eine Frage für Ihre Rechtsberatung. Ein Anbieter, der sich auf die Ausnahme beruft, dokumentiert seine Bewertung, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Er muss das System außerdem registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).
Andere Vorschriften der Verordnung, die Fintech-KI erfassen können
Artikel 5 Absatz 1 Buchstabe b verbietet KI-Systeme, die eine Vulnerabilität oder Schutzbedürftigkeit einer natürlichen Person aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation ausnutzen. Ziel oder Wirkung muss sein, das Verhalten wesentlich zu verändern, und zwar in einer Weise, die erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird. Buchstabe c verbietet KI-Systeme zur Bewertung oder Einstufung natürlicher Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften, wenn die soziale Bewertung zu der dort beschriebenen Schlechterstellung oder Benachteiligung führt. Diese Verbote gelten ab dem 2. Februar 2025 (Artikel 113 Absatz 3 Buchstabe a). Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, etwa ein Chatbot, müssen diese so konzipieren, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Das gilt nicht, wenn dies offensichtlich ist (Artikel 50 Absatz 1). Das gilt ab dem 2. August 2026.
Anbieter und Betreiber
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Die Inbetriebnahme schließt die Bereitstellung zum Eigengebrauch ein (Artikel 3 Nummer 11). Wer als Bank oder Versicherer ein System entwickelt und unter eigenem Namen in Betrieb nimmt, ist daher Anbieter. Wer als Bank oder Versicherer ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird in drei Fällen zum Anbieter. Er versieht ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen. Er nimmt an einem solchen System eine wesentliche Veränderung vor, durch die es ein Hochrisiko-KI-System bleibt. Oder er ändert die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so, dass es hochriskant wird (Artikel 25 Absatz 1). Der Anbieter, der das System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, gilt dann nicht mehr als Anbieter dieses spezifischen Systems und muss eng mit dem neuen Anbieter zusammenarbeiten (Artikel 25 Absatz 2). Das gilt nicht, wenn der Erstanbieter eindeutig festgelegt hat, dass sein System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.
Pflichten der Anbieter von Bonitätsbewertungs- und Versicherungs-KI
Anbieter müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen von Kapitel III Abschnitt 2, also der Artikel 8 bis 15, erfüllen (Artikel 16 Buchstabe a). Sie müssen außerdem die übrigen Anbieterpflichten aus Artikel 16 erfüllen.
- Art. 9Risikomanagementsystem
Ein kontinuierlicher iterativer Prozess über den Lebenszyklus, mit Tests anhand vorab festgelegter Metriken und Wahrscheinlichkeitsschwellenwerte, die für die Zweckbestimmung geeignet sind.
- Art. 10Daten und Daten-Governance
Trainings-, Validierungs- und Testdatensätze, die die Qualitätskriterien von Artikel 10 erfüllen, einschließlich einer Untersuchung im Hinblick auf mögliche Verzerrungen.
- Art. 12Protokollierung durch Konzeption
Die Technik des Systems muss die automatische Aufzeichnung von Ereignissen (Protokollierung) während seines Lebenszyklus ermöglichen.
- Art. 13Betriebsanleitung
Informationen, mit denen Betreiber die Ausgabe interpretieren und angemessen verwenden können, einschließlich des angegebenen Maßes an Genauigkeit und der zugehörigen Metriken.
- Art. 14Menschliche Aufsicht durch Konzeption
Maßnahmen, mit denen natürliche Personen das System während seiner Verwendung wirksam beaufsichtigen können.
- Art. 15Genauigkeit, Robustheit und Cybersicherheit
Ein angemessenes Maß, das über den gesamten Lebenszyklus beständig erreicht wird. Die Maße an Genauigkeit und die relevanten Genauigkeitsmetriken werden in der Betriebsanleitung angegeben.
- Art. 17Qualitätsmanagementsystem
Schriftliche Regeln, Verfahren und Anweisungen zu den in Artikel 17 Absatz 1 aufgeführten Aspekten, deren Umsetzung in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters steht (Artikel 17 Absatz 2).
- Art. 43(2)Konformitätsbewertung
Bei den Systemen in den Nummern 2 bis 8 von Anhang III, zu denen Nummer 5 gehört, befolgt der Anbieter das Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle (Anhang VI). Dieses Verfahren sieht keine Beteiligung einer notifizierten Stelle vor.
- Art. 16EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung
Der Anbieter stellt eine EU-Konformitätserklärung aus und bringt die CE-Kennzeichnung an. Er registriert außerdem sich und das System in der EU-Datenbank, bevor das System in Verkehr gebracht oder in Betrieb genommen wird (Artikel 16 Buchstaben g bis i; Artikel 49 Absatz 1).
- Art. 72, 73Beobachtung nach dem Inverkehrbringen und schwerwiegende Vorfälle
Der Anbieter richtet ein System zur Beobachtung nach dem Inverkehrbringen ein und dokumentiert es (Artikel 72 Absatz 1). Er meldet schwerwiegende Vorfälle den Marktüberwachungsbehörden (Artikel 73).
Pflichten der Betreiber bei Banken und Versicherern
- Art. 26(1), (2)Verwendung entsprechend der Anleitung, Aufsicht übertragen
Betreiber treffen geeignete technische und organisatorische Maßnahmen, um das System entsprechend der Betriebsanleitung zu verwenden. Sie übertragen die menschliche Aufsicht natürlichen Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen.
- Art. 26(4)–(6)Eingabedaten, Überwachung und Protokolle
Soweit die Eingabedaten ihrer Kontrolle unterliegen, sorgen Betreiber dafür, dass sie der Zweckbestimmung entsprechen und ausreichend repräsentativ sind. Sie überwachen den Betrieb des Systems anhand der Betriebsanleitung. Sie bewahren die Protokolle, die ihrer Kontrolle unterliegen, mindestens sechs Monate auf, sofern im geltenden Unionsrecht oder nationalen Recht nichts anderes bestimmt ist.
- Art. 26(11)Betroffene Personen informieren
Betreiber von in Anhang III aufgeführten Hochrisiko-KI-Systemen, die Entscheidungen in Bezug auf natürliche Personen treffen oder dabei Unterstützung leisten, informieren diese darüber, dass sie der Verwendung des Systems unterliegen, unbeschadet des Artikels 50 (Artikel 26 Absatz 11).
- Art. 27Grundrechte-Folgenabschätzung
Vor der Inbetriebnahme eines Systems nach Nummer 5 Buchstabe b oder Nummer 5 Buchstabe c führen Betreiber, ob öffentlich oder privat, eine Abschätzung der Auswirkungen auf die Grundrechte durch (Artikel 27 Absatz 1). Die Abschätzung umfasst: eine Beschreibung der Verfahren des Betreibers, bei denen das System im Einklang mit seiner Zweckbestimmung verwendet wird; den Zeitraum und die Häufigkeit der vorgesehenen Verwendung; die Kategorien natürlicher Personen und Gruppen, die davon betroffen sein könnten; die spezifischen Schadensrisiken für sie unter Berücksichtigung der Informationen des Anbieters nach Artikel 13; eine Beschreibung der Maßnahmen der menschlichen Aufsicht; und die Maßnahmen, die zu ergreifen sind, wenn sich diese Risiken verwirklichen, einschließlich der Regelungen für die interne Unternehmensführung und Beschwerdemechanismen. Betreiber teilen der Marktüberwachungsbehörde die Ergebnisse mit (Artikel 27 Absatz 3). Pflichten, die bereits durch eine Datenschutz-Folgenabschätzung erfüllt sind, können per Querverweis berücksichtigt werden (Artikel 27 Absatz 4).
- Art. 86Erläuterung gegenüber der betroffenen Person
Eine Person hat ein Recht auf Erläuterung, wenn ein Betreiber eine Entscheidung auf der Grundlage der Ausgabe eines in Anhang III aufgeführten Hochrisiko-KI-Systems trifft, mit Ausnahme von Nummer 2. Die Entscheidung muss rechtliche Auswirkungen haben oder die Person in ähnlicher Art erheblich auf eine Weise beeinträchtigen, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt. Die Person kann dann vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung erhalten (Artikel 86 Absatz 1). Das Recht gilt nicht, wenn sich Ausnahmen oder Beschränkungen aus dem Unionsrecht oder dem nationalen Recht im Einklang mit dem Unionsrecht ergeben (Artikel 86 Absatz 2). Es gilt nur insoweit, als das Recht nicht anderweitig im Unionsrecht festgelegt ist (Artikel 86 Absatz 3).
Regeln für Finanzinstitute
Die Verordnung erlaubt es Finanzinstituten, einige Pflichten in die Regeln einzubinden, die sie bereits befolgen. Die Regeln gelten für Finanzinstitute, die nach dem Unionsrecht über Finanzdienstleistungen Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensführung unterliegen. Die Verordnung nennt kein bestimmtes Unionsrecht über Finanzdienstleistungen; welche Vorschriften zählen, ist eine Frage für Ihre Rechtsberatung.
- Art. 17(4)Qualitätsmanagementsystem
Bei Anbietern, die solche Finanzinstitute sind, gilt die Pflicht zur Einrichtung eines Qualitätsmanagementsystems als erfüllt, wenn sie die Vorschriften über die interne Unternehmensführung einhalten. Ausgenommen sind das Risikomanagementsystem, die Beobachtung nach dem Inverkehrbringen und die Meldung schwerwiegender Vorfälle (Artikel 17 Absatz 4).
- Art. 18(3)Technische Dokumentation
Anbieter, die Finanzinstitute sind und nach dem Unionsrecht über Finanzdienstleistungen Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensführung unterliegen, pflegen die technische Dokumentation als Teil der nach diesem Recht aufzubewahrenden Dokumentation (Artikel 18 Absatz 3).
- Art. 19(2), 26(6)Protokolle
Anbieter und Betreiber, die solche Finanzinstitute sind, bewahren die automatisch erzeugten Protokolle als Teil der nach dem einschlägigen Unionsrecht über Finanzdienstleistungen aufzubewahrenden Dokumentation auf (Artikel 19 Absatz 2 und Artikel 26 Absatz 6 Unterabsatz 2).
- Art. 26(5)Überwachung durch den Betreiber
Bei Betreibern, die solche Finanzinstitute sind, gilt die Überwachungspflicht in Unterabsatz 1 von Artikel 26 Absatz 5 als erfüllt. Voraussetzung ist, dass die Vorschriften über Regelungen, Verfahren oder Mechanismen der internen Unternehmensführung nach dem einschlägigen Recht über Finanzdienstleistungen eingehalten werden (Artikel 26 Absatz 5 Unterabsatz 2).
- Art. 72(4)Beobachtung nach dem Inverkehrbringen
Anbieter können die Elemente des Systems und des Plans für die Beobachtung nach dem Inverkehrbringen in bereits vorhandene Systeme und Pläne integrieren, sofern ein gleichwertiges Schutzniveau erreicht wird. Artikel 72 Absatz 4 Unterabsatz 2 dehnt diese Möglichkeit auf Systeme nach Anhang III Nummer 5 solcher Finanzinstitute aus.
- Art. 74(6)Aufsichtsbehörde
Bei Hochrisiko-KI-Systemen, die von nach Unionsrecht über Finanzdienstleistungen regulierten Finanzinstituten in Verkehr gebracht, in Betrieb genommen oder verwendet werden, gilt die in jenem Recht für die Finanzaufsicht benannte nationale Behörde als Marktüberwachungsbehörde. Das gilt, sofern das Inverkehrbringen, die Inbetriebnahme oder die Verwendung in direktem Zusammenhang mit der Erbringung dieser Finanzdienstleistungen steht (Artikel 74 Absatz 6).
Termine, Geldbußen und Grenzen
Termine
Die Anforderungen für diese Verwendungen nach Anhang III gelten ab dem 2. Dezember 2027 (Artikel 113 Absatz 3 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Geldbußen
Anbieter müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen von Kapitel III Abschnitt 2 erfüllen, zu dem die Artikel 9 bis 15 gehören (Artikel 16 Buchstabe a). Verstöße gegen die Anbieterpflichten nach Artikel 16 oder die Betreiberpflichten nach Artikel 26 können mit Geldbußen geahndet werden. Die Geldbuße beträgt bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstaben a und e). Für KMU, einschließlich Start-up-Unternehmen, gilt für jede Geldbuße der jeweils niedrigere der beiden Beträge (Artikel 99 Absatz 6). Dasselbe gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8).
Reichweite und Grenzen der Verordnung
Die Verordnung gilt für Anbieter und Betreiber, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Artikel 2 Absatz 1 Buchstabe c). Sie gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt nicht die Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit (Artikel 2 Absatz 3). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss (Artikel 2 Absatz 8). KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, fallen nicht unter die Verordnung. Dieser Ausschluss gilt nicht, wenn sie als Hochrisiko-KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden oder wenn sie unter Artikel 5 oder 50 fallen (Artikel 2 Absatz 12).
Was die Verordnung für Fintech offenlässt
Keine Fintech-Metriken, -Schwellenwerte oder -Normen
Die Verordnung nennt für Bonitätsbewertung oder Versicherungspreisbildung keinen Genauigkeitswert, keine Fehlerratengrenze, keine Fairness-Metrik und keine technische Norm. Die Anbieter legen die Metriken für das Testen fest (Artikel 9 Absatz 8) und geben die Maße an Genauigkeit und die Metriken in der Betriebsanleitung an (Artikel 15 Absatz 3). Die Verordnung selbst nennt keine harmonisierte Norm. Bei Hochrisiko-KI-Systemen, die mit harmonisierten Normen übereinstimmen, deren Fundstellen im Amtsblatt der Europäischen Union veröffentlicht wurden, wird die Konformität mit den Anforderungen gemäß Abschnitt 2 vermutet, soweit diese Anforderungen von den Normen abgedeckt sind (Artikel 40 Absatz 1). Für Systeme, die mit Daten trainiert und getestet wurden, in denen sich die besonderen geografischen, verhaltensbezogenen, kontextuellen oder funktionalen Rahmenbedingungen der vorgesehenen Verwendung niederschlagen, gilt die Vermutung, dass sie Artikel 10 Absatz 4 erfüllen (Artikel 42 Absatz 1). Die Kommission erarbeitet Leitlinien für die praktische Umsetzung der Anforderungen und Pflichten nach den Artikeln 8 bis 15, 25 und 26 (Artikel 96 Absatz 1 Buchstabe a).
Anderes Recht gilt neben der Verordnung
Anderes Unionsrecht und nationales Recht, etwa die DSGVO und das Finanzdienstleistungsrecht, gilt weiter. Diese Seite beschreibt es nicht, und die Verordnung nennt kein bestimmtes Unionsrecht über Finanzdienstleistungen.
Beispiel: Ein Verzeichnis der KI-Systeme
Beispiel, keine Anforderung der Verordnung: Ein Kreditgeber oder Versicherer könnte ein einziges Verzeichnis seiner KI-Systeme führen. Es könnte für jedes System die Einstufung nach Anhang III, die Bewertung nach Artikel 6 Absatz 3, wenn er sich darauf beruft, und die Rolle des Unternehmens als Anbieter oder Betreiber enthalten.
Artikelseiten für Fintech
Jede Seite wendet einen Artikel auf KI für Bonitätsbewertung und Versicherungen an.
Artikel 9 für Fintech-KI: Risikomanagementsystem
Risikomanagementsystem für Bonitätsbewertungs- und Versicherungs-KI.
Artikel 10 für Fintech-KI: Daten und Daten-Governance
Datensätze, Untersuchung auf Verzerrungen und besondere Kategorien personenbezogener Daten.
Artikel 12 für Fintech-KI: Aufzeichnungspflichten und Protokolle
Automatische Protokollierung und wer die Protokolle aufbewahrt.
Artikel 13 für Fintech-KI: Transparenz und Betriebsanleitung
Betriebsanleitung und die Erläuterung gegenüber betroffenen Personen.
Artikel 14 für Fintech-KI: Menschliche Aufsicht
Menschliche Aufsicht und was die Verordnung nicht verlangt.
Artikel 15 für Fintech-KI: Genauigkeit, Robustheit und Cybersicherheit
Genauigkeit, Robustheit und Cybersicherheit.
Artikel 17 für Fintech-KI: Qualitätsmanagementsystem
Qualitätsmanagementsystem und die Regel für Finanzinstitute.
Artikel 26 im Fintech-Bereich: Pflichten der Betreiber
Betreiberpflichten von Banken und Versicherern.
Artikel 50 für Fintech-KI: Transparenz und Offenlegung
Transparenzpflichten für Chatbots und erzeugte Inhalte.
Artikel 53 im Fintech-Bereich: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
Fragen zur KI-Verordnung bei Fintech
Ist KI zur Betrugsaufdeckung nach der KI-Verordnung hochriskant?
Nicht über Anhang III Nummer 5 Buchstabe b, der KI-Systeme ausnimmt, die zur Aufdeckung von Finanzbetrug verwendet werden. Ein System zur Betrugsaufdeckung ist nur dann hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I es erfasst.
Sind Systeme für Geldwäschebekämpfung, Know-your-Customer-Prüfungen oder Handel hochriskant?
Anhang III Nummer 5 nennt sie nicht. Sie sind nur dann hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I sie erfasst (Artikel 6 Absätze 1 und 2). Stufen Sie jedes System gesondert ein.
Ist eine Bank, die ein Bonitätsbewertungs-Tool kauft, Anbieter oder Betreiber?
Betreiber, wenn sie ein von einem anderen Anbieter entwickeltes System in eigener Verantwortung verwendet (Artikel 3 Nummer 4). In drei Fällen wird sie zum Anbieter. Sie versieht das System mit ihrem Namen oder ihrer Handelsmarke. Sie nimmt eine wesentliche Veränderung vor, durch die das System hochriskant bleibt. Oder sie ändert die Zweckbestimmung so, dass ein nicht als hochriskant eingestuftes System hochriskant wird (Artikel 25 Absatz 1).
Ab wann gelten die Hochrisiko-Vorschriften für Bonitätsbewertung und Versicherungspreisbildung?
Ab dem 2. Dezember 2027 (Artikel 113 Absatz 3 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur nach erheblichen Veränderungen in Bezug auf seine Konzeption erfasst. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Welche Geldbußen gelten?
Verstöße gegen die Anbieterpflichten nach Artikel 16 oder die Betreiberpflichten nach Artikel 26 können mit Geldbußen geahndet werden. Die Geldbuße beträgt bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU und kleine Midcap-Unternehmen gilt für jede Geldbuße der jeweils niedrigere der beiden Beträge (Artikel 99 Absätze 6 und 6a). Die Mitgliedstaaten entscheiden, in welchem Umfang gegen Behörden Geldbußen verhängt werden können (Artikel 99 Absatz 8).
Weiterführende Seiten
Anhang III im Detail: Alle 8 Hochrisiko-Kategorien
Nummer 5 von Anhang III im Zusammenhang aller acht Kategorien.
Artikel 6: Klassifizierung von Hochrisiko-KI-Systemen
Wie Artikel 6 Hochrisiko-KI-Systeme einstuft, einschließlich der Ausnahme nach Artikel 6 Absatz 3.
Artikel 27: Grundrechte-Folgenabschätzung (FRIA)
Die Folgenabschätzung, die Artikel 27 Absatz 1 von Betreibern nach Nummer 5 Buchstabe b und Nummer 5 Buchstabe c verlangt.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.