Artikel 50 für Fintech-KI: Transparenz und Offenlegung

Jeder Absatz nennt, wer offenlegen muss. Jeder hat auch eine Ausnahme für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene Verwendungen; die Absätze 1 und 3 knüpfen Bedingungen daran.

• Art. 50(1)
  Systeme, die mit Menschen interagieren (Anbieter)

  Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren, dass diese Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich.

• Art. 50(2)
  Synthetische Ausgaben kennzeichnen (Anbieter)

  Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht gilt nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten oder deren Semantik nicht wesentlich verändert.

• Art. 50(3)
  Emotionserkennung und biometrische Kategorisierung (Betreiber)

  Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten nach dem geltenden Datenschutzrecht verarbeiten.

• Art. 50(4)
  Deepfakes und veröffentlichte Texte (Betreiber)

  Betreiber eines Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, der Text wurde menschlich überprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung. Bei einem offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, das Vorhandensein der erzeugten Inhalte so offenzulegen, dass Darstellung oder Genuss des Werks nicht beeinträchtigt werden.

• Art. 50(5)
  Wie und wann informiert wird

  Die Informationen müssen klar und eindeutig sein, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen (Artikel 50 Absatz 5).

Entscheidend ist, was das System tut, nicht in welchem Anhang es steht.

• „Fintech“ ist keine Kategorie der Verordnung

  Die Verordnung kennt keine Kategorie „Fintech“. Artikel 50 hängt nicht von einem Sektor oder Anhang ab: Er gilt für das, was ein System tut, gleich ob es hochriskant ist oder nicht.

• Hochrisiko-KI-Systeme tragen beide Pflichtenbündel

  Ein Bonitätsbewertungssystem, das nach Anhang III Nummer 5 Buchstabe b hochriskant ist und zudem eine Chat-Oberfläche hat, unterliegt den Pflichten aus Artikel 50 seit dem 2. August 2026 und den Pflichten aus Kapitel III ab dem 2. Dezember 2027. Artikel 50 lässt die Anforderungen aus Kapitel III unberührt (Artikel 50 Absatz 6).

• Beispiele nach Absatz

  Beispiel: Ein Kundenservice-Chatbot oder eine Beratungsoberfläche in einer Banking-App interagiert direkt mit natürlichen Personen (Artikel 50 Absatz 1). Beispiel: Ein System, das Kundenschreiben oder Berichte verfasst, erzeugt synthetischen Text und unterliegt der Kennzeichnungspflicht des Anbieters (Artikel 50 Absatz 2); eine Bank, die es nur verwendet, ist Betreiber; ihre Pflichten ergeben sich, soweit sie greifen, aus Artikel 50 Absätze 3 und 4, nicht aus Absatz 2.

• Emotionsableitung am Arbeitsplatz und in der Bildung

  Artikel 5 Absatz 1 Buchstabe f verbietet KI-Systeme, die Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen ableiten, außer wenn das System aus medizinischen Gründen oder Sicherheitsgründen eingesetzt werden soll. Beispiel: Das Ableiten der Emotionen von Callcenter-Mitarbeitern bei der Arbeit fällt unter das Verbot. Die Pflicht zur Information exponierter Personen nach Artikel 50 Absatz 3 besteht daneben.

• Termine

  Artikel 113 lässt die Verordnung ab dem 2. August 2026 gelten; Kapitel IV mit Artikel 50 gehört nicht zu den Bestimmungen, für die die Buchstaben a bis d einen anderen Termin nennen. Anbieter von Systemen, die synthetische Inhalte erzeugen und vor diesem Termin in Verkehr gebracht wurden, müssen die erforderlichen Schritte unternehmen, um Artikel 50 Absatz 2 bis zum 2. Dezember 2026 einzuhalten (Artikel 111 Absatz 4). Für Artikel 50 Absätze 1, 3 und 4 sieht die Verordnung keine Übergangsfrist vor.

• Geldbußen

  Verstöße gegen die Transparenzpflichten für Anbieter und Betreiber nach Artikel 50 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe g). Für KMU, einschließlich Start-up-Unternehmen, ist jede Geldbuße auf den niedrigeren Betrag begrenzt (Artikel 99 Absatz 6). Dieselbe Obergrenze gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt Vorschriften dafür fest, inwieweit gegen Behörden und öffentliche Stellen, die in diesem Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Grenzen des Anwendungsbereichs der Verordnung

  Die Verordnung gilt für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in der Union in Verkehr bringen, unabhängig davon, wo sie niedergelassen sind (Artikel 2 Absatz 1 Buchstabe a), sowie für Anbieter und Betreiber in einem Drittland, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Buchstabe c). Sie gilt nicht für Bereiche außerhalb des Unionsrechts und berührt nicht die Zuständigkeiten der Mitgliedstaaten für die nationale Sicherheit; sie gilt auch nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3).

• Keine Fintech-Regel, kein Kennzeichnungsformat

  Artikel 50 enthält keine Fintech-spezifische Regel. Er nennt weder Wortlaut noch Symbol; die Kennzeichnungspflicht verlangt ein maschinenlesbares Format und Erkennbarkeit unter Berücksichtigung des allgemein anerkannten Stands der Technik, wie er sich in einschlägigen technischen Normen widerspiegeln kann (Artikel 50 Absatz 2). Die Kommission arbeitet Leitlinien zu Artikel 50 aus (Artikel 96 Absatz 1 Buchstabe d).

• Praxisleitfäden

  Die Kommission fördert und erleichtert Verhaltenskodizes zur Erkennung, Kennzeichnung und Etikettierung künstlich erzeugter Inhalte und prüft, ob die Einhaltung eines Kodex ausreicht, um die Einhaltung von Artikel 50 Absätze 2 und 4 zu gewährleisten. Hält sie einen Kodex für unzureichend, kann sie einen Durchführungsrechtsakt mit gemeinsamen Vorschriften erlassen (Artikel 50 Absatz 7). Die Einhaltung ist durch den Artikel nicht vorgeschrieben.

• Menschliche Überprüfung

  Die Ausnahme für menschliche Überprüfung oder redaktionelle Kontrolle steht in Artikel 50 Absatz 4, für veröffentlichten Text. Artikel 50 Absatz 2 kennt sie nicht; seine Ausnahmen sind die unterstützende Standardbearbeitung, keine wesentliche Veränderung der Eingabedaten oder ihrer Semantik und die gesetzliche Zulassung für Zwecke der Strafverfolgung.

• Keine Pflicht, Deepfakes zu erkennen

  Artikel 50 enthält keine Pflicht für eine Bank, von anderen erzeugte Deepfakes zu erkennen. Anbieter müssen ihre Ausgaben erkennbar machen (Artikel 50 Absatz 2); Betreiber, die ein Deepfake erzeugen oder manipulieren, müssen dies offenlegen (Artikel 50 Absatz 4).

• Informationspflichten im Finanz- und Verbraucherrecht

  Artikel 50 gilt unbeschadet anderer Transparenzpflichten für Betreiber nach Unionsrecht oder nationalem Recht (Artikel 50 Absatz 6). Ob das Finanz- oder Verbraucherrecht weitere Offenlegungen gegenüber Kunden verlangt, beantwortet die Verordnung nicht.

• Artikel 50: Transparenz- und Offenlegungspflichten

  Artikel 50 für alle Sektoren: die vier Pflichten, Ausnahmen, Termine und Geldbußen.

• KI-Verordnung Fintech Compliance: Leitfaden

  Der Fintech-Überblick: wie die Verordnung KI für Kreditvergabe und Versicherung erfasst.

• Artikel 53 im Fintech-Bereich: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

  Fintech-KI und Artikel 53: Modellanbieter, Dokumentation, Urheberrecht und Zusammenfassung der Trainingsdaten.

• Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung

  Die verbotenen Praktiken, darunter die Ableitung von Emotionen am Arbeitsplatz und in der Bildung.