Ist mein KI-System Hochrisiko? Ein Entscheidungsbaum
Interaktiver Entscheidungsbaum zur Risikoklassifizierung nach der KI-Verordnung. Deckt verbotene Praktiken nach Artikel 5, alle 8 Hochrisiko-Kategorien aus Anhang III, GPAI-Modellpflichten und die Transparenzpflichten nach Artikel 50 ab.
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ordnet KI-Systeme nach ihrer Zweckbestimmung: verbotene Praktiken (Artikel 5), Hochrisiko-KI-Systeme (Artikel 6 mit den Anhängen I und III) und Systeme mit Transparenzpflichten (Artikel 50). KI-Modelle mit allgemeinem Verwendungszweck haben eigene Regeln (Kapitel V). Die Pflichten reichen von Verboten bis zu freiwilligen Verhaltenskodizes.
Mit diesem interaktiven Entscheidungsbaum finden Sie heraus, welche Regeln für Ihr KI-System gelten. Er folgt den Artikeln 5, 6, 50 und 51 sowie den Anhängen I und III. Beantworten Sie jede Frage für die Zweckbestimmung Ihres Systems, also die Verwendung, die Sie in der Betriebsanleitung, in Werbe- oder Verkaufsmaterialien und in der technischen Dokumentation angeben (Artikel 3 Nummer 12). Das Ergebnis ist ein Ausgangspunkt, keine Rechtsberatung.
Interaktiver Entscheidungsbaum
Führt Ihr KI-System eine nach Artikel 5 verbotene Praktik aus?
Artikel 5 verbietet unter anderem: schädliche unterschwellige oder manipulative Techniken; das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder einer sozialen oder wirtschaftlichen Situation; Social Scoring; die Bewertung des Risikos einer Straftat allein auf Grundlage von Profiling; das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken; die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen); die biometrische Kategorisierung, um Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung abzuleiten; und die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit engen Ausnahmen. Ab dem 2. Dezember 2026 verbietet er außerdem KI-Systeme, die nicht einvernehmlich erstellte sexuell explizite Deepfakes erkennbarer Personen oder Darstellungen des sexuellen Missbrauchs von Kindern erzeugen (Artikel 5 Absatz 1 Buchstaben ba und bb).
Das Risikoklassifizierungsrahmenwerk verstehen
Die EU-KI-Verordnung verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Gesundheit, Sicherheit und Grundrechte, desto strenger die Anforderungen. Sie gilt für Anbieter, Betreiber, Einführer, Händler, Produkthersteller, Bevollmächtigte und betroffene Personen in der EU sowie für Anbieter und Betreiber in Drittländern, wenn die Ausgabe des Systems in der EU verwendet wird (Artikel 2 Absatz 1). Sie gilt nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3), nicht für KI-Systeme und -Modelle, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6), nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird, außer Tests unter Realbedingungen (Artikel 2 Absatz 8), und nicht für Betreiber, die natürliche Personen sind und KI im Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10). Ebenfalls ausgenommen sind KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als ein System, das unter Artikel 5 oder 50 fällt, in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12). Die Bezeichnungen „begrenztes Risiko“ und „minimales Risiko“ sind gängige Kurzformen; die Verordnung selbst verwendet sie nicht.
Verbotene Praktiken (Artikel 5)
KI-Praktiken, die die Verordnung ausdrücklich verbietet (Artikel 5), etwa Social Scoring, schädliche unterschwellige oder manipulative Techniken, das Ausnutzen von Schwächen und bestimmte biometrische Praktiken. Die Geldbußen betragen bis zu 35 Mio. EUR oder, im Falle von Unternehmen, bis zu 7 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3).
Hohes Risiko
KI-Systeme, die Sicherheitsbauteile eines Produkts nach einer Rechtsvorschrift aus Anhang I sind und einer Konformitätsbewertung durch Dritte unterzogen werden müssen, oder die für die Verwendungen aus Anhang III eingesetzt werden, etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Strafverfolgung und Migration. Sie müssen unter anderem Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, Aufzeichnung, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit erfüllen. Die Anforderungen gelten für Systeme nach Anhang III ab dem 2. Dezember 2027 und für Systeme nach Anhang I Abschnitt A ab dem 2. August 2028 (Artikel 113 in der Fassung der Verordnung (EU) 2026/1744). Systeme, die vor diesen Daten in Verkehr gebracht oder in Betrieb genommen wurden, sind nur erfasst, wenn sie danach in ihrer Konzeption erheblich verändert werden; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Für Systeme nach Abschnitt B gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112, die Artikel 57 bis 59 nur, soweit die Fachvorschrift die Hochrisiko-Anforderungen eingebunden hat (Artikel 2 Absatz 2).
Transparenzpflichten (Artikel 50)
KI-Systeme, die direkt mit Menschen interagieren, synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen oder Emotionen erkennen bzw. Personen biometrisch kategorisieren. Anbieter und Betreiber müssen ab dem 2. August 2026 informieren oder Inhalte kennzeichnen, wie Artikel 50 es verlangt. Die Information muss klar erfolgen und spätestens bei der ersten Interaktion oder dem ersten Kontakt gegeben werden (Artikel 50 Absatz 5).
Alle übrigen KI-Systeme
KI-Systeme, für die weder ein Verbot nach Artikel 5 noch eine Hochrisiko-Regel noch eine Pflicht nach Artikel 50 gilt. Allgemeine Regeln gelten weiterhin, etwa zur KI-Kompetenz (Artikel 4). Freiwillige Verhaltenskodizes werden gefördert (Artikel 95).
Häufige Klassifizierungsfehler
Nach Bezeichnung statt nach Zweckbestimmung einstufen
Maßgeblich ist die Zweckbestimmung: die Verwendung, die der Anbieter in der Betriebsanleitung, in Werbe- oder Verkaufsmaterialien und in der technischen Dokumentation angibt (Artikel 3 Nummer 12). Ein System für die Einstellung von Personen, etwa zum Filtern von Bewerbungen oder zur Bewertung von Bewerbern, ist eine Verwendung nach Anhang III (Nummer 4 Buchstabe a). Die Bezeichnung als Vorschlagswerkzeug ändert daran nichts. Das können nur die Bedingungen von Artikel 6 Absatz 3, und niemals bei Profiling natürlicher Personen.
Die Artikel-6(3)-Ausnahme ignorieren
Nicht jedes System nach Anhang III ist hochriskant. Ein System, das kein erhebliches Risiko der Beeinträchtigung birgt und eine der vier Bedingungen von Artikel 6 Absatz 3 erfüllt, gilt nicht als hochriskant. Bei Profiling natürlicher Personen greift die Ausnahme nie. Der Anbieter muss seine Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und muss das System dennoch in der EU-Datenbank registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).
Nachgelagerte Klassifizierung vergessen
Ein GPAI-Modell ist selbst nicht hochriskant. Bauen Sie auf einem Modell ein KI-System auf und ist dieses System nach Artikel 6 hochriskant, trägt der Anbieter dieses Systems die Hochrisiko-Pflichten; die Pflichten des Modellanbieters nach Artikel 53 bleiben davon getrennt. Stufen Sie das System nach seiner Zweckbestimmung ein, nicht allein nach dem Modell.
Häufig gestellte Fragen
Woher weiß ich, ob mein KI-System hochriskant ist?
Ein KI-System ist hochriskant, wenn es einen von zwei Wegen erfüllt. Weg 1 (Artikel 6 Absatz 1): Es ist ein Sicherheitsbauteil eines Produkts oder selbst ein Produkt, das unter eine Rechtsvorschrift aus Anhang I fällt, und dieses Produkt muss einer Konformitätsbewertung durch Dritte unterzogen werden. Weg 2 (Artikel 6 Absatz 2): Es wird für eine Verwendung nach Anhang III eingesetzt und die Ausnahme nach Artikel 6 Absatz 3 greift nicht; Profiling natürlicher Personen ist nie ausgenommen. Für Produkte nach Anhang I Abschnitt B gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112, die Artikel 57 bis 59 nur, soweit die Fachvorschrift die Hochrisiko-Anforderungen eingebunden hat (Artikel 2 Absatz 2). Der Entscheidungsbaum oben führt Sie durch die Kriterien.
Was passiert bei falscher Klassifizierung?
Wird ein System nach Anhang III fälschlich als nicht hochriskant eingestuft, um die Regeln zu umgehen, drohen dem Anbieter Geldbußen nach Artikel 99 (Artikel 80 Absatz 7). Geldbußen für Verstöße gegen die Anbieterpflichten nach Artikel 16 betragen bis zu 15 Mio. EUR oder, im Falle von Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU und kleine Midcap-Unternehmen gilt der niedrigere der beiden Beträge (Artikel 99 Absätze 6 und 6a).
Kann sich die Risikoklassifizierung ändern?
Ja. Die Kommission kann Anhang III und die Bedingungen von Artikel 6 Absatz 3 durch delegierte Rechtsakte ändern (Artikel 7, Artikel 6 Absätze 6 und 7). Auch eine geänderte Zweckbestimmung kann die Einstufung ändern: Wer die Zweckbestimmung eines nicht hochriskanten, bereits in Verkehr gebrachten oder in Betrieb genommenen Systems so ändert, dass es hochriskant wird, gilt als dessen Anbieter (Artikel 25 Absatz 1 Buchstabe c). Prüfen Sie die Einstufung neu, wenn sich Zweck oder Einsatzkontext ändern. Die Verordnung (EU) 2026/1744 („Digital-Omnibus zu KI“) hat die Fristen für Hochrisiko-Systeme auf den 2. Dezember 2027 für Systeme nach Anhang III und den 2. August 2028 für Systeme nach Anhang I festgelegt. Die Verbote nach Artikel 5 gelten seit dem 2. Februar 2025 (Artikel 5 Absatz 1 Buchstaben ba und bb: ab dem 2. Dezember 2026) und die GPAI-Pflichten seit dem 2. August 2025.
Macht die Nutzung einer KI-API mein System hochriskant?
Es kommt auf die Zweckbestimmung Ihres Systems an, nicht auf die Herkunft des Modells. Binden Sie eine KI-Schnittstelle eines Dritten in ein System mit einer Verwendung nach Anhang III ein, etwa zur Kreditwürdigkeitsprüfung oder zur Personalauswahl, ist Ihr System hochriskant, sofern die Ausnahme nach Artikel 6 Absatz 3 nicht greift. Wer dieses System unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt, ist dessen Anbieter (Artikel 3 Nummer 3) und trägt die Anbieterpflichten, unabhängig davon, wer das Modell entwickelt hat. Der Modellanbieter hat eigene GPAI-Pflichten.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.