EU-KI-Verordnung für SaaS-Unternehmen
Was SaaS-Anbieter mit KI-Funktionen über Anbieterpflichten, Risikoeinstufung und die geteilte Verantwortung mit Betreibern wissen müssen.
Wichtigste Erkenntnisse
- 1.Ein SaaS-Unternehmen ist Anbieter jedes KI-Systems, das es entwickelt oder entwickeln lässt und unter eigenem Namen anbietet (Artikel 3 Nummer 3).
- 2.Ihre Pflichten hängen von der Risikoklasse ab. Die Verbote nach Artikel 5 für verbotene Praktiken gelten seit dem 2. Februar 2025. Zwei weitere Verbote, in Artikel 5 Absatz 1 Buchstaben ba und bb, gelten ab dem 2. Dezember 2026. Beide Daten stehen in Artikel 113 Absatz 3 Buchstabe a.
- 3.Hochrisiko-KI-Systeme (nach den Anhängen III und I) brauchen Risikomanagement, Dokumentation und Protokollierung (Artikel 9, 11 und 12). Anhang I Abschnitt B ist eine Ausnahme (Artikel 2 Absatz 2). Chatbots und erzeugte Inhalte brauchen Transparenzmaßnahmen (Artikel 50).
- 4.Ihre Geschäftskunden sind Betreiber, wenn sie Ihr KI-System in eigener Verantwortung verwenden (Artikel 3 Nummer 4). Betreiber von Hochrisiko-KI-Systemen haben eigene Pflichten (Artikel 26).
- 5.Ein Modell eines Dritten ändert nichts an Ihrer Rolle als Anbieter Ihres eigenen Systems.
Die Verordnung gilt für Anbieter, die KI-Systeme auf dem EU-Markt in Verkehr bringen (Artikel 2 Absatz 1 Buchstabe a). Sie erfasst auch Anbieter, die KI-Systeme dort in Betrieb nehmen. Anbieter und Betreiber in Drittländern sind erfasst, wenn die Ausgabe ihres Systems in der Union verwendet wird (Artikel 2 Absatz 1 Buchstabe c). Die Verordnung gilt nicht für militärische Zwecke, Verteidigungszwecke und Zwecke der nationalen Sicherheit (Artikel 2 Absatz 3).
Nächster Schritt: Listen Sie die KI-Systeme in Ihrem Produkt auf und prüfen Sie jedes anhand von Artikel 5 und Anhang III. Anhang III ist die Liste der Hochrisiko-Verwendungen der Verordnung (Artikel 6 Absatz 2), etwa Einstellung oder Credit Scoring.
Die Hochrisiko-Vorschriften (Artikel 6 bis 27, außer Artikel 6 Absatz 5) gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III. Für Systeme nach Anhang I gelten sie ab dem 2. August 2028 (Artikel 113 Absatz 3 Buchstabe c). Anhang I betrifft Produkte unter EU-Sicherheitsrecht. Anhang I hat einen Abschnitt B für weitere Harmonisierungsrechtsvorschriften der Union (Artikel 2 Absatz 2). Für Hochrisiko-KI-Systeme im Zusammenhang mit solchen Produkten gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Die Artikel 57 bis 59 gelten nur, soweit diese Rechtsvorschriften die Hochrisiko-Anforderungen aufnehmen. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026 (Artikel 113). Für Artikel 50 Absatz 2 gilt für bereits in Verkehr gebrachte Systeme eine spätere Frist: 2. Dezember 2026 (Artikel 111 Absatz 4).
Geldbußen bei verbotenen Praktiken reichen bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes. Es gilt der höhere Betrag (Artikel 99 Absatz 3). Artikel 99 Absatz 4 sieht Geldbußen für Verstöße gegen Anbieterpflichten (Artikel 16) und Betreiberpflichten (Artikel 26) vor. Er erfasst auch Artikel 25 Absätze 2 und 4 sowie Artikel 50. Sie reichen bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. KMU sind Kleinst-, kleine oder mittlere Unternehmen (Artikel 3 Nummer 14a). KMU, einschließlich Start-ups, zahlen den niedrigeren Betrag aus Prozentsatz und Festbetrag (Artikel 99 Absatz 6).
Anbieter oder Betreiber: welche Rolle gilt
Die Verordnung unterscheidet Anbieter, die KI-Systeme entwickeln und in Verkehr bringen, von Betreibern, die sie in eigener Verantwortung verwenden (Artikel 3 Nummern 3 und 4).
Sie sind Anbieter, wenn ...
- Sie ein KI-System entwickeln oder entwickeln lassen und es unter Ihrem eigenen Namen oder Ihrer eigenen Marke in Verkehr bringen oder in Betrieb nehmen (Artikel 3 Nummer 3)
- Sie ein Modell eines Dritten in Ihr Produkt integrieren und das Ergebnis unter Ihrem Namen anbieten
- Sie die Zweckbestimmung eines KI-Systems so ändern, dass es hochriskant wird (Artikel 25 Absatz 1)
- Sie Ihren Namen auf einem Hochrisiko-KI-System anbringen, das bereits auf dem Markt ist (Artikel 25 Absatz 1)
Ihre Kunden sind Betreiber, wenn ...
- sie Ihr KI-System in eigener Verantwortung verwenden, außer im Rahmen einer persönlichen, nicht beruflichen Tätigkeit (Artikel 3 Nummer 4)
- sie die Zweckbestimmung Ihres Systems so ändern, dass es hochriskant wird: dann gelten sie als Anbieter (Artikel 25 Absatz 1)
Anhang III erfasst fünf dieser acht SaaS-Kategorien
| SaaS-Kategorie | Beispiele für KI-Systeme | Einordnung nach der Verordnung |
|---|---|---|
| Personal und Recruiting | Bewerbungen filtern, Bewerber bewerten, Leistung überwachen und bewerten | Anhang III Nummer 4: hochriskant |
| Kredit und Darlehen | Kreditwürdigkeit natürlicher Personen bewerten, Credit Scoring | Anhang III Nummer 5 Buchstabe b: hochriskant; Systeme zur Aufdeckung von Finanzbetrug sind ausgenommen |
| Versicherung | Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen natürlicher Personen | Anhang III Nummer 5 Buchstabe c: hochriskant |
| Bildung | Zulassungsentscheidungen, Bewertung von Lernergebnissen, Überwachung verbotenen Verhaltens bei Prüfungen | Anhang III Nummer 3: hochriskant |
| Gesundheitswesen | Triage bei Notrufen und bei Patienten in der Notfallversorgung | Anhang III Nummer 5 Buchstabe d: hochriskant. Diagnosesoftware ist in Anhang III nicht aufgeführt. Ist sie ein Medizinprodukt, das eine Konformitätsbewertung durch Dritte erfordert, kann sie über Anhang I Abschnitt A hochriskant sein (Artikel 6 Absatz 1) |
| Kundensupport | Chatbots und automatische Antworten | Artikel 50 Absatz 1: Menschen müssen darüber informiert werden, dass sie mit KI interagieren; für sich genommen keine Nummer in Anhang III |
| Marketing und Inhalte | Erzeugte Texte, Bilder, Audio- oder Videoinhalte | Artikel 50 Absätze 2 und 4: Kennzeichnungs- und Offenlegungspflichten; für sich genommen keine Nummer in Anhang III |
| Entwicklerwerkzeuge und Analytik | Code-Vervollständigung, Prognosen, Anomalieerkennung | Nicht in Anhang III aufgeführt; prüfen Sie die Zweckbestimmung |
Ein in Anhang III aufgeführtes System ist nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt (Artikel 6 Absatz 3). Es muss zudem eine der Bedingungen in den Buchstaben a bis d erfüllen. Es ist immer hochriskant, wenn es ein Profiling natürlicher Personen durchführt. Ein Anbieter, der sich auf Artikel 6 Absatz 3 beruft, dokumentiert die Bewertung und registriert sich (Artikel 6 Absatz 4 und Artikel 49 Absatz 2).
Anbieter schulden je nach Risikoklasse unterschiedliche Pflichten
Hochrisiko-KI-Systeme (Artikel 9 bis 15 und 43)
- Risikomanagementsystem (Artikel 9): Ein kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus: Risiken ermitteln, abschätzen und angehen, mit regelmäßiger Überprüfung.
- Daten und Daten-Governance (Artikel 10): Trainings-, Validierungs- und Testdaten erfüllen Qualitätskriterien und folgen Verfahren der Daten-Governance, die eine Untersuchung auf mögliche Verzerrungen einschließen.
- Technische Dokumentation (Artikel 11, Anhang IV): Sie erstellen sie, bevor Sie das System in Verkehr bringen, und halten sie auf dem neuesten Stand. Anhang IV listet neun Punkte auf.
- Aufzeichnungspflichten (Artikel 12): Das System zeichnet Ereignisse (Protokolle) über seine Lebensdauer automatisch auf.
- Informationen für Betreiber (Artikel 13): Das System ist so transparent, dass Betreiber seine Ausgabe interpretieren und angemessen verwenden können. Eine Betriebsanleitung gehört dazu.
- Menschliche Aufsicht (Artikel 14): Das System wird so konzipiert, dass natürliche Personen es während seiner Verwendung wirksam beaufsichtigen können.
- Genauigkeit, Robustheit und Cybersicherheit (Artikel 15): Angemessene Niveaus über den gesamten Lebenszyklus, mit den in der Betriebsanleitung angegebenen Genauigkeitskennzahlen.
- Konformitätsbewertung (Artikel 43): Das Verfahren zum Nachweis, dass die Anforderungen in Kapitel III Abschnitt 2 erfüllt sind (Artikel 3 Nummer 20). Sie schließen es ab, bevor Sie das System in Verkehr bringen oder in Betrieb nehmen (Artikel 16 Buchstabe f).
Systeme mit Transparenzpflichten (Artikel 50)
- Transparenz (Artikel 50): Systeme, die mit Menschen interagieren, müssen ihnen mitteilen, dass sie mit KI interagieren, sofern dies nicht offensichtlich ist. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, kennzeichnen die Ausgaben in einem maschinenlesbaren Format. Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung informieren die betroffenen Personen. Betreiber von Deepfakes legen diese offen. Ein Deepfake ist ein KI-erzeugter oder -manipulierter Bild-, Ton- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde (Artikel 3 Nummer 60).
Andere KI-Systeme haben keine Hochrisiko-Pflichten; die Artikel 4, 5 und 50 können weiter gelten
- Die Anforderungen der Artikel 8 bis 15 gelten für Hochrisiko-KI-Systeme (Artikel 8 Absatz 1). Bei anderen Systemen prüfen Sie die Verbote nach Artikel 5, die Maßnahmen zur KI-Kompetenz (Artikel 4) und Artikel 50, soweit er gilt. KI-Kompetenz bedeutet die Fähigkeiten, Kenntnisse und das Verständnis, die einen sachkundigen Einsatz von KI-Systemen ermöglichen (Artikel 3 Nummer 56). Ein System nach Anhang III, das Sie als nicht hochriskant einstufen, ist ein Sonderfall: Sie müssen diese Bewertung dokumentieren (Artikel 6 Absatz 4). Freiwillige Verhaltenskodizes werden gefördert (Artikel 95).
Geteilte Verantwortung: was Sie Betreibern geben und was sie tun
Was Sie Betreibern bereitstellen
- Betriebsanleitung (Artikel 13): Die Zweckbestimmung, Fähigkeiten, Grenzen, Genauigkeitsniveaus und die erforderlichen Maßnahmen zur menschlichen Aufsicht.
- Protokollierung: Ihr System zeichnet Ereignisse auf (Artikel 12). Die Betriebsanleitung beschreibt, soweit relevant, wie Betreiber die Protokolle erfassen, speichern und auswerten können (Artikel 13 Absatz 3 Buchstabe f).
- Informationen zur Leistung: Die Genauigkeitsgrade und die relevanten Genauigkeitsmetriken, angegeben in der Betriebsanleitung (Artikel 15 Absatz 3).
- Ein Meldeweg für schwerwiegende Vorfälle: Betreiber, die einen schwerwiegenden Vorfall feststellen, müssen den Anbieter unverzüglich informieren (Artikel 26 Absatz 5). Ihre Betriebsanleitung nennt Ihre Identität und Kontaktdaten (Artikel 13 Absatz 3 Buchstabe a).
Was Betreiber tun müssen
- Das System entsprechend Ihrer Anleitung verwenden (Artikel 26 Absatz 1)
- Die menschliche Aufsicht kompetenten Personen übertragen (Artikel 26 Absatz 2)
- Den Betrieb überwachen und Risiken sowie schwerwiegende Vorfälle melden (Artikel 26 Absatz 5)
- Vor der ersten Verwendung die Auswirkungen auf die Grundrechte bewerten, wo Artikel 27 gilt
- Arbeitgeber: Arbeitnehmervertreter und betroffene Arbeitnehmer informieren, dass das System verwendet wird (Artikel 26 Absatz 7)
- Betreiber von Systemen nach Anhang III, die Entscheidungen über Personen treffen oder dabei unterstützen: diese Personen informieren, dass das System verwendet wird (Artikel 26 Absatz 11)
- Die Protokolle, die ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern Unionsrecht oder nationales Recht nichts anderes vorsieht (Artikel 26 Absatz 6)
Ein Modell eines Dritten ändert nichts an Ihrer Anbieterrolle
Wenn Sie ein KI-Modell mit allgemeinem Verwendungszweck in ein System integrieren und es unter Ihrem Namen anbieten, sind Sie Anbieter dieses Systems (Artikel 3 Nummer 3). Ein solches Modell weist erhebliche allgemeine Verwendbarkeit auf und kann eine breite Palette unterschiedlicher Aufgaben kompetent erfüllen (Artikel 3 Nummer 63).
Der Modellanbieter hat eigene Pflichten (Artikel 53). Bei einem Hochrisiko-KI-System müssen Sie als Anbieter sicherstellen, dass es die Anforderungen an Risikomanagement (Artikel 9), Dokumentation (Artikel 11) und menschliche Aufsicht (Artikel 14) erfüllt. Es muss außerdem eine Konformitätsbewertung durchlaufen (Artikel 16 Buchstaben a und f).
Fordern Sie von Ihrem Modellanbieter die Informationen an, die Sie brauchen
Vier Schritte führen vom Bestand zur Konformitätsbewertung
Bestand aufnehmen und einstufen
Listen Sie jedes KI-System in Ihrem Produkt auf, halten Sie seine Zweckbestimmung fest und prüfen Sie es anhand von Artikel 5 und Anhang III. Beginnen Sie mit den Systemen, deren Zweck in Anhang III aufgeführt ist.
Dokumentation und Entwicklung
Für Hochrisiko-KI-Systeme: ein Risikomanagementsystem, technische Dokumentation, Protokollierung, menschliche Aufsicht in der Konzeption und ein Qualitätsmanagementsystem (Artikel 17).
Informationen für Betreiber
Bereiten Sie die Betriebsanleitung, die Informationen zur Protokollierung und einen Meldeweg für Vorfallsmeldungen vor.
Konformitätsbewertung und Überprüfung
Schließen Sie die Konformitätsbewertung ab. Stellen Sie die EU-Konformitätserklärung aus, eine Erklärung, dass das System die Anforderungen der Artikel 8 bis 15 erfüllt (Artikel 47). Registrieren Sie sich, wo erforderlich (Artikel 49). Richten Sie die Beobachtung nach dem Inverkehrbringen ein, ein dokumentiertes System, das Daten zur Leistung des Systems erhebt (Artikel 72).
Weiterführende Lektüre
Quellen & Referenzen
- Regulation (EU) 2024/1689 — EU Artificial Intelligence Act — die auf dieser Seite zitierten Artikel sowie die Anhänge I, III und IV.
- Regulation (EU) 2026/1744 — Digital Omnibus on AI — Artikel 2 Absatz 2, 3 Nummer 14a, 4, 5, 25 Absatz 4, 99 Absatz 4, 111 und 113 in der geänderten oder eingefügten Fassung.
Häufig gestellte Fragen
Gilt die KI-Verordnung für SaaS-Unternehmen?
Ja, wenn Ihr Produkt ein KI-System enthält und Sie es auf dem EU-Markt in Verkehr bringen oder seine Ausgabe in der Union verwendet wird (Artikel 2 Absatz 1). Sie sind Anbieter, wenn Sie das KI-System unter eigenem Namen anbieten. Die Pflichten hängen von der Risikoklasse ab. Die Verordnung enthält Ausnahmen, zum Beispiel für militärische Zwecke, Verteidigungszwecke und Zwecke der nationalen Sicherheit (Artikel 2 Absatz 3) sowie für Forschung vor dem Inverkehrbringen (Artikel 2 Absatz 8).
Was ist der Unterschied zwischen einem KI-Anbieter und einem KI-Betreiber?
Ein Anbieter entwickelt ein KI-System oder lässt eines entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es unter eigenem Namen in Betrieb (Artikel 3 Nummer 3). Ein Betreiber verwendet ein KI-System in eigener Verantwortung, außer im Rahmen einer persönlichen, nicht beruflichen Tätigkeit (Artikel 3 Nummer 4). Ein SaaS-Unternehmen, das ein KI-System anbietet, ist Anbieter, und seine Geschäftskunden sind Betreiber. Ein Unternehmen, das ein KI-System eines Dritten nur in seinem eigenen Betrieb einsetzt, ist Betreiber.
Welche KI-Systeme von SaaS-Produkten gelten als hochriskant?
Systeme, die für einen in Anhang III aufgeführten Zweck verwendet werden. Beispiele: Einstellung und Auswahl, Entscheidungen über Arbeitsverhältnisse sowie Zulassung und Bewertung von Lernergebnissen. Weitere: Credit Scoring natürlicher Personen (nicht aber Betrugserkennung), Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen sowie Triage bei Notrufen. Artikel 6 Absatz 3 kann ein aufgeführtes System aus der Hochrisiko-Klasse herausnehmen, wenn seine Bedingungen erfüllt sind, nicht aber, wenn es ein Profiling natürlicher Personen durchführt.
Was sind die wichtigsten Fristen für SaaS-Unternehmen?
Verbotene Praktiken: seit dem 2. Februar 2025 (Artikel 5 Absatz 1 Buchstaben ba und bb sowie Absätze 1a und 1b: ab dem 2. Dezember 2026). Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck: seit dem 2. August 2025 (für Modelle, die vorher in Verkehr gebracht wurden: 2. August 2027, Artikel 111 Absatz 3). Transparenzpflichten nach Artikel 50: seit dem 2. August 2026 (Artikel 50 Absatz 2 für Systeme, die sich bereits auf dem Markt befinden: 2. Dezember 2026). Hochrisiko-Vorschriften (Kapitel III Abschnitte 1 bis 3): 2. Dezember 2027 für Systeme nach Anhang III. Für Systeme nach Anhang I: 2. August 2028 (Artikel 113 Absatz 3 Buchstabe c). Anhang I Abschnitt B ist eine Ausnahme (Artikel 2 Absatz 2). Dort gelten nur Artikel 6 Absatz 1, Artikel 60a (Tests unter Realbedingungen) und die Artikel 102 bis 112 (Schlussbestimmungen). Die Artikel 57 bis 59 (KI-Reallabore) gelten nur, soweit die Rechtsvorschriften des Abschnitts B die Hochrisiko-Anforderungen aufnehmen. Hochrisiko-KI-Systeme, die vor diesen Terminen bereits in Verkehr gebracht wurden, sind nur nach erheblichen Veränderungen in Bezug auf ihre Konzeption erfasst (Artikel 111 Absatz 2). Für Hochrisiko-KI-Systeme, die zur Verwendung durch Behörden bestimmt sind, müssen Anbieter und Betreiber auf jeden Fall bis zum 2. August 2030 die erforderlichen Schritte zur Einhaltung unternehmen. Fundstellen der Daten: Artikel 113 Absatz 3 Buchstaben a bis c; Artikel 111 Absatz 2 für das Datum 2030; Artikel 111 Absatz 4 für Artikel 50 Absatz 2. Kapitel III Abschnitte 1 bis 3 sind die Artikel 6 bis 27, außer Artikel 6 Absatz 5.
Haben SaaS-Unternehmen, die KI-APIs von Dritten nutzen, Pflichten?
Ja, als Anbieter oder als Betreiber. Wenn Sie die API in ein Produkt einbauen, das Sie unter Ihrem Namen anbieten, sind Sie Anbieter dieses KI-Systems. Wenn Sie ein KI-System eines Dritten nur in Ihrem eigenen Betrieb einsetzen, sind Sie Betreiber (Artikel 26 für Hochrisiko-KI-Systeme, Artikel 50, soweit er gilt). Ein Anbieter eines KI-Modells mit allgemeinem Verwendungszweck hat eigene Pflichten (Artikel 53).
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.