Schatten-KI: Ein KI-System-Inventar aufbauen
So finden Sie die KI-Systeme in Ihrer Organisation und erfassen sie in einem Register: fünf Schritte, eine Registervorlage und die Pflichten nach den Artikeln 4, 26 und 49.
Die KI-Verordnung enthält keinen Artikel, der ein Inventar der KI-Systeme vorschreibt, doch mehrere Pflichten lassen sich ohne ein solches kaum erfüllen.
Anbieter und Betreiber müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, und zwar seit dem 2. Februar 2025 (Artikel 4). Betreiber von Hochrisiko-Systemen müssen geeignete Maßnahmen treffen, um sie entsprechend der Betriebsanleitung zu nutzen. Das gilt ab dem 2. Dezember 2027 (Anhang III) oder 2. August 2028 (Anhang I). Verstöße gegen Artikel 26 reichen bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Nächster Schritt: Erfassen Sie jedes eingesetzte KI-System.
Drei der Pflichten setzen voraus, dass Sie Ihre KI-Systeme kennen
KI-Kompetenz (Artikel 4)
Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag KI-Systeme betreiben und nutzen, und berücksichtigen dabei den Kontext. Die Pflicht verlangt nicht, dass eine einzelne Person ein bestimmtes Niveau garantiert erreicht.
Betreiberpflichten (Artikel 26)
Betreiber von Hochrisiko-KI-Systemen treffen geeignete technische und organisatorische Maßnahmen, um sie entsprechend der Betriebsanleitung zu nutzen, übertragen die menschliche Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis und überwachen den Betrieb des Systems (Artikel 26 Absätze 1, 2 und 5).
Registrierung (Artikel 49)
Anbieter registrieren Hochrisiko-Systeme nach Anhang III sowie Systeme, die sie nach Artikel 6 Absatz 3 für nicht hochriskant halten, vor dem Inverkehrbringen oder der Inbetriebnahme in der EU-Datenbank. Systeme für Strafverfolgung und Migration (Anhang III Nummern 1, 6 und 7) kommen in einen nicht öffentlichen Bereich, Systeme für kritische Infrastruktur (Nummer 2) werden national registriert. Betreiber, die Behörden, Organe, Einrichtungen oder sonstige Stellen der Union sind, oder in deren Namen handelnde Personen registrieren ihre Nutzung (Artikel 49 Absatz 3).
Artikel 2 begrenzt den Anwendungsbereich. Für KI-Systeme, die nach Artikel 6 Absatz 1 als hochriskant gelten und Produkte nach Anhang I Abschnitt B betreffen, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112, Artikel 4 also nicht. Ausgenommen sind außerdem Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit genutzt werden, Forschungssysteme und die rein private, nicht berufliche Nutzung (Artikel 2 Absätze 2, 3, 6, 8 und 10).
Was als KI-System gilt und was nicht
Die Verordnung definiert ein KI-System als maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden (Artikel 3 Nummer 1). Systeme, die nur auf von natürlichen Personen definierten Regeln beruhen, sind nicht erfasst (Erwägungsgrund 12).
KI-Dienste, die per API aufgerufen werden
Ihr Code ruft ein KI-Modell über eine API auf. Ein KI-System ist im Einsatz, auch wenn ein Anbieter das Modell betreibt. Erfassen Sie es und halten Sie fest, wer Anbieter und wer Betreiber ist.
Eingebettete vortrainierte Modelle
Eine Modelldatei aus einem öffentlichen Modell-Hub läuft in Ihrer Anwendung, zum Beispiel für Klassifizierung oder Inhaltsmoderation. Erfassen Sie das Modell und seine Herkunft.
SaaS-Werkzeuge mit KI-Funktionen
Schreibassistenten, CRM-Bewertungen und Code-Assistenten sind Beispiele. Wer ein solches Werkzeug für einen in Anhang III genannten Zweck nutzt, etwa zur Vorauswahl von Bewerbern, kann Betreiber eines Hochrisiko-Systems werden, es sei denn, die Ausnahme nach Artikel 6 Absatz 3 greift.
Funktionen für Bewertung, Empfehlung und Filterung
Das sind nur dann KI-Systeme, wenn sie Ausgaben aus Eingabedaten ableiten. Ein fester Regelsatz, den Menschen geschrieben haben, ist kein KI-System. Prüfen Sie, was Sie haben.
Fünf Schritte zum Inventar
Code durchsuchen
Beginnen Sie mit dem Auffinden im Code: Durchsuchen Sie alle Repositories nach KI-bezogenen Importen, API-Aufrufen, Modelldateien und Konfigurationen.
- Nach Importen von ML-Frameworks suchen (zum Beispiel tensorflow, torch, sklearn, transformers)
- KI-API-Aufrufe erkennen (zum Beispiel openai, anthropic, google.ai, azure.cognitiveservices)
- Modelldateien finden (zum Beispiel .pb, .pt, .onnx, .h5, .pkl, .safetensors)
- KI-Konfigurationsdateien finden, etwa Modellkonfigurationen und Prompt-Vorlagen
- Nach Embeddings und Vektordatenbanken suchen (zum Beispiel pinecone, weaviate, chromadb)
Teams befragen
Code-Scans finden KI, die im Code erscheint, und übersehen geplante, experimentelle oder SaaS-basierte KI. Fragen Sie jedes Team nach dem Rest.
- Einen kurzen Fragebogen an Entwicklungs-, Produkt- und Fachteams senden
- Nach KI-Funktionen in den eingesetzten SaaS-Werkzeugen fragen
- Experimentelle oder Proof-of-Concept-KI-Projekte erfassen
- KI-Werkzeuge für interne Prozesse dokumentieren, etwa Bewerberauswahl, Kundenservice und Analysen
- Lieferantenbeziehungen mit KI- oder ML-Diensten erfassen
Jedes System einstufen
Prüfen Sie für jedes System in dieser Reihenfolge, welche Regeln gelten, und halten Sie die Begründung fest.
- Die verbotenen Praktiken nach Artikel 5 prüfen
- Den Weg über Anhang I und die 8 Bereiche von Anhang III prüfen (Artikel 6)
- Die Ausnahme nach Artikel 6 Absatz 3 prüfen, wo sie greift
- Prüfen, ob ein KI-Modell mit allgemeinem Verwendungszweck beteiligt ist (Artikel 3 Nummer 63)
- Die Transparenzpflichten nach Artikel 50 prüfen
- Die Begründung für jedes System dokumentieren
Ein Register führen
Legen Sie ein Register für alle KI-Systeme an. Es ist die Grundlage für die Pflichten nach den Artikeln 4, 26 und 49 und für Anfragen von Behörden.
- Jedem KI-System eine eindeutige Kennung geben
- Anbieter, Betreiber und verantwortliche Person erfassen
- Einstufung und Begründung erfassen
- Die offenen Pflichten je System nachhalten
- Die technische Dokumentation (Anhang IV) verknüpfen, wo sie gilt
- Versionsverlauf und Änderungsnachweise führen
Aktuell halten
Ein Inventar nützt nur, wenn es aktuell bleibt. Erfassen Sie neue KI-Systeme und Änderungen, die die Einstufung verändern können.
- Eine KI-Inventarprüfung in Code-Review und Pull Requests aufnehmen
- Die Registrierung eines KI-Systems vor dem Produktivbetrieb verlangen
- In CI/CD nach neuen KI-Abhängigkeiten suchen
- Das Inventar jedes Quartal mit den Beteiligten durchgehen
- Festlegen, wer entscheidet, wenn ein neues System hochriskant sein könnte
- Entwicklungsteams schulen, KI-Systeme zu erkennen und zu melden
Ein mögliches Register: zehn Felder (unser Vorschlag)
| Feld | Beschreibung | Beispiel |
|---|---|---|
| System-ID | Eindeutige Kennung | AI-SYS-001 |
| Systemname | Intern verwendeter Name | Assistent zur Vorauswahl von Lebensläufen |
| Anbieter | Wer das System entwickelt hat | Name des Lieferanten oder internes Team |
| Ihre Rolle | Anbieter, Betreiber oder beides | Betreiber |
| Einstufung | Ergebnis Ihrer Einstufung mit Begründung | Hochrisiko, Anhang III Nummer 4 Buchstabe a |
| Zweckbestimmung | Wofür das System genutzt wird | Reiht Bewerbungen |
| Einsatzstatus | Aktuelle Lebenszyklusphase | Im Produktivbetrieb |
| Verarbeitete Daten | Arten der verarbeiteten Daten | Lebensläufe und Bewerbungsformulare |
| Verantwortliche Person | Interne Verantwortung für die Pflichten | Leitung Personal |
| Offene Pflichten | Was noch zu tun ist | Betriebsanleitung anfordern |
Häufige Fragen zum KI-Inventar
Schreibt die KI-Verordnung ein Inventar der KI-Systeme vor?
Kein Artikel verlangt ein Inventar als Dokument. Mehrere Pflichten setzen voraus, dass Sie Ihre KI-Systeme kennen: KI-Kompetenz für Anbieter und Betreiber (Artikel 4), Betreiberpflichten für Hochrisiko-Systeme (Artikel 26) und die Registrierung in der EU-Datenbank (Artikel 49). Ein Anbieter, der ein System nach Anhang III für nicht hochriskant hält, muss diese Bewertung dokumentieren und das System registrieren (Artikel 6 Absatz 4 und Artikel 49 Absatz 2).
Wie gehe ich mit KI-Systemen um, die schon produktiv laufen?
Beginnen Sie mit Systemen, die verboten (Artikel 5) oder hochriskant (Artikel 6) sein könnten. Erfassen Sie jedes System, stufen Sie es ein und notieren Sie den Anbieter. Die Verordnung hat Grenzen: Sie schließt militärische Nutzung, Forschung und rein private Nutzung aus (Artikel 2 Absätze 3, 6, 8 und 10), und einzelne Verbote gelten erst später (Artikel 113 Buchstabe a). Ein Hochrisiko-System, das vor dem Geltungsbeginn in Verkehr gebracht oder in Betrieb genommen wurde, fällt nur darunter, wenn sich sein Design danach erheblich ändert. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zu einem späteren Termin (Artikel 111 Absatz 2)
Sollte ich KI-Werkzeuge für Beschäftigte ins Inventar aufnehmen?
Ja. Artikel 4 erfasst KI-Systeme, die Ihr Personal betreibt und nutzt, ob hochriskant oder nicht. Anhang III Nummer 4 nennt Beschäftigungszwecke, etwa Einstellung und Auswahl, Entscheidungen über Arbeitsbedingungen, Aufgabenzuweisung sowie Überwachung von Leistung und Verhalten.
Als Nächstes lesen: Einstufung und Dokumentation
Ist mein KI-System Hochrisiko? Ein Entscheidungsbaum
Führt durch die Fragen, die entscheiden, ob ein KI-System verboten, hochriskant oder keines von beiden ist.
Anhang III im Detail: Alle 8 Hochrisiko-Kategorien
Nennt die 8 Bereiche, deren KI-Systeme hochriskant sind, mit Beispielen aus dem Wortlaut des Anhangs.
Technische Dokumentation nach Anhang IV: die neun Punkte
Zeigt die neun Punkte der Dokumentation, die ein Hochrisiko-System braucht.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.