Artikel 12: Protokollierung autonomer KI-Systeme — EU-KI-Gesetz
Wie die Protokollierungspflichten aus Artikel 12 des EU-KI-Gesetzes für autonome Systeme gelten — Sensordaten, Entscheidungsprotokolle, Eingriffe, Aufbewahrungsfristen, DSGVO.
Artikel 12 verpflichtet KI-Systeme-Anbieter und Einsätzer, detaillierte Protokolle und Aufzeichnungen zu führen, die Ihre Einhaltung der Verpflichtungen des KI-Gesetzes nachweisen. Bei autonomen Systemen – selbstfahrenden Fahrzeugen, Drohnen, industriellen Robotern – ist die Protokollierung besonders wichtig, da das Verhalten der KI direkt die Sicherheit beeinflusst und die Notwendigkeit zur Untersuchung von Vorfällen besteht.
Diese Anleitung erklärt, was protokolliert werden muss, wie lange Protokolle aufbewahrt werden, wie mit Personendaten umgegangen wird, und wie Artikel-12-Protokolle mit anderen Verordnungen (DSGVO, Fahrzeugtypgenehmigung, Produkthaftung) interagieren. Scanara hilft Ihnen, Ihre Protokollierungsinfrastruktur zu entwerfen und zu überprüfen, um alle Anforderungen zu erfüllen.
Artikel 12 Protokollierungsgrundlagen für autonome Systeme
Automatische Ereigniserfassung
Protokolle müssen jeden Entscheidungsmoment, Sensorbild und Eingriffsereignis automatisch ohne menschliche Intervention erfassen. Echtzeit-Protokollierung reduziert Post-hoc-Datenverluste und gewährleistet Vollständigkeit.
Anforderung zur Rekonstruktion von Entscheidungen
Auditor und Behörden müssen den Entscheidungsweg der KI aus Ihren Protokollen rekonstruieren können. Das bedeutet, nicht nur die Ausgabe (links abbiegen) zu speichern, sondern den Eingabezustand (erkanntes Hindernis bei X, Geschwindigkeit Y) und die verwendete Modellversion.
Dokumentation menschlicher Eingriffe
Wenn ein Operateur, Fahrgast oder Sicherheitssystem die KI übersteuert, muss dieses Ereignis mit Zeitstempel, Grund-Codes und der durchgeführten Übersteuerungsmaßnahme protokolliert werden. Dies ist entscheidender Beweis für die Unfalluntersuchung.
Sensordatenaufbewahrung
Rohe oder verarbeitete Sensorströme (Kamerabilder, Lidar-Punktwolken, Radarrückgaben) müssen protokolliert werden, um den Betriebskontext der KI zu demonstrieren. Komprimierte Formate sind akzeptabel, wenn verlustfreie Daten wiederhergestellt werden können.
Audit-Trail zur Compliance
Protokolle bilden den Audit-Trail, der beweist, dass Sie die Artikel-12-Verpflichtungen eingehalten haben. Sie unterstützen Konformitätsbewertungen, Überprüfungen durch notifizierte Stellen und Untersuchungen der Marktüberwachung.
Zeitliche Kontinuität & Synchronisierung
Protokolle über alle Sensoren und Systeme hinweg müssen mit genauen Zeitstempeln synchronisiert werden. Lücken oder Zeituhr-Abweichungen können die gesamte Protokollkette für regulatorische Zwecke unzuverlässig machen.
Was muss protokolliert werden: Sensor-, Entscheidungs- und Übergriffssdaten
Autonome Systeme operieren in dynamischen Umgebungen und treffen Blitzbeschädigungsentscheidungen. Um Artikel 12 zu erfüllen, müssen Sie die Sensoreingaben, die interne KI-Überlegung (falls verfügbar) und alle Ausgaben und Übergriffe protokollieren.
KI-Entscheidungsprotokolle sind Ihre Beweiskette
Artikel 12 schreibt umfangreiche Protokollierung aller KI-Systementscheidungen, Sensoreingaben und menschlichen Eingriffe vor. Bei autonomen Fahrzeugen bedeutet dies, dass Lenkenausbefehle, Beschleunigungs-/Bremsentscheidungen und Eingriffe der Operatoren erfasst werden müssen. Ohne diese Protokolle können Behörden Ihre Compliance nicht überprüfen oder Vorfälle untersuchen.
Sensor- und Ereigniserfassung muss kontinuierlich sein
Autonome Systeme müssen alle Sensoreingaben (Kameras, Lidar, Radar), die verarbeiteten Merkmale, die das KI-Modell erhalten hat, und jede Ausgabentscheidung protokollieren. Bei Drohnen gehört dazu die Protokollierung von Flugwegeentscheidungen und Kollisionsvermeidungsauslösern. Lücken in der Protokollierung machen das gesamte Protokoll ungültig und setzen Sie regulatorischen Strafen aus.
Aufbewahrungszeiten variieren je nach Risikokategorie
Hochrisiko-Autonomsysteme (selbstfahrende Fahrzeuge, Robotermanipulatoren) erfordern möglicherweise Protokolle, die für Jahre aufbewahrt werden, um Unfalluntersuchungen und Compliance-Audits zu unterstützen. Niedrig risikobehaftete Drohnen können kürzere Zeitfenster haben. Bestimmen Sie zunächst die Risikokategorie Ihres Systems – sie bestimmt Ihre Aufbewahrungsrichtlinie.
Personendaten in Protokollen lösen DSGVO-Verpflichtungen aus
Wenn Ihr autonomes System Standortdaten, biometrische Daten von Sensoren oder Benutzerkennung protokolliert, werden diese Protokolle zu Personendaten. Die DSGVO gilt parallel zu Artikel 12: Sie müssen Daten anonymisieren, pseudonymisieren oder die Aufbewahrung unter Datenschutzgesetz rechtfertigen. Nichtbeachtung verstößt gegen sowohl das KI-Gesetz als auch die DSGVO.
Aufbewahrung, Zugang und regulatorische Übergabe
Protokolle sind nur nützlich, wenn sie lange genug aufbewahrt werden, um Untersuchungen und Compliance-Audits zu unterstützen, und wenn sie Behörden, Benutzern und autorisierten Dritten bei Bedarf zur Verfügung stehen.
Maschinenrichtlinie & Artikel 12
Wenn Ihr autonomes System eine Maschine ist (Roboterarm, autonomer Gabelstapler), muss es sowohl die Maschinenrichtlinie (EU 2006/42/EG) als auch das KI-Gesetz einhalten. Die Artikel-12-Protokollierung ergänzt die Anforderungen der Maschinenrichtlinie für die technische Dokumentationsdatei (TDF). Die Protokollaufbewahrung muss beide Rahmenwerk erfüllen.
Fahrzeug-Typgenehmigung & UNECE-Verordnungen
Selbstfahrende Fahrzeuge müssen UNECE-Fahrzeugsicherheitsverordnungen (z. B. UNECE R79, R80) neben dem EU-KI-Gesetz erfüllen. Viele UNECE-Regeln schreiben nun Ereignisdatenrekorder (Black-Box-Systeme) vor. Koordinieren Sie die Artikel-12-Protokollierung mit Typgenehmigungsanforderungen, um Duplizierung zu vermeiden und Datenlücken sicherzustellen.
DSGVO & Personendaten in Protokollen
Jede persönlich identifizierbare Information in Ihren Protokollen – GPS-Koordinaten, biometrische Sensordaten, Benutzerkennung – sind Personendaten unter der DSGVO. Artikel 12 und DSGVO gelten beide. Sie müssen eine rechtmäßige Grundlage für die Aufbewahrung haben, datenschutz-zentral implementieren und Personen Transparenz und Rechte gewähren (z. B. Zugang, Löschung). Das Versäumnis beider Rahmenwerke setzt Sie erheblichen Strafen aus.
Produkthaftung & das Recht auf eine Datenspur
Bei Produkthaftungsstreitigkeiten (jemand verletzt durch Ihr autonomes System) werden die Anwälte der Kläger Protokolle anfordern, um zu beweisen, dass Ihr System fehlerhaft war oder Pflicht verletzt hat. Umfangreiche Artikel-12-Protokolle schützen Sie, indem sie ein objektives Protokoll erstellen. Unvollständige oder fehlende Protokolle können gegen Sie in Gerichtsverfahren interpretiert werden.
Echte Verstöße gegen Artikel 12 in autonomen Systemen
Autonomer Fahrzeugcrash: Unzureichende Black-Box-Protokolle
Ein selbstfahrendes Auto trifft einen Fußgänger. Die Protokolle des Unternehmens zeigen nur die abschließende Steuerbefehl (Bremse angelegt), nicht aber die Sensordaten oder den Wahrnehmungszeitstrahl der KI, der zur Entscheidung führte. Behörden können nicht feststellen, ob die KI den Fußgänger nicht erkannte oder ob das Übergriffsversuch/Bremssystem ausfiel. Artikel 12 Verstoß: Protokolle unzureichend zur Rekonstruktion der Kausalfolge. Ergebnis: Geldbuße, obligatorische Protokoll-Umgestaltung, potenzieller Produktrükruf.
Drohnenoperateur zerstört Flugprotokolle nach dem Crash
Eine Lieferdrohne stürzt ab. Die Betriebsrichtlinie des Unternehmens war, Flugdaten nach 7 Tagen zu überschreiben, um Speicherplatz zu sparen. Behörden, die den Vorfall untersuchen, finden keine Protokolle. Artikel 12 Verstoß: unzureichende Aufbewahrungsdauer und, falls unfallbezogen, vorsätzliche Zerstörung von Beweisen. Ergebnis: regulatorische Geldbuße, kriminelle Untersuchung in einigen Gerichtsbarkeiten.
Roboterhersteller versäumt es, Eingriffsereignisse zu protokollieren
Ein industrieller Roboterarm ist so programmiert, dass er ohne Protokollierung menschlicher Sicherheitsstops oder E-Stop-Tastendrücke betrieben wird. Ein Unfall tritt auf, und Ermittler entdecken, dass die KI wiederholt Sicherheitsbefehle erzwang. Artikel 12 Verstoß: Eingriffsereignisse nicht protokolliert. Ergebnis: Geldbuße, Anordnung zur Neugestaltung des Protokollierungssystems, Verlust der CE-Kennzeichnung bis zu Korrekturmaßnahmen.
Sensordaten zu komprimiert, können Zustand nicht rekonstruieren
Ein Logistikroboter protokolliert nur aggregierte Statistiken (z. B. 'Hindernis erkannt, Vertrauen 87%'), verwirft aber die Rohdaten-Sensoren. Wenn ein Unfall auftritt, können Auditors nicht überprüfen, ob die KI die notwendigen Informationen erhielt, um eine sichere Entscheidung zu treffen. Artikel 12 Verstoß: unzureichendes Detail zur Rekonstruktion des Entscheidungskontextes. Ergebnis: bedingte Compliance-Anordnung bis zur Neugestaltung des Protokollformats.
Artikel 12 Compliance-Checkliste & FAQ
Definieren Sie Ihren Protokollierungsbereich
Identifizieren Sie alle KI-Systementscheidungspunkte, Sensoreingaben und Übergriffsverkehrsmechanismen. Erstellen Sie ein Protokollierungsspezifikationsdokument, das an Ihre Risikobewertung und Systemarchitektur gekoppelt ist.
Implementieren Sie automatische, kontinuierliche Protokollierung
Stellen Sie Protokollierungsinfrastruktur bereit, die Ereignisse ohne manuelle Eingriffe erfasst. Gewährleisten Sie die Synchronisierung über verteilte Sensoren (Kameras, Lidar, Radar, GPS, Beschleunigungsmesser).
Protokolle für regulatorische Dauer aufbewahren
Legen Sie Aufbewahrungsrichtlinien auf Grundlage Ihrer Risikokategorie fest (hochrisiko: 3–5 Jahre oder pro Unfalluntersuchungszeitrahmen; niedrigrisiko: 1–2 Jahre). Dokumentieren Sie die Aufbewahrungsbasis.
Verifizieren Sie die Rekonstruktionsfähigkeit
Testen Sie, dass Auditors Ihre Protokolle abspielen können, um den Entscheidungsweg der KI zu verstehen. Führen Sie Mock-Unfalluntersuchungen unter Verwendung Ihrer Protokolldaten durch, um Vollständigkeit sicherzustellen.
Trennen Sie Personendaten & implementieren Sie DSGVO-Kontrollen
Isolieren Sie persönlich identifizierbare Informationen, implementieren Sie Pseudonymisierung, wo möglich, und stimmen Sie die Datenspeicherung mit der DSGVO-rechtmäßigen Grundlage und Aufbewahrungsminimierungsprinzipien ab.
Häufig Gestellte Fragen
Verwandte Artikel & Verordnungen
Artikel 9: Risikomanagement für autonome Systeme
Risikomanagement informiert, was Sie protokollieren. Hochrisiko-Autonomsysteme erfordern umfangreiche Protokolle, um kontinuierliche Überwachung und Unfalluntersuchung zu unterstützen. Artikel 9 und Artikel 12 arbeiten zusammen.
Artikel 14: Menschliche Aufsicht & Eingriffs-Protokollierung
Artikel 14 erfordert menschliche Aufsicht. Artikel-12-Protokolle müssen alle menschlichen Eingriffsereignisse mit ausreichendem Detail erfassen, um zu überprüfen, dass menschliche Aufsicht wirksam war.
Maschinenrichtlinie Technische Dokumentationsdatei (TDF)
Für autonome Roboter und Maschinen überlappen sich TDF-Anforderungen mit Artikel-12-Protokollierung. Stellen Sie sicher, dass Ihre Protokolle in Ihre TDF eingespeist werden und notifizierte Stellen-Audits unterstützen.
UNECE Fahrzeug-Typgenehmigungsregeln & Ereignisdatenrekorder
Selbstfahrende Fahrzeuge müssen UNECE-Sicherheitsverordnungen erfüllen. Viele schreiben nun Ereignisdatenrekorder (Black-Box-Systeme) vor. Koordinieren Sie Artikel-12-Protokolle mit UNECE-Anforderungen, um umfassende Abdeckung sicherzustellen.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.