Artikel 10: Daten-Governance für autonome Systeme — EU AI Act
Wie die Daten-Governance nach Artikel 10 des EU AI Act für autonome Systeme gilt — Multisensor-Daten, Simulations- vs. Realweltdaten, Abdeckung der Umgebungsbedingungen.
Artikel 10 des EU AI Act stellt Anforderungen an die Daten-Governance, die für autonome Systeme besonders anspruchsvoll sind. Nach Anhang III, Abschnitt 2(a) werden KI-Systeme, die als Sicherheitsbauteile von Fahrzeugen, Luftfahrzeugen und anderen autonomen Maschinen vorgesehen sind, als hochriskant eingestuft. Ihre Trainingsdaten müssen das gesamte Spektrum der Betriebsbedingungen abbilden — Wetter, Beleuchtung, Fahrbahnoberflächen, geografische Regionen — und die Verordnung verlangt ausdrücklich, dass die Daten die spezifischen funktionalen Rahmenbedingungen berücksichtigen, in denen das System eingesetzt werden soll.
Diese Seite erläutert, wie die Daten-Governance nach Artikel 10 speziell auf autonome Systeme Anwendung findet — von selbstfahrenden Fahrzeugen bis zu autonomen Drohnen — einschließlich der Governance-Herausforderungen bei Multisensordaten, der Unterscheidung zwischen Simulations- und realen Trainingsdaten sowie der Verstöße auf Codeebene, die Scanara in den Datenpipelines autonomer Systeme erkennt.
Auf welche autonomen KI-Systeme findet Artikel 10 Anwendung?
Autonome Fahrzeuge (L3–L5)
Selbstfahrende Pkw, Lkw und Busse mit bedingter bis vollständiger Automatisierung. Die Trainingsdaten müssen die Straßenbedingungen in der EU abdecken: nordischer Winter (Eis, geringes Licht, Schnee), mediterraner Sommer (Blendung, Hitzeflimmern), unterschiedliche städtische Dichten sowie Beschilderungen in 27 Mitgliedstaaten. Systeme, die mit Fahrdaten aus dem sonnigen Kalifornien trainiert wurden, tragen ein unmittelbares Compliance-Risiko nach Artikel 10(4).
Autonome Drohnen und UAVs
KI-gestützte unbemannte Luftfahrzeuge für Lieferung, Inspektion oder Überwachung. Die Trainingsdaten müssen vielfältige Luftraumbedingungen, Hindernisse, Wettermuster und regulatorische Umfelder in den EU-Mitgliedstaaten abbilden. Trainingsdaten auf Bodenhöhe reichen für Systeme, die im dreidimensionalen Luftraum operieren, nicht aus.
Maritime Autonomous Surface Ships (MASS)
KI-Systeme für die autonome oder teilautonome Schiffsnavigation. Die Trainingsdaten müssen europäische Wasserstraßen, Hafenbedingungen, Wettermuster und Schiffsverkehr in Ostsee-, Mittelmeer-, Nordsee- und Atlantikumgebungen abdecken — jede mit eigenen navigatorischen Herausforderungen.
Industrielle autonome Roboter
KI-gesteuerte Roboter, die in gemeinsam von Mensch und Roboter genutzten Arbeitsbereichen tätig sind. Die Trainingsdaten müssen das Spektrum menschlicher Verhaltensweisen, physischer Umgebungen und Betriebsszenarien im Zieleinsatz abbilden, einschließlich Grenzfällen wie unerwarteter menschlicher Nähe oder Objektverdeckung.
Zentrale Pflichten zur Daten-Governance für autonome Systeme
Die Anforderungen nach Artikel 10 für autonome Systeme gehen über die Standard-Datenqualität hinaus. Die Verordnung verlangt, dass die Trainingsdaten die physische Welt widerspiegeln, in der das System betrieben wird — einschließlich Umgebungsbedingungen, Sensorbeschränkungen und der Unterscheidung zwischen simulierten und realen Daten.
Abdeckung der Umgebungsbedingungen
Artikel 10(4) verlangt, dass die Daten die spezifischen geografischen und funktionalen Einsatzbedingungen berücksichtigen. Für autonome Fahrzeuge, die EU-weit eingesetzt werden, müssen die Trainingsdaten Regen, Schnee, Nebel, Eis, Dunkelheit, tiefstehende Sonnenblendung und Baustellen unter nord-, mittel- und südeuropäischen Bedingungen abdecken. Ein ausschließliches Training mit Schönwetterdaten aus einer einzigen geografischen Region stellt eine klare Compliance-Lücke dar.
Multisensor-Daten-Governance
Autonome Systeme kombinieren Lidar-, Radar-, Kamera- und Ultraschallsensordaten. Artikel 10(2) verlangt eine dokumentierte Daten-Governance für jede Sensormodalität: Kalibrierungsdaten, Sensordegradationsmerkmale, sensorübergreifende Abgleichverfahren und bekannte Beschränkungen (z. B. Lidar-Leistung bei starkem Regen, Kameraleistung bei schwachem Licht). Jeder Sensortyp bringt unterschiedliche Herausforderungen für die Daten-Governance mit sich.
Trennung von Simulations- und Realweltdaten
Autonome Systeme nutzen zunehmend simulationsgenerierte Trainingsdaten. Artikel 10 verlangt eine unterschiedliche Governance für simulierte und reale Daten: Simulationsdaten müssen eindeutig gekennzeichnet, mit ihren Generierungsparametern dokumentiert und hinsichtlich der Domänenlücke gegenüber realen Bedingungen bewertet werden. Das Vermischen von Simulations- und Realweltdaten ohne klare Trennung verstößt gegen die Dokumentationspflichten.
Abdeckung von Grenzfällen und Long-Tail-Szenarien
Artikel 10(3) verlangt, dass die Trainingsdaten für den vorgesehenen Zweck vollständig sind. Für sicherheitskritische autonome Systeme umfasst dies seltene, aber gefährliche Szenarien: Einsatzfahrzeuge, Fußgänger in ungewöhnlichen Positionen, Wildtiere auf der Fahrbahn und unerwartete Infrastrukturausfälle. Die Trainingsdaten müssen die Abdeckung dieser Long-Tail-Szenarien dokumentieren.
Regulatorische Überschneidungen
Autonome Systeme unterliegen gleichzeitig Rahmenwerken der Fahrzeugsicherheit, der Luftfahrt und des Seeverkehrs, die eigene Anforderungen an die Daten-Governance stellen. Die Einhaltung von Artikel 10 muss in diese sektorspezifischen Pflichten integriert werden.
UNECE WP.29 TAFR — Type Approval Framework
Das UN Type Approval Framework für automatisierte/autonome Fahrzeuge verlangt Validierungsdatensätze, die die Bedingungen der Operational Design Domain (ODD) abdecken. Die Datenanforderungen des TAFR überschneiden sich mit Artikel 10, verwenden jedoch eine andere Terminologie und Struktur. Anbieter müssen die ODD-Szenarioabdeckung des TAFR auf die Repräsentativitätsanforderungen von Artikel 10 abbilden, um doppelte Compliance-Aufwände zu vermeiden.
ISO 21448 (SOTIF) — Safety of the Intended Functionality
SOTIF befasst sich mit Sicherheitsrisiken aus funktionalen Unzulänglichkeiten, einschließlich solcher, die aus unzureichenden Trainingsdaten entstehen. ISO 21448 Abschnitt 10 verlangt die Identifizierung auslösender Bedingungen (Szenarien, in denen das System versagen kann) — diese müssen sowohl nach SOTIF als auch nach Artikel 10 in den Trainingsdaten abgebildet sein. Die Validierungsdatenanforderungen von SOTIF können für die Einhaltung von Artikel 10 genutzt werden.
EU General Safety Regulation 2019/2144 (GSR)
Die GSR schreibt ADAS-Funktionen (Notbremsung, Spurhaltung) für neue Fahrzeuge vor. KI-Systeme, die diese Funktionen umsetzen, müssen die Leistungsanforderungen der GSR unter EU-Fahrbedingungen erfüllen. Die Daten-Governance muss die Abdeckung der in den GSR-Durchführungsverordnungen definierten Szenarien sicherstellen, einschließlich der Fußgängererkennung über diverse Bevölkerungsgruppen hinweg.
EASA AI Roadmap — KI-Governance in der Luftfahrt
Die Agentur der Europäischen Union für Flugsicherheit (EASA) hat eine KI-Roadmap veröffentlicht, die ein Datenmanagement für KI in der Luftfahrt vorschreibt. Das EASA Concept Paper on AI (2024) legt Anforderungen an Trainingsdatenqualität, Repräsentativität und Unabhängigkeit fest, die Artikel 10 eng widerspiegeln. Autonome Drohnen und Lufttaxis müssen sowohl die Daten-Governance der EASA als auch die des AI Act erfüllen.
Häufige Verstöße, die Scanara erkennt
Trainingsdaten aus einer einzigen Region für den Einsatz in mehreren Regionen
Datenpipelines, die Fahr- oder Betriebsdaten ausschließlich aus einer geografischen Region laden, ohne Vielfalt bei Wetter, Beleuchtung oder Straßenbedingungen. Scanara markiert Trainingsdatensätze mit unzureichender geografischer Abdeckung, wenn die Einsatz-ODD mehrere EU-Klimazonen umfasst — ein unmittelbarer Verstoß gegen Artikel 10(4).
Nicht gekennzeichnete Simulationsdaten in der Trainingspipeline
Trainingspipelines, die simulationsgenerierte und reale Sensordaten ohne Metadaten zur Unterscheidung der beiden Quellen vermischen. Scanara erkennt Datenladecode, der synthetische und reale Datensätze ohne Herkunftskennzeichnung kombiniert und so eine ordnungsgemäße Governance jedes Datentyps gemäß Artikel 10(2) verhindert.
Fehlende Dokumentation von Sensorbeschränkungen
Trainingscode, der Multisensordaten verarbeitet, ohne bekannte Sensorbeschränkungen und deren Auswirkungen auf die Datenqualität zu dokumentieren. Scanara markiert Pipelines, die Lidar-, Kamera- und Radardaten fusionieren, ohne Kalibrierungsstatus, bekannte Degradationsbedingungen oder sensorspezifische Fehlermerkmale zu erfassen.
Artikel-10-Compliance-Checkliste für autonome Systeme
Multisensor-Daten-Governance dokumentieren
Erfassen Sie die Daten-Governance für jede Sensormodalität: Erfassungsbedingungen, Kalibrierungsverfahren, bekannte Beschränkungen und Datenqualitätskennzahlen. Dokumentieren Sie Simulationsdaten gesondert mit Generierungsparametern und Bewertungen der Domänenlücke.
ODD-Abdeckung in den Trainingsdaten sicherstellen
Überprüfen Sie, ob die Trainingsdaten die gesamte Operational Design Domain abdecken: Wetterbedingungen, Beleuchtung, Straßentypen, Verkehrsdichten und geografische Regionen. Dokumentieren Sie Abdeckungskennzahlen und identifizieren Sie Lücken gegenüber der vorgesehenen ODD.
Einsatzgeografie berücksichtigen
Dokumentieren Sie, wie die Trainingsdaten die spezifischen geografischen, klimatischen und infrastrukturellen Bedingungen jedes EU-Marktes widerspiegeln, in dem das System betrieben wird. Berücksichtigen Sie Variationen bei der Beschilderung, Fahrgewohnheiten und lokale Umgebungsbedingungen.
Daten auf sicherheitskritische Verzerrungen prüfen
Bewerten Sie, ob die Trainingsdaten zugunsten bestimmter Umgebungsbedingungen, Fußgängerdemografien oder Fahrzeugtypen verzerrt sind. Dokumentieren Sie jede Unterrepräsentation, die die Sicherheitsleistung für bestimmte Bevölkerungsgruppen beeinträchtigen könnte.
Unabhängige Testdaten verwenden
Validieren Sie die Systemleistung anhand von Testdaten, die unabhängig von den Trainingsdaten erhoben wurden. Verwenden Sie andere geografische Regionen, Zeiträume oder Umgebungsbedingungen. Nehmen Sie SOTIF-Szenarien mit auslösenden Bedingungen in das Testset auf.
Häufig gestellte Fragen
Verwandte Ressourcen
Artikel 10: Daten-Governance
Vollständige Anforderungen von Artikel 10 über alle Branchen hinweg.
Autonome Systeme — Branchen-Hub
Vollständiger Leitfaden zur EU-AI-Act-Compliance für autonome KI-Systeme.
Artikel 9: Risikomanagement für autonome Systeme
Anforderungen an das Risikomanagement für autonome KI-Systeme.
Artikel 10: Daten-Governance für kritische Infrastruktur
Anforderungen an Trainingsdaten für KI in kritischer Infrastruktur.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.