Artikel 26: Betreiberpflichten für Bildungs-KI — KI-Verordnung
Wie die Betreiberpflichten nach Artikel 26 der EU-KI-Verordnung für Schulen und Hochschulen gelten — Schulung von Lehrkräften, Elterninformation, Kinderdatenschutz, FRIA.
Artikel 26 der EU-KI-Verordnung begründet Pflichten für Betreiber — Organisationen, die von Dritten entwickelte Hochrisiko-KI-Systeme einsetzen. Im Bildungsbereich sind Betreiber Schulen, Hochschulen, Prüfungsausschüsse und Bildungsbehörden, die KI-gestützte Werkzeuge von EdTech-Anbietern für die Bewertung von Lernenden, adaptives Lernen, Plagiatserkennung oder Zulassungsprüfung beziehen. Diese Einrichtungen tragen die unmittelbare Verantwortung für die Einhaltung der Vorschriften bei der Nutzung von KI-Werkzeugen im Bildungskontext, auch wenn sie die Technologie nicht selbst entwickelt haben.
Betreiber im Bildungsbereich unterliegen erhöhten Pflichten, da ihre KI-Systeme Kinder und Jugendliche betreffen — nach der DSGVO schutzbedürftige betroffene Personen. Eine DSFA ist beim Einsatz von KI in Bildungskontexten, an denen Minderjährige beteiligt sind, verpflichtend, und Eltern oder Erziehungsberechtigte müssen über die in der Bildung ihres Kindes eingesetzten KI-Werkzeuge informiert werden. Diese Seite erläutert, was Artikel 26 von Bildungseinrichtungen verlangt, wie er mit dem Datenschutz- und Bildungsrecht zusammenwirkt und welche Compliance-Lücken Scanara erkennt.
Wer ist Betreiber im Bildungsbereich?
Schulen und Schulträger
Grund- und weiterführende Schulen, die KI-gestützte Werkzeuge für die Bewertung von Lernenden, Lernanalytik oder Verhaltensüberwachung einsetzen. Schulträger, die KI-Plattformen zentral beziehen, sind Betreiber mit Pflichten nach Artikel 26 für alle Schulen, die diese Werkzeuge nutzen.
Hochschulen und höhere Bildung
Hochschulen, die KI von Dritten für die Bewertung von Zulassungen, die automatisierte Benotung von Aufsätzen, die Plagiatserkennung (z. B. Turnitin) oder adaptive Lernplattformen nutzen. Jede Einrichtung, die diese Werkzeuge einsetzt, ist ein Betreiber, unabhängig davon, ob die Beschaffung zentralisiert war.
Prüfungs- und Zertifizierungsstellen
Organisationen, die KI für die automatisierte Prüfungsbewertung, Aufsicht oder Zertifizierungsbewertung nutzen. Diese Betreiber treffen folgenschwere Entscheidungen über den Bildungserfolg und müssen eine robuste menschliche Aufsicht der KI-gestützten Benotung sicherstellen.
Bildungsministerien und -behörden
Staatliche Bildungsstellen, die KI für die Analyse der Schulleistung, die Ressourcenzuweisung oder Frühwarnsysteme für das Risiko eines Schulabbruchs einsetzen. Als öffentlich-rechtliche Stellen müssen diese Betreiber vor dem Einsatz eine FRIA durchführen.
Online-Lernplattformen
Bildungseinrichtungen, die KI-Tutorensysteme, adaptive Lern-Engines oder personalisierte Empfehlungssysteme von kommerziellen EdTech-Anbietern nutzen. Die Einrichtung, die die Plattform für die Nutzung durch Lernende lizenziert, ist der Betreiber.
Zentrale Betreiberpflichten im Bildungsbereich
Artikel 26 verpflichtet Betreiber, KI-Systeme gemäß den Anweisungen des Anbieters zu nutzen, eine menschliche Aufsicht zuzuweisen und den Betrieb zu überwachen. Im Bildungsbereich haben diese Pflichten zusätzliches Gewicht, da die betroffenen Personen häufig Kinder mit begrenzter Fähigkeit sind, KI-Entscheidungen zu verstehen oder anzufechten.
Schulung von Lehrkräften zu KI-Werkzeugen
Betreiber müssen die menschliche Aufsicht Personen mit der erforderlichen Kompetenz, Schulung und Befugnis zuweisen. Im Bildungsbereich bedeutet dies, dass Lehrkräfte geschult werden müssen, um KI-Werkzeuge angemessen zu nutzen, zu erkennen, wann KI-Ausgaben fehlerhaft sind, und KI-Empfehlungen zu übersteuern. Die Schulung muss die spezifischen Fähigkeiten und bekannten Grenzen des KI-Systems abdecken.
Information von Eltern und Erziehungsberechtigten
Bei KI-Werkzeugen, die mit Minderjährigen genutzt werden, müssen Eltern oder gesetzliche Erziehungsberechtigte über die in der Bildung ihres Kindes eingesetzten KI-Systeme informiert werden. Dies umfasst den Zweck der KI, welche Daten sie verarbeitet und wie KI-Ausgaben in Bildungsentscheidungen genutzt werden. Dies geht über Artikel 26 hinaus in die DSGVO-Anforderungen für Kinderdaten.
Grundrechte-Folgenabschätzung
Öffentliche Schulen und Bildungsbehörden müssen vor dem Einsatz von Hochrisiko-KI eine FRIA durchführen. Die Bewertung muss die Auswirkungen auf die Rechte von Kindern auf Bildung, Nichtdiskriminierung, Entwicklung und Beteiligung prüfen. Privatschulen, die eine öffentlich finanzierte Bildung anbieten, können ebenfalls zur Durchführung einer FRIA verpflichtet sein.
Überwachung der altersgerechten Nutzung
Betreiber müssen den Betrieb des KI-Systems auf Grundlage der Anweisungen des Anbieters überwachen. Im Bildungsbereich umfasst dies die Überprüfung, dass das KI-Werkzeug für die Altersgruppe und das kognitive Niveau der Lernenden geeignet ist und keine Ausgaben erzeugt, die schädlich, irreführend oder entwicklungsunangemessen sind.
Regulatorische Überschneidungen
Betreiber im Bildungsbereich müssen die EU-KI-Verordnung neben den DSGVO-Schutzbestimmungen für Kinderdaten, nationalen Bildungsgesetzen und den Leitlinien des Europarats zu KI in der Bildung einhalten. Die Überschneidung schafft eine geschichtete Compliance-Pflicht.
DSGVO Art. 8 — Kinderdaten
Die DSGVO sieht spezifische Schutzbestimmungen für die personenbezogenen Daten von Kindern vor, einschließlich Anforderungen an die elterliche Einwilligung für Dienste der Informationsgesellschaft. Der Einsatz von KI, die Daten von Lernenden verarbeitet, löst diese Schutzbestimmungen neben den Betreiberpflichten nach Artikel 26 aus. Einwilligungsmechanismen müssen so gestaltet sein, dass sie von Eltern und gegebenenfalls von den Lernenden selbst verstanden werden.
DSGVO Art. 35 — DSFA für schutzbedürftige Personen
Eine DSFA ist verpflichtend, wenn Daten von Kindern verarbeitet oder neue Technologien in Bildungskontexten eingesetzt werden. Diese ist von der FRIA der KI-Verordnung getrennt, betrifft aber überschneidende Belange. Betreiber im Bildungsbereich sollten beide Bewertungen parallel durchführen und dabei sicherstellen, dass jede regulatorische Anforderung eigenständig behandelt wird.
Nationale Bildungsgesetze
Die Mitgliedstaaten verfügen über Bildungsgesetze, die Bewertungsstandards, Rechte der Lernenden und Informationsrechte der Eltern regeln. Einige Rechtsordnungen beschränken die automatisierte Entscheidungsfindung bei der Bildungsbewertung oder verlangen spezifische Genehmigungen vor dem Einsatz von Technologie in Klassenzimmern. Diese Anforderungen überlagern Artikel 26.
Leitlinien des Europarats zu KI in der Bildung
Der Europarat hat Leitlinien zu KI in der Bildung herausgegeben, die Transparenz, die Handlungsfähigkeit der Lernenden und die Stärkung der Lehrkräfte betonen. Obwohl rechtlich nicht bindend, informieren diese Leitlinien bewährte Verfahren und können beeinflussen, wie Aufsichtsbehörden die Betreiberpflichten nach Artikel 26 im Bildungskontext auslegen.
Häufige Verstöße, die Scanara erkennt
Keine Protokollierungskonfiguration für EdTech-KI-Ereignisse
KI-Bewertungs- oder adaptive Lernwerkzeuge, die ohne Protokollierungsinfrastruktur eingesetzt werden, die KI-Eingaben, -Ausgaben und -Entscheidungen erfasst. Scanara kennzeichnet Bildungseinsätze, bei denen kein Prüfpfad für KI-gestützte Benotungs- oder Profilierungsentscheidungen von Lernenden existiert.
KI von Dritten ohne FRIA-Dokumentation eingesetzt
Öffentliche Schulen oder Bildungsbehörden, die KI-Werkzeuge ohne dokumentierte Grundrechte-Folgenabschätzung einsetzen. Scanara erkennt den Einsatz von Hochrisiko-KI in öffentlichen Bildungskontexten, bei dem vor der Nutzung mit Lernendenkontakt keine FRIA erfasst wurde.
Rolle der menschlichen Aufsicht nicht förmlich zugewiesen
KI-Benotungs- oder Bewertungswerkzeuge, die eingesetzt werden, ohne förmlich zu benennen, welche Lehrkräfte oder akademischen Mitarbeitenden KI-Ausgaben vor folgenreichen Entscheidungen überprüfen. Scanara identifiziert Einsätze, bei denen keine Rollenzuweisung geschulte Lehrende mit KI-Aufsichtsverantwortlichkeiten verknüpft.
Keine Elterninformation bei KI-Nutzung mit Minderjährigen
KI-Werkzeuge, die Daten von Lernenden verarbeiten und eingesetzt werden, ohne Eltern oder Erziehungsberechtigte dokumentiert zu informieren. Scanara kennzeichnet Einsätze in K-12-Kontexten, bei denen kein Mechanismus zur elterlichen Information oder Einwilligung für die Nutzung von KI-Systemen umgesetzt wurde.
Artikel-26-Compliance-Checkliste für die Bildung
Nutzung gemäß der Betriebsanleitung
Überprüfen Sie, dass KI-Werkzeuge innerhalb des vom Anbieter erklärten Umfangs genutzt werden — korrekte Altersgruppen, Fächer und Bewertungsarten. Dokumentieren Sie jede Nutzung außerhalb des vorgesehenen Umfangs.
Schulung und Aufsicht von Lehrkräften
Schulen Sie Lehrkräfte zu den Fähigkeiten und Grenzen von KI-Werkzeugen. Weisen Sie förmlich Aufsichtsrollen mit dokumentierter Befugnis zur Übersteuerung von KI-Ausgaben bei Bewertungs- und Profilierungsentscheidungen von Lernenden zu.
Meldung von Vorfällen
Richten Sie einen Ablauf zur Meldung von KI-Fehlfunktionen an den EdTech-Anbieter und die zuständige Behörde ein. Nehmen Sie Kriterien dafür auf, was einen schwerwiegenden Vorfall im Bildungskontext darstellt.
Betriebsprotokollierung
Konfigurieren Sie eine Protokollierung für KI-gestützte Bewertungsentscheidungen und Lernanalytik. Bewahren Sie Protokolle für akademische Widersprüche, die behördliche Prüfung und Informationsersuchen von Eltern auf.
Grundrechte-Folgenabschätzung
Führen Sie eine FRIA durch, bevor Sie KI in öffentlichen Bildungskontexten einsetzen. Behandeln Sie die Rechte von Kindern auf Bildung, Nichtdiskriminierung, Entwicklung und Beteiligung.
Häufig gestellte Fragen
Verwandte Ressourcen
Artikel 26: Betreiberpflichten
Vollständige Betreiberanforderungen nach Artikel 26 in allen Branchen.
KI in der Bildung — Branchen-Hub
Vollständiger Leitfaden zur EU-KI-Verordnung-Compliance für KI-Systeme im Bildungsbereich.
Artikel 9: Risikomanagement für die Bildung
Anforderungen an das Risikomanagementsystem für Betreiber und Anbieter von KI im Bildungsbereich.
Artikel 13: Transparenz für die Bildung
Transparenz- und Informationspflichten für KI-Systeme im Bildungsbereich.
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.