Mit der EU-Verordnung über Künstliche Intelligenz (AI Act) sind seit August 2024 verbindliche Anforderungen an den Einsatz von KI-Systemen in Bildung und Prüfung in Kraft. Prüfungen fallen – wie die Leando-Redaktion mit Blick auf das BIBB erläutert – dabei in besonders sensible Bereiche: Überwachung, Bewertung und Zugang zu Bildungseinrichtungen zählen explizit zu den sogenannten Hochrisiko-Anwendungen. Das heißt nicht, dass KI dort grundsätzlich ausgeschlossen ist. Aber sie unterliegt besonderen Auflagen hinsichtlich Transparenz, Dokumentation, menschlicher Aufsicht und Schutz der Grundrechte. Für betriebliche Interessenvertretungen ergibt sich daraus eine neue Verantwortung: Sie müssen die Prüfverfahren, in denen KI genutzt wird oder werden soll, kritisch begleiten und auf die Einhaltung dieser Vorgaben hinwirken.
Das BIBB hat in einem ausführlichen Artikel auf LEANDO.de eine Einordnung vorgenommen, was beim Thema KI in Prüfungen zu beachten ist.
Die IG Metall hat bereits im Mai 2024 in ihrer Publikation „Künstliche Intelligenz – Eine Herausforderung für die Berufsausbildung und Gestaltung von beruflichen Abschlussprüfungen“ zentrale Anforderungen an eine verantwortungsvolle Prüfungspraxis mit KI formuliert. Die Botschaft ist klar: Prüfungen müssen die berufliche Handlungsfähigkeit abbilden, wie sie in der Arbeitsrealität gefordert ist. Wo KI in der betrieblichen Praxis Anwendung findet, kann sie auch in Prüfungen Thema sein. Wo sie nicht verlässlich, fair oder nachvollziehbar arbeitet, darf sie kein Prüfungsinstrument werden.
Wo KI in Prüfungen unterstützen kann
KI kann bei der Erstellung von Prüfungsaufgaben, bei der Simulation berufstypischer Gespräche oder zur Auswertung anonymisierter Prüfungsergebnisse eingesetzt werden. Entscheidend ist, dass KI nicht die abschließende Bewertung übernimmt. Diese bleibt laut Berufsbildungsgesetz dem Prüfungsausschuss vorbehalten. Auch die Leando-Gesprächspartner Mölls und Junggeburth weisen auf diese Grenze hin: KI darf unterstützen, nicht entscheiden.
Die IG Metall betont: Prüfungsaufgaben müssen komplexe, berufstypische Probleme darstellen, deren Lösung eine fachlich fundierte Auseinandersetzung erfordert. Wird eine KI zur Hilfe eingesetzt, müssen die Prüflinge in der Lage sein, deren Ergebnisse kritisch einzuordnen, zu interpretieren und im Kontext des Prüfungsauftrags eigenständig zu bewerten. Reine Wissensabfragen sind vor dem Hintergrund generativer KI obsolet geworden.
Wo Risiken bestehen und Prüfpflichten entstehen
Wenn KI prüft, auswertet oder überwacht, ist höchste Vorsicht geboten. Der Einsatz solcher Systeme zählt laut AI Act zum Hochrisikobereich. Das betrifft insbesondere:
-
die Bewertung von Lernergebnissen;
-
die Zuweisung zu Bildungswegen;
-
die Überwachung in Prüfungssituationen.
In diesen Fällen gelten erweiterte Anforderungen an Transparenz, Risikomanagement, menschliche Aufsicht und Dokumentation. Der Anbieter muss begründen können, warum sein System nicht als hochriskant einzustufen ist. Diese Einstufung ist zu dokumentieren, der Einsatz zu registrieren. Für Betriebsräte bedeutet das: Sie müssen nachfragen, welche Systeme eingesetzt werden, ob eine Risikobewertung vorliegt und ob Prüfungsverfahren mit KI den Anforderungen des AI Act sowie des BBiG gerecht werden.
Hinweise für die betriebliche Interessenvertretung
Betriebsräte, JAV und Mitglieder in Prüfungsausschüssen sollten folgende Punkte besonders beachten:
- Transparenzpflichten einfordern: Welche KI-Systeme kommen in der Ausbildung und Prüfung zum Einsatz? Wer hat sie eingeführt, auf welcher rechtlichen Grundlage?
- Risikoeinstufung prüfen: Liegt eine Bewertung nach AI Act vor? Ist die Einstufung dokumentiert und nachvollziehbar? Liegt eine Registrierung in der EU-Datenbank vor?
- Mitbestimmung einfordern: Bei Einführung oder Anwendung KI-gestützter Prüfungsverfahren greift die Mitbestimmung nach § 80 Abs. 1 Nr. 1, § 87 Abs. 1 Nr. 6 BetrVG (technische Überwachungseinrichtungen) sowie bei der Gestaltung von Auswahlrichtlinien (§ 95 BetrVG).
- Schulungsbedarf erkennen: Prüferinnen und Prüfer benötigen neben Fachkompetenz auch Reflexionsfähigkeit, um KI-Ergebnisse einschätzen zu können. Die IG Metall fördert daher gezielte Qualifizierung des Prüfpersonals. Im Rahmen unserer Prüferprojekten können wir passgenaue Schulungen für deine Geschäftsstelle anbieten.
- Diskriminierung vermeiden: KI kann bestehende Verzerrungen und Vorurteile reproduzieren. Werden Prüfungen mit Hilfe von Profiling-Mechanismen oder Sprachmodellen durchgeführt, droht Ungleichbehandlung. Betriebsräte müssen auf Diskriminierungsfreiheit achten (§ 75 BetrVG).
- Datenschutz sicherstellen: Werden personenbezogene Daten in KI-Systeme eingespeist? Sind Schutzmaßnahmen dokumentiert und rechtskonform nach DSGVO umgesetzt?
Fazit
KI kann in der Ausbildung und Prüfung unterstützend eingesetzt werden, wenn ihr Einsatz qualitätsgesichert, nachvollziehbar und menschenzentriert erfolgt. Die Hoheit über Bewertung und Entscheidung muss beim Prüfungsausschuss bleiben. Betriebsräte sind gefordert, Prüfprozesse mit KI aufmerksam zu begleiten, Risiken zu benennen und den rechtlichen Rahmen aktiv mitzugestalten. Die IG Metall steht dabei an ihrer Seite.
Kontakt für Rückfragen und Unterstützung bei der Prüfungspraxis mit KI:
pruefen@igmetall.de
