Umgang mit KI Künstliche Intelligenz in Bewertungssystemen und in Prüfungen

KI kann bei der Erstellung von Prüfungsaufgaben, bei der Simulation berufstypischer Gespräche oder zur Auswertung anonymisierter Prüfungsergebnisse eingesetzt werden. Entscheidend ist, dass KI nicht die abschließende Bewertung übernimmt. Diese bleibt laut Berufsbildungsgesetz dem Prüfungsausschuss vorbehalten. Auch die Leando-Gesprächspartner Mölls und Junggeburth weisen auf diese Grenze hin: KI darf unterstützen, nicht entscheiden.

Die IG Metall betont: Prüfungsaufgaben müssen komplexe, berufstypische Probleme darstellen, deren Lösung eine fachlich fundierte Auseinandersetzung erfordert. Wird eine KI zur Hilfe eingesetzt, müssen die Prüflinge in der Lage sein, deren Ergebnisse kritisch einzuordnen, zu interpretieren und im Kontext des Prüfungsauftrags eigenständig zu bewerten. Reine Wissensabfragen sind vor dem Hintergrund generativer KI obsolet geworden.  

Wenn KI prüft, auswertet oder überwacht, ist höchste Vorsicht geboten. Der Einsatz solcher Systeme zählt laut AI Act zum Hochrisikobereich. Das betrifft insbesondere: 

• die Bewertung von Lernergebnissen;
• die Zuweisung zu Bildungswegen;
• die Überwachung in Prüfungssituationen.

In diesen Fällen gelten erweiterte Anforderungen an Transparenz, Risikomanagement, menschliche Aufsicht und Dokumentation. Der Anbieter muss begründen können, warum sein System nicht als hochriskant einzustufen ist. Diese Einstufung ist zu dokumentieren, der Einsatz zu registrieren. Für Prüfer, Prüfungsaufgabenersteller und Mitglieder der Bildungsausschüsse bedeutet das: Sie müssen nachfragen, welche Systeme eingesetzt werden, ob eine Risikobewertung vorliegt und ob Prüfungsverfahren mit KI den Anforderungen des AI Act sowie des BBiG gerecht werden.