Ein etwas anderer Preis für Digitalisierung

Der BigBrotherAward 2021 in der Kategorie Hochschulen geht an die Proctorio GmbH in München-Unterföhring.

^{Aus der Ladtio zur Preisverleihung von Peter Wedde, die HIER in Gänze einzusehen ist heißt es:}

"Der Name Proctorio leitet sich aus dem englischen Wort "Proctoring" ab, das sich mit "beaufsichtigen" übersetzen lässt. Proctorio geht es um "Online-Proctoring", das heißt um die Beaufsichtigung von Prüflingen im Hochschulbereich per Internet. [...]

Die Software Proctorio greift tief in die Integrität der privaten Geräte der Studierenden ein. Um an Prüfungen teilnehmen zu können, müssen sie die Software auf ihren Computern installieren und Proctorio für die Dauer einer Prüfung die Kontrolle über ihr Gerät überlassen. [...] 

An einer Onlineprüfung teilnehmen kann nur, wer Proctorio den Zugriff auf seine Videokamera ermöglicht. Diese muss während der gesamten Prüfungszeit eingeschaltet sein. Prüfende können entscheiden, ob sie Studierende während der Prüfung persönlich beobachten, oder ob die Software dies für sie erledigt. Und die Prüfenden können Proctorio den Start von Anwendungen und Downloads blockieren lassen oder Erweiterungen und individuelle Einstellungen sperren. Sogar "Copy and Paste" kann grundsätzlich unterbunden werden. Und wenn Prüfende das wollen, muss zu Beginn der Prüfung ein "Raum-Scan" durchgeführt werden, bei dem Prüflinge der Videokamera ihren gesamten Arbeitsraum vorführen müssen. Dieser "Raum-Scan" muss auf Aufforderung während der Prüfung wiederholt werden.

Und es kommt noch schlimmer: Hochschulen und Lehrende als potentielle Kunden werden von Proctorio mit dem Argument umworben, dass bei der Klausurdurchführung eine "vollautomatische Kontrolle" möglich ist. Die Software wertet dafür die eingehenden Videoinformationen mit künstlicher Intelligenz aus und soll auf dieser Grundlage erkennen können, ob sich eine weitere Person im Raum aufhält.

Hinzu kommt eine von Proctorio als "Gesichtserkennung" bezeichnete Analyse der Augenbewegungen. Hierzu schreibt die Firma: "Das System erkennt Anomalien durch vermehrte Blicke in eine Richtung und markiert diese Vorfälle als potenziell verdächtig." Weiter heißt es dort wenig später: "Das bedeutet nicht, dass sie bei Denkpausen nicht wegschauen dürfen. Solange sie keine Hilfsmittel verwenden, müssen sie keine Bedenken haben." Wie gnädig, dass die Proctorio-Software Denkpausen erlaubt! Allerdings tragen die Studierenden auch hier das volle Risiko, falls die Software das doch irgendwie verdächtigt findet.

Im Automatikmodus wird das beobachtete Verhalten der Prüflinge mit den Mustern abgeglichen, die in der Software als "Normverhalten" hinterlegt sind. Findet sie das beobachtete Verhalten in Ordnung - was immer das bedeutet - werden die vorhandenen Aufzeichnungen im Regelfall nach dreißig Tagen durch Proctorio gelöscht. Gibt es hingegen Auffälligkeiten, können die Prüfenden sich die entsprechenden Videos anschauen. Damit entscheidet im Automatikmodus allein die sogenannte "Künstliche Intelligenz" von Proctorio darüber, ob ein Täuschungsverdacht besteht. Ganz selbstständig.

Derartige automatisierte Bewertungen des menschlichen Verhaltens sind immer bedenklich. Im Schul- und Hochschulbereich sollte die Aufhebung der Unschuldsvermutung durch Formen der "automatisierten Verdachtsbegründung" schon mit Blick auf die hier verfolgten pädagogischen Ziele und auf die zu vermittelnden Grundwerte vollständig tabu sein. [...]

Wir halten fest

• Die Nutzung von Proctorio für die Beaufsichtigung von Online-Prüfungen führt zu einem schweren Eingriff in die Integrität der privaten Geräte der Studierenden.
• Die permanente Videoüberwachung der Prüflinge während der Prüfungszeit ist ein schwerer Eingriff in ihre Privatsphäre und in ihre privaten Räume - insbesondere, wenn ein Raum-Scan stattfindet.
• Die von der "KI"-Software durchgeführten automatischen Analysen ihres Verhaltens sind für die betroffenen Studierenden nicht transparent. Die allgemeine Unschuldsvermutung, die für alle Bürger gilt, wird durch die verwendeten Algorithmen und die hieraus folgende intransparente Kontrolle außer Kraft gesetzt.
• Die Gestik und insbesondere Augenbewegungen werden permanent erfasst und ausgewertet. Die Software kann hieraus negative Schlussfolgerungen ziehen, was den Druck und den Stressfaktor für die Studierenden erhöht.
• Online-Prüfungen zu Hause finden manche Studierende sicher angenehm. Sie gefährden aber aufgrund ungleicher Wohn- und Lebensverhältnisse die Chancengleichheit, die bei der Ablegung von "Präsenzprüfungen" hergestellt werden soll.
• Das Einsparpotential, das Proctorio für automatisierte Prüfungsaufsichten verspricht, macht die Software für kostenbewusste Hochschulen attraktiv. Diese Einsparung geht aber auf Kosten der Studierenden, die mit klassischen Präsenzprüfungen besser zurecht kommen als mit Online-Prüfungen unter den Augen einer Software.
• Die Datenschutzkonformität ist schon deshalb zweifelhaft, weil belastbare Aussagen zur Rechtsgrundlage fehlen und eine "freiwillige Zustimmung" der Studierenden in Prüfungssituationen wohl eher nicht gewährleistet ist.

Gründe genug für den BigBrotherAward in der Kategorie Bildung.

Herzlichen Glückwunsch, Protoctorio GmbH."

^{(Quelle: bigbrotherawards.de)}

Weitere Gewinnner sind unter anderem an die Europäische Kommission für für die Einführung des "On-Board Fuel Consumption Meter" (OBFCM).