IG Metall
„WAP” das Berufsbildungsportal
WAP - Springe direkt:
Inhalt
     
datenflut_2_140_X_140_PantherMedia_bram_janssens_rdax_120x120

Ein etwas anderer Preis für Digitalisierung

BigBrotherAward für das Mistrauen in Studierende

18.11.2021 Ι Seit dem Jahr 2000 werden in Deutschland die BigBrotherAwards an Firmen, Organisationen und Personen verliehen, die in besonderer Weise und nachhaltig die Privatsphäre von Menschen beeinträchtigen sowie persönliche Daten verkaufen oder gegen ursprüngliche Interessen verwenden. Das es diesen Preis auch im Bereich der Bildung gibt, zeigt einer der diesjährigen Gewinner, der unter den Vorzeichen rasant steigender Indezenzen weiterhin Relevanz behält.

Der BigBrotherAward 2021 in der Kategorie Hochschulen geht an die Proctorio GmbH in München-Unterföhring.

 

Aus der Ladtio zur Preisverleihung von Peter Wedde, die HIER in Gänze einzusehen ist heißt es:

 

"Der Name Proctorio leitet sich aus dem englischen Wort "Proctoring" ab, das sich mit "beaufsichtigen" übersetzen lässt. Proctorio geht es um "Online-Proctoring", das heißt um die Beaufsichtigung von Prüflingen im Hochschulbereich per Internet. [...]

 

Die Software Proctorio greift tief in die Integrität der privaten Geräte der Studierenden ein. Um an Prüfungen teilnehmen zu können, müssen sie die Software auf ihren Computern installieren und Proctorio für die Dauer einer Prüfung die Kontrolle über ihr Gerät überlassen. [...] 

 

An einer Onlineprüfung teilnehmen kann nur, wer Proctorio den Zugriff auf seine Videokamera ermöglicht. Diese muss während der gesamten Prüfungszeit eingeschaltet sein. Prüfende können entscheiden, ob sie Studierende während der Prüfung persönlich beobachten, oder ob die Software dies für sie erledigt. Und die Prüfenden können Proctorio den Start von Anwendungen und Downloads blockieren lassen oder Erweiterungen und individuelle Einstellungen sperren. Sogar "Copy and Paste" kann grundsätzlich unterbunden werden. Und wenn Prüfende das wollen, muss zu Beginn der Prüfung ein "Raum-Scan" durchgeführt werden, bei dem Prüflinge der Videokamera ihren gesamten Arbeitsraum vorführen müssen. Dieser "Raum-Scan" muss auf Aufforderung während der Prüfung wiederholt werden.

 

Und es kommt noch schlimmer: Hochschulen und Lehrende als potentielle Kunden werden von Proctorio mit dem Argument umworben, dass bei der Klausurdurchführung eine "vollautomatische Kontrolle" möglich ist. Die Software wertet dafür die eingehenden Videoinformationen mit künstlicher Intelligenz aus und soll auf dieser Grundlage erkennen können, ob sich eine weitere Person im Raum aufhält.

Hinzu kommt eine von Proctorio als "Gesichtserkennung" bezeichnete Analyse der Augenbewegungen. Hierzu schreibt die Firma: "Das System erkennt Anomalien durch vermehrte Blicke in eine Richtung und markiert diese Vorfälle als potenziell verdächtig." Weiter heißt es dort wenig später: "Das bedeutet nicht, dass sie bei Denkpausen nicht wegschauen dürfen. Solange sie keine Hilfsmittel verwenden, müssen sie keine Bedenken haben." Wie gnädig, dass die Proctorio-Software Denkpausen erlaubt! Allerdings tragen die Studierenden auch hier das volle Risiko, falls die Software das doch irgendwie verdächtigt findet.

Im Automatikmodus wird das beobachtete Verhalten der Prüflinge mit den Mustern abgeglichen, die in der Software als "Normverhalten" hinterlegt sind. Findet sie das beobachtete Verhalten in Ordnung - was immer das bedeutet - werden die vorhandenen Aufzeichnungen im Regelfall nach dreißig Tagen durch Proctorio gelöscht. Gibt es hingegen Auffälligkeiten, können die Prüfenden sich die entsprechenden Videos anschauen. Damit entscheidet im Automatikmodus allein die sogenannte "Künstliche Intelligenz" von Proctorio darüber, ob ein Täuschungsverdacht besteht. Ganz selbstständig.

 

Derartige automatisierte Bewertungen des menschlichen Verhaltens sind immer bedenklich. Im Schul- und Hochschulbereich sollte die Aufhebung der Unschuldsvermutung durch Formen der "automatisierten Verdachtsbegründung" schon mit Blick auf die hier verfolgten pädagogischen Ziele und auf die zu vermittelnden Grundwerte vollständig tabu sein. [...]

 

Wir halten fest

  • Die Nutzung von Proctorio für die Beaufsichtigung von Online-Prüfungen führt zu einem schweren Eingriff in die Integrität der privaten Geräte der Studierenden.
  • Die permanente Videoüberwachung der Prüflinge während der Prüfungszeit ist ein schwerer Eingriff in ihre Privatsphäre und in ihre privaten Räume - insbesondere, wenn ein Raum-Scan stattfindet.
  • Die von der "KI"-Software durchgeführten automatischen Analysen ihres Verhaltens sind für die betroffenen Studierenden nicht transparent. Die allgemeine Unschuldsvermutung, die für alle Bürger gilt, wird durch die verwendeten Algorithmen und die hieraus folgende intransparente Kontrolle außer Kraft gesetzt.
  • Die Gestik und insbesondere Augenbewegungen werden permanent erfasst und ausgewertet. Die Software kann hieraus negative Schlussfolgerungen ziehen, was den Druck und den Stressfaktor für die Studierenden erhöht.
  • Online-Prüfungen zu Hause finden manche Studierende sicher angenehm. Sie gefährden aber aufgrund ungleicher Wohn- und Lebensverhältnisse die Chancengleichheit, die bei der Ablegung von "Präsenzprüfungen" hergestellt werden soll.
  • Das Einsparpotential, das Proctorio für automatisierte Prüfungsaufsichten verspricht, macht die Software für kostenbewusste Hochschulen attraktiv. Diese Einsparung geht aber auf Kosten der Studierenden, die mit klassischen Präsenzprüfungen besser zurecht kommen als mit Online-Prüfungen unter den Augen einer Software.
  • Die Datenschutzkonformität ist schon deshalb zweifelhaft, weil belastbare Aussagen zur Rechtsgrundlage fehlen und eine "freiwillige Zustimmung" der Studierenden in Prüfungssituationen wohl eher nicht gewährleistet ist.

 

Gründe genug für den BigBrotherAward in der Kategorie Bildung.

Herzlichen Glückwunsch, Protoctorio GmbH."

(Quelle: bigbrotherawards.de)

 

Weitere Gewinnner sind unter anderem an die Europäische Kommission für für die Einführung des "On-Board Fuel Consumption Meter" (OBFCM).

 

Angemeldete Benutzer können hier ein Kommentar hinterlassen

Hochschulpolitik

Links und Zusatzinformationen
Transformation
Digitalisierung_RC ((c) C. Illings )
DGB-Big_Brother
betriebsraetepresi_2021
Der Sonderpreis "Digitalisierung" 2021 geht an den Konzernbetriebsrat der IBM Central Holding GmbH

für sein Projekt: "Konzernbetriebsvereinbarung über die Einführung und den Einsatz von Systemen der Künstlichen Intelligenz"

 

"Im Juli 2020 wurde ein Rahmenvereinbarung abgeschlossen. Aufbauend auf der Rahmenbetriebsvereinbarung für "herkömmliche" IT-Systeme wurden Standards für KI-Systeme gesetzt: zu Transparenz, Erklärbarkeit, Nicht-Diskriminierung und der Qualitätssicherung der Daten und des Algorithmus. Darüber hinaus wurde festgelegt, dass die KI menschliche Entscheidungen unterstützt und am Ende der Mensch entscheidet.
Weiterhin wurde eine Bewertung in einem Gefährdungsspektrum entwickelt: von KI-Systemen, deren Empfehlungen nur die betroffenen Beschäftigten informieren bis zu grundlegenden automatischen Entscheidungen über Menschen, die nicht zu vereinbaren sind. Zur Unterstützung und Beratung wurde ein KI-Ethik-Rat für IBM in Deutschland gegründet, der sich aus Personal, Betriebsrat, Schwerbehindertenvertretung und internen Fachleuten der KI zusammensetzt."

(Quelle: BUND Verlag)

Servicebereich