Door de coronacrisis zijn hogescholen en universiteiten massaal omstreden antispieksoftware gaan gebruiken. Een praktische oplossing, maar de ethische bezwaren zijn talrijk....

....Er zijn grofweg drie soorten proctoring. Live proctoring: de student wordt tijdens het tentamen via de webcam gefilmd, terwijl een surveillant live meekijkt, maar dat is arbeidsintensief. Meestal worden beelden daarom opgeslagen en later teruggekeken door een surveillant, die in dienst is van het proctorbedrijf. Die beoordeelt de beelden op ‘afwijkend gedrag’. De snelst opkomende soort is proctoring software die gebruikmaakt van kunstmatige intelligentie. Het opsporen van verdacht gedrag gebeurt dan automatisch.

Maar wat is afwijkend gedrag? Dat verschilt per programma. Veel programma’s letten op oog- en gezichtbewegingen: kijkt een student bijvoorbeeld verdacht vaak naar rechts? Ook letten ze op omgevingsgeluid, zoals gefluister. Soms ook op schaduwen en reflecties. Er kan worden gevraagd een tweede camera aan te zetten, van een smartphone die naast of achter de student moet staan. De meeste programma’s kunnen in meerdere of mindere mate de computer van de student ‘overnemen’: schermafbeeldingen nemen, zien welke tabbladen en applicaties openstaan, bepaalde websites blokkeren of privacy-instellingen veranderen....

....Voor studenten is het niet altijd duidelijk waar de beelden worden opgeslagen en door wie ze worden bekeken. „Door goedkope krachten uit Bangladesh?”, oppert een student die NRC spreekt. Ze weten meestal ook niet waar de ‘rode vlaggen’ op zijn gebaseerd, dus waar ze aan moeten voldoen om niet als fraudeur te worden aangemerkt. Dat is een bezwaar, vindt de Autoriteit Persoonsgegevens: studenten zouden iets moeten weten over de onderliggende logica van het programma dat hen beoordeelt.

Een andere veelgehoorde klacht van studenten gaat over buggy software. Ze worden tijdens een tentamen ineens uit het proctorprogramma gegooid, of komen er überhaupt niet in....

....„Technische problemen worden op de student afgeschoven”, zegt privacy-advocaat Sofie van Londen, die met onderwijsadvocaat Wilco Brussee studentenraden bijstaat in een zaak tegen de Universiteit van Amsterdam (UvA) vanwege het gebruik van proctoring software....

....Online proctoring staat niet op zichzelf, zegt onderzoeker Bart Karstens van het Rathenau Instituut. „Het is deel van een bredere beweging van steeds meer dataverzameling over studenten.” Steeds vaker wordt die data gebruikt om met behulp van een algoritme tot een advies te komen, zegt hij. Aan de onderwijsinstelling: hoe kan een opleiding verbeterd worden? Of aan de student: welke master kun je het beste gaan volgen? Karstens: „De vraag is: wat doet dat met de keuzevrijheid en autonomie van studenten en onderwijsinstellingen? Zeker omdat er vaak bedrijven achter die algoritmes zitten, die geld met data willen verdienen. Ze gebruiken die data om hun producten beter te maken. Het is maar zeer de vraag of zij het publieke belang van het onderwijs voorop hebben staan.” 

Alles bij de bron; NRC [lang artikel]


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha