In 2018 begonnen enkele maatschappelijke organisaties een bodemprocedure om het Systeem Risico Indicatie (SyRI) onrechtmatig te laten verklaren. SyRI was een digitaal controlesysteem waarbij allerlei overheidsinstanties gegevens delen om het risico op socialezekerheidsfraude in te dammen. Gegevens van bewoners in sociaal-zwakke wijken worden aan elkaar gekoppeld zonder dat de bewoners dat weten. Een instrument voor risicoprofilering is zo ook een instrument dat etnisch profileert, profileert op je buurt, je beroep, je gezinssamenstelling, je werk of inkomen.
De rechter floot de staat terug op 6 februari, staatssecretaris Van Ark zei op 28 april niet in beroep te gaan. Maar terwijl ik dit schrijf, op 27 mei, is de eerste behandelronde van een grotere, ingrijpendere opvolger van SyRI: de Wet Gegevensverzameling door Samenwerkingsverbanden (WGS). ‘De rechter trok een streep in het zand, de regering gaat er nu met een bulldozer overheen’, aldus de coalitie tegen SyRI, die de WGS dan ook herdoopt tot ‘Super SyRI’.
VN-rapporteur voor de mensenrechten, Philip Alston, schreef dat met de inzet van systemen als SyRI de essentie van het recht op privacy op het spel staat.
Ook de Nationale Cliëntenraad schrok van SyRI. Bepaalde beroepen waren bij voorbaat besmet. ‘Men wilde gaan experimenteren met het ‘stoplichtsysteem’, waarin je per definitie op ‘oranje’ stond als je bijvoorbeeld stukadoor was. Stukadoors waren zwartklussers, dus potentiële bedriegers. Wat erop neerkwam dat als je als stukadoor ergens een uitkering aanvraagt, je veel moeite moet doen door het aanvraagproces te komen.’
In het toeslagendrama zie je het ontwrichtend effect van socialezekerheidsinstrumenten die uitgaan van fraude en werken met niet-herleidbare data om mensen te beschuldigen.
Marlies van Eck werkte tien jaar bij de Belastingdienst, onder meer als procesvertegenwoordiger. Ze stuitte op mensen die onschuldig waren en toch hun toeslag verloren. De computer had een verkeerd besluit genomen en zij moest dat verdedigen, zonder te weten waarom dat besluit was genomen.
Ze vertrok en promoveerde op een onderzoek naar ‘geautomatiseerde ketenbesluiten’: computers die beslissen. Conclusie: hoe die besluiten tot stand komen is onduidelijk en dat schaadt de rechtspositie van burgers. ‘Het gekke is dat mensen bij het woord ‘technologie’ direct visioenen krijgen van waardenvrije, objectieve methodologie. Maar techniek wordt ontworpen en gemaakt door mensen. Die stoppen hun overtuigingen erin’, schreef Maxim Februari in NRC over SYrI. ‘Voor algoritmes geldt dat nog sterker: dat zijn simpelweg menselijke overtuigingen die in formele taal zijn opgeschreven. Dus zitten algoritmes vol politieke, morele, ideologische inhoud.’
Toeslagendramaslachtoffer Genelva had het gevoel verdacht te zijn. Na talloze ontkenningen van de Belastingdienst, diende ze een klacht in eiste inzage in haar dossier. Ze bleek op een zwarte lijst te staan, de Fraude Signalering Voorziening (FSV). Op basis van ongefundeerde informatie had men geconcludeerd dat ze in de toekomst waarschijnlijk in de cel zou belanden voor een opiumdelict. Daarom werden haar toeslagen vast stopgezet.
Op de zwarte lijst stonden 180 duizend burgers. Ik hoop niet dat ik er ook op sta: Vrouw met niet-westerse migratieachtergrond, check, alleenstaande ouder, check, wonend in kwetsbare migrantenwijk, check, etc. De rode lampjes van het datasysteem slaan nu al op hol. Gelukkig kan ik niet stuken.
Alles bij de bron; Volkskrant