Overheidsorganisaties hebben zeer ruime bevoegdheden om mensen te controleren en zetten steeds vaker risicoprofilering en algoritmen in, wat de deur open zet voor machtsmisbruik en etnisch profileren, zo laat Amnesty International vandaag weten. Volgens de mensenrechtenorganisatie doet het kabinet te weinig om mensen in Nederland te beschermen tegen etnisch profileren.

"Door schandalen van de afgelopen jaren over discriminerende werkwijzen bij onder meer de politie, de Koninklijke Marechaussee, de Belastingdienst en DUO is duidelijk geworden dat het om een structureel en overheidsbreed probleem gaat", aldus Amnesty. De mensenrechtenorganisatie stelt dat de overheid bij de beslissing wie zij controleert zich steeds vaker baseert op risicoprofilering of risico-inschattingen, al dan niet met behulp van algoritmen.

"Overheidsorganisaties dienen zich ook bewust te zijn dat er bij het gebruik van algoritmen voor ondersteuning van beslissingen het risico bestaat op ‘automation bias’. Dat wil zeggen dat ambtenaren zich te veel laten leiden door de uitkomst van het algoritme, in dit geval de risicoscores en categorisering. Dit staat op zeer gespannen voet met het zorgvuldigheidsbeginsel", gaat Amnesty verder.

De inzet van risicoprofilering en algoritmen vindt echter plaats zonder duidelijke regulering en waarborgen, zo claimt Amnesty in het rapport ‘Etnisch profileren is overheidsbreed probleem – Nederlandse overheid moet burgers beschermen tegen discriminerende controles’ (pdf).

De mensenrechtenorganisatie constateert drie tekortkomingen aan het Algoritmeregister dat in december 2022 door het kabinet is gelanceerd: het register is nog altijd niet verplicht, de informatie in het register niet compleet en ontoereikend en het kabinet is voornemens om een uitzondering op de registratieplicht te introduceren voor opsporing, rechtshandhaving, defensie en inlichtingenverzameling.

Amnesty constateert ook dat de nieuwe algoritmetoezichthouder niet voldoende mandaat en middelen heeft gekregen om mensenrechtenschendingen als gevolg van de inzet van algoritmen effectief te kunnen aanpakken. 

Alles bij de bron; Security