Er komt voorlopig geen openbaarheid over de werkwijze van het Systeem Risico Indicatie. Twee moties die moesten zorgen voor meer inzicht in de werkwijze van profileringssystemen en het bijzonder SyRI, zijn aangehouden op last van het kabinet. Ook een technische audit van het systeem acht het kabinet op dit moment onwenselijk.

De Tweede Kamer maakt zich zorgen over SyRI en haar heimelijke werkwijze, zo bleek uit verschillende kritische vragen aan minister Dekker tijdens het algemeen overleg Big Data op 30 mei. Kamerlid Buitenweg wierp de vraag op welke controle er plaatsvindt op de door SyRI gehanteerde risicomodellen, waarvan het ministerie van Sociale Zaken in 2017 besloot dat deze geheim moesten blijven. “Er moet toch ergens een plek zijn waar die heel complexe algoritmes, zelfs als ze per se geheim moeten blijven — wat volgens mij veel te vaak gebruikt wordt en niet echt terecht is — getoetst worden op biases? Er moet toch ergens getoetst worden of ze wel deugdelijk in elkaar zitten?”, aldus Buitenweg tegenover de minister.

Terechte vragen. Personen die door SyRI worden uitgelicht belanden immers in het vizier van handhavingsdiensten. Hoeveel daarvan worden echter onterecht als risico gemarkeerd en ondervinden daar last van? Hoe wordt voorkomen dat de algoritmen van SyRI bestaande stigma’s versterken en er op andere plaatsen blinde vlekken ontstaan? Er vallen veel ethische vragen te stellen bij de inzet van algoritmen, zo ook in het geval van SyRI...

...D66-Kamerlid Verhoeven, die de motie had ingediend was daar, in tegenstelling tot de eerste motie, niet direct toe bereid: “Dat met SyRI speelt echt al langer”, reageerde Verhoeven. “Daar wil ik dan op een gegeven moment ook wel een keer een concrete uitspraak van de Kamer over.”

Afgelopen dinsdag bleek daar verandering in te zijn gekomen. Toen het tijd was om de moties in stemming te brengen, besloot D66 op de valreep om ook de motie over SyRI aan te houden. De aanleiding hiervoor? Een brief van staatssecretaris Van Ark, waarin deze zich not amused toonde over de motie en in feite de Kamer terugfloot. Het procesbelang van de Staat is voorlopig nog even belangrijker dan toezicht op een grootschalig sleepnet dat bevoegd is onverdachte Nederlanders met duizenden tegelijk door te lichten als potentiële fraudeurs.

Alles bij de bron; PlatformBurgerrechten


 

Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha