De Autoriteit Persoonsgegevens (AP), die onze privacy moet beschermen, komt om in het werk. Naast inbreuken op de privacy is Wolfsen bezorgd over het snel groeiende gebruik van algoritmes. Deze maandag licht hij tijdens een hoorzitting in de Tweede Kamer toe hoe de AP uitwassen wil tegengaan.
„Een algoritme op zich is niet meer dan een stappenplan om tot een bepaalde beslissing te komen. Het punt is dat dit stappenplan steeds vaker geautomatiseerd wordt doorlopen. Een vliegtuig bijvoorbeeld is een vliegend algoritme, dat op de automatische piloot kan landen. Dat is alleen maar mooi. Maar als algoritmes worden gebruikt om onderscheid te maken tussen mensen, dan is het wel belangrijk om te weten welk stappenplan daarbij wordt gevolgd. Verloopt dat proces wel eerlijk? Hypotheekverstrekkers gebruiken tegenwoordig algoritmes om te bepalen wie er een hypotheek krijgt. De overheid gebruikt ze om mensen te selecteren voor een nadere controle. ”
U stelt dat onvoldoende toezicht het einde van de rechtsstaat kan inluiden. Dat zijn grote woorden. Wat bedoelt u precies?
„Als je een toeslag aanvraagt bij de overheid en die wordt geweigerd, dan moet je wel kunnen achterhalen waarom dat gebeurt. Hetzelfde geldt voor een baan in een sollicitatieprocedure. Je moet je kunnen verdedigen tegen zo’n beslissing en een rechter moet het kunnen toetsen. Als dat niet kan, omdat de werking van het algoritme onbekend is, dan is dat het begin van het einde van de rechtsstaat. Dan sta je als burger machteloos en ben je rechteloos.”
Aan welke concrete voorbeelden denkt u?
„SyRi is de meest cynische variant. Maar er worden, ook binnen de overheid, veel vaker algoritmes gebruikt. We zijn een onderzoek begonnen naar de Belastingdienst. De Belastingdienst gebruikt meerdere algoritmes om burgers te selecteren. Als het stappenplan dat daarbij wordt doorlopen discriminerend werkt, dan is dat onrechtmatig en grijpen wij in.”
Volgens u loopt ook de democratie gevaar.
„We hebben bij de verkiezing van Donald Trump en de Brexit gezien dat de manipulatie van verkiezingen en referenda door ‘microtargeting’ mogelijk is.”
Wat valt hiertegen te doen?
„Op zijn minst moet transparant zijn hoe de algoritmes werken die dit persoonlijke nieuws voorschotelen. Dan wordt inzichtelijk in hoeverre de burger wordt beïnvloed in zijn autonomie en kan er wat worden gedaan.”
Waarom valt dit onder de verantwoordelijkheid van de AP?
„Wij zijn een toezichthouder op naleving van de Europese privacywet. Wij onderzoeken of de autonomie en de vrije wil van de burger wordt gerespecteerd. Er zijn steeds meer digitale systemen die deze vrijheden in gevaar brengen. Ze maken gebruik van persoonsgegevens en moeten daarom voldoen aan de privacywet. Daarin wordt speciale aandacht besteed aan algoritmes. Die mogen niet tot discriminerende, oneerlijke, of onbehoorlijke uitkomsten leiden.”
Alles bij de bron; NRC
