De overheid maakt steeds vaker gebruik van algoritmes en kunstmatige intelligentie om mensen te selecteren of in te delen in groepen en als dit niet rechtmatig en transparant gebeurt ligt discriminatie op de loer, zo waarschuwt Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens. De privacytoezichthouder legde de Belastingdienst deze week een boete van 2,75 miljoen euro op voor het overtreden van de AVG.

Uit onderzoek van de AP naar de Toeslagenaffaire bleek dat de fiscus discriminerend te werk ging bij het beoordelen van aanvragen voor kinderopvangtoeslag en bij het selecteren van mensen voor (fraude)onderzoek. De slachtoffers waren op basis van een algoritme als 'risico' of voor (fraude)onderzoek geselecteerd.

Het is daarom belangrijk scherp te zijn op de selectiecriteria van een algoritme of AI en hier transparant over te zijn, aldus de AP-voorzitter.

Alles bij de bron; Security