Als organisaties voor hun bedrijfsvoering kunstmatige intelligentie en algoritmes gebruiken, moeten ze uitleggen waarom ze dat doen. Daarvoor pleit de Autoriteit Persoonsgegevens.

Het gaat daarbij om bedrijven en overheden die "serieus persoonsgegevens verwerken" en die AI-systemen of algoritmes gebruiken die grote impact kunnen hebben op de levens van burgers.

De Autoriteit Persoonsgegevens (AP) zegt dat de komst van AI-chatbots en een gebrekkig inzicht in bestaande algoritmes de grootste risico's vormen. Denk daarbij aan risico's op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.

Bijna alle organisaties in Nederland werken inmiddels met algoritmes. "Veel klanten betekent veel data van klanten in je bestanden", zegt AP-voorzitter Aleid Wolfsen. het toeslagenschandaal is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Maar onlangs gingen ook DUO en het UWV ook met algoritmes de fout in.

Wolfsen denkt dat AI en algoritmes nuttig kunnen zijn, maar dat we de risico's niet moeten negeren.

Alles bij de bron; NU