De inzet van algoritmes voor monitoring van het betalingsverkeer is niet zonder risico's en kan tot een 'chilling effect' leiden, zo stelt de Autoriteit Persoonsgegevens (AP) in de eerste 'Rapportage Algoritmerisico’s Nederland'.

Sinds het begin van dit jaar houdt de AP ook toezicht op het gebruik van algoritmes. In de vandaag verschenen rapportage worden de risico's van algoritmes besproken en de gevolgen die dit voor de maatschappij kunnen hebben.

Het gaat dan ook om het gebruik van algoritmes om het betalingsverkeer te monitoren. Het demissionaire kabinet presenteerde vorig jaar plannen om alle particuliere transacties boven de 100 euro gezamenlijk door banken te monitoren.

Privacy First sprak van een 'bancair sleepnet' en ook volgens de AP is dit niet zonder risico's. "Waar algoritmes ingezet worden om ongebruikelijke patronen te herkennen, bestaat ook snel het risico dat bias kan resulteren in ongewenste discriminerende effecten."

Een mogelijk gevolg is ook het optreden van een 'chilling effect'. Dit is het verschijnsel dat mensen hun gedrag aanpassen wanneer ze het gevoel krijgen in hun grondrechten te worden aangetast. Ongeacht of dit echt zo is. Ook bij het gebruik van algoritmes voor gemeentelijke sociale voorzieningen en rechtshandhaving ziet de toezichthouder de nodige risico's.

"Algoritmes en AI kunnen geweldig nuttig zijn, maar brengen ook risico’s met zich mee. Bijvoorbeeld het risico op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid", zegt AP-voorzitter Aleid Wolfsen.

Alles bij de bron; Security