De Europese Unie gaat de digitale teugels strakker aantrekken voor de toepassing van artificial intelligence (AI) in voorspellende systemen. Dat blijkt uit het 81 pagina’s dikke voorstel Regulation on a European Approach for Artificial Intelligence dat deze week uitlekte en online is te lezen via Politico.

Hierin stelt de EU dat voorspellen met algoritmen en AI veel voordelen biedt op gebieden als gezondheidszorg, onderwijs en veiligheid. Die systemen brengen ook de nodige risico’s met zich mee en kunnen slecht uitpakken voor burgers. De impact ervan moet daarom aan banden worden gelegd. Zo gaat de EU strenge voorwaarden stellen aan het gebruik van algoritmen en AI. Diverse toepassingen van voorspellende systemen worden zelfs verboden

...Om burgers beter te beschermen tegen de risico’s van hoog-risico-AI-systemen wil de EU de volgende toepassingen volledig verbieden of waar nodig begrenzen:

- AI-systemen (‘indiscriminate surveillance’) voor het monitoren en tracken van willekeurige personen in de publieke ruimte;
- AI-systemen voor het maken van sociale kredietscores, waarbij iemands betrouwbaarheid wordt beoordeeld op basis van gedrag of voorspelde persoonlijkheidskenmerken;
- het gebruik van biometrische identificatiesystemen in de publieke ruimte, waaronder gezichtsherkenning.

...Deze ambities van de EU zijn prijzenswaardig. Op verschillende punten is het voorstel uit Brussel alleen wel nog te vaag. Zo wordt een uitzondering gemaakt voor biometrische systemen in de publieke ruimte die ‘serious crime’ bestrijden. Wat onder deze vorm van criminaliteit wordt verstaan, is onduidelijk...

...Er is te weinig expertise over voorspellende systemen, over hoe die met elkaar zijn verbonden, over aan welke ethische waarden ze moeten voldoen. Zo concludeerde de Rekenkamer Rotterdam deze week dat ambtenaren nauwelijks beseffen dat ethische risico’s kleven aan het gebruik van algoritmes, zoals wanneer die worden aangewend om uitkeringsfraude op te sporen.
De Nederlandse overheid moet dit nu gaan organiseren. De impact van technologie is niet alleen een maatschappelijk probleem, maar volgens de EU ook een politiek probleem. 

Alles bij de bron; NRC


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha