Op 6 juni 2019 heeft uw Kamer de Minister voor Rechtsbescherming verzocht om een reactie te geven op de initiatiefnota ‘Menselijke grip op algoritmen’ van het lid van uw Kamer Middendorp...

...Om de voorstellen in de initiatiefnota te bespreken is het belangrijk om eerst duidelijk te maken wat het kabinet, zowel in algemene zin als in de context van de initiatiefnota, verstaat onder algoritmen en “Artificial Intelligence”. Zoals toegelicht in de brief “Transparantie van algoritmen in gebruik bij de overheid” is een algoritme in beginsel een set instructies om een bepaalde taak uit te voeren. Er bestaan verschillende typen algoritmen, het ene complexer dan het andere...

...Wanneer systemen intelligent gedrag vertonen en op basis daarvan met een zekere zelfstandigheid acties ondernemen, noemen we dit artificiële intelligentie (hierna: AI). Waar wij in deze reactie het begrip algoritmen gebruiken, valt AI hier dus onder.

Het kabinet ziet dat bepaalde risico´s voor de menselijke grip op algoritmen zich voordoen bij alle soorten algoritmen, bijvoorbeeld wanneer er foute informatie in een systeem wordt ingevoerd. Het kabinet wil echter ook benadrukken dat er specifieke risico’s zijn die zich voornamelijk voordoen bij meer intelligente systemen, bijvoorbeeld ten aanzien van de uitlegbaarheid van uitkomsten. Met name bij het gebruik van neurale netwerken zien wij een risico omdat de output daarvan niet altijd goed verklaarbaar is..

...De initiatiefnota vraagt terecht onze aandacht voor de vraag of we wel voldoende menselijke controle over de inzet van algoritmen hebben en doet een aantal interessante voorstellen om deze controle te bestendigen of vergroten. In algemene zin kunnen wij ons in verregaande mate vinden in de door de indiener voorgestelde oplossingen. Het gebruik van algoritmen kan immers naast positieve ook negatieve effecten op de samenleving hebben. De overheid heeft dan ook de taak om er zorg voor te dragen dat Nederland zowel de economische en maatschappelijke kansen van algoritmen verzilvert als de publieke belangen die daarbij in het geding kunnen zijn, borgt.

Hiermee volgt Nederland de Europese aanpak voor ‘mensgerichte AI’.6 Deze ethische benadering van AI moet het vertrouwen van burgers in digitale ontwikkeling versterken en is een unieke propositie voor Europa om zich internationaal mee te onderscheiden in de markt voor AI-toepassingen...

...Graag wijzen wij erop dat het AI-beleid van het kabinet is neergelegd in de stukken die op 8 oktober 2019 aan uw Kamer zijn gezonden, te weten het Strategisch Actieplan voor AI (SAPAI), de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties over ‘AI, publieke waarden en mensenrechten’ en de brief van de Minister voor Rechtsbescherming over ‘waarborgen tegen risico’s van data-analyses door de overheid’ met de bijbehorende ‘Richtlijnen voor het toepassen van algoritmen door overheden’ (hierna: de richtlijnen).9 Met voorliggende brief, waarin ook de reactie van het kabinet op het onderzoeksrapport ‘Toezicht op algoritmegebruik door de overheid’ is opgenomen (zie hierna onder IV en Bijlage 2), wordt het AI-beleid van het kabinet op het terrein van het toezicht op AI verder ingevuld.

Alles bij de bron; RijksOverheid [brief, bijlage 1, 2, 3]


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha