Twee weken geleden schreef Motherboard dat verschillende steden in de VS, waaronder San Francisco, gezichtsherkenning in publieke ruimtes door de overheid gaan verbieden.
Nu blijkt dat de Europese Commissie – de instantie die wetten voorstelt waarover het Europees Parlement later stemt – ook overweegt om gezichtsherkenning geheel of deels te verbieden. Vooralsnog lijkt alleen de Wall Street Journal, een Amerikaanse krant, over de ontwikkeling te hebben bericht, en dat terwijl de implicaties voor Europa groot kunnen zijn.
De Europese Commissie heeft vorig jaar een groep van 52 experts, waaronder academici, maatschappelijke organisaties en bedrijven zoals Nokia, IBM, Google en softwarebedrijf SAP SE, de opdracht gegeven om een onderzoek op te zetten naar een veilige toepassing van kunstmatige intelligentie in de EU.
In april publiceerde het panel een rapport over de ethische ontwikkeling van AI in Europa en op 26 juni publiceerden ze een tweede rapport met 33 beleidsadviezen die ervoor moeten zorgen dat AI-systemen in Europa “”de mens centraal” stelt en “fundamentele rechten respecteert.”
Een van de belangrijkste adviezen met dat effect gaat over de toepassing van gezichtsherkenning door overheden. “Ook al kan de verleiding sterk zijn de samenleving veilig te houden met indringende surveillance,” stelt het rapport op pagina 11, “zouden individuen niet onderworpen mogen worden aan ongerechtvaardigde fysieke of mentale tracking of identificering via AI-aangestuurde biometrische systemen zoals gezichtsherkenning of herkenning van micro-expressies.”
Een AI-systeem zou bovendien “nooit zonder menselijke interventie en toezicht” mogen opereren, en de inzet ervan moet altijd op voorhand “evidence based” zijn (aan deze twee voorwaarden wordt vrijwel nooit aan voldaan, blijkt uit dit rapport).
Voor mensen die denken dat dit soort systemen in Europa nog ver weg zijn: Huawei helpt verschillende landen in de EU, waaronder Malta en Servië, een gezichtsherkenningssysteem naar Chinees model op te tuigen.
Servië voelt misschien nog ver weg, maar we kunnen er niet van uitgaan dat dergelijke massa-surveillance in Nederland onmogelijk is. Twee weken geleden onthulde Motherboard dat het gezichtsherkenningssysteem van de Nederlandse politie een stuk verder is ontwikkeld dan tot nu toe werd gedacht. 1.3 miljoen mensen met een strafmaat van 4 jaar bevinden zich in de database. Dat is zo’n groot aantal, dat er inmiddels Kamervragen zijn gesteld.
Motherboard ontdekte ook dat er al lokale proeven zijn gedaan in Nederland met real-time gezichtsherkenning. ‘Real-time’ is hierbij een belangrijk woord: dat betekent dat camera’s met behulp van een algoritme automatisch een match proberen te maken met de database.
Nu moeten agenten in Nederland nog zelf een foto in de herkenningssoftware ‘CATCH’ laden om een match te maken, maar John Riemen, manager van het Centrum voor Biometrie van de Landelijke Politie, heeft gezegd dat hij real-time gezichtsherkenningssystemen “niet uitsluit” want “als een terrorist na een aanslag ontkomt, wil je hem zo snel mogelijk vinden.” Het obstakel lijkt vooral te zijn dat het technologisch nog niet werkt.
De Europese Commissie zei op 26 juni dat het de adviezen in overweging gaat nemen en volgend jaar al met wetsvoorstellen zal kunnen komen. Het is nog te vroeg om te zeggen of ze het advies van de rapporteurs zullen volgen of niet. Aangezien we het hier hebben over Europese besluitvorming, zal dit het startschot zijn van een lang proces. Maar laat dit niet afleiden van het feit dat de beslissingen die in de komende maanden (en jaren) gemaakt worden, het straatbeeld en het publieke leven in Europese steden fundamenteel kunnen veranderen.
Alles bij de bron; Vice