De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen.

Nu is het verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon. 

Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.

Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt. Zodat onze gezichten ook op het internet veilig zijn.

Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.

Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbieden.

Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.

Alles bij de bron; Bits-of-Freedom


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha