Gezichtsherkenningsapp Clearview werkt aan functies om geblurde gezichten te verscherpen en bedekte delen van een gezicht in te vullen op basis van algoritmes. Dat zegt de oprichter in een gesprek met Wired.

De functies moeten in de tool komen die nu vooral in gebruik is bij opsporingsdiensten, zegt oprichter Hoan Ton-That tegen Wired. De oprichter geeft toe dat daardoor de software meer fouten kan maken, omdat de algoritmes moeten gokken hoe een gezicht er echt uitziet. Daarom is het de bedoeling dat mensen de software gebruiken als aanwijzing en niet als definitief bewijs van iemands identiteit.

Het is onbekend of en wanneer de functies om geblurde gezichten te verscherpen en bedekte delen van een gezicht geautomatiseerd in te vullen in de software zal verschijnen. Clearview heeft een database van tien miljard beelden van internet om zo mensen vanaf nieuwe beelden te kunnen identificeren.

Alles bij de bron; Tweakers

Vraag 11

Heeft u kennisgenomen van het rapport ‘The Rise and Rise of Biometric Mass Surveillance in the EU’, van de organisatie European Digital Rights (EDRi), waarin het gebruik van biometrische surveillance in drie lidstaten, waaronder Nederland, onder de loep wordt genomen?6 Wat is uw reactie op dit rapport?

Antwoord op vraag 11

Ja, ik heb kennisgenomen van dit rapport. Ik beschouw het rapport als een overzichtsrapportage. De gepresenteerde informatie en de punten van kritiek zijn al eerder gepubliceerd in Nederlandse kranten, op nieuwswebsites en in publicaties. Verschillende leden van uw Kamer hebben hier al vragen over gesteld. Ik ben in de antwoorden op die vragen al ingegaan op de beschreven punten van kritiek. Ik zie geen aanleiding daar iets aan toe te voegen.

Alles bij de bron; RijksOverheid [pdf]

Het wetsontwerp bevat ruimte voor het gebruik van massale biometrische bewaking in openbare ruimten in Servië, geavanceerde technologieën met gezichtsherkenningssoftware die het mogelijk maken grote hoeveelheden gevoelige persoonsgegevens in realtime vast te leggen en te verwerken.

Het lid van EDRi, de SHARE Foundation, heeft het openbare debat over het wetsontwerp aangegrepen om zijn juridische opmerkingen in te dienen over de bepalingen die de massale biometrische bewaking in openbare ruimten regelen, en eist van de autoriteiten dat zij onverwijld een moratorium afkondigen op het gebruik van dergelijke technologieën en systemen in Servië.

Indien Servië de bepalingen inzake massale biometrische surveillance aanneemt, wordt het het eerste Europese land dat burgers in de openbare ruimte permanent en zonder onderscheid in de gaten houdt.

De technologieën die op die manier ter beschikking van de politie zouden worden gesteld, zijn zeer ingrijpend voor de privacy van de burgers, met mogelijk drastische gevolgen voor de mensenrechten en de vrijheden, en hebben een diepgaande invloed op een democratische samenleving. Daarom hebben de Verenigde Naties en de Europese Unie zich reeds uitgesproken tegen het gebruik van massaal biometrisch toezicht door de politie en andere veiligheidsdiensten van de staten.

Alles bij de bron; EDRI [vertaald met www.deepl.com/translator]

De commissaris voor mensenrechten bij de VN pleit voor een moratorium op het gebruik van biometrische herkenning in de publieke ruimte. 

Michelle Bachelet doet deze uitspraak in een rapport van de Verenigde Naties waarin de effecten van artificiële intelligentie op mensenrechten wordt besproken. Daarin stelt de VN dat ontransparante dataverzameling een wijdverspreid fenomeen is en dat artificiële intelligentie ondertussen in alle aspecten van de samenleving terug te vinden is.

"Ai wordt ingezet om patronen te onderzoeken in het menselijke gedrag. Als men toegang heeft tot de juiste datasets is het bijvoorbeeld mogelijk om na te gaan hoeveel mensen een bepaalde gebedsplaats bezoeken, welke televisieprogramma’s ze verkiezen of hoe hun dag- en nachtritme eruitziet. Ook hun politieke voorkeur kan worden afgeleid", stellen de auteurs van het rapport. "Ai kan een enorme invloed uitoefenen op het leven van individuen en wordt gebruikt om toekomstig gedrag of gebeurtenissen te voorspellen." Heel wat van deze voorspellingen schenden volgens de VN het recht op privacy.

Het recht op privacy komt volgens de VN ook steeds meer in het gedrang door het gebruik van biometrische herkenning van individuen in de publieke ruimte. "Biometrische herkenning zorgt ervoor dat overheden individuen kunnen identificeren en traceren in de publieke ruimte. Daarmee wordt de mogelijkheid ondermijnd om niet geobserveerd door het leven te gaan", klinkt het.

Alles bij de bron; Tweakers

Binnenkort worden foto’s van alle Europeanen toegankelijk voor de Europese autoriteiten om door te spitten met behulp van gezichtsherkenningssoftware. Tot nu toe regelde het Prüm-Besluit, een raadsbesluit van de EU, dat vingerafdrukken, DNA-gegevens en kentekens automatisch mogen worden gedeeld tussen EU-landen. Nu komen daar foto’s van alle burgers bij.

Dat natuurlijk vanwege de strijd tegen terreur. Europese burgers denken nogal eens dat die befaamde ‘war on terror’ van president Bush wordt gevoerd door vreemde mogendheden in verre woestijnen. Het wil nog niet goed doordringen dat we er middenin zitten. De oorlog tegen terreur wordt gevoerd op Europese pleinen en stranden, in Europese straten en velden, op basis van camerabeelden, met alle Europese burgers als verdachten.

Er is geen enkele aandacht voor. Er is geen democratisch debat over gevoerd. De intellectuele cultuur is een historiserende cultuur, gericht naar het verleden, naar hoe het is gekomen, niet naar wat staat te gebeuren. Toch is het nodig te begrijpen hoe urgent, hoe spoedeisend een algeheel verbod op gezichtsherkenningssoftware is. Het mag nu toch wel duidelijk zijn dat de oorlog tegen terreur alleen maar leidt tot meer ellende.

Biometrische identificatie op afstand bedreigt onze fundamentele rechten en vrijheden; en wel zodanig dat ze het bestaan ervan in gevaar kunnen brengen, zeggen de European Data Protection Board en de European Data Protection Supervisor. De voordelen wegen niet op tegen de gevaren, zegt de directeur van Amnesty in Oostenrijk, waar het ministerie van Binnenlandse Zaken heeft toegegeven dat gezichtsherkenning is ingezet bij demonstraties. „We betalen een enorme prijs.”

Welke prijs? Het einde van de anonimiteit. Het einde van de argeloosheid. Je lichaam wordt een bewijsmiddel in andermans oorlog. Onder het alziend oog van hogere machten kun je geen verdienstelijk mens meer worden, om John Keats te citeren, want je kunt jezelf niet meer verliezen, je wordt vastgelegd. Zo gauw het Prüm-Besluit eenmaal is aangepast, ben je nooit meer onbespied. Nooit meer. Nooit meer.

Alles bij de bron; NRC

De Belgische federale politie heeft al meer dan honderd keer gebruikgemaakt van de gezichtsherkenningssoftware Clearview AI, meldt de Amerikaanse nieuwswebsite Buzzfeed. Die omstreden software is in strijd met de Europese GDPR-wetgeving...

...Clearview contacteerde wereldwijd politiediensten, overheidsdepartementen en juridische instellingen en stelde hen een proefabonnement voor. Buzzfeed kon documenten inkijken en heeft een gedetailleerde lijst gemaakt van 88 instellingen in 24 landen die de software hebben getest voor februari 2020. Daaruit blijkt dat de Belgische federale politie tussen de 101 en 500 keer ervan gebruik heeft gemaakt.

Het COC, het Controleorgaan op de politionele informatie, liet in mei 2020 weten dat Clearview niet door politiediensten in ons land werd gebruikt en daar ook geen plannen voor bestonden. De Standaard kreeg van COC-lid Frank Schuermans nu te horen dat het onderzoek hierover wordt heropend met een nieuwe vraag aan de commissaris-generaal.

Alles bij de bron; HLN

De politie heeft tussen de vijftig en honderd keer gebruikgemaakt van de Clearview AI software met gezichtsherkenning. Daarmee zijn beelden van bewakingscamera’s te vergelijken met opgeslagen foto’s van miljoenen mensen in de database.

Buiten de Verenigde Staten zouden 88 opsporingsdiensten en andere overheidsinstanties uit 24 landen de gratis proefversie van de software hebben toegepast. Dat meldt de Volkskrant op basis van onderzoek van de Amerikaanse nieuwssite Buzzfeed.

In de database van Clearview staan foto’s en bijbehorende data zoals namen van miljoenen mensen wereldwijd opgeslagen. Deze zijn onder andere afkomstig van sociale media zoals Facebook, LinkedIn en Instagram. Politiekorpsen benutten de database voor vergelijkingen met beelden van bewakingscamera’s om op die manier persoonsgegevens van verdachte personen te achterhalen.

Bron; Beveiliging

De politie maakt vanaf nu jaarlijks zelf openbaar hoeveel foto's er in hun gezichtsherkenningsdatabank staan, hoe vaak ze die hebben bevraagd en hoeveel herkenningen dat oplevert. Door die openbaarmaking kwam Bits of Freedom erachter dat zij afgelopen jaar 218.434 foto's hier uit heeft verwijderd. Nog 2.653.038 te gaan.

...Het is goed dat de politie een opruimactie heeft gedaan. Het is schokkend om te zien dat daarmee zo'n 8% van de foto's verwijderd moest worden. En daarmee zijn we er nog niet. Dit was namelijk een eenmalige opruimactie van foto's uit een systeem dat vooral tot 2010 werd gebruikt.

Daarmee zijn enkele belangrijke problemen nog niet opgelost. Zo staan er nog steeds tienduizenden mensen onterecht in de databank. Bijvoorbeeld mensen die er als verdachte in zijn opgenomen maar vervolgens door de rechter zijn vrijgesproken. De chaos is zelfs zo groot dat de politie zelf niet weet om hoeveel mensen dit precies gaat, maar de schatting lijkt aan de voorzichtige kant. Dat zou niet moeten kunnen. Opsporingsmiddelen, en al helemaal zulke ingrijpende massasurveillance, komen in een rechtsstaat met verantwoordelijkheden.

Ook is het zorgwekkend hoe gemakkelijk mensen in de ingrijpende surveillancedatabank terecht kunnen komen. Zo staan er ook demonstranten in die zich niet wilden legitimeren. Horen die thuis in een gezichtsherkenningsdatabank van de politie? Wij geloven van niet....

De effectiviteit en de meerwaarde van dit systeem zijn erg twijfelachtig. Uit de door de politie openbaar gemaakte cijfers over 2020 blijkt dat het systeem 1046 keer is gebruikt in opsporingsonderzoeken. In 70% (!) van de gevallen was het systeem niet in staat de persoon te herkennen. En van de ongeveer 100 keer dat het wel werkte, is onduidelijk wat de herkenning daadwerkelijk heeft bijgedragen aan het onderzoek.

Het is tijd de balans op te maken: staan we toe dat er een doodenge surveillancedatabank bestaat? Waarin mogelijk de gezichten van miljoenen mensen staan? Waarvan tienduizenden er ook nog onterecht in staan? Kunnen we dat verantwoorden als je bedenkt dat de politie gemiddeld rond de 100 herkenningen per jaar haalt en de daadwerkelijke opbrengst voor opsporingsonderzoeken onduidelijk blijft?

Als het aan Bits of Freedom ligt niet. Daarom vinden zij de 218.434 een goed begin, nu de andere 2.653.038 nog.

Alles bij de bron; Bits-of-Freedom

De politie heeft vorig jaar ruim 218.000 foto's uit haar database voor gezichtsherkenning verwijderd. Dat maakt de Landelijke Eenheid bekend met de publicatie van de jaarcijfers over 2020. Een woordvoerder kon niet zeggen hoeveel unieke personen daarmee uit de database zijn verdwenen.

Met gezichtsherkenning kan de politie beelden, afkomstig van bijvoorbeeld een beveiligingscamera, vergelijken met de 2,65 miljoen gezichtsfoto's in de database. Een match kan de politie helpen om achter de identiteit van een verdachte te komen.

Met de opschoning van de 218.000 foto's geeft de politie voor het eerst publiekelijk een indicatie van het aantal foto's dat onterecht in de gezichtendatabase heeft gestaan. De politie moet gezichtsfoto's namelijk verwijderen als een persoon niet langer verdachte is, bijvoorbeeld na vrijspraak.

Het gebruik van CATCH, zoals de dienst heet, is niet onomstreden. In maart onthulde NU.nl dat de gezichtsfoto's van mogelijk tienduizenden mensen onterecht in de database staan.

Dat ligt gevoelig, omdat gezichtsherkenning bijzonder ingrijpend is. Het is "alsof de politie een soort nummer op je voorhoofd brandmerkt", zei een deskundige hierover destijds.

Alles bij de bron; NU