- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De Reclaim Your Face coalitie zet zich al een tijd in om biometrische surveillance uit de Europese straten te weren. We pleiten ervoor dat het verbod op biometrische surveillance, zoals dat nu in de voorgestelde AI-Verordening staat, breder wordt. Zo schreven we een brief aan Europarlementariërs waarin we samen met 53 organisaties vragen om betere bescherming van onze fundamentele rechten door biometrische massasurveillance te verbieden.
De belangrijkste punten uit onze oproep voor een breder en beter verbod op biometrische surveillance in de AI-Verordening zijn:
- Het verbod moet niet alleen gelden voor handhavingsdoeleinden, maar ook voor bijvoorbeeld commerciële toepassingen.
- Het verbod moet niet beperkt zijn tot realtime toepassingen, maar ook toepassingen verbieden waarbij de technologie achteraf wordt ingezet.
- Uitzonderingen op het verbod, waarvan onafhankelijke evaluaties bevestigen dat ze niet voldoen aan de bestaande Europese mensenrechten, moeten worden geschrapt.
- Discriminerende of manipulatieve vormen van biometrische categorisatie moeten worden gestopt.
- De risico's van emotieherkenning moeten op een passende manier worden geadresseerd.
...meerdere leden van het Europees parlement hebben publiekelijk toegezegd amendementen in te zullen dienen voor een volledig verbod op biometrische massasurveillance in de AI-Verordening. En Europarlementariërs Kim van Sparrentak, Peter Vitanov, Kateřina Konečná en Rob Rooken zich uitspraken voor een vol verbod op biometrische surveillance in de openbare ruimte. Daarbij voegen zij zich bij Svenja Hahn en Brando Benifei die dit eerder al deden.
Maar het is nog geen gelopen race. Er zal nog vele maanden onderhandeld moeten worden over de AI-Verordening. Daarom is het nog steeds belangrijk dat we ons laten horen voor betere bescherming van onze rechten en vrijheden en onze open samenleving. Ook jij kunt dat doen door ons burgerinitiatief Reclaim Your Face te ondertekenen. Onderteken ons burgerinitiatief voor een verbod op biometrische surveillance in de openbare ruimte
Disclaimer: Bij het klikken op de link wordt je doorverwezen naar de pagina van het burgerinitiatief Reclaim Your Face. Bij het ondertekenen wordt om persoonsgegevens gevraagd. Deze gegevens zijn nodig om je ondertekening geldig te maken, zoals vereist in de Europese Verordening over het Europees burgerinitiatief.
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Kim Clijsters heeft begin dit jaar geschiedenis geschreven: in haar Sports and Health Club in Bree wordt gebruikgemaakt van camera’s met gezichtsherkenning. Pionieren op de grens van de illegaliteit is dat, want het gebruik van software voor gezichtsherkenning is nog niet wettelijk geregeld. Zo mag de politie er eigenlijk nog niet mee werken, al experimenteert ze er toch al mee...
...“Elke speler moet zich aanmelden bij een camera. Die kan het gezicht herkennen en het lid toegang geven tot het terrein. ... Wie de gezichtsherkenning oncomfortabel vindt, kan ook zijn identiteitskaart voor de camera houden. Dat werkt even goed."
Mag een lokale sportclub de gezichten van leden wel scannen en in een databank opslaan? Nathalie Smuha (onderzoeker AI, recht en ethiek KU Leuven): “Organisaties en bedrijven die niet onder de overheid vallen, mogen software voor gezichtsherkenning gebruiken als ze daarvoor uitdrukkelijk toestemming krijgen van wie eraan onderworpen wordt. Ze mogen ook een databank aanleggen met de gezichten van al die personen.”
...Matthias Dobbelaere-Welvaert, jurist en privacy-activist, maakt zich wél zorgen. Hij heeft The Ministry of Privacy opgericht, een organisatie die onder meer strijdt tegen gezichtsherkenning op straat. “.. Volgens mij wordt er achter de schermen wel geëxperimenteerd op de grens van wat wettelijk is toegestaan. Dat de federale politie maandenlang heeft gelogen over het gebruik van Clearview, zegt ook veel.”
De druk op de wetgever om een kader uit te tekenen neemt toe. Politiezones kopen het materiaal aan en commissaris-generaal Marc De Mesmaeker van de federale politie is al jaren voorstander.
Kati Verstrepen (voorzitter Liga voor Mensenrechten): “Ik maak me zorgen: het parlement heeft een kwalijke reputatie als het over privacywetgeving gaat. In 2018 werd de nieuwe Camerawet zonder veel debat goedgekeurd in de Kamer. De man in de straat krijgt kop noch staart aan dat technische jargon en denkt dat het allemaal wel in orde zal zijn, maar zonder het te beseffen geeft hij een grondrecht op. Dat is een bewuste strategie van de politici, want ze zijn bang om het debat aan te gaan.”
Alles bij de bron; deMorgen [scan]
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen.
Nu is het verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon.
Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.
Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt. Zodat onze gezichten ook op het internet veilig zijn.
Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.
Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbieden.
Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Om de identiteit van de slachtoffers van de oorlog in Oekraïne te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacy-schandaal: de Europe Commissie heeft een plan voor één van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?...
... Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij Clearview AI wordt er gebruik gemaakt van slimme algoritmes om geportretteerden te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?
Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van CCTV-camera's, foto's van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance infrastructuur ter wereld.
Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme?
Alles bij de bron; BNN/VARA Joop
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Het kabinet trekt 13 miljoen euro extra uit in de strijd tegen internationale drugssmokkel. Het geld wordt besteed aan onder meer ‘slimme camera’s’ op havens, Schiphol en de logistiek rond de bloemenveiling en havens in Zeeland, Brabant en Amsterdam, andere cruciale logistieke knooppunten.
De slimme cameratechniek scant de ogen, het gezicht of de stem van medewerkers op die plekken, zodat alleen zij toegang krijgen tot bijvoorbeeld de opslag of plekken waar goederen aankomen.
De inzet van camera’s die persoonlijke kenmerken (biometrie) als ogen en gezichten kunnen scannen, was eerder een aanbeveling na onderzoek naar drugssmokkel. Drugssmokelaars betalen corrupte beambten soms voor hun toegangspassen tot terreinen, constateerde de Erasmus Universiteit in onderzoek. Bij biometrische controles wordt dat onmogelijk.
Alles bij de bron; BrabantsDagblad
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Het Oekraïense ministerie van Defensie is begonnen met het inzetten van Clearview AI om Russische soldaten te herkennen en om lichamen te identificeren. Dat meldt de ceo van Clearview aan Reuters.
Oekraïne krijgt gratis toegang tot de diensten van Clearview AI, waarmee autoriteiten bijvoorbeeld mensen kunnen doorlichten bij controleposten. Dat vertelt het bedrijf aan persbureau Reuters. Clearview heeft in zijn database naar eigen zeggen '2 miljard foto's' van gezichten. Die zijn ook deels afkomstig van het Russisch sociaal medium VKontakte.
De database zou gebruikt kunnen worden om lichamen van Russische soldaten te identificeren of Russische spionnen te herkennen. Volgens het bedrijf kan de gezichtsherkenningstechnologie ook gebruikt worden om socialemediaberichten met desinformatie over de oorlog te bestrijden en bij vluchtelingenwerk, bijvoorbeeld om gescheiden families te herenigen.
Alles bij de bron; Tweakers
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Deze week legde de Italiaanse privacytoezichthouder Clearview AI een boete van 20 miljoen euro op wegens het overtreden van de GDPR, wat het einde van het gezichtsherkenningsbedrijf en soortgelijke ondernemingen op de Europese markt betekent, zo stelt noyb, de door privacyactivist Max Schrems opgerichte organisatie.
"De Italiaanse beslissing verbiedt duidelijk een businessmodel dat is gebaseerd op de massacollectie van biometrische data. Dit sluit de Europese markt voor Clearview AI en soortgelijk bedrijven. We zagen zelfs hoe een soortgelijk Europees bedrijf voor het uitkomen van de beslissing de EU ontvluchtte", zegt Alan Dahi, privacyadvocaat bij noyb. Hij doelt op het Poolse bedrijf PimEyes dat opeens na een klacht tegen hen vanuit de Seychellen opereert.
Noyb verwacht dat de Oostenrijkse privacytoezichthouder, in navolging van de Franse en Italiaanse autoriteiten, met een zelfde oordeel komt.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
We hebben al vaker geschreven over de onrechtmatige praktijken van Clearview AI. En toch kon dit omstreden bedrijf steeds maar doorgaan. Een gebrek aan toezicht en handhaving in Europa dat ons irriteerde. De Italiaanse toezichthouder laat nu zien dat dat anders kan en komt met een krachtig besluit.
- Een boete op van 20 miljoen euro.
- Een verbod op het gebruik van scraping-technieken (een soort stofzuiger loslaten op het internet om alles te verzamelen wat los en vast zit) om gegevens van personen op Italiaans grondgebied te verzamelen en verwerken.
- Een verbod op het gebruik van het gezichtsherkenningssysteem om gegevens te verwerken van personen op Italiaans grondgebied.
- Clearview moet alle gegevens van personen op Italiaans grondgebied die zijn verwerkt met het gezichtsherkenningssysteem verwijderen
De Italiaanse toezichthouder is niet de eerste die de diensten van Clearview AI veroordeeld. Meerdere toezichthouders hebben zich al uitgesproken tegen dit soort illegale surveillancepraktijken en hoewel de Nederlandse Autoriteit Persoonsgegevens zich uitspreekt tegen het onrechtmatige gebruik van gezichtsherkenningstechnologie en oproept voor een verbod op deze technologie blijft zij angstvallig stil rond Clearview AI.
Hopelijk trekt de daadkracht van de Italiaanse toezichthouder haar nu over de streep.
Alles bij de bron; Bits-of-Freedom
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
Mensen die zich op het gemeentehuis melden, bijvoorbeeld om een verhuizing door te geven of een rijbewijs aan te vragen, kunnen zomaar gevraagd worden om eerst op de foto te gaan.
Naar schatting gebruikt bijna de helft van de gemeenten technologie om de vers geschoten gezichtsfoto te vergelijken met die op je identiteitsbewijs, maar het is onduidelijk hoe groot het probleem is dat ze daarmee willen voorkomen.
Gemeenten gebruiken gezichtsscanners om te voorkomen dat iemand zich legitimeert met het ID-bewijs van een ander die op hen lijkt. De methode is vergelijkbaar met de automatische grenscontrole op Schiphol, die al jaren in gebruik is. Gemeenten de technologie nu expliciet in om bedriegers te betrappen al is het onduidelijk hoe groot het probleem van lookalikefraude in het gemeentehuis is.
Het ECID constateerde vorig jaar 32 gevallen bij zijn ID-desk. Onder meer gemeenten kunnen hier aankloppen als zij fraude met ID-bewijzen vermoeden. Hoeveel van die gevallen daadwerkelijk via het gemeentehuis bij het ECID terechtkwamen, is onduidelijk; een analyse van de cijfers wordt binnen enkele weken verwacht. Ook is onbekend of technische gezichtsvergelijking heeft bijgedragen aan de opsporing.
Gemeenten die apparatuur voor gezichtsvergelijking aanschaffen, doen dat niet omdat er zich elke dag zoveel bedriegers melden. Zo maakte Vught onlangs bekend de technologie in te zetten, hoewel in de gemeente nooit lookalikefraude is geconstateerd. Toch neemt de verkoop al jaren toe, zegt Chino Klaverweide-Lorteije van ORIBI ID-Solutions. Dit bedrijf heeft naar eigen zeggen al zo'n 350 camera's geleverd aan 140 gemeenten.
Alles bij de bron; NU
- Gegevens
- Hoofdcategorie: Lichamelijke Integriteit
De Britse privacytoezichthouder ICO heeft de Schotse overheid en gezondheidszorg op de vingers getikt over de corona-app waarmee burgers hun vaccinatiestatus kunnen aantonen. De informatievoorziening aan burgers over hoe de NHS Scotland COVID Status-app persoonlijke informatie gebruikt, waaronder gevoelige gezondheidsgegevens, schiet tekort, aldus de ICO.
De Schotse corona-app maakt gebruik van gezichtsherkenningstechnologie om de gebruiker aan de hand van zijn paspoort of rijbewijs te identificeren. Met de informatie wilde het bedrijf de gezichtsherkenningssoftware verbeteren. Volgens de Britse privacytoezichthouder was dit illegaal, aangezien het niet noodzakelijk was voor de werking van de app en het ook geen doel voor gebruikers diende.
De toezichthouder adviseerde om de app niet lanceren totdat alle zorgen waren weggenomen. Toch werd de app op 30 september zoals gepland gelanceerd, zonder dat alle zorgen van de ICO waren weggenomen.
Alles bij de bron; Security