Verschillende privacyorganisaties zijn donderdag rechtszaken gestart tegen het omstreden gezichtsscanbedrijf Clearview AI. Ze stellen dat de manier waarop het bedrijf data verzamelt in strijd is met de Europese privacywetgeving.
Clearview verzamelt zonder medeweten van gebruikers afbeeldingen van sociale media om een grote database van gezichten te creëren. Het bedrijf uit New York kan met deze database de identiteit van personen vaststellen. Clearview zegt dat zijn database ruim drie miljard afbeeldingen van gezichten bevat.
De klachten zijn in Frankrijk, Oostenrijk, Griekenland, Italië en het Verenigd Koninkrijk ingediend. Dat deden de privacyorganisaties Privacy International, NYOB, Hermes Center for Transparency and Digital Human Rights en Homo Digitalis.
Clearview ligt al langere tijd onder vuur bij privacyorganisaties. In maart werd in de Verenigde Staten een aanklacht ingediend om te zorgen dat het bedrijf geen data kon verzamelen van inwoners van Californië. Ook startten privacywaakhonden in het VK, Australië en Canada onderzoeken naar het bedrijf.
Begin vorig jaar bleek uit onderzoek van BuzzFeed News dat de software van Clearview door private bedrijven gebruikt werd, ook al zei het bedrijf dat de software alleen voor autoriteiten bedoeld is.
Alles bij de bron; Security
De Amerikaanse politie moet het nog langer zonder de gezichtsherkenningssoftware Rekognition van techbedrijf Amazon doen. Amazon schort het gebruik ervan tot nader order op. Amazon verbood de politie in juni vorig jaar al de software gedurende één jaar te gebruiken. Het bedrijf wilde de politiek toen de tijd geven om regels in te voeren voor het gebruik van dergelijke technologie.
Amazon zegt al langer een voorstander te zijn van regels die ethisch gebruik van dergelijke software moeten garanderen. Het bedrijf had daarnaast gehoopt dat het Amerikaanse Congres met wetgeving zou komen. Tot dusver is dat niet gebeurd. Het bedrijf zei dat Rekognition nog wel gebruikt mag worden door organisaties die vermiste kinderen en slachtoffers van mensenhandel opsporen.
Alles bij de bron; AGConnect
In het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie staat een gedeeltelijk verbod op biometrische surveillance in de openbare ruimte. Dat is een goed begin en laat zien dat ons werk zeker niet voor niets is. Maar er zitten nog te veel gaten in de wetgeving om van echte bescherming te kunnen spreken. Daarom gaan we door met de strijd voor een verbod op álle biometrische surveillance in de openbare ruimte....
...Welke bescherming missen we in dit voorstel?
Allereerst is de verwoording van het verbod erg specifiek, en laat het vele soorten biometrische surveillance buiten beschouwing. Denk bijvoorbeeld aan deze soort surveillance voor commerciële doeleinden. Hiermee lijkt het wetsvoorstel vormen van biometrische massasurveillance toe te staan die minimaal op gespannen voet staan met de fundamentele rechten en vrijheden die in bestaande Europese wetgeving zijn verankerd.
Ook staan er meteen uitzonderingen op het verbod geformuleerd die nog aardig wat ruimte laten. Bijvoorbeeld voor het gericht zoeken naar een potentieel slachtoffer van criminaliteit, preventieve inzet wanneer er sprake is van een dreiging ten opzichte van de fysieke veiligheid van een persoon of het zoeken van iemand die verdacht wordt van een zwaarder misdrijf. Wel worden er bij deze uitzonderingen vereisten geformuleerd zoals beperkingen in tijd, plaats en gerichtheid op personen.
Daarnaast is het verbod expliciet beperkt tot real-time systemen. Dat betekent dat bijvoorbeeld gezichtsherkenning die wordt toegepast op de beelden die zijn opgenomen door 'normale' camera's in de openbare ruimte niet onder het verbod vallen. Daarmee is het verbod dus niet van toepassing op CATCH, het systeem dat de Nederlandse politie gebruikt, maar valt dat enkel binnen het hoge risico regime.
En beperkt het verbod zich tot biometrische identificatie. Dat is een erg beperkte formulering. De Europese toezichthouder op gegevensbescherming heeft eerder gezegd dat iemand onderscheiden van andere mensen hier ook onder valt. Dit zet de deur open voor mogelijk discriminatoire praktijken als het categoriseren of selecteren van mensen op basis van uiterlijke kenmerken. Ook zegt het niets over het volgen van mensen in de publieke ruimte zonder dat dit gericht is op hen identificeren.
Tot slot schuilt er gevaar in de vage bewoordingen. Het verbod geldt nu ten aanzien van systemen die worden ingezet zonder voorafgaande kennis van de gebruiker van het systeem over of de persoon waar de inzet zich op richt aanwezig zou zijn en geïdentificeerd kan worden. En als je hier de draad kwijtraakt is dat niet gek, dat doen wij ook een beetje.
We zijn blij met de erkenning van de Commissie dat deze systemen enorm intrusief zijn en hoge risico's meebrengen voor onze rechten en vrijheden en onze vrije samenleving. Ook is het een eerste stap dat er nu een gedeeltelijk verbod in het voorstel is opgenomen. Maar voor echte bescherming is er meer nodig. Daarom blijven wij hard werken naar een verbod op álle biometrische surveillance technologie in de openbare ruimte. Help ons in de strijd voor een verbod en onderteken ons burgerinitiatief!
Alles bij de bron; Bits-of-Freedom
Je vingerafdruk, gezichtsherkenning of een scan van je iris, het zijn allemaal manieren waarop we tegenwoordig apparaten kunnen beveiligen. Een vermogensbeheerder komt met iets nieuws waarmee klanten kunnen bewijzen dat ze het echt zijn: stemherkenning. Hoe betrouwbaar is dat?
Klanten die de servicedesk van de bank bellen, moeten nu allerlei vragen beantwoorden om toegang te krijgen. Als het aan de bank ligt, gaat de stem van klanten als identificatie dienen. Daar moeten ze dan wel zelf eerst toestemming voor geven...
...Volgens Melanie Rieback van Radically Open Security werkt biometrische beveiliging zo goed als de sensoren die ervoor gebruikt worden. "Het meet iets van ons lichaam en die sensoren kunnen natuurlijk gefopt worden", legt ze uit. Ook stemherkenning is volgens haar niet waterdicht. "Je kunt opnames maken van de stemmen van mensen. Vooral mensen die een beetje bekend zijn, daar heb je een kanon aan audio van online staan."
Gelukkig zijn er ook manieren op die spraakherkenning veiliger te maken. Rieback: "Een manier om het tegen te gaan is livetracking, om te checken of iemand live aanwezig is. Een persoon kan snel schakelen, dat kan een opname niet."
Ook is het belangrijk om het systeem goed te beveiligen tegen een datalek. "Biometrie is altijd een beetje problematisch, als hackers het systeem hacken en de audioclips stelen is dat hele gevoelige informatie. Dat heeft een enorme privacy-impact. Je wachtwoord kun je veranderen, je stem of je vingerafdruk niet."
Alles bij de bron; RTL
...Anderhalf jaar eerder legt een bewakingscamera bij een geldautomaat in Rotterdam vast hoe iemand midden in de nacht 1.750 euro pint.
De politie krijgt de camerabeelden in handen. In het Centrum voor Biometrie worden meerdere momentopnames door het gezichtsherkenningssysteem CATCH gehaald. Zo hoopt de politie de verdachte te kunnen identificeren...
...onderzoeker en hoogleraar Joris van Hoboken trekt de rechtmatigheid van CATCH in twijfel nu uit onderzoek van NU.nl blijkt dat verdachten die onschuldig blijken, structureel in de achterliggende gezichtendatabase blijven hangen.
De politie maakt per jaar minder dan honderd matches met CATCH. In het eerste jaar dat gezichtsherkenning werd toegepast, gebeurde dat 93 keer. In 2018 en 2019 maakte de politie 82 en 98 matches.
De gezichtendatabase met verdachten en veroordeelden is in 2020 gegroeid naar 1,4 miljoen personen. Hoe vaak een match tot een aanhouding of veroordeling leidt, is op dit moment onduidelijk.
"Minder dan honderd matches per jaar is een hele lage opbrengst van zo'n grote database. En dan weten we na een match nog niet eens of het daadwerkelijk dezelfde persoon is.", zegt Jair Schalkwijk van Controle Alt Delete, een organisatie die het handelen van de politie kritisch volgt. "Ik zie heel goed wat het opsporingsbelang kan zijn", zegt hij. "Maar weegt CATCH op tegen de privacyinbreuk, de risico's dat dingen fout kunnen gaan en de impact op de maatschappij?"
Alles bij de bron; NU
Het vliegveld van Dubai is begonnen met een test waarbij Emirati’s de keuze krijgen om de rij voor de paspoortcontrole in te ruilen voor een snelle gezichts- en irisscan. Er zijn al langer vliegvelden waar dit vereist is, maar daar hoort altijd nog een paspoort of ticketcontrole bij. Het plan in Dubai is om alleen nog maar een scan uit te voeren.
Een iris is, net als een vingerafdruk, voor elk mens uniek, en kan dus gebruikt worden om iemand te identificeren. De autoriteiten van Dubai zeggen de irisscan te willen koppelen aan de gezichtsherkenningsdatabase van de staat. Op die manier beschikt het vliegveld gelijk over alle informatie die er over de reiziger bekend is, en is verdere identificatie niet meer nodig.
Het voordeel? Geen lange rijen meer voor de paspoortcontrolem aar critici uiten hun zorgen over de uitrol van deze nieuwe techniek en het opslaan van persoonlijke informatie, waarmee de grootschalige controle op burgers toeneemt.
Dubai is niet erg groot en het heeft zijn surveillance goed op orde. Het is bijna onmogelijk om je door het stadstaatje te bewegen zonder door het uitgebreide netwerk van beveiligingscamera’s te worden opgepikt. Dubai heeft volgens experts naar schatting 35.000 bewakingscamera's, een van de hoogste aantallen ter wereld per hoofd van de bevolking.
Het nieuws van de irisscanners op het vliegveld wordt dan ook met wat wantrouwen ontvangen. Emirates, de nationale vliegmaatschappij van de Verenigde Arabische Emiraten, zegt in een vage privacyverklaring dat de verzamelde irisscans – die gelinkt zijn aan de rest van iemands persoonlijke gegevens – ‘zo lang als redelijkerwijs noodzakelijk bewaard zullen worden voor de doeleinden waarvoor ze verzameld zijn’. Hoe alle data veilig worden bewaard, is onbekend.
De emir van Dubai, Sjeik Mohammed bin Rasjid al-Maktoem wil nog een stap verdergaan om bureaucratische handelingen te vervangen. Zo kondigde hij aan een gezichtsscan in te voeren bij overheidsinstanties, ter vervanging van het inleveren van persoonlijke documenten.
Alles bij de bron; Trouw
De minister voor rechtsbescherming Sander Dekker geeft duidelijkheid over de regels die gaan over de inzet van gezichtsherkenning door burgers, bedrijven en private organisaties in Nederland. En dat ziet er in het kort zo uit: “De AVG (Europese wetgeving die onze gegevens beschermt) biedt zeer weinig ruimte om gezichtsherkenning in te zetten”...
...Zoals de minister en de Autoriteit Persoonsgegevens allebei schrijven: in principe is de inzet van gezichtsherkenning niet toegestaan. Maar, onder een aantal voorwaarden worden er twee uitzonderingen gehanteerd. Als de inzet wordt gebaseerd op toestemming, en als het dient ter beveiliging.
De minister maakt gehakt van toestemming als uitzonderingsgrond. Toestemming moet duidelijk, actief en vrijwillig zijn gegeven. Dit zal in de praktijk erg moeilijk zijn, omdat redelijkerwijs niet kan worden verwacht dat iedereen die een ruimte betreedt waar gezichtsherkenning wordt toegepast, daarvoor expliciete toestemming geeft.
De minister benadrukt dat de ruimte van de tweede uitzonderingsgrond erg beperkt is. De inzet van gezichtsherkenning moet dan noodzakelijk zijn voor voor authenticatie of beveiligingsdoeleinden én voor een 'algemeen zwaarwegend belang', zoals de publieke veiligheid of volksgezondheid. En dat laatste komt niet zo vaak voor in die horizontale verhoudingen.
Dat maakt dus een einde aan de inzet van gezichtsherkenning in plekken als winkels, stadions, casino’s en evenementenlocaties. We zijn blij met de duidelijke grenzen die de minister stelt in zijn brief.
Tegelijkertijd moedigen de minister van Justitie en Veiligheid aan om dit stokje over te nemen en ook stelling te nemen voor de bescherming van onze rechten en vrijheden in de openbare ruimte. Gezichtsherkenning ligt namelijk niet alleen in horizontale, dus tussen burgers onderling of tussen burgers en bedrijven, maar ook in verticale verhoudingen, dus tussen burgers en de overheid, op de loer. Voor een ware bescherming van onze privacy moet ook gezichtsherkenning door de politie en de gemeente uit onze openbare ruimte worden gebannen.
Alles bij de bron; Bits-of-Freedom
Tienduizenden eenmalige testen op drugsgebruik worden jaarlijks gebruikt op de werkvloer om het personeel te controleren. Dat doen werkgevers soms zelf, en soms met hulp van commerciële testbedrijfjes. Het gebeurt in allerlei sectoren, van de (petro)chemie, tot fabrieken in de voeding. Dat blijkt uit onderzoek van het platform voor onderzoeksjournalistiek Investico.
Testbedrijven, of het beveiligingspersoneel van een bedrijf, nemen ‘aan de poort’ speeksel af bij werknemers om te ontdekken of werkzame resten van alcohol, kalmerende medicijnen, marihuana en (meth)amfetamine in het systeem van de werknemer zitten.
Testen op drugs is vanwege de privacywet slechts onder zeer beperkte voorwaarden toegestaan. Binnen een bedrijf mag alleen de bedrijfsarts testen, waarna de uitslag valt onder het medisch beroepsgeheim. Wettelijk mogen alleen chauffeurs, schippers, machinisten en piloten in werkverband getest worden op drugsgebruik. Het testen door commerciële bedrijfjes is illegaal.
Werkgevers die hun personeel laten testen op drugs overtreden de wet, bevestigt privacywaakhond Autoriteit Persoonsgegevens (AP). De AP is niet op de hoogte van de omvang van de illegale testpraktijk en kreeg de afgelopen jaren geen klachten van werknemers.
Alles bij de bron; Trouw
In de toekomst kunnen we door speciale technieken gezichtsherkenning inzetten voor beveiliging terwijl de privacy optimaal wordt gewaarborgd. Het TNO-rapport ‘Privacy bescherming bij niet-coöperatieve gezichtsherkenning’ schetst een positief beeld. Als de juiste methoden en technieken worden ingezet, hoeft de privacy geen bottleneck te zijn. De onderzoekers spreken van een belangrijke mijlpaal.
Ze zijn met name optimistisch over de mogelijkheid om biometrische gezichtstemplates op een veilige manier te vergelijken. Deze technologie heet 'multi-party computation’ (MPC). Volgens TNO heeft deze technologie inmiddels het stadium van volwassenheid bereikt.
Tijdens een experiment voor de Johan Cruyff Arena Amsterdam, gemeente Amsterdam en de Nederlandse politie was de uitdaging voor TNO was om manieren en technieken te ontwikkelen die het voor veiligheidsorganisaties mogelijk maken om gezichtsherkenning uit te voeren, zonder dat de privacy te veel in het geding komt. Het ging om gezichtsherkenning zonder medewerking van de personen die door camera's worden geobserveerd. Deze niet-coöperatieve gezichtsherkenning vormt een inherente inbreuk van de privacy. Dat wordt zeker zo ervaren als bij een match een nadelige consequentie volgt.
Volgens TNO moet de beslissing om dergelijke technologie in zulke gevallen in te zetten dus zorgvuldig worden genomen. Daarbij dient men optimaal gebruik te maken van de laatste inzichten om de privacy te beschermen. Het rapport biedt een uitgebreid overzicht van bestaande inzichten, en presenteert een aantal mogelijkheden om die privacy beter te beschermen.
Alles bij de bron; Computable
De Zweedse politie heeft van de Zweedse privacytoezichthouder een boete van 250.000 euro opgelegd gekregen wegens het onrechtmatig gebruik van het gezichtsherkenningssysteem van het bedrijf Clearview AI. Clearview biedt een systeem dat drie miljard afbeeldingen bevat, onder andere afkomstig van Facebook, LinkedIn en andere websites en socialmediaplatformen. Het maakt een hash van deze foto's zodat daar snel in gezocht kan worden.
Het bedrijf heeft naar eigen zeggen meer dan 2400 politie- en opsporingsdiensten als klant. Die kunnen foto's van verdachten vergelijken met de foto's van Clearview. Naar aanleiding van berichtgeving in de media dat Zweden gebruikmaakte van het systeem startte de Zweedse databeschermingsautoriteit een onderzoek.
Daaruit blijkt dat het systeem inderdaad door de Zweedse politie is ingezet en Zweedse agenten het systeem meerdere keren zonder toestemming gebruikten.
Alles bij de bron; Security