De toepassing van AI en algoritmes geven het veiligheidsbeleid een te technologisch karakter. In de Nacht van de Sociologie waarschuwt de Rotterdamse hoogleraar Digital Surveillance Marc Schuilenburg voor de risico’s hiervan voor publieke waarden.
Begin dit jaar verscheen zijn boek Making Surveillance Public: Why You Should Be More Woke About AI and Algorithms. Daarin citeert hij de Britse socioloog Anthony Giddens: surveillance is een van de vier institutionele ontwikkelingen van de moderne tijd - naast industrialisatie, kapitalistische economie en militaire macht.
In haar klassieke betekenis staat surveillance voor ‘het oog houden op’ en is volgens Schuilenburg geleidelijk veranderd in ‘zichtbaar en voorspelbaar maken’. Dat wil zeggen dat nu met AI en algoritmes grote hoeveelheden data worden verzameld, die vervolgens worden geanalyseerd en geïnterpreteerd binnen het kader van veiligheidsbeleid.
Een ander verschil met de klassieke surveillance is dat de dataverzameling, voor het grote publiek, zelf steeds onzichtbaarder wordt.
‘Doordat data steeds meer deel uitmaken van vernetwerkte datastromen, is surveillance vloeibaar en continu geworden. De digitalisering via AI en algoritmes komt daar nog eens overheen.’ en de inzet van AI en algoritmes bij (big data) policing, ofwel het veilig maken van de samenleving, heeft geleid tot een intensivering van omvang en diepgang van surveillance. ‘Surveillance graaft dieper dan ooit in het privéleven van burgers. Ze worden van alle kanten en door iedereen bekeken.’
Dat bekijken gebeurt overigens niet alleen door politie en gemeenten; maar ook naast (private techbedrijven), boven (EuroJust, Europol) en onder de politie, door burgers zélf.
Een van de partijen die steeds vaker en indringender de Nederlandse veiligheidszorg faciliteren, is Amazon. Ruim 1,2 miljoen Nederlandse huishoudens hebben er een digitale deurbel van: de Amazon Ring Bel. Gebruik van een digitale deurbel is allesbehalve onschuldig, zegt Schuilenburg. Integendeel, ‘het zet de verhoudingen en de grenzen tussen privé en publieke belangen op scherp’.
Zowel Amazon als de politie kan door de Amazon Ring Bel meekijken wat er gebeurt rond een woning. Is dat wenselijk? Om die vraag te beantwoorden, moeten we, stelt Schuilenburg, ‘publiek maken wat tot dan onzichtbaar is gebleven’.
Publiek maken is synoniem voor het zichtbaar maken van wat wij niet (meer) als surveillance zien of ervaren. ‘We moeten dieper nadenken over zelfsurveillance van burgers met luxeproducten als de Apple Watch en Fitbit, waarbij dataverzameling en analyse automatisch plaatsvinden.
Ook moeten we meer aandacht hebben voor algoritmes die werken op basis van machine learning (computers leren zelf hoe ze moeten leren zonder expliciet geprogrammeerd te worden, red.) en zelf een weg zoeken door de datastromen heen waarbij zij niet alleen zich onttrekken aan het zicht van buitenstaanders, maar ook door de gebruikers zelf niet meer worden begrepen of kunnen worden uitgelegd.’
Niet goed doordachte AI-toepassingen kunnen nare gevolgen hebben. ‘De bias en zelfversterkende effecten van een toegepaste technologie kunnen bijvoorbeeld leiden tot onnodig verscherpt politietoezicht op bepaalde buurten of groepen.’
Hoe kunnen de publieke waarden beschermd worden? Volgens Schuilenburg is het cruciaal dat we ‘meer stemmen betrekken bij AI-kwesties die burgers aangaan. Ook dat is publiek maken.’ Aansluitend daarop zou er meer aandacht moeten komen voor het feit dat techniek als een mal werkt. ‘Een model waarbinnen de kennis van bepaalde groepen, de coding elite in het bijzonder, de overhand heeft en die van andere groepen wordt vergeten of als niet waardevol wordt gezien.’
Onder de coding elite verstaat Schuilenburg ‘de groep van dataprofessionals die al in het ontwerp- en ontwikkelproces van AI en algoritmes belangrijke keuzes maakt. De expertise van deze elite bemoeilijkt strikte controle.’
Dit alles kan ertoe leiden dat deze elite handelt ‘zonder oog te hebben voor de eigen geprivilegieerde positie en zonder rekening te houden met eventueel ongewenste neveneffecten, waaronder discriminatie, privacyschending of andere risico’s die samenhangen met AI en algoritmes.’
Er is kortom sterke behoefte aan democratische oefening bij de ontwikkeling en toepassing van AI, aldus kan een stem worden gegeven aan de silenced voices van zwakke, kwetsbare of gemarginaliseerde groepen als jongeren en minderheden.’
Volgens Schuilenburg is het hoog tijd om afstand te nemen van het dominante denken over AI en algoritmes, waarbij ‘de veronderstelde technisch-economische voordelen prevaleren en sociologische aspecten als macht, kennis en ervaringen onderbelicht blijven.’
Hoe snel zeer grote hoeveelheden data kunnen worden verzameld en na analyse en interpretatie worden toegepast, blijven belangrijke maatstaven om AI en algoritmes in te zetten. De praktijk laat evenwel zien dat niet al het mogelijke wenselijk is. ‘Wat als er veel eenvoudigere en menselijkere oplossingen gewoon onder onze neus liggen?’ Schuilenburg pleit voor ‘een sociologie die zich actief mengt in het debat over AI en algoritmes, ‘ook en misschien wel vooral met inzichten die pijn doen en niet in de smaak vallen bij de politiek en de kapitaalkrachtige techbedrijven.’
Alles bij de bron; SocialeVraagstukken
Veel datalekken waar de gemeente Haarlem vorig jaar mee te maken kreeg zijn het gevolg van verloren mobiele apparaten.Andere oorzaken die geregeld voorkomen zijn het verkeerd adresseren van een brief of e-mail en het publiceren van niet geanonimiseerde stukken.
Vorig jaar werden er veertig datalekken gemeld, net iets meer dan de 38 incidenten in 2022. In vijftien gevallen werd een datalek bij de Autoriteit Persoonsgegevens (AP) gemeld. Dat is ongeveer twee keer zoveel als in eerdere jaren.
De toename van het aantal meldingen aan de Autoriteit Persoonsgegevens ten opzichte van voorgaande jaren ligt volgens de Functionaris Gegevensbescherming in de strengere lijn die inmiddels gevolgd wordt. "Alles wordt gemeld tenzij het privacyrisico echt verwaarloosbaar is." Verder blijkt dat relatief veel (mogelijke) datalekken het gevolg zijn van een verloren mobiel apparaat. Dat was in twaalf meldingen het geval.
Vorige maand heeft de gemeente Haarlem op het eigen intranet een 'meldknop' geïntroduceerd die het eenvoudiger voor medewerkers moet maken om melding van een datalek te doen.
Alles bij de bron; Security
Een groot deel van de gegevens die de gemeente Amersfoort over inwoners heeft gelekt had volgens beleid van de gemeente zelf al lang verwijderd moeten zijn.
Deze week maakte de gemeente bekend dat de gegevens van honderdduizend inwoners bij een externe softwareleverancier gestolen. Het gaat om twee datasets met gegevens van 2009 tot en met 10 oktober 2024. De "oude" dataset met persoonsgegevens van 2009 tot en met 2019. De "nieuwe dataset" beslaat de periode van 2016 tot en met 10 oktober 2024.
Het gaat om naam, adres, woonplaats, geboortedata, geslacht, e-mailadressen en telefoonnummers van mensen die tussen 2009 en 2024 een afspraak hebben gemaakt met de afdeling Burgerzaken. Van zevenduizend personen gaat het ook om het Burgerservicenummer (BSN).
In het verwerkingsregister van de gemeente Amersfoort staat dat gegevens over afspraken die met de afdeling Burgerzaken zijn gemaakt na vijf jaar moeten zijn verwijderd na een succesvolle afhandeling van het verzoek. Bij een 'afgebroken verzoek' moet de data al na een jaar weg zijn.
De gemeente erkent dat een deel van de data verwijderd had moeten worden. Vanwege 'beperkte capaciteit en middelen' is er voor gekozen om te wachten met het vernietigen van de persoonsgegevens, zo laat het college verder weten.
Alles bij de bron; Security
Amersfoort heeft de persoonlijke gegevens van honderdduizend huidige en voormalige inwoners gelekt. Het gaat om naam, adres, woonplaats, geboortedata, geslacht, e-mailadressen en telefoonnummers van mensen die tussen 2009 en 2024 een afspraak hebben gemaakt met de afdeling Burgerzaken.
Van zevenduizend personen gaat het ook om het Burgerservicenummer (BSN). De data werd bij een niet nader genoemde softwareleverancier gestolen.
"Het systeem van Gemeente Amersfoort is niet gehackt, het gaat om een bestand met oude afspraken, op het netwerk van de leverancier. Het is niet uit te sluiten dat deze gegevens ook echt zijn ingezien of gekopieerd."
Op de vraag waarom het bestand op het netwerk van de leverancier stond laat de gemeente weten dat het overstapt naar de cloud en daarom een back-up van de database met de leverancier deelde, zodat die het bestand kon gebruiken voor de overstap. Hoe de aanvallers op het systeem van de leverancier konden inbreken is niet bekendgemaakt. Het onderzoek is nog gaande
Gisteren maakten de gemeenten Tubbergen en Dinkelland bekend dat ook zij de gegevens van inwoners hebben gelekt. De gegevens werden ook daar buitgemaakt bij een externe leverancier die diensten verleent voor de afdeling Burgerzaken van de twee gemeentes.
Alles bij de bron; Security
Nabestaanden en andere nieuwsgierigen kunnen in het nieuwe jaar mogelijk toch niet vrijuit grasduinen in het grootste oorlogsarchief van Nederland.
Het Centraal Archief Bijzondere Rechtspleging (CABR) zou eigenlijk per 1 januari volledig openbaar worden. Tegelijkertijd zouden dan de eerste 8 miljoen gedigitaliseerde pagina’s (van in totaal 38 miljoen archiefblaadjes) online verschijnen, als opmaat naar volledige digitale doorzoekbaarheid van het gehele archief voor iedereen.
Privacywetgeving dreigt dat feest te verstoren. Volgens betrokkenen bereidt de Autoriteit Persoonsgegevens een blokkade voor.
Het Nationaal Archief negeerde adviezen die wezen op de privacy-risico’s bij het openbaar maken van gegevens over Nederlanders die de Duitse bezetter al dan niet hebben geholpen.
Alles bij de bron; Telegraaf
Een politieagent uit Antwerpen is terecht ontslagen, vindt de Belgische Raad van State.
De agent kreeg een fietsvergoeding maar uit beelden van ANPR-camera’s werd duidelijk dat hij elke dag met de auto naar het werk ging. De fietsvergoeding, tien euro per dag, was dus onterecht toegekend, vond de korpsleiding.
Waarna de agent, die ook sjoemelde met zijn werktijden, werd ontslagen. Het ontslag werd aangevochten, zonder resultaat dus.
Bron; Cops-in-Cyberspace
Het kabinet wil een centrale database maken met gegevens over alle taxiritten, waaronder gegevens over waar mensen in- en uitstappen. De Autoriteit Persoonsgegevens (AP) wijst het kabinet erop dat het de privacy van passagiers beter moet beschermen. Iemand met toegang tot die database zou gevoelige privézaken van passagiers kunnen ontdekken.
In het voorstel worden de gps-coördinaten van het vertrek- en eindpunt van elke rit naar de ILT verzonden. Daardoor ontstaat dus een database met alle taxiritten in Nederland.
“Wij snappen dat het kabinet het toezicht makkelijker wil maken”, zegt AP-bestuurslid Katja Mur. “Maar door zo nauwkeurig in één database de coördinaten van de vertrek- en eindpunten van elke taxirit op te slaan, stel je mensen die de taxi nemen onnodig bloot aan privacyrisico’s. Passagiers verdienen een betere bescherming.”
En zodra zo’n centrale database bestaat, is er ook het risico dat het fout gaat, aldus Mur: “Een datalek zit vaak in een klein hoekje. Door een foutje, een kwaadwillende medewerker of een hacker. We hebben dit vaak genoeg fout zien gaan, ook bij overheidsinstellingen.”
Daarbij bestaat bij dit soort databases ook altijd het risico op ‘function creep’: dat de data uiteindelijk ook voor zaken gebruikt worden waar ze oorspronkelijk niet voor bedoeld zijn. Mur: “Misschien wil de politie wel toegang. Of vinden de Belastingdienst en de gemeente dat wel handig, om te controleren of mensen niet frauderen met toeslagen of uitkeringen. Door die data weer te koppelen aan andere data, kan de overheid mensen op de voet volgen. Dat moeten we niet willen.”
Alles bij de bron; Beveiliging
De Geschillenkamer van de Belgische Gegevensbeschermingsautoriteit legt het bedrijf Freedelity 'corrigerende maatregelen' op na inbreuk op de Algemene Verordening Gegevensbescherming. Het bedrijf zou onterecht bepaalde persoonsgegevens van identiteitsbewijzen hebben verzameld.
Volgens de Gegevensbeschermingsautoriteit verzamelde Freedelity teveel niet noodzakelijk informatie van identiteitsbewijzen, waaronder het nummer van het document, de gemeente waar de ID-kaart is uitgegeven en de geldigheidsdatum van de kaart. Daarnaast zou het bedrijf de verkregen gegevens acht jaar bewaren, wat volgens de toezichthouder buitensporig is.
Freedelity is een Belgisch bedrijf dat persoonsgegevens van consumenten verzamelt door middel van de elektronische uitlezing van identiteitskaarten. Klanten van het bedrijf kunnen vervolgens met die gegevens 'gerichte marketing en klantenrelatiebeheer' uitvoeren.
Alles bij de bron; Tweakers
Als er geen actie wordt ondernomen, bestaat het medisch beroepsgeheim over enkele jaren niet meer. Met deze boodschap lanceren privacy-organisaties Platform Burgerrechten en Stichting KDVP deze week de campagne “Behoud Beroepsgeheim”.
VWS wil dat Mitz voor alle patiënten en zorgaanbieders in Nederland het register voor toestemmingen wordt.
Het doel van Mitz is om alle verschillende manieren om de toestemmingskeuzes vast te leggen overbodig te maken. Daardoor moet de patiënt meer overzicht en regie krijgen. Tegelijkertijd moet het voor de zorgprofessional eenvoudiger worden om te zien welke gegevens wel of niet gedeeld morgen worden.
Mitz regelt dat voor alle zorgsectoren.
Volgens de privacy-organisaties maakt Mitz medische gegevens voor grote groepen zorgverleners toegankelijk, zonder dat de dossierhoudend arts kan controleren wie voor welke reden gegevens uit diens dossiers opvraagt. Daardoor wordt het medisch beroepsgeheim geschonden.
De organisaties, eerder betrokken bij de rechtszaak tegen SyRI en de rechtszaak van Vertrouwen in de GGZ, constateren dat het medisch beroepsgeheim meer dan ooit onder druk staat door de datahonger van overheden en bedrijven. Hierdoor worden keuzes gemaakt voor beleid en technologie waarin het medisch beroepsgeheim en de patiëntprivacy ondergeschikt wordt gemaakt aan politieke en commerciële doeleinden.
Namens VZVZ, de beheerder van Mitz, reageert een lezer als volgt op bovenstaand artikel:
In Nederland geldt een opt-in systeem voor de uitwisseling van medische gegevens. Dit betekent dat zorgaanbieders alleen gegevens beschikbaar mogen stellen als een patiënt uitdrukkelijke toestemming heeft gegeven. Mitz is een systeem dat de opt-in benadering volledig ondersteunt en voldoet aan alle geldende wetten en regels.
Mitz geeft de burger niet alleen rechten, maar ook daadwerkelijk regie en zeggenschap. Zo kan elke burger met DigiD toestemmingskeuzes vastleggen voor de uitwisseling van medische gegevens tussen behandelaren. Mitz biedt ook maximale transparantie aan de burger. Deze kan precies volgen of een zorgaanbieder een toestemmingskeuze heeft geraadpleegd. Voor meer informatie kijk op http://www.MijnMitz.nl.
Alles bij de bron; Skipr
Volgens het FD jaagt de Autoriteit Persoonsgegevens (AP) op de drie grote dataverzamelaars Experian, Focum en EDR vanwege het stelselmatig schenden van de privacy van Nederlandse burgers.
Deze zogenaamde kredietinformatiebureaus creëren profielen van miljoenen consumenten in Nederland en verhandelen de enorme databases die ze daarmee opbouwen.
De kredietinformatiebureaus verkopen de profielen van miljoenen consumenten aan bedrijven die het betaalgedrag willen analyseren. Dit gebeurt zonder medeweten van de consument en kan leiden tot bijvoorbeeld het weigeren van een huurwoning of het afkeuren van aankopen op een webshop, legt Johan Leupen, onderzoeksjournalist bij het FD, uit.
Het is onbekend van hoeveel Nederlanders zulke profielen zijn opgesteld en verkocht. Volgens Leupen heeft de eigenaar van EDR, Guus Franken, gezegd dat 'alle Nederlanders in feite hun betaalgedrag daar opgeslagen hebben'.
Terwijl de AP nu 'duidelijk stelling heeft genomen om deze bedrijven op te rollen', vertelt Leupen dat de waakhond dit niet 'van de daken' kan schreeuwen. De betreffende bedrijven verzetten zich namelijk en proberen boetebesluiten bij de rechter tegen te houden. Ze proberen deze rechtszaken doelbewust 'afgesloten te houden voor buitenstaanders', uit vrees dat klanten zullen weglopen als dit openbaar wordt.
Alles bij de bron; BNR [met podcast]