China bouwt aan een staatssurveillancemachine zonder weerga. Met kunstmatige intelligentie, data-analyse, stem- en gezichtsherkenning legt het land databanken aan om gedrag van burgers digitaal te beoordelen en houdt het communicatie op almaar indringender manieren in de gaten. 

Human Rights Watch (HRW) sprak zondag zijn zorgen uit over één van de meest recente snufjes van de Chinese staat om zijn burgers in de gaten te houden. Volgens HRW werken de Chinese autoriteiten samen met het techbedrijf iFlytek, de absolute marktleider in China waar het gaat om stemherkenningstechnologie – zeg maar de Chinese Siri. Met hulp van het bedrijf ontwikkelt de staat een systeem dat stemmen in telefoongesprekken kan herleiden tot personen, om zo te kunnen helpen met zeer specifiek afluisteren... 

...Rogier Creemers, onderzoeker aan de Universiteit Leiden doet veel onderzoek naar Sesame Credits een project om Chinese burgers massaal te voorzien van een score op basis van onder meer aankoopgedrag en economische activiteit. Hij ziet een groot verschil tussen de Sesame Credits en technieken zoals de automatische stemherkenning. „Je moet je bedenken dat de Chinese staat nu veel minder van burgers weet dan veel westerse overheden.” Je hebt er geen functionerende basisadministratie zoals hier. „Sesame Credits lijken eerder ontworpen als Chinese versie van een bevolkingsregistratie om mensen in kaart te brengen dan als een soort dystopische Big Brother.”

Wel ziet Creemers risico’s in het koppelen van databanken, en het vermengen van de dataverzameling door grote techbedrijven als Alibaba en Tencent met de datahonger van de staat.

Dat is ook precies waar HRW bang voor is. „Technologiebedrijven hebben ook een verantwoordelijkheid om zeker te stellen dat hun producten niet worden gebruikt voor mensenrechtenschendingen.” Overigens heeft Human Rights Watch zich in het verleden ook zeer kritisch uitgelaten over de massasurveillance van de Amerikaanse geheime dienst NSA. Privacyschendingen zijn bepaald niet een uniek Chinees probleem.

Ook in Nederland hebben geheime diensten toegang tot privécommunicatie, en gebruiken ze kunstmatige intelligentie en big data. Denk aan de ophef rondom de zogeheten sleepnet-wet, die diensten meer bevoegdheden geeft. Nederland werd dit jaar het eerste land ter wereld dat landelijk een systeem invoerde voor predictive policing: een techniek om met hulp van data over criminelen en criminaliteit misdaad te voorspellen. Gezichtsherkenning en andere biometrische technieken worden hier al veel langer door overheden gebruikt. 

Alles bij de bron; NRC