"We kunnen dankzij internet weten wie een aanslag wil plegen". Deze opinie van hoogleraar Bart Baesens lokt reactie uit. Want ook de allerkrachtigste computers kunnen het denken van mensen niet exact voorspellen.

Stel: Een haat-liefde verhouding heb ik met mijn gsm. Het onding staat dan ook regelmatig uit. Nagenoeg onmisbaar en functioneel in onze communicatiemaatschappij, waardoor hij toch nooit veraf is. Niettemin verander ik wel eens van nummer wanneer dat nummer te bekend raakt. Als nachtraaf ben ik ook vaak onderweg tussen 22 en 4u en staat die doorgaans wel aan. 

Volgens Baesens voldoe ik dus aan aardig wat indicatoren om me als terrorist te labelen, want mijn gsm-gebruik lijkt op dat van een terrorist. Door het massaal bundelen en analyseren van data uit allerlei bronnen kan een computer uitzoeken wie potentieel een aanslag wil plegen, schrijft Baessens in een opinietekst.

Dat beangstigt mij, zelfs als computerwetenschapper kan ik niet blind zijn voor de gevaren. Nét wanneer dit oordeel aan computers overgelaten wordt. Er wordt bijzonder veel vertrouwen toegedicht aan deze machines. De vooruitgang binnen big data analytics is dan ook enorm, doch niet vlekkeloos. Het ‘beknotten’ van telefoontaps, surveilleren van burgers, etc. is niet zonder reden bij wet geregeld.

Diezelfde wet hoort immers de burgers te beschermen tegen o.a. targeting. Dit gaat veel verder dan de potentiële introductie van racistische motieven en vooroordelen. Het gaat erom dat uw en mijn data niet zomaar door allerlei instanties vrij ingekeken kan worden. Het gaat erom dat er altijd wel iets te vinden is dat verdacht is. Het gaat erom dat iedereen een potentiële verdachte is en daar zware consequenties kan van ondervinden.

Je neigt te verzanden in een systeem waar je schuldig lijkt met hoge waarschijnlijkheid, terwijl we in onze rechtsmaatschappij net onschuldig horen te zijn tot het tegendeel bewezen is. Mensen het label ‘verdacht’ opplakken leidt steevast tot een vorm van tunnelvisie.

‘Misdaad’ wordt geconstrueerd door de lokale context, zoals culturele gebruiken, geschiedenis en geloof. Dat het ook snel kan veranderen toont de geschiedenis ons. Niet zo lang geleden kwam in Frankrijk 25 procent van de Joodse burgers om en in Nederland 73 procent.

Eén van de processen die de Jodenvervolging in Nederland vereenvoudigde (maar uiteraard niet veroorzaakte) was dat men er reeds in de jaren 30 begon met een doorgedreven bevolkingsadministratie. Ponskaarten van elke individuele burger werden gemaakt en de Joodse achtergrond werd toegevoegd. Duitsland kon de Joden er via sorteermachines vervolgens zo uitpikken. Frankrijk kende een minder doorgedreven administratie.

Dit is slechts een voorbeeld van hoe schijnbaar onschuldige dataregistratie in een snel wijzigende context tot verregaande consequenties kan leiden. Voor we dit soort tools dus verregaand gaan gebruiken en pleiten voor minder strikte regelgeving, moeten we veel meer sensibiliseren rond de beperkingen van deze voorspellingen en voorzien in een aangepaste regelgeving die onschuldige burgers beschermt.

Ook ik zie het nut van analytics, maar pleit voor een gezond wantrouwen en doordacht toepassen. De methodes zijn relatief recent en zeker niet onfeilbaar. Waakzaamheid is op dit punt meer dan ooit vereist.

Alles bij de bron; deRedactie



Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha