Met zijn dystopische roman 1984 creëerde George Orwell een metafoor om het belang van privacy kracht bij te zetten: 'Big brother is watching you'. Orwell liet zien hoe ongebreidelde surveillance en brute interventies door de overheid van (bijna) iedere burger een mak schaap maken. Iets wat je iemand die opgroeide in het voormalige Oostblok niet hoeft uit te leggen.
Maar daar waar de Stasi in haar hoogtijddagen één informant per twintig Oost-Duitse burgers had, lopen we nu allemaal rond met onze eigen Stasi-agent: de smartphone....
...Nee, het echte gevaar is Big Mother, die zich vermomt als een welmenende overheid of een superklantgericht bedrijf, en die ons subtiel stuurt (‘nudgen’) naar de hoek waar ze ons hebben willen.
Dat sturen gebeurt door ‘slimme’ algoritmen die op basis van een grote hoeveelheid persoonlijke gegevens beslissen welk nieuws goed voor ons is, welke aanbieding ons op het lijf geschreven is, welke opleiding we kunnen kiezen, of welke baan we mogen hebben. Algoritmen die bepalen wat we wel en niet te zien krijgen, die het (beperkte) menu samenstellen waar we vandaag uit mogen kiezen.
Het probleem is dat zowel de makers, als wij - de mensen die blootgesteld worden aan hun beslissingen - niet weten hoe deze slimme algoritmen werken, en dat deze algoritmen hun beslissingen niet uitleggen of beargumenteren. Bovendien weten we niet welke persoonlijke gegevens gebruikt worden om zo’n beslissing te nemen, waardoor we dus ook niet kunnen controleren of de gegevens juist zijn, of dat ze wellicht buiten hun oorspronkelijke context verkeerd geïnterpreteerd worden.
Big Mother dus. Die alles van je weet. Het beste met je voor heeft. Voor gevaren en misstappen behoedt. Maar je daarom verstikt. Die voorkomt dat je je eigen leven leidt, je eigen fouten maakt, en daarvan leert. Voorkomt dat je jezelf laat gelden. Voorkomt dat je zelf over de wereld nadenkt, en haar verandert daar waar dat volgens jou nodig is.
Big Mother. Waar we ons van los moet rukken. En wel snel. Voordat we onder haar moederliefde bezwijken. En willoze, gedrogeerde, slaven van de slimme algoritmen zijn geworden.
Alles bij de bron; FD