Als het aan de Europa ligt, gaan internet-giganten grootschaals scannen op seksueel misbruik van kinderen. Dat maakt internet niet veiliger, waarschuwen Rejo Zenger, Beleidsadviseur digitale mensenrechtenorganisatie Bits of Freedom, en Arda Gerkens, Bestuurder Expertisebureau Online Kindermisbruik (EOKM)...

...Dit Europese plan moet internetbedrijven, zoals WhatsApp en Microsoft dwingen om ongericht alle berichten, apps, emails en reacties, te scannen op mogelijk kindermisbruik. Voorstanders zeggen dat dit grootschalige scannen nodig is om online seksueel kindermisbruik te bestrijden, maar ze hebben weinig oog voor de neveneffecten.

Want de Europese Commissie ondermijnt met dit plan de vertrouwelijkheid van communicatie op het internet voor iedereen – inclusief internetgebruikers die ze nu juist wil beschermen. De kunstmatige intelligentie die voor het detecteren wordt ingezet, is namelijk notoir slecht in het herkennen van context.

Er is niets mis met de foto die vader maakt van zijn badderende zoontje en die hij aan zijn vrouw stuurt. Maar als diezelfde foto in een andere context wordt gebruikt, kan dat wel problematisch zijn. Om dat goed te kunnen beoordelen moet de hele conversatie rondom de foto meegenomen worden. Dat is werk voor de politie, maar met deze wetgeving wordt dat overgelaten aan internetbedrijven.

Als klap op de vuurpijl suggereert de Europese Commissie dat deze zoektochten ook in beveiligde omgevingen gedaan moeten worden, zoals WhatsApp-berichten. Daarmee verzwakken ze de veiligheid van het internet. Juist van die verzwakking maken kwaadwillenden gebruik, op zoek naar materiaal waarmee ze jongeren kunnen compromitteren...

...gerichtheid is ver te zoeken in het Europese voorstel. Dat voorstel is te vergelijken met een voorstel om in alle kinderkamers camera’s op te hangen om te zien of er soms kinderen mishandeld worden. Niemand zou dat proportioneel vinden, want in onze rechtsstaat handelen we op grond van concrete verdenkingen. Daarnaast heeft de Europese Commissie weinig oog voor preventie.

Tijdens het Tweede Kamer-debat over misbruik zal online misbruik zeker onderwerp van gesprek zijn. Wij zijn bezorgd over de veiligheid van jongeren als de kans op het lekken van hun privéwereld groter wordt. Nederland weet door de toeslagenaffaire wat kunstmatige intelligentie kan aanrichten. We pleiten daarom voor een aanpak die gericht en proportioneel is en oog heeft voor de wereld van de jongere zelf.

Alles bij de bron; Trouw