Het expertisecentrum online misbruik Offlimits vreest onterechte veroordelingen van burgers als client-side scanning wordt ingevoerd om de chatberichten van burgers te controleren zoals de Europese Commissie wil. 

Volgens Offlimits zorgt het voorstel van de Europese Commissie ervoor dat alle afbeeldingen onderschept kunnen worden, juist ook wanneer er geen problematische situatie is. Vervolgens worden de afbeeldingen door vele mensen bekeken om te analyseren. "Daarmee wordt er onnodig een enorme inbreuk gepleegd op de privacy van het kind. Het voorstel heeft dus geen rekening gehouden met de diversiteit van de redenen om naaktbeelden te delen, noch het feit dat veel materiaal vrijwilliger gedeeld wordt."

De Europese Commissie wil bekend en onbekend misbruikmateriaal detecteren, alsmede grooming. Voor onbekend materiaal en grooming zouden AI-systemen de inhoud van chatberichten moeten controleren. Gedetecteerd materiaal wordt vervolgens naar een Europees centrum doorgesteuurd. Demissionair minister Yesilgöz van Justitie en Veiligheid stelde eerder tegenover de Tweede Kamer dat deze AI-systemen nog niet betrouwbaar zijn. Nederland kan wel instemmen met detectie van bekend materiaal, maar de inzet van AI-systemen noemde Yesilgöz disproportioneel.

Deze week werd er door Europese ministers over het voorstel van client-side scanning onderhandeld. De NOS meldt dat EU-voorzitter Spanje een aangepaste versie heeft gepresenteerd, waarbij AI-systemen voorlopig niet worden ingezet totdat de technologie beter werkt. De inzet zou later alsnog mogelijk zijn zonder het wetgevingsproces opnieuw te hoeven doorlopen.

Alles bij de bron; Security