De Europese Unie kwam vrijdag na een uitzonderlijk lange onderhandeling tot een voorlopig akkoord om de ontwikkeling van kunstmatige intelligentie aan banden te leggen.

Vanuit de tech-industrie is zeer veel moeite gedaan om de nieuwe AI-wet iets af te zwakken. Deels met succes, maar de strengste regels bleven overeind.

De AI-wet moet ervoor zorgen dat AI-modellen in Europa straks veilig en transparant worden ingezet. Hoe hoger het risico op problemen, des te zwaarder de regels. Sommige systemen worden helemaal verboden. Denk aan programma’s die burgers kunnen beoordelen op hun gedrag, zoals in China gebeurt.

Voordat deze week de laatste gesprekken begonnen, was er een enorme lobby vanuit de techindustrie.

Een van de struikelblokken tijdens de gesprekken was de inzet van slimme camera's in de publieke ruimte, waarmee mensen gevolgd kunnen worden. Er komt een verbod, maar met uitzonderingen voor opsporingsdiensten.

"Daar zijn wij echt teleurgesteld in", zegt Nadia Benaissa van burgerrechtenorganisatie Bits of Freedom. "Wij hebben er altijd voor gepleit dat mensen zich vrij in de openbare ruimte moeten kunnen begeven. Deze uitzonderingen op het verbod lijken de deur open te zetten voor het legitimeren van massasurveillance."

Ook Europarlementariër Kim van Sparrentak had liever een volledig verbod. Maar volgens haar trokken sommige lidstaten daar een absolute grens, waardoor er water bij de wijn moest.

Over het algemeen is Bits of Freedom voorzichtig positief over de AI-wet. Ook Bo Hijstek, onderzoeker naar generatieve AI verbonden aan het Rathenau Instituut, prijst dat gedeelte van de wet. "Maar er blijven wel vragen open", zegt ze. "Hoe meet je of een AI-model voldoet aan mensenrechtelijke bescherming? Eisen in de regels zijn vaak op veel manieren te interpreteren. Bij veel producten is het functioneren controleerbaar, maar of iets aan mensenrechten voldoet is veel abstracter."

Overigens gaat het nog wel even duren voordat de Europese AI-wet van kracht is. Begin volgend jaar wordt er door de Europese raad en de lidstaten gestemd. Dit is doorgaans een formaliteit. Daarna duurt het nog twee jaar voordat de regels daadwerkelijk ingaan.

Alles bij de bron; NU