De waakhond wil actie ondernemen als de algoritmen in intelligente software tot onwenselijke, onethische of mogelijk discriminerende uitkomsten leiden. Dat zegt de nieuwe directeur-hoofdinspecteur Angeline van Dijk van Agentschap Telecom in een interview met deze krant. ,,Hoe zitten de algoritmen van kunstmatige intelligentie in elkaar, hoe meet je de kwaliteit van de berekeningen? We willen kijken of we ons daar als toezichthouder pro-actief mee bezig moeten houden.”

Van Dijk wijst er op dat steeds meer bedrijven en organisaties kunstmatig intelligente software gebruiken of daarmee experimenteren. Ook de politie onderzoekt hoe artificiële intelligentie kan helpen bij de opsporing. Tegelijk groeit het aantal voorbeelden waarbij de onderliggende algoritmen in intelligente software tot onwenselijke uitkomsten leiden. 

Bij sollicitaties leidde dat al tot het uitsluiten van vrouwen of allochtone kandidaten. Zo bleek een sollicitatierobot van  Amazon niet van vrouwelijke kandidaten te houden. Gezichtsherkenningssoftware van Google herkende gezichten van zwarte mannen aanvankelijk als gorilla’s. En slimme sensoren en camera’s in zelfrijdende auto’s blijken mensen met lichtere huid beter te herkennen, constateerden Amerikaanse onderzoekers.

Inmiddels klinkt een wereldwijde roep om regels en toezicht rond artificiële intelligentie. Zo werkt de Europese Commissie aan regels die ervoor moeten zorgen dat bedrijven kunstmatige intelligente op een ethisch verantwoorde wijze gebruiken. Vorige maand pleitte Brussel nog voor een tijdelijke ban van drie tot vijf jaar op gezichtsherkenningssoftware in de publieke ruimte. Een week later werd dat overigens weer ingetrokken.

Ook techgigant Google zelf pleit voor toezicht. Zo stelde Sundar Pichai, ceo van Google, vorige maand dat kunstmatige intelligentie ‘te belangrijk is om niet te reguleren’.  Pichai noemde in een opiniestuk in de Financial Times gevaarlijke toepassingen als het manipuleren van videobeelden (deepfakes) en het inzetten van gezichtsherkenning om de verkeerde redenen. Mensen moeten er daarnaast van op aan kunnen dat hun privacy geborgd is als zij medische data delen met allerlei slimme apparaten. 

Alles bij de bron; AD


 


Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha