Software & Algoritmes

De waakhond wil actie ondernemen als de algoritmen in intelligente software tot onwenselijke, onethische of mogelijk discriminerende uitkomsten leiden. Dat zegt de nieuwe directeur-hoofdinspecteur Angeline van Dijk van Agentschap Telecom in een interview met deze krant. ,,Hoe zitten de algoritmen van kunstmatige intelligentie in elkaar, hoe meet je de kwaliteit van de berekeningen? We willen kijken of we ons daar als toezichthouder pro-actief mee bezig moeten houden.”

Van Dijk wijst er op dat steeds meer bedrijven en organisaties kunstmatig intelligente software gebruiken of daarmee experimenteren. Ook de politie onderzoekt hoe artificiële intelligentie kan helpen bij de opsporing. Tegelijk groeit het aantal voorbeelden waarbij de onderliggende algoritmen in intelligente software tot onwenselijke uitkomsten leiden. 

Bij sollicitaties leidde dat al tot het uitsluiten van vrouwen of allochtone kandidaten. Zo bleek een sollicitatierobot van  Amazon niet van vrouwelijke kandidaten te houden. Gezichtsherkenningssoftware van Google herkende gezichten van zwarte mannen aanvankelijk als gorilla’s. En slimme sensoren en camera’s in zelfrijdende auto’s blijken mensen met lichtere huid beter te herkennen, constateerden Amerikaanse onderzoekers.

Inmiddels klinkt een wereldwijde roep om regels en toezicht rond artificiële intelligentie. Zo werkt de Europese Commissie aan regels die ervoor moeten zorgen dat bedrijven kunstmatige intelligente op een ethisch verantwoorde wijze gebruiken. Vorige maand pleitte Brussel nog voor een tijdelijke ban van drie tot vijf jaar op gezichtsherkenningssoftware in de publieke ruimte. Een week later werd dat overigens weer ingetrokken.

Ook techgigant Google zelf pleit voor toezicht. Zo stelde Sundar Pichai, ceo van Google, vorige maand dat kunstmatige intelligentie ‘te belangrijk is om niet te reguleren’.  Pichai noemde in een opiniestuk in de Financial Times gevaarlijke toepassingen als het manipuleren van videobeelden (deepfakes) en het inzetten van gezichtsherkenning om de verkeerde redenen. Mensen moeten er daarnaast van op aan kunnen dat hun privacy geborgd is als zij medische data delen met allerlei slimme apparaten. 

Alles bij de bron; AD


 

Gebruikers van Firefox die willen zien welke telemetriegegevens de browser verzamelt kunnen dit nu via een aparte pagina bekijken. Het gaat om niet-persoonlijke informatie zoals de hardware van het systeem waarop Firefox draait, de prestaties van de browser, gebruiksgegevens en geïnstalleerde add-ons.

Via de optie "about:telemetry" in de adresbalk kunnen gebruikers nu ook zelf zien wat de browser naar Mozilla stuurt. Wanneer gebruikers het verzamelen en doorsturen van telemetriegegevens uitschakelen zal Firefox eerder verzamelde telemetriegegevens verwijderen. Een optie die met de lancering van Firefox 72 vorige maand werd geïntroduceerd.

Alles bij de bron; Security


 

KPN werkt samen met Tencent, de Chinese internet­gigant die in verband wordt gebracht met vergaande staatssurveillance en onderdrukking van minderheden in China. Het Nederlandse telecom­bedrijf heeft een app ontwikkeld voor het WeChat-platform gericht op Chinese reizigers. 

De app WeGoEU van KPN helpt Chinezen in Europa op weg en wijst ze bijvoorbeeld op musea, restaurants, toeristenbureaus, openbaar vervoer en hulpdiensten. Omgekeerd volgt deze digitale reisgids de Chinezen bij alles wat ze doen.

Afgaande op de privacyvoorwaarden verzamelt WeGoEU persoon­lijke gegevens zoals naam, telefoonnummer, thuisadres en e-mail. Verder worden zoekopdrachten, bezochte websites en betalingen binnen WeChat Pay en binnen de WeGoEU-app opgeslagen. Ook kan de locatie van de smartphone worden bewaard. De app verzamelt persoonsgegevens, zoals locatie en betalingen, en bewaart die in Nederlandse datacentra.

Hierbij is de Europese privacywet van kracht. De AVG trekt een virtuele grens rond de Europese Unie, die persoonsgegevens niet zomaar mogen passeren. Of een land voldoende bescherming biedt, bepaalt de Europese Commissie. Die kijkt daarvoor naar privacywetgeving, de bescherming van mensenrechten en de onafhankelijkheid van de rechtsstaat. China staat niet op de lijst met goedgekeurde landen. En dus mogen persoonsgegevens niet naar China worden verstuurd. Tencent bewaart gegevens op servers in China, meldt de privacyverklaring...

...Dat het hier om een ethisch vraagstuk gaat, is evident, zegt ­Peter-Paul Verbeek, hoogleraar filosofie van mens en techniek aan de Universiteit Twente... Ook heeft hij veel vertrouwen in het concept ethics by design. “Zorg dat de ethiek is ingebakken als je technologie ontwikkelt. Er moet een ontwerp mogelijk zijn, dat Nederlandse bedrijven in staat stelt de Chinezen te faciliteren zonder het Chinese surveillancesysteem te ondersteunen.”

Sommige werknemers van KPN hebben kritiek op de samenwerking: ‘Ons moreel kompas is de weg kwijt’. Verbeek: “Zo’n discussie is ontzettend belangrijk binnen onze democratie. Ook in het geval van KPN is het goed dat dit gesprek wordt gevoerd. Ik ken KPN ook niet als een amoreel bedrijf, maar juist als een bedrijf dat over deze dilemma’s nadenkt.”

Alles bij de bron; Trouw


  

 

Google heeft een nieuwe versie van Chrome uitgebracht die in totaal elf beveiligingslekken verhelpt, waaronder een kritieke kwetsbaarheid in de spraakherkenningsfunctie van de browser. Via dit lek is het mogelijk om systemen van Chrome-gebruikers in het ergste geval volledig over te nemen. Een aanvaller kan via dergelijke beveiligingslekken code op het systeem van gebruikers uitvoeren. Alleen het bezoeken van een kwaadaardige of gecompromitteerde website of het te zien krijgen van een besmette advertentie is voldoende. Er is geen verdere interactie vereist. 

Tevens heeft Google aan de nieuwste versie van Chrome beveiligingsmaatregelen toegevoegd die gebruikers moeten beschermen tegen het crypto-lek in Windows waarvoor deze week een patch van Microsoft verscheen. Via de kwetsbaarheid zijn man-in-the-middle-aanvallen uit te voeren en is het mogelijk om malware van een legitiem lijkende digitale handtekening te voorzien.

De overige verholpen kwetsbaarheden maakten het mogelijk om code binnen de context van de browser uit te voeren. Het is dan mogelijk om bijvoorbeeld data van andere websites te lezen of aan te passen. Updaten naar de Chrome 79.0.3945.130 zal op de meeste systemen automatisch gebeuren.

Alles bij de bron; Security


 

Google wil de ondersteuning voor cookies van derden binnen twee jaar uitfaseren in Chrome. Dit is onderdeel van het introduceren van een aantal open webstandaarden onder de noemer Privacy Sandbox, waarmee Google de privacy op het web zegt te willen verbeteren.

In tegenstelling tot concurrerende browsers zoals Firefox en Safari, gaat Google niet meteen over tot het blokkeren van de cookies. Dit zou de adoptie van vage technieken zoals fingerprinting stimuleren. Volgens Google kan dat juist de privacy en de controle van gebruikers beperken. 

Met fingerprinting wordt in feite een verzameling van vrij onschuldige variabelen en factoren bedoeld, die gezamenlijk toch kunnen leiden tot het identificeren van een unieke gebruiker. Daarbij wordt bijvoorbeeld gekeken naar kenmerken van de gebruikte computer, de browser en het surfgedrag. Voorbeelden zijn de grootte van een scherm of de versie van het gebruikte besturingssysteem. Op die manier kan een tracker met een behoorlijke mate van zekerheid uiteindelijk toch vaststellen dat het om een bepaalde gebruiker gaat, die dan ook gevolgd kan worden op het web.

Alles bij de bron; Tweakers


 

De Amerikaanse geheime dienst NSA heeft een groot lek in de beveiliging van Windows 10 ontdekt. Het gat zat in de manier waarop Windows de legitimiteit van updates controleert. De NSA heeft ontdekt dat die controle door kwaadwillenden kon worden omzeild. Op die manier zou een aanvaller ongezien spionagesoftware kunnen plaatsen.

De melding van de NSA aan Microsoft is een opmerkelijke koerswijziging. In 2011 of 2012 vond de NSA ook een gat in Windows, EternalBlue genaamd. De dienst hield de ontdekking destijds stil, zodat de eigen hackers dit lek konden gebruiken. De informatie viel uiteindelijk echter in handen van anderen. Vervolgens werd EternalBlue gebruikt om onder andere de gijzelsoftware WannaCry te verspreiden.  

Microsoft raadt Windows-gebruikers aan zo snel mogelijk de dinsdag uitgebrachte update te installeren.

Bron; TechblogVolkskrant


 

De ontwikkelaars van de omstreden app LekkerParkeren hebben aan de gemeente Den Haag laten weten te stoppen met de app waarmee ze bezoekersparkeeruren van inwoners van Den Haag doorverkopen. De gemeente waarschuwde inwoners donderdag voor de app, omdat de ontwikkelaars Hagenaars vroeg om tegen betaling de inloggegevens van hun parkeervergunning voor bezoekers in te leveren.

Vervolgens gebruikte het bedrijf de gegevens om parkeeruren, bedoeld voor bezoekers, aan gebruikers van de app door te verkopen. De gemeente waarschuwde haar inwoners dat misbruik van de bezoekersvergunning ertoe kan leiden dat de gemeente de vergunning intrekt.  

Wethouder Robert van Asten (Mobiliteit) is blij dat LekkerParkeren heeft geluisterd naar de bezwaren van de gemeente. De app kan vrijdagochtend echter nog wel gedownload worden in de App Store en de app-ontwikkelaars waren niet direct bereikbaar voor commentaar.

Alles bij de bron; NU


 

Een Spaans bedrijf ontwikkelt vanaf 2009 software die de stemming op sociale media kan beïnvloeden. Als Rusland het te pakken krijgt, blijkt het een machtig wapen te zijn. 

Het begon allemaal in 2009, zegt ­‘Carlos’. Dat jaar is ook het jaar van de digitale omwenteling: mensen gaan sociale media gebruiken. Twitter wordt in Europa ontdekt, video’s delen op YouTube begint aan een opmars en Facebook maakt voor het eerst winst. Daarmee verandert het internet­gebruik: persoonlijker, meer delen, meer via smartphones. Carlos en Julio horen dat sociale media hun klanten ook confronteren met nieuwe obstakels: klachten via sociale media kunnen het sentiment over een bedrijf razendsnel kantelen. 

Julio: ­‘Bedrijven werden bijvoorbeeld afgeperst door personen die er nooit waren geweest maar wel een slechte recensie achterlieten. In ruil voor gratis diensten konden ze de klacht verwijderen.’ Kunnen Carlos en Julio iets bedenken hiertegen?

Ze vragen in 2009 de specialisten die bij hen werken: data-analisten en software-ontwikkelaars. Kunnen die software maken die signaleert wanneer een online-storm opsteekt die schadelijk is voor een bedrijf? En kunnen zij die storm vervolgens een bepaalde kant op duwen of zelfs onschadelijk maken?

Na maanden proberen, kennen de ontwikkelaars de grenzen. Daarna schrijven ze een eigen code die inzichtelijk maakt wanneer bedrijven last kunnen krijgen van negatieve publiciteit. ­Julio: ‘We noemden het Snap, Social Networks Analysis Platform.’ Snap kan drie dingen: een online-aanval detecteren, ­registreren hoe een bericht viraal wordt en een tegenaanval organiseren.

Een aanval detecteren is één, hem ­vervolgens onschadelijk maken is ingewikkelder. Wéér bestuderen ze de eigen code en werken twee ideeën uit. De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep­accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg. Julio grijnzend: ‘Heel doeltreffend.’

De tweede reactie is geraffineerder. Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’ 

De Spanjaarden bouwen daarom een app die medewerkers van een bedrijf op hun telefoon zetten. Met die app geven ze Snap toegang tot hun Twitteraccount: als hun werkgever een Twitter-aanval wil inzetten, krijgen de medewerkers een melding en kunnen ze met één klik de gesuggereerde tweet plaatsen. De software bepaalt het juiste moment en registreert het effect. Medewerkers die vroeg opstaan en in de ochtend op sociale media actief zijn, krijgen meldingen ’s ochtends. Avondmensen in de avond. Alles om ervoor te zorgen dat de campagne zo authentiek ­mogelijk lijkt. Carlos: ‘Bij een bedrijf als Telefónica werken alleen al 1.500 personen in het callcenter. Als eenderde meedoet, heb je ruim voldoende mensen om op elk gewenst moment een boodschap trending te krijgen.’

In 2013 – na vier jaar analyseren, proberen, testen en bouwen – is Snap klaar voor gebruik. De eerste bedrijven melden zich en eind van dat jaar toont ook de Spaanse regering  interesse....

Alles bij de bron; Volkskrant [long-read]


 

Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha