Een Spaans bedrijf ontwikkelt vanaf 2009 software die de stemming op sociale media kan beïnvloeden. Als Rusland het te pakken krijgt, blijkt het een machtig wapen te zijn.
Het begon allemaal in 2009, zegt ‘Carlos’. Dat jaar is ook het jaar van de digitale omwenteling: mensen gaan sociale media gebruiken. Twitter wordt in Europa ontdekt, video’s delen op YouTube begint aan een opmars en Facebook maakt voor het eerst winst. Daarmee verandert het internetgebruik: persoonlijker, meer delen, meer via smartphones. Carlos en Julio horen dat sociale media hun klanten ook confronteren met nieuwe obstakels: klachten via sociale media kunnen het sentiment over een bedrijf razendsnel kantelen.
Julio: ‘Bedrijven werden bijvoorbeeld afgeperst door personen die er nooit waren geweest maar wel een slechte recensie achterlieten. In ruil voor gratis diensten konden ze de klacht verwijderen.’ Kunnen Carlos en Julio iets bedenken hiertegen?
Ze vragen in 2009 de specialisten die bij hen werken: data-analisten en software-ontwikkelaars. Kunnen die software maken die signaleert wanneer een online-storm opsteekt die schadelijk is voor een bedrijf? En kunnen zij die storm vervolgens een bepaalde kant op duwen of zelfs onschadelijk maken?
Na maanden proberen, kennen de ontwikkelaars de grenzen. Daarna schrijven ze een eigen code die inzichtelijk maakt wanneer bedrijven last kunnen krijgen van negatieve publiciteit. Julio: ‘We noemden het Snap, Social Networks Analysis Platform.’ Snap kan drie dingen: een online-aanval detecteren, registreren hoe een bericht viraal wordt en een tegenaanval organiseren.
Een aanval detecteren is één, hem vervolgens onschadelijk maken is ingewikkelder. Wéér bestuderen ze de eigen code en werken twee ideeën uit. De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nepaccounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg. Julio grijnzend: ‘Heel doeltreffend.’
De tweede reactie is geraffineerder. Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’
De Spanjaarden bouwen daarom een app die medewerkers van een bedrijf op hun telefoon zetten. Met die app geven ze Snap toegang tot hun Twitteraccount: als hun werkgever een Twitter-aanval wil inzetten, krijgen de medewerkers een melding en kunnen ze met één klik de gesuggereerde tweet plaatsen. De software bepaalt het juiste moment en registreert het effect. Medewerkers die vroeg opstaan en in de ochtend op sociale media actief zijn, krijgen meldingen ’s ochtends. Avondmensen in de avond. Alles om ervoor te zorgen dat de campagne zo authentiek mogelijk lijkt. Carlos: ‘Bij een bedrijf als Telefónica werken alleen al 1.500 personen in het callcenter. Als eenderde meedoet, heb je ruim voldoende mensen om op elk gewenst moment een boodschap trending te krijgen.’
In 2013 – na vier jaar analyseren, proberen, testen en bouwen – is Snap klaar voor gebruik. De eerste bedrijven melden zich en eind van dat jaar toont ook de Spaanse regering interesse....
Alles bij de bron; Volkskrant [long-read]
Veel smartphones, maar ook andere slimme apparaten, raken al snel verouderd omdat de fabrikant maar korte tijd updates levert. Terwijl de hardware van het apparaat nog probleemloos functioneert, is de gebruiker min of meer verplicht een nieuw toestel aan te schaffen als hij het veilig wil blijven gebruiken. Want ook geconstateerde en onder hackers bekende veiligheidslekken worden niet meer gerepareerd.
Om consumenten beter te beschermen nam Nederland het initiatief voor Europese regelgeving die leveranciers gaat verplichten om gedurende een redelijke termijn ervoor te zorgen dat elk apparaat up-to-date en veilig te gebruiken blijft. Leveranciers worden niet verplicht om updates met nieuwe functionaliteit te leveren. Wel moet een apparaat minimaal blijven functioneren op hetzelfde niveau als ten tijde van de aankoop. Dat houdt onder andere in dat veiligheidslekken gerepareerd moeten worden.
Het is nog niet bekend hoe lang leveranciers verplicht worden om geleverde apparaten up-to-date te houden. In het wetsvoorstel wordt gesproken over een periode ‘die de consument redelijkerwijs kan verwachten’.
Alles bij de bron; BeveilNieuws
...de Amerikaanse godfather van de virtual reality, een van de invloedrijkste digitale denkers ter wereld, heeft een oplossing voor de manipulatiemachine van de grote techbedrijven. ‘Het is hoog tijd voor een humanere digitale samenleving.’
...Tegenwoordig gaat veel van zijn tijd naar nadenken over hoe de hedendaagse internetbedrijven mensen in de luren leggen met hun algoritmes. ‘Er is iets met de huidige digitale technologie dat ons gek maakt en ons verhindert te focussen op de echte problemen en uitdagingen’, zegt Lanier.
Sociale media noemt hij ‘behavioral manipulation empires’ die van ons ‘assholes’ maken: ze zijn ontworpen om ons constant te surveilleren en in te spelen op negatieve gevoelens als angst en irritatie die zich als een sneeuwbal versterken. Het is ook het thema van zijn recentste boek: ‘Ten Reasons to Delete your Social Media Accounts Right Now’. Samengevat: telkens als twee mensen op deze planeet met elkaar willen communiceren, wordt dat gefinancierd door een derde partij die de twee andere manipuleert. Die derde partij waar Lanier het over heeft, zijn de sociale media (lees: Facebook) die wij gebruiken om met elkaar contact te houden, maar die een financiële motivatie hebben om ons aan het lijntje te houden....
....Die oplossing bestaat in wat Lanier ‘data dignity’ noemt. De gratiscultuur op het internet - waarbij alles voor niks is in ruil voor de inzameling van persoonlijke gegevens - moet eruit. Mensen moeten betaald worden voor hun data, want die zijn wel degelijk geld waard, en mensen moeten zelf betalen om onlinediensten als Google en Facebook te gebruiken, stelt Lanier voor. ‘Mensen zijn duidelijk bereid om te betalen voor de videostreamingdienst Netflix. Dus dan kan het ook voor sociale media of zoekopdrachten.’
Alles bij de bron; deTijd
Te gevaarlijk om los te laten in de echte wereld. Zo beschreef onderzoeksgroep OpenAI begin dit jaar haar nieuwste algoritme. Het systeem kan vrijwel vanuit het niets complete teksten van a tot z aan elkaar verzinnen, als alles goed verloopt. Ondanks het gevaar is het algoritme tóch uitgebracht. Het algoritme kan worden ingezet bij de productie van spammails, phishing, nepnieuws en propaganda.
Volgens OpenAI is het mogelijk om racistische, marxistische, jihadistische en anarchistische propaganda te maken met het systeem. Voer een titel in en GPT-2 schrijft er een heel artikel over. Schrijf een dichtregel en GPT-2 maakt zelf het gedicht af. Eerdere systemen verloren halverwege een zin de draad of maakten vreemde grammaticale fouten. Volgens OpenAI is het moeilijk te ontdekken dat het om nepberichten gaat.
De techniek kan ook worden ingezet voor het verbeteren van vertaalmachines, het ontwikkelen van slimme schrijfhulpjes en om spraakassistenten zoals Siri (Apple) en Google Assistant beter te laten functioneren.
Alles bij de bron; HLN
Fraude en ander bedrog met deepfake nemen snel toe. Terwijl kinderen op Instagram al lang creatief anoniem blijven. Ondertussen wenst Europa een leugendetector gericht tegen ongewenste immigratie. Wat is het verband?...
...Instagram is bij uitstek het domein van het spelen met gezichten die allerhande andere vormen krijgen. Kinderen doen het al zo lang, als ‘serious game’. ‘Kijk pap’, en dan heeft ze m’n portret voorzien van een rare bril, ingevallen wangen en een vrouwenmond; hoe dan ook net nog herkenbaar als m’n ‘identiteit’, of al niet meer. Zo vlot als dat aannemen van verhulde identiteiten gaat, mede om privacy te beschermen, kunnen ouderen nog maar nauwelijks bevatten...
...Generative Adversarial Networks passen machineleren toe met een ‘botsing’ van neurale netwerken, die bijvoorbeeld nieuwe geloofwaardige identiteiten kweken vanuit portretfoto’s.... De levensechte portretten zijn voor talloze vormen van bedrog te gebruiken, voor trollen op Twitter tot smoeltjes op datingsites zoals Tinder. De geloofwaardigheid van de bedreigers neemt veel sneller toe dan de argwaan van de slachtoffers. Het gesol met beelden leidde recent tot een fraai verhaal over datingfraude in de Twentse krant Tubantia. Digitaal bedrog in velerlei variaties trof in 2018 8,5 procent van de Nederlanders, aldus het CBS. Dus dient zich ook de volgende kat-en-muis strijd aan met online misdaad. Hoe herkennen we deepfakes (Nederlands: diepbedrog?) en bestrijden we het misbruik?...
...Een derde opvallend onderwerp dat hiermee samenhangt, bracht The Intercept een artikel over Silent Talker. Dit is het systeem voor leugendetectie van de Europese Unie dat aan de paspoortcontrole een interview toevoegt waarvan de antwoorden kunnen leiden tot bestempeling van een persoon tot een ‘risico’. Dat leidt tot extra controle... Het systeem, ontwikkeld door de Manchester Metropolitan University, zou 90 procent van de leugens detecteren. Voor de Europese test in het kader van het iBorderCtrl programma, die eind augustus 2019 afliep, is de vraag of het systeem betrouwbaar genoeg is. Welke foutenmarge daartoe wordt gebruikt, is niet bekend...
...Deepfakes om identiteiten en de meeste evidente persoonsgegevens zoals gezocht en stem te fingeren oftewel vervalsen. En aan de andere kant machines die ons gedrag gaan beoordelen op waarachtigheid. Waarheen gaat dit? Met welke doelen gaan we dit alles gebruiken?
Tot wat voor wereld zal dit leiden? Is de huidige politiek met lieden voor wie het onderscheid tussen leugen en waarheid er niet meer toe lijkt te doen, een vruchtbare voedingsbodem voor de ‘succesvolle’ toepassing van nieuwe technologie? Hoe lopen technologische ontwikkeling en maatschappelijke trends parallel en werken ze op elkaar in?
Een mooie herfstvakantie in de natuur van de Biesbosch bracht geen antwoorden.
Alles bij de bron; Netkwesties
Het Nederlands rechtsstelsel is niet klaar voor big data, schrijven wetenschappers. De wet beschermt het individu, terwijl algoritmen juist groepen mensen discrimineren. Ze doen 13 concrete voorstellen voor wetgeving die data-analyse moet reguleren
Het huidige Nederlandse rechtsstelsel biedt burgers nauwelijks bescherming in een samenleving die zich toenemend door algoritmes laat aansturen. Die conclusie trekken onderzoekers Bart van der Sloot en Sascha van Schendel van de Universiteit Tilburg.
In hun rapport 'De Modernisering van het Nederlands Procesrecht in het licht van big data', schrijven ze dat vooral groepen burgers het nakijken hebben in een maatschappij waar zowel de overheid als bedrijven hun beslissingen vaker overlaten aan 'big data', een verzamelterm voor het vergaren en analyseren van grote hoeveelheden persoonsgegevens.