Software & Algoritmes

Privacy Company constateerde zes hoge en drie lage privacyrisico's bij een data protection impact assessment voor de mobiele apps voor Office 365 en Office for Web. Het bedrijf voerde die beoordeling uit in opdracht van het Ministerie van Justitie en Veiligheid, dat via zijn Strategisch Leveranciersmanagement Microsoft Rijk afspraken met Microsoft maakt over gebruik van software en diensten voor werkplekken.

Privacy Company bekeek de apps Word, PowerPoint, Outlook, Excel en Teams, in combinatie met online diensten als de spellingchecker, SharePoint Online, OneDrive for Business, Azure Active Directory en Exchange Online. De mobiele Office-apps en Office for Web verzamelen namelijk telemetriegegevens en sturen deze door naar Microsoft-servers. Privacy Company analyseerde de risico’s van de verwerking van deze diagnostische gegevens, niet die van inhoudelijke gegevens.

Daarbij constateerde het bedrijf onder andere dat Microsoft bij Office for the Web persoonsgegevens naar Optimizely en Giphy en bij de mobiele apps verkeer naar zes andere bedrijven stuurt. Geen van deze bedrijven zijn verwerkers en het risico bestaat dat via deze weg gepseudonimiseerde gegevens misbruikt kunnen worden. Sommige telemetriegegevens bleken inhoudelijke gegevens zoals bestands- en gebruikersnamen te bevatten en bij Office for the Web en de mobiele Teams, OneDrive en Office hadden beheerders geen optie om die telemetriedoorgifte te minimaliseren. Privacy Company spreekt onder meer over gebrek aan transparantie over de verzamelde diagnostische gegevens

Microsoft belooft na gesprekken met SLM Microsoft Rijk nog voor het einde van de zomer maatregelen voor drie van de zes hoge risico's door te voeren. De rest volgt later dit jaar. De maatregelen gelden uitsluitend voor Office-diensten en -apps die overheidsorganisaties gebruiken. Privacy Company adviseert bedrijven en organisaties die geen deel uitmaken van de Rijksoverheid via bijvoorbeeld vakorganisaties vergelijkbare privacygaranties te bedingen.

Privacy Company nam ook Microsofts Intune voor beheer van mobiele apparaten onder de loep. Daar kwamen vijf lage privacyrisico's uit. Een van de risico's kwam bijvoorbeeld doordat systeembeheerders de status van een apparaat ongemerkt kunnen wijzigen van ‘persoonlijk’ naar ‘zakelijk’, waarna ze alle geïnstalleerde apps op een apparaat kunnen zien.

Alles bij de bron; Tweakers


 

Afgelopen week presenteerde STT de resultaten van haar laatste studie over artificiële intelligentie. Projectleider Rudy van Belkom verdiepte zich afgelopen anderhalf jaar in wat AI nu werkelijk is en welke toekomstbeelden kunnen worden geschetst.

Van utopie tot dystopie; van ideale wereld tot een afschrikwekkende toekomst. Of vanuit een beginselfilosofie – stelen mag niet – tot een gevolgfilosofie – Robin Hood stal van rijken om armen geld te geven. Hoe moet een systeem reageren op situaties waar wij als mens allerhande ethische overwegingen bij hebben.

De titel ‘AI heeft geen stekker meer’ is een knipoog naar een situatie waar techniek zelfstandig beslissingen gaat nemen en we als mens de stekker van het apparaat niet meer uit het stopcontact kunnen trekken. De techniek neemt het over van de mens....

...Het tweede deel van de toekomstverkenning had de titel ‘De computer zegt nee’. Welk gezag geven we de computer om iets te vinden, te zeggen of om te beslissen? De komst van AI maakt deze ‘nee-zeggende’ computer ernstiger, omdat het dan vaak niet om ‘aantoonbare en bewijsbare’ fouten gaat. Omdat het nu om een veel abstractere opinie, mening, conclusie of gevolgtrekking gaat, die volledig onvolledig, fout of misplaatst kan zijn.

...Hoe gaan we onze onwetende computers normen, waarden en moraal leren en meegeven? Dat is de focus van het laatste deel van deze studie “AI heeft geen stekker meer’, over de ethiek in het ontwerpproces. In een eerdere blog beschreef ik dat het Engelse ‘intelligence’ naast intelligentie ook inlichtingen betekent. Een intelligence agency is een inlichtingendienst en dus is artificial intelligence ook het automatisch verzamelen van inlichtingen. En dat heeft (nog) weinig met menselijke intelligentie te maken. We spreken ook vaak over ‘machine intelligence of learning’, slimme machines die zelfstandig besluiten kunnen (en mogen) nemen. Ik heb dat ook in een blog weleens ‘toegevoegde intelligentie’ genoemd.

Een belangrijk deel van het afsluitende deel van deze studie was de ethiek in het ontwerpen van AI-systemen. Over uitlegbare richtlijnen, over privacy-beperkingen, over open en eerlijke algoritmes, over complexe, ondoorgrondelijke wiskundige modellen, over de uitlegbaarheid en accuraatheid. Een uitspraak in de studie is dat niet ethici maar ingenieurs aan de frontlinie van de ethiek staan. Zij bepalen wat een systeem wel of niet kan, wat de software wel of niet overweegt, wat het systeem wel of niet kan doen, wat een machine in een noodsituatie zal doen en hoe de techniek uiteindelijk kan worden gebruikt. De techniek is uiteindelijk ‘slechts’ een gereedschap voor mensen die besluiten nemen, die techniek wel of niet inzetten en daarmee de besluiten wel of niet aan die machines overlaten.

De conclusie van de studie stelt dat AI verder gaat dan technologie en filosofie. Ontwikkeling van AI heeft impact op de hele samenleving. De manier hoe we samenleven en samenwerken, onderlinge communicatie en besluitvorming, onze keurmerken en certificaties en breed gedragen standaarden en governance. Wellicht zoals de Echternach-processie met drie stappen vooruit en twee stappen achteruit; accepteren dat als iets niet goed uitpakt, je stappen terug moet durven doen.

Daarnaast dienen er betrokken stakeholders te zijn die in staat zijn die waarden en belangen in hun context te beoordelen. Een hele opgave, omdat we hier aan de wortels van onze maatschappij en samenleving staan en ‘fairness’ moeten beoordelen van gemaakte techniek. Eigenlijk de uitvoering van de motie die de Eerste Kamer in 2014 daarover al aannam onder de werktitel: ethische digitalisering.

Alles bij de bron; DutchIT [long-read]


 

Big data en artificial intelligence (AI): volgens verzekeraars en hun adviseurs kunnen deze technologieën de redding worden voor de niet al te goed renderende sector.

Verzekeraars houden zich al sinds hun ontstaan bezig met risicostatistieken. De verwachting is echter dat zelflerende computers de steeds grotere hoeveelheden schade- en klantendata beter kunnen analyseren. Verzekeraars kunnen dankzij de nieuwe technieken efficiënter schades vergoeden en beter fraude opsporen.

Maar er kleven ook vertrouwensrisico’s aan de inzet van big data en kunstmatige intelligentie. 

Kloppen de gegevens die in de systemen worden gezet wel? Blijft iedereen wel verzekerbaar als verzekeraars alles weten? Sluipen er geen ongewenste vooroordelen in de technologie, omdat de ontwerpers zich niet bewust zijn van hun eigen vooroordelen? Als verzekeraars de technieken verkeerd inzetten, kan dat discriminatie en onverzekerbaarheid in de hand werken, waarschuwden toezichthouders De Nederlandsche Bank en de Autoriteit Financiële Markten (AFM) een jaar geleden: „Het is van belang dat AI wordt ingezet op een manier die verantwoord en in lijn is met de eisen rondom integere en beheerste bedrijfsvoering, productontwikkeling en zorgplicht.”

Beleidsadviseur van het Verbond van Verzekeraars Jos Schaffers: „Er is echt vrees voor het gebruik van data. Klanten zijn bang dat ze aanlopen tegen ‘computer says no’. Dat is wat we ultiem willen bestrijden.”

Alles bij de bron; NRC


 

Apple werkt al jaren aan een sterk privacy-fundament en iOS 14 bouwt daarop voort. De grote iPhone software-update verschijnt dit najaar en heeft meerdere manieren waarop jouw privacy wordt beschermd. In dit artikel komen de 5 belangrijkste privacyverbeteringen van iOS 14 voorbij.

1. Locatie altijd of nooit doorgeven; Je kunt aangeven of een app altijd toestemming tot je locatie krijgt maar ook apps een compleet verbod opleggen.

2. Precieze locatie blijft geheim; ‘Locatie bij benadering’. Deze functie laat apps ongeveer weten waar jij uithangt, zonder specifiek te worden. 

3. Foto’s afschermen; Apps die toegang willen tot je camerarol moeten hier al langer toestemming voor vragen. iOS 14 zet de volgende stap door deze toestemming op fotoniveau te vragen. 

4. Geen spionage; Wanneer een app in iOS 14 je iPhone-camera of -microfoon gebruikt begint er een lampje te branden in de balk bovenaan het scherm. Op die manier kunnen apps je niet heimelijk in de gaten houden.

5. Tracking uitzetten; iOS 14 geeft je een seintje als een app of website trackers op je telefoon probeert te plaatsen. Vervolgens kun je zelf kiezen of je hier akkoord mee gaat, of niet.

6. Privacyscherm in App Store; Er komt een apart ‘privacyscherm’ bij in de App Store. Hierin staat per app welke gegevens de ontwikkelaar van je nodig heeft. Zo kun je op voorhand beslissen of je een app wel of niet vertrouwt met je persoonlijke informatie.

Alles bij de bron; IPhoned


 

Veertig procent van de Nederlandse eigenaren van een smartphone is vanaf september niet meer te tracken om reclamedoeleinden. Apple maakt het kunnen uitlezen van de Advertising ID in iOS 14 dan opt-in, iets dat vrijwel niemand zal doen.

Het is niet zo dat eigenaren van een iPhone of iPad geen reclame meer te zien krijgen. Wel is het zo, dat adverteerders expliciet toestemming moeten hebben om app- en webgebruikers te kunnen profileren. Dat doen ze nu om personen te detecteren voor wie hun reclameboodschappen interessant kunnen zijn.

Apple was eerder al een van de eersten om tracking te blokkeren; in de desktopclient. Anderen volgden daarna. Marktleider Google Chrome volgt als laatste grote browsermaker in de loop van volgend jaar. Dat markeert het einde van een jarenlange praktijk van het soms opdringerig volgen van internetters met reclameboodschappen en ronduit uitbundig aanleggen van gedrag- en interesseprofielen.

Alles bij de bron; Emerce


 

Nederlanders zijn sterk verdeeld over het installeren van een corona-app van de overheid. 

Uit onderzoek onder 926 deelnemers, uitgevoerd door verschillende universiteiten blijkt dat Nederlanders zeer verschillend denken over de wenselijkheid van de corona-app waar de overheid aan werkt. Een groep van ongeveer een derde geeft aan de app als een effectief middel te zien om het coronavirus in te dammen en om zoveel mogelijk besmettingen te voorkomen.

Daar tegenover staat een even grote groep tegenstanders die aangeeft de app in geen geval te installeren. Daarbij noemt de groep de inbreuk op de privacy als belangrijk bezwaar. "Zij vergelijken de corona-app met de Jodenster en 'Big Brother' uit de roman ‘1984'. Daarbij zijn de respondenten van mening dat de introductie van de app tegen grondrechten en de grondwet ingaat." Ook de twijfelaars staan negatief tegenover de installatie.

Alles bij de bron; Tweakers


 

De Belgische spoorbeheerder Infrabel test camera's en sensoren die herkennen of het personeel mondkapjes draagt en voldoende afstand van elkaar houdt. Ook het niet goed dragen van een mondkapje kan worden herkend. Zodra de sensoren een "abnormale situatie" detecteren geven ze een waarschuwing.

In een persbericht (pdf) schetst Infrabel een scenario waarbij de camera's en sensoren permanent de ruimtes scannen om misstanden te detecteren en personeel te waarschuwen. "Een sensor die permanent de ruimte scant, ontdekt een abnormale situatie: twee personen bevinden zich, misschien wel onbewust, op 1m15 van mekaar. Of, er zijn bijvoorbeeld te veel mensen aanwezig in het lokaal."

Het systeem is zelfs in staat om te kijken of en hoe mensen een mondkapje dragen. "Een sensor, gekoppeld aan artificiële intelligentie, kan mensen eruit pikken die geen mondmasker dragen. Het is zelfs in staat om te zien wanneer het mondmasker slecht gedragen wordt (bijvoorbeeld wanneer de neus nog zichtbaar is boven het masker). Het systeem geeft dan ook de nodige veiligheidsaanbevelingen." Een door Infrabel zelf ontwikkeld algoritme berekent aan de hand van camerabeelden de afstand tussen medewerkers.

Volgens het bedrijf voldoet het systeem aan de AVG. Naast de camera's en sensoren wordt een deel van het personeel uitgerust met polsbandjes die een waarschuwing geven wanneer personeel te dicht bij elkaar komt. 

Alles bij de bron; Security


 

Voor het eerst in jaren is er weer een jailbreak op basis van een zero day, zo zegt de maker Unc0ver. Vanaf 2015 zette Apple flinke stappen om iOS veiliger te maken, met als resultaat dat veiligheidslekken minder voorkwamen. Dit had als resultaat dat ook jailbreaken steeds lastiger werd.

Het afgelopen jaar lijkt echter een kantelpunt. Er lijken meer zero days dan ooit te zijn. Zo claimt Zerodium, dat handelt in zero days, dat het stopt met het aankopen van deze 'onbekende' kwetsbaarheden - het aanbod is simpelweg te groot. Apple lijkt dus steeds meer gaten in zijn beveiliging te hebben. Dit maakt het voor hobbyisten mogelijk om aanpassingen te doen, maar wellicht belangrijker stelt het onderzoekers in staat om het gesloten besturingssysteem door te lichten op veiligheidsproblemen.

Deze jailbreak is relatief geavanceerd en werkt van iOS 11 tot de meest recente versie. Installeren gaat via de bekende AltStore of Cydia, maar het blijft niet in stand na een reboot. Wel blijven de bestanden aanwezig, waardoor het opnieuw uitvoeren daarvan wederom een jailbreak oplevert.

Volgens de maker worden de beveiligingsmechanismen van iOS niet aangetast en tast het de accuduur niet aan. Apple-diensten blijven gewoon bruikbaar, zoals iCloud, Apple Pay en iMessage. Ook de dataprotectie en sandbox blijven in stand, waardoor persoonlijke data veilig zou blijven. Dit moet uiteraard nog getest worden en deze tool is niet open source. Voor de zekerheid melden we dus maar dat installeren echt op eigen risico is.

Alles bij de bron; HardwareInfo


 

Abonneer je nu op onze wekelijkse nieuwsbrief!
captcha