Belangrijkste leerpunten
- Bedrijven gebruiken kunstmatige intelligentie om hun werknemers te bewaken.
- Amazon installeerde eerder dit jaar door machine learning aangedreven camera’s in zijn bestelwagens.
- AI-surveillance kan leiden tot privacy- en beveiligingsproblemen als het wordt gebruikt door gewetenloze bedrijven.
Werkgevers volgen hun werknemers steeds vaker met behulp van kunstmatige intelligentie, en waarnemers zeggen dat de praktijk privacyproblemen oproept. Amazon installeerde eerder dit jaar door machine learning aangedreven camera’s in zijn bestelwagens. Het bedrijf vertelde zijn chauffeurs onlangs dat ze ermee moesten instemmen om ze te gebruiken. Surveillance op het werk mag dan legaal zijn, niet iedereen is het erover eens dat het ethisch is. “Bedrijven gebruiken al tientallen jaren tools voor het monitoren van werknemers, maar met de voortschrijdende technologie worden ze invasiever”, zei Aimee O’Driscoll, een beveiligingsonderzoeker bij de technologievergelijkingswebsite Comparitech, in een e-mailinterview. “De meeste monitoring van werknemers kan worden beschouwd als een inbreuk op de privacy, en men zou kunnen stellen dat wat Amazon doet niet heel veel anders is dan het hebben van CCTV-camera’s op kantoor.”
Worden bekeken of ontslagen worden
De ongeveer 75.000 bezorgers van Amazon in de VS moeten nu een formulier voor “biometrische toestemming” ondertekenen. Met het toestemmingsformulier kunnen AI-aangedreven camera’s de locatie, beweging en biometrische gegevens van bestuurders bekijken. Werknemers die het document niet ondertekenen, kunnen worden ontslagen. AI-surveillance volgt alles wat de Amazon-chauffeurs doen en dringt de veronderstelde privacy van het onderwerp binnen, zei Chris Hauk, een privacyonderzoeker bij de privacywebsite Pixel Privacy, in een e-mailinterview. “Dit omvat het opnemen van elke keer dat het onderwerp gaapt of een gevoelig gebied krast”, voegde hij eraan toe. “Een chauffeur heeft in ieder geval enig recht op een schijn van privacy terwijl hij in zijn voertuig zit.”
Medewerkerstoezicht door AI is een groeiend probleem. Walmart heeft een AI-technologie gepatenteerd die het mogelijk maakt om te luisteren naar de interacties van werknemers met klanten bij de kassa, merkte O’Driscoll op. Softwareontwikkelaar Enaible biedt productiviteitstools op basis van AI-software. Verschillende bedrijven, waaronder Macy’s, gebruiken het analysesysteem van Microsoft, waarmee het gedrag van werknemers kan worden gevolgd. Domino’s heeft AI-technologie gebruikt om te controleren of pizza’s correct worden gemaakt. “Een van de belangrijkste problemen is dat een gebrek aan privacy bij verkeerd gebruik kan leiden tot beveiligingsproblemen”, zegt O’Driscoll. “Surveillancegegevens kunnen in handen van criminelen komen, of slechte actoren kunnen zelf AI-surveillance gebruiken om slachtoffers te targeten.” Biometrische gezichtsscans resulteren in een wiskundige weergave van het gezicht van de betrokkene die kan worden gebruikt om ze voor de rest van hun leven te identificeren en te volgen, zei Ray Walsh, een privacyexpert bij de website ProPrivacy, in een e-mailinterview. “Dit brengt ernstige privacy- en beveiligingsrisico’s met zich mee voor Amazon-chauffeurs wiens gegevens kunnen worden geschonden, gelekt of mogelijk zelfs gebruikt door snuffelaars van de overheid met behulp van een bevel”, voegde hij eraan toe. Omdat AI-technologie relatief nieuw is, zijn er geen concrete richtlijnen voor het gebruik ervan met betrekking tot privacy, zei O’Driscoll. “Dat gezegd hebbende, veiligheid zal waarschijnlijk altijd een legitiem excuus zijn voor privacyschending, dus Amazon valt onder de huidige bedoelingen”, voegde ze eraan toe. “Hoewel werknemers het recht hebben om te stoppen met of in te stemmen met de voorgestelde AI-monitoring, doen ze dit in het licht van een enorme machtsongelijkheid”, zei O’Driscoll dat AI-surveillance moet worden gereguleerd. “Bedrijven zouden idealiter legitieme redenen (zoals veiligheid) moeten hebben voor AI-surveillance”, voegde ze eraan toe. Sommige staten hebben wetten aangenomen die het gebruik van surveillance op de werkplek beperken en reguleren, maar federale wetgeving ontbreekt, benadrukte Walsh. In 2019 is de Wet Algoritmische Verantwoording ingevoerd in de Tweede en Eerste Kamer, maar deze is uiteindelijk verworpen. Een soortgelijke wet kan dit jaar worden ingevoerd, en “het is te hopen dat een door de Democraten geleid Congres en het Witte Huis hun kansen om te slagen vergroten”, zei Walsh.
Verwacht geen privacy op het werk
Niet iedereen denkt dat Amazon’s surveillance van zijn chauffeurs een inbreuk op de privacy is. “Ik denk dat het moeilijk is om te beweren dat een werknemer een redelijke verwachting heeft van privacy in een voertuig dat eigendom is van het bedrijf”, zei Will Griffin, de Chief Ethics Officer van AI-bedrijf Hypergiant, in een e-mailinterview. “De grotere zorg is dat binnen een paar jaar al deze chauffeurs zullen worden vervangen door autonome voertuigen. Dus elk debat over het bestuurdersbeleid zal een betwistbaar punt worden naarmate het wagenpark volledig autonoom wordt.” De Amazon-zaak benadrukt de noodzaak van een vakbond of gerichte federale interventie als een manier om het machtsevenwicht tussen de werknemers van Amazon en het bedrijf te herstellen, zei Griffin. “Hoewel werknemers het recht hebben om te stoppen met of in te stemmen met de voorgestelde AI-monitoring, doen ze dit in het licht van een enorme machtsongelijkheid”, voegde hij eraan toe.
