Belangrijkste afhaalrestaurants
- Bedrijven gebruiken kunstmatige intelligentie om hun werknemers te bewaken.
- Amazon installeerde eerder dit jaar door machine learning aangedreven camera's in zijn bestelwagens.
- AI-surveillance kan leiden tot privacy- en beveiligingsproblemen als het wordt gebruikt door gewetenloze bedrijven.
Werkgevers volgen hun werknemers steeds vaker met behulp van kunstmatige intelligentie, en waarnemers zeggen dat de praktijk privacyproblemen oproept.
Amazon installeerde eerder dit jaar door machine learning aangedreven camera's in zijn bestelwagens. Het bedrijf zei onlangs tegen zijn chauffeurs dat ze ermee moesten instemmen om ze te gebruiken. De praktijk van surveillance op het werk mag dan legaal zijn, maar niet iedereen is het erover eens dat het ethisch is.
"Bedrijven gebruiken al tientallen jaren tools voor werknemersmonitoring, maar met de voortschrijdende technologie worden ze steeds invasiever", zei Aimee O'Driscoll, een beveiligingsonderzoeker bij de technologievergelijkingswebsite Comparitech, in een e-mailinterview.
"Het monitoren van de meeste werknemers kan worden beschouwd als een inbreuk op de privacy, en men zou kunnen stellen dat wat Amazon doet niet heel veel anders is dan het hebben van CCTV-camera's op kantoor."
Word in de gaten gehouden of ontslagen
Amazon's ongeveer 75.000 bezorgers in de VS moeten nu een formulier voor "biometrische toestemming" ondertekenen. Met het toestemmingsformulier kunnen AI-aangedreven camera's de locatie, beweging en biometrische gegevens van bestuurders bekijken. Werknemers die het document niet ondertekenen, kunnen worden ontslagen.
AI-surveillance houdt alles bij wat de Amazon-chauffeurs doen en dringt de veronderstelde privacy van het onderwerp binnen, zei Chris Hauk, een privacyonderzoeker bij de privacywebsite Pixel Privacy, in een e-mailinterview.
"Dit omvat het opnemen van elke keer dat het onderwerp gaapt of een gevoelig gebied krast", voegde hij eraan toe. "Een bestuurder heeft in ieder geval enig recht op een schijn van privacy terwijl hij in zijn voertuig zit."
Werknemerssurveillance door AI is een groeiend probleem. Walmart heeft een AI-technologie gepatenteerd die het mogelijk maakt om te luisteren naar de interacties van werknemers met klanten bij de kassa's, merkte O'Driscoll op.
Softwareontwikkelaar Enaible biedt productiviteitstools op basis van AI-software. Verschillende bedrijven, waaronder Macy's, gebruiken het analysesysteem van Microsoft, dat het gedrag van werknemers kan volgen. Domino's heeft AI-technologie gebruikt om te controleren of pizza's correct zijn gemaakt.
"Een van de belangrijkste problemen is dat een gebrek aan privacy bij verkeerd gebruik kan leiden tot beveiligingsproblemen", zei O'Driscoll.
"Surveillancegegevens kunnen in de handen van criminelen terechtkomen, of slechte actoren kunnen zelf AI-surveillance gebruiken om slachtoffers aan te vallen."
Biometrische gezichtsscans resulteren in een wiskundige weergave van het gezicht van de betrokkene die kan worden gebruikt om ze voor de rest van hun leven te identificeren en te volgen, zei Ray Walsh, een privacyexpert bij de website ProPrivacy, in een e-mail interview.
"Dit brengt ernstige privacy- en veiligheidsrisico's met zich mee voor Amazon-chauffeurs wiens gegevens kunnen worden geschonden, gelekt of mogelijk zelfs gebruikt door snuffelaars van de overheid met behulp van een bevel", voegde hij eraan toe.
Omdat AI-technologie relatief nieuw is, zijn er geen concrete richtlijnen voor het gebruik ervan met betrekking tot privacy, zei O'Driscoll. "Dat gezegd hebbende, veiligheid zal waarschijnlijk altijd een legitiem excuus zijn voor inbreuk op de privacy, dus Amazon v alt onder de huidige bedoelingen", voegde ze eraan toe.
Hoewel werknemers het recht hebben om te stoppen met of in te stemmen met de voorgestelde AI-monitoring, doen ze dit ondanks een enorme machtsongelijkheid, O'Driscoll zei dat AI-surveillance gereguleerd moet worden. "Bedrijven zouden idealiter legitieme redenen (zoals veiligheid) moeten hebben voor AI-surveillance", voegde ze eraan toe.
Sommige staten hebben wetten aangenomen die het gebruik van surveillance op de werkplek beperken en reguleren, maar federale wetgeving ontbreekt, merkte Walsh op.
In 2019 werd de Algorithmic Accountability Act geïntroduceerd in het Huis en de Senaat, maar deze werd uiteindelijk verworpen. Een soortgelijke wet kan dit jaar worden ingevoerd, en "het is te hopen dat een door de Democraten geleid Congres en het Witte Huis hun kansen om te slagen kunnen vergroten", zei Walsh.
Verwacht geen privacy op het werk
Niet iedereen denkt dat Amazons toezicht op zijn chauffeurs een inbreuk op de privacy is.
"Ik denk dat het moeilijk is om te beweren dat een werknemer een redelijke verwachting heeft van privacy in een voertuig dat eigendom is van het bedrijf", zei Will Griffin, de Chief Ethics Officer van AI-bedrijf Hypergiant, in een e-mailinterview.
"De grotere zorg is dat binnen een paar jaar al deze bestuurders zullen worden vervangen door autonome voertuigen. Dus elk debat over bestuurdersbeleid zal een betwistbaar punt worden naarmate het wagenpark volledig autonoom wordt."
De Amazon-zaak benadrukt de noodzaak van een vakbond of gerichte federale interventie als een manier om het machtsevenwicht tussen de werknemers van Amazon en het bedrijf te herstellen, zei Griffin.
"Hoewel werknemers het recht hebben om te stoppen met of in te stemmen met de voorgestelde AI-monitoring, doen ze dit in het licht van een enorme machtsongelijkheid, " voegde hij eraan toe.
