Belangrijkste afhaalrestaurants
- AI-systemen die vrachtwagens in de gaten houden, bestraffen Amazon-chauffeurs onterecht, beweert een nieuw rapport.
- Het Amazon-systeem maakt deel uit van een groeiende trend van bedrijven die technologie gebruiken om hun werkgevers op afstand te monitoren.
-
Sommige AI-software stelt werkgevers in staat om continu het gedrag van werknemers op de achtergrond te volgen en patronen in hun workflow te tekenen.
Werkgevers wenden zich steeds meer tot software om werknemers op afstand te monitoren, wat aanleiding geeft tot bezorgdheid bij sommige voorstanders van privacy.
Een nieuw rapport beweert dat AI-aangedreven camera's in de bestelwagens van Amazon chauffeurs onterecht hebben bestraft. Uit het artikel bleek dat bestuurders last hadden van foutieve waarschuwingen, onjuiste scorekaarten voor bestuurders, onpraktische aannames over de verkeerssituatie en dat bestuurders praktijken aannamen om de technologie te omzeilen.
"Hoewel AI verbetert, zullen er nog steeds fouten worden gemaakt", vertelde Raymond Ku, directeur van het Center for Cyberspace Law & Policy aan de Case Western Reserve University, aan Lifewire in een e-mailinterview. "Om eerlijk te zijn, denk ik dat we allemaal geloven dat iemand die op enigerlei wijze wordt bestraft door AI-besluitvorming, hiervan op de hoogte moet worden gesteld en de kans moet krijgen om de beslissing aan te vechten."
Amazon's AI-camera's
Amazon heeft gezegd dat het als veiligheidsmaatregel AI-aangedreven camera's in zijn bestelwagens heeft geïnstalleerd. De camera's zijn bedoeld om te monitoren wanneer bezorgers gevaarlijke manoeuvres uitvoeren, zoals het rennen van stopborden of het maken van illegale U-bochten.
Wanneer de camera's mogelijke onveilige "gebeurtenissen" tijdens het rijden detecteren, spelen deze gevallen een rol in de prestatiescores van werknemers. Lagere scores verkleinen de kans dat chauffeurs bonussen, extra loon en prijzen krijgen.
Maar Amazon-chauffeurs vertelden Motherboard dat ze worden gestraft voor bepaalde rijgewoonten die als veilig worden beschouwd of waar ze geen controle over hebben. Amazon heeft niet gereageerd op een verzoek van Lifewire om commentaar.
Ku wees erop dat, aangezien de chauffeurs ermee instemden om te worden opgenomen, ze niet lijden onder een inbreuk op de privacy volgens de wet.
"Dat betekent echter niet dat de gemiddelde werknemer blij zou zijn met de bewaking of geen bezwaar zou maken als ze dat zouden kunnen", voegde hij eraan toe. "Dit is vooral het geval wanneer de bewaking inbreuk begint te maken op meer traditionele persoonlijke ruimtes."
Het rapport roept bredere vragen op over de vraag of de gegevens toegankelijk zijn en gebruikt kunnen worden in rechtszaken of door politie en federale functionarissen, vertelde advocaat voor gegevensbescherming Bethany A. Corbin aan Lifewire in een e-mailinterview. Het kan ook van invloed zijn op de aansprakelijkheid, wees ze erop.
"Bijvoorbeeld, als de AI-technologie de werknemer vertelt niet in de zijspiegels te kijken en de werknemer een ongeval krijgt als direct gevolg van dat advies, wie is dan schuldig?" Corbin toegevoegd.
Groeiend toezicht
Het toezicht stopt niet bij Amazon. Een toenemend aantal bedrijven gebruikt technologie om hun werknemers op afstand in de gaten te houden, vertelde privacy-expert Chris Hauk aan Lifewire in een e-mailinterview.
Zo gebruikt AI-marketingbedrijf Blackbelt een Allocate-tijdregistratiesysteem, waarmee het bedrijf de computeractiviteit van zijn medewerkers autonoom kan volgen en volgen. Met Workplace Analytics van Microsoft kunnen werkgevers de tijdsduur van een werknemer op websites bekijken, e-mails schrijven en meer tijdens een werkdag.
Walmart werkt ook aan een systeem dat luistert naar het geritsel van tassen of pieptonen van kassascanners om werknemersstatistieken bij te houden en ervoor te zorgen dat werknemers hun taken correct en efficiënt uitvoeren. De sensoren kunnen zelfs meeluisteren met klanten terwijl ze chatten terwijl ze in de rij staan en detecteren of medewerkers klanten al dan niet correct begroeten.
surveillance op de werkplek komt steeds vaker voor sinds het begin van de pandemie, vertelde privacy-expert Pankaj Srivastava aan Lifewire in een e-mailinterview.
"De meeste van deze technologie wordt gepositioneerd als 'verbetering van de productiviteit', maar de manier waarop sommige van deze tools werken, suggereert een grotere tolerantie van werkgevers om elke activiteit van hun personeel te controleren," voegde hij eraan toe. "Bijvoorbeeld controleren hoeveel tijd werknemers aan elke taak besteden, een foto op afstand nemen om ervoor te zorgen dat werknemers aan hun bureau zitten, en zelfs bezochte websites controleren en de toetsenbordaanslagen en muisbewegingen van een werknemer opnemen."
Hoewel AI verbetert, zullen er nog steeds fouten worden gemaakt.
Sommige AI-software stelt werkgevers in staat om continu het gedrag van werknemers op de achtergrond te volgen en patronen in hun workflow te tekenen, zei hij.
"Een werknemer kan worden ontslagen op basis van hun gepersonaliseerde prestatierapport, waarbij wordt vermeld dat het een paar minuten langer duurde om een taak te voltooien dan normaal," zei Srivastava.
"Tot ziens, badkamerpauzes."
