Belangrijkste afhaalrestaurants
- Een reeks nieuwe apps kan mogelijk de emoties van de leerlingen detecteren.
- Intel en klassoftwaremaker Class ontwikkelen naar verluidt software die de gezichten en lichaamstaal van digitale studenten bewaakt.
- Sommige experts zijn bezorgd dat het gebruik van AI om studenten te monitoren kan leiden tot inbreuken op de privacy.
Scholen kunnen binnenkort kunstmatige intelligentie (AI) gebruiken om de emotionele toestanden van leerlingen te volgen.
Intel en klassoftwaremaker Class ontwikkelen software die de gezichten en lichaamstaal van digitale leerlingen bewaakt. Het systeem kan naar verluidt detecteren of studenten zich vervelen, afgeleid of verward zijn, maar sommige experts zijn bezorgd dat de software kan leiden tot inbreuken op de privacy.
"Dergelijke op AI gebaseerde monitoringproducten moeten transparant zijn over hoe deze gegevens worden gebruikt", vertelde Michael Huth, mede-oprichter van het bedrijf Xayn en hoofd van de computerafdeling van Imperial College London, in een e-mail aan Lifewire interview. "Als het wordt gebruikt om betrokkenheid bij een studentencohort te volgen, waar betrokkenheid op individueel niveau niet wordt vastgelegd, is dit vanuit privacyperspectief iets minder problematisch. Als een van deze gegevens echter zou worden gebruikt om de beoordeling van studenten te beïnvloeden, zou ik kan allerlei problemen zien ontstaan."
Kijken over studenten
Class en Intel zijn een samenwerking aangegaan om een op AI gebaseerde technologie te integreren die samen met de videoconferentiesoftware Zoom draait, meldt Protocol. De software kan worden gebruikt om studenten te volgen, aldus het rapport.
"Door onze samenwerking met Intel kunnen we nieuwe, meeslepende functies toevoegen aan Class'-software die wordt aangedreven door door onderzoek ondersteunde functionaliteiten", aldus de website van het bedrijf. "We zullen ook samenwerken met Intel om middelen te benutten en docenten en studenten waardevolle inzichten, gezamenlijke casestudy's, whitepapers, webinars en nog veel meer te bieden."
Intel vertelde Protocol dat de klassoftware zich in een vroeg stadium bevindt en dat er geen plannen zijn om het product op de markt te brengen.
De samenwerking met Class is niet de enige mogelijke samenwerking tussen Intel's software voor het lezen van emoties en andere fabrikanten. Een online brochure van Intel noemt een nieuw elektronisch whiteboard genaamd Viewboard gericht op scholen. Intel-software "maakt het voor myViewboard mogelijk om de emotionele toestanden van leerlingen te beoordelen en weer te geven als directe feedback voor docenten", aldus de brochure.
Class is een van de vele softwareproducten die beweren de emoties van leerlingen te volgen met behulp van AI. Er is ook 4Little Trees, een leerplatform voor emotiedetectie dat "een virtuele onderwijsassistent is [die] zou helpen door de meest geschikte vragen voor je te kiezen of je uit te dagen wanneer dat nodig is", aldus de website van het bedrijf.
Ashish Fernando, de CEO van AI-bedrijf iSchoolConnect, vertelde Lifewire in een e-mailinterview dat AI kan worden getraind om menselijk gedrag en functies te beoordelen zonder de impact van subjectieve vooroordelen die individuen hebben.
"AI kan een aanzienlijk groter aantal menselijk gedrag beoordelen, inclusief gemakkelijk te missen micro-expressies, veel sneller dan een mens", zei Fernando. "Waar feedback uren had kunnen duren, kan AI nu binnen een paar minuten hetzelfde bieden."
Privacykwesties
Het gebruik van AI om mensen te monitoren groeit. Snapchat heeft AI-technologie die het emotionele niveau van een groep mensen bij een live-evenement beoordeelt. Mad Street Den gebruikt computer vision AI om retailers te helpen de gezichtsuitdrukkingen en emoties van potentiële kopers te herkennen. BrainQ maakt gebruik van AI om te begrijpen hoe passagiers omgaan met de autonome voertuigen die ze gebruiken. En bedrijven gebruiken AI om vermoeidheid van chauffeurs op te sporen.
"Dit is een geweldige use-case voor verkeersveiligheid, maar het roept vragen op over de privacyrechten van bestuurders in hun persoonlijke voertuigen", zei Huth. "Wordt informatie over vermoeidheid gedeeld met de verzekeringsmaatschappij of de autofabrikant? Of waarschuwt het de chauffeur alleen maar om te stoppen en uit te rusten? Dit is minder een probleem voor commerciële wagenparken zoals vrachtwagens, bestelwagens of taxi's."
Een probleem is dat de informatie van AI, zoals spierbewegingen om de emotionele toestand af te leiden, misschien niet betrouwbaar is, zei Huth. "Dit creëert een dilemma, omdat voor een betrouwbaardere AI mogelijk toegang nodig is tot nog gevoeligere gegevens zoals EEG-signalen", voegde hij eraan toe.
Voor studenten kan AI handig zijn om de naleving te controleren tijdens online examens wanneer een surveillant niet fysiek aanwezig kan zijn. Maar dit gebruik van AI hiervoor is controversieel, zei Huth, omdat het systeem probeert te bepalen of een student van plan is vals te spelen of vals speelt, en er is een reëel potentieel voor valse positieven die resulteren in het ongerechtvaardigd straffen van studenten die niets verkeerd hebben gedaan.
"Elke AI die voor dit doel wordt gebruikt, moet robuust genoeg zijn om om te gaan met toiletpauzes, nerveuze tics van individuele studenten (zoals grillige oogbewegingen), enzovoort," zei Huth.
