Belangrijkste afhaalrestaurants
- Privacy-experts maken zich zorgen over het gebruik door Facebook van openbare Instagram-foto's om kunstmatige intelligentie te trainen.
- Het programma leerde afbeeldingen herkennen door de computer meer dan 1 miljard openbare foto's te laten zien.
- Instagram's privacybeleid bevat een sectie die gebruikers laat weten dat informatie kan worden gebruikt in onderzoek en ontwikkeling.
Facebook's gebruik van Instagram-foto's om kunstmatige intelligentie te trainen leidt tot bezorgdheid over de privacy.
De socialemediagigant kondigde onlangs aan dat het software had gebouwd die kan leren van waar hij naar kijkt. Het programma leerde afbeeldingen herkennen door meer dan 1 miljard openbare foto's te bekijken. Experts zeggen dat gebruikers zich ervan bewust moeten zijn dat Facebook hun foto's gebruikt.
"Het draait allemaal om toestemming weten", zei James E. Lee, chief operating officer van het Identity Theft Resource Center, in een e-mailinterview.
"Instagram's privacybeleid - dat de meeste mensen waarschijnlijk niet lezen - stelt heel duidelijk dat het bedrijf zich het recht voorbehoudt om de foto's die je plaatst voor onderzoek te gebruiken. Gebruikers kunnen gezichtsherkenning in- of uitschakelen in hun privacy-instellingen."
Beter dan de rest
Facebook's programma, bijgenaamd SEER voor SElf-supervised, versloeg andere kunstmatige intelligentie (AI) -modellen in een objectherkenningstest, beweerde het bedrijf. Het programma behaalde een "classificatienauwkeurigheidsscore" van 84.2% toen het een test doorstond die controleert of een AI-programma kan identificeren wat er op een afbeelding staat.
"De prestaties van SEER tonen aan dat zelfgestuurd leren kan uitblinken in computervisietaken in de echte wereld", zei het bedrijf in een blogpost.
"Dit is een doorbraak die uiteindelijk de weg vrijmaakt voor flexibelere, nauwkeurigere en aanpasbare computervisiemodellen in de toekomst."
Hoewel de algemene voorwaarden van Facebook hen in staat stellen om gebruikersgegevens op een dergelijke manier te gebruiken, zijn de meeste gebruikers zich er niet expliciet en actief van bewust dat hun gegevens voor dergelijke doeleinden worden gedolven.
Als het commercieel wordt gelanceerd, zou SEER helpen bij het identificeren van objecten - niet mensen - zonder te worden geprogrammeerd om via een label te weten wat er op een foto staat, zei Lee. "Dat is een efficiëntere en snellere manier dan de huidige methode die enorme datasets vereist om een object te matchen met zijn identiteit," voegde hij eraan toe.
"Er is altijd kans op misbruik, maar er zijn ook legitieme potentiële voordelen van dit soort technologie."
Facebook's programma zou het bedrijf kunnen helpen bij het beter controleren van inhoud die in strijd is met zijn beleid, bijvoorbeeld door ongewenste blootstelling aan obscene of grafische afbeeldingen te beperken, zei Aimee O'Driscoll, een beveiligingsonderzoeker bij privacysite Comparitech, in een e-mailinterview. Het kan ook worden gebruikt om automatisch afbeeldingen te beschrijven, waardoor de gebruikerservaringen voor mensen met een visuele beperking worden verbeterd.
U bent al akkoord gegaan met dit programma
Instagram's privacybeleid bevat een sectie die gebruikers laat weten dat informatie kan worden gebruikt in onderzoek en ontwikkeling. "Het bedrijf gebruikt zijn schat aan gegevens voor een ander deel van zijn bedrijf, vergelijkbaar met de manier waarop het gebruikersgegevens gebruikt om zijn advertentieactiviteiten te voeden," zei O'Driscoll.
"Toch kunnen gebruikers zich nog steeds ongemakkelijk voelen bij het gebruik van hun afbeeldingen op deze manier."
Yashar Behzadi, de CEO van Synthese AI, een bedrijf dat kunstmatige intelligentie gebruikt voor computervisie, zei dat de nieuwste AI-ontwikkelingen van Facebook een "aanzienlijke verbetering" in computervisiecapaciteit betekenen.
"Gebruikers kunnen waarschijnlijk betere tagging van afbeeldingen en contextueel zoeken verwachten, terwijl adverteerders zullen profiteren van nauwkeurigere gebruikerstargeting", voegde hij eraan toe.
Maar de benadering van Facebook om miljarden Instagram-afbeeldingen te benutten, roept ernstige zorgen op over privacy en regelgeving, zei Behzadi.
"Hoewel de algemene voorwaarden van Facebook hen in staat stellen om gebruikersgegevens op een dergelijke manier te gebruiken, zijn de meeste gebruikers zich er niet expliciet en actief van bewust dat hun gegevens voor dergelijke doeleinden worden gedolven," zei hij.
"Wij vinden dat bedrijven directer en transparanter moeten zijn tegenover gebruikers, zodat ze volledige controle over hun gegevens hebben."
Veel andere bedrijven hebben kunstmatige intelligentie gebruikt om de inhoud van een afbeelding te identificeren, zei Bobby Gill, CEO van app-ontwikkelaar Blue Label Labs, in een e-mailinterview. "Het feit dat dit vrijwel zeker voor marketing zal worden gebruikt, is echter verontrustend", voegde hij eraan toe.
Het nieuwe programma kan potentiële privacyproblemen veroorzaken, afhankelijk van hoe Facebook van plan is het systeem te gebruiken, zei Gill.
"Deze gegevens zouden waarschijnlijk toegankelijk zijn voor technische marketeers die ze zouden gebruiken om bepaalde trends te identificeren op basis van verschillende elementen die in een afbeelding zijn geïdentificeerd," zei hij.
"In staat zijn om bijvoorbeeld informatie te halen uit afbeeldingen die mensen posten, voegt een andere dimensie toe aan associatieve systemen die over het algemeen gedrag gebruiken om individuen te profileren en te targeten. Het zou kunnen dat iedereen met, laten we zeggen, kikkers in 3- 7% van hun foto's koopt hoogstwaarschijnlijk fitnessapparatuur voor thuis."
