Belangrijkste afhaalrestaurants
- Nieuw onderzoek door MIT-wetenschappers wijst de weg naar het inpassen van neurale netwerken in kleine apparaten.
- MCUNet maakt diepgaand leren mogelijk op systemen met beperkte verwerkingskracht en geheugen.
- De innovatie kan ook zorgen voor slimmere, flexibelere medische apparaten.
Slimme luidsprekers en andere apparaten die deel uitmaken van het Internet of Things (IoT) kunnen op een dag de neurale netwerkkracht ertoe brengen meer te doen met minder, zeggen onderzoekers.
Een nieuw systeem genaamd MCUNet maakt het ontwerp van kleine neurale netwerken op IoT-apparaten mogelijk, zelfs met beperkt geheugen en verwerkingskracht. Volgens een paper van MIT-wetenschappers gepubliceerd op de preprint-server Arxiv, zou de technologie nieuwe mogelijkheden kunnen bieden aan slimme apparaten, terwijl tegelijkertijd energie wordt bespaard en de gegevensbeveiliging wordt verbeterd.
Het onderzoek "is een van die briljante ideeën die voor de hand liggend lijken als je het hoort", zei John Suit, adviserend CTO bij roboticabedrijf KODA, in een e-mailinterview. "Het is een elegante benadering van het probleem. Dit onderzoek is zo belangrijk omdat het uiteindelijk de re altime optimalisatie van neurale netwerken mogelijk zal maken voor elk apparaat waarvan het algoritme de bronnen kent."
Wat dit echt laat zien, is dat kracht niet gebonden hoeft te zijn aan grootte..
Grote berekeningen op kleine apparaten
IoT-apparaten draaien meestal op computerchips zonder besturingssysteem, waardoor het moeilijk is om patroonherkenningstaken zoals deep learning uit te voeren. Voor een intensievere analyse worden door IoT verzamelde gegevens vaak in de cloud verwerkt, hoewel ze kwetsbaar zijn voor hacking.
Er is veel dat neurale netwerken zouden kunnen doen om het groeiende aantal IoT-apparaten te vergroten, maar de grootte was een probleem.
"Om de netwerken naar het apparaat zelf te verplaatsen, wat moeilijk is gebleken, moet je een manier vinden om de zoekruimte voor verschillende microcontrollers te optimaliseren", legt Suit uit. "Een standaard of generiek systeem zou niet werken vanwege de resourcetoleranties op IoT-apparaten. Denk aan zeer lage stroomverbruik, zeer kleine processors in termen van verwerkingskracht."
Daar komt het werk van de MIT-onderzoekers om de hoek kijken.
"Hoe zetten we neurale netwerken rechtstreeks op deze kleine apparaten in?" de hoofdauteur van de studie, Ji Lin, een Ph. D. student in MIT's Department of Electrical Engineering and Computer Science, zei in een persbericht. "Het is een nieuw onderzoeksgebied dat erg populair wordt. Bedrijven als Google en ARM werken allemaal in deze richting."
TinyEngine to the Rescue
De MIT-groep ontwierp twee componenten die nodig zijn voor de werking van neurale netwerken op microcontrollers. Een onderdeel is TinyEngine, dat vergelijkbaar is met een besturingssysteem, maar de code tot de essentie beperkt. Een ander voorbeeld is TinyNAS, een zoekalgoritme voor neurale architectuur.
"We hebben veel microcontrollers met verschillende vermogens en verschillende geheugengroottes", zei Lin. "Dus hebben we het algoritme [TinyNAS] ontwikkeld om de zoekruimte voor verschillende microcontrollers te optimaliseren. Het aangepaste karakter van TinyNAS betekent dat het compacte neurale netwerken kan genereren met de best mogelijke prestaties voor een bepaalde microcontroller, zonder onnodige parameters. Daarna leveren we de uiteindelijke, efficiënt model naar de microcontroller."
Het is een elegante benadering van het probleem.
Lins werk zou kunnen worden vertaald om slimmere, flexibelere medische apparaten te maken.
"Wat dit echt laat zien, is dat macht niet gebonden hoeft te zijn aan grootte, en in ziekenhuizen, waar alles snel gaat in krappe ruimtes, kan dat letterlijk het verschil tussen leven en dood betekenen", Kevin Goodwin, CEO van EchoNous, een bedrijf dat AI-ondersteunde medische apparaten maakt, zei in een e-mailinterview.
Goodwin zei dat zijn team jaren besteedde aan het bouwen en trainen van een neuraal netwerk dat vervolgens kan worden gebruikt om hartstructuren in kaart te brengen in een re altime echografie-alles in een draagbaar apparaat genaamd KOSMOS dat minder dan twee pond weegt.
"Nu kunnen artsen gemakkelijk van kamer naar kamer gaan om scans van diagnostische kwaliteit te krijgen met AI-begeleiding", voegde hij eraan toe. "Ze hoeven patiënten niet ergens anders heen te sturen voor die scans of cruciale tijd te verliezen met het desinfecteren van op karren gebaseerde machines."
MCUNet is een spannende kijk op een wereld waar kleine gadgets slimmer dan ooit kunnen zijn. Aangezien het aantal IoT-apparaten snel groeit, zoeken we alles, van slimme apparaten tot medische apparaten, om hun eigen neurale netwerken te hebben.
