Je slimme gadgets kunnen slimmer worden

Belangrijkste leerpunten

• Nieuw onderzoek door MIT-wetenschappers wijst de weg naar het inpassen van neurale netwerken in kleine apparaten.
• MCUNet maakt diepgaand leren mogelijk op systemen met beperkte verwerkingskracht en geheugen.
• De innovatie kan ook zorgen voor slimmere, meer flexibele medische apparaten.

Slimme luidsprekers en andere apparaten die deel uitmaken van het Internet of Things (IoT) zouden op een dag de neurale netwerkkracht kunnen krijgen om meer te doen met minder, zeggen onderzoekers. Een nieuw systeem genaamd MCUNet maakt het ontwerpen van kleine neurale netwerken op IoT-apparaten mogelijk, zelfs met beperkte geheugen- en verwerkingskracht. Volgens een paper van MIT-wetenschappers gepubliceerd op de preprint-server Arxiv, zou de technologie nieuwe mogelijkheden kunnen bieden aan slimme apparaten, terwijl tegelijkertijd energie wordt bespaard en de gegevensbeveiliging wordt verbeterd. Het onderzoek “is een van die briljante ideeën die voor de hand liggend lijken als je het hoort”, zei John Suit, adviserend CTO bij roboticabedrijf KODA, in een e-mailinterview. “Het is een elegante benadering van het probleem. Dit onderzoek is zo belangrijk omdat het uiteindelijk de realtime optimalisatie van neurale netwerken mogelijk zal maken voor elk apparaat waarvan het algoritme de bronnen kent.” “Wat dit echt laat zien, is dat kracht niet gebonden hoeft te zijn aan grootte..”

Grote berekeningen op kleine apparaten

IoT-apparaten draaien meestal op computerchips zonder besturingssysteem, waardoor het moeilijk is om patroonherkenningstaken zoals deep learning uit te voeren. Voor een intensievere analyse worden door IoT verzamelde gegevens vaak in de cloud verwerkt, hoewel deze kwetsbaar zijn voor hacking. Er is veel dat neurale netwerken zouden kunnen doen om het groeiende aantal IoT-apparaten te vergroten, maar de grootte was een probleem. “Om de netwerken naar het apparaat zelf te verplaatsen, wat moeilijk is gebleken, moet je een manier vinden om de zoekruimte voor verschillende microcontrollers te optimaliseren”, legt Suit uit. “Een standaard of generiek systeem zou niet werken vanwege de resourcetoleranties op IoT-apparaten. Denk aan zeer lage stroomverbruik, zeer kleine processors in termen van verwerkingskracht.”

Dat is waar het werk van de MIT-onderzoekers om de hoek komt kijken. “Hoe zetten we neurale netwerken rechtstreeks op deze kleine apparaten in?” de hoofdauteur van de studie, Ji Lin, een Ph.D. student in MIT’s Department of Electrical Engineering and Computer Science, zei in een persbericht. “Het is een nieuw onderzoeksgebied dat erg populair wordt. Bedrijven als Google en ARM werken allemaal in deze richting.”

TinyEngine aan de redding

De MIT-groep ontwierp twee componenten die nodig zijn voor de werking van neurale netwerken op microcontrollers. Een onderdeel is TinyEngine, dat vergelijkbaar is met een besturingssysteem, maar de code tot de essentie beperkt. Een ander voorbeeld is TinyNAS, een zoekalgoritme voor neurale architectuur. “We hebben veel microcontrollers met verschillende stroomcapaciteiten en verschillende geheugengroottes”, zei Lin. “Dus hebben we het algoritme ontwikkeld [TinyNAS] om de zoekruimte voor verschillende microcontrollers te optimaliseren. Het aangepaste karakter van TinyNAS betekent dat het compacte neurale netwerken kan genereren met de best mogelijke prestaties voor een bepaalde microcontroller, zonder onnodige parameters. Daarna leveren we het uiteindelijke, efficiënte model aan de microcontroller.” “Het is een elegante benadering van het probleem.” Lins werk zou kunnen worden vertaald om slimmere, wendbare medische apparaten te maken. “Wat dit echt laat zien, is dat kracht niet gebonden aan grootte, en in ziekenhuizen, waar alles snel beweegt in krappe ruimtes, kan dat letterlijk het verschil tussen leven en dood betekenen”, zei Kevin Goodwin, CEO van EchoNous, een bedrijf dat AI-ondersteunde medische apparaten maakt, in een e-mailinterview Goodwin zei dat zijn team jaren besteedde aan het bouwen en trainen van een neuraal netwerk dat vervolgens zou kunnen worden gebruikt om hartstructuren in een realtime echografie in kaart te brengen – en dat allemaal in een draagbaar apparaat genaamd KOSMOS dat minder dan twee pond weegt.

“Nu kunnen artsen gemakkelijk van kamer naar kamer gaan om scans van diagnostische kwaliteit te krijgen met AI-begeleiding”, voegde hij eraan toe. “Ze hoeven patiënten niet ergens anders heen te sturen voor die scans of cruciale tijd te verliezen met het desinfecteren van op karren gebaseerde machines.” MCUNet is een spannende kijk op een wereld waar kleine gadgets slimmer dan ooit kunnen zijn. Aangezien het aantal IoT-apparaten snel groeit, zullen we op zoek zijn naar alles, van slimme apparaten tot medische apparaten, om hun eigen neurale netwerken te hebben.