MIT ontwikkelt processor voor neurale netwerken

Het MIT heeft vorige week op de International Solid State Circuits Conference (ISSCC) in San Francisco een processor onthuld geoptimaliseerd voor het toepassen van neurale netwerken. Met deze Eyeriss-chip zouden devices zoals smartphones zelfstandig zaken als spraak- en beeldherkenning kunnen uitvoeren, een taak die nu vanwege de benodigde rekenkracht vaak wordt uitbesteed naar de cloud.

Voor diepe neurale netwerken (dnn’s) worden nu meestal gpu’s ingezet. De grafische processoren beschikken over een groot aantal relatief simpele rekenkernen, waarmee ze goed overeen komen met de architectuur van een dnn met individuele onafhankelijke knooppunten die elk een andere bewerking uitvoeren op de output van verschillende andere knooppunten.

De cores in gpu’s gebruiken echter het centrale werkgeheugen om data uit te wisselen. Voor neurale netwerken blijkt dit een bottleneck. In de MIT-processor kunnen de 168 cores hun data daarom direct naar omliggende buren doorgeven. Bovendien ligt de hoeveelheid dataverkeer veel lager doordat het Eyeriss-ontwerp alleen gecomprimeerde gegevens rondstuurt. Ten slotte is er een specifiek hardwarecircuit ingebouwd voor het configureren van het netwerk en het toekennen van cores.