Skriv ut

Myriad X heter det första chip som Intel släpper som resultat av uppköpet av irländska Movidius. Jämfört med sina föregångare i familjen Myriad har X betydligt starkare hårdvarustöd för inferenser i neurala nät.

Den stora populariteten för AI och maskininlärning med hjälp av artificiella neuronnät och deep learning har lett till en våg av asicar för neurala nät.

Bland annat har Google utvecklat och använder serverchips skräddarsydda för att träna neurala nät.

Flera chip som gör inferenser – utför beräkningar på fördigprogrammerade neuronnät – är också under utveckling, och det finns verktyg som låter dig sy ihop egna systemketsar med neuronnätsblock.

Intel säger sig nu ha blivit först att producera ett sådant chip.

Myriad X heter chipet, och det härstammar från Intels köp av Irländska Movidius, ett företag som du kan hitta i Elektroniktidningens arkiv sedan år 2010.

Movidius har alltid utvecklat bildbehandlingsprocessorer och de har haft stöd för neurala nät. Men nu anser Intel och Movidius att neuronnäten har fått ett såpass starkt hårdvarustöd i Myriad X att det är lämpligt att tänka på den som en neuronnätsaccelerator, även om den fortfarande som sina föregångare kallas för en VPU (video processing unit) och stöder klassiska videooperationer 

Föregångaren Myriad 2 används bland annat för bildanalys i drönare och övervakningskameror. Myriad X har skräddarsytt hårdvaran för inferenser ännu mer, och ska kunna leverera tio gånger fler inferenser än Myriad 2 på samma effekt och tid.

Som indata tar Myriad X upp till 8 stycken HD-upplösta RGB-videoströmmar. Den kan processa upp till 700 miljoner bildpunkter per sekund.

Processningen sker i fyra acceleratorblock för bildbehandling och neurala nät.

Ett block kallat Neural Compute Engine (NCE) är det som gör huvuddelen av accelerationen av neuronnätsinferenser. Det består av ett antal MAC-enheter och har en effektiv metod för att slussa in data från on-chip-minnet.

NCE stöder 16 bitars flyttal och åtta bitars fixtal. Det senare är förmodligen en viktig poäng, tror Elektroniktidningen, eftersom det bekräftats att neurala nät oftast klarar sig bra i låg precision och att man genom att sänka precisionen spar både minne och tidsödande minnesaccesser. 

Myriad X har vidare ett block med 16 programmerbara kärnor kallade Shave (Streaming Hybrid Architecture Vector Engine). Egentligen är blocket till för klassisk bildbehandling, men Movidius har tagit fram kod så att du kan köra neurala nät på dem om du så vill. Myriad 2 hade bara 12 Shave-kärnor.

Enhanced Vision Accelerator Suite heter ett block som gör bildbehandling. Bland annat kan det räkna ut avstånd till bildpunkter med hjälp av stereobilder.

Och så finns det en rörledning kallad Flexible Image Processing and Encode, som bland kan komprimera 4K-video.

NCE-blocket har en prestanda på en biljon operationer per sekund. Chipets totala prestanda är fyra biljoner operationer per sekund.

On-chip RAM har ökats från 2 till 2,5 Mbyte och det externa minnesgränssnittet har uppgraderats från LPDDR 3 till LPDDR 4. Du kan koppla flera Myriad X till varandra via PCI Express.

Chipet tillverkas på TSMC i 16nm FinFET – inte hos Intel alltså, som köpte Movidius sent i fjol för 400 miljoner dollar.


FOTNOT: Rubrik, ingress och text är ändrad. Den första versionen av texten blandade samman ”inferenser” med ”operationer.

Att göra en inferens är hela processen från att lägga exempelvis en bild som indata, och få en klassificering som utdata.  För en sådan inferens går det åt många ”operationer”. Exakt hur många beror på hur stort neuronnätet är.

Som jämförelse levererar ett tio år gammalt  neuronnätschip från Cognimem cirka 60 inferenser per sekund på en halv watt. Men Cognimems chip hanterar bara 1000 artificiella neuroner, medan de djupa neuronnät som Myriad X är avsedd för, kan ha hundratusentals.