De eerste NPU voor Windows is er, nu Microsoft en Intel de door Direct ML aangedreven processor introduceren

Het tijdperk van de NPU is eindelijk aangebroken: Microsoft en Intel debuteren met de eerste NPU voor Windows, en deze wordt aangedreven door Direct ML, een API die de implementatie en ontwikkeling van AI in het Windows-ecosysteem aanzienlijk moet vereenvoudigen.

We zijn verheugd onze samenwerking met Intel®, een van onze belangrijkste partners, aan te kondigen om de eerste Neural Processing Unit (NPU), aangedreven door DirectML, op Windows te brengen. AI transformeert de wereld, stimuleert innovatie en creëert waarde in alle sectoren. NPU’s zijn cruciale componenten bij het mogelijk maken van geweldige AI-ervaringen voor zowel ontwikkelaars als consumenten.

Microsoft

De Direct ML-aangedreven Windows NPU (Neural Processing Unit) zal draaien op de nieuwste Intel® Core™ Ultra-processors om nieuwe mogelijkheden voor AI op Windows te bieden, aldus Microsoft. We zeggen dat dit net op tijd is, aangezien onlangs werd gemeld dat de volgende versie van Windows in grote mate afhankelijk zal zijn van NPU’s om AI-ervaringen aan gebruikers te leveren. een>

Volgens het door Microsoft gepubliceerde persbericht zal de door Direct ML aangedreven Windows NPU begin 2024 een preview voor ontwikkelaars krijgen en in dat jaar geleidelijk worden uitgebreid naar een algemene preview.

Wat betekent dit voor de gewone Windows-gebruiker? Nou, voorlopig is het niet zo belangrijk, aangezien NPU’s niet bedoeld zijn voor reguliere commerciële gebruikers, maar dat zal in korte tijd veranderen. Laten we het uitleggen.

Windows NPU: wat is een NPU?

NPU’s zijn onderwerp van discussie geweest sinds AI populair werd, en met goede redenen, aangezien deze speciale processors AI gebruiken om de gegevensverwerking met hoge nauwkeurigheid en minder stroomverbruik te versnellen.

Met andere woorden, NPU is een microprocessor die is gebouwd om machine learning (ML)-workloads mogelijk te maken die rekenintensief zijn, geen grafische interacties vereisen en een efficiënt stroomverbruik bieden, zoals Microsoft stelt.

Een NPU is veel sneller dan de standaard CPU of GPU, en kan binnen enkele seconden miljoenen bewerkingen uitvoeren, waardoor het de perfecte processor is voor uitgebreide werklasten, zoals complexe berekeningen bij deep learning, nauwkeurigheid, enzovoort.

Om deze reden is een NPU perfect voor industriële omgevingen en industrieën waar een grote hoeveelheid informatie moet worden verwerkt, zoals transport, hardwareproductie, automatisering, gezondheidszorg of financiën.

Enkele real-life toepassingen van een NPU-gebaseerde operatie zouden zijn:

• Zelfrijdende auto’s, zoals in het geval van de transportsector.
• Het nauwkeurig scannen van medische beelden en het op basis daarvan concluderen van nauwkeurige diagnostiek en behandelingen, bij gebruik in de zorg.
• Het berekenen van risicobeheer en het detecteren van miljoenen bedreigingen, wanneer gebruikt in financiële omgevingen.

En de lijst kan eindeloos doorgaan, want dit zijn enkele van de meest voor de hand liggende voorbeelden. Een NPU is tot zulke dingen in staat door gebruik te maken van een proces dat inferentie wordt genoemd. Dit betekent dat de NPU wordt getraind op data om verschillende objecten en onderwerpen te herkennen. In eenvoudiger woorden: de NPU wordt zich bewust van haar omgeving.

Het gevolgtrekkingsproces vindt plaats wanneer nieuwe input aan de NPU wordt gegeven, en met behulp van zijn getrainde bewustzijn zal de processor vervolgens de nieuwe input analyseren en nieuwe perspectieven bieden. Het uitstekende aspect van het gevolgtrekkingsproces is dat het om te beginnen bedoeld is om zo feitelijk mogelijk te zijn opgebouwd.

Dit betekent dus dat de perspectieven die de NPU biedt ook feitelijk correct zullen zijn, en binnen de juiste methodieken zullen bestaan.

Microsoft is eigenlijk een van de bedrijven geweest die uitgebreid hebben gewerkt aan het trainen van AI-modellen om vanuit wetenschappelijk oogpunt nieuwe perspectieven te ontwikkelen, herkennen en bieden, met behulp van praktijkgerichte methodologieën.

Dit jaar heeft de in Redmond gevestigde technologiegigant veel middelen geïnvesteerd in verschillende AI-onderzoeksprojecten, en veel ervan vallen op: LongMem< a i=2>, Gorrila AI, Kosmos-2, en vele meer modellen die het bestaande onderzoek gebruiken om grenzen te verleggen en zelf met nog te ontdekken methodologieën komen.

Naarmate AI performanter wordt en uiteindelijk een staat van AGI zal bereiken, kunnen NPU’s de technologie gebruiken om supercomputers te bouwen die in staat zijn complexe problemen op te lossen, en manieren bedenken om de grootste zorgen van de mensheid aan te pakken.

Het klinkt als een versie uit een sciencefictionfilm, maar het is slechts een kwestie van tijd voordat dit gebeurt. Een NPU-gebaseerd apparaat met AGI-mogelijkheden zou in theorie binnen enkele maanden een geneesmiddel voor ernstige ziekten kunnen vinden, omdat het in korte tijd miljarden onderzoeken zou kunnen uitvoeren.

Voor de standaard commerciële gebruiker zou een NPU-gebaseerd apparaat nuttig zijn, zolang het maar gericht zou kunnen zijn op het voltooien van een bepaalde taak. Veel bedrijven hebben momenteel hun eigen NPU-mogelijkheden ontwikkeld die precies daarop gericht zijn.

Neem bijvoorbeeld het voorbeeld van Intel’s Neural Network Processor (NNP), een NPU-processor die sterke prestaties aan de klant kan leveren apparaten. Er zijn momenteel talloze andere NPU’s op de markt, zoals:

• TPU van Google
• NNP, Myriad, EyeQ van Intel
• NVDLA van Nvidia
• AWS Inferentia van Amazon
• Ali-NPU van Alibaba
• Kunlun van Baidu
• Sophon van Bitmain
• MLU van Cambricon
• IPU van Graphcore
• Stijg op door Huawei
• Neurale motor van Apple
• Neurale verwerkingseenheid (NPU) van Samsung

Het is nog erg vroeg om te zeggen waartoe deze NPU’s in staat zijn, maar theoretisch gezien kunnen ze elk apparaat in een mini-supercomputer veranderen. Is dit wat Microsoft van plan is te doen door op DirectML gebaseerde NPU’s voor Windows uit te brengen?

Misschien, maar we zullen moeten wachten. Gelukkig ligt 2024 vlak voor ons.