Microsoft와 Intel이 Direct ML 기반 프로세서를 선보이면서 최초의 Windows용 NPU가 출시되었습니다.

마침내 NPU 시대가 도래했습니다. Microsoft와 Intel은 최초의 Windows용 NPU를 선보였습니다. 이 NPU는 Windows 생태계 전반에 걸쳐 AI 배포 및 개발을 크게 단순화하는 API인 Direct ML을 기반으로 합니다.

Windows에서 DirectML 기반 최초의 신경 처리 장치(NPU)를 제공하기 위해 핵심 파트너 중 하나인 Intel®과의 협력을 발표하게 되어 기쁘게 생각합니다. AI는 세상을 변화시키고 혁신을 주도하며 산업 전반에 걸쳐 가치를 창출하고 있습니다. NPU는 개발자와 소비자 모두에게 놀라운 AI ​​경험을 제공하는 데 중요한 구성 요소입니다.

마이크로소프트

Microsoft에 따르면 Direct ML 기반 Windows NPU(신경 처리 장치)는 최신 Intel® Core™ Ultra 프로세서에서 실행되어 Windows에서 AI에 대한 새로운 가능성을 제공할 것입니다. 최근 Windows의 다음 버전이 사용자에게 AI 경험을 제공하기 위해 NPU에 광범위하게 의존할 것이라는 보고가 있었기 때문에 시기적절했다고 말합니다. 아>

Microsoft가 게시한 보도 자료에 따르면 Direct ML 기반 Windows NPU는 2024년 초에 개발자 프리뷰에 진입할 예정이며, 그 해에 걸쳐 점차 일반 프리뷰로 확대될 예정입니다.

그렇다면 일반 Windows 사용자에게는 이것이 무엇을 의미합니까? 글쎄요, 지금으로서는 NPU가 일반 상용 사용자를 위한 것이 아니기 때문에 그다지 중요하지는 않지만, 이는 곧 바뀔 것입니다. 설명해 보겠습니다.

Windows NPU: NPU란 무엇입니까?

NPU는 AI가 인기를 얻은 이후 줄곧 논의의 대상이 되어 왔으며, 이러한 특수 프로세서는 AI를 사용하여 높은 정확도와 적은 전력 사용으로 데이터 처리 속도를 높이기 때문에 그럴 만한 이유가 있습니다.

즉, NPU는 Microsoft가 명시한 것처럼 계산 집약적이고 그래픽 상호 작용이 필요하지 않으며 효율적인 전력 소비를 제공하는 기계 학습(ML) 워크로드를 지원하도록 구축된 마이크로프로세서입니다.

NPU는 표준 CPU나 GPU보다 훨씬 빠르며 몇 초 만에 수백만 개의 작업을 수행할 수 있으므로 딥 러닝의 복잡한 계산, 정확성 등과 같은 광범위한 워크로드에 완벽한 프로세서입니다.

이러한 이유로 NPU는 운송, 하드웨어 제조, 자동화, 의료, 금융 등 많은 양의 정보를 처리해야 하는 산업 환경과 산업에 적합합니다.

NPU 기반 작업의 실제 응용 프로그램은 다음과 같습니다.

• 운송 산업의 경우처럼 자율주행차.
• 의료 이미지를 정확하게 스캔하고 이를 기반으로 정확한 진단 및 치료를 결론 내립니다.
• 금융 환경에서 사용 시 위험 관리를 계산하고 수백만 개의 위협을 탐지합니다.

그리고 이것이 가장 분명한 예 중 일부이기 때문에 목록은 계속 이어질 수 있습니다. NPU는 추론이라는 프로세스를 사용하여 이러한 작업을 수행할 수 있습니다. 이는 NPU가 다양한 객체와 주제를 인식하기 위해 데이터를 학습한다는 의미입니다. 간단히 말해서 NPU는 주변 환경에 대한 인식을 얻습니다.

추론 프로세스는 NPU에 새로운 입력이 제공될 때 발생하며, 훈련된 인식을 사용하여 프로세서는 새로운 입력을 분석하고 새로운 관점을 제공합니다. 추론 프로세스의 뛰어난 측면은 처음부터 가능한 한 사실에 맞게 구축되어야 한다는 것입니다.

따라서 이는 NPU가 제공하는 관점도 사실적으로 정확하고 올바른 방법론 내에서 존재할 것임을 의미합니다.

실제로 Microsoft는 실제 방법론을 사용하여 과학적 관점에서 새로운 관점을 개발, 인식 및 제공하기 위해 AI 모델을 교육하는 데 광범위하게 노력해 온 회사 중 하나입니다.

올해 레드먼드에 본사를 둔 이 거대 기술 기업은 다양한 AI 연구 프로젝트에 많은 자원을 투자해 왔으며 그 중 상당수가 눈에 띕니다. LongMem< a i=2>, Gorrila AI, Kosmos-2 등 기존 연구를 활용하여 경계를 넓히고 아직 발견되지 않은 자체 방법론을 제시하는 더 많은 모델이 있습니다.

시간이 지나면서 AI의 성능이 향상되고 결국 AGI 상태에 도달하게 되면 NPU는 이 기술을 사용하여 복잡한 문제를 해결할 수 있는 슈퍼컴퓨터를 구축하고 인류의 가장 큰 문제를 해결할 수 있는 방법을 제시할 수 있습니다.

공상 과학 영화에서 따온 것처럼 들리지만, 이런 일이 발생하는 것은 시간 문제일 뿐입니다. AGI 기능을 갖춘 NPU 기반 장치는 이론적으로 짧은 시간에 수십억 건의 연구를 실행할 수 있으므로 몇 달 만에 심각한 질병에 대한 치료법을 찾을 수 있습니다.

표준 상용 사용자의 경우 NPU 기반 장치는 특정 작업을 완료하는 것을 목표로 할 수 있다면 유용할 것입니다. 현재 많은 기업이 이를 정확하게 수행하는 것을 목표로 자체 NPU 기능을 개발했습니다.

예를 들어 인텔의 신경망 프로세서(NNP)는 고객에게 강력한 성능을 제공할 수 있는 NPU 프로세서입니다. 장치. 현재 시장에는 다음과 같은 수많은 다른 NPU가 있습니다.

• Google의 TPU
• NNP, Myriad, Intel의 EyeQ
• 엔비디아의 NVDLA
• Amazon의 AWS Inferentia
• Alibaba의 Ali-NPU
• Baidu의 Kunlun
• 비트메인의 소폰(Sophon)
• Cambricon의 MLU
• 그래프코어의 IPU
• 화웨이의 승천
• Apple의 신경 엔진
• 삼성의 신경 처리 장치(NPU)

이러한 NPU가 무엇을 할 수 있는지 말하기는 아직 이르지만 이론적으로는 모든 장치를 미니 슈퍼컴퓨터로 변환할 수 있습니다. 이것이 Microsoft가 Windows용 DirectML 기반 NPU를 출시하여 의도한 것입니까?

어쩌면 기다려야 할 것입니다. 다행히 2024년이 코앞이다.