Microsoft의 새로운 기능으로 Windows 11에서 AI 모델을 로컬로 쉽게 실행
Copilot+ PC는 장치에서 직접 Small Language Models(SLM)를 실행할 수 있는 최초의 컴퓨터로서 획기적인 발전을 나타냅니다. 이 혁신적인 기술은 클라우드 기반 Copilot 애플리케이션에 비해 이미지 및 텍스트 생성과 같은 다양한 작업에 대해 더 빠른 결과를 제공하여 상당한 이점을 제공합니다. 최근 Microsoft는 모든 애플리케이션에 온디바이스 AI 기능을 통합하는 것을 간소화하는 AI Dev Gallery를 공개했습니다.
AI Dev Gallery는 다양한 모델을 테스트하여 AI 기능으로 애플리케이션을 개선하고자 하는 개발자를 위해 특별히 설계되었습니다. 이 도구는 25개 이상의 다운로드 가능한 샘플에 대한 액세스를 제공하며, 장치에서 쉽게 실행할 수 있습니다. 또한 사용자는 프로젝트나 소스 코드를 애플리케이션으로 직접 내보내어 즉시 기능을 사용할 수 있습니다. Windows 10과 11 모두와 호환되며 x64 및 ARM64 아키텍처를 지원합니다.
흥미로운 실험에서 Windows Latest는 GitHub 저장소에서 AI Dev Gallery를 복제했습니다. 현재 액세스하려면 실행하기 전에 Visual Studio를 통해 프로젝트를 빌드해야 합니다. 또한 최소 20GB의 스토리지와 멀티코어 CPU가 필요합니다. 8GB의 VRAM이 있는 GPU가 권장되지만 더 많은 요구 사항이 있는 모델에만 필수적입니다.
우리는 4코어 CPU와 4GB RAM이 장착된 Windows 11 PC로 테스트를 시작했습니다. 앱에는 샘플과 모델의 두 가지 작동 모드가 있습니다. 우리는 샘플 모드를 사용하여 다양한 모델을 탐색했으며, 이는 텍스트, 이미지, 코드, 오디오 및 비디오, 스마트 컨트롤을 포함한 범주로 정리되었습니다.
모델 평가
이미지 및 비디오 생성에 사용할 수 있는 모델은 비교적 크고, 크기는 5GB에 가깝습니다. 우리의 초기 선택은 업스케일링에 초점을 맞춘 더 작은 모델이었는데, 100MB 미만이었습니다. 우리는 스크린샷을 찍고 CPU를 사용하여 처리하여 업스케일링하려고 시도했습니다. 특히, 요청을 처리하기 위해 CPU와 GPU를 전환하는 옵션이 제공됩니다.
이 겸손한 가상 머신에서 업스케일링 프로세스는 30초 이내에 완료되었고, 그 결과 일시적인 RAM 사용량이 1GB에 달했습니다. 그런 다음 앱은 9272*4900 해상도의 업스케일된 이미지를 표시했습니다. 그러나 특히 텍스트의 이미지 요소의 품질이 상당히 손상되어 읽을 수 없게 되었습니다.
불행히도, 생성된 이미지를 더 큰 형식이나 전체 화면 모드로 미리 볼 수 있는 기능이 없으며, 이미지를 디스크에 직접 다운로드할 수 있는 옵션도 없습니다.
우리는 이미지 내에서 개인의 위치를 확인하도록 설계된 Detect Human Pose 라는 또 다른 모델을 테스트했습니다 . 이 모델은 간단한 걷는 모습을 성공적으로 인식했을 뿐만 아니라 여러 개의 열려 있는 애플리케이션이 있는 데스크톱의 스크린샷 위에 위치 마커를 표시하기 시작했습니다.
이러한 모델을 애플리케이션에 통합하는 정확한 수단은 불분명하지만, 특정 기능은 실제로 로컬에서 실행될 수 있습니다. 그럼에도 불구하고 PC는 이러한 모델을 위한 상당한 저장 공간과 견고한 CPU, 최소 16GB의 RAM이 필요합니다.
이에 대한 당신의 의견은 어떻습니까? 텍스트 프롬프트를 이미지로 변환하기 위해 5GB 모델을 다운로드하는 것이 가치가 있을까요? 아니면 웹 기반 애플리케이션을 사용하여 30초 동안 기다리는 것이 더 효율적일까요? 이러한 기능 중 다수가 특정 사용 사례와 운영 환경에 맞춰져 있다는 것은 분명하며, 이는 반드시 광범위한 Windows 11 사용자 인구 통계에 어필하지 않을 수 있습니다.
답글 남기기