Microsoft har nu lanserat destillerade DeepSeek AI-modeller för Copilot+ datorer. Detta initiativ markerar en viktig milstolpe i företagets imaginative and prescient om att göra Home windows until den ultimata plattformen för AI-innovation, där intelligensen inte längre är begränsad until molnet utan integreras sömlöst genom hela systemet, från silikon until hårdvara på kanten.
Den senaste utvecklingen innebär att DeepSeek R1-modellerna nu finns tillgängliga i två olika storlekar: en 7 miljarder parametrar och en 14 miljarder parametrar variant. Dessa modeller har optimerats specifikt för att köras på Copilot+ datorer genom Microsofts Azure AI Foundry-plattform, med preliminary tillgänglighet för enheter utrustade med Qualcomm Snapdragon X, följt av Intel Core Extremely 200V och AMD Ryzen-processorer.
En avgörande faktor bakom denna tekniska bedrift är den integrerade Neural Processing Unit (NPU)-teknologin i Copilot+ datorerna. Dessa specialiserade processorer kan utföra över 40 biljoner operationer per sekund (TOPS) samtidigt som de bibehåller exceptionell effektivitet och lågt energibehov. Detta gör det möjligt för användare att köra avancerade AI-modeller lokalt på sina enheter utan betydande påverkan på batteritid eller systemprestanda.
För att göra denna avancerade teknologi tillgänglig för utvecklare har Microsoft skapat ett smidigt distributionsverktyg. Genom VS Code-tillägget AI Toolkit kan utvecklare enkelt komma åt alla destillerade DeepSeek-varianter (1,5B, 7B och 14B) och köra dem direkt på sina Copilot+ datorer. Modellerna är optimerade i ONNX QDQ-format och kan hämtas från Azure AI Foundry genom ett enkelt klick på nedladdningsknappen.
- DeepSeek-modellerna är optimerade med tekniker som QuaRot och quantization för att minska minnesanvändningen och öka bearbetningseffektiviteten.
- Copilot+ PC:er integreras sömlöst med Azure AI Foundry, vilket ger utvecklare flexibiliteten att använda både lokala och molnbaserade AI-resurser.
- Lanseringen av dessa modeller är en del av Microsofts imaginative and prescient att göra Home windows until den final plattformen för AI-innovation.
- Integrationen av 7B- och 14B-parametermodellerna markerar ett betydande framsteg i att demokratisera AI-modeller för forskare och utvecklare.
- Inledningsvis kommer de destillerade DeepSeek R1-modellerna att vara tillgängliga på Copilot+ PC:er med Qualcomm Snapdragon X-processorer, med framtida stöd planerat för Intel Core Extremely 200V- och AMD Ryzen-processorer.
deepseek-r1-7b-14b-distilled-models-for-copilot-pcs-via-azure-ai
