Microsoft - Onko kasvulla mitään rajoja?

Kannattaa huomoida että “hinnat alkaen”-koneet tulevat 24GB tai 32GB unified-muistilla.

128GB jonka AI-jengi haluaa saa vasta kun tiskiin latoo yli 5000 rahaa…

Lisäksi vaikka koneita saa isolla muistilla, tuon muistin kaista on varsin hidas. 273GB/s. AI-käytössä homma helposti menee odotteluksi kun tuo pullonkaula ottaa kiinni. Vertailuksi työpöytäkoneiden 5070-kortit jotka ovat lähinnä näiden laitteiden GPUita tarjoaa 672GB/s muistikaistaa ja todelliset high-end vehkeet (5090, RTX 6000 Pro) ovat luokkaa 1800GB/s. Eli kompromisseja on tehty. Joo, isoja AI-malleja saa (128GB-malliin) ladattua ja varmasti löytää local AI-käyttöä jossa tämä on se ratkaiseva tekijä, mutta ei ole mikään taikavoimainen superkone oikeasti raskaassa käytössä. Microsoftkin tämän oikeastaan tietää koska markkinoinnissa kovasti hehkutetaan “Hybrdi AI”-mallia jossa paikallinen agenttien hallinta päättää työstä riippuen heitetäänkö se pilveen prosessoitavaksi vai hoitaako paikallinen malli sen. Hyvä tapa yrittää saada kone näyttämään kyvykkäämmältä kuin se oikeasti on…

Eli nämä RTX Spark-koneet ovat valitettavan ylihintaisia ja alitehoisia laitteita, mutta hyvällä markkinoinnilla voivat kyllä mennä kaupaksi varsinkin niille jotka kovasti haluavat AI-vempaimia, ymmärtävät että nykyiset Copilot+ vehkeet ovat naurettavan alitehoisia ja eivät halua ostaa kallin pään Maccia koska allergia MacOS:n suuntaan jne. Tärkeämpää melkein on että Microsoft alkaa vähitellen saada Copilotin ja Windowsin AI-tuen käyttökelpoisemmaksi koska se on tärkeä kulma jolla näitä markkinoidaan.

Ja tietenkin pitää huomioida että näiden NVIDIA-pohjaisten koneiden prosessori on Arm-pohjainen, joka tuo omat pikku kommervenkit Windows-käytössä. Ovat tehneet paljon työtä että Windows Armilla on paljon valmiimpi kuin Qualcommin lanseeratessaan vehkeensä, mutta edelleen kitkaa on jonkin verran.

12 tykkäystä