Apple on onnistunut kuromaan Nvidian kaulaa kiinni vauhdilla lokaalissa ajossa tämän päivän Mac Studio -julkaisulla. M5 Max on nopeuden puolesta jo aivan käytettävällä tasolla ja karvalakki M5 Ultra on suuremman muistimääränsä ansiosta monessa työkuormassa RTX 5090 parempi. Muistin määrä ja muistin nopeus ovat ne yleisimmät pullonkaulat paikallisessa ajossa “kuluttajatason” raudalla.
Ei tässä nyt mitään vallankumousta vielä saada aikaiseksi, mutta näyttää kyllä vahvasti siitä, että Apple tulee olemaan paikallisten mallien ajon osalta yksi markkinavoittajista ja trendin jatkuessa LLM-ajoa voidaan siirtää yhä vahvemmin pilvestä takaisin tietokoneelle. On monia yrityspuolen tekoälyhommia, missä malli ei saa muuttua kesken kaiken hallitsemattomasti ja tietoturvasyistä tekoälyratkaisuja ei voida laittaa pilveen. Pilviajon puolella näistä ei tietenkään ole sitten ollenkaan Nvidian haastajaksi.
No nyt saatiin ihan mielenkiintoinen signaali keikahduspisteestä, kun OpenAI proto-chippi päihittää GB300:sen ja on head-to-head Rubininkin kanssa (mahdollisesti jopa parempi suorituskyky, koska Rubinin spekulatiivinen enkoodaus saastuttaa vertailun). Ällistyttävää tässä on se, että kyseessä eka sukupolvi ja heti näyttää hyvältä. Ja kaiken lisäksi kyseessä ei ole mikään malli-stack optimoitu ratkaisu vaan samantyyppinen yleissiru, jolla Nvidia on monopolinsa saavuttanut.
Ihan nyt vielä ei tarvitse sirotella tuhkaa päällensä ja muutama tärkeä huomio:
Ei testattu parhaita frontier-malleja vaan esim. 1.5v vanhoja R1:siä ja vastaavia
Testit tehtiin vain 8k1k input/output-työkuormalla eikä suuren kontekstin agenttisilla ajoilla
Engineerin samplesta on vielä matkaa toimivaan massatuotantoon. Ramp-up olisi asteittain 2027, jolloin vastassa on jo Rubin Ultrat ja pian sen jälkeen Feynman. Eli pientä etumatkaa on toki edelleen Nvidialla. Mutta kun perf/W on näissä hyvä, niin kyllähän tässä OpenAI:lla varmasti syntyy jossain kohdassa kiusaus miettiä uudestaan sitä, kuinka paljon Nvidialta kannattaa jatkossa ostaa.
Mutta kyllä tämä on itselleni jälleen yksi signaali pohtia tarkkaan omaa ylialtistusta Nvidialle, josta en ole vielä hankkiutunut eroon
Läväytin tähän ketjuun kun tuntuu keskustelu pyörivän mallien ympärillä .. Jimppa tekaisi mainion artikkelin Tokenien kulutuksesta ja itse bisneksestä. Liittyy Nvidiaan(kin).
Aika monta käyttöä, jossa pelkästään RTX:n sähkön käytön (lämmön) välttäminen on merkittävä etu tuon kontrolloidun ja jäljitettävän prosessin lisäksi. Erityisesti jos pyöritetään agentteja itsekseen eikä hätäinen ihminen istu näytön edessä promptaamassa. Vähän on suolainen hinta suomalaiselle ostovoimalle, mutta hieman polttelisi hommata Ultra testiin. Varmaan parempi odotella kunnollisia testituloksia.
Noin muuten väittäisin Applen kyllä pelanneen fiksusti tätä peliä vaikka innovaation puutteesta valitetaankin. Tuon raudan lisäksi ainakin jenkeissä näyttää olevan ihan mielenkiintoisen oloisia leasing-juttuja.
Itse olen ostamassa varmaan 512GB ultran kun niitä saa ( lokakuussa ilmeisesti saa tilattua ).
Vastaava nvidia ratkaisu ( ketjun nimenkin takia ) maksaisi enemmän saada edes puolet siitä muistista ( olisi se myös toki nopeampi ). Kallis harrastus, mutta elämä on.
Lisäksi kun teen tätä kotona, ei joku 2KW virrankulutus yhdistettynä lentokoneen ääneen, saa pisteitä - ainakaan puolisolta. Itselle siitä tulisi ehkä konesali nostalgia mutta pidemmän päälle voisi rasittaa sekin.
Ihan kivasti osui uudelleen kalibroitu malli lankulle tuloksen ja tulevan kvartaalin odotusten osalta.
Veret seisauttavat luvuthan nämä taas kerran oli.
Ja vielä veret seisauttavampi on tuo annettu kasvuohjeistus tulevalle vuodelle:
”We expect to grow revenue by approximately 70% in fiscal 2028. This is a supply-constrained outlook”
Eli siis jos/kun tänä vuonna tehdään 400B, niin ensi vuonna odotetaan VÄHINTÄÄN $680B. Aivan tajuton lukema! Konsensusodotus taisi tänään vielä olla $550B.
Ei ihme, että kurssi ottikin lopulta melkoisen pompun.
