Jag köper verkligen inte påståendet om mina antaganden och att de skulle vara föråldrade, eftersom jag uttryckligen talar om nästa fas av utvecklingen 
Det där exemplet med cybersäkerhet går i alla fall helt fel ute, enligt mig, eftersom vi har befunnit oss i en sådan situation i flera år. Kopplar man upp en dator till nätverket utsätts den omedelbart för en enorm mängd automatiska attacker dygnet runt, så försvaret måste också vara flerskiktat – från klientenheter och routrar till nätverksoperatörer och utländska mjukvarujättar. Det räcker inte med att centralt slänga in någon Cortex och tro att saken är biff, utan i framtiden behövs AI-komponenter som ger extra säkerhet på alla nivåer, allt från den lokala datorns AI som i realtid övervakar integriteten till storföretagets frontier-modell som letar efter zero-day-exploits.
Svårigheterna med kommunikationen beror antagligen på att man kan försöka lösa samma problem från helt skilda utgångspunkter, och vi närmar oss det här problemet ur så olika synvinklar att det får tankesättet att verka knäppt. Till exempel kan ett ekonomiskt fördelningsproblem lösas med planekonomi eller marknadsekonomi, men det brukar vara väldigt svårt för företrädare för motsatta världsbilder att diskutera med varandra.
Traditionell dataprogramvara syftar till att förändra minnets tillstånd genom att utföra beräkningar och hantera programmets biverkningar, vilket de har blivit överlägsna på och fortfarande är i jämförelse med AI-modeller. AI-modeller är som mest konkurrenskraftiga i uppgifter där en oklar eller dåligt definierad situation måste omvandlas till en maskinberäkningsbar form.
När det gäller OpenAI och Anthropic gick vi redan igenom samma fas tidigare som Intel och AMD gick igenom i GHz-krigen, det vill säga att man försöker maximera modellernas intelligens genom att maximera antalet parametrar. OpenAI, Anthropic och de kinesiska konkurrenterna stötte på patrull där, så förbättringarna har gått från allt bättre generalistmodeller mot systemoptimering.
Eftersom enbart skalning av en enskild modells intelligens vid problemlösning genom att öka parametrarna började bli för dyrt och följa avtagande avkastning, började man utveckla bättre sätt att utnyttja användningen av modeller. Till exempel tool calls, MCP samt under- och parallellagentsystem. Målet har alltså inte på länge varit att skapa en enda modell som kan hantera vilken uppgift som helst som du ger den, utan orkestrerare som så effektivt som möjligt kan dirigera den uppgift du ger till att hanteras av andra verktyg eller modeller.
Du kom enligt mig väldigt nära lösningen när du sa, fritt citerat, att ekonomiförvaltningen inte behöver någon Einstein. Det är fånigt att köra Excel-snurrande med en modell som har 100 GB i vikter och motsvarande beräkningskapacitet om 100 MB vikter räcker. Genom att kedja ihop ett stort antal små specialiserade modeller och agenter byggda ovanpå dem kan man eventuellt uppnå en kollektiv intelligens som kan lösa samma problem som en jättemodell, men till en bråkdel av den beräkningskraft som krävs.
Om man inte behöver Einstein behöver man inte heller Vera Rubin och inte heller Nvidia, eftersom mindre modeller gör det möjligt att utnyttja all den lokala beräkningskraft, det minne och de NPU:er som installeras inom den närmaste framtiden och som nu går till spillo i AI-arbetet. Även om den totala konsumtionen oundvikligen också skulle öka, skulle en allt mindre del av den hamna i Nvidias kassa och dagens obscena vinstmarginaler skulle bli svåra att försvara mot konkurrenterna.
Det största problemet just nu är att vi fortfarande inte har tillräckligt med tränade specialiserade modeller, och i synnerhet inte mikromodeller. Vi tvingas slösa med tokens och använda större modeller än nödvändigt enbart på grund av att små modeller inte finns tillgängliga. Folk tvingas för närvarande faktiskt bygga dem själva.
Till exempel den här modellen, whatisit-nl2sh, vars uppgift är att returnera ett shell-kommando från engelsk text, är bara något snilles hobbyprojekt. Även om den i sig är en modell på CPU-nivå (så liten att datorn inte ens behöver ett grafikkort), skulle du antagligen kunna kapa dess beräknings- och minneskrav till 1/20 av det nuvarande om den tränades för uppgiften från grunden. Nu bygger folk dessa hemma genom att finjustera någon qwen-coder.
I min vision kommer vi i framtiden att behöva miljontals sådana här specialiserade språkmodeller för att kunna köra agenter genuint effektivt. För att underlätta detta borde man väl börja bygga någon form av fungerande arkitektur och ge AI förmågan att börja träna nya små modeller på egen hand utan mänsklig styrning, vilket visserligen är en aningen läskig tanke.
En betydande faktor bakom snedvridningen i det nuvarande ekosystemet är att de största investerarna tjänar pengar baserat på mängden använda tokens. Som en rolig bilanalogi skulle vi knappast få några bränslesnåla motorer om biltillverkarna fick stora royalties baserat på hur många liter bränsle fordonet förbrukade och alla kampanjer fokuserade på att marknadsföra hur kraftfull motorn är och hur snabbt den accelererar. Jag skulle uppfatta det som en hälsosam utveckling för sektorn om börsintroduktionerna (IPO:erna) floppade och penningkranarna drogs igen, och om man lade mer fokus på verksamhetens lönsamhet samt den mindre änden och maximering av effektivitet i stället för benchmaxning.
Jag tror att framtiden för denna teknologi, i stället för jätte-AI-modeller som bor i datacenter, i allt starkare grad kommer att ligga hos en enorm mängd specialiserade små tomtar. Utöver stugans bastutomte kommer du i din dator att ha en Excel-tomte, en Word-tomte och en massa andra små AI-assistenter som sköter saker åt dig i det tysta, helt autonomt och kommunicerande med varandra. Beräkningskraft och jätteintelligens på datacenternivå kommer man säkert att behöva även i framtiden, men inte alltid och inte överallt.