De fleste investorer kender Nvidia. Færre kender forskellen på de to fundamentalt forskellige processer der driver AI-industrien. Den forskel er ved at blive den vigtigste skillelinje i halvledersektoren og dermed i en af de mest kapitalintensive industrier verden har set.
To processer, to fundamentalt forskellige problemer
For at forstå hvad der sker i AI-industrien nu, er man nødt til at forstå to begreber som mange investorer behandler som synonymer. De er det ikke.
Træning er den proces hvor en AI-model lærer. Det sker én gang, eller periodisk, og kræver massiv, koncentreret computerkraft over en afgrænset periode. GPT-4 blev trænet én gang. Det tog uger, kostede hundredvis af millioner dollars og krævede tusinder af avancerede GPU'er kørende simultant. Da træningen var færdig, stoppede den compute-udgift.
Inference er det der sker bagefter, hver eneste gang nogen bruger modellen. Når du stiller ChatGPT et spørgsmål, kører en inference-beregning. Når en bank kører en kreditvurdering med AI, er det inference. Når Netflix anbefaler en film, er det inference. Det er ikke en engangsbrug. Det sker kontinuerligt, i masseskala, 24 timer i døgnet.
Metaforen er enkel. Træning er at uddanne en læge. Inference er al den medicin lægen ordinerer resten af sin karriere. Det første koster meget på én gang. Det andet koster mere i alt, men spreder sig over tid.
Forskellene i computerkrav
De to processer stiller fundamentalt anderledes krav til hardware, og det er her den finansielle logik begynder at skifte.
Træning kræver maksimal rå computerkraft. Tusinder af GPU'er skal synkroniseres tæt og arbejde parallelt på den samme opgave i uger. Fejltolerance er lav: et enkelt chips-nedbrud kan invalidere dage af træning. Nvidia H100 og H200, de dyreste GPU'er der eksisterer, er optimeret til præcis dette. De er ingeniørmæssigt overlegne til at håndtere den massive parallelberegning træning kræver.
Inference kræver noget andet. Det kræver lav latenstid, høj throughput og energieffektivitet. Når hundredmillioner brugere stiller spørgsmål, er det afgørende at hvert svar kommer hurtigt og billigt. Det er ikke nødvendigvis den GPU der er hurtigst til én opgave, der vinder. Det er den der kan besvare flest forespørgsler per watt per dollar.
Det er en teknisk distinktion med store finansielle konsekvenser. Nvidia's GPU-arkitektur er ekceptionel til træning. Den er kompetent til inference. Men "kompetent" er ikke det samme som "optimal", og i et marked med hundredmilliarder dollars i inference-spending, giver den distinktion plads til konkurrenter.
Balancen tipper: inference overtager
I 2023 var forholdet mellem træning og inference i AI-computerspending cirka 80/20. Træning dominerede, fordi den store kapløb om at bygge de største modeller var i fuld gang.
I 2025 var forholdet 50/50. I 2026 forventer Deloitte at inference udgør to tredjedele af al AI-compute. Lenovo's CEO formulerede det på CES 2026 med brutal præcision: "Strukturen i AI-spending vil vendes helt om, fra 80 procent træning og 20 procent inference til 20 procent træning og 80 procent inference."
Logikken er simpel. Træning er en engangsomkostning der afholdes ved modelopdateringer. Inference er en løbende omkostning der vokser lineært med brugervækst. GPT-4 kostede anslået 100 millioner dollars at træne. GPT-4's inference-regning i 2024 alene blev estimeret til 2,3 milliarder dollars.
Inference er ikke bare den voksende del af markedet. Det er den del der vokser mest ubønhørligt, fordi den er direkte proportional med AI-adoption i den brede økonomi. Og AI-adoption er kun begyndt.
Omkostningerne er faldet dramatisk, men det er ikke kun godt nyt
Her er et paradoks der er afgørende for at forstå investeringslogikken. Inference-omkostningerne er faldet med 280 gange fra november 2022 til oktober 2024, ifølge Stanfords 2025 AI Index. Det er ikke en typografisk fejl. Det er 280x billigere på to år.
For brugerne er det fantastisk. For forretningsmodeller der lever af at sælge inference-kapacitet, er det en tosidet sag. Lavere priser driver eksploderende volumenvækst, men presser marginer per enhed. Usage er vokset 31 gange i samme periode, så det samlede marked er vokset markant trods prisfald. Men vendor-konkurrencen på inference er langt hårdere end på træning, hvor Nvidia nærmest har monopol.
Det er mønstret fra ethvert commodity-marked: faldende priser, stigende volumen, komprimerede marginere, og vindere der overlever på skala og effektivitet frem for teknologisk differentiering.
Nvidia: kongen der skal tilpasse sig sin egen succession
Nvidia er den ubestridte hersker over træningsmarkedet. CUDA-platformen, der er den software-stak GPU-verdenen er bygget på, er ikke en tilfældig fordel. Det er årtiers investering i developer-relations, optimerede biblioteker og et øjkosystem der er ekstremt svært at fortrænge.
Men Nvidia's GPU-arkitektur er ikke designet fra grunden til inference-optimering. Det er en kendsgerning Nvidia selv anerkender, og det forklarer selskabets opkøb af Groq i december 2025 for 20 milliarder dollar. Groq er specialiseret i inference-chips med ekstraordinær hastighed og lav latenstid. Det er et defensivt køb: Nvidia bruger 20 milliarder på at lukke et teknologisk hul selskabet ikke selv har kunnet fylde organisk.
Nvidia's Blackwell-generation af GPU'er er bedre til inference end forgængerens, og selskabet er langt fra afskrevet i inference-markedet. Men det opererer nu i et miljø med langt mere konkurrence end det har haft i træningsmarkedet.
Broadcom og Arm: de stille vindere
Mens Nvidia dominerer overskrifterne, er to selskaber ved at positionere sig som de mest strukturelt robuste profitører af inference-skiftet.
Broadcom er den mest undervurderede aktør. Selskabet producerer custom ASIC-chips til hyperscalerne, Google's TPU, Meta's MTIA og Amazon's Trainium/Inferentia er alle Broadcom-baserede løsninger. ASICs, application-specific integrated circuits, er chips designet til én specifik opgave og er radikalt mere effektive end general-purpose GPU'er til den opgave. De er dyrere at udvikle og mangler GPU'ernes fleksibilitet, men til specifikke inference-workloads leverer de langt bedre performance per watt og per dollar.
Google alene estimeres at bruge en tredjedel eller mere af sin samlede AI-compute på egne TPU'er frem for Nvidia. Det er milliardbeløb der ikke går til Nvidia, men til Broadcom og de hyperscalere der udvikler egne chips. OpenAI samarbejder med Broadcom om at udvikle sine egne ASIC-chips med planlagt masseproduktion ved udgangen af 2026.
Arm Holdings er det andet selskab som inference-skiftet favoriserer strukturelt. Arm licenserer CPU-arkitektur, og CPU'er spiller en central rolle i inference-workloads der ikke kræver fuld GPU-kapacitet. Inference kræver konstant, effektiv computing, og Arm-baserede CPU'er er ekceptionelt gode til netop det. Arm's markedsandel er vokset fra 44 til 50 procent globalt de seneste år, og den trend forstærkes af inference-skiftets krav om energieffektivitet.
Hyperscalerne: de der profiterer uanset hvem der vinder chipkrigen
Amazon Web Services, Google Cloud og Microsoft Azure er i en position der minder om guldsælgerne under Californias guldfeber: de tjener penge uanset hvem der finder guld, fordi alle har brug for deres infrastruktur.
Amazon Bedrock, AWS's inference-platform, er allerede ifølge selskabet en "multimilliard-dollar forretning." Google Cloud's inference-tjenester vokser accelererende. Azure's AI-infrastruktur er tæt integreret med OpenAI's modeller og udgør en fast del af enterprise-kundernes AI-budget.
Hyperscalerne er desuden ved at internalisere fordelen. De bygger egne chips, ejer egen infrastruktur og sælger compute-kapacitet med høje marginer. De er ikke afhængige af Nvidia på inference på samme måde som på træning, og den uafhængighed øger deres forhandlingsposition markant.
Den nye konkurrence: Cerebras, Groq og inference-specialisterne
Inference-markedets åbenhed har skabt en bølge af specialiserede startups der ikke forsøger at konkurrere med Nvidia på træning, men angriber inference med dedikerede arkitekturer.
Cerebras er det mest prominente eksempel. Selskabet producerer wafer-scale chips, bogstaveligt talt chips der er så store som en hel silicon-wafer, optimeret til AI inference med ekstraordinær throughput. OpenAI annoncerede i april 2026 et køb for 20 milliarder dollar fra Cerebras for at sikre sig inference-kapacitet uafhængigt af Nvidia, mens selskabet også bidrog til Cerebras' IPO-forberedelse med en estimeret valuation på 35 milliarder dollar.
Groq, nu opkøbt af Nvidia, var inden opkøbet benchmark-lederen på pure inference speed. SambaNova, Graphcore og en håndfuld andre selskaber adresserer alle samme markedssegment med forskellige teknologiske tilgange.
Det er sundt for konkurrencen. Det er udfordrende for Nvidia's prispositionering. Og det er attraktivt for de hyperscalere der kan spille leverandørerne ud mod hinanden.
Grænsen mellem træning og inference er ved at opløses
Her er en komplicerende faktor som den simple narrativ om "inference overtager træning" ikke fanger. Reasoning-modeller som OpenAI o1, o3 og DeepSeek R1 bruger såkaldt test-time compute, ekstra beregning i inference-fasen for at "tænke sig frem" til bedre svar. Det er ikke klassisk inference. Det er inference der forbruger 150 gange mere compute end traditionel inference.
OpenAI VP Peter Hoeschele sagde det direkte på Oracle's AI World 2025-konference: "Stop med at tale om træning versus inference. Modellerne er designet til at køre kontinuerligt, og grænsen eksisterer ikke længere på den måde I forestiller jer."
Det betyder at inference-markedet ikke nødvendigvis er en bevægelse mod billigere, svagere chips. Reasoning-modeller kræver inference-hardware der er tæt på træningskvalitet. Det er en potentiel livsline for den tunge GPU-efterspørgsel selv i en verden domineret af inference.
Min holdning
Jeg er i tvivl om hvor i kæderne at der vil blive margins, og jeg synes det er den mest ærlige holdning man kan have til dette spørgsmål i dag. Tallene er klare på ét punkt: inference overtager som den dominerende workload, og det markedet er meget større og mere fragmenteret end træningsmarkedet nogensinde var. Men det er ikke det samme som at Nvidia er truet. CUDA-monopolet på træning er massivt, reasoning-modeller slører grænsen, og Nvidia bevæger sig aggressivt ind i inference med Groq-opkøbet. Det der forekommer mig mest robust som investorthesis, er ikke at vælge den ene eller den anden side i den kamp, men at identificere dem der tjener penge uanset udfaldet. Broadcom er den mest interessante i den kategori: de bygger chips til alle de store spillere, er eksponeret mod både træning og inference via custom ASIC-markedet, og er ikke afhængige af ét enkelt teknologiparadigme. Men jeg vil ikke påstå at det er den endelige konklusion. Det er et marked der omskrives kvartalsvis, og den investor der tror sig sikker her, overvurderer sandsynligvis sin egen indsigt.