Inferentie

Inferentie is de fase waarin een al getraind AI-model daadwerkelijk wordt gebruikt om antwoorden, voorspellingen of teksten te genereren. Het staat tegenover de trainingsfase, waarin het model wordt opgebouwd door het te voeden met grote hoeveelheden data. Bij inferentie past het model wat het heeft geleerd toe op een nieuwe vraag of invoer, bijvoorbeeld wanneer iemand een chatbot een vraag stelt.

Waar training vaak een eenmalig, zeer rekenintensief traject is, gebeurt inferentie continu en op grote schaal, namelijk telkens als gebruikers het model aanroepen. Daardoor groeit het belang van efficiënte inferentie naarmate AI-toepassingen meer worden gebruikt. Ook inferentie vraagt rekenkracht, vaak via gespecialiseerde chips zoals GPU's in datacenters.

Voor de AI-waardeketen is het onderscheid relevant. Training drijft de vraag naar zware rekencapaciteit op korte termijn, terwijl inferentie zorgt voor een aanhoudende, terugkerende vraag naar rekenkracht zolang AI-diensten worden gebruikt. Het begrip helpt beleggers begrijpen dat de behoefte aan chips en cloudcapaciteit niet stopt na de training, maar doorloopt in het dagelijks gebruik van AI.