Wat is een GPU en waarom heeft AI die nodig? Rekenkaarten die duizenden berekeningen tegelijk doen. Wanneer je er zelf een nodig hebt en wanneer niet.
Een GPU (graphics processing unit) is een rekenkaart die duizenden kleine berekeningen tegelijk uitvoert, waar een gewone processor ze één voor één afwerkt. Taalmodellen en beeldherkenning bestaan grotendeels uit zulke parallelle sommetjes, dus zonder GPU's is AI traag. Voor de meeste bedrijven is rekenkracht huren voldoende; bezit is zelden nodig.
Een computer kent twee soorten rekenaars. De processor, de CPU, is de alleskunner: hij pakt elke taak op en doet ze achter elkaar. De GPU is de specialist: hij kan veel minder, maar voert wel duizenden gelijksoortige sommetjes tegelijk uit. Beelden opbouwen was de eerste klus die daarom vroeg; tegenwoordig is het draaien van AI-modellen de belangrijkste.
AI rekent met enorme vlakken getallen: elk woord, elke pixel en elke klank wordt omgezet in lijsten cijfers die miljoenen keren met elkaar worden vermenigvuldigd. Dat is precies het werk waar een GPU in uitblinkt. Dezelfde handeling, massaal tegelijk. Daarom draait elk taalmodel, elke beeldgenerator en elke spraakmotor in de praktijk op rekenkaarten, of op hun grootbroers in datacenters.
Voorbeeld: laat je een agent een stroom inkomende mailtjes laten classificeren, dan praat je over een handvol seconden rekenwerk die een provider voor je draait. Geen eigen kaart nodig. Bouw je zelf modellen, of draai je veel beeldverwerking op eigen servers, dan wordt hardware wél een gesprek. Het onderscheid tussen die twee werelden is groter dan vaak wordt gedacht.
Wie AI gebruikt via een bestaande dienst, of via een automatisering die EIGHTY8 bouwt, huurt rekenkracht op basis van gebruik. Zoals je elektriciteit ook niet zelf opwekt. Een eigen kaart wordt pas interessant als je structureel zwaar rekenwerk op eigen servers draait, gegevens nooit buitenhuis mogen, of zelf modellen traint. Dat zijn bewuste keuzes, met beheer, stroom en vervanging tot gevolg.
Het loont níet om hardware te kopen voor de zekerheid: een kaart is duur in aanschaf, veroudert snel en ligt stil zodra je hem niet continue gebruikt. Het loont ook niet als je vraag eigenlijk een softwarevraag is. Een slimme workflow zonder zwaar model heeft aan een gewone server genoeg. Eerst het ontwerp, dan de hardware.
In de automatiseringen die we bouwen wordt de rekenkracht ingekocht bij gespecialiseerde providers, naar gebruik afgerekend: je betaalt voor wat er daadwerkelijk draait, zonder kaart in een kast. In de discovery wegen we af of een licht model volstaat of dat een taak zwaardere rekenvraag stelt. Wil je juist op eigen hardware blijven (om privacy- of kostenredenen) dan is dat een ontwerpbesluit waar we eerlijk de afwegingen bij zetten; de kant van hosting en eigen servers bespreken we onder AI Development.
Nee. Bijna alle AI die bedrijven gebruiken draait op rekenkracht die per gebruik wordt gehuurd bij grote providers, net zoals je stroom ook niet zelf opwekt. Een eigen rekenkaart wordt pas relevant als je zelf modellen traint of structureel zwaar rekenwerk op eigen servers wilt draaien. Voor automatiseringen zoals mailclassificatie, samenvatten of lead-routing heb je er geen nodig. Daar is het ontwerp van de workflow bepalender dan de hardware.
Omdat AI-rekenwerk uit miljarden gelijksoortige sommetjes bestaat, en een GPU er duizenden tegelijk doet waar een gewone processor ze achter elkaar afwerkt. Die eigenschap werd ooit ontwikkeld voor beelden op schermen, maar bleek exact te passen op de wiskunde achter taal-, beeld- en spraakmodellen. Daarom bepaalt de beschikbaarheid van deze kaarten mede hoe snel AI zich ontwikkelt. En waarom rekenkracht een inkoopproduct is geworden dat je huurt in plaats van bezit.
Dat hangt af van het model dat een taak nodig heeft en van het volume: een lichte classificatie is verhoudingsgewijs goedkoop, zwaar analytisch werk vraagt meer. Omdat EIGHTY8 rekenkracht naar gebruik inkoopt, betaal je voor wat er daadwerkelijk draait. Er staat dus nooit een vaste hardwarepost op de offerte. In de discovery schatten we het verwachte gebruik in en rekenen we dat door naar een tarief per project, op basis van nacalculatie.
Voor experimenten en kleine, open modellen kan dat zeker. Het is een leuke en leerzame route. Voor bedrijfskritisch werk komt er veel bij kijken: het beheer van de machine, beveiliging, stroom, geluid en de vraag wie hem bijwerkt en bewaakt. Bovendien halen de grote hostingmodellen bij moeilijke taken betere resultaten dan wat op één werkplekkaart past. Lokale modellen zijn dus een bewuste keuze voor specifieke redenen, niet automatisch de voordeligste of veiligste optie.
EIGHTY8