Wat is fine-tuning? Een bestaand model bijtrainen op eigen voorbeelden. Wanneer het zin heeft, wat het vraagt aan data en onderhoud, en wat beter werkt.
Fine-tuning is een bestaand taalmodel verder trainen op eigen voorbeelden, zodat zijn gedrag verschuift richting jouw taak: een vaste stijl, een specifieke uitvoervorm of een jargon dat algemene modellen missen. Het model zelf verandert daardoor permanent. Feiten die veranderen (prijzen, voorwaarden, dossiers) horen er niet in; die los je op met opgezochte kennis.
Een gefine-tuned model begint als een standaardmodel dat al taal begrijpt. Daar gaan honderden tot duizenden voorbeelden tegenaan, telkens als paar: deze invoer hoort bij die uitvoer. Het model stelt zijn gewichten bij tot het dat patroon zelf voortbrengt. Een supportteam dat antwoorden altijd in dezelfde structuur wil, of een partij met eigen vaktaal die een algemeen model structeloos vindt, kan daar echt winst mee boeken.
De keerzijde zit in drie dingen. Data: iemand moet die voorbeelden verzamelen, opruimen en controleren. Slechte voorbeelden leeren een model fouten aan. Veroudering: wat het model heeft ingebakken, verandert niet mee; een nieuwe prijslijst of voorwaarde betekent opnieuw trainen of een versie eromheen. En bewaking: een bijgetraind model is jouw verantwoordelijkheid geworden, inclusief wat het anders doet dan de vorige versie.
Daarom staat fine-tuning in de praktijk bijna nooit vooraan. Vragen over eigen documenten beantwoordt RAG, want daar blijft de bron actueel en citeerbaar. Vaste stappen lost een workflow op. Wat overblijft is de niche waarin bijtrainen wint: vorm, toon en taakvorm die met instructies en meeleveren onvoldoende stabiel te krijgen zijn.
Wél bijtrainen loont als je een grote, stabiele hoeveelheid goede voorbeelden hebt en de taak vooral om vorm draait: dezelfde opbouw, dezelfde toon, dezelfde velden in dezelfde volgorde. Denk aan een inboekproces met vaste berichtvormen of een rapportagestijl waar elk algemeen model van afwijkt. Dan kan een kleiner bijgetraind model bovendien zuiniger draaien dan een groot algemeen model.
Niet doen is het als de kennis zelf het probleem is. Feiten die wijzigen, antwoorden mét bronvermelding, en alles wat per klant of dossier verschilt, horen in een zoeklaag. Een model die jouw voorwaarden uit mei heeft geleerd, kan ze in oktober niet vergeten. En wie denkt dat fine-tuning een alternatief is voor nette documentatie, heeft het eerst nodig om die documentatie op orde te brengen.
We behandelen het als laatste middel, bewust. Eerst testen we instructies en opgezochte kennis tegen echte voorbeelden; pas wat daar bewezen tekortschiet komt voor bijtraining in aanmerking, met een afweging die je zelf mee maakt: wat levert het op, wat kost de data, wie houdt het model daarna bij. Zo'n traject is klein te starten. Eerst bewijzen dat het beter is dan wat al draait, dan pas uitbouwen.
Nee, en dat is het meest hardnekkige misverstand rond dit onderwerp. Voor antwoorden uit eigen documenten bestaat RAG: het model zoekt per vraag de juiste stukken op en antwoordt daarmee, mét bron. Bijtrainen is daarvoor ongeschikt, omdat vastgelegde kennis veroudert zodra een document wijzigt. Kies bijtraining alleen voor iets anders dan feiten: een vaste stijl, een vaste vorm of eigen vaktaal die instructies niet vasthouden.
Genoeg om het patroon dat je wilt aan te leren ook echt te dekken: in de praktijk gaat het niet om een handvol, maar om honderden tot duizenden goede paren van invoer en gewenste uitvoer, en de spreiding moet kloppen. Alle varianten van de taak moeten voorkomen. Kwaliteit weegt zwaarder dan aantal: twintig rommelige voorbeelden maken het resultaat slechter, niet beter. De inventarisatie van die voorbeelden is meestal de zwaarste inspanning van het hele traject.
De voorbeelden die je aanlevert worden gebruikt om het model aan te passen en blijven daarna deel uitmaken van het getrainde materiaal. Daarom filteren we persoonsgegevens er bewust uit vóór het trainen en leggen we vast wat er waar en hoe lang staat. Afspraken met de modelprovider over bewaring en gebruik horen in een verwerkersovereenkomst. Wie met vertrouwelijke data werkt, overweegt beter een zoeklaag dan bijtraining, juist omdat die geen data in een model stopt.
Drie dingen bepalen de omvang: het verzamelen en opschonen van voorbeelden, het trainen en evalueren van varianten, en het onderhoud daarna. Die eerste post valt vaak het zwaarst mee omdat het werk bij jou ligt, niet bij ons. We schatten elk traject vooraf in op nacalculatie (ingeschat op de complexiteit van jouw taak) en zetten dat in een offerte voordat iets getraind wordt. Is bijtraining niet de moeite waard, dan zeggen we dat liever vroeg dan laat.
EIGHTY8