Wat is few-shot en zero-shot? Een model sturen met een paar voorbeelden (of geen) in de prompt. Wanneer voorbeelden meer doen dan uitleg.
Few-shot betekent dat je een model een taak laat doen door er enkele voorbeelden van te geven in de aanvraag zelf: input, gewenste output, nog een keer, en dan de echte vraag. Zero-shot is dezelfde opgave zonder voorbeelden, puur op basis van de uitleg. EIGHTY8 kiest tussen beide per taak. Voorbeelden zijn vaak effectiever dan een langere uitleg.
Voorbeelden zeggen een model vaak meer dan uitleg. Leg in drie zinnen uit hoe een klantvraag ingedeeld moet worden, en het model doet zijn sterkste poging; geef hem vier voorbeelden van een vraag mét de juiste indeling, en hij pakt het patroon vrijwel altijd scherper op. Die eerste aanpak heet zero-shot (taak zonder voorbeeld) de tweede few-shot: een handvol voorbeelden dat met de vraag meereist als voorbeeldmateriaal.
Het woord 'shot' telt de pogingen die je laat zien. Geen voorbeeld is zero-shot; twee of drie is few-shot. Belangrijk om te onthouden: er wordt niets getraind. De voorbeelden leven binnen de aanvraag, kosten mee aan de lengte van elke aanroep, en zijn weg zodra de aanroep voorbij is. Het model zelf verandert niet. Het is een schoolbord dat je per vraag opnieuw beschrijft, geen leerproces dat blijft hangen.
Een voorbeeld: een werkstroom moet inkomende mails indelen in drie categorieën. Zero-shot schrijf je: 'indelen in factuur, klacht of overig'. Dat gaat vaak al goed. Tot de randgevallen komen: een mail over een factuur die óók een klacht is. Met few-shot zet je precies zulke randgevallen als voorbeeld in de aanvraag, mét de gewenste keuze. Het model leert niet bij; hij past zijn lezing aan op het patroon dat jij liet zien.
Few-shot is de moeite waard bij taken met een indeling, een formaat of een toon die lastig in woorden te vangen is maar makkelijk te laten zien: classificatie, het structureren van vrije tekst, een vaste stijl van samenvatten. Ook bij randgevallen is het het sterkste gereedschap: je toont het model precies de gevallen die anders misgaan, zonder een regelwerk te schrijven.
Het is niet de moeite waard bij taken die het model al vanzelf goed doet, want voorbeelden toevoegen kost dan alleen ruimte en geld per aanroep. En er is een grens: een grote stapel voorbeelden per aanroep is duur en traag; het is geen vervanging voor een echte integratie met eigen documenten. Zijn er tientallen regels nodig om de taak te omschrijven, dan is het tijd voor een andere aanpak: een vaste bronkoppeling of, in uitzonderlijke gevallen, bijtrainen.
EIGHTY8 gebruikt few-shot als het fijne gereedschap van elke werkstroom: een handvol echte voorbeelden uit jouw praktijk, gekozen op de gevallen die telden, en vastgelegd met de instructie zodat ze samen onderhoud krijgen. Randgeval dat misgaat? Dan komt het als voorbeeld in de set. Een kleine, meetbare verbetering zonder nieuw model.
Zodra de taak een patroon heeft dat je kunt laten zien maar moeilijk kunt beschrijven: de juiste indeling bij randgevallen, een formaat, een toon. Een uitleg dwingt het model om woorden te interpreteren; een voorbeeld toont het gewenste resultaat rechtstreeks. Vuistregel: probeer eerst zero-shot met een heldere opdracht, en voeg voorbeelden toe voor precies de gevallen die nog misgaan. Dan weet je ook welk voorbeeld het verschil maakte.
Ja. Elke voorbeeldregel reist met élke aanroep mee: langer, trager en duurder, zonder garantie op een beter resultaat. Ook kan een te lange set het model te stug maken. Hij volgt de voorbeelden letterlijk waar je juist soepelheid wilt. We kiezen voorbeelden daarom op dekking, niet op aantal: een paar sterke gevallen, inclusief de randgevallen die telden, doen meer werk dan een dozijn variaties op hetzelfde punt.
Nee, en het verschil is praktisch belangrijk. Trainen verandert het model zelf en is een project met data, tijd en kosten; few-shot verandert niets aan het model. De voorbeelden leven alleen binnen de aanvraag en zijn na de aanroep weg. Voor de meeste bedrijfstaken is few-shot de eerste en vaak enige stap: snel te bouwen, direct aanpasbaar, en zonder een trainingstraject. Trainen komt pas in beeld bij een taak die met sturing écht niet scherp genoeg wordt.
Regelmatig, juist daar. Documenten indelen leunt op randgevallen (de factuur die eruitziet als een bevestiging, de klacht die verstopt zit in een offerte) en die randgevallen laat je niet in woorden beschrijven maar als voorbeeld zien. In onze werkstromen groeit de voorbeeldenset mee met de praktijk: elk gemarkeerd foutje wordt kandidaat-voorbeeld, en na een toetsrun gaat de betere set live. Zo wordt de indeling beter zonder dat er iets herbouwd wordt.
EIGHTY8