Wat is temperature bij een AI-model? De instelling die bepaalt hoe voorspelbaar of creatief een antwoord is. Waarom bedrijfsprocessen laag zetten.
Temperature is een instelling die bepaalt hoe vrij het model bij elk woord kiest: op een lage stand kiest hij telkens de veiligste vervolgoptie en wijken zijn antwoorden nauwelijks van elkaar af, op een hoge stand durft hij verrassender keuzes en lopen antwoorden uit elkaar. Voor creatief schrijven kan die vrijheid helpen; voor bedrijfsprocessen is ze meestal verkeerd.
Een taalmodel kiest bij elk volgend woord uit een lijst kandidaten, elk met een waarschijnlijkheid. Temperature stuurt die keuze aan: een lage stand drukt de willekeurigheid terug en maakt dat het model steevast de meest waarschijnlijke optie pakt, terwijl een hoge stand de minder waarschijnlijke opties meer kans geeft. Hetzelfde model, dezelfde vraag. Maar met een andere stand tref je heel ander gedrag.
Voor welk doel welke stand? Bij brainstormen, namen bedenken en tekstvariaties wil je juist dat twee pogingen verschillen; daar hoort een hogere stand bij. Bij een administratieve stap (facturen classificeren, gegevens uitlezen, vaste antwoorden formuleren) wil je het omgekeerde: dat dezelfde invoer telkens dezelfde uitvoer krijgt. Vandaar de vuistregel die we overal aanhouden: bedrijfsprocessen op een lage stand, creatief werk waar dat bewust wél gewild is hoger.
Wat temperature niet oplost: een model dat iets niet weet, antwoordt bij elke stand met iets wat eruitziet als kennis. De instelling stuurt variatie, geen juistheid. Fouten tegengaan doe je met bronnen en controles; deze knop regelt alleen of de toepassing zich als machine gedraagt of als creatieve collega. Verwar die twee dus niet bij het inrichten van een werkstroom.
Laag zetten loont altijd waar het resultaat in een proces terechtkomt: classificatie, extractie van gegevens, gegenereerde antwoorden op vaste vragen, alles wat later gecontroleerd of verwerkt wordt. Het geeft je herhaalbaarheid terug, en daarmee testbaarheid. Je kunt een wijziging pas beoordelen als dezelfde invoer ook dezelfde uitvoer geeft. Zonder lage stand meet je ruis in plaats van verbetering.
Niet overal loont het even sterk. Bij open ideevorming, een eerste tekststroom of het bedenken van variaties wil je juist spreiding; daar is een lage stand contraproductief, want elke poging lijkt dan op de vorige. En verwacht geen wonderen: bijtaken tegen het probleem dat een model structureel verkeerd antwoordt, helpt een lagere stand niet. Dat vraagt andere middelen, zoals betere instructies of opgezochte kennis.
Per werkstroom leggen we de stand vast als onderdeel van het ontwerp, niet als verborgen knop: processen laag, creatieve taken hoger waar dat past. Daarnaast testen we met een evalset of de toepassing onder die instelling herhaalbaar blijft. Dezelfde vragen geven telkens vergelijkbare antwoorden. Zo weet je bij oplevering niet alleen hoe de toepassing antwoordt, maar ook of je dat morgen weer krijgt.
Een lage stand, telkens. Bij taken zoals classificeren, gegevens uitlezen of vaste antwoorden genereren wil je dat dezelfde invoer telkens hetzelfde resultaat geeft, zodat medewerkers en controles erop kunnen bouwen. Hoe strak de taak, hoe lager de stand. Een uitzondering is als bewust variatie gewild is (bijvoorbeeld marketingteksten) en dan hoort die keuze bij het ontwerp te worden vastgelegd, niet ter plekke ontdekt.
Juist dan telt hij zwaar: met een hoge stand geeft hetzelfde model op dezelfde vraag merkelijk verschillende antwoorden, en dat breekt elk proces dat op herhaalbaarheid rekent. Met een lage stand komen antwoorden nauw bij elkaar, hoewel nooit letterlijk identiek. Er blijft altijd een minimale variatie in taalgebruik. Wil je letterlijk vaste teksten, dan kun je die beter als template serveren, niet door een model te laten herformuleren.
Vaak wel, met kanttekening. Voor ideevorming, conceptvariaties en teksten waarin verrassing telt geeft een hogere stand meer spreiding om uit te kiezen. Maar het is geen kwaliteitsknop: een te hoge stand vergooit samenhang en leest raar, en de sterkste zinnen blijven van een goed model mét een goede instructie. We zetten creatieve taken dan ook hoger dan processen, maar altijd met dezelfde vraag erna: wat levert de spreiding op die je eruit haalt?
Dat is de bedoeling: elke werkstroom draagt zijn eigen instelling als onderdeel van het ontwerp, zodat een strikt proces en een creatieve taak niet dezelfde stand hoeven delen. Bij oplevering staat die keuze gedocumenteerd, net als de test die bewijst dat de toepassing daaronder herhaalbaar blijft. Wat dat ontwerp en dat bewijs kosten, schatten we vooraf in op basis van de taak. Op nacalculatie, met een offerte voordat we bouwen.
EIGHTY8