Wat is escalatie bij een AI-agent? Het moment waarop de agent stopt en een mens overneemt. Bij twijfel, emotie of risico. Hoe je die drempel ontwerpt.
Escalatie is het moment waarop een AI-agent stopt en een mens het werk overneemt. Dat gebeurt volgens vooraf afgesproken triggers: de agent is onzeker, de klant is gefrustreerd of het onderwerp is te belangrijk om te automatiseren. Een goede escalatie draagt alles over wat er al gebeurd is, zodat de klant niet opnieuw hoeft te beginnen.
Een AI-agent die nooit stopt, is geen capaciteit maar een risico. Vroeg of laat komt de vraag die hij niet kan beantwoorden, de klant die boos wordt of de beslissing die te veel geld of te veel gevoel raakt. Escalatie is het ontwerpmoment dat dat opvangt: vooraf is vastgelegd wanneer de agent zwijgt en doorschuift. Niet als fout, maar als functie. Net zo normaal als het doorgeven van een telefoongesprek aan een collega die er beter voor staat.
De triggers vallen in drie families. Twijfel: de agent heeft het antwoord niet in zijn bronnen, of de kans op een fout antwoord is te groot voor het onderwerp. Emotie: de klant is gefrustreerd, herhaalt zich of gebruikt woorden die om een mens vragen. Verder praten maakt het dan erger, niet beter. Risico: het onderwerp raakt geld, contracten, gezondheid of een beslissing die alleen een mens mag nemen. Bij elk werkstroom staat van tevoren vast welke van die triggers gelden en wat er dan gebeurt.
Wat escalatie goed maakt, zit in de overdracht zelf. De mens die overneemt, ziet het hele gesprek: wat er gevraagd werd, wat de agent heeft gezegd, welke bronnen er zijn geraadpleegd en waar hij stopte. De klant hoeft niet te herhalen en merkt één gesprek, geen twee systemen. En de escalaties zelf zijn leermateriaal: waar vaak wordt doorgegeven, ontbreekt iets in de bronnen of in de instructie. Een drempel die niet wordt bekeken, is een deur die stilletjes dichtblijft.
De moeite waard is een uitgewerkte escalatie bij elke agent die met klanten of met geld te maken heeft: daar is de vraag niet óf er wordt doorgeschoven, maar wanneer en hoe netjes. Ook bij agenten die intern werken loont hij, al is de drempel anders: bij een interne zoek-assistent is een gemist antwoord een minderheid, bij een klant is het een kapotte relatie. Hoe onherstelbaarder de gevolgen van een fout antwoord, hoe laag de drempel hoort te staan.
Het loont niet als er niemand is om naartoe te escaleren. Een agent zonder menselijke route is een luisterende deur. En een drempel die extreem laag staat, maakt de agent nutteloos: alles wordt doorgeschoven en het werk verschuift in plaats van weg. De drempel is een afweging die bij het ontwerp hoort en daarna periodiek bekeken wordt; hij is nooit een instelling die je een keer zet en vergeet.
Bij ons is escalatie geen bijzaak maar een ontwerpstap: triggers per werkstroom, een nette overdracht met het volledige gesprek en de bronnen erbij, en een terugkoppeling die laat zien waar vaak wordt doorgeschoven. Hoe de mens in de werkstroom verder is verweven, staat op de human-in-the-loop-pagina; de ruime kaders staan bij guardrails. Trajecten worden vooraf gescopet en achteraf afgerekend op de gemaakte uren.
Op drie soorten momenten, die van tevoren vaststaan. Bij twijfel: het antwoord is niet in de bronnen te vinden of de zekerheid is te laag voor het onderwerp. Bij emotie: de klant is gefrustreerd, herhaalt zich of vraagt expliciet om een mens. Bij risico: het gaat om bedragen, contracten, gezondheid of beslissingen die bewust menselijk blijven. Daarnaast kan elk moment een drempel krijgen op basis van het onderwerp. Bij een contractvraag schuift de agent eerder door dan bij een openingsvraag. Het gesprek zelf gaat mee, zodat niemand iets hoeft te herhalen.
Het volledige verloop: de vraag in de oorspronkelijke woorden, wat de agent heeft geantwoord, welke bronnen erbij zijn gepakt, en waarom hij stopte met de markering van de trigger. Daarmee kan de medewerker direct verder in plaats van opnieuw beginnen. Dat is het kernverschil tussen een nette escalatie en een afgebroken bot-gesprek. In sommige opzetten komt er ook een voorstel bij: een eerste inschatting van wat er nodig is. Dat voorstel is een hulp, geen beslissing.
Als het goed is ontworpen, niet. De klant merkt één gesprek waarin een collega overneemt met alle context, dus geen herhalen, geen nieuwe start, geen 'dat kan ik niet'. De formulering eromheen hoort in het ontwerp: doorgeven is normaliseren, en de agent zegt eerlijk wat hij wel en niet kan. Wat het moment wél laten voelen als mislukking, is een agent die blijft proberen, antwoorden verzint, en pas na meerdere rondes doorgeeft; daarom hoort de drempel in de opzet, niet in de handen van de agent.
Door te beginnen aan de voorzichtige kant en daarna bij te stellen op metingen. Start met een drempel die iets vaker doorschuift dan nodig: de kosten van een menselijke blik zijn klein, die van een fout antwoord aan een klant niet. Kijk dan per periode naar de escalaties: bij welke onderwerpen wordt doorgeschoven, en waren die terecht? Waar de mens elke keer hetzelfde standaardantwoord geeft, kan de drempel omhoog; waar hij elke keer ingrijpt, zit een gat in de bronnen. De drempel is een instelling die leeft, geen keuze die stilstaat.
EIGHTY8