Een gewone chatbot geeft antwoord op een vraag. Een AI-agent gaat verder: die voert zelfstandig een taak uit. Anthropic maakt een helder onderscheid tussen twee soorten systemen waarin een taalmodel met tools werkt:
- Een workflow: het taalmodel en de tools volgen een route die vooraf in code is vastgelegd.
- Een agent: het taalmodel bepaalt zelf welke stappen het zet en welke tools het gebruikt. Het houdt zelf de regie over hoe de taak wordt uitgevoerd.
Kort gezegd: een workflow volgt een uitgestippelde route, een agent kiest zelf de route op basis van wat het onderweg tegenkomt.
Hoe een agent werkt
Een agent begint met een opdracht of met een gesprek met de gebruiker. Is de taak duidelijk, dan maakt de agent een plan en gaat hij zelfstandig aan de slag. Na elke stap kijkt de agent naar het echte resultaat, zoals de uitkomst van een tool of van uitgevoerde code, en kiest hij de volgende stap. Zo werkt een agent in een lus, totdat de taak klaar is.
- Tools: de agent zoekt informatie op, voert code uit of leest en schrijft bestanden.
- Terugkoppeling: elk resultaat bepaalt mee wat de volgende stap wordt.
- Momenten voor de mens: de agent kan pauzeren om iets te vragen, op een vast controlemoment of als hij vastloopt.
- Stoppen: meestal stopt de agent als de taak klaar is. Vaak geldt daarnaast een grens, zoals een maximaal aantal stappen, zodat je de controle houdt.
Een voorbeeld: je vraagt een agent een fout in software op te sporen en te herstellen. De agent zoekt zelf in welke bestanden de fout zit, past de code aan, draait de tests en werkt verder met de uitkomst. Hoeveel stappen dat kost, weet je vooraf niet.
Wanneer heeft een agent meerwaarde?
Anthropic raadt aan om te beginnen met de eenvoudigste oplossing en het pas ingewikkelder te maken als dat aantoonbaar beter werkt. Voor veel toepassingen is één goede vraag aan een taalmodel, met de juiste informatie en voorbeelden, al genoeg. Een vaste workflow past bij taken die je goed in stappen kunt opdelen. Een agent past bij open taken waarvan je vooraf niet weet hoeveel stappen nodig zijn en waarvoor je geen vaste route kunt vastleggen.
Een agent komt het best tot zijn recht bij taken die:
- zowel een gesprek als handelingen vragen;
- een helder criterium hebben voor wanneer de taak geslaagd is;
- onderweg terugkoppeling geven, zodat de agent kan bijsturen;
- ruimte laten voor toezicht door een mens.
Twee voorbeelden die Anthropic noemt: klantenservice, waarbij de agent gegevens opzoekt en handelingen uitvoert zoals een melding bijwerken, en programmeren, waarbij automatische tests laten zien of een oplossing werkt.
Er zit wel een prijs aan. Een agent kost meer tijd en rekenkracht dan een enkele vraag, en een fout in een vroege stap kan doorwerken in de stappen daarna. Test een agent daarom eerst in een afgeschermde omgeving en stel duidelijke grenzen in.
Vaste patronen voor workflows
Tussen één enkele vraag en een volledig zelfstandige agent zitten workflows. Anthropic beschrijft vijf patronen die vaak voorkomen:
- Prompt chaining: een taak in vaste stappen, waarbij elke stap verder werkt met de uitkomst van de vorige. Bijvoorbeeld eerst een opzet maken, die controleren en dan de tekst schrijven.
- Routing: een vraag eerst indelen en dan doorsturen naar een gespecialiseerde vervolgstap.
- Parallel werken: deeltaken tegelijk laten uitvoeren, of dezelfde taak een paar keer, en de uitkomsten samenvoegen.
- Orchestrator en workers: één taalmodel deelt een taak op, verdeelt de delen over andere taalmodellen en voegt hun resultaten samen.
- Evaluator en optimizer: het ene taalmodel maakt een antwoord, het andere beoordeelt dat en geeft feedback, in een lus tot het resultaat goed is.