AI op je werk: waarom weten wat een opdracht kost een nieuwe vaardigheid is

Een vraag aan een chatbot voelt gratis. Je typt iets in, je krijgt antwoord, en de rekening ziet je nooit. Maar zodra AI in een organisatie onderdeel wordt van het dagelijkse werk, verandert dat. Dan tellen al die losse vragen op tot een flink budget en een flinke hoeveelheid stroom. Begrijpen wat een AI-opdracht kost, wordt daarmee een vaardigheid die niet alleen voor de IT-afdeling geldt.

Waarom kosten opeens jouw zaak zijn

Vakblad Computable sprak op 21 oktober met Robert Keus, medeoprichter en ceo van GreenPT, een bedrijf dat organisaties via één omgeving toegang geeft tot meerdere AI-modellen en daarbij laat zien hoeveel tokens, geld en energie het gebruik kost. Zijn punt is dat er snel een versnipperd landschap ontstaat. De ene afdeling gebruikt het ene model, de andere een ander abonnement, en niemand ziet nog wat het geheel kost. Een klantenservice die automatisch duizenden gesprekken per dag laat samenvatten, of ontwikkelaars die continu een programmeerassistent aanroepen, leveren samen een rekening op die niemand had voorzien.

Keus vergelijkt het met de eerste jaren van de cloud, toen afdelingen ook makkelijk zelf capaciteit inkochten. Volgens hem zegt de prijs van één opdracht weinig, het gaat om het volume. En hij wijst op een tweede rekening, het energiegebruik. Wie miljoenen opdrachten draait, moet ook weten hoeveel rekenkracht daarvoor nodig is.

Voor jou als werknemer betekent dat iets heel praktisch. Wie straks processen met AI inricht, een tool kiest of een workflow automatiseert, maakt keuzes die geld kosten. Wie snapt hoe die kosten ontstaan, kan betere keuzes maken en dat ook uitleggen aan een leidinggevende. Dat maakt je waardevoller dan iemand die alleen goed kan prompten.

Wat een AI-opdracht eigenlijk kost

De rekeneenheid van taalmodellen is de token. Dat is een stukje tekst, soms een heel woord, soms een deel ervan of een leesteken. Volgens de uitleg van OpenAI is een token in Engelse tekst gemiddeld ongeveer vier tekens, ofwel driekwart woord. In andere talen ligt die verhouding anders, dus een Nederlandse tekst kan in tokens anders uitvallen dan je zou verwachten.

Drie dingen tellen mee. Wat je erin stopt, dus je vraag plus alles wat je meestuurt aan documenten, eerdere berichten en instructies. Wat eruit komt, het antwoord. En bij zogeheten redeneermodellen ook de denkstappen die het model intern zet, ook al zie je die niet terug in het antwoord. Veel aanbieders rekenen invoer en uitvoer apart af, en tussen grote en kleine modellen zitten volgens Computable flinke prijsverschillen.

Daaruit volgen een paar inzichten die niet vanzelf spreken. Een lang gesprek wordt steeds duurder, omdat de hele voorgeschiedenis bij elke nieuwe vraag opnieuw wordt meegestuurd. Een document van vijftig pagina’s uploaden om één zin terug te vinden, kost veel meer dan die ene alinea plakken. En het zwaarste model inzetten voor een simpele taak is zonde. Keus zegt het in Computable zo. “Het zwaarste model is niet automatisch het beste model voor iedere toepassing.” Een kleiner model dat de taak goed doet, is vaak goedkoper en vraagt minder energie.

Een vaardigheid die je kunt oefenen

Het mooie is dat je dit kunt leren zonder dat je werkgever er een cursus voor hoeft in te kopen. Het gaat om een gewoonte van kijken en vergelijken. Deze oefeningen helpen.

1. Kijk een week lang bij elke AI-opdracht wat je meestuurt. Had dezelfde vraag met minder context gekund?
2. Begin een nieuw gesprek als je onderwerp verandert, in plaats van eindeloos door te gaan in één draad.
3. Probeer dezelfde taak met een licht en een zwaar model, als je tool die keuze biedt. Noteer waar het lichte model goed genoeg is.
4. Schrijf compacte opdrachten. Een heldere vraag van drie zinnen levert vaak een beter en korter antwoord op dan een lap tekst.
5. Vraag om korte antwoorden als je geen lang verhaal nodig hebt. Uitvoer telt ook mee.
6. Heeft je organisatie een overzicht van het AI-gebruik, vraag dan of je erin mag kijken. Zie je welke toepassingen het meest kosten, dan zie je ook waar winst te halen is.

Na een paar weken krijg je er gevoel voor. Je ziet welke taken een zwaar model nodig hebben, zoals ingewikkelde analyses, en welke prima met iets lichters kunnen, zoals een mail herschrijven of een tekst samenvatten.

Van gebruiker naar iemand die meedenkt

Veel mensen voelen vooral onzekerheid bij AI op het werk. Wat betekent het voor mijn baan, kan ik dit wel? Daar schreven we eerder over in je baan verandert door AI. Inzicht in kosten is een manier om van die onzekerheid een sterke kant te maken. Wie kan uitleggen waarom een bepaalde aanpak goedkoper of zuiniger is, wordt iemand die meedenkt over hoe AI in een organisatie wordt ingezet, en niet alleen iemand die het gebruikt.

Het is ook een vaardigheid die je in een sollicitatiegesprek of functioneringsgesprek concreet kunt maken. Niet ik kan goed met AI werken, maar ik weet welke taken een licht model aankan en hoe je voorkomt dat het gebruik uit de hand loopt. Dat is precies het soort inzicht waar organisaties volgens Computable nu naar zoeken.