De kosten van het gebruik van een AI language model: open source vs. closed source cloudproviders

Wat zijn AI language models?

Voordat we ingaan op de kosten, is het goed om eerst even stil te staan bij wat AI language models precies zijn. Een LLM is een type AI-model dat getraind is op enorme hoeveelheden tekst. Het model leert patronen en verbanden in de taal te herkennen en kan op basis daarvan zelf nieuwe, coherente teksten genereren.

Bekende voorbeelden van LLMs zijn GPT-4 van OpenAI en Gemini van Google. Deze modellen zijn in staat om indrukwekkende resultaten te leveren op het gebied van tekstgeneratie, vertaling, samenvatting en meer.

Open source vs. closed source

Als je een AI LLM wilt gebruiken voor jouw project, heb je grofweg twee opties: open source of closed source cloudproviders.

Open source LLMs zijn modellen waarvan de broncode publiekelijk beschikbaar is. Iedereen kan deze modellen downloaden, trainen en gebruiken. Voorbeelden zijn Grok van X en LLAMA van Meta. Het voordeel van open source is dat je volledige controle hebt over het model en niet afhankelijk bent van een externe partij. Nadelen zijn dat je zelf verantwoordelijk bent voor de infrastructuur en dat de prestaties soms wat achterblijven bij closed source alternatieven.

Closed source LLMs worden aangeboden door cloudproviders als OpenAI, Google, Microsoft, Anthropic en Amazon. Je kunt deze modellen via een API aanroepen en betaalt per gebruik. Het grote voordeel is gemak: je hoeft zelf geen infrastructuur op te zetten en kunt direct aan de slag. Ook zijn de modellen vaak van hoge kwaliteit. Een nadeel is dat je afhankelijk bent van de cloudprovider en minder controle hebt.

Kosten open source LLMs

De kosten voor het gebruik van een open source LLM bestaan voornamelijk uit de rekenkracht die nodig is om het model te trainen en uit te voeren. Je hebt een krachtige GPU nodig en veel opslagruimte voor de datasets.

De precieze kosten hangen af van de grootte van het model en hoe intensief je het gebruikt. Reken voor een middelgroot model al snel op enkele duizenden euros voor de hardware. Daar komen dan nog de kosten voor elektriciteit en onderhoud bij.

Kosten closed source LLMs

Bij closed source cloudproviders betaal je per API-aanroep. De prijzen variëren per provider en per model. Ter indicatie: bij OpenAI betaal je $0.03 per 1000 tokens voor het populaire GPT-4 model. Een token komt ruwweg overeen met 4 karakters tekst.

Stel dat je een applicatie hebt die 1 miljoen woorden per maand genereert. Dat zijn zo’n 250.000 tokens. De kosten komen dan uit op ongeveer $7,50 per maand. Let wel: dit is een voorbeeld en de werkelijke kosten hangen sterk af van je specifieke use case.

Naast de API-kosten betaal je bij sommige providers ook voor opslag van je data en voor training van custom modellen. Hier kunnen de kosten flink oplopen, tot wel duizenden euros per maand.

Conclusie

De kosten voor het gebruik van een AI language model lopen sterk uiteen. Bij open source betaal je eenmalig voor de benodigde hardware, bij closed source per gebruik via een API. Wat het beste bij jouw project past hangt af van je specifieke wensen en eisen.

Over het algemeen kun je zeggen dat open source interessant is als je volledige controle wilt en bereid bent te investeren in infrastructuur. Closed source is een goede keuze als je snel resultaat wilt en gemak belangrijker is dan controle.

Welke optie je ook kiest, AI language models zijn een fascinerende technologie met veel potentie. De ontwikkelingen gaan razendsnel en de mogelijkheden lijken eindeloos. Het is zeker de moeite waard om te verkennen wat AI voor jouw project kan betekenen!