Artificiële intelligentie wordt in snel tempo een vast onderdeel van de dagelijkse digitale infrastructuur. Large language models (LLM’s) ondersteunen vandaag taken gaande van klantenondersteuning en softwareontwikkeling tot intern kennisbeheer en data-analyse.

Naarmate het gebruik toeneemt, stellen organisaties steeds vaker vragen over de koolstofvoetafdruk van AI en large language models. Zijn LLM’s een belangrijke bron van emissies? Moet het gebruik ervan worden meegenomen in de klimaatstrategie van bedrijven?

Het publieke debat focust vaak op de energie die nodig is om antwoorden op prompts te genereren. Onderzoek toont echter aan dat daar niet de meeste emissies ontstaan. Het grootste deel van de milieu-impact van LLM’s ontstaat eerder in de levenscyclus van het model, vooral tijdens de training.

Begrijpen waar emissies werkelijk ontstaan, is belangrijk voor duurzaamheidsconsultants die organisaties adviseren over carbon accounting, ESG-rapportering en de impact van digitale infrastructuur.

Waar komen de emissies van LLM’s vandaan?

Over de volledige levenscyclus van een large language model ontstaat het overgrote deel van de emissies nog voordat het model door eindgebruikers wordt gebruikt.

Het trainen van een LLM vergt enorme rekenkracht. In deze fase leert het model uit grote datasets via herhaalde optimalisatieprocessen die veel rekenkracht vereisen.

Een studie van Carbone4 over het LLM van Mistral geeft een bruikbare uitsplitsing van de emissies over de levenscyclus van het model:

Dat betekent dat ongeveer 95% van de totale koolstofvoetafdruk van een LLM tijdens de ontwikkeling wordt bepaald, en niet tijdens het dagelijkse gebruik.

Twee factoren verklaren deze verdeling.

1. Hoge rekenvraag tijdens de training

Training omvat extreem grote rekenworkloads, vaak met:

Deze trainingsrondes kunnen, afhankelijk van de grootte van het model, weken of maanden duren.

2. Embodied emissies van gespecialiseerde hardware

Ook de productie van krachtige AI-hardware draagt bij aan de totale voetafdruk. De productie van:

veroorzaakt aanzienlijke embodied emissies.

Samen domineren het elektriciteitsverbruik tijdens de training en de productie van hardware de levenscyclusvoetafdruk van large language models.

De koolstofimpact van het gebruik van large language models

In tegenstelling tot de training zijn de emissies die samenhangen met het gebruik van LLM’s relatief klein.

Wanneer gebruikers prompts invoeren, voert het model een bewerking uit die inferentie heet: het genereert een antwoord op basis van zijn getrainde parameters. Dit proces vraagt rekenkracht, maar is veel minder energie-intensief dan training.

Schattingen geven aan dat het genereren van antwoorden op 1.000 prompts leidt tot emissies van ruwweg 5 tot 500 gCO₂e. Deze cijfers gaan uit van een koolstofintensiteit van elektriciteit van ongeveer 480 gCO₂/kWh.

De spreiding hangt af van verschillende factoren:

Zelfs aan de bovenkant van de schatting blijven de emissies klein in vergelijking met de meeste onderdelen van een typische persoonlijke of bedrijfsvoetafdruk.

Zo liggen de emissies van:

vaak hoger dan de emissies van duizenden AI-vragen.

Daarom zijn de gebruiksemissies van LLM’s doorgaans verwaarloosbaar binnen de meeste koolstofvoetafdrukken van bedrijven.

Waarom de modelgrootte de koolstofvoetafdruk van AI bepaalt

Hoewel de gebruiksemissies klein zijn, is de totale koolstofvoetafdruk van AI-modellen sterk gekoppeld aan de grootte van het model.

Grotere modellen vereisen:

Hierdoor nemen de emissies aanzienlijk toe met het aantal parameters in het model.

Dit creëert een belangrijke duurzaamheidshefboom. In veel praktische toepassingen zijn extreem grote algemene modellen niet nodig.

In plaats daarvan kunnen organisaties vaak gebruikmaken van:

Deze benaderingen kunnen de rekenvereisten aanzienlijk verminderen en toch voldoende prestaties leveren.

Voor duurzaamheidsconsultants die organisaties adviseren over de inzet van AI wordt de modelkeuze een van de belangrijkste factoren die de milieu-impact bepalen.

Wat AI-emissies betekenen voor carbon accounting bij bedrijven

De opmars van AI roept verschillende praktische vragen op voor carbon accounting en duurzaamheidsrapportering.

Drie aspecten zijn bijzonder relevant.

1. AI-emissies in context plaatsen

In de meeste organisaties vertegenwoordigen de emissies die verband houden met AI-gebruik slechts een heel klein deel van de totale emissies.

Andere emissiebronnen domineren doorgaans de voetafdruk van bedrijven, waaronder:

Dit betekent dat AI-gebruik zelden een belangrijk aandachtspunt wordt in de decarbonisatiestrategie van bedrijven.

2. Levenscyclusgrenzen begrijpen

De meeste emissies ontstaan tijdens de ontwikkeling van het model en de productie van hardware, die doorgaans plaatsvinden binnen de infrastructuur van technologieleveranciers.

Dit zorgt voor uitdagingen voor de accountingkaders van bedrijven, omdat:

Deze levenscyclusgrenzen begrijpen is essentieel bij het beoordelen van de milieu-impact van digitale technologieën.

3. Praktische reductiehefbomen identificeren

Voor organisaties die AI-systemen inzetten, zijn de meest realistische opties om emissies te verminderen:

Deze keuzes kunnen het energieverbruik verminderen en tegelijk de voordelen van AI-technologieën behouden.

De toekomstige koolstofvoetafdruk van artificiële intelligentie

De milieu-impact van AI zal grotendeels afhangen van hoe modellen worden ontworpen, getraind en ingezet.

Verschillende trends zullen de toekomstige koolstofvoetafdruk van large language models beïnvloeden:

Tegelijk betekent de snelle groei van AI-gebruik dat de totale energievraag verder kan stijgen.

Voor duurzaamheidsprofessionals onderstreept dit hoe belangrijk het is om de digitale infrastructuur achter AI-systemen te begrijpen, waaronder:

Belangrijkste inzichten: de koolstofimpact van large language models

Voor duurzaamheidsconsultants die organisaties adviseren over de inzet van AI springen enkele conclusies in het oog:

In de praktijk is de meest effectieve strategie om de koolstofvoetafdruk van AI te verkleinen niet het beperken van individueel gebruik, maar het verbeteren van modelefficiëntie en keuzes bij de inzet.

Naarmate artificiële intelligentie zich verder verspreidt in digitale systemen, wordt inzicht in deze dynamiek steeds belangrijker voor duurzaamheidsprofessionals die werken op het snijvlak van AI, carbon accounting en klimaatstrategie.

Deze blog is gebaseerd op de volgende bronnen:

---

Over Carbon+Alt+Delete

Wij bieden carbon accounting-software voor duurzaamheidsconsultants en adviesbureaus die bedrijven begeleiden richting net zero.

Benieuwd hoe onze software jouw carbon accounting-diensten kan verbeteren?

Neem gerust contact op via [email protected] of boek hier een afspraak met een van onze experten.