Både det å trene og å bruke generativ AI medfører store klimagassutslipp. Trening av språkmodellen GPT-3 (bedre kjent som forløperen til ChatGPT) medførte et utslipp på rundt 500 tonn karbondioksid. Har du en samtale med ChatGPT på rundt 20-50 spørsmål, så "drikker" modellen en halvliter vann. Heldigvis har de negative effektene generativ AI har på klima og miljø fått økt oppmerksomhet i det siste, og dyktige forskere jobber med å finne ut hvordan vi kan redusere utslipp uten å påvirke AI-modellenes kvalitet.

Men bærekraft handler jo ikke bare om klima og miljø. Som vist i figuren over, er sosiale forhold og økonomi like viktige som miljø for å sikre bærekraftig utvikling. Hvordan påvirkes disse av generativ AI?

👥 Sosiale Forhold

Den sosiale delen av bærekraftig utvikling handler om rettferdighet og like vilkår for alle grupper mennesker. Mangel på diskriminering er en forutsetning for å nå dette målet, og der vet vi at generativ AI ikke tar oss i riktig retning. Husker du kanskje da Amazon trente en modell for å behandle jobbsøknader, som endte med å avvise alle kvinnelige kandidater?

På grunn av fordommer, stereotyper og mønstre i modellenes treningsdata (som i stor grad kommer fra internett), er det bevist gang på gang at AI diskriminerer på bakgrunn av personopplysninger som kjønn, etnisitet, religion og seksuell orientering. For eksempel assosierer GPT-3 ordet “muslim” med “terrorist”, og flere norske språkmodeller assosierer LHBT+-ord med pedofili og prostitusjon. Selv om det forskes mye på hvordan man kan redusere diskriminering i generativ AI, er dette fortsatt et uløst problem i dag. Forskningsfeltet har ikke kommet langt nok til at vi, med sikkerhet, greier å fjerne såkalt algoritmisk bias fra dagens AI-modeller - verken for tekst eller bilder. For å gjøre vondt verre, vet vi at nye språkmodeller trenes på tekst generert av eldre modeller, som kan skape et ekkokammer der utdaterte holdninger får nytt liv gjennom teknologi.

💰 Økonomi

Den økonomiske dimensjonen av bærekraft handler både om å sikre økonomisk trygghet for alle, og å redusere forskjeller mellom rike og fattige samfunn. Dette tenker du kanskje at generativ AI er god på - å gjøre folk mer effektive i hverdagen bør jo føre til økonomisk vekst? Men det er den andre delen av dimensjonen generativ AI feiler på, nemlig å redusere ulikhet.

Å trene en stor språkmodell er nemlig sinnsykt dyrt. Talat et al. (2022) estimerer at kostnaden av å trene modellen GPT-NeoX (en relativt liten modell) er mellom 250 000 og 500 000 dollar. Prisen øker dessuten med antall modellparametre, fordi trening tar lenger tid. GPT-NeoX har 20 milliarder parametre, men til sammenlikning har GPT-3 nesten 10 ganger så mange (175 milliarder), og GPT-4 antas å ha nesten 100 ganger så mange (1.8 billioner). Størrelsen på GPT-4 er ikke bekreftet av OpenAI - kanskje nettopp for å gjøre det vanskelig å beregne modellens klimautslipp og pris. GPT-4 ble dessuten trent på ca. 25 000 Nvidia-GPUer, som koster rundt 10 000 dollar per stykk, og dermed resulterer i en svimlende sum på 250 millioner dollar, kun for hardware.

Hvem har råd til å bruke så mye penger på AI-utvikling? Jo, tech-giganter (som OpenAI, Microsoft, Google og Meta) og regjeringer i rike land (som USA, Frankrike, Sør-Korea, og Norge). Resultatet er velfungerende, verdiskapende modeller - for de som er så heldige å bo i et land som har råd, eller som kan “riktig” språk. Kan du ikke engelsk, og har du et morsmål som ikke så mange snakker? Da er ikke verktøyet tilgjengelig for deg, og du faller bak dem som kan benytte seg av det. Slik kan AI-verktøy forverre den økonomiske ulikheten som allerede finnes i verden.

Uavhengig av landegrenser kan også de stadig økende prisene på AI-verktøy forsterke forskjellene på rike og fattige innad i et land eller samfunn. OpenAIs nye ChatGPT Pro, satt til å koste 200 dollar i måneden, er et prakteksempel på dette. Om modellen er så god som selskapet påstår, vil den kunne medvirke til en økning produktivitet hos dem som har råd til modellen, og dermed gi dem en nokså urettferdig fordel.

Kombinasjonen av Miljø, Sosiale og Økonomiske Forhold

Det dukker også opp nye problemer når vi ser på flere dimensjoner av bærekraft samtidig: et forsøk på å bedre den ene kan nemlig forverre en av de andre.

For eksempel: for å gjøre AI tilgjengelig for alle tenker du kanskje at man kunne trent modeller som er gode på flere ulike språk. Da vil jo flere få tilgang til AI-verktøy, som er topp! Men hva skjer da med klimakostnadene? Å trene nye modeller for alle språk i verden vil jo kreve enorme mengder strøm, og dermed være negativt for miljø-dimensjonen.

Og på samme måte: vil du redusere diskriminering i en språkmodell, og dermed bedre den sosiale dimensjonen, så vil du måtte trene deler av (om ikke hele) modellen på nytt, og selv da er det ingen garanti for at det fjerner alt av diskriminering. Er det verdt det, til tross for klimagassutslippene? Hvem skal ta den avgjørelsen?

De etiske dilemmaene stopper ikke der. Forskning på det som kalles environmental racism (eller klimabasert rasisme) viser at de negative effektene av klimaendringene først treffer dem som bor i u-land. I sin (ekstremt gode) artikkel om farene ved språkmodeller, setter Bender et al. (2021) dette problemet på spissen: er det rettferdig å be befolkningen i Maldivene (som trolig ligger under vann innen 2100), eller de 800 000 menneskene i Sudan påvirket av ekstreme oversvømmelser, om å ta konsekvensene av de enorme karbonutslippene forårsaket av trening og bruk av engelske AI-modeller - når det ikke engang utvikles slike modeller for deres egne språk?

→ Veien videre

Selv om mye tyder på at utviklingen lenge har gått i feil retning for generativ AI, ser det ikke helt håpløst ut fremover! Dyktige forskere har greid å drastisk kutte ned på størrelsen på store språkmodeller, uten å påvirke kvaliteten på den genererte teksten. SINTEF utforsker dessuten mulighetene for å ta AI i bruk som et verktøy i klimakampen - blant annet ved å sikre at mer av energien vi bruker kommer fra fornybare kilder. Mange utviklere av generativ AI inkluderer dessuten både utslipp, algoritmisk bias og antall språk som metrikker for modellene sine (se for eksempel på BLOOM-modellen, med 46 språk og en tidel av GPT-3s karbonutslipp). I forskningsfeltet rundt algoritmisk bias, kommer det stadig nye metoder for å redusere diskriminering som benytter seg av energi-effektive teknikker, og større incentiver er satt i gang for å utvikle språkteknologi for såkalte lavressurs-språk som ikke snakkes av mange (som samisk og islandsk).

På samme måte som med alle bærekraftsutfordringer, går generativ AI inn i en tid der mange vanskelige valg må tas for å sikre at teknologien ikke medfører mer negativt enn positivt. I dag ligger ikke ansvaret for å ta de valgene hos noen, men den økte oppmerksomheten rundt AIs negative påvirkning på bærekraft legger heldigvis press på dem som har mulighet til å endre dagens utvikling. Selv om mange er bekymret for at AI tar større og større plass i samfunnet, er det ikke umulig å bruke teknologien på en måte som gjør at den kommer til nytte, både for oss og for miljøet.