Investeringer i AI på verdensbasis har skutt i været. Samtidig som hvermannsen bytter ut Google med ChatGPT ser man en økende utfordring med kunstig intelligens sitt enorme energiforbruk. Nå hevder en engelsk startup at teknologien deres kan redusere strømregningen til 2-3 prosent dagens standard, melder Sifted.

Som eksempel skriver avisa at hvis Google i dag skulle integrere generativ AI i hvert søk, ville det ført til et ekstra forbruk på størrelse med det Island bruker på et år. Nå bor det riktignok like mange i Innlandet fylke som på Island (ca 370 000), men man skjønner tegninga. 

Norsk venture-selskap hiver seg på «Billions-grep»

Grafikkbehandlingsenheter (GPU-er) er hjørnesteinen i trening av store språkmodeller og den underliggende teknologien for chatboter som ChatGPT. Når tusenvis av GPU-er samarbeider krever det enorme mengder dataoverføring og energiforbruk. 

James Regan, CEO i Oriole Networks, peker på at selv om GPU-er har gjennomgått betydelige forbedringer det siste tiåret, har nettverkene som kobler dem sammen stått stille. Dermed har nettverket blitt en flaskehals for ytelse og effektivitet.

Ethernet, som er standard for å koble sammen disse enhetene, kan bli et hinder for databehandlingens hastighet når et visst datavolum blir nådd. I tillegg bruker de mye energi, omtrent 20 prosent av forbruket til en AI-klynge. 

Løsningen Oriole bruker kommer fra professor George Zervas ved University College London. Ved å bruke lysstråler gjennom optiske fibre, kan man øke hastigheten på datapakker som sendes mellom GPU-er opptil 100 ganger. Dette reduserer ikke bare tiden i databehandling, men minsker også energiforbruket. Ved laboratorietester har startupen klart å redusere energiforbruket til nettverksdelen til mellom 2-3 prosent av et tradisjonelt system.

Oda-Karl etter avgangen: «Jeg ville aldri forlatt mine kolleger frivillig»

Karl Munthe-Kaas skulle gjerne gjort særlig en ting annerledes, men er utrolig stolt over mye annet. Her forteller han hva han skal bruke tiden på.

Investorene som sammen går inn med 10 millioner pund (ca 135 millioner kroner) er XTX Ventures, Clean Growth Fund, Dorilton Ventures og UCL Technology Fund.

Denne saken er oversatt ved hjelp av ChatGPT, men skrevet av Shifters journalister.