English version of this page

Kickoff-arrangement for WP9: Videre optimalisering av bruk i Norwegian AI Cloud (NAIC)-prosjektet

Oslo, 30. oktober 2024 — Det interne kickoff-arrangementet for WP9 i Norwegian AI Cloud (NAIC)-prosjektet samlet sentrale konsortiepartnere for en oppsummering av fremskritt og restruktureringsinnsats rettet mot forbedring av infrastruktur, ressurs-allokering og referansemåling av ytelse. Ledet av Simula Research Laboratory fremhevet arrangementet nylige investeringer, justerte strategier og fremtidige mål for WP9 i posisjoneringen av NAIC som støtte for Norges voksende AI-landskap.

Foto: Shutterstock

En strategisk omlegging av investering og forvaltning av infrastruktur

Med økende kostnader og behov i endring, går NAIC fra den opprinnelige “fabrikkmodell”-tilnærmingen—der sentraliserte ressurser ble delt blant brukere—til en distribuert modell som tar i bruk lokale ressurser. Den nylig anskaffede superdatamaskinen Olivia eksemplifiserer sammen med Sigma2-ressurser og Lumi-partnerskapet denne omleggingen. Modellen gir forskere mulighet til å bruke ressurser nærmere deres område, noe som reduserer belastningen på sentrale systemer og minimerer redundans. For å imøtekomme mer mangfoldige og krevende operasjoner har NAIC integrert kommersielle skytjenester fra leverandører som Google og Azure. Denne fleksible multisky-strategien gjør det mulig for prosjektet å møte spesifikke behov etter hvert som de oppstår, og tilbyr skalerbare løsninger uten å overbelaste primær-infrastrukturen.

En forbedret arbeidspakkestruktur

I kjernen av denne restruktureringen er oppdaterte arbeidspakker, som nå legger vekt på teknologivurdering, utvikling av etisk AI og bærekraftig infrastruktur. Først og fremst vil WP9 lede ytelsesmålings- og profilerings-aktiviteter for å sikre at NAIC-ressursene effektivt møter reelle AI-behov. Dette innebærer å forbedre prosesser for lokal ressurs-optimalisering, redusere karbonavtrykk og tilby en solid støttestruktur for både utviklere og forskere.

Hver arbeidspakke er tilpasset NAICs strategiske skifte, og kombinerer operativ støtte med innovativ ytelsesanalyse. WP9 har spesielt ansvar for å bygge bro mellom ulike behov gjennom avansert profilering og monitorering.

Ytelsesmåling og sanntidsprofilering for informerte beslutninger

Sentralt i WP9 er det å utvikle og forbedre ytelsesmålingsprosesser. Ved hjelp av nye dashbord som “oppgaveanalysatoren” kan med-lemmer av NAIC-team få umiddelbar tilbakemelding på ytelse og analysere last på nivåer ned til individuelle prosesser. Dette verktøyet gir innsikt i ressurseffektivitet, og identifiserer hvor det trengs forbedringer. Ytelsesmåling omfatter også miljømessig bærekraft. NAIC skal integrere vurdering av karbonavtrykk og monitorering av energibruk i samsvar med Norges grønne forpliktelser. Dette gir NAIC mulighet til både å evaluere nåværende hardware-effektivitet og å forutse fremtidige behov på en ansvarlig måte.

Forbedring av kategorisering av last og ytelse

WP9 jobber aktivt med å beskrive ulike typer last, med fokus på faktorer som datamengde, modellkompleksitet og I/O-krav. Ved å identifisere bruks-mønstre og vanlige flaskehalser i ressurser, kan WP9 effektivisere allokering av last, slik at krevende prosesser kjøres optimalt uten å overbelaste systemkapasiteten. Parallelt utvikles tilbakemeldings-systemer for å veilede brukere om effektiv ressursbruk. Dette initiativet inkluderer regelmessige oppdateringer om GPU- og CPU-allokering, og hjelper forskere å maksimere produktiviteten samtidig som de minimerer sløsing. Teamet diskuterte også potensialet for regelmessige brukerspesifikke vei-ledningsøkter, skreddersydd for både nybegynnere og avanserte brukere, for å gjøre ressursbruken så effektiv som mulig.

Slik ser fremtiden ut: Bærekraftig ytelsesmåling og integrert monitor-ering

WP9 har som mål fremover å etablere en kontinuerlig ytelsesmålingsprosess som utvikler seg i takt med maskinvare- og programvareutviklingen. Automatisering vil spille en nøkkelrolle i å opprettholde disse ytelsesmålingene, redusere administrativ belastning og sikre datakonsistens. Dette kickoff-arrangementet markerer en betydelig milepæl i NAICs reise. Ved å forbedre infrastrukturen, investere i fleksible databehandlingsressurser med høy ytelse og veilede brukere, legger WP9 grunnlaget for en fremtid der Norges AI-ressurser er tilgjengelige, robuste og effektive i bruk.

Publisert 11. nov. 2024 11:09 - Sist endret 11. nov. 2024 11:09