Som en del av Metas forberedelser til «The Metaverse» bygger selskapet nå det som skal bli verdens kraftigste AI-superdatamaskin.
Prosjektet har allerede vært i gang i halvannet år, og første fase av byggingen av «AI Research SuperCluster (RSC)» er ferdigstilt. Maskinen er operativ og er allerede den femte kraftigste i verden av sitt slag, ifølge the Guardian. Men når den står ferdig til sommeren 2022, skal den ha overtatt ytelsestronen.
Skal trene kunstig intelligens
RSC skal i hovedsak benyttes til å «trene» Metas AI-systemer til å utføre forskjellige oppgaver, som for eksempel automatisk moderering og gjenkjennelse av hets og andre uønskede ytringer på Facebook. Men Meta har også andre planer for supermaskinen, skriver Kevin Lee og Shubho Sengupta i en bloggpost:
– RSC vil hjelpe Metas AI-forskere med å bygge nye og bedre AI-modeller som kan lære av billioner av eksempler, arbeide på tvers av hundrevis av forskjellige språk, analysere tekst, bilder og video sømløst sammen, utvikle nye verktøy som kan benytte utvidet virkelighet («AR») og mye mer. Vi håper RSC vil hjelpe oss med å bygge helt nye AI-systemer som for eksempel kan oversette tale i sanntid for grupper med mange mennesker som hver snakker sitt eget språk, slik at de sømløst kan samarbeide om et forskningsprosjekt eller spille et AR-spill sammen.
Hardware
I skrivende stund har RSC 760 av Nvidias DGX A100-moduler, hver utstyrt med åtte A100 GPU-er. Til sammen blir det 6080 GPU-er som til sammenligning hver har nesten dobbelt så mange transistorer som det er i GA102-brikken som sitter i Nvidias toppmodell på RTX 3090.
Når RSC ferdigstilles, vil den ha ikke mindre enn 16.000 A100-GPU-er og en imponerende prosesseringskraft. Sveriges kraftigste maskin av denne typen har for eksempel «bare» 480 A100-GPU-er, mens Perlmutters supermaskin har 6159 stykker.
Å tygge unna så mye data som RSC skal kan gjøre, vil også kreve sitt av lagringssystemet, og RSC skal få over 230 petabyte med lagringskapasitet – alt sammen av det raske slaget.
Ytelse
Det er vanskelig å angi noen sammenlignbar ytelse for AI-superdatamaskiner.
RSC vil for eksempel ikke nødvendigvis bli verdens kraftigste superdatamaskin overhodet (selv om den vil hevde seg også på den listen), men kraftigste AI-superdatamaskin. Ytelsen på disse to typene måles forskjellig, da AI-maskiner har et lavere krav til presisjon i sine kalkulasjoner.
I tillegg måles ofte maskiner i denne klassen på sin teoretiske maksimale ytelse, noe som ofte kan ha kun et rent akademisk forhold til hva man faktisk får ut av dem i praktiske oppgaver:
– Det er ikke uvanlig at noen superdatamaskiner oppnår mindre enn 25 prosent av sin såkalte toppytelse når de kjører applikasjoner i den virkelige verden, uttaler Bob Sorensen fra Hyperion Research til The Verge.
Krypterte data
Dataene som benyttes av RSC er ekte og hentes inn fra Metas ulike tjenester, men skal være ende-til-ende-kryptert:
– Før data importeres til RSC, må de gjennom en personverngjennomgangsprosess for å bekrefte at de er korrekt anonymisert. Dataene blir deretter kryptert før de kan brukes til å trene AI-modeller, skriver Lee og Sengupta i blogginlegget.
I følge Tom's Hardware er RSC mer eller mindre blokkert fra Internett, og alle data som kommer inn, må første gjennom Metas egne servere. Sikkerhetssystemet krypterer praktisk talt alle data, selv på RSCs egne lagringssystemer, og dataene dekrypteres først når de lastes inn i arbeidsminnet og skal benyttes til AI-trening.
