Elon Musks AI-oppstart, xAI, kunngjorde nylig at “Colossus”, verdens kraftigste AI (kunstig intelligens) trenings-superdatamaskin, nå er online. Basert i Memphis, Tennessee, ble denne nye AI-superdatamaskinen bygget på bare fire måneder (122 dager).
Den nye xAI-treningsklyngen ble konstruert ved hjelp av 100 000 NVIDIA benchmark Hopper H100 GPUer, en svært etterspurt komponent for opplæring av nye AI-modeller. Denne modellen er designet for å trene neste generasjon av xAIs store språkmodell (LLM), Grok.
Selskapet planlegger også å doble GPU-antallet til 200 000 i løpet av noen måneder ved å legge til ytterligere 50 000 brikker av NVIDIAs nye, mer avanserte H200-serie, som tilbyr høyere beregningsminne.
Videre har NVIDIAs nye benchmark Hopper H200 GPUer opptil 141 GB raskere HBM3E-minne, i motsetning til H100, som har opptil 80 GB HBM3-minne.
Denne helgen har @xAI team brakte vår Colossus 100k H100 treningsklynge online. Fra start til slutt ble det gjort på 122 dager.
Colossus er det kraftigste AI-treningssystemet i verden. Dessuten vil den doble seg i størrelse til 200k (50k H200s) i løpet av noen måneder.
Glimrende…
— Elon Musk (@elonmusk) 2. september 2024
“Denne helgen brakte xAI-teamet vårt Colossus 100K H100 treningsklynge online. Fra start til slutt ble det gjort på 122 dager. Colossus er det kraftigste AI-treningssystemet i verden. Dessuten vil den doble seg i størrelse til 200K (50K H200s) i løpet av noen måneder. Utmerket arbeid av teamet, NVIDIA og våre mange partnere/leverandører», tvitret Musk på X (tidligere Twitter).
«Spennende å se Colossus, verdens største GPU #superdatamaskin, komme online på rekordtid. Colossus er drevet av @nvidias #accelerated computing-plattform, og leverer banebrytende ytelse med eksepsjonelle gevinster i #energieffektivitet. Gratulerer til hele laget!” NVIDIA Data Centers X-håndtak skrev på plattformen.
NVIDIA GPU koster rundt 30 000 dollar, noe som tyder på at Musk brukte minst 3 milliarder dollar på å bygge den nye superdatamaskinen, et anlegg som også vil kreve betydelige strøm- og kjøleressurser.
Foreløpig er Musks Grok 2, xAIs andre generasjons AI-modell trent med 15 000 H100 GPUer, eksklusivt tilgjengelig for X premium og X premium plus-abonnenter med bilde- og tekstgenereringsmuligheter. Han sa at den forventer å gi ut xAIs tredje generasjons AI-modell, Grok-3, innen desember.