NVIDIA kynnti nýjan flokk ofurtölva með miklu minni - ofurtölvan NVIDIA DGX byggt á superchips NVIDIA GH200 Grace Hopper og rofakerfi NVIDIA NVLink. Það er hannað til að þróa næstu kynslóðar gerðir fyrir kynslóðar forrit AI, meðmælakerfi og vinnuálagi gagnagreiningar.
Mikið minnisrými NVIDIA DGX GH200 notar NVLink tengitækni með NVLink Switch System til að sameina 256 GH200 ofurflögur, sem leiðir til einnar GPU. Þetta veitir 1 exaflop af frammistöðu og 144 TB af sameiginlegu minni, næstum 500 sinnum meira en fyrri kynslóð NVIDIA DGX A100, sem var kynnt árið 2020.
„Gennandi AI, stór tungumálalíkön og meðmælakerfi eru stafrænar vélar nútíma hagkerfis, sagði stofnandi og forstjóri NVIDIA Jensen Huang. - DGX GH200 AI ofurtölvur samþætta nýjustu hraðtölvu- og nettækni NVIDIAað víkka út mörk gervigreindar“.
Eins og greint var frá í fréttatilkynningu á heimasíðu fyrirtækisins, útiloka GH200 ofurflögurnar þörfina fyrir hefðbundna CPU-GPU PCIe tengingu. Þeir sameina örgjörvann NVIDIA Arm-undirstaða Grace og GPU NVIDIA H100 Tensor Core í einu hulstri. Þetta eykur bandbreidd milli GPU og CPU um 7 sinnum, dregur verulega úr orkunotkun og veitir 600 GB af GPU Hopper arkitektúr fyrir nýjar ofurtölvur. DGX GH200 arkitektúrinn veitir 48 sinnum meiri NVLink bandbreidd en fyrri kynslóð.
Búist er við að Google Cloud geri það Meta það Microsoft verður meðal þeirra fyrstu til að fá aðgang að DGX GH200 og kanna getu hans við að búa til gervigreind vinnuálag. Framleiðandinn hyggst einnig útvega DGX GH200 hönnunina sem sýnishorn til skýjaþjónustuveitenda svo þeir geti lagað hana að innviðum sínum.
„Að búa til háþróuð kynslóðarlíkön krefst nýstárlegra aðferða við gervigreindarinnviði,“ sagði varaforseti tölvunarfræðinnar hjá Google Cloud Mark Lohmeyer. „Nýi mælikvarði NVLink og Grace Hopper ofurchip-minni takast á við helstu flöskuhálsa í stórum gervigreind og við hlökkum til að kanna möguleika þess fyrir Google Cloud og skapandi gervigreindarverkefni okkar.
Varaforseti fyrirtækja fyrir Azure Infrastructure í Microsoft Girish Bablani benti á möguleika DGX GH200 til að vinna með terabæta gagnapakka, sem gerir forriturum kleift að stunda rannsóknir á stærri mælikvarða og á hröðum hraða.
Fyrirtækið býr einnig til ofurtölvu NVIDIA DGX GH200-undirstaða Helios fyrir vísindamenn sína og þróunarteymi. Það verður búið fjórum DGX GH200 kerfum og hvert um sig verður samtengt með Quantum-2 InfiniBand neti til að auka gagnaflutning til að þjálfa stór gervigreind módel. Helios mun innihalda 1024 Grace Hopper ofurflögur og er gert ráð fyrir að hún verði tekin í notkun í lok ársins.
Hugbúnaður NVIDIA Base Command veitir gervigreind vinnuflæðisstjórnun, klasastjórnun í fyrirtækisgráðu, bókasöfn sem flýta fyrir tölvu-, geymslu- og netinnviðum og kerfishugbúnað sem er fínstilltur fyrir gervigreind vinnuálag. Einnig innifalinn er AI Enterprise hugbúnaður, sem veitir yfir 100 ramma, fyrirfram þjálfuð líkön og þróunarverkfæri til að einfalda þróun og dreifingu á framleiðslu AI, þar á meðal generative AI AI, tölvusjón, talgervigreind og margt fleira.
Ofurtölvur NVIDIA DGX GH200 verður fáanlegur í lok ársins.
Lestu líka: