Nvidia H200 NVL AI greitintuvo kortelė

Nvidia H200 NVL. NPU našumas iki: 3341 TOP, sąsajos tipas: PCI Express x16 5.0, komponentas, skirtas: duomenų centrui
GPU generatyviniam dirbtiniam intelektui ir didelio našumo skaičiavimams
NVIDIA H200 GPU padidina generatyvinio dirbtinio intelekto ir didelio našumo skaičiavimo (HPC) darbo krūvius, suteikdamas jiems revoliucinį našumą ir atminties galimybes. HBM3E, H200's, turintis didesnę ir greitesnę atmintį, pagreitina generatyvinį dirbtinį intelektą ir didelius kalbų modelius (LLM), tuo pačiu tobulindamas mokslinius skaičiavimus, skirtus HPC darbo krūviams.
Didesnis našumas su didesne, greitesne atmintimi
Sukurtas remiantis NVIDIA Hopper™ architektūra, NVIDIA H200 yra pirmasis GPU, siūlantis 141 gigabaitą (GB) HBM3e atminties, kurios sparta siekia 4,8 terabaito per sekundę (TB/s) – tai beveik dvigubai daugiau talpos nei NVIDIA H100 GPU su 1.4X didesniu atminties pralaidumu. Didesnė ir greitesnė H200's atmintis pagreitina generatyvinį dirbtinį intelektą ir LLM, tuo pačiu tobulindama mokslinius skaičiavimus, skirtus didelio našumo skaičiavimams (HPC), užtikrindama geresnį energijos vartojimo efektyvumą ir mažesnes total eksploatavimo išlaidas.
Atraskite įžvalgas naudodami aukštos kokybės LLM išvadas
Besikeičiančioje ever dirbtinio intelekto aplinkoje įmonės pasikliauja LLM, kad patenkintų įvairius išvadų poreikius. Dirbtinio intelekto išvadų greitintuvas, diegiamas dideliu mastu didelei vartotojų bazei, turi užtikrinti didžiausią našumą su mažiausiomis bendrosiomis sąnaudomis.
H200 padidina išvadų greitį iki 2X, palyginti su H100 GPU, kai apdorojamos tokios LLM kaip Llama2.
Padidinkite didelio našumo skaičiavimus
Atminties pralaidumas yra crucial HPC programoms, nes jis leidžia greičiau perduoti duomenis ir sumažinti sudėtingų apdorojimo kliūtis. Didelės atminties reikalaujančioms HPC programoms, tokioms kaip modeliavimas, moksliniai tyrimai ir dirbtinis intelektas, didesnis H200's atminties pralaidumas užtikrina, kad duomenis būtų galima efektyviai pasiekti ir jais manipuliuoti, todėl rezultatai gaunami 110X greičiau, palyginti su centriniais procesoriais.
Sumažinkite energijos suvartojimą ir bendrąsias išlaidas
Pristačius H200, energijos vartojimo efektyvumas ir bendros naudojimo išlaidos reach pasiekia naujus lygius. Ši edge technologija siūlo neprilygstamą našumą, esant tokiam pačiam energijos profiliui kaip ir H100. Dirbtinio intelekto gamyklos ir superkompiuterių sistemos, kurios yra ne tik greitesnės, bet ir eco draugiškesnės, užtikrina ekonomiškumą edge, kuris skatina dirbtinį intelektą ir mokslo bendruomenę judėti į priekį.
Dirbtinio intelekto spartinimas pagrindiniuose įmonės serveriuose naudojant H200 NVL
NVIDIA H200 NVL yra ideal, skirtas mažai energijos naudojantiems, oru aušinamiems įmonių stelažų projektams, kuriems reikalingos lanksčios konfigūracijos, užtikrinant kiekvieno dirbtinio intelekto ir HPC darbo krūvio pagreitį, nepriklausomai nuo dydžio. Turint iki keturių GPU, prijungtų per NVIDIA NVLink™ ir 1.5x atminties padidėjimą, didelio kalbų modelio (LLM) išvados gali būti pagreitintos iki 1.7x, o HPC programos pasiekia iki 1.3x didesnį našumą, palyginti su H100 NVL.
Pasiruošusi įmonėms: dirbtinio intelekto programinė įranga supaprastina kūrimą ir diegimą
NVIDIA H200 NVL tiekiama su five metų NVIDIA „AI Enterprise“ prenumerata. Ši programinė įranga pagreitina dirbtinio intelekto (DI) kūrimą ir diegimą, skirtą gamybai paruoštiems generatyviniams DI sprendimams, įskaitant kompiuterinę regą, kalbos DI, paieškos papildytą generavimą (RAG) ir kt. NVIDIA „AI Enterprise“ apima NVIDIA NIM™ – lengvai naudojamų mikropaslaugų rinkinį, skirtą pagreitinti įmonės generatyvinio DI diegimą. Kartu diegimai pasižymi įmonės lygio saugumu, valdymu, stabilumu ir palaikymu. Tai leidžia sukurti našumui optimizuotus DI sprendimus, kurie užtikrina greitesnį verslo value veikimą ir praktines įžvalgas.

Savybės

NPU našumas iki: 3341 TOPs
Sąsajos tipas: PCI Express x16 5.0
Komponentas, skirtas: Duomenų centras