Conform rapoartelor, capătul de cip din amonte al NVIDIA AI GPU H200 a intrat în perioada de producție în masă la sfârșitul trimestrului T2 și este de așteptat să fie livrat în cantități mari după T3.Dar programul de lansare a platformei Nvidia Blackwell este de cel puțin unu la două sferturi înainte de termen, ceea ce afectează disponibilitatea clienților finali de a achiziționa H200.
Lanțul de aprovizionare subliniază că, în prezent, comenzile clientului care așteaptă expedierea sunt încă concentrate în mare parte în arhitectura HGX a H100, cu o proporție limitată de H200.În T3, H200 care va fi produs în masă și livrat este în principal NVIDIA DGX H200;În ceea ce privește B100, acesta are deja vizibilitate parțială și este de așteptat să fie expediat în prima jumătate a anului viitor.
Ca un produs de actualizare iterativă a H100 GPU, H200 adoptă tehnologia de memorie de mare lățime de bandă HBM3E pentru prima dată, bazată pe arhitectura de buncăr avansată, obținând o viteză de transfer de date mai rapidă și o capacitate mai mare de memorie, care arată în special avantaje semnificative pentru aplicații de model de limbaj pe scară largă.Conform datelor oficiale lansate de NVIDIA, atunci când se ocupă de modele complexe de limbaj mare, cum ar fi meta's Llama2, H200 are o îmbunătățire maximă de 45% în viteza de răspuns generativă a producției AI comparativ cu H100.
H200 este poziționat ca un alt produs de reper al NVIDIA în domeniul calculului AI, nu numai moștenirea avantajelor H100, ci și realizarea unor descoperiri semnificative în performanța memoriei.Odată cu aplicarea comercială a H200, cererea de memorie cu lățime de bandă mare este de așteptat să crească în continuare, ceea ce va conduce în continuare dezvoltarea întregului lanț de industrie hardware de calcul AI, în special oportunitățile de piață pentru furnizorii legați de HBM3E.
GPU B100 va adopta tehnologie de răcire lichidă.Disiparea căldurii a devenit un factor cheie în îmbunătățirea performanței CIP.TDP de NVIDIA H200 GPU este de 700W, în timp ce se estimează în mod conservator că TDP de B100 este aproape de kilowati.Este posibil ca răcirea tradițională a aerului să nu poată îndeplini cerințele de disipare a căldurii în timpul funcționării cipului, iar tehnologia de disipare a căldurii va fi inovată în mod cuprinzător pentru răcirea lichidă.
CEO -ul NVIDIA, Huang Renxun, a declarat că pornind de la GPU B100, tehnologia de răcire a tuturor produselor în viitor se va trece de la răcirea aerului la răcire lichidă.Galaxy Securities consideră că B100GPU de la NVIDIA are cel puțin de două ori performanța H200 și va depăși de patru ori mai mare decât H100.Îmbunătățirea performanței CHIP se datorează parțial proceselor avansate, iar pe de altă parte, disiparea căldurii a devenit un factor cheie în îmbunătățirea performanței CIP.TDP de la NVIDIA H200 GPU este de 700W, ceea ce este estimat în mod conservator a fi aproape de kilowati.Este posibil ca răcirea tradițională a aerului să nu poată satisface nevoile de disipare a căldurii în timpul funcționării cipului, iar tehnologia de disipare a căldurii va fi complet revoluționată spre răcirea lichidă.
