Câștigă cu newsletterul Orange
 |
Accesează contul My Orange
28.08.2026, 01:20
By
Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store
Nvidia a prezentat NVHBM, o versiune personalizata a memoriei HBM destinata acceleratoarelor de inteligenta artificiala. Compania sustine ca solutia ofera o latime de banda cu pana la 30% mai mare si un consum cu 15% mai mic decat HBM4e standard.
Noua tehnologie face parte din platforma NVLink Fusion. Aceasta permite partenerilor Nvidia sa conecteze procesoare dezvoltate intern la infrastructura NVLink.
Controlerul este mutat in memoria HBMNVHBM nu reprezinta un inlocuitor pentru memoria HBM4e comerciala. Nvidia o descrie drept o componenta suplimentara pentru partenerii care dezvolta cipuri personalizate.
Principala schimbare este arhitectura base die-ului. In configuratiile traditionale, controlerul HBM este integrat in principalul cip de procesare.
NVHBM muta controlerul in stratul de baza al stivei HBM. Nvidia ofera si un PHY personalizat, pe care partenerii il pot integra in propriile acceleratoare.
Aceasta abordare elibereaza spatiu pe cipul principal. Nvidia sustine ca suprafata respectiva poate permite cu pana la 30% mai multe resurse de calcul.
NVHBM Foto - NvidiaMemoria este una dintre componentele esentiale pentru acceleratoarele AI. Modelele moderne muta volume foarte mari de date intre memorie si unitatile de procesare.
NVHBM ar putea oferi o latime de banda cu pana la 30% mai mare pentru fiecare stiva. Avantajul este important pentru aplicatiile limitate de capacitatea memoriei.
In cazul inferentei AI, o latime de banda mai mare poate creste numarul de tokeni procesati pe secunda. Beneficiile pot deveni mai importante atunci cand sunt utilizate mii de acceleratoare.
Nvidia promite si un consum mai redusNVHBM ar urma sa utilizeze cu 15% mai putina energie decat HBM4e disponibila comercial.
Energia economisita poate fi folosita in mai multe moduri. Proiectantii pot creste performanta in acelasi buget energetic sau pot adauga mai multe unitati de calcul.
O alta posibilitate este pastrarea performantei si reducerea consumului total al acceleratorului. Acest avantaj este important pentru centrele de date, unde alimentarea si racirea reprezinta costuri majore.
Eficienta devine si mai importanta in aplicatiile care manipuleaza modele voluminoase. Greutatile modelelor si cache-urile KV necesita transferuri constante intre memorie si procesoare.
NVHBM poate simplifica proiectarea cipurilorMutarea controlerului in base die reduce si necesarul de circuite asociate memoriei pe cipul principal. Nvidia sustine ca noua arhitectura poate simplifica traseele realizate prin interposer.
Aceste avantaje sunt importante pentru proiectele care folosesc tehnologii avansate de ambalare. Mai mult spatiu pentru calcul poate permite dezvoltarea unor acceleratoare personalizate mai complexe.
Totusi, beneficiile sunt destinate in primul rand viitoarelor produse ale partenerilor NVLink Fusion. Ele nu modifica direct acceleratoarele Vera Rubin deja aflate in productie.
Annapurna Labs este primul partener anuntatAmazon, prin divizia Annapurna Labs, este primul partener mentionat oficial de Nvidia pentru NVHBM.
Annapurna Labs dezvolta procesoarele AI Trainium utilizate in infrastructura AWS. Urmatoarea generatie, Trainium 4, va suporta deja interfata NVLink Fusion.
Acest lucru sugereaza ca viitoarele generatii de cipuri Amazon ar putea adopta si NVHBM. Nvidia nu a confirmat insa un astfel de produs.
Memoria devine tot mai importanta pentru acceleratoarele AINvidia incearca astfel sa ofere dezvoltatorilor de cipuri mai multa flexibilitate. NVLink Fusion si NVHBM pot fi folosite impreuna pentru construirea unor acceleratoare personalizate.
Castigul promis combina trei elemente importante: mai multa latime de banda, consum mai mic si spatiu suplimentar pentru calcul.
Pentru infrastructura AI, aceste avantaje pot avea efecte importante la scara mare. Totusi, NVHBM se afla deocamdata in zona solutiilor destinate partenerilor Nvidia.
Impactul comercial real va depinde de numarul de companii care vor adopta arhitectura si de produsele dezvoltate pe baza acesteia.
Articolul Nvidia a prezentat NVHBM, memorie HBM personalizata cu latime de banda mai mare si consum redus apare prima data in Go4IT.
Legal disclaimer:
Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.
Descarcă aplicația My Orange: 
@Orange Romania S.A. 2026
Cod unic de înregistrare: 9010105
Numar inregistrare Registrul Comertului: J1996010178400
Sediul social: Clădirea Tandem, Strada Matei Millo, nr.5, Sector 1, Bucuresti
Certificatul Tip de furnizor
