Qualcomm promite sa sparga "memory wall" din AI cu o noua arhitectura si acceleratoare dedicate

Qualcomm a prezentat o noua arhitectura destinata inteligentei artificiale, denumita High Bandwidth Compute (HBC), care promite sa elimine una dintre cele mai mari limitari ale sistemelor moderne de AI: accesul la memorie.

Compania sustine ca noua solutie ofera o eficienta energetica superioara memoriei HBM si o capacitate mult peste cea a memoriei SRAM integrate.

Anuntul a fost facut in cadrul unei prezentari dedicate centrelor de date si noilor acceleratoare AI ale companiei.

Qualcomm - O abordare diferita pentru acceleratoarele AI

In ultimii ani, performanta acceleratoarelor pentru inteligenta artificiala a crescut intr-un ritm mai rapid decat viteza cu care a evoluat accesul la memorie. Acest dezechilibru, cunoscut in industrie drept "memory wall", a devenit un obstacol major pentru aplicatiile AI complexe.

Pentru a rezolva problema, Qualcomm a separat acceleratorul AI de sistemul principal si l-a amplasat direct sub un pachet de memorie LPDDR. Conexiunea dintre cele doua componente se realizeaza prin tehnologii verticale de interconectare, ceea ce permite acces rapid la cantitati mari de date fara utilizarea memoriei HBM.

Compania afirma ca noua arhitectura ofera o eficienta de sase ori mai mare in raport cu consumul energetic comparativ cu HBM si o capacitate de peste 200 de ori mai mare decat memoria SRAM integrata in cipuri.

Qualcomm a prezentat arhitectura HBC / Qualcomm
Mai putina caldura si costuri reduse

Tony Pialis, vicepresedinte executiv si director general al diviziei de centre de date Qualcomm, a explicat ca noua abordare combina avantajele memoriei rapide cu densitatea oferita de modulele DRAM suprapuse.

Potrivit acestuia, arhitectura HBC elimina blocajele asociate memoriei HBM, reduce consumul de energie si genereaza mai putina caldura. In plus, solutia nu necesita interpozorii de siliciu costisitori utilizati in prezent de platformele bazate pe HBM.

Qualcomm sustine ca mai multe module HBC pot fi integrate intr-un singur dispozitiv folosind metode standard de ambalare a cipurilor, ceea ce ar putea aduce avantaje importante din punct de vedere al costurilor.

Qualcomm - O idee veche, reinterpretata

Conceptul de apropiere a memoriei de unitatile de calcul nu este nou. Producatorii de memorii au experimentat in repetate randuri astfel de arhitecturi, insa fara un succes comercial major.

Mai recent, compania GUC a propus tehnologia DRAM-on-Logic, care plaseaza mai multe straturi de memorie direct peste logica de procesare. Aceasta solutie poate atinge o latime de banda de aproximativ 5 TB/s si promite performante comparabile cu unele configuratii bazate pe HBM3E.

Deocamdata, Qualcomm nu a oferit cifre concrete privind performanta HBC, ceea ce face dificila o comparatie directa cu alte tehnologii similare.

O noua generatie de acceleratoare AI

Odata cu arhitectura HBC, Qualcomm a prezentat si planurile pentru viitoarele sale acceleratoare dedicate inteligentei artificiale.

Modelul AI200, programat pentru lansare in cursul acestui an, va utiliza memorie LPDDR5X si va putea oferi pana la 43 TB de memorie per rack. Succesorul sau, AI250, va adopta prima generatie HBC si va furniza o latime de banda de 18 ori mai mare decat AI200.

Ulterior, acceleratorul AI300 va integra a doua generatie HBC, care ar urma sa ofere o latime de banda de 54 de ori mai mare decat cea disponibila pe actuala generatie AI200.

Prin aceasta strategie, Qualcomm incearca sa se pozitioneze mai agresiv pe piata centrelor de date si a infrastructurii pentru inteligenta artificiala, un segment dominat in prezent de solutiile bazate pe HBM si acceleratoarele dezvoltate de rivalii sai.

Articolul Qualcomm promite sa sparga "memory wall" din AI cu o noua arhitectura si acceleratoare dedicate apare prima data in Go4IT.

Accesorii

Qualcomm promite sa sparga "memory wall" din AI cu o noua arhitectura si acceleratoare dedicate

Articole asemanatoare