Industria cauta alternative pentru extinderea memoriei HBM: legaturile optice ar putea schimba arhitectura GPU-urilor AI

Cresterea accelerata a aplicatiilor bazate pe inteligenta artificiala pune o presiune tot mai mare asupra arhitecturilor actuale de acceleratoare grafice si memorii HBM, scrie Trendforce, care citeaza presa de specialitate. Companiile din industria semiconductorilor analizeaza o noua abordare care ar separa fizic GPU-urile de memoria HBM si le-ar conecta prin legaturi optice de mare viteza.

Limitele actualelor arhitecturi GPU-HBM

In prezent, memoria HBM este amplasata foarte aproape de GPU, pe acelasi substrat, pentru a reduce latentele si pentru a asigura transferuri rapide de date. Capacitatea totala a memoriei a fost extinsa in ultimii ani prin suprapunerea verticala a tot mai multor straturi de memorie.

Totusi, odata cu trecerea la configuratii de 16 sau chiar 20 de straturi, complexitatea procesului de fabricatie a crescut semnificativ. In paralel, apar si limite fizice care fac dificila continuarea acestei directii de dezvoltare.

O alta solutie analizata de industrie presupune amplasarea unui numar mai mare de module HBM in jurul GPU-ului. Si aceasta metoda intampina insa restrictii. In arhitecturile actuale de tip 2.5D, spatiul disponibil din jurul procesorului grafic este limitat, ceea ce reduce numarul total de module de memorie care pot fi integrate.

Industria cauta o noua directie: separarea GPU-ului de memorie

In acest context, companiile din domeniul memoriei si al tehnologiilor de ambalare a cipurilor discuta despre posibilitatea separarii GPU-ului si memoriei HBM in pachete distincte.

Noua arhitectura ar renunta la ideea traditionala potrivit careia memoria trebuie sa fie pozitionata imediat langa procesorul grafic. In schimb, transferul de date ar urma sa fie realizat prin conexiuni optice ultra-rapide, capabile sa compenseze distanta mai mare dintre componente.

Potrivit specialistilor, aceasta abordare ar putea permite integrarea unei cantitati de memorie HBM de cateva ori mai mare decat in sistemele actuale.

Legaturile optice, elementul central al noii arhitecturi

Industria analizeaza mai multe variante pentru amplasarea memoriei HBM in noile sisteme. Unele scenarii prevad extinderea spatiului din jurul GPU-ului, in timp ce altele propun pozitionarea modulelor de memorie in zone separate ale placii de baza, inclusiv sub aceasta.

Astfel de modificari ar putea schimba inclusiv designul general al serverelor si acceleratoarelor AI, motiv pentru care producatorii de GPU-uri sunt deja implicati in discutii.

Legaturile optice dintre GPU si HBM folosesc principii similare celor intalnite in comunicatiile optice dintre serverele centrelor de date. Totusi, provocarea majora consta in miniaturizarea componentelor fotonice pentru a putea functiona la scara microscopica, direct pe placile electronice sau in interiorul modulelor semiconductor.

O provocare tehnologica majora pentru industria semiconductorilor

Implementarea unor conexiuni optice intr-un spatiu atat de restrans presupune un grad foarte ridicat de integrare si dezvoltarea unor componente fotonice mult mai compacte decat cele utilizate in infrastructurile actuale de retea.

In acelasi timp, producatorii din industria OSAT, specializati in asamblarea si testarea semiconductorilor, urmaresc atent evolutia acestor concepte, deoarece ele ar putea redefini tehnologiile de ambalare si interconectare folosite in acceleratoarele AI ale urmatorilor ani.

Pe masura ce cerintele pentru inteligenta artificiala continua sa creasca, industria semiconductorilor cauta solutii care sa permita extinderea capacitatii de memorie fara compromisuri majore in privinta performantei si eficientei energetice.

Foto - Nvidia

Articolul Industria cauta alternative pentru extinderea memoriei HBM: legaturile optice ar putea schimba arhitectura GPU-urilor AI apare prima data in Go4IT.

Accesorii

Industria cauta alternative pentru extinderea memoriei HBM: legaturile optice ar putea schimba arhitectura GPU-urilor AI

Articole asemanatoare