Accesorii

Microsoft a prezentat Maia 300, un accelerator AI de noua generatie, conceput pentru a sustine dezvoltarea serviciilor bazate pe inteligenta artificiala. Compania promite performante mai bune si un consum mai eficient de energie, iar primele implementari sunt programate pentru 2027. Printre produsele care ar putea beneficia de noul hardware se numara Microsoft 365 Copilot, Teams, Cowork si GitHub Copilot.

Noul cip face parte din planul Microsoft de a-si extinde infrastructura AI si de a reduce costurile asociate rularii modelelor la scara mare. Accentul cade pe inferenta, adica procesul prin care un model AI genereaza raspunsuri si executa sarcini dupa ce a fost antrenat.

Microsoft sustine ca Maia 300 va putea procesa cu 40% mai multe tokenuri pentru fiecare megawatt consumat decat alte sisteme de top bazate pe GPU-uri. Tokenurile sunt unitatile in care modelele AI impart textul si alte date pentru procesare.

Compania estimeaza ca un rack cu 96 de acceleratoare Maia 300 va putea oferi un debit de pana la sapte ori mai mare decat un rack echipat cu Maia 200. Castigul ar putea conta mai ales pentru serviciile care trebuie sa raspunda rapid unui numar mare de utilizatori sau sa gestioneze cereri complexe.

Microsoft vrea sa foloseasca noul accelerator pentru sarcini care implica rationament pe texte lungi, conversatii rapide si agenti AI capabili sa execute mai multi pasi succesivi. Aceste capacitati sunt importante pentru instrumentele care nu se limiteaza la un simplu raspuns, ci pot analiza informatii si duce la capat sarcini mai elaborate.

Maia 300 foloseste o arhitectura pe care Microsoft o descrie drept "inference-first", proiectata special pentru rularea modelelor AI. Ideea este de a reduce transferurile inutile de date si de a utiliza mai eficient procesarea, memoria si reteaua de comunicatii.

Memoria joaca un rol esential. Acceleratorul va avea opt stive HBM4 si o latime de banda maxima declarata de 18 TB/s. Consumul termic proiectat ajunge la 950 W.

Cipul va folosi si o arhitectura multi-chiplet, care separa componentele pentru calcul, controlul memoriei si intrari-iesiri. Chipleturile de calcul vor fi fabricate de TSMC folosind procesul N2P.

Microsoft mizeaza si pe formate numerice cu precizie redusa, inclusiv o versiune imbunatatita MXFP4. Acestea pot diminua necesarul de memorie si latimea de banda, ceea ce permite procesarea unor volume mai mari de date in aceleasi limite de consum.

O alta componenta este memoria SRAM integrata, pe care software-ul o poate folosi ca spatiu temporar de lucru. Astfel, sistemul poate reduce presiunea asupra memoriei HBM in cazul operatiunilor solicitante.

Un rack Maia 300 va include 96 de acceleratoare si va avea un consum total de pana la 167 kW. Capacitatea cumulata a memoriei HBM va ajunge la 27,6 TB, iar latimea de banda agregata va fi de 1,7 petabytes pe secunda.

Conectivitatea dintre acceleratoare a fost proiectata pentru a sustine transferul rapid al datelor si impartirea calculelor intre mai multe cipuri. Microsoft va folosi legaturi de mare viteza pentru procesarea paralela, alaturi de un sistem de transport AI bazat pe infrastructura Ethernet.

Compania spune ca arhitectura poate fi extinsa de la un singur rack la nivelul unui intreg centru de date. O densitate mai mare de acceleratoare ar permite rularea simultana a mai multor sesiuni AI si gestionarea unor sarcini mai ample.

Microsoft pregateste Maia 300 pentru o gama larga de servicii. Pe lista se afla Microsoft Foundry, platforma destinata dezvoltarii si operarii aplicatiilor AI, dar si instrumentele de programare bazate pe inteligenta artificiala din GitHub.

Compania vrea sa imbunatateasca si experienta oferita de Copilot, Teams si Cowork. Un hardware mai eficient ar putea reduce costurile de operare si ar permite gestionarea unui volum mai mare de solicitari. In functie de modul in care va fi folosit, acest lucru s-ar putea traduce prin raspunsuri mai rapide si o disponibilitate mai buna a functiilor AI.

Microsoft nu a anuntat insa imbunatatiri concrete pentru fiecare aplicatie si nici nu a oferit rezultate de utilizare care sa confirme castigurile in situatii reale.

Noul accelerator vine dupa Maia 200, pe care Microsoft spune ca il foloseste deja pentru sarcini de productie, inclusiv in Microsoft 365 Copilot si pentru modelele dezvoltate de echipa sa de inteligenta artificiala.

Potrivit companiei, Maia 200 ofera pana la 1,7 ori mai multe tokenuri per watt decat infrastructura GPU de top pentru functiile AI integrate in Teams, Copilot si Cowork. Microsoft intentioneaza sa extinda utilizarea cipului si la GitHub Copilot si Microsoft Foundry pana la sfarsitul acestui an.

Maia 300 este programat sa intre in implementare in 2027. Pana atunci, ramane de vazut in ce masura cifrele anuntate de Microsoft se vor reflecta in performanta serviciilor pe care le folosim zi de zi.

Articolul Microsoft pregateste un cip AI de noua generatie. Maia 300 ar putea face Copilot si Teams mult mai rapide apare prima data in Go4IT.