Intel si AMD pregatesc ACE, o noua generatie de instructiuni x86 pentru inteligenta artificiala

Intel si AMD au publicat specificatiile complete pentru ACE (Advanced Compute Extensions), un nou set de instructiuni destinat accelerarii sarcinilor de inteligenta artificiala pe procesoarele x86. Noua tehnologie promite performante mai bune, consum redus de energie si o integrare mai simpla pentru dezvoltatorii de aplicatii AI.

Desi majoritatea modelelor de inteligenta artificiala ruleaza pe placi video, exista numeroase scenarii in care procesorul ramane solutia mai eficienta.

De ce este nevoie de ACE

In ultimii ani, GPU-urile au devenit principalele motoare pentru aplicatiile AI. Totusi, nu toate sarcinile necesita o placa video dedicata.

Modelele de dimensiuni reduse si operatiunile sensibile la latenta pot rula mai eficient pe procesor. In plus, multe sisteme nu dispun de un GPU performant.

ACE vine sa rezolve aceasta problema prin introducerea unor unitati hardware dedicate operatiilor de inmultire matriciala, elementul de baza al majoritatii algoritmilor de inteligenta artificiala.

O abordare bazata pe AVX10

Noua extensie utilizeaza registrele existente AVX10, dar adauga logica hardware specializata pentru calculele matriciale.

Avantajul principal este compatibilitatea cu arhitecturile actuale. Dezvoltatorii nu trebuie sa creeze metode complet noi de introducere a datelor.

Solutia permite folosirea intrarilor pe 512 biti deja disponibile in AVX, ceea ce simplifica integrarea in viitoarele procesoare.

ACE - De pana la 16 ori mai multe operatii

Inmultirea matriciala reprezinta fundamentul sarcinilor AI. Practic, aceasta presupune executarea repetata a unor operatii de inmultire si adunare asupra unor volume mari de date.

Procesoarele moderne pot realiza aceste calcule si astazi, insa eficienta energetica nu este intotdeauna optima.

Potrivit specificatiilor, ACE poate executa de pana la 16 ori mai multe operatii pentru acelasi numar de vectori de intrare comparativ cu AVX10.

Acest lucru nu inseamna automat o crestere de 16 ori a performantei. Rezultatul final va depinde de implementarea fiecarui producator.

Totusi, reducerea numarului de instructiuni necesare poate aduce castiguri importante de eficienta si poate diminua traficul catre memoria RAM.

Beneficii pentru dezvoltatori

Una dintre cele mai importante caracteristici ale ACE este independenta fata de implementarea hardware.

Biblioteci populare precum PyTorch sau TensorFlow vor putea utiliza o singura cale de cod pentru procesoarele compatibile. Astfel, dezvoltatorii nu vor mai fi nevoiti sa optimizeze separat pentru fiecare nivel de suport AVX.

Aceasta abordare simplifica dezvoltarea si reduce timpul necesar pentru optimizare.

Suport extins pentru tipurile de date AI

ACE ofera suport nativ pentru majoritatea formatelor utilizate in aplicatiile de invatare automata.

Printre acestea se numara INT8, INT32, FP8, FP16, FP32 si BF16. In plus, extensia este compatibila si cu formatele MX block-scaled dezvoltate de Open Compute Project.

Aceasta compatibilitate lipseste in prezent din AVX10.

Un concurent pentru sarcinile executate pe NPU

Noua tehnologie poate prelua si o parte dintre operatiunile care ruleaza in prezent pe procesoarele neuronale dedicate, cunoscute sub numele de NPU.

In situatiile in care este nevoie de raspuns rapid, procesorul va putea executa direct anumite sarcini AI fara a mai depinde de un accelerator separat.

Pentru dezvoltatori, acest lucru inseamna o platforma unificata si predictibila pe toate sistemele x86 compatibile.

Prin ACE, Intel si AMD incearca sa transforme procesorul clasic intr-o solutie mai atractiva pentru aplicatiile moderne de inteligenta artificiala, intr-o perioada in care cererea pentru astfel de sarcini continua sa creasca.

Articolul Intel si AMD pregatesc ACE, o noua generatie de instructiuni x86 pentru inteligenta artificiala apare prima data in Go4IT.

Accesorii

Intel si AMD pregatesc ACE, o noua generatie de instructiuni x86 pentru inteligenta artificiala

Articole asemanatoare