Intel obține primul și singurul suport complet pentru NPU în benchmark-ul MLPerf Client v0.6
Rezultatele arată că procesoarele Intel Core Ultra Seria 2 oferă performanțe de calcul AI fără precedent care acoperă CPU, GPU și NPU.
Intel a anunțat că este singura companie care a obținut suport complet pentru unitatea de procesare neuronală (NPU) în cadrul recent lansatului benchmark MLPerf Client v0.6. Rezultatul marchează prima evaluare standardizată din industrie a performanței modelelor de limbaj mare (LLM) pe NPU client. Măsurătorile Intel privind MLPerf Client v0.6 arată că procesoarele Intel® Core™ Ultra Series 2 pot produce rezultate atât pe unitatea de procesare grafică (GPU), cât și pe NPU mult mai rapid decât poate citi un om obișnuit.
“Suntem mândri să fim liderii industriei în ceea ce privește accelerarea completă a NPU și performanța GPU de top pentru sarcinile de lucru AI pe platformele PC client. Acest succes reflectă co-optimizarea profundă hardware-software și angajamentul Intel de a democratiza AI pentru PC-urile de pretutindeni.”
-Daniel Rogers, vicepreședinte Intel și director general al departamentului de marketing al produselor pentru PC
De ce este important
Cu procesoarele sale Intel Core Ultra Series 2, Intel se află în fruntea evoluției PC-urilor cu inteligență artificială, oferind performanțe de calcul fără precedent pentru inteligența artificială care acoperă unitatea centrală de procesare (CPU), GPU și NPU.
MLPerf Client v0.6 măsoară patru cazuri de utilizare de generare și rezumare de conținut pe baza modelului Llama 2 7B. Intel a demonstrat performanțe de vârf la nivelul NPU și al Intel® Arc™ GPU încorporat.
Intel a obținut cel mai rapid timp de răspuns NPU, generând primul cuvânt în doar 1,09 secunde (latență a primului token), ceea ce înseamnă că începe să răspundă aproape imediat după primirea unei solicitări. De asemenea, a oferit cel mai mare randament NPU, de 18,55 token-uri pe secundă, referindu-se la cât de repede poate sistemul să genereze fiecare fragment de text suplimentar, permițând o interacțiune fără probleme cu inteligența artificială în timp real. În plus, comparativ cu concurența, Intel a demonstrat o poziție de lider în domeniul GPU-urilor în ceea ce privește timpul de generare a primului token, pornind mai rapid decât concurența și consolidându-și avantajul în ceea ce privește accelerarea AI end-to-end a NPU-urilor și GPU-urilor.
Despre benchmarking-ul NPU pe MLPerf
Dezvoltat în colaborare de membrii consorțiului MLCommons – inclusiv Intel, AMD, Microsoft, Nvidia și Qualcomm – MLPerf Client v0.6 se extinde dincolo de testele anterioare centrate pe GPU pentru a include acum benchmarking-ul NPU dedicat.
Datorită colaborării strânse dintre echipele de hardware NPU și software OpenVINO™ de la Intel, procesoarele Intel Core Ultra rămân singurele NPU care au obținut conformitatea completă NPU în testul de referință final.
Configurarea testării
| AMD | Intel | |
| Platformă OEM | ASUS Zenbook S 16 | ASUS Zenbook S 14 |
| Numărul modelului OEM | UM5606WA | UX5406SA |
| Model CPU | AMD Ryzen AI HX 370 | Intel® Core™ Ultra 9 288V Processor |
| Data BIOS | Martie 21, 2025 | Februarie 26, 2025 |
| Versiune BIOS | UM5606WA.317 | UX5406SA.306 |
| Memorie totală | 32GB LPDDR5, 7500 MHz | 32GB LPDDR5, 8533 MHz |
| Grafică Brand | AMD Radeon 890M | Intel Arc 140V |
| Memorie de stocare | 1TB | 1TB |
| OS | Windows 11 Pro x64 | Windows 11 Pro x64 |
| Sursă de alimentare | AC | AC |
| Plan energetic | Echilibrat | Echilibrat |
| Mod alimentare | Cea mai bună performanță | Cea mai bună performanță |
| Setarea puterii OEM | myASUS: Viteză maximă | myASUS: Viteză maximă |
* Toate datele au fost măsurate începând cu 28 aprilie 2025. Consultați kitul de presă pentru detalii privind volumul de lucru și configurația.
Notificări și exonerări de răspundere
Performanța variază în funcție de utilizare, configurație și alți factori. Aflați mai multe la intel.com/performanceindex. Rezultatele performanței se bazează pe teste efectuate la datele afișate în configurații și este posibil să nu reflecte toate actualizările disponibile public. Consultați copia de rezervă pentru detalii despre configurare. Niciun produs sau componentă nu poate fi absolut sigur. Costurile și rezultatele pot varia.