Platformele Intel AI accelerează modelele Microsoft Phi-3 GenAI

Intel și-a validat și optimizat portofoliul de produse AI pentru client și centru de date pentru mai multe modele deschise din familia Phi-3 de la Microsoft. Familia Phi-3 de modele deschise de mici dimensiuni poate rula pe hardware de calcul mai mic, poate fi ajustată mai ușor pentru a satisface cerințe specifice și permite dezvoltatorilor să creeze aplicații care rulează la nivel local. Printre produsele acceptate de Intel se numără acceleratoarele Intel® Gaudi® AI și procesoarele Intel® Xeon® pentru aplicațiile din centrele de date și procesoarele Intel® Core™ Ultra și grafica Intel® Arc™ pentru clienți.

Ca parte a misiunii sale de a aduce inteligența artificială pretutindeni, Intel investește continuu în ecosistemul de software de inteligență artificială, colaborând cu lideri și inovatori în domeniu.

Intel a colaborat cu Microsoft pentru a permite suportul modelului Phi-3 pentru unitățile sale centrale de procesare (CPU), unitățile de procesare grafică (GPU) și acceleratoarele Intel Gaudi în ziua lansării. De asemenea, Intel a coproiectat abstractizarea acceleratorului în DeepSpeed, care este o suită software de optimizare a învățării profunde ușor de utilizat, și a extins suportul pentru paralelismul tensorial automat pentru Phi-3 și alte modele pe Hugging Face.

Dimensiunea modelelor Phi-3 este potrivită pentru a fi utilizată pentru inferența pe dispozitiv și face posibilă dezvoltarea ușoară a modelelor, cum ar fi reglarea fină sau personalizarea pe PC-uri AI și dispozitive de vârf. Hardware-ul client Intel este accelerat prin intermediul unor cadre și instrumente software cuprinzătoare, inclusiv PyTorch și Intel® Extension for PyTorch utilizate pentru cercetare și dezvoltare locală și OpenVINO™ Toolkit pentru implementarea și inferența modelelor.

Intel se angajează să satisfacă nevoile de inteligență artificială generativă ale clienților săi din mediul de afaceri și va continua să sprijine și să optimizeze software-ul pentru Phi-3 și alte modele de limbaj de ultimă generație.