Una GPU è un chip che esegue moltissimi calcoli contemporaneamente. Per questo addestramento e uso dell’IA avvengono per lo più su GPU o su chip specializzati simili, come le TPU di Google.
Esempio
Un data center con migliaia di GPU addestra un nuovo modello linguistico.
Per esperti
Per l’IA locale conta soprattutto la memoria grafica (VRAM). I computer con memoria condivisa tra processore e grafica possono caricare anche modelli più grandi.