Uma GPU é um chip que faz uma enorme quantidade de cálculos ao mesmo tempo. Por isso, treinar e usar IA acontece na maioria das vezes em GPUs ou em chips especializados parecidos, como as TPUs do Google.
Exemplo
Um data center com milhares de GPUs treina um novo modelo de linguagem.
Para profissionais
Para IA local, o mais importante é a memória de vídeo (VRAM). Computadores com memória compartilhada entre processador e gráficos também conseguem carregar modelos maiores.