GPU (Graphics Processing Unit — grafik işlemci), binlerce küçük çekirdekle aynı anda çok sayıda basit işlemi paralel yürüten işlemcidir. CPU az sayıda güçlü çekirdekle sırayla çalışır; GPU ordu gibi çalışır — ve AI modellerinin matematiği (matris çarpımı) tam olarak bu tür paralel işe uygundur.
Oyun grafikleri için tasarlanan GPU, bu tesadüfi uyum sayesinde AI devriminin merkezine oturdu. NVIDIA'nın dünyanın en değerli şirketlerinden biri hâline gelmesi, H100/B200 gibi veri merkezi GPU'larına olan talebin sonucudur. AI eğitimi de inference da büyük ölçüde GPU üzerinde koşar.