Kebutuhan komputasi kecerdasan buatan membuat kapasitas, lebar pita, dan konsumsi daya memori semakin menentukan rancangan sistem. Lip-Bu Tan menyebut Intel sedang mengkaji arsitektur baru dan penumpukan prosesor dengan memori, tetapi belum mengumumkan produk atau investasi pabrik.
Apple menghadapi pasokan memori yang ketat ketika permintaan pusat data AI mengangkat harga dan mengubah daya tawar pemasok. Pengujian DRAM CXMT untuk perangkat di Tiongkok menawarkan opsi pasokan, tetapi belum menjadi kontrak komersial dan memicu tekanan politik di AS.
Tesla dan SpaceX membutuhkan pasokan chip untuk kendaraan, robot, dan komputasi berbasis AI dalam skala yang belum tersedia dari satu pemasok. Terafab dirancang sebagai kapasitas internal, tetapi jadwal produksi, kesepakatan mitra, dan besaran investasi akhirnya belum pasti.
Harga komponen dan pasokan yang mengetat mulai menekan pasar PC Indonesia, sementara kanal penjualan telah menimbun stok lebih awal. Persaingan kapasitas untuk memori AI menjaga harga DRAM dan NAND tetap tinggi, sehingga waktu pembelian perlu dinilai dari kebutuhan dan kondisi pasar.
Pengelola infrastruktur AI menghadapi pilihan antara GPU yang mudah diprogram dan akselerator khusus dengan ruang kerja lebih sempit. Keputusan tidak cukup dibagi menjadi GPU untuk pelatihan dan ASIC untuk inferensi karena keduanya kini menangani dua tahap tersebut.
Pusat data AI menghadapi biaya memori yang meningkat ketika pertumbuhan komputasi melampaui kemampuan sistem memindahkan data. Akuisisi MEXT memberi AMD perangkat lunak untuk memperluas kapasitas efektif, tetapi tidak menggantikan DRAM atau HBM pada beban kerja yang peka terhadap latensi.
