Kelaparan Besi: Mengapa AI Menghabiskan GPU dan Memori

Alasan

Faktor utama yang menyebabkan kenaikan harga adalah perkembangan pesat teknologi kecerdasan buatan. Pengembangan dan pelatihan model-model modern memerlukan sumber daya komputasi yang besar dan jumlah memori yang signifikan. Semakin kompleks modelnya, semakin banyak kekuatan perangkat keras yang dibutuhkan pusat data untuk berfungsi secara efektif.

Ini menciptakan hubungan langsung antara permintaan dan biaya produksi komponen: semakin tinggi tuntutan terhadap volume dan kekuatan, semakin mahal biaya produksinya. Di sini kita melihat alasan pertama lonjakan tajam harga kartu grafis.

Selain itu, produsen semikonduktor dan elektronik terkemuka di dunia mulai secara aktif mengalihkan fokus mereka pada produksi solusi berkinerja tinggi untuk akselerator kecerdasan buatan dan prosesor khusus yang ditujukan khusus untuk perhitungan di bidang pembelajaran mesin. Strategi produsen semacam itu secara tak terhindarkan mengakibatkan pengurangan (atau penghapusan total) produksi chip massal standar yang digunakan dalam varian konsumen.