Giriş yap

HBM3e ve HBM4: Bellek Duvarını Silikon Düzeyinde Aşmak

409 kelime3 dk okuma

HBM, bellek çiplerini dikey olarak yığarak geniş bir ara katman üzerinden bağlar; bu dikey yerleşim, yüzlerce bağlantıyı tek noktada toplayarak bellek duvarı denen bant genişliği sınırını silikon düzeyinde aşmanın temel yoludur.

Bellek duvarı nedir?

Bellek duvarı, işlemci hızının bellek erişiminden daha fazla arttığı ama veri taşıma kapasitesinin aynı hızda büyümediği durumu tanımlar. Sonuç, işlemcinin veri beklerken boşta kaldığı verimsizliktir.

Bu, özellikle büyük dil modellerinde belirgindir. Modelin her katmanı için ağırlık matrislerini bellekten okumak gerekir; okuma tamamlanmadan matris çarpımı başlayamaz.

Dikey yığın mantığı

HBM çözümü bellek çiplerini birbirinin üzerine istifler ve bunları ince bir silikon ara katman üzerinden birbirine bağlar. Her katman, işlemciyle olan binlerce kısa bağlantıyı kendi düzleminde taşır.

Bu, veriyi birkaç uzun kanal üzerinden taşımak yerine çok sayıda kısa ve paralel kanal kullanmak demektir. Kanal sayısı arttıkça toplam bant genişliği artarken, kanal başına enerji maliyeti düşer.

HBM3e ve HBM4 farkı

HBM3e, olgunlaşmış HBM3 tasarımını daha yüksek hız ve kapasite noktasına taşıyan bir geçiş sürümü olarak konumlanıyor. HBM4 ise mimariyi kademeli olarak yeniden düzenliyor.

HBM4 tarafında öne çıkan değişimlerden biri, istiflenebilir bir yapıyla daha yüksek katman sayısına geçiş ve daha verimli mantık tabanı alt katmanı. Bu, katman başına alan verimini artırma çabasının parçası.

Isı yönetimi en büyük sorun

Bellek katmanları üst üste istiflendiğinde, alt katmanlardan çıkan ısıyı dağıtmak kolaylaşmaz. Hızlandırıcı tasarımında bu, belleğin termal tavanını doğrudan işlem hızını sınırlayan bir faktöre dönüşüyor.

Bu nedenle yeni tasarım jenerasyonlarında kanal sayısı, veri bit hızı ve güç yoğunluğu birlikte değerlendiriliyor. Bant genişliğini artırmak, termal bütçeye göre sınırlanmış bir denge problemi.

Tedarik zinciri etkisi

HBM üretimi, mantık çipinden farklı olarak yığın teknolojisi gerektiriyor. Bu, yetkinliğin belirli birkaç tesiste yoğunlaşmasına ve arzın bu tesislerle sınırlanmasına yol açtı.

Sonuç olarak bellek erişimi, bilgi işlem kapasitesinin önüne geçen bir kaynak hâline geldi. Model tasarımı bile bellek erişimine göre yeniden ayarlanır hâle geldi.

  • Yatay kanal yerine binlerce paralel dikey bağlantı kullanılır
  • Kanal sayısı, toplam bant genişliğini belirleyen ana etkendir
  • Katman sayısı arttıkça ısı çıkışı denetlenmesi zorlaşır
  • Termal tavan, işlem hızını bellek üzerinden sınırlar

Sık sorulan sorular

HBM neden DDR bellekten daha hızlı?

Bellek çiplerini dikey yığıp binlerce paralel kısa bağlantı kullanır. Bu sayede çok yüksek toplam bant genişliği, kanal başına düşük enerji maliyetiyle sağlanır.

HBM4 ile HBM3e arasındaki temel fark nedir?

HBM3e olgun HBM3 tasarımının hız ve kapasite artışıdır. HBM4 ise daha yüksek katman sayısı ve verimli mantık tabanı alt katmanıyla mimariyi kademeli olarak yeniden düzenliyor.

Yığın sayısı arttıkça ne kötüleşir?

Isı çıkışı ve verim oranı. Alt katmanlardan çıkan ısıyı dağıtmak zorlaştığı için termal tasarım, bant genişliği artışının önündeki temel sınıra dönüşüyor.

Model mimarisi neden bellek erişimine göre değişiyor?

Bant genişliği yetersiz olduğunda işlemci veri bekler ve kullanılan akıllıca verim düşer. Bu yüzden araştırmacılar modeli bellek dostu olacak şekilde yeniden tasarlıyor.

Kaynakça

  1. Yüksek bant genişlikli bellek mimarisiWikipedia
  2. JEDEC — yüksek bant genişlikli bellek standartlarıJEDEC
  3. Bellek bant genişliği ve verimWikipedia
  4. İki boyutlu yarı iletken bellekWikipedia
  5. DRAM teknolojisiWikipedia

Bu konuyla ilgili haberler