圖片名稱

新聞中心

大算力芯片裏的HBM ,你了解多少 ?


摘要 :

最近 ,隨著人工智能行業的高速崛起 ,大算力芯片業成為半導體行業為數不多的熱門領域

HBM (高寬帶內存 :High-bandwidth memory)作為大算力芯片裏不可或缺的組成部分 ,也因此走入了行業內外人士的視野

 

 

和傳統的GDDR相比 ,HBM不僅僅提供了更大的位數寬度 ,而且通過TSV和Interposer的連接方式 ,大幅降低了數據通訊上的能量損耗 。這對於大算力芯片的性能效率提升是起到決定性作用的

如果GPU通過PCB板和傳統GDDR內存交換數據 ,那在高速運算時其大多數的能耗都會消耗在數據通訊本身而非計算上 。這對於能耗成本高企的AI模型訓練來說是幾乎不可接受的

而采用HBM以後 ,通訊相關的能耗可以成倍降低 ,甚至有可能把能耗占比降到20% ,甚至更低 。所以目前AI相關的算力芯片都幾乎采用了HBM的技術方案 。HBM的市場也隨之爆發(見下圖)

 

我趁這個熱度 ,也收集了不少資料好好學習了一下HBM相關的知識

HBM到目前為止基本發展了四代 :

第一代和第二代的技術規範標準被定義在了JEDEC的JESD235裏 ,後更新為JESD235A 。HBM2相對於HBM1的區別是通道模式由原來的Legacy變成了Pseudo Channel :用兩個虛擬的64位通道等效成一個128位通道

後來在JESD235C和JESD235D裏定義了HBM2E ,較大幅度地提升了數據通訊能力等參數 。行業裏習慣把這個稱為第三代HBM

而JESD238開始定義的HBM3則被順延地稱為了第四代HBM 。需要注意的是 ,這次JEDEC標準文檔的編號也從235改成了238

 

和之前的版本相比 ,HBM3的最大變化是每個Stack的通道(Channel)數量從2個增加到了4個 ,從而使得數據容量翻倍

後來在JEDEC的標準上 ,Micron 、Hynix等製造商也分別推出了自己的增強型版本至於第五代的HBM4 ,目前JEDEC的標準還沒有正式推出 。我在網上也隻能找到一些簡單的指標數據作為參考

為了整理各個版本HBM的具體指標參數和相關信息 ,我不僅下載了JEDEC的各個版本文檔 ,也參考不少其它的資料 ,然後收集整理了下麵這個表格供大家參考歡迎大家幫忙確認 ,如果發現任何問題 ,請和我溝通或者在公眾號給我留言 ,謝謝了

注 :轉載至 半導體綜研 文中觀點僅供分享交流 ,不代表菲律賓亞星科技立場 ,如涉及版權等問題 ,請您告知 ,菲律賓亞星將及時處理 !