記憶體技術:DRAM、DDR 與新興記憶體
3D 堆疊記憶體(3D-stacked memory)
想像一個再也沒有新土地蓋房子的小鎮。與其往旁邊攤開、佔用越來越多地面,你往上蓋——把樓層疊成一棟公寓大廈,用電梯把它們連起來。3D 堆疊記憶體對矽做的就是同一件事:與其把記憶體晶片平攤在板子上,你把晶粒垂直堆疊、穿過它們的厚度連接,把多得多的記憶體塞進一個就在需要之處的小小佔地裡。
具體來說,3D 堆疊把多個被磨薄的矽晶粒一個疊一個,用矽穿孔(TSV)連接它們——垂直的銅柱,直直地穿過每一個晶粒往下,就像穿過樓層的電梯。這讓層與層之間的線路極短,意味著層間延遲較低、總頻寬高得多(數千條連接平行),而且每位元的能量比長長的水平走線更低。HBM 是最著名的例子:一堆 DRAM 晶粒疊在一個邏輯底座晶粒上。堆疊也可以把記憶體直接放在處理器晶粒上方,這是近資料運算的基礎。
為何重要:堆疊是對記憶體牆、以及對二維微縮極限的直接結構性進攻。藉由縮短記憶體與計算之間的距離,它買到平面佈局做不到的頻寬與能效。誠實的代價很真實:熱被困在層與層之間、很難排出(堆疊頂端把底部烤熟),堆越多晶粒製造良率越低,而 TSV 與中介層很貴。所以 3D 堆疊只保留給那些頻寬與鄰近性值得這個代價與散熱頭痛的地方——加速器、HBM,以及新興的記憶體內運算設計。
一堆 HBM 可能高達 8 個 DRAM 晶粒,由數千個垂直貫穿整堆的 TSV 連接——在一個僅比單一晶粒略大的佔地裡,給出一個約 1024 位元寬的介面。
用 TSV 往垂直發展縮短了線路,在極小的面積裡把頻寬翻了好幾倍。
堆疊不是免費的地皮——熱是核心大敵。內層耗散的功率沒有容易排出之處,所以限制你能多激進地把計算與記憶體疊在一起的,是熱的上限、而不只是成本。
又稱
另見