3D 堆疊（3D stacking）
一般晶片是平的：它所有的電晶體都住在單一一層薄薄的矽裡，並排攤開，像單層平房街上的房子。想在晶片上放更多東西，你就往外攤得更寬，而連接遠處部件的導線就變得更長。3D 堆疊就是從單層小鎮搬進高塔：你造出多層矽，把它們直接一層疊一層堆起來，再筆直往下鑽出垂直連接穿過它們，讓各層幾乎能瞬間交談。從前相隔一條長長水平導線的遠端元件，現在可以變成樓上的鄰居。
關鍵的使能元件，是一條筆直穿過矽晶粒本體的微小垂直導線，叫做矽穿孔（「孔／via」不過就是連接不同層的一條導線）。靠蝕刻出成千上萬個這種矽穿孔，兩顆堆疊的晶粒就能用極短的連接接在一起——高度只有幾十微米，而不是橫跨幾毫米——因此非常快、非常省電，而且因為你能讓這麼多條並行，總頻寬極大。旗艦用途是把記憶體直接堆在處理器上或旁邊：高頻寬記憶體就是把好幾顆 DRAM 晶粒堆起來、用矽穿孔接起來，以遠快於遙遠電路板上扁平記憶體晶片的速度，餵資料給飢餓的 GPU 或加速器。
為什麼這在現在重要？因為現代運算的主要成本是搬移資料、而不是對資料運算，而垂直連接比橫越電路板的水平連接短得多。堆疊縮短了旅程。誠實的難處是熱：當你把活躍、耗電的矽層一層疊一層堆起來，底層的熱必須穿過它上面的各層才能逸散，卻沒有容易的出路。管理 3D 堆疊裡的溫度，是最棘手的開放難題之一，這也是為什麼今天我們比較願意堆涼快、密集的記憶體，而不是把熱邏輯堆在熱邏輯上。
一個高頻寬記憶體（HBM）堆疊把四顆或八顆 DRAM 晶粒垂直黏在一起，用成千上萬個矽穿孔連接，再把這座塔擺在 GPU 正旁邊。結果以每秒數 TB 的速度送出資料——遠多於主機板上扁平的 DDR 晶片——正是因為垂直導線很短，而且有這麼多條並行。
把晶粒堆疊起來、用矽穿孔接線，把漫長的水平旅程變成極短的垂直旅程。
3D 堆疊真正的硬限制是熱，不是空間。堆疊的活躍邏輯會把下層的熱困在上層底下，沒有容易的逸散路徑——這就是為什麼密集、涼快的記憶體比把熱邏輯堆在熱邏輯上更容易堆。