矽穿孔(TSV)
在它下面的每一級階梯,對抗的都是同一個敵人:距離。一個訊號要先從一顆晶片裡爬出來,穿過電路板,再鑽進下一顆晶片,每多走一毫米,都要在延遲、功耗和損失掉的頻寬上付出代價——這就是記憶體牆的物理形態。矽穿孔給出的是一個簡單粗暴的答案:與其把連線橫著繞、從封裝側面引出去,不如直接往下打一個洞。TSV 就是在一片被磨薄的矽上垂直蝕刻出的一條狹窄通道,裡面灌滿銅,讓一顆晶片能透過一條只有幾十微米、而不是幾公分長的路徑,和正上方或正下方的那顆晶片直接對話。
難點在於,矽平時是你用來蓋電晶體的「地板」,而不是拿來戳洞的東西。要做出 TSV,得先把裸晶磨薄到薄得嚇人——常常只有 50 微米上下,比一張紙還薄——然後在上面蝕刻出成千上萬條極細的豎井,井壁襯上一層絕緣,免得銅和基板短路,再把銅灌進去。把好幾片這樣磨薄的裸晶疊起來、讓它們的 TSV 對準,你就得到了一整塊高高的方塊,每一層都被成千上萬條並行的豎直導線連到相鄰層。這種「並行」正是關鍵所在:許多又短又粗的連接,能在每位元極低能耗的前提下給你巨大的頻寬。
這就是三維堆疊和高頻寬記憶體(HBM)底下的「管路工程」。HBM 實際上就是一疊 DRAM 裸晶彼此鍵合、再用 TSV 一路穿起來,然後放在一塊中介層(interposer)上、緊挨著一顆 GPU 或加速器,好讓兩者透過一條非常寬、非常短的匯流排交換資料。沒有 TSV,你就又被打回到細瘦的封裝接腳和長長的電路板走線——而這恰恰就是卡住現代 AI 晶片「餵資料能餵多快」的那個瓶頸。
Route sideways (old) Stack vertically (TSV)
___ ___ [ DRAM die ]==o==o== <- thinned
| A |======| B | [ DRAM die ]==o==o== ~50um
|___| long |___| [ DRAM die ]==o==o==
board trace (cm) [ base die ]==o==o==
|| ||
TSV tunnels (tens of um)
filled with copper左:兩顆晶片繞遠路、穿過封裝和電路板連起來。右:裸晶磨薄後疊起來,灌銅的 TSV(o==)把訊號徑直往下送——用許多條又短又並行的連接,取代少數幾條長連接。
TSV 越來越多地和混合鍵合(hybrid bonding)搭配使用:後者讓銅焊墊面對面直接熔接在一起,完全不用錫球,隨著三維堆疊邁向真正的「邏輯疊邏輯」晶片,把這些豎直連接做得更密、更短。