JOVANA
Explore Library Glossary Getting Started Three Levels Fields How it works Mission
Join the mission
All guides

記憶體內與類比運算:以物理定律做算術

第二根支柱——在記憶體陣列內部完成解碼器的矩陣乘法,以及使其困難重重的非理想效應。

馮紐曼瓶頸

幾乎任何解碼器——線性濾波器、卡爾曼濾波器、類神經網路——其核心都是一次矩陣—向量乘法:權重乘以特徵。在傳統數位硬體中,權重存於記憶體、算術則在另一個獨立單元進行,因此大部分能量都花在跨匯流排來回搬運權重上,而非用它們來運算。這就是馮紐曼瓶頸;對腦機介面這類受記憶體束縛的工作負載而言,它主宰了功耗帳單。

記憶體內運算取消了這趟通勤。它不再把權重取到算術單元,而是在權重本就所在的記憶體陣列內部完成乘積累加。主導的能量項——資料搬運——就此大致消失。

交叉陣列以歐姆與克希荷夫定律作乘法

標準元件是排列成交叉陣列的憶阻器/電阻式記憶體突觸。將每個元件的電導 G_{ij} 編程以儲存一個權重;把輸入向量以電壓 V_i 施加於各列。依歐姆定律,每個元件通過電流 G_{ij}V_i;依克希荷夫電流定律,同一行上的電流自動加總。整個矩陣—向量乘積在單一類比步驟中就此浮現,且不論矩陣大小,實質上都在常數時間內完成。

I_j = \sum_{i=1}^{N} G_{ij}\, V_i

交叉陣列的恆等式:加總到第 j 行上的電流,正好是輸入電壓與所儲存電導的內積。物理定律完成了乘積累加——不需時脈乘法器,也不需取回權重。

近觀記憶體內這根支柱:編程於憶阻器交叉陣列中的電導保存解碼器的權重,施加輸入電壓即以行電流之總和讀出矩陣—向量乘積。

同樣的原理也適用於次臨界類比 CMOS,其中偏壓於弱反轉區的電晶體,可充當精巧、超低電流的矽突觸與矽神經元。無論基材是憶阻式還是 CMOS,訴求都相同:讓元件物理去做算術。

接近物理底線的每次運算能量

由於這次乘法不過是電荷在短促讀取脈衝期間流經一個電導,每次突觸運算的能量可降至飛焦耳到皮焦耳等級——比數位式的乘法加取值低上數個數量級。作為校準:一個生物突觸每次事件耗費約數飛焦耳,而整顆人腦大約以二十瓦運行。神經形態硬體正朝此區間邁進,儘管已發表的數字通常是理想化的峰值,而非系統中的持續值。

E_{\mathrm{MAC}} \approx G\, V^2\, \tau_{\mathrm{rd}}

一次類比乘積累加的能量:電導 G 乘以讀取電壓平方,再乘以讀取脈衝寬度 au_{\mathrm{rd}}。降低 V au_{\mathrm{rd}} 分別以平方與線性方式削減能量——但也會縮小訊號,因而雜訊與精度會反向拉扯。

非理想效應:使其滯留於實驗檯的關鍵障礙

類比運算以數位式的精確性換取效率,而帳單以非理想效應的形式到來:元件間的變異、電導隨時間的漂移、每個記憶胞有限的位元精度、大陣列上的導線電阻(IR 壓降)、卡住或失效的元件、溫度相依性與讀取雜訊。每一項都把運算出的內積推離其應有值,而這些誤差會在深層解碼器中層層累積。

一條務實的折衷之道是物理儲備池計算:讓一個固定、隨機、動態豐富的基材去完成困難的非線性混合,而只在其上訓練一個簡單的線性讀出層。由於儲備池本身從不被訓練,元件失配便只是其固定身分的一部分,而非需要修正的誤差——這是使不完美的類比硬體派上用場的一種優雅方式。