特徵圖

特徵圖是某個濾波器滑過輸入之後產生的輸出網格——它是該濾波器的答案卷。圖中的每一格都在說「我的圖樣在這個位置出現得有多強？」。如果一個濾波器偵測水平邊緣，那麼凡是輸入中有水平邊緣的地方，它的特徵圖就會很亮，其他地方則很暗，因此這張圖本質上就是「某一個特徵在空間各處出現程度」的熱度圖。

精確地說，特徵圖是一個以空間位置為索引的 2D 激活值陣列；一個有 C_out 個濾波器的卷積層會產生 C_out 張特徵圖，疊成形狀為 (C_out, H_out, W_out) 的輸出張量。「特徵圖」與「輸出通道」指的是同一件事。由於每個位置的值是局部加權和再經過該層非線性後的結果，特徵圖會保留粗略的空間佈局——在輸入左上角激發的特徵，會在圖的左上角激發——這也是為何 CNN 的特徵圖可以被視覺化成影像、並疊放在原圖上。

隨著網路加深，特徵圖在高與寬上變小（因為步幅與池化），但在深度上變多，而每一張所代表的特徵也變得更抽象。第一層的特徵圖可能對 45 度邊緣有反應；中層的對某種有紋理的表面有反應；後層的則對「某種像狗臉的東西」有反應。檢視特徵圖、以及找出能最大程度激發它們的輸入（透過激活最大化 activation maximization 或 Grad-CAM 等技術），是研究者用來詮釋 CNN 學到了什麼的主要方法。