稀疏編碼

稀疏編碼是大腦的一種習慣：在描述它感知到的每一樣東西時，只讓一小撮神經元忙碌起來，而幾乎其餘所有神經元都保持安靜。可以把它想像成體育場裡一大群觀眾舉著彩色卡片：每發生一件事，並不是所有人都翻動手中的卡片，而是只有幾十個人會為某一張臉、某一種聲音或某一種氣味亮起來——下一件事則換成另一小群人亮起來。正因為同一時刻活躍的人極少，被點亮的那個小小圖案就成了大腦剛剛所經歷之事的一張乾淨而獨特的'名牌'。

為什麼要讓大多數神經元保持沉默呢？因為這樣既省力又清晰。讓一個神經元放電是要耗能的，所以同一時刻只讓少數幾個放電就能省下燃料——整個大腦差不多只靠一隻昏暗燈泡的功率運轉。這樣做還讓信號容易區分：當各個圖案幾乎不重疊時，兩種相似的氣味或兩張相似的臉就不會被糊在一起，後面的細胞只需讀出'是哪幾個亮著'，幾乎不會混淆。研究者在真實大腦中確實看到了這一點——例如在視覺皮層，以及在果蠅和小鼠大腦中負責辨別氣味的區域；機器學習也借用了同一思路，讓模型盡量用最少的活躍特徵去解釋數據。