計算、理論與前沿神經科學
脈衝神經網路
脈衝神經網路是一類人工神經網路,它的單元之間像真實神經元那樣交流:靠發出短促的、全有或全無的電訊號小尖峰,也就是脈衝。普通網路裡每個單元都不停地傳遞一個平滑的數值,而脈衝網路裡的單元在內部累積的訊號不夠多時一直保持沉默,等累積到一定程度,就突然蹦出一個脈衝,然後再次安靜下來。可以想像一排人正在往各自的桶裡灌水,只在桶剛好溢出的那一刻喊一聲,喊完又從空桶開始重新灌。資訊並不藏在每聲喊有多響,而藏在喊聲出現的時刻和頻率裡。
這種以時間為核心的方式,讓脈衝網路比常見的人工神經網路更接近大腦——常見網路裡每個單元在每一步都輸出一個穩定的數值。由於脈衝單元在不發放時什麼都不做,整個網路大部分時間可以保持空閒,只在偶爾真正出現脈衝的那些瞬間才耗費能量。正是這種稀疏性,使研究者常把脈衝網路與類腦晶片搭配使用——那是專門為低成本執行它們而設計的硬體。人們既把它當作實用的低功耗機器學習系統來研究,也把它當作簡化模型,幫助科學家理解活體大腦可能如何用脈衝來進行計算。
這裡的離散脈衝大致借鑒了真實神經元的動作電位,但脈衝單元只是高度簡化的寫意模型,並非對生物的忠實複製。
又稱
另見