免費速度跑到盡頭的地方
本梯級的一切都繞著一個事實打轉:好賺的紅利沒了。Dennard 縮放約莫在 2005 年實質終結,所以把時脈拉高不再是免費的;而摩爾定律趨緩,所以我們也不能再乾等電晶體翻倍。前四篇用矽世界內部的巧思回應了這件事——更好的專用化、像 RISC-V 這樣的開放指令集、小晶片(chiplet)與 3D 堆疊,以及記憶體內運算。後摩爾時代就是免費速度耗盡後展開的整片地景的名字,而這收尾篇要跨過「照常的矽」,去問一個問題:要是機器以一種根本不同的方式運算,會怎樣?
在巡覽那些奇異的候選者之前,先抓牢一個誠實的立場。本篇裡的每一台機器都是專家,而非接班人——沒有一個會取代你桌上那顆平凡的 CPU,而且其中好幾個離「做出任何你會注意到的事」還有數十年。別把它們想成新的通用引擎,而要想成你在加速器梯級見過的那種異質系統裡的更多成員:奇形怪狀的新專家,或許有朝一日會在未來某顆晶片上,加入 CPU、GPU 與 TPU 的行列,每一個都只在它怪好的那唯一一件事上被點亮。
神經型態:向大腦借招
先從最接近今天可用的機器開始。神經型態晶片是模仿大腦運算方式的矽,它整套賣點就是能量。你的筆電把運算和記憶體分開,所以每一條指令、每一筆資料都得擠過 von Neumann 瓶頸那唯一一道門——而記憶體那幾篇已反覆敲打:那股車流正是大部分能量的去處。大腦沒有這種分隔:記憶與處理就是同一批神經元與突觸,挨在一起,所以幾乎什麼都不必移動。神經型態硬體把這點抄了過來,在晶粒上撒滿微小的「運算加記憶」單元,再像神經元那樣把它們連起來。
第二招是「只在有事發生時才運算」。一般硬體跟著時脈滴答,每個週期都在做工,不管有沒有東西改變。神經元則安靜待著,只在輸入越過閾值時才送出一道短促的尖峰,於是晶片燒掉的能量正比於活動量,而非正比於時間。對稀疏、事件驅動的感測而言——一台只回報動過的像素的相機、一支只在聽到關鍵字才醒來的麥克風——這可以比一顆把每張影格都磨一遍的 CPU 高效得離譜。但要誠實:神經型態晶片不是通用電腦,它們只在一小類仿腦、尖峰式的工作負載上發光,軟體工具尚不成熟,而出了那個利基,一顆普通的深度學習加速器通常還是贏家。
拿精確去換能量:類比、近似、光學
有一整族想法共用同一個大膽的動作:刻意放棄一些精確,去省下龐大的能量。近似運算注意到,許多程式其實並不需要完美的答案——一個糊掉的像素、一則推薦、一個感測器平均值、一個神經網路權重,全都容得下小到沒人看得見的誤差。於是你讓硬體稍微草率一點:更少的位元、更簡單的加法器、偶爾跳過一次運算,換取更低的功耗。它是加速器梯級那招降精度刻意而有原則的表親——而誠實的告誡就寫在名字裡。你必須清楚知道你的應用能吞下多少誤差,因為同樣的草率,省得了一支手機的電池,放進銀行帳本或飛控系統卻會釀成大禍。
類比運算把同一場賭注押得更遠,乾脆讓部分工作整個離開數位世界。它不把數字表示成位元、再用邏輯閘相加,而是讓一個物理量——電壓、電流——就是那個數,並讓物理去算數學:電流在一條導線上相加,字面上就完成了一次加法,而一格格記憶單元組成的網格,能在一次電氣穩定的步驟裡做完一整個矩陣-向量乘法,正是主宰神經網路的那個運算。省下的能量可以非常驚人。代價是類比值有雜訊、不精確、會隨溫度漂移、難以做到可重複——這正是數位在數十年前勝出的原因,也是為什麼類比只為神經推論這類能容忍誤差、模糊答案也無妨的工作而回歸。
光是第三位成員,也是最腳踏實地的一個。現代機器最大的成本已不是算術,而是搬資料,而把電子推過一條導線所浪費的能量會隨距離增長。光互連改用光脈衝,透過光纖或晶片上的波導來送資料,論距離每焦耳能載運多得多的資訊,而且幾乎不讓鏈路發熱。這不是科幻——在每一座大型資料中心裡,光早已在機架之間搬運資料——而當下的前沿,是把光學一步步拉得更貼近矽,最終直接搬上小晶片的封裝。用光做真正的運算則要投機得多;今天的光學主要贏在「載運資料」,而非「處理資料」。
量子:最被炒作,也最被誤解
沒有哪個前沿比量子招來更多喘不過氣的標題,所以讓我們小心而具體。量子電腦不儲存非 0 即 1 的位元;它用量子位元(qubit),在不受打擾時同時持有兩者的一種混合(疊加),且能被連結到彼此命運綁在一起(糾纏)。一支量子程式輕推這些混合的狀態,使得透過精心安排的干涉,錯誤答案相互抵消、正確答案彼此增強。關鍵在於:你並不能把所有混合的可能性都讀出來——你一測量,每個量子位元就塌縮成單一的 0 或 1。整門藝術就是安排好那場干涉,讓你被允許的那一次測量,壓倒性地很可能就是你想要的答案。
而工程上的現實殘酷得很誠實。量子位元極其脆弱:最微弱的熱、振動或雜散場,都會把它們混合的狀態敲得走音,這效應叫退相干(decoherence),所以今天的機器必須冷卻到接近絕對零度,卻仍只能維持狀態幾分之一秒。錯誤多到,造出一個可靠的「邏輯」量子位元,可能要用上千個甚至更多的物理量子位元,彼此互相糾錯。我們正處於老實被稱作 NISQ 的時代——含雜訊的中等規模量子——機器是真的、確實有趣,卻還不能用來解任何古典電腦尚未搞得定的問題。終點對化學與材料而言或許會改變世界;但時程老實說是以許多年來計,而非以幾個月。
比任何技術都活得更久的東西
從這些小玩意兒退一步看,有一個驅力解釋了為什麼這一切偏偏在此刻發生:機器學習。大模型對算術的飢渴,恰逢免費速度消失之際被餵食,正是它把每一間實驗室都推向了專用化、更好的記憶體,與這些更怪的機器。機器學習是把協同設計往前拉的那個工作負載——而它還添了一份更尖銳的良心。一個模型燒掉的能量是真實的碳,所以永續運算不再是可有可無的美德,而是頭等的設計目標:每瓦效能、訓練的碳足跡、讓整批機器保持涼爽的總成本。前沿如今不再只是「更快」;而是「在功率與碳的預算之內更快」。
所以,這就是那道誠實的地平線。這些機器有些會舉足輕重,有些會啞火,而沒有一個誠實的人現在能告訴你哪個是哪個。但請留意,貫穿它們全部、不曾改變的是什麼。每一個——神經型態、類比、光學、量子——都是用你在這道階梯最底層學到的同一套算術來論證的:效能鐵律(執行時間 = 指令數 x 每指令週期數 x 週期時間)、Amdahl 定律按你動到的比例替任何加速封頂,以及那條永恆的訓令——讓常見情況變快。底下的技術不斷在換;你推理它的方式不變。