百京級運算（exascale computing）

一個 exaflop 是每秒十億個十億次算術運算——每秒 10^18 次浮點運算。百京級運算是超級計算的前沿，機器在此達到那個速度，於 2022 年首度跨越。但這個頭條數字藏住了真正的故事：百京級的核心挑戰不在於快速做算術，而在於搬移資料、協調數百萬個處理器而不卡死。

現代硬體的殘酷真相是：算術很便宜，搬資料很昂貴。一次浮點乘法只要不到一奈秒的零頭，但從主記憶體取來它的運算元可能要久上一百倍；因此多數真實的科學核心是記憶體受限的，受制於資料流過快取階層的速度，而非浮點率。百京級機器也大規模平行——數百萬個核心，多數在 GPU 上——而阿姆達爾定律設下一道天花板：若你程式中哪怕一小部分本質上是序列的，那一部分就封頂了加速比，無論你加多少核心。所以百京級軟體的存亡繫於資料局部性（讓資料靠近需要它的處理器）、區域分解（把問題切到大多獨立計算的節點上）、把通訊最小化，以及利用 GPU 的吞吐量。幾項前沿技術隨之而來：混合精度運算，把大部分工作以快速的 16 或 32 位元浮點數做、只在準確度要求之處以 64 位元精修；以及隨機化演算法，用一個可控的機率性誤差換取少得多的工作量。

百京級讓曾經不可能的模擬成真：全細胞生物學、高解析度氣候、全裝置核融合反應爐，以及訓練最大的 AI 模型。這裡的誠實是雙重的。其一，在這個規模故障是家常便飯——數百萬個元件，長時間運行中總有東西壞掉，所以韌性與檢查點不是可選項。其二，原始浮點數不等於科學：一台因資料供給不足而以巔峰一小部分速度運行的機器才是常態，而一台更大的電腦救不了一個病態問題或一個未確認的模型。屋頂線模型的存在正是為了讓這件事保持誠實。