科學機器學習（scientific machine learning）
數值計算與機器學習之間有一段深厚的雙向友誼，而科學機器學習就是這座橋的名字。交通雙向流動：現代 AI 的機房是用古典數值方法蓋起來的，而神經網路則越來越常被用來加速、或替代古典科學計算。
先看數值如何驅動機器學習。訓練一個神經網路「就是」最佳化——把損失函數最小化——用隨機梯度下降這個數值最佳化器來做。它所需的梯度由自動微分計算，而自動微分誕生於科學計算。而每一層的工作都是矩陣乘法，在 GPU 上透過調校過的 BLAS 式線性代數核心運行。剝去品牌外衣，一個深度網路就是大規模的條件、穩定性、最佳化與線性代數。再看反向的流動：機器學習正進入求解器本身。物理資訊神經網路把支配的微分方程烤進訓練損失裡；神經算子學習從一個問題的輸入到其解的映射，使訓練好的網路能以一次快速前向傳遞解一個新案例；而學習出來的代理模型與降階模型，在設計迴圈與即時控制中，用一個便宜的近似器取代昂貴的模擬。
做得好時，這種融合把模擬加速數個數量級，在資料稀疏但物理已知之處填補空缺，並從資料中發現支配方程。做得草率則危險，而誠實很重要：神經網路是一個內插器，在其訓練分布「之外」可能自信地出錯；它通常不像古典方法那樣提供誤差界或收斂保證；而「它符合了訓練資料」不等於「它服從物理」。最可靠的系統把兩者結合——用學習換取速度，同時保留古典結構與驗證以換取信任。
一間氣象實驗室用數十年的過往預報訓練一個神經網路，使它能在數秒內預測明天的天氣，而基於物理的模式在超級電腦上要花一小時。誠實的研究者點明的癥結是：這樣一個網路在它訓練時從未見過的、前所未有的事件上可能跌跤——所以它與受信任的物理模式並行運行，而非取而代之。
學習出來的天氣模式：用數秒取代一小時，但僅在與物理模式並行時才受信任。
神經網路做的是內插，在訓練資料之外可能自信地出錯，且通常沒有誤差界。「它擬合了資料」不等於「它服從物理」——可信的設計把古典結構與驗證留在迴圈裡。