現代資料技術棧與工具

機器學習上線(生產環境)

機器學習上線(ML in production)指的是把訓練好的機器學習模型從筆記本裡搬出來、放上線即時運作,讓它對新鮮的資料、為真實使用者做出真實的預測——例如為每一筆進來的交易評出詐欺分數。可靠地做到這件事的這門功夫稱為 MLOps(機器學習維運)。

它之所以重要,是因為一個在實驗中表現良好的模型,只有持續在真實世界中運作才有用,而這部分出奇地難。生產環境要求:預測要供得夠快、要監控隨世界改變而衰退的準確度(稱為漂移,drift)、要用新資料重新訓練,還要確保餵給線上模型的特徵(feature),其計算方式與訓練時一模一樣。略過這些,正是許多看似有前途的模型最終沒能創造價值的原因:「在筆記本裡能跑」與「在生產環境能跑」之間的鴻溝,才是大多數資料科學心力真正花費的地方。

漂移指的是線上資料逐漸不再像訓練資料,悄悄侵蝕準確度。

又称
MLOpsmodel deployment