迴歸與預測建模

特徵工程

特徵工程(feature engineering)是把原始資料轉換成能讓模型更好做事的輸入(特徵)的功夫。它包含像是把出生日期換成年齡、把身高與體重合成 BMI、把類別編碼成虛擬變數、把變數縮放到共同範圍,或對偏態的量取對數等等。

它的重要性往往超過演算法的選擇,因為模型只能找出它的特徵讓它看得見的模式——給它對的表示法,連簡單的迴歸都能發光。這門功夫的紀律是:只用訓練資料和可重現的邏輯來打造特徵,這樣你才不會不小心把未來或測試的資訊洩漏進輸入裡。

又稱
feature extraction