高效與邊緣人工智慧
神經架構搜尋(NAS)
神經架構搜尋把網路本身的設計自動化——要幾層、用哪些運算、怎麼連接——而不再以手工打造。你指定一個可能架構的搜尋空間、一套探索它的搜尋策略,以及一種估計每個候選品質的方法,然後讓程序找出人類也許不曾嘗試過的設計。
早期的 NAS 在強化學習或演化下訓練數千個架構,耗費數千個 GPU 日。現代 NAS 以權重共享大幅削減成本:單一個過度參數化的超網路把每個候選都包含為一條子路徑,於是子架構的精度不必從頭訓練就能讀出。像 DARTS 這類可微方法把離散的運算選擇鬆弛成連續的混合、以梯度下降訓練,而基於預測器與一次性的方法則便宜地估計效能。
NAS 催生了 EfficientNet、MobileNetV3 與 MnasNet 系列等具影響力的模型家族。當目標納入部署限制、而非僅看精度時,它最有價值——而這正是硬體感知 NAS 的重點。
又称
另见