長尾 / 類別不平衡分類 (long-tailed / class-imbalanced classification)

真實世界的類別頻率很少是均勻的:少數「頭部」類別有大量樣本,而一條長長的「尾部」稀有類別卻只有極少樣本。長尾辨識就是在這種嚴重偏斜分佈下的影像分類;一個用單純經驗風險最小化訓練出來的天真模型會偏向頭部,藉由在常見類別上表現良好來取得高的整體準確率,卻幾乎忽略稀有類別。

核心困難在於損失被頻繁類別所主導,而稀有類別所學到的分類器權重最終範數很小、更新次數很少,因此它們的決策區域會萎縮。只衡量整體準確率會掩蓋這個失敗,這正是為什麼長尾研究會回報逐類別或類別平衡的準確率,並常把結果切分成多樣本、中樣本與少樣本三組。

補救方法可分為幾個家族:對資料重新取樣,藉由對尾部類別過取樣或對頭部類別欠取樣;對損失重新加權,例如依反頻率或「有效樣本數」;logit 調整,依類別先驗的對數來平移決策邊界;以及兩階段解耦,先在自然分佈上學特徵,再僅對分類器重新平衡。其統一的思想是抵銷先驗,讓稀有類別在決策空間中分得公平的一份。