開放集 / 分佈外分類 (open-set / out-of-distribution classification)

標準分類器在封閉世界假設下運作:它假定每一張測試影像都屬於 C 個訓練類別中的某一個,因此無論如何模型都被迫指派其中之一。開放集辨識拋棄了這個假設。模型可能遇到來自它從未見過的類別的輸入,或根本不是對的那種東西的影像,而正確的行為是把它們標記為「未知」或「以上皆非」,而不是自信地把它們誤分成某個已知類別。

這之所以重要,是因為部署中的系統必然會遇到意料之外的情況,而過度自信的深度網路惡名昭彰,常對垃圾或分佈外的輸入指派高機率。一個醫療分類器不該以 99% 的信心把一個陌生的病理標成最接近的已知疾病;一套自駕感知系統不該默默地把每個新奇物體硬塞進某個訓練類別。開放集辨識加入了說「我不知道」的能力。

實務上,它的實作方式是計算一個信心或新奇度分數,並拒絕落在某門檻以下的輸入。分數從簡單的(例如最大 softmax 機率或其熵,以及經溫度縮放的能量分數)到較精巧的(例如在特徵空間中到類別原型的距離、密度模型,或像 OpenMax 這樣的方法)都有。其評估方式與封閉集準確率不同:你衡量已知與未知輸入被分隔得有多好,通常用 AUROC,並同時看在已知類別上的準確率。它與分佈外偵測,以及分類中的拒絕選項密切相關。