生成模型理論
一致性模型(consistency models)
擴散能產生絕美的樣本,卻得付出數十到數百次網路求值的代價,因為它沿著一條從雜訊到資料的長軌跡前進。一致性模型把整條軌跡壓縮成單一函數:從任一雜訊層級的任一點,它一步就預測出通過該點之軌跡終點的乾淨資料。如果某條軌跡上的每個點都映到同一個終點,那麼特別地,純雜訊就直接映到一個樣本,於是你一步就生成完成。
其定義性約束是自我一致性:模型的輸出必須沿機率流 ODE 的每一條解軌跡保持不變,並有一個邊界條件把最小雜訊層級的輸出釘在恆等映射上。訓練以兩種方式落實這點:一是蒸餾,沿著預訓練擴散教師生成的 ODE 軌跡,匹配模型在相鄰點上的輸出;二是從頭做一致性訓練,使用軌跡的無偏估計。所得模型仍支援一個少步精修迴圈,以一點算力換取更高品質,在一步與完整擴散之間插值。
一致性模型是擴散延遲問題的領先解答,能在一次或數次求值下達到接近擴散的品質,並與整流流、漸進蒸餾並列為快速取樣器的幾大家族。
f_\theta(x_t,t)=f_\theta(x_{t'},t')\ \ \forall\, t,t';\qquad f_\theta(x_\epsilon,\epsilon)=x_\epsilon
沿 ODE 軌跡的自我一致性加上邊界條件;純雜訊於是直接映到一個樣本。
單步品質通常仍略遜於完整擴散;實務的甜蜜點是二到四步,此時一致性模型以零頭的成本幾乎補平差距。
又称
另见