生成模型理論
DDIM 取樣(denoising diffusion implicit models)
原始的擴散取樣器必須爬過數百個微小的隨機步驟,相當緩慢。DDIM 是一種不必重新訓練模型,就能用寥寥幾個確定性步驟得到同類樣本的方法。訣竅在於把同一個訓練好的雜訊預測器,透過另一個不同的、非馬可夫的生成過程重新詮釋:其邊際仍與訓練相符,但轉移可被設成確定性的,並跳過許多中間的雜訊層級。
在每一步,DDIM 先用雜訊預測直接估出乾淨資料,再把這個估計沿選定的排程重新加雜訊到下一個較低的雜訊層級。一個變異參數在兩個極端之間插值:一端是完全隨機的 DDPM 鏈,另一端是完全確定的更新。在確定性極限下,DDIM 恰好是機率流 ODE 的歐拉離散化,這正是它能用大步長、並對每個生成樣本給出有意義且可逆的潛在編碼的原因。
確定性讓 DDIM 成為編輯與反演的實用預設:由於雜訊到影像的映射是固定函數,你可以把一張真實影像編碼成它的潛在表示、加以操弄、再解碼回來,也可以透過對潛在表示插值在樣本之間平滑過渡。
x_{t-1}=\sqrt{\bar\alpha_{t-1}}\,\hat x_0(x_t)+\sqrt{1-\bar\alpha_{t-1}-\sigma_t^2}\,\epsilon_\theta(x_t,t)+\sigma_t z
把雜訊尺度 sigma 設為零就得到確定性的 DDIM 更新,本質上是一個偽裝的 ODE 步驟。
當引導開啟時,DDIM 反演只是近似的,因為引導改變了有效向量場,破壞了無引導 ODE 的精確可逆性。
又称
另见