VAE

• 生成モデル

  • SDでは潜在表現から画像にする際に用いられている

• Auto Encoder の潜在変数を $z\sim N(0,1)$ と仮定している

• 例: in(784次元) -> z(20次元) -> out(784次元). 低次元の潜在空間に特徴を表現できている

  • 

• 学習時に正規分布に従う乱数を加える

  • → 各ラベル毎にクラスタが出来る

• 潜在空間上で値を連続的に動かすと変化に対応する出力を出すことが出来る

  • $t\cdot z_0+(1-t)\cdot z_7,0\le t\le 1$ ($z_i$ はラベル $i$ の中心)

• 多様体仮説

  • 画像等の高次元データは空間の中で固まって存在しているという仮説

• 生成モデルの目的はデータの分布である $p(X)$ を推定すること

  • $X$ は画像等の高次元データ(MNISTだと784次元)
  • それを低次元の潜在変数 $z$ と対応付けるのが学習
  • VAEは $z$ が正規分布として分布するように学習させる

• Encoder: $q_{\varphi }(z\mid X)$ データ $X$ が得られた状態でその $X$ を生み出した潜在変数 $z$ を推論する確率モデル(モデルのパラメータが $\varphi$)

  • $z$ ではなく $z$ が従う正規分布 $z\sim N(\mu (X),\sigma (X))$ のパラメータ $\mu ,\sigma$ を生成しているらしい

• Decoder: $p_{\theta }(X\mid z)$

• 学習の仕方 = $\varphi ,\theta$ の求め方

  • $p(X)$ の尤度を最大にするNNのパラメータ $\varphi ,\theta$ を最尤法で求める
    • 対数尤度 $\log p(X)$ の最大化は積分が難しいので変分下限 $L(X,z)$ を最大化することを考える

$$\begin{array}{rl}\log p(X)& =\log \int p(X,z)dz\\ & =\log \int q(z\mid X)\frac{p(X,z)}{q(z\mid X)}\\ & \ge \int q(z\mid X)\log \frac{p(X,z)}{q(z\mid X)}\\ & =L(X,z)\end{array}$$

• イェンセンの不等式 $\log E[X]\ge E[\log X]$

• 対数尤度と変分下限の差は $D_{KL}[q(z\mid X)\mid p(z\mid X)]$ となる

  • 

• さらに式変形すると

  • 
  • ベイズの定理: $p(z\mid X)=\frac{p(X\mid z)p(z)}{p(X)}$

$$L=-D_{KL}[q(z\mid X)\Vert p(z)]+E_{q(z\mid X)}[\log p(X\mid z)]$$

となる

• 1項目は正則化項で $z$ の分布が $p(z)=N(0,I)$ になるように制約になっている

  • 正規分布に従う時のKLダイバージェンスは $\frac{1}{2}{\sum }_{j=1}^J(1+\log (({\sigma }_j{)}^2)-({\mu }_j{)}^2-({\sigma }_j{)}^2$
  • 多変量正規分布の場合のKullback Leibler Divergenceの導出 機械学習 - Qiita

• 2項目 $p_{\theta }(X\mid z)$ は多変量ベルヌーイ分布に従うと仮定してVAEの出力と入力画像でクロスエントロピーを取る(reconstruction error)

  • $\log p(X\mid z)={\sum }_{i=1}^D{x}_i\log y_i+(1-x_i)\log (1-y_i)$

• 対数尤度の最大化は変分下限の最大化と差の最小化を同時にしなければいけないように感じるが変分法を利用することで両者は同じことをあわらすことがわかるらしい

  • 変分下限の最適化をすることで推論するアルゴリズムは 変分推論 法と呼ばれている

Reparameterization Trick

• 変分下限の各項は期待値=積分なので MCMC のようなサンプリング法を用いる必要があるがそうすると逆誤差伝搬できなくなる
• それをReparameterization Trickで回避する
  • ある関数 $f(z\mid \varphi )$ を確率 $q(z\mid x,\varphi )$ のもとで期待値計算したい
  • $ϵ\sim p(ϵ)$ として $q(\cdot )$ が $z=g(ϵ,x;\varphi ),q(z\mid x,\varphi )dz=p(ϵ)dϵ$ と書けると
  • $q(z\mid x)$ による期待値計算は $\int q(z\mid x,\varphi )f(z,\varphi )dz=\int p(ϵ)f(g(ϵ,x;\varphi ))dϵ$ 置き換えられる
  • 例
    • VAEでは $W$ の分布 $q(W\mid \theta )={\prod }_{i,j,l}N(w_{i,j}^{(l)}\mid m_{i,j}^{(l)},v_{i,j}^{(l)})$ を $g(ϵ\mid m,v)=m+ϵv,ϵ\sim N(0,I)$ で表せる
    • これは逆誤差伝搬適用可能

DDPM

• Diffusion Model の元ネタは非平衡統計力学らしい(何も知らない)

• NCSN と数学的に等価でより効率が良いアルゴリズムらしい

• 拡散モデルは入力に対し徐々にノイズが強くなるような過程を行う. ので最終的に入力データはガウスノイズと見分けがつかなくなる

• 以下の過程として書ける(マルコフ性=次状態が現在状態のみに依存)がある

  • 拡散過程 $q(x_{0\cdots T})=q(x_0){\prod }_{t=1}^{T}q(x_t\mid x_{t-1})$
  • 逆拡散過程 $p(x_{0\cdots T})=p(x_T){\prod }_{t=1}^{T}p(x_{t-1}\mid x_t)$

• 

• 逆拡散過程が画像生成に対応する

  • 生成には $p(x_0)$ を最大化する最尤推定が必要
  • 潜在変数 $x_{1\cdots T}$ を全て周辺化 $p(x_0)=\int p(x_{0\cdots T})d{x}_{1\cdots T}$ することで求められる
  • が, $x_{1\cdots T}$ は未知なので計算できない
  • 逆拡散過程は拡散過程の時間反転, $x_0$ は既知なので書き換え

$$p(x_0)=\int q(x_{\mathrm{1...}T}|x_0)p(x_T)\prod _{t=1}^T\frac{p(x_{t-1}|x_t)}{q(x_t|x_{t-1})}d{x}_{\mathrm{1...}T}$$

• 最尤推定をする. logの中に積分が出てくるので変分下限を使って変形する
  • 変分下限 $K=-D_{KL}[\cdot ]+\mathbb{E}[\cdot ]-{\sum }_{t=2}^T{\mathbb{E}}_{q(x_0,x_t)}[D_{KL}[q(x_{t-1}\mid x_t,x_0)\mid p(x_{t-1}\mid x_t)]]$
  • 各時刻 $t=2,3\cdots T$ での拡散過程の事後確率と逆拡散過程のKLダイバージェンスを下げる問題
    • 各時刻について1つ前の状態を推定する形に分割出来ている

Latent Diffusion Model

Conditioning CFG(Classifier-Free Guidance)

• CFG scale
• Negative Prompt

GLIDE

• GLIDEではAttentionBlockだがSDではSpatial Transformerを入れた

参考文献

• Variational Autoencoder徹底解説 | Qiita

• もし生物情報科学専攻の大学院生が “StableDiffusion” を理解しようとしたら 6 ~VAE~ - 何だって、したしむ

• 深層生成モデルと世界モデル

• もし生物情報科学専攻の大学院生が “StableDiffusion” を理解しようとしたら 7 ~DDPM~ - 何だって、したしむ

• もし生物情報科学専攻の大学院生が “StableDiffusion” を理解しようとしたら 8 ~Stable Diffusion①~ - 何だって、したしむ

• もし生物情報科学専攻の大学院生が “StableDiffusion” を理解しようとしたら 9 ~Stable Diffusion②~ - 何だって、したしむ

• ゆるふわリー群論入門（１）位相群 - 何だって、したしむ

  • 位相, 位相群 の話もされている
  • ゆるふわリー群論入門（３）多様体 - 何だって、したしむ