生成モデル（VAE / GAN / 拡散 / flow matching）

細かい話題を束ねた概念ページ。各節は元は独立ページだった。

VAE / Autoencoder（変分オートエンコーダ）

Autoencoder

入力を Encoder で低次元の潜在変数 $z$ に圧縮し、Decoder で復元するニューラルネット。再構成誤差 $L={\sum }_n\Vert x_n-\hat{x}(x_n){\Vert }^2$ を逆誤差伝播で最小化し、入力をできるだけ忠実に再構成するよう学習する。多様体仮説（高次元データは低次元構造に集中している）に基づき、潜在空間に特徴を凝縮する。

VAE（Variational Autoencoder）

Autoencoder の潜在変数を確率分布 $z\sim N(0,1)$ に従うと仮定した生成モデル。Encoder $q_{\varphi }(z|X)$ は $z$ そのものではなく分布のパラメータ $\mu (X),\sigma (X)$ を出力し、Decoder $p_{\theta }(X|z)$ が復元する。学習時に正規分布乱数を加えることでラベルごとにクラスタが形成され、潜在空間上を連続的に動かすと出力も連続変化する。

変分下限（ELBO）

データ分布 $p(X)$ の対数尤度最大化は積分が困難なため、イェンセンの不等式で変分下限 $L$ を最大化する:

$$L=-D_{KL}[q(z|X)\Vert p(z)]+E_{q(z|X)}[\log p(X|z)]$$

第1項は $z$ の分布を $N(0,I)$ に近づける正則化項、第2項は再構成誤差（多変量ベルヌーイ仮定でクロスエントロピー）。対数尤度と変分下限の差は $D_{KL}[q(z|X)\Vert p(z|X)]$。変分下限の最適化で推論するのが bayesian-statistics とも繋がる変分推論。

Reparameterization Trick

期待値（積分）をサンプリングで近似すると逆誤差伝播できなくなるため、$z=\mu +ϵ\sigma ,ϵ\sim N(0,I)$ と書き換えてノイズ源を外に出し、勾配を通す。

VAE は Stable Diffusion の潜在表現エンコードにも使われ、その数理は generative-models（DDPM）の変分下限導出と地続き。

関連

• generative-models / generative-models
• _moc-ai-robotics（ml-robotics クラスタの atomic ノート群）

GAN（敵対的生成ネットワーク）

Generator と Discriminator の 2 ネットワークを競合させて学習する生成モデル。Generator はノイズ $z$ から偽データを生成し、Discriminator は本物（実データ=ラベル1）と偽物（生成データ=ラベル0）を識別する。両者を交互に最適化し、Generator が Discriminator を騙せるようになるとデータ分布を捉えた生成が可能になる。

学習ループ

• Discriminator 更新: 実データに対する損失 loss_real（目標1）と生成データに対する損失 loss_fake（目標0）の和を最小化。
• Generator 更新: 生成データを Discriminator に通し、目標を「本物（1）」として騙すよう損失を最小化。

実装上は Generator が LeakyReLU + tanh の MLP、Discriminator が LeakyReLU + Dropout + sigmoid の MLP といった素朴な構成（MNIST 生成）から始められる。

派生

• cyclegan-generator / cyclegan-discriminator（CycleGAN）: 対応ペアのない 2 ドメイン間の画像変換。Cycle consistency でペアなし変換を学習。
• VQGAN: ベクトル量子化を組み込んだ GAN で、触覚画像のコンパクトな潜在表現学習（UniT, ManiFeel 文脈）にも応用される。

GAN は generative-models や generative-models と並ぶ深層生成モデルの一系統で、Deepfake 検出などの応用・対策の対象にもなる。

関連

• generative-models / generative-models
• pytorch
• _moc-ai-robotics（ml-robotics クラスタの atomic ノート群）

Diffusion Model / Score-based 生成モデル

データに徐々にノイズを加えて最終的にガウスノイズと見分けがつかなくする拡散過程と、その逆をたどる逆拡散過程を学習し、ノイズから復元を繰り返してデータを生成するモデル。逆拡散過程が画像生成に対応する。

DDPM の定式化

マルコフ性を持つ過程として書ける:

• 拡散過程 $q(x_{0\cdots T})=q(x_0){\prod }_{t}q(x_t|x_{t-1})$
• 逆拡散過程 $p(x_{0\cdots T})=p(x_T){\prod }_{t}p(x_{t-1}|x_t)$

生成には $p(x_0)$ の最尤推定が必要だが潜在 $x_{1\cdots T}$ の周辺化が計算できないため、generative-models と同じく変分下限を使い、各時刻の拡散過程事後分布と逆拡散過程の KL ダイバージェンスを下げる問題に分割する。

NCSN（Noise Conditional Score Networks）

スコアベース生成の系統。最初は分散の大きいノイズで近似した分布からサンプリングし、ノイズを少しずつ抑えることでガウス分布から複雑なデータ分布へ遷移させる。DDPM とは数学的に等価で、より効率の良いアルゴリズムとされる。

発展と応用

• Latent Diffusion / Stable Diffusion: 潜在空間で拡散を行い計算を削減。U-Net をデノイザに使う。
• 条件付け: Classifier-Free Guidance（CFG scale, Negative Prompt）。
• generative-models: 拡散を一般化し、ODE のベクトル場を直接回帰する手法。サンプリングが安定・高速で、vla のアクション生成（π₀ 系）の標準になった。
• Diffusion Policy: 視覚表現を条件に拡散でロボットの行動軌道をデノイズする模倣学習。ManiFeel/ForceMimic など接触リッチ操作でも採用。

関連

• generative-models / generative-models / generative-models
• _moc-ai-robotics（ml-robotics クラスタの atomic ノート群）

Flow Matching（フローマッチング）

単純な事前分布（標準ガウス）から複雑な目標分布へサンプルを輸送する常微分方程式（ODE）のベクトル場を学習する生成モデリング手法。拡散モデル（generative-models）を一般化し、シミュレーション不要・固定の条件付き確率経路のベクトル場を回帰するだけで連続正規化フローを学習できる、シンプルかつ安定した枠組み。

定式化

ノイズ分布から目標分布への変換を記述するベクトル場 $v_{\theta }$ を学習する。学習は条件付き Flow Matching ロスで行う:

L_τ(θ) = E ||v_θ(A^τ, o) - u(A^τ|A)||²

線形ガウス（最適輸送）確率パス $q(A^{\tau }|A)=N(\tau \cdot A,(1-\tau )\cdot I)$ を用いると、目標ベクトル場は単純に $u=\epsilon -A$ となり学習目標が極めてシンプルになる。推論時はガウスノイズから出発し、学習済みベクトル場で ODE をフォワードオイラー積分（典型的に 10 ステップ前後）して最終サンプルを得る。拡散のスコア関数学習に比べ数値的に安定で、少ステップサンプリングが可能。

VLA 制御における役割

ロボットのアクションは高次元かつマルチモーダル（1つの指示に複数の正解）であり、Flow Matching の安定したマルチモーダル分布表現がアクションチャンク生成に適する。pi0 が VLM バックボーン + Action Expert（別重みセット、Transfusion 流の拡散スタイルロスを個別シーケンス要素に適用）で連続アクションを生成して以来、vla の事実上の標準デコーダとなった。

• π₀ / π0.5 / π0.6: Conditional Flow Matching で H=50 のアクションチャンクを最大 50Hz 制御。π0.5 はプリトレーニングで離散 FAST トークン、ポストトレーニングで Flow Matching を併用。π0.6 は推論ステップ数を削減しリアルタイム制御の遅延を最小化。
• smolvla: Action Expert を Flow Matching で学習、Beta 分布で τ をサンプリング。
• DiG-Flow: 観測特徴とアクション埋め込みの「分布の不一致」をスライス・ワッサーシュタイン距離で測り、ショートカット輸送（表面的相関への過学習）を幾何学的に検出・抑制。π0.5 ベースで LIBERO-Long を 92.4%→96.4% に改善するプラグイン。

関連

• generative-models / vla / vla-architecture / realtime-vla
• pi0 / smolvla
• _moc-ai-robotics（ml-robotics クラスタの atomic ノート群）