拡散モデルにおける学習過程

確率的基盤から最先端アーキテクチャまで

第1章基礎原理：系統的破壊と学習的創造の二重性

拡散モデル（Diffusion Model）の学習過程は、その核心において、直感的でありながら数学的に厳密な二つの対照的なプロセスの組み合わせに基づいている。一つは、データを系統的に破壊していく固定的な「前方拡散過程」であり、もう一つは、その破壊の過程を逆向きにたどることでデータを創造する「逆方向デノイジング過程」である。この対称的な構造こそが、拡散モデルの学習の安定性と生成品質の根幹をなしている。本章では、この二つのプロセスを詳細に解説し、その数学的定式化の変遷を概観することで、拡散モデルの学習原理の全体像を明らかにする。

1.1 前方拡散過程：データ摂動のための固定マルコフ連鎖

拡散モデルの学習は、「前方拡散過程（Forward Diffusion Process）」と呼ばれる、学習を一切伴わない固定的なプロセスから始まる。この過程の目的は、複雑な構造を持つ元のデータ（例：画像）に、微小なガウスノイズを段階的に加えることで、その構造を徐々に破壊していくことである[1]。

このプロセスは、合計T個のタイムステップにわたるマルコフ連鎖としてモデル化される。マルコフ連鎖とは、ある時刻tの状態xtが、その直前の時刻t−1の状態xt−1にのみ依存するという性質を持つ確率過程である[1]。各ステップで加えられるノイズの量は、「ノイズスケジュール（Noise Schedule）」または「分散スケジュール（Variance Schedule）」と呼ばれるハイパーパラメータ{βt}t=1Tによって事前に決定される[4]。具体的には、時刻tにおけるノイズ付きデータxtは、以下の式で定義される遷移確率q(xt∣xt−1)に従って生成される。

q(xt∣xt−1)=N(xt;1−βtxt−1,βtI)

ここで、N(⋅;μ,Σ)は平均μ、共分散行列Σの正規分布を表し、Iは単位行列である。このプロセスをT回繰り返すことで、元のデータ分布q(x0)は、最終的に扱いやすい単純な事前分布、通常は等方性ガウス分布N(0,I)に変換される[2]。この着想は、物理学における非平衡熱力学の概念に由来している[8]。

この前方過程における極めて重要な特性が「再パラメータ化トリック（Reparameterization Trick）」である。ガウス分布の性質を利用することで、マルコフ連鎖を逐次的にたどることなく、任意のタイムステップtにおけるノイズ付きデータxtを、元のデータx0から閉形式で直接サンプリングすることが可能となる[1]。

αt=1−βtおよびαˉt=∏s=1tαsと定義すると、xtは以下のように表される。

xt=αˉtx0+1−αˉtϵ

ここで、ϵは標準正規分布N(0,I)からサンプリングされたノイズである。この特性により、学習時には(x0,t)のペアをランダムにサンプリングし、対応するxtを効率的に生成して損失を計算できるため、訓練の大幅な効率化が実現されている。

1.2 逆方向デノイジング過程：エントロピーを反転させる学習

拡散モデルにおける「学習」は、すべてこの「逆方向デノイジング過程（Reverse Denoising Process）」に集約される。モデル（通常はニューラルネットワーク）は、前方過程を完全に逆向きにたどることを学習する。すなわち、純粋なノイズxTから出発し、各ステップでノイズを少しずつ取り除き、最終的にクリーンなデータサンプルx0を復元することを目指す[2]。

この逆過程もまたマルコフ連鎖としてモデル化され、モデルは遷移確率pθ(xt−1∣xt)を学習する。具体的には、モデルはノイズ付きデータxtとタイムステップtを入力として受け取り、そのステップで付加されたであろうノイズϵを予測する[1,4,9]。予測されたノイズをxtから差し引くことで、よりノイズの少ない状態xt−1を推定する。この反復的な精密化のプロセスにより、モデルは各ステップで自身の予測を微調整し、徐々に高品質なサンプルを生成することが可能になる[1,10]。したがって、ニューラルネットワークの根源的なタスクは、与えられたxtとtから、元のx0に付加されたノイズϵを予測するという、一見単純な回帰問題に帰着する。

1.3 数学的定式化：離散ステップ（DDPM）から連続軌道（SDE/ODE）へ

拡散モデルの数学的定式化は、大きく分けて二つの視点から発展してきた。

DDPMの視点：Denoising Diffusion Probabilistic Models (DDPM) [1]として知られる初期の定式化では、前方過程と逆過程は離散的なタイムステップを持つマルコフ連鎖として扱われる[11]。このアプローチは直感的で実装しやすいが、サンプリング時に多くのステップを必要とするという課題があった。
スコアベースおよびSDE/ODEの視点：より一般的で強力な定式化として、拡散過程を連続時間で記述する**確率微分方程式（Stochastic Differential Equation, SDE）**を用いるアプローチがある[11]。この視点では、前方SDEがデータをノイズへと拡散させ、逆時間SDEがノイズからデータを生成する。逆時間SDEを解くためには、「スコア関数（Score Function）」と呼ばれる対数確率密度の勾配∇xlogp(x)が必要となる[11]。

これら二つの視点は、当初は独立して発展したが、後に深く関連していることが示された。具体的には、離散的なDDPMの定式化は、ある種の連続時間SDEを特定の方式で離散化したものと等価であることが証明されたのである[11]。さらに、確率的なSDEだけでなく、決定論的な**常微分方程式（Ordinary Differential Equation, ODE）**である「確率流ODE（Probability Flow ODE）」によっても同じ生成過程を記述できることが示され、これにより拡散モデルの理論的理解は大きく進展した[13]。この統一的な視点は、拡散モデルのサンプリングアルゴリズムの改良や新たな開発に強力な理論的基盤を提供している。

前方拡散過程を学習の対象外とし、固定的な数学的プロセスとして定義するという設計思想は、拡散モデルが持つ顕著な学習安定性の直接的な原因である。この点を理解するために、主要な代替案である**敵対的生成ネットワーク（Generative Adversarial Networks, GANs）**と比較することが有効である。GANの学習は、生成器（Generator）と識別器（Discriminator）という二つのネットワークが競い合う敵対的な力学に基づいている。生成器の目的（識別器を騙すこと）は、識別器が賢くなるにつれて絶えず変化する。このような「動く標的」を追いかける問題構造が、GANの学習不安定性、モード崩壊（Mode Collapse）、ハイパーパラメータへの敏感さといった課題の根源となっている[3]。

対照的に、拡散モデルの前方過程は、訓練可能なパラメータを持たない、事前に定められたアルゴリズム（例：固定されたスケジュールに従ってガウスノイズを加える）である[1]。この結果、逆過程の学習は、明確に定義された教師あり学習問題へと変換される。すなわち、ノイズ付きデータxtとタイムステップtが与えられたとき、それに寄与したノイズϵを予測するというタスクである[4,9]。このタスクの正解ラベルであるϵは、xtを生成する際にサンプリングされるため、常に既知である。

結論として、拡散モデルの学習過程は、二つのネットワークが駆け引きを繰り広げる繊細なゲームではなく、安定した目的関数（平均二乗誤差）を持つ標準的な回帰問題として定式化されている。この設計が、敵対的力学の複雑さから生成メカニズムを切り離し、拡散モデルが称賛される安定した訓練挙動を直接的にもたらしている[10]。この設計選択は、サンプリング速度を犠牲にして、比類なき学習の安定性を得るという、深遠なアーキテクチャ上のトレードオフを体現していると言える。

第2章学習目的の数学的基盤

拡散モデルの学習過程は、一見すると複雑な確率過程の逆算という難解なタスクに見える。しかし、その数学的基盤を深く掘り下げると、変分推論やスコアマッチングといった異なる強力な理論的枠組みが、驚くほど単純で実践的な単一の学習目的に収束することがわかる。本章では、この学習目的関数の導出過程を、変分オートエンコーダ（VAE）との関連性、およびスコアマッチングの観点から解き明かし、なぜ拡散モデルの訓練が最終的にノイズ予測という単純なタスクに帰着するのかを明らかにする。

2.1 変分的な視点：証拠下限（ELBO）からの損失関数の導出

拡散モデルは、形式的にはマルコフ階層型変分オートエンコーダ（Markovian Hierarchical Variational Autoencoder）の特殊なケースとして解釈することができる[15]。この視点に立つと、拡散モデルの学習目的はVAEと同様に、データの対数尤度logpθ(x0)を最大化することになる。しかし、この対数尤度を直接計算することは困難であるため、代わりにその下限である「証拠下限（Evidence Lower Bound, ELBO）」を最大化（または負のELBOを最小化）するアプローチが取られる[9]。

この変分下限LVLBは、イェンゼンの不等式を用いて導出され、各タイムステップに対応する損失項の和として、LVLB=LT+LT−1+⋯+L0のように表現できる。

LTは、前方過程の最終状態と事前分布の間のKLダイバージェンスであり、学習可能なパラメータを含まない。
L0は、最後のデノイジングステップにおける再構成項である。
学習において最も重要なのは、中間ステップの損失項Lt−1 (t=2,…,T)である。これは、真の（しかし計算不能な）1ステップ逆過程の事後分布q(xt−1∣xt,x0)と、モデルが近似する逆過程の分布pθ(xt−1∣xt)の間のKLダイバージェンスを表している。この項が、モデルのデノイジング能力を各ステップで評価する役割を担う。

2.2 スコアマッチングとの接続：データ分布の勾配を学習する

拡散モデルの学習を理解するためのもう一つの強力な視点が、**スコアベース生成モデリング（Score-Based Generative Modeling）**である[11]。この枠組みは、データ分布の対数密度の勾配、すなわち「スコア関数」∇xlogp(x)を学習することに焦点を当てる。スコア関数が既知であれば、ランジュバン動力学のような手法を用いて、その分布から新たなサンプルを生成することができる。

スコア関数を直接学習することは難しいが、「デノイジングスコアマッチング（Denoising Score Matching）」という手法を用いることで、この問題は解決される[11]。この手法では、データにノイズを加えた後、そのノイズ付きデータのスコア関数をニューラルネットワークに予測させる。

驚くべきことに、変分推論の枠組みでELBOを最適化することと、デノイジングスコアマッチングによってスコア関数を学習することは、数学的に等価であることが証明された[11]。ノイズϵを予測するように訓練されたモデルは、簡単な再パラメータ化によってスコア関数を予測するモデルへと変換できる[15]。この発見は、それまで別々に発展してきた二つの研究分野を統一し、拡散モデルの理論的基盤を強固なものにした。

2.3 単純化された目的関数：なぜ拡散モデルの学習はノイズ予測に帰着するのか

ELBOを構成する主要な学習項であるKLダイバージェンスDKL(q(xt−1∣xt,x0)∥pθ(xt−1∣xt))は、二つのガウス分布間の距離を測るものである。二つのガウス分布間のKLダイバージェンスは解析的に計算可能であり、その値は両者の平均と分散が一致したときに最小となる[9]。前方過程の分散βtは固定されているため、このKLダイバージェンスを最小化する問題は、実質的に二つの分布の平均を一致させる問題に帰着する。

モデルpθは、逆過程の平均μθ(xt,t)を予測するように設計される。ここで重要なのは、この平均μθが、モデルが予測するノイズϵθの関数として表現できることである[9]。したがって、最適な平均を学習することは、最適なノイズを予測することと等価になる。

この関係性を利用し、モデルの出力を平均μθからノイズϵθ(xt,t)へと再パラメータ化し、さらに理論的には複雑だが実際には学習に寄与しない重み付け係数を無視することで、複雑なLVLBは、非常に直感的で安定した**平均二乗誤差（Mean Squared Error, MSE）**損失へと劇的に単純化される[1]。

Lsimple=Et,x0,ϵ[ϵ−ϵθ(αˉtx0+1−αˉtϵ,t)2]

この単純化された目的関数の解釈は明快である。学習プロセス全体は、以下の単純なタスクの繰り返しに集約される：(1) クリーンなデータx0を一つ取り出す。(2) ランダムなタイムステップtを選ぶ。(3) 標準ガウスノイズϵをサンプリングし、xtを計算する。(4) ニューラルネットワークϵθにxtとtを入力し、元のノイズϵを予測させる。(5)予測されたノイズϵθと真のノイズϵの間の二乗誤差を計算し、それを最小化するようにネットワークのパラメータを更新する[4]。

変分推論やスコアベースモデリングといった、それぞれが強力な理論的背景を持つ異なる枠組みが、最終的に単一の、そして驚くほど単純な実践的目標（ノイズ予測のMSE）に収束するという事実は、拡散モデルが研究分野で爆発的に成長し、実用的な成功を収めた主要な触媒であった。

この現象を深く考察すると、その重要性が明らかになる。第一に、VAE/ELBOの枠組みは、拡散モデルに厳密な確率的根拠を与え、生成モデルの確立された系統の中に位置づける[9]。第二に、スコアマッチングの枠組みは、確率過程の物理学に根ざした異なる視点を提供し、連続時間ダイナミクスへと接続する[11]。これらの異なる数学的言語にもかかわらず、両者とも最終的には前方過程で付加されたノイズ（または等価的にスコア関数）を推定するという同じ中核的学習タスクを導き出す[15]。

この中核タスクが、予測ノイズと真のノイズの間の単純なL2損失（MSE）、すなわち∥ϵ−ϵθ(xt,t)∥2で実装できるという点が決定的である[4]。この目的関数は非常に安定しており、実装が容易で、標準的な深層学習ライブラリとAdamのような最適化アルゴリズムを用いて簡単に最適化できる。この「理論から実践への漏斗効果」は極めて重要である。これにより、研究者や開発者は、複雑で不安定、あるいは特注の損失関数を実装する必要なく、これらの深い理論モデルの力を活用できるようになった。最終的なMSE目的の単純さと堅牢さが、研究と応用の参入障壁を劇的に下げ、コミュニティが安定した基盤の上に迅速に構築を進めることを可能にした。この実践的な単純さが、深い理論に裏打ちされている点こそが、拡散モデルを他の生成モデルと一線を画す要因である。例えば、GANは概念は単純だが訓練の力学が複雑で不安定であり、従来のVAEはバランス調整が難しいKL項を含むより複雑な損失関数を持つ。拡散モデルの成功は、この理論的な深さと実践的な単純さの稀有な融合に起因するのである。

第3章学習アーキテクチャの構成要素

拡散モデルの学習プロセスを支える「機械」は、主に二つの重要な部品から構成されている。一つは、実際にノイズ除去の学習を行うニューラルネットワーク・アーキテクチャであり、もう一つは、その学習のペースと性質を規定する重要なハイパーパラメータである。本章では、これらの核となる構成要素、すなわちデノイジングのバックボーンとして機能するU-Netアーキテクチャと、学習の軌道を決定づけるノイズスケジュールの役割と影響について詳細に分析する。

3.1 デノイジングバックボーン：U-Netアーキテクチャの役割と有効性

逆方向デノイジング過程を担うニューラルネットワークには、特定のアーキテクチャ要件がある。それは、あるサイズのノイズ付き画像を入力として受け取り、それと全く同じサイズの予測値（ノイズまたはクリーンな画像）を出力する必要があるという点である。この要件に対して、U-Netアーキテクチャは理想的な構造を持っている[1]。

U-Netは、対称的なエンコーダ・デコーダ構造を特徴とする[22]。エンコーダパスは、入力画像を段階的にダウンサンプリング（解像度を低下）させながら、様々なスケールで特徴を抽出する。一方、デコーダパスは、エンコーダによって圧縮された特徴表現をアップサンプリングし、元の解像度へと復元する。

U-Netを定義づける最も重要な特徴は、「スキップ接続（Skip Connections）」である[1]。これは、エンコーダパスの各層から得られる特徴マップを、デコーダパスの対応する解像度の層へと直接結合する経路である。この構造により、ネットワークは、深い層（ボトルネック）で捉えられた高レベルな意味的情報（画像に何が写っているか）と、浅い層で捉えられた低レベルで高解像度なテクスチャやディテールの情報（それがどこにどのように描かれているか）を効果的に融合させることができる。この能力は、元の画像の忠実な再構成が求められるデノイジングタスクにおいて極めて重要である。

また、モデルはどの程度のノイズレベルに対処しているのかを知る必要があるため、タイムステップtは不可欠な入力情報となる。この情報は通常、まずtを（Transformerと同様の）正弦波位置エンベディングに変換し、そのエンベディングをU-Net内部の各残差ブロック（ResNet blocks）の中間特徴マップに加算することでネットワークに供給される[1]。

U-Netアーキテクチャが持つ帰納的バイアス（マルチスケール分析とスキップ接続によるディテール保存）は、デノイジングというタスクの階層的な性質と根本的に合致しており、このアーキテクチャが拡散モデルのバックボーンとして偶発的ではなく、必然的に有効な選択肢となっている。この因果関係を理解するためには、まず逆過程のタスクの性質を分析する必要がある。逆過程は本質的に階層的である。ノイズレベルが高い段階（サンプリングの初期、例えばt≈T）では、モデルは大まかで全体的な構造を特定し、生成しなければならない。一方、ノイズレベルが低い段階（サンプリングの終盤、例えばt≈0）では、微細なディテールやテクスチャを精密に描写する必要がある。

次にU-Netのアーキテクチャを分析する。エンコーダパスは、高解像度・低レベル特徴から低解像度・高レベル（意味的）特徴まで、特徴表現の階層を構築する[22]。デコーダパスはこの逆のプロセスをたどり、意味情報から詳細な出力へと画像を構築していく。ここで決定的な役割を果たすのがスキップ接続である[22]。スキップ接続は、エンコーダの初期層からの微細な空間情報を、対応するデコーダ層に直接注入するための経路を提供する。これにより、標準的なオートエンコーダが抱える「情報ボトルネック」問題（圧縮された表現の中で高周波数のディテールが失われる問題）が回避される。

結論として、U-Netの構造は、問題の構造そのものを反映している。デコーダは、ボトルネックからの意味情報を利用して「何を描くか」（例：「目」）を決定し、スキップ接続からの高解像度情報を利用して「どこに、どのように」（例：シャープな輪郭で）描くかを知る。このアーキテクチャとタスクの間の共生関係が、U-Netがこれほど持続的に成功を収めている理由であり、単に入力と出力のサイズが同じネットワークを任意に選んだ結果ではないことを示している。

3.2 学習のペース配分：ノイズスケジュールの重大な影響

ノイズスケジュール、すなわち前方過程における各ステップのノイズ分散{βt}の集合は、データからノイズへの変換軌道を直接的に制御する、固定されたハイパーパラメータである[6]。このスケジュールの選択は些細な問題ではなく、モデルがデータ分布を学習し、高品質な出力を生成する能力に深刻な影響を与える[25]。不適切なスケジュールは、モデルの学習能力を非効率的に配分させる可能性がある。例えば、学習タスクが比較的容易な低ノイズ領域や、情報がほとんど残っていない高ノイズ領域にモデルの注意を集中させすぎてしまい、最も重要な中間領域の学習がおろそかになる可能性がある[25]。

3.2.1 線形スケジュール vs. コサインスケジュール：比較分析

線形スケジュール（Linear Schedule）：オリジナルのDDPM論文では、βtが小さな値から大きな値へと線形に増加するスケジュールが採用された[1]。このスケジュールでは、信号対ノイズ比（Signal-to-Noise Ratio, SNR）が過程の初期段階で比較的急速に低下する傾向がある。
コサインスケジュール（Cosine Schedule）：後の研究で、「コサイン」スケジュールが性能を向上させることが発見された[1]。コサインスケジュールは、拡散過程の最初と最後では緩やかに、中間ではより積極的にノイズを付加する。これにより、モデルは初期段階（低ノイズレベル）で大まかな構造をより良く学習でき、またデータが急速に破壊されるのを防ぐことができる[25]。結果として、ノイズレベル間の遷移がより滑らかになり、生成されるサンプルの品質が向上する[26]。

3.2.2 訓練効率における信号対ノイズ比（SNR）の重要性

近年の研究動向は、経験的なスケジュール設計から、学習プロセスを**信号対ノイズ比（SNR）**というより原理的な観点から分析する方向へとシフトしている。この分析から、最も重要かつ困難な学習は、中間のノイズレベル、特にlog(SNR)が0に近い領域で発生することが明らかになった。この点は、信号成分とノイズ成分の強さが拮抗する「臨界遷移点」であり、モデルがデータ構造を学習する上で極めて重要である[27]。

この洞察は、より効率的な学習戦略へとつながる。タイムステップtを均一にサンプリングする代わりに、この臨界的なlog(SNR)≈0領域のタイムステップを重点的にサンプリングする「重点サンプリング（Importance Sampling）」を用いることができる。これは、学習の労力を最も重要な領域に集中させる新しいノイズスケジュール（例：ラプラススケジュール）を設計することと等価であり、収束の高速化と性能向上に貢献する[27]。

第4章生成学習パラダイムの比較分析

拡散モデルの学習過程をより広い視野で理解するためには、それを他の主要な生成AIパラダイム、特に敵対的生成ネットワーク（GAN）および変分オートエンコーダ（VAE）との比較において位置づけることが不可欠である。本章では、それぞれの学習メカニズムに起因する長所と短所を、学習の安定性、サンプル品質と多様性、そして計算コストという三つの重要な指標に沿って体系的に分析する。

4.1 学習の安定性：拡散モデルがGANの敵対的落とし穴を回避する理由

拡散モデルの安定性：前述の通り、拡散モデルの学習プロセスは、単純なMSE目的関数を持つ教師ありノイズ予測タスクとして定式化されているため、本質的に安定している[10]。学習は着実に進行し、ハイパーパラメータに対する感受性も比較的低い。
GANの不安定性：対照的に、GANの学習は、生成器と識別器という二つのネットワーク間のナッシュ均衡を見つけ出す、非常に困難な最適化問題である[18]。この敵対的ダイナミクスは、学習の発散、勾配消失・爆発、モード崩壊といった問題を引き起こしやすく、訓練はしばしば不安定になる[3]。
VAEの安定性：VAEもまた、単一の明確に定義された目的関数（ELBO）を最適化するため、GANに比べてはるかに安定した学習プロセスを持つ[16]。

4.2 サンプル品質と多様性：モード崩壊とVAEのぼやけの克服

拡散モデルの品質と多様性：拡散モデルは、非常に忠実度が高く（High-fidelity）、かつ多様性に富んだ（Diverse）サンプルを生成することで高く評価されている。段階的な生成プロセスがデータ分布全体を捉えることを可能にし、GANで見られる「モード崩壊」の問題を効果的に回避する[12]。
GANのモード崩壊：モード崩壊は、GANの一般的な失敗モードであり、生成器が識別器を騙せる少数のリアルなサンプルしか生成しなくなり、結果として出力の多様性が著しく欠如する現象である[3]。
VAEのぼやけ：VAEは多様なサンプルを生成できる一方で、しばしばぼやけていたり、過度に滑らかな画像を生成する傾向がある[16]。これは、ELBO目的関数が潜在空間上での平均化を促し、ピクセルレベルの分散を罰して「安全な」平均的な再構成を好むという、学習メカニズムのアーティファクトである。

4.3 品質の代償：計算負荷とサンプリング速度のトレードオフ分析

拡散モデルのコスト：その優れた品質と安定性の裏返しとして、拡散モデルの最大の欠点は、サンプリングが遅く、計算コストが高いことである。逆過程は反復的な連鎖であるため、一つのサンプルを生成するために、ニューラルネットワークの順伝播を数百回から数千回、逐次的に実行する必要がある[10]。訓練自体も計算集約的である[32]。
GAN/VAEの速度：対照的に、GANとVAEは、それぞれの生成器／デコーダネットワークを一度順伝播させるだけでサンプルを生成できるため、推論速度は桁違いに速い[10]。

以下の表は、これら三つの主要な生成モデルの学習パラダイムに起因する特性をまとめたものである。この表は、特定のアプリケーションに対してどのモデルを選択すべきかを検討する上で、重要な意思決定の指針となる。

評価指標	拡散モデル (Diffusion Models)	敵対的生成ネットワーク (GANs)	変分オートエンコーダ (VAEs)
学習の安定性	高い：安定した教師あり形式のノイズ予測タスク[10]。	低い：不安定な敵対的学習、ハイパーパラメータに敏感[3]。	高い：単一のELBO目的関数の安定した最適化[16]。
モード崩壊リスク	非常に低い：反復プロセスが自然にデータ分布全体をカバーする[16]。	高い：生成器が限定的な多様性しか生まない一般的な失敗モード[16]。	非常に低い：確率的エンコーダがデータの分散を捉える[16]。
サンプル忠実度	非常に高い：最先端の、非常に詳細でリアルな出力[10]。	高い：非常にシャープでリアルな画像を生成可能だが、アーティファクトが生じることがある[16]。	低い〜中程度：しばしばぼやけたり、過度に滑らかな出力を生成する[16]。
サンプル多様性	高い：複雑で多峰性の分布を効果的にモデル化する[16]。	低い〜中程度：モード崩壊によって制限される可能性がある[17]。	高い：訓練データの多様性を捉えるのに優れている[16]。
サンプリング速度	非常に低い：反復プロセスが多数の逐次ステップを必要とする[10]。	非常に高い：生成器の一度の順伝播で完了[16]。	非常に高い：デコーダの一度の順伝播で完了[16]。
訓練コスト	高い：ノイズ付きデータに対する反復的な評価のため計算集約的[10]。	中程度：敵対的学習は時間がかかるが、ステップあたりの負荷は拡散モデルより小さい。	低い〜中程度：一般的に効率的で高速に訓練可能[16]。

第5章効率性と制御性のための学習プロセスの進化

拡散モデルの基本的な学習プロセスは、その安定性と生成品質において画期的であったが、サンプリング速度の遅さと計算コストの高さという二つの大きな課題を抱えていた。この課題を克服し、さらにモデルの制御性を高めるために、基礎となる学習原理の上に数々の重要な革新が積み重ねられてきた。本章では、拡散モデルの学習プロセスがどのように進化してきたか、特にDDIM、Latent Diffusion Models (LDM)、そしてClassifier-Free Guidance (CFG) という三つの重要なマイルストーンに焦点を当てて解説する。

5.1 生成の高速化：DDIMによる非マルコフ的な飛躍

DDPMのサンプリングが遅い根本的な原因は、学習された逆過程がマルコフ的であると仮定されているため、生成時に連鎖の全ステップを逐次的にシミュレートする必要がある点にあった[33]。

この問題を解決したのが、Denoising Diffusion Implicit Models (DDIM) である[34]。DDIMは、より一般的な非マルコフ的な前方過程を導入する。驚くべきことに、この異なる前方過程から導出される学習目的関数は、DDPMのものと全く同じになる[34]。つまり、DDIMはDDPMと全く同じモデルを、同じ目的関数で訓練する。

この非マルコフ的な定式化がもたらす最大の恩恵は、生成過程が（あるノイズϵに対して）決定的になり、そして何よりもサンプリング時にステップを「スキップ」することが可能になる点である[33]。DDPMが1000ステップを要していたタスクを、DDIMはわずか20〜50ステップで同等品質のサンプルを生成でき、これにより10倍から50倍の劇的な高速化が実現された[35]。これは、逆過程の軌道に沿って、より大きなジャンプをすることで達成される。

5.2 計算複雑度の抑制：Latent Diffusion Models (LDM)

拡散モデルをピクセル空間で直接訓練することは、特に高解像度画像の場合、極めて計算コストが高い。U-Netが巨大なテンソルを処理しなければならず、一つのモデルを訓練するのに数百GPU日を要することも珍しくなかった[32]。

この問題を根本的に解決したのが、**Latent Diffusion Models (LDM)**である。Stable Diffusion[22]は、このLDMアーキテクチャの最も著名な実装例である。LDMの学習プロセスは、明確に分離された二つのステージで構成される。

5.2.1 二段階の学習プロセス：知覚的圧縮と潜在空間拡散

ステージ1：知覚的圧縮（Perceptual Compression）：まず、オートエンコーダ（多くの場合VAE）を訓練し、高解像度の画像を、はるかに次元の低いコンパクトな**潜在空間（Latent Space）**へと圧縮する[24]。このステージの目的は、人間が知覚できない高周波数のディテールを効率的に除去しつつ、画像の意味的な情報を保持することである[39]。
ステージ2：潜在空間拡散（Latent Diffusion）：次に、拡散モデル（U-Net）を、この圧縮された潜在空間内のみで訓練する[24]。U-Netはピクセルをデノイズする代わりに、潜在表現をデノイズすることを学習する。

この二段階アプローチにより、U-Netが処理するデータの次元が劇的に削減され、訓練と推論の両方における計算負荷が大幅に軽減される。この革新により、高解像度画像の生成が一般のコンシューマ向けハードウェアでも現実的なものとなり、まさに「民主化」されたと言える[32]。

5.2.2 条件付き生成におけるクロスアテンションの役割

LDMがテキストプロンプトのような条件に基づいて画像を生成できるようにするため、U-Netアーキテクチャに**クロスアテンション（Cross-Attention）**層が導入された[24]。

そのプロセスは以下の通りである。まず、テキストプロンプトのような条件付け入力が、専用のエンコーダ（例：CLIPのテキストエンコーダ）によって埋め込み表現に変換される[23]。次に、この埋め込み表現が、デノイジングの各ステップでU-Netのクロスアテンション層に供給される。クロスアテンション機構は、U-Netが潜在表現をデノイズする際に、条件付け情報に「注意を向ける」ことを可能にし、生成プロセスをプロンプトに沿った方向へと導く役割を果たす[22]。

5.3 制御性の強化：Classifier-Free Guidance (CFG) のメカニズム

生成される画像が、与えられた条件（クラスラベルやテキストプロンプトなど）にどの程度厳密に従うかを細かく制御したいという要求は常に存在した。

初期のアプローチである「分類器ガイダンス（Classifier Guidance）」は、別途訓練された分類器を用いて、生成中の画像を目的のクラスへと近づけるように勾配を計算し、サンプリングプロセスを誘導していた。しかし、この方法は追加のモデルが必要で扱いにくく、分類器に対する敵対的サンプルを生成してしまう可能性があった[44]。

この問題をエレガントに解決したのが「Classifier-Free Guidance (CFG)」である。CFGは、その名の通り、外部の分類器を使わずにガイダンスを実現する。その秘訣は訓練方法にある。訓練時、モデルにはある確率で実際の条件（例：テキストプロンプト）が与えられるが、別の確率で条件が空であることを示す特別なnullトークン（∅）が与えられる[46]。これにより、単一のU-Netが、条件付きのノイズ予測と無条件のノイズ予測の両方を同時に学習する。

推論時には、同じ入力に対して条件付き予測と無条件予測の両方を行い、最終的なノイズ予測値を以下の式で外挿（extrapolate）する。

predfinal=predunconditional+s⋅(predconditional−predunconditional)

ここで、sは「ガイダンススケール（guidance scale）」と呼ばれるパラメータであり、ユーザーはこの値を調整することで、創造的な多様性（スケールが低い場合）とプロンプトへの厳密な準拠（スケールが高い場合）との間のトレードオフを自由に制御できる[47]。

拡散モデルの効率性を向上させた主要な進歩（DDIM、LDM）を分析すると、それらが中核となる学習目的（ノイズ予測MSE）自体を根本的に変更したものではないことがわかる。むしろ、これらはモデルに内在する非効率性を回避するために、入力／出力空間とサンプリング手順を巧みに変更したものである。

この点を深く考察する。まず、中核となる学習アルゴリズムは、第2章で確立された∥ϵ−ϵθ(xt,t)∥2という形式を維持している。次にDDIMを分析すると、DDIMはDDPMと全く同じ訓練済みモデルϵθを使用する[34]。DDIMは訓練プロセスを変更しない。その代わり、非マルコフ的な仮定に基づく異なるサンプリングアルゴリズムを提案し、より大きなステップを踏むことを可能にした。これは、学習された知識ではなく、生成の手順を変更するものである。

同様にLDMを分析すると、LDMも同じ中核的なノイズ予測目的を使用している[24]。しかし、LDMはその目的が適用される領域を変更する。xtがノイズ付き画像である代わりに、ノイズ付き潜在ベクトルztとなる。U-Netはϵθ(zt,t)を学習する。これは、学習タスクの根本的な性質ではなく、データ表現を変更するものである。

この一連の発展は、「メタレベル」での最適化パターンを明らかにしている。中核となる学習アルゴリズムがあまりにも安定し、効果的であったため、研究コミュニティの焦点は、学習そのものを修正することから、それが動作する文脈を設計することへと移行した。DDIMはサンプリング経路を設計し、LDMはデータ空間を設計した。これは、中核となる「デノイジングを学習として捉える」パラダイムの堅牢性とモジュール性を示している。つまり、中心的なエンジンは健全であり、その後の課題は、その周りにより効率的な乗り物を構築することだったのである。

第6章高度な洞察、限界、そして未来への軌跡

これまでの章で拡散モデルの学習過程の核となるメカニズムを分析してきたが、本章ではその枠を超え、より広い文脈での議論を展開する。依然として残る本質的な課題、学習プロセスに起因する社会的な影響、そして拡散モデルの原理に触発された次世代の生成モデルの登場について、多角的に考察する。

6.1 速度を超えた本質的な限界：制御性、解釈性、制約遵守における課題

拡散モデルは目覚ましい成功を収めたが、その学習プロセスに起因するいくつかの根本的な限界も明らかになっている。

制御性とハード制約：CFGなどによってある程度の制御は可能になったものの、拡散モデルは、訓練データに暗黙的にしか存在しないような、物理法則や論理的な「ハード制約」に厳密に従うことが依然として困難である。例えば、物理的に妥当なロボットの動作計画を生成したり、指が正確に5本ある手を生成したりすることは、依然として大きな課題である[49]。生成されたサンプルから不適切なものを棄却するリジェクションサンプリングは非効率であり、生成プロセス自体を制約に従うように誘導する手法は、活発な研究分野となっている[49]。
解釈性：拡散モデルはGANよりも生成プロセスが解釈しやすいとされるが、依然として多くの側面で「ブラックボックス」である。複雑で高次元なU-Netの内部状態や、プロセスの確率的な性質が相まって、なぜモデルが特定の出力やアーティファクトを生成したのかを正確に追跡することは困難である[50]。
ドメイン適応：未知のデータタイプや新しいドメインに汎化する能力は限定的であり、多くの場合、広範なファインチューニングや再訓練が必要となる。これは、モデルの即時的な柔軟性を制限する一因となっている[50]。

6.2 学習プロセスの社会的含意：データ記憶、プライバシー、バイアス増幅

拡散モデルの強力な学習能力は、深刻な社会的・倫理的課題も浮き彫りにした。

バイアス増幅：訓練データ分布を忠実に捉えようとする学習プロセスは、大規模でフィルタリングされていないウェブスケールのデータセットに存在する社会的バイアス（人種、性別、文化的ステレオタイプなど）を必然的に学習し、時にはそれを増幅させてしまう[7]。これは、AI倫理における極めて重要な課題である[51]。
データプライバシーと記憶：拡散モデルは、訓練データを「記憶」し、個人を特定できる顔や著作物を含む、ほぼ同一のコピーを生成時に再出力することが示されている[54]。この「アイデンティティ漏洩」は、モデルが意図せず訓練セットに含まれる個人情報や機密情報を暴露する可能性があり、重大なプライバシーおよび法的リスクをもたらす。
偽情報（ディープフェイク）：忠実度の高い画像を制御可能に生成する能力は、説得力のある偽情報や悪意のあるコンテンツを作成するための強力なツールとなり、デジタルメディアへの信頼を損なう危険性をはらんでいる[53]。

拡散モデルが抱えるこれらの限界や社会的リスクは、単なる偶発的な欠陥ではなく、その強力かつ忠実な学習目的の直接的かつ予測可能な帰結である。モデルを優れたものにしているまさにその性質（データ分布を正確にモデル化する能力）が、同時にそれを危険なものにしているのである。

この因果関係を解き明かす。まず、モデルの目的は訓練データの尤度を最大化することであり、これは訓練データ分布pdataを可能な限り正確に複製することを意味する。ここでバイアスについて考えると、もしpdataが社会的なバイアス（例：医者は男性として描かれることが多い）を含んでいれば、モデルはpdataに忠実であろうとするあまり、このバイアスを学習し、再生産する[7]。損失関数がデータ分布からの逸脱を罰する場合、データ自体が不公平であれば、それは実質的に公平性を罰することになる。

次に記憶について考える。データ分布pdataは、訓練画像の離散的な点の集合である。この分布を、特に希少またはユニークな画像（分布の「ロングテール」）について完全にモデル化するためには、モデルにとって最も効果的な戦略は、それらの画像を単に記憶することである[54]。特に大容量のモデルはこの傾向が強い。したがって、記憶はバグではなく、訓練目的関数に対して低い損失を達成するための創発的な戦略なのである。

結論として、モデルの目的（訓練データへの忠実性）と、社会的な目標（公平性、プライバシー）との間には、根本的な緊張関係が存在する。中核的な学習タスクにおけるモデルの性能を向上させることが、意図せずしてその社会的影響を悪化させる可能性がある。これは、解決策が既存の目的関数を単に「より良く」最適化することからは得られないことを示唆している。むしろ、訓練データの修正、公平性の制約を組み込んだ損失関数の変更[51]、あるいはサンプリングプロセスの変更といった、純粋な技術的性能を超えた明示的な介入が必要となる。これは、はるかに根深い挑戦である。

6.3 次なるフロンティア：一段階生成のためのConsistency Modelsの登場

拡散モデルの反復的なサンプリングの遅さを根本的に解決することを目指して、次世代の生成モデルが登場した。その代表格が「Consistency Models」である[55]。

Consistency Modelsは、拡散理論に強く触発された新しいクラスの生成モデルであり、高速な一段階生成を念頭に設計されている。その中核概念は、拡散過程の軌道上にある任意の点xtを、その軌道の始点であるクリーンなデータx0に直接マッピングする「整合性関数（Consistency Function）」f(xt,t)を学習することにある[55]。

このモデルの訓練には二つの主要な方法がある。一つは、事前に訓練された拡散モデルを「蒸留（distill）」する方法である。拡散モデルを用いて軌道上の点のペアを生成し、Consistency Modelがその両方の点を同じ出力にマッピングするように訓練する。もう一つは、この整合性の特性を強制する「整合性損失（Consistency Loss）」を用いて、ゼロから直接訓練する方法である[55]。

このアプローチは、一段階および数ステップの生成において、既存の蒸留技術や高速化手法を上回る最先端の性能を達成しており、GANとの速度差を効果的に埋めつつ、拡散フレームワークの品質と安定性の利点を維持している[56]。これは、反復的な精密化から直接的なマッピングへのパラダイムシフトを示す可能性を秘めており、生成モデリングの未来を形作る重要な研究方向となっている。

引用文献
How diffusion models work: the math from scratch | AI Summer https://theaisummer.com/diffusion-models/
生成AIを用いてStable Diffusionの論文「High-Resolution Image Synthesis with Latent Diffusion Models (2021)」を読んでみた (続き) #機械学習 – Qiita https://qiita.com/dl_from_scratch/items/612155295da57453b822
Comparative Analysis of Diffusion Generative Models in Computational Pathology – arXiv https://arxiv.org/html/2411.15719v1
Diffusion Model from Scratch in Pytorch – Towards Data Science https://towardsdatascience.com/diffusion-model-from-scratch-in-pytorch-ddpm-9d9760528946/
arxiv.org https://arxiv.org/html/2502.04669v1
milvus.io https://milvus.io/ai-quick-reference/what-role-does-the-noise-schedule-play-in-a-diffusion-model#:~:text=The%20noise%20schedule%20in%20a,increases%20or%20decreases%20over%20time.
Text-to-image Diffusion Models in Generative AI: A Survey – arXiv https://arxiv.org/html/2303.07909v3
Diffusion Modelを理解したい。 – Zenn https://zenn.dev/derbuihan/scraps/fc4fa617d8ccc1
拡散モデルの基礎と研究事例: Imagen #機械学習 – Qiita https://qiita.com/iitachi_tdse/items/6cdd706efd0005c4a14a
GANs vs. Diffusion Models: In-Depth Comparison and Analysis – Sapien https://www.sapien.io/blog/gans-vs-diffusion-models-a-comparative-analysis
Tutorial 2: Diffusion models – Neuromatch Academy: Deep Learning https://deeplearning.neuromatch.io/tutorials/W2D4_GenerativeModels/student/W2D4_Tutorial2.html
arxiv.org https://arxiv.org/html/2209.04747v6
拡散モデルの確率微分方程式 – henatips https://henatips.com/page/54/
Diffusion Models: A Comprehensive Survey of Methods and Applications – arXiv https://arxiv.org/html/2209.00796v13
[2208.11970] Understanding Diffusion Models: A Unified Perspective – arXiv https://arxiv.org/abs/2208.11970
Diffusion model(拡散モデル)とは？仕組み、GANやVAEとの違い、企業導入メリット – AI Market https://ai-market.jp/technology/diffusion-model/
Comparing Diffusion, GAN, and VAE Techniques – Generative AI Lab https://generativeailab.org/l/generative-ai/a-tale-of-three-generative-models-comparing-diffusion-gan-and-vae-techniques/569/
Generative Adversarial Networks vs Variational Autoencoder Model – DhiWise https://www.dhiwise.com/post/generative-adversarial-network-vs-varitional-autoencoder
arxiv.org https://arxiv.org/html/2209.02646v10
拡散モデルとは – IBM https://www.ibm.com/jp-ja/think/topics/diffusion-models
【論文解説】Diffusion Modelを理解する https://data-analytics.fun/2022/02/03/understanding-diffusion-model/
図で見てわかる！画像生成AI「Stable Diffusion」の仕組み – Qiita https://qiita.com/ps010/items/ea4e8ddeff4de62d1ab1
世界に衝撃を与えた画像生成AI「Stable Diffusion」を徹底解説！ – Qiita https://qiita.com/omiita/items/ecf8d60466c50ae8295b
論文紹介: High-Resolution Image Synthesis with Latent Diffusion … https://qiita.com/hiyoko1729/items/cafa469ac2b709a2916c
What role does the noise schedule play in a diffusion model? – Milvus https://milvus.io/ai-quick-reference/what-role-does-the-noise-schedule-play-in-a-diffusion-model
arxiv.org https://arxiv.org/html/2412.14422v1
Improved Noise Schedule for Diffusion Training | OpenReview https://openreview.net/forum?id=j3U6CJLhqw
A Survey on Generative Diffusion Models – arXiv https://arxiv.org/pdf/2209.02646
generativeailab.org https://generativeailab.org/l/generative-ai/a-tale-of-three-generative-models-comparing-diffusion-gan-and-vae-techniques/569/#:~:text=GANs%20are%20known%20for%20high,albeit%20with%20slower%20processing%20times.
Diffusion Models for Generative AI – Explained – Lucent Innovation https://www.lucentinnovation.com/blogs/it-insights/what-are-diffusion-models-in-generative-ai
Comparative Analysis of Generative Models: Enhancing Image Synthesis with VAEs, GANs, and Stable Diffusion – arXiv https://arxiv.org/html/2408.08751v1
High-Resolution Image Synthesis With Latent … – CVF Open Access https://openaccess.thecvf.com/content/CVPR2022/papers/Rombach_High-Resolution_Image_Synthesis_With_Latent_Diffusion_Models_CVPR_2022_paper.pdf
Denoising Diffusion Implicit Models – Julien Gaubil https://www.jgaubil.com/docs/gamma_ddim.pdf
Denoising Diffusion Implicit Models – OpenReview https://openreview.net/forum?id=St1giarCHLP
Denoising Diffusion Implicit Models https://arxiv.org/pdf/2010.02502
DDIM: 画像生成AIの高度なサンプリング手法｜あらもり – note https://note.com/jazzy_bee7652/n/n95f885be2e97
Fast Sampling via Discrete Non-Markov Diffusion Models with Predetermined Transition Time – arXiv https://arxiv.org/html/2312.09193
そうだ！AI画像生成をちゃんと勉強しよう 5章：サンプラーとスケジュールタイプについて – note https://note.com/okachanzzz/n/n3c666497c293
論文まとめ：High-Resolution Image Synthesis with Latent Diffusion https://blog.shikoan.com/latent-diffusion/
Latent Diffusion Modelsを用いてテキストから画像を生成するレシピ – Axross Recipe https://axross-recipe.com/recipes/538
Are diffusion models still beneficial in highly compressed latent spaces? https://ai.stackexchange.com/questions/43694/are-diffusion-models-still-beneficial-in-highly-compressed-latent-spaces
High-Resolution Image Synthesis with Latent Diffusion Models – Mohammad’s Homepage https://mohammadahmadig.github.io/presentations/presentation-01
【6分で分かる】Stable Diffusionの仕組み・特徴！ – YouTube https://www.youtube.com/watch?v=zR2TdomwY2Y&pp=0gcJCdgAo7VqN5tD
[D] Classifier Free Guidance: question about name and historical context – Reddit https://www.reddit.com/r/MachineLearning/comments/1kuzalv/d_classifier_free_guidance_question_about_name/
Diffusion Models Chapter 4: Conditional Generation I – Ernest K. Ryu https://ernestryu.com/courses/FM/diffusion4.pdf
Conditional Image Generation with Classifier … – Peter Holderrieth http://www.peterholderrieth.com/blog/2023/Classifier-Free-Guidance-For-Diffusion-Models/
Classifier-free guidance for LLMs performance enhancing | Towards … https://towardsdatascience.com/classifier-free-guidance-for-llms-performance-enhancing-03375053d925/
Classifier-Free Guidance (CFG) – Emergent Mind https://www.emergentmind.com/topics/classifier-free-guidance-cfg
1 Introduction – arXiv https://arxiv.org/html/2502.19564v1
Diffusion Graph- An Overview of Diffusion Models in ML – Ubiai https://ubiai.tools/an-overview-of-diffusion-models-in-machine-learning-diffusion-graph/
Navigating the Alignment Challenges of Diffusion Models: Insights and Innovations https://www.preprints.org/manuscript/202501.1502/v1
Diffusion Model Explained: A Comprehensive Guide – BytePlus https://www.byteplus.com/en/topic/518121
Imperfect ImaGANation: Implications of GANs Exacerbating Biases … https://www.researchgate.net/publication/357416956_Imperfect_ImaGANation_Implications_of_GANs_Exacerbating_Biases_on_Facial_Data_Augmentation_and_Snapchat_Face_Lenses
This Face Does Not Exist… But It Might Be Yours! Identity Leakage in … https://www.researchgate.net/publication/352389596_This_Face_Does_Not_Exist_But_It_Might_Be_Yours_Identity_Leakage_in_Generative_Models
Consistency Models – arXiv http://arxiv.org/pdf/2303.01469
[2303.01469] Consistency Models – arXiv https://arxiv.org/abs/2303.01469
How latent consistency models work | Baseten Blog https://www.baseten.co/blog/how-latent-consistency-models-work/