Introduction to Flow Matching and Diffusion Models

本文是对着 MIT6.S184: Generative AI with Stochastic Differential Equations 写的。其实我很早以前就想正经学点生成模型了，但是一直苦于找不到好的资源。这次有幸找到了 MIT 的这门课，就作为一个引子好了。

特别的，本人此前并没有系统性的学过微分方程，物理也学得不好，所以本文中我们可能会跳过一部分引理的证明。

本文将仍然采用多篇的形式，本篇是全文的目录。

目录

1. Basic Fluid Mechanism

   我本来以为这门课很快可以结束的，但是其中实在是有太多我没有学过的东西了。因此，为了严谨性和直观性，我们还是要特别的谈点物理基础。

2. Flow Models

   本文中我们将简要介绍一般生成模型的范式，并详细的介绍流模型的框架、训练目标的构建、以及训练方法。

3. Definition of Stochastic Differential Equation

   本文的目标是从较为严格的角度提供随机微分方程的定义，使得我们可以定义后续的扩散模型。限于篇幅和本人的数学水平，本文跳过了大部分证明。

4. Diffusion and Fokker-Planck Equation

   本文简略的介绍了物理上的扩散过程以及描述扩散分布演化的关键的 Fokker-Planck 方程，目的在于提供直观，并为扩散模型铺垫。

5. Diffusion Models

   本文通过之前的结果构建了广泛的扩散模型的范式，并详细介绍了扩散模型的框架，训练目标的构建，以及训练过程。

6. Instance：Image Generators

   通过先前的章节，我们已经基本清楚的介绍了流模型和扩散模型的理论框架。本文将侧重于生成模型在图像生成方面的应用，简要的介绍如何实现带有要求的指向（条件）生成，具体神经网络架构的设计，并分析几个现代的大型生成模型的实例。