为什么传统扩散模型(Diffusion)存在固有弯曲轨迹
在 Stable Diffusion 1.5/XL 时代,主流模型依赖基于得分匹配(Score-Based)的扩散概率模型(DDPM/DDIM)。数据从纯高斯白噪声向自然图像去噪的过程中,其概率流轨迹在空间中是极其弯曲的随机曲线。 这种弯曲轨迹导致求解常微分方程(ODE)时必须消耗 30~50 步积分步数,且生成的文字经常出现肢解与扭曲。
由 Black Forest Labs 开源的 Flux.1 彻底改写了这一局面,其基石正是整流流匹配(Flow Matching)。
直线概率流 (Straight Paths) 与双流 Transformer (MMDiT)
Flow Matching 的数学优雅性在于:
- 直线插值轨迹:在纯噪声 $x_0 \sim \mathcal{N}(0, I)$ 与真实图像 $x_1$ 之间,直接定义恒定速度的直线概率路径: $$x_t = (1 - t) x_0 + t x_1, \quad \frac{d x_t}{d t} = x_1 - x_0$$ 由于速度向量场近乎直线,欧拉法求解器仅需 4~14 步即可精准收敛!
- 多模态双流 Transformer (MMDiT):文本特征向量与图像潜空间 Patch 各自拥有独立的自注意力流,在计算交叉注意力时无缝共享键值对,首次让 AI 具备了完美拼写生僻英文字母的能力。
直线速度向量场步进模拟
import assert from "node:assert/strict";
function eulerStep(x, target, dt) {
return x + (target - x) * dt;
}
assert.equal(eulerStep(0, 10, 0.1), 1);原始资料与溯源链接
- Flow Matching for Generative Modeling:流匹配数学奠基论文。
感谢阅读本文
如果你觉得内容有帮助,欢迎点赞支持或分享给同行开发者。
0 次阅读0 人赞过