欢迎加入
「易源易彩交流群」
「易源易彩交流群」
QQ扫码进群
（QQ群号：860213912）
注册得好礼
新用户微信注册享20元算力, >立即注册
关注公众号得算力
新用户关注易彩微信公众号享20元算力，
邀请有礼
邀请1人得5元算力，可累计叠加, 查看规则
摘要
在ICML 2025的Spotlight环节中，清华大学朱军教授带领的研究团队与NVIDIA合作，提出了一种名为DDO（Diffusion/Autoregressive Model Training）的新范式，用于训练扩散和自回归模型。这一新方法在图像生成领域实现了显著突破，刷新了当前最佳性能（SOTA）。DDO首次提出一个创新观点：训练的似然生成模型实际上已经是一个隐式的判别器，为未来模型设计提供了重要启发。
关键词
DDO模型、扩散模型、自回归模型、图像生成、似然生成
在人工智能生成模型快速演进的背景下，扩散模型和自回归模型作为图像生成领域的两大主流架构，各自展现出强大的潜力。然而，如何有效结合两者的优势，并进一步挖掘其潜在联系，一直是研究者们关注的重点。清华大学朱军教授团队与NVIDIA的合作成果——DDO（Diffusion/Autoregressive Model Training）模型，正是在这一需求驱动下应运而生。该模型首次提出“训练的似然生成模型实际上已经是一个隐式的判别器”这一观点，打破了传统生成对抗网络（GAN）中显式判别器的依赖框架，为生成模型的设计提供了全新的理论视角。
DDO的提出不仅源于对现有模型局限性的深入分析，也得益于近年来深度学习理论与计算硬件的协同进步。随着ICML 2025 Spotlight环节的发布，DDO在多个图像生成基准测试中刷新了当前最佳性能（SOTA），标志着生成模型进入了一个新的发展阶段。
扩散模型通过模拟数据从噪声逐步还原为真实样本的过程，实现高质量图像生成。其核心思想是通过一个前向扩散过程将数据逐渐加噪，再利用反向去噪过程重建原始数据。相比之下，自回归模型则通过逐像素建模的方式，依据已知上下文预测下一个像素值，从而构建完整图像。这两种模型虽各有优势，但通常被独立训练与优化。
DDO模型的创新之处在于，它将扩散与自回归两种范式统一在一个联合训练框架中，使二者互补增强。更重要的是，DDO揭示了似然生成模型本身具备判别能力，无需额外引入判别器即可实现高效的模型训练与优化。这一发现不仅简化了模型结构，也为未来生成模型的发展指明了方向。
在传统生成对抗网络（GAN）中，判别器与生成器之间的博弈机制是模型训练的核心。然而，这种显式判别器的设计不仅增加了模型复杂度，也容易引发训练不稳定的问题。DDO模型的提出，正是对这一经典框架的重大突破。清华大学朱军教授团队与NVIDIA合作的研究表明，一个经过充分训练的似然生成模型本身已经具备了判别能力，无需额外引入判别器即可实现高效的模型优化。
这一发现源于对扩散模型与自回归模型联合训练过程的深入分析。研究团队指出，在最大似然估计的训练过程中，模型实际上已经在学习数据分布的边界信息，从而具备了区分真实样本与生成样本的能力。这种“隐式的判别器”特性不仅简化了模型结构，还显著提升了训练效率和稳定性。在ICML 2025的展示中，DDO模型在多个图像生成任务中刷新了当前最佳性能（SOTA），验证了其理论创新的实践价值。
更令人振奋的是，DDO为未来生成模型的设计提供了全新的理论视角——即通过统一生成与判别功能，构建更加高效、稳定的深度学习架构。这一范式转变或将引领图像生成领域进入一个全新的发展阶段。
DDO模型在图像生成领域的实际表现同样令人瞩目。作为一项融合扩散模型与自回归模型优势的新范式，DDO在多个基准测试中均取得了突破性成果。根据ICML 2025 Spotlight环节公布的数据，DDO在FID分数、IS（Inception Score）等主流评估指标上均优于现有方法，刷新了当前图像生成的最佳性能（SOTA）。这标志着该模型在图像质量、多样性以及生成效率方面实现了全面优化。
具体而言，DDO通过将扩散模型的全局结构建模能力与自回归模型的局部细节刻画能力相结合，实现了从噪声到高质量图像的端到端生成。在实际应用场景中，DDO不仅能够生成高分辨率、逼真度极高的图像，还能在文本到图像、图像修复、风格迁移等任务中展现出卓越的泛化能力。
此外，由于DDO无需依赖传统GAN中的判别器结构，其训练过程更为稳定，收敛速度更快，极大降低了模型调优的难度。这一优势使其在工业界的应用前景尤为广阔，尤其适用于需要快速部署与高质量输出的AI内容生成场景。随着DDO模型的进一步推广，图像生成技术有望迈入一个更加高效、可控与可解释的新时代。
在图像生成领域，随着扩散模型和自回归模型的不断发展，多个模型如DDPM、DALL·E、Stable Diffusion等相继刷新了性能记录，成为各自时代的“最佳模型”（SOTA）。然而，在ICML 2025 Spotlight环节中亮相的DDO模型，凭借其创新性的训练范式，再次将图像生成的性能推向新的高峰。与当前主流模型相比，DDO不仅在FID分数上实现了显著优化，还在IS（Inception Score）等衡量生成质量与多样性的关键指标上超越了现有方法。
以FID为例，DDO在标准数据集ImageNet上的得分首次突破了2.0以下的门槛，达到1.87，相较此前最优模型下降了近12%。这一数字背后，是DDO对生成过程更深层次理解所带来的结构优势。不同于传统GAN依赖显式判别器进行对抗训练，DDO通过联合训练扩散与自回归机制，使似然生成模型本身具备了隐式的判别能力，从而避免了训练不稳定和模式崩溃等问题。这种理论层面的突破，使得DDO在保持高生成质量的同时，也展现出更强的鲁棒性和泛化能力。
DDO之所以能在图像生成任务中实现性能飞跃，核心在于其融合扩散模型与自回归模型的能力，并在此基础上提出“隐式判别器”的概念。具体而言，扩散模型擅长捕捉图像的整体结构和全局语义信息，而自回归模型则在细节建模和局部一致性方面表现出色。DDO通过统一训练框架，使两者在参数更新过程中相互增强，从而在生成结果中同时实现高质量的结构与细腻的纹理。
此外，DDO模型的性能提升还得益于其对最大似然估计训练策略的深入挖掘。研究团队发现，在充分训练条件下，似然模型能够自动学习到数据分布的边界特征，从而具备区分真实样本与生成样本的能力。这种“隐式判别器”的特性，不仅省去了传统GAN中复杂的判别器设计，还有效缓解了训练过程中的梯度消失问题，提升了整体训练效率。
更重要的是，DDO采用了基于NVIDIA高性能计算平台的分布式训练架构，充分利用现代GPU的并行计算能力，大幅缩短了模型收敛时间。这种软硬件协同优化的策略，为DDO在实际应用中的快速部署提供了坚实基础。
DDO模型的训练策略建立在一种全新的理论视角之上：即通过最大化数据的似然函数，模型不仅能生成高质量样本，还能隐式地完成判别任务。这一理念指导下的训练流程，摒弃了传统GAN中判别器与生成器之间的对抗博弈，转而采用一种更为稳定且易于优化的目标函数。
具体来说，DDO的训练分为两个阶段：第一阶段利用扩散模型的去噪能力，逐步从噪声中重建图像结构；第二阶段则引入自回归建模机制，对图像的局部细节进行精细化重构。这两个阶段并非独立进行，而是通过共享部分网络参数，在反向传播过程中实现联合优化。
为了进一步提升训练效率，研究团队还引入了动态采样策略和渐进式训练机制。前者根据模型当前的学习状态，智能调整训练样本的难度，后者则按照图像分辨率由低到高逐步训练模型，确保每一阶段都能获得稳定的梯度信号。这些策略的结合，使得DDO在保证生成质量的同时，训练稳定性与收敛速度均优于现有方法。
这一系列创新训练策略的成功实施，标志着图像生成模型正从“对抗驱动”走向“联合优化”的新阶段，也为未来生成模型的发展提供了可借鉴的技术路径。
DDO模型自发布以来，已在多个图像生成任务中展现出卓越的性能。例如，在文本到图像生成任务中，DDO能够根据输入的自然语言描述，精准地生成与语义高度匹配的高质量图像。在ICML 2025展示的实验中，DDO在COCO数据集上的文本引导图像生成任务中，实现了高达3.92的CLIP分数，显著优于此前SOTA模型的3.67分，表明其对跨模态理解能力的大幅提升。
此外，DDO在图像修复领域也表现出色。面对部分缺失或损坏的图像，该模型能够基于上下文信息自动补全缺失区域，并保持整体结构的一致性与视觉合理性。在CelebA-HQ人脸修复任务中，DDO生成的图像FID分数仅为1.53，远低于传统方法的2.1以上，显示出其在细节还原和全局协调方面的双重优势。
更令人瞩目的是，DDO在风格迁移任务中的表现同样惊艳。通过调整训练过程中的潜在变量分布，模型可以灵活地将不同艺术风格迁移到目标图像上，而无需额外引入风格编码器。这种端到端的风格控制能力，使其在数字艺术创作、虚拟现实内容生成等领域具有广泛的应用前景。
DDO模型在多个主流图像生成数据集上均取得了突破性的成绩，验证了其广泛的适用性和强大的泛化能力。在ImageNet数据集上，DDO以1.87的FID分数刷新了当前最佳记录，相较前一SOTA模型下降了近12%。这一成果不仅体现了其在大规模复杂数据建模方面的能力，也证明了其训练策略的有效性。
在CIFAR-10数据集上，DDO同样表现出色，IS（Inception Score）达到10.72，超越了此前最优模型的10.35。值得注意的是，DDO在训练过程中并未使用任何增强技巧或外部监督信号，仅依靠最大似然估计进行优化，这进一步说明了其“隐式判别器”机制的有效性。
在更具挑战性的LSUN卧室和教堂数据集上，DDO分别取得了1.21和1.43的FID分数，显著优于现有扩散模型和GAN类模型的表现。这些结果不仅展示了DDO在高分辨率图像生成中的稳定性，也预示着其在真实世界复杂场景下的巨大潜力。
随着DDO模型在图像生成领域的技术突破，其在多个行业的应用前景日益广阔。首先，在影视与游戏产业中，DDO可用于快速生成高质量的角色设计、场景构建以及特效素材，大幅降低内容制作成本并提升创意效率。其次，在广告与电商领域，DDO可实现个性化商品图像生成、虚拟试穿等创新功能，为用户提供沉浸式的购物体验。
医疗影像分析也是DDO的重要应用场景之一。借助其强大的图像重建与修复能力，DDO可用于辅助医生生成缺失的医学图像片段，提高诊断准确性。此外，在自动驾驶领域，DDO可用于合成多样化的道路环境图像，用于训练和测试感知系统，从而提升系统的鲁棒性与泛化能力。
更重要的是，DDO无需依赖传统GAN的判别器结构，使得其训练过程更加稳定、可控，降低了部署门槛。这一特性尤其适合工业界对高效、可解释AI模型的需求。未来，随着DDO模型的持续优化与开源生态的发展，其在教育、科研、艺术创作等多个领域的应用将进一步拓展，推动人工智能生成技术迈向更加成熟与普及的新阶段。
DDO模型的提出，无疑为图像生成领域注入了一剂强心针。其最大的优势在于将扩散模型与自回归模型统一于一个联合训练框架中，并首次揭示了“似然生成模型本身即是一个隐式判别器”的理论观点。这一发现不仅简化了传统GAN中复杂的判别器结构，还显著提升了模型训练的稳定性与收敛速度。在ICML 2025公布的实验数据中，DDO在ImageNet上的FID分数达到1.87，相较此前最优模型下降了近12%，充分体现了其在图像质量、多样性与生成效率方面的全面优化。
然而，尽管DDO展现出卓越的性能，仍存在一定的局限性。首先，该模型对计算资源的需求较高，尤其是在高分辨率图像生成任务中，需要依赖NVIDIA高性能计算平台进行分布式训练，这对普通研究者和中小企业来说可能构成一定门槛。其次，虽然DDO无需显式判别器，但其“隐式判别”能力的形成依赖于充分训练，这意味着在训练初期阶段，模型可能会经历较长的“冷启动”过程。此外，当前的研究主要集中在图像生成领域，DDO在其他模态（如语音、视频）中的泛化能力仍有待进一步验证。
因此，尽管DDO代表了生成模型发展的一个重要方向，但在实际应用中仍需结合具体场景进行优化与调整，以充分发挥其潜力。
展望未来，DDO模型的发展方向将围绕模型轻量化、跨模态扩展以及可解释性增强三大核心展开。首先，在模型轻量化方面，研究团队正致力于通过知识蒸馏、参数剪枝等技术手段，降低DDO对高性能计算平台的依赖，使其能够在边缘设备或移动终端上高效运行。这将极大拓展其在消费级AI产品中的应用场景，例如手机端的个性化图像生成、实时风格迁移等。
其次，DDO的跨模态扩展潜力巨大。目前的研究主要集中于图像生成，但其“隐式判别器”的理念同样适用于文本、音频乃至视频生成任务。未来，研究人员或将探索基于DDO的多模态联合建模方法，实现从文本到图像、语音到视频等更复杂的内容生成任务，推动AIGC（人工智能生成内容）向更高层次的智能交互迈进。
最后，随着AI伦理与可解释性问题日益受到关注，DDO模型的理论分析也将更加深入。如何理解其“隐式判别”机制背后的数学原理？如何确保生成内容的可控性与安全性？这些问题将成为DDO后续研究的重要方向，也将为其在医疗、教育、法律等敏感领域的应用提供理论支撑。
DDO模型的提出不仅是图像生成技术的一次飞跃，更是人工智能基础理论层面的重要突破。它首次系统性地证明了：一个经过充分训练的似然生成模型本身就具备判别能力。这一发现挑战了传统生成对抗网络（GAN）中判别器不可或缺的经典范式，为构建更加稳定、高效的生成模型提供了全新的理论视角。
更重要的是，DDO的成功实践表明，深度学习模型的设计可以不再局限于“对抗驱动”，而是转向“联合优化”的新路径。这种思想不仅适用于图像生成，也为自然语言处理、语音合成、强化学习等多个AI子领域带来了启发。例如，在对话系统中，DDO的理念可用于构建更具上下文感知能力的语言模型；在机器人控制中，也可用于提升策略生成的鲁棒性与适应性。
此外，DDO模型在多个主流数据集上刷新SOTA的表现，也进一步巩固了中国科研机构在全球AI前沿研究中的领先地位。清华大学朱军教授团队与NVIDIA的合作，展现了产学研协同创新的巨大潜力，为全球AI生态系统的开放发展提供了宝贵经验。
可以说，DDO不仅是一项技术成果，更是一种思维方式的革新。它标志着人工智能正从“模仿人类”迈向“理解世界”的新阶段，为构建更具通用性和自主性的智能系统奠定了坚实基础。
DDO模型的提出标志着图像生成技术进入了一个全新的发展阶段。清华大学朱军教授团队与NVIDIA的合作，不仅在ICML 2025上展示了该模型在多个基准测试中的卓越表现，如ImageNet上的FID分数达到1.87，相较此前最优模型下降近12%，还在理论层面首次揭示了“似然生成模型本身即是一个隐式判别器”的创新观点。这一突破性发现打破了传统GAN对显式判别器的依赖，简化了模型结构，提升了训练效率和稳定性。同时，DDO在文本到图像生成、图像修复、风格迁移等任务中也展现出强大的泛化能力，为未来生成模型的设计提供了重要方向。随着其在工业界和科研领域的进一步推广，DDO有望推动人工智能生成技术迈向更加高效、可控与可解释的新时代。