NeurIPS 2025：清华大学与上海AI实验室联手推出DePass归因框架

摘要

在NeurIPS 2025会议上，清华大学与上海人工智能实验室联合提出了一种创新的统一特征归因框架——DePass（Decomposed Forward Pass）。该框架通过单次前向传播即可实现特征归因的分解，显著简化了传统归因方法中复杂的计算流程。DePass不仅提升了归因效率，还实现了多种现有归因方法的统一建模，增强了可解释性与一致性。这一进展为深度学习模型的透明化分析提供了高效、可靠的工具，推动AI归因技术迈向更广泛的应用场景。

关键词

NeurIPS, 清华, AI归因, DePass, 前向传播

一、DePass框架的概述与核心思想

1.1 DePass框架的提出背景

在人工智能迅猛发展的今天，深度学习模型日益复杂，其“黑箱”特性却始终制约着技术的可信部署。尤其是在医疗诊断、金融决策和自动驾驶等高风险领域，人们不仅需要模型给出准确预测，更渴望理解其背后的推理逻辑。正是在这一迫切需求下，清华大学与上海人工智能实验室的研究团队于NeurIPS 2025会议上提出了DePass（Decomposed Forward Pass）框架。该研究源于对现有归因方法效率低下与理论割裂的深刻反思，旨在构建一个既能保持数学严谨性，又能高效运行的统一归因体系。DePass的诞生，标志着AI可解释性研究从碎片化走向系统化的重要转折，为破解深度神经网络的“思维之谜”提供了全新的路径。

1.2 特征归因在AI领域的重要性

特征归因作为连接模型输出与输入特征之间的桥梁，是实现AI透明化的核心工具。它能够回答诸如“为什么模型做出这个判断？”、“哪些像素或字段起到了关键作用？”等关键问题。在临床影像分析中，医生依赖归因图来验证AI是否关注病灶区域；在信贷审批中，监管机构通过归因结果评估算法是否存在歧视性偏见。随着AI逐渐渗透至社会运行的底层逻辑，特征归因已不再仅仅是技术细节，而是关乎公平、责任与信任的基石。DePass的出现，正是为了强化这座基石的稳定性与普适性，让每一次AI决策都能被清晰追溯、合理解释。

1.3 现有归因技术的局限性

尽管已有多种归因方法如Grad-CAM、Integrated Gradients、Layer-wise Relevance Propagation等广泛应用，但它们普遍存在计算冗余、理论不一致与结果不可比的问题。多数方法需多次前向或反向传播才能生成归因图，导致耗时长且资源消耗大；不同方法基于各异的假设和近似策略，常在同一模型上产生矛盾的解释，削弱了用户的信任。此外，这些方法往往针对特定架构设计，缺乏通用性。例如，某些归因技术仅适用于卷积神经网络，难以迁移到Transformer结构中。这种碎片化局面严重阻碍了AI可解释性的标准化进程，亟需一种统一、高效的解决方案——这正是DePass试图攻克的技术痛点。

1.4 DePass框架的设计理念

DePass的核心设计理念在于“分解即解释”。研究团队创造性地将整个前向传播过程视为可分解的信息流动路径，通过引入线性分解算子，在单次前向过程中同步完成特征贡献的逐层拆解。不同于传统方法依赖梯度或扰动分析，DePass从正向计算流本身出发，将每一层的激活值显式分解为各输入特征的独立贡献项。这种自底向上、全程可追踪的建模范式，不仅避免了反向传播带来的信息失真，还自然实现了跨层归因的一致性。更重要的是，DePass将多种经典归因法纳入同一数学框架下，揭示了它们本质上是不同分解策略的特例，从而实现了理论层面的统一。

1.5 DePass框架的技术优势

DePass最显著的技术优势在于其高效性与一致性。实验表明，相较于需多次迭代的传统方法，DePass仅需一次前向传播即可完成全图归因，推理速度提升达3.8倍，内存占用降低约42%。同时，由于所有归因计算均基于相同的前向路径分解机制，不同层级与模块间的归因结果具备天然的可比性和连续性，极大增强了解释的逻辑连贯性。此外，DePass具有良好的模型兼容性，已在ResNet、ViT、CNN等多种主流架构上验证有效。其开源实现也迅速获得社区关注，GitHub星标数在发布两周内突破2,300，成为NeurIPS 2025最受瞩目的可解释AI成果之一。

1.6 DePass框架的应用前景

DePass的广泛应用潜力令人振奋。在医学图像分析中，医生可借助其快速生成的高精度归因图，实时验证AI对肿瘤区域的关注程度，提升诊断信心；在自动驾驶系统中，工程师可通过DePass追踪感知模型对道路标志、行人等关键元素的响应路径，增强系统的安全审计能力；在金融风控场景下，合规团队能利用该框架审查模型是否过度依赖敏感属性，防范潜在的算法歧视。更为深远的是，DePass为建立标准化的AI解释协议提供了技术基础，未来有望被纳入AI治理框架，成为模型认证与监管审查的重要工具。随着可解释性成为AI发展的硬性要求，DePass或将重塑行业对“可信AI”的定义。

1.7 DePass框架的实验验证

为全面评估DePass的有效性，研究团队在ImageNet、COCO及多个医学影像数据集上进行了系统实验。结果显示，DePass在归因保真度（Fidelity+）指标上平均达到0.87，优于IG（0.79）和Grad-CAM（0.72）；在移除关键像素后的预测衰减测试中，DePass引导的归因区域使模型性能下降最快，证明其识别出的特征更具因果意义。可视化对比显示，DePass生成的热力图边界更清晰、语义更聚焦，尤其在细粒度分类任务中表现出色。此外，消融实验证实，其分解机制对噪声具有较强鲁棒性，即使在低信噪比条件下仍能稳定输出合理归因。这些扎实的实验数据不仅验证了DePass的技术优越性，也为后续研究树立了新的基准。

二、单次前向传播与DePass框架的应用

2.1 单次前向传播的原理

在深度神经网络中，前向传播是模型从输入到输出进行预测的基本路径。传统流程中，这一过程仅用于生成结果，而解释性信息则依赖反向传播或多次扰动实验来获取。DePass框架颠覆了这一范式，其核心在于将“解释”嵌入“计算”之中。通过引入线性分解算子，DePass在单次前向传播过程中，实时追踪每一个输入特征对中间激活值的独立贡献，并逐层累积形成最终的归因图。这种机制不再等待反向梯度回传，而是利用前向流本身的结构特性，实现信息流动的同步拆解。正如水流经过管道时被实时测量每一支流的流量，DePass让模型的决策路径变得透明可析。该方法不仅保留了原始计算图的完整性，还避免了因梯度消失或近似扰动带来的解释偏差，为高效、精准的特征归因奠定了坚实的数学基础。

2.2 DePass框架在单次前向传播中的创新

DePass的真正突破，在于它重新定义了“前向传播”的意义——不仅是预测的工具，更是解释的载体。研究团队创造性地将每层激活函数视为可分解的操作单元，通过构造虚拟通道，使每个输入特征的影响力在前向过程中被独立建模与传递。这种设计摒弃了传统归因方法对梯度或多次采样的依赖，转而采用一种自洽的正向分解策略，实现了理论与效率的双重飞跃。更令人振奋的是，DePass揭示了多种经典归因法（如Integrated Gradients和Layer-wise Relevance Propagation）本质上只是不同分解规则下的特例，从而首次在统一框架下实现了它们的融合。这一创新不仅提升了计算速度——实验显示推理效率提升达3.8倍，更赋予了解释结果前所未有的逻辑一致性，标志着AI可解释性从“事后分析”迈向“即时洞察”的新时代。

2.3 单次前向传播与传统前向传播的对比

传统的前向传播如同一条单行道：数据流入，层层变换，最终输出结果，全程不记录“谁影响了谁”。若要追溯归因，必须额外启动反向传播或反复扰动输入，造成大量冗余计算。而DePass所实现的单次前向传播，则像是一条自带监控系统的智能高速路，不仅完成通行任务，还能实时采集每一辆车（即输入特征）的行驶轨迹与影响范围。相比传统方法平均需5~10次前向/反向迭代才能生成归因图，DePass仅需一次即可完成全路径分解，内存占用降低约42%，显著减轻了计算负担。更重要的是，传统方式常因梯度饱和或噪声干扰导致归因模糊甚至误导，而DePass基于正向分解的机制天然规避了这些问题，确保了解释的稳定性和物理意义。这种从“被动推导”到“主动解析”的转变，正是DePass引领范式革新的关键所在。

2.4 单次前向传播在特征归因中的效果

DePass在实际应用中的表现令人惊艳。在ImageNet和COCO等标准数据集上的测试表明，其归因保真度（Fidelity+）平均达到0.87，显著优于Integrated Gradients的0.79和Grad-CAM的0.72。这意味着DePass识别出的关键特征更能真实反映模型决策的核心依据。可视化结果显示，DePass生成的热力图边界清晰、语义聚焦，尤其在细粒度分类任务中，能准确锁定鸟类羽毛纹理或车辆型号细节等微小但关键的区域。在医学影像测试中，面对低信噪比的肺部CT图像，DePass仍能稳定识别病灶响应路径，消融实验进一步证实：移除其标记的关键像素后，模型预测性能衰减最快，证明其归因具有强因果关联性。这些成果不仅验证了单次前向传播在归因质量上的优越性，也预示着它将在高风险领域成为可信AI的重要支撑。

2.5 单次前向传播的技术挑战

尽管DePass展现出巨大潜力，其实现过程仍面临多重技术挑战。首要难题是如何在不破坏原模型结构的前提下，精确插入分解算子并保证数值稳定性。尤其是在非线性激活密集的深层网络中，微小的分解误差可能逐层放大，导致归因失真。此外，如何为不同架构（如Transformer与CNN）设计通用的分解规则，仍是开放问题。虽然目前DePass已在ResNet、ViT等主流模型上验证有效，但在动态稀疏网络或图神经网络中的扩展仍需深入探索。另一个挑战来自理论层面：如何严格证明所有归因方法均可纳入该框架？当前 лишь部分方法被形式化统一，完整覆盖仍需更强的数学工具支持。然而，正是这些挑战激发了更多研究者的兴趣，推动着可解释AI向更深、更广的方向演进。

三、总结

DePass框架在NeurIPS 2025上的提出，标志着AI可解释性技术迈向高效与统一的新阶段。通过单次前向传播实现特征归因分解，DePass不仅将推理速度提升达3.8倍，内存占用降低42%，更在归因保真度（Fidelity+）上取得0.87的平均表现，显著优于传统方法。其创新性地将解释过程嵌入前向计算流，实现了Grad-CAM、Integrated Gradients等主流归因法的统一建模，增强了结果的一致性与可比性。实验验证显示，DePass在ImageNet、COCO及医学影像数据集上均表现出卓越的归因精度与鲁棒性，GitHub开源后两周星标数即突破2,300，彰显了学术与工业界的广泛认可。该框架为可信AI在医疗、金融、自动驾驶等高风险领域的落地提供了高效、可靠的解释工具，有望成为未来AI治理与模型审计的重要基石。