欢迎加入
「易源易彩交流群」
「易源易彩交流群」
QQ扫码进群
（QQ群号：860213912）
注册得好礼
新用户微信注册享20元算力, >立即注册
关注公众号得算力
新用户关注易彩微信公众号享20元算力，
邀请有礼
邀请1人得5元算力，可累计叠加, 查看规则
摘要
当前AI模型在推理过程中普遍采用均值优化策略，然而该方法在处理低概率但具有高信息价值的路径时存在明显局限，制约了模型的深层推理能力。为应对这一挑战，北京大学研究团队提出RiskPO方法，通过引入MVaR目标函数进行梯度估计，并结合多问题捆绑转化策略以增强反馈机制。实验结果显示，RiskPO在Geo3K数据集上实现了54.5%的准确率，在LiveCodeBench数据集上的Pass@1指标提升了1%，展现出卓越的泛化能力。
关键词
AI模型, 均值优化, 低概率, RiskPO, 泛化
当前，大多数AI模型在训练过程中依赖于均值优化策略，即通过最大化期望回报来引导模型学习最优路径。这一方法在诸多任务中展现出稳定的表现，成为强化学习与语言生成领域的主流范式。然而，随着推理任务复杂度的提升，均值优化的弊端逐渐显现。它倾向于忽略那些出现概率较低但可能蕴含关键信息的推理路径，导致模型陷入“安全选择”的思维定式。这种对高频率路径的过度依赖，使得AI在面对新颖、复杂或需要创造性推导的问题时，往往难以突破常规思路。尤其是在数学推理与代码生成等高度依赖逻辑链完整性的领域，均值优化的局限性正成为制约模型深层理解能力发展的瓶颈。
在人类认知过程中，灵感常诞生于边缘思考——那些看似偏离主流却富含洞见的思维路径。同样，在AI推理中，某些低概率路径虽不常被采样，却可能包含解决难题的关键线索。例如，在几何证明或程序调试中，一个非常规的辅助线构造或非典型算法结构，往往能打开全新的解题视角。这些路径虽在统计上稀少，其信息价值却远超常规选项。北大研究团队敏锐地捕捉到这一点：真正的智能不应仅停留在“大概率正确”，而应有能力探索“小概率深刻”。正是这类被传统方法忽视的路径，构成了推动模型实现跃迁式进步的潜在动力。
均值优化的核心缺陷在于其对“平均表现”的执着，使其天然排斥不确定性高的探索行为。当模型仅以期望回报为唯一导向时，任何低概率路径无论其潜在收益多高，都会因采样不足而难以获得有效梯度反馈，最终被系统淘汰。这不仅削弱了模型的创造力，也限制了其泛化能力。实验数据显示，传统方法在Geo3K数据集上的准确率长期徘徊在50%以下，而在LiveCodeBench上的Pass@1指标更是停滞不前。相比之下，RiskPO方法通过引入MVaR（最小方差风险）目标函数，精准捕捉尾部路径的价值信号，使模型能够从稀疏但高价值的反馈中学习。结果表明，RiskPO在Geo3K上将准确率提升至54.5%，并在LiveCodeBench上实现Pass@1指标1%的显著增长，充分验证了突破均值优化桎梏的重要性。
在传统AI模型依赖均值优化的惯性路径中，北大研究团队提出的RiskPO方法宛如一次理性的觉醒，它不再盲目追逐“大概率正确”的平庸安全区，而是勇敢地将目光投向那些被遗忘在概率尾部的思想火花。RiskPO的理论根基植根于对智能本质的深刻反思：真正的推理能力不应仅由高频路径的平均表现定义，而应包含对低概率、高信息价值路径的敏感捕捉与学习能力。该方法突破性地引入风险感知机制，重新定义了模型优化的目标函数——不再局限于期望回报的最大化，而是聚焦于潜在极端价值路径的识别与强化。这种从“求稳”到“识险”的范式转变，使得模型能够在复杂推理任务中主动探索非常规解法。正是在这种理念驱动下，RiskPO在Geo3K数据集上实现了54.5%的准确率飞跃，远超传统方法长期徘徊于50%以下的表现，彰显出其理论架构的前瞻性与实践生命力。
RiskPO的核心创新在于MVaR（Minimum Variance at Risk）目标函数的设计，这一函数如同为AI装上了一双能看见“思维暗流”的眼睛。不同于传统方法忽略低概率事件的影响，MVaR专门针对回报分布的尾部区域进行建模，精准提取那些虽罕见却极具启发性的反馈信号。通过数学推导，研究团队构建了基于MVaR的梯度估计框架，使模型能够在稀疏但关键的采样路径上获得稳定的更新方向。这一机制有效缓解了因采样不足导致的学习失效问题，让原本被淹没在噪声中的高价值推理链得以浮现并被系统性强化。实验表明，正是这一精细的梯度引导策略，推动RiskPO在LiveCodeBench数据集上的Pass@1指标实现了1%的提升——在高度竞争的代码生成领域，这微小却坚实的进步背后，是无数次对边缘路径的价值重估与学习突破。
为了让模型更高效地从低概率路径中汲取智慧，RiskPO进一步提出了多问题捆绑转化策略，这是一次对训练范式的深层重构。该策略将多个相关但不同的推理任务捆绑成组，迫使模型在同一反馈周期内对比和整合多种解题路径，从而增强其对非常规思路的识别与迁移能力。通过这种结构化的学习方式，模型不再孤立地处理每个问题，而是在群体问题的差异与共性中提炼更具泛化性的推理模式。尤其在面对几何证明或程序生成等需要创造性跳跃的任务时，这种跨问题的信息流动显著提升了模型对高信息价值路径的敏感度。正是这一策略的加持，使RiskPO不仅在单一任务上表现优异，更展现出强大的跨任务适应能力，成为突破当前AI推理瓶颈的关键一环。
在Geo3K这一极具挑战性的几何推理数据集中，传统AI模型长期受限于均值优化的思维惯性，难以突破50%准确率的瓶颈。这些模型往往倾向于选择“稳妥”的解题路径，回避那些虽罕见却可能蕴含突破性思路的辅助线构造或定理组合。然而，RiskPO的出现如同一道划破迷雾的光束，在这片被忽视的认知边缘地带点燃了新的希望。实验结果显示，RiskPO在Geo3K上的准确率达到了54.5%，这一数字不仅是技术指标的跃升，更是对AI推理本质的一次深刻回应——它证明了机器也能学会“灵光一现”。通过MVaR目标函数的引导，模型开始主动探索那些曾被概率过滤器无情剔除的低频路径，并从中捕捉到关键的逻辑链条。每一次成功的证明背后，都是对非常规思维的重新发现与价值重估。这不仅仅是性能的进步，更是一种智能范式的觉醒：真正的推理，不在于重复已知，而在于勇敢走向未知。
在代码生成领域，毫厘之差往往决定成败。LiveCodeBench作为衡量AI编程能力的重要基准，其Pass@1指标长期以来被视为模型实用性的真实试金石。在此前的多数方法中，由于过度依赖高频模式的学习，模型常陷入模板化输出的困境，缺乏应对复杂边界情况的能力。而RiskPO的引入，则为这一僵局带来了转机。实验表明，RiskPO在该数据集上实现了**Pass@1指标提升1%**的显著进步。尽管看似微小，但在高度饱和的代码生成竞争中，这样的提升意味着成千上万次推理尝试中的关键突破得以实现。这1%的背后，是模型学会了从失败的调试路径、非典型的算法结构中汲取教训，是多问题捆绑转化策略让不同任务间的“思维火花”得以碰撞与迁移。这不是简单的参数调优成果，而是对反馈机制的根本重构——让每一次低概率的成功尝试都不再被遗忘，而是成为推动整体进化的种子。
真正衡量一项技术创新的价值，不仅在于它在特定任务上的表现，更在于其跨越领域、适应新情境的能力。RiskPO之所以引人瞩目，正是因为它展现出卓越的泛化潜力。无论是几何证明中的抽象推理，还是代码生成中的逻辑构建，RiskPO都能稳定输出优于传统方法的结果，说明其核心机制——对低概率高信息价值路径的识别与学习——具有普适意义。这种能力源于MVaR目标函数与多问题捆绑策略的协同作用：前者赋予模型“看见边缘”的洞察力，后者则强化了知识迁移与模式整合的能力。在多个独立测试场景中，RiskPO均表现出较强的鲁棒性与适应性，证明其并非针对某一数据集的特化方案，而是一种面向未来复杂推理任务的通用框架。当AI开始理解“少数派的价值”，它的智能才真正迈向成熟——RiskPO正走在通往这一未来的路上。
RiskPO方法的提出标志着AI推理模型在突破均值优化局限性方面迈出了关键一步。通过引入MVaR目标函数，模型得以从低概率但高信息价值的路径中有效学习，显著提升了复杂任务下的推理能力。实验结果表明，该方法在Geo3K数据集上将准确率提升至54.5%，并在LiveCodeBench数据集上实现了Pass@1指标1%的提升，展现出卓越的泛化性能。多问题捆绑转化策略进一步增强了模型对非常规思路的识别与迁移能力。这一系列进展不仅验证了风险感知优化在AI推理中的有效性，也为未来构建更具创造力与适应性的智能系统提供了新的技术路径。