AnytimeReasoner 提出 BRPO:按 token 预算优化大模型推理
研究团队提出 AnytimeReasoner 框架,把完整思考过程截断到从先验分布采样的 token 预算内,让模型为每段截断思考总结答案以接受验证,从而在强化学习中获得可验证的稠密奖励。
研究团队提出 AnytimeReasoner 框架,把完整思考过程截断到从先验分布采样的 token 预算内,让模型为每段截断思考总结答案以接受验证,从而在强化学习中获得可验证的稠密奖励。
研究团队用 34 本 O'Reilly Media 版权书籍(13,962 个段落)构建数据集,通过 DE-COP 成员推断攻击测试 OpenAI 模型是否识别出未获授权训练的非公开付费内容。
研究提出 TintCF 机制,通过生成融合全局偏好与时间模式的时间感知用户/物品嵌入向量(embedding),并采用重加权邻接矩阵(Tint-A)和重加权损失函数(Tint-L)两种策略识别并修正噪声交互。在四个真实数据集上的实验显示,时间信息确实有助于找出并纠正噪声边,提升推荐模型对隐式反馈噪声和恶意交互的鲁棒性。代码已公开。
论文提出代数世界模型(AWM,Algebraic World Model),把与陌生环境的交互转化为可形式化推理的显式数学模型。AWM 先探索环境并生成可执行的 Python 假设,再按观测不断测试和修正,随后把假设整理成带类型的对象与共享规则,用范畴论引导的变换简化结构,最终在 Lean 4 中形式化以证明可达性与不可达性。
EvoTeam 提出一种以协作为中心的多智能体系统演化框架,同时演化团队组织、交互规则和单个智能体技能,并维护可复用团队库,按团队上下文积累协作经验。该框架在四个基准上验证了有效性,代码已开源。
作者提出分子发现智能体 MoLRSI,它把工作流与模型架构的系统优化和跨任务持久记忆结合起来,递归改进自身的搜索策略。
研究者提出强化对抗学习(RAL,Reinforced Adversarial Learning),用共同训练的 大语言模型(LLM,Large Language Model) 评判模型把参考答案变成推理大模型在线后训练的唯一奖励。
MuSID-KD 通过分层候选分布对齐(HCDA,Hierarchical Candidate Distribution Alignment)和排序影响引导的分层蒸馏(RIGD,Ranking Impact Guided Levelwise Distillation),改进语义 ID(SID)生成式推荐中多 token 解码的知识蒸馏效果。
研究者提出 MONOLOGUE,一种基于逻辑劫持的单文档投毒框架,不直接反驳事实,而是先承认原文为权威历史基线,再以带日期的记录更正叙事把反事实目标包装成最新更新。
一篇 arXiv 论文提出群体健康世界模型(PHWM,Population Health World Model),主张数字医学不应止步于任务特定、结果特定的预测,而要能表示行动如何改变未来健康走向。
研究提出 Terminal-RSI,交替对已验证轨迹做递归自我重写(RSR)与继承评论家的递归策略精炼(RPR),从 Qwen3.8-27B 基座经五阶段训练得到 Terminal-RSI-27B。
一项研究审计了生产级对话分析系统中置信度分数的设计,在 BIRD dev 的 1,534 道题上由 GPT-5.1 每题采样五次作答,该分数区分对错的能力较弱(AUROC 0.624),并会扣留 35.7% 的正确答案。
研究提出 WeFair,按人类反馈反映个性化意图的直接程度分级,用示范、偏好、验证三阶段训练 2B 查询改写模型。离线实验中 WeFair-2B 在整体准确率和意图保持上优于强基线,微信短视频搜索线上 A/B 测试显示有效视频观看率相对提升 2.593%、查询改写率相对下降 2.350%。该模型已部署于日均处理超 1 亿次查询的微信短视频搜索系统。
研究者提出 ReState,一个把多模态推理从按预设阶段分别训练改为在共享状态空间中动态转移的统一迭代推理框架,包含统一推理状态建模(URSM)与闭环推理状态学习(CRSL)两部分。
Chien-Ping Lu 发布论文《Verification and Self-Improvement in Agentic 人工智能(AI,Artificial Intelligence): Foundations and Limits》,提出用显式支持接口和转录接口扩展任务相对验证,以区分搜索增益与可接受任务覆盖的变化。
研究团队用多个物体旋转数据集微调 Google DeepMind 的 Gemma-4 模型,发现微调后的混合专家(MoE,Mixture of Experts)版本在预测旋转轴和角度上明显优于通用版本,并显著改善无显式坐标系下的 2D 角度估计。实验还显示,可识别物体并未提升角度检测精度,具有明显线性特征的物体表现更好。
研究提出四系数逐 token 门控参数化 λ_t = σ(a·h_t + b·u(x) + c + d·gap_t),把 EOPD 与 ToDi 的方向对齐代理纳入同一坐标系,并新增多通道组合与显式偏置。
SIRF 将平台复杂策略内化进模型权重,在仅输出判定结果的低延迟部署下实现高精度风控。同源对比中,SIRF-8B-受监督微调(SFT,Supervised Fine-Tuning) 的 Black Recall@P95 达 71.3%,比基线高 15.1 个百分点,仅用约 70M CPT token 且不损害通用能力。
FedPA-LoRA 提出乘积对齐框架,同时缓解联邦低秩适配(LoRA,Low-Rank Adaptation)在异构秩下的聚合误差与初始化误差,并给出同构、异构秩的收敛界。客户端跨轮保留本地因子以消除初始化误差,服务器在乘积空间聚合异构秩更新并重建秩受限的全局适配器。在自然语言理解与生成任务上,异构秩下 GLUE 平均准确率提升 6.82 个百分点,代码已开源。
研究提出一种神经符号元策略,在部分可观测强化学习中学习在每个决策点选用哪种符号记忆启发式,执行仍保持符号化。该方法在 RoomKG 的时序知识图谱记忆环境中运行,隐藏状态与观测用资源描述框架(RDF,Resource Description Framework)图表示,记忆带时序 RDF 三元组标注,并通过问答、探索、遗忘三个价值头组成可适应且可检查的控制器。
研究者提出 Physics-Audited Agentic SciML(PA-SciML)框架,把大语言模型智能体与物理审计结合,在候选搜索前固定叠加性、边界条件和因果性等物理契约,并在无参考解情况下对预测场做对抗性检验。
研究者提出生成式递归推理模型(GRAM,Generative Recursive reAsoning Models),将原本确定性的递归潜在推理改为随机潜在轨迹,支持多条假设、多种解法以及按递归深度和并行轨迹采样扩展推理计算。GRAM 用摊销变分推断训练,在结构化推理和多解约束满足任务上优于确定性循环与递归基线,并具备无条件生成能力。
研究者提出时间审查微调(TCFT,Temporal Critique Fine-Tuning)框架,训练大语言模型在给定查询、时间截止点和候选回答时识别截止点之后的信息泄漏并判断回答是否时间上可接受。
一项被 NeurIPS 2026 接收的研究把可控用户模拟形式化为因果推断问题,指出用事后轨迹标签做监督微调训练模拟器会引入前视偏差,破坏因果一致性。作者证明策略偏移下评估指标方差会几何级膨胀,称为“可控性崩塌”,并提出先验控制、逐步动态控制和直接策略条件学习三种训练缓解方法。实验显示因果化模拟器消除了前视偏差、保留自然方差,并对未见过的智能体行为具备零样本泛化能力。
ThinkSafe 提出一种无需外部教师模型的安全对齐方法,从冻结的学生模型自身生成安全数据,经拒绝引导与安全过滤后离线微调。在 DeepSeek-R1-Distill 和 Qwen3 上,该方法显著提升安全性且推理性能保持竞争力;在 Qwen3-0.6B 上,其安全性和推理表现与 GRPO 相当,但包含数据生成在内的实际耗时约为后者的七分之一。
arXiv 管理员撤下了 Ax-Prover 论文,理由是未达到该站研究内容质量标准,目前无 PDF 可看。
研究者提出一种面向非线性实数算术可满足性模理论(SMT-NRA,Satisfiability Modulo the Theory of Nonlinear Real Arithmetic)的混合求解框架,将新提出的二维单元跳跃局部搜索框架 2D-LS 与 MCSAT、OpenCAD 结合,通过信息交换提升搜索效率。
作者提出名为 Zyphra Hierarchical Attention(ZHA)的稀疏注意力方法,用分层树状索引器在 KV 缓存上递归压缩键摘要,使包含路由与最终注意力的总成本随序列长度次线性增长,整体呈次平方但超线性扩展。
研究提出思维链因果奖励方法CRoS(Causality Reward on Scrambled CoTs),通过打乱推理步骤顺序而不改动内容来评估思维链的因果作用,避免以往删除步骤或注入错误带来的信息变化干扰。
研究在个体光滑性与凸性假设下求解凸有限和优化的二阶随机预言复杂度,给出下界 Ω(n+n^{5/7}ε^{-2/7}),并提出 Taylor 校正惰性牛顿法,配合 Monteiro-Svaiter 加速达到 Õ(n+n^{5/7}ε^{-2/7}),与下界仅差对数因子。该结果相比此前平均光滑性下的 Õ(n+n^{6/7}ε^{-2/7}) 进一步加速,为大规模有限和优化算法设计提供理论依据。
研究提出仅用独立噪声观测学习干净图像生成模型的方法:先用 Noise2Noise 回归学习噪声水平及以上的后验预测,再引入一致性约束——预测应等于继续采样后的期望,从而把预测延伸到更低噪声水平。作者推导了一致性唯一确定干净图像分布延续的条件,并在 Poisson、二项、Gamma 和负二项测量上验证。CIFAR-10、光子计数显微和合成孔径雷达实验显示,缺少一致性时延续会严重退化,加入后可修复。
一项研究比较了在预训练后给模型加循环层(让每个 token 多次通过同一组层)的收益与推理成本,在 Qwen3 和 Qwen3.5 的 0.8B 至 9B 模型上,只有 0.8B 的循环模型同时胜过等参数无循环模型和等推理浮点运算(FLOPs)基线。4B 和 9B 的循环模型未能胜过同结构无循环模型,说明在固定参数预算下,这种加循环的做法只对小模型划算。
研究团队提出 大语言模型(LLM,Large Language Model)-SR-UQ 框架,通过保留多个候选方程结构并利用它们之间的分歧来刻画函数形式的不确定性。在 LLM-SRBench 数据集上,标准保形区间在分布内覆盖达标,但在外推时经常失效;该框架扩展固定宽度保形方法以量化结构区间,显著提升外推覆盖并保持分布内覆盖,还可推广到其他符号回归方法。
作者提出 SecPO 损失函数与配套对抗训练流程,用于提升大语言模型抵御提示词注入的能力。在三种自适应攻击下,该方法的攻击成功率比 Meta-SecAlign 降低 1.5-14.5 倍;SecPO 损失相比 直接偏好优化(DPO,Direct Preference Optimization) 损失再降低 2.4-4.6 倍。
Chronos-2 是可直接做零样本预测的时间序列基础模型(TSFM,Time Series Foundation Model),能建模多条时间序列之间以及外部协变量的相互作用,无需针对具体任务单独处理。
研究提出一种框架,利用基于470万次人类“异类判断”(Odd-One-Out,O1O)实验构建的66维行为衍生语义嵌入空间,为每个三元组推断最显著的决策维度并生成维度依据的语言解释。
研究提出面向科学 人工智能(AI,Artificial Intelligence) 的可观测特定有效性记录,把近似方法与参考模型、误差度量、容差、参数域及干预变换绑定,为奇异摄动振子给出位移与速度证书并恢复不同收敛阶。
一项 arXiv 研究比较了化学专用基础模型与通用基础模型在化学性质预测任务上的准确率,结果显示在仅有 60 个实验数据点时,GPT-6 Astra 在五项物理化学和量子化学回归任务上优于当前可用的化学基础模型。
一项多模型审计研究将11个大语言模型(LLM,Large Language Model)写作智能体与9个应用程序编程接口(API,Application Programming Interface)托管的评估智能体在10个职位描述、每个职位50名候选人上交叉配对,发现评估器对写作模型存在一致的偏好排序,且本地部署模型无论许可证如何都系统性处于劣势。
研究将直接反馈对齐(DFA,Direct Feedback Alignment)、直接随机目标投影(DRTP,Direct Random Target Projection)和受扩散模型启发的 NoProp 三种无反向传播学习规则适配到一维卷积时间序列分类,并在 UCR 档案库 112 个数据集上首次系统评测。