BULLPEN:用多通道模型嵌入实现样本高效的大语言模型画像
BULLPEN 框架在 EmbedLLM 基础上扩展,首次将模型自身回答文本与正确性、问题文本联合编码,并新增 20 个行为、风格与来源类任务基准。在 260 个开放权重模型上,其回答文本编码器在新任务上得分 0.48±0.10,优于此前最佳编码器的 0.35±0.10;仅用 400 个问题即可保留全量问题池至少 91% 的能力,推理计算量约为全量池的 1.3%。
BULLPEN 框架在 EmbedLLM 基础上扩展,首次将模型自身回答文本与正确性、问题文本联合编码,并新增 20 个行为、风格与来源类任务基准。在 260 个开放权重模型上,其回答文本编码器在新任务上得分 0.48±0.10,优于此前最佳编码器的 0.35±0.10;仅用 400 个问题即可保留全量问题池至少 91% 的能力,推理计算量约为全量池的 1.3%。
研究团队提出 RECITE 框架,可从方案修订文档中自动发现、抽取并落实有证据支持的入组标准修订,并基于 5,735 项试验构建了 11,913 条配对数据集。
研究者提出长度预测系统 LEAP,复用服务模型预填充阶段的隐藏状态,通过线性读出提取输出长度信号,并在测试时用递归最小二乘法在线更新,无需梯度计算或历史数据回放。跨域迁移实验中,在线适配使 Spearman 相关系数提升 64.7%;服务实验中,相比所评估的长度预测器,LEAP 将平均每 token 延迟降低 15.9–40.8%,吞吐量提高 1.9%,预测器参数量少 30,569 倍。
研究团队提出 MarketImage 诊断框架,用 266 组六图对比集和保留平局的价格-人类排序协议,检验交易价格何时反映视觉偏好。结果显示仅 24.2% 图像对有非平局价格方向,其中 34.7% 与人类多数一致,HPSv2 在该区域以 66.4% 可恢复准确率领先。作者认为交易价格只能作为不确定的代理信号,而非真实偏好标准。
Operon-S1 将生物医学智能体的判断与执行分离,在 13 个决策点用封闭问题接管判断,本地决策模型在 CPU 上以 0.6 秒中位延迟完成环内请求且不产生请求费用,六个基准中五个分数无可测变化。若改由驱动智能体的通用语言模型回答同样问题,任务成本将增加 8.0% 至 35.2%。该系统已用于湿实验方案排障和生殖系靶向富集 panel 设计。
SERIAL-7 是一个韩英双语基准,用可执行验证框架检验大语言模型在七种表示上的机器可验证生成,包含 177 个经校验的规范产物和 43 条原子表示约束。它把任务拆成语义推导、受限产物生成和跨表示保持三步,并逐级加严检查格式、结构与任务语义。在十个模型上,REALIZE-L3 的 HSR 从 42.0% 到 93.9%,完全合规检查还暴露出最终答案正确、表示合法之外的产物级失败。
一项 arXiv 论文发现,在基于语言模型评审打分的后训练中,学生模型即使只看到自己生成的音节或数字,其偏好也会向评审模型偏好的动物方向移动。在 48 个设计单元中,17 个在 5% 错误发现率下确立了特质传递,仅含数字的单元也在其中;只去掉评审之间的奖励差异,传递就消失。
研究比较了基于置信度和基于熵(UID-Conj.,结合全局熵变化与局部平滑度)的辅助轨迹偏好,能否提升小语言模型在有限监督下的自我改进与迁移。
SAT-ACT 提出一种从结果推导的学习框架,用于冲突驱动子句学习(CDCL,Conflict-Driven Clause Learning)求解器的分支决策。
SciGraphSelect 提出一种基于知识-推理图的可审计科学数据筛选框架,通过概念覆盖、关系与路径共支撑及方向对齐为候选文档打分。该框架将领域知识、可复用推理操作和参考文献佐证的关系组织为带类型图,并公开每次筛选背后的证据,使科学训练语料的上游构建过程可追溯。
研究评估人工智能(AI,Artificial Intelligence)智能体能否为自动化偏微分方程(PDE,Partial Differential Equation)仿真构建完整可执行的JavaScript 对象表示法(JSON,JavaScript Object Notation)规格,覆盖几何创建、网格划分、求解与结果导出。
研究团队构建 CivHarness 系统,可保存 Freeciv 游戏状态、在不同决策处分支并回放到未来回合,为长时程对局提供可测量的反馈。基于此训练的 大语言模型(LLM,Large Language Model) Judge 模型 CivTelescope 在“记分板陷阱”局面上的判断准确率是现成语言模型的 1.3-2.0 倍。
MEMIG 提出一种面向生物分子优化的智能体记忆构建框架,把经验记录改为可索引、定量、结构化的形式,而非自由文本重写。它用领域标识符定位每条经验并累积性质预言机测得的定量效应,使更新保持局部、检索变为精确查找,还能连接联合施加的干预并分解评估集来度量其上位效应。在计算机抗体优化任务中,MEMIG 在多数设置下提升了表现。
研究提出保结构专家剪枝框架,包含投影能量专家剪枝(PEEP,Projection Energy Expert Pruning)和分布覆盖专家剪枝(DCEP,Distributional Coverage Expert Pruning)两种方法,利用路由器权重作为先验,在保留专家间全局结构关系的同时兼顾单个专家重要性。
研究团队发布印地语 人工智能(AI,Artificial Intelligence) 生成文本检测基准 SHAKTI,覆盖四种文体、八个大语言模型(LLM,Large Language Model)家族及多种提示策略与对抗变换。
研究团队提出多任务后训练框架 RTL-Interact,让单个模型生成 RTL、构造任务对应的 EDA 检查并依据工具反馈修改实现。在 CVDP 上,RTL-Interact-32B 取得 48.7% 加权 Pass@1 和 68.9% Pass@5,超过其教师模型 DeepSeek-V3.2,8B 版本加权 Pass@1 为 44.9%。
研究者提出一条人在回路的发现流程,把程序演化、精确评估、数学推广、不存在性验证与形式化证明检查结合起来,用于寻找纠缠辅助量子纠错码(EAQECC,Entanglement-Assisted Quantum Error-Correcting Code)。
研究者提出 ImplicitHop 基准,包含形式化图基准和基于真实知识图谱的知识组合基准,用于评估大语言模型(LLM,Large Language Model)在不同推理深度下的演绎推理与知识整合能力。测试显示,无论知识来自预训练权重还是上下文,准确率都随组合长度增加而急剧下降,但上下文提供的信息明显优于权重中编码的信息。该结果量化了当前模型在提示词控制智能体行为和持续学习方面的根本局限。
研究者提出测试时去毒框架 TARGRS,通过在潜在表征空间学习毒性过渡的奖励引导,在 10 个大语言模型(LLM,Large Language Model)上把 RealToxicityPrompts 的毒性最高降低 69.38%。
研究团队推出 FrontierMat 基准,包含 330 道来自航空航天、半导体、具身智能和核聚变等前沿研究与工业实践的问题,每题均由领域实验专家验证。最强通用模型仅得 53.7%,跨尺度推理题比单尺度题低 8.7 分,一半题目最多只有一个模型能解出。采用元加权持续预训练与尺度模块化自蒸馏的领域适配方法,可将开源模型从 36.7% 提升至 55.4%,追平最强闭源模型。
针对遗传编程学到的调度规则在任务特征变化时性能明显下降、在新任务上微调又会丢失旧知识的问题,一项研究提出面向动态柔性作业车间调度的代理辅助遗传编程终身学习方法,可依次处理作业到达或批量到达的异构任务。该方法包含自适应两阶段训练、基于任务相似度的加权机制和带距离约束的改进代理模型三部分,实验显示其能缓解灾难性遗忘并保持较强适应性,优于多个对比方法。
研究者提出反事实成对增强(CPA,Counterfactual Pairwise Augmentation),为每个逐点样本合成并审核一条同查询、标签相反的反事实回答,把接受的样本对转为成对任务,与逐点数据联合微调后仍以逐点模式部署。
研究提出成对协调策略(PCP,Pairwise Coordination Policy),用于协调多个共享同一名有限注意力人类的 人工智能(AI,Artificial Intelligence) 智能体在搜索、询问或继续任务之间的决策。
一项新基准用 400 道选择题测试五个商用大语言模型(LLM,Large Language Model)何时该搜索、何时该直接作答,题目分为应直接回答的已知知识和训练截止后新闻类外部知识两类。
研究者提出 帕累托自适应压缩(PACE,Pareto-Adaptive Compression for Efficient Native MLLMs)(Proxy Alignment and Curvature Expansion),一种优化前诊断方法,利用重复人工评分预测固定代理目标带来的人类感知收益曲线,将局部收益近似为 A√d+Bd。
研究提出 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种校准方法,用于 HiFloat4(HiF4)这一采用三级缩放层级的分块浮点(BFP,Block Floating-Point)4-bit 量化格式。实验显示三种方法均比直接转换为 HiF4 提升推理精度,将 HiF4 与 BF16 的差距缩小至 1% 以内,并在多种模型和下游任务上优于 NVFP4 格式。
研究者提出 平滑排序随机邻居嵌入(SR-tSNE,Smooth Rank t-Distributed Stochastic Neighbor Embedding)。
研究者提出免标签框架分位数对齐(QUAL,Quantile Alignment),利用模型池作为概率参考对齐各成员预测,再经Huber聚合与重排得到稳健组合预测,无需训练或改动模型。
一项研究提出可执行验证配置,在退款归属、税务处理等业务定义变化后重新校验固定 结构化查询语言(SQL,Structured Query Language) 查询,在 32 个新编写的修订族中保留 192 个查询-定义单元,其中 144 个不符合。
CIRCE 通过廉价 大语言模型(LLM,Large Language Model) 构建约束中间表示并编译成约束图,在模型尝试解题前预测其回答是否正确。
一项在合成人力资源与企业资源规划(HR/ERP)图谱上的研究,把薪资欺诈筛查建模为归纳式链接预测与实体排序,在 24 个留出组织上对比分析员规则、显式路径特征和图神经网络(GNN,Graph Neural Network)。
研究针对计算几何中的最小红蓝分离集问题(MRBSSP,Minimum Red-Blue Separating Set Problem)提出紧凑集合覆盖整数线性规划(ILP。
研究团队构建了 BABA-Bench,包含 47 个由真实患者权益案例脱敏改造的交互环境,用于检验 人工智能(AI,Artificial Intelligence) 智能体(Agent)能否在达成正确结果的同时遵守必要流程。
LanG 2.0 是一个面向安全运营中心(SOC,Security Operations Center)的智能体系统,负责检测威胁、关联证据并编写规则,研究小型本地模型能否在结构性防护而非模型准确率提供保障的前提下,低成本且安全地替代前沿模型。
一项 arXiv 研究在简化的周界防御模拟中对比了集中指挥官、基于拍卖的共识团队和独立智能体三种大语言模型(LLM,Large Language Model)团队架构,共识团队的入侵率最低,为 15%,集中指挥官为 32%,独立智能体为 29%。
研究者提出能力锚定的智能体规划(CGAP,Capability-Grounded Agentic Planning),先把工具目录确定性地编译为规划领域定义语言(PDDL,Planning Domain Definition Language)模型,再由 大语言模型(LLM,Large Language Model) 将请求转为目标并交给经典规划器求解。
研究者提出 ReplayRCA 基准,用反事实重放给智能体失败诊断打分:把环境恢复到出错步骤之前,用诊断模型给出的动作替换原动作,再让同一智能体继续执行,以继续成功率的提升幅度作为因果修复分数。
一场试点专家工作坊检验了“紫队”(violet teaming,一种把技术、政策与社会视角整合进新兴技术评估的方法)能否用于治理生物防御相关 人工智能(AI,Artificial Intelligence) 能力。
论文提出 Noura,把公开临床指南和个人健康档案转成可执行规格,在规划中约束食物选择、份量优化和多日计划校验,并用执行结果与修订记录监督紧凑模型。
一项 arXiv 研究测试了大语言模型(LLM,Large Language Model)对赌博和股票交易结果情绪感受的预判,以及是否将评分纳入选择。单独评分时模型对结果幅度的敏感度递减、类似人类价值函数,但对收益的评分强于同等损失,研究者称之为“硅基收益放大”。同时呈现结果时评分趋于线性,选择中的得失不对称基本消失,模型自身评分并不比金钱效用更好地解释其选择。