跳到正文
11月2日周一
  1. arXiv · cs.AI51

    Lineage Is Memory:短预算 大语言模型(LLM,Large Language Model) 引导优化中的父代继承与反馈披露

    论文在九个提示词与程序合成基准上做了 1,750 次预注册实验,把父代继承与每轮反馈广度分开考察。结果显示贪心父代继承贡献了绝大部分优化进展,即使种子重置方案每轮拿到全部失败的聚类摘要或使用更大的提议模型也未能反超。作者还拆解了 GEPA 的 token 开销,发现提议模型反思只占小部分成本,验证与小批量筛选几乎吃掉全部预算。

  2. arXiv · cs.AI37

    欧盟新规强制披露算法规则:用自利 大语言模型(LLM,Large Language Model) 司机智能体评估网约车调度政策

    研究用自利的大语言模型(LLM,Large Language Model)司机智能体,评估欧盟《平台工作指令》要求披露调度规则后两类网约车调度政策的表现。在曼哈顿场景中,规则披露后司机拒绝改派的比例从约五分之四降至四分之一,但反应式政策平台利润下降 3.7%,两类政策利润差距达 6.1%。该研究为强制披露新规下的政策评估提供了框架。

  3. arXiv · cs.AI55

    论文指出 bf16 舍入丢弃多数强化学习策略更新,并提出一行修正方案 Fair Cast

    论文指出,语言模型强化学习后训练中,优化器保留 fp32 主权重,但 rollout 使用的是经 round-to-nearest 转换得到的 bf16 副本;在常用学习率下,多数单步更新小于半个 bf16 间距而被丢弃,Qwen3-1.7B 上每步仅 0.4-0.5% 的权重发生变化,生成训练数据的策略落后优化器 50-150 步。

  4. arXiv · cs.AI28

    WebOverlay:面向极端宽高比网页浮层检测的高吞吐纯视觉蒸馏方法

    WebOverlay 提出一种纯视觉网页浮层检测器,通过从前沿视觉语言教师模型蒸馏训练,无需解析 DOM 树即可识别 cookie 同意横幅、订阅提示等遮挡内容。它采用动态分块策略把极端宽高比的整页渲染切成保持宽高比的重叠图块,并配合宽高比感知的边界判定机制消除拼接伪影。该方法吞吐量比大型专有多模态模型高数个数量级,部署成本大幅降低,精度与召回率仍具竞争力。

  5. arXiv · cs.AI36

    STAR:在推理阶段引导视觉-语言-动作模型的动作表征

    针对视觉-语言-动作模型(VLA,Vision-Language-Action)动作输出附近的表征未能充分保留任务相关视觉定位的问题,研究者提出免训练推理方法 STAR,对后层残差更新做指数移动平均,让后层动作表征继承前层的物体感知更新方向,并用本体状态调节混合强度。在机器人操作基准上,STAR 将平均任务成功率提升 4.0 个百分点,代码已公开。

  6. arXiv · cs.AI27

    CAMEL:面向超轻量视网膜基础模型的跨架构掩码嵌入学习

    研究提出跨架构知识蒸馏框架 CAMEL(Cross-Architecture Masked Embedding Learning,跨架构掩码嵌入学习),通过非对称掩码策略把大型教师基础模型的知识迁移到轻量学生模型。在四个数据集上的实验显示,CAMEL 在保持精度的同时大幅降低计算复杂度,使模型可部署于硬件受限的临床环境。

  7. arXiv · cs.AI36

    研究揭示大语言模型强化学习中训练-推理不匹配的来源与演化,提出 DLC 修正方法

    研究把大语言模型强化学习中的训练-推理不匹配拆成推理引擎的数值差异与异步采样的策略滞后两类,并追踪二者在训练中的演化。基于此提出的差异-滞后修正(DLC,Discrepancy-Lag Correction)在 Qwen3-0.6B 和 Qwen3-1.7B 上使陈旧采样器下的 KL 散度保持在两次独立同策略训练之间 KL 的两倍以内。

  8. arXiv · cs.AI31

    研究者提出"任意任务推理"基础模型的形式化理论框架

    研究者为具备"任意任务推理"(ATI,any-task inference)能力的基础模型给出形式化数学定义,将其界定为直接把数据样本和任务映射为标签预测的模型。该框架证明这类模型可经"通用任务归约"分解为编码器、模型和解码器三部分,并据此把模型误差拆成设计项与已实现模型超额项。作者还提出生成式与判别式两类实现配方,并用 5 个真实基础模型案例验证定义的适用性。

  9. arXiv · cs.AI48

    从遥操作到长程灵巧性:评估视觉运动技能与离线代理指标用于灵巧操作

    研究团队用五指机械手完成 RJ45 网线抓取与插入,在约 1700 次真机试验中评估了覆盖 7 个策略族的 281 个模仿学习策略。结果显示观测与动作表征比优化器和采样选择更关键:点云策略的感兴趣区域裁剪、机器人基座坐标系表征和点编码器内归一化各提升成功率 70-100 个百分点,视觉-语言-动作策略改用绝对动作预测后插入成功率最高提升 70 个百分点。

  10. arXiv · cs.AI42

    Safin-1.5:以安全原生架构与可验证推理实现递归安全提升

    Safin-1.5 提出安全原生架构与递归安全提升方法,通过“发现—评估—修复”循环持续修补风险,并只在安全提升且通用能力不降、过度拒答受限时接受更新。模型还配备推理时形式化推理框架,结合符号推理与验证生成可检查证明。实验显示其在安全与推理性能上超过前沿模型。

  11. arXiv · cs.AI34

    RiskyPy:面向 大语言模型(LLM,Large Language Model) 生成代码安全与功能联合评估的模型校准提示词生成

    RiskyPy 是一套自动化流程,用功能与漏洞“金丝雀”生成与模型能力相匹配的安全导向代码生成数据集,已针对 Python 覆盖 2025 CWE Top 25 中的 18 类 CWE、产出 101 条提示词。在 Qwen3-4B 和 Seed-Coder-8B 上,57-72% 的提示词能生成可运行代码,但仅 5-10% 的生成结果不含 Bandit 告警,为安全改进方法的联合评估留出空间。

  12. arXiv · cs.AI32

    研究:AlphaFold 3 类模型无需完整循环即可预测置信度,按需回收算力

    一项研究提出,AlphaFold 3 类模型(如 Boltz、Protenix)的置信度指标 ipSAE、ipTM 和结构一致性指标可在回收早期直接从主干网络预测。该预测器计算成本低、可微分且每个循环都可用,既能帮助系统判断何时执行、询问或阻止以合理分配筛选的回收预算,也可作为基于幻觉的设计的优化目标。两种用法均在显著降低计算成本的同时提升了性能。

  13. arXiv · cs.AI45

    研究:低秩适配(LoRA,Low-Rank Adaptation) 微调比全量微调显著降低大语言模型记忆泄露风险

    一项研究重新考察了大语言模型(LLM,Large Language Model)微调中的记忆问题,发现模型规模和数据重复等因素在 低秩适配(LoRA,Low-Rank Adaptation) 微调下并不遵循预训练和全量微调中的趋势。采用更宽松的基于相似度的记忆指标,LoRA 相比全量微调显著降低记忆风险,同时保持较强的任务表现。

  14. arXiv · cs.AI40

    联邦学习中的恶意梯度泄露:攻击难以兼顾有效与隐蔽,可用轻量检测拦截

    研究首次系统分析联邦学习(FL,Federated Learning)中恶意服务器操纵全局模型、诱发客户端梯度泄露隐私的攻击,发现这类攻击无法同时做到高还原效果和高隐蔽性,在含归一化与联邦平均的真实设置下尤其容易被基础监控发现。作者据此提出一种轻量客户端检测机制,在本地训练开始前标记可疑的模型更新,以很低开销为隐私敏感的联邦学习系统提供可部署的防护。

  15. arXiv · cs.AI39

    ACCT:跨 大语言模型(LLM,Large Language Model) 非对称上下文迁移,KV 缓存缩减 75% 仍保持性能

    研究者提出 ACCT(Asymmetric Cross-大语言模型(LLM,Large Language Model) Context Transfer,非对称跨大语言模型上下文迁移),把源模型的键值缓存(KV cache,Key-Value Cache)转换为目标模型可直接使用的稀疏 KV 状态,实现同系列不同规模模型间的上下文计算复用。

  16. arXiv · cs.AI34

    知识层模型(KLM):可查看证据的 人工智能(AI,Artificial Intelligence) 输出、路由诊断与负面结果

    研究者提出知识层模型(KLM,Knowledge Layer Model),一套开放的、不绑定具体实现的推理记录规范,用带版本的认识评估、证据关系和显式未知项记录 人工智能(AI,Artificial Intelligence) 答案的依据,Nage AI OS 的知识与证据架构 SEDIM 为参考实现,规范版本为 KLM v0.3。