跳到正文
今天11月2日周一180 条
  1. arXiv · cs.AI32

    研究:AlphaFold 3 类模型无需完整循环即可预测置信度,按需回收算力

    一项研究提出,AlphaFold 3 类模型(如 Boltz、Protenix)的置信度指标 ipSAE、ipTM 和结构一致性指标可在回收早期直接从主干网络预测。该预测器计算成本低、可微分且每个循环都可用,既能帮助系统判断何时执行、询问或阻止以合理分配筛选的回收预算,也可作为基于幻觉的设计的优化目标。两种用法均在显著降低计算成本的同时提升了性能。

  2. arXiv · cs.AI45

    研究:低秩适配(LoRA,Low-Rank Adaptation) 微调比全量微调显著降低大语言模型记忆泄露风险

    一项研究重新考察了大语言模型(LLM,Large Language Model)微调中的记忆问题,发现模型规模和数据重复等因素在 低秩适配(LoRA,Low-Rank Adaptation) 微调下并不遵循预训练和全量微调中的趋势。采用更宽松的基于相似度的记忆指标,LoRA 相比全量微调显著降低记忆风险,同时保持较强的任务表现。

  3. arXiv · cs.AI40

    联邦学习中的恶意梯度泄露:攻击难以兼顾有效与隐蔽,可用轻量检测拦截

    研究首次系统分析联邦学习(FL,Federated Learning)中恶意服务器操纵全局模型、诱发客户端梯度泄露隐私的攻击,发现这类攻击无法同时做到高还原效果和高隐蔽性,在含归一化与联邦平均的真实设置下尤其容易被基础监控发现。作者据此提出一种轻量客户端检测机制,在本地训练开始前标记可疑的模型更新,以很低开销为隐私敏感的联邦学习系统提供可部署的防护。

  4. arXiv · cs.AI39

    ACCT:跨 大语言模型(LLM,Large Language Model) 非对称上下文迁移,KV 缓存缩减 75% 仍保持性能

    研究者提出 ACCT(Asymmetric Cross-大语言模型(LLM,Large Language Model) Context Transfer,非对称跨大语言模型上下文迁移),把源模型的键值缓存(KV cache,Key-Value Cache)转换为目标模型可直接使用的稀疏 KV 状态,实现同系列不同规模模型间的上下文计算复用。

  5. arXiv · cs.AI34

    知识层模型(KLM):可查看证据的 人工智能(AI,Artificial Intelligence) 输出、路由诊断与负面结果

    研究者提出知识层模型(KLM,Knowledge Layer Model),一套开放的、不绑定具体实现的推理记录规范,用带版本的认识评估、证据关系和显式未知项记录 人工智能(AI,Artificial Intelligence) 答案的依据,Nage AI OS 的知识与证据架构 SEDIM 为参考实现,规范版本为 KLM v0.3。

  6. arXiv · cs.AI39

    ID2Pattern:为交易风险基础模型预训练可泛化的身份行为模式

    ID2Pattern 预训练框架将卡号、设备、账户等高基数身份字段编码为跨交易序列的行为模式,而非依赖具体身份值。它先用 Local Anonymous ID(LAID)分词器捕捉身份在序列中的出现与复现方式,再在无标注序列上预训练多尺度模式码本,把 LAID 序列抽象为离散行为模式供下游预测。

  7. arXiv · cs.AI35

    ETAPS:面向大语言模型极端稀疏度的高效渐进剪枝方法

    研究者提出 ETAPS,通过分阶段收紧全局稀疏约束、并以固定小预算训练稀疏增量,在 125M 到 13B 参数的六个模型上,50% 至 90% 稀疏度下困惑度均低于 ELSA,最高降低 42%。在 90% 稀疏度下剪枝 LLaMA2-7B 仅需单张 H200,而 ELSA 需四张,持久状态小 5.0 倍、图形处理器(GPU,Graphics Processing Unit) 小时少 49%。

  8. arXiv · cs.AI36

    Geo-FSRL:优化少步流模型强化学习的随机策略几何

    研究提出 Geo-FSRL(Geometry-Optimized Few-Step Reinforcement Learning),通过最小化条件 KL 散度对应的单一几何因子,在保持系数的各向同性高斯转移族中推导出唯一闭式最优策略。该方法在 4 步设置下训练图像与视频生成模型,最终奖励分数高于 Flow-GRPO 和 Flow-CPS,推理时仍保留确定性求解器。代码已公开。

  9. arXiv · cs.AI29

    用模糊选择性状态模型预测消费者偏好动态

    研究用Mamba型选择性状态空间模型预测零售连锁客户的偏好变化,隐藏状态为三角模糊数,并在Matveev双分量模糊数代数中计算。一个仅107参数的轻量模型在合成示例中预测中心平均绝对误差为0.154,优于恒定惯性算子的0.163和朴素预测的0.179,且模糊度不随时间累积。该模型还能通过语言化读数识别客户永久转向竞争对手。

  10. arXiv · cs.AI36

    LIT:让视频导演智能体在交互与执导中协同进化

    研究提出 LIT 框架,由导演智能体、模拟用户和元工程师组成进化闭环,让元工程师主动学习外部知识以发现并解决交互与制作问题。在 Test 与 OOD Test 划分上,LIT 的制作与交互得分分别比初始流程提升 19.1% 和 32.0%。消融实验显示制作与交互提升存在相关性,协同进化机制进一步促进执导技能与交互模式探索。

  11. arXiv · cs.AI27

    ERIM:用显式规则归纳提升多模态上下文学习

    研究者提出 ERIM 框架,让多模态大语言模型(MLLM,Multimodal Large Language Model)在上下文学习中显式归纳演示样本背后的潜在规则,而非直接做输入输出映射。该框架构建以规则为中心的数据集、引入规则归纳的显式监督,并用混合冷启动监督微调加强化学习的两阶段训练完成微调。实验显示多种多模态上下文学习设置下性能一致提升,正确归纳规则可直接带来更强更稳定的表现。

  12. arXiv · cs.AI40

    TSBPO:面向交互式语言智能体的树结构分支策略优化

    研究提出 TSBPO,一种树结构采样到更新的训练范式,在同一训练循环内解决交互式语言智能体从终端结果学习时的采样、延迟反馈分配和多 token 动作损失聚合问题。使用 Qwen2.5-1.5B 作为执行模型,在 ALFWorld 上取得 97.79% 已见任务和 96.64% 未见任务的随机成功率,在 WebShop 500 个测试目标上每回合成功率 81.07%。

  13. arXiv · cs.AI66

    预注册机制审计:大语言模型(LLM,Large Language Model) 智能体系统 25 个认知架构模块中 18 个未接入生产输出

    一项预注册审计对基于本地大语言模型的智能体系统做了静态核查,发现其宣称的 25 个认知架构模块中有 18 个计算出的值从未到达任何生产输出。作者提出带行号证据和调用链追踪的四问静态审计协议,对 11 个模块预注册可证伪预测并执行干预,在第二个独立系统的 IIT-phi 核心上复现该协议,并做了两次修复实验作为阳性对照。

  14. arXiv · cs.AI29

    去中心化联邦学习中的连接感知客户端选择方法

    一项研究提出用图谱工具做轻量客户端选择,让去中心化联邦学习(DFL,Decentralized Federated Learning)中的每个客户端只向结构上最相关的邻居发送模型更新,而非全邻域广播。在数据异构性强、结构丰富的大图上,该方法准确率最高提升约 3 个百分点,同时传输消息总数比朴素广播减少 50%。

  15. arXiv · cs.AI40

    面向大语言模型的规范引导生成框架

    研究者提出一种神经符号的规范引导解码框架,把大语言模型(LLM,Large Language Model)生成与符号推理结合,在每一步过滤掉无法满足形式化规范的取值。该框架与模型无关、无需重新训练,前向变体在配置与约束求解基准上稳定输出符合规范的答案,并比拒绝采样减少重复推理;回溯变体进一步减少模型被迫选择自判不合适取值的情况。

  16. arXiv · cs.AI52

    研究用 722 份联合国安理会记录和五项测试量化大语言模型的国家倾向

    研究团队用 722 份联合国安全理事会(UNSC,United Nations Security Council)官方记录,对 GPT-4o-mini、Llama 3.3-70B、Mistral-22B-Small 和 Qwen3-30B 四款大语言模型(LLM,Large Language Model)做国家倾向评测,并首次为每项测试明确设定无偏基准。

  17. arXiv · cs.AI37

    scAnyOmics:用基础模型蒸馏实现多组学虚拟细胞的任意到任意补全

    scAnyOmics 是一个生成式框架,把冻结的单细胞基础模型知识蒸馏进多模态学生模型,将 scRNA-seq、蛋白标记测量和 scATAC-seq 整合到共享表示中,实现跨模态预测与缺失模态重建。研究汇总六项公开研究的 690,880 个细胞进行评估,并在留出供体数据上多项指标优于基线方法。该框架还用于细胞类型注释、扰动响应预测和生物学年龄估计。

  18. arXiv · cs.AI39

    Ask on Demand:面向并行智能体系统的定向同伴通信框架

    研究者提出 Ask on Demand(AOD)通信框架,让并行大语言模型智能体在出现具体信息需求时向同伴发起定向求助,由框架检索同伴执行历史中的相关证据并生成针对性回复。团队用最终任务结果与推理成本训练一个轻量门控,判断何时求助值得。在 AppWorld 和 WebShop 上,AOD 的任务表现优于独立并行执行,推理成本低于现有信息共享基线。

  19. arXiv · cs.AI43

    Operon-S1:面向长程生物医学智能体的快速决策控制器

    Operon-S1 将生物医学智能体的判断与执行分离,在 13 个决策点用封闭问题接管判断,本地决策模型在 CPU 上以 0.6 秒中位延迟完成环内请求且不产生请求费用,六个基准中五个分数无可测变化。若改由驱动智能体的通用语言模型回答同样问题,任务成本将增加 8.0% 至 35.2%。该系统已用于湿实验方案排障和生殖系靶向富集 panel 设计。

  20. arXiv · cs.AI59

    研究显示模型特质可通过评审模型打分在强化学习中传递

    一项 arXiv 论文发现,在基于语言模型评审打分的后训练中,学生模型即使只看到自己生成的音节或数字,其偏好也会向评审模型偏好的动物方向移动。在 48 个设计单元中,17 个在 5% 错误发现率下确立了特质传递,仅含数字的单元也在其中;只去掉评审之间的奖励差异,传递就消失。

  21. arXiv · cs.AI45

    从1D基准到复杂3D几何:智能体能否可靠地为自动化偏微分方程(PDE,Partial Differential Equation)仿真描述问题?

    研究评估人工智能(AI,Artificial Intelligence)智能体能否为自动化偏微分方程(PDE,Partial Differential Equation)仿真构建完整可执行的JavaScript 对象表示法(JSON,JavaScript Object Notation)规格,覆盖几何创建、网格划分、求解与结果导出。

  22. arXiv · cs.AI47

    研究提出 CivMarshmallow:用回放验证的奖励信号训练长时程 Freeciv 智能体

    研究团队构建 CivHarness 系统,可保存 Freeciv 游戏状态、在不同决策处分支并回放到未来回合,为长时程对局提供可测量的反馈。基于此训练的 大语言模型(LLM,Large Language Model) Judge 模型 CivTelescope 在“记分板陷阱”局面上的判断准确率是现成语言模型的 1.3-2.0 倍。

  23. arXiv · cs.AI34

    MEMIG:面向抗体优化的自进化记忆构建框架

    MEMIG 提出一种面向生物分子优化的智能体记忆构建框架,把经验记录改为可索引、定量、结构化的形式,而非自由文本重写。它用领域标识符定位每条经验并累积性质预言机测得的定量效应,使更新保持局部、检索变为精确查找,还能连接联合施加的干预并分解评估集来度量其上位效应。在计算机抗体优化任务中,MEMIG 在多数设置下提升了表现。