CLIC:为 Open RAN 中 大语言模型(LLM,Large Language Model) 驱动的控制加装闭环意图一致性防护
研究者提出闭环意图一致性层(CLIC,Closed-Loop Intent Consistency),用于同时防御 Open RAN 中 大语言模型(LLM,Large Language Model) 控制回路的运行时提示注入和残留虚拟提示注入(VPI)攻击。
研究者提出闭环意图一致性层(CLIC,Closed-Loop Intent Consistency),用于同时防御 Open RAN 中 大语言模型(LLM,Large Language Model) 控制回路的运行时提示注入和残留虚拟提示注入(VPI)攻击。
研究者提出 PoSE(posterior sampling for state estimation),只学习变电站注入功率的分布,潮流方程与拓扑仅在采样时通过噪声感知的卡尔曼式校正进入,使每个后验样本都是物理一致的运行点。
一项研究提出,AlphaFold 3 类模型(如 Boltz、Protenix)的置信度指标 ipSAE、ipTM 和结构一致性指标可在回收早期直接从主干网络预测。该预测器计算成本低、可微分且每个循环都可用,既能帮助系统判断何时执行、询问或阻止以合理分配筛选的回收预算,也可作为基于幻觉的设计的优化目标。两种用法均在显著降低计算成本的同时提升了性能。
一项研究重新考察了大语言模型(LLM,Large Language Model)微调中的记忆问题,发现模型规模和数据重复等因素在 低秩适配(LoRA,Low-Rank Adaptation) 微调下并不遵循预训练和全量微调中的趋势。采用更宽松的基于相似度的记忆指标,LoRA 相比全量微调显著降低记忆风险,同时保持较强的任务表现。
研究首次系统分析联邦学习(FL,Federated Learning)中恶意服务器操纵全局模型、诱发客户端梯度泄露隐私的攻击,发现这类攻击无法同时做到高还原效果和高隐蔽性,在含归一化与联邦平均的真实设置下尤其容易被基础监控发现。作者据此提出一种轻量客户端检测机制,在本地训练开始前标记可疑的模型更新,以很低开销为隐私敏感的联邦学习系统提供可部署的防护。
研究者提出潜在稀疏注意力(LSA,Latent Sparse Attention),在学到的潜在空间中对键分层聚类,让查询只对聚类层级打分而非逐键打分,从而在超长上下文下加速预填充、解码和训练。
研究者提出 ACCT(Asymmetric Cross-大语言模型(LLM,Large Language Model) Context Transfer,非对称跨大语言模型上下文迁移),把源模型的键值缓存(KV cache,Key-Value Cache)转换为目标模型可直接使用的稀疏 KV 状态,实现同系列不同规模模型间的上下文计算复用。
研究者提出知识层模型(KLM,Knowledge Layer Model),一套开放的、不绑定具体实现的推理记录规范,用带版本的认识评估、证据关系和显式未知项记录 人工智能(AI,Artificial Intelligence) 答案的依据,Nage AI OS 的知识与证据架构 SEDIM 为参考实现,规范版本为 KLM v0.3。
研究团队向四家厂商的六款大语言模型(LLM,Large Language Model)提出同样的四个戒烟问题,并搭配十二种不同用户画像,共收集 2880 条回答,发现模型给出的内容取决于提问者看起来是谁。
研究者提出双轴记忆初始化(DAMI,Dual-Axis Memory Initialization),在训练前联合配置门控参数 A_log 与 dt_bias,为不同注意力头分配几何时间尺度、为不同层设置低-高-低输入敏感度。
ID2Pattern 预训练框架将卡号、设备、账户等高基数身份字段编码为跨交易序列的行为模式,而非依赖具体身份值。它先用 Local Anonymous ID(LAID)分词器捕捉身份在序列中的出现与复现方式,再在无标注序列上预训练多尺度模式码本,把 LAID 序列抽象为离散行为模式供下游预测。
一项预注册审计在 Cosmos Policy 和 RoboCasa 上检验测试时搜索的三项前提:学习型价值选择器比随机选择差 1.66 个百分点,事后最优选择仅提升 1.40 个百分点,82% 的状态下候选结果完全相同。
研究者提出 ETAPS,通过分阶段收紧全局稀疏约束、并以固定小预算训练稀疏增量,在 125M 到 13B 参数的六个模型上,50% 至 90% 稀疏度下困惑度均低于 ELSA,最高降低 42%。在 90% 稀疏度下剪枝 LLaMA2-7B 仅需单张 H200,而 ELSA 需四张,持久状态小 5.0 倍、图形处理器(GPU,Graphics Processing Unit) 小时少 49%。
研究提出 Geo-FSRL(Geometry-Optimized Few-Step Reinforcement Learning),通过最小化条件 KL 散度对应的单一几何因子,在保持系数的各向同性高斯转移族中推导出唯一闭式最优策略。该方法在 4 步设置下训练图像与视频生成模型,最终奖励分数高于 Flow-GRPO 和 Flow-CPS,推理时仍保留确定性求解器。代码已公开。
ArchOR 在 OptSkills 基础上新增两个检索模块,用同一 DeepSeek-V4.1-Flash 主干和已发布技能库,在五个基准上达到 65.00% Micro-Avg. Pass@1,比 OptSkills 提升 1.64 个百分点 Micro-Avg. 和 2.68 个百分点 Macro-Avg.。
研究用Mamba型选择性状态空间模型预测零售连锁客户的偏好变化,隐藏状态为三角模糊数,并在Matveev双分量模糊数代数中计算。一个仅107参数的轻量模型在合成示例中预测中心平均绝对误差为0.154,优于恒定惯性算子的0.163和朴素预测的0.179,且模糊度不随时间累积。该模型还能通过语言化读数识别客户永久转向竞争对手。
研究提出 LIT 框架,由导演智能体、模拟用户和元工程师组成进化闭环,让元工程师主动学习外部知识以发现并解决交互与制作问题。在 Test 与 OOD Test 划分上,LIT 的制作与交互得分分别比初始流程提升 19.1% 和 32.0%。消融实验显示制作与交互提升存在相关性,协同进化机制进一步促进执导技能与交互模式探索。
研究者提出 Dynamical Memory Transformer(DMT),一种将序列编码与信息读取分离的混合架构:编码器用多个由复数对角循环矩阵构成的动力系统记忆单元,由输入相关的泄漏率控制更新,解码器通过注意力直接读取其输出而不经过 token 历史。
研究者提出 ERIM 框架,让多模态大语言模型(MLLM,Multimodal Large Language Model)在上下文学习中显式归纳演示样本背后的潜在规则,而非直接做输入输出映射。该框架构建以规则为中心的数据集、引入规则归纳的显式监督,并用混合冷启动监督微调加强化学习的两阶段训练完成微调。实验显示多种多模态上下文学习设置下性能一致提升,正确归纳规则可直接带来更强更稳定的表现。
研究在 TOP 基准(12,477 项试验)上评估 BioBERT(108M 参数)和 BioMistral(7B 参数)两个生物医学领域模型,用试验注册文本做分期结果预测。
研究提出 TSBPO,一种树结构采样到更新的训练范式,在同一训练循环内解决交互式语言智能体从终端结果学习时的采样、延迟反馈分配和多 token 动作损失聚合问题。使用 Qwen2.5-1.5B 作为执行模型,在 ALFWorld 上取得 97.79% 已见任务和 96.64% 未见任务的随机成功率,在 WebShop 500 个测试目标上每回合成功率 81.07%。
研究提出径向核注意力(RKA,Radial Kernel Attention),将原子到簇中心的距离映射为可学习径向特征,以线性成本实现全局特征交换,并插入 EquiformerV3 局部模块之间。
研究提出稀疏微调框架SWIFT(Small-World Induced Fine-Tuning),将块对角稀疏更新与固定的确定性散射置换结合,在不增加可训练参数的情况下打通特征维度间的信息孤岛。
研究者提出知识关联(KA,Knowledge Association)作为大语言模型遗忘的基本目标,并据此设计知识关联强化遗忘(KARU,Knowledge Association Reinforcement Unlearning)框架,通过 token 级奖励、分布级正则和邻近感知保留采样抑制应遗忘的知识关联。
一项预注册审计对基于本地大语言模型的智能体系统做了静态核查,发现其宣称的 25 个认知架构模块中有 18 个计算出的值从未到达任何生产输出。作者提出带行号证据和调用链追踪的四问静态审计协议,对 11 个模块预注册可证伪预测并执行干预,在第二个独立系统的 IIT-phi 核心上复现该协议,并做了两次修复实验作为阳性对照。
研究者提出一种混合框架,将卷积神经网络(CNN,Convolutional Neural Network)与可学习核的高斯过程(GP,Gaussian Process)耦合,从极稀疏观测中联合完成数据同化与偏差校正。
一项研究提出用图谱工具做轻量客户端选择,让去中心化联邦学习(DFL,Decentralized Federated Learning)中的每个客户端只向结构上最相关的邻居发送模型更新,而非全邻域广播。在数据异构性强、结构丰富的大图上,该方法准确率最高提升约 3 个百分点,同时传输消息总数比朴素广播减少 50%。
研究者提出免训练的 Verify–Backtrack Loop(VBL),在 推理与行动(ReAct,Reasoning and Acting) 基础上把前置条件发现与失败诊断变成结构化的规划状态更新,用目标栈和双视野校验触发 Push、Pop、重试或回退到父目标。
研究者提出一种神经符号的规范引导解码框架,把大语言模型(LLM,Large Language Model)生成与符号推理结合,在每一步过滤掉无法满足形式化规范的取值。该框架与模型无关、无需重新训练,前向变体在配置与约束求解基准上稳定输出符合规范的答案,并比拒绝采样减少重复推理;回溯变体进一步减少模型被迫选择自判不合适取值的情况。
研究团队用 722 份联合国安全理事会(UNSC,United Nations Security Council)官方记录,对 GPT-4o-mini、Llama 3.3-70B、Mistral-22B-Small 和 Qwen3-30B 四款大语言模型(LLM,Large Language Model)做国家倾向评测,并首次为每项测试明确设定无偏基准。
scAnyOmics 是一个生成式框架,把冻结的单细胞基础模型知识蒸馏进多模态学生模型,将 scRNA-seq、蛋白标记测量和 scATAC-seq 整合到共享表示中,实现跨模态预测与缺失模态重建。研究汇总六项公开研究的 690,880 个细胞进行评估,并在留出供体数据上多项指标优于基线方法。该框架还用于细胞类型注释、扰动响应预测和生物学年龄估计。
研究者提出在线证据包含预测(OECP,Online Evidence-Containment Prediction),要求每个候选片段在精确验证前先做预测且最多查询一次,把片段包含关系形式化为三角二维乘积序,从而转化为差异化查询的在线等渗回归问题。
研究者提出 Ask on Demand(AOD)通信框架,让并行大语言模型智能体在出现具体信息需求时向同伴发起定向求助,由框架检索同伴执行历史中的相关证据并生成针对性回复。团队用最终任务结果与推理成本训练一个轻量门控,判断何时求助值得。在 AppWorld 和 WebShop 上,AOD 的任务表现优于独立并行执行,推理成本低于现有信息共享基线。
Operon-S1 将生物医学智能体的判断与执行分离,在 13 个决策点用封闭问题接管判断,本地决策模型在 CPU 上以 0.6 秒中位延迟完成环内请求且不产生请求费用,六个基准中五个分数无可测变化。若改由驱动智能体的通用语言模型回答同样问题,任务成本将增加 8.0% 至 35.2%。该系统已用于湿实验方案排障和生殖系靶向富集 panel 设计。
一项 arXiv 论文发现,在基于语言模型评审打分的后训练中,学生模型即使只看到自己生成的音节或数字,其偏好也会向评审模型偏好的动物方向移动。在 48 个设计单元中,17 个在 5% 错误发现率下确立了特质传递,仅含数字的单元也在其中;只去掉评审之间的奖励差异,传递就消失。
研究比较了基于置信度和基于熵(UID-Conj.,结合全局熵变化与局部平滑度)的辅助轨迹偏好,能否提升小语言模型在有限监督下的自我改进与迁移。
SAT-ACT 提出一种从结果推导的学习框架,用于冲突驱动子句学习(CDCL,Conflict-Driven Clause Learning)求解器的分支决策。
研究评估人工智能(AI,Artificial Intelligence)智能体能否为自动化偏微分方程(PDE,Partial Differential Equation)仿真构建完整可执行的JavaScript 对象表示法(JSON,JavaScript Object Notation)规格,覆盖几何创建、网格划分、求解与结果导出。
研究团队构建 CivHarness 系统,可保存 Freeciv 游戏状态、在不同决策处分支并回放到未来回合,为长时程对局提供可测量的反馈。基于此训练的 大语言模型(LLM,Large Language Model) Judge 模型 CivTelescope 在“记分板陷阱”局面上的判断准确率是现成语言模型的 1.3-2.0 倍。
MEMIG 提出一种面向生物分子优化的智能体记忆构建框架,把经验记录改为可索引、定量、结构化的形式,而非自由文本重写。它用领域标识符定位每条经验并累积性质预言机测得的定量效应,使更新保持局部、检索变为精确查找,还能连接联合施加的干预并分解评估集来度量其上位效应。在计算机抗体优化任务中,MEMIG 在多数设置下提升了表现。