跳到正文
热点事件持续更新

研究:潜空间几何可跨模型架构迁移并纠正行为

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

一项被 EMNLP 2026 主会收录的研究(Marcus Armstrong 等)称,独立训练的不同架构语言模型会收敛到几何兼容的潜空间表示。作者用线性投影矩阵把大教师模型的激活向量映射到小学生模型的坐标系,在推理时直接替换学生模型的残差流内部状态,无需更新权重。 在 20 组异构师生模型配对中,Ridge 投影对语言推理和数学推理的解释度分别为 R²=0.50 和 0.40。据作者报告,该方法在 TruthfulQA 与 GSM8K 上的行为纠正率均值约 25%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    研究:领域特定潜空间几何可跨模型架构迁移,无需更新权重即可纠正模型行为

    一项被 EMNLP 2026 主会收录的研究发现,用线性投影矩阵把大教师模型的激活向量映射到小学生模型的坐标系,可在推理时替换其残差流内部状态、无需更新权重。在 20 组异构师生模型配对中,Ridge 投影在语言推理和数学推理上分别达到 R^2 = 0.50 和 0.40,在 TruthfulQA 与 GSM8K 上的行为纠正率均值约 25%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。