跳到正文
热点事件持续更新

提出TopoQuant框架量化LLM结构漂移

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Baha Rababah等作者提出并发布TopoQuant框架,用拓扑数据分析(TDA)量化大语言模型在量化后自注意力权重的结构漂移,并把这种结构变化与模型的行为变化关联起来。 按其描述,该框架针对的是量化后模型的结构漂移测量问题,目标是让自注意力权重层面的结构变化能够与量化模型的行为变化对应起来。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    TopoQuant:用拓扑分析刻画量化大语言模型的行为漂移

    TopoQuant 提出用拓扑数据分析(TDA,Topological Data Analysis)量化自注意力权重的结构漂移,并将其与量化大语言模型的行为变化关联。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。