两次RHT高斯近似获证,VQ或需三次
热点事件持续更新
两次RHT高斯近似获证,VQ或需三次
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Ran Ben-Basat 等作者发表论文,为量化预处理中连续两次随机 Hadamard 变换(RHT)的启发式提供理论证明:对任意 d 维输入向量,两次 RHT 后归一化旋转向量每个固定坐标的边缘分布,与标准高斯分布在 Kolmogorov 距离和 1-Wasserstein 距离上相差 O(d^{-1/2})。 论文同时称,两次 RHT 足以用于标量量化,但可能不足以用于向量量化(VQ),因为 VQ 依赖固定大小坐标块的联合分布;他们证明三次 RHT 的组合可使坐标协方差衰减。作者还提出一种线性时间 O(d) 的输入矩检查,在运行时动态调整 RHT 次数以提升性能,理由是实际输入很少是对抗性的。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 13:00
两次随机 Hadamard 变换可媲美均匀随机旋转:量化预处理启发式获理论证明报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- arXiv · cs.AI两次随机 Hadamard 变换可媲美均匀随机旋转:量化预处理启发式获理论证明
研究证明,对任意 d 维输入向量连续施加两次随机 Hadamard 变换(RHT,Randomized Hadamard Transform)后,归一化旋转向量各坐标的边缘分布与标准高斯分布在 Kolmogorov 距离和 1-Wasserstein 距离上相差 O(d^{-1/2})。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。