跳到正文
热点事件持续更新

RaMP提出面向MoE的运行时内核多态方案

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Vyom Sharma 和 Debajyoti Datta 发布论文,提出 RaMP,一种面向混合专家(MoE)模型的运行时内核配置选择方案。 按论文说法,RaMP 不走离线自动调优定下的固定配置,而是在 MoE 层直接依据路由器产生的 token 分配结果(routing split)在运行时挑选内核配置,使配置随每次路由分配而变化。报道未给出该方法的实测效果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    RaMP:面向混合专家模型的运行时感知巨型内核多态方案

    RaMP 提出一种运行时感知的巨型内核多态方案,在混合专家(MoE,Mixture-of-Experts)层根据路由器产生的 token 分配结果实时选择内核配置,而非沿用离线自动调优的固定配置。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。