arXiv · cs.AI · Vyom Sharma, Debajyoti Datta · 8 小时前模型评分43
RaMP:面向混合专家模型的运行时感知巨型内核多态方案
RaMP: Runtime-Aware Megakernel Polymorphism for Mixture-of-Experts
导读
RaMP 提出一种运行时感知的巨型内核多态方案,在混合专家(MoE,Mixture-of-Experts)层根据路由器产生的 token 分配结果实时选择内核配置,而非沿用离线自动调优的固定配置。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “Hence, we introduce RaMP, which chooses the kernel configuration at run time from the routing split itself.”
来源:arXiv · cs.AI · arxiv.org