arXiv · cs.AI · Maximilian Th\"urmer, Nicolas Scotto di Perto, Eloise Stein, Natanijel Vasic, Mikaeil Bagherli, Zhenguo Wu, Benjamin Klenk, Holger Fr\"oning, Johannes Feldmann · 4 小时前模型评分42
面向可扩展 大语言模型（LLM，Large Language Model） 推理解码的工作负载静态光路交换
Workload-Static Optical Circuit Switching For Scalable LLM Inference Decode
导读
研究提出工作负载静态光路交换（OCS，Optical Circuit Switching），针对 大语言模型（LLM，Large Language Model） 推理解码阶段通信结构固定的特点，按部署一次性配置光路，并与模型并行和拓扑感知的集合通信调度协同设计。
分类置信度
低
- 缺少可核实的证据摘录。
来源级别：媒体与个人
事件类型：研究发布
来源：arXiv · cs.AI · arxiv.org