arXiv · cs.AI · Saarth Deshpande, Neeraja J. Yadwadkar, Venkat Arun · 7 小时前模型评分37
DIMWIT:无需大量调优,直接调用预训练模型做资源管理决策
DIMWIT: Directly Invoking Models Without Intensive Tuning
导读
DIMWIT 提出跳过任务专用策略开发,直接让预训练模型根据系统状态、目标结果和可选方案做资源管理决策。在微服务自动扩缩容、DRAM 容量配置和视频编码三项任务上,小型决策模型的副本用量与基于策略的自动扩缩器相差不超过 10%,DRAM 占用最多降低 27.5%,视频编码速度达前沿 大语言模型(LLM,Large Language Model) 的 4.3 倍,VMAF 仅下降 1.1 分。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We propose bypassing policy development and instead asking pretrained models to make resource-management decisions directly, given the current system state, desired outcome, and available choices.”
来源:arXiv · cs.AI · arxiv.org