跳到正文
arXiv · cs.AI · Haoyu Li, Srikanth Kandula, Maria Angels de Luis Balaguer, Aditya Akella, Venkat Arun · 11 小时前模型评分42

Wonder:用小模型推测性预查询加速 大语言模型(LLM,Large Language Model) 智能体 结构化查询语言(SQL,Structured Query Language) 工作流

Speculative Ad-hoc Querying

导读

论文提出 Wonder 系统,让一个小型辅助大语言模型(LLM,Large Language Model)在主模型推理时推测性地准备数据库,通过构造可复用的超集查询并物化结果来减少等待。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We present Wonder, a system that exploits this advantage for analytical SQL workloads.”
  • “Wonder reduces SQL execution time by up to 31.8% and combined primary-agent reasoning and active SQL time by up to 22.6%, with approximately 6% higher recorded main-agent and prediction API cost and 10% more read I/O on the full dataset.”

来源:arXiv · cs.AI · arxiv.org