Wonder：用小模型推测性预查询加速LLM的SQL工作流

Haoyu Li 等作者发布论文，提出推测式查询系统 Wonder：在主模型推理的同时，让一个小型辅助大语言模型推测性地准备数据库，通过构造可复用的超集查询并物化结果，减少 SQL 工作流的等待时间。 论文称，Wonder 使 SQL 执行时间最多减少 31.8%，主智能体推理与活跃 SQL 时间合计最多减少 22.6%。这一加速伴随额外开销：主智能体与预测 API 的成本约高 6%，在全数据集上读 I/O 增加约 10%。上述数据均为论文作者报告的结果。

AI 根据报道生成 · 5 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。