跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

5 条精选近 30 天 5 条共收录 180 条

更新

数据与训练的精选

10月31日周六第 1–5 条
  1. AWS Machine Learning Blog64

    AWS 发布 Amazon Bedrock 成本管理五步操作手册

    AWS 官方博客给出管理 Amazon Bedrock 成本的五步操作模型,依次是归因、观测、限额、优化和复盘。归因环节利用 IAM 主体标签和 CUR 2.0 把每笔推理费用落到具体用户、团队和应用,并针对共享网关角色给出按用户会话标签的解法。观测环节通过模型调用日志和请求元数据回答哪个工作负载消耗了 token,限额环节则按风险选择仅告警、IAM 拒绝或网关同步拦截三档。

    推荐理由:文章把 Amazon Bedrock 的成本治理拆成归因、观测、限额、优化、复盘五步,并给出可直接照做的配置与查询示例。

10月23日周五
  1. Microsoft Research60

    微软研究院发布 Flint-interactive,用高层语言让智能体生成可交互数据图表

    微软研究院发布 Flint-interactive,一种在 Flint 之上创建交互式数据可视化的语言,让智能体生成用户可点击、筛选、缩放、高亮并跨图表联动的图表。

    推荐理由:微软研究院把交互逻辑交给编译器处理,让智能体生成可点击、可联动的图表,减少反复调试的消耗。

10月22日周四
  1. Microsoft Research81

    微软研究院等证明 31 年悬而未决的 KLS 猜想

    微软研究院的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明对数凹分布的最佳平面切割与任意形状最佳切割只差一个与维度无关的固定常数。

    推荐理由:这项证明把困扰高维几何三十余年的猜想变为无条件结论,也展示了研究者如何筛选并引导 人工智能(AI,Artificial Intelligence) 的搜索方向。

10月13日周二
  1. Microsoft Research60

    微软研究院发布 StudentSim,用个性化学生模拟器评估和改进 人工智能(AI,Artificial Intelligence) 辅导系统

    微软研究院提出研究系统 StudentSim,用公开的去标识学习记录为每个学生训练个性化模拟器,在真实学习者测试之前评估和改进 人工智能(AI,Artificial Intelligence) 辅导系统。

    推荐理由:微软研究院提出用真实学习记录训练个性化学生模拟器,在三个学科上给出可复用的评测协议和训练反馈路径。

10月8日周四
  1. Microsoft Research73

    Microsoft Research Asia 开源 Agent Lightning v1.0,约 3500 行代码的智能体强化学习框架

    Microsoft Research Asia 开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,让部署时使用的智能体框架直接参与训练,无需在训练框架里重写智能体。

    推荐理由:框架把部署用的智能体直接接入强化学习训练,并给出约 6000 条样本提升 14.6 个百分点的完整流程,可据此判断改造成本。