NVIDIA 扩展 Cosmos 平台,新增世界模型训练、评估与部署工具
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于世界模型的训练、评估与部署。
推荐理由:原文列出 Cosmos 新增的数据工厂蓝图、训练工具与 NIM 推理更新,并给出保时捷、ANYbotics 等落地案例,可据此判断世界模型开发链路的变化。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于世界模型的训练、评估与部署。
推荐理由:原文列出 Cosmos 新增的数据工厂蓝图、训练工具与 NIM 推理更新,并给出保时捷、ANYbotics 等落地案例,可据此判断世界模型开发链路的变化。
Dharma-AI 在 Hugging Face 博客中预览即将发布的 VocabX 论文,介绍按 token 成本而非出现频率重建小模型词表的方法,在基于 Qwen3-4B 的葡语作文评分器上将实测推理成本降低 77.0%,平均回复长度从 350 个 token 降至 101 个。
推荐理由:以生产环境葡语作文评分器为例,展示词表特化如何在不改基座模型的前提下降低推理成本,并给出压缩与质量取舍的教训。
DeepSeek 开源生产推理框架 DeepInfer,用于支撑 V4.1 Flash,官方称单集群日处理 155T tokens、输入缓存命中率 96%、非高峰时段每加速卡小时收入 38 美元。
推荐理由:原文把 DeepInfer 的架构、缓存分层与成本测算拆开讲,并附 vLLM 的对照复现结果,便于判断开源推理栈的真实边界。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。
推荐理由:原文给出框架的代码规模、Kubernetes 部署方式和完整训练示例,读者可据此判断接入现有 agent harness 做 RL 的成本。