VocabX 如何通过特化 SLM 词表将推理成本降低 77%
Dharma-AI 在 Hugging Face 博客中预览即将发布的 VocabX 论文,介绍按 token 成本而非出现频率重建小模型词表的方法,在基于 Qwen3-4B 的葡语作文评分器上将实测推理成本降低 77.0%,平均回复长度从 350 个 token 降至 101 个。
推荐理由:以生产环境葡语作文评分器为例,展示词表特化如何在不改基座模型的前提下降低推理成本,并给出压缩与质量取舍的教训。
Dharma-AI 在 Hugging Face 博客中预览即将发布的 VocabX 论文,介绍按 token 成本而非出现频率重建小模型词表的方法,在基于 Qwen3-4B 的葡语作文评分器上将实测推理成本降低 77.0%,平均回复长度从 350 个 token 降至 101 个。
推荐理由:以生产环境葡语作文评分器为例,展示词表特化如何在不改基座模型的前提下降低推理成本,并给出压缩与质量取舍的教训。
Hugging Face 博客发布 TorchNeuron 性能剖析系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 系统分析推理性能。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,确认高维对数凹分布的最优超平面切割与任意形状切割之差不超过一个与维度无关的固定常数。
推荐理由:读者可了解 KLS 猜想如何被证明,以及人类主导、AI 智能体并行探索并筛选的研究流程如何运作。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约需 12 毫秒。
Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M、209M 四个尺寸,最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准的预训练零样本模型中排名第一,参数量约为此前 SOTA 的三分之二。
推荐理由:原文给出四个尺寸的参数量、三项基准排名和 CPU 推理延迟,便于判断时间序列基础模型的选型边界。
Google DeepMind 发布 Gemini 4 Argon,主打物理理解、代码生成与视觉语义推理,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,称超过其他前沿模型。
推荐理由:原文给出 ERQA 87% 的成绩与四类机器人工作流示例,可据此判断该模型在具身任务中的能力边界。
Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和消费者开放,通过 Gemini API、AI Studio、Antigravity 及 Gemini 应用和搜索 AI Mode 提供。
推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和基准表现,可据此判断前沿模型在长程任务上的进展。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,之后再逐步扩展到开发者、企业和消费者。
推荐理由:官方披露 Gemini 4 Argon 的评测成绩、内部落地案例与分阶段开放策略,可据此判断前沿模型在编码与网络安全上的能力边界。
IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 框架扩展出 MLX 后端,并设计结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核经验自动适配 Apple Silicon。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。文章对比了 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
Berkeley AI Research 提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中直接注入随机性以探索,并重塑梯度让动作获得清晰信号。该方法针对长时程规划中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉模型梯度脆弱等问题,使基于梯度的长时程规划更稳健。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 中驱动输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10 倍更少的消融达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。