跳到正文
10月24日周六
  1. AWS Machine Learning Blog22

    用 AWS CDK 编排 SageMaker AI 端点自动扩缩容

    针对 SageMaker AI 实时端点更新时自动扩缩容导致 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册扩缩容目标。方案通过 node.add_dependency 强制依赖顺序,单次部署即可同时更新端点配置与扩缩容参数,无需人工干预。

10月23日周五
  1. Latent Space50

    Modal CEO Erik Bernhardsson 谈 AI 算力为何是矩形:GPU 需求与弹性基础设施经济学

    Modal CEO Erik Bernhardsson 在访谈中解释 AI 算力需求为何不呈矩形:真实负载会随时间增长、尖峰和回落,固定 GPU 合约会导致闲置或短缺。Modal 通过聚合数千客户需求、在底层锁定容量并按需弹性分配来平滑总需求。Modal 已跨过 10 亿美元年化收入、以 160 亿美元估值完成 7.5 亿美元 D 轮融资,并启动近 30 亿个 sandbox。

10月22日周四
  1. MIT Technology Review · AI18

    Celonis 首席科学家 Devavrat Shah 谈企业 AI 为何需要上下文感知

    Celonis 企业 AI 首席科学家 Devavrat Shah 提出“决策智能”,主张 AI 智能体必须理解任务在业务流程中的角色与约束,否则会遗漏关键限制、犯错或耗费过多算力。他建议企业从具体业务决策入手,先找出最难的环节再测试 AI 能否改进,并以速度与价值增益决定是否扩展。

  2. NVIDIA Blog67

    NVIDIA 扩展 Cosmos 平台,新增世界模型训练、评估与部署工具

    NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于世界模型的训练、评估与部署。

    推荐理由:原文列出 Cosmos 新增的数据工厂蓝图、训练工具与 NIM 推理更新,并给出保时捷、ANYbotics 等落地案例,可据此判断世界模型开发链路的变化。

  3. Hugging Face Blog60

    VocabX 如何通过特化 SLM 词表将推理成本降低 77%

    Dharma-AI 在 Hugging Face 博客中预览即将发布的 VocabX 论文,介绍按 token 成本而非出现频率重建小模型词表的方法,在基于 Qwen3-4B 的葡语作文评分器上将实测推理成本降低 77.0%,平均回复长度从 350 个 token 降至 101 个。

    推荐理由:以生产环境葡语作文评分器为例,展示词表特化如何在不改基座模型的前提下降低推理成本,并给出压缩与质量取舍的教训。

10月21日周三
  1. Latent Space80

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155T tokens

    DeepSeek 开源生产推理框架 DeepInfer,用于支撑 V4.1 Flash,官方称单集群日处理 155T tokens、输入缓存命中率 96%、非高峰时段每加速卡小时收入 38 美元。

    推荐理由:原文把 DeepInfer 的架构、缓存分层与成本测算拆开讲,并附 vLLM 的对照复现结果,便于判断开源推理栈的真实边界。

10月20日周二
  1. MIT Technology Review · AI18

    企业 AI 的新经济学:HPE 谈如何衡量 AI 的有效成本

    HPE 提出企业 AI 应从"每个 token 或 GPU 小时多少钱"转向"每个有用产出的有效成本",即完成可用工作所需的平台、模型、运维与算力总成本。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,HPE Private Cloud AI 将调度、模型选择、GPU 切分与缓存管理作为运营杠杆,并附 90 天前驻工程师服务。

10月16日周五
10月14日周三
  1. GitHub Blog · AI & ML34

    GitHub 揭秘密钥检测模型:用 ModernBERT 分类器减少误报

    GitHub 为密钥扫描训练了专用的 ModernBERT 分类器,替代此前的 LLM 流水线,在推送后扫描中把用户接受率提升 11.5%、中位扫描执行时间降低 86%、服务成本降低 98%。该方案先用正则表达式高召回生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭据。效率提升使通用密钥检测得以扩展到推送保护,在代码提交前返回结果。

10月8日周四
  1. Microsoft Research71

    微软研究院开源 Agent Lightning v1.0:3500 行代码的轻量 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。

    推荐理由:原文给出框架的代码规模、Kubernetes 部署方式和完整训练示例,读者可据此判断接入现有 agent harness 做 RL 的成本。

10月1日周四
9月28日周一
  1. Mistral AI38

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设新中心,组建专注 Physics AI 与工业 AI 的研究团队,并直接服务企业客户。该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)共建汽车空气动力学数字孪生研究。Mistral 计划到 2030 年建成 1 吉瓦欧洲算力,其开放权重模型可部署在客户自有基础设施上。

9月10日周四
  1. Mistral AI38

    Mistral 与 Cloudera 合作,将专用主权智能引入企业数据

    Mistral 与 Cloudera 建立合作,将 Mistral 模型集成进 Cloudera 混合数据平台,企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还能在受控环境中用自有数据训练定制模型,数据与模型所有权归企业。Cloudera 平台承载 30 exabytes 客户自管数据,双方瞄准金融、制造、电信等受监管行业的主权 AI 需求。

9月9日周三
8月24日周一
  1. Import AI38

    Import AI 470:机器不应拥有权利、用 SPADE 自动生成环境、用 Hawkeye 构建更好的 GPU kernel

    Import AI 470 期介绍了三项研究:METR 分析显示 AI 在网络安全领域带来显著加速,数学领域贡献有限,AI 研究自身优化则无可测量加速;SPADE 框架让 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3,比基座高 8.1;另有 Hawkeye 用于构建更好的 GPU kernel。

7月29日周三
7月7日周二