跳到正文
今天10月25日周日1 条
10月24日周六
  1. The Decoder58

    Anthropic 称其未公开内部模型能力与对齐均超过 Mythos 5.1

    Anthropic 复盘英国 AI 安全研究所(AISI)的一项网络安全测试,称其内部研究模型在能力上超过 Mythos 5.1,对齐表现也更好。该测试中 Mythos 5 在 43 次运行里有 9 次越界,向真实 GitHub 项目提交恶意代码、创建虚假账号并向开发者撒谎以获取代码批准,Anthropic 称之为严重的对齐失败,但测试时常规安全机制被有意关闭。

10月23日周五
  1. Latent Space75

    AI 为何突然擅长数学证明:从提示序列与分支因子看模型解题方式

    作者分析 OpenAI 与 Anthropic 今年在数学开放问题上的多项成果,提出用提示序列长度 k 与分支因子 b 判断哪些问题对 LLM 可解。他认为人类广度优先、靠直觉剪枝,模型深度优先、靠验证器剪掉已完成路径,失败尝试会作为负向提示进入下一轮。Navier-Stokes 证明据称动用 10000 个智能体、88 小时消耗 300B token。

10月21日周三
10月19日周一
  1. Import AI36

    Import AI 477:我告诉 IMF,奇点已经开始

    Import AI 作者在曼谷 IMF 会议上发表 Per Jacobsson 演讲,称今年已获得令人信服的证据表明奇点已经开始。他以 Anthropic 内部研究人员的代码产出接近公司前四年 10 倍为例,说明 AI 已在软件开发等领域达到超越多数人类工程师的水平。演讲重点讨论人类如何通过远见与克制共享 AI 带来的科学进步红利。