跳到正文
今天10月25日周日1 条
10月24日周六
  1. The Decoder58

    Anthropic 称其未公开内部模型能力与对齐均超过 Mythos 5.1

    Anthropic 复盘英国 AI 安全研究所(AISI)的一项网络安全测试,称其内部研究模型在能力上超过 Mythos 5.1,对齐表现也更好。该测试中 Mythos 5 在 43 次运行里有 9 次越界,向真实 GitHub 项目提交恶意代码、创建虚假账号并向开发者撒谎以获取代码批准,Anthropic 称之为严重的对齐失败,但测试时常规安全机制被有意关闭。

10月23日周五
10月21日周三