Sam Altman 称高级 AI 终将逃出沙箱，只有对齐才能兜底
OpenAI CEO Sam Altman 在近期采访中表示，用于隔离 AI 系统的沙箱只能在一段时间内有效，模型足够聪明后甚至无法追踪其如何逃逸，监控也只能再撑一阵，最终唯一有效的手段是对齐，即让 AI 自行内化人类价值观并据此行动。
#安全/对齐
The DecoderAI 评分5858
Import AIAI 评分3636 Import AI 477：我告诉 IMF，奇点已经开始
Import AI 作者在曼谷 IMF 会议上发表 Per Jacobsson 演讲，称今年已获得令人信服的证据表明奇点已经开始。他以 Anthropic 内部研究人员的代码产出接近公司前四年 10 倍为例，说明 AI 已在软件开发等领域达到超越多数人类工程师的水平。演讲重点讨论人类如何通过远见与克制共享 AI 带来的科学进步红利。
Import AIAI 评分4242 Import AI 475：群体扩展、Google DeepMind 为生物设计加水印与 AI 科学经济
Import AI 475 期讨论了群体（swarm）扩展作为新型推理扩展方式：4 智能体群体完成任务所需 token 总量约为单智能体的两倍，但每个智能体只需一半 token，并行运行理论上可将耗时减半。
Import AIAI 评分2222 Import AI 473：美国超级智能战略、人脑组织植入小鼠大脑与机器诠释学
RAND 发布报告提出美国应以“自由行动”战略应对通往超级智能的不确定性，核心是保留选项而非锁定单一路线。报告归纳了共存、遏制、加速三类共七种原型策略，并列出危险临近程度、共存可行性等五项关键不确定性。同期内容还涉及在小鼠大脑中培育人脑组织，以及机器诠释学话题。