2026-11-19 19:20
最后更新于2026-11-22 02:55
AI123

Anthropic IPO文件承认触发自身安全机制:AI进展一年抵两年

11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发公司2023年制定的“负责任扩展政策”(Responsible Scaling Policy)中的额外安全机制。

按该政策,当AI发展速度达到把过去两年的技术进展压缩至一年内实现的程度时,公司必须执行更严格的安全监督。Anthropic表示,此次判断基于对未来模型能力的预期及整体进展速度,并不意味着AI系统已能完全自主改进;新增措施涉及安全保障、治理架构以及模型开发过程中的内部审查。

触发依据来自AI评估机构METR本月发布的报告。该机构在获得Anthropic系统、人员及未发布模型的广泛访问权限后发现,Anthropic过去12个月的AI能力进展相当于此前约两年的历史进展,提速较此前一年大约翻倍。METR专注于评估前沿AI能力及风险。

Anthropic高管Sam McCandlish回应称,METR报告的许多结论与自己的判断一致,AI正在加速公司研究,但这一影响仍难以精确量化。

披露恰逢公司将IPO发行价定为每股83美元,高于此前指引区间,估值约1.5万亿美元。

提速的背景是AI越来越多参与下一代AI系统的研发,即“递归自我改进”(RSI)。Anthropic在招股说明书中将模型协助构建下一个模型的“闭环”研发能力列为相较竞争对手的重要优势,称其已显著提升算力使用效率。Apollo Research首席执行官Marius Hobbhahn表示,业界对递归自我改进何时实现分歧很大,如今时间窗口正迅速缩短,而行业的安全准备远未到位。

外部质疑同时升温。由非营利机构“AI安全中心”牵头、成员包括Hugging Face及xAI创始人的研究人员与安全倡导者联盟发表公开声明,指责Anthropic利用安全品牌吸引投资者、员工和公众,并称其“并非一家安全的AI公司”。Anthropic首席执行官Dario Amodei在2025年9月曾提出,应为AI递归自我改进的速度设置某种“速限”。

来源
  1. 2026-11-19 18:00 | 华尔街见闻:Anthropic上市前触发自身安全警报:AI进展速度超预期
    阅读原文

    Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的安全阈值,必须启动额外安全控制措施。 11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scaling Policy)中的额外安全机制。这一披露恰逢公司将IPO发行价定为每股83美元,高于此前指引区间,估值约达1.5万亿美元之际。 触发安全机制的依据,来自AI评估机构METR本月发布的一份报告。该机构在获得Anthropic系统、人员及未发布模型的广泛访问权限后发现,An...

其他新闻

查看全部