Anthropic在S-1A文件中警告：或即将触及“递归自我改进”能力门槛

2026年11月2日，Anthropic在提交给美国证券交易委员会（SEC）的修订版S-1A文件中警告，公司可能很快达到其内部定义的递归自我改进（RSI）能力。RSI指AI系统能够通过自我训练不断加速自身能力提升的阶段。

文件在风险因素部分新增了相关表述，称公司已使用AI系统加速自身研发，并已借助AI开发出新模型，其中部分模型出现的能力跃升在当时未被识别。Anthropic表示，内部估计及对未来模型的预期显示，公司可能很快达到其负责任扩展政策中“由AI导致的急剧加速进步”的定义阈值。

Anthropic同时说明，目前没有任何现有模型被认定超过该阈值，相关数据仍在评估中。公司还警告，使用AI帮助构建更强大的AI可能带来相当大的安全风险，尤其是当这一进程显著加速时。该领域已被纳入其负责任扩展政策，用于监控和缓解相关风险。

文件中还提到，公司预计在可预见的未来，不会在缺乏有意义的人类监督或理解的情况下，完全自主设计和构建下一代前沿模型。Anthropic表示正考虑更新负责任扩展政策，以保持人类对前沿模型开发的控制。