2026-11-20 17:36
最后更新于2026-11-21 20:05
AI123

Anthropic上市首日,前研究员考克森在总部外要求封禁AI递归自我改进

据《商业内幕》报道,当地时间2026年11月19日,Anthropic股票首次上市交易当天,前研究员雅各布·考克森与数十名抗议者聚集在其旧金山总部外,要求禁止递归自我改进。抗议者举标语、喊口号,考克森、OpenAI前研究员丹尼尔·科科塔伊洛和YouTube博主罗布·迈尔斯发表演讲,随后赶到的Stop AI成员封堵了办公楼入口。

考克森在接受采访时说:“他们买不买股票根本不重要。我们必须阻止递归自我改进。”他在演讲中呼吁Anthropic游说政府,并与其他企业合作,推动全面禁止该技术,称“到了这个地步,企业本身就是问题”。他还称,2027年全球只有少数地方能实现递归自我改进,而这里就是其中之一。

AI安全研究机构METR在一份独立报告中发现,AI正帮助Anthropic加快研发进度。Anthropic也在IPO招股说明书中承认,让AI在缺乏监督的情况下完全自主设计下一代模型并不安全,目前正考虑修改政策,确保前沿AI模型的开发仍由人类掌控。考克森认为,仅靠这些措施还不够。科科塔伊洛则形容,这种事“简直就是漫画里那些疯狂科学家式的超级反派才会干的”。

来源
  1. 2026-11-20 17:06 | IT之家:Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进
    阅读原文

    IT之家 11 月 20 日消息,据《商业内幕》报道,今年 9 月,Anthropic 前研究员雅各布 · 考克森因担忧 AI 发展而离职,并在美国引发了对 AI 技术的广泛恐慌。时间来到当地时间 19 日,随着 Anthropic 股票首次上市交易,考克森再次呼吁公众关注 AI 安全问题。这次,他在接受采访时强调:“他们买不买股票根本不重要。我们必须阻止递归自我改进。”IT之家注:“递归自我改进”指让先进 AI 系统参与训练下一代 AI,从而推动 AI 能力不断提升。当天,考克森与数十名抗议者聚集在 Anthropic 旧金山总部外,要求禁止有关技术。抗议者举着标语、高喊口号,现场还有考克森...

其他新闻

查看全部