奥特曼称可更激进推进模型自我进化,但眼下无法安全做到
在2026年11月18日举行的Semafor峰会上,OpenAI CEO萨姆·奥特曼被问及公司是否已进入递归自我改进(RSI)阶段。他回应称,OpenAI早已在用自家技术加快新一代模型研发,但眼下还没到“按下按钮、让模型在无人监管下飞速自我进化”的地步。
奥特曼随后表示:“我们其实可以比现在更激进地往RSI的方向上推,但我认为我们眼下还没法安全地这么干。”这一表态划出了当前的安全边界:公司具备更激进推进的能力,但暂不选择这样做。
- 2026-11-18 23:36 | 36氪:奥特曼给「AI造AI」踩刹车,方向盘必须握在人类手中阅读原文
AI已经在帮OpenAI造下一代GPT了。 可真要把研发方向盘彻底交给AI,奥特曼还是亲自踩了一脚刹车。 11月16日,在Semafor的活动现场,谈及「递归自我改进」(RSI),奥特曼当场划下一道红线: 我们本可以进一步向递归自我改进推进,但我不认为现在能安全地这么做。 潜台词很明显:不是现在技术上推不动,而是真不敢撒手。 奥特曼表示,OpenAI可以进一步推进递归自我改进,但目前还无法安全地这么做。 毕竟,一旦模型开始自己迭代自己,谁来盯住它有没有悄悄跑偏? 奥特曼也没有只在口头上喊刹车。 紧接着,他又亮出了OpenAI最近在安全上的实招:把包括MET...
- 2026-11-17 15:44 | 36氪:奥特曼坦言不敢全速训AI,RLHF之父推演GPT-10夺权,警告推翻人类阅读原文
用AI加速训练下一代AI,这件事在OpenAI内部已经司空见惯了。 但再往前一步呢? 就在刚刚落幕的Semafor峰会上,主持人直接问到了外界最关心的那个临界点:「你们现在已经进入RSI阶段了吗?」 对此奥特曼回答道,OpenAI早已在用自家的技术加快新一代模型研发。 只不过,眼下还没到「按下按钮、让模型在无人监管下飞速自我进化」的地步。 但随后他话锋一转:「我们其实可以比现在更激进地往RSI的方向上推,但我认为我们眼下还没法安全地这么干。」 那颗能让AI自我进化的按钮明明已经摆在桌面上,为什么连一贯激进的奥特曼都不敢把它按到底? 就在同一天,坐在OpenAI...