2026-10-27 08:40
最后更新于2026-10-28 13:46
AI123

微软CEO纳德拉:AI对齐不会随模型能力增强而自动解决

微软首席执行官萨提亚·纳德拉在近期播客节目《20VC》中表示,他改变了对人工智能对齐问题的看法。他原本认为,随着AI模型能力不断增强,确保AI行为符合人类价值观和目标的“对齐”问题会自然而然得到解决,但现在他不再相信两者会同步发展。

纳德拉称,模型规模扩大带来的能力提升符合预期,但对齐问题仍未解决。他认为,对齐可能是一个更棘手、性质也不同的问题。此前,他于2026年10月10日在社交媒体发文警告AI风险,主张加强外部安全管控,建议企业将AI模型视为内部安全威胁,在防护措施中假定模型可能遭到入侵,并强调需要通过可靠的系统设计、人工管控和完善的操作规程建立防护机制,对现有标准不足的领域制定行业标准。

纳德拉并非唯一持此观点的科技行业高管。OpenAI首席执行官萨姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫代伊也曾就AI潜在威胁发出警告。2026年7月,超过1000名AI从业者联署公开信,警告AI能力发展速度可能超过人类理解或控制它的能力。

来源
  1. 2026-10-27 12:47 | 华尔街见闻:微软CEO:微软也在混用廉价模型,算力价格战不可避免,五年后企业核心资产将是“专有评测基准”
    阅读原文

    2026年10月26日,微软董事长兼CEO萨提亚·纳德拉做客风投播客20VC,与主持人哈里·斯特宾斯进行了一场24分钟的对话。 (左:微软董事长兼CEO萨提亚·纳德拉;右:20VC主持人哈里·斯特宾斯) 这场访谈的时间点需要留意。五天前,10月21日,纳德拉在伦敦ExCeL会展中心的Microsoft Frontier Tour现场做开场演讲,6500名合作伙伴与客户到场。他提出企业部署AI必须解决三件事:把人留在决策回路中、掌控自己的知识、建立信任。这场播客是同一套判断面向投资人的展开版本。 针对市场最关心的算力成本和模型竞争格局,纳德拉直言,从技术规律来看,绝大多数特定场景的业务任务,模型...

  2. 2026-10-27 08:54 | 新浪:微软CEO纳德拉:以前我认为AI越强大也会越安全,现在不信了
    阅读原文

    (来源:IT之家)  IT之家 10 月 27 日消息,据《商业内幕》今天(27 日)早间报道,微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为,AI 系统越强大,就越容易让其行为符合人类的价值观和目标,但现在,自己不再相信两者会自然而然地同步发展。  在新一期《20VC》播客中,主持人哈里 · 斯特宾斯问纳德拉,过去一年里有什么想法发生了改变。纳德拉解释,他原本认为,随着 AI 能力不断提高,确保 AI 行为符合人类价值观和目标的“对齐”问题也会迎刃而解。  模型规模扩大带来的效果符合纳德拉的预期,AI 能力持续提升,但对齐问题依然没有得到解决。“我过去总以为,对...

  3. 2026-10-27 08:23 | IT之家:微软 CEO 纳德拉:以前我认为 AI 越强大也会越安全,现在不信了
    阅读原文

    IT之家 10 月 27 日消息,据《商业内幕》今天(27 日)早间报道,微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为,AI 系统越强大,就越容易让其行为符合人类的价值观和目标,但现在,自己不再相信两者会自然而然地同步发展。在新一期《20VC》播客中,主持人哈里 · 斯特宾斯问纳德拉,过去一年里有什么想法发生了改变。纳德拉解释,他原本认为,随着 AI 能力不断提高,确保 AI 行为符合人类价值观和目标的“对齐”问题也会迎刃而解。模型规模扩大带来的效果符合纳德拉的预期,AI 能力持续提升,但对齐问题依然没有得到解决。“我过去总以为,对齐问题自然就会解决。我不再这么...

其他新闻

查看全部