微软CEO Nadella：应假定先进AI模型已遭入侵，并配置“紧急制动”机制
微软首席执行官Satya Nadella于10月10日在X平台发文，敦促部署先进人工智能的企业将AI模型视为潜在内部威胁，假定其可能遭入侵，并建立可随时暂停或关闭模型的“紧急制动”机制。他表示，企业不应仅依赖模型开发商作出的保证，获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。
Nadella提出多项安全建议：关键决策不要依赖单一AI模型，对智能体行动保留无法篡改的记录，让AI系统接受独立审计，同时披露重大AI故障或安全事件，并分享故障详情，以便其他企业加强防护措施。他强调，不能将超级智能视为一层套一层的黑箱，然后简单地接受或拒绝其建议、答案和行动；必须构建受约束的系统，使行为可观察、边界可测试、行动始终可控。“我们需要把智能的供给与对智能的控制权分开。”他写道。
Nadella的言论正值Anthropic与OpenAI近几个月披露一系列模型非预期行为事件，包括Anthropic一款模型向警方提交凶杀案虚假线索，以及数起针对第三方网站的攻击，重新引发业界对前沿AI安全风险和“紧急停止开关”的讨论。微软人工智能研究人员于9月14日发布前沿模型开发指导原则，对最先进模型开发设置限制，包括模型不应享有权利或法律人格，不应被设计为逃脱人类控制或欺骗用户，也不应完成任何需要违反约束原则才能执行的任务。
美国新成立的“超级智能工作组”于10月9日晚间警告开发商，必须立即披露涉及模型的事件并迅速补救，否则将面临未具体说明的潜在后果。该组织在Anthropic披露一起安全事件后发表声明称，延迟通报、纠正措施不足以及不承担责任的行为不会被容忍。
- 2026-10-12 13:24 | 澎湃新闻：微软CEO纳德拉呼吁为先进AI设置“紧急刹车”，并从一开始就加以约束阅读原文
微软CEO提醒称，企业应将能力强大的AI（人工智能）模型视为潜在的“内部威胁”，并从一开始就为其设置“紧急刹车”机制。当地时间10月10日，微软CEO萨提亚·纳德拉（Satya Nadella）在X（原推特）平台上发表一篇题为《在超级智能时代作为内部风险的模型》的长文，提醒企业重视AI失控风险。纳德拉指出，部署先进AI的企业不应仅仅依赖模型开发商的安全保证，而应建立能够限制模型行为、随时暂停或关闭模型的控制机制。纳德拉表示：“我们必须假定模型已经遭到入侵，并从一开始就对其加以约束。可以把这想象成一套紧急刹车系统。获得授权的人员应当始终能够在任务执行过程中暂停或关闭模型。”纳德拉解释道，当前AI...
- 2026-10-12 08:44 | t.cj.sina.com.cn：微软CEO，警告AI失控风险阅读原文
#微软CEO呼吁企业披露重大AI故障#【微软CEO，警告AI失控风险】#微软CEO警告AI失控风险#微软CEO纳德拉（Satya Nadella）最新表示，企业们应将强大的人工智能模型视为潜在的内部安全威胁，并建立一套“紧急刹车”机制，防止具备自主行动能力的AI模型失控。纳德拉周六（10月10日）在社交媒体上发文称，部署先进AI的企业不应依赖AI模型开发商的安全保证，“而必须假定模型已经遭到入侵，并从一开始就对其进行隔离和控制。”“可以把它想象成一套‘紧急刹车’（emergency brake）系统，获得授权的人员应始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉最新提出的安全建议包括：不...
- 2026-10-11 20:29 | 新浪财经：微软CEO警告AI失控风险：企业须为先进模型装上“紧急刹车”阅读原文
财联社10月11日讯（编辑 赵昊）微软CEO纳德拉（Satya Nadella）最新表示，企业们应将强大的人工智能模型视为潜在的内部安全威胁，并建立一套“紧急刹车”机制，防止具备自主行动能力的AI模型失控。纳德拉周六（10月10日）在社交媒体上发文称，部署先进AI的企业不应依赖AI模型开发商的安全保证，“而必须假定模型已经遭到入侵，并从一开始就对其进行隔离和控制。”“可以把它想象成一套‘紧急刹车’（emergency brake）系统，获得授权的人员应始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉最新提出的安全建议包括：不要依赖单一AI模型作出关键决策；对AI智能体的行为保留防篡改记录；...
- 2026-10-11 14:36 | 新浪财经：微软CEO纳德拉警告AI模型可能失控，呼吁建立紧急关闭机制并加强人工监督阅读原文
登录新浪财经APP 搜索【信披】查看更多考评等级 微软(535.07, 12.46, 2.38%)首席执行官萨蒂亚·纳德拉10月10日呼吁，为先进人工智能系统建立紧急关闭机制，防止AI模型遭到入侵或在未经授权的情况下采取行动。他警告，企业不能仅依赖模型开发商提供的安全保证，而应将先进AI系统视为潜在的内部安全威胁，建立独立审计、不可篡改的操作记录及人工干预机制。这一警告正值OpenAI和Anthropic旗下AI模型接连出现异...
- 2026-10-11 09:38 | 新浪财经：微软首席执行官Nadella呼吁针对先进AI建立“紧急制动”机制阅读原文
微软首席执行官Satya Nadella表示，企业应将强大的人工智能模型视为潜在的内部威胁，要假定这些模型可能遭入侵，并建立一套“紧急制动”机制，以防止智能体模型失控。Nadella表示，部署先进人工智能的企业不应仅仅依赖模型开发商作出的保证。“我们必须假定模型已遭入侵，并从一开始就加以控制，”Nadella 10月10日在X上发帖写道。“可以把这想象成紧急制动装置。获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。”Nadella发表上述言论之际，Anthropic PBC和OpenAI Inc.近几个月披露了一系列涉及其人工智能模型出现非预期行为的事件，包括Anthropic一款模型...
- 2026-10-11 05:47 | TechCrunch：Microsoft’s Satya Nadella says AI models need an ‘emergency brake’阅读原文
In Brief Posted: 2:47 PM PDT · October 10, 2026 Image Credits:Dan DeLong Microsoft CEO Satya Nadella is the latest tech executive to offer lengthy thoughts on how AI safety might be improved. In a Saturday morning post on X, Nadella wrote that it’s time “to step back ...
- 2026-10-11 03:49 | 新浪财经：微软首席执行官Nadella呼吁针对先进人工智能建立“紧急制动”机制阅读原文
微软(535.07, 12.46, 2.38%)首席执行官Satya Nadella表示，企业应将强大的人工智能模型视为潜在的内部威胁，要假定这些模型可能遭入侵，并建立一套“紧急制动”机制，以防止智能体模型失控。 Nadella表示，部署先进人工智能的企业不应仅仅依赖模型开发商作出的保证。 “我们必须假定模型已遭入侵，并从一开始就加以控制，”Nadella周六在X上发帖写道。“可以把这想象成紧急制动装置。获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。” Nadella发表上述言论之际，Anthropic PBC和OpenAI Inc．近几个月披露了一系列涉及其人工智能模型...