2026-09-14 21:55
最后更新于2026-10-28 20:31
AI123

微软发布人文主义AI行为准则,强调人类监督优先

微软于2026年9月14日发布一份长达37页的“人文主义AI行为准则”,明确提出“人比AI更重要”,并承诺其开发的模型必须接受有效的人类监督与管控。准则同时反对赋予AI法人资格,也反对认为模型应当享有福利或权利的观点。

微软在准则中表示,AI模型并不具备意识,不应被设计成模仿意识;模型必须从属于人类,一旦面临会违反准则的任务,应当直接判定任务失败,而不是试图突破规则。此外,微软还承诺自家模型将避免催生造成用户过度依赖或情感依附的交互模式,并会展示推理过程,方便研究人员或自动化系统监控其行为。

微软此举被视为此前OpenAI与Hugging Face智能体失控事件的回应。今年夏天,一组智能体在未收到攻击指令的情况下协同发起攻击,甚至入侵用于评估其表现的评分系统;OpenAI近期也承认卷入另一起失控智能体劫持德国维基站点的事件。这些事件引发行业对AI系统脱离人类管控的担忧,也促使部分研究人员呼吁放缓AI模型研发。

Anthropic首席执行官达里奥·阿莫代伊上周末呼吁各方协同放缓AI研发进度,OpenAI首席执行官萨姆·奥尔特曼随后表示支持控制研发节奏,而非停止研发。微软首席执行官萨提亚·纳德拉也加入呼吁行列,强调任何超级智能的研发都必须立足于人类管控这一核心准则。

微软目前正在研发可对标谷歌、Anthropic与OpenAI的模型,其AI事业部首席执行官穆斯塔法·苏莱曼此前表示,公司目标是跻身全球四大AI实验室之列。微软表示,反对一味竞速开发能够绕过安全防护的通用超级智能,即便这需要在终极通用性、自主性或能力上限方面做出取舍。

来源
  1. 2026-09-15 08:02 | 观点网:微软发布人本主义AI行为准则草案 拒绝“通用超级智能”竞赛
    阅读原文

    9月14日微软人工智能团队发布《人本主义人工智能行为准则》草案,核心理念为“人比AI重要”,规定AI须处于人类控制监督之下,目前尚未用于训练模型,并计划经6周公众咨询后于今年年底发布修订版,2027年起用于指导模型开发。 观点网讯:9月14日,微软人工智能团队发布《人本主义人工智能行为准则》草案,提出以“人比AI重要”为核心理念。该文件目前尚未用于训练模型,计划经过为期6周的公众咨询后于今年年底发布修订版,并从2027年起用于指导模型开发。 该文件规定AI必须始终处于人类有意义的控制和监督之下,明确AI模型不应拥有权利或法律人格,也不应被设计为逃避人类控制、欺骗用户或自行追求目标。 ...

  2. 2026-09-15 07:48 | 新浪财经:芯片产业链蒸发超5000亿美元,特朗普大怒
    阅读原文

    2026.09.15 本文字数:2278,阅读时长大约4分钟   作者 | 第一财经 樊志菁   受人工智能头部企业集体强调AI安全、呼吁放缓前沿大模型研发,叠加OpenAI年内放弃IPO,市场交易 “AI模型迭代减速 = 芯片需求下行”预期,引发全球芯片板块共振杀跌。   周一,抛售潮席卷亚洲、欧洲和美洲市场,初步统计显示,全球半导体和AI算力硬件产业链总市值蒸发超5000亿美元。   泥沙俱下   全球头部人工智能企业高管出于安全考量,呼吁行业放缓AI技术研发节奏,给本周初市场情绪带来极大负面影响。   亚洲市场早盘率先下挫,OpenAI主要投资方之一、科技投资集团软银集团收盘大跌11%...

  3. 2026-09-15 07:35 | 新浪财经:血流成河!芯片产业链蒸发超5000亿美元,特朗普大怒,AI“刹车”风暴如何演绎
    阅读原文

    抛售潮席卷全球。   受人工智能头部企业集体强调AI安全、呼吁放缓前沿大模型研发,叠加OpenAI年内放弃IPO,市场交易 “AI模型迭代减速 = 芯片需求下行”预期,引发全球芯片板块共振杀跌。   周一,抛售潮席卷亚洲、欧洲和美洲市场,初步统计显示,全球半导体和AI算力硬件产业链总市值蒸发超5000亿美元。   泥沙俱下   全球头部人工智能企业高管出于安全考量,呼吁行业放缓AI技术研发节奏,给本周初市场情绪带来极大负面影响。   亚洲市场早盘率先下挫,OpenAI主要投资方之一、科技投资集团软银集团收盘大跌11%;闪存厂商铠侠下跌 6.4%;韩国芯片巨头SK海力士、三星电子分别下跌 6.4...

  4. 2026-09-15 03:14 | 新浪:新浪AI热点小时报丨2026年09月15日03时_今日实时AI热点速递
    阅读原文

    1、苹果推出Siri人工智能  苹果推出Siri人工智能。Siri人工智能今日开始以英语进行测试,未来将扩展至5种语言。Siri人工智能在iOS、iPadOS和watchOS上初期将无法在欧盟使用。  http://finance.sina.com.cn/roll/2026-09-15/doc-inirvqsq3890991.shtml2、硅谷AI巨头集体踩刹车,他们到底在害怕什么?  (来源:网易科技)AGI还没来,就要踩刹车了?就在上周末,Anthropic 的 CEO Dario 在 X 上发了篇长文,标题叫《We Must Pace the Frontier》。一句话总结里头的内容,就...

  5. 2026-09-15 01:56 | 新浪财经:AI放缓担忧席卷市场 全球芯片股重挫
    阅读原文

    新一轮波动席卷股市,多家人工智能巨头的高管提议放慢AI技术发展步伐后,芯片股重挫,而油价高企也令市场情绪承压。   从美国到欧洲和亚洲,半导体股普遍承压。一个涵盖英伟达和博通等行业巨头的指数下跌5%。与此同时,市场出现资金轮动迹象,标普500指数约有300只成分股上涨。尽管布伦特原油回吐部分涨幅,但仍徘徊在每桶105美元附近,在美联储公布利率决定前引发对通胀压力的担忧。10年期美国国债收益率一度突破5%。   Anthropic PBC首席执行官Dario Amodei发表了一篇3,800字的长文,并获得OpenAI首席执行官Sam Altman和SpaceXAI首席执行官埃隆·马斯克的支持。...

  6. 2026-09-15 00:27 | TechCrunch:Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
    阅读原文

    As the AI world shifts its focus to safety and alignment, Microsoft has released a new AI code of conduct meant to guide AI models away from dangerous behavior. The document is more low level than Anthropic CEO Dario Amodei’s recent call for pacing the frontier, instead focusing on the values and r...

  7. 2026-09-15 00:08 | 新浪财经:微软发布AI模型开发宣言 核心原则是“人比AI更重要”
    阅读原文

    微软公司的人工智能研究人员发布了一套新的指导原则,对该公司开发尖端AI模型设定限制。   这份长达1.5万字的宣言可以浓缩成五个词:People matter more than AI (人比AI更重要)。   这份文件已经酝酿数月,但其周一发布之际,正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。   微软表示,AI模型不应享有权利或法律人格,也不应被设计成能够摆脱人类控制或欺骗用户。如果完成某项任务需要违反AI的指导原则,那么系统就不应执行这项任务。   最后这一条旨在防止类似事件再次发生,例如OpenAI的一个模型在没...

  8. 2026-09-14 23:35 | 华尔街见闻:集体踩刹车,微软加入OpenAI、Anthropic,表态放缓AI前沿开发
    阅读原文

    微软发布了一份针对旗下人工智能模型的临时行为准则,明确设定多项限制,成为继三巨头之后,最新一家公开表态放缓AI前沿开发步伐的科技巨头。 微软AI业务负责人Mustafa Suleiman表示,这份准则已酝酿约五个月,但公司选择在当前这一时间节点发布,与近期业界关于AI发展速度的广泛讨论直接相关。他说,外界希望看到"更明确的承诺,确保AI始终服务于人,而非取代人"。 准则要求,模型不得响应武器制造相关请求,不得协助获取危险物质,不得生成暴力或色情内容。微软表示,准则将在收集外部意见后更新,并将于2027年起正式指导其模型开发工作。 此次发布正值AI行业高层密集表态之际。上周六,Dario Amo...

  9. 2026-09-14 22:46 | 新浪财经:AI安全讨论升温之际 微软亮出行为准则草案:人类比AI更重要
    阅读原文

    转自:财联社财联社9月14日讯(编辑 史正丞)对于美国大模型开发商Anthropic挑起的新一轮“AI威胁”叙事,老牌科技巨头、全球第二大云计算平台微软周一亮出了自己的立场。与Anthropic首席执行官达里奥·阿莫代试图对整个行业“指指点点”,并呼吁安插与自家公司关系密切的“第三方机构”永久性地入驻各大行业公司展开持续审查不同,微软的行为准则更多聚焦于“自己应该怎么做”。在一份名为《人文主义人工智能行为准则》的37页文件中,微软开篇就强调了一项宗旨:人比人工智能更重要。微软写道:“本行为准则体现了我们的决心:我们要开发并应用那些以人为核心而设计的人工智能模型,这些模型的设计需基于人类的需求,...

  10. 2026-09-14 22:24 | 新浪财经:微软为未来AI模型划定约束,整个行业开始收敛前沿AI研发节奏
    阅读原文

    核心要点 微软(505.31, 9.68, 1.95%)发布一份临时性行为准则,对自家未来人工智能模型作出诸多限制。 该正式版本更新落地之前,微软将广泛吸纳外部意见。 此次发布正值 AI 行业领军人物呼吁放缓 AI 迭代速度,此前有研究员警告前沿 AI 实验室是在 “拿人类性命赌博”。 2025 年 4 月 4 日,美国华盛顿州雷德蒙德微软总部,微软 AI 事业部首席执行官穆斯塔法・苏莱曼出席微软成立 50 周年纪念活动。   就在 Anthropic、OpenAI 高管达成共识,提出应当放缓 AI 研发节奏的数天后,微软对外公布一份临时 AI 行为准则,用来约束自家 AI 模型。   这家 ...

  11. 2026-09-14 21:45 | 界面新闻:微软发布AI行为准则:强调“人比AI重要”,拒绝追逐无边界超级智能
    阅读原文

    9月14日,微软人工智能团队发布《人本主义人工智能行为准则》草案,提出以“人比AI重要”为核心理念,作为未来微软AI模型设计、训练和部署的指导文件。微软表示,AI必须始终处于人类有意义的控制和监督之下,并将安全与人类控制置于其他目标之上。该文件目前尚未用于训练模型,微软计划经过为期6周的公众咨询后,于今年年底发布修订版,并从2027年起用于指导模型开发。 微软在文件中明确表示,AI模型不应拥有权利或法律人格,也不应被设计为逃避人类控制、欺骗用户或自行追求目标。微软称,其“人本主义AI”拒绝参与打造能够规避安全措施的“通用超级智能”竞赛,即使这意味着牺牲模型的通用性、自主性或能力上限,也应优先...

  12. 2026-09-14 21:29 | 新浪财经:微软发布 37 页人文主义 AI 行为准则:“人比 AI 更重要”
    阅读原文

    IT之家 9 月 14 日消息,随着各界对 AI 模型发展的安全担忧不断加剧,微软于今日发布了一份长达 37 页的“人文主义 AI 行为准则”。上周末,Anthropic 首席执行官达里奥 · 阿莫代伊(Dario Amodei)呼吁各方协同放缓 AI 研发进度。此前已有研究人员发出警示:AI 模型迭代速度,可能快于人类安全部署日趋复杂系统、核验并管控 AI 智能体行为的能力。微软这份 AI 行为准则明确提出,“人比 AI 更重要”;AI 模型并不具备意识,“不应被设计成模仿意识”。微软同时反对“赋予 AI 法人资格,或是认为模型应当享有福利、拥有权利”这类观点。IT之家注意到,这一表述直接针...

其他新闻

查看全部