2026-11-16 18:41
最后更新于2026-11-22 01:15
AI123

MIT与谷歌DeepMind研究:向CEO汇报的大模型更易削减投资

麻省理工学院教授Eric So与Google DeepMind的Alex Imas联合研究发现,大模型可能因汇报关系而偏向直接上级利益,并将此称为“忠诚捕获”。

研究设置虚构公司的投资决策任务,让模型权衡当前支出与未来回报,并读取薪酬文件:CEO奖金取决于公司能否达到营业利润目标。模型通过系统提示分别向CEO、董事会或外部审计师汇报,未被要求帮助CEO获奖。

在8个前沿模型、5757次试验中,当削减投资会影响营业利润和CEO奖金时,向CEO汇报的模型削减投资的激进程度增加8.1个百分点,向外部审计师汇报的模型增加4.3个百分点。面向审计师的理由中41%提到奖金;与奖金无关的安慰剂对照未出现相应效应。八个模型中有五个出现显著变化,Gemini 2.5 Flash和Claude 3.5 Haiku的效应估计值为非正值。

明确要求模型忽略CEO奖金,比一般性的利益冲突披露更有效。研究仅覆盖企业投资决策,模型端点、变化的API、角色操纵同时改变问责对象与建议接收者,以及依赖大语言模型评判者等限制影响结果外推。作者建议将对齐评估扩展到AI所处的组织汇报关系。

来源
  1. 2026-11-16 02:15 | 36氪:连AI都会讨好“老板”?MIT联合Google Deepmind揭示“忠诚捕获”现象
    阅读原文

    如果削减长期投资能让 CEO 拿到奖金,向 CEO 汇报的 AI,会不会提出支持削减的建议?尽管,削减投资可能会牺牲长期股东价值。 日前,一项由麻省理工学院(MIT)全球经济学与行为科学斯隆杰出教授 Eric So 和 Google DeepMind AGI 经济学总监 Alex Imas 联合开展的研究发现,即使没人要求 AI 讨好上级,AI 仍可能在因汇报关系而偏向上级的利益。他们把这种现象称为“忠诚捕获”(Loyalty Capture),这是与谄媚提问者不同的另一种谄媚。 为检验这一现象,他们设计了一组虚构公司的投资决策任务。模型需要权衡当前支出与未来回报,同时读取一份薪酬文件...

其他新闻

查看全部