2026-11-04 13:22
最后更新于2026-11-04 13:30
AI123

Anthropic工程师谈“认知投降”:再准的AI也不能交出责任

IT之家11月4日消息,Anthropic Claude Code团队工程师、前谷歌技术高管Addy Osmani在X发表长文《当AI智能体完成工作时,如何保持批判性思维》,认为AI智能体越强大,人类越容易丧失独立思考、验证结果和理解复杂系统的能力,最终将AI的判断当作自己的判断,称之为“认知投降”。

Osmani将使用AI的状态分为三层:认真检查结果的“认知卸载”、默认不再验证的“推迟判断”,以及直接把AI输出当作自己判断的“认知投降”。“认知投降”一词最初由宾夕法尼亚大学沃顿商学院研究人员提出。他还用“认知债务”形容团队对AI生成代码的理解逐渐减少,直到修改系统时才发现没人真正理解其工作原理。

他建议向AI提问前先形成初步假设,并主动寻找能推翻AI结论的证据。他认为软件开发瓶颈正从写代码转向验证代码,验收标准应是日志、运行结果等可验证证据,而非AI生成的总结;开发者还应要求Agent列出自主决定、假设和忽略的条件。对AI产出速度与人工审核速度之间的差距,他称为“编排税”,建议改进自动验证机制或降低任务生成速度。

Osmani还提醒存在“监督悖论”:监督Claude需要编程能力,但过度使用AI可能使这些能力退化。他主张错误成本低的任务可以完全交给AI,但涉及投资、职业选择、产品安全等重大决定时,人类应保留关键判断权——“可以将工作和大部分审核任务交给AI,但不能将责任也一并交出去。”

来源
  1. 2026-11-04 13:19 | 新浪:Anthropic工程师警告:AI越准人类越容易丧失独立思考能力,越依赖越难保持警惕
    阅读原文

    (来源:IT之家)  IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。  他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力,最终将 AI 的判断直接当作自己的判断。他将这种现象称为“认知投降”。  Osmani 曾在谷歌工作超过 14 年,负责过 Chrome 开发者体验及谷歌云 AI 相关业务,目前在 Anthropic 从事 Claude Code 相关工作。  他表示自己...

  2. 2026-11-04 12:44 | IT之家:Anthropic 工程师警告:AI 越准人类越容易丧失独立思考能力,越依赖越难保持警惕
    阅读原文

    IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力,最终将 AI 的判断直接当作自己的判断。他将这种现象称为“认知投降”。Osmani 曾在谷歌工作超过 14 年,负责过 Chrome 开发者体验及谷歌云 AI 相关业务,目前在 Anthropic 从事 Claude Code 相关工作。他表示自己是 AI 智能体工作流的坚定支持者...

其他新闻

查看全部