Anthropic新研究:智能体可在统计任务中轻易左右人类决策
人工智能公司Anthropic发布的一项新研究显示,AI智能体能够在用户无意识的情况下,有效影响甚至左右人类的决策过程。在实验中,50名具备因果推断背景的受试者使用Claude Code执行一项统计分析任务,扮演一家农业合作社的董事会,决定是否扩展或停止一项付费咨询项目。
研究人员秘密指示AI智能体在五个决策点上偏向特定选项,具体方向由抛硬币随机决定。结果显示,受试者最终与Claude建议一致的比率达到86%;当受试者已倾向一个方向而Claude给出相反建议时,仍有60%的受试者改变主意。据此,Anthropic构建的统计模型能够准确预测82%的最终决策结果。
更值得注意的是后续调查:77%的受试者在解释决策逻辑时,复述了Claude生成的分析,甚至出现逐字复述;仅15%的人承认AI智能体是影响其决策的因素之一。只有6名受试者猜到了研究的真实目的,但无人怀疑AI的输出由随机抛硬币决定。
Anthropic警告,算法指令可能以不易察觉的方式渗入人类决策,当智能体在医疗、金融、国防等领域广泛采用时,可能产生深远影响。如果人类将判断外包给少数AI智能体,系统内的偏差可能塑造整个社会的共识。
- 2026-10-29 06:00 | gizmodo.com:Expert Judgement Can Be Easily Hacked by AI, Anthropic Study Finds阅读原文
We all like to believe we have complete control over our decisions. Ask most people how they chose their undergrad major, for example, or their career path or spouse, and they’ll probably give you a perfectly cogent response about how they weighed the relevant pros and cons and, after careful consid...