spaCy作者质疑MIT Astra研究:读写权重被指偷换概念
MIT团队此前宣称,Astra仅修改Qwen3.5-0.8B的0.016%权重,就让其数学成绩从7.9%提升至48.1%,约为原来的6倍。spaCy作者、Explosion联合创始人Matthew Honnibal于2026年11月5日发布长文博客,称这项研究“存在严重误导”。
Honnibal梳理论文中的8组实验后指出,Astra展示的三项能力,其实验条件差别很大。在识别小型网络任务、修复卡住的赛车模型等实验中,Astra确实只把原始权重数字(raw floats)作为输入,不能运行Python,也不能执行目标网络来观察其行为,且涉及的模型参数量仅1.7万至17.2万。
但在Qwen修复实验中,Astra并未直接读取原始权重,它被授权使用Python编程,最多可进行50次前向测试,通过运行模型、观察表现来分析和修改权重。Honnibal认为,把两种路径一并包装成“读写AI大脑”的能力,容易让读者误以为在小模型上实现的“读脑术”可以原样扩展到8亿参数的模型。
他也承认,让AI被提示去编写代码,用来分析甚至直接修改网络权重,本身就是一项工程突破:一两年前的模型在这些任务上都会失败。问题出在成果的呈现方式。原文:https://honnibal.dev/blog/astra-read-write-misleading
- 2026-11-05 17:34 | 36氪:MIT神作被锤爆:Astra爆改Qwen权重?就吹吧阅读原文
Astra修改小模型权重?MIT那篇爆火研究,被大佬公开质疑了。 Astra前两天刚刚凭借一项惊人能力刷屏AI圈——不用训练、不算梯度,直接修改另一个AI模型的权重。 MIT团队宣称,Astra仅修改Qwen3.5-0.8B的0.016%权重,就让数学成绩从7.9%暴涨至48.1%,相当于提升到原来的6倍多。 如今,事情似乎出现了反转。 一位来头不小的圈内大佬发布长文博客,直接炮轰: 这项研究存在严重误导。 质疑者叫Matthew Honnibal,spaCy的作者、AI公司Explosion的联合创始人。 魔术师戏法 这背后到底发生了什么?...