MIT爆改Qwen权重被质疑，真相究竟如何

麻省理工学院（MIT）此前公布的一项研究在人工智能圈引发关注：AI系统Astra被宣传具备一种惊人能力——无需训练、不计算梯度，即可直接修改另一个AI模型的权重。论文指出，Astra仅修改了Qwen3.5-0.8B模型0.016%的权重，就将其数学评测准确率从7.9%拉升至48.1%，性能暴涨6倍。

这一结论让不少人惊呼“AI已经能够透视并修改另一个AI的大脑”。然而，随着圈内专家的深入拆解，这项研究迎来了反转。

自然语言处理库spaCy作者、AI公司Explosion联合创始人Matthew Honnibal公开发文直言：这项研究的呈现方式存在严重误导。

魔术师式的“障眼法”

Honnibal用舞台魔术来比喻MIT这项研究的呈现逻辑：魔术师在多次表演同一套戏法时，每一次都使用完全不同的机关，却给观众制造出“同一种高超技法”的假象。

仔细阅读该论文可以发现，研究实际展示了三组完全不同的能力：

1. 读权重：仅查看原始权重浮点数，识别微型神经网络正在执行的任务。
2. 写权重：在不依赖外部环境反馈的情况下，直接生成或修改小型网络参数，使其学会玩简单游戏。
3. 修复大模型：通过调整部分参数，大幅提高Qwen模型的数学解题能力。

论文摘要给外界传递的核心印象是，Astra凭借“直接观察原始权重”的统一机制，实现了对其他模型的理解与修复。但梳理论文中的8组实验后会发现，实现这三项任务的底层条件存在巨大差异。

两种截然不同的技术路径

在任务识别和微型网络控制实验中，Astra确实做到了“纯读权重”。实验限制极为严苛：

• 原始权重数据（raw floats）作为提示词直接输入Astra的上下文窗口；
• 严禁Astra运行Python代码；
• 严禁运行目标模型以观察实际行为。

在这一模式下，Astra处理的网络参数规模极小，仅在1.7万至17.2万之间。这种能力本身具备理论探索价值，但距离真正解析现代大语言模型仍有本质差距。

然而，在备受瞩目的Qwen数学能力修复实验中，实验环境完全变了样。

面对拥有8亿参数的Qwen模型，Astra并没有直接输入或分析庞大的原始浮点数权重。研究团队赋予了Astra编写并执行Python脚本的权限，并允许其进行最多50次前向推理测试。Astra通过让模型运行测试题、观察输出结果，再根据表现编写代码来分析和微调权重。

这意味着，在处理参数规模较大的实用模型时，Astra并不是在“直接读取神经网络思维”，而是扮演了一个编写调试脚本、反复测试验证的外部工程师角色。将微型网络上的“纯权重感知”与大语言模型上的“外部代码调试”打包归纳，极易让读者误以为纯读脑技术已经能够无缝扩展到现代大模型上。

剥离光环后的真实价值

尽管宣传口径存在夸大，但并不代表这项研究缺乏价值。

Honnibal指出，抛开“读脑神技”的光环，Astra展现出的工程水平依然可圈可点。系统能够通过提示词理解目标，自主编写测试代码，分析前向推理结果，并精准定位需要干预的特定参数位置。在以往的技术条件下，此类复杂的调试流程完全依赖资深机器学习工程师完成。

这一进展表明，顶尖前沿大模型在工具使用、代码编写以及复杂逻辑推理层面，已经具备了充当“初级AI工程师”的潜能。只是学术成果应当以严谨透明的方式呈现，而非将工具调用与参数感知的界限模糊化，助长不必要的行业泡沫。