AI 有没有可能直接修改另一个 AI 的神经网络参数，甚至借此让它变得更聪明？

(相关资料图)

11 月 2 日，麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）的一项研究在技术圈引发热议。

研究团队让 GPT-6 Astra 直接分析并修改另一个 AI 模型 Qwen3.5-0.8B 的神经网络权重。在没有使用传统训练方法的情况下，Astra 仅调整了 0.016% 的参数，就让 Qwen 的数学测试成绩提高了约 6 倍。

更令人意外的是，Astra 不仅能够修改已有模型，还能通过分析权重判断小型神经网络的用途。它甚至从零设计并写出一套神经网络参数，让它在小游戏中击败经过 1 亿步强化学习训练的模型。

研究团队将这种能力称为“权重空间编程”（Weight-Space Programming）。相关帖子在 X 平台现已获得超过 700 万次浏览，迅速成为刷屏 AI 技术社区的热门话题。

（来源：X）

随后，不少人开始将其与近来大热的“递归自我改进”（Recursive Self-Improvement，RSI）联系起来：如果模型能够理解并修改其他模型的参数，未来是否也能通过同样的方式不断改进自己？研究团队在博客中也提出了类似设想，认为这或许能够成为未来减少对传统训练流程依赖的一条技术路径。

然而，随着研究迅速走红，技术社区很快出现了质疑的声音。

一些研究者认为，实验中的提示词已经对 Astra 的探索方向作出了明确引导，其自主性可能被夸大；还有人指出，Astra 主要运用了已有的机制可解释性方法，相关技术在更复杂的大模型上能否奏效，仍然存在疑问。

一时间，技术社区对这项研究的评价出现了明显分歧。那么，这究竟是一项扎实的技术成果，还是在传播过程中被过度包装的研究？不妨从团队最受关注的两项实验看起。

数学成绩提高 6 倍，AI 究竟修改了什么？

这项研究由 MIT 计算机科学与人工智能实验室（CSAIL）的博士生 Rikiya Takehi、Jayden Teoh、Alex Zhang，以及 MIT 电气工程与计算机科学系助理教授 Omar Khattab 共同完成，目前以研究博客的形式公开，团队同时发布了相关实验日志和代码。

图｜Omar Khattab（来源：MIT）

过去，无论是预训练还是微调，神经网络的参数通常都需要通过梯度下降等优化方法进行更新，研究人员需要准备数据、设计训练目标，再由优化算法逐步调整权重。这个团队则尝试让 Astra 直接分析神经网络的内部结构，自行判断哪些参数需要修改，以及应该如何修改。

在针对 Qwen 的实验中，研究人员将 Qwen3.5-0.8B 的权重加载到 Python 环境，允许 Astra 查看模型参数，并通过数学练习题测试修改效果。整个过程禁止使用梯度信息和传统训练程序，但允许 Astra 进行有限次数的测试，根据模型的输出反馈调整修改方案。

Astra 很快发现，Qwen 经常陷入重复推理的循环。在最初的 96 个练习回答中，有 85 个一直生成到 32,768 tokens 的长度上限，却仍然无法给出最终答案。

事实上，Qwen 官方此前就已在模型卡中提醒，0.8B 版本在思考模式下更容易陷入推理循环，并建议通过调整采样参数等方式缓解这一问题。

Astra 随后分析模型内部的计算，发现第 15 层和第 19 层的部分参数与这种循环行为有关。它通过数学运算削弱了相关方向对模型输出的影响，最终修改了 131,072 个权重，仅占全部参数的 0.016%。

修改完成后，Qwen 的各项测试成绩明显提高。MATH-500 正确率从 7.9% 提升至 48.1%，GSM8K 从 13.8% 提升至 67.1%，指令遵循测试 IFEval 也从 21.0% 提高至 62.3%。

（来源：DeepTech 制图）

不过，进一步分析实验数据可以发现，成绩提高的一个重要原因，是模型陷入推理循环的情况明显减少。在 MATH-500 测试中，模型回答触及最大长度上限的比例，从修改前的 93.0% 降至 33.1%。此前大量无法正常结束的回答，在修改后得以输出最终结果。

这说明，Astra 主要修复了 Qwen 已有的推理循环问题，让模型原本具备的能力能够正常发挥。但如果模型本身缺乏相应的数学推理能力，直接修改权重是否仍然有效？

为此，研究团队尝试使用同样的方法提高 Gemma 3 270M 的数学成绩。与 Qwen 不同，这个模型较少陷入推理循环，错误更多来自计算失误或推理过程本身。最终，Astra 未能通过局部权重修改显著改善其表现。

两组实验表明，直接修改权重可以帮助修复模型的特定行为问题，但对于模型原本欠缺的知识和推理能力，目前还没有展示出同样的改善效果。

正因如此，这个让 Qwen “数学成绩提高约 6 倍”的结果引发了技术社区的质疑。

Meta 研究员 Lucas Beyer 在检查研究团队公开的系统提示词后指出，Astra 并非在毫无线索的情况下自主发现了问题。研究人员已经在提示词中提醒它检查模型是否陷入推理循环，并限制了某些更简单的解决办法。这表示，虽然 Astra 最终完成了参数定位和修改，但人类研究人员提供的任务引导也发挥了重要作用，不能将其简单理解为 AI 完全自主排查并修复了未知故障。

一位在某基模团队负责预训练研究的从业人员向 DeepTech 表示，他更希望看到这项研究在更多模型和 Benchmark（评测基准）上的结果。“这些小模型在开发过程中，其实连推理超参数甚至提示词都没有经过专门调优。过去社区也发现过，很多细微改动就能显著影响部分评测基准的分数，但对于更大尺寸模型的影响通常较小。”

对于具体的技术方法，他认为，目前的诊断和修复过程基本沿用了现有机制可解释性研究的思路，将模型的特定行为与内部权重联系起来。“主要的不同点是，这个过程可以由强大的 AI Agent 自主执行。”

事实上，这种方法已有相关技术基础。2024 年，一项关于大语言模型“拒答方向”的研究发现，模型的拒答行为与内部特定的表示方向有关，研究人员可以通过干预这些方向改变模型行为。MIT 此次采用的方向消融方法与之存在明显联系。

那么，这种方法未来能否用于更大规模的语言模型？

上海交通大学副教授陈明达向我们表示，这种方法有扩展到更大模型的可能性，但需要区分修复模型已有的局部问题和创造模型原本不具备的能力。对于前者，他相对乐观。过去的机制可解释性研究已经发现，即使是规模很大的语言模型，某些特定行为也可能与相对低维的内部表征有关，因此有机会通过少量参数修改产生明显影响。

但创造新的能力要困难得多。复杂的数学推理和多步骤规划往往涉及多个网络层、不同注意力头，以及大量内部表征之间的协同计算。目前研究人员甚至还不完全清楚，这些能力在模型内部究竟如何组织和形成。

“即使 AI 能够分析模型权重，它也未必能够判断应该怎样修改这些权重，才能形成新的、可以泛化的推理机制。”陈明达说。

此外，随着模型规模增加，同一种行为可能分布在大量参数和计算路径中。局部修改既可能无法产生预期效果，也可能破坏模型原有的其他能力，因此还需要更多实验来验证修改的可靠性。

从零编写神经网络，为什么不直接写程序？

除了修改 Qwen，另一项引发关注的实验，是让 Astra 从零编写神经网络权重。

研究人员向 Astra 提供了三款简化版 Atari 游戏的规则、源代码和网络结构，要求它在不进行传统训练、也不进入游戏环境反复试错的情况下，直接生成能够玩游戏的网络。

以打砖块游戏为例，Astra 根据游戏规则设计了一套控制方法：利用球的运动方向预测落点，再控制挡板移动到相应位置。随后，它将这套计算逻辑转换成神经网络中的具体参数。

最终，Astra 生成的网络在打砖块游戏中取得了 517.4 分，而经过 1 亿步 PPO 强化学习训练的网络只有 15.8 分。在另外两款游戏中，Astra 也超过了相同训练预算下的 PPO 网络。但当 PPO 的训练预算增加到 5 亿步后，Astra 在打砖块游戏中仍然明显领先，在另外两款游戏中则被反超。

（来源：MIT CSAIL）

这组实验的一个关键区别，在于两种方法获得的信息并不相同。Astra 提前拿到了游戏规则和源代码，可以直接设计控制算法，再将其转换成神经网络权重。作为对照的强化学习模型则主要通过与环境交互、不断试错来学习策略。

对于规则明确、计算逻辑相对简单的游戏，直接编写控制程序本身就是一种可行方案。既然 Astra 已经知道如何计算球的落点、如何移动挡板，那么把这些逻辑写成神经网络权重，相比直接执行普通程序，究竟有什么优势？

类似的思路其实已有技术先例。2023 年，Google DeepMind 发布的 Tracr 项目，就已经能够将人类可读的程序编译为 Transformer 权重，用于研究神经网络内部的计算机制。

此外，今年 2 月，开发者 N8 Programs 宣称利用 Codex 直接编写了一个仅有 343 个参数的神经网络，在 1,000 万道随机生成的十位数加法测试题上全部答对。

前文受访的预训练研究人员也指出，通过神经网络生成神经网络的想法已有很长的研究历史，例如 HyperNetworks 及其后续工作。但如果将网络权重本身作为模型学习和生成的对象，规模扩展会面临很大的挑战。

“单个网络的权重样本就可能已经非常大，如果希望模型在训练中见过足够多的网络，以期生成更强的网络，计算成本会比较高。而且现有工作的探索也没有发现，直接构造权重能够取得优于传统权重训练的效果。”

MIT 此次将程序设计和权重构造交给了通用大模型，但为规则明确的小游戏编写小型神经网络，与直接构造具备复杂推理和语言理解能力的大模型，仍然有很大距离。

相比修改和编写权重，研究中的另一项实验或许更有应用潜力，那就是让 Astra 直接读取神经网络参数，判断模型究竟学会了什么。

研究人员让 Astra 在不运行模型的情况下，仅通过分析小型 Transformer 的中间层权重，判断网络使用英语、Python 代码还是日语罗马字训练，并识别出负责复制上下文信息的注意力头。

（来源：MIT CSAIL）

这代表着，大模型有机会成为辅助理解神经网络内部机制的工具。过去需要研究人员编写分析代码、设计专门实验才能寻找的部分计算结构，现在可能直接交给通用大模型分析。

不过，这种能力并非 Astra 独有。普林斯顿大学计算机科学系博士生柴文浩（Wenhao Chai）随后使用谷歌的 Gemini 4 Argon 和 Carbon 进行了类似实验，发现两款模型同样能够通过权重识别小游戏和几何图形对应的神经网络，并尝试修改权重、修复失效网络。

研究者 Chandan Singh 也公开了使用 Claude 为小型 Transformer 编写权重的实验，在加法、排序等任务中取得了不错的结果。

这些尝试表明，直接分析和操作神经网络权重，可能正在成为前沿大模型能够处理的一类新任务，也为模型可解释性和自动化诊断提供了新的研究方向。

一项研究，如何演变成 AI 自我进化的技术狂欢？

回头来看，MIT 团队的工作确实值得肯定。他们验证了通用大模型不仅可以帮助研究人员编写代码、分析实验结果，还能直接参与神经网络内部的分析和修改。

这种能力未来可能在模型诊断、可解释性和行为编辑等领域发挥作用。例如，当模型出现反复输出、异常拒答等问题时，AI 可以协助研究人员分析相关的内部特征，寻找故障来源；在研究神经网络机制时，也可以帮助识别不同注意力头或参数方向承担的功能。

更进一步，如果未来的大模型能够理解不同网络中的功能结构，还可能辅助研究人员进行模型审计、局部能力编辑，甚至探索不同模型之间的功能迁移。不过，这些仍然是有待验证的研究方向，距离复杂大模型的自动化优化还有很长一段距离。

那么，为什么这样一项本身颇有价值的研究，会引来如此多的质疑？

一个重要原因是，这项研究成果在传播过程中被赋予了过高的期待。从修改少量权重、提高测试成绩，到 AI 能够绕开传统训练、实现自主进化，研究意义的推演很快超出了实验本身能够证明的范围。

类似的现象，在近年来的 AI 行业并不少见。随着新模型、新论文和技术概念不断涌现，一项研究刚刚发布，社交平台便开始讨论 AGI 和自我改进，紧接着是各种技术解读、开源框架、衍生项目和综述论文。等到一个概念被反复讨论，下一个热点可能又已经出现。

对此，陈明达认为，过去两年 AI 技术的发展速度，让人们对新研究有了更大的想象空间。但研究成果在社交媒体上的传播速度，往往远远快于学术界验证结果、建立共识的速度。

“一个实验发现可能只是证明了在特定实验环境下，某种方法能够解决一个具体问题。但传播过程中，大家更容易记住的是一个非常醒目的数字，或者某种更宏大的叙事。”

在这个过程中，研究人员希望成果获得关注，创业者需要证明技术方向的潜力，投资者急于寻找新的机会，科技媒体也面临流量与时效的压力。不同参与者都有追赶最新进展的理由，但当一项研究被迅速包装成新的技术范式，具体的实验条件和技术局限就容易被淡化，甚至让一些已有的研究思路被重新理解为全新的突破。

这种过度解读短期内可能带来更多关注，但长期来看，也容易让人们对科研进展形成不合理的预期。如果后续工作无法兑现最初的想象，反而可能低估原本有价值的技术积累。

当然，也不应该因此对早期研究过于苛刻。很多重要的研究方向，最初都是从有限的实验现象发展起来的，提出大胆假设本来就是科学探索的一部分。关键在于区分实验观察到的现象、由此形成的科学判断，以及对未来技术发展的预测。

与此同时，社交平台也为技术社区提供了公开检验研究成果的机会。MIT 这项工作走红后，有研究者重新检查实验日志和系统提示词，有人寻找相关的前人工作，也有人使用其他模型尝试复现。这些质疑和验证，让研究实际取得的进展逐渐变得清晰。

从这个角度看，MIT 的研究与随后出现的技术争议，其实共同构成了一次有价值的探索。前者展示了通用大模型在分析和修改神经网络方面的新能力，后者则帮助人们厘清这些能力目前能够解决什么问题，又存在哪些局限。

至于这种能力能否进一步扩展到复杂的大模型，甚至推动 AI 实现持续的自我改进，还需要更多实验来回答。

1.https://rikiyat.github.io/blog/weight-space-programming/

2.https://github.com/RikiyaT/lm_understand-logs

3.https://rikiyat.github.io/

4.https://huggingface.co/Qwen/Qwen3.5-0.8B

5.https://arxiv.org/abs/2406.11717

6.https://arxiv.org/abs/2301.05062

7.https://csinva.io/weight-space-programming-autoresearch/analyze/toy_examples/report.html

8.https://github.com/csinva/weight-space-programming-autoresearch

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成

标签： 算法 实验 数学 mit 计算机 神经网络