FEATURED STORY / 01

MIT:GPT-6 Astra能直接修改Qwen权重,数学能力暴涨6倍

鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI GPT-6 Astra能直接读取编辑小模型权重了。 MIT刚刚做了个实验,瞬间引爆大模型圈—— 0.8B的「源神」Qwen3.5交给Astra,仅改动其中 0.016% 的权重,模型性能可以直接飞升。 全程没用训练,也没梯度下降。 同样的采样设置下,MATH-500得分从7.9%飙升到48.1%,数学运算能力是原来的约 6倍 。 甚至连原本没要

READ
THE
DETAIL
EDITORIAL NOTE

鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI GPT-6 Astra能直接读取编辑小模型权重了。 MIT刚刚做了个实验,瞬间引爆大模型圈—— 0.8B的「源神」Qwen3.5交给Astra,仅改动其中 0.016% 的权重,模型性能可以直接飞升。 全程没用训练,也没梯度下降。 同样的采样设置下,MATH-500得分从7.9%飙升到48.1%,数学运算能力是原来的约 6倍 。 甚至连原本没要求优化的指令执行能力也通通提高了3倍。 而修完模型还没完,让Astra 从零写小游戏网络的权重 ,效果也是不错。 它一次回复交卷,得分超过训练了5亿步的PPO基线20倍。 视频链接:https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw 团队给这套打法也起了个名字: Weight-Space Programming,权重空间编程。 Astra爆改模型权重 简单来说,就是让大模型直接分析神经网络权重,判断它在做什么、哪里出了问题,再按要求修改,甚至从零写出一个网络。 具体过程,先看最直观的 Qwen实验 。 研究者给Astra准备了一个Python环境,里面放着Qwen3.5-0.8B的全部权重。 要求只有一条:尽可能提高模型数学能力。 通常训练模型,要根据输出与目标之间的差距计算损失,再通过反向传播得到梯度,由优化器更新参数。 这次,具体改什么、怎么改,要由Astra分析后决定。 于是它发现,这个小模型的数学表现,有一大截是被 推理循环 拖下去的。 一道题摆到面前,它反复生成相似文字,却迟迟交不出答案。在最初96条练习回答里,有85条一直跑到了32768个token的长度上限。 而且这个问题连Qwen自己的模型卡都提醒过。。。 Astra沿着失败表现一路查下去,把循环追到了 前馈网络 ,并在第15层和第19层的各64个输出列中修改相应权重影响。 最终,MATH-500回答触及长度上限的比例,从93.0%降到了33.1%。 研究者又分别给了Astra 10、25和50次前向调用预算,修改后的MATH-500得分依次是12.3%、14.1%和48.1%。 其中 Astra省掉的是梯度训练 ,但模型诊断和验证都还在。 那么它是如何从权重中找到这些线索的呢? 先看阅读能力。 研究者训练了四个玩不同游戏的小网络,再把原始权重以文本形式交给Astra。其中四个网络的架构、输入通道和动作选项完全相同。 结果,Astra 正确认出了 四个游戏名称:打砖块、乒乓、吃豆人、高速公路。 视频链接:https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw 其中打砖块这一局,Astra是通过 权重集中的位置 进行推断的。 换成生成图像的扩散模型,它也能从权重中辨认圆形、方形和三角形。 不过,细节上翻了个车:模型实际生成实心图形,它却全读成了轮廓。 形状能看对,但填充没看出来。 研究者接着增加难度,拿来三个720万参数的小语言模型,分别用Python代码、日语罗马字和英语训练,再移除输入、输出层,只留下中间四个Transformer模块。 这下,连哪个数字对应哪个字符都不知道,模型也没法直接运行文本了。Astra用Python分析权重,但不能给这些网络或其中的层输入数据、观察运行结果。 但它仍然在两轮尝试中认对了三个模型所学的语言,还找出了全部 归纳头 。 从识别用途,到定位内部部件,再到修改行为,这条路径开始接上了。 另一个小车爬坡实验,就把修改效果变成了能直接看到的动作。 原本用PPO训练的网络总是往坡上冲,然后卡住;要过关,得先倒车拉开距离,再加速冲坡。 研究者给出权重、场景描述和一段失败记录,Astra不用工具,一次回复写出补丁,只改了3.5%的权重,就让小车在1024次测试中 全部成功 。 模型没能通过训练学会的 动作顺序 ,被Astra直接写进了权重。 视频链接:https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw 训练不存在了? 既然能往现成网络里补逻辑,研究者干脆又把要求往前推了一步: 给你一个权重全为零的网络,直接把它写成能用的。 在MinAtar小游戏实验里,Astra拿到游戏规则、源代码和指定网络结构。没有训练数据、损失值、梯度和工具,也不能先把网络放进环境里试跑。 它需要自己想好策略,再把策略转成各层权重,一次回复交卷。 最后,Astra生成网络的平均得分可达 517.4 。 作为对照,PPO训练1亿步得15.8,训练5亿步得25.3,直接超了 20倍 。 这项工作的看点,是让一个现成的通用前沿大模型,围绕自然语言目标, 自己分析和改写权重 。 Astra本身积累的知识与能力,仍然来自它此前的训练;分析权重、

about image
上一篇 越是分房睡、财务AA、互不干涉隐私的夫妻,感情越没有温度... 下一篇 希勒盛赞阿森纳防守:全世界没有球队像他们这样防...

觉得内容有价值?

分享给更多关注行业变化的朋友。

返回资讯列表
03 / TRENDING NOW

热点资讯

查看近期访问较多的内容,快速了解读者正在关注的行业话题。

姆巴佩道歉毫无诚意,皇马更是傲慢无礼,只有西甲联盟态度诚恳
1

姆巴佩道歉毫无诚意,皇马更是傲慢无礼,只有西甲联盟态度诚恳

一场由姆巴佩不当言论掀起的风波,至今仍在持续发酵。随着各方表态陆续浮出水面,一条清晰的分界线摆在所有人眼前:西甲联盟主动躬身、积极沟通,一心想要寻找妥善的解决方案;反观皇马俱乐部,全程姿态居高临下,言语之间满是傲慢;而姆巴佩本人的道歉,也始终缺少一份发自内心的分量,难以让球迷信服。 事件爆发之后,国内迅速做出强硬回应,央视直接叫停西甲赛事、姆巴佩相关内容播出,多家合作品牌官宣终止和姆巴佩的合作,无

66岁TVB艺人自曝资产一亿,日常生活节俭,西装穿20年手机用老款
2

66岁TVB艺人自曝资产一亿,日常生活节俭,西装穿20年手机用老款

66岁的TVB金牌司仪邓梓峰,多年来被外界形容为隐形富豪,盛传其家族资产高达20亿。关于资产的多少,本来这属于个人隐私,没有必要公开回应。不过说多了,就会有越传越过头的嫌疑,再加上邓梓峰日前被曝加入了世界神秘组织共济会——由于这个组织的成员大多都是有头有脸,非富即贵的人物,而邓梓峰成为了会员,自然就为他的身份增添了一份神秘色彩,更是令外界认为他因为身家丰厚,也得以入会。 邓梓峰在被曝加入共济会之后

特朗普称“铁门”特遣行动正全面展开 几乎没有物资 能进出伊朗
3

特朗普称“铁门”特遣行动正全面展开 几乎没有物资 能进出伊朗

相关推荐 热点推荐 特朗普:太空开放美国移民 两年内派飞船去火星 看看新闻Knews 2026-11-07 09:00:24 0 跟贴 0 11月6日,特朗普和幕僚长米勒、卢比奥一起乘坐空军一号起飞,前往佛罗里达州休假 小木的不完美家 2026-11-08 05:34:24 0 跟贴 0 11月6日,即将上任的白宫幕僚长米勒和国务卿卢比奥登上空军一号,加入特朗普前往佛罗里达的行程 摩天轮悲伤 20

法兰克福冠军赛结束,女乒世界最新排名,孙颖莎王曼昱排名更新
4

法兰克福冠军赛结束,女乒世界最新排名,孙颖莎王曼昱排名更新

北京时间11月9日,WTT法兰克福冠军赛在今天凌晨落下帷幕,在女单的决赛中日本选手早田希娜是战胜大藤沙月夺得了该项赛事的冠军,整体来看,在本届的法兰克福冠军赛,国乒女队的表现还是并不是很出色没有球员打进四强,此前的1/4比赛中陈幸同、陈熠等人都是在比赛中不敌对手无缘晋级。 此前蒙比利冠军赛加上本站的法兰克福冠军赛两站赛事,国乒女队在第一站比赛还不错,但是在本站比赛也可以看出那国乒选手整体来说还是非

罗体:梅雷特第五腰椎骨折缺阵两月,那不勒斯关注22岁巴西门将
5

罗体:梅雷特第五腰椎骨折缺阵两月,那不勒斯关注22岁巴西门将

《罗马体育报》报道,那不勒斯门将梅雷特第五腰椎骨折,米林科维奇-萨维奇将顶替其位置,库里蒂巴的巴西门将受到青睐。 据《罗马体育报》报道,一次伤病,又一次伤病,而都灵即将来犯。昨天下午官方公布消息:梅雷特在训练中受创后出现第五腰椎骨折。在Pineta Grande医院接受仪器检查后,诊断结果明确。 梅雷特将缺阵两个月,将在赛季关键阶段缺席。那不勒斯失去他的门将之一,要到2027年初才能重新拥有他。接