深度阅读 数据观察 专业观点 持续更新
READ
DEEPER
资讯中心 / FEATURED STORY

当前位置:首页 赏金大对决 - 在线竞技游戏平台 | 实时对战·赏金赛·排行榜 资讯中心

不用训练!Opus 5.5直接手写Transformer权重,13类任务全拿100%

赏金大对决 - 在线竞技游戏平台 | 实时对战·赏金赛·排行榜790 阅读约5.5分钟
不用训练!Opus 5.5直接手写Transformer权重,13类任务全拿100%

赏金大对决整理如下:

新智元报道 在13类复杂的算法任务、26次独立运行中,一个全新的神经网络在隐藏测试集上全部达到了100%的准确率。

更不可思议的是,整个过程没有喂给它海量数据,甚至完全没有使用「反向传播」和「梯度下降」。

这个晶莹剔透、小巧至极的满分神经网络,是Claude Opus 5.

5,用代码一行一行直接「手写」出来的。

近日,微软研究院联合约翰斯·霍普金斯大学、哥伦比亚大学和纽约大学的团队,发表了新研究 「可解释权重空间编程(iWSP)」 。

这项研究证明:前沿大语言模型已经可以直接越过传统的优化器,依据固定的评测反馈,像外科医生一样精准构思计算逻辑,并用代码将算法直接写进Transformer的权重里。

不用反向传播,AI直接当起「钟表匠」 深度学习常被戏称为「炼丹」。

整个过程,就像一群盲人围着一台布满几亿个旋钮的巨大控制台,谁也看不见里面长什么样,只能凭机器偶尔发出的「报错声」,摸索着拧这个、转那个。

几万步迭代下来,机器居然真就正常运转了,某些任务甚至比人类自己还高,堪称「原地飞升」。

可你要是追问一句:哪个旋钮管逻辑?

哪个旋钮管记忆?

没人答得上来。

总之,效果拔群,原理不详——旋钮拧对了是玄学,拧错了是事故,中间隔着一整片无人能解释的黑箱。

在工程应用上,只要预测得准,这勉强可以接受。

但在脑科学、物理学等极其严肃的科学探索中,这个缺陷太致命。

正如研究团队所指出的核心痛点: 神经网络预测得很好,但很难被理解。

在以『解释』为终极目标的科学领域,这是一个严重的问题。

以神经科学为例,深度编码模型能够非常准确地预测大脑对自然刺激的反应,但它们却根本说不出,究竟是刺激中的「哪些特征」驱动了这些反应。

为了打破这个死局,微软团队提出了iWSP。

他们决定:不许用反向传播,直接让AI去设定那些旋钮。

about image

在iWSP的框架中,Opus 5.

5化身为创世者。

它完全颠覆了传统的工作流: 纯粹的推理: 面对任务,系统不允许Opus进行任何基于梯度的训练。

每次迭代,智能体只能看到一个单一的验证分数(Validation score)。

手写权重: Opus必须调用它已有的先验知识,构思一套计算逻辑。

然后,它直接编写Python代码,显式地写出特征,将这套逻辑转化为具体的权重数字。

闭环迭代: Opus评估这些特征,重复利用已知的正确模块,并根据那个单一的分数反馈,不断修改代码。

平均每次跑39轮左右。

最终诞生的,是一个人类可以像阅读普通书籍一样,从头读到尾的「透明」Transformer。

它的每一个部分、每一行权重,都是AI「有意写就」。

反常识的真相 这项实验最让人拍案叫绝的,不仅是它成功让AI造出了AI,更在于它揭示了一个违背直觉的真相。

在传统的AI语境里,我们笃信「大力出奇迹」。

千亿参数只是起步,万亿参数才是未来。

大家都以为,神经网络越大越能干。

但这篇论文的数据,直接把这个常识反了过来。

在13类算法实验中,所有由AI「手搓」出来的模型,最终都在隐藏测试集上拿到了 100%的准确率 。

但当我们对比Anthropic家族不同级别的模型时,神奇的现象出现了: 同样把算法题写到全对,越强的AI,写出的网络越小。

相对基础的Haiku 5.

5 手写的网络,参数量中位数高达 100,000个 。

中等Sonnet 5.

5 需要的参数量中位数是 41,600个 。

当前最强的Claude 模型Opus 5.

5 ,它手写的网络参数中位数,只有极其夸张的 166个 !

建议大家把「166个参数」打在公屏上。

在这个动辄千亿、万亿参数的大模型时代,166个参数简直就像一颗微尘。

为什么会有这么离谱的差距?

日志记录了Opus的「心路历程」: Opus的策略是,先想办法写对,再一轮一轮地往小里删。

一开始,Opus为了保证逻辑能跑通,也会先写一个大概有3400个参数的网络。

在可见集拿到100%满分后,它开始疯狂精简代码。

它把冗余的计算剔除,把复杂的矩阵压缩,硬生生把平均3400个参数,删到了200个上下。

这就像是学霸和学渣的区别。

学渣(Haiku)不懂公式背后的原理,遇到不会的题就靠死记硬背,把所有可能的情况都塞进脑子,所以需要10万个参数的「大笔记本」。

而学霸(Opus)彻底看透了算法的本质,直接提炼出了最核心的计算规则,所以只需要166个参数的「一张小纸条」。

这个发现极其震撼。

它证明了:如果能找到真正正确的逻辑,解决复杂问题根本不需要堆砌。

从数学题到人类大脑,让科学免于「被糊弄」 你可能会问:费这么大劲,让AI手搓几个做数学题的极小模型,到底有什么用?

答案是: 为了真正的科学发现。

科学界目前正面临一个尴尬的困境。

拿神经科学来说,科学家为了搞懂人类大脑,会使用现成的深度学习黑盒模型来预测大脑的反应。

确实,模型预测得很准,但科学家傻眼

赏金大对决将持续关注后续动态。

返回资讯列表

分享这篇内容

让更多人看到这篇有价值的行业观察。

TRENDING NOW

热点新闻

查看近期更新内容,快速了解行业动态与用户关注方向。

冬窗重磅转会?罗马诺:德布劳内可能离开那不勒斯,他在这不开心

冬窗重磅转会?罗马诺:德布劳内可能离开那不勒斯,他在这不开心

直播吧11月15日讯 罗马诺更新个人频道,他透露德布劳内可能在冬窗离开那不勒斯,下家有埃因霍温等队。 罗马诺内容 接下来还要提到一些可能在一月份离队的球员。我一直在提醒你们密切关注德布劳内。一定要密切关注德布劳内,因为德布劳内可能会成为一月转会窗的一大惊喜,也是最具分量的重磅人物之一。那不勒斯本赛季的开局十分艰难,输掉了很多比赛。主教练阿莱格里过去几周一直处于下课危机之中,目前他暂时看起来是安全的

武汉长江大桥将增加非机动车道隔离设施?市交管局最新回复来了

武汉长江大桥将增加非机动车道隔离设施?市交管局最新回复来了

武汉别名“江城”,那是因为长江从武汉穿城而过,汉江也汇聚于此,将武汉三镇汉口、汉阳、武昌分隔两岸,长江航道给武汉的经济发展带来了巨大作用 武汉已经是全国第二个集齐港口型、陆港型、空港型等“五型”国家物流枢纽的城市,依托“港航物流+临港产业+城市服务”的模式,临港片区集聚近2000家工业企业。 2025年武汉外贸进出口增速跃升至全国副省级及以上城市第二,形成“物流带贸易、贸易聚产业”的正向循环。武汉

中美攻守转换?眼见对华封锁没用,美方换招:不让中国芯片进美国

中美攻守转换?眼见对华封锁没用,美方换招:不让中国芯片进美国

大家好,我是小洲! 当前美国对华芯片策略正在发生耐人寻味的反转,过去华盛顿的思路是卡死设备、技术,不让中国拿到高端芯片,如今政客开始想着直接把国产存储芯片挡在美国国门之外。 2026年11月12日,参议员科顿一封公开信引爆舆论,同一天国内半导体博览会长鑫亮出全套存储新品,一攻一防之间,这场芯片博弈的底层逻辑已经变了。 规则玩法彻底换了 2026年11月12日,美国参议院情报委员会主席、共和党鹰派大

曾毓群、李彦宏、王兴兴、王传福、雷军、董明珠、李东生等齐聚深圳,APEC工商领导人峰会今天开幕

曾毓群、李彦宏、王兴兴、王传福、雷军、董明珠、李东生等齐聚深圳,APEC工商领导人峰会今天开幕

2000余人齐聚前海,是一份对亚太未来的共同预期。这场已经开启的“面对面”之约,正在写下亚太确定性最有力的注脚。 01 APEC工商领导人峰会今日开幕 11月17日,2026年亚太经合组织(APEC)工商领导人峰会在深圳前海国际会议中心开幕。本届峰会以“共促繁荣,共赢未来”为主题,2000余位政商代表齐聚深圳,115家世界500强企业参会。 中国国际贸易促进委员会会长、2026年亚太经合组织工商领

CBA俱乐部杯 徐杰关键三分 广东东阳光险胜浙江稠州金租

CBA俱乐部杯 徐杰关键三分 广东东阳光险胜浙江稠州金租

第三届中国人寿·CBA俱乐部杯小组赛今日继续进行,晚上在琼海赛区结束的D组第二轮比赛中,凭借着徐杰在关键时刻的三分。广东东阳光队71比67战胜浙江稠州金租队,拿到胜利。 本场比赛广东队的首发阵容为徐杰、张皓嘉、陈家政、焦泊乔与外援阿祖布克,这和前一天对阵山东队时的首发安排相同。比赛开始后,两队的对抗非常激烈,得分进程则变得缓慢,广东队直到比赛开始四分钟后才由徐杰的进球打开得分账户。第一节结束时,广