<三>参数的演化与黑箱之谜——大模型到底学会了什么
接上篇https://www.cnblogs.com/webor2006/p/21371211继续往下学习。上篇搞清楚了ChatGPT是个1750亿参数的函数靠几千亿次猜→错→改训练出来的。但这引出了一个更让人好奇的问题训练完了这1750亿参数里头到底存了啥它们是死记硬背的答案还是真的学会了语言的规律再进一步——有没有人能说清楚每个参数具体是干嘛的第二个问题的答案说实话有点意外。模型其实是被逼着理解的先扯远点。上学时候备考有两种人。一种题海战术见过的都能做题目变一下就卡壳。另一种刷题不算多但把原理吃透了碰到没见过的也能推出来。比如你理解abba那35和991都一样算。但如果你只是背了100道题碰到第101道就完蛋。这个区别在AI里叫泛化能力(后面会专门学到这里先知道概念就行)。我一开始想的是训练不就是给模型看海量例子嘛那它跟背题的有啥区别后面搞明白了它背不动而且背了也没用。你想啊训练数据是几千亿个词1750亿参数听着多全拿来当存储单元也塞不下。这是一方面。另一方面互联网每天都在冒出新的表达方式你不可能把所有句子都提前喂给它。再一个人类本来就不是靠背句子来理解语言的——我们是抓规律。模型真想理解也得走这条路。所以模型被逼上了另一条路——记不住具体的那就找规律。狗和骨头、狗啃骨头、狗在吃骨头、小狗叼走了一根骨头……训练中累计看到几万几十万次狗和骨头的各种搭配之后(不是连着出现的是分散在整个数据集里)相关参数慢慢调啊调最终学到了一件事狗和骨头之间有关联。但它学到的不是狗→骨头这种死板映射而是更抽象的——动物和它常吃的食物之间有关联。所以哪怕训练里没见过兔子吃胡萝卜它也能正确关联。这就是为啥ChatGPT能应对各种奇葩提问——抓规律比记答案靠谱得多。参数怎么从随机值变成知识的如果能透视参数在训练中的变化假设有一组参数负责处理动物-食物关联大概长这样(数字只为感受趋势)阶段1 · 训练刚开始参数组 [0.0017, -0.0032, 0.0089, ...] ← 纯随机 模型不知道任何关联阶段2 · 累计遇到约1000次狗-骨头的各种表述参数组 [0.0018, -0.0031, 0.0092, ...] 微调了一点点但单个值完全看不出名堂注意这1000次不是连着重复同一句话而是训练中分散出现的各种变体——狗啃骨头、狗在吃骨头、小狗叼走了一根骨头……散布在整个数据集中。阶段3 · 累计10万次各种动物-食物参数组 [0.0456, -0.0312, 0.2345, ...] 参数开始有倾向组合在一起已经在表达动物和食物有关阶段4 · 累计100万次参数组 [0.3456, -0.1567, 0.5678, ...] 稳定了。模型学会了规律 · 看到狗→ 想到骨头 · 看到猫→ 想到鱼 · 甚至没见过的动物也能推测其食物阶段5 · 训练完成参数组 [0.3891, -0.1234, 0.6543, ...] ← 稳定不再变 这些参数编码了动物-食物的语义关联经过几周训练烧掉几百万美元算力1750亿参数全部稳定——训练停止参数冻结。注意这个冻住很重要。很多人觉得ChatGPT聊多了会变聪明——不会。参数训练完就固定了。你今天问和明天问同一套参数。这也是它知识有截止日期的原因——训练数据到哪天知识就到哪天不会自动更新。OpenAI想让它更强只能重新训一个新模型。GPT-3.5→4→5就是这么升级的。回到开头那个问题能不能解释单个参数还记得开头那个问题吗——1750 亿参数有没有人能说清楚每个是干嘛的现在可以回答了。就拿第 98765432 号参数来说它现在是 0.5678它管啥语法语义还是别的我手动把它改成 0.5679输出会变吗答案是没人知道。不是谦虚是真不知道。1750亿参数没一个是人工设计的全是训练自己长出来的。你种一棵树能看到它枝繁叶茂但说不出哪条根具体吸收哪种养分。为啥因为知识是分散存的。狗和骨头这个简单常识不在某一个参数里而是分布在可能几百万个参数形成的组合中。有点像一大群人合唱——你听得到整体旋律但你说不出具体是哪个人贡献了哪个音。单独拉一个人出来听根本不成调。所以没法说改这个参数能改那个行为——改一个可能同时影响几十上百种语言行为。这就是大模型的黑箱问题输入你都看得见输出也看得见但中间怎么算的、哪个参数负责哪部分逻辑没人说得清。就像一个黑箱子你能往里面塞东西、从里面拿东西但箱子里面长什么样你不知道。这其实引出了一个更深层的问题人类创造了比自己还聪明的工具但已经不太能理解它了。想象你追问一个 AI 工程师ChatGPT 为什么对这个问题的回答是这样的因为 1750 亿个参数算出来的结果就是这样。为什么是这个结果因为参数设成了这些值。为什么参数是这些值因为训练数据和优化算法让它收敛到这里。那具体哪个参数管哪部分逻辑……不知道。不是谦虚是真不知道。参数₂₃₄₅₆₇ 为什么恰好是 0.5678 而不是 0.5679改它会怎样没答案。人脑不也这样么换个角度想红色这个概念存在你大脑哪个位置你拿起苹果知道是红的这个判断是哪些脑细胞干的也说不上来。所以可能不可解释不是模型独有的问题复杂到一定程度自然就这样了。但话说回来这确实带来一些实际麻烦。比如安全性——你都不知道它为啥这么回答怎么保证不会给出危险建议还有调试——传统软件出 bug 能定位到具体哪行代码ChatGPT 答错了1750 亿参数里谁的问题根本没法查。再比如自动驾驶突然刹车解释不清、AI 审批贷款说不上来依据——这些场景你敢放心交给它研究者也在想办法。有人尝试把参数映射到人能理解的概念上有人想拆开 Transformer 内部的计算逻辑一步步看还有人分析哪些输入导致了哪些输出。这个方向叫可解释AI(XAI)只是面对 1750 亿参数进展不算快。另外我学到一个挺有启发的框架——理解其实可以分层会用知道怎么用它 ✓知道它能干啥清楚它的能力边界 ✓知道它为啥这样工作懂原理但说不清细节 ?知道每个零件干啥能解释每个参数的精确作用 ✗对 ChatGPT咱们基本在前两层第三层模糊第四层目前没人能做到。对人脑其实也差不多——你知道自己在思考但你说不出来是哪些神经元在怎样运作。几个实用的小知识你每天跟ChatGPT聊它并不会变聪明前面说了参数是冻住的。这里展开说一下。ChatGPT 的生命周期其实就两个阶段训练阶段(OpenAI 完成只做一次)用几千亿个词花几百万美元算力把 1750 亿参数从随机值慢慢调到稳定。训练完参数就冻住了。使用阶段(你每天用的 ChatGPT)参数完全不变。你今天问和明天问同一套参数给你算答案。它不会记住你的偏好也不会从对话里学到新知识——这也是为什么它的知识有截止日期训练数据到哪天知识就到哪天。同一会话里能记住上下文是另一个技术机制(会话窗口)跟参数更新不是一回事。如果 ChatGPT 真的每次对话都去更新参数全球每天几亿次对话计算量和成本根本扛不住。参数固定说白了就是——不是不想在线学习是实在学不起。模型名字里的B、M、T经常看到 Qwen3-235B、Llama-70B 这种M 百万 → 117M 1.17亿 B 十亿 → 70B 700亿 T 万亿 → 1.8T 1.8万亿记住就行不会被数字唬住。参数不是越多越好首先就是烧钱。GPT-2(15亿参数)训练花几万美元GPT-3(1750亿参数)约500万美元GPT-4 据说上亿。参数量每涨一个数量级成本可能翻10到100倍。然后是回答变慢。参数多 计算量大 每次回答要多想一会儿。这也就是 GPT-4 比 GPT-3.5 慢的原因。还有一个更隐蔽的问题——记忆力太强反而坏事。比如你复习考试只背了往年真题的答案连题目里的具体数字都记住了结果考试换了个数你就不会了——因为你不是真的理解解法只是把答案背下来了。这在机器学习里叫过拟合模型把训练数据里的偶然模式都当成了规律碰到新数据就抓瞎。所以有个趋势叫小而精。有些700亿参数的模型练得好能接近1750亿参数GPT-3.5的水平普通电脑就能跑。不是越大越好够用就行。再补一个知识点MoE 和 Dense 两种架构。Dense(传统)就是每次推理所有参数一起上。GPT-3、GPT-4、Claude 都是这条路。好处是架构成熟稳定缺点是参数越多跑得越慢烧钱。MoE(混合专家)则是专家组模式——模型里多个专家子网络每次只激活跟当前任务相关的几个。比如 DeepSeek-V4 总共 1.6 万亿参数每次只用 490 亿。打个比方Dense 是全科室会诊MoE 是挂专家号——不用所有医生都来看你。好处是又快又省缺点嘛……训练的时候得精心调教哪个专家管哪块搞不好专家之间偏科严重。目前开源阵营里 DeepSeek 全走 MoE 路线这也是它能做到万亿参数还能跑起来的原因之一。这些概念——过拟合、MoE、可解释AI——后面学到的时候再展开这里先混个脸熟。各代GPT参数量GPT-1 (2018): 1.17亿 GPT-2 (2019): 15亿(增 13 倍) GPT-3 (2020): 1750亿(增 117 倍) GPT-3.5 (2022): 未公开估计 1750 亿左右 GPT-4 (2023): 未公开传闻 1 万亿-10 万亿 GPT-5/5.1/5.5: 完全未知不公布的原因也直白——竞争和安全。现在除了 DeepSeek 还坚持全开源其他大厂或多或少在闭源。国内的 Qwen 原来开源的 Qwen3 系列到 Qwen3.6 Plus 也关了。顺便看下其他家的参数规模感受一下——Google 的 PaLM(2022)5400 亿参数后也不公布了Anthropic 的 Claude 系列从没公布过DeepSeek 目前开源里最大方的V4-Pro 总参数 1.6 万亿。小结这篇几个点模型是被逼着理解的——记不住具体例子只能抓规律参数从噪音到知识的演化训练完就冻住不动了单个参数没法解释知识分散存在几百万参数的组合里——跟人脑挺像的参数不是越多越好平衡才关键两篇下来基本搞清了ChatGPT是什么和怎么来的。但最核心的那个问题还没碰——你问它一个问题它到底怎么一个字一个字把答案编出来的下一篇就来拆这个——文字接龙大模型最基本的生成方式。比你想象的有意思得多。加油