01. 核心问题：Scaling 到底在“Scale”什么？
很多人把 Scaling Law 简化成一句话：模型越大、数据越多、算力越多，能力越强。这句话没有完全错，但已经不足以解释今天的大模型训练。
2020 年前后的 Scaling 讨论，重点是参数量、训练 token 和训练 FLOPs 的关系。到今天，真正的问题已经发生变化：一个模型从预训练、后训练、部署、推理到 Agent 执行，每一个阶段都可能继续消耗大量算力，而且不同任务的瓶颈完全不同。
02. Scaling Law 的演化时间线
强调模型规模、数据规模、计算量之间的幂律关系。产业界迅速形成“更大参数”导向。
指出很多大模型“参数太多、数据太少”，同等训练预算下，应增加数据、减少参数。
模型上线会被调用无数次，训练成本不能单独看，部署和推理成本必须纳入全生命周期。
模型可以拥有巨大知识容量，但每个 token 只激活少数专家，参数规模与计算规模开始解耦。
通过强化学习、长程任务、真实工具与可验证环境继续提升模型，尤其是 Agent 与编程能力。
03. Kaplan：第一阶段是“把模型做大”
2020 年，OpenAI 团队通过大量实验拟合出经典 Scaling Law。核心观察是：随着参数量、训练数据和计算量增加，语言模型测试损失会呈现相对稳定、可预测的下降趋势。
在当时的经验拟合中，最优模型规模的增长速度明显快于数据规模增长。产业界自然得出一个非常直观的结论：
这个阶段最大的历史意义，是证明了“大模型训练具有可预测的规模效应”。但问题也很快出现：如果参数增长太快，而数据量跟不上，就会导致大量参数没有被充分训练。
04. Chinchilla：不是盲目做大，而是“参数与数据配平”
2022 年，DeepMind 通过数百次不同规模训练重新拟合 Scaling Law，发现此前很多大模型实际上处于 under-trained（训练不足）状态。
Chinchilla 给出的经典经验是：在固定训练计算预算下，参数量和训练 token 应更加接近同比例增长。一个常被记忆的近似规则是：
Chinchilla 使用约 70B 参数 + 1.4T tokens，却击败了参数规模约 280B 的 Gopher。这说明：更小但训练更充分的模型，可以胜过更大但“吃不饱”的模型。
| 阶段 | 核心优化对象 | 直觉 | 典型风险 |
|---|---|---|---|
| Kaplan | 快速增大模型 | 参数多 → 容量大 | 参数增长太快，数据不足 |
| Chinchilla | 参数与数据配比 | 让每个参数获得更充分训练 | 仍主要从“单次预训练”视角出发 |
05. 推理成本进入总账：最优比例再次变化
Chinchilla 解决的是一个很漂亮的理论问题：在固定预训练计算预算下，怎样分配模型参数和训练数据最划算？
但工业部署还有另一个更现实的问题：模型训练一次，却可能被调用几十亿次。如果推理成本巨大，那么“训练时最优”不一定等于“全生命周期最优”。
因此，对于高调用量模型，工程上往往愿意：把模型做得更小一些，但训练得更久、更充分。这样可以把一次性的训练成本换成长期更低的推理成本。
06. MoE：参数规模和计算规模开始解耦
MoE（Mixture of Experts，混合专家）进一步打破了“参数量 = 每次计算量”的直觉。在 MoE 中，模型可以拥有非常巨大的总参数，但处理每个 token 时，只激活其中少数几个专家。
视频以 GLM-5 系列为例，提到其总参数规模约为 743–744B，而单 token 激活参数约为 40B。这说明模型可以同时拥有巨大的容量和相对可控的计算成本。
知识任务与推理任务并不吃同一种资源
视频转述唐杰教授的观点：知识问答往往更依赖总参数带来的“知识容量”，而代码、漏洞发现、长链因果推理等任务，更依赖训练数据质量、任务长度、长程记忆与推理能力。
07. Post-training Scaling：预训练之后，继续把算力砸进去
GLM-5.3 最有意思的地方，是它与 GLM-5.2 使用相同底座和架构，但仅通过约一个月的后训练，就在编程与 Agent 相关任务上出现明显提升。
以上为 Z.ai 公布的基准测试结果；比较时仍需查看任务版本和评测配置。
这意味着今天的“模型训练”已经不能只看 pretraining。一个完整模型的能力形成过程，更像：
对于编程 Agent，后训练不再只是“给一段题目，生成一段代码”。任务开始被扩展成更真实、更长、更接近资深工程师工作流程的形式。
08. 最关键的变化：Agent 的瓶颈开始转向“环境工程”
这是整条视频最值得记住的部分。
如果你想训练一个真正能完成复杂工程任务的 Agent，仅仅准备“问题—答案对”已经不够。你必须给模型一个可以行动、试错、验证、回滚、继续行动的真实环境。
真实工程任务
│
├── 代码库 / Repository
├── 内部文档 / Docs
├── 计算集群 / Compute
├── 存储系统 / Storage
├── 测试与评测 / Evaluator
└── 可验证的结果 / Verifiable Outcome
│
▼
Agent 自主执行
│
┌────────┼────────┐
▼ ▼ ▼
定位瓶颈 修改代码 跑实验
│ │ │
└────────┴────────┘
▼
自动/人工验证
▼
RL 训练信号为什么“环境”这么难？
因为真正有价值的 Agent 训练任务必须同时满足几个条件：
- 真实：不是温室里的 toy demo，而是接近真实工程工作。
- 长程：可能需要几十步、几小时甚至几天的连续决策。
- 可交互：模型能调用工具、修改文件、运行程序、读取反馈。
- 可验证：最后的结果必须能够客观判断对错。
- 可批量生成：不能只靠人手写几十道任务，而要规模化制造训练环境。
- 可安全重置：每次训练后环境应能恢复到初始状态，方便大规模 RL。
为什么过去很多 Agent Demo 看起来很强？
因为 Demo 可以专门为模型设计一个非常友好的“温室环境”：输入结构固定、工具调用明确、错误空间有限、结果容易验证。
但真实工作环境有大量脏数据、遗留代码、文档缺失、依赖冲突、不确定反馈和长链条因果关系。因此从 Demo 走到生产级 Agent，本质上是训练分布发生了变化。
09. GLM-5.3 案例：为什么“不换底座”也能提升这么多？
GLM-5.3 的意义并不只在于某几个 benchmark 分数，而在于它提供了一个很好的观察窗口：当预训练模型已经很强之后，继续提高能力，算力不一定优先投入新的 base model。
这次主要做了什么？
- 保留原有基础模型与架构。
- 扩充长程工程任务，而不是只训练短代码片段。
- 给 Agent 提供真实工作资源：代码库、内部文档、计算与存储系统等。
- 让模型自主寻找瓶颈、修改代码、运行实验。
- 使用多个智能体生成或提取任务，并相互验证任务质量。
- 只有能够被稳定验证的任务和环境，才进入 RL 训练池。
最大的现实问题：人工仍然很多
视频特别强调：即使今天 Frontier Labs 已经拥有高度自动化训练系统，高质量 Agent 后训练仍然需要大量人工参与。
人的工作包括设计环境、检查任务是否真实、确认结果是否可核对、修正 evaluator、排除奖励漏洞（reward hacking）等。
10. 用一个统一框架理解今天的 Scaling
| Scaling 维度 | 主要增加什么 | 主要解决什么问题 | 典型例子 |
|---|---|---|---|
| 参数 Scaling | 模型容量 | 知识、表示能力 | 更大的 dense model |
| 数据 Scaling | token 数与质量 | 训练充分程度 | Chinchilla、更多高质量数据 |
| 架构 Scaling | 单位 FLOP 效率 | 容量与计算解耦 | MoE、稀疏激活 |
| 后训练 Scaling | RL / SFT / 长程任务 | 推理、代码、Agent 行为 | GLM-5.3 |
| 推理 Scaling | test-time compute | 复杂问题求解 | Thinking / 搜索 / 验证 |
| 环境 Scaling | 真实、可验证的交互世界 | 长程 Agent 能力 | 代码库、集群、测试环境 |
每一代模型都应该问：当前最限制能力的瓶颈到底在哪里？如果瓶颈在数据，就 scale 数据；在推理，就 scale test-time compute；在 Agent 长任务，就 scale 环境与后训练。
11. 几个常见误区
误区一：Scaling Law 已经失效
更准确的说法是：单纯依靠增加参数的 Scaling 已经不是唯一主线。Scaling 仍然有效，但对象更多、目标函数更复杂。
误区二：后训练只是“微调”
今天前沿模型的后训练可能消耗大量算力、复杂环境与强化学习资源。它已经不是早期意义上的“小规模 instruction tuning”。
误区三：Agent = 更长的 Prompt
真正 Agent 能力来自模型、工具、记忆、执行框架、环境、验证器以及训练过程的共同作用。Prompt 只是其中一层。
误区四：Benchmark 提升就等于真实生产能力提升
Benchmark 可以反映趋势，但生产环境中还会遇到可靠性、错误恢复、长程状态保持、工具失败、权限、安全等问题。因此视频最后强调“真实环境”而不是只看跑分，是非常关键的。
12. 最终记忆框架：以后看到 Scaling 内容就按这张图判断
「大模型怎么继续 Scaling？」
│
┌────────────────┼─────────────────┐
▼ ▼ ▼
训练前半段 训练后半段 部署阶段
│ │ │
Pretraining Post-training Inference
│ │ │
参数 / 数据 / 架构 RL / SFT Thinking
│ │ │
└──────────┬─────┴──────────┬──────┘
▼ ▼
Agent Environment Tool / Search
│
真实、长程、可验证
│
▼
下一代 Agent 能力2020–2022：讨论“模型要训练多大”。
2023–2026：越来越转向“下一份算力应该花在哪里”。
对 Agent 来说，最值得关注的新答案之一就是：Post-training + Environment Engineering。
你可以把这条视频浓缩成 5 句话
- Kaplan 证明了大模型存在稳定的规模效应。
- Chinchilla 说明参数和数据必须合理配比，不能只堆参数。
- 把推理成本算进去后，最优模型往往会更小、训练更久。
- MoE 让“总参数”和“实际计算参数”开始解耦。
- 今天 Agent 的新瓶颈正在转向：如何规模化制造真实、困难、长程、可验证的训练环境。
参考资料与站内延伸
以下为原始研究与模型发布资料；上文的统一框架是笔记作者的整理。
- Kaplan et al., Scaling Laws for Neural Language Models
参数、数据与计算量的经验幂律关系。
- Hoffmann et al., Training Compute-Optimal Large Language Models
Chinchilla 的计算最优配比。
- Z.ai, GLM-5 模型卡
744B 总参数和 40B 激活参数的出处。
- Z.ai, GLM-5.3 发布说明
后训练、长程环境与基准测试的官方说明。
- 站内：AI Scaling Law 学习笔记
先理解幂律和计算最优前沿。
- 站内：MoE 混合专家学习笔记
继续理解参数容量与单次计算的分离。