2026年7月22日Lilian Weng 新文深读:Scaling Law 不是物理定律,是一次高杠杆的赌注《Scaling Laws, Carefully》深度消化:为什么深度学习最著名的"定律",两篇奠基论文能得出相反的结论(Kaplan 的 0.73 vs Chinchilla 的 0.5);为什么 Chinchilla 自己也有一个求和写成平均的拟合 bug;以及当"数据无限"假设过期之后,scaling law 正在被改写成什么形状。researcher-deepdivelilian-wengScaling LawsPretrainingLLM学习笔记
2026年7月20日Lilian Weng 新文深读:当 Harness 本身成为被优化的对象《Harness Engineering for Self-Improvement》深度消化:递归自我改进不会从模型改写自己的权重开始,而是从部署层开始。被优化对象的爬升路径(prompt → context → workflow → harness 代码 → 优化器代码),以及为什么评估器必须留在循环之外。researcher-deepdivelilian-wengAgentSelf-ImprovementHarness学习笔记