#深度学习

3 篇相关记录

大模型里更有数学味的 16 个问题：从 Grokking 到权重空间

如果已经了解 embedding、attention、softmax、LoRA 和 SVD，这篇可以继续往下走：训练动力学、权重空间、内部因果、表示几何、对齐与部署里，还有哪些值得追的大模型数学问题。

从函数、斜率、导数和二次近似开始，递归拆解泰勒展开是什么，再连接到梯度下降、损失函数、二阶优化、量化和大模型训练里的局部近似思想。

从 REINFORCE 的"数据用一次就作废"出发,一步步推出 PPO 训练循环的全部部件——重要性采样比率、clip、critic、GAE、多 epoch 复用——再落到 RLHF 的四模型循环。读完你能口述一次 PPO 迭代的每个阶段,以及每个阶段为什么非存在不可。