#LLM

一万亿个参数，没有一个是给你拧的：函数、大模型与 Claude Code 的控制面迁移史

函数的控制面是参数：改参数，结果就变。大模型呢？它有上万亿个参数，但没有一个是旋钮——真正的控制面迁移到了数据、目标函数和上下文里。到了 Claude Code / Codex，控制面又搬回模型外面，变成一整个分层的驾驶舱。这篇讲清一条主线：计算史就是控制面的迁移史，每次迁移都在拿确定性换能力，然后人类立刻在新的一层重建确定性。

LLM Agent Claude Code AI 前沿第一性原理思维框架

穿透控制面：你写进 CLAUDE.md 的每一行，最后变成了模型内部的什么

上一篇找齐了 Agent 的控制面，这一篇把 X 光打进去：指令、示例、人格设定、测试反馈，穿过 tokenizer 之后分别控制了 Transformer 内部的哪个机制？结合 induction heads、task vectors、persona vectors 三条机制学证据链，得到一个统一答案——上下文控制的从来不是模型会什么，而是在一座冻结的能力库上做"寻址"：选择并组合已有的回路。

LLM Agent Claude Code 可解释性 AI 前沿第一性原理

researcher-deepdive lilian-weng Scaling Laws Pretraining LLM 学习笔记

Lilian Weng 新文深读：Scaling Law 不是物理定律，是一次高杠杆的赌注

《Scaling Laws, Carefully》深度消化：为什么深度学习最著名的"定律"，两篇奠基论文能得出相反的结论（Kaplan 的 0.73 vs Chinchilla 的 0.5）；为什么 Chinchilla 自己也有一个求和写成平均的拟合 bug；以及当"数据无限"假设过期之后，scaling law 正在被改写成什么形状。

零基础陪读 Scaling Laws：那篇深读读不动？你缺的其实只是一条直线

Scaling Laws 深读的陪读篇。用正方形、身高预测、餐巾纸记账几个能手算的真问题，把幂律、log-log 直线、拟合、外推、C≈6ND 五件工具逐件装好，每件装完立刻回扣深读原文。读完再回去，0.73 vs 0.5 之争会变成一个很直观的故事。

Scaling Laws LLM 数学零基础

2026年7月21日

Loop 还是 Graph?这是个假问题——Agent 架构之争的真正变量,是控制流的真相放在哪里

Loop 派信模型,Graph 派信代码,吵的其实是同一个坐标轴上的两个点:下一步由谁决定。用调度器理论把二元对立拆成连续谱,再看 AFlow/GPTSwarm 给出的第三条路——结构本身也可以被搜索出来。

AI LLM Agent AI Infra 论文导读学习笔记

AI LLM Agent Code Agent AI Infra Context Engineering 学习笔记

Agent 工程七问：如何把一个随机内核，包装成能托付长任务的可靠系统

状态记录、失败恢复、沙箱隔离、多轮评测、test-time compute 分配、上下文组织、速度/成本/成功率联合优化——七个问题共享同一个答案结构：把真相移到模型外面。

为什么生成一个 token，要把权重从内存搬到计算单元旁边？

从矩阵乘法、GPU 内存层级和 Transformer decode 流程解释，为什么大模型推理不能直接用显存里的权重原地计算。

AI AI Infra LLM Inference GPU Transformer 学习笔记

PPO 的训练循环:每一个部件,都是同一对矛盾的产物

从 REINFORCE 的"数据用一次就作废"出发,一步步推出 PPO 训练循环的全部部件——重要性采样比率、clip、critic、GAE、多 epoch 复用——再落到 RLHF 的四模型循环。读完你能口述一次 PPO 迭代的每个阶段,以及每个阶段为什么非存在不可。

强化学习 LLM RLHF 深度学习

示范教不会的东西:为什么大模型需要强化学习

零基础向。不讲任何算法、不用一个公式,只回答三个更早的问题:强化学习到底是什么?已经有预训练和微调了,为什么还需要它?它是怎么被搬到语言模型上的?读完你会拿到一张 RL 术语对照表——之后再读 RLHF、PPO、GRPO,那些词就不再是黑话。

强化学习 LLM RLHF 入门

短视频说"AI 一小时证明了 50 年数学悬案"——我把 OpenAI 那两份 PDF 读了，真实故事更精彩

2026 年 7 月，"GPT-5.6 一小时证明循环双覆盖猜想"刷屏短视频。事实核查：事件为真，但"证明了"三个字说早了——现在的准确状态是"机器生成了一份证明，人类正在核验"。这篇先用能手画的小例子讲透这个 50 年悬案本身（圈、桥、snark），再逐页拆 OpenAI 发布的两份一手 PDF：3 页的证明走了哪四步，那份比证明更值得读的 2 页提示词里藏着哪些多代理工程设计。结尾是一张"视频说法 vs 核实结果"对照表，以及一个漂亮的对偶：费马大定理是人类已证、等机器核验；这次是机器生成、等人类核验。

数学 AI 图论事实核查 LLM

把注意力换成一块「会遗忘的内存」:源码级深读 Kimi K3 的心脏 KDA

Kimi K3 权重 7 月 27 日才放出,但它的核心 KDA 九个月前就完整开源了。从 arXiv 论文和 flash-linear-attention 的 kernel 源码出发,拆解这块 128×128 的矩阵内存如何撑起 2.8 万亿参数与 1M 上下文。

LLM AI Infra Attention 论文解读 Kimi

会加减乘除就够:十个问题,手算读懂 Kimi K3 心脏里的全部数学

上一篇 KDA 深读里的公式劝退你了?这篇是零基础陪读:用一块 2×2 的迷你内存和十个问题,每一步都能用小学算术手算,算完你能逐个符号读懂 KDA 的核心公式。

数学 LLM Attention 零基础论文解读

AI LLM Code Agent Context Engineering Claude Code Codex 论文学习

KV cache 是内存管理,上下文管理是 GC 吗?——把 LLM 推理栈当操作系统读一遍

一个常见直觉的精确化:KV cache 层确实对应操作系统内存管理——PagedAttention 就是把虚拟内存搬进显存,前缀缓存的 ref_cnt 就是字面意义的引用计数 GC;但语义层的上下文管理对应的不是 GC,而是页面置换加有损压缩。给出三问判据。

AI Infra LLM vLLM KV Cache 操作系统论文解读

2026年7月17日

Agent 的内存管理:Claude Code 与 Codex 如何决定"忘掉什么"

深度拆解 Claude Code / Codex 的上下文淘汰策略:分层压缩管道、compaction 幸存规则、KV cache 淘汰的同构问题,以及 arXiv 论文给出的反直觉证据——简单丢弃常常不输昂贵的摘要。

2026年7月17日

Claude Code 和 Codex 还在用 RAG 吗？——代码检索为什么回到了 grep

拆解 Claude Code / Codex 的代码检索机制：为什么两家都放弃了向量索引式 RAG，改用 agentic search（grep + 模型闭环）；Fetch 工具到底是干什么的；以及 arXiv 论文链条给出的证据与边界。

AI LLM Code Agent RAG Agentic Search Claude Code Codex 论文学习

2026年7月16日

上下文窗口里的干预权重：为什么模型更听开头、最近和当前任务

基于长上下文与多轮对话论文，拆解上下文里哪些信息最能干预模型输出、哪些信息会被有效淘汰，以及如何安排系统提示、历史、摘要和当前任务。

learning-log LLM long-context prompt-engineering agent

2026年7月16日

提示词之后：上下文工程如何接管 LLM 应用质量

从系统提示词、用户提示词、会话上下文、检索上下文、Token 窗口、幻觉抑制和提示词模板库出发，结合 arXiv 论文解释为什么 LLM 应用的核心工程对象正在从 prompt 变成 context。

AI LLM Prompt Engineering Context Engineering RAG AI Infra

2026年7月15日

AI 数学全景拆解：从研究前沿一路拆到小学算术，不跳步（完整节点版）

把 AI 用到的全部数学，从最高层一层层往下拆，每个概念只连它真正的直接前置，中间绝不跳步，一直拆到小学的加减乘除。六大主干（线性代数/微积分/概率统计/优化/信息论/离散）各附主脊图与完整节点表，顶层覆盖 AI 各子领域用到的数学——并解释为什么"听不懂"几乎总是某个下层前置没补上，而不是你不行。

AI 数学机器学习学习地图第一性原理 LLM

2026年7月15日

从提示词到工作制度：Superpowers Skill 的结构上下文哲学

结合 Superpowers 的 brainstorming、TDD、worktree、writing-skills 设计，以及 Agent Skills、Externalization、SkillsBench、Parametric Skills、HASP 等论文，解释为什么 skill 的本质不是更多 prompt，而是把 Agent 的工作上下文做成可触发、可验证、可复盘的结构。

AI LLM Agent Agent Skills Superpowers Context Engineering AI Infra

站在 AI 的山巅：一句话 + 12 条原理，读懂从符号主义到大模型的所有设计

与其把每篇论文当孤立的知识点去背，不如握住一副望远镜。这篇把整部 AI 史压成一句话，再展开成 12 条跨时代的顶级原理——每条都配一个从"老 AI"到今天的例子和一个透镜问题。读到发懵的论文，往这 12 条上一映射，雾气就散了。

AI 前沿第一性原理机器学习思维框架 LLM

把智能体当人用：Claude Agent SDK 的架构设计哲学

不是功能罗列，而是深读 Claude Agent SDK 的设计思想——为什么"给智能体一台电脑"、agent loop 为什么是控制循环、上下文窗口如何成为一切设计的隐形主线、以及为什么可靠性工程发生在 harness 而不是模型里。

AI Infra Agent Claude LLM 架构设计

不教，只给激励：DeepSeek-R1 如何让大模型自己"长"出推理能力

深读发表于 Nature 的 DeepSeek-R1 论文——它证明了一件反直觉的事：复杂推理不必靠人类标注的思维链一步步教，而是用对了奖励，让模型在强化学习里自己长出来。从 GRPO、规则奖励、"aha moment"到四段式流水线与蒸馏，一条主线讲透当前推理模型这一代范式。

LLM 强化学习推理模型 DeepSeek AI 前沿

任务能力怎样写进 LLM 权重：从一次梯度更新到预训练与对齐

沿着一条训练信号的旅程，解释 loss、gradient、AdamW 怎样改变权重，并串起预训练、SFT、RLHF、DPO、LoRA 与上下文学习。

AI LLM 模型训练论文学习 RLHF LoRA 可解释性

一组权重，为什么能学会许多任务：条件化计算、梯度冲突与多任务收敛

从一个根本无解的双标签训练集出发，解释任务条件、不同激活、梯度夹角、Pareto 折中，以及怎样让一个模型可靠地同时学会 A、B 和更多任务。

AI LLM 模型训练多任务学习优化可解释性

Graphify 源码深潜：从 AST 构图到 LLM 任务的上下文装配

从语法树构图、跨文件消歧和图遍历查询，到 Skill、AGENTS.md、CLI 与 MCP 接入，讲清 Graphify 如何在构图期与任务运行期分配 LLM 职责。

AI Agent LLM 代码知识图谱 MCP 源码阅读

从 Attention 到 PagedAttention：用 llama.cpp 跑通 Qwen2.5-7B 后，我终于看懂了 LLM 推理主线

用 BPE、Transformer、RoPE、GQA、FlashAttention、PagedAttention 等论文作纵轴，串起 Qwen2.5-7B 在 llama.cpp 上的 tokenizer、forward、KV cache、benchmark、PPL 和 sampling 实验。

AI AI Infra LLM Inference Transformer Attention KV Cache llama.cpp vLLM Qwen

Decode 为什么跑不到理论带宽：KV cache、activation、反量化和调度开销

系统拆解 decode 实测速度低于理论带宽上限的原因：权重读取、KV cache、activation、反量化 metadata、kernel 调度和 cache miss。

AI AI Infra LLM Inference Benchmark KV Cache Quantization llama.cpp Qwen

采样不是玄学：从 logits 到 temperature、top-k、top-p

用一次 llama-cli 采样实验讲清 logits、softmax、temperature、top-k 和 top-p 的真实作用。

AI AI Infra LLM Sampling llama.cpp Qwen 数学

Agent 能力会被内化吗：外部系统、模型训练与研发护城河

深读 Externalization、Toolformer、TInR、RISE、Agent Skills 等论文：哪些 Agent 外部系统会被模型内化，哪些不会，未来研发竞争力会迁移到哪里。

AI LLM Agent Tool Use 论文学习

Agent 长记忆不是向量库：从记忆流到内存管理

消化 Generative Agents、Reflexion、MemGPT、Mem0 和 A-Mem：为什么 Agent 长记忆不是简单存聊天记录，而是一套写入、整理、检索、更新和评估系统。

AI LLM Agent Memory 论文学习

Agent 做长任务为什么会崩：从时间跨度到失败归因

消化 Voyager、METR long tasks、TheAgentCompany、SWE-Bench Pro、Odysseys、WildClawBench 和 HORIZON：长任务能力为什么不能只看成功率。

AI LLM Agent Eval 长任务论文学习

AI AI Infra LLM Math Learning Method Perplexity Representation

换空间是一种数学肌肉记忆：从 LLM 到顶级数学家的思考方式

从交叉熵、embedding、RoPE、量化和 LoRA 出发，讲清为什么数学家和工程师总是在换空间，以及如何把这种提问方式练成日常肌肉记忆。

AI AI Infra LLM Math Learning Method Mathematical Thinking

攻克数学恐惧：从顶级数学家的脑回路，到一条可训练的数学探索路径

从 Euclid、Euler、Gauss、Riemann、Noether、Poincare、Hilbert、Grothendieck、von Neumann、Ramanujan 和 Tao 的思维动作里，提炼一条适合 AI Infra 学习者的数学探索路径。

PPL 是什么：把模型困惑度理解成平均岔路数

用 Qwen2.5-7B 的 llama-perplexity 实测结果，讲清 PPL、交叉熵和量化质量评估之间的关系。

AI AI Infra LLM Evaluation Perplexity llama.cpp Qwen 数学

本机实操一次最小大模型蒸馏：用 GGUF Qwen 当 teacher

用本机 GGUF Qwen teacher、llama-server top-k logprobs 和 NumPy tiny student，讲清大模型蒸馏里的 soft labels、KL loss、训练流程和最小实现。

learning-log AI LLM AI Infra Distillation llama.cpp GGUF

为什么交叉熵偏偏要用 log：从模型开发者脑回路理解 PPL

从模型开发者会遇到的概率连乘、数值下溢和训练优化问题出发，还原 log、ln、exp、交叉熵与 PPL 之间的动机链条。

AI AI Infra LLM Evaluation Perplexity Cross Entropy 数学

2026年7月9日

Decode 速度上限公式：为什么 4.677GB 模型、16.99 tok/s 反推约 79.5GB/s

用 Qwen2.5-7B llama-bench 的真实数据，讲清 decode 为什么常被内存带宽卡住、bandwidth / model_size 怎么估理论上限，以及 79.5GB/s 这个反推数字到底代表什么。

AI AI Infra LLM Inference Benchmark llama.cpp Qwen 数学

2026年7月9日

KV cache 那笔账：为什么 Qwen2.5-7B 在 2048 长度下大约是 117MB

从人话直觉、小数字张量形状和 Qwen2.5-7B 的真实参数出发，讲清 KV cache 公式、GQA 为什么省 7 倍，以及 100 并发为什么会变成 11.7GB。

AI AI Infra LLM Transformer Attention KV Cache Qwen llama.cpp 数学

AgentBench 学习笔记：评测 Agent，不能只看它怎么回答

消化 AgentBench 论文：为什么 LLM Agent 需要交互环境评测，AgentBench 如何用 8 类环境测试长期推理、决策和指令遵循，以及它对 Agent eval 的启发。

AI LLM Agent Eval 论文学习

Evoflux 学习笔记：小模型不会稳定用工具时，先别急着微调

消化 Evoflux 论文：为什么紧凑模型在 MCP 风格工具调用里容易失败，Evoflux 如何把工具调用看成可执行工作流的推理时演化修复，以及它对 Agent 系统设计的启发。

AI LLM Agent Tool Use MCP 论文学习

HELM 学习笔记：模型评测不是跑榜，而是建立一张能力地图

消化 HELM 论文：为什么 LLM 评测不能只看单一排行榜，HELM 如何用场景、指标和透明产物重构模型评测，以及工程团队应该如何借鉴。

AI LLM Eval AI Infra 论文学习

AI LLM Eval Instruction Following 论文学习

IFEval 学习笔记：别只问模型聪不聪明，先测它是否真的听话

消化 IFEval 论文：为什么指令遵循需要可验证评测，IFEval 如何用 25 类可检查约束构造约 500 条样本，以及它对 prompt 和模型发布门禁的启发。

LLM-as-a-Judge 学习笔记：让模型当裁判，到底靠不靠谱

消化 MT-Bench 与 Chatbot Arena 论文：为什么开放式回答难以自动评测，LLM-as-a-Judge 如何近似人类偏好，以及 position、verbosity、self-enhancement 等偏差该如何处理。

AI LLM Eval LLM-as-a-Judge 论文学习

Out 投影到底在输出什么：把多头 attention 结果重新混回 hidden state

补齐 W1-Q4 attention 内部四步的最后一块：用混音台直觉、小数字矩阵乘和 Qwen2.5-7B 的真实 shape，讲清 attn_output.weight 与最终 output.weight 的区别。

AI AI Infra LLM Transformer Attention llama.cpp 源码阅读数学

BPE 不是一个汉字一个 Token：从 Qwen tokenizer 实验看懂 token 计费

用 Qwen2.5 tokenizer 的中文、英文、代码和 emoji 实测数据，讲清为什么 token 不是字符，以及为什么 LLM 按 token 而不是字符计费。

AI AI Infra LLM Tokenizer BPE Qwen 学习笔记

PrologMCP 学习笔记：别让大模型硬想，把演绎推理交给符号系统

消化 PrologMCP 论文：为什么 LLM 在深层演绎推理上不稳定，PrologMCP 如何把 Prolog 标准化为 MCP 工具，以及“模型做翻译、求解器做推理”的系统分工。

AI LLM Agent MCP Prolog Symbolic AI 论文学习

SWE-bench 学习笔记：代码模型评测，终于从刷题走向真实修 Bug

消化 SWE-bench 论文：为什么传统代码生成评测不足以衡量软件工程能力，SWE-bench 如何用真实 GitHub issue、仓库上下文和测试执行构造可执行评测。

AI LLM Eval Code Agent SWE-bench 论文学习

2026年7月7日

Masked Softmax 到底在 mask 什么：把 QK 分数变成注意力权重

面向初学者拆解 masked softmax：先补 softmax 的 exp、求和、归一化，再讲 causal mask 如何把未来 token 权重变 0，最后对上 GQA 下的 Q/K/V shape 和 llama.cpp attention graph。

AI AI Infra LLM Transformer Attention Softmax llama.cpp 源码阅读数学

2026年7月7日

QKV 投影到底在投什么：从 3584 维 hidden 到 28 个 Query 头、4 个 KV 头

面向初学者拆解 Transformer 的 QKV 投影：从 Query/Key/Value 的角色，到矩阵乘、shape 推导、GQA、KV cache 和 llama.cpp 的 build_qkv 源码对应。

AI AI Infra LLM Transformer Attention llama.cpp 源码阅读数学

2026年7月7日

RoPE 为什么只是高中三角函数：把 Q/K 向量按位置旋转

面向初学者拆解 RoPE：先补 cos/sin 的横向和纵向直觉，再推导二维旋转公式、128 维 head 拆分、相对位置如何进入 QK 点积，并对上 llama.cpp 的 ggml_rope_ext。

AI AI Infra LLM Transformer Attention RoPE llama.cpp 源码阅读数学

AI Infra 工程师日常工作地图：以 OpenAI 岗位为镜，明自己的学习坐标

基于 OpenAI 公开 AI Infra 相关岗位描述，按训练、推理、数据、GPU 集群、可靠性、评测发布、Agent Infra、安全和开发效率拆解 AI Infra 工程师每天实际做什么，并映射到个人学习路线。

AI AI Infra LLM 职业地图学习笔记 OpenAI

一个 token 的诞生：从 llama.cpp 主循环看懂 Prefill 和 Decode

从 llama.cpp 的命令行入口、tokenize、生成 while 循环、llama_decode、batch、n_past 和 KV cache 串起一次 LLM 推理，解释 prefill 与 decode 的代码分叉和性能差异。

AI AI Infra LLM llama.cpp 推理引擎源码阅读

LoRA 机制学习笔记：为什么它能把函数和技能变成大模型的可插拔补丁

从矩阵乘法、Transformer 线性层、低秩增量和 adapter 加载机制出发，解释 LoRA 如何与大模型内核协作，以及为什么 Program-as-Weights 和 Parametric Skills 都选择把能力内化成 LoRA。

AI LLM AI Infra 论文学习 LoRA PEFT Program-as-Weights Parametric Skills

LoRA rank=16 数学直觉：不是更新 16 个维度，而是用 16 个方向生成完整增量

从矩阵秩、外积、低秩分解和瓶颈层出发，用通俗数学解释 LoRA 里的 rank=16 到底是什么意思，为什么它能影响所有输出维度，以及为什么常在 8/16/32/64 之间取值。

AI LLM AI Infra 论文学习 LoRA PEFT 数学

计算图不是在算，而是在排活：从伪代码到 ggml 看懂 llama.cpp 的 Qwen2 forward

用一段极简伪代码解释计算图，再拆开 ggml_tensor、ggml_cgraph 和 llama.cpp 的 Qwen2 graph builder，看懂一次 forward 如何从 logits 反向追出完整执行图。

AI AI Infra LLM llama.cpp ggml 推理引擎源码阅读

Parametric Skills 学习笔记：把 Agent 技能从上下文说明书编译成 LoRA 参数

深入拆解 Parametric Skills：为什么文本技能会在长上下文 Agent 中失效，如何用 hypernetwork 把 SKILL.md / 轨迹经验转成 LoRA adapter，以及它和 Program-as-Weights 的关系。

AI LLM AI Infra 论文学习 Parametric Skills agent LoRA skills

本地跑通一个真实 PEFT LoRA：从环境、代码到 base/adapter/merged 输出对比

完整记录一次生产常见 LoRA 推理链路：Apple Silicon 本地环境、uv 隔离环境、Transformers + PEFT 加载 Qwen2.5-0.5B 基座和 commit message LoRA adapter，比较 base、active adapter、merged model 的输出。

AI LLM AI Infra 论文学习 LoRA PEFT Transformers 本地推理