#LLM

214 篇相关记录 · 第 7 / 9 页

2026年7月27日

别再问谁第一：大模型 Benchmark 榜单的正确打开方式

梳理 2026 年仍值得看的大模型榜单和数据源：LMArena、HELM、LiveBench、Artificial Analysis、SEAL/HLE、SWE-bench、BFCL、OpenCompass 与 Hugging Face Open LLM Leaderboard，并给出一套按场景读榜的方法。

AI LLM 评测

2026年7月27日

涌现是真是幻？大模型"突然开窍"的本质——一场跨越四年的论文辩论

为什么三位数加法这种能力会在模型变大时"突然出现"？沿着 Wei 2022 定名、Schaeffer 2023 质疑（海市蜃楼）、Du 2024 反转（损失阈值）、Michaud 量子模型、grokking 显微镜、Arora & Goyal 技能组合的论文接力，把涌现拆成一个可复用的心智模型：底层的进步几乎总是连续的，"涌现"是连续进步穿过非线性读出面时投下的阶跃阴影。

AI LLM 论文深读

2026年7月27日

最近的大模型论文，值得读的不是排行榜

从 DeepSeek-R1、s1、LIMO、Qwen3、Gemini 2.5、Kimi K2、GLM-4.5 到 Kimi Linear 和 Conditional Memory，整理一条 2025-2026 年大模型论文的品读路线：能力、算力、验证器和 Agent 化如何连成一条主线。

AI LLM Agent

2026年7月27日

为什么"请只输出 JSON"的哀求会失灵，而 response_format 一开就稳？沿训练到推理的完整链路拆解格式保障的五层机制：预训练给先验、后训练给服从、提示接口表达意图、约束解码给硬保证、系统校验兜底。结合 PICARD、Outlines、XGrammar、SGLang 与 Let Me Speak Freely 等论文，讲清 FSM 掩码的原理、tokenizer 错位难题、约束解码的分布扭曲代价，以及生产系统为什么五层全都要。

AI LLM AI Infra LLM Serving 论文深读

2026年7月27日

目标函数即命运：大模型为什么会长成被奖励的样子

结合 next-token 预训练、RLHF、DPO、DeepSeek-R1、Goodhart 定律、reward hacking 和目标泛化失败，用通俗例子解释“目标函数即命运”：模型不会按我们的愿望成长，而会按可优化的信号成长。

AI LLM 论文深读

2026年7月24日

上下文学习像临时做贝叶斯：为什么大模型不改权重也能跟着例子走

一篇从零开始的 In-Context Learning 深度讲解：模型没有更新权重，却能根据 prompt 里的几个例子临时跟上任务。一个有力解释是，它在上下文里推断当前任务是什么。

LLM 数学 Transformer 零基础

2026年7月24日

大模型里更有数学味的 16 个问题：从 Grokking 到权重空间

如果已经了解 embedding、attention、softmax、LoRA 和 SVD，这篇可以继续往下走：训练动力学、权重空间、内部因果、表示几何、对齐与部署里，还有哪些值得追的大模型数学问题。

LLM AI 数学

2026年7月23日

评测不是打榜：怎样用真实 Session 找到最便宜够用的模型

系统讲解 LLM 评测和模型路由的工程原理：如何把真实 session 做成 eval case，用 rubric、LLM judge、校准集和成本表找出每类任务的最低可用模型。

AI LLM AI Infra 评测

2026年7月23日

RouteLLM 深度解读：把模型选择变成成本-质量路由问题

从工程视角拆解 RouteLLM：它如何用偏好数据学习强弱模型路由，matrix factorization router、阈值、CPT/APGR 指标分别是什么意思，以及怎样接到真实 session eval 系统里。

AI LLM AI Infra 评测论文深读

2026年7月22日

一万亿个参数，没有一个是给你拧的：函数、大模型与 Claude Code 的控制面迁移史

函数的控制面是参数：改参数，结果就变。大模型呢？它有上万亿个参数，但没有一个是旋钮——真正的控制面迁移到了数据、目标函数和上下文里。到了 Claude Code / Codex，控制面又搬回模型外面，变成一整个分层的驾驶舱。这篇讲清一条主线：计算史就是控制面的迁移史，每次迁移都在拿确定性换能力，然后人类立刻在新的一层重建确定性。

LLM Agent

2026年7月22日

穿透控制面：你写进 CLAUDE.md 的每一行，最后变成了模型内部的什么

上一篇找齐了 Agent 的控制面，这一篇把 X 光打进去：指令、示例、人格设定、测试反馈，穿过 tokenizer 之后分别控制了 Transformer 内部的哪个机制？结合 induction heads、task vectors、persona vectors 三条机制学证据链，得到一个统一答案——上下文控制的从来不是模型会什么，而是在一座冻结的能力库上做"寻址"：选择并组合已有的回路。

LLM Agent

2026年7月22日

Lilian Weng 新文深读：Scaling Law 不是物理定律，是一次高杠杆的赌注

《Scaling Laws, Carefully》深度消化：为什么深度学习最著名的"定律"，两篇奠基论文能得出相反的结论（Kaplan 的 0.73 vs Chinchilla 的 0.5）；为什么 Chinchilla 自己也有一个求和写成平均的拟合 bug；以及当"数据无限"假设过期之后，scaling law 正在被改写成什么形状。

LLM 学习笔记

2026年7月22日

零基础陪读 Scaling Laws：那篇深读读不动？你缺的其实只是一条直线

Scaling Laws 深读的陪读篇。用正方形、身高预测、餐巾纸记账几个能手算的真问题，把幂律、log-log 直线、拟合、外推、C≈6ND 五件工具逐件装好，每件装完立刻回扣深读原文。读完再回去，0.73 vs 0.5 之争会变成一个很直观的故事。

LLM 数学零基础

2026年7月21日

Loop 还是 Graph?这是个假问题——Agent 架构之争的真正变量,是控制流的真相放在哪里

Loop 派信模型,Graph 派信代码,吵的其实是同一个坐标轴上的两个点:下一步由谁决定。用调度器理论把二元对立拆成连续谱,再看 AFlow/GPTSwarm 给出的第三条路——结构本身也可以被搜索出来。

AI LLM Agent AI Infra 论文深读学习笔记

2026年7月20日

Agent 工程七问：如何把一个随机内核，包装成能托付长任务的可靠系统

状态记录、失败恢复、沙箱隔离、多轮评测、test-time compute 分配、上下文组织、速度/成本/成功率联合优化——七个问题共享同一个答案结构：把真相移到模型外面。

AI LLM Agent AI Infra 上下文工程学习笔记

2026年7月20日

为什么生成一个 token，要把权重从内存搬到计算单元旁边？

从矩阵乘法、GPU 内存层级和 Transformer decode 流程解释，为什么大模型推理不能直接用显存里的权重原地计算。

AI AI Infra LLM Transformer 学习笔记

2026年7月20日

PPO 的训练循环:每一个部件,都是同一对矛盾的产物

从 REINFORCE 的"数据用一次就作废"出发,一步步推出 PPO 训练循环的全部部件——重要性采样比率、clip、critic、GAE、多 epoch 复用——再落到 RLHF 的四模型循环。读完你能口述一次 PPO 迭代的每个阶段,以及每个阶段为什么非存在不可。

LLM

2026年7月20日

示范教不会的东西:为什么大模型需要强化学习

零基础向。不讲任何算法、不用一个公式,只回答三个更早的问题:强化学习到底是什么?已经有预训练和微调了,为什么还需要它?它是怎么被搬到语言模型上的?读完你会拿到一张 RL 术语对照表——之后再读 RLHF、PPO、GRPO,那些词就不再是黑话。

LLM

2026年7月18日

短视频说"AI 一小时证明了 50 年数学悬案"——我把 OpenAI 那两份 PDF 读了，真实故事更精彩

2026 年 7 月，"GPT-5.6 一小时证明循环双覆盖猜想"刷屏短视频。事实核查：事件为真，但"证明了"三个字说早了——现在的准确状态是"机器生成了一份证明，人类正在核验"。这篇先用能手画的小例子讲透这个 50 年悬案本身（圈、桥、snark），再逐页拆 OpenAI 发布的两份一手 PDF：3 页的证明走了哪四步，那份比证明更值得读的 2 页提示词里藏着哪些多代理工程设计。结尾是一张"视频说法 vs 核实结果"对照表，以及一个漂亮的对偶：费马大定理是人类已证、等机器核验；这次是机器生成、等人类核验。

数学 AI LLM

2026年7月18日