#LLM

扩散模型说人话：从擦掉噪点到造出新东西

"加噪再去噪"这句话解释不了最关键的一件事：去噪只是把脏图擦干净，怎么能擦出一张从来不存在的图？这篇用一个不装任何库、复制就能跑的一维小例子讲透。

AI LLM 零基础

自回归不是物理定律：扩散语言模型买到了什么，亏在哪里

从左往右生成不是语言的性质，而是一个可以被换掉的建模选择。这篇把投机解码与扩散语言模型放进同一个框架，手算清楚扩散省下的步数是从哪儿借的，再用 Gemini Diffusion 官方评测表验证这笔账。

AI LLM 论文深读

我把 Claude Code 的模型换成了扩散模型：28 次运行全过，但它的卖点花不出去

把 Claude Code 的模型后端换成 Inception 的 Mercury 2 扩散模型，跑 9 个带隐藏测试的编码任务、共 28 次运行全过。真正的发现是一笔账：agent 负载的输入输出比是 82:1，输出侧只占总成本 4.2%——扩散优化的那一侧，在这里花不出去。

AI Agent LLM 工程实践

当评测系统成为攻击目标：1200 个 Agent 如何自组织、越界与篡改证据

深度拆解 METR、OpenAI 与 Hugging Face 的 2026 年事件报告：从不可能任务、未授权消息板、群体协作到工具调用伪造，建立一套可迁移的 Agent 评测安全模型与工程检查清单。

AI LLM Agent Agent 工程评测 AI 安全 AI Infra 系统设计

2026年8月26日

什么是一个好的评测样本？不是一道难题，而是一份决策证据

结合 ECBD、CheckList、Dynabench、SWE-bench 与 LiveBench，建立一套判断 LLM/Agent 评测样本是否有效、可判、可复现、能区分且不过期的工程框架。

AI LLM 评测 Agent AI Infra 论文深读

2026年8月25日

读 ECC：一个仓库把 Claude Code 的 harness 意见装箱发货

ECC（Everything Claude Code）是 MIT 协议的 Claude Code 插件仓库。它把 plan → test → implement → review → verify → remember → improve 这条工作流固化成 68 个 agent、286 个 skill、94 个命令和一套 hook。读这个仓库不是读框架源码，是读一份被具体化到文件的 harness 意见：每一种日用 agent 编程会踩到的失败模式，都对应一件可 install 的东西。

AI LLM Agent Agent 工程上下文工程

harness 会被模型吃掉：attention-interface 与 agent 演化的两条曲线

深读 Latent Space 2026-08-22 那篇《The Evolution of the Agent Harness》。Dan McAteer 用一张"模型能力曲线 × harness 需求曲线"的几何图，把 2022 年 ReAct 到 2025 年 Claude Code 的四段演化串起来，并给出一个我认为值得记住的赌注：随着 harness 能力被 RL 吸收进权重、被工程师从提示词里删除，剩下的会是一层「模型给人套上的挽具」——attention-interface。这篇不做摘要，做消化：把文章的核心几何、数字锚点、可疑点、以及和本站已有 harness 谱系的对接，全部拆到能被下一篇引用的粒度。

AI LLM Agent Agent 工程论文深读

顶级模型"卖不动"是误读：Ramp 数据里同厂之间的信任积攒

深读 Simon Willison 2026-08-23 那篇转引 FT 报导 + Ramp AI index 的短博客。表面结论是"Anthropic 最贵的 Opus 5 只占同厂花费 3.5%，Opus 4.8 占 28%"，但把家族聚合起来看，Opus 系仍占 40.8%——只是集中在上一代旗舰上。真正的信号不是"贵的没人要"，是**用户在给"累积过工程投入的模型"投票**：老模型有 SDK、prompt 库、评测、KV 缓存、组织 runbook，新模型这一切都是 0。这是昨天那篇《合成前沿》里"10% 更差、100x 便宜"在市场端的第二个投影：同厂内也在验证同一条经济逻辑。

AI LLM 评测工程实践

过程知识住在哪里？——Agent 编排的第四把交椅：编译进 8B 权重

既有的 Agent 工程决策地图有六个决策点，但都没回答一个问题：一条业务流程该住在哪里？代码里（LangGraph/CrewAI，29 万 star）、前沿模型的 system prompt 里（Anthropic Building Effective Agents 推荐）、外部技能库里（Voyager 风格）——都是把 procedure 摆在模型外面。arXiv 2605.22502 补上第四把椅子：用 Claude Sonnet 4.5 遍历流程图生成 3000–6000 条合成对话，对 Qwen3-8B 做全量微调（LoRA 明确失败），把流程编译进权重变成 subterranean agent。三个实测领域：旅游预订 14 节点、Zoom 支持 14 节点、保险理赔 55 节点 6 决策枢纽。结果：单次会话比 in-context 便宜 128–462×，比 LangGraph 便宜 77–249×；质量达 in-context 前沿的 87–98%；保险和旅游任务失败率反而比 LangGraph orchestrator 更低（9% vs 17%、5.5% vs 24%）；重新编译 30–50 分钟就是一次 CI/CD。这篇把它接进 Agent 决策地图的第七个位置，解释为什么 8B 能打赢 Claude 4.5 + LangGraph，以及这条路为什么不是在反苦涩教训，反而是苦涩教训吃掉 orchestrator。

AI LLM Agent Agent 工程论文深读

手把手把 5 节点流程编译进 0.5B 权重——Subterranean Agent 实操陪读篇

主篇给了 arXiv 2605.22502 的整套数字（128–462× 便宜、8B 打过 Claude 4.5 + LangGraph），但真正在 A100 上复现 8B 版本对读者门槛太高。这篇把管线缩到 8GB 消费级显存能跑的版本：5 节点日报归档流程 → 用 Claude Sonnet 4.5 合成 200 条对话（约 $1.70）→ Qwen2.5-0.5B 全量微调（bfloat16，~7GB 显存，M2 Pro 15 分钟）→ 对照 Claude API in-context。每一步给完整可跑代码、显存/时间/成本手算数字、以及一份 12 项自检清单。诚实标注：我没有实机跑完全流程，给出的数字是官方规格+手算估计，读者跑通请回来纠正。

AI LLM Agent Agent 工程学习笔记

10% 更差、100 倍便宜、10000 倍快：AI 生产线被自己吃掉的八次

深读 Latent Space 2026-08-22 那期 AINews：把 2022 到 2026 每年一次的"人类输入变成模型输出"演化拆成八个阶段，每一格给 patient zero 论文和该阶段的验证机制；并挑出作者只在页脚点了一下的元规律——合成前沿不是被"生成"推动的，是被"验证"推动的。这条思路和昨天那篇 attention-interface 是同一个抽象上升一层：agent harness 被模型吸收，是这条大曲线在 agent 内部的投影。

AI LLM AI Infra 评测论文深读

2026年8月20日

Codex 怎样接进公司的评测链路：先摆正 Langfuse 与 Inspect AI 的坐标

「让 Codex 集成 Langfuse 做 Inspect AI 评测」这句话把两个不在同一节点的组件当成了需要搭桥的对等系统。翻开本站评测路由系列的施工图：Langfuse 是 Trace 节点（M5），Inspect AI 是评测执行引擎（M8），中间隔着数据集（M6）。这篇把 Codex 放回这条「请求→路由→Trace→评测→策略」的闭环里，讲清它从哪个节点进场、trace 走哪两条路、以及它同时是 trace 生产者又是被评对象。

Codex Agent AI Infra LLM 评测

Flue 2.0 深读：能力是状态的函数——Astro 团队把 React 的等式搬进了 Agent

Astro 创始人 Fred Schott 的开源 TypeScript agent 框架 Flue 发布 2.0，首个稳定版的地基是 React 风格的 Agent Hooks：agent 函数在每次模型调用前重跑一遍，hooks 声明本回合的能力清单。深读它对着的根本约束（能力集合随会话状态变化，静态配置表达不了）、与 React 的一处关键差异（资源钩子允许条件调用）、以及与 DeepSeek dsh 的谱系对照：重算 vs 撤销，是可组合性的两条路线。

AI LLM Agent

模型配置到底在配置什么：从 Megatron 源码读懂 Config、Spec、Builder 三层

基于 Megatron 训练侧 GPTModelConfig/GPTModelBuilder 源码，把「模型配置」拆成三个正交问题：模型长什么样（Config）、每层用哪套实现（Spec）、切成几块放在哪张卡上（Builder）。含词表 padding 手算、layer spec 决策树伪代码和 MTP 支线，末尾给一张读任何训练框架配置都能用的三问速查表。

AI Infra LLM 源码阅读模型训练

二十行骨架与四本账：Megatron 预训练主循环源码深读

基于 Megatron 训练侧 training.py 真实源码，把预训练主循环拆成「二十行理想骨架 + 四本工程账（记账/容错/性能/并行胶水）」。含 FLOPs 公式与 6ND 的手算对照、packed sequence 的 L² 记账、跨 rank 对齐 GC 等细节，末尾给一张读任何训练框架主循环都能用的六问清单。

AI Infra LLM 源码阅读模型训练

推理转 Program 了吗？从「只给 Agent 一个 IPython」说起

一位读者看完 Prime Agent「唯一工具是 Python 解释器」的设计后问：这是不是意味着推理转向程序？回查四年论文链（PAL/PoT → CodeAct → RLM）后我的答案是：对了一半。转成程序的不是推理，而是「算、做、记」三件事的执行权；语言仍然负责想。这篇给出谱系、边界和五个可证伪的推演。

Agent LLM Agent 工程工具调用