Reading path

Agent 工程

记录 agent loop、工具调用、上下文工程、MCP、检索和长任务控制，把抽象能力落到工程边界。

165 篇文章

专题归档

第 3 / 7 页

2026/8/11

把回显当证物：一页评测证据的取证报告，和一条「双向 Oracle」定律

一个 AI agent 用浏览器自动化工具点开评测平台的证据页，吐回 18000 字符的可访问性树——这篇只凭这一页回显做取证式阅读，拆出六条线索：样本自带工具面板（τ-bench/SWE-bench 的 agent 时代样本格式）、mustFind+mustNotClaim 双向 Oracle（CriticGPT 的全面性-幻觉权衡 + TruthfulQA 式误区陷阱，逐样本的精确率-召回率合同）、按风险定价的 minimumScore（0.75/0.80/0.85 三档）、SOURCE TRACE 溯源与 model@v×scorer@v×promptProfile×datasetContentHash 四元组封印（lm-eval Trenches 的可复现纪律）、数字取证（成本"未知"是显式空格；九个样本 ms/token 稳定在 5.9–7.5，UUIDv7 时间戳显示样本 73ms 内批量落库、20 分钟后才有 run）、以及 12/12 通过的真实含金量（三分法则：n=12 全过只能把失败率压到 25% 以下——acceptance 是门禁不是榜单）。元规律「双向 Oracle 定律」：评审型打分器的成熟度不看它奖励什么，看它禁止什么——单向清单量能力，双向合同量可信。

AI LLM 评测

2026/8/11

业务评测覆盖地图：模型上线要测的十个格子，和一条「显式空格」定律

学术基准回答模型强不强，业务评测回答系统会怎么翻车。借 HELM「先画格子再填数」的方法论，把业务评测拆成答案层、行为层、元层十格，每格给根本问题、源头论文、业务动作与收敛度——空格不可怕，隐形的空格才可怕。

AI LLM 评测

2026/8/11

读懂一张 30B 规格表：Muse Glimmer 把 24GB 显存写成了总纲

从 Latent Space 的 AINews 快讯出发，把 Meta Muse Glimmer 30B 的规格表逐行读成一张"消费级显卡预算"的账单：混合注意力 3:1 + GQA 把 128K 上下文的 KV cache 从 104GiB 砍到 1.7GiB（手算核对），三段式蒸馏、按精度损失定价的两档量化、块扩散草稿器 DFlash、为 agent 岗位特训的取舍——每一行背后站一篇可查证的论文。收束成一条元规律：前沿模型是能力定预算，本地模型是预算定架构。

AI LLM AI Infra

2026/8/10

澄清正在长出界面：当 Agent 递给你一张网页

用 superpowers 工作流时，Claude Code 会起一个本地页面让你点选确认细节——这不是插件作者的小聪明。同一个动作正在四层同时发生：工具层（AskUserQuestion）、协议层（MCP elicitation → MCP Apps → AG-UI）、生成层（Google Generative UI）、研究层（五篇澄清策略 arXiv）。本文给出第一性解释（界面化打的是人的应答成本，不是 agent 的提问能力）、收敛度判断和三个预见，收束成一条「确认带宽定律」。

Agent LLM MCP

2026/8/10

Agent 正在长成一朵云：从八个岗位地图到未来架构的压缩重演预测

姊妹篇：上一篇把主 Agent 推理循环拆成八个被专训小模型接管的岗位，这一篇把岗位表贴到云架构图上，发现 Agent 架构正在压缩重演云计算二十年的演化史。四层证据链逐层判收敛：组件层（BAIR 复合 AI 系统宣言→NVIDIA 异构编制）、内核层（AIOS 的 agent syscall、Parrot 的 Semantic Variable、Mooncake 的 P/D 分离）、运行时层（AWS AgentCore/Azure Foundry/Google Agent Engine 六个月内先后 GA，microVM 隔离 + serverless 计费）、协议层（MCP 管南北向、A2A 捐入 Linux 基金会管东西向）。给出三条置信度分级预测（控制面/数据面成为 Agent 默认词汇；模型从架构图中消失变成实例类型；评测成为 Agent 云的类型系统），并收束成一条元规律：抽象复用使演化压缩——后发领域直接借用先行领域付清过发明成本的抽象词汇表，把二十年走成三年。

AI LLM Agent

2026/8/10

主模型在思考，谁在打下手？——Agent 推理循环里被专训小模型接管的八个岗位

把主 Agent 的一次推理循环摊开成一条流水线，逐站盘点正在被专向训练小模型接管的岗位：路由员（RouteLLM）、安检员（Llama Guard/ShieldGemma）、精简师（LLMLingua）、打字员（投机解码/EAGLE）、质检员（Math-Shepherd/Qwen PRM/Prometheus 2）、翻译员（Gorilla/xLAM）、指路员（UGround/OS-Atlas）、誊写员（Cursor fast apply，已被回收的岗位）。以 NVIDIA 的 SLM 立场论文为理论锚点，收束成一条岗位寿命定律：结构位 > 部署位 > 能力位——靠结构立足的岗位长存，靠能力差立足的岗位终将被主模型收回。

AI LLM Agent

2026/8/10

Codex AI Digest 深读版 · 2026-08-10

Codex 真读真写 · 先看系统边界，再看工具与行动。这是 Codex 深读版。我先读了今天 source pack 抓到正文的 21 篇材料，再把真正会改变判断的信号压成方向、技能和行动。今天最值得你调整判断的，不是某个新模型名，而是三条更耐久的线索：agent 正从单会话助手长成会互相通信的系统；工具、协议和运…

learning-log AI Digest Codex

2026/8/10

Codex AI Digest 深读版 · 2026-08-10 · 18:06 版

Codex 真读真写 · 先判断，再给行动。这是 Codex 深读版，不做关键词拼盘。今天最值得你提早形成判断的三条线索是：多 agent 协作开始从“编排能力”转成“权限与安全边界”；AI 辅助的收益明显依赖使用者专业度；推理层竞争正在从单看模型，转向 runtime、技能包和工作流资产。

learning-log AI Digest Codex

2026/8/10

一把 Key 背后：AI 网关到底替你收编了后端栈的哪几层

LiteLLM 首页说 "Put your full AI stack behind one key"——这句广告词里的 AI stack 到底指什么？本篇按一次请求的生命周期把网关解剖成六层：协议归一（沙漏模型的窄腰）、身份与预算（virtual key 的凭证间接层）、路由与回退（FrugalGPT 级联 + RouteLLM 偏好路由 + Tail at Scale 对冲）、缓存（GPTCache 语义缓存 vs Prompt Cache 的 KV 缓存分界）、可观测（AgentOps taxonomy + OTel GenAI 语义约定）、防护与治理（Llama Guard + NeMo Guardrails）。每层四段式：根本问题→源头论文→网关落地→收敛度。收束成一条元规律：元数据分界定律——决策输入只需请求级元数据的横切层被网关吸收，需要碰权重/logits/KV 的能力沉入推理引擎；一把 key 买到的只是上半栈。

AI LLM AI Infra

2026/8/8

刷到的微软论文是真的吗？——FastContext：AI 写代码最贵的一步，和一篇只活了 18 天的论文

从一条短视频出发的事实核查与论文深读：微软 FastContext（arXiv 2606.14066）确有其文——用 4B 小模型专管代码库探索，主代理省 26–60% token、难题解决率 +5.5 分——但它 6 月 12 日提交、6 月 30 日就以「产品 IP」为由撤稿删库。结合 CodeScout、SWE-grep、SWE-Pruner、Agentless、LocAgent，把「代码库探索该由谁来做」这个决策点的四条路线摆上桌：撤稿本身，就是这个方向商业价值最响亮的注脚。

AI LLM 上下文工程

2026/8/8

大模型三年半技术路线图：算力的三次搬家（2022.11–2026.08）

把 ChatGPT 发布至今的三年半压缩成一张可跳转的时间轴：四次范式接力（对齐→效率→推理→智能体）× 五条暗线（对齐方法、稀疏化、算力搬家、开源时差、接口标准化）。全部 17 个 arXiv ID 经 API 逐一核实，2025 下半年之后的产品日期逐条回查过来源，文末附一条可复现的核实命令。

LLM Agent 论文深读

2026/8/7

Agent 时代的工程学·门禁篇：六道闸门，和一条「不可逆边界」定律

决策地图系列第六篇：体系化地做 AI Gates 门禁。先给出第一性分解——门禁 = 判定器 × 执法点，判定器全是评测的蒸馏、执法点应设在不可逆性跃迁的边界上；再沿 AI 系统生命周期排出六道闸门（输入、输出、行动、合入、发布、熔断），每道闸配源头论文与技术代表：Llama Guard、Constitutional Classifiers、NeMo Guardrails、ToolEmu、Progent、Meta TestGen-LLM、promptfoo/Braintrust、Preparedness Framework/RSP、Circuit Breakers。附一张可复用的门禁设计表和四步落地路线。

AI LLM Agent

2026/8/7

Agent 时代的工程学·评测路由篇：六个决策点，和一条「路由器是评测器的蒸馏」定律

决策地图系列第五篇：做 AI Eval 的团队怎么把评测策略下发给 LLM Router？把这条链路拆成六个决策点（信号源、学习目标、路由时机、成本旋钮、路由器验收、闭环与泛化），用「论文→产品」传导链判收敛：Chatbot Arena→RouteLLM→P2L 的 Berkeley 系、MSR Hybrid LLM→Azure Model Router 的微软系、eval 数据→定制路由器的 Not Diamond 系。得到一条新定律：路由器是评测器的在线蒸馏——评测信号有多保真、多便宜，路由就有多强、收敛多快。附四阶段落地路线图。

AI LLM 评测

2026/8/6

Agent 写码、Agent 测码：「人力真空」的真名，叫「独立验证真空」

如果代码由 agent 写、测试也由 agent 生成，人退出验证环节会不会导致线上故障？本文用九个可核实的来源回答：会，但根因不是「人少了」，而是「独立验证信号少了」。写与测同源时，测试从独立证据退化为自我确认；对冲方案不是把人塞回原位，而是重构验证信号图——这个问题 1983 年就被预言过一次。

AI LLM Agent

2026/8/6

Agent 时代的工程学·Infra 篇：六个决策点，和一条从显存到信任的收敛度梯度

应用层的六个决策点全部站在 Infra 兑现的承诺上：token 流得出来、动作有地方跑、状态死不掉、身份说得清。本文用同一套「论文→产品」传导链方法，把 Agent Infra 拆成六个决策点逐个判收敛，并合成一条规律：离物理越近的层越收敛，离社会越近的层越不收敛。

AI LLM Agent

2026/8/6

Agent 时代的工程学·测试篇：六个决策点，和一条「Oracle 梯度」定律

决策地图系列第四篇：测试团队被 Agent 时代冲击两次——工具 agent 化、被测对象也 agent 化。把测试拆成六个决策点（测试生成、杀伤力度量、E2E agent 化、fuzzing 算力化、确定性模拟、agent evals），用同一套「论文→产品」传导链判收敛，得到一条新定律：一个测试环节被机器接管的速度，等于它的判定标准（oracle）能被形式化的程度。测试团队的转变，就是沿这条梯度上移。

AI LLM Agent

2026/8/6

Agent 时代的工程学·计算层篇：六个决策点，和一条「接口冻结」定律

决策地图系列第三篇，钻到最底层：kernel、数值精度、并行策略、解码加速、稀疏架构、RL 训练系统。用同一套「论文→产品」传导链判收敛，并用一个反例修正上一篇的物理-社会梯度：计算层全是物理问题，却仍有不收敛的角落——因为收敛的真正前提不是"离物理近"，而是"上游接口已冻结"。

AI LLM AI Infra

2026/8/5

Agent 部署架构全景：五种宿主形态、两条横切层，和背后同一个冲突

云基础设施默认计算是短时、无状态、可信、调用图静态的——Agent 把四个假设同时打破。本文结合 AIOS、Parrot、Autellix、部署综述（arXiv:2412.13437）等论文，把当前 Agent 部署方式整理成"五种宿主形态 + 两条横切层"的分层地图：进程内嵌入、沙箱化执行、托管运行时、Agent OS、端侧协同，以及 serving 调度层与 MCP/A2A 互联层，并给出选型决策表。

AI Agent AI Infra

2026/8/5

深度解读 Agent Swarm：第三条 scaling 轴，和它要交的协调税

从蚁群算法到 OpenAI Swarm 的 handoffs、Anthropic 的 orchestrator-worker、Claude Code 的 agent teams，再到 Kimi K2.5 用 RL 把编排策略训练出来——agent swarm 的本质是把推理算力从『纵向想更久』扩展成『横向同时想』。这篇按第一性原理拆：为什么稀缺资源是上下文窗口、协调税记在账本哪一行、以及『何时并行』这件事如何正在从人写规则变成数据学出来。

Agent 工程实践 LLM

2026/8/5

一页 API 文档的考古学:八个"进阶功能",三条论文谱系

某大模型平台的"进阶使用"页列了八个功能:续写模式、批量推理、视觉定位、上下文缓存、文件输入、云部署 MCP、3D 生成、GUI 任务处理。看起来是产品经理排的功能清单,其实是一张考古地图——每个卡片下面都埋着一条"论文→系统→产品"的谱系。本文把八个功能归并成三条:给稀缺资源定价(KV Cache 经济学)、把世界变成 token(表示的进出口)、闭合反馈环(从会说到会做),每条配已核实的 arXiv 论文链,结尾给一套看任何 API 新功能都能用的三问。

LLM AI Infra Agent

2026/8/5

Firecracker 源码深读：AWS 怎样用"减法"造出 125ms 启动的虚拟机

从 12 万行 Rust 源码读懂 microVM 的精髓：无 BIOS 直接引导、virtio-mmio 极简设备面、嵌套信任区安全模型、UFFD 惰性快照恢复，以及它为什么成了 AI agent 沙箱的底座。

源码阅读 AI Infra

2026/8/5

38 天发了 206 篇 AI 博客,一个问题把我问倒了:哪个论断背后有我自己跑出来的数字?

一篇自我纠正。我曾以为"不断用 AI 读写博客,似懂非懂也能读成专家"——直到发现自己陷入了 AI 时代特有的新型流畅错觉:写作曾是检验理解的可靠手段,但当 AI 替你把半懂写成全懂的样子,"能产出一篇讲清 X 的文章"就不再是懂 X 的证据。这篇给出病因解剖(三层错觉)、实干型专家的操作性定义(论断-数字账本)、三条纠正规则(评分外置、AI 角色反转)和一个最小实干阶梯。

LLM Agent 工程

2026/8/4

Eval 是新的 PRD？是的，但规格的缝隙只是搬了家

从 VB Transform 2026 的一句口号出发，用三篇论文拆解「Eval 取代 PRD」的真实含义：当产品规格从给人读的散文变成给机器跑的目标函数，Goodhart 定律开始起作用——真正的交付物不是 eval 套件，而是让 eval 与意图持续对齐的闭环。

评测工程实践 Agent

2026/8/4

读 MemOS 源码：记忆的三态、相变，与一个诚实的占位符

把 MemTensor 的 MemOS（arXiv:2507.03724）克隆下来，对照论文精读约 9 万行 Python 源码。它的精髓可以压成一张相图：记忆有三态——明文（气态）、激活（液态）、参数（固态），'记忆操作系统'的职责是调度相变。审计结果：明文态是生产级，明文→激活这条相变真实且值钱（TTFT 最高降 94.2%），而参数态在源码里是一个 dump() 时写入 b"Placeholder" 的占位符。这篇按'表示—调度—相变—进化—数字'五层，把论文的承诺和代码的现实逐条对齐。

记忆 Agent LLM