#工具调用

10 篇相关记录

2026年9月14日

把工具调用数据反着造：ToolGrad 用 500 条样本追平闭源大模型的那件事

ToolBench 用 12.6 万条 SFT 数据把开源模型教会 tool-use，方式是「先给用户问题、DFS 搜工具链」。ToolGrad 反着来：先造链、再回头写用户 query。500 条样本训练出的 Gemma-3-12B 在 BFCL 上 83.1 分，等于 gemini-2.5-pro、高于 GPT-5。这篇把它的四模块管线拆到源码位置，把「textual gradient」追溯到 TextGrad，并和 APIGen、ToolACE 拉一张四家决策矩阵。

AI LLM 工具调用论文深读模型训练

2026年9月9日

BFCL v3 深读：多轮函数调用的评测口径,从「对答案」换成「diff 状态」

Berkeley 那篇 BFCL v3 博客表面在讲 1000 条新多轮题目,底下真正换掉的是评测口径:从 AST 匹配一条正确轨迹,变成让代码跑进沙盒后比对对象属性。附源码定位、条数核对、四类多轮任务的判据分工,以及一处被注释掉的更严判据留下的证据。

AI LLM Agent 评测工具调用源码阅读

2026年9月8日

面向 Agent 封装业务流程：把状态、约束和判据搬进 schema

92% 的官方 MCP 服务器只是端点的薄壳，而写在散文里的参数约束会让 Agent 静默失败、41% 直接对用户说“没有数据”。本文给出一套封装方法：把状态、约束、判据从人脑和界面搬进 schema，按“可回滚的最小承诺单元”重切刀口，并说明新能力具体开在哪四处。

AI LLM Agent Agent 工程 MCP 工具调用系统设计

2026年8月17日

推理转 Program 了吗？从「只给 Agent 一个 IPython」说起

一位读者看完 Prime Agent「唯一工具是 Python 解释器」的设计后问：这是不是意味着推理转向程序？回查四年论文链（PAL/PoT → CodeAct → RLM）后我的答案是：对了一半。转成程序的不是推理，而是「算、做、记」三件事的执行权；语言仍然负责想。这篇给出谱系、边界和五个可证伪的推演。

Agent LLM Agent 工程工具调用

2026年7月22日

从 vLLM ChatCompletionRequest 看懂大模型请求参数

把 vLLM 的 ChatCompletionRequest 当成推理控制面地图，讲清 messages、chat template、token 预算、采样参数、结构化输出、工具调用、streaming 和服务调度分别作用在大模型推理的哪一层。

AI AI Infra vLLM LLM Serving 源码阅读工具调用

2026年7月22日

Streaming 不是逐字打印：从 vLLM 看大模型增量输出的状态机

从 OpenAI SSE 协议、LLM prefill/decode、vLLM chat_completion_stream_generator 和 Parser.parse_delta 四个层次，理解大模型 streaming 为什么不是简单 append 文本，而是增量状态机。

AI AI Infra vLLM LLM Serving 源码阅读工具调用

2026年7月22日

OpenAIServingChat 深度解读：vLLM 怎样把一次 Chat Completion 跑成 OpenAI 响应

从 vLLM 的 OpenAIServingChat 源码看懂 /v1/chat/completions 的服务编排：chat template 渲染、SamplingParams 构造、EngineClient.generate、streaming SSE、tool/reasoning parser、usage、metrics 和 KV transfer cleanup。

AI AI Infra vLLM LLM Serving 源码阅读工具调用

2026年7月10日