#AI

五种 embedding 压缩，我把它们跑了一遍：96 字节能打赢 1024 字节

1000 条真实 embedding、18 组配置、recall@10 全部本机实测。int8 几乎免费（4× 压缩，0.9950）；二值化单独用只有 0.4673，加一次 float 重排就跳到 0.9524；而占 10 倍存储的 MRL 截断到 256 维只有 0.6832，打不过 96 字节的 PQ。

AI LLM RAG 工程实践源码阅读

从 ELIZA 到 Kimi K3：大模型 60 年，真正跨过的是四道门槛

一张 AI 时间线把 ELIZA、感知机、反向传播、Word2Vec、Transformer 和前沿模型串在一起。真正值得带走的不是年份，而是表示、学习、路由与规模四道瓶颈如何依次被解除。

AI LLM Transformer 零基础学习笔记

现代 AI 工具生态勾勒：11 层 82 款产品与它们的官方链接

按 Rathnakumar Udayakumar 的《Modern AI Ecosystem – Tools》一图，逐层拆解 11 个能力层里的 82 款产品；每条给一句话定位与官方链接。附本机跑过的 46 家 GitHub star 数、5 处 org 迁移与 4 处跨层重复的观察。

AI AI Infra Agent MCP RAG 自动化

Parasma 深读：把 Friston 的自由能原理装进 Y Combinator 的湿件赌注

一家 YC S26 湿件公司拿人脑细胞做 next-token prediction，网站上那句「Biological compute with living neurons」背后是四条被压缩的决策链——基质、训练算法、读出、经济学，每一条都能挂到一篇 20 世纪或 21 世纪初的老论文上。

AI AI Infra 论文深读系统设计

X 上值得长期关注的 20 个大模型与 Agent 英文账号

从 Avi Chawla 出发，实看 25 个 X 账号后留下 20 个英文一手信息源，按教程、Agent 工程、研究与行业反方四层整理；附只关注 6 人的精简版和四张可直接照抄的 X Lists。

AI LLM Agent Agent 工程学习笔记

11 种 LLM 评估方法，其实只在回答一个问题：参照物从哪来

三句话喂给三代指标：真实排序 A>C>B，ROUGE-L 给 C>B>A，BERTScore 给 B>A>C，没一个排对。附本地 Qwen2.5-7B 的分数 token 概率分布、30 次采样的裁判方差，以及 DeepEval DAG 源码究竟把什么变确定了。

AI LLM 评测论文深读工程实践

六种位置编码，其实只在争两个插入点

同一个 Qwen2.5-7B、同一段文本、同样是把窗口放大 4 倍：线性插值让 PPL 从 8.18 崩到 173.57，YaRN 只涨到 8.90。差别全在一张波长表——我手算出 YaRN 放过了 64 个维度对里转得最快的 30 对。附 llama.cpp 源码定位与三个 token 的置换等变手算。

AI LLM Transformer 论文深读源码阅读

AI AI Infra LLM Serving llama.cpp 源码阅读

投机解码的四种变体，和我笔记本上那道 8 个 token 的悬崖

在 M5 Pro 上把两模型投机解码完整跑了一遍：教科书说 2-3×，实测峰值 1.16×；草稿长度从 4 加到 11，端到端反而从 1.11× 掉到 0.49×。根因是 ggml Metal 里一行 ne11 > 8，以及草稿成本 γ 的硬地板。

把工具调用数据反着造：ToolGrad 用 500 条样本追平闭源大模型的那件事

ToolBench 用 12.6 万条 SFT 数据把开源模型教会 tool-use，方式是「先给用户问题、DFS 搜工具链」。ToolGrad 反着来：先造链、再回头写用户 query。500 条样本训练出的 Gemma-3-12B 在 BFCL 上 83.1 分，等于 gemini-2.5-pro、高于 GPT-5。这篇把它的四模块管线拆到源码位置，把「textual gradient」追溯到 TextGrad，并和 APIGen、ToolACE 拉一张四家决策矩阵。

AI LLM 工具调用论文深读模型训练

12 种微调技术不是 12 个选项，是三张账单的折扣券

图上写 BitFit「约占全部参数的 0.08%」。我按真模型的张量表数了一遍：129,024 个 bias，占 0.001694%，差 47 倍——而且它已经不是最省的那个。顺着这条线把 12 种技术钉进显存、标注、数据位置三张账单。

AI LLM 模型训练工程实践

AFlow 到底在搜什么：读一遍 FoundationAgents 的自动 workflow 发现

AFlow 的名字里挂着 MCTS，但真读源码，它不是一棵树；它是「LLM 当搜索算子 + 数值验收当奖励 + softmax 混合选父」的三件套。本文从根本约束、崩点、代码定位到手算 selection 概率，把这套结构拆到能自己复刻的分辨率。

AI LLM Agent Agent 工程论文深读

Agent 自进化不是一张全景图，是一架四层可回滚阶梯——每往下一层 credit 就贵一个数量级

把 9 篇「Agent 自进化」论文挂进一架四层可回滚阶梯：L1 Skill 文档（分钟级、git diff）、L2 Skill Bank（小时级、可 prune）、L3 Harness / 元进化（会话级、Pareto 归档）、L4 模型权重（不可逆）。每下一层，回滚成本 × 传导广度跳一个数量级，credit assignment 门槛也跳——L1 靠「≥2 条轨迹独立提议同一编辑」的投票几何就够（K=8 时假/真比 1:72），L4 必须靠 GiGPO 的 anchor state、LLM 语义自归因或 privileged teacher（OPSD）。附三笔 Python 手算：Trace2Skill 的投票几何、GiGPO 在不同状态空间下的 anchor 复用率、AgentEvolver 55% 步数节省背后的信号密度倍率。

AI LLM Agent Agent 工程论文深读模型训练

GiGPO 到底靠什么工作：Agent 训练里的 credit assignment 廉价补丁

GiGPO 把 GRPO 从"一整条轨迹一个 advantage"升级为"episode 组 + step 组相加"，在 ALFWorld/WebShop 上比 GRPO 高 12/9 个百分点。但它的核心机制既不是嵌套树，也不是嵌入相似度——就是 hash(str(observation))。这一切建立在一个物理假设上：多条 rollout 会撞到同一个中间状态。撞不到，方法退化。

AI LLM Agent Agent 工程论文深读模型训练

LLM 评测的 25 个坑：一张五层管线地图与论文索引

上一篇从一次 finish_reason=length 翻车讲了静默失败。这篇把视野拉满:按评测管线把 LLM 评测的坑切成数据、生成、评分、统计、链路五层共 25 个,每个坑给症状、论文证据(带具体数字)和防线;末尾收三条跨层主线和一份评测前中后防坑清单。

AI LLM 评测论文深读工程实践