技巧
LangChain 创始人聊智能体怎么搭:先优化上下文,再动 harness,还讲了他们怎么省下 coding agent 开销,全是实操经验。
LangChain 分享了一套 Agent 评测思路:从单条 fixture 到模拟多轮对话,全部直接跑真实 Agent,测出来的分数就是用户实际会遇到的表现,做 Agent 的可以参考。
如果你在跑多轮 Agent 服务,这篇讲 vLLM 的 KV 缓存跨节点复用,Qwen3-32B 和 GLM-5-FP8 实测 TTFT 快了 1.6 到 3.3 倍,附部署细节。
AWS 给 vLLM 的分离式推理换了种 KV cache 传输方式,首 token 延迟最高快 3 倍,做推理部署的可以看看怎么配。
做投机解码训练的朋友看下:Speculators 0.9.0 前向训练快 2 倍,FP8 后端存储省一半,训完还能直接进 vLLM。
一个深度 X 用户把编码、SEO、素材管理全塞进 Grok Bot 的实操流程,按任务切模型、用 E2E 替代 PR,照着抄就能用。
Muse Spark 开源权重能直接当浏览器操作智能体用,教程连 OpenEnv、Helium 和 HF Sandboxes 环境都帮你搭好了,照着跑就行。
pstack 出了个 meta-skill,你说要验证啥,它就帮你生成 TLA+ 或 Kani 的验证方案,作者自己已经用它找到了几个 bug。
NVIDIA 出了个 5 分钟视频,教你用 Dynamo 把单个模型端点在 Kubernetes 上扩成多 worker,还带 OpenAI 兼容接口,运维模型服务的可以直接看。
Percy Liang 把 KV cache、GQA、投机采样这些推理优化串成一条数学主线,讲义公式全用 sympy 可验证,想搞懂推理为啥慢的必看。
NVIDIA 出了个表格预测库,TabICLv2、KumoRelational 这些预训练模型推理即用,不用自己训练,做表格任务的可以试试。
Tw93 老哥晒了怎么把 2 个 Claude Max 加 ChatGPT Pro 用到额度见底,多设备让 AI 跑测试的玩法很实用,程序员可以抄作业。
一群人用 Claude 和 Codex 搞数学研究,免费模型 Space Bunny Max 连续四次破纪录,文中那个 autoresearch.md 提示词直接可抄
NVIDIA 的 Chris Hoge 挑了 5 场 PyTorchCon 演讲,MoE 通信优化和 CUDA graphs 那几场对做训练性能的人挺实用。
Raschka 推理模型系列的完结篇,手把手教你用 DeepSeek R1 的数据把 Qwen3-0.6B 蒸馏出推理能力,还能跑通 MATH-500 评估。
一位干了 20 年 CAD 的老兵分析国产 3D CAD 卡在哪,讲透了中望、新迪这些厂商的路线差异,还聊了 NVIDIA 开源 USD BRep 后 AI 能不能帮创业团队从零写内核,观点很实在。
Anthropic 把自家用 Claude 做代码评审的流程全公开了,多 agent 找 bug 加投票、按风险分级审批,还有防止 agent 互相折腾的收敛规则,做工程的朋友很值得抄。
James Devonport 用 Codex 写代码、Cloudflare Workers 供数据,把 Zectrix Note4C 改成列车实时屏,教程完整,想玩硬件的可以照着做。
跑智能体经常要装别人的包,token 一旦进沙箱就可能被恶意代码偷走。LangChain 这个代理方案让智能体根本看不到你的凭证,做开发的朋友可以看看思路。
Grepr 的 CEO 聊了他们 10 人团队怎么用 AI 干活:10 天做完六个月的活,还有个 agent 当 tech lead 审代码,也讲了为啥 AI 还开不了生产服务器。
语义缓存老把相似问题答错,这篇用便宜的 Jev 在缓存前拦一道,1152 个例子零错用,延迟只多 0.79 秒,省钱思路很实用。
密歇根大学这门课的讲义免费挂在 GitHub 上,把 subagent 为什么能解决长对话变差、fresh 和 forked 怎么选讲得非常清楚,写 agent 工具前值得先看这份。