LangChain 用 Jev 构建高效 Agent,解决循环决策成本问题
Jev 优质案例 +1 @LangChain 团队 @sydneyrunkle 用 Jev 与 LangChain 集成构建 Harness ! Agent 的本质是一个循环:观察状态 → 决策...
LangChain 和悉尼团队用 Jev 解决了 Agent 循环决策成本高的问题,简单任务用便宜模型,难任务用旗舰模型,或者做风险检查,很实用。
LangChain 团队与 Sydney Runkle 用 Jev 与 LangChain 集成构建 Harness。Agent 循环中每一步决策都调用完整大模型,导致延迟高、成本贵。Jev 作为“System One”模型,可快速判断任务复杂度(分类任务),简单任务用便宜模型,难任务用旗舰模型,或做风险检查(如判断危险操作),相当于给自动驾驶装反应极快的刹车。
Jev 优质案例 +1 @LangChain 团队 @sydneyrunkle 用 Jev 与 LangChain 集成构建 Harness ! Agent 的本质是一个循环:观察状态 → 决策...
Jev 优质案例 +1 @LangChain 团队 @sydneyrunkle 用 Jev 与 LangChain 集成构建 Harness ! Agent 的本质是一个循环:观察状态 → 决策 → 行动 → 再观察。LangChain 的出发点是一个真实痛点:循环里的每一步决策都要调用一次完整的大模型,哪怕只是回答“这个任务难不难”“这个操作危不危险”这种小问题。用 GPT 级模型回答二选一的问题,就像用卡车送一封信:延迟高、成本贵,且 Agent 循环里这类调用会成倍放大。 Jev 是什么:“System One” 模型,参考 TypeSafe AI 创始人的详细讲述: x.com/CompleteSkepti… Jev 与 LangChain 的两个落地场景 1. 模型路由:用 Jev 快速判断任务复杂度,简单任务走便宜模型,难任务才调旗舰模型。这是目前降低 Agent 成本的主流思路,而路由判断本身正是一种“分类任务”,是 Jev 的甜点区。 2. 自动模式护栏:在工具真正执行前,用 Jev 做一道风险检查(如“这是否是危险操作”)。相当于给自动驾驶装了个反应极快的刹车,慢思考模型负责开车,快模型负责随时踩闸。 这三个社区实践值得看看: 1. 浏览器自动化( @kylejeong / @browserbase ) x.com/kylejeong/stat… 2. 实时交易 agent( @jarrodwatts ) x.com/jarrodwatts/st… 3. 大规模邮件分类( @ryanvogel ) x.com/ryanvogel/stat… Sydney Runkle @sydneyrunkle x.com/i/article/2100… 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 0 👀 213 📊 1 ⚡