产品

Langfuse 推出 AI Gateway 公测版,Agent 降本工具又添一员

精选理由

做企业 Agent 产品的话这条对你有用:Langfuse 在原有 trace 功能上加了 AI Gateway,追踪和成本控制放一个平台里。比起单独买网关,开源还能自己改,适合想压成本的团队看看。

Langfuse 发布 AI Gateway 公开测试版,此前该团队的开源产品已广泛用于 Agent trace(调用链路追踪)。加上 Gateway 之后,团队可以在同一个平台内同时追踪模型调用决策和成本开销,覆盖从 Prompt 到中转路由的完整链路。

图片来源 · shao__meng
正文

文章的核心观点是:企业产品即便用 Claude 这类最强模型,也不会 100% 依赖单一供应商,一是成本太高,二是要防供应商限制,所以普遍会接入中转站作为降本和备用手段。网关层各家方案差异不大,开源方案可以按业务需求改造;真正的痛点在中转站市场,数量多、质量参差,稳定性和模型真实度很难在不实测的情况下判断。

除 OpenRouter 之外,作者还在向社区征求其他可推荐的中转站选项。Langfuse 将 trace 和 Gateway 打包在同一产品的做法,让它有机会从可观测性工具扩展成 Agent 基础设施的一站式选择。

原文 · shao__meng

剥开 Agent 所有的伪装,最后只剩下赤裸裸的 Token ... 任 Prompt Engineering、Context Engineering、Harness Engineering、Loop、Goal 讲的天花乱坠,卖课无数 ... 最后回到企业产品中,保证产品能力的前提下,怎么把成本压到最低,可能才是那个永恒的旋律! 做过企业产品的朋友们可能都有感受,即便 Claude 模型是最强的,产品中也不可能 100% 使用,一是太贵,二是要做好被限制的准备。所以多多少少都要接一些中转站,作为降本和 backup 的必要手段。 网关可能还好,大家的方案整体都比较相似,如果开源更好,可以根据实际业务分类和需求等做改造。Langfuse 之前团队一直用来做 Agent trace,再加上 Gateway,可以进一步扩大跟踪决策范围,这个可以有! langfuse.com/blog/introduci… 现在更大的混乱还是中转站,实在太多了,也不容易在不实测之前判断好坏。稳定性、模型真实度等等很多问题。也想求助大家,除 OpenRouter 这个大家都知道的选项外,还有哪个中转站可以推荐? Ding @dingyi Langfuse 也推出了 AI Gateway 公开测试版,所有公司最终解决方案都是中转站和网关。 langfuse.com/blog/introduci… 🔗 View Quoted Tweet📊 5 ⚡

产业坐标与信源核验

本条情报归属 AITOP「产品」核心追踪栏目。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Langfuse、OpenRouter、Claude、MCP/工具,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「shao__meng」(@shao__meng),经 AITOP 多维评分管线结构化提炼。