Switchyard 相关 AI 资讯 · AITOP · AI热报

9月3日

02:12

02:12

官方一手marktechpost@Michal Sutter

NVIDIA发布了Switchyard，一个Apache-2.0许可的Rust代理和库，用于LLM流量处理。该工具可将请求解码为提供商中立类型，使用直通、随机、LLM分类器或阶段路由器算法进行路由，并将响应转换回客户端格式。Switchyard支持Claude Code或Codex CLI在vLLM、NIM或Ollama上运行无需修改。目前项目处于预alpha阶段，不适合生产环境使用。

AI产品 Switchyard NVIDIA OpenAI

推荐理由：NVIDIA出了个Switchyard代理库，能让OpenAI和Anthropic API互转，Claude Code和Codex CLI能无缝跑在vLLM上。

8月15日

03:33

03:33

官方账号NVIDIA AI@NVIDIAAI

71°

NVIDIA发布开源库NeMo Switchyard，用于智能体工作流中的模型路由。该库允许复杂推理和规划步骤调用前沿模型，高容量专门执行使用Nemotron Lightning。开发者可自定义路由策略，在成本和性能间灵活取舍。

AI产品 NVIDIA NeMo Switchyard

推荐理由：NVIDIA出了个开源的模型路由库Switchyard，能让工作流里复杂步骤用强模型、简单步骤用轻量模型，省成本。

8月12日

01:10

01:10

官方账号LangChain@LangChainAI

精选

LangChain在Deep Agents评测套件中测试了NVIDIA开源路由器Switchyard，该套件包含145个多步任务，覆盖工具使用、检索、文件系统操作和长上下文场景。结果显示，93%的调用被路由到30B模型，仅7%需要Claude Opus 4.8。通过路由策略，总成本降低约70%，同时保留了Opus约90%的准确率。LangChain已推出与Switchyard的deepagents集成。

AI产品 Switchyard NVIDIA LangChain

推荐理由：想知道你的智能体能不能少花点钱？LangChain实测NVIDIA的Switchyard，93%任务用30B模型搞定，成本砍七成，准确率还保住九成。