NVIDIA NeMo Switchyard
面向 LLM 流量的开源路由代理
NVIDIA NeMo Switchyard 是 Rust 编写的 LLM 流量代理与库，可跨多个模型提供方路由请求，并在 OpenAI Chat、Anthropic Messages、OpenAI Responses 协议间转换，让 Claude Code、Codex 等编程智能体调用 vLLM、NVIDIA NIM、Ollama 等端点。支持随机路由、LLM 分类器路由、信号驱动阶段路由或自定义算法，可分派流量做 A/B 基准对比，并用 Prometheus 指标记录延迟与路由开销
0
—
未收录
258
工具功能
这个工具能做什么、适合谁用，以及目前已识别的核心能力。
工具简介
NVIDIA NeMo Switchyard 是 Rust 编写的 LLM 流量代理与库，可跨多个模型提供方路由请求，并在 OpenAI Chat、Anthropic Messages、OpenAI Responses 协议间转换，让 Claude Code、Codex 等编程智能体调用 vLLM、NVIDIA NIM、Ollama 等端点。支持随机路由、LLM 分类器路由、信号驱动阶段路由或自定义算法，可分派流量做 A/B 基准对比，并用 Prometheus 指标记录延迟与路由开销
核心功能
价格信息
暂无可验证价格信息暂无足够准确的价格信息。
基础信息
- 更新频率
- 暂无已发布动态
- 最近更新
- 覆盖行业
- 程序员
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
暂无可展示的更新历史
采集到并通过审核的功能动态会按时间显示在这里。
NVIDIA NeMo Switchyard 常见问题
关于 NVIDIA NeMo Switchyard 的定位、核心功能、价格与最近更新。
NVIDIA NeMo Switchyard 是什么？
NVIDIA NeMo Switchyard 是 Rust 编写的 LLM 流量代理与库，可跨多个模型提供方路由请求，并在 OpenAI Chat、Anthropic Messages、OpenAI Responses 协议间转换，让 Claude Code、Codex 等编程智能体调用 vLLM、NVIDIA NIM、Ollama 等端点。支持随机路由、LLM 分类器路由、信号驱动阶段路由或自定义算法，可分派流量做 A/B 基准对比，并用 Prometheus 指标记录延迟与路由开销。
NVIDIA NeMo Switchyard 有哪些核心功能？
NVIDIA NeMo Switchyard 当前已核验的核心功能包括：可观测性追踪、性能基准、模型路由。
NVIDIA NeMo Switchyard 如何收费？
AI Equal 当前没有收录 NVIDIA NeMo Switchyard 的可验证价格信息。