NVIDIA Personal AI Router
开源本地AI推理路由器，在联网电脑间智能分配推理任务
NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器，可自动发现同一局域网内的兼容电脑节点，管理多种推理引擎，并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点，适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时，提示词与响应仅停留于本地网络；它不聚合 GPU 内存、不切分模型，而是在节点间分发独立请求以提升整体吞吐
3
2026-10-13
未收录
1,596
工具功能
这个工具能做什么、适合谁用，以及目前已识别的核心能力。
工具简介
NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器，可自动发现同一局域网内的兼容电脑节点，管理多种推理引擎，并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点，适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时，提示词与响应仅停留于本地网络；它不聚合 GPU 内存、不切分模型，而是在节点间分发独立请求以提升整体吞吐
核心功能
价格信息
暂无可验证价格信息暂无足够准确的价格信息。
基础信息
- 更新频率
- 近 7 天 1 条收录动态
- 最近更新
- 2026-10-13
- 覆盖行业
- 程序员
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-10-13版本发布
NVIDIA Personal AI Router (PAIR) 发布 v1.0.0：新增 llama.cpp 引擎支持，可直接安装管理 llama.cpp 并从 Hugging Face 下载兼容 GGUF 模型，在配对设备间路由推理请求；PAIR 托管引擎的启动参数与环境变量可自定义；Windows on ARM 构建已在 RTX Spark N1X 上通过 llama.cpp 与 CUDA 验证；终端界面按设备重构布局并新增 Jobs 标签页跟踪跨设备推理任务；社区贡献新增经 Ollama 与 LM Studio 的 Anthropic Messages API 路由，Claude Code 等兼容客户端可使用 PAIR 的模型感知路由与故障转移；macOS 应用更名 NVIDIA PAIR，本地端点改为遵循各引擎 CORS 策略。
- 2026-09-11版本发布
InfoQ 报道 NVIDIA Personal AI Router (PAIR) 已进入 beta 可用阶段，可聚合局域网内多台电脑的推理容量并自动分发独立推理请求，专为本地多智能体并发负载设计；已与 Ollama、LM Studio 无缝集成，支持 Windows 11、Linux、macOS（x64/arm64 跨系统配对），官方演示中 RTX Spark、DGX Spark 与 RTX 5090 组网后任务完成时间约缩短一半；官方明确其不合并 GPU、不池化显存，只在节点间分发独立请求。
- 2026-09-03新工具首发
NVIDIA Personal AI Router 于 IFA 2026 宣布推出免费开源的个人 AI 路由器技术，可在本地网络的多台电脑间智能分配 AI 推理任务，与本地推理引擎搭配使用，随设备加入或离开网络自动调整，降低多智能体并发推理时的单 GPU 争用压力。
NVIDIA Personal AI Router 常见问题
关于 NVIDIA Personal AI Router 的定位、核心功能、价格与最近更新。
NVIDIA Personal AI Router 是什么？
NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器，可自动发现同一局域网内的兼容电脑节点，管理多种推理引擎，并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点，适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时，提示词与响应仅停留于本地网络；它不聚合 GPU 内存、不切分模型，而是在节点间分发独立请求以提升整体吞吐。
NVIDIA Personal AI Router 有哪些核心功能？
NVIDIA Personal AI Router 当前已核验的核心功能包括：命令行工具、模型推理服务、模型路由、第三方模型接入。
NVIDIA Personal AI Router 如何收费？
AI Equal 当前没有收录 NVIDIA Personal AI Router 的可验证价格信息。
NVIDIA Personal AI Router 最近有什么更新？
2026-10-13：NVIDIA Personal AI Router (PAIR) 发布 v1.0.0：新增 llama.cpp 引擎支持，可直接安装管理 llama.cpp 并从 Hugging Face 下载兼容 GGUF 模型，在配对设备间路由推理请求；PAIR 托管引擎的启动参数与环境变量可自定义；Windows on ARM 构建已在 RTX Spark N1X 上通过 llama.cpp 与 CUDA 验证；终端界面按设备重构布局并新增 Jobs 标签页跟踪跨设备推理任务；社区贡献新增经 Ollama 与 LM Studio 的 Anthropic Messages API 路由，Claude Code 等兼容客户端可使用 PAIR 的模型感知路由与故障转移；macOS 应用更名 NVIDIA PAIR，本地端点改为遵循各引擎 CORS 策略。