NVIDIA Personal AI Router

开源本地AI推理路由器,在联网电脑间智能分配推理任务

NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器,可自动发现同一局域网内的兼容电脑节点,管理多种推理引擎,并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点,适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时,提示词与响应仅停留于本地网络;它不聚合 GPU 内存、不切分模型,而是在节点间分发独立请求以提升整体吞吐

模型推理服务模型路由
访问官网
收录动态

1

最近更新

2026-09-03

评价样本

未收录

GitHub Stars

52

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器,可自动发现同一局域网内的兼容电脑节点,管理多种推理引擎,并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点,适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时,提示词与响应仅停留于本地网络;它不聚合 GPU 内存、不切分模型,而是在节点间分发独立请求以提升整体吞吐

核心功能

2 项已整理
模型推理服务
模型路由

价格信息

免费

当前仅展示已核验的定价模式。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-09-03
覆盖行业
程序员

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-09-03新工具首发

    NVIDIA Personal AI Router 于 IFA 2026 宣布推出免费开源的个人 AI 路由器技术,可在本地网络的多台电脑间智能分配 AI 推理任务,与本地推理引擎搭配使用,随设备加入或离开网络自动调整,降低多智能体并发推理时的单 GPU 争用压力。

NVIDIA Personal AI Router 常见问题

关于 NVIDIA Personal AI Router 的定位、核心功能、价格与最近更新。

NVIDIA Personal AI Router 是什么?

NVIDIA Personal AI Router (PAIR) 是 NVIDIA 开源的本地 AI 推理路由器,可自动发现同一局域网内的兼容电脑节点,管理多种推理引擎,并向应用与智能体提供 Ollama 兼容和 OpenAI 兼容的代理端点。它按引擎可用性、模型可用性和当前负载把相互独立的请求路由到最合适的节点,适用于多智能体等并发本地推理工作负载。当所有客户端、模型源、引擎与节点均在本机时,提示词与响应仅停留于本地网络;它不聚合 GPU 内存、不切分模型,而是在节点间分发独立请求以提升整体吞吐。

NVIDIA Personal AI Router 有哪些核心功能?

NVIDIA Personal AI Router 当前已核验的核心功能包括:模型推理服务、模型路由。

NVIDIA Personal AI Router 如何收费?

NVIDIA Personal AI Router 当前已核验的价格模式为免费。

NVIDIA Personal AI Router 最近有什么更新?

2026-09-03:NVIDIA Personal AI Router 于 IFA 2026 宣布推出免费开源的个人 AI 路由器技术,可在本地网络的多台电脑间智能分配 AI 推理任务,与本地推理引擎搭配使用,随设备加入或离开网络自动调整,降低多智能体并发推理时的单 GPU 争用压力。

NVIDIA Personal AI Router:功能、价格、更新日志与同类对比 | AI Equal