
TensorRT Model Connect
两条命令将 Hugging Face 检查点部署为端到端 C++ TensorRT 推理
TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力
1
2026-08-18
未收录
93
工具功能
这个工具能做什么、适合谁用,以及目前已识别的核心能力。
工具简介
TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力
核心功能
价格信息
暂无可验证价格信息暂无足够准确的价格信息。
基础信息
- 更新频率
- 近 7 天 1 条收录动态
- 最近更新
- 2026-08-18
- 覆盖行业
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-08-18新工具首发
NVIDIA 发布 TensorRT Model Connect(TRTMC)公开预览:开源项目通过两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,并产出带版本号的 .bundle 工件供 C++ 任务 API 无 PyTorch 运行时加载。
TensorRT Model Connect 常见问题
关于 TensorRT Model Connect 的定位、核心功能、价格与最近更新。
TensorRT Model Connect 是什么?
TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力。
TensorRT Model Connect 有哪些核心功能?
TensorRT Model Connect 当前已核验的核心功能包括:模型推理服务。
TensorRT Model Connect 如何收费?
AI Equal 当前没有收录 TensorRT Model Connect 的可验证价格信息。
TensorRT Model Connect 最近有什么更新?
2026-08-18:NVIDIA 发布 TensorRT Model Connect(TRTMC)公开预览:开源项目通过两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,并产出带版本号的 .bundle 工件供 C++ 任务 API 无 PyTorch 运行时加载。