TensorRT Model Connect

两条命令将 Hugging Face 检查点部署为端到端 C++ TensorRT 推理

TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力

模型推理服务
访问官网
收录动态

1

最近更新

2026-08-18

评价样本

未收录

GitHub Stars

93

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力

核心功能

1 项已整理
模型推理服务

价格信息

暂无可验证价格信息

暂无足够准确的价格信息。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-08-18
覆盖行业

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-08-18新工具首发

    NVIDIA 发布 TensorRT Model Connect(TRTMC)公开预览:开源项目通过两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,并产出带版本号的 .bundle 工件供 C++ 任务 API 无 PyTorch 运行时加载。

TensorRT Model Connect 常见问题

关于 TensorRT Model Connect 的定位、核心功能、价格与最近更新。

TensorRT Model Connect 是什么?

TensorRT Model Connect(TRTMC)是 NVIDIA 开源项目,提供大量基于 TensorRT 的 C++ AI 模型参考实现。通过 trtmc build 与 trtmc run 两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,产出带版本号的 .bundle 工件,供 C++ 任务 API 无 PyTorch 运行时加载,适合在 C++ 服务、嵌入式或机器人推理栈中部署文本生成、语音、OCR、向量检索等能力。

TensorRT Model Connect 有哪些核心功能?

TensorRT Model Connect 当前已核验的核心功能包括:模型推理服务。

TensorRT Model Connect 如何收费?

AI Equal 当前没有收录 TensorRT Model Connect 的可验证价格信息。

TensorRT Model Connect 最近有什么更新?

2026-08-18:NVIDIA 发布 TensorRT Model Connect(TRTMC)公开预览:开源项目通过两条命令将受支持的 Hugging Face 或本地检查点直接转换为端到端 TensorRT 推理,省去中间 ONNX 导出步骤,并产出带版本号的 .bundle 工件供 C++ 任务 API 无 PyTorch 运行时加载。

TensorRT Model Connect:功能、价格、更新日志与同类对比 | AI Equal