SGLang
面向生产环境的大模型高性能推理服务框架
SGLang 是由非营利开源组织 LMSYS 托管的大语言模型与多模态模型高性能推理服务框架，面向生产级部署设计，可在单卡到大规模分布式集群之间提供低延迟、高吞吐的推理服务，目前支撑全球超过 40 万块 GPU 上的大规模生产部署，每天生成数万亿 token
1
2026-08-11
未收录
31,684
工具功能
这个工具能做什么、适合谁用，以及目前已识别的核心能力。
工具简介
SGLang 是由非营利开源组织 LMSYS 托管的大语言模型与多模态模型高性能推理服务框架，面向生产级部署设计，可在单卡到大规模分布式集群之间提供低延迟、高吞吐的推理服务，目前支撑全球超过 40 万块 GPU 上的大规模生产部署，每天生成数万亿 token
核心功能
价格信息
暂无可验证价格信息暂无足够准确的价格信息。
基础信息
- 更新频率
- 近 7 天 1 条收录动态
- 最近更新
- 2026-08-11
- 覆盖行业
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-08-11功能更新
SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning（30B 总参数/3B 激活的混合 MoE，最长 1M token 上下文），提供专用 docker 镜像与 sglang serve 命令，支持 MTP、DFlash、DSpark 三种投机解码，并通过 OpenAI 兼容 API 接入智能体工作流。
SGLang 常见问题
关于 SGLang 的定位、核心功能、价格与最近更新。
SGLang 是什么？
SGLang 是由非营利开源组织 LMSYS 托管的大语言模型与多模态模型高性能推理服务框架，面向生产级部署设计，可在单卡到大规模分布式集群之间提供低延迟、高吞吐的推理服务，目前支撑全球超过 40 万块 GPU 上的大规模生产部署，每天生成数万亿 token。
SGLang 有哪些核心功能？
SGLang 当前已核验的核心功能包括：模型推理服务。
SGLang 如何收费？
AI Equal 当前没有收录 SGLang 的可验证价格信息。
SGLang 最近有什么更新？
2026-08-11：SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning（30B 总参数/3B 激活的混合 MoE，最长 1M token 上下文），提供专用 docker 镜像与 sglang serve 命令，支持 MTP、DFlash、DSpark 三种投机解码，并通过 OpenAI 兼容 API 接入智能体工作流。