
Soup
一条命令完成大模型微调与后训练的 CLI
Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接
1
2026-08-04
未收录
199
工具功能
这个工具能做什么、适合谁用,以及目前已识别的核心能力。
工具简介
Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接
核心功能
价格信息
免费当前仅展示已核验的定价模式。
基础信息
- 更新频率
- 近 7 天 1 条收录动态
- 最近更新
- 2026-08-04
- 覆盖行业
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-08-04版本发布
Soup 发布 v0.72.4,旗舰能力 Layer Streaming(BETA)将冻结底座保留在 CPU 内存或 NVMe,通过专用 CUDA 流逐层拷入显存并量化为 NF4,使峰值显存受单层而非整个模型限制,Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,DPO/ORPO/SimPO/KTO 对齐同样支持流式训练。
Soup 常见问题
关于 Soup 的定位、核心功能、价格与最近更新。
Soup 是什么?
Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接。
Soup 有哪些核心功能?
Soup 当前已核验的核心功能包括:模型训练学习、强化学习训练、模型量化压缩。
Soup 如何收费?
Soup 当前已核验的价格模式为免费。
Soup 最近有什么更新?
2026-08-04:Soup 发布 v0.72.4,旗舰能力 Layer Streaming(BETA)将冻结底座保留在 CPU 内存或 NVMe,通过专用 CUDA 流逐层拷入显存并量化为 NF4,使峰值显存受单层而非整个模型限制,Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,DPO/ORPO/SimPO/KTO 对齐同样支持流式训练。