Soup

一条命令完成大模型微调与后训练的 CLI

Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接

模型训练学习强化学习训练模型量化压缩
访问官网
收录动态

1

最近更新

2026-08-04

评价样本

未收录

GitHub Stars

199

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接

核心功能

3 项已整理
模型训练学习
强化学习训练
模型量化压缩

价格信息

免费

当前仅展示已核验的定价模式。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-08-04
覆盖行业

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-08-04版本发布

    Soup 发布 v0.72.4,旗舰能力 Layer Streaming(BETA)将冻结底座保留在 CPU 内存或 NVMe,通过专用 CUDA 流逐层拷入显存并量化为 NF4,使峰值显存受单层而非整个模型限制,Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,DPO/ORPO/SimPO/KTO 对齐同样支持流式训练。

Soup 常见问题

关于 Soup 的定位、核心功能、价格与最近更新。

Soup 是什么?

Soup 是开源的大模型微调与后训练命令行工具,用一份 YAML 即可自动生成训练配置,涵盖 SFT 与 DPO、ORPO、SimPO、KTO 等对齐方法。其 Layer Streaming 把冻结底座放在内存或 NVMe 中逐层送入显存并量化为 NF4,使 Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,并可与 HuggingFace、Ollama、vLLM 等生态对接。

Soup 有哪些核心功能?

Soup 当前已核验的核心功能包括:模型训练学习、强化学习训练、模型量化压缩。

Soup 如何收费?

Soup 当前已核验的价格模式为免费。

Soup 最近有什么更新?

2026-08-04:Soup 发布 v0.72.4,旗舰能力 Layer Streaming(BETA)将冻结底座保留在 CPU 内存或 NVMe,通过专用 CUDA 流逐层拷入显存并量化为 NF4,使峰值显存受单层而非整个模型限制,Llama-3.1-8B 可在 4 GB 显存笔记本 GPU 上微调,DPO/ORPO/SimPO/KTO 对齐同样支持流式训练。