Swiftlet

在 Mac 与 iPhone 本地跑 35B/80B Qwen 的 Swift 运行时

Swiftlet 是面向 Apple 设备的 Swift + Metal 模型运行时,支持 Qwen3-Next 与 Qwen3.5/3.6 的 MoE 混合模型家族。它只将小型稠密核心常驻内存,按需从存储流式加载路由专家权重,使 4-bit Qwen3.6-35B 峰值内存约 2.6 GB、Qwen3-Next-80B 约 4.3 GB,在 M5 Mac 可达每秒数 token,35B 还能在 iPhone 17 以约 2.5 GB 内存运行

模型推理服务模型量化压缩
访问官网
收录动态

1

最近更新

2026-08-03

评价样本

未收录

GitHub Stars

276

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

Swiftlet 是面向 Apple 设备的 Swift + Metal 模型运行时,支持 Qwen3-Next 与 Qwen3.5/3.6 的 MoE 混合模型家族。它只将小型稠密核心常驻内存,按需从存储流式加载路由专家权重,使 4-bit Qwen3.6-35B 峰值内存约 2.6 GB、Qwen3-Next-80B 约 4.3 GB,在 M5 Mac 可达每秒数 token,35B 还能在 iPhone 17 以约 2.5 GB 内存运行

核心功能

2 项已整理
模型推理服务
模型量化压缩

价格信息

暂无可验证价格信息

暂无足够准确的价格信息。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-08-03
覆盖行业
程序员

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-08-03开源

    Swiftlet 开源发布:面向 Apple 设备的 Swift + Metal 模型运行时,只将稠密核心常驻内存并按需流式加载 MoE 专家权重,使 4-bit Qwen3-Next-80B 峰值内存约 4.3 GB(M5 Mac 4.5-5 tok/s)、Qwen3.6-35B 约 2.6 GB,35B 还可在 iPhone 17 以约 2.5 GB 内存运行。

Swiftlet 常见问题

关于 Swiftlet 的定位、核心功能、价格与最近更新。

Swiftlet 是什么?

Swiftlet 是面向 Apple 设备的 Swift + Metal 模型运行时,支持 Qwen3-Next 与 Qwen3.5/3.6 的 MoE 混合模型家族。它只将小型稠密核心常驻内存,按需从存储流式加载路由专家权重,使 4-bit Qwen3.6-35B 峰值内存约 2.6 GB、Qwen3-Next-80B 约 4.3 GB,在 M5 Mac 可达每秒数 token,35B 还能在 iPhone 17 以约 2.5 GB 内存运行。

Swiftlet 有哪些核心功能?

Swiftlet 当前已核验的核心功能包括:模型推理服务、模型量化压缩。

Swiftlet 如何收费?

AI Equal 当前没有收录 Swiftlet 的可验证价格信息。

Swiftlet 最近有什么更新?

2026-08-03:Swiftlet 开源发布:面向 Apple 设备的 Swift + Metal 模型运行时,只将稠密核心常驻内存并按需流式加载 MoE 专家权重,使 4-bit Qwen3-Next-80B 峰值内存约 4.3 GB(M5 Mac 4.5-5 tok/s)、Qwen3.6-35B 约 2.6 GB,35B 还可在 iPhone 17 以约 2.5 GB 内存运行。

Swiftlet:功能、价格、更新日志与同类对比 | AI Equal