Bonsai 1.7B

PrismML 三元压缩语言模型,0.46GB 本地运行

Bonsai 1.7B 是 PrismML 基于 Qwen3-1.7B 推出的 1.58-bit 三元(Ternary)开源语言模型,采用 GGUF Q2_0 量化格式,打包体积仅 436 MiB,约为 FP16 的 1/7.5,支持 32K 上下文。配合 PrismML 定制版 llama.cpp 可在 CPU(NEON)与 Apple Metal 上本地推理,采用 Apache 2.0 许可

本地模型推理模型量化压缩
访问官网
收录动态

1

最近更新

2026-09-24

评价样本

未收录

社区规模

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

Bonsai 1.7B 是 PrismML 基于 Qwen3-1.7B 推出的 1.58-bit 三元(Ternary)开源语言模型,采用 GGUF Q2_0 量化格式,打包体积仅 436 MiB,约为 FP16 的 1/7.5,支持 32K 上下文。配合 PrismML 定制版 llama.cpp 可在 CPU(NEON)与 Apple Metal 上本地推理,采用 Apache 2.0 许可

核心功能

2 项已整理
本地模型推理
模型量化压缩

价格信息

免费

当前仅展示已核验的定价模式。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-09-24
覆盖行业

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-09-24版本发布

    高通在 2026 骁龙峰会上携手 PrismML,在骁龙 AR1 Gen 1 智能眼镜平台本地运行基于 Bonsai 1.7B 的 20 亿参数 1-bit 量化视觉模型:内存占用约为传统 4-bit 模型的 1/4,同等内存可容纳约 4 倍参数,文本 Token 生成速度翻倍,可离线完成物体识别、文字翻译、环境问答与免手语音帮助,降低功耗并改善眼镜续航与发热。

Bonsai 1.7B 常见问题

关于 Bonsai 1.7B 的定位、核心功能、价格与最近更新。

Bonsai 1.7B 是什么?

Bonsai 1.7B 是 PrismML 基于 Qwen3-1.7B 推出的 1.58-bit 三元(Ternary)开源语言模型,采用 GGUF Q2_0 量化格式,打包体积仅 436 MiB,约为 FP16 的 1/7.5,支持 32K 上下文。配合 PrismML 定制版 llama.cpp 可在 CPU(NEON)与 Apple Metal 上本地推理,采用 Apache 2.0 许可。

Bonsai 1.7B 有哪些核心功能?

Bonsai 1.7B 当前已核验的核心功能包括:本地模型推理、模型量化压缩。

Bonsai 1.7B 如何收费?

Bonsai 1.7B 当前已核验的价格模式为免费。

Bonsai 1.7B 最近有什么更新?

2026-09-24:高通在 2026 骁龙峰会上携手 PrismML,在骁龙 AR1 Gen 1 智能眼镜平台本地运行基于 Bonsai 1.7B 的 20 亿参数 1-bit 量化视觉模型:内存占用约为传统 4-bit 模型的 1/4,同等内存可容纳约 4 倍参数,文本 Token 生成速度翻倍,可离线完成物体识别、文字翻译、环境问答与免手语音帮助,降低功耗并改善眼镜续航与发热。