文本分类

SGLang 是由非营利开源组织 LMSYS 托管的大语言模型与多模态模型高性能推理服务框架，面向生产级部署设计，可在单卡到大规模分布式集群之间提供低延迟、高吞吐的推理服务，目前支撑全球超过 40 万块 GPU 上的大规模生产部署，每天生成数万亿 token。

Clef 是 Cloudflare Workers AI 首批自训的 27B 开源决策模型（基于 Qwen3.8-27B 后训练，Apache 2.0）。它不生成自由文本，而是读取文本、JSON、图片或视频状态与类型化问题 schema，对每个允许答案返回概率，支持是非、选项、量表打分三类问题，单次最多 64 问、4 图。可经 Workers AI binding、REST API、AI Gateway 调用，权重在 Hugging Face 开放自托管，兼容 System One（Jev）API。

Clef-flash 是 Cloudflare Workers AI 自训的 9B 快速开源决策模型（基于 Qwen3.5-9B，Apache 2.0）。它读取文本、JSON、图片或视频状态与类型化问题 schema，对每个允许答案返回概率，支持是非、选项、量表打分三类问题，上下文 65,536 tokens。可经 Workers AI binding、REST API、AI Gateway 调用，也可下载权重自托管，兼容 System One（Jev）API。

CLM-8B 是 Contrastive-LM 发布的首个开源对比语言模型（CLM），属 System One 模型：不生成文本，而以冻结 Qwen3-8B 骨干加 2000 万参数投影头，对当前状态与候选动作做对比打分并返回概率。提供 TypeSafe 兼容 API，支持 Noul、Choice、Score 三类类型化问题及 rank 候选排名，可用于智能体动作选择、工具调用决策与编程智能体最佳候选验证；状态与动作嵌入分别缓存，单张 NVIDIA GPU 经 vLLM 自托管，投影头 Apache-2.0 开源。

GLiNER2.5 是 Fastino 发布的 schema 驱动的信息抽取与文本分类模型，用边界预测取代跨度枚举，使实体跨度不再随长度消耗算力，推理随文档长度线性扩展。模型原生支持最长4096词长上下文抽取与分类、任意长度实体跨度、实体与关系联合抽取以构建知识图谱、约束分类以及带跨度属性的富抽取上下文，并提供原生分块与字符偏移重映射的批处理长文档接口。官方在 Apache 2.0 许可下发布 base(0.2B)、multi(0.3B)、small(74M) 三个可本地运行模型版本。

InternShield 是面向学生的实习 offer 诈骗检测安全层：用户粘贴招聘信息后，系统按预设规则识别注册费、付款要求、紧急催促、索要 OTP/银行信息、保证录用、高薪承诺等警示信号，输出 0-100 风险分与 LOW 至 HIGH 风险等级并列出命中原因；同时通过 Hindsight 智能体记忆存储历史分析，评估新 offer 时可召回相似骗局模式作为参考。

Jev 是 TypeSafe AI（由前 OpenAI 研究员、InstructGPT 作者之一 Diogo Almeida 创立）推出的 System One Models 模型：不生成聊天文本，而由开发者定义问题与候选答案，模型为选项打分，返回带校准概率的类型化决策，响应约 70–500 毫秒，可在代码中组合成自动分类、拦截与人工复核工作流，目前通过候补名单开放。

jevper 是 TypeSafe System One 接口的独立 Python 实现：输入文本 state，输出带概率与置信度的类型化答案（判断、选择、评分）。客户端鸭子类型，任何 OpenAI 兼容客户端均可接入，含自托管 llama.cpp，运行时不依赖 openai。支持多种概率判定方法及 auto 选择，问题并发执行，Apache-2.0 开源。

Laya-CoreML 是在苹果 Silicon 上通过 Core ML 与神经引擎本地运行的开放权重类型化决策模型，无需 PyTorch、Transformers 或 MLX，零生成 token、无自回归解码。它直接对选择题、序数评分题和布尔判定题返回概率结果，支持多语言，ANE 版本输入上限 96 token，另有 1024 token 通用模型。M3 Max 上单次短决策 P50 约 4.98ms，并提供本地贪吃蛇演示展示实时决策与安全干预层。

laya-coreml 是将 Laya 模型适配到 Apple Core ML 与神经引擎（ANE）的 Python 包，提供模型图签名、权重与导出能力校验及本地转换/运行时检查。v0.2.0 同步上游 0.3.23 的提示词与结果修复，新增问题定义校验、Unicode 结构化指令保留、自定义显示标签、会话 token 保留策略、截断诊断、answer_confidence 字段与 checkpoint 温度钳制，Core ML/ANE 图签名与权重保持不变。

Liquid AI 提供 Liquid Foundation Models（LFM）系列基础模型，主打在手机、笔记本、汽车、可穿戴等设备本地运行的低延迟推理，可在 CPU、GPU、NPU 上通过 llama.cpp、MLX、ONNX、CoreML、vLLM 等运行时部署，并支持针对自有数据与具体场景做微调定制，形成从架构、优化到部署的全栈方案。