jevper

面向 OpenAI 兼容模型的概率化分类封装库

jevper 是 TypeSafe System One 接口的独立 Python 实现:输入文本 state,输出带概率与置信度的类型化答案(判断、选择、评分)。客户端鸭子类型,任何 OpenAI 兼容客户端均可接入,含自托管 llama.cpp,运行时不依赖 openai。支持多种概率判定方法及 auto 选择,问题并发执行,Apache-2.0 开源

可观测性追踪文本分类模型路由第三方模型接入结构化抽取语义缓存
访问官网
收录动态

18

最近更新

2026-10-07

评价样本

未收录

GitHub Stars

19

工具功能

这个工具能做什么、适合谁用,以及目前已识别的核心能力。

工具简介

jevper 是 TypeSafe System One 接口的独立 Python 实现:输入文本 state,输出带概率与置信度的类型化答案(判断、选择、评分)。客户端鸭子类型,任何 OpenAI 兼容客户端均可接入,含自托管 llama.cpp,运行时不依赖 openai。支持多种概率判定方法及 auto 选择,问题并发执行,Apache-2.0 开源

核心功能

6 项已整理
可观测性追踪
文本分类
模型路由
第三方模型接入
结构化抽取
语义缓存

价格信息

暂无可验证价格信息

暂无足够准确的价格信息。

基础信息

更新频率
近 7 天 1 条收录动态
最近更新
2026-10-07
覆盖行业
程序员

更新日志

按时间记录功能更新、版本发布、新工具入库等重要变化。

  1. 2026-10-07版本发布

    jevper 发布 v0.7.12:新增 Decisions 线格式封装层 client.decisions.create(),把 OpenAI 公测中的 Decisions API 请求/应答形状(predicate、choice、score 三类问题,返回 model/answers/usage 三键类型化答案)移植到任意模型与任意 OpenAI 兼容接口面,覆盖 llama.cpp、LM Studio、ollama、vLLM、SGLang 等本地服务器与 Anthropic 兼容端点;日后迁移到官方 Decisions 路由(当前仅 gpt-6-luna 独家服务)只需换客户端。逐问题走 system_one(api="systemone" 一次请求全部),SystemOneResponse.to_decision() 可转换已持有的应答;拒绝 input_image,模型拒答抛 ModelRefusalError,未报告的 usage 记 null。对照线格式审查修复 6 项缺陷并每项配回归测试,新增 Decisions 文档页与 API 参考,测试 1181 通过。

  2. 2026-09-26版本发布

    jevper 发布 v0.7.9:System One 接口面仅凭 base URL 即可接入 Ollaya(其 /v1 API 与 TypeSafe 线格式一致,GET /v1/models 返回 list_models() 可读取的 Jev 模型列表形状,属对等兼容而非移植)。新增两个默认保持现状的可选项:noul_requires_question 允许不带 instructions 与 criteria 的 noul 请求(由 question id 代替,Ollaya 两条路由实测 200,托管服务默认仍返回 400);native=True 直连 Ollaya /api/decide,返回 NativeSystemOneResponse,包含路由实际选中的 checkpoint(routing.model)、state 是否截断及纳秒计时,extras、keep_alive 为该路由专有字段。新增逐应答字段可选且默认 None,不影响其他接口面,950 项测试通过。

  3. 2026-09-26版本发布

    jevper 发布 v0.7.10:修复 v0.7.9 新增路由报告未纳入统一错误契约的问题。此前路由方应答缺少其文档声明的字段时,_assemble 直接抛出裸 pydantic ValidationError,越过库边界,调用方按文档编写的 except JevperError 无法捕获;现与 parse_answer、parse_models 一样包装为 MalformedAnswerError 并指名出错字段。routing 值类型错误不属此情形(无可读取内容),按无路由处理而非报错。952 项测试通过。

  4. 2026-09-26版本发布

    jevper 发布 v0.7.11:对照文档契约在真实 ollama 与 vLLM 上验证,修复 16 项与文档或其他接口面承诺不符的行为,每项配回归测试。包括:System One 分数分布改按 rubric 层级索引键控并双向严格对齐;noul/score/probabilities 必须有限值、act_probability 限定 [0,1];直连作答时 routing=null 且为唯一“无路由”语义,null reason 等按类型默认值读取;native=True 配 api=auto 等无效选项请求前拒绝;grammar 不再轮换至丢弃约束的 Responses 面;few-shot 状态计费前校验;CRLF 分帧 SSE 错误流保留 503 状态可重试;非列表应答体报 JevperError;修复 close() 竞争与陈旧降级回退。测试 1083 通过(原 952)、7 跳过,四接口面在 ollama、vLLM 真机复验。

  5. 2026-09-26版本发布

    jevper 发布 v0.7.8:修复 api="auto" 将服务商 400 ModelProtocolUnsupported(模型不支持该协议)误判为死路、直接报 ProviderError 的问题。现按与 404 相同的(服务器、模型、接口面)事实处理,调用自动迁移到可用接口面(如 opencode Zen muse-spark-1.3-contributor 从 Chat Completions 迁至 Responses),并记忆裁定,后续调用直达。新标记必须指名 protocol 或 route,仅含 unsupported 的 400 仍走字段降级路径;显式指定接口面时如实上报 400 不静默迁移。已在 opencode Zen 两款推理模型及 qwen3.8-flash 真机验证,925 项测试通过。另记录推理模型耗尽输出预算时 Responses 面 status: incomplete,上报为指名 max_output_tokens 的 IncompleteAnswerError。

  6. 2026-09-25版本发布

    jevper 发布 v0.7.3:通过消费方示例项目在 ollama、llama.cpp、vLLM、SGLang、LM Studio 五服务器、每台 38 场景的公共 API 矩阵(另含 49 个本地拒绝用例及 1 个 MLflow trace 调用)发现并修复 2 个库缺陷。修复一:构造非法问题(如 Choice(criteria=..., weight=2))此前抛出非 JevperError 的 pydantic ValidationError 会逃出服务 except,现统一以 InvalidQuestionError 失败并指名字段,并在构造期校验问题 examples(答案须命中选项、概率键须与选项键一致)。修复二:嵌套超 JSON 限制的 state 此前在 Python 3.12 逃逸裸 RecursionError,现作为库错误上报并给出修复建议。另修正 debug 常存键、/v1/responses 各方言范围、vLLM /v1/messages 版本号、mlflow.llm.model 语义等 4 处文档。732 项测试通过。

  7. 2026-09-25版本发布

    jevper 发布 v0.7.4:截断建议 IncompleteAnswerError 现按接口面指名各自的输出预算字段——Chat Completions 面对 OpenAI 推理模型提示 max_completion_tokens,并并列标注多数本地服务器使用的 max_tokens;Responses(max_output_tokens)与 Messages(max_tokens)不变,请求形状无变化,预算仍由调用方经 extra_body 传入。同时新增含四张图的 Architecture 架构文档与术语表,并完成一轮文档校对,修正约 40 处与代码及厂商文档不符的表述。

  8. 2026-09-25版本发布

    jevper 发布 v0.7.1:对同一代码二次审查后的 12 项缺陷修复,每项均有回归测试复现,公开 API 行为不变。三接口面统一先解析 event: error/data 帧,流式 200 中携带的 429 等错误状态不再丢失并恢复重试;引用服务商原文统一经限长格式化器(转义可打印 UTF-8、截断 500 字符);畸形应答按键名而非值报告。调试记录对 authorization 等凭证头自动脱敏、内容限长保证可序列化,并按 SDK 规则校验 extra_headers。学到的能力限制改为按(模型, 接口面)记忆,model_not_found 的 404 不再误判缺路由;结构化/discrete 应答拒绝多余字段,标签折叠仅用 ASCII;批次中断与 CancelledError 立即上达。710 项测试通过,ollama、llama.cpp、LM Studio、vLLM、SGLang 五服务器各 18 场景真机验证。

  9. 2026-09-25版本发布

    jevper 发布 v0.6.1:对 v0.6.0 六方评审,用驱动真实 OpenAI/Anthropic SDK 的 301 用例演练器覆盖三接口面病态应答,五台本地服务器重测,每个修复均有测试复现。修复静默错答:200 中与答案并存的服务商 error 现优先生效、code 兼容数字串保持可重试;采样 token 与答案标签矛盾时均不采信;双 JSON 对象判畸形;content_filter 改报 ModelRefusalError;null/正值 logprob 不再伪造置信度。重试对齐官方 SDK:补入 409 与全部 5xx,x-should-retry 双向优先,Retry-After 上限一天后走退避。修复多个逃逸 JevperError 的崩溃;extra_body 的 logprobs 不再丢 top_logprobs,thinking.budget_tokens 自动撑大 max_tokens。560 项测试通过。

  10. 2026-09-25版本发布

    jevper 发布 v0.7.0:Responses 接口面新增对 OpenResponses 规范(LM Studio 0.3.39+、llama.cpp、vLLM、SGLang 的 /v1/responses)方言支持,同时兼容 OpenAI 官方 Responses API。输入轮次携带规范要求的 item type 以绕过 vLLM parts 渲染缺陷;读取全部文本与 reasoning part 类型、字节级 logprob token;incomplete/in_progress、phase 标签、事件流错位、嵌入式错误体等异常如实拒答而非伪造答案。收紧 SDK 边界:统一由 jevper 接管重试循环、拒绝错配的同步/异步客户端、严格校验下从异常体读取服务商错误。api="auto" 按 Responses→Chat Completions→Messages 顺序回退,debug 增加 apis 与 server_limits_by_api。全套 638 项测试,五台本地服务器各 31 场景真机验证。

  11. 2026-09-24版本发布

    jevper 发布 v0.5.2:修复两类服务商应答不符问题。显式 logprobs 被 Responses API 以 400 拒绝(如 OpenRouter 拒绝 include)时,现迁移到可返回完整分布的 Chat Completions 接口面并记忆,但无处可迁(单接口客户端、已知缺路由、grammar)时如实上报拒答不静默替换;messages-only 客户端遇无 /v1/messages 时 404 按(模型,接口面)记忆,并校验客户端能否说目标接口面,第二次调用不再 AttributeError 而是重复上报 404。新增 MLflow 3.16.1 端到端集成(53 项测试):openai/anthropic autolog 追踪、pyfunc.ResponsesAgent 托管、网关与本地模型评测,jevper[mlflow] 可选安装且库不导入 MLflow。LM Studio 真机验证三接口面网格。测试 408 增至 418 通过。

  12. 2026-09-24版本发布

    jevper 发布 v0.5.3,修复 14 个缺陷。追踪:同一调用各问题在线程池执行且工作线程继承调用方上下文,外层 @mlflow.trace 或任意 OpenTelemetry span 成为每个问题 SDK span 的父级,实现每次调用一条 trace、每问题一个子 span;无 model_config 的 LangChain 夹具也可记录。拒答按接口面分别识别 logprob 载体并记忆被拒面,避免重复请求;并发降级合并,分布归因到实际接口面。Messages/Responses 面在 thinking 开启时省略 temperature、本地拦截装不下思考预算的 max_tokens、正确上报 refusal;构造期校验 count 为整数、model 为非空字符串。444 项测试通过(原 418),在 ollama、llama.cpp、vLLM、SGLang、LM Studio 与 OpenRouter 免费层真机确认。

  13. 2026-09-24版本发布

    jevper 发布 v0.6.0:对照 TypeSafe system-one-adapter 0.2.1、官方 Python SDK 0.7.1 与 API 文档消除 13 项契约偏差,488 项测试全通过,并在 ollama、llama.cpp、vLLM、SGLang、LM Studio 五服务器、三接口面实测。评分改为对归一化分布取期望值;长度截断、模型拒答、Responses failed/cancelled 统一作为 ProviderError 终态失败且不重试;RetryPolicy 默认遵守 Retry-After;Messages 面发送 output_config.format 并将 schema 重写为 Anthropic 支持子集,修复 anthropic 0.49 TypeError 与 400;state 以 <document> 转义引用并标注不可信,防提示词注入;修复 extra_body 无 temperature 时被丢弃、top_logprobs 负数下界等问题。

  14. 2026-09-24版本发布

    jevper 发布 v0.5.0:新增 Anthropic Messages API 路由,api="messages" 走 POST /v1/messages,可将 anthropic SDK 指向本地端口,兼容 LM Studio、llama.cpp、vLLM、SGLang、ollama、OpenRouter,保持鸭子类型无新依赖。处理协议差异:无 logprobs、max_tokens 必填(默认1024)、thinking 以 budget_tokens 发送并保留 reasoning 签名。请求无法携带 JSON Schema 时改由系统提示词承载,修复 4B 模型结构化回答形状错误。Qwen3-4B Instruct/Thinking 在五服务器完成矩阵验证,无头 LM Studio 双面 11 场景全通过。

  15. 2026-09-24版本发布

    jevper 发布 v0.5.1:经两次代码评审、测试覆盖评审及 SDK/服务器行为研究,修复 15 个边界问题,公开 API 无变化。三类接口面(Chat/Responses/Messages)错误处理改进:安全拒答、输出预算耗尽、空 choice(OpenRouter 503)现把服务商原文带给调用方并保持可重试;修复 extra_body 致调用方 prompt_cache_key 未移除、response_format 覆盖严格 schema;失败判定绑定实际发起请求的接口面,降级后重试计数重置,值级拒参不再被误判为字段不支持;缓存键加入 method 哈希,Messages 面推理预算正确发送 thinking 且默认 max_tokens 随预算增长,助手轮结尾重排解决 ollama/LM Studio 400。测试 276 增至 408 通过,ollama、llama.cpp、LM Studio、vLLM、SGLang、OpenRouter 免费层真机矩阵验证。

  16. 2026-09-24版本发布

    jevper 发布 v0.4.0:评分规则调用复用服务商 prompt cache。逐次变化的 state 移到消息列表末尾,2388 token 示例二次调用复用前缀从仅 40 token 提升至 llama.cpp 1010、vLLM 528、SGLang 896,并越过 OpenAI 1024 token 最小缓存门槛;每请求自动发送按问题派生的 prompt_cache_key(可自定义),配合 OpenRouter sticky routing 与 OpenAI 路由优化;新增 usage.cached_tokens 汇总缓存命中并区分 None 与 0。ollama、llama.cpp、vLLM、SGLang 四服务器 27 场景真机矩阵通过。

  17. 2026-09-23开源

    开源 Python 库 jevper 发布:作为 TypeSafe System One(Jev)接口的独立实现,在任意 OpenAI 兼容模型(含自托管 llama.cpp)上输出带概率与置信度的类型化分类答案,支持 noul/choice/score 三类问题、并发调用与多种判定方法。

  18. 2026-09-23版本发布

    jevper 发布 v0.3.0:当 OpenAI 兼容服务器拒绝 structured output、reasoning 参数或 Responses include 字段时,客户端按 json_schema→json_object→无 response_format 阶梯丢弃被拒字段重试并记忆限制;改进推理预算耗尽(incomplete/length)与 vLLM/SGLang 末尾 <|im_end|> token 造成的误判报错;新增 ollama、llama.cpp、vLLM、SGLang 四服务器响应夹具,Responses 404 自动回退 Chat Completions 的路由回退首次经真机 25 场景矩阵验证。

jevper 常见问题

关于 jevper 的定位、核心功能、价格与最近更新。

jevper 是什么?

jevper 是 TypeSafe System One 接口的独立 Python 实现:输入文本 state,输出带概率与置信度的类型化答案(判断、选择、评分)。客户端鸭子类型,任何 OpenAI 兼容客户端均可接入,含自托管 llama.cpp,运行时不依赖 openai。支持多种概率判定方法及 auto 选择,问题并发执行,Apache-2.0 开源。

jevper 有哪些核心功能?

jevper 当前已核验的核心功能包括:可观测性追踪、文本分类、模型路由、第三方模型接入、结构化抽取、语义缓存。

jevper 如何收费?

AI Equal 当前没有收录 jevper 的可验证价格信息。

jevper 最近有什么更新?

2026-10-07:jevper 发布 v0.7.12:新增 Decisions 线格式封装层 client.decisions.create(),把 OpenAI 公测中的 Decisions API 请求/应答形状(predicate、choice、score 三类问题,返回 model/answers/usage 三键类型化答案)移植到任意模型与任意 OpenAI 兼容接口面,覆盖 llama.cpp、LM Studio、ollama、vLLM、SGLang 等本地服务器与 Anthropic 兼容端点;日后迁移到官方 Decisions 路由(当前仅 gpt-6-luna 独家服务)只需换客户端。逐问题走 system_one(api="systemone" 一次请求全部),SystemOneResponse.to_decision() 可转换已持有的应答;拒绝 input_image,模型拒答抛 ModelRefusalError,未报告的 usage 记 null。对照线格式审查修复 6 项缺陷并每项配回归测试,新增 Decisions 文档页与 API 参考,测试 1181 通过。