Experiential
开源智能体工作流网关与路由器,统一托管、BYOK与本地模型访问
Experiential 是一个面向智能体工作流的开源网关与路由器,通过一个 OpenAI 兼容 API 统一托管、BYOK 和本地模型。它支持按用户、智能体、用例及预算控制模型访问,并可将生产流量转化为针对质量、速度和成本优化的自定义路由器或模型。项目支持本地部署(pip install experiential)及托管平台,默认启用匿名聚合遥测
130
2026-10-09
未收录
9,907
工具功能
这个工具能做什么、适合谁用,以及目前已识别的核心能力。
工具简介
Experiential 是一个面向智能体工作流的开源网关与路由器,通过一个 OpenAI 兼容 API 统一托管、BYOK 和本地模型。它支持按用户、智能体、用例及预算控制模型访问,并可将生产流量转化为针对质量、速度和成本优化的自定义路由器或模型。项目支持本地部署(pip install experiential)及托管平台,默认启用匿名聚合遥测
核心功能
价格信息
部分免费当前仅展示已核验的定价模式。
基础信息
- 更新频率
- 近 7 天 18 条收录动态
- 最近更新
- 2026-10-09
- 覆盖行业
- 程序员
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-10-09版本发布
Experiential 发布 v0.7.173(PR #1259,配套 exp-gateway-native 0.3.141),针对 2026-10-07 GLM 5.3 事故修复三处网关故障转移问题:缓存亲和恢复会话的暖路径所在阶段保留其他叶子作为后备,暖路径卡死时可正常故障转移;同一工具循环内两条活跃线路都封存推理载体时,改为固定最新签发方并静默丢弃旧签发方载体(披露 messages.reasoning_content->dropped(issuing_route_superseded)),不再以 400 拒绝续接;新增请求级 pre_first_byte_budget_seconds(默认 90 秒、0 禁用)统一约束所有尝试的首字节前开销,故障转移链收敛于 Cloudflare 100 秒源站限制,超时改回 503 deadline_exceeded 并附 Retry-After: 2 而非 504。属模型路由可靠性修复,无新增可直接使用能力,相关标签已在基线。
- 2026-10-09版本发布
Experiential 发布 v0.7.176(含 #1250/#1258,配套 exp-gateway-native 0.3.143):评测引入自建(authored)场景,exp.simulation.scenarios.select_authored_scenarios 支持调用方在已完成 build 的挖掘任务之后补充自带场景(指令、可选上下文、工具与仅供裁判的参考答案),轨迹、检索与世界模型不变,空选择精确还原挖掘场景集;ModelEvaluationOptions(include_mined=False) 只重放自建场景,默认两者都重放,计划、引用、评判与报告随选择而定;参考答案只送达裁判,不进入候选、环境或世界模型,托管、按消费或绑定路由器项目拒绝场景替换;另含 #1258:网关回读 Gemini 缓存写入的 OpenRouter 风格 cached_tokens 并支持可再生自动缓存。新增 LLM评测(自建 agent evals 场景)可直接使用能力,缓存项属计量增强,相关标签已在基线。
- 2026-10-09版本发布
Experiential 发布 v0.7.177(#1261,Python 侧,配套 exp-gateway-native 0.3.143):客户端在工具轮条目之间记录 developer/system 提醒时,网关保留携带推理载体的重建工具轮,修复 Codex 记录 Responses 流式条目后重放 function_call、developer、reasoning、function_call_output 序列被拆成两个 assistant 轮并以 "messages.reasoning_content must be an authentic continuation for this route"(400 invalid_parameter)拒绝的失败;同轮内调用或载体之后记录的指令移到重建工具轮之后、工具输出之前,载体仍对封存轮与历史前缀鉴权,位于其前的指令仍界定两个响应,无载体的运行保持条目原位。属函数调用与推理载体连续性的路由可靠性修复,无新增可直接使用能力,标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.166(PR #1223):共享 GuardrailEngine 新增输入观测,具备独立的有界检查与记录容量,保留正常投递与计费,并按类型报告覆盖、不确定、超时与服务结果;CLI/SDK 网关所有者可用 engine.close() 排空自有工作,原生 JSON 与 Prometheus 暴露记录丢失计数。本地 keyword/regex 适配器拒绝不支持的隐藏上下文、检查工具/schema 文本与调用标识,通用 HTTP 分类器保留公开输入投影,allow 判定仅描述该分类器自身检查。护栏重放键契约切换:0.7.166 前创建的受护栏重放键可能返回 409,无旧摘要翻译。配套 exp-gateway-native==0.3.137(源码子树与 0.7.165 相同),并含 Responses 联网搜索输出、缓存写入用量与 Mistral 类型内容修复。属内容审核护栏能力增量更新,其余标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.167(PR #1217,配套 exp-gateway-native 0.3.138):网关新增原生语音端点 POST /v1/audio/speech 与 POST /v1/audio/transcriptions,兼容 OpenAI 接口协议;lane 可通过 supports_speech、supports_transcription 能力位开放语音合成与语音转录,上传音频留在原生数据面,时长按编解码帧长(Opus TOC、AAC、MP3、FLAC、PCM)测量以防调用方伪造容器时间戳。计费引入 GatewayUnitPrices 单价卡(character/audio_second/video_second/image),BilledUnits 以千分位数量落 SQLite 账本(迁移 29),无单价卡的 lane 仍按 token 计费。属语音能力与计费单位账本更新,新增语音合成与语音转录两个可直接使用能力,其余标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.168(#1249,配套 exp-gateway-native 0.3.139):新增 CaptureConfiguration.capture_logprobs,默认关闭,关闭时线路、记录与请求路径完全不变;开启后,被捕获请求中符合条件的 openai_compatible rung(已验证 supports_logprobs、平台凭据、无输出护栏、调用方未控制概率)以独立 Idempotency-Key 附加 logprobs: true 重拨,token 概率仅进捕获侧缓冲,不进调用方事件流,Chat SSE、body 与 Responses SSE 逐字节一致,用量与结算不变。概率以 provider_logprobs 落入捕获记录并仅作对齐前缀保留,留存受每次尝试、relay、采集预算与 sink 约束;字段被拒时同一物理尝试内重拨明文载荷,成功后不再询问该 rung。属网关捕获观测能力增强,无新用户能力,标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.160(PR #1215,含 0.7.159 的 vLLM 分档优先级,原生数据面维持 0.3.133 不变):网关 lane 饱和时的 lane_saturated 429 提示语改为按调用方准入优先级 AuthorizationSnapshot.priority_admission 分档——免费调用方继续收到面向消费者的提示并被建议升级 Pro,付费调用方提示 Pro 组织在模型繁忙时享有更高优先级,Pro 调用方仅收到纯容量提示;失败类别 throttled、429 unavailable_route 与 Retry-After: 5 保持不变。属网关模型路由与用量与费用管控的分档拒绝提示细化,无新增可直接使用能力,相关标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.161(PR #1216/#1218,配套 exp-gateway-native 0.3.134):网关新增原生 OpenAI Decisions API 端点 POST /v1/decisions,服务 OpenAI 形状的决策请求(谓词 predicate、选择 choice、评分 score,可选名称、类型化字符串/布尔值、内联 base64 图像与可选 safety_identifier),由声明 supports_decisions 的直连 OpenAI 线路承接并将输出计价置零,与 SystemOne 共用同一决策账本面;答案按位置校验(类型化值、等级标签与位置、加权分、分项合计,逐题拒绝可透传),用量结算输入侧含缓存读与写腿,HTTP 状态决定已知拒绝(仅凭据被拒时单独故障转移)。SystemOne 准入现在携带显式线上鉴别器。属网关模型路由与推理服务能力增量,相关标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.164(PR #1212,配套 exp-gateway-native 0.3.136):Bedrock 与 Anthropic 线路开始上报一小时缓存写入用量。Bedrock 的缓存写入拆分项恰好覆盖 cacheWriteInputTokens 时产出其中一小时子集,缺失、部分或无法识别的拆分保持未知;Anthropic 的 message_delta 保留起始帧的 5 分钟/1 小时拆分而总量不变。0.7.163 的原生 0.3.135 未携带 #1212。属缓存写入用量计量与计费口径增强,无新用户可直接使用能力,相关标签已在基线。
- 2026-10-07版本发布
Experiential 发布 v0.7.165(PR #1227,配套 exp-gateway-native 0.3.137):修复 Mistral 系列线路兼容性。调用方工具缺少 description 时不再以 "description": null 上游发送,此前 Mistral 直接及经 OpenRouter、Azure 均以 "Input should be a valid string" 拒绝该请求;同时解码 Mistral 开启推理时的类型化 content 分段数组——text 分段作为完整回答、thinking 分段以推理呈现(Chat 的 reasoning、Responses 推理摘要、Messages thinking),流式与整包均生效。此前 mistral-small-2603 开启 reasoning_effort 对 17x23 错误答出 "91"、mistral-large-4 流式返回空答案。属网关模型路由兼容性与函数调用可靠性修复,无新增可直接使用能力,相关标签已在基线。
- 2026-10-06版本发布
Experiential 发布 v0.7.157(PR #1194,配套 exp-gateway-native 0.3.132):平台策略与身份策略统一经由单一 GuardrailEngine/GuardrailSession 执行护栏;input-only 策略可与宿主管理的生成重叠运行,期间全部输出扣留至策略批准后才放行;拒绝或超时按零费用取消客户计费。宿主契约同步变更:原生 GUARDRAIL_CONTRACT_VERSION 升至 3,策略查询支持复数形式,写账本必须实现 finish_request(..., web_search_requests=...) 并在启动时强制校验。属内容审核护栏执行模型与扣留放行机制增强,未新增用户可直接使用能力,相关标签已在基线。
- 2026-10-05版本发布
Experiential 发布 v0.7.156(experiential#1211,原生数据面维持 0.3.131 不变):网关调度策略 GatewayRungDispatchPolicy 新增 priority_overflow_paying 与 priority_overflow_pro 配置,网关所有者可按 rung 设置 [1,4] 区间内的优先级溢出倍数,仅在作者声明有界时读取(worker 默认界保留自身因子),付费方有效倍数被钳制到不超过 Pro 有效倍数;未设置时保持 1.25x/1.5x 默认值且不贡献身份字节。属网关模型路由优先级调度配置增量,未新增用户可直接使用能力,相关标签已在基线。
- 2026-10-04版本发布
Experiential 发布 v0.7.151(原生数据面不变,0.3.129):网关引入分档准入优先级 AuthorizationSnapshot.priority_admission(0 免费、1 付费、2 Pro),lane 达到绑定上限且仅在容量驱逐时,付费调用方可溢出至授权绑定的 1.5 倍、Pro 至 2 倍(分别为 worker 默认 lane 绑定的 1.25 倍/1.5 倍),免费调用方收到面向消费者措辞的 lane_saturated 429;每个有界 rung 恒定启用加权公平份额准入(fair_share 仅保留用于持久化快照身份)(#1193)。拆分的未签名 Messages thinking 块折叠进单一 Chat reasoning carrier (#1191);新增调用智能体归因请求头 (#1188)。属网关准入调度、推理载体合并与调用归因增强,无新用户可直接使用能力,相关标签(模型路由、用量与费用管控、可观测性追踪)均已在基线。
- 2026-10-04版本发布
Experiential 发布 v0.7.153(原生数据面维持 0.3.130 不变):修复缓存置放会话在容量剔除时的漂移——当宿主 cache placement 指定的 rung 设置了 saturation=refuse 并发上限时,该 rung 内的单 worker 剔除(queue_bound、fair_share_shed、速率窗口)不再把会话溢出到不含其提示缓存的同级 rung;免费调用方收到 lane_saturated 429(Retry-After 5)并重试回同一暖 rung,优先级调用方可按其上限向该 rung 溢出;真实故障仍照常故障转移,无置放的请求维持原有均衡。新增 GatewayRoute.cache_placed_deployment_id 字段。属网关模型路由与会话粘性修复,无新增可直接使用能力,相关标签已在基线。
- 2026-10-03版本发布
Experiential 发布 v0.7.149(PR #1185,配套 exp-gateway-native==0.3.129,含此前推理展示变更):缺失价格相关用量的已完成响应与被中断的付费 cell 可在显式无上限评估中作为新 rollout 生成恢复,已保存响应、请求身份、收据与未知负债不变,恢复不重发已保存 HTTP 请求也不虚构造零用量。SDK 在上报无效用量或超预留绑定扣费前先持久化付费响应,校验错误仍不可重试;工具 JSON 截断的原始 body 在解析错误前保存,精确重放不产生新请求。长度受限、工具调用 JSON 不完整的响应归类为中断响应,可用同一有界 rollout 恢复,三代上限与请求 repeat 计数独立。有限预算不授权在未知既往负债下恢复,已完成证据可免费重放,报告保留未知聚合实验支出,仅按有效 rollout 计算模型对比成本。属计费记账、负债授权与响应持久化可靠性增强,无新用户可直接使用能力,相关标签均已在基线。
- 2026-10-03版本发布
Experiential 发布 v0.7.147(配套原生数据面 0.3.128):网关 Responses 接口将 exposure-gated rung 的明文推理作为路由推理项的 summary 文本返回,与密封的 encrypted_content 载体并存,对齐 Chat 的 reasoning_content 字段与 Messages 未签名 thinking 块;输出护栏重写时同步剥离路由推理及其他所有推理载体,确保被重写轮次不会在任何接口面返回原始推理。属推理可见性与护栏隐私语义更新,无新用户可直接使用能力,相关标签(模型路由、隐私防护)均已在基线。
- 2026-10-03版本发布
Experiential 发布 v0.7.148(原生数据面 0.3.129):网关默认以展示文案返回每个 rung 的可读推理,覆盖 Chat reasoning(OpenRouter)、Messages 未签名 thinking 块、Responses summary_text,兼容 OpenAI 明文、Fireworks、Gemini 思维摘要与 Bedrock。请求构建器同步请求可读推理(Anthropic summarized、Gemini includeThoughts、OpenAI Responses summary:auto),展示不改变重放或密封载体。可用 reasoning_output_hidden、EXP_GATEWAY_REASONING_DISPLAY=0 或输出护栏关闭;新增 capture_hidden_reasoning 将调用方未见推理作为 provider_reasoning 保留一次。属网关推理可见性与捕获能力更新。
- 2026-10-03版本发布
Experiential 发布 v0.7.146(配套 exp-gateway-native 0.3.127):评估制备冻结完整 token 定价表,启动预估与报告先按每请求计价再对 episodes 平均,保留上下文层级、服务层级、缓存写入分摊与推理子集。网关 Chat/Responses 用量保留一小时写入计数,兼容 relay 区分未上报子集与测得零值;SDK 适配器采用与原生网关一致的附加推理归一化,Anthropic 含输入用量保留省略零写入语义。不可计价付费响应仍可持久重放,未知负债继续阻止有限授权;有限评估与自动路由器设置在供应商调用前拒绝不完整可达费率;判定修订保留冻结的裁判费率表,扁平与全表评估共用同一收据契约,陈旧绑定需重新制备且历史不重写。另含独立舍入概率响应的 TypeSafe 选项校验。属计费记账、支出授权与评估可靠性增强,无新用户可直接使用能力,相关标签均已在基线。
- 2026-10-02版本发布
Experiential 发布 v0.7.144(配套 exp-gateway-native>=0.3.125,<0.4):网关恢复与接地世界模型输入处理增强。本地容量拒付仅在持久证书证明无付费效应后才可凭同一幂等键重试,更早的供应商尝试、路由、搜索、输入校验及历史无证书失败仍保留重放屏障;非空兼容推理帧只更新内部生成进度而不泄露私有推理,整体请求 deadline 继续强制执行;接地世界模型 prompt 升级至 v3,对重复任务与上下文内容驻留复用且不摘要示例,打包保留必需内容、输出额度与示例出处。自定义网关账本适配器须实现 finish_request(..., certify_no_effects=False) -> bool 并仅在证书提交后返回 true,SQLite 迁移既有记录证书为 false;既有冻结制备与收据不重写,需重新制备 grounded-world 工件与评估。属可靠性、计费安全与隐私语义增强,无新用户可直接使用能力,相关标签(模型路由、用量与费用管控、隐私防护)均已在基线。
- 2026-10-02版本发布
Experiential 发布 v0.7.143(配套 exp-gateway-native 0.3.123):改进接地仿真容量处理,省略的检索查询上限改由可用 world-model 输入容量推导,保留显式上限与精确 embedding 记账;可选接地示例派发前打包,仅记录实际发送的示例;路由器支出授权纳入完整解析后的查询额度。RuntimeModelCatalog 调用方可配置 HTTP 生命周期 deadline(默认仍 60 秒,供应商行为有界)。100 步与 100 万总输出 token rollout 默认值不变,必需上下文不足或输出溢出在查询嵌入/补全调用前失败。属容量推导、支出授权与运行时可配置性增强,无新用户可直接使用能力,相关标签(模型路由、用量与费用管控)均已在基线。
- 2026-10-01版本发布
Experiential 发布 v0.7.140(#1167,配套 exp-gateway-native 0.3.121):当某次尝试自身的自动 Vertex 缓存创建恰好写入其生成阶段要读取的缓存时,用量上报将这些前缀 token 以“同次调用内读回的缓存写入”记账(OpenRouter 的 Gemini 计费形态),一小时写入拆分为 0;创建请求按该 lane 的缓存写费率计价,后续复用缓存仍按普通读取计费,显式缓存行为不变。另修复较新工具链上的捕获字节预留构建问题。属自动缓存计费结算修复,无新用户可直接使用能力,相关标签(语义缓存、用量与费用管控)均已在基线。
- 2026-10-01版本发布
Experiential 发布 v0.7.141:目录支撑的评估支出上限改为可选(opt-in),新评估默认关闭上限并显示预估成本,可设正数美元金额启用上限或在 review/resume 时选 none 移除;无上限执行须经已审查的 Start 动作或 --yes,阈值之上的审查默认选 Back。SDK 聚合评估/请求账本上限接受 None,但每请求 token 与含重试成本预留仍为有限值,已完成扣费、未知派发 hold 与精确响应重放两种模式下均持久;调低上限只阻止超出预算的新请求,不重写历史支出与判定 lineage。EvaluationServices 省略参数时沿用执行预算,显式传 spending_limit_usd=None 仅移除聚合计;evaluate_models 仍要求有限仿真包络并提前报错,可用 run_prepared_model_evaluation 自动推导。配套 exp-gateway-native>=0.3.121,<0.4(验证用 0.3.121)。属用量费用管控语义调整,无新用户能力,标签均已在基线。
- 2026-10-01版本发布
Experiential 发布 v0.7.139:评估流水线在 rollout 与 judgment 两阶段统一使用配置的评估并发额度,候选模型间公平调度 rollout,已完成 rollout 的判定并发执行并按规范顺序出报告;每次判定的供应商调用与成本独立记账,暂停或致命错误时停止新准入、让在途响应持久化以精确重放。重试遵守 Retry-After/HTTP-date 提示(有界抖动),认证拒付在计费派发前重试且不占用付费尝试额度,仅信任显式可信 HTTPS 来源的免计费回执;零收费失败收据保留精确认证证据,重启后失败坐标可无派发复现。另修复合成时间戳导入 trace 的 lineage 隔离。无供应商环境完成 640 次 rollout/判定、单阶段 512 并发重放验证,要求 Python 3.12+。属评估编排与计费记账可靠性增强,无新用户可直接使用能力,标签均已在基线。
- 2026-10-01版本发布
Experiential 发布 v0.7.137(#1155,配套原生组件 exp-gateway-native==0.3.120):付费模型响应中仅讨论凭证术语(如密码管理、授权软件)的内容不再被丢弃,成功工作得以保留;响应以 exact-replay JSON 收据存储,既有收据无需再次调用供应商即可读取。已知凭证字段、显式赋值、可识别密钥值、重复 JSON 键及过深解码器嵌套仍以可操作错误拒绝。属凭证过滤误杀修复,无新用户可直接使用能力,相关标签(隐私防护)已在基线。
- 2026-09-30版本发布
Experiential 发布 v0.7.135(#1156):推理延续行为调整——当保留思维载体的签发 rung 已离开调用方路由时(如对话中因额度耗尽关闭 house lane),载体现在被直接丢弃且绝不解封,在 ignored_parameters 披露为 messages.reasoning_content->dropped(issuing_route_unavailable),请求由当前路由继续服务;此前该轮会以 must be an authentic continuation for this route 被拒。resolve_deployment_hint 对超出当前计划的 hint 抛出类型化 ReasoningCarrierIssuerUnavailableError(GatewayRoutingError);篡改、重打标签、跨租户或凭证轮换载体仍被拒绝。属路由容错修复,无新用户能力,标签均已在基线。
- 2026-09-30版本发布
Experiential 发布 v0.7.132:AnthropicOAuthApp 新增经所有者批准的 shared_client 模式(EXP_ANTHROPIC_OAUTH_SHARED_CLIENT=1)。在 Anthropic 向运营方签发自有 OAuth 应用之前,Claude 计划连接可像 Claude Code 一样呈现为 Claude Code 的公共客户端;共享模式下 client ID 必须与 Claude Code 完全一致、重定向默认其 paste-code 回调、beta header 默认 oauth-2025-04-20,dispatch header 中的凭证仍被拒绝。模式外默认值不变,仍拒绝 Claude Code 的 client ID 与身份头。属 Claude 订阅计划连接的认证兼容模式,无新用户可直接使用能力,相关标签已在基线。
- 2026-09-30版本发布
Experiential 发布 v0.7.134(配套 exp-gateway-native 0.3.119,PR #1149/#1150):原生网关新增 Vertex 自动(无需客户端标记)整消息 prompt 前缀缓存,引擎提供无内容前缀指纹,AutomaticCacheHost 选取其他请求已发前缀,经免费 countTokens 预检后由唯一 worker 创建 cachedContents 资源供后续请求复用;准入美/欧司法辖区端点 aiplatform.{us,eu}.rep.googleapis.com 并精确绑定位置。缓存故障一律 fail-open,回退普通直连且不触发部署健康熔断,显式缓存仍 fail-closed 记账。另修复 OpenRouter Gemini 显式缓存写:创建调用的读写双计前缀改为在读内结算写、按 OpenRouter 账单计价、不再 max-merge。属语义缓存自动化与跨区域/计费结算增强,相关标签均已在基线。
- 2026-09-29版本发布
Experiential 发布 v0.7.131(配套 exp-gateway-native 0.3.117):在 Chat Completions 与 Responses 上接受 service_tier:"fast" 作为规范的 Priority(快速)处理层;保留按层级区分的完整长上下文与缓存写入价格表,预授权取冻结 Standard 与请求层级中较大额度,再依据供应商凭证按实际服务层级计价;对缺失、未知、冲突或无法计价的凭证保留持久化 hold 而非猜测扣费;直连与扫账结算重试保留原始凭证并幂等重放已提交 hold,重启/崩溃后迟到的确认凭证可解析而无需再次向供应商发起请求;缓存写入仅在两段既定费率均已知且相等时才按未观测 TTL 拆分计价。托管方须先持久化可选的 GatewayServiceTierAdmission/GatewayServiceTierSettlement 合约再启用层级卡,既有未分层/默认/BYOK 行为与卡片摘要不变。
- 2026-09-29版本发布
Experiential 发布 v0.7.130(#1146):编辑后 assistant 轮次上回传的真实密封 reasoning_content 载体(tool-call id/名称/参数变更、可见文本或对话前缀改变)不再拒绝请求,而是丢弃且绝不解封,并在 ignored_parameters 中披露为 messages.reasoning_content->dropped(assistant_turn_changed)。此前会报 'must be an authentic continuation for this route' 并在客户端把 schema 无效工具调用修复为 invalid 工具时终止 OpenCode 会话。后续密封于被丢弃轮次之上的载体同样丢弃,更早的完整载体仍解封并固定其发起 rung;篡改、重打标签、跨租户或凭证轮换的载体仍被拒绝。属推理延续处理的会话兼容修复,无新用户可直接使用能力,相关标签均已在基线。
- 2026-09-27版本发布
Experiential 发布 v0.7.126(配套 exp-gateway-native 0.3.114,PR #1124):网关连接支持 ChatGPT/Claude 订阅计划(subscription)而非仅 API key,基于存储登录态每次调度签发 bearer 并按连接跨进程锁提前刷新;Claude 计划用运营方自有 Anthropic OAuth 应用,拒绝复用 Claude Code 身份;采集用量窗口(x-codex-*、anthropic-ratelimit-unified-*),窗口用尽则节流至重置并把流量轮换到下一账号,输出上限缩窄梯级而非丢弃。新增 CLI exp config gateway provider add --subscription chatgpt|anthropic。本版本不部署托管 Platform。属认证接入与多账号用量轮换增强,标签均已在基线。
- 2026-09-26版本发布
Experiential 发布 v0.7.123(配套原生组件 exp-gateway-native 0.3.111,PR #1111):捕获管线改为非阻塞异步交接,已准入记录直接移交现有后台 writer,无需等待投递容量或持久存储;响应体完成后释放未用的最坏情况内存预留,保留字节仍计费;积压计数器纳入等待 writer 槽位的准入记录,批处理、重试与有界归属保持不变;默认本地持久确认不变,本版本不增加崩溃恢复或无限中断缓冲。另合入 #1076 评估 UX/报告改动,以及 #1095 有界 RAG 嵌入输入与已完成批次续传。验证通过 8167 项 Python 测试、803 项 Rust 测试及 Python/原生桥接测试等;本版本不部署或合并托管 Platform #1937。属捕获可观测性与嵌入管线可靠性改进,无新用户可直接使用能力,相关标签均已在基线。
- 2026-09-26版本发布
Experiential 发布 v0.7.124(配套原生网关 exp-gateway-native 0.3.112,含 PR #1121):新增可选 public_upstreams_only=True 公共上游目标策略,面向接受客户自配供应商端点的主机,强制 HTTPS、拒绝非公有 IP 字面值与 DNS 应答并按已校验 socket 地址连接,受限模式禁用环境代理且保留无重定向策略;覆盖原生生成、嵌入、图像、决策与 Google 缓存创建,独立本地/私有端点默认仍可用。另有场景挖掘保留不同评估用例(#1104)、模拟器无效应答重试无需重启 worker rollout(#1113)。发版不等于部署托管 Platform。属网关安全访问控制策略增强,相关标签已在基线。
- 2026-09-26版本发布
Experiential 发布 v0.7.125(配套 exp-gateway-native 0.3.113,PR #1122):发布共享 Capture 实现,桌面 Capture 与网关捕获复用同一原生响应组装;桌面上传保留供应商响应证据、用量、工具内容与精确大整数值;继续保留凭证脱敏,桌面专属 source 标注不进入网关记录。CLI 命令仍为 exp capture,本版本不部署托管 Platform。属捕获可观测性/证据管线统一,无新用户可直接使用能力,相关标签均已在基线。
- 2026-09-26版本发布
Experiential 发布 v0.7.121(配套 exp-gateway-native 0.3.109):新增默认关闭的 Gemini 与 Vertex 原生显式缓存执行引擎接口,面向具备客户出资持久资源授权的嵌入方。须注入带租户隔离、费率校验、原子认领与记账的 ExplicitCacheHost;显式缓存标记与额度二者必备,prompt_cache_key 不授予消费权。仅执行单个有界已认证 cache-create 请求,不重试不重定向;Vertex project-ID 绑定主机核验的规范项目编号;强制五分钟绝对存储期限且复用前复检新鲜度。另修正架构文档中推理力度仅向下替换、保留 reasoning off 的说明。本版本只供引擎接口,不含托管额度、持久存储、凭证绑定或扣费记账,升级不启用任何客户;验证仅离线回环,未声称真实缓存节省。属语义缓存受限引擎能力,标签均已在基线。
- 2026-09-26版本发布
Experiential 发布 v0.7.120(配套原生包 exp-gateway-native 0.3.108,PR #1110):保留 Gemini 与 Vertex 在候选 finish 后到达的用量元数据,含 cache-read 计数。声明 finish 时冻结响应内容,同时继续收集元数据至 EOF 或既有有界读取/截止时限;保留独立部分 token 计数,仅对观测到的有效缓存子集以有界状态对账;在超时、传输失败与取消场景下保留单次终止结算,不重放生成。经 776 项原生测试、3031 项网关 Python 测试(28 跳过)与 50 项 JSON/SSE 记账用例验证。不重建历史供应商计量、不实现 Google 显式缓存资源、不保证隐式缓存命中、不改变历史扣费;拒绝整字节批次的共享 SSE 组帧错误不在修复范围。属推理网关用量记账正确性修复,无新用户可直接使用能力,相关标签均已在基线。
- 2026-09-25版本发布
Experiential 发布 v0.7.117(配套 exp-gateway-native 0.3.106,PR #1094):在共享 capture collector 中整合捕获预备、边界、重试归属与微批交付。重试时复用已预备 payload,支持有界批处理目标;新增可选 completion references 与 UTF-8 字节输出以避免重复 prompt 序列化与不必要转换,全量记录与持久交付仍为默认;保留 relay 元数据、有界线路证据及异常宽 JSON 数字(含缺失或 null 的无损 source sidecar);改进超大上下文预备但不改变实际下发请求字节。经评审 PR 的 CI、native wheel 矩阵、捕获回归与本地端到端托管存储测试验证;本地测量提升持久捕获吞吐,但不保证网关请求延迟普遍降低;包本身不部署或切换 Platform capture。属捕获可观测性管线整合,无新用户可直接使用能力、无 schema 或定价变更,相关标签均已在基线。
- 2026-09-25版本发布
Experiential 发布 v0.7.118「macOS Capture」:通过 exp capture 在 macOS 前台捕获 AI 应用的 OpenAI 与 Anthropic 流量,实时显示请求及输入/输出 token 计数;独立 watchdog 在 Capture 退出、崩溃或无响应时自动恢复;HTTP 流中断时仍保留已完成响应与 token 用量;新增 --verbose 请求/trace/上传关联诊断;发布 exp-mitmproxy 与 exp-mitmproxy-rs wheels(含 macOS Intel 与 Apple Silicon)。要求 macOS 与 Python 3.13+,首次安装需批准网络扩展与 Capture 证书。属网关流量捕获可观测性与用量计量的平台扩展,相关标签均已在基线。
- 2026-09-24版本发布
Experiential 发布 v0.7.116(配套 exp-gateway-native 0.3.105,PR #1102、#1103):网关协议与拒答处理修正。在 HTTP 与 SSE 错误包络中准确识别 Gemini 透传的内容策略拒答,不再误判为认证失败;默认拒答仍为终止处理,普通认证、额度与限流错误行为不变。应用 Claude Opus 5.5 的精确 thinking 与 tool-choice 合约并保留旧版本行为:thinking 显示控件在 enabled 到 adaptive 转换中保留,forced-choice 放宽沿用既有能力策略且不保证产生工具调用。Responses 的 user/system/developer 输入消息可带 status 而无需 assistant 输出项 ID。无 schema、定价或平台目录变更。
- 2026-09-24版本发布
Experiential 发布 v0.7.115(仅 Python,配套 exp-gateway-native 0.3.103,PR #1096 / platform #2205):/v1/embeddings 兼容 OpenAI token 输入。现可在 embeddings 接口接收文本、文本批次、token-ID 数组与 token-ID 批次;扁平 token-ID 数组作为单一逻辑输入并保留各 token ID 与批次顺序上行。输入预留按 token ID 直接计数,结算仍以供应商上报输入用量为准、输出 token 为零;接受显式 stream:false 且不向上游转发,流式、畸形 token 输入与未知参数仍被拒绝。无响应缓存、幂等重放或保留策略变化。验证含官方 OpenAI 客户端的真实原生 HTTP 服务与 LangChain 默认分词回环测试,但不构成新的真实供应商兼容声明。属网关新增文本向量化(embeddings)能力,标签为本次增量。
- 2026-09-23版本发布
Experiential 发布 v0.7.110(配套原生包 exp-gateway-native 0.3.102,PR #1080、#1085):原生捕获可靠性与预备记录批处理。捕获计数与字节准入计费在目标确认前持续生效,覆盖队列容量等待与存储重试;新增面向托管目标的可选 CaptureCollector.batched(config_json, sink),回调接收有界的预备 JSON 字符串元组并按序返回逐记录确认。记录只序列化一次、重试复用同一预备串、预备后释放解码记录树;未确认记录与预备失败保留、已确认成员独立释放,队列工作无需凑满批次即批处理。单记录回调与 SQLite 目标保留;批处理要求目标幂等且仅对已提交存储或有意的隐私排除确认。边界不变:有界内存队列、长期中断施加背压,不新增崩溃持久性,不改变捕获大小与保留策略。预发布存储基准显示小记录约 2.5x、64 KiB 约 1.7x 吞吐、512 KiB 约慢 15%,仅为存储路径测量。属网关捕获可观测性/证据管线与准入计费增强,相关标签均已在基线。
- 2026-09-23版本发布
Experiential 发布 v0.7.107(配套原生包 exp-gateway-native 0.3.97,含 PR #1079、#1009):上线身份作用域原生网关捕获。默认对本地授权收集经认证、按身份隔离的 Chat Completions、Responses 与 Messages 流量至有界 SQLite,--ghost 可关闭内容捕获;保留对话历史、工具定义/参数与环境响应、模型输出、可选推理及逐轮用量/计时证据,可通过 exp build --source gateway --identity ID 喂入构建。捕获目标瞬时失败时用同一 payload 重试并保留队列准入与内存计费直至确认;写入前拒绝不安全的 Unix 数据库/sidecar 权限与符号链接并文档化威胁模型。重试保留为内存态而非崩溃日志;不启用托管平台采纳或改变托管同意策略。属网关可观测性/证据捕获与本地安全增强,相关标签均已在基线。
- 2026-09-23版本发布
Experiential 发布 v0.7.108(配套原生数据面 exp-gateway-native 0.3.99,PR #1083):客户端中断的流不再按未知 $0 结算。原生数据面保留已转发的生成输出(streamed_output),在供应商已接受请求但无终止信号的取消中由记账注册表用预留分词器补齐缺失计量段,以网关估算计量结算,usage_source=estimated。已观测计量段优先;无上报输入总量的缓存段保持未知;图片、embeddings、DECISIONS、未打开派发及无证据载荷维持保守未知策略。含 24 项原生结算测试、248 项记账/账本/估算器测试及 21 个静默断连端到端用例;生产环境 2026-09-23 六小时窗口内出现 291 笔此类 $0 取消。属推理网关用量与费用记账正确性增强,标签已在基线。
- 2026-09-23版本发布
Experiential 发布 v0.7.109(配套原生 0.3.101,Python 要求 exp-gateway-native>=0.3.101,<0.4):上线逐请求重试与路由策略。生成客户端可在 Chat Completions、Responses HTTP/生成式 WebSocket 及 Anthropic Messages 上发送可选 gateway 对象,支持每路由 1-4 次、整请求 1-8 次尝试上限,none 或可配 exponential 退避(固定等抖动、有界处理供应商 Retry-After),逐调用故障转移与主机授权下的精确路由选择。对普通重试、限流重拨、推理修复及工具搜索后模型续接实施硬性物理调用记账;策略不向供应商泄漏,不支持接口显式拒绝。显式首路由不绕过资格、推理归属、熔断、支出与车道容量,已提交输出禁止切换路由;另合并估算断连计量。属模型路由/推理网关在重试韧性、路由控制与费用记账上的增强,标签均已在基线。
- 2026-09-23版本发布
Experiential 发布 v0.7.112(配套 exp-gateway-native 0.3.103,PR #1088):上线托管捕获检查点。在中选主机付费车道冻结后、释放输出前,对合格托管提示词做持久检查点;排除 BYOK 与落选车道,目标同意检查仍为权威。检查点背压期间保留响应所有权,失败时结算进行中的供应商尝试;保留已准入非成功响应及工具参数合法尾部空白。移除普通捕获的中间 Python JSON 编码,原生有效输入上限由 1 MiB 提至 4 MiB。验证全 CI 绿(含 Rust、延迟、五个 native-wheel)及真实 Platform worker/SQL 测试。检查点后响应字节不做崩溃日志,4 MiB 不覆盖 Platform 全部包络,Platform 切换尚未合并。属网关捕获可观测性与结算正确性增强,标签已在基线。
- 2026-09-23版本发布
Experiential 发布 v0.7.113(仅 Python,原生 crate 维持 0.3.102,platform #2197 / PR #1092):修正断连估算中的缓存计量处理。估算的缓存读取段上限设为输入总量减去已观测缓存写入;即使输入总量本身是网关计数,每条已观测缓存段(读取、写入、一小时写入)均按供应商上报原样保留。由此读优先结算钳制既不会挤掉已上报的写入计费责任,也不会把 TTL 未知的缓存写入错误计价。附 192 项估算器、记账与账本测试,含仅部分读取与仅写入供应商上报用例。属推理网关用量结算与缓存计费正确性修复,相关标签均已在基线。
- 2026-09-22版本发布
Experiential 发布 v0.7.105(需配套 exp-gateway-native 0.3.95 或更新,PR #1066):Gemini 及兼容图像模型生成的图片现可在 Chat Completions 流式与缓冲响应中完整保留,包含已校验的内联光栅数据、保留的 token 用量与可重放的助手图片历史。无效生成图片在 Gemini 恢复流程中仍不可重试,避免第二次计费生成;在 base64 与光栅内存分配前对图像输出(含 WebP 内嵌帧)施加有界上限,纯文本护栏在交付图片前 fail-closed。另含 0.7.104 已发布的跨供应商数值化 thinking 预算。属推理网关对多模态图像输出透传、用量正确性与资源边界的增强,相关标签已在基线,不新增标签。
- 2026-09-22版本发布
Experiential 发布 v0.7.106(需配套 exp-gateway-native 0.3.96 或兼容后续 0.3 版本,合并 #1005 核心):上线原生网关捕获,新增共享原生捕获采集器与类型化托管目标接口,保留有效对话上下文、工具定义、工具响应、供应商暴露的推理、精确工具调用参数及异常字符串旁路;记录每轮原生计时与 token 用量,支持可选 harness 会话关联及 Gemini thought/signature 证据,缺失推理不再拒绝请求;施加有界背压与目标确认,超时排空时保留已接受工作。该版本不启用 #1009 默认本地流量收集、不改变托管平台策略或部署;另在文本世界模型 rollout 中生成模拟工具结果(#1075)。捕获目标须在持久化层强制 consent、租户归属与保留策略,队列为有界内存队列而非崩溃恢复日志。属网关可观测性/证据捕获增强,相关标签已在基线。
- 2026-09-22版本发布
Experiential 发布 v0.7.103(配套 exp-gateway-native 0.3.94):为合格 OpenAI 兼容 lane 的 Chat Completions 与独立合格 Responses lane 的原生 Responses 增加显式 token 概率(logprobs)支持,保留 content/refusal、token bytes、有序候选及按生命周期阶段的概率观测,推理部署需按 effort 单独 qualify。整合 #1000,覆盖流截止、私有推理进度、工具搜索、用量记账与空补全故障转移并补回归测试。能力保持 opt-in,不自动 qualify 目录、不启用 Messages/批量概率 API。另含 Anthropic discovery 分页、Gemini listing token、路由去重 embedding、取消工具描述长度限制、Qwen thinking 预算等修复。属推理网关元数据与正确性增强,标签均已在基线。
- 2026-09-21版本发布
Experiential 发布 v0.7.101(配套 exp-gateway-native 0.3.92):生成意图与流完整性。移除省略输出限制时武断的 4096 token 回退,Anthropic 必需上限改为按声明的逐路由输出最大值派生并配套披露与有限资金预留边界;保留有效的 thinking-off 设置与显式 effort 上限,无法保留的数字推理预算直接拒绝而非静默降级为建议性 effort;保留被截断的工具调用参数与长度终止,不再捏造空 JSON 或已完成工具,不自动付费重试或修复参数;响应接收方关闭时关闭无 key 的 Chat/Messages 上游传输并保留观测用量与最终结算结果;取消与物理重拨过程中保留部分/未知供应商用量、累计计量语义及缓存写入 TTL。托管平台须与待处理记账实现及附加 schema 一起部署,本地网关维持保守全额预留估算。属模型路由/推理网关在用量结算与流正确性上的增强,相关标签均已在基线。
- 2026-09-21版本发布
Experiential 发布 v0.7.100(配套 exp-gateway-native 0.3.91,PR #1059):网关流进度治理。空闲模型生成改为按真实归一化进度而非传输层 keepalive 界定,ping、注释、仅 role 帧及空帧或仅 usage 帧不再让停滞生成续命;路由绑定的私有推理在对外输出或成功完成前保持未提交,允许策略授权的故障转移且不泄漏推理、不重放可见输出;保留停止序列排空、下游背压、网关工具搜索轮次、取消与续接载体;不可撤销的 provider-tool 工作保持在 byte-idle 阶段直至匹配结果,提交后不重放、不拼接流;另以资源作用域选择器修复高文件描述符编号下本地进程沙箱管道问题。首 token 默认值、输入缩放、公开 schema 与硬性总请求预算不变,progress-idle 失败仍记为 transport。属模型路由/推理网关故障转移韧性与正确性增强,相关标签已在基线,不新增标签。
- 2026-09-21版本发布
Experiential 发布 v0.7.102(配套 exp-gateway-native 0.3.93,PR #1061):当决策回答校验失败时,保留已独立验证的 TypeSafe 输入与输出 token 用量,无效回答本身仍判失败;缺失、部分、无效或仅为零的用量保持 unknown;同一 attempt 取消时保留用量,重新绑定(rebinding)则清除。已通过 Rust 回归测试与真实原生 HTTP-to-SQLite 结算测试验证。属模型路由/推理网关用量结算正确性增强,相关标签(用量与费用管控、可观测性追踪)已在基线,不新增标签。
- 2026-09-19版本发布
Experiential 发布 v0.7.96(配套 exp-gateway-native 0.3.87,#1046/#1045):上线区域推理强制策略,提供精确的 Vertex US/EU 司法管辖区端点,并在普通补全、网关接口、故障转移与重试全链路上对连接强制 Anthropic inference_geo=us;未配置的连接保持原有行为。平台须升级到 0.7.96 才会激活这些区域路由,发包本身不改变组织策略或生产部署。另含 AnyIO 安全下限(#1045)。属模型路由的数据驻留/司法辖区合规增强,相关标签已在基线。
- 2026-09-19版本发布
Experiential 发布 v0.7.97(配套 exp-gateway-native 0.3.88):网关托管 Web 搜索的 url_citation 注解除字面结果 URL 外,现可将方括号结果编号([2]、[1, 3]、[2][4])解析回其排序来源,注入帧同步教导模型按编号引用;修复此前实时 Gemini 回答因按编号引用而携带零注解的问题。属联网搜索引用链路的正确性增强,相关标签已在基线,不新增标签。
- 2026-09-19版本发布
Experiential 发布 v0.7.98(配套 exp-gateway-native 0.3.89,#1051/#1053),针对当日 slow-lane 事故增强网关韧性:一是新增默认逐 lane 在途请求上限,未声明 concurrency_bound 的 rung 被钳制在 worker 准入许可的一半,GatewayRungDispatchPolicy.saturation 支持 overflow|refuse,默认上限削峰时返回可重试 429 而非强制准入,并新增 rung_saturation_refusals 指标与 NativeControlPlane(default_lane_bound=) 配置;二是首字节停顿判定改为等待首个真实 TOKEN,keepalive 注释、ping 与仅 role 帧不再满足该判定,瀑布流在 commit 时解除,停顿即触发故障转移。属模型路由韧性与可观测性增量,相关标签均已在基线,不新增标签。
- 2026-09-19版本发布
Experiential 发布 v0.7.99(配套 exp-gateway-native 0.3.90):为首个 token 停顿超时设置独立额度,默认 120 秒并钳制在请求预算的四分之三以内,支持逐部署覆盖 time_to_first_token_base_seconds 与共享输入斜率;header 超时仍保持 15 秒。该版本修复 0.7.98 中首 token 超时错误复用 header 默认值、会在 chat 线路上掐断思考型模型的问题。属网关路由超时策略正确性修复,无新增用户能力标签。
- 2026-09-19版本发布
Experiential 发布稳定版 v0.7.94(配套 exp-gateway-native 0.3.86,#1041 等):一是在预留、原生结算与目录定价全链路保留并计价供应商侧观测到的五分钟与一小时缓存写入(合入 #814 至 #1030 贡献);二是为无原生搜索的线路新增网关托管 Web 搜索,带来源引用并计量搜索用量;同时含 0.7.93 全部改动(原生工具兼容、ZDR 约束、Chat 工具调用响应修复)。网关快照 schema 升至 5,托管部署需在 schema-4→5 迁移期保留发布围栏。属联网搜索、语义缓存与用量费用管控增量,相关标签均已在基线。
- 2026-09-19版本发布
Experiential 发布 v0.7.95(exp-gateway-native 0.3.87,#1042/#1044):新增网关执行的工具搜索。调用方通过 defer_loading 声明延迟工具并附带 Anthropic tool_search_tool_bm25/_regex、OpenAI Responses tool_search 或 OpenRouter openrouter:tool_search 声明后,每条线路均可使用。原生线路逐字转发;非原生线路由网关拦截模型的搜索调用,在延迟工具语料上执行 BM25 或 RE2 检索,再携带匹配工具重拨同一 rung,按各界面渲染往返并对轮次计量。属工具协议集成/函数调用的跨线路工具发现增强,相关标签已在基线中,不新增标签。
- 2026-09-18版本发布
Experiential 发布 v0.7.91(PR #1038,exp-gateway-native 仍为 0.3.83),作为 0.7.90 的窄修复:纠正 Chat 与 Messages 请求中有序 prompt-cache 检查点。图片或文档之后携带缓存标记的空文本,检查点现保留在该精确的有序内容边界而非前移;无法表示的前置检查点与冲突的同位缓存生命周期在派发前被拒绝。省略 TTL 与显式五分钟等价,保留托管一小时定价护栏、通用适配器披露与签名推理。稳定回移仅含五个缓存边界文件加包版本。属语义缓存(prompt caching)正确性修复,无全新用户功能。
- 2026-09-18版本发布
Experiential 发布 v0.7.92(exp-gateway-native 0.3.84,#1037):Codex 原生 Responses 工具可在非原生(平台付费)线路上使用——namespace/custom tools 在请求侧转译为普通 function tools,并在响应侧以 custom_tool_call / namespace re-attach 反转还原;web_search/tool_search 等内置原生工具不做转译,直接丢弃并向调用方披露(drop with disclosure),不伪装成已支持能力。属工具协议集成/函数调用的跨线路互操作新增兼容能力。
- 2026-09-17版本发布
Experiential 发布 v0.7.88(exp#1026,native 0.3.81→0.3.82):OpenRouter 成为条件化零数据保留(ZDR)rung。主机用 zdr_constrained_deployment_ids 标记 rung,被标记的 OpenRouter Chat rung 以 provider:{zdr:true,data_collection:deny}+X-OpenRouter-Metadata:enabled 派发,其它 wire 上的标记 rung fail-closed。调用方可在 chat/responses/messages 用 provider.zdr:true 按单请求要求 ZDR,只会收紧组织策略并并入身份;结算记录 upstream_provider(schema v22),响应带 x-gateway-zdr-constrained:true。属模型路由新增的按请求/组织级数据保留隐私管控能力。
- 2026-09-17版本发布
Experiential 发布 v0.7.89(exp#1028,exp-gateway-native 不变 0.3.82):修复 0.7.88 引入的托管账本结算兼容回归。两个 group-commit facade 现在先探测主机 apply_finish_attempt 是否接受 0.7.88 新增的 upstream_provider 关键字,对不接受该关键字的 hook 自动 withhold,使尚未学习该关键字的 host ledger 仍能正常结算 attempt,而不是每次结算都失败;0.7.88 此前只探测引擎自身 facade 并无条件转发该关键字。属结算兼容性修复,无新增用户能力。
- 2026-09-17版本发布
Experiential 发布 v0.7.87(原生 crate 0.3.79,#1016),正式发布逐 rung 条件故障转移 failover_only_on:携带一组失败令牌(异常类名,或 refusal:<reason> 如 refusal:cyber_policy)的 rung 绝不首选拨叫,仅在先前 rung 以匹配令牌失败时启用;即使 refusal_failover 关闭,refusal 令牌匹配仍会路由;后继尝试记录 fallback_reason=failover_only_on:<token>;没有无限制 rung 的路由在准入时 fail-closed。该线路事实当前休眠,需平台连接声明且 lane-fact 开关激活后生效。属模型路由/故障转移策略的新增可配置能力。
- 2026-09-16版本发布
Experiential 发布 v0.7.83(exp-gateway-native 0.3.73),两项网关修复:#993 将供应商 4xx 中表明账户无法付费的句子(Novita "Insufficient quota available for instant inference" 及 quota/balance/credits/funds 族)从 invalid_request 改归 provider_quota,即可故障转移、绝不同 rung 重试的 transport_failure(402),使耗尽清扫与池轮换识别耗尽账户、waterfall 推进下一 rung,账本脱敏且遮蔽 trace id;#995 新增逐 rung 上下文窗口准入:窗口容不下 prompt 下限加 max_tokens 的 rung 被跳过,全部不满足才带精确数字拒绝,max_tokens 绝不截断(仅 Python)。属故障转移归类与路由准入正确性修复,无新增用户能力。
- 2026-09-16版本发布
Experiential 发布 v0.7.86(配套 exp-gateway-native 0.3.78):新增原生 TypeSafe SystemOne 决策服务端点 POST /v1/systemone,支持带结构化条件与严格原生响应校验的 noul、choice、score 类型化问题;提供独立于对话协议、仅供决策使用的供应商路由与部署能力;新增无内容请求记账、观测 token 结算、保守未知负债预留与运营商对账;传输/限流/过载/畸形等模糊结果 fail-closed 停止、不重复派发供应商;经所有者批准的保数据 SQLite schema v21 迁移;改进供应商认证与端到端覆盖。托管 TypeSafe catalog lanes 与凭证本次不激活。属网关新增决策类服务协议与记账能力,相关模型路由/推理服务/费用管控标签已在基线中,不新增标签。
- 2026-09-16版本发布
Experiential 发布 v0.7.81(exp-gateway-native 0.3.71,>=0.3.71,<0.4),合入两项网关修复:#981 在逐调用方记忆清扫陈旧队列条目时保留已重学的被拒加密推理 payload,记忆过期窗口后调用方重放同一 payload 仍被主动跳过;#982 新增 ModelCapabilities.emits_images 键,表示模型在 Chat/Responses 轮内出图的对话侧事实,数据面 image_output 标志改读该键,supports_image_generation 不再决定 chat-lane,仅在对话中出图的兼容线路调 /v1/images/generations 仍 fail-closed 返回 400;#977 空完成不重拨将适用于出图 chat 线路。该键不计入能力身份,pinned capabilities_sha256 不变。属能力键拆分与正确性修复,无新增用户功能。
- 2026-09-15版本发布
Experiential 发布 v0.7.77(exp#970,exp-gateway-native 不变 0.3.63):修复限流退避后重拨被温热 rung 误卸载问题。数据面等待池 throttle_redial 计划后,即使该 rung 逐 worker 派发事实(并发上限、每分钟请求或 token 数)本会卸载它,被限流 rung 的重拨仍获准入并保持 throttle_backoff 标记;重拨次数受逐 rung 预算与请求尝试上限约束,普通非重拨卸载仍侧向溢出。新增指标 throttle_backoff_forced_admissions。修复 2026-09-14 gpt-5.6-sol 突发时每次 OpenAI 429 重拨都被以 rate_limit 溢到冷回退的问题。属限流故障转移正确性修复,无新增用户能力。
- 2026-09-15版本发布
Experiential 发布 v0.7.76(exp-gateway-native 0.3.63,>=0.3.63,<0.4),批次合入 16 项网关修复:#955 登记 gpt-6-astra 使 strict-tools 门控有判定;#951 Chat 线路接受 thinking.type=adaptive;#961 工具消息支持图片分片并跨线路传递工具结果图片(chat/Gemini 折叠);#964 兼容 xAI/vLLM/FastAPI 等 OpenAI 族错误信封并入账;#962 Azure 无 [DONE] 流判终态;#963 放宽流式工具调用解码(混元 carrier);#960 逐 rung minimum_output_tokens 下限;#954 空交付轮判 Incomplete 并故障转移、不空成功计费;#957 兼容 OpenAI/OpenRouter 请求形态;#953/#958 Novita 信封与 Z.ai 429 归类;#965 剥离被拒加密推理并同 rung 重拨。属协议兼容、记账与故障转移修复,无新增用户功能。
- 2026-09-15版本发布
Experiential 发布 v0.7.75(exp#948,作者 ohnoah,原生 crate exp-gateway-native 0.3.55,约束 >=0.3.55,<0.4;SNAPSHOT_SCHEMA_VERSION 保持 4,无快照 schema 变更):OpenAI 兼容原生流式读取器现在接受 Azure OpenAI 的内容过滤注解帧——该帧 streamed choice 不携带 delta,此前被读取器拒绝,导致本已成功的答案以 502 malformed_response 返回调用方;修复后答案可正常完成。属协议正确性修复,赶在 Azure 线路承载更多流量前合入;生产账本显示过去 7 天有 2 次完全匹配该签名的请求。无新增用户能力。
- 2026-09-14版本发布
Experiential 发布 v0.7.74(exp#944,exp-gateway-native 保持 0.3.54):推理续接不再因被钉扎 rung 失败而中断,pinned 路由现携带池中其他 rung 作为回退。签发 rung 发生可故障转移的运营故障(重拨预算耗尽后的限流、提供商配额、不可用、传输错误)时,ladder 推进到回退 rung,其 payload 中用户边界后的密封推理被剥离并记录 route_reason=reasoning_continuation_failover;常规按 worker 限速仍保留钉扎(强制准入),调用方错误直接返回不触发回退,运营商认证与域隔离不变。故障转移代价为丢失该工具调用的思考连续性及签发方当轮提示缓存。修复 2026-09-13 腾讯 house account 日配额耗尽导致 hy4-preview 仅一次尝试即 429 的问题。
- 2026-09-13版本发布
Experiential 发布 v0.7.71(exp#936,exp-gateway-native 0.3.53):提供商限流改为先重拨再故障转移。池配置 throttle_redial={max_attempts, base_delay_ms, max_delay_ms} 后,调用方温热缓存值得等待的 rung 收到 pre-commit 429/overload 时,先在同一 deployment 上按 equal-jitter 指数退避重拨,退避不低于提供商 Retry-After 且受请求截止时间与 rung 首字节额度封顶;预算耗尽后才沿 ladder 冷故障转移,全部 rung 耗尽后才返回携带最大 Retry-After 的类型化 429。maximize_cache 下 cached-fraction 阈值改为选择退避 rung 而非直接透传;每次重拨单独记账 dispatch_reason=throttle_backoff;未配置池保持字节级不变。
- 2026-09-13版本发布
Experiential 发布 v0.7.72(exp#938,exp-gateway-native 0.3.54,线路字段变更):cached-fraction 阈值不再门控限流透传,改为确定 throttle redial 预算规模——准入时每个 rung 获得按请求的 post-backoff 重拨预算:未配置阈值或组织缓存占比达标时给满 max_attempts,低于阈值按比例分配,无缓存证据则为 0。缓存密集请求在热 rung 花完全部退避预算后才升级 ladder,低利害请求更快故障转移,冷流量立即故障转移;无 throttle_redial 事实的池行为字节级不变。
- 2026-09-13版本发布
Experiential 发布 v0.7.70(exp#929,exp-gateway-native 不变):针对 DeepSeek V4 在对话以 instruction/system 消息收尾(Claude Code 的 Environment prompt 与 <total_tokens> 提醒即以 trailing system 形式发送)时约四分之一概率提前结束 tools+reasoning 轮、返回空回复且空轮仍被计费的问题,流式与缓冲式两个 Chat payload builder 现在会在 DeepSeek 模型 id 且走 DeepSeek 官方源时,将尾部 instruction run 追加到前一条纯文本 user 轮,或在工具/assistant 轮之后将其重打角色为 user,位置与文本保持不变;其他模型族与更早指令不受影响。线上实测修复前 6/16、5/24 空答案,修复后 0/14。
- 2026-09-12版本发布
Experiential 发布 v0.7.69(原生 crate 保持 0.3.52,exp#925):修复 Claude Code 在 Messages 工具续接中以 mid-conversation system 提醒(tool_result 轮后追加,走 mid-conversation-system beta)收尾时的混元推理 carrier 回放——此前被拒并报 "reasoning_content can replay only in a completed tool continuation",现可回放已密封 Hunyuan reasoning carrier。历史门控仅要求活动窗口内每个 carrier 绑定的工具调用恰好有一个结果;carrier 真实性、rung 签发钉扎、调用 id 唯一及未应答 carrier 轮拒绝等校验不变。证据:Claude Code 2.1.269 对 mock 服务器捕获的回放及当日 965 次 hy4-preview 拒绝。
- 2026-09-12版本发布
Experiential 发布 v0.7.68(exp-gateway-native 0.3.52,#920/#921,Harbor/Akhara AI 需求):面向 Claude Code 的 Messages 用量对齐 Anthropic 四段式,message_start/message_delta/非流式 usage 均携带 cache_read_input_tokens 与 cache_creation_input_tokens;派发前估算按 count_tokens 口径计入 system、各轮消息与工具定义;cache_control 披露 not_forwarded(provider_caches_automatically)。裸 thinking:{type:enabled} 解析为线路默认推理力度而非固定 medium;budget_tokens>=max_tokens 按 Anthropic 方式拒绝;极小 max_tokens 不再返回空回复;纯文本路由收到图片以 image_input 拒绝。
- 2026-09-11版本发布
Experiential 发布 v0.7.67(#914/#915/#916):网关 Messages 起始帧现携带 dispatch 前的输入 token 估算,并新增 /v1/messages/count_tokens 端点供调用方预估算力用量;全系统金额单位由整数微美元(micro-USD)迁移到整数纳美元(nano-USD),伴随 SNAPSHOT_SCHEMA_VERSION 4 与 SQLite v20 存储升级,提升成本计量与计费精度。
- 2026-09-11版本发布
Experiential 发布 v0.7.65(#900,原生 crate exp-gateway-native 保持 0.3.49):新增 GatewayPoolRecord.throttle_cache_threshold(0..1,可叠加,默认缺省),提供商返回 429 时是否透传限流改为按缓存利害决定——仅当请求组织在失败 rung 上观测到的 cached-fraction 达到阈值才透传 throttle(调用方重试温热 rung),否则故障转移到下一认证 rung,所有 failover_mode 下均为权威行为;未配置阈值时保持旧行为。决策复用 RungLoadRegistry 按 (rung, 组织) 的缓存 EWMA(新增 cached_fraction 访问器,过期证据读 0 并故障转移),回退尝试标注 dispatch_reason=throttle_failover_cold,控制面以 throttle_surfaced_cache_preserving / throttle_failover_cold 计数;无 schema 版本升级。
- 2026-09-11版本发布
Experiential 发布 v0.7.66(原生 crate 0.3.49→0.3.50,#905/#906,Harbor round 2):在非 Anthropic 的 /v1/messages 路由上改进 Claude Code 兼容——裸 thinking:{type:enabled}(省略 budget_tokens)不再 400,由 Anthropic rung 推导合法预算或 effort 路由读为默认深度;思考/工具丢弃原因具名披露(superseded_by_effort、unsupported_by_route、no_legal_budget);无 Anthropic rung 路由对 Anthropic 服务端工具按路径丢弃披露而非整轮失败;OpenAI 线路 cache_control 披露 not_forwarded(provider_caches_implicitly);起始帧用量表以早期 Usage 事件与 message_start 镜像;含推理、文本与工具调用的聚合回复各部分均正确渲染。
- 2026-09-11版本发布
Experiential 发布 v0.7.64(#897/#899,Harbor/Hy4 gap program):混元 carrier 路由、reasoning_content 暴露与 prompt_cache_key 提示由 rung 上 ModelCapabilities.reasoning_content_native 声明决定,不再硬编码腾讯主机名,自托管 vLLM hy4-preview 等非腾讯 OpenAI 兼容源也能在工具轮保留思考(Fireworks 不启用);/v1/messages 新增 reasoning:{effort 或 max_tokens, enabled, exclude} 扩展并归并为统一 reasoning_effort,enabled:false 关闭思考;Messages 编解码可透传腾讯/DeepSeek rung 的 reasoning_content,并接受回放的 Anthropic thinking 块,不再返回 400。
- 2026-09-10版本发布
Experiential 发布 v0.7.63(原生 crate 0.3.48,#893):OpenAI 兼容 Chat 流式线路的原生规范化器在工具参数对象闭合字节处停止转发 tool-argument 增量,对闭合后的无内容尾部(空白、整个对象重复 `{}{}`、零参数 `{}` 后的空字面量 `""`/`{}`/`[]`)予以丢弃并正常完成调用,同时输出 tool_arguments_tail_dropped 运维行(工具名、形态、字节数);其他尾部及对象内语法错误仍按 malformed_response 失败关闭(可故障转移)。该修复解决 Azure Foundry DeepSeek shim 对每个零参数调用流式输出 `{}` 再 `""` 的兼容问题(2026-09-10 当日 55 个组织 222 次生产尝试复现),其他方言不变。
- 2026-09-10版本发布
Experiential 发布 v0.7.62(原生 crate 保持 0.3.47):#890 针对 DeepSeek 官方源,Chat 线路构建器在流式与缓冲式 RouterRuntime.complete 两条路径上,为每条缺少字符串值(含显式 null)的 assistant 消息回填 reasoning_content: "",不再仅限于工具调用轮次。DeepSeek 思考模式要求当前轮每条 assistant 消息(含工具调用前的纯文本消息)都带该字段且接受空字符串,修复后此前在 0.7.61 后仍返回 400 的“先文本消息、后工具调用消息”智能体形态已被接受;调用方自带字符串仍逐字转发,其他源不变,已直连 api.deepseek.com 及生产网关验证。
- 2026-09-09版本发布
Experiential 发布 v0.7.60(原生 crate 保持 0.3.47):#874 在 chat-completions 与 Responses 接口接受 promptCacheKey 作为 prompt_cache_key 的别名,兼容 opencode/mimocode 等 AI SDK 客户端;#877 将输入 token 预留从按请求字节长度估算改为内置 o200k 分词器估算并预留 15% 余量,消除生产环境 4-6 倍的过度预留,同一估算同时供给免费层 token 窗口与付费最坏情况上限,o200k 表内置进 wheel(无需运行时下载),新增运行时依赖 tiktoken>=0.9,<1。
- 2026-09-09版本发布
Experiential 发布 v0.7.59:网关针对 Anthropic 与 Bedrock 线形重塑工具 input_schema——将根部 oneOf/anyOf/allOf 展平为 Anthropic 接受的单一对象(备选分支保留为嵌套 anyOf、合取约束保留为 allOf、required 按各组合子分别判定),缺失根部 type 时补为 object,并在 ignored_parameters 中披露该重塑行为(#873),提升跨提供商函数调用工具 schema 的兼容性。
- 2026-09-08版本发布
Experiential 发布 v0.7.57(原生包仍为 0.3.47):网关接受 VS Code Copilot 发来的图片 MIME 提示,对受支持的 PNG、JPEG、GIF、WebP 的 messages.*.content.*.image_url.media_type 予以放行且不改动转发给提供商的图片,修复此前返回 HTTP 400 的问题;未知字段、不支持的媒体类型与畸形图片载荷仍被拒绝。同时为流式与缓冲请求中的内联及远程图片补齐解码器与原生网关覆盖(#869、#870)。
- 2026-09-08版本发布
Experiential 发布 v0.7.58(原生包 exp-gateway-native 保持 0.3.47):Vertex AI Model Garden MaaS 连接现可经 Vertex 的 OpenAI 兼容端点/openapi 路由,在同一服务账号 OAuth bearer 下以 <publisher>/<model> ID 提供 DeepSeek、Qwen、Kimi、MiniMax、GLM、gpt-oss、Grok 等模型(VertexOpenAIClient,catalog ID 拼写经 vertex_wire_for_model 选择线路,含 Google 自有 -maas 端点)。证据为经原生 openai_compatible 规范化器重放的全球端点实时抓包,exp/runtime/models 673 项测试通过(#871、#872)。
- 2026-09-07版本发布
Experiential 发布 v0.7.53(随发原生包 0.3.46):网关新增自适应逐档限流与缓存优先公平配额(#849)。GatewayRungDispatchPolicy 新增 requests_per_minute、tokens_per_minute、cache_priority_alpha、fresh_session_spill_fraction、sticky_spill_seconds 五个可选字段(未配置不生效、无快照 schema 变更),支持滑动窗口限流在提供商返回 429 前横向溢出、由实时流量被动校准的 AIMD 节流上限、按拥塞缩放的缓存比例 EWMA 公平权重(含可注入 cache_sample_gate 排除促销额度)、按 Retry-After 钳制在 5 秒至 6 小时的节流窗口、仅新会话提前溢出与 worker 本地粘性溢出绑定。原生包将九个限流响应头收敛进结算载荷,用于逐次尝试账本持久化(SQLite 迁移 18)。
- 2026-09-07版本发布
Experiential 发布 v0.7.54(随发原生包 0.3.47),交付引擎错误清晰度第 8 批:对不接受强制 tool_choice 的 Claude 发布版本,在派发前于所有线形(含中转)直接拒绝(#856);对话开始后出现的 system 轮改以 user 文本形式走 Anthropic 线形,这是 Anthropic 在该位置唯一接受的形态(#856);OpenAI 兼容中转流在正常结束却于 token 中途截断工具调用时,改为按 incomplete 收尾并丢弃被截断的调用,不再返回畸形 502(#856)。
- 2026-09-07版本发布
Experiential 发布 v0.7.55:将托管侧 cache_sample_gate 经 NativeControlPlane.__init__ 透传到尝试计费登记表(#858),补齐 #849 的促销资金 EWMA 排除能力:0.7.53/0.7.54 仅在 NativeAttemptAccounting 上声明该 gate,仅构建控制面的托管组合无法触达。纯 Python 单 kwarg 修复,附端到端回归测试验证控制面边界传入的 gate 会以已结算尝试的 ledger id 恰被查询一次;原生 crate 保持 0.3.47,全量测试 3,988 项通过。
- 2026-09-07版本发布
Experiential 发布 v0.7.50(随发原生 exp-gateway-native 0.3.44):网关将调用方经可信跳识别的客户端 IP(取 X-Real-IP,否则取 X-Forwarded-For 最右侧条目,绝不采用客户端可伪造的最左侧 token)写入 AuthorizationSnapshot,使托管授权方能按 API Key 执行 IP 允许/拒绝名单(#847)。字段为附加式、默认 None,未知 IP 时允许名单失败关闭、拒绝名单失败放行;已由原生 crate 的 cargo fmt/clippy/test(5 项 client_ip 测试)及网关 pytest 套件验证。
- 2026-09-07版本发布
Experiential 发布 v0.7.51(随发原生包 0.3.45),交付引擎错误清晰度第 7 批与预填后续修复:调用方悬空的 item_reference 或 conversation 引发的 404 改为直接返回携带提供商原句的 400,不再以 lane“deployment not found”在整条阶梯上故障转移;错误语句中的提供商侧句柄改为掩码为 [redacted] 后透传原句,而不再整句丢弃为“verify the request fields”;回放的 Responses 条目若携带外部 item_ id 会被修复以适配 OpenAI 线形(以上均为 #851);Anthropic 助手预填预检改按 Claude 发布版本判定,使被中转的 Claude rung 也被覆盖(#850)。
- 2026-09-07版本发布
Experiential 发布 v0.7.52:新增可选配置 ConnectionConfig.trusted_custom_origin,允许将原生提供商(anthropic/openai/gemini/openrouter)通过客户自建的 https base_url 端点按其原生线形方言路由,如支持 Anthropic Messages API 的经销商可以原生响应结构提供 claude-* 模型;未设置该标志时固定源默认值与守卫继续生效。该标志需原生提供商加显式 https base_url,经网关 SQLite 持久化(迁移 18)与 CLI setup 复用往返,仅在设置时加入连接身份摘要。纯 Python 变更,原生 crate 保持 0.3.45。
- 2026-09-07版本发布
Experiential 发布 v0.7.46(随发原生包 0.3.42),交付引擎错误清晰度第 5、6 批:OpenRouter 上游提供商的错误语句在其通用 Provider returned error 提示之后被透传,预流与流内均生效(#839);对拒绝 Anthropic 助手预填的 4.6+ 与 5 代模型在派发前直接拒绝,回放的 Responses 输入消息会去掉仅输出的 status 字段,强制 tool_choice 的拒绝会直接给出解决途径(#839);交错思考助手轮按调用方原始块顺序回放并保留缓存标记,Anthropic 不再拒绝被视为修改的最新助手消息;Anthropic 线形不接受的工具名也在派发前被拒绝(#840)。
- 2026-09-07版本发布
Experiential 发布 v0.7.47(仅 Python 端变更,原生包保持 0.3.42):网关新增在途最坏情况 token 预留机制(#832),按每次尝试记录字节有界的输入与最坏情况输出预留量,并贯穿 ledger 的 start_attempt 协议,使平台 token 窗口能对在途突发流量进行约束,适用于促销免费额度上限(严格)与组织 token 速率限制(软限);在平台 ledger 读取前该机制不生效。
- 2026-09-07版本发布
Experiential 发布 v0.7.48(随发原生包保持 0.3.42):修复助手历史回放中显式为空的 reasoning_content 处理,含 DeepSeek Flash v4 工具会话;暴露型路由保留该空字段,不支持的路由则省略并附披露说明,载波认证与明文大小限制继续强制执行(含 #844)。
- 2026-09-07版本发布
Experiential 发布 v0.7.49(随发原生 crate 0.3.43):提供商拒绝现在向调用方标明有界类别(#843)。拒绝仍返回 400(code refusal、type invalid_request_error),并在 OpenAI 信封(/v1/chat/completions、/v1/responses、Responses WebSocket)与 Anthropic 信封(/v1/messages)新增可机读 refusal_reason 字段,取值 cyber_policy、cbrn、content_policy、recitation、data_inspection 或 unspecified;类别由提供商错误码与固定语句推导。Gemini、OpenAI、Bedrock 等多方言的终止与内容过滤原因均可归类,限流、配额、凭据等权威码优先于拒绝措辞;refusal_reason 同时随结算参数与 Python GatewayFailure 契约传递,供控制面按原因统计拒绝。
- 2026-09-07版本发布
Experiential 发布 v0.7.56:网关接受空的 additional_tools 输入项。Codex 的 Apps 集成在所连接应用未暴露工具时会发送 tools: [],此前网关对这类请求一律返回 400 Invalid value for 'input.0.tools',而提供商本身接受该结构(#859,2026-09-07 实时抓包)。该输入项仍只做浅校验并按字节原样转发,原生 crate 保持 exp-gateway-native 0.3.47。
- 2026-09-06版本发布
Experiential 发布 v0.7.44(随发原生 exp-gateway-native 0.3.39→0.3.41),交付引擎错误清晰度第 3、4 批:Anthropic/Bedrock 工具调用因 max_tokens 截断时结算为 incomplete,预流 4xx 透传 provider 错误码,权威内容过滤码归类为拒绝(#833);不支持的 temperature/top_p 改为携带 ignored_parameters 披露而不再报 400,parallel_tool_calls 降为警告并由数据面工具调用序列化器按 rung 模拟 false(#834);cyber_policy 判为拒绝,OpenRouter 路由闸 403 不再视为凭据失败,lane 限制类 400 自动故障转移到下一 rung(#836)。
- 2026-09-06版本发布
Experiential 发布 v0.7.45:新增网关 rung 调度策略,提供有界公平分配准入与确定性缓存亲和路由(#785);加入 maximize_cache_affinity 故障转移模式和按 rung 的 GatewayRungDispatchPolicy(每 worker concurrency_bound、加权 max-min fair_share、affinity_weight),均附加默认、目录未启用前对摘要不可见;新增按尝试调度披露(dispatch_reason、含冻结基础费率的首选 rung、结算时反事实成本,SQLite ledger 迁移 v17)与 rung 准入指标;饱和 rung 横向溢出而非排队超时,soak e2e 验证突发流量下零超时死亡。原生 crate 保持 exp-gateway-native 0.3.41。
- 2026-09-05版本发布
Experiential 发布 v0.7.38:为 OpenAI 与腾讯 TokenHub 阶梯实现租户命名空间的 prompt_cache_key 亲和性,每次 agent 循环追加工具结果即命中 provider 按节点前缀缓存(腾讯实测无提示 4/10 命中,带 key 10/10);并实现逐字 LiteLLM 消息转储解码,丢弃 provider_specific_fields 并接受空 thinking_blocks/reasoning_items/images 键,保留拒绝带负载载体;仅 Python 端变更,原生 crate 保持 0.3.35(#810)。
- 2026-09-05版本发布
Experiential 发布 v0.7.36(随发原生 exp-gateway-native 0.3.35):预算截断的 Responses 函数调用按 OpenAI 自身线形以 incomplete 呈现而非畸形 502,content_filter 截断呈现为拒绝,修复 gpt-6-astra 'provider stream failed' 风暴(2026-09-05 自 04:30 UTC 起 263+/hr,#796);provider 声明的流失败详情(全方言)写入 ledger 与告警采样并输出结构化运维日志行(#798);Anthropic 转换无损丢弃空文本块、整空用户轮以命名 pre-dispatch 拒绝、chat 表面对含 Responses rung 路由设 max_tokens 下限(#799)。
- 2026-09-05版本发布
Experiential 发布 v0.7.34:实现 exposure-gated rungs 上的明文 reasoning_content 回放(Tencent hy4、DeepSeek),解码器将非载波文本作为暴露历史,路由收窄只转发给暴露 rung(无 rung 时命名 400,混合瀑布披露丢弃),纯推理轮转解码、工具轮明文按名称拒绝,修复 Terminus-2 / Harbor 交错思考循环,真实 Tencent 12/12 矩阵通过,原生 0.3.31 不变。
- 2026-09-05版本发布
Experiential 发布 v0.7.35(随发原生 exp-gateway-native 0.3.32):端到端提供 OpenAI Responses hosted-tool 输出项(web_search_call、file_search_call、code_interpreter_call、mcp_call、image_generation_call、computer_call 等)的透传解码与 turn-2 回显语义,修复 gpt-6-astra 畸形流页面;预分发节流窗口路由耗尽由 provider_internal 重分类为 throttled 并从实际剩余窗口推导 Retry-After;低于 OpenAI 最低 16 的 max_output_tokens 在准入时被拒;provider 详情报错透传到客户端可操作的拒绝。
- 2026-09-05版本发布
Experiential 发布 v0.7.39:在 host lanes 上实现 Flex/priority 的 service_tier 透传定价(#812)。选择按层级定价的 host-funded 模型会把调用方的 OpenAI service_tier 透传并按请求层级以成本价计费;向未启用分层定价的模型发起层级请求会失败关闭并返回 unsupported_capability。原生 crate 保持 0.3.35,仅 Python 端变更。
- 2026-09-04版本发布
Experiential 发布 v0.7.32:在所有工作流面实现 haiku-4.5 预算化推理(bare/pinned effort 转为 enabled+budget_tokens,adaptive 转为带披露的翻译,srn 按请求开关),导出 RouteResolver Protocol,并在失败尝试结算时补充 provider 拒绝详情(原生 exp-gateway-native 0.3.30、SQLite schema v16),新增 ledger 估值抽取。
- 2026-09-04版本发布
Experiential 发布 Hotfix v0.7.31:修复 Hunyuan preserved-thinking 推理载体(reasoning carrier)把目录代数(alias_revision_id + catalog_sha256)绑定进 AEAD 密钥与声明(schema 2->3)导致的多轮工具循环确定性 400 认证失败问题。该哈希每次目录写入即变化且各 worker 代不同,改为不再绑定目录代数;载体仍绑定完整路由/凭据/租户身份(真正的 repoint 仍失败关闭);仅 Python 端变更,原生 exp-gateway-native 保持 0.3.29(#772)。
- 2026-09-04版本发布
Experiential 发布 v0.7.33(随发 exp-gateway-native 0.3.31):Gemini prompt 级安全拦截(promptFeedback.blockReason 无候选)改为立刻返回 400 refusal、不重试不故障转移,替代此前 20 秒的 502 all_routes_failed,并通过真实 Gemini API(gemini-3.7-flash)上线验证;批处理通道 GET /v1/batches 返回真实 has_more、取消批次结束为 cancelled、逐行失败结算并携带完整 usage 字段;Anthropic Message Batches 现通过引擎自身方言代码服务 /v1/chat/completions 与 /v1/responses 行,provider 客户端声明 surfaces 与 line_request。
- 2026-09-03版本发布
Experiential 发布一致性网关版本 v0.7.28(随发原生 exp-gateway-native 0.3.27):实现每别名故障安全目录构建(#739,一条坏目录行不再中止 worker 启动或压垮集群)、目录身份加法稳定(#741,SNAPSHOT_SCHEMA_VERSION 升至 3,解决 P0 水合偏差事件根因);新增按 provider 请求适配(#752,"one API across rungs");无文本 provider 拒绝改为 400 而非 502(#747),被输出预算截断的工具调用标记为 Incomplete 而非 malformed(#757)。
- 2026-09-03版本发布
Experiential 发布 v0.7.25:实现 Gemini 流恢复(#734,流发出内容后异常结束时被恢复而非使请求失败);修复 Azure 接入(#737,推断的 Foundry 主机在 /openai/deployments 面保留带日期的 Azure OpenAI api_version 而非发送至 /models,避免 404);原生 crate 提升到 exp-gateway-native 0.3.20。
- 2026-09-02版本发布
Experiential 发布 v0.7.21(随发 exp-gateway-native 0.3.17):修复 Anthropic 点版本生成契约(#715,解决 fable-5.1 effort 400),新增目录快照回滚安全(#714)与 Responses 非函数工具声明支持(#710);在零 effort 路由上实现带披露的 effort 降级(#717),并添加 maximize_cache 标记保留的调度顺序,作为 haiku shim 事件的护栏。
- 2026-09-02版本发布
Experiential 发布 v0.7.22:网关在所有工作流面及各 provider 接入链路上提供服务图像输入的能力(Serve image input across the gateway surfaces and provider wires),使统一路由转发链路原生承载带图像的多模态请求(见 #712)。
- 2026-09-02版本发布
Experiential 发布 v0.7.23(随发原生 crate 0.3.19):#724 在网关各工作流面及 provider 接入链路上提供视频输入支持,使统一路由链路原生承载视频请求;#729 接受 Copilot no-op 参数(n:1、truncation:disabled、隐式缓存模式)以兼容 Copilot 客户端;#726 修复 cache_write 计费经济性。
- 2026-09-02版本发布
Experiential 发布 v0.7.24:实现持久化水合回退(persistent-hydration fallback,#722),当别名(alias)的活动 pin 无法服务时回退到最近一次经摘要校验的先前修订版本并清除失效 pin 的别名;新增 C1 写入-或-校验与 C2 校验-再到-pin 的完整性护栏,将归属、价格与预算重新绑定到被服务的修订版本;无先前版本可加载时重试返回 UNAVAILABLE,会话续接降级为既有的 400 resend。仅 Python 端变更,原生 exp-gateway-native 保持 0.3.19。
- 2026-09-01版本发布
Experiential 发布 v0.7.16:通过原生 Anthropic Messages 协议线(/anthropic/v1 + Bearer)在网关服务 Azure AI Foundry Claude(Cloud Opus 4.6)。已知 Anthropic 模型在 Azure 连接上路由到 AnthropicClient,混合 Foundry 连接按模型逐模型路由;仅 Python 端变更,exp-gateway-native 不变(#702)。
- 2026-09-01版本发布
Experiential 发布 v0.7.17:通过网关恢复提示缓存(prompt caching),块级缓存标记在 Anthropic 层级端到端携带,修复此前网关会话全程未缓存造成的约 10 倍输入计费与更高首 token 延迟;cache_creation_input_tokens 现上报给调用方,实测两轮 Claude Code 会话命中缓存(turn1 cache_creation=45543,turn2 cache_read=45543)。随发 exp-gateway-native 0.3.13(#703)。
- 2026-09-01版本发布
Experiential 发布 v0.7.18:新增按模型(per-model)故障转移策略,在 maximize_cache 与 maximize_availability 两种模式间选择。ExactModelPool.failover_mode 与 ExecutionSnapshot.failover_mode 落地,next_route_candidate 依此执行;maximize_cache 模式下 THROTTLED(429) 直接暴露给调用方(不冷故障转移)以保留提示缓存亲和性,而鉴权/未找到/5xx/传输等操作失效及停滞车道超时仍在两种模式下故障转移;GatewayPoolRecord.failover_mode 经 normalize_gateway_catalog 传递;原生 crate 保持 0.3.13(见 #705)。
- 2026-09-01版本发布
Experiential 发布 v0.7.19:新增 Responses-over-WebSocket 传输(#706),/v1/responses 接受 WebSocket 升级作为纯传输适配器接入现有解码/受理/结算链路,鉴权在升级时先行(同 OpenAI 返回 401)、generate:false 预热在受理前直接应答、带封装带内错误帧、连接复用、纯 GET 返回 426,并以真实 Codex CLI 会话全程走 WebSocket 无 HTTP 回退,实现 previous_response_not_found 错误码对齐;同时改进容错 Gemini 流读取(#708),usage-only 尾帧与正常流结束不再被拒绝。
- 2026-09-01版本发布
Experiential 发布 v0.7.20(随发 exp-gateway-native 0.3.16):新增 /v1/batches 批量批次服务通道,引入批处理引擎包(#707)并原生实现 /v1/batches 与 /v1/files 路由(#711),为智能体网关增加批量推理与文件上传服务能力。
- 2026-08-31版本发布
Experiential 发布 v0.7.12:将不可用的 Responses 会话续接归类为客户端失效(INVALID_REQUEST)而非内部错误,使调用方重发会话的 400 不再触发内部错误告警;仅 Python 端变更,exp-gateway-native 保持 0.3.11(见 #688)。
- 2026-08-31版本发布
Experiential 发布 v0.7.13(随发 exp-gateway-native 0.3.12):Anthropic 服务端工具端到端支持(WebSearch 版本),web_search 工具条目在原生 Anthropic 三个 GA 版本上逐字解码转发,无法执行该路由的按名称拒绝;完整响应保真(server_tool_use、web_search_tool_result、cite 文本逐字流回并在第 2 轮回声一致),pause_turn 作为一等终端。修复计费:三个输入分支上终态 message_delta 用量取代 message_start,此前搜索增强轮次所计输入约低估 5.5 倍;并新增 ToolUnionParam 漂移门禁与 max_uses 耗尽错误形状记录。
- 2026-08-31版本发布
Experiential 发布 v0.7.14:在混合瀑布(mixed waterfall)上保留提示缓存标记,使带非 Anthropic 回退层级的 Claude 请求不再按每轮全量上下文未缓存计费(约 10 倍成本);仅 Python 端,exp-gateway-native 不变。
- 2026-08-31版本发布
Experiential 发布 v0.7.11(随发 exp-gateway-native 0.3.11):恢复原生 TTFT 捕获,Rust 数据面现在在 settle 载荷中输出 first_token_at,修复 08-27 Python→Rust 切换时丢失的首令牌延迟(TTFT)度量(回归至 0%)。
- 2026-08-31版本发布
实验性(Experiential)发布 v0.7.10:智能体工作流网关端到端接受并转发 Anthropic 工具定义注解——eager_input_streaming(经真实 Claude Code 会话触发,细粒度工具流式已全面可用无需 beta 头)、strict、defer_loading、input_examples、allowed_callers 与顶层 inference_geo,在 anthropic 通道逐字转发、其余通道经 ignored_parameters 校验丢弃,cache_control 仅作成本提示转发;新增 anthropic SDK 漂移门禁,任何未分类的工具级或顶层字段将按名称触发 CI 失败,有助于智能体路由链路对更细粒度工具流式与严格校验的兼容与稳定。
- 2026-08-29版本发布
Experiential 发布 v0.7.5(agent-activation 版本):网关端到端承载第一方编码智能体(Claude Code、Codex CLI)发送的完整流量,包括 Codex 加密推理回显转发(剥离回显 id、仅保留 type/summary/encrypted_content)、Claude Code context_management 配置原样透传并注入 anthropic-beta 头、能力保留策略(capability-preservation,reasoning_effort 就近吸附降级并经 ignored_parameters 披露)、新 deployment_capability_parity 导出,以及能力感知的分段准入与各 provider(Fireworks/Bedrock)契约加固。
- 2026-08-29版本发布
Experiential 发布 v0.7.6(CLI 兼容版本,随发 exp-gateway-native 0.3.5):网关现对 Claude Code 2.1.251 与 Codex 0.151.0 默认发送的每个字段都能解码、路由并往返。Claude Code/Messages 通道把 output_config 折叠进标准推理 effort、位置化转发会话中 system 消息并接受 thinking.display,无需 beta 头即验证通过;Codex/Responses 通道以 additional_tools 命名空间输入项与 custom_tool_call 双向传递工具定义与自定义工具调用,支持全量 Rust 规范化/重编码/保留/记账;并在清洗后的错误中按 provider 拒绝参数路径(严格路径语法、128 字符上限)归属。两个 CLI 捕获的 turn-2 请求体均以 200 完成真实 provider,并以回归夹具固化。
- 2026-08-29版本发布
Experiential 发布 v0.7.4:网关在 Chat tool_calls 条目与原生 Messages tool_use 块上接受 ephemeral 形式的 cache_control(提示缓存),Anthropic 通道透传 cache_control 实测提升提示缓存命中,其它 provider 以 ignored_parameters 披露校验并丢弃;新增 CHAT_CACHE_CONTROL_PLACEMENTS 分类表将三种放置位置(message-level、content-part、tool_calls)固化为带行为测试的既定决策;并规范化空字符串工具参数,arguments:"" 在 OpenAI 两种表面按规范空对象解码。开箱支持 opencode 及 @ai-sdk/openai-compatible 客户端的多轮工具会话。
- 2026-08-28版本发布
Experiential 发布 v0.7.1 补丁:网关预留定价改用默认输出上限而非 fail-closed,当请求与部署均未声明输出上限时不再以 P1013/false quota_exceeded 失败,而是按保守的 32,768 token 输出默认值预留并受部署上下文窗口约束,显式 max_tokens 与真实模型/部署上限仍优先,未知必需 token 价格仍 fail-closed。随发 exp-gateway-native 0.3.0。
- 2026-08-28版本发布
Experiential 发布 v0.7.0:网关新增不透明 provider 推理载体,端到端支持 Anthropic 扩展思考(verbatim thinking 配置透传、thinking/redacted 块字节级签名往返,流式与非流式),OpenAI Responses 通道支持 store、include reasoning.encrypted_content、reasoning.summary 与 effort ultra,使 Claude Code 和 Codex 可直连网关;同时落地 fail-fast 连接/TTFB 超时、响应头停滞 failover 与准入期跳过恢复等可靠性改进,并随发 exp-gateway-native 0.3.0。
- 2026-08-28版本发布
Experiential 发布 v0.6.1 补丁:改进网关错误提示,落地本地 stop-limit 拒绝与输出上限钳制,收敛桥接账本连接到固定 worker-thread 池并强制网关执行精确生成参数契约,提升智能体工作流网关的稳定性与用量控制。
- 2026-08-28新工具首发
Experiential 开源智能体工作流网关与路由器上线,通过 OpenAI 兼容 API 统一托管、BYOK 和本地模型访问,支持按用户、智能体和预算控制模型使用,并能将生产流量转化为自定义路由器或模型。
- 2026-08-28版本发布
Experiential 发布 v0.7.2(随发 exp-gateway-native 0.3.0):网关在调度前返回指明具体不支持 capability 与参数(如 developer_messages)的命名拒绝,取代统一"部署不支持该能力"错误;端到端接受并透传 OpenAI Responses 的 reasoning.context 字段(auto/current_turn/all_turns),非法值返回命名 400,无上下文流量下 canonical_request_sha256 字节级不变、无幂等冲突;新增 SDK 表面漂移门禁,表驱动测试逐一比对 OpenAI SDK 请求面与兼容清单,未记录的 SDK 字段按名称触发 CI 失败,并将 reasoning.mode、context_management、moderation、prompt_cache_options、prompt_cache_retention 五项未分类面固化为命名拒绝。
- 2026-08-28版本发布
Experiential 发布 v0.7.3 补丁:修复零参数工具调用(无参 tool call 正确流式产生空 input_json_delta,此前被误拒为无效 JSON)、空工具描述不再序列化为 null 以避免 Anthropic 400 拒绝,并将仅支持 adaptive 思考的 Claude 5 系列与 opus-4.7/4.8 上的 enabled/disabled 思考正确翻译为 adaptive/显式拒绝。同时接受并丢弃回显的 Responses 输出项,修正 gpt-5.6 effort 表(max 准入、ultra 拒绝),随发 exp-gateway-native 0.3.1。
Experiential 常见问题
关于 Experiential 的定位、核心功能、价格与最近更新。
Experiential 是什么?
Experiential 是一个面向智能体工作流的开源网关与路由器,通过一个 OpenAI 兼容 API 统一托管、BYOK 和本地模型。它支持按用户、智能体、用例及预算控制模型访问,并可将生产流量转化为针对质量、速度和成本优化的自定义路由器或模型。项目支持本地部署(pip install experiential)及托管平台,默认启用匿名聚合遥测。
Experiential 有哪些核心功能?
Experiential 当前已核验的核心功能包括:LLM评测、代码沙箱执行、内容审核、函数调用、可观测性追踪、图像理解、工具协议集成、文本向量化、模型推理服务、模型路由、用量与费用管控、第三方模型接入。
Experiential 如何收费?
Experiential 当前已核验的价格模式为部分免费。
Experiential 最近有什么更新?
2026-10-09:Experiential 发布 v0.7.173(PR #1259,配套 exp-gateway-native 0.3.141),针对 2026-10-07 GLM 5.3 事故修复三处网关故障转移问题:缓存亲和恢复会话的暖路径所在阶段保留其他叶子作为后备,暖路径卡死时可正常故障转移;同一工具循环内两条活跃线路都封存推理载体时,改为固定最新签发方并静默丢弃旧签发方载体(披露 messages.reasoning_content->dropped(issuing_route_superseded)),不再以 400 拒绝续接;新增请求级 pre_first_byte_budget_seconds(默认 90 秒、0 禁用)统一约束所有尝试的首字节前开销,故障转移链收敛于 Cloudflare 100 秒源站限制,超时改回 503 deadline_exceeded 并附 Retry-After: 2 而非 504。属模型路由可靠性修复,无新增可直接使用能力,相关标签已在基线。