Experiential 是一个面向智能体工作流的开源网关与路由器,通过一个 OpenAI 兼容 API 统一托管、BYOK 和本地模型。它支持按用户、智能体、用例及预算控制模型访问,并可将生产流量转化为针对质量、速度和成本优化的自定义路由器或模型。项目支持本地部署(pip install experiential)及托管平台,默认启用匿名聚合遥测。
Capability Timeline
可观测性追踪
自动采集调用链 span、时序与错误日志,供人或智能体查询定位故障的追踪调试能力
相关工具
18GitHub Copilot是一款面向程序员的AI编程辅助工具。它深度集成于主流编辑器、命令行与GitHub平台,通过读取工作区上下文提供实时代码补全、函数生成与文档答疑。开发者可按需切换不同大语言模型,或将任务指派给云端代理在后台自主规划与执行。工具同时内置代码审查、项目知识库定制及企业级用量管控,有效减少重复劳动并加速软件交付
Buzz 是 Block 开源的自托管工作空间,将团队聊天、AI 智能体、工作流与 Git 托管整合进同一身份系统。底层基于 Nostr 中继,所有消息、工作流步骤、代码评审与 git 事件均为同一日志中的签名事件。智能体可像人一样打开仓库、提交补丁、评审代码、运行工作流并参与语音讨论。
Kdrant 是面向 Qdrant 向量数据库的 Kotlin 协程优先客户端:所有操作为 suspend 函数,提供类型安全的集合、点与过滤 DSL,基于 Ktor 与 kotlinx-serialization,无 gRPC/Netty 依赖。Kdrant 已发布 1.1.0 至 Maven Central,支持稠密+稀疏混合检索(RRF/DBSF)、分组与批量搜索、多向量,并附带 Spring Boot、Spring AI、LangChain4j 集成,便于构建 RAG 应用。
Cloudflare Workers 是一个全球化无服务器函数平台,支持使用 JavaScript、TypeScript、Python、Rust 和 WASM 编写代码。它基于 V8 隔离技术实现零冷启动,可自动从零扩展至数百万并发请求,并默认部署在全球 330 多个城市边缘。用户仅按 CPU 执行时间付费,可通过定时触发器运行后台作业,并支持渐进式发布与即时回滚。内置集成存储、数据库与队列服务,适用于构建可扩展 API 与完整 Web 应用
LangSmith 是 LangChain 出品的 Agent 与 LLM 可观测性及评估平台,提供完整链路追踪、生产监控和在线评估能力,可通过 Python、TypeScript、Go、Java SDK 接入任意 Agent 技术栈,定位延迟、成本与响应质量问题。新推出的 Tuned Evaluators 以专用后训练 judge 自动为生产 trace 附加质量反馈,首个能力 Perceived Error 可检测智能体出错、误解或走错方向的对话,帮助团队发现并修复线上故障。
Microsoft Agent Framework(MAF)是微软推出的开源多语言智能体框架,支持在 .NET 与 Python 中构建、编排和部署生产级 AI 智能体及多智能体工作流,并提供 Agent Harness 运行时、托管部署模式,可对接 Microsoft Foundry、Azure OpenAI、OpenAI 与 GitHub Copilot SDK 等生态。
AgentSight 是阿里 ANOLISA 项目中的 AI 智能体可观测性组件,基于 eBPF 在内核层面捕获 LLM API 调用、Token 消耗与进程行为,无需修改 Agent 代码即可实现全栈可观测。它提供多维 Token 用量核算、LLM 调用与进程执行审计、实时 Dashboard(Token 趋势/Agent 健康度/会话轨迹)、Agent 自动发现,以及 LLM 错误、SSE 截断、上下文溢出和进程崩溃等中断检测,并支持把事件导出到外部日志服务。
Azure API Management 是微软提供的全托管 API 与 AI 网关平台,可统一暴露和治理传统 API、AI 模型、MCP 服务器与智能体。它支持把 API 转换为 MCP 服务器、集中执行认证授权与限流策略、对模型施加令牌配额、语义缓存与内容安全校验,并提供集中式发现、可观测性与跨云自托管网关能力。
Cloudflare Agents 是 Cloudflare 面向托管智能体的部署与管理平台,把已部署的智能体会话汇聚到统一视图,Dashboard 专门的 Agents 页面列出已观测智能体及其 traces、runs、sessions 与 token 用量。首发能力 agent tracing 为智能体调用、模型调用、工具执行、审批事件与子智能体调用生成 span,并可回放会话查看模型思考与工具参数结果。
LangChain 是一个开源的 AI 智能体平台与开发框架,帮助团队构建可投入生产的检索与智能体应用。平台提供智能体模式模板、逐步追踪与可观测性、基于生产轨迹的评测、长时运行任务的部署基础设施、隔离的代码沙箱执行,以及用于模型调用与成本/敏感数据治理的 LLM Gateway。支持 SaaS、自带云或本地部署,并可通过 MCP 等协议与外部工具集成,适用于原型到生产的完整生命周期。
LangGraph 是 LangChain 推出的低层级智能体编排框架与运行时,用于构建、管理和部署长时间运行的有状态智能体。它提供可自定义的控制流原语,支持单体、多智能体与分层架构,内置记忆可跨会话保存对话历史与上下文,并支持人类在环审核以约束智能体行为,同时提供逐 token 原生流式输出。
Managed Deep Agents 是 LangChain 推出的 API 优先托管运行时,用于创建、运行和运维深度智能体。它在开源 Deep Agents 框架外封装运维层,提供持久化线程、流式运行、检查点与人工审批工作流,支持沙箱化代码、Shell 命令与文件读写执行,并通过 Context Hub 跨轮次保留上下文,运行过程在 LangSmith 中自动记录追踪,便于排查工具调用与调试行为。
NVIDIA NeMo Switchyard 是 Rust 编写的 LLM 流量代理与库,可跨多个模型提供方路由请求,并在 OpenAI Chat、Anthropic Messages、OpenAI Responses 协议间转换,让 Claude Code、Codex 等编程智能体调用 vLLM、NVIDIA NIM、Ollama 等端点。支持随机路由、LLM 分类器路由、信号驱动阶段路由或自定义算法,可分派流量做 A/B 基准对比,并用 Prometheus 指标记录延迟与路由开销。
Qoder 是阿里巴巴推出的智能体编程平台,覆盖桌面端自主开发、CLI 终端编程、云端 Agent 和 QoderWake 数字员工等完整产品线。平台支持多智能体协作,具备上下文工程、自主任务执行、目标导向循环和结构化任务运行时,面向个人开发者和企业团队。企业版提供知识引擎、安全运行时、权限管理和插件技能市场。
Sapiom 是面向 AI 智能体的构建与运行平台,包含三部分:Router 用同一个 OpenAI 兼容接口为每个任务选择最高效的模型并计量调用;agent.studio 在 Canvas、Steps 与 Code 之间协作构建智能体;Runtime 部署带重试、信号、定时与逐次尝试追踪的类型化步骤图。搜索、抓取、模型、邮件等付费能力经统一接口按调用计费,并可通过 MCP 客户端接入。
Xpander 是一个统一的企业级 AI 智能体运行时平台,让企业一次发布智能体后,授权同事可在自身权限下调用和复用。内置 Omni 智能体工程师,用户可用自然语言描述流程,Omni 负责设计智能体、接线工具、指令与记忆并自动测试优化;开发者也可用 LangChain、Strands、Agno 等框架自建智能体接入同一运行时,获得内存、部署、权限、可观测性与工具访问能力。平台支持任意模型与任意环境部署、OIDC 端到端鉴权、作用域化权限、预算控制与成本可见性。
kagent 是由 Istio 创始团队开源、已进入 CNCF Sandbox 的 Kubernetes 原生智能体运行时。它把 AI 智能体定义为 Kubernetes CRD,通过 GitOps、kubectl 与 RBAC 完成声明式部署与治理,支持 OpenAI、Anthropic、Gemini、xAI 等多家模型以及 LangGraph、CrewAI、Google ADK 等框架,原生兼容 MCP 与 A2A 工具协议,并内置 OpenTelemetry 链路、Prometheus 指标与安全护栏能力。







