功能图谱

Capability Timeline

内容审核

对文本、图像等内容做安全合规判定、有害内容分类与拒答检测的护栏能力

9 个工具46 条动态

相关工具

9

Anthropic 推出的智能编程代理,支持终端、IDE与网页多端协同的代码开发、调试与发布

Claude Code 是 Anthropic 为开发者打造的智能编程代理工具。它直接在代码库中运行,帮助开发者在终端、IDE、Slack 或网页端完成代码编写、调试与发布。该工具支持快速解析项目结构与依赖、执行跨多文件的代码编辑、自动化运行测试并提交 PR,还能直接操作浏览器与本地开发工具完成复杂任务,全程在本地终端运行,修改文件或执行命令前需用户明确授权

安全检测代码沙箱执行代码审查代码生成访问控制策略
近7天 3 动态
MI

深度集成于Microsoft 365与Windows系统的智能办公协作助手

Microsoft 365 Copilot 是微软官方提供的智能辅助工具,核心能力涵盖 Office 套件 AI 增强、GPT-5.6 模型集成与实时协作。该产品深度嵌入于 Microsoft 365 生态与 Windows 系统中,用户可通过官网导航页或系统内置入口直接调用相关服务模块。其工作方式以平台级集成为主,旨在为办公协作与内容创作领域提供标准化的智能增强支持

办公协作对话助手联网搜索内容审核内容水印
近7天 2 动态

企业级前沿防护方案:零数据保留隐私与跨会话滥用检测兼备

Anthropic Enterprise Frontier Safeguards(EFS)是 Anthropic 面向受监管企业推出的方案,兼顾零数据保留隐私与跨会话滥用检测。EFS 将监控数据存于客户自有云基础设施,密钥与人工审核归客户,自动化滥用检测保留在 Anthropic 侧,用于识别进攻性网络或生物能力及凭证泄露等严重滥用。EFS 与百余家金融医疗等行业客户及三大云厂商联合开发,支持 Claude Code、Claude Enterprise、Amazon Bedrock 等平台。

内容审核隐私防护
近7天 1 动态

治理模型、MCP 与 API 的托管网关

Azure API Management 是微软提供的全托管 API 与 AI 网关平台,可统一暴露和治理传统 API、AI 模型、MCP 服务器与智能体。它支持把 API 转换为 MCP 服务器、集中执行认证授权与限流策略、对模型施加令牌配额、语义缓存与内容安全校验,并提供集中式发现、可观测性与跨云自托管网关能力。

访问控制策略工具协议集成可观测性追踪内容审核用量与费用管控
近7天 1 动态

多智能体编排与策略治理的统一执行层

Omnigent 是一个面向 AI 智能体的「元执行层」平台,通过统一 Runner 把 Claude Code、Codex、Pi 等编码智能体以及用户自定义的 YAML 智能体封装到沙箱化会话中,并叠加上下文策略、服务端共享历史和实时协作能力。支持内置多智能体(Polly 编码编排、Debby 模型辩论),提供有状态花费上限、模型路由与风险升级等策略能力,可在终端、Web、原生桌面与移动端及 REST API 上访问同一实时会话。

代码沙箱执行代码生成访问控制策略模型路由内容审核
近7天 1 动态

Mistral 开源的策略自适应内容审核模型

Shieldstral 是 Mistral AI 推出的 30 亿参数开源权重多模态安全分类器,以 Apache 2.0 许可发布。它把内容审核转成二元问答任务:用户在推理时用自然语言写出策略问题,模型对提示词、模型回复或图像返回校准后的安全分数,统一覆盖提示分类、回复审核、拒答检测与图像安全判定,无需重新训练,可在单张 16GB GPU 上运行。

访问控制策略内容审核图像理解
近7天 1 动态
SI

完全在设备端运行的聊天、图像与语音内容审核 SDK

SifEdge 是一个开源、设备端运行的内容审核 SDK,对文本、图像和音频进行安全审核,全部在浏览器本地完成,内容从不离开用户设备,只返回决策与哈希。它内置私密频道门控:针对 private 频道在加载任何模型前即返回 ALLOWED,客户端与服务端双重独立拦截,确保私密消息永远不会被分类器或后端处理。

内容审核隐私防护
近7天 1 动态0 Stars

Spotify 数字音乐流媒体服务,让用户发现和播放海量歌曲、播客与有声书。

Spotify 是全球领先的数字音乐流媒体平台,提供数百万首歌曲、播客和有声书的访问。用户可通过个性化推荐发现新音乐、创建播放列表并追踪个人收听历史。Spotify 内置 AI DJ 功能,为 Premium 用户提供个性化音乐推荐和评论,支持多语言。2026 年 7 月起进一步推出 AI 语音对话功能测试版,支持在应用内通过语音或文字与 Spotify 进行多轮对话,控制播放、查询歌曲艺术家信息、回顾收听历史及回答常识性问题。

对话助手内容审核语音对话AI内容检测
近7天 1 动态