NeuronScope
开源 CLI 与 MCP 服务器，定位驱动 LLM 输出的注意力头与神经元
NeuronScope 是一个开源的机制可解释性 CLI 与 MCP 服务器，基于 TransformerLens 构建。用户从命令行或通过 Agent 的 MCP 接入，向语言模型提问“你为何给出这个回答”，即可获得以 JSON 形式输出的、真正导致该输出的注意力头与 MLP 神经元，用于溯源 LLM 输出的根因。它适合做模型诊断、AI 安全研究与可解释性分析，既可用于本地交互，也可作为模型上下文协议服务嵌入 Agent 工作流
1
2026-07-19
未收录
1
工具功能
这个工具能做什么、适合谁用，以及目前已识别的核心能力。
工具简介
NeuronScope 是一个开源的机制可解释性 CLI 与 MCP 服务器，基于 TransformerLens 构建。用户从命令行或通过 Agent 的 MCP 接入，向语言模型提问“你为何给出这个回答”，即可获得以 JSON 形式输出的、真正导致该输出的注意力头与 MLP 神经元，用于溯源 LLM 输出的根因。它适合做模型诊断、AI 安全研究与可解释性分析，既可用于本地交互，也可作为模型上下文协议服务嵌入 Agent 工作流
核心功能
价格信息
暂无可验证价格信息暂无足够准确的价格信息。
基础信息
- 更新频率
- 近 7 天暂无收录动态
- 最近更新
- 2026-07-19
- 覆盖行业
- 科研
更新日志
按时间记录功能更新、版本发布、新工具入库等重要变化。
- 2026-07-19开源
NeuronScope 以开源形式发布，提供 CLI 与 MCP 服务器，用于溯源驱动 LLM 输出的注意力头与 MLP 神经元。
NeuronScope 常见问题
关于 NeuronScope 的定位、核心功能、价格与最近更新。
NeuronScope 是什么？
NeuronScope 是一个开源的机制可解释性 CLI 与 MCP 服务器，基于 TransformerLens 构建。用户从命令行或通过 Agent 的 MCP 接入，向语言模型提问“你为何给出这个回答”，即可获得以 JSON 形式输出的、真正导致该输出的注意力头与 MLP 神经元，用于溯源 LLM 输出的根因。它适合做模型诊断、AI 安全研究与可解释性分析，既可用于本地交互，也可作为模型上下文协议服务嵌入 Agent 工作流。
NeuronScope 有哪些核心功能？
NeuronScope 当前已核验的核心功能包括：工具协议集成、模型可解释性。
NeuronScope 如何收费？
AI Equal 当前没有收录 NeuronScope 的可验证价格信息。
NeuronScope 最近有什么更新？
2026-07-19：NeuronScope 以开源形式发布，提供 CLI 与 MCP 服务器，用于溯源驱动 LLM 输出的注意力头与 MLP 神经元。