Gemma-2-2B 模型可解释性图数据集
机器学习
0 下载
84 浏览
2026-08-13
数据集简介
数据集概述
该数据集由开发者 siddharthmb 在 HuggingFace 平台发布,主要服务于可解释性研究(Interpretability)领域。数据集的核心内容围绕 Gemma-2-2B 模型展开,通过 Circuit Tracing(电路追踪)与 Attribution Graphs(归因图)技术,提取模型在处理特定输入时的内部激活路径与权重分布。数据集包含结构化的 JSON 文件,涵盖了 Prompt Tokens、Transcoder 配置、GemmaScope 参数以及基于 Base 和 Adapter 模型的 Harm 编号结果。
数据格式与结构
数据集以 JSON 文件格式存储,结构清晰,包含以下关键字段:
- prompt_tokens: 字符串列表,记录输入的 Prompt Tokens。
- transcoder_list: 记录 Transcoder 相关的配置信息。
- gemmascope: 包含多个参数的配置对象,如
repo(仓库)、width(宽度)、requested_l0(请求层级 0)、l0_match(层级 0 匹配)、l0_by_layer(按层级分布)、n_layers(层数)、scan(扫描模式)。 - base_graph_dir: 基础模型的图路径。
- overlay_graph_dir: 适配器模型的图路径。
- compact_overlay_graph_paths: 压缩后的覆盖图路径。
- results: 包含
base和adapter两个子键,键值为 Harm 编号(如 harm_000 至 harm_055),存储对应的模型分析结果。
应用场景
数据集主要用于研究大模型在特定任务(如拒绝生成)下的内部工作机制。通过分析 Attribution Graphs,研究者可以可视化模型在生成拒绝响应时的决策路径,追踪 Transcoder 在不同层级对输入信息的处理方式。这对于理解 Transformer 架构的可解释性、优化模型安全性以及提升模型可控性具有重要意义。
数据来源与访问
数据集托管于 HuggingFace 平台,可通过官方页面访问。数据集页面提供了详细的文件列表与版本信息,用户可依据需求下载相应的 JSON 文件。需要注意的是,数据集页面的列名与内部 schema 存在不匹配的情况,且未提供明确的下载量统计。
基本信息
记录数量未知
文件大小未知
文件格式JSON
数据来源siddharthmb
核心内容Attribution Graphs, Circuit Tracing, Gemma-2-2B
关键字段prompt_tokens, transcoder_list, gemmascope, harm_000–harm_055
数据落地页https://huggingface.co/datasets/siddharthmb/2026.TA.tc8192_strict_refusal_graphs
发布日期2026-08-13
可解释性归因图Gemma-2-2BCircuit TracingTranscoder
上架信息
数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载