Gemma-2 拒绝响应归因图数据集
机器学习
0 下载
15 浏览
2026-08-13
数据集简介
数据集概述
本数据集由 HuggingFace 用户 siddharthmb 发布,旨在支持可解释性研究,特别是电路追踪和归因图分析。数据集针对 Gemma-2-2B 模型,构建了关于拒绝响应(harm)的结构化分析数据,包含 overlay 图路径、配置参数及适配器特征等字段。
数据格式与结构
数据采用结构化数据表形式存储,支持 Arrow 和 Parquet 格式。字段结构由 schema 推断得出,包含以下主要类别:
- 基础标识:如
slug、scan、schema_version、node_counts - 提示词与节点:如
prompt_tokens、prompt、node_threshold - 适配器信息:如
base_slug、adapter_slug、node_shapes - Overlay 图路径:包含
overlay_graph_paths与compact_overlay_graph_paths - Gemmascope 配置:如
repo、width、requested_l0、l0_match、l0_by_layer、n_layers、scan - 结果字段:包含多个 harm 编号的结果字段,如
harm_000至harm_196
数据内容与字段说明
数据集内容聚焦于模型在处理有害提示时的内部激活路径。核心字段包括:
- overlay_graph_paths:记录了模型在特定层(Layer 0)中检测到的归因图路径,用于追踪特征激活来源。
- gemmascope:提供了 Gemmascope 配置的元数据,如扫描宽度(width)、请求的 L0 层级(requested_l0)以及各层匹配情况(l0_match, l0_by_layer)。
- transcoder_list:列出了参与分析的 transcoder 列表。
- prompt_tokens:记录了输入提示词对应的 token 序列。
- harm_000 ... harm_196:对应多个 harm 编号的结果字段,用于量化不同有害场景下的模型响应模式。
注意事项
数据集的列名与 HuggingFace 上已有的其他数据集预览名称不完全匹配,这可能意味着该数据集包含特定的筛选或组合逻辑。用户在处理数据时需注意字段名称的准确性,并依据 schema 进行正确解析。
基本信息
记录数量未知
文件大小未知
文件格式Arrow / Parquet
数据来源siddharthmb
适用模型Gemma-2-2B
研究领域可解释性 / 电路追踪 / 归因图
数据落地页https://huggingface.co/datasets/siddharthmb/2026.TA.overlay_huge_strict_refusal_union_graphs
发布日期2026-08-13
Gemma-2归因图电路追踪可解释性overlay
上架信息
数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载