Gemma-2 拒绝响应归因图数据集

机器学习
0 下载
15 浏览
2026-08-13

数据集简介

数据集概述

本数据集由 HuggingFace 用户 siddharthmb 发布,旨在支持可解释性研究,特别是电路追踪和归因图分析。数据集针对 Gemma-2-2B 模型,构建了关于拒绝响应(harm)的结构化分析数据,包含 overlay 图路径、配置参数及适配器特征等字段。

数据格式与结构

数据采用结构化数据表形式存储,支持 Arrow 和 Parquet 格式。字段结构由 schema 推断得出,包含以下主要类别:

  • 基础标识:如 slug、scan、schema_version、node_counts
  • 提示词与节点:如 prompt_tokens、prompt、node_threshold
  • 适配器信息:如 base_slug、adapter_slug、node_shapes
  • Overlay 图路径:包含 overlay_graph_paths 与 compact_overlay_graph_paths
  • Gemmascope 配置:如 repo、width、requested_l0、l0_match、l0_by_layer、n_layers、scan
  • 结果字段:包含多个 harm 编号的结果字段,如 harm_000 至 harm_196

数据内容与字段说明

数据集内容聚焦于模型在处理有害提示时的内部激活路径。核心字段包括:

  • overlay_graph_paths:记录了模型在特定层(Layer 0)中检测到的归因图路径,用于追踪特征激活来源。
  • gemmascope:提供了 Gemmascope 配置的元数据,如扫描宽度(width)、请求的 L0 层级(requested_l0)以及各层匹配情况(l0_match, l0_by_layer)。
  • transcoder_list:列出了参与分析的 transcoder 列表。
  • prompt_tokens:记录了输入提示词对应的 token 序列。
  • harm_000 ... harm_196:对应多个 harm 编号的结果字段,用于量化不同有害场景下的模型响应模式。

注意事项

数据集的列名与 HuggingFace 上已有的其他数据集预览名称不完全匹配,这可能意味着该数据集包含特定的筛选或组合逻辑。用户在处理数据时需注意字段名称的准确性,并依据 schema 进行正确解析。

基本信息

记录数量未知
文件大小未知
文件格式Arrow / Parquet
数据来源siddharthmb
适用模型Gemma-2-2B
研究领域可解释性 / 电路追踪 / 归因图
数据落地页https://huggingface.co/datasets/siddharthmb/2026.TA.overlay_huge_strict_refusal_union_graphs
发布日期2026-08-13
Gemma-2归因图电路追踪可解释性overlay

上架信息

数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载

价格

免费