Gemma-2-2b 模型可解释性与拒绝率数据集

机器学习
0 下载
21 浏览
2026-08-13

数据集简介

数据集概述

本数据集是 HuggingFace 平台上由开发者 siddharthmb 发布的开放数据集,主要面向人工智能可解释性领域的研究人员。数据集的标签包含 interpretability(可解释性)、circuit-tracing、attribution-graphs、transcoder-adapters 和 gemma-2-2b。数据集旨在通过可视化和结构化的数据形式,帮助研究者深入理解模型内部机制,特别是针对特定行为(如拒绝响应)的内部表征。

数据字段与结构

数据集采用 Arrow schema 格式进行存储,页面详细列出了各字段的定义与结构,主要包含以下核心部分:

  • 基础标识与配置:包含 slug(字符串)、scan(字符串)、transcoder_list 以及 schema_version(int64)等字段,用于标识数据集的版本和扫描配置。
  • 输入与上下文:prompt_tokens 为字符串列表,prompt 为原始提示词,用于记录输入数据的具体内容。
  • 节点计数与阈值:node_threshold 定义了双精度浮点数的阈值,node_counts 为结构体类型,包含 base_features(基础特征计数)、adapter_features(适配器特征计数)和 error_nodes(错误节点计数)。
  • 比较分析:comparison 结构体包含 base_slug、adapter_slug、base_scan、adapter_scan 等字段,用于对比基线模型与适配器模型的差异。
  • Gemmascope 信息:gemmascope 结构体记录了仓库信息、宽度、请求的 L0 层、L0 匹配情况、各层 L0 统计、层数以及扫描结果。
  • 路径数据:overlay_graph_paths 和 compact_overlay_graph_paths 均为字符串列表,存储了覆盖图的路径信息。
  • 分析结果:results 结构体包含 base 和 adapter 两个子结构,其中包含 harm_000 至 harm_055 等字段,用于记录具体的分析结果。

使用说明与报错信息

在使用该数据集进行预览时,页面出现了数据预览加载报错的 traceback 信息。开发者注明了报错原因之一是列名不匹配。数据集内容主要依赖 HuggingFace 平台提供的 JSON 格式文件,用户需通过平台提供的接口或界面进行访问与下载。

基本信息

记录数量未知
文件大小未知
文件格式JSON / Arrow Schema
数据来源siddharthmb
SchemaArrow Schema
核心字段prompt_tokens, node_counts, gemmascope, overlay_graph_paths, results (harm_000~harm_055)
数据落地页https://huggingface.co/datasets/siddharthmb/2026.TA.tc8192_strict_refusal_union_graphs
发布日期2026-08-13
可解释性归因图电路追踪Gemma-2-2b转换器适配器

上架信息

数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载

价格

免费