Gemma-2-2b 模型可解释性与拒绝率数据集
机器学习
0 下载
21 浏览
2026-08-13
数据集简介
数据集概述
本数据集是 HuggingFace 平台上由开发者 siddharthmb 发布的开放数据集,主要面向人工智能可解释性领域的研究人员。数据集的标签包含 interpretability(可解释性)、circuit-tracing、attribution-graphs、transcoder-adapters 和 gemma-2-2b。数据集旨在通过可视化和结构化的数据形式,帮助研究者深入理解模型内部机制,特别是针对特定行为(如拒绝响应)的内部表征。
数据字段与结构
数据集采用 Arrow schema 格式进行存储,页面详细列出了各字段的定义与结构,主要包含以下核心部分:
- 基础标识与配置:包含
slug(字符串)、scan(字符串)、transcoder_list以及schema_version(int64)等字段,用于标识数据集的版本和扫描配置。 - 输入与上下文:
prompt_tokens为字符串列表,prompt为原始提示词,用于记录输入数据的具体内容。 - 节点计数与阈值:
node_threshold定义了双精度浮点数的阈值,node_counts为结构体类型,包含base_features(基础特征计数)、adapter_features(适配器特征计数)和error_nodes(错误节点计数)。 - 比较分析:
comparison结构体包含base_slug、adapter_slug、base_scan、adapter_scan等字段,用于对比基线模型与适配器模型的差异。 - Gemmascope 信息:
gemmascope结构体记录了仓库信息、宽度、请求的 L0 层、L0 匹配情况、各层 L0 统计、层数以及扫描结果。 - 路径数据:
overlay_graph_paths和compact_overlay_graph_paths均为字符串列表,存储了覆盖图的路径信息。 - 分析结果:
results结构体包含base和adapter两个子结构,其中包含harm_000至harm_055等字段,用于记录具体的分析结果。
使用说明与报错信息
在使用该数据集进行预览时,页面出现了数据预览加载报错的 traceback 信息。开发者注明了报错原因之一是列名不匹配。数据集内容主要依赖 HuggingFace 平台提供的 JSON 格式文件,用户需通过平台提供的接口或界面进行访问与下载。
基本信息
记录数量未知
文件大小未知
文件格式JSON / Arrow Schema
数据来源siddharthmb
SchemaArrow Schema
核心字段prompt_tokens, node_counts, gemmascope, overlay_graph_paths, results (harm_000~harm_055)
数据落地页https://huggingface.co/datasets/siddharthmb/2026.TA.tc8192_strict_refusal_union_graphs
发布日期2026-08-13
可解释性归因图电路追踪Gemma-2-2b转换器适配器
上架信息
数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载