LLaDA 扩散语言模型隐状态评测数据集

机器学习
0 下载
10 浏览
2026-08-26

数据集简介

数据内容与任务覆盖

该数据集收录 LLaDA 模型在推理过程中产生的隐状态(hidden states)分块文件,横跨五个评测任务:arc_challenge_chat、gsm8k、humaneval、mbpp 与 minerva_math500,涵盖常识推理、数学、代码生成等方向的评测场景。采集时对不同的 top_k 与上下文长度(c)组合分别存档,便于对比不同推理配置下模型内部表示的差异。

目录组织与文件格式

每个任务与配置组合对应一个子目录,命名格式为 llada_top_k_c_<top_k>_<c>_task_<task>,例如 llada_top_k_c_128_128_task_arc_challenge_chat 与 llada_top_k_c_512_512_task_gsm8k。子目录内包含:

  • chunks/ 目录:存放分块的 .pt 张量文件,文件名形如 llada_top_k_c_128_128_task_arc_challenge_chat_000000.pt;
  • manifest.json:该目录下分块文件的清单。

manifest 中的记录字段包括:

字段 类型 含义
batch_idx int64 批次索引
filename string 分块文件名
bytes int64 文件字节数
n_rows int64 分块包含的行数

仓库另有 .gitattributes 等辅助文件,整体数据规模约 3.44 TB,累计 147 次提交。

获取方式

该数据集托管在 HuggingFace 平台,仓库页面为 devichand/hiddens-eval,公开且非门控(isGated: false、isPrivate: false),用户无需申请授权即可通过仓库页面浏览目录结构并下载所需的分块文件与 manifest。由于单个目录体积可观,建议先通过 manifest 确认目标任务的 top_k 与上下文配置,再按目录选择性下载。

基本信息

记录数量未知
文件大小3.44 TB
文件格式pt, json
数据来源Devichand Budagam
清单格式JSON
任务数量5
评测任务arc_challenge_chat, gsm8k, humaneval, mbpp, minerva_math500
仓库体积3.44 TB
提交次数147
访问方式公开非门控
托管平台HuggingFace
数据落地页https://huggingface.co/datasets/devichand/hiddens-eval
发布日期2026-08-26
扩散语言模型隐状态LLaDA大语言模型评测张量数据

上架信息

数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载

价格

免费