Barbet 长上下文 SFT 微调数据集

自然语言
0 下载
2 浏览
2026-09-29

数据集简介

数据集卡片与用途

该数据集由 OpenFormosa 发布,任务类型标注为文本生成(Text Generation),定位为长上下文文本生成模型的监督微调(SFT)语料。数据集说明将其描述为一份仅含助手回复(assistant-only)的联合 SFT 数据集,并明确说明目前尚未进行 Barbet 模型训练。

  • 用途:长上下文 SFT 微调语料
  • 监督方式:仅对助手回复计算损失,非监督位置在 labels 中置为 -100
  • 训练状态:尚未用于 Barbet 模型训练

数据集说明中记录了 1254 条有效记录,发布版本 4cdcf44a… 保留的正是这一批记录。技能预填(skill-prefill)迁移从这 1254 条记录中修订了 50 条,其余记录保持原有内容。

数据工作室与字段结构

页面数据工作室提供 minicpm5_tokenized 子集,已分词为 input_ids/labels 序列,便于直接加载训练。主要字段如下:

字段 类型 说明
record_id string 记录标识,长度 64
input_ids list 分词后的输入序列,长度 1.07k–111k
labels list 监督标签序列,长度 1.07k–111k,非监督位置为 -100
total_tokens int64 序列总 token 数,1.07k–111k
supervised_tokens int64 参与监督的 token 数,2–50.9k

页面另列出 records 与 tokenized 两个子集,与 minicpm5_tokenized 共同构成数据组织层级。

文件版本与数据规模

数据集以 parquet 格式分发,页面标注规模为 10M–100M。数据查看器显示 minicpm5_tokenized 子集共 4.45M 行,其中 train 划分 4.36M 行、validation 划分 89.7k 行。

  • 格式:parquet
  • 规模标注:10M–100M
  • 子集行数:minicpm5_tokenized 共 4.45M 行(train 4.36M 行,validation 89.7k 行)

许可与获取方式

数据集采用混合来源许可(mixed-source-licenses),公开页面可直接访问。获取方式包括在 Files and versions 中下载 parquet 文件,或通过 Datasets 库加载;页面同时提供自动转换的 Parquet、API 与 Embed 入口,便于在训练流程中直接引用。

社区与引用

数据集页面设有 Community 与 Duplicate 区块,用于讨论、反馈与重复条目处理。引用本数据集时建议注明发布方 OpenFormosa、数据集名 barbet-long-context-sft 与发布版本 4cdcf44a…,并遵循混合来源许可的要求。

基本信息

记录数量未知
文件大小未知
文件格式parquet
数据来源OpenFormosa
任务类型文本生成
监督方式assistant-only
许可mixed-source-licenses
子集minicpm5_tokenized
数据落地页https://huggingface.co/datasets/OpenFormosa/barbet-long-context-sft
发布日期2026-09-29
长上下文监督微调文本生成大语言模型分词数据

上架信息

数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载

价格

免费