大语言模型越狱攻击评估数据集 RefusalGuard

机器学习
0 下载
24 浏览
2026-08-20

数据集简介

数据集卡片

RefusalGuard-M(Micdejc/refusalguard-m)是一个面向大语言模型越狱攻击评估的公开数据集,模态为表格与文本(Tabular, Text),文件格式为 CSV,规模约 1K–10K 行,许可证为知识共享署名 4.0(cc-by-4.0)。数据集标签包括:cybersecurity、multi-turn、adversarial-ai、tense-reformulation、jailbreaking-evaluation、semantic-analysis。

内容与字段结构

数据集涵盖多轮对话、时态改写(如过去时改写)的对抗性提示,以及来自人类、规则系统、Llama-Guard、GPT-4.1、GPT-5.2 与多种语义嵌入模型的判定分数。数据来源包括 AdvBench 等基准,攻击类型含 mirage 等。主要字段包括:

  • 标识与对话结构:base_id、conversation_id、turn_depth、datetime
  • 攻击与提示属性:tense、query_type、source、attack_name、semantic_category、subtopic
  • 生成配置:model_name、temperature
  • 对话内容:turn_1、output_turn_1
  • 判定结果:human_1_judge、rule-based_judge、llama-guard-3-8b_judge、gpt-4.1_judge、gpt-5.2_judge
  • 语义与统计量:semantic_score_*、prob_jailbreak_*、prediction_*_judge、confidence_*

Data Studio 与文件版本

数据集托管于 HuggingFace,可通过 Data Studio 在线浏览表格数据,也可在 Files and versions 页面下载 CSV 文件及查看历史版本。落地页地址:https://huggingface.co/datasets/Micdejc/refusalguard-m

许可与使用

数据集采用 CC BY 4.0 许可,公开免费下载,使用时需按要求署名来源。

基本信息

记录数量未知
文件大小未知
文件格式csv
数据来源Micdejc
数据模态表格 + 文本
数据规模1K - 10K 行
许可证cc-by-4.0(知识共享署名 4.0)
发布日期2026-08-20
数据落地页https://huggingface.co/datasets/Micdejc/refusalguard-m
越狱攻击大语言模型安全多轮对话时态改写对抗性提示网络安全

上架信息

数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载

价格

免费