开放权重大模型显存需求与GPU适配数据
机器学习
0 下载
7 浏览
2026-10-15
数据集简介
记录内容与用途
llm-vram-dataset 关注的是一组具体问题:一个开放权重的大语言模型,在某一量化等级、某一上下文长度下,实际需要多少显存;以及市面上哪些 GPU 能够把它跑起来。数据集把这两个维度放在同一张表里对照,使用者可以直接按模型、量化方式或上下文长度检索对应的显存需求,再据此判断手头的显卡是否够用。
数据覆盖的对象是开放权重 LLM,围绕量化等级与上下文长度两个变量展开,最终落到显存占用与可运行 GPU 的匹配结果上。
数据来源与生成方式
数据并非实测采集,而是从两类公开信息中读取整理:
- 模型自身的
config.json,用于获取模型结构与配置参数; - GPU 厂商公布的规格信息,用于确定各型号显卡的显存容量等指标。
在此基础上,数据集给出各模型在不同量化与上下文长度组合下的显存需求,并与厂商规格比对,得出可运行这些模型的 GPU 范围。
文件格式与字段
数据集提供 CSV 与 JSON 两种格式,二者内容对应,可按使用习惯选择:CSV 适合表格软件直接打开与筛选,JSON 适合程序读取与集成。字段围绕模型标识、量化等级、上下文长度、显存需求以及可运行 GPU 组织,具体字段以文件内实际列名为准。
许可与使用
数据以 CC BY 4.0 许可发布,允许在署名前提下复制、分发与改编,包括商业用途。项目托管于 GitHub,可通过仓库页面获取数据文件与后续更新。
基本信息
记录数量未知
文件大小未知
文件格式CSV, JSON
数据来源nodegrove
许可协议CC BY 4.0
数据落地页https://github.com/nodegrove/llm-vram-dataset
发布日期2026-10-15
大语言模型显存需求量化GPU适配开放权重模型
上架信息
数据集市运营
平台统一选品上架,经质量审核后公开
0 次下载