免费了解积分 →
HF
机器学习数据集Hugging Face Hub API /datasets

Hugging Face Datasets

Hugging Face Hub 由 Hugging Face 公司运营,托管用于训练和评测机器学习模型的数据集。通过 ScholarMuse,agent 可以按关键词检索 Hub 的数据集列表,拿到每个数据集的仓库 id、所有者、许可标签、任务类别、模态、格式、规模档位、下载量和点赞数,以及是否需要申请访问(gated)。

对应的 ScholarMuse 工具:search_datasets。每次成功调用都会扣积分。

网页工具不用注册,每位访客每天可运行 5 次。

可以这样问你的 agent

Hugging Face 上哪些蛋白质序列数据集下载量最高?各自是什么许可?
在 Hugging Face 上找医学问答数据集,并告诉我哪些是 gated 的。
Hugging Face 上有哪些 Swahili 数据集?列出每个的模态、格式和规模档位。

你的 agent 会拿到什么

每条记录都带有 id、source、title、url、license、attribution 和 retrievedAt。下面是来自 Hugging Face Datasets 的数据字段。

search_datasets

记录标题就是仓库 id(如 owner/name)。license、size、format、modality 和 tasks 取自数据集在 Hub 上的标签,所有者没设置时为空。

creators
数据集仓库的所有者账号
year
仓库创建年份
lastModified
最后修改日期(YYYY-MM-DD)
description
数据集描述,截取前 2000 个字符
size
Hub 上标注的规模档位标签
format
格式标签,例如 parquet
modality
模态标签,例如 text、audio
tasks
任务类别标签,最多 6 个
downloads
Hub 给出的下载量
likes
Hub 上的点赞数
gated
需要申请访问时为 true
license
数据集自身的许可标签

覆盖范围

  • Hugging Face Hub 上列出的数据集仓库,以机器学习训练和评测数据为主。
  • 结果按下载量从高到低排序,而不是按相关度。
  • 每条记录都附带 huggingface.co 上的 dataset card 链接。

限制

  • 每次调用最多返回 25 个数据集(默认 10 个)。同时检索多个仓储时这个数量由它们平分,只想要 Hugging Face 的结果请单独指定。
  • 检索条件只有关键词。没有年份、许可、作者或文件类型筛选,需要 agent 自己从返回字段里判断。
  • 结果按下载量排序,冷门数据集可能排不进返回的 25 条。
  • 不返回数据行、列结构和文件,也不检索模型或 Space 仓库。上游请求超过 30 秒会被放弃。

ScholarMuse 怎么访问 Hugging Face Datasets

连接器调用 huggingface.co/api/datasets,按下载量排序。我们的服务器配置了 Hugging Face token 时会带上,没有也能正常调用。

响应最多缓存 6 小时,Hugging Face 上最近几小时内发布的数据集可能暂时搜不到。

API key:上游 API 不用 key 也能调用,你不用申请。

许可与署名

许可:Hugging Face Terms of Service (listing metadata)

Listing from the Hugging Face Hub (huggingface.co). Each dataset carries its own licence; check the dataset card.

来自 Hugging Face Datasets 的记录都带这段许可和署名。 在论文里引用时,请按 Hugging Face Datasets 自己的引用要求来写。

用到 Hugging Face Datasets 的功能

常见问题

ScholarMuse 不是 Hugging Face Datasets 的官方产品。它是一个面向学术数据的 MCP server,其中的 search_datasets 工具会查询 Hugging Face Datasets。agent 连上 ScholarMuse 后就能用 Hugging Face Datasets,不用再单独装一个 server。

不需要。Hugging Face Datasets 的 API 不用 key 也能调用,ScholarMuse 也不会向你要 key。登录一次 ScholarMuse,agent 就能调用工具。

连接器调用 huggingface.co/api/datasets,按下载量排序。我们的服务器配置了 Hugging Face token 时会带上,没有也能正常调用。响应最多缓存 6 小时,Hugging Face 上最近几小时内发布的数据集可能暂时搜不到。

许可:Hugging Face Terms of Service (listing metadata)。署名:Listing from the Hugging Face Hub (huggingface.co). Each dataset carries its own licence; check the dataset card. 来自 Hugging Face Datasets 的记录都带这段许可和署名。

需要。每次成功调用 search_datasets 都会扣积分,调用失败不扣。当前价格:数据集检索,1 积分 / 次。