Hugging Face Datasets
Hugging Face Hub 由 Hugging Face 公司运营,托管用于训练和评测机器学习模型的数据集。通过 ScholarMuse,agent 可以按关键词检索 Hub 的数据集列表,拿到每个数据集的仓库 id、所有者、许可标签、任务类别、模态、格式、规模档位、下载量和点赞数,以及是否需要申请访问(gated)。
对应的 ScholarMuse 工具:search_datasets。每次成功调用都会扣积分。
网页工具不用注册,每位访客每天可运行 5 次。
可以这样问你的 agent
你的 agent 会拿到什么
每条记录都带有 id、source、title、url、license、attribution 和 retrievedAt。下面是来自 Hugging Face Datasets 的数据字段。
search_datasets
记录标题就是仓库 id(如 owner/name)。license、size、format、modality 和 tasks 取自数据集在 Hub 上的标签,所有者没设置时为空。
- creators
- 数据集仓库的所有者账号
- year
- 仓库创建年份
- lastModified
- 最后修改日期(YYYY-MM-DD)
- description
- 数据集描述,截取前 2000 个字符
- size
- Hub 上标注的规模档位标签
- format
- 格式标签,例如 parquet
- modality
- 模态标签,例如 text、audio
- tasks
- 任务类别标签,最多 6 个
- downloads
- Hub 给出的下载量
- likes
- Hub 上的点赞数
- gated
- 需要申请访问时为 true
- license
- 数据集自身的许可标签
覆盖范围
- Hugging Face Hub 上列出的数据集仓库,以机器学习训练和评测数据为主。
- 结果按下载量从高到低排序,而不是按相关度。
- 每条记录都附带 huggingface.co 上的 dataset card 链接。
限制
- 每次调用最多返回 25 个数据集(默认 10 个)。同时检索多个仓储时这个数量由它们平分,只想要 Hugging Face 的结果请单独指定。
- 检索条件只有关键词。没有年份、许可、作者或文件类型筛选,需要 agent 自己从返回字段里判断。
- 结果按下载量排序,冷门数据集可能排不进返回的 25 条。
- 不返回数据行、列结构和文件,也不检索模型或 Space 仓库。上游请求超过 30 秒会被放弃。
ScholarMuse 怎么访问 Hugging Face Datasets
连接器调用 huggingface.co/api/datasets,按下载量排序。我们的服务器配置了 Hugging Face token 时会带上,没有也能正常调用。
响应最多缓存 6 小时,Hugging Face 上最近几小时内发布的数据集可能暂时搜不到。
API key:上游 API 不用 key 也能调用,你不用申请。
许可与署名
许可:Hugging Face Terms of Service (listing metadata)
Listing from the Hugging Face Hub (huggingface.co). Each dataset carries its own licence; check the dataset card.
来自 Hugging Face Datasets 的记录都带这段许可和署名。 在论文里引用时,请按 Hugging Face Datasets 自己的引用要求来写。
