Clamp 3

使用场景通过文本描述检索音乐:输入如 'big band, major key, swing' 等关键词,检索到匹配的音乐。通过图像检索音乐:输入一幅婚礼场景的...

  • Clamp 3

    类别:AI模型,音乐生成,音乐信息检索,多模态,多语言,对比学习,零样本分类,普通产品,开源,
    官网:https://sanderwood.github.io/clamp3/ 更新时间:2025-08-02 10:28:00
  • 使用场景

    通过文本描述检索音乐:输入如 'big band, major key, swing' 等关键词,检索到匹配的音乐。

    通过图像检索音乐:输入一幅婚礼场景的图片,模型通过生成的描述检索到婚礼进行曲。

    零样本音乐分类:输入一首未标记的音乐,模型通过语义相似性将其分类到对应的音乐类别。

    产品特色

    支持跨模态音乐检索,如从乐谱到音频的检索

    支持多语言文本到音乐的检索,包括未见语言

    支持图像到音乐的检索,通过图像描述匹配音乐

    支持零样本音乐分类,通过语义相似性计算

    支持音乐语义相似性评估,与人类感知高度一致

    提供大规模音乐文本对数据集 M4-RAG 和基准数据集 WikiMT-X

    通过 t-SNE 可视化音乐模态和语义分布

    使用教程

    1. 访问 CLaMP 3 的在线演示页面或下载模型权重。

    2. 输入文本描述、图像或其他模态的查询。

    3. 模型通过对比学习对齐查询与音乐模态的特征。

    4. 检索与查询最匹配的音乐。

    5. 可通过可视化工具查看音乐模态和语义分布。