需求人群
该产品适用于音乐研究人员、音乐推荐系统开发者、音乐教育工作者以及对跨模态音乐检索感兴趣的用户。它能够帮助用户快速找到与文本描述或图像场景相匹配的音乐,提升音乐检索的效率和准确性。
使用场景
通过文本描述检索音乐:输入如 'big band, major key, swing' 等关键词,检索到匹配的音乐。通过图像检索音乐:输入一幅婚礼场景的图片,模型通过生成的描述检索到婚礼进行曲。零样本音乐分类:输入一首未标记的音乐,模型通过语义相似性将其分类到对应的音乐类别。
产品特色
支持跨模态音乐检索,如从乐谱到音频的检索支持多语言文本到音乐的检索,包括未见语言支持图像到音乐的检索,通过图像描述匹配音乐支持零样本音乐分类,通过语义相似性计算支持音乐语义相似性评估,与人类感知高度一致提供大规模音乐文本对数据集 M4-RAG 和基准数据集 WikiMT-X通过 t-SNE 可视化音乐模态和语义分布
使用教程
11. 访问 CLaMP 3 的在线演示页面或下载模型权重。22. 输入文本描述、图像或其他模态的查询。33. 模型通过对比学习对齐查询与音乐模态的特征。