需求人群
该产品适合对数据隐私有较高要求的用户,如开发者、AI 爱好者及需要使用多模态生成工具的创作者。它提供了一种安全高效的方式来使用大型语言模型,而无需担心数据泄露。
使用场景
使用 MNN-LLM 进行文本到文本的生成任务。在安卓设备上实现实时音频转换。通过应用生成与图像相关的文本描述。
产品特色
多模态支持:支持文本、图像和音频生成等多种任务。CPU 推理优化:在 Android 设备上实现显著的速度提升。广泛模型兼容性:支持多种主流模型提供者。隐私优先:完全在设备上运行,确保数据隐私。历史记录:可以浏览并回顾之前的聊天记录。自定义设置:用户可以自定义采样器类型和其他参数。支持多轮对话:增强了多模态模型的互动能力。用户友好界面:优化了聊天界面,支持多行输入。
使用教程