🚀 ollama - MCP - server项目
ollama-MCP-server 是一个基于 Model Context Protocol (MCP) 的项目，旨在为用户提供本地运行和管理大语言模型（LLM）的服务器。它借助 Ollama 工具，让用户能方便调用多种模型并通过 MCP 协议交互。
🚀 快速开始
安装
- 克隆项目仓库：
git clone https://github.com/yourusername/ollama-MCP-server.git cd ollama-MCP-server - 创建并激活虚拟环境（推荐）：
python -m venv venv source venv/bin/activate # 在 Windows 上使用：venv\Scripts\activate - 安装依赖项：
pip install -r requirements.txt
启动服务器
- 使用提供的脚本启动：
./run_server.sh - 添加可选参数：
--debug # 开启调试模式（日志级别为 DEBUG） --log=LEVEL # 设置日志级别（DEBUG, INFO, WARNING, ERROR, CRITICAL）
示例用法
# 通过 MCP 协议调用模型
response = await mcp.use_mcp_tool({
"server_name": "ollama-MCP-server",
"tool_name": "run-model",
"arguments": {
"model": "llama3",
"prompt": "请简单解释量子计算。",
"temperature": 0.7
}
})
✨ 主要特性
核心功能
- 模型运行：支持在本地运行 Ollama 模型，如 LLaMA 系列、Alpaca 等。
- API 接口：提供基于 REST 和 WebSocket 的 API，便于集成。
- 上下文管理：通过 MCP 协议实现模型与外部系统的交互。
其他特性
- 多语言支持：默认支持中英文界面和文档。
- 日志系统：内置详细的日志记录功能，方便调试和监控。
- 扩展插件：提供插件机制，便于添加更多功能模块。
📦 安装指南
系统要求
- 操作系统：支持 Linux、macOS 和 Windows。
- Python 版本：建议使用 Python 3.8 或更高版本。
- Ollama 安装：需预先安装 Ollama 并配置好环境变量。
安装步骤
- 克隆项目仓库：
git clone https://github.com/yourusername/ollama-MCP-server.git cd ollama-MCP-server - 创建并激活虚拟环境（推荐）：
python -m venv venv source venv/bin/activate # 在 Windows 上使用：venv\Scripts\activate - 安装依赖项：
pip install -r requirements.txt
配置
- 修改
config.py文件，设置服务器端口、日志级别等参数。 - 创建
models目录，并下载所需的 Ollama 模型文件放置其中。
💻 使用示例
基础用法
# 启动服务器
./run_server.sh
高级用法
-
模型管理：
- 支持加载多个 Ollama 模型。
- 提供模型状态监控和资源分配功能。
-
日志与监控
- 内置详细的日志系统，支持多级别日志输出。
- 提供性能监控接口，便于优化服务器运行。
📚 详细文档
开发指引
环境配置
- 克隆项目并初始化：
git clone https://github.com/yourusername/ollama-MCP-server.git cd ollama-MCP-server - 创建并激活虚拟环境：
python -m venv venv source venv/bin/activate # 在 Windows 上使用：venv\Scripts\activate - 安装开发依赖项：
pip install -r requirements.dev.txt
编码规范
- 遵循 PEP8 代码风格指南。
- 提供详细的注释和文档，便于团队协作。
贡献指南
提交代码
- 创建功能分支：
git checkout -b feature/your-feature-name - 提交更改并推送到远程仓库：
git add . git commit -m "描述你的修改" git push origin feature/your-feature-name
📄 许可证
文档中未提及具体的许可证信息。
👏 鸣谢
感谢所有为 ollama-MCP-server 项目做出贡献的开发者和支持者。