本项目提供了便捷的方式来爬取数据并将其导入数据库,同时还支持生成SQL文件等操作,能有效帮助你处理相关数据。
运行以下命令安装 supabase 依赖:
pip install supabase
进入 src/mcp_crawler 目录,然后执行以下命令爬取数据并导入数据库:
cd src/mcp_crawler
python crawl_mcp_data.py
若你只需要爬取服务器数据,可使用以下命令:
python crawl_mcp_data.py --server-only
若你只需要爬取客户端数据,可使用以下命令:
python crawl_mcp_data.py --client-only
若你需要同时将数据导入数据库并导出为SQL文件,可使用以下命令:
python crawl_mcp_data.py --export-sql mcp_data.sql
若你只需要生成SQL文件而不导入数据库,可使用以下命令:
python crawl_mcp_data.py --no-import --export-sql mcp_data.sql