Unsloth MCP 服务器

Unsloth MCP 服务器

用于 Unsloth 的 MCP 服务器，优化 LLM 微调速度提升 2 倍，内存减少 80%。

GitHub
Created ByOtotaOOtotaO

快速入门

  1. 安装 Unsloth：pip install unsloth
  2. 克隆并构建服务器： 
    cd unsloth-server
npm install
npm run build
  3. 在 MCP 设置中添加配置： { "mcpServers": { "unsloth-server": { "command": "node", "args": ["/path/to/unsloth-server/build/index.js"], "env": { "HUGGINGFACE_TOKEN": "your_token_here" }, "disabled": false, "autoApprove": [] } } }

示例工具

  • check_installation：验证 Unsloth 是否正确安装。
  • list_supported_models：列出支持的模型。
  • load_model：加载优化后的模型。
  • finetune_model：使用 LoRA 技术微调模型。
  • generate_text：生成文本。
  • export_model：导出微调后的模型到不同格式。