NestJS 实现的 LLM 和 AIGent 网关

NestJS 实现的 LLM 和 AIGent 网关

将 Stdio Mcp Server 转换为 RestFul 接口,便于部署与 Web 服务集成。

快速入门

背景

随着 MCP(Model Context Protocol)协议推出,本项目提供了一个解决方案,将 MCP Server 转化为 HTTP 服务,方便与现有业务集成。

功能目标

  • 轻松集成:适配层可以快速对接基于 NestJS 构建的服务。
  • 无缝扩展:通过私有 NPM 包实现 MCP Server 的快速集成和统一管理。
  • 便捷部署:支持集中管理和版本控制,适合现有发布流程。

接口定义

以下是核心接口功能:

  • 获取所有工具:POST /api/mcp/tools
  • 调用 MCP 工具:POST /api/mcp/tools/call
  • 调用 LLM 接口:POST /api/mcp/agent

部署方式

推荐使用私有 NPM 包形式进行 MCP Server 集成部署,配置文件示例:

{
  "mcpServers": {
    "server1": {
      "name": "example-server",
      "args": ["server.js"],
      "path": "./servers/server1/"
    }
  },
  "mcpClient": {
    "name": "mcp-client",
    "version": "1.0.0"
  }
}

未来规划

  • 支持更多协议(如 SSE)。
  • 封装接口为 Socket 以优化聊天场景。
  • 提供对类编写的 MCP Server 的直接函数调用支持。