Fluent MCP:构建嵌入式推理的MCP服务器

Fluent MCP:构建嵌入式推理的MCP服务器

用于创建带有嵌入式LLM推理能力的MCP服务器的Python工具包。

快速入门

安装

使用以下命令安装: pip install fluent_mcp

创建新服务器

通过CLI快速生成: fluent-mcp new my_server

或以编程方式创建: from fluent_mcp import scaffold_server scaffold_server(output_dir=".", server_name="my_server", description="我的MCP服务器")

实现核心架构模式

  1. 注册嵌入式工具(仅内部可用)
  2. 注册外部工具(暴露给外部LLM)
  3. 使用run_embedded_reasoning运行嵌入式推理

启动服务器

from fluent_mcp import create_mcp_server server = create_mcp_server(server_name="my_server", embedded_tools=[...], external_tools=[...]) server.run()