A
securityA
licenseA
qualityAn MCP server that provides LLMs access to other LLMs
Last updated -
4
673
59
JavaScript
MIT License
MCP vLLM 基准测试工具
这是关于如何使用 MCP 以交互方式对 vLLM 进行基准测试的概念证明。
我们对基准测试并不陌生，请阅读我们的博客：
这只是对 MCP 可能性的探索。
用法
- 克隆存储库
- 将其添加到您的 MCP 服务器：
然后你可以像这样提示：
待办事项：
- 由于 vllm 的一些随机输出，它可能显示发现了一些无效的 json。我还没有深入研究过这个问题。
This server cannot be installed
remote-capable server
The server can be hosted and run remotely because it primarily relies on remote services or has no dependency on the local environment.
一种交互式工具，使用户能够通过 MCP 对 vLLM 端点进行基准测试，从而允许使用可自定义的参数对 LLM 模型进行性能测试。
Related MCP Servers
- -securityFlicense-qualityAn MCP server that allows Claude to interact with local LLMs running in LM Studio, providing access to list models, generate text, and use chat completions through local models.Last updated -8Python
- -securityAlicense-qualityAn MCP server that allows agents to test and compare LLM prompts across OpenAI and Anthropic models, supporting single tests, side-by-side comparisons, and multi-turn conversations.Last updated -PythonMIT License
- -securityFlicense-qualityAn MCP server that integrates various penetration testing tools, enabling security professionals to perform reconnaissance, vulnerability scanning, and API testing through natural language commands in compatible LLM clients like Claude Desktop.Last updated -4Python