A
securityA
licenseA
qualityAn MCP server that provides LLMs access to other LLMs
Last updated -
4
673
59
JavaScript
MIT License
MCP vLLM 벤치마킹 도구
이는 MCP를 사용하여 vLLM을 대화형으로 벤치마킹하는 방법에 대한 개념 증명입니다.
우리는 벤치마킹에 익숙하지 않습니다. 저희 블로그를 읽어보세요.
이는 단지 MCP의 가능성을 탐구하는 것입니다.
용법
- 저장소를 복제합니다
- MCP 서버에 추가하세요:
지엑스피1
그러면 다음과 같이 프롬프트를 표시할 수 있습니다.
할 일:
- vllm의 무작위 출력으로 인해 잘못된 JSON을 발견했을 수 있습니다. 아직 자세히 살펴보지는 않았습니다.
This server cannot be installed
remote-capable server
The server can be hosted and run remotely because it primarily relies on remote services or has no dependency on the local environment.
사용자가 MCP를 통해 vLLM 엔드포인트를 벤치마킹하고 사용자 정의 가능한 매개변수를 사용하여 LLM 모델의 성능 테스트를 수행할 수 있는 대화형 도구입니다.
Related MCP Servers
- -securityFlicense-qualityAn MCP server that allows Claude to interact with local LLMs running in LM Studio, providing access to list models, generate text, and use chat completions through local models.Last updated -8Python
- -securityAlicense-qualityAn MCP server that allows agents to test and compare LLM prompts across OpenAI and Anthropic models, supporting single tests, side-by-side comparisons, and multi-turn conversations.Last updated -PythonMIT License
- -securityFlicense-qualityAn MCP server that integrates various penetration testing tools, enabling security professionals to perform reconnaissance, vulnerability scanning, and API testing through natural language commands in compatible LLM clients like Claude Desktop.Last updated -4Python