用途:为 MCP(Model Context Protocol)服务器编写评估集,衡量 LLM 在仅能访问该服务器工具、无其他上下文时,能否回答真实且复杂的问题。评估重点不是服务器实现了多少工具,而是其输入输出模式、文档字符串与功能描述能否支撑 LLM 完成检索任务。
主要能力与要求:需创建 10 个人类可读问题,问题必须只读、独立、非破坏性且幂等,每题需多次(可能数十次)工具调用,答案须为单一、可验证、稳定不变的值。问题应真实、清晰、无歧义且复杂,避免直接使用目标内容关键词,可用同义词或改写;可设计多跳问题、分页查询、历史数据检索、True/False 或选择题。答案须能通过直接字符串比较验证,优先人类可读格式(姓名、日期时间、文件名、URL、布尔值等),避免列表或复杂结构。
使用方式:先阅读目标 API 文档并检查 MCP 服务器工具(不读实现代码),再用只读、非破坏性操作探索内容,注意用 limit 参数限制结果(<10)并分页,避免上下文耗尽。随后生成问题,输出为 XML 格式,包含 <evaluation> 与 <qa_pair> 元素。运行评估前安装依赖:pip install -r scripts/requirements.txt 或 pip install anthropic mcp,并设置 export ANTHROPIC_API_KEY=your_api_key_here。评估脚本 scripts/evaluation.py 支持 stdio、sse、http 三种传输;stdio 会自动启动并管理服务器进程,sse/http 需先手动启动服务器。
适用场景:MCP 服务器开发者、工具集成测试与质量评估。
限制:资料未提供具体价格、平台支持范围或完整脚本细节;部分内容在原文中被截断,暂未提供。