SuperAPI AI 工具集

multi-ai-verification

测试与质量

查看项目

更新于 10-15 11:13

技能介绍

用途

multi-ai-verification 用于对已完成实现的代码进行多层独立质量验证,确保达到可上线的生产级质量。它采用五层验证金字塔结构,从底层的自动化规则检查逐层向上,直到顶层的 LLM 质量评分,形成一套完整的质量门禁体系。

主要能力

该技能以任务式模式运行,包含 5 个独立的验证操作,每层一个:

  1. 规则层验证(Layer 1):自动化校验代码结构、格式与类型。包括 Schema 校验(如 ajv 校验 JSON/YAML)、Linting(ESLint、Pylint)、类型检查(tsc、mypy)、格式校验(Prettier)以及静态安全扫描(Semgrep、Bandit),检查硬编码密钥、SQL 注入、XSS、不安全依赖等。约 95% 自动化,秒级反馈,确定性高。

  2. 功能层验证(Layer 2):通过测试执行与覆盖率验证功能。运行完整测试套件并采集覆盖率、验证文档示例代码(目标 ≥90% 示例可运行)、检查覆盖率(行/分支/函数/路径,门槛 ≥80%)、回归测试与性能验证。约 60-80% 自动化。

  3. 视觉层验证(Layer 3):验证 UI 外观、布局与无障碍(适用于 UI 功能)。包括截图生成(Playwright)、视觉对比(Percy/Chromatic)、布局清单校验、响应式测试(移动/平板/桌面)与无障碍扫描(axe-core、pa11y,WCAG 合规)。约 30-50% 自动化。

  4. 集成层验证(Layer 4):验证系统级集成、数据流与 API 兼容性。包括组件集成测试、数据流验证、API 集成测试、端到端工作流测试与依赖兼容性检查(npm audit、npm outdated)。约 20-30% 自动化。

  5. 质量评分层(Layer 5):使用 LLM-as-judge 与 Agent-as-a-Judge 模式进行整体质量评估。由独立质量评估代理从正确性、功能性、质量、集成、安全五个维度各打 0-20 分,合计 0-100 分,阈值 ≥90。对关键功能可采用 3-5 个代理投票委员会,取中位数,若分歧(极差 >15)则增加至 5 个代理。评分需对照评分标准校准,低于 90 分时输出差距分析,给出可执行建议(What/Where/Why/How/Priority)。约 0-20% 自动化。

使用方式

该技能以任务式模式运行,5 个验证操作相互独立。每层完成后生成对应报告并给出 PASS/FAIL 状态,所有 5 层通过才批准生产。核心原则包括:多层防御(不同层捕获不同类型问题)、独立验证(验证代理与实现/测试分离,防止偏见与测试作弊)、渐进式自动化(能自动化的尽量自动化,95% → 0%)、质量评分(0-100 客观评分,≥90 阈值)、可执行反馈(100% 反馈具体可操作)。

适用场景

  • 提交或部署前的最终质量检查
  • 独立代码评审(防止偏见)
  • 安全验证(OWASP、漏洞)
  • 全面 QA(所有层)
  • 测试质量验证(防止作弊)
  • 生产就绪验证

前提条件

必需:待验证的代码(实现已完成)、可用的测试(用于功能验证)、已定义的质量标准。

推荐:multi-ai-testing(用于生成/运行测试)、multi-ai-implementation(用于实施修复)。

可用工具

Linters(ESLint、Pylint)、类型检查器(TypeScript、mypy)、覆盖率工具(c8、pytest-cov)、安全扫描器(Semgrep、Bandit)、测试框架(Jest、pytest)。

限制

各层自动化程度与耗时不同:规则层秒级、功能层分钟级、视觉层分钟至小时级、集成层小时级、质量评分层小时级且成本较高。视觉层与质量评分层依赖主观判断,置信度为中等。视觉层在无 UI 时可跳过。质量评分层建议使用不同模型家族以降低自我偏好偏差。具体收费、价格与平台支持信息暂未提供。