评估核心不是看生成用例数量,而是能否真正降低测试成本、保障质量、适配业务迭代,从质量、效率、工程落地、稳定性四个维度开展,配套基线对照。
1.用例质量指标
优先校验有效性:用例通过率(在被测系统正常环境下可成功执行、无语法/定位错误)、需求覆盖率(对照PRD/用户故事,统计覆盖的功能点、分支、异常场景占比)、冗余率(重复、等价场景重复编写的用例比例)、缺陷捕获率(Agent生成用例实际挖出的bug数量,对比人工用例)。同时评审可读性、可维护性,是否符合团队脚本规范,是否存在过度依赖页面固定文本、硬编码等脆弱写法。
2.效率指标
建立人工基线对比:单需求用例生成耗时、脚本调试返工时长、整体交付周期;人力节省(同等需求下,测试人员从编写脚本转为校验、补充场景的工时变化)。区分纯生成耗时和后续修复成本,很多Agent生成快,但调试改造成本高,不能只看产出速度。
3.工程适配与落地指标
评估集成能力:能否对接现有测试平台、版本管理、用例管理库;环境兼容性,多端、多浏览器、不同测试环境下的执行稳定性;场景适配度,正常流程、边界值、异常、兼容性、埋点等复杂场景的生成能力,重点看复杂业务、状态流转场景的表现。还有版本迭代韧性:需求小幅变更时,Agent对旧用例的增量更新能力,是否需要大面积重写。
4.长期稳定性与成本指标
包括幻觉率(生成不存在的页面元素、错误流程、非法断言)、漂移情况(UI改版后生成效果下滑幅度);维护成本:Agent提示词、知识库、样例库的更新频次;人员学习成本。同时收集测试人员主观反馈:校验修改负担、是否愿意常态化使用。
评估方式采用对照实验:选取同类型业务需求,分组走人工编写、Agent生成+人工校验两种模式,记录全套数据。设置准入阈值,比如幻觉率低于10%、需求覆盖率不低于人工基线85% 才适合规模化落地。持续小流量灰度,按业务模块逐步推广,避免直接全量上线带来测试风险。