本指南面向与外包或离岸开发团队合作并对其交付成果负责的创始人、CTO、产品负责人和采购负责人。本指南说明如何在甲乙双方之间划分质量职责、如何编写可测试的验收标准、如何将安全纳入这些标准、如何治理AI辅助工程并测试AI功能、如何运行发布就绪门控、应监控哪些交付健康指标,以及治理节奏在实践中的具体形式。
本指南目录
- 外包交付时的质量归属
- 可测试的验收标准
- 安全作为验收标准
- AI辅助工程:治理输出,而非工具
- 测试AI功能
- 发布就绪门控
- 难以造假的交付健康指标
- 跨时区有效运作的治理节奏
- 印刷电商案例
- 权衡与常见错误
- 质量治理检查清单
- 本集群计划中的指南
- 本指南的局限性
- 常见问题
- 本指南的编写方式
- 下一步
外包交付时的质量归属
外包转移的是工作,而非问责责任。客户、监管机构和董事会评判的是你的产品,无论代码由谁编写。因此,良好的治理要将甲方必须做出的决策与应由供应商负责的事项明确分开,并在每个边界要求提供凭证。
| 领域 | 甲方决定 | 供应商交付 | 应要求的凭证 |
|---|---|---|---|
| 范围与优先级 | 重要事项及其顺序 | 估算、风险和方案 | 含验收标准的需求待办列表 |
| 验收 | 每个故事的「完成」定义 | 证明已完成的测试 | 与验收标准关联的测试结果 |
| 安全 | 风险承受度、数据分类、合规需求 | 安全编码、评审与扫描 | 评审记录、扫描报告、已修复发现项 |
| 发布 | 上线或不上线,以及时间 | 候选版本、发布说明和回滚计划 | 双方签署的就绪检查清单 |
| 运营 | 支持时段和优先级规则 | 监控、事故处理和修复 | 事故日志和事后复盘 |
| 知识 | 须记录和移交的内容 | 文档和代码存入你的代码库 | 代码库访问权、架构说明、运行手册 |
| AI使用 | 哪些AI工具可访问代码和数据 | 对AI生成代码和测试进行人工评审 | 已批准工具清单和评审记录 |
无论何种合作模式,这一划分都成立。固定总价项目与专属开发团队之间的区别在于谁承担估算风险,而非谁对质量负责。
可测试的验收标准
与外包团队的大多数质量争议,始于双方理解不同的用户故事。当验收标准足够具体,使一位从未参加过规划会议的测试人员也能判定通过或失败时,这些争议便可避免。
一种实用格式是:给定某一起始情境,当用户执行某操作时,则某结果可见。例如:给定一位已登录且保存了两个收货地址的客户,当其结账时,则两个地址均显示,且默认地址已预选;若支付失败,订单保留在购物车中,并显示清晰的错误提示。
良好的验收标准具备五个特征:
- 可观察。描述人或自动化测试可见的行为,而非意图。
- 有边界。说明限制条件,如文件大小、关注的响应时间及支持的浏览器或设备。
- 包含失败场景。说明出错时的处理方式,而不仅限于成功路径。
- 数据已明确。列出测试该故事所需的角色、记录和边界情况。
- 非功能需求已说明。无障碍性、性能和安全需求出现在验收标准或共享完成定义中,而非在无人阅读的独立文档里。
将故事级验收标准与适用于每个故事的完成定义配合使用:代码已评审、自动化测试已添加并通过、安全检查已运行、文档已更新,且变更已部署到甲方可使用的测试环境。完成定义使质量不再依赖个人投入。
在故事进入迭代之前批准验收标准,而不是在测试阶段。没有已批准验收标准的故事不具备开始条件,无论其看起来多么紧急。
安全作为验收标准
在外包交付中,安全失败的原因在于它被当作最后阶段的工作,而非从一开始就作为需求。两个公开框架帮助甲方无需从头编写即可说明需求。
- OWASP应用安全验证标准(ASVS)。OWASP将ASVS描述为测试Web应用技术安全控制的基础、安全开发需求列表,以及可用于采购合同的参考。5.0.0版是当前稳定版本。甲方可根据自身风险选择相应需求,并在验收标准中引用。
- NIST安全软件开发框架(SSDF),SP 800-218。SSDF将安全开发实践分为四个领域:组织准备、软件保护、安全软件生产和漏洞响应。它为甲方提供了一套共同词汇,用于询问供应商的工作方式,而不仅仅是交付内容。
在实践中,要求供应商针对每次发布说明:哪些安全需求在范围内、代码如何评审、运行了哪些扫描及其结果、哪些发现项已修复,以及哪些作为风险被接受并由谁接受。
Netbase公开的安全实践包括:安全代码评审和版本控制、传输中的TLS加密和静态的AES加密、基于角色的访问控制、管理后台的MFA、漏洞扫描和渗透测试,以及灾难恢复;NDA、DPA和SLA可按需提供,贡献者均在NDA约束下工作。Netbase持有信息安全管理的ISO 27001认证和SOC 2 Type II认证。其遵循欧洲数据隐私的GDPR对标方法、医疗数据处理的HIPAA对标方法,以及面向美国客户群的CCPA合规实践。上述内容适用于Netbase自身的运营和工作实践,不对客户产品或托管进行认证,客户自身的合规仍需独立评估。
AI辅助工程:治理输出,而非工具
大多数外包团队现在使用AI助手起草代码、测试和测试数据。禁止使用往往不切实际,而盲目信任则更糟糕。对其产出进行治理,采用与任何其他变更相同的凭证要求。
AI在质量工作中有实用价值:基于已批准的验收标准起草测试用例、生成合成边界数据而非复制生产记录、对失败测试和重复缺陷报告进行归类,以及在人工评审前标记高风险变更。每项都是由指定工程师或测试人员确认的草稿。
风险是具体的,因此管控措施也可以具体:
- 验证代码而非需求的测试。从代码生成的测试天然通过。要求测试可追溯到验收标准,并像审查代码一样仔细审查测试。
- 看似合理但不安全的代码。生成的代码可能重复过时或不安全的模式。将安全代码评审和扫描保留在每次变更的完成定义中,无论代码由谁或何物编写。
- 数据发送至错误位置。约定哪些AI工具已获批准,确保代码、密钥和个人数据不会发送至清单之外的工具或会对其进行训练的模型。
- 问责不明确。合并变更的工程师对其负责。「AI写的」不是可接受的风险。
在完成定义中增加一行:AI生成的代码和测试已由指定人员评审并批准。
测试AI功能
助手、分类器或推荐功能对相同输入不会每次给出相同答案,因此通过/失败标准需要不同的形式。验收变为在约定评估集上的量化结果。
-
答案质量
对固定、版本化的真实用例集评分;构建前约定通过阈值
-
升级处理
超出范围或低置信度的请求移交人工处理
-
数据边界
尝试提取其他用户数据或绕过指令的提示词失败
-
操作
任何更改记录、价格或资金的操作等待人工审批
-
成本与延迟
每次请求的调用次数和响应时间保持在约定限制内
-
回归
每当模型、提示词或检索数据发生变化时,重新运行评估集
在每次发布时记录模型和提示词版本,因为提供商的模型更新可能在不改变任何代码的情况下改变结果。
发布就绪门控
发布就绪门控是一个简短的会议或检查清单,用于决定候选版本是否可以交付给客户。其价值在于提前确定所需凭证,使决策不仅依赖于信心。
| 门控项 | 凭证 | 签署人 |
|---|---|---|
| 范围 | 列出故事和已知问题的发布说明 | 产品负责人 |
| 功能质量 | 验收测试和回归套件通过 | QA负责人 |
| 安全 | 扫描结果已评审;开放发现项由指定负责人接受 | 安全负责人或CTO |
| 性能 | 关键流程已在约定限制内量化 | 技术负责人 |
| 数据与迁移 | 在副本上演练迁移;已创建备份 | 技术负责人 |
| 回滚 | 已测试的回滚方案,或用于关闭变更的功能开关 | 发布经理 |
| 运营 | 监控和告警已就位;支持团队已知悉 | 运营负责人 |
| AI功能 | 针对阈值的评估结果;已记录模型和提示词版本 | 产品负责人和AI负责人 |
| 沟通 | 如有需要,面向客户的说明已准备就绪 | 产品负责人 |
保持门控与变更相称。小修复可依据自动化凭证通过;涉及数据迁移或更改结账流程的发布则需要完整清单。记录每次门控决策,包括以已接受风险方式发布的版本,以便日后发现趋势。
难以造假的交付健康指标
指标帮助甲方在交付问题演变为延误上线之前发现它。当指标变成团队以牺牲产品为代价进行优化的目标时,指标就会造成伤害。
DORA研究项目定义了五个软件交付性能指标:变更前置时间(从提交到生产环境部署);部署频率;失败部署恢复时间;变更失败率(需要立即干预的部署占比);以及部署返工率(由生产事故引发的计划外部署占比)。这些指标共同平衡速度与稳定性,因此比任何单一数字都更难造假。
| 指标 | 对甲方的意义 | 需关注 |
|---|---|---|
| 变更前置时间 | 已完成的变更到达用户的速度 | 评审或测试队列中的长时间等待 |
| 部署频率 | 发布是否小而常规 | 捆绑风险的大型低频发布 |
| 变更失败率 | 发布造成问题的频率 | 截止日期压力后上升的失败率 |
| 失败部署恢复时间 | 问题撤销的速度 | 手动且缓慢的回滚 |
| 部署返工率 | 计划外救火工作的占比 | 由事故驱动的发布挤占计划工作 |
| 逃逸缺陷 | 由用户而非测试发现的缺陷 | 验收标准或测试数据中的空缺 |
| 可预测性 | 每次迭代交付的承诺工作量 | 长期过度承诺 |
| AI评估趋势 | AI功能在模型和提示词变更后是否保持质量 | 提供商更新后的静默下降 |
最后三行是常见补充项,并非DORA指标。审查趋势而非单一数值,并综合阅读各指标。频繁部署但频繁失败的团队不健康;因极少发布而从不失败的团队同样不健康。在缺乏产品、架构和风险背景的情况下,切勿以原始数字比较供应商或团队。
跨时区有效运作的治理节奏
节奏将指标和门控转化为决策。Netbase公开的治理模型包括:每周评审、KPI仪表盘、专属客户经理和项目经理、用于日常沟通的Slack或Zoom,以及客户仪表盘。其交付生命周期包含六个步骤:探索与战略对齐;团队组建与架构规划;以成果为导向里程碑的敏捷执行;模块化和产品化组件;培训、上线和优化;以及持续支持与共建。团队规模从3人到30人不等,涵盖业务分析师、项目经理、解决方案架构师、开发人员、QA和UI/UX设计师;工作通常在探索后1至2周内启动。支持覆盖周一至周六,周日休息,交付沟通使用英语。AI工具按项目选定并与客户约定。
甲方可参考的节奏:
| 节奏 | 目的 | 输入 |
|---|---|---|
| 每日书面更新 | 解除工作阻塞 | 简短更新和待解决问题 |
| 每周评审 | 检查进展、质量和风险 | 演示、指标仪表盘、风险列表 |
| 每次发布 | 决定上线或不上线 | 就绪门控凭证 |
| 每月或每季度 | 调整范围、团队和优先级 | 指标趋势、预算、路线图 |
| 事故后 | 无责复盘 | 时间线、原因、有责任人的行动项 |
有关本节奏背后的测试和质量实践,请参阅Netbase的质量工程与测试服务。
印刷电商案例
质量治理在缺陷会造成销售损失的地方最为关键。在印刷电商中,客户往往在一次会话中完成在线设计、确认校样和支付,因此编辑器损坏、页面加载缓慢或支付失败都会终止订单。这就是为什么Web to Print平台需要针对设计、校样和结账流程的验收标准,而不仅仅是后台页面,也说明了为什么印刷与包装行业是践行发布纪律的高要求场所。
USticker。对于USticker,Netbase交付了一个电商支付增强项目。公开的结果为:设计工具用户的转化率提升40%,六个月内完成设计数量提升32%,留存率提升25%,线上订单收入提升15%,页面加载时间缩短21%。这些数字描述的是整个项目的情况,系该客户报告的数据,其中40%仅适用于设计工具的用户。这些数据表明,电商产品的发布门控应保护的指标:转化率、完成率和速度。阅读USticker案例。
权衡与常见错误
- 门控过多。对每次变更进行繁重审批会减慢交付,并促使团队将高风险发布打包在一起。根据变更大小调整门控。
- 将指标当作目标。依据部署次数或缺陷数量对团队进行薪酬或排名会诱导造假。使用指标提出更好的问题。
- 将安全留到最后。上线前一周的渗透测试发现问题时已太晚,难以妥善修复。将需求纳入验收标准。
- 仅凭演示验收。好的演示展示的是顺畅路径。要求测试也覆盖失败场景。
- 仅供应商持有代码库。如果代码和流水线仅存在于供应商账户中,治理就依赖于信任。将其保存在你自己的账户中。
- 构建后更改验收标准而不说明。后期更改验收标准是正常的,但属于范围变更;应如实记录,以便公正评估估算和质量。
- 已接受风险无具名负责人。每个发布到生产环境的开放发现项都需要一个接受它的责任人和一个重新审视的日期。
质量治理检查清单
- 每个故事都有可测试的验收标准,包含失败场景。
- 共享完成定义涵盖评审、测试、安全检查和文档。
- 安全需求参考公开标准,如OWASP ASVS。
- 供应商能够根据NIST SSDF等框架解释其实践。
- 发布就绪门控明确凭证及每项的签署人。
- 回滚已经过测试,而非仅凭假设。
- 交付健康指标以趋势形式追踪并每周评审。
- 代码、流水线和文档存储在你控制的代码库中。
- 支持时段、优先级规则和升级联系人已书面记录。
- 事故引发无责复盘,并有有责任人的行动项。
- AI生成的代码和测试由指定人员使用已批准工具评审。
- AI功能根据版本化评估集验收,并在每次模型或提示词变更时重新运行。
本集群计划中的指南
本主题下设更深入的指南。已发布两篇:向软件开发合作伙伴提出的安全问题和验收标准与发布就绪检查清单。计划中的内容:外包交付的软件质量工程策略和如何衡量工程交付健康度。在这些内容发布之前,上述各节涵盖了要点。
本指南的局限性
本指南是Netbase交付经验中的实践指导,并非原创研究或法律建议。OWASP、NIST和DORA作为公开框架引用,并非合规声明。AI相关章节描述的是快速发展领域中的当前实践,而非量化结果。Netbase的安全实践以实践形式描述,不对任何控制措施的有效性作出声明,其认证适用于Netbase自身的运营。USticker的结果系针对整个项目的报告,取决于该客户的基准和市场。
常见问题
甲方拥有验收标准。供应商的业务分析师可以起草,但产品负责人须在工作开始前批准每一条。
你需要在己方有人能够判断验收。这可以是有时间负责的产品负责人;较大的项目通常会增设独立的QA负责人。
变更前置时间、部署频率、变更失败率和失败部署恢复时间,加上逃逸缺陷。在这些指标可信后,再添加其他指标。
不覆盖。它涵盖供应商自身的信息安全管理;你的产品仍需独立的安全需求和测试。
在构建前约定版本化的真实用例评估集和通过阈值,分别测试升级处理和数据边界,并在每次模型或提示词变更时重新运行评估集。
计划进展、演示链接、趋势形式的交付指标、有责任人的开放风险、开放的安全发现项,以及需要你做出决策的事项(含日期)。
每周评审进展和质量,每次发布时决定上线与否,每季度回顾趋势和团队构成。
相关服务与解决方案
内嵌于交付全流程的AI辅助QA与软件测试
Netbase为产品与电商团队提供软件测试和QA服务,实现频繁发布而不破坏用户关键功能。QA内嵌于交付流程,而非事后补救:验收标准、AI生成测试草稿的自动化回归、性能预算及发布就绪检查。页面速度体现成果:USticker页面加载时间下降21%,PrintLeo提升35%。
Learn More
网络印刷平台:AI设计辅助,从在线设计到印刷就绪文件
网络印刷平台是面向印刷企业的在线订单、设计与印前工作流:客户可在线配置、设计并审批订单,AI可建议版式并发现印稿问题,生产端接收印刷就绪文件。Netbase 已为服装、包装、标牌、促销品及企业B2B门户交付超过50个定制化网络印刷平台。
Learn More
与 Netbase 远程合作
Netbase 所有项目均远程交付,任何国家、任何行业的客户均可与我们合作;Netbase 已服务全球 80 个国家的客户。合同与发票由 Netbase JSC 开具,款项通过银行转账至 Netbase JSC 公司账户或 PayPal Business 支付。欢迎通过 WhatsApp 或邮件联系 CEO Huy Nguyen(David)。
讨论项目
Netbase JSC 帮助企业设计、构建、现代化和运营数字产品及 AI 驱动的业务系统。project@netbasejsc.com
+84 937 869 689
91 Nguyen Chi Thanh, Dong Da, Hanoi, Vietnam
取得联系
告诉我们您想构建、现代化或运营什么。