测试结果需要截图保留证据吗?

文摘   2024-05-13 11:38   福建  

周六的时候,在ASPICE V4.0 Upgrade培训的课堂上,有个CA资质的学员问了这样一个问题:

  • 项目开发的是“中控”产品,给项目做评估的ASPICE Assessor要求,为满足ASPICE V4.0,每个测试用例的测试结果都需要保留截图证据,“中控”产品的功能比较多,有很多HMI,按照Assessor的要求来做的话,会很影响测试效率和成本,并且似乎看不到由此带来的价值。

  • Assessor引用了ASPICE中的如下的要求:

    SYS.5.BP3: Perform verification of the integrated system. Perform the verification of the integrated system using the selected verification measures. Record the verification results including pass/fail status and corresponding verification measure data.

 

必须要保留截图证据吗?


有经验的顾问,遇到这样的问题,一定不会直接给出标准答案(事实上,也不存在标准答案)。一定会说:it depends on….



如上图所示,执行测试时,需要记录”实际测试结果”,用来支持“判定”,这样也能方便验证测试结果的正确性。

 

可以看一些具体的场景:

(1) 使用工具进行测试,工具会输出Test log

此时需要保留Test Log,并基于Test Log,填入实际测试结果


VDA Guideline V1.0中,关于这一点,有如下的Rating Rule要求:

[SYS.5.RL.7] If the test results contain only a pure passed/failed in-formation without a supporting test log, the indicator BP4 must not be rated higher than P

 

(2) “预期结果”是一个范围,是不确定的

例如:

[预期结果] : Response Time < 500 ms

此时[实际测试结果] 需要记录实际测量到的数据结果:Response Time = 457ms


是否需要对使用仪器进行测量的值,拍照保留证据呢?

 

(3) 测试用例没有通过(FAIL)

此时为了有效的支持缺陷的再现和解决,除了记录实际的测试结果之外,保留证据会比较有帮助。

 

(4) “预期结果”是确定的

例如:HMI中的画面迁移、画面显示等

此时[实际测试结果],只是标识一下与[预期结果]相同 & 不保留截图证据,会存在什么风险呢?

 

聊到这里,想起很多年之前,部门内另外项目中发生的一件事情:

  • 交付给客户的一个正式版本,客户测试时发现了一个缺陷。客户和项目组对这个缺陷进行了5Why分析,发现这个缺陷是“测试组”漏出的缺陷。测试组的测试用例中有对其进行测试,但测试结果显示的是”PASS”。

  • 这个分析结果的影响就是:测试组重新执行测试,并且要保留每个测试的截图证据。


这个情况,具备普遍性吗,还仅仅是个”个例”呢?

 

我还想举个地铁的例子:

乘坐地铁的人,是需要买票的。

在中国、日本等地区,使用“闸机”来检票

在德国,没有检票的“闸机”

 

那么,在德国,就真的没有逃票的吗?

只要有逃票的,那么“不使用闸机来进行检票”的做法就存在一定的风险

但这个风险是可以接受的吧?

 

需要记录”实际测试结果”,但是否需要保留测试结果的最原始的截图证据,这个是需要综合考虑的,风险、成本、收益、性价比......

 

不保留原始截图证据,一定有风险,但要考虑这个风险是否是可以接受的…..

 

当我讲到这里的时候,这个学员说,项目的Assessor无论如何都不接受解释,一定要求要截图保留证据,那应该怎么办呢?

 

这个时候,我给这个学员说了一个笑话:

郭德纲有一个相声:比如我和火箭专家说,你那火箭不行,燃料不好,我认为得烧柴,最好是烧煤,煤还得精选,水洗煤不行。如果那火箭科学家拿正眼看我一眼,那他就输了…


(-- 完 --)


先起公司近期公开课:



推荐阅读:


仨人谈起
咨询是盛开的生命;传播理念、思想、希望和行动;谈Automotive SPICE,汽车功能安全(ISO26262 + SOTIF),汽车网络信息安全
 最新文章