Report 从几个诱惑报告中聚合数据

Report 从几个诱惑报告中聚合数据,report,testng,allure,Report,Testng,Allure,诱惑报告工具设计为每次测试运行显示一个报告。开发者警告过我。无论如何,我需要从这个方便的工具更多 您是否想过将诱惑报告保存数天/月 您是否想过自动分析历史数据 基本上,我需要找到问题的答案:上个月哪些测试是不稳定的,需要稳定下来?不幸的是,我没有从主网站()或internet上的框中找到答案 我的解决方案: 试图解决第一个问题:[已解决] 我试图用jenkins CI工具保存allure报告,但我必须管理1500个TestNg测试,allure报告的生成和归档大约需要10分钟,这对于我们的管

诱惑报告工具设计为每次测试运行显示一个报告。开发者警告过我。无论如何,我需要从这个方便的工具更多

  • 您是否想过将诱惑报告保存数天/月
  • 您是否想过自动分析历史数据
基本上,我需要找到问题的答案:上个月哪些测试是不稳定的,需要稳定下来?不幸的是,我没有从主网站()或internet上的框中找到答案

我的解决方案:

试图解决第一个问题:[已解决]

我试图用jenkins CI工具保存allure报告,但我必须管理1500个TestNg测试,allure报告的生成和归档大约需要10分钟,这对于我们的管道来说是不可接受的。 然后我开始生成关于jenkins slave的报告,并根据下一个结构将其ftp到远程箱:项目类型/管道类型/套件类型/日期/构建编号

我使用btrfs压缩将报表存储为原始项目,这样可以非常有效地压缩json文件(文件压缩5次),并且可以从ui访问文件

UI是一个django(非常喜欢它)项目,它遵循文件系统结构

这种方法允许聚合数据

试图解决第二个问题:[未解决]

我需要为suite_类型(参见上面的结构)在所有运行中聚合数据,并找出在主运行或重新运行尝试中失败的测试(我们使用FailedReporter TestNg listener重新运行失败的测试3次),并将失败的原因与失败的测试进行匹配。理想情况下,我需要将失败的测试结果与存储的报告进行匹配

例如:

我们有两份报告:

../parallel suite/2015-10-21/560

../parallel suite/2015-10-22/584

每个套件都没有通过信用卡测试

  • 560版本测试失败,原因是第三方系统已关闭
  • 584构建中的测试失败,第一次重新运行尝试失败,原因是-第三方系统已关闭,第二次重新运行尝试失败,原因是-IndexOutOfBoundsException:索引:0,大小:0,位于java.util.ArrayList.rangeCheck,第三次尝试通过
因此,我需要知道,
第三方系统停机
错误2天2次,
IndexOutOfBoundsException
2天1次,第三次重新运行尝试第二天通过测试


是否有人朝这个方向工作?

是的,Allure支持聚合报告。但它更多的是关于:

  • 分布式执行(根据Allure模型,每个测试用例都可以标记为执行它的主机)
  • 多次执行(例如,测试是用不同的编程语言编写的-您不能执行单个诱惑适配器)

据我所知,诱惑永远不会支持跟踪历史测试结果、发现趋势等。历史测试结果可能会变得数量巨大,并导致浏览器崩溃。此外,时间线选项卡将不再有意义。其他选项卡需要进行重大更改。为什么不在这些场景中使用声纳?

谢谢您的回答!现在很清楚,我必须创建一些东西来聚合测试结果。我们使用声纳跟踪单元测试的覆盖范围,我将看看如何使用它进行集成和功能测试。@volkos我也在使用诱惑。对我来说,在过去的8个小时里,我做了几次詹金斯的工作。所以我有50多个构建数据。每个构建生成一个报告,我想将最后50个报告的结果合并到一个报告中。我该怎么做?@paul可能你必须同时更新诱惑库和Jenkins插件。如果通过Jenkins插件运行报告生成,测试用例页面将包含
历史
选项卡(因此您可以比较以前作业执行时相同测试的结果)和
重试
选项卡(对于在单个作业执行中多次执行的不稳定测试)。