Fiabilité des tests d'un plan d'exécution

Problème

Dans un environnement d'intégration continue, les tests sont idéalement exécutés au moins une fois par jour afin de tester le build quotidien et de garantir la qualité de l'application testée. Pour connaître la fiabilité de votre série de tests et savoir si la qualité de l'application testée est correctement mesurée, il est indispensable d'examiner de temps en temps les variations des résultats dans le temps. Votre série de tests peut, par exemple, contenir des tests dont l'état change fréquemment, et qui, par conséquent, ne mesurent pas réellement la qualité.

Solution

Utilisez la vue datamart RV_TestStatusExtended pour créer un rapport qui répertorie les résultats d'un test donné dans le cadre d'un plan d'exécution spécifique. Vous pourrez ainsi constater comment les résultats de ce test ont évolué au fil du temps. Pour des raisons pratiques, nous allons restreindre la liste des résultats aux résultats associés aux builds marqués, et examiner ainsi uniquement des builds intermédiaires spécifiques de l'application testée. Ce rapport collecte les données de résultats de test pour des tests effectués dans le cadre de plans d'exécution et de builds. Dans la requête suivante, nous avons :

  • Sélectionné les colonnes que nous souhaitons afficher à partir de cette vue.
  • Limité les résultats à l'ID du test que nous souhaitons examiner et à l'ID du plan d'exécution auquel le test appartient.
  • Ajouté une contrainte pour ne prendre en compte que les builds marqués.
SELECT TestName, ExecutionPlanName, VersionName, BuildName, TestRunID, 
  PassedCount, FailedCount, NotExecutedCount
FROM RV_TestStatusExtended
WHERE TestID = ${TESTID|1|Test ID} AND ExecutionPlanID = ${EXECUTIONPLANID|1|Execution Plan ID} AND BuildIsTagged = 1
ORDER BY BuildOrderNumber
La requête SQL renvoie toutes les exécutions de test pour le test sélectionné dans le plan d'exécution sélectionné. Dans l'exemple suivant, le test a été réexécuté avec le build 579_Drop2 :
TestName Execution PlanName Version Name BuildName TestRunID Passed Count FailedCount NotExecutedCount
UI Tests EN|SQL2012|IE9|IIS 3.0 579_Drop02 7741797 59 5 0
UI Tests EN|SQL2012|IE9|IIS 3.0 579_Drop02 7745078 63 1 0
UI Tests EN|SQL2012|IE9|IIS 3.0 593_Drop03 7787437 63 1 0
UI Tests EN|SQL2012|IE9|IIS 3.0 605_Drop04 7848720 63 1 0