Merge revision columns in flakiness dashboard
[WebKit-https.git] / Websites / test-results / public / index.html
1 <!DOCTYPE html>
2 <html>
3 <head>
4 <title>WebKit Test Results</title>
5 <link rel="stylesheet" href="common.css">
6 <link rel="stylesheet" href="main.css">
7 <script src="https://svn.webkit.org/repository/webkit/!svn/bc/128779/trunk/PerformanceTests/Dromaeo/resources/dromaeo/web/lib/jquery-1.6.4.js"></script>
8 <script src="https://svn.webkit.org/repository/webkit/!svn/bc/128779/trunk/PerformanceTests/resources/jquery.tablesorter.min.js"></script>
9 <script src="js/autocompleter.js"></script>
10 <script src="js/build.js"></script>
11 <script src="js/dom.js"></script>
12 </head>
13 <body>
14
15 <header id="title">
16 <h1><a href="/">WebKit Test Results</a></h1>
17 <ul>
18     <li><a href="http://build.webkit.org/waterfall">Waterfall</a></li>
19 </ul>
20 </header>
21
22 <form onsubmit="TestResultsView.fetchTest(this['testName'].value);
23     TestResultsView.updateLocationHash();
24     return false;">
25 <input id="testName" type="text" size="150" onpaste="pasteHelper(this, event)"
26     placeholder="Type in a test name, or copy and paste test names on results.html or NRWT stdout (including junks)"></form>
27 <div id="testView"></div>
28
29 <div id="buildersView">
30 <form>
31 Show
32 <label>all tests <select id="builderFailureTypeView"><option>failing</option><option>flaky</option><option value="wrongexpectations">has wrong expectations</option></select></label>
33 <label>on <select id="builderListView"><option value="">Select builder</option></select></label>
34 <label for="builderDaysView">for
35 <select id="builderDaysView" disabled><option>5</option><option>15</option><option selected>30</option></select> days</label>
36 </form>
37 <div id="builderFailingTestsView"></div>
38 </div>
39
40 <div id="tooltipContainer"></div>
41
42 <script>
43
44 var TestResultsView = new (function () {
45     var tooltipContainer = document.getElementById('tooltipContainer');
46
47     tooltipContainer.onclick = function (event) { event.insideTooltip = true; }
48     document.addEventListener('click', function (event) {
49         if (!event.insideTooltip)
50             tooltipContainer.style.display = 'none';
51     });
52
53     window.addEventListener('hashchange', function (event) {
54         TestResultsView.locationHashChanged();
55     });
56
57     this._tooltipContainer = tooltipContainer;
58     this._tests = [];
59     this._currentBuilder = null;
60     this._currentBuilderFailureType = null;
61     this._currentBuilderDays = null;
62     this._oldHash = null;
63     this._builders = {};
64     this._builderByName = {};
65     this._slaves = {};
66     this._repositories = {};
67     this._testCategories = {};
68 });
69
70 TestResultsView.setAvailableTests = function (availableTests) {
71     this._availableTests = availableTests;
72 }
73
74 TestResultsView.setBuilders = function (builders) {
75     this._builders = builders;
76     for (var builderId in builders) {
77         var builder = builders[builderId];
78         this._builderByName[builder.name] = builder;
79     }
80 }
81
82 TestResultsView.setSlaves = function (slaves) {
83     this._slaves = slaves;
84 }
85
86 TestResultsView.setRepositories = function (repositories) {
87     this._repositories = repositories;
88 }
89
90 TestResultsView.setTestCategories = function (testCategories) {
91     this._testCategories = testCategories;
92 }
93
94 TestResultsView.showTooltip = function (anchor, contentElement) {
95     var tooltipContainer = this._tooltipContainer;
96     tooltipContainer.style.display = null;
97
98     while (tooltipContainer.firstChild)
99         tooltipContainer.removeChild(tooltipContainer.firstChild);
100     tooltipContainer.appendChild(contentElement);
101
102     var position = {x: 0, y: 0};
103     var currentNode = anchor;
104     while (currentNode) {
105         position.x += currentNode.offsetLeft;
106         position.y += currentNode.offsetTop;
107         currentNode = currentNode.offsetParent;
108     }
109     tooltipContainer.style.left = (position.x - contentElement.offsetWidth / 2 + anchor.offsetWidth / 2) + 'px';
110     tooltipContainer.style.top = (position.y - contentElement.clientHeight - 5) + 'px';
111 }
112
113 TestResultsView._createResultCell = function (master, builder, result, previousResult) {
114     var buildTime = result['buildTime'];
115     var revisions = result['revisions'];
116     var slave = result['slave'];
117     var buildNumber = result['buildNumber'];
118     var actual = result['actual'];
119     var expected = result['expected'];
120     var timeIfSlow = result.isSlow ? result.roundedTime : '';
121
122     // FIXME: We shouldn't be hard-coding WebKit revisions here.
123     var webkitRepositoryId;
124     for (var repositoryId in TestResultsView._repositories) {
125         if (TestResultsView._repositories[repositoryId].name == 'WebKit')
126             webkitRepositoryId = repositoryId;
127     }
128     var webkitRevision = result.build.revision(webkitRepositoryId);
129     var resultsPage = webkitRevision ? "http://" + master + "/results/" + builder + "/r" + webkitRevision + "%20(" + buildNumber + ")/results.html"
130         : 'javascript:alert("Could no resolve WebKit revision")';
131
132     var anchor = element('a', {'href': resultsPage }, [timeIfSlow]);
133     anchor.onmouseenter = function () {
134         var formattedRevisions = result.build.formattedRevisions(previousResult ? previousResult.build : null);
135         var revisionDescription = [];
136         for (var repositoryName in formattedRevisions) {
137             var revision = formattedRevisions[repositoryName];
138             if (revisionDescription.length)
139                 revisionDescription.push(', ');
140             if (revision.url)
141                 revisionDescription.push(element('a', {'href': revision.url}, [revision.label]));
142             else
143                 revisionDescription.push(revision.label);
144         }
145
146         TestResultsView.showTooltip(anchor, element('div', {'class': 'tooltip'}, [
147             element('ul', [
148                 element('li', ['Build Time: ' + result.build.formattedBuildTime()]),
149                 element('li', ['Revision: '].concat(revisionDescription)),
150                 element('li', ['Build: ', element('a', {'href': result.build.buildUrl()}, [buildNumber]), ' (',
151                     element('a', {'href': resultsPage}, ['results']), ')']),
152                 element('li', ['Actual: ' + actual]),
153                 element('li', ['Expected: ' + expected]),
154             ])
155         ]));
156     }
157     var cell = element('span', {
158         'class': actual + ' resultCell',
159     }, [anchor]);
160     return cell;
161 }
162
163 TestResultsView._populateTestPane = function(testName, results, section) {
164     var test = {name: testName, category: 'LayoutTest'}; // FIXME: Use the real test object.
165     var table = element('table', {'class': 'resultsTable tablesorter'}, [element('caption', [this._linkifiedTestName(test)])]);
166
167     var resultsByBuilder = results['builders'];
168     var buildTimes = new Array();
169     for (var builderId in resultsByBuilder) {
170         var results = resultsByBuilder[builderId];
171         this._createBuildsAndComputeSlownessOfResults(builderId, results);
172         for (var i = 0; i < results.length; i++) {
173             var time = results[i].build.time();
174             if (buildTimes.indexOf(time) < 0)
175                 buildTimes.push(time);
176         }
177     }
178     buildTimes.sort(function (a, b) { return b - a; });
179
180     var repositories = [];
181     for (var repositoryId in this._repositories)
182         repositories.push(this._repositories[repositoryId]);
183
184     table.appendChild(this._createTestResultHeader('Builder', repositories));
185
186     var tbody = element('tbody');
187     for (var builderId in resultsByBuilder) {
188         var builder = this._builders[builderId];
189         // FIXME: Add a master name if there is more than one.
190         tbody.appendChild(this._createTestResultRow(builder.name, resultsByBuilder[builderId], builder, buildTimes, repositories));
191     }
192     table.appendChild(tbody);
193     section.appendChild(table);
194     $(table).tablesorter();
195 }
196
197 TestResultsView._urlFromTest = function (test) {
198     var category = this._testCategories[test.category];
199     if (!category)
200         return null;
201     return category.url.replace(/\$testName/g, test.name);
202 }
203
204 TestResultsView._linkifiedTestName = function (test) {
205     var url = this._urlFromTest(test);
206     return url ? element('a', {'href': url}, [test.name]) : test.name;
207 }
208
209 TestResultsView._createTestResultHeader = function (labelForFirstColumn, repositories) {
210     var latestResultsLabel = '';
211     if (repositories) {
212         latestResultsLabel = ['Latest results', element('br'),
213             repositories.map(function (repository) { return repository.name; }).join(' / ')];
214     }
215         
216     return element('thead', [element('tr', [
217         element('th', [labelForFirstColumn]),
218         element('th', ['Bug']),
219         element('th', ['Expectations']),
220         element('th', ['Slowest']),
221         element('th', latestResultsLabel),
222         element('th')])]);
223 }
224
225 TestResultsView._createBuildsAndComputeSlownessOfResults = function (builderId, results) {
226     for (var i = 0; i < results.length; i++) {
227         var result = results[i];
228         result.builder = builderId;
229         result.build = new TestBuild(this._repositories, this._builders, result);
230         result.roundedTime = result.time > 10000 ? Math.round(result.time / 1000) : Math.round(result.time / 100) / 10;
231         result.isSlow = result.time > 1000;
232     }
233 }
234
235 TestResultsView._createTestResultRow = function (title, results, builder, buildTimes, repositories) {
236     var sortedResults = results.sort(function (result1, result2) { return result2.build.time() - result1.build.time(); });
237     var cells = new Array();
238
239     function addEmptyCell() { cells.push(element('span', {'class': 'resultCell'}, [element('a')])); }
240
241     var buildTimeIndex = 0;
242     for (var i = 0; i < sortedResults.length; i++) {
243         var result = sortedResults[i];
244         if (buildTimes) {
245             while (buildTimes[buildTimeIndex] > result.build.time()) {
246                 addEmptyCell();
247                 buildTimeIndex++;
248             }
249             if (buildTimes[buildTimeIndex] == result.build.time())
250                 buildTimeIndex++;
251         }
252         cells.push(this._createResultCell(builder.master, builder.name, result, sortedResults[i - 1]));
253     }
254     if (buildTimes) {
255         while (buildTimeIndex < buildTimes.length) {
256             addEmptyCell();
257             buildTimeIndex++;
258         }
259     }
260
261     var seenBugLink = false;
262     var formattedModifiers = sortedResults[0].modifiers.split(' ').map(function (modifier) {
263         if (modifier.indexOf('/') > 0) {
264             seenBugLink = true;
265             return element('a', {'href': (modifier.indexOf('http') == 0 ? '' : 'http://') + modifier}, [modifier]);
266         }
267         return modifier;
268     });
269
270     if (!seenBugLink) {
271         // FIXME: Make bug tracker configurable.
272         formattedModifiers.push(element('a',
273             {'href': 'https://bugs.webkit.org/enter_bug.cgi?product=WebKit&component=Tools%20/%20Tests&form_name=enter_bug&keywords=LayoutTestFailure'},
274             ['File a bug']));
275     }
276
277     var slowestTime = Math.max.apply(Math, results.map(function (result) { return result.roundedTime; }));
278     if (slowestTime >= 1)
279         slowestTime += 's';
280     else
281         slowestTime = '';
282
283     var latestRevisions = [];
284     if (repositories) {
285         var build = sortedResults[0].build;
286         for (var i = 0; i < repositories.length; i++) {
287             var revisionInfo = build.formattedRevision(repositories[i].id);
288             if (latestRevisions.length)
289                 latestRevisions.push(' / ');
290             if (revisionInfo.url)
291                 latestRevisions.push(element('a', {'href': revisionInfo.url}, [revisionInfo.label]));
292             else
293                 latestRevisions.push(revisionInfo.label);
294         }
295     }
296
297     return element('tr', [
298         element('th', [title]),
299         element('td', {'class': 'modifiers'}, formattedModifiers),
300         element('td', {'class': 'expected'}, [sortedResults[0].expected]),
301         element('td', {'class': 'slowestTime'}, [slowestTime])]
302         .concat(element('td', latestRevisions))
303         .concat([element('td', cells)]));
304 }
305
306 TestResultsView.fetchTest = function (testName) {
307     if (this._tests.indexOf(testName) >= 0)
308         return;
309
310     var self = this;
311
312     var closeButton = element('div', {'class': 'closeButton'});
313     closeButton.innerHTML = '<svg viewBox="0 0 100 100"><g stroke-width="10">'
314         + '<circle cx="50" cy="50" r="45" fill="transparent"></circle><polygon points="30,30 70,70"></polygon>'
315         + '<polygon points="30,70 70,30"></polygon></g></svg>';
316     closeButton.addEventListener('click', function (event) {
317             self._removeTest(testName);
318             section.parentNode.removeChild(section);
319             event.preventDefault();
320         });
321     var section = element('section', {'id': testName, 'class': 'testResults'}, [closeButton, 'Loading...']);
322
323     document.getElementById('testView').appendChild(section);
324
325     var xhr = new XMLHttpRequest();
326     xhr.open("GET", 'api/results.php?test=' + testName, true);  
327     xhr.onload = function(event) {
328         var response = JSON.parse(xhr.response);
329         section.removeChild(section.lastChild); // Remove Loading...
330         if (response['status'] != 'OK') {
331             section.appendChild(text('Failed to load results for ' + testName + ': ' + response['status']));
332             return;
333         }
334         self._populateTestPane(testName, response, section);
335     }
336     xhr.send();
337     this._tests.push(testName);
338 }
339
340 TestResultsView._removeTest = function (testName) {
341     var index = this._tests.indexOf(testName);
342     if (index < 0)
343         return;
344     this._tests.splice(index, 1);
345     this.updateLocationHash();
346 }
347
348 TestResultsView.fetchTests = function (testNames, doNotUpdateHash) {
349     for (var i = 0; i < testNames.length; i++)
350         this.fetchTest(testNames[i], doNotUpdateHash);
351     if (!doNotUpdateHash)
352         this.updateLocationHash();
353 }
354
355 TestResultsView._populateBuilderPane = function(builderName, failureType, results, section) {
356     var table = element('table', {'class': 'resultsTable tablesorter'}, [element('caption', [builderName])]);
357     var resultsByBuilder = results['builders'];
358     var resultsByTests;
359     var builderId;
360     for (var currentBuilderId in resultsByBuilder) {
361         builderId = currentBuilderId;
362         resultsByTests = resultsByBuilder[builderId];
363     }
364     if (!resultsByTests)
365         return;
366
367     table.appendChild(this._createTestResultHeader('Test'));
368
369     var tbody = element('tbody');
370     var builder = this._builders[builderId];
371     var self = this;
372     for (var testId in resultsByTests) {
373         var results = resultsByTests[testId];
374         if (!results.length)
375             continue;
376         this._createBuildsAndComputeSlownessOfResults(builderId, resultsByTests[testId]);
377         var test = this._availableTests[testId];
378         var externalTestLink = element('a', {'class': 'externalTestLink', 'href': this._urlFromTest(test)});
379         var testName = element('a', {'href':'#'}, [test.name]);
380         testName.onclick = function (event) {
381             self.fetchTests([this.textContent]);
382             event.preventDefault();
383             return false;
384         }
385         tbody.appendChild(this._createTestResultRow(element('span', [testName, externalTestLink]), resultsByTests[testId], builder));
386     }
387
388     table.appendChild(tbody);
389     section.appendChild(table);
390
391     $(table).tablesorter(); 
392 }
393
394 TestResultsView.fetchFailingTestsForBuilder = function (builderName, numberOfDays, failureType, doNotUpdateHash) {
395     var section = element('section', {'class': 'testResults'}, ['Loading...']);
396
397     var container = document.getElementById('builderFailingTestsView');
398     container.innerHTML = '';
399     container.appendChild(section);
400
401     var self = this;
402     var xhr = new XMLHttpRequest();
403     var builderId = this._builderByName[builderName].id;
404     xhr.open('GET', 'data/' + builderId + '-' + failureType + '.json', true);  
405     xhr.onload = function(event) {
406         if (xhr.status != 200) {
407             section.appendChild(text('Failed to load results for ' + builderName + ': ' + xhr.status));
408             return;
409         }
410         var response = JSON.parse(xhr.response);
411         section.innerHTML = '';
412         if (response['status'] != 'OK') {
413             section.appendChild(text('Failed to load results for ' + builderName + ': ' + response['status']));
414             return;
415         }
416         // FIXME: Normalize failureType.
417         self._currentBuilder = builderName;
418         self._currentBuilderFailureType = failureType;
419         self._currentBuilderDays = numberOfDays;
420         self._populateBuilderPane(builderName, failureType, response, section);
421         if (!doNotUpdateHash)
422             self.updateLocationHash();
423     }
424     xhr.send();
425 }
426
427 TestResultsView._createLocationHash = function (tests) {
428     var params = {
429         'tests': tests.join(','),
430         'builder': this._currentBuilder,
431         'builderFailureType': this._currentBuilderFailureType,
432         'builderDays': this._currentBuilderDays,
433     };
434     var hash = '';
435     for (var key in params) {
436         var value = params[key];
437         if (value === null || value === undefined)
438             continue;
439         hash += '&' + decodeURIComponent(key) + '=' + decodeURIComponent(value);
440     }
441     return hash;
442 }
443
444 TestResultsView.updateLocationHash = function () {
445     location.hash = this._createLocationHash(this._tests);
446     this._oldHash = location.hash;
447 }
448
449 TestResultsView.locationHashChanged = function () {
450     var newHash = location.hash;
451     if (newHash == this._oldHash)
452         return;
453     this._oldHash = newHash;
454     this._tests = [];
455     this.loadTestsFromLocationHash();
456 }
457
458 TestResultsView.loadTestsFromLocationHash = function () {
459     var parsed = {};
460     location.hash.substr(1).split('&').forEach(function (component) {
461         var equalPosition = component.indexOf('=');
462         if (equalPosition < 0)
463             return;
464         var name = decodeURIComponent(component.substr(0, equalPosition));
465         parsed[name] = decodeURIComponent(component.substr(equalPosition + 1));
466     });
467     var doNotUpdateHash = true;
468     if (parsed['tests']) {
469         document.getElementById('testView').innerHTML = '';
470         this.fetchTests(parsed['tests'].split(','), doNotUpdateHash);
471     }
472     if (parsed['builder']) {
473         this.fetchFailingTestsForBuilder(
474             parsed['builder'],
475             parseInt(parsed['builderDays']) || 5,
476             parsed['builderFailureType'] || 'failing', doNotUpdateHash);
477     }
478     return parsed;
479 }
480
481 function fetchManifest(callback) {
482     var xhr = new XMLHttpRequest();
483     xhr.open("GET", 'api/manifest.php', true);  
484     xhr.onload = function(event) {
485         var response = JSON.parse(xhr.response);
486         if (response['status'] != 'OK') {
487             alert('Failed to load manifest:' + response['status']);
488             console.log(response);
489             return;
490         }
491         callback(response);
492     }  
493     xhr.send();
494 }
495
496 fetchManifest(function (response) {
497     var testNames = response['tests'].map(function (test) { return test['name']; })
498     var input = document.getElementById('testName');
499     input.autocompleter = new Autocompleter(input, testNames);
500
501     var builderListView = document.getElementById('builderListView');
502     for (var builderId in response['builders'])
503         builderListView.appendChild(element('option', [text(response['builders'][builderId].name)]));
504
505     var builderDaysView = document.getElementById('builderDaysView');
506     var builderFailureTypeView = document.getElementById('builderFailureTypeView');
507
508     function updateBuilderView() {
509         if (builderListView.value)
510             TestResultsView.fetchFailingTestsForBuilder(builderListView.value, builderDaysView.value, builderFailureTypeView.value);
511     }
512
513     builderListView.addEventListener('change', updateBuilderView);
514     builderDaysView.addEventListener('change', updateBuilderView);
515     builderFailureTypeView.addEventListener('change', updateBuilderView);
516
517     function mapById(items) {
518         var results = {};
519         for (var i = 0; i < items.length; i++)
520             results[items[i].id] = items[i];
521         return results;
522     }
523
524     TestResultsView.setAvailableTests(mapById(response['tests']));
525     TestResultsView.setBuilders(mapById(response['builders']));
526     TestResultsView.setSlaves(mapById(response['slaves']));
527     TestResultsView.setRepositories(mapById(response['repositories']));
528     TestResultsView.setTestCategories(response['testCategories']);
529     // FIXME: Updating location.href shouldn't be TestResultsView's responsibility.
530     var parsedStates = TestResultsView.loadTestsFromLocationHash();
531     if (parsedStates['builder']) {
532         builderListView.value = parsedStates['builder'];
533         builderDaysView.value = parsedStates['builderDays'];
534         builderFailureTypeView.value = parsedStates['builderFailureType'];
535     }
536 });
537
538 function pasteHelper(input, event) {
539     function removeJunkFromNRWTStdout(input) {
540         return input.replace(/(\[[\w ]+\])|(.+\:.+)/g, '').replace(/^[ \t]+|[ \t]+$/gm, '');
541     }
542
543     function removeJunkFromResultsPage(input) {
544         return input.replace(/(^[^\/]+$)|(^\+)/gm, '').replace(/\([^)]+\)/g, '').replace(/\s+[A-Za-z]+(\s+[A-Za-z]+)*\s*$/gm, '');
545     }
546
547     var text = event.clipboardData.getData('text/plain');
548     if (text.indexOf('\n') < 0)
549         return;
550
551     var urls = removeJunkFromResultsPage(removeJunkFromNRWTStdout(text)).split('\n');
552     TestResultsView.fetchTests(urls.filter(function (url) { return url.length; }));
553     event.preventDefault();
554 }
555
556 </script>
557 </body>
558 </html>