Build fix. The query results weren't sorted by the latest commit time,
[WebKit-https.git] / Websites / test-results / ChangeLog
1 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Build fix. The query results weren't sorted by the latest commit time,
4         yielding wrong set of tests to be listed in the builder pane.
5
6         * public/include/test-results.php:
7
8 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
9
10         Links in new flakiness dashboard could benefit from tooltips
11         https://bugs.webkit.org/show_bug.cgi?id=123381
12
13         Reviewed by Alexey Proskuryakov.
14
15         Add title content attribute on each hyperlink in the builder pane.
16
17         * public/index.html:
18         (TestResultsView._populateBuilderPane):
19
20 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
21
22         Commit the right change.
23
24         * public/index.html:
25
26 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
27
28         The new flakiness dashboard should sort builder and test names
29         https://bugs.webkit.org/show_bug.cgi?id=123363
30
31         Reviewed by Simon Fraser.
32
33         Sort the forgotten builders in the menu.
34
35         * public/index.html:
36
37 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
38
39         The new flakiness dashboard should sort builder and test names
40         https://bugs.webkit.org/show_bug.cgi?id=123363
41
42         Reviewed by Simon Fraser.
43
44         Sort builders and tests by their name in each pane.
45
46         * public/index.html:
47         (TestResultsView._populateTestPane): Lexicologically sort builders by their name.
48         (TestResultsView._sortObjectsByName): Added.
49         (TestResultsView._populateBuilderPane): Lexicologically sort builders by their name.
50
51 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
52
53         Merge revision columns in flakiness dashboard
54         https://bugs.webkit.org/show_bug.cgi?id=123360
55
56         Reviewed by Simon Fraser.
57
58         Merge revision numbers into one cell separated by /, and clearly label them as "latest revisions".
59         Also add colors for missing & audio failures so that they won't be an empty cell.
60
61         * public/index.html:
62         (TestResultsView._createTestResultHeader): Create a single th for the list of repository names.
63         (TestResultsView._createTestResultRow): Use single td for all revision numbers.
64         * public/js/build.js:
65         (.this.formattedRevision): Don't prefix revision numbers with '@' when we're not in the tooltip.
66         * public/main.css:
67         (.resultsTable .AUDIO a): Added.
68         (.resultsTable .MISSING a): Added.
69
70 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
71
72         One more build fix. Put each latest revision information in an actual td.
73
74         * public/index.html:
75
76 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
77
78         Yet another set of build fixes.
79
80         1. Manually strip / from revisions JSON if there is any.
81         2. Suppress warnings from ob_end_flush.
82         3. Allow "+" in actual and expected results as used in "TEXT+IMAGE".
83
84         * public/api/report.php:
85         * public/include/test-results.php:
86
87 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
88
89         Another build fix. Move .htaccess to public.
90
91         * .htaccess: Removed.
92         * public/.htaccess: Copied from .htaccess.
93
94 2013-10-25  Ryosuke Niwa  <rniwa@webkit.org>
95
96         It turns out that the current instruction only works on Mountain Lion.
97
98         Also fixed some typos.
99
100         * Install.md:
101
102 2013-10-24  Ryosuke Niwa  <rniwa@webkit.org>
103
104         Add an instruction on how to setup test-results app
105         https://bugs.webkit.org/show_bug.cgi?id=123321
106
107         Rubber-stamped by Stephanie Lewis.
108
109         Added Install.md and updated config.json accordingly.
110
111         Also moved init-database.sql out of public/include since it doesn't need to be accessible via httpd.
112
113         * Install.md: Added.
114         * config.json:
115         * init-database.sql: Moved from public/include/init-database.sql.
116
117 2013-10-24  Ryosuke Niwa  <rniwa@webkit.org>
118
119         Move everything except ChangeLog and config.json into public directory.
120         https://bugs.webkit.org/show_bug.cgi?id=123319
121
122         Rubber-stamped by Stephanie Lewis.
123
124         * admin: Removed.
125         * admin/admin.css: Removed.
126         * admin/builders.php: Removed.
127         * admin/index.php: Removed.
128         * admin/repositories.php: Removed.
129         * api: Removed.
130         * api/failing-tests.php: Removed.
131         * api/manifest.php: Removed.
132         * api/report.php: Removed.
133         * api/results.php: Removed.
134         * common.css: Removed.
135         * config.json: Copied from include/config.json.
136         * include: Removed.
137         * include/admin-footer.php: Removed.
138         * include/admin-header.php: Removed.
139         * include/config.json: Removed.
140         * include/db.php: Removed.
141         * include/init-database.sql: Removed.
142         * include/json-shared.php: Removed.
143         * include/test-results.php: Removed.
144         * index.html: Removed.
145         * js: Removed.
146         * js/autocompleter.js: Removed.
147         * js/build.js: Removed.
148         * js/dom.js: Removed.
149         * main.css: Removed.
150         * public: Added.
151         * public/admin: Copied from admin.
152         * public/api: Copied from api.
153         * public/common.css: Copied from common.css.
154         * public/include: Copied from include.
155         * public/include/config.json: Removed.
156         * public/include/db.php:
157         * public/index.html: Copied from index.html.
158         * public/js: Copied from js.
159         * public/main.css: Copied from main.css.
160
161 2013-10-24  Ryosuke Niwa  <rniwa@webkit.org>
162
163         Showing lists of flaky tests for a builder takes too long
164         https://bugs.webkit.org/show_bug.cgi?id=123311
165
166         Reviewed by Sam Weinig.
167
168         Generate JSONs for tests failing, flaky, or with wrong expectation at the time a builder reports results
169         instead when the frontend requests to those those results since it takes multiple seconds or minutes to
170         generate those JSON files.
171
172         * api/failing-tests.php: Moved and renamed to manually generate all JSON files for a given builder.
173         (main):
174
175         * api/report.php: Manually flush and end the request (to avoid blocking run-webkit-tests on the other side
176         for minutes), then generate JSONs for tests that are failing, are flaky, and have wrong expectations.
177
178         * api/results.php: Merge format_result_rows here since it's not used anywhere else.
179
180         * include/config.json: Added the path to the data directory into which JSON files are generated.
181
182         * include/db.php:
183         (configPath): Takes a relative path value from config.json, and resolves it.
184
185         * include/json-shared.php:
186         (echo_success): Extracted from exit_with_success.
187         (exit_with_success):
188
189         * include/test-results.php:
190         (add_builder): Extracted from add_build.
191         (add_build):
192         (ResultsJSONWriter): Extracted from api/failing-tests.php.
193         (ResultsJSONWriter.__construct):
194         (ResultsJSONWriter.start):
195         (ResultsJSONWriter.end):
196         (ResultsJSONWriter.add_results_for_test_if_matches):
197         (ResultsJSONWriter.pass_for_failure_type):
198         (FailingResultsJSONWriter): Extracted from index.html's TestResultsView._matchesFailureType.
199         (FailingResultsJSONWriter.__construct):
200         (FailingResultsJSONWriter.pass_for_failure_type):
201         (FlakyResultsJSONWriter): Ditto.
202         (FlakyResultsJSONWriter.__construct):
203         (FlakyResultsJSONWriter.pass_for_failure_type):
204         (WrongExpectationsResultsJSONWriter): Ditto.
205         (WrongExpectationsResultsJSONWriter.__construct):
206         (WrongExpectationsResultsJSONWriter.pass_for_failure_type):
207         (ResultsJSONGenerator): Ditto.
208         (ResultsJSONGenerator.__construct):
209         (ResultsJSONGenerator.generate):
210         (ResultsJSONGenerator.open_json_for_failure_type):
211         (ResultsJSONGenerator.write_jsons):
212
213         * index.html:
214         (TestResultsView):
215         (TestResultsView.setBuilders):
216         (TestResultsView._createResultCell): Add a hyperlink to results.html in the tooltip.
217         (TestResultsView.fetchFailingTestsForBuilder): Fetch the generated JSON files.
218
219 2013-10-23  Ryosuke Niwa  <rniwa@webkit.org>
220
221         Reverted erroneously committed changes from the previous commit.
222
223         * index.html:
224
225 2013-10-23  Ryosuke Niwa  <rniwa@webkit.org>
226
227         Clicking on a test name on the new flakiness dashboard should add a new test pane
228         https://bugs.webkit.org/show_bug.cgi?id=123194
229
230         Reviewed by Simon Fraser.
231
232         Added a new click handler on each test name inside the builder test view add a new test pane.
233         Moved the old trac link to a right-arrow inline SVG icon.
234
235         Also tweaked the style so that the builder test view looks different from other test panes.
236
237         * index.html:
238         (TestResultsView._urlFromTest): Extracted from TestResultsView._linkifiedTestName.
239         (TestResultsView._populateBuilderPane): Fetch the test when its name is clicked.
240         Added a circled right arrow for the old trac link.
241         * main.css: Tweaked the style to move the rounded border around the builder test view to be
242         around the form controls to clearly differentiate it from a regular test pane.
243
244 2013-10-22  Ryosuke Niwa  <rniwa@webkit.org>
245
246         New flakiness dashboard's test pane should show the latest WebKit revision for each builder
247         https://bugs.webkit.org/show_bug.cgi?id=123189
248
249         Reviewed by Simon Fraser.
250
251         * index.html:
252         (TestResultsView._populateTestPane): Call _createTestResultHeader and _createTestResultRow with
253         a list of repository information.
254         (TestResultsView._createTestResultHeader): Optionally creates headers for a list of repositories.
255         (TestResultsView._createTestResultRow): Add a hyperlinked revision information for each builder.
256         Also add a hyperlink to file a Bugzilla bug when there is no bug associated with the test already.
257         * js/build.js:
258         (Build.formattedRevision): Extracted from Build.formattedRevisions.
259         (Build.formattedRevisions):
260
261 2013-10-22  Ryosuke Niwa  <rniwa@webkit.org>
262
263         Make tables on the new flakiness dashboard sortable
264         https://bugs.webkit.org/show_bug.cgi?id=123141
265
266         Reviewed by Simon Fraser.
267
268         Use jquery.tablesorter.js to make test and builder tables sortable. The jquery plugin is already used by run-perf-tests.
269
270         * index.html:
271         (TestResultsView._populateTestPane): Add tablesorter to the class name and wrap tr's inside a tbody so that tablesorter
272         could sort them.
273         (TestResultsView._populateBuilderPane): Ditto.
274         * main.css:
275         (.resultsTable thead): Use cursor: pointer to signify the fact it's clickable.
276         (.resultsTable th): Don't repeat arrows.
277         (.resultsTable th.headerSortUp): Inline SVG up arrow.
278         (.resultsTable th.headerSortDown): Inline SVG down arrow.
279
280 2013-10-21  Ryosuke Niwa  <rniwa@webkit.org>
281
282         New flakiness dashboard should hyperlink test names, WebKit revisions, and bubbles
283         https://bugs.webkit.org/show_bug.cgi?id=123134
284
285         Reviewed by Stephanie Lewis.
286
287         Copied admin.css, admin-header.php, admin-footer.php, builders.php, repositories.php from WebKit Perf Monitor.
288         (Unfortunately WebKit Perf Monitor hasn't been committed into WebKit repository just yet.)
289
290         Updated various parts of index.html to linkify test names, build numbers, and bubbles (to results page).
291
292         * admin/admin.css: Added.
293         * admin/builders.php: Added.
294         * admin/index.php: Removed the duplicated code now that it uses admin-header.php.
295         * admin/repositories.php: Added.
296         * api/manifest.php: Use camelCase for blame_url and build_url to be consistent with other JSON properties.
297         Also exported testCategories from config so that we can linkify test names in the dashboard.
298         * include/admin-footer.php: Added.
299         * include/admin-header.php: Added.
300         * include/config.json: Added test categories. This avoids hard-coding the URL to trac in php/js.
301         * include/init-database.sql: Added name and build_url to builders table and category to tests.
302         * include/test-results.php: Assume the test category to be LayoutTest for now.
303
304         * index.html:
305         (TestResultsView): Initialize _builders, _slaves, _repositories, _testCategories as dictionaries as intended.
306         (TestResultsView.setTestCategories): Added.
307         (TestResultsView._createResultCell): Dynamically resolve URLs of results page and and build page.
308         (TestResultsView._populateTestPane): Linkify the test name. Unfortunately we don't have a test object anywhere.
309         We need to figure out a way to find the test object here eventually. For now, hard-coding "LayoutTest" works.
310         (TestResultsView._linkifiedTestName): Added.
311         (TestResultsView._createBuildsAndComputeSlownessOfResults): Takes builderId to set "builder" property on each
312         result object as it's used by Build class.
313         (TestResultsView._populateBuilderPane):
314         (fetchManigest):
315
316         * js/build.js:
317         (Build.buildUrl): Support $builderName so that we don't have to keep repeating builder names in the database.
318         (Build.revision): Don't access [0] if revisions[repositoryId] was undefined.
319
320 2013-10-21  Ryosuke Niwa  <rniwa@webkit.org>
321
322         New flakiness dashboard should align results by revision numbers
323         https://bugs.webkit.org/show_bug.cgi?id=123129
324
325         Reviewed by Tim Horton.
326
327         * include/config.json: Specify the default cache time to be 10 minutes.
328         * include/json-shared.php: Added Expires and Cache-Control headers. It's configurable via config.json.
329         * index.html:
330         (TestResultsView._createResultCell): Don't put '-' in a result cell without time.
331         (TestResultsView._populateTestPane): Create an array of build times ordered from the newest to the oldest.
332         Not that build.time() is the newest commit time among all repository for each result. e.g. if we had
333         both WebKit and Safari repository information in a given result, the newer of the two will be used.
334         (TestResultsView._createTestResultHeader): Added.
335         (TestResultsView._createBuildsAndComputeSlownessOfResults): Extracted from _createTestResultRow so
336         that _populateTestPane could use Build object before calling _createTestResultRow.
337         (TestResultsView._createTestResultRow): Takes buildTimes. Insert an empty cell for a build time if
338         the current row doesn't contain that a result for that build time.
339         (TestResultsView._populateBuilderPane):
340         * main.css: Tweaked the style so that bubbles are aligned vertically without '-'.
341         (.resultsTable):
342         (.resultsTable thead th):
343         (.resultsTable .resultCell):
344         (.resultsTable a):
345         (.resultsTable span a):
346
347 2013-10-21  Ryosuke Niwa  <rniwa@webkit.org>
348
349         New flakiness dashboard show test time, modifiers, and flaky tests
350         https://bugs.webkit.org/show_bug.cgi?id=123119
351
352         Reviewed by Tim Horton.
353
354         * api/failing-tests.php: Manually serialize each row in the results to avoid hitting the memory limit.
355         * include/db.php:
356         (Database::query): Added.
357         (Database::fetch_next_row): Added.
358         * include/init-database.sql: Added modifiers and time columns to results table.
359         * include/test-results.php:
360         (store_test_results): Update start_time and end_time to the union of the new interval and the existing interval.
361         (recursively_add_test_results): Handle empty $full_name to eliminate the loop over tests in store_test_results.
362         Also verify that each test name, expected and actual results conform to the specific format to prevent XSS.
363         Also use insert_row instead of select_or_insert_row to avoid issuing an unnecessary SQL query.
364         (format_result): Extracted from format_result_rows. Used in failing-tests.php.
365         * index.html:
366         (TestResultsView): Added _currentBuilderFailureType and _currentBuilderDays.
367         (TestResultsView._createResultCell): Show the test time and the expected result.
368         (TestResultsView._createTestResultRow): Compute the slowest run and also round time to tenth of second for time
369         less than 10s or second if it's more than 10s so that the test time will always be shown in two digits.
370         Also show the bug number and the latest expected result on the left columns after linkifying the bug numbers. 
371         (TestResultsView._matchesFailureType): Added. Determines whether results is of a particular failure type.
372         (TestResultsView._populateBuilderPane):
373         (TestResultsView.fetchFailingTestsForBuilder): Store the failure type such as flaky, wrongtestexpectations.
374         (TestResultsView.updateLocationHash):
375         (TestResultsView.loadTestsFromLocationHash):
376         (fetchManifest):
377         * js/dom.js:
378         (element): appendChild if an item is a Node. Otherwise, e.g. integer, create a text node out of toString() call.
379         * main.css: Updated styles.
380
381 2013-10-18  Ryosuke Niwa  <rniwa@webkit.org>
382
383         New flakiness dashboard should support showing the failing tests per builder
384         https://bugs.webkit.org/show_bug.cgi?id=123011
385
386         Reviewed by Timothy Hatcher.
387
388         Added the feature. Also did some refactoring to add this feature.
389
390         * ChangeLog: Added.
391         * api/failing-tests.php: Added.
392         * api/manifest.php: Removed the code to make maps by id. The work is now done in index.html.
393         * api/results.php:
394         * common.css: Added. Extracted from index.html.
395         * include/test-results.php: Extracted parse_revisions_array and format_result_rows from results.php.
396         * index.html:
397         * main.css: Added.
398         (TestResultsView.setAvailableTests): Added.
399         (TestResultsView.showTooltip): Fixed the code to compute x and y coordinates of the tooltip to take
400         scrolled positions into account.
401         (TestResultsView._createTestResultRow): Extracted from _populateTestPane.
402         (TestResultsView.fetchTest): Added the code to show "Loading..." in the pane while loading the JSON.
403         (TestResultsView.fetchTests): Respect the doNotUpdateHash flag.
404         (TestResultsView._populateBuilderPane): Added.
405         (TestResultsView.fetchFailingTestsForBuilder): Added.
406         (TestResultsView.updateLocationHash): Serialize builder & builderDays.
407         (TestResultsView.locationHashChanged): Don't delete existing test panes since that's now done in
408         loadTestsFromLocationHash.
409         (TestResultsView.loadTestsFromLocationHash): Take care of both 'tests' and 'builder' components.
410         (fetchManifest): Setup the UI to select a builder.
411