Add unit tests for config.json and statistics.js
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Add unit tests for config.json and statistics.js
4         https://bugs.webkit.org/show_bug.cgi?id=155626
5
6         Reviewed by Darin Adler.
7
8         Added mocha unit tests for statistics.js and validating config.json. For segmentations, I've extracted
9         real data from our internal perf dashboard.
10
11         Also fixed some bugs covered by these new tests.
12
13         * public/shared/statistics.js:
14         (Statistics.movingAverage): Fixed a bug that forwardWindowSize was never used.
15         (Statistics.exponentialMovingAverage): Fixed the bug that the moving average starts at 0. It should
16         start at the first value instead.
17         (.splitIntoSegmentsUntilGoodEnough): Fixed the bug that we may try to segment a time series into
18         more parts than there are data points. Clearly, that doesn't make any sense.
19         (.findOptimalSegmentation): Renamed local variables so that they're more descriptive, and rewrote
20         the debugging code was the old code was emitting some useless data. Also fixed the bug that the length
21         of "segmentation" was off by one (we need segmentCount + 1 elements in the array sine we always
22         include the start of the first segment = 0 and the end of the last segment = values.length).
23         (.SampleVarianceUpperTriangularMatrix):
24         (Statistics): Modernized the export code.
25         * tools/js: Added.
26         * tools/js/config.js: Added.
27         (Config): Added.
28         (Config.prototype.configFilePath): Added.
29         (Config.prototype.value): Added.
30         (Config.prototype.path): Added.
31         * tools/js/database.js: Added.
32         (Database): Added.
33         (Database.prototype.connect): Added.
34         (Database.prototype.disconnect): Added.
35         * unit-tests: Added.
36         * unit-tests/checkconfig.js: Added. Validates config.json. This is useful while setting up
37         a local instance of the perf dashboard.
38         * unit-tests/statistics-tests.js: Added.
39         (assert.almostEqual): Added. Asserts that two floating values are within a given significant digits.
40         (.stdev):
41         (.delta):
42         (.computeWelchsT):
43
44 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
45
46         Fix a typo which was supposed to be fixed in r198351.
47
48         * public/v3/pages/analysis-task-page.js:
49         (AnalysisTaskPage.prototype.render):
50
51 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
52
53         An analysis task should be closed if a progression cause is identified
54         https://bugs.webkit.org/show_bug.cgi?id=155549
55
56         Reviewed by Chris Dumez.
57
58         Since a progression is desirable, we should close an analysis task once its cause is identified.
59
60         Also fix some typos.
61
62         * init-database.sql: Fixed a typo.
63         * public/api/analysis-tasks.php:
64         * public/v3/models/analysis-task.js:
65         (AnalysisTask.prototype.dissociateBug): Renamed from dissociateBug.
66         * public/v3/pages/analysis-task-page.js:
67         (AnalysisTaskPage.prototype.render):
68         (AnalysisTaskPage.prototype._dissociateBug): Renamed from _dissociateBug.
69         (AnalysisTaskPage.prototype._dissociateCommit): Fixed the typo in the alert.
70
71 2016-03-16  Ryosuke Niwa  <rniwa@webkit.org>
72
73         Analysis task page should allow specifying commits that caused or fixed a regression or a progression
74         https://bugs.webkit.org/show_bug.cgi?id=155529
75
76         Reviewed by Chris Dumez.
77
78         Added the capability to associate revisions that caused or fixed a progression or a regression for which
79         an analysis task was created. Added task_commits that stores this relationship and added the backend
80         support to retrieve this table in /api/analysis-tasks and an privileged API to update this table at
81         /privileged-api/associate-commit.
82
83         Also extracted a new component, MutableListView, out of AnalysisTaskPage to render and manipulate a list
84         of mutable items, and used it to render the list of associated bugs and commits. The view takes a list of
85         kinds (e.g. repositories or bug trackers), and accepts a pair of a kind and arbitrary text as a new item
86         value.
87
88         * init-database.sql: Added task_commits table.
89
90         * public/api/analysis-tasks.php:
91         (main):
92         (fetch_associated_data_for_tasks): Renamed from fetch_and_push_bugs_to_tasks now that it also fetches
93         the list of commits associated with each analysis task by calling CommitLogFetcher::fetch_for_tasks.
94         Also fixe the bug that we were not taking 
95         (format_task): No longer sets 'category' since the computation of category now depends on the list of
96         commits associated with this analysis task which aren't available until fetch_associated_data_for_tasks.
97         (determine_category): Added. Categorize any analysis tasks with "fixes" commits as "closed" and "causes"
98         commits as "identified".
99
100         * public/include/commit-log-fetcher.php:
101         (CommitLogFetcher::__construct): Remove the unused instance variable.
102         (CommitLogFetcher::fetch_for_tasks): Added. Fetches all commits associated with a list of analysis tasks.
103         Assumes the caller (fetch_associated_data_for_tasks) had setup "fixes" and "causes" fields on each task.
104
105         * public/privileged-api/associate-commit.php: Added. Updates task_commits table to associate or disassociate
106         a commit with an analysis task. When the specified analysis task and the specified commit are already
107         associated, we simply update the table instead of adding a duplicating entry or error. For dissociation,
108         the front-end specifies the commit ID.
109         (main): Added.
110
111         * public/v3/index.html:
112         * public/v3/components/mutable-list-view.js: Added. Used by the list associated bugs and commits.
113         (MutableListView): Added.
114         (MutableListView.prototype.setList): Added.
115         (MutableListView.prototype.setKindList): Added.
116         (MutableListView.prototype.setAddCallback): Added. This callback is invoked when the user tries to add
117         a new item to the list.
118         (MutableListView.prototype.render): Added.
119         (MutableListView.prototype._submitted): Added.
120         (MutableListView.cssTemplate):
121         (MutableListView.htmlTemplate):
122         (MutableListItem): Added. RemovalLink could be a hyperlink or a callback and gets involved when the user
123         tries to delete this item.
124         (MutableListItem.prototype.content):
125
126         * public/v3/models/analysis-task.js:
127         (AnalysisTask): Added the support of the list of commits that fixed and caused changes.
128         (AnalysisTask.prototype.updateSingleton): Ditto.
129         (AnalysisTask.prototype.causes): Added.
130         (AnalysisTask.prototype.fixes): Added.
131         (AnalysisTask.prototype.associateCommit): Added. Use the API added at /privileged-api/associate-commit
132         to associate a new commit with this analysis task. Each commit has either caused or fixed the change.
133         (AnalysisTask.prototype.dissociateCommit): Added. Use the same API to disassociate each commit.
134         (AnalysisTask._constructAnalysisTasksFromRawData): Find all commits associated with each analysis task.
135         Because commit log objects use a fake ID fdue to /api/measurement-set not providing commit IDs, we must
136         use CommitLog.findByRemoteId to find each commit instead of usual CommitLog.findById.
137         (AnalysisTask._constructAnalysisTasksFromRawData.resolveCommits): Added.
138
139         * public/v3/models/build-request.js:
140         (BuildRequest.prototype.hasFinished): Renamed from hasCompleted since it was confusing for this._status
141         being "completed" wasn't a necessary condition for this function to return true.
142
143         * public/v3/models/commit-log.js:
144         (CommitLog): Added the static map for actual commit ID instead of a fake ID created in ensureSingleton.
145         (CommitLog.prototype.remoteId): Added. Returns the real commit ID.
146         (CommitLog.findByRemoteId): Added. Finds an CommitLog object using the real ID.
147
148         * public/v3/models/test-group.js:
149         (TestGroup.prototype.hasFinished): Renamed from hasCompleted to match the rename in BuildRequest.
150
151         * public/v3/pages/analysis-task-page.js:
152         (AnalysisTaskPage): Added lists for the commits that fixed and caused the change using MutableListView.
153         Also adopted MutableListView for the list of associated bugs.
154         (AnalysisTaskPage.prototype.render): Added the code to populate the newly added lists.
155         (AnalysisTaskPage.prototype._makeCommitListItem): Added.
156         (AnalysisTaskPage.prototype._associateBug): Now this is a callback from MutableListView.
157         (AnalysisTaskPage.prototype._associateCommit): Added.
158         (AnalysisTaskPage.prototype._dissociateCommit): Added.
159         (AnalysisTaskPage.htmlTemplate):
160         (AnalysisTaskPage.cssTemplate):
161
162         * public/v3/remote.js:
163         (getJSON): Spit out the entire responseText when JSON failed to parse to make debugging easier.
164
165 2016-03-15  Ryosuke Niwa  <rniwa@webkit.org>
166
167         Extract the code to format commit logs into its own PHP file
168         https://bugs.webkit.org/show_bug.cgi?id=155514
169
170         Rubber-stamped by Chris Dumez.
171
172         Extracted CommitLogFetcher out of /api/commits so that it could be used in analysis-tasks.php
173         in the future to support associating cause/fix for each analysis task.
174
175         * public/api/commits.php:
176         * public/include/commit-log-fetcher.php: Added.
177         (CommitLogFetcher)
178         (CommitLogFetcher::__construct): Added.
179         (CommitLogFetcher::repository_id_from_name): Added.
180         (CommitLogFetcher::fetch_between): Added.
181         (CommitLogFetcher::fetch_oldest): Added.
182         (CommitLogFetcher::fetch_latest): Added.
183         (CommitLogFetcher::fetch_last_reported): Added.
184         (CommitLogFetcher::fetch_revision): Added.
185         (CommitLogFetcher::commit_for_revision): Added.
186         (CommitLogFetcher::format_single_commit): Added.
187         (CommitLogFetcher::format_commit): Added.
188
189 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
190
191         Build fix after r196870.
192
193         * public/include/report-processor.php:
194
195 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
196
197         Add Size metric to perf dashboard
198         https://bugs.webkit.org/show_bug.cgi?id=155266
199
200         Reviewed by Chris Dumez.
201
202         Added the "Size" metric and use bytes as its unit.
203
204         * public/js/helper-classes.js:
205         (PerfTestRuns):
206         * public/v2/data.js:
207         (RunsData.unitFromMetricName):
208
209 2016-02-20  Ryosuke Niwa  <rniwa@webkit.org>
210
211         Add the support for universal slave password
212         https://bugs.webkit.org/show_bug.cgi?id=154476
213
214         Reviewed by David Kilzer.
215
216         Added the support for universalSlavePassword.
217
218         * config.json:
219         * public/include/report-processor.php:
220         (ReportProcessor::process):
221         (ReportProcessor::authenticate_and_construct_build_data): Extracted from process().
222
223 2016-02-19  Ryosuke Niwa  <rniwa@webkit.org>
224
225         Analysis tasks page complains about missing repository but with a wrong name
226         https://bugs.webkit.org/show_bug.cgi?id=154468
227
228         Reviewed by Chris Dumez.
229
230         Fixed the bug by using the right variable in the template literal.
231
232         * public/v3/components/customizable-test-group-form.js:
233         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use querySelector here since Chrome doesn't have
234         getElementsByClassName on ShadowRoot.
235         * public/v3/pages/analysis-task-page.js:
236         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Use name which is the name of
237         repository here.
238
239 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
240
241         Revert an unintended change made in the previous commit.
242
243         * init-database.sql:
244
245 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
246
247         Perf dashboard should let user cancel pending A/B testing and hide failed ones
248         https://bugs.webkit.org/show_bug.cgi?id=154433
249
250         Reviewed by Chris Dumez.
251
252         Added a button to hide a test group in the details view (the bottom table) in the analysis task page, and
253         "Show hidden tests" link to show the hidden test groups on demand. When a test group is hidden, all pending
254         requests in the group will also be canceled since a common scenario of using this feature is that the user
255         had triggered an useless A/B testing; e.g. all builds will fail, wrong, etc... We can revisit and add the
256         capability to just cancel the pending requests and leaving the group visible later if necessary.
257
258         Run `ALTER TYPE build_request_status_type ADD VALUE 'canceled';` to add the new type.
259
260         * init-database.sql: Added testgroup_hidden column to analysis_test_groups table and added 'canceled'
261         as a value to build_request_status_type table.
262         * public/api/test-groups.php:
263         (format_test_group): Added 'hidden' field in the JSON result.
264         * public/privileged-api/update-test-group.php:
265         (main): Added the support for updating testgroup_hidden column. When this column is set to true, also
266         cancel all pending build requests (by setting its request_status to 'canceled' which will be ignore by
267         the syncing script).
268         * public/v3/components/test-group-results-table.js:
269         (TestGroupResultsTable.prototype.setTestGroup): Reset _renderedTestGroup here so that the next call to
270         render() will update the table; e.g. when build requests' status change from 'Pending' to 'Canceled'.
271         * public/v3/models/build-request.js:
272         (BuildRequest.prototype.hasCompleted): A build request is considered complete/finished if it's canceled.
273         (BuildRequest.prototype.hasPending): Added.
274         (BuildRequest.prototype.statusLabel): Handle 'canceled' status.
275         * public/v3/models/test-group.js:
276         (TestGroup):
277         (TestGroup.prototype.updateSingleton): Added to update 'hidden' field.
278         (TestGroup.prototype.isHidden): Added.
279         (TestGroup.prototype.hasPending): Added.
280         (TestGroup.prototype.hasPending): Added.
281         (TestGroup.prototype.updateHiddenFlag): Added. Uses the privileged API to update testgroup_hidden column.
282         The JSON API also updates the status of the 'pending' build requests in the group to 'canceled'.
283         * public/v3/pages/analysis-task-page.js:
284         (AnalysisTaskPage): Added _showHiddenTestGroups and _filteredTestGroups as instance variables.
285         (AnalysisTaskPage.prototype._didFetchTestGroups):
286         (AnalysisTaskPage.prototype._showAllTestGroups): Added.
287         (AnalysisTaskPage.prototype._didUpdateTestGroupHiddenState): Extracted from _didFetchTestGroups.
288         (AnalysisTaskPage.prototype._renderTestGroupList): Use the filtered list of test groups to show the list
289         of test groups. When all test groups are shown, we would first show the hidden ones after the regular ones.
290         (AnalysisTaskPage.prototype._createTestGroupListItem): Extracted from _renderTestGroupList.
291         (AnalysisTaskPage.prototype._renderTestGroupDetails): Update the text inside the button to hide the test
292         group. Also show a warning text that the pending requests will be canceled if there are any.
293         (AnalysisTaskPage.prototype._hideCurrentTestGroup): Added.
294         (AnalysisTaskPage.cssTemplate): Updated the style.
295
296 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
297
298         The rows in the analysis results table should be expandable
299         https://bugs.webkit.org/show_bug.cgi?id=154427
300
301         Reviewed by Chris Dumez.
302
303         Added "(Expand)" link between rows that have hidden points. Upon click it inserts the hidden rows.
304
305         We insert around five rows at a time when there are hundreds of hidden points but we also avoid leaving
306         behind expandable rows of less than two rows.
307
308         Also fixed a bug in CustomizableTestGroupForm that getElementsById would throw in the shipping Safari
309         because getElementsById doesn't exist on Element.prototype by using class name instead.
310
311         * public/v3/components/analysis-results-viewer.js:
312         (AnalysisResultsViewer):
313         (AnalysisResultsViewer.prototype.setCurrentTestGroup): Removed superfluous call to render().
314         (AnalysisResultsViewer.prototype.setPoints): Always show the start and the end points.
315         (AnalysisResultsViewer.prototype.buildRowGroups):
316         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Add an instance of ExpandableRow which
317         shows a "(Expand)" link to show hidden rows here.
318         (AnalysisResultsViewer.prototype._expandBetween): Added. Expands rows between two points.
319         (AnalysisResultsViewer.cssTemplate): Added rules for "(Expand)" links.
320         (AnalysisResultsViewer.ExpandableRow): Added.
321         (AnalysisResultsViewer.ExpandableRow.prototype.resultContent): Added. Overrides what's in the results column.
322         (AnalysisResultsViewer.ExpandableRow.prototype.heading): Added. Generates "(Expand)" link.
323
324         * public/v3/components/customizable-test-group-form.js:
325         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use getElementsByClassName instead of
326         getElementById.
327         (CustomizableTestGroupForm.prototype._classForLabelAndRepository): Renamed from _idForLabelAndRepository.
328         (CustomizableTestGroupForm._constructRevisionRadioButtons): Set class name instead of id.
329
330         * public/v3/components/results-table.js:
331         (ResultsTable.prototype.render): Don't generate radio buttons to select a row when root set is missing;
332         e.g. for rows that show "(Expand)" links.
333
334 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
335
336         Statistically significant A/B testing results should be color coded in details view
337         https://bugs.webkit.org/show_bug.cgi?id=154414
338
339         Reviewed by Chris Dumez.
340
341         Color code the statistically significant comparisions in TestGroupResultsTable as done in the analysis
342         results viewer.
343
344         * public/v3/components/customizable-test-group-form.js:
345         (CustomizableTestGroupForm.cssTemplate): Build fix after r196768.
346         * public/v3/components/test-group-results-table.js:
347         (TestGroupResultsTable.prototype.buildRowGroups): Add the status as a class name.
348         (TestGroupResultsTable.cssTemplate): Added styles to color-code statistically significant results.
349
350 2016-02-17  Ryosuke Niwa  <rniwa@webkit.org>
351
352         v3 UI should allow custom revisions for A/B testing
353         https://bugs.webkit.org/show_bug.cgi?id=154379
354
355         Reviewed by Chris Dumez.
356
357         Added the capability to customize revisions selected in the overview chart and the results viewer.
358
359         Newly added CustomizableTestGroupForm is responsible for allowing users to modify the set of revisions in
360         a new A/B testing group. Unlike TestGroupForm which doesn't know anything about which revisions are selected
361         for each project/repository, CustomizableTestGroupForm is aware of the list of revisions used in each set.
362
363         The list of revisions used in each set is represented by RootSet if users had not customized them, and
364         CustomRootSet otherwise; the latter was added since regular RootSet object requires CommitLog and other
365         DataModelObjects which are hard to create without corresponding database entries.
366
367         * public/v3/components/customizable-test-group-form.js: Added.
368         (CustomizableTestGroupForm): Added.
369         (CustomizableTestGroupForm.prototype.setRootSetMap): Added.
370         (CustomizableTestGroupForm.prototype._submitted): Overrides the superclass' method.
371         (CustomizableTestGroupForm.prototype._customize): Ditto. Unlike TestGroupForm's callback, this class'
372         callback passes in a root set map as the third argument.
373         (CustomizableTestGroupForm.prototype._computeRootSetMap): Added. Returns this._rootSetMap, which is set by
374         AnalysisTaskPage if user had not customized the root sets. Otherwise return a new map with CustomRootSet's.
375         (CustomizableTestGroupForm.prototype.render): Added. Creates a table to allow customization of root sets.
376         (CustomizableTestGroupForm._constructRevisionRadioButtons): Added.
377         (CustomizableTestGroupForm._createRadioButton): Added.
378         (CustomizableTestGroupForm.cssTemplate): Added.
379         (CustomizableTestGroupForm.formContent): Added. This method is called by TestGroupForm.htmlTemplate.
380         * public/v3/components/test-group-form.js:
381         (TestGroupForm): Updated the various methods to not directly mutate DOM. Store the state in instance
382         variables and update DOM in render() as done elsewhere.
383         (TestGroupForm.prototype.setNeedsName): Deleted. We no longer need this flag since TestGroupForm which is
384         used for retries never needs a name and CustomizableTestGroupForm which is used to create a new test group
385         always requires a name.
386         (TestGroupForm.prototype.setDisabled):
387         (TestGroupForm.prototype.setLabel):
388         (TestGroupForm.prototype.setRepetitionCount):
389         (TestGroupForm.prototype.render): Added.
390         (TestGroupForm.prototype._submitted): Moved the code to prevent the default action has been moved to the
391         constructor since this method is overridden by CustomizableTestGroupForm.
392         (TestGroupForm.cssTemplate): Added.
393         (TestGroupForm.htmlTemplate):
394         (TestGroupForm.formContent): Extracted from htmlTemplate.
395         * public/v3/index.html:
396         * public/v3/models/repository.js:
397         (Repository.sortByNamePreferringOnesWithURL): Added.
398         * public/v3/models/root-set.js:
399         (RootSet.prototype.revisionForRepository): Added so that _createTestGroupAfterVerifyingRootSetList can retrieve
400         the revision information from CustomRootSet without going through CommitLog objects since CustomRootSet doesn't
401         have associated CommitLog objects.
402         (CustomRootSet): Added. Used by CustomizableTestGroupForm to create a custom root map since regular RootSet
403         requires CommitLog and other related objects which are hard to create without database entries.
404         (CustomRootSet.prototype.setRevisionForRepository): Added.
405         (CustomRootSet.prototype.repositories): Added.
406         (CustomRootSet.prototype.revisionForRepository): Added.
407         * public/v3/pages/analysis-task-page.js:
408         (AnalysisTaskPage):
409         (AnalysisTaskPage.prototype.render): Removed the reference to v2 UI since v3 UI is now strictly more powerful
410         than v2 UI. Also update the root set maps in each form here.
411         (AnalysisTaskPage.prototype._retryCurrentTestGroup): No longer takes unused name argument as it got removed
412         from TestGroupForm.
413         (AnalysisTaskPage.prototype._chartSelectionDidChange): No longer updates the disabled-ness here since it's now
414         done in render() via setRootSetMap().
415         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Now takes rootSetMap as an argument.
416         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): No longer updates the disabled-ness here
417         since it's now done in render() via setRootSetMap().
418         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Now takes rootSetMap as an argument.
419         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Take a dictionary of root set labels
420         such as A and B, which maps to a RootSet or a newly-added CustomRootSet.
421         (AnalysisTaskPage.htmlTemplate): Use customizable-test-group-form for creating a new A/B testing group. Retry
422         form will continue to use TestGroupForm since customizing revisions is non-sensical in retries.
423         (AnalysisTaskPage.cssTemplate): Updated the style.
424
425 2016-02-16  Ryosuke Niwa  <rniwa@webkit.org>
426
427         v3 UI has the capability to schedule an A/B testing in a specific range
428         https://bugs.webkit.org/show_bug.cgi?id=154329
429
430         Reviewed by Chris Dumez.
431
432         Extended AnalysisTaskChartPane and ResultsTable so that users can select a range of points in either
433         the overview chart pane and the results viewer table. Extracted TestGroupForm out of the analysis task
434         page and used right below those two components in the analysis task page.
435
436         * public/v3/components/results-table.js:
437         (ResultsTable):
438         (ResultsTable.prototype.setRangeSelectorLabels): Added.
439         (ResultsTable.prototype.setRangeSelectorCallback): Added.
440         (ResultsTable.prototype.selectedRange): Added.
441         (ResultsTable.prototype._rangeSelectorClicked): Added.
442         (ResultsTable.prototype.render): Generate radio boxes to select a range.
443
444         * public/v3/components/test-group-form.js:
445         (TestGroupForm):
446         (TestGroupForm.prototype.setStartCallback): Added.
447         (TestGroupForm.prototype.setNeedsName): Added.
448         (TestGroupForm.prototype.setDisabled): Added.
449         (TestGroupForm.prototype.setLabel): Added.
450         (TestGroupForm.prototype.setRepetitionCount): Added.
451         (TestGroupForm.prototype._submitted): Added.
452         (TestGroupForm.htmlTemplate): Extracted from AnalysisTaskPage.htmlTemplate.
453
454         * public/v3/index.html:
455
456         * public/v3/pages/analysis-task-page.js:
457         (AnalysisTaskChartPane.prototype._mainSelectionDidChange): Added. Delegates the work to AnalysisTaskPage.
458         (AnalysisTaskChartPane.prototype.selectedPoints): Added.
459         (AnalysisTaskPage):
460         (AnalysisTaskPage.prototype.title):
461         (AnalysisTaskPage.prototype.render):
462         (AnalysisTaskPage.prototype._renderTestGroupDetails): Use TestGroupForm's methods instead of mutating DOM. 
463         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
464         (AnalysisTaskPage.prototype._chartSelectionDidChange): Added.
465         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Added.
466         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): Added.
467         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Added.
468         (AnalysisTaskPage.prototype._createRetryNameForTestGroup):
469         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Extracted from _retryCurrentTestGroup
470         so that we can call it in _createNewTestGroupFromChart and _createNewTestGroupFromViewer.
471         (AnalysisTaskPage.htmlTemplate):
472
473 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
474
475         Extract the code specific to v2 UI out of shared statistics.js
476         https://bugs.webkit.org/show_bug.cgi?id=154277
477
478         Reviewed by Chris Dumez.
479
480         Extracted statistics-strategies.js out of statistics.js for v2 UI and detect-changes.js. The intent is to
481         deprecate this file once we implement refined statistics tools in v3 UI and adopt it in detect-changes.js.
482
483         * public/shared/statistics.js:
484         (Statistics.movingAverage): Extracted from the "Simple Moving Average" strategy.
485         (Statistics.cumultaiveMovingAverage): Extracted from the "Cumulative Moving Average" strategy.
486         (Statistics.exponentialMovingAverage): Extracted from the "Exponential Moving Average" strategy.
487         Use a temporary "movingAverage" to keep the last moving average instead of relying on the previous
488         entry in "averages" array to avoid special casing an array of length 1 and starting the loop at i = 1.
489         (Statistics.segmentTimeSeriesGreedyWithStudentsTTest): Extracted from "Segmentation: Recursive t-test"
490         strategy. Don't create the list of averages to match segmentTimeSeriesByMaximizingSchwarzCriterion here.
491         It's done in newly added averagesFromSegments.
492         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Extracted from
493         "Segmentation: Schwarz criterion" strategy.
494         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Just store the start index to match
495         * public/v2/app.js:
496         (App.Pane.updateStatisticsTools):
497         (App.Pane._computeMovingAverageAndOutliers):
498         * public/v2/data.js:
499         * public/v2/index.html:
500         * public/v2/statistics-strategies.js: Added.
501         (StatisticsStrategies.MovingAverageStrategies): Added.
502         (averagesFromSegments): Extracted from "Segmentation: Schwarz criterion" strategy. Now used by both
503         "Segmentation: Recursive t-test" and "Segmentation: Schwarz criterion" strategies.
504         (StatisticsStrategies.EnvelopingStrategies): Moved from Statistics.EnvelopingStrategies.
505         (StatisticsStrategies.TestRangeSelectionStrategies): Moved from Statistics.TestRangeSelectionStrategies.
506         (createWesternElectricRule): Moved from statistics.js.
507         (countValuesOnSameSide): Ditto.
508         (StatisticsStrategies.executeStrategy): Moved from Statistics.executeStrategy.
509         * tools/detect-changes.js:
510         (computeRangesForTesting):
511
512 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
513
514         v1 UI and v2 UI should share statistics.js
515         https://bugs.webkit.org/show_bug.cgi?id=154262
516
517         Reviewed by Chris Dumez.
518
519         Share statistics.js between v1 and v2 UI.
520
521         * public/index.html:
522         * public/js/shared.js: Deleted.
523         * public/js/statistics.js: Removed.
524         * public/shared: Added.
525         * public/shared/statistics.js: Moved from Websites/perf.webkit.org/public/v2/js/statistics.js.
526         * public/v2/index.html:
527         * public/v2/js/statistics.js: Removed.
528         * public/v3/index.html:
529         * tools/detect-changes.js:
530
531 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
532
533         v3 UI sometimes shows same dates twice on the x-axis of time series charts
534         https://bugs.webkit.org/show_bug.cgi?id=154210
535
536         Reviewed by Chris Dumez.
537
538         The bug was caused by the label generation code in TimeSeriesChart.computeTimeGrid never emitting hours.
539
540         Use hours instead of dates as labels when the current time's date is same as the previous label's date.
541         Always include dates before entering this mode to avoid just having hours as labels on the entire x-axis.
542
543         * public/v3/components/time-series-chart.js:
544         (TimeSeriesChart.prototype._renderXAxis): Slightly increase the "average" width of x-axis label.
545         (TimeSeriesChart.computeTimeGrid): See above. Also assert that the number of labels we generate never
546         exceeds maxLabels as a sanity check.
547         (TimeSeriesChart._timeIterators): Added an iterator that increments by two hours for zoomed graphs.
548
549 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
550
551         v3 UI should show status and associated bugs on analysis task pages
552         https://bugs.webkit.org/show_bug.cgi?id=154212
553
554         Reviewed by Chris Dumez.
555
556         Added the capability to see and modify the status and the list of associated of bugs on analysis task pages.
557
558         Also added the list of related tasks, which are analysis tasks associated with the same bug or have
559         overlapping time ranges with the same test metric but on a potentially different platform.
560
561         In addition, categorize analysis tasks with the status of "no change" or "inconclusive" as "closed" as no
562         further action can be taken (users can bring them back to non-closed state without any restrictions).
563
564         * public/api/analysis-tasks.php:
565         (format_task): Categorize 'unchanged' and 'inconclusive' analysis tasks as closed.
566
567         * public/privileged-api/associate-bug.php:
568         (main): Added shouldDelete as a new mechanism to disassociate a bug since v3 UI shares a single Bug object
569         between multiple analysis tasks (as it should have been in the first place).
570
571         * public/v3/components/chart-pane-base.js:
572         (ChartPaneBase):
573         (ChartPaneBase.prototype._fetchAnalysisTasks): Since each analysis task's change type (status/result) could
574         change, we need to create annotation objects during each render() call.
575         (ChartPaneBase.prototype.render):
576         (ChartPaneBase.prototype._renderAnnotations): Extracted from ChartPaneBase.prototype._fetchAnalysisTasks to
577         do that. I was afraid of the perf impact of this but it doesn't seem to be an issue in my testing.
578         (ChartPaneBase.cssTemplate): Removed superfluous margins (moved to ChartPane.cssTemplate) around the charts
579         since they are only useful in the charts page.
580
581         * public/v3/models/analysis-task.js:
582         (AnalysisTask):
583         (AnalysisTask.prototype.updateSingleton): Added a comment as to why object.result cannot be renamed to
584         object.changeType in the JSON API.
585         (AnalysisTask.prototype.updateName): Added.
586         (AnalysisTask.prototype.updateChangeType): Added.
587         (AnalysisTask.prototype._updateRemoteState): Added.
588         (AnalysisTask.prototype.associateBug): Added.
589         (AnalysisTask.prototype.disassociateBug): Added.
590         (AnalysisTask.fetchRelatedTasks): Added. See above for the criteria of related-ness.
591
592         * public/v3/pages/analysis-task-page.js:
593         (AnalysisTaskPage):
594         (AnalysisTaskPage.prototype.updateFromSerializedState):
595         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId): Extracted from updateFromSerializedState.
596         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks): Added.
597         (AnalysisTaskPage.prototype.render): Render the list of associated bugs, the list of bug trackers (so that
598         users can use it to associate with a new bug), and the list of related analysis tasks.
599         (AnalysisTaskPage.prototype._renderTestGroupList): Extracted from render since it was getting too long.
600         (AnalysisTaskPage.prototype._renderTestGroupDetails): Ditto.
601         (AnalysisTaskPage.prototype._updateChangeType): Added.
602         (AnalysisTaskPage.prototype._associateBug): Added.
603         (AnalysisTaskPage.prototype._disassociateBug): Added.
604         (AnalysisTaskPage.htmlTemplate): Added various elements to show and modify the status, associate bugs,
605         and a list of related analysis tasks.
606         (AnalysisTaskPage.cssTemplate): Added various styles for those form controls.
607
608         * public/v3/pages/chart-pane.js:
609         (ChartPane.cssTemplate): Moved the margins from ChartPaneBase.cssTemplate.
610
611 2016-02-12  Ryosuke Niwa  <rniwa@webkit.org>
612
613         Perf dashboard should allow renaming analysis tasks and test groups
614         https://bugs.webkit.org/show_bug.cgi?id=154200
615
616         Reviewed by Chris Dumez.
617
618         Allow editing names of analysis tasks and A/B testing groups in the v3 UI.
619
620         Added the support for updating the name to the privileged API at /privileged-api/update-analysis-task
621         and added a new prevailed API to update A/B testing groups at /privileged-api/update-test-group.
622
623         * public/privileged-api/update-analysis-task.php: Added the support for renaming the analysis task.
624         (main):
625
626         * public/privileged-api/update-test-group.php: Added. Supports updating the test group's name.
627         (main):
628
629         * public/v3/components/editable-text.js: Added.
630         (EditableText): Added. A new editable text label control. It looks like a text node with "(Edit)" link
631         at the end which allow users to go into the "editing mode", which reveals an input element.
632         The user can exit the editing mode by either moving the focus away from the control or clicking on
633         "(Save)" at the end. It calls _updateCallback in the latter case.
634         (EditableText.prototype.editedText): Returns the current value of the input element user.
635         (EditableText.prototype.setText): Sets the label. This does not live-update the input element until
636         the user exists the current editing mode and re-enters it.
637         (EditableText.prototype.setStartedEditingCallback): Sets a callback which gets called when the user
638         requested to enter the editing mode. Since EditableText relies on AnalysisTaskPage to render, this
639         callback only exits to call EditableText.render() in AnalysisTask._didStartEditingTaskName.
640         (EditableText.prototype.setUpdateCallback): Sets a callback which gets called when the user exits
641         the editing mode by activating the "(Save)" link. This callback MUST return a promise upon resolution
642         of which the control gets out of the editing mode. While the promise is in flight, the input element
643         becomes readonly.
644         (EditableText.prototype.render): Updates various states of the elements. When _updatingPromise is not
645         falsy, we make the input element readonly and show '(...)' on the link. Don't show the action link
646         if the label is empty (e.g. analysis task or test group is still being fetched).
647         (EditableText.prototype._didClick): Called when the user clicked on the action link. Enter the editing
648         mode or save the edited label via _updateCallback.
649         (EditableText.prototype._didBlur): Exit the editing mode without saving if the input element is not
650         focused, there is no inflight promise returned by _updateCallback, and the action link "(Save)" does
651         not have the focus.
652         (EditableText.prototype._didUpdate): Called when exiting the editing mode.
653         (EditableText.htmlTemplate):
654         (EditableText.cssTemplate):
655
656         * public/v3/index.html: Include newly added editable-text.js.
657
658         * public/v3/models/analysis-task.js:
659         (AnalysisTask.prototype.updateSingleton): Added.
660         (AnalysisTask.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
661         the analysis task from the sever.
662         (AnalysisTask._constructAnalysisTasksFromRawData): Use ensureSingleton instead of manually calling
663         findById since we need to update the name of the singleton object we found (via updateSingleton).
664
665         * public/v3/models/bug.js:
666         (Bug.ensureSingleton): Moved the code to compute the synthetic id from AnalysisTask's
667         _constructAnalysisTasksFromRawData.
668         (Bug.prototype.updateSingleton): Added. Just assert that nothing changes.
669
670         * public/v3/models/build-request.js:
671         (BuildRequest.prototype.updateSingleton): Added. Assert that the intrinsic values of a build request
672         doesn't change and update status text, status url, and build id as they could change.
673
674         * public/v3/models/commit-log.js:
675         (CommitLog): Made the constructor argument conform to the convention of id, object pair so that we can
676         use DataModelObject.ensureSingleton.
677         (CommitLog.ensureSingleton): 
678         (CommitLog.prototype.updateSingleton): Extracted from CommitLog.ensureSingleton.
679
680         * public/v3/models/data-model.js:
681         (DataModelObject.ensureSingleton): Call newly added updateSingleton.
682         (DataModelObject.prototype.updateSingleton):
683         (LabeledObject): Removed the name map since it's never used (findByName is never called anywhere).
684         (LabeledObject.prototype.updateSingleton): Added. Updates _name.
685         (LabeledObject.findByName): Deleted.
686
687         * public/v3/models/test-group.js:
688         (TestGroup.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
689         the test group from the sever.
690         (TestGroup._createModelsFromFetchedTestGroups): Removed bogus code. A root set doesn't have a test
691         group associated with it since multiple test groups can share a single root set (this property doesn't
692         even exist).
693
694         * public/v3/pages/analysis-task-page.js:
695         (AnalysisTaskPage): Removed useless _taskId and added this._testGroupLabelMap and this._taskNameLabel.
696         (AnalysisTaskPage.prototype.updateFromSerializedState): Cleanup.
697         (AnalysisTaskPage.prototype._didFetchTask): Assert that this function is called exactly once.
698         (AnalysisTaskPage.prototype.render): Use this._task.id() to show the v2 link. Use EditableText to show
699         the names of the analysis task and the associated test groups. Hide the overview chart and the list of
700         test groups (along with the retry/confirm button) when the analysis task failed to fetch. We always
701         update the names of the analysis task and the associated test groups since they could be updated by
702         the server.
703         (AnalysisTaskPage.prototype._didStartEditingTaskName): Added.
704         (AnalysisTaskPage.prototype._updateTaskName): Added.
705         (AnalysisTaskPage.prototype._updateTestGroupName): Added.
706         (AnalysisTaskPage.htmlTemplate): Updated the style.
707
708 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
709
710         Land the change that was supposed to be the part of r196463.
711
712         * public/v3/pages/analysis-task-page.js:
713         (AnalysisTaskPage.prototype._didFetchTestGroups): Select the latest test group by default.
714
715 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
716
717         Refine v3 UI's analysis task page
718         https://bugs.webkit.org/show_bug.cgi?id=154152
719
720         Reviewed by Chris Dumez.
721
722         This patch makes the following refinements to the analysis task page:
723          - Always show the relative different of in-progress A/B testing.
724          - Make the annotations (colored bars) in the chart open other analysis tasks.
725          - Order the A/B testing groups in the reverse chronological order.
726          - Select the time range corresponding to the current test group.
727
728         * public/v3/components/analysis-results-viewer.js:
729         (AnalysisResultsViewer.cssTemplate): Fixed the bug that pending and running testing groups are no longer
730         colored after r196440. Use a slightly more opaque color for currently running groups compared to pending ones.
731
732         * public/v3/components/chart-pane-base.js:
733         (ChartPaneBase.prototype.setMainSelection): Added.
734         (ChartPaneBase.prototype._openAnalysisTask): Moved the code from ChartPane._openAnalysisTask so that it can be
735         reused in both AnalysisTaskChartPane and ChartPane (in charts page).
736         (ChartPaneBase.prototype.router): Added. Overridden by each subclass.
737
738         * public/v3/components/test-group-results-table.js:
739         (TestGroupResultsTable.prototype.buildRowGroups): Always show the summary (relative difference of A to B) as
740         long as there are some results in each set.
741
742         * public/v3/models/test-group.js:
743         (TestGroup.prototype.compareTestResults): Always set .label and .fullLabel with the relative change as long as
744         there are some values. Keep using "pending" and "running" in .status since that would determine the color of
745         stacking blocks representing those A/B testing groups. 
746
747         * public/v3/pages/analysis-task-page.js:
748         (AnalysisTaskChartPane):
749         (AnalysisTaskChartPane.prototype.setPage): Added.
750         (AnalysisTaskChartPane.prototype.router): Added.
751         (AnalysisTaskPage):
752         (AnalysisTaskPage.prototype.render): Show the list of A/B testing groups in the reverse chronological order.
753         Also set the main chart's selection to the time range of the current test group.
754
755         * public/v3/pages/chart-pane.js:
756         (ChartPane.prototype.router): Added.
757         (ChartPane.prototype._openAnalysisTask): Moved to ChartPaneBase.prototype._openAnalysisTask.
758
759 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
760
761         Add a script to process backlogs created while perf dashboard was in the maintenance mode
762         https://bugs.webkit.org/show_bug.cgi?id=154140
763
764         Reviewed by Chris Dumez.
765
766         Added a script to process the backlog JSONs created while the perf dashboard was put in the maintenance mode.
767         It re-submits each JSON file to the perf dashboard using the same server config file used by syncing scripts.
768
769         * public/include/report-processor.php:
770         (TestRunsGenerator::test_value_list_to_values_by_iterations): Fixed a bug in the error message code. It was
771         referencing an undeclared variable.
772         * tools/process-maintenance-backlog.py: Added.
773
774 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
775
776         AnalysisResultsViewer never uses this._smallerIsBetter
777         https://bugs.webkit.org/show_bug.cgi?id=154134
778
779         Reviewed by Chris Dumez.
780
781         Removed the unused instance variable _smallerIsBetter from AnalysisResultsViewer and TestGroupStackingBlock.
782
783         * public/v3/components/analysis-results-viewer.js:
784         (AnalysisResultsViewer): Removed the unused _smallerIsBetter.
785         (AnalysisResultsViewer.prototype.setSmallerIsBetter): Deleted.
786         (AnalysisResultsViewer.prototype.buildRowGroups):
787         (AnalysisResultsViewer.TestGroupStackingBlock): Removed the unused _smallerIsBetter.
788         * public/v3/pages/analysis-task-page.js:
789         (AnalysisTaskPage.prototype._didFetchTask):
790
791 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
792
793         Build fix after r196440.
794
795         * public/v3/models/test-group.js:
796         (TestGroup.prototype.addBuildRequest): Clear the map instead of setting the property to null.
797
798 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
799
800         Perf dashboard should have UI to retry A/B testing
801         https://bugs.webkit.org/show_bug.cgi?id=154090
802
803         Reviewed by Chris Dumez.
804
805         Added a button to re-try an existing A/B testing group with a custom repetition count. The same button functions
806         as a way of confirming the progression/regression when there have been no A/B testing scheduled in the task.
807
808         Also fixed the bug that A/B testing groups that have been waiting for other test groups will be shown as "running".
809
810         * public/v3/components/results-table.js:
811         (ResultsTable.cssTemplate): Don't pad the list of extra repositories when it's empty.
812
813         * public/v3/components/test-group-results-table.js:
814         (TestGroupResultsTable.prototype.buildRowGroups): Use TestGroup.labelForRootSet instead of manually
815         computing the letter for each configuration set.
816
817         * public/v3/models/build-request.js:
818         (BuildRequest.prototype.hasStarted): Added.
819
820         * public/v3/models/data-model.js:
821         (DataModelObject.ensureSingleton): Added.
822         (DataModelObject.cachedFetch): Added noCache option. This is used when re-fetching the test groups after
823         creating one.
824
825         * public/v3/models/measurement-cluster.js:
826         (MeasurementCluster.prototype.startTime): Added.
827
828         * public/v3/models/measurement-set.js:
829         (MeasurementSet.prototype.hasFetchedRange): Added. Returns true only if there are no "holes" (cluster
830         yet to be fetched) between the specified time range. This was added to fix a bug in AnalysisTaskPage's
831         _didFetchMeasurement.
832
833         * public/v3/models/test-group.js:
834         (TestGroup): Added this._rootSetToLabel.
835         (TestGroup.prototype.addBuildRequest): Reset this._rootSetToLabel along with this._requestedRootSets. 
836         (TestGroup.prototype.repetitionCount): Added. Returns the number of iterations executed per set. We assume that
837         every root set in the test group shares a single repetition count.
838         (TestGroup.prototype.requestedRootSets): Now populates this._rootSetToLabel for labelForRootSet.
839         (TestGroup.prototype.labelForRootSet): Added.
840         (TestGroup.prototype.hasStarted): Added.
841         (TestGroup.prototype.compareTestResults): Use 'running' and 'pending' to differentiate test groups that are waiting
842         for other groups to finish running from the ones that are actually running ('incomplete' before this patch).
843         (TestGroup.fetchByTask):
844         (TestGroup.createAndRefetchTestGroups): Added. Creates a new test group using the privileged-api/create-test-group
845         and fetches the list of test groups for the specified analysis task.
846         (TestGroup._createModelsFromFetchedTestGroups): Extracted from TestGroup.fetchByTask.
847
848         * public/v3/pages/analysis-task-page.js:
849         (AnalysisTaskPage): Initialize _renderedCurrentTestGroup to undefined so that we'd always can differentiate
850         the initial call to AnalysisTaskPage.render and subsequent calls in which it's identical to _currentTestGroup.
851         (AnalysisTaskPage.prototype._didFetchMeasurement): Fixed a bug that we don't exit early even when some
852         clusters in between startPoint and endPoint are still being fetched via newly added hasFetchedRange.
853         (AnalysisTaskPage.prototype.render): Update the default repetition count based on the current test group.
854         Also update the label of the button to "Confirm the change" if there is no A/B testing in this task.
855         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Added. Re-triggers an existing A/B testing group or creates
856         the A/B testing for the entire range of the analysis task.
857         (AnalysisTaskPage.prototype._hasDuplicateTestGroupName): Added.
858         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Added.
859         (AnalysisTaskPage.htmlTemplate): Added form controls to re-trigger A/B testing.
860         (AnalysisTaskPage.cssTemplate): Updated the style.
861
862 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
863
864         Removed the duplicated definition of ChartPaneBase.
865
866         * public/v3/components/chart-pane-base.js:
867
868 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
869
870         Analysis task page on v3 UI should show charts
871         https://bugs.webkit.org/show_bug.cgi?id=154057
872
873         Reviewed by Chris Dumez.
874
875         Extracted ChartPaneBase out of ChartPane and added an instance of its new subclass, AnalysisTaskChartPane,
876         to the analysis task page. The main difference is that ChartPaneBase doesn't depend on the presence of
877         this._chartsPage unlike ChartPane. It also doesn't have the header with toolbar (to show breakdown, etc...).
878
879         * public/v3/components/base.js:
880         (ComponentBase.prototype._constructShadowTree): Call htmlTemplate() and cssTemplate() with the right "this".
881
882         * public/v3/components/chart-pane-base.js: Added.
883         (ChartPaneBase): Extracted from ChartPane.
884         (ChartPaneBase.prototype.configure): Extracted from the constructor. Separating this function allows the
885         component to be instantiated inside a HTML template.
886         (ChartPaneBase.prototype._fetchAnalysisTasks): Moved from ChartPane._fetchAnalysisTasks.
887         (ChartPaneBase.prototype.platformId): Ditto.
888         (ChartPaneBase.prototype.metricId): Ditto.
889         (ChartPaneBase.prototype.setOverviewDomain): Ditto.
890         (ChartPaneBase.prototype.setMainDomain): Ditto.
891         (ChartPaneBase.prototype._overviewSelectionDidChange): Extracted from the constructor. This is overridden in
892         ChartPane and unused in AnalysisTaskChartPane.
893         (ChartPaneBase.prototype._mainSelectionDidChange): Extracted from ChartPane._mainSelectionDidChange.
894         (ChartPaneBase.prototype._mainSelectionDidZoom): Extracted from ChartPane._mainSelectionDidZoom.
895         (ChartPaneBase.prototype._indicatorDidChange): Extracted from ChartPane._indicatorDidChange.
896         (ChartPaneBase.prototype._didFetchData): Moved from ChartPane._fetchAnalysisTasks.
897         (ChartPaneBase.prototype._openAnalysisTask): Ditto.
898         (ChartPaneBase.prototype._openCommitViewer): Ditto. Also fixed a bug that we don't show the spinner while
899         waiting for the data to be fetched by calling this.render() here.
900         (ChartPaneBase.prototype._keyup): Moved from ChartPane._keyup. Also fixed the bug that the revisions list
901         doesn't update by calling this.render() here.
902         (ChartPaneBase.prototype.render): Extracted from ChartPane.render.
903         (ChartPaneBase.htmlTemplate): Extracted from ChartPane.htmlTemplate.
904         (ChartPaneBase.paneHeaderTemplate): Added. This is overridden in ChartPane and unused in AnalysisTaskChartPane.
905         (ChartPaneBase.cssTemplate): Extracted from ChartPane.htmlTemplate.
906
907         * public/v3/components/chart-styles.js: Renamed from public/v3/pages/page-with-charts.js.
908         (PageWithCharts): Renamed from PageWithCharts since it no longer extends PageWithHeading.
909         (ChartStyles.createChartSourceList):
910
911         * public/v3/components/commit-log-viewer.js:
912         (CommitLogViewer.prototype.view): Set this._repository right away instead of waiting for the fetched data
913         so that spinner will be shown while the data is being fetched.
914
915         * public/v3/index.html:
916
917         * public/v3/pages/analysis-task-page.js:
918         (AnalysisTaskChartPane): Added extends ChartPaneBase.
919         (AnalysisTaskPage): Added. this._chartPane.
920         (AnalysisTaskPage.prototype._didFetchTask): Initialize this._chartPane with a domain.
921         (AnalysisTaskPage.prototype.render): Render this._chartPane.
922         (AnalysisTaskPage.htmlTemplate):
923
924         * public/v3/pages/chart-pane-status-view.js:
925         (ChartPaneStatusView): Removed the unused router from the argument list.
926         (ChartPaneStatusView.prototype.pointsRangeForAnalysis): Renamed from analyzeData() since it was ambiguous.
927         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Fixed the bug that we don't update the list
928         of the revisions here.
929         (ChartPaneStatusView.prototype.computeChartStatusLabels):
930
931         * public/v3/pages/chart-pane.js:
932         (ChartPane): Now extends ChartPaneBase. 
933         (ChartPane.prototype._overviewSelectionDidChange): Extracted from the constructor.
934         (ChartPane.prototype._mainSelectionDidChange): 
935         (ChartPane.prototype._mainSelectionDidZoom):
936         (ChartPane.prototype._indicatorDidChange):
937         (ChartPane.prototype.render):
938         (ChartPane.prototype._renderActionToolbar):
939         (ChartPane.paneHeaderTemplate): Extracted from htmlTemplate.
940         (ChartPane.cssTemplate):
941         (ChartPane.overviewOptions.selection.onchange): Deleted.
942         (ChartPane.prototype._fetchAnalysisTasks): Deleted.
943         (ChartPane.prototype.platformId): Deleted.
944         (ChartPane.prototype.metricId): Deleted.
945         (ChartPane.prototype.setOverviewDomain): Deleted.
946         (ChartPane.prototype.setMainDomain): Deleted.
947         (ChartPane.prototype._openCommitViewer): Deleted.
948         (ChartPane.prototype._didFetchData): Deleted.
949         (ChartPane.prototype._keyup): Deleted.
950
951         * public/v3/pages/charts-page.js:
952         (ChartsPage):
953         (ChartsPage.createDomainForAnalysisTask): Extracted by createDomainForAnalysisTask; used to set the domain
954         of the charts in the analysis task page.
955         (ChartsPage.createStateForAnalysisTask):
956
957         * public/v3/pages/dashboard-page.js:
958         (DashboardPage):
959         (DashboardPage.prototype._createChartForCell):
960
961 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
962
963         Add the support for maintenance mode
964         https://bugs.webkit.org/show_bug.cgi?id=154072
965
966         Reviewed by Chris Dumez.
967
968         Added the crude support for maintenance mode whereby which the reports are stored in the filesystem
969         instead of the database.
970
971         * config.json: Added maintenanceMode and maintenanceDirectory as well as forgotten siteTitle and
972         remoteServer.httpdMutexDir.
973         * public/api/report.php:
974         (main): Don't connect to the database or modify database when maintenanceMode is set.
975         * public/include/json-header.php:
976         (ensure_privileged_api_data): Exit with InMaintenanceMode when maintenanceMode is set. This prevents
977         privileged API such as creating analysis tasks and new A/B testing groups from modifying the database.
978
979 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
980
981         Analysis task page on v3 show progression as regressions
982         https://bugs.webkit.org/show_bug.cgi?id=154045
983
984         Reviewed by Chris Dumez.
985
986         The bug was caused by TestGroup.compareTestResults referring to undefined _smallerIsBetter.
987         Retrieve it from the associated metric object via the owner analysis task.
988
989         * public/v3/models/test-group.js:
990
991 2016-02-05  Ryosuke Niwa  <rniwa@webkit.org>
992
993         Testing with remote server cache is unusably slow
994         https://bugs.webkit.org/show_bug.cgi?id=153928
995
996         Reviewed by Chris Dumez.
997
998         Don't use the single process mode of httpd as it's way too slow even for testing.
999         Also we'll hit a null pointer crash (http://svn.apache.org/viewvc?view=revision&revision=1711479)
1000
1001         Since httpd exits immediately when launched in multi-process mode, remote-cache-server.py (renamed from
1002         run-with-remote-server.py) now has "start" and "stop" commands to start/stop the Apache. Also added
1003         "reset" command to reset the cache for convenience.
1004
1005         * Install.md: Updated the instruction.
1006         * config.json: Fixed a typo: httpdErro*r*Log.
1007         * tools/remote-cache-server.py: Copied from Websites/perf.webkit.org/tools/run-with-remote-server.py.
1008         Now takes one of the following commands: "start", "stop", and "reset".
1009         (main):
1010         (start_httpd): Extracted from main.
1011         (stop_httpd): Added.
1012         * tools/remote-server-relay.conf: Removed redundant (duplicate) LoadModule's.
1013         * tools/run-with-remote-server.py: Removed.
1014
1015 2016-02-04  Ryosuke Niwa  <rniwa@webkit.org>
1016
1017         Perf dashboard should have a script to setup database
1018         https://bugs.webkit.org/show_bug.cgi?id=153906
1019
1020         Reviewed by Chris Dumez.
1021
1022         Added tools/setup-database.py to setup the database. It retrieves the database name, username, password
1023         and initializes a database at the specified location.
1024
1025         * Install.md: Updated instruction to setup postgres to use setup-database.py.
1026         * tools/setup-database.py: Added.
1027         (main):
1028         (load_database_config):
1029         (determine_psql_dir):
1030         (start_or_stop_database):
1031         (execute_psql_command):
1032
1033 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1034
1035         buildbot syncing scripts sometimes schedule more than one requests per builder
1036         https://bugs.webkit.org/show_bug.cgi?id=153047
1037
1038         Reviewed by Chris Dumez.
1039
1040         The bug was caused by the check for singularity of scheduledRequests being conducted per configuration
1041         instead of per builder. So if there were multiple test configurations (e.g. Speedometer and Octane) that
1042         both used the same builder, then we may end up scheduling both at once.
1043
1044         Fixed the bug by sharing a single set to keep track of the scheduled requests for all configurations per
1045         builder.
1046
1047         * tools/sync-with-buildbot.py:
1048         (load_config): Share a set amongst test configurations for each builder.
1049         (find_request_updates): Instead of creating a new set for each configuration, reuse the existing sets to
1050         share a single set agmonst test configurations for each builder.
1051
1052 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1053
1054         Analysis results viewer sometimes doesn't show the correct relative difference
1055         https://bugs.webkit.org/show_bug.cgi?id=152930
1056
1057         Reviewed by Chris Dumez.
1058
1059         The bug was caused by single A/B testing result associated with multiple rows when there are multiple data
1060         points with the same root set which matches that of an A/B testing.
1061
1062         Fixed the bug by detecting such a case, and only associating each A/B testing result with the row created
1063         for the first matching point.
1064
1065         * public/v3/components/analysis-results-viewer.js:
1066         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
1067
1068 2016-01-08  Ryosuke Niwa  <rniwa@webkit.org>
1069
1070         Make v3 UI analysis task page is hard to understand
1071         https://bugs.webkit.org/show_bug.cgi?id=152917
1072
1073         Reviewed by Antti Koivisto.
1074
1075         Add a dark gray border around the selected block in the analysis results viewer instead of using darker
1076         shades since that looks as if they were bigger regression/progression.
1077
1078         Explicitly show "Failed" as the label instead of omitting with "-" when all build requests in an A/B
1079         testing group fails.
1080
1081         * public/v3/components/analysis-results-viewer.js:
1082         (AnalysisResultsViewer.cssTemplate): Tweaked the style to underline text in the hovered blocks and the
1083         selected blocks and show a dark gray border around the selected blocks.
1084         (AnalysisResultsViewer.TestGroupStackingBlock):
1085         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Use this._title for title.
1086         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
1087         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForRootSet): Deleted.
1088
1089         * public/v3/components/results-table.js:
1090         (ResultsTable.prototype.render):
1091         (ResultsTable.prototype._createRevisionListCells): Extracted from ResultsTable.prototype.render.
1092         (ResultsTable.cssTemplate): Tweaked the style.
1093         (ResultsTableRow):
1094         (ResultsTableRow.prototype.constructor): Added _labelForWholeRow to store the label for the entire row.
1095         This is used to show the comparison result of two root sets (e.g. A vs B).
1096         (ResultsTableRow.prototype.setLabelForWholeRow): Added.
1097         (ResultsTableRow.prototype.labelForWholeRow): Added.
1098         (ResultsTableRow.prototype.resultContent): Extracted from buildHeading. Creates a hyperlinked bar graph
1099         used for each A/B testing result.
1100         (ResultsTableRow.prototype.buildHeading): Deleted since we need to set colspan on the second table cell
1101         when we're creating a row with _labelForWholeRow.
1102
1103         * public/v3/components/test-group-results-table.js:
1104         (TestGroupResultsTable.prototype.buildRowGroups): Added rows to show relative differences and statistical
1105         significance between root sets (e.g. A vs B).
1106
1107         * public/v3/models/build-request.js:
1108         (BuildRequest.prototype.hasCompleted): Added.
1109
1110         * public/v3/models/test-group.js:
1111         (TestGroup.prototype.compareTestResults): Extracted from AnalysisResultsViewer.TestGroupStackingBlock's
1112         _computeTestGroupStatus and generalized to be reused in TestGroupResultsTable.
1113         (TestGroup.prototype._valuesForRootSet): Moved from AnalysisResultsViewer.TestGroupStackingBlock.
1114
1115         * public/v3/pages/analysis-task-page.js:
1116         (AnalysisTaskPage.cssTemplate): Tweaked the style.
1117
1118 2016-01-07  Ryosuke Niwa  <rniwa@webkit.org>
1119
1120         Perf dashboard should automatically add aggregators
1121         https://bugs.webkit.org/show_bug.cgi?id=152818
1122
1123         Reviewed by Chris Dumez.
1124
1125         When an aggregator entry is missing in aggregators table, automatically insert it in /api/report.
1126
1127         In a very early version of the perf dashboard, we had the ability to define a custom aggregator
1128         in an admin page. In practice, nobody used or needed this feature so we got rid of it even before
1129         the dashboard was landed into WebKit repository. This patch cleans up that mess.
1130
1131         * run-tests.js:
1132         (main): Added the filtering capability.
1133         (TestEnvironment): Expose the config JSON in the test environment.
1134
1135         * public/include/report-processor.php:
1136         (ReportProcessor): Renamed name_to_aggregator now that it only contains ID.
1137         (ReportProcessor::__construct): No longer fetches the aggregator table. An equivalent work is done
1138         in newly added ensure_aggregators.
1139         (ReportProcessor::process): Calls ensure_aggregators which populates name_to_aggregator_id.
1140         (ReportProcessor::ensure_aggregators): Added. Add the builtin aggregators: Arithmetic, Geometric,
1141         Harmonic, and Total.
1142         (TestRunsGenerator): Renamed name_to_aggregator now that it only contains ID.
1143         (TestRunsGenerator::__construct):
1144         (TestRunsGenerator::add_aggregated_metric): Don't include aggregator_definition here since it's
1145         never used now that all the aggregations are done natively in PHP.
1146         (TestRunsGenerator::$aggregators): Added. We don't include SquareSum since it's only used for
1147         computing run_square_sum_cache in test_runs table and it's useless elsewhere.
1148         (TestRunsGenerator::aggregate_values): Add a comment about that.
1149
1150         * tests/api-report.js: Updated a test case to reflect the change.
1151
1152 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1153
1154         Perf dashboard JSON API should fail gracefully when postgres is down
1155         https://bugs.webkit.org/show_bug.cgi?id=152812
1156
1157         Reviewed by Chris Dumez.
1158
1159         Even though all JSON APIs returned DatabaseConnectionFailure as the status when Database::connect
1160         returned a falsy value, PHP was spitting out warnings and producing HTTP responses that cannot be
1161         parsed as a JSON when pg_connect failed.
1162
1163         Fixed the bug by suppressing warning messages in pg_connect.
1164
1165         * public/include/db.php:
1166         (Database::connect): Use '@' prefix to suppress warning messages.
1167
1168 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1169
1170         Perf dashboard should auto-generate manifest file when one is missing
1171         https://bugs.webkit.org/show_bug.cgi?id=152813
1172
1173         Reviewed by Chris Dumez.
1174
1175         When /data/manifest.json is missing, fall back to newly added /api/manifest instead of
1176         silently failing to show the UI. This will make the initial setup easier.
1177
1178         * public/api/manifest.php: Added.
1179         (main):
1180         * public/include/manifest.php:
1181         (Manifest::manifest): Added.
1182         * public/v3/main.js:
1183         (fetchManifest):
1184         (didFetchManifest): Extracted from fetchManifest.
1185
1186 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1187
1188         Commit another forgotten change, this time, for r194653.
1189
1190         * public/v3/models/measurement-set.js:
1191
1192 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1193
1194         The sampling of time series on v3 UI is too aggressive
1195         https://bugs.webkit.org/show_bug.cgi?id=152804
1196
1197         Reviewed by Chris Dumez.
1198
1199         Fixed a bug that we were always halving the number of data points in _sampleTimeSeries
1200         and increased the number of data points allowed to make the sampling less aggressive.
1201
1202         * public/v3/components/time-series-chart.js:
1203         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Increase the number of maximum points
1204         to 2x the number of pixels divided by the radius of each point.
1205         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Changed the semantics of endIndex
1206         to mean the index after the last point and renamed it to indexAfterEnd.
1207         (TimeSeriesChart.prototype._sampleTimeSeries): Fixed a bug that this code always coerced two
1208         data points into one sampled data point despite of the fact i and j are sufficiently apart
1209         since data[j].time - data[i].time > timePerSample by definition.
1210
1211 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1212
1213         Commit the forgotten change for r194651.
1214
1215         * public/v3/pages/domain-control-toolbar.js:
1216         (DomainControlToolbar.prototype.setStartTime):
1217
1218 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1219
1220         The right hand side of main chart appears to be cut off as you zoom out on v3 UI
1221         https://bugs.webkit.org/show_bug.cgi?id=152778
1222
1223         Reviewed by Antti Koivisto.
1224
1225         Add a padding on x-axis after the end time to make the main chart more easily interactive.
1226
1227         * public/v3/components/time-series-chart.js:
1228         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics):
1229
1230         * public/v3/pages/page-with-charts.js:
1231         (PageWithCharts.mainChartOptions): Add a padding of 5px at the end of x-axis.
1232
1233 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1234
1235         v3 UI should use four sig-figs to label y-axis of the main charts
1236         https://bugs.webkit.org/show_bug.cgi?id=152779
1237
1238         Reviewed by Antti Koivisto.
1239
1240         Increase the number of significant figures used in the main charts to four as done in v2 UI.
1241
1242         * public/v3/pages/chart-pane.js:
1243         (ChartPane.constructor): Create a formatter with four significant figures.
1244         * public/v3/pages/page-with-charts.js:
1245         (PageWithCharts.mainChartOptions): Increase the width of y-axis labels.
1246
1247 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1248
1249         v3 UI's time range slider is harder to use than that of v2 UI
1250         https://bugs.webkit.org/show_bug.cgi?id=152780
1251
1252         Reviewed by Antti Koivisto.
1253
1254         Improved the time range slider by using a cubic mapping to time range and providing a text field
1255         to directly edit the number of days to show.
1256
1257         Now an user can enter the text mode to directly edit the number of days to show by clicking on
1258         the number of days (text field is always there with opacity=0).
1259
1260         * public/v3/pages/charts-toolbar.js:
1261         (ChartsToolbar): Store the minimum and maximum number of days allowed. Also rename _inputElement
1262         to _slider and added a new type=number text field as _editor. 
1263         (ChartsToolbar.prototype.render):
1264         (ChartsToolbar.prototype.setStartTime): Exit the text mode when the number of days is changed by
1265         an URL state transition (i.e. back/forward navigation).
1266         (ChartsToolbar.prototype._setInputElementValue): Added. Updates the values of _slider and _editor.
1267         (ChartsToolbar.prototype._enterTextMode): Added. Hide the elements used by the slider mode and
1268         show the text field.
1269         (ChartsToolbar.prototype._exitTextMode): Added. Does the opposite.
1270         (ChartsToolbar.prototype._sliderValueMayHaveChanged): Renamed from _inputValueMayHaveChanged.
1271         (ChartsToolbar.prototype._editorValueMayHaveChanged): Added. Similar to _sliderValueMayHaveChanged
1272         but also corrects the value of _editor if needed.
1273         (ChartsToolbar.prototype._callNumberOfDaysCallback): Extracted from _inputValueMayHaveChanged.
1274         Also fixed a bug that we didn't update the URL state when the change event was fired without
1275         modifying the effective number of days.
1276         (ChartsToolbar.cssTemplate): Tweaked the style to support the new mode. Also set a fixed width on
1277         the span showing the number of days in the slider mode.
1278
1279 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1280
1281         Zooming button is broken on v3 UI
1282         https://bugs.webkit.org/show_bug.cgi?id=152777
1283
1284         Reviewed by Chris Dumez.
1285
1286         Bring up the zoom button in z-index so that users can click it.
1287
1288         * public/v3/components/interactive-time-series-chart.js:
1289         (InteractiveTimeSeriesChart.cssTemplate):
1290
1291 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1292
1293         v3 UI doesn't preserve the time range when charts page is opened from a dashboard
1294         https://bugs.webkit.org/show_bug.cgi?id=152776
1295
1296         Reviewed by Chris Dumez.
1297
1298         Fixed the bug by moving the construction of charts URL from DashboardPage.prototype.open to
1299         DashboardPage.prototype.render and re-rendering the entire page upon an URL state transition.
1300
1301         * public/v3/pages/charts-page.js:
1302         (ChartsPage.createStateForDashboardItem): Takes the start time for the charts page.
1303
1304         * public/v3/pages/dashboard-page.js:
1305         (DashboardPage.prototype.updateFromSerializedState): Merged _numberOfDaysDidChange and
1306         _updateChartsDomainFromToolbar into this function since they're not used elsewhere. Also re-render
1307         the entire page when transition between different number of days to show.
1308         (DashboardPage.prototype._numberOfDaysDidChange): Deleted.
1309         (DashboardPage.prototype._updateChartsDomainFromToolbar): Deleted.
1310         (DashboardPage.prototype.render): Construct URL for each charts here.
1311         (DashboardPage.prototype._createChartForCell): Don't construct URL here since this function is
1312         called once when the dashboard page is opened, and not when the time range is changed.
1313
1314 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1315
1316         Build fix for an old version of PHP after r194618.
1317
1318         * public/api/measurement-set.php:
1319
1320 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1321
1322         A/B testing results should be visualized intuitively on v3 UI
1323         https://bugs.webkit.org/show_bug.cgi?id=152496
1324
1325         Rubber-stamped by Chris Dumez.
1326
1327         Add the "stacking block" view of A/B testing results to the analysis task page on v3 UI.
1328
1329         The patch enhances JSON APIs at /api/analysis-task /api/measurement-set/ to reduce the number of
1330         HTTP requests, and adds two UI components: TestGroupResultsTable and AnalysisResultsViewer both
1331         of which inherits from an abstract superclass: ResultsTable.
1332
1333         ResultsTable provides a tabular presentation of measured values in regular measurement sets and
1334         A/B testing results using groups of bar graphs created by BarGraphGroup. TestGroupResultsTable
1335         inherits from this class to display A/B testing configurations and the averaged results for each
1336         configuration, and AnalysisResultsViewer inherits from it to provide an intuitive visualization
1337         of the outcomes of all A/B testing results associated with a given analysis task.
1338
1339         * public/api/analysis-tasks.php:
1340         (main): Add the capability to find the analysis task based on its build request.
1341         This allows /v3/#/analysis/task/?buildRequest=<id> to be hyperlinked on buildbot page.
1342
1343         * public/api/measurement-set.php:
1344         (main): Removed the unused startTime and endTime, and added "analysisTask" to query parameters.
1345         (AnalysisResultsFetcher): Added. Used to fetch measured data associated with every build request
1346         on an analysis task.
1347         (AnalysisResultsFetcher::__construct):
1348         (AnalysisResultsFetcher::fetch): Unlike MeasurementSetFetcher, we fetch the list of commits and
1349         list of measurements separately since there will be a lot less builds and commits than measured
1350         data (since we're fetching measured values for all tests and their metrics).
1351         (AnalysisResultsFetcher::fetch_commits): Fetches commits.
1352         (AnalysisResultsFetcher::format_measurement): Like MeasurementSetFetcher::format_measurement but
1353         with config_type and config_metric since we're returning measured data for all metrics and test
1354         configurations.
1355         (AnalysisResultsFetcher::format_map): Similar to MeasurementSetFetcher::format_map.
1356
1357         * public/v3/components/analysis-results-viewer.js: Added.
1358         (AnalysisResultsViewer): Added. 
1359         (AnalysisResultsViewer.prototype.didUpdateResults): This callback is called by AnalysisTaskPage
1360         when A/B testing results become available.
1361         (AnalysisResultsViewer.prototype.render): Overrides ResultsTable's render to highlight the block
1362         representing the currently selected test group.
1363
1364         (AnalysisResultsViewer.prototype.buildRowGroups): Creates a list of rows with "stacking blocks"
1365         that visualizes A/B testing results. The algorithm works as follows: 1. Create all table rows.
1366         2. Find which row is associated with each set in each test group. 3. Layout "blocks".
1367
1368         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Collects root sets from all data
1369         in the measurement set as well as A/B testing **requests** (results may contain more repositories
1370         than requested but they aren't interesting for the purpose of visualizing results for the entire
1371         analysis task).
1372
1373         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Create table rows. First,
1374         create table rows for measurement set points that have a matching test group (i.e. either set A
1375         or set B of an A/B testing uses the same root set as a point). Second, insert a new row for each
1376         root set in each test group which didn't find a matching measurement set point. There is a little
1377         subtlety that some A/B testing may specify revisions for a subset of repositories and/or some A/B
1378         testing results may appear as if it goes back in time with respect to other A/B testing results.
1379         For example, consider creating two A/B test groups for WebKit changes and OS changes separately.
1380         There could be no coherent linearization of those two A/B testing in which both WebKit and OS
1381         versions move forward.
1382
1383         (AnalysisResultsViewer.RootSetInTestGroup): Added. Represents a pair (test group, root set) since
1384         a root set could be shared by multiple test groups.
1385         (AnalysisResultsViewer.TestGroupStackingBlock): Added. A stacked block representing a test group.
1386         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex): Associates a row number with
1387         either set A or set B.
1388         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Creates a table cell
1389         for this block.
1390         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Returns true if this test group
1391         has failed and this block should look "thin" without any label.
1392         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus): Computes the
1393         status for this test group.
1394
1395         (AnalysisResultsViewer.TestGroupStackingGrid): Added. AnalysisResultsViewer uses this class to
1396         layout blocks representing test groups.
1397         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.insertBlockToColumn): Inserts a new block
1398         to layout. We keep all test groups doing the same A/B test next to each other.
1399         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.layout): Layouts each block / test group
1400         in the order they are created.
1401         (AnalysisResultsViewer.TestGroupStackingGrid.prototype._layoutBlock): Places the block in the
1402         left-most column that can accommodate it while avoiding columns of a different thin-ness. A column
1403         is thin if its A/B testing has failed, and not thin otherwise.
1404         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.createCellsForRow): Creates table cells for
1405         a given row. For each column, generate a table cell if we're in the first row and the first block
1406         starts in a later row, a block starts in the current row, or the last block ended in the previous
1407         row and the next block or the last row appears later.
1408
1409         * public/v3/components/bar-graph-group.js: Added. A component for showing a group of bar graphs.
1410         (BarGraphGroup): Added. Creates a group of bar graphs with the same value range. It's used by
1411         AnalysisResultsViewer and ResultsTable to show bar graphs to compare values.
1412         (SingleBarGraph): A component created and collectively controlled by BarGraphGroup.
1413
1414         * public/v3/components/results-table.js: Added.
1415         (ResultsTable): An abstract superclass for TestGroupResultsTable and AnalysisResultsViewer.
1416
1417         (ResultsTable.prototype.render): Renders the table. 1. Call "buildRowGroups()" implemented by
1418         a subclass to obtain the list of rows. 2. Compute the list of repositories to show. 3. For each
1419         cell in the table, compute the number of rows to show the same value (for rowspan). 4. Render the
1420         table with an extra list of repositories if exists.
1421
1422         (ResultsTable.prototype._computeRepositoryList): Compute the list of repositories to list
1423         revisions in the table. Omit repositories not present in any row or for which all rows have the
1424         same revision. In the latter case, include it in the extra repositories listed below the table.
1425         This minimizes the amount of redundant information presented to the user.
1426
1427         (ResultsTableRow): Added. Represents a single row in the table. ResultsTable constructs necessary
1428         table cells to tabulate the associated root sets, and shows the associated result using a grouped
1429         bar graph. Additional columns are used by AnalysisResultsViewer to show stacked blocks for A/B
1430         testing groups.
1431
1432         * public/v3/components/test-group-results-table.js: Added.
1433         (TestGroupResultsTable):
1434         (TestGroupResultsTable.prototype.didUpdateResults):
1435         (TestGroupResultsTable.prototype.setTestGroup):
1436         (TestGroupResultsTable.prototype.heading):
1437         (TestGroupResultsTable.prototype.render):
1438         (TestGroupResultsTable.prototype.buildRowGroups):
1439
1440         * public/v3/index.html:
1441         * public/v3/models/analysis-results.js: Added.
1442         (AnalysisResults): Added. Like MeasurementSet, this class represents a set of measured values
1443         associated with a given analysis task.
1444         (AnalysisResults.prototype.find): Returns a measured valued for a given build and metric.
1445         (AnalysisResults.prototype.add): Adds a new measured value. Used by AnalysisResults.fetch.
1446         (AnalysisResults.fetch): Fetches data and creates AnalysisResults for a given analysis task.
1447
1448         * public/v3/models/analysis-task.js:
1449         (AnalysisTask.prototype.startMeasurementId): Added.
1450         (AnalysisTask.prototype.endMeasurementId): Added.
1451         (AnalysisTask.fetchByBuildRequestId): Added.
1452         (AnalysisTask._fetchSubset): Uses DataModelObject.cachedFetch.
1453
1454         * public/v3/models/build-request.js: Added.
1455         (BuildRequest): Added. Represents a single A/B testing request associated with a test group.
1456
1457         * public/v3/models/builder.js:
1458         (Build): Added. Represents a build associated with a given A/B testing result.
1459
1460         * public/v3/models/commit-log.js:
1461         (CommitLog): Made this class inherit from DataModelObject.
1462         (CommitLog.ensureSingleton): Added. Finds the singleton object created for a given revision
1463         in the specified repository. This helps RootSet and other classes compare commits fast.
1464         (CommitLog.prototype.repository): Added.
1465         (CommitLog.fetchBetweenRevisions): Uses CommitLog.ensureSingleton.
1466
1467         * public/v3/models/data-model.js:
1468         (DataModelObject):
1469         (DataModelObject.namedStaticMap): Added.
1470         (DataModelObject.ensureNamedStaticMap): Renamed from namedStaticMap instead of implicitly
1471         assuming that the non-static version always creates the map.
1472         (DataModelObject.prototype.namedStaticMap): Added.
1473         (DataModelObject.cachedFetch): Extracted from AnalysisTask._fetchSubset so that TestGroup's
1474         fetchByTask could also use it.
1475         (LabeledObject):
1476
1477         * public/v3/models/measurement-adaptor.js: Added.
1478         (MeasurementAdaptor): Extracted from MeasurementCluster. This class is responsible for
1479         re-formatting the data received via /api/measurement-set JSON API inside the v3 UI.
1480         (MeasurementAdaptor.prototype.extractId): Added.
1481         (MeasurementAdaptor.prototype.adoptToAnalysisResults): Added. Used by AnalysisResults.
1482         (MeasurementAdaptor.aggregateAnalysisResults): Added. Used by TestGroupResultsTable to
1483         aggregate results for each test configuration; e.g. computing the average for set A.
1484         (MeasurementAdaptor.prototype.adoptToSeries): Extracted from MeasurementCluster.addToSeries.
1485         Added rootSet() to each point. This allows AnalysisResultsViewer to compare them against root
1486         sets associated with A/B testing results.
1487         (MeasurementAdaptor.computeConfidenceInterval): Moved from MeasurementCluster.
1488
1489         * public/v3/models/measurement-cluster.js:
1490         (MeasurementCluster):
1491         (MeasurementCluster.prototype.addToSeries):
1492
1493         * public/v3/models/repository.js:
1494         (Repository.prototype.hasUrlForRevision): Added.
1495
1496         * public/v3/models/root-set.js: Added.
1497         (RootSet): Added. Represents a set of commits in measured results.
1498         (MeasurementRootSet): Added. Ditto for results associated with A/B testing.
1499
1500         * public/v3/models/test-group.js: Added.
1501         (TestGroup): Added. Represents a A/B testing on analysis task.
1502         (TestGroup.prototype.createdAt): Added.
1503         (TestGroup.prototype.buildRequests): Returns the list of build requests associated with this
1504         A/B testing.
1505         (TestGroup.prototype.addBuildRequest): Added. Used by BuildRequest's constructor to associate
1506         itself with this group.
1507         (TestGroup.prototype.didSetResult): Added. Called by BuildRequest.setResult when measured
1508         values are fetched and associated with a build request in this group.
1509
1510         * public/v3/models/test.js:
1511         (Test):
1512
1513         * public/v3/pages/analysis-task-page.js:
1514         (AnalysisTaskPage):
1515         (AnalysisTaskPage.prototype.updateFromSerializedState): Fetch the analysis task, test groups
1516         associated with it, and all A/B testing results based on the task id or the build request id
1517         specified in the URL.
1518         (AnalysisTaskPage.prototype._didFetchTask): Added. Start fetching the measured data. This is
1519         the data on charts page for which this analysis task was created, not results of A/B testing.
1520         (AnalysisTaskPage.prototype._didFetchMeasurement): Added. Display the fetched data in a table
1521         inside AnalysisResultsViewer.
1522         (AnalysisTaskPage.prototype._didFetchTestGroups): Added. Display the list of A/B test groups
1523         as well as the results of the first A/B testing.
1524         (AnalysisTaskPage.prototype._didFetchAnalysisResults): Added.
1525         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Added. Once both the analysis task,
1526         A/B test groups as well as their results are fetched, update build requests in each test group
1527         with their results.
1528         (AnalysisTaskPage.prototype.render): Show the list of test groups and highlight the currently
1529         selected one.
1530         (AnalysisTaskPage.prototype._showTestGroup): Added. A callback used by AnalysisResultsViewer
1531         and TestGroupResultsTable to notify this class when the user selects a new test group.
1532         (AnalysisTaskPage.htmlTemplate): Updated the template.
1533         (AnalysisTaskPage.cssTemplate): Ditto.
1534
1535         * public/v3/pages/charts-page.js:
1536         (ChartsPage.createStateForAnalysisTask): Added. Creates a URL state object for opening a chart
1537         associated with an analysis task.
1538
1539 2015-12-22  Ryosuke Niwa  <rniwa@webkit.org>
1540
1541         Analysis task page is slow to load
1542         https://bugs.webkit.org/show_bug.cgi?id=152517
1543
1544         Reviewed by Andreas Kling.
1545
1546         The slowness comes from r194130 which made the JSON API at /api/analysis-tasks to report the start
1547         and the end of each analysis task. This query was adding ~2s to the total JSON generation time.
1548
1549         Cache these values on analysis_task table since they never change once an analysis task is created.
1550
1551         * init-database.sql: Added columns task_start_run_time and task_end_run_time to analysis_task table.
1552         Also added the missing drop statements at the top.
1553
1554         * public/api/analysis-tasks.php:
1555         (fetch_and_push_bugs_to_tasks): Don't fetch the latest commit time of the start and the end.
1556         (format_task): Report task_start_run_time and task_end_run_time as startRunTime and endRunTime.
1557
1558         * public/privileged-api/create-analysis-task.php:
1559         (main): Set start_run_time and end_run_time when creating an analysis task.
1560         (time_for_run): Added.
1561
1562 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1563
1564         v3 UI shouldn't open/close pane selector by mouseenter/leave
1565         https://bugs.webkit.org/show_bug.cgi?id=152399
1566
1567         Reviewed by Andreas Kling.
1568
1569         Removed the code to open and close the pane selector by mouseenter and mouseleave
1570         since multiple people have complained about the behavior.
1571
1572         * public/v3/pages/charts-toolbar.js:
1573         (ChartsToolbar): Removed the event listeners.
1574         (ChartsToolbar.prototype._addPane): Don't close the pane selector when adding a new pane
1575         to better support the use case of adding multiple panes.
1576         (ChartsToolbar.cssTemplate): Tweaked CSS.
1577
1578 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1579
1580         Popover for analysis tasks shows up at the left edge of annotation bars in the v3 UI
1581         https://bugs.webkit.org/show_bug.cgi?id=152389
1582
1583         Reviewed by Darin Adler.
1584
1585         Compute the x coordinate of the popover from the center of each annotation bar.
1586
1587         Also adjust the x coordinate to keep the popover within the charts.
1588
1589         * public/v3/components/interactive-time-series-chart.js:
1590         (InteractiveTimeSeriesChart.prototype._renderChartContent):
1591
1592 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1593
1594         Dashboard charts should have uniform widths on v3 UI
1595         https://bugs.webkit.org/show_bug.cgi?id=152395
1596
1597         Reviewed by Chris Dumez.
1598
1599         Fix the bug by applying table-layout: fixed on the dashboard table.
1600
1601         * public/v3/pages/dashboard-page.js:
1602         (DashboardPage.prototype.render): Added header-column as a class name to explicitly set the header column with.
1603         (DashboardPage.cssTemplate): Adjusted CSS accordingly.
1604
1605 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1606
1607         Closing a pane on v3 UI always closes the last pane
1608         https://bugs.webkit.org/show_bug.cgi?id=152388
1609
1610         Reviewed by Chris Dumez.
1611
1612         The bug was caused by closePane being called without arguments. (The first argument to bind is "this" value.)
1613         Fixed it by passing in "this" pane object to the first argument.
1614
1615         * public/v3/pages/chart-pane.js:
1616         (ChartPane):
1617
1618 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1619
1620         Perf Dashboard v3 UI doesn't show recent data points on v2 UI
1621         https://bugs.webkit.org/show_bug.cgi?id=152368
1622
1623         Reviewed by Chris Dumez.
1624
1625         The bug was caused by the last modified date in measurement set JSON being a string instead of a POSIX timestamp,
1626         which prevented the v3 UI from invalidating the cache. Specifically, the following boolean logic always evaluated
1627         to false because +data['lastModified'] was NaN in MeasurementSet.prototype._fetch (/v3/models/measurement-set.js):
1628
1629         !clusterEndTime && useCache && +data['lastModified'] < self._lastModified
1630
1631         Fixed the bug by calling Database::to_js_time on the last modified date fetched from the database.
1632
1633         * public/api/measurement-set.php:
1634         (MeasurementSetFetcher::fetch_config_list): Convert the string returned by the database to a POSIX timestamp.
1635         * tests/api-measurement-set.js: Added a test to ensure the last modified date in JSON is numeric. Since the value
1636         of the last modified date depends on when tests run, we can't assert it to be a certain value.
1637
1638 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1639
1640         v3 UI should show and link the build number on charts page
1641         https://bugs.webkit.org/show_bug.cgi?id=152359
1642
1643         Reviewed by Chris Dumez.
1644
1645         Show the hyperlinked build number in the v3 UI.
1646
1647         * public/v3/models/builder.js:
1648         (Builder): Renamed _buildURL to _buildUrlTemplate.
1649         (Builder.prototype.urlForBuild): Added.
1650         * public/v3/pages/chart-pane-status-view.js:
1651         (ChartPaneStatusView):
1652         (ChartPaneStatusView.prototype.render): Added the code to render hyperlinked build number when one is available.
1653         (ChartPaneStatusView.prototype.computeChartStatusLabels): Store currentPoint's measurement object as _buildInfo
1654         if the current point is set by an indicator (not by a selection).
1655
1656 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1657
1658         v3 dashboard doesn't stretch charts to fill the screen
1659         https://bugs.webkit.org/show_bug.cgi?id=152354
1660
1661         Reviewed by Chris Dumez.
1662
1663         The bug was caused by a workaround to avoid canvas stretching table cell too much.
1664
1665         Fix the problem instead by making the canvas absolutely positioned inside the "time-series-chart" element
1666         so that it does not contribute to the intrinsic/natural width of the cell.
1667
1668         * public/v3/components/time-series-chart.js:
1669         (TimeSeriesChart.prototype._ensureCanvas): Make the canvas absolutely positioned inside the shadow root.
1670         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Use the container element's size now that
1671         the canvas does not resize with it.
1672         * public/v3/pages/dashboard-page.js:
1673         (DashboardPage.cssTemplate): Updated the CSS so that the chart stretches all the way.
1674
1675 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1676
1677         The chart status on v3 UI sometimes show wrong revision ranges
1678         https://bugs.webkit.org/show_bug.cgi?id=152331
1679
1680         Reviewed by Chris Dumez.
1681
1682         The bug was caused by the status view not taking the data sampling that happens in TimeSeriesChart into account
1683         when finding the previous point. Take this into account by using InteractiveTimeSeries.currentPoint(-1) which
1684         finds the sampled data point immediately preceding the current point (at which the indicator is shown).
1685
1686         * public/v3/components/chart-status-view.js:
1687         (ChartStatusView.prototype.updateStatusIfNeeded):
1688
1689 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1690
1691         Perf dashboard's cycler page should use v3 UI
1692         https://bugs.webkit.org/show_bug.cgi?id=152324
1693
1694         Reviewed by Chris Dumez.
1695
1696         Use the v3 UI in cycler.html after r194130.
1697
1698         * public/cycler.html:
1699         * public/v3/index.html: Removed the reference to a non-existent platform-selector.js.
1700
1701 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1702
1703         Add v3 UI to perf dashboard
1704         https://bugs.webkit.org/show_bug.cgi?id=152311
1705
1706         Reviewed by Chris Dumez.
1707
1708         Add the third iteration of the perf dashboard UI. UI for viewing and modifying analysis tasks is coming soon.
1709         The v3 UI is focused on speed, and removes all third-party script dependencies including jQuery, d3, and Ember.
1710         Both the DOM-based UI and graphing are implemented manually.
1711
1712
1713         The entire app is structured using new component library implemented in components/base.js. Each component is
1714         an instance of a subclass of ComponentBase which owns a single DOM element. Each subclass may supply static
1715         methods named htmlTemplate and cssTemplate as the template for a component instance. ComponentBase automatically
1716         clones the templates inside the associated element (or its shadow root on the supported browsers). Each subclass
1717         must supply a method called "render()" which constructs and updates the DOM as needed.
1718
1719         There is a special component called Page, which represents an entire page. Each Page is opened by PageRouter's
1720         "route()" function. Each subclass of Page supplies "open()" for initialization and "updateFromSerializedState()"
1721         for a hash URL transition.
1722
1723
1724         The key feature of the v3 UI is the split of time series into chunks called clusters (see r194120). On an internal
1725         instance of the dashboard, the v2 UI downloads 27MB of data whereas the same page loads only 3MB of data in the v3.
1726         The key logic for fetching time series in chunks is implemented by MeasurementSet in /v3/models/measurement-set.js.
1727         We first fetch the cached primary cluster (the cluster that contains the newest data) at:
1728         /data/measurement-set-<platform-id>-<metric-id>.json
1729
1730         If that's outdated according to lastModified in manifest.json, then we immediately re-fetch the primary cluster at:
1731         /api/measurement-set/?platform=<platform-id>&metric=<metric-id>
1732
1733         Once the up-to-date primary cluster is fetched, we fetch all "secondary" clusters. For each cluster being fetched,
1734         including the primary, we invoke registered callbacks.
1735
1736
1737         In addition, the v3 UI reduces the initial page load time by loading a single bundled JS file generated by
1738         tools/bundle-v3-scripts.py. index.html has a fallback to load all 44 JS files individually during development.
1739
1740         * public/api/analysis-tasks.php:
1741         (fetch_and_push_bugs_to_tasks): Added the code to fetch start and end run times. This is necessary in V3 UI
1742         because no longer fetch the entire time series. See r194120 for the new measurement set JSON API.
1743         (format_task): Compute the category of an analysis task based on "result" value. This will be re-vamped once
1744         I add the UI for the analysis task page in v3.
1745
1746         * public/include/json-header.php:
1747         (require_format): CamelCase the name.
1748         (require_match_one_of_values): Ditto.
1749         (validate_arguments): Renamed from require_existence_of and used in measurement-set.php landed in r194120.
1750
1751         * public/v3: Added.
1752         * public/v3/components: Added.
1753
1754         * public/v3/components/base.js: Added.
1755         (ComponentBase): The base component class.
1756         (ComponentBase.prototype.element): Returns the DOM element associated with the DOM element.
1757         (ComponentBase.prototype.content): Returns the shadow root if one exists and the associated element otherwise.
1758         (ComponentBase.prototype.render): To be implemented by a subclass.
1759         (ComponentBase.prototype.renderReplace): A helper function to "render" DOM contents.
1760         (ComponentBase.prototype._constructShadowTree): Called inside the constructor to instantiate the templates.
1761         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Instantiates components referred by
1762         its element name inside the instantiated content.
1763         (ComponentBase.isElementInViewport): A helper function. Returns true if the element is in the viewport and it has
1764         non-zero width and height.
1765         (ComponentBase.defineElement): Defines a custom element that can be automatically instantiated from htmlTemplate.
1766         (ComponentBase.createElement): A helper function to create DOM tree to be used in "render()" method.
1767         (ComponentBase._addContentToElement): A helper for "createElement".
1768         (ComponentBase.createLink): A helper function to create a hyperlink or another clickable element (via callback).
1769         (ComponentBase.createActionHandler): A helper function to create an event listener that prevents the default action
1770         and stops the event propagation.
1771
1772         * public/v3/components/button-base.js: Added.
1773
1774         * public/v3/components/chart-status-view.js: Added.
1775         (ChartStatusView): A component that reports the current status of time-series-chart. It's subclasses by
1776         ChartPaneStatusView to provide additional information in the charts page's panes.
1777
1778         * public/v3/components/close-button.js: Added.
1779         (CloseButton):
1780         * public/v3/components/commit-log-viewer.js: Added.
1781         (CommitLogViewer): A component that lists commit revisions along with commit messages for a range of data points.
1782
1783         * public/v3/components/interactive-time-series-chart.js: Added.
1784         (InteractiveTimeSeriesChart): A subclass of InteractiveTimeSeriesChart with interactivity (selection & indicator).
1785         Selection and indicator are mutually exclusive.
1786
1787         * public/v3/components/pane-selector.js: Added.
1788         (PaneSelector): A component for selecting (platform, metric) pair to add in the charts page.
1789
1790         * public/v3/components/spinner-icon.js: Added.
1791
1792         * public/v3/components/time-series-chart.js: Added.
1793         (TimeSeriesChart): A canvas-based chart component without interactivity. It takes a source list and options as
1794         the constructor arguments. A source list is a list of measurement sets (measurement-set.js) with drawing options.
1795         This component fetches data via MeasurementSet.fetchBetween inside TimeSeriesChart.prototype.setDomain and
1796         progressively updates the charts as more data arrives. The canvas is updated on animation frame via rAF and all
1797         layout and rendering metrics are lazily computed in _layout. In addition, this component samples data before
1798         rendering the chart when there are more data points per pixel in _ensureSampledTimeSeries.
1799
1800         * public/v3/index.html: Added. Loads bundled-scripts.js if it exists, or individual script files otherwise.
1801
1802         * public/v3/instrumentation.js: Added. This class is used to gather runtime statistics of v3 UI. (It measures
1803         the performance of the perf dashboard UI).
1804
1805         * public/v3/main.js: Added. Bootstraps the app.
1806         (main):
1807         (fetchManifest):
1808
1809         * public/v3/models: Added.
1810         * public/v3/models/analysis-task.js: Added.
1811         * public/v3/models/bug-tracker.js: Added.
1812         * public/v3/models/bug.js: Added.
1813         * public/v3/models/builder.js: Added.
1814         * public/v3/models/commit-log.js: Added.
1815         * public/v3/models/data-model.js: Added.
1816         (DataModelObject): The base class for various data objects that correspond to database tables. It supplies static
1817         hash map to find entries by id as well as other keys.
1818         (LabeledObject): A subclass of DataModelObject with the capability to find an object via its name.
1819
1820         * public/v3/models/measurement-cluster.js: Added.
1821         (MeasurementCluster): Represents a single cluster or a chunk of data in a measurement set.
1822
1823         * public/v3/models/measurement-set.js: Added.
1824         (MeasurementSet): Represents a measurement set.
1825         (MeasurementSet.findSet): Returns the singleton set given (metric, platform). We use singleton to avoid issuing
1826         multiple HTTP requests for the same JSON when there are multiple TimeSeriesChart that show the same graph (e.g. on
1827         charts page with overview and main charts).
1828         (MeasurementSet.prototype.findClusters): Finds the list of clusters to fetch in a given time range.
1829         (MeasurementSet.prototype.fetchBetween): Fetch clusters for a given time range and calls callback whenever new data
1830         arrives. The number of callbacks depends on the how many clusters need to be newly fetched.
1831         (MeasurementSet.prototype._fetchSecondaryClusters): Fetches non-primary (non-latest) clusters.
1832         (MeasurementSet.prototype._fetch): Issues a HTTP request to fetch a cluster.
1833         (MeasurementSet.prototype._didFetchJSON): Called when a cluster is fetched.
1834         (MeasurementSet.prototype._failedToFetchJSON): Called when the fetching of a cluster has failed.
1835         (MeasurementSet.prototype._invokeCallbacks): Invokes callbacks upon an approval of a new cluster.
1836         (MeasurementSet.prototype._addFetchedCluster): Adds the newly fetched cluster in the order.
1837         (MeasurementSet.prototype.fetchedTimeSeries): Returns a time series that contains data from all clusters that have
1838         been fetched.
1839         (TimeSeries.prototype.findById): Additions to TimeSeries defined in /v2/data.js.
1840         (TimeSeries.prototype.dataBetweenPoints): Ditto.
1841         (TimeSeries.prototype.firstPoint): Ditto.
1842
1843         * public/v3/models/metric.js: Added.
1844         * public/v3/models/platform.js: Added.
1845         * public/v3/models/repository.js: Added.
1846         * public/v3/models/test.js: Added.
1847
1848         * public/v3/pages: Added.
1849         * public/v3/pages/analysis-category-page.js: Added. The "Analysis" page that lists the analysis tasks.
1850         * public/v3/pages/analysis-category-toolbar.js: Added. The toolbar to filter analysis tasks based on its category
1851         (unconfirmed, bisecting, identified, closed) and a keyword.
1852
1853         * public/v3/pages/analysis-task-page.js: Added. Not implemented yet. It just has the hyperlink to the v2  UI.
1854
1855         * public/v3/pages/chart-pane-status-view.js: Added.
1856         (ChartPaneStatusView): A subclass of ChartStatusView used in the charts page. In addition to the current value,
1857         comparison to baseline/target, it shows the list of repository revisions (e.g. WebKit revision, OS version).
1858
1859         * public/v3/pages/chart-pane.js: Added.
1860         (ChartPane): A component a pane in the charts page. Each pane has the overview chart and the main chart. The zooming
1861         is synced across all panes in the charts page.
1862
1863         * public/v3/pages/charts-page.js: Added. Charts page.
1864         * public/v3/pages/charts-toolbar.js: Added. The toolbar to set the number of days to show. This affects the overview
1865         chart's domain in each pane.
1866
1867         * public/v3/pages/create-analysis-task-page.js: Added.
1868         (CreateAnalysisTaskPage): A page that gets shown momentarily while creating a new analysis task.
1869
1870         * public/v3/pages/dashboard-page.js: Added. A dashboard page.
1871         * public/v3/pages/dashboard-toolbar.js: Added. Its toolbar with buttons to select the number of days to show.
1872         * public/v3/pages/domain-control-toolbar.js: Added. An abstract superclass of charts and dashboard toolbars.
1873
1874         * public/v3/pages/heading.js: Added. A component for displaying the header and toolbar, if exists, on each page.
1875         * public/v3/pages/page-router.js: Added. This class is responsible for updating the URL hashes as well as opening
1876         and updating each page when the hash changes (via back/forward navigation).
1877         * public/v3/pages/page-with-charts.js: Added. An abstract subclass of page used by dashboards and charts page.
1878         Supplies helper functions for creating TimeSeriesChart options.
1879         * public/v3/pages/page-with-heading.js: Added. An abstract subclass of page that uses the heading component.
1880         * public/v3/pages/page.js: Added. The Page component.
1881         * public/v3/pages/toolbar.js: Added. An abstract toolbar component.
1882
1883         * public/v3/remote.js: Added.
1884         (getJSON): Fetches JSON from the remote server.
1885         (getJSONWithStatus): Ditto. Rejects the response if the status is not "OK".
1886         (PrivilegedAPI.sendRequest): Posts a HTTP request to a privileged API in /privileged-api/.
1887         (PrivilegedAPI.requestCSRFToken): Creates a new CSRF token to request a privileged API post.
1888
1889         * tools/bundle-v3-scripts.py: Added.
1890         (main): Bundles js files together and minifies them by jsmin.py for the v3 UI. Without this script, we're forced to
1891         download 44 JS files or making each JS file contain multiple classes.
1892
1893         * tools/jsmin.py: Copied from WebInspector / JavaScriptCore code.
1894
1895 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1896
1897         Fix v2 UI after r194093.
1898
1899         * public/v2/data.js:
1900
1901 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1902
1903         Add /api/measurement-set for v3 UI
1904         https://bugs.webkit.org/show_bug.cgi?id=152312
1905
1906         Rubber-stamped by Chris Dumez.
1907
1908         The new API JSON allows the front end to fetch measured data in chunks called a "cluster" as specified
1909         in config.json for each measurement set specified by the pair of a platform and a metric.
1910
1911         When the front end needs measured data in a given time range (t_0, t_1) for a measurement set, it first
1912         fetches the primary cluster by /api/measurement-set/?platform=<platform-id>&metric=<metric-id>.
1913         The primary cluster is the last cluster in the set (returning the first cluster here is not useful
1914         since we don't typically show very old data), and provides the information needed to fetch other clusters.
1915
1916         Fetching the primary cluster also creates JSON files at:
1917         /data/measurement-set-<platform-id>-<metric-id>-<cluster-end-time>.json
1918         to allow latency free access for secondary clusters. The front end code can also fetch the cache of
1919         the primary cluster at: /data/measurement-set-<platform-id>-<metric-id>.json.
1920
1921         Because the front end code has to behave as if all data is fetched, each cluster contains one data point
1922         immediately before the first data point and one immediately after the last data point. This avoids having
1923         to fetch multiple empty clusters for manually specified baseline data. To support this behavior, we generate
1924         all clusters for a given measurement set at once when the primary cluster is requested.
1925
1926         Furthermore, all measurement sets are divided at the same time into clusters so that the boundary of clusters
1927         won't shift as more data are reported to the server.
1928
1929         * config.json: Added clusterStart and clusterSize as options.
1930         * public/api/measurement-set.php: Added.
1931         (main):
1932         (MeasurementSetFetcher::__construct):
1933         (MeasurementSetFetcher::fetch_config_list): Finds configurations that belongs to this (platform, metric) pair.
1934         (MeasurementSetFetcher::at_end): Returns true if we've reached the end of all clusters for this set.
1935         (MeasurementSetFetcher::fetch_next_cluster): Generates the JSON data for the next cluster. We generate clusters
1936         in increasing chronological order (the oldest first and the newest last).
1937         (MeasurementSetFetcher::execute_query): Executes the main query.
1938         (MeasurementSetFetcher::format_map): Returns the mapping of a measurement field to an array index. This removes
1939         the need to have key names for each measurement and reduces the JSON size by ~10%.
1940         (MeasurementSetFetcher::format_run): Creates an array that contains data for a single measurement. The order
1941         matches that of keys in format_map.
1942         (MeasurementSetFetcher::parse_revisions_array): Added. Copied from runs.php.
1943         * tests/api-measurement-set.js: Added. Added tests for /api/measurement-set.
1944
1945 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1946
1947         Using fake timestamp in OS version make some results invisible
1948         https://bugs.webkit.org/show_bug.cgi?id=152289
1949
1950         Reviewed by Stephanie Lewis.
1951
1952         Fix various bugs after r194088.
1953
1954         * public/api/commits.php:
1955         (format_commit): Include the commit order.
1956         * public/v2/data.js:
1957         (CommitLogs._cacheConsecutiveCommits): Sort by commit order when commit time is missing.
1958         * tools/pull-os-versions.py:
1959         (OSBuildFetcher._assign_order): Use integer instead of fake time for commit order.
1960         (available_builds_from_command): Exit early when an exception is thrown.
1961
1962 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1963
1964         Fix a typo in the previous commit.
1965
1966         * public/include/report-processor.php:
1967
1968 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1969
1970         Build fix after r192965. Suppress a warning about log being referred to as a closure variable.
1971
1972         * public/include/report-processor.php:
1973
1974 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1975
1976         Using fake timestamp in OS version make some results invisible
1977         https://bugs.webkit.org/show_bug.cgi?id=152289
1978
1979         Reviewed by Stephanie Lewis.
1980
1981         Added commit_order column to explicitly order OS versions. This fixes the bug whereby which
1982         baseline results reported with only OS versions are shown with x coordinate set to 10 years ago.
1983
1984         To migrate the existing database, run:
1985             ALTER TABLE commits ADD COLUMN commit_order integer;
1986             CREATE INDEX commit_order_index ON commits(commit_order);
1987
1988         Then for each repository $1,
1989             UPDATE commits SET (commit_time, commit_order) = (NULL, CAST(EXTRACT(epoch from commit_time) as integer))
1990             WHERE commit_repository = $1;
1991
1992
1993         * init-database.sql: Added the column.
1994         * public/api/commits.php:
1995         (fetch_commits_between): Use commit_order to order commits when commit_time is missing.
1996         * public/api/report-commits.php:
1997         (main): Set commit_order.
1998         * tools/pull-os-versions.py:
1999         (OSBuildFetcher.fetch_and_report_new_builds):
2000         (OSBuildFetcher._assign_order): Renamed from _assign_fake_timestamps. Set the order instead of a fake timestmap.
2001
2002 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2003
2004         Perf dashboard can't merge when the destination platform is missing baseline/target
2005         https://bugs.webkit.org/show_bug.cgi?id=152286
2006
2007         Reviewed by Stephanie Lewis.
2008
2009         The bug was caused by the query to migrate test configurations to new platform checking
2010         configuration type and metric separately; that is, it assumes the configuration exists
2011         only if either the same type or the same metric exists in the destination.
2012
2013         Fixed the bug by checking both conditions simultaneously for each configuration.
2014
2015         * public/admin/platforms.php:
2016         * tests/admin-platforms.js: Added a test.
2017
2018 2015-12-11  Ryosuke Niwa  <rniwa@webkit.org>
2019
2020         Perf dashboard's buildbot sync config JSON duplicates too much information
2021         https://bugs.webkit.org/show_bug.cgi?id=152196
2022
2023         Reviewed by Stephanie Lewis.
2024
2025         Added shared, per-builder, and per-test (called type) configurations.
2026
2027         * tools/sync-with-buildbot.py:
2028         (load_config):
2029         (load_config.merge):
2030
2031 2015-12-02  Ryosuke Niwa  <rniwa@webkit.org>
2032
2033         Perf dashboard should avoid overflow during geometric mean computation
2034         https://bugs.webkit.org/show_bug.cgi?id=151773
2035
2036         Reviewed by Chris Dumez.
2037
2038         * public/include/report-processor.php:
2039
2040 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2041
2042         Perf dashboard should extend baseline and target to the future
2043         https://bugs.webkit.org/show_bug.cgi?id=151511
2044
2045         Reviewed by Darin Adler.
2046
2047         * public/v2/data.js:
2048         (RunsData.prototype.timeSeriesByCommitTime): Added extendToFuture as an argument.
2049         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
2050         (RunsData.prototype._timeSeriesByTimeInternal): Ditto.
2051         (TimeSeries): Add a new point to the end if extendToFuture is set and the series is not empty.
2052         * public/v2/manifest.js:
2053         (App.Manifest._formatFetchedData): Set extendToFuture to true for baselines and targets.
2054
2055 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2056
2057         Perf dashboard should always show comparison to baseline and target even if one is missing
2058         https://bugs.webkit.org/show_bug.cgi?id=151510
2059
2060         Reviewed by Darin Adler.
2061
2062         Show the comparison status against the baseline when baseline is present but target is missing.
2063
2064         To make the code more readable, this patch splits the logic into three cases:
2065         1. Both baseline and target are present
2066         2. Only baseline is present
2067         3. Only target is present
2068
2069         Also extracted a helper function to construct the label.
2070
2071         * public/v2/app.js:
2072         (.labelForDiff): Added.
2073         (App.Pane.computeStatus):
2074
2075 2015-11-23  Commit Queue  <commit-queue@webkit.org>
2076
2077         Unreviewed, rolling out r192716 and r192717.
2078         https://bugs.webkit.org/show_bug.cgi?id=151582
2079
2080         The patch was incorrect. We always need at least one data
2081         point in each configuration (Requested by rniwa on #webkit).
2082
2083         Reverted changesets:
2084
2085         "Perf dashboard's should not include results more than 366
2086         days old in JSON"
2087         https://bugs.webkit.org/show_bug.cgi?id=151529
2088         http://trac.webkit.org/changeset/192716
2089
2090         "Build fix for old version of PHP."
2091         http://trac.webkit.org/changeset/192717
2092
2093 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2094
2095         Build fix for old version of PHP.
2096
2097         * public/api/runs.php:
2098
2099 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2100
2101         Perf dashboard's should not include results more than 366 days old in JSON
2102         https://bugs.webkit.org/show_bug.cgi?id=151529
2103
2104         Reviewed by Timothy Hatcher.
2105
2106         Don't return results more than 366 days old in /api/runs/ JSON API.
2107         This is a ~5% runtime improvement and reduces the JSON file size by 20-50% in the internal perf dashboard.
2108
2109         * public/api/runs.php:
2110         (main): Added the support for "?noResults" to avoid echoing results. This is useful for debugging.
2111         Also instantiate RunsGenerator before issuing the query to find all configurations so that the runtime cost
2112         of doing so will be included in elapsedTime.
2113         (RunsGenerator::fetch_runs): Skip a row when its build and commit times are more than 366 days old.
2114         (RunsGenerator::format_run): Takes build_time and revisions as arguments since fetch_runs uses them now.
2115         (RunsGenerator::parse_revisions_array): Compute the max of commit times.
2116
2117 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2118
2119         Remove chartPointRadius from interactive chart component
2120         https://bugs.webkit.org/show_bug.cgi?id=151480
2121
2122         Reviewed by Darin Adler.
2123
2124         Replaced the parameter by CSS rules.
2125
2126         * public/v2/chart-pane.css:
2127         (.chart .dot):
2128         (.chart .dot.foreground):
2129         (.chart .highlight):
2130         (.chart .extent):
2131         * public/v2/index.html:
2132         * public/v2/interactive-chart.js:
2133         (App.InteractiveChartComponent.Ember.Component.extend._constructGraphIfPossible):
2134         (App.InteractiveChartComponent.Ember.Component.extend._highlightedItemsChanged):
2135
2136 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2137
2138         Perf dashboard's runs API uses more than 128MB of memory
2139         https://bugs.webkit.org/show_bug.cgi?id=151478
2140
2141         Reviewed by Andreas Kling.
2142
2143         Don't fetch all query results at once to avoid using twice as much memory as needed.
2144         Use iterative API to format each result at a time.
2145
2146         This change is also a 5% runtime performance gain.
2147
2148         * public/api/runs.php:
2149         (RunsGenerator::__construct): Takes a Database instance instead of a list of configurations. The latter is
2150         no longer needed as we pass in each configuration type explicitly to fetch_runs.
2151         (RunsGenerator::fetch_runs): Renamed from add_runs since it now executes the database query via execute_query.
2152         Also moved the logic to compute the last modified time here.
2153         (RunsGenerator::execute_query): Moved from fetch_runs_for_config. Use Database::query instead of query_and_fetch_all.
2154         (RunsGeneratorForTestGroup):
2155         (RunsGeneratorForTestGroup::__construct):
2156         (RunsGeneratorForTestGroup::execute_query): Moved from fetch_runs_for_config_and_test_group.
2157
2158         * public/include/db.php:
2159         (generate_data_file): Lock the file to avoid corruption.
2160
2161 2015-11-19  Ryosuke Niwa  <rniwa@webkit.org>
2162
2163         Perf dashboard always fetches charts JSON twice
2164         https://bugs.webkit.org/show_bug.cgi?id=151483
2165
2166         Reviewed by Andreas Kling.
2167
2168         Only re-generate "runs" JSON via /api/runs/ when the cache doesn't exist in /data/ or the cached JSON is
2169         obsolete (shouldRefetch is set true) or corrupt (the second closure).
2170
2171         * public/v2/app.js:
2172         (App.Pane._fetch):
2173
2174 2015-11-18  Ryosuke Niwa  <rniwa@webkit.org>
2175
2176         Internal perf dashboard takes forever to load
2177         https://bugs.webkit.org/show_bug.cgi?id=151430
2178
2179         Rubber-stamped by Antti Koivisto.
2180
2181         Fix a few performance problems with the perf dashboard v2 UI.
2182
2183         * public/v2/app.js:
2184         (App.DashboardRow._createPane): Set "inDashboard" to true.
2185         (App.Pane._fetch): Immediately show the cached chart instead of waiting for the refetched data which invokes
2186         a PHP JSON API. Also don't fetch the analysis tasks when the chart is shown in the dashboard since we don't
2187         show annotate charts in the dashboard.
2188
2189 2015-10-15  Ryosuke Niwa  <rniwa@webkit.org>
2190
2191         Unreviewed fix of a test after r190687.
2192
2193         * tests/admin-regenerate-manifest.js:
2194
2195 2015-10-12  Ryosuke Niwa  <rniwa@webkit.org>
2196
2197         Perf dashboard tools shouldn't require server credentials in multiple configuration files
2198         https://bugs.webkit.org/show_bug.cgi?id=149994
2199
2200         Reviewed by Chris Dumez.
2201
2202         Made detect-changes.js and pull-svn.py pull username and passwords from the server config JSON to reduce
2203         the number of JSON files that need to include credentials.
2204
2205         Also made each script reload the server config after sleep to allow dynamic credential updates.
2206
2207         In addition, change the server config JSON's format to include scheme, host, and port numbers separately
2208         instead of a url since detect-changes.js needs each value separately.
2209
2210         This reduces the number of JSONs with credentials to two for our internal dashboard.
2211
2212         * tools/detect-changes.js:
2213         (main): Added a property argument parsing. Now takes --server-config-json, --change-detection-config-json,
2214         and --seconds-to-sleep like other scripts.
2215         (parseArgument): Added.
2216         (fetchManifestAndAnalyzeData): Reload the server config JSON.
2217         (loadServerConfig): Added. Set settings.perfserver and settings.slave from the server config JSON. Also
2218         add settings.perfserver.host to match the old format.
2219         (configurationsForTesting): Fixed a bug that we throw an exception when a dashboard contains an empty cell.
2220
2221         * tools/pull-os-versions.py:
2222         (main): Use load_server_config after each sleep.
2223
2224         * tools/pull-svn.py:
2225         (main): Use load_server_config after each sleep.
2226         (fetch_commits_and_submit): Use the perf dashboard's auth as subversion credential when useServerAuth is set.
2227
2228         * tools/sync-with-buildbot.py:
2229         (main): Use load_server_config after each sleep.
2230
2231         * tools/util.py:
2232         (load_server_config): Extracted from python scripts. Computes server's url from scheme, host, and port number
2233         to match the old format python scripts except.
2234
2235 2015-10-11  Ryosuke Niwa  <rniwa@webkit.org>
2236
2237         Build fix after r190817.  Now that pull-os-versions store fake timestamps, we need to bypass timestamp
2238         checks for OS versions when bots try to report new results. Otherwise, we fail to process the reports
2239         with a MismatchingCommitTime error.
2240
2241         * public/include/report-processor.php:
2242         (ReportProcessor::resolve_build_id):
2243
2244 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2245
2246         Perf dashboard erroneously shows an old OS build in A/B testing range
2247         https://bugs.webkit.org/show_bug.cgi?id=149942
2248
2249         Reviewed by Darin Adler.
2250
2251         Ordering OS builds lexicologically turned out be a bad idea since 15A25 falls between 15A242 and 15A251.
2252         Use a fake/synthetic timestamp to force the commonly understood total order instead.
2253
2254         Refactored pull-os-versions.py to share the server config JSON with other scripts. Also made the script
2255         support pulling multiple sources; e.g. both OS X and iOS.
2256
2257         Also removed superfluous feature to submit results in chunks. The perf dashboard can handle thousands of
2258         revisions being submitted at once just fine.
2259
2260         * public/api/commits.php:
2261         (main): A partial revert of r185574 since we no longer need to order builds lexicologically.
2262
2263         * tools/pull-os-versions.py:
2264         (main): Takes --os-config-json, --server-config-json, and --seconds-to-sleep as arguments instead of
2265         a single --config argument to share the server config JSON with other scripts.
2266         (OSBuildFetcher): Extracted out of main. This class is instantiated for each OS kind (e.g. OS X).
2267         (OSBuildFetcher.__init__): Added.
2268         (OSBuildFetcher._fetch_available_builds): Extracted out of main. Fetches available builds from a website
2269         or custom commands.
2270         (OSBuildFetcher.fetch_and_report_new_builds): Extracted out of main. Submits the fetched builds after
2271         filtering out the ones we've already reported.
2272         (OSBuildFetcher._assign_fake_timestamps): Creates a fake timestamp to establish a total order amongst each
2273         OS X / iOS style build number such as 12A3456b.
2274
2275 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2276
2277         pull-svn.py fails to sync revisions when SVN credentials is not setup
2278         https://bugs.webkit.org/show_bug.cgi?id=149941
2279
2280         Reviewed by Chris Dumez.
2281
2282         Added the support for specifying subversion credentials.
2283
2284         Also added the support for pulling from multiple subversion servers. Subversion servers are specified
2285         in a JSON configuration file specified by --svn-config formatted as follows:
2286
2287         [
2288             {
2289                 "name": "WebKit",
2290                 "url": "http://svn.webkit.org/repository/webkit",
2291                 "username": "webkitten",
2292                 "password": "webkitten's password",
2293                 "trustCertificate": true,
2294                 "accountNameFinderScript":
2295                     ["python", "/Volumes/Data/WebKit/Tools/Scripts/webkit-patch", "find-users"]
2296             },
2297             ...
2298         ]
2299
2300         In addition, refactored it to use the shared server config JSON for the dashboard access.
2301
2302         * tools/pull-svn.py:
2303         (main): Now takes --svn-config-json, --server-config-json, --seconds-to-sleep and --max-fetch-count
2304         as required options instead of seven unnamed arguments.
2305         (fetch_commits_and_submit): Extracted from main. Fetches at most max_fetch_count new revisions from
2306         the subversion server, and submits them in accordance with server_config.
2307         (fetch_commit_and_resolve_author): Now takes a single repository dictionary instead of two separate
2308         arguments for name and URL to pass down the repository's authentication info to fetch_commit.
2309         (fetch_commit): Ditto. Add appropriate arguments when username and passwords are specified.
2310         (resolve_author_name_from_account): Use a list argument instead of a single string argument now that
2311         the argument comes from a JSON instead of sys.argv.
2312
2313 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2314
2315         Unreviewed race condition fix. Exit early when xScale or yScale is not defined.
2316
2317         * public/v2/interactive-chart.js:
2318         (App.InteractiveChartComponent._updateRangeBarRects):
2319
2320 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2321
2322         Add a page that cycles through v2 dashboards
2323         https://bugs.webkit.org/show_bug.cgi?id=149907
2324
2325         Reviewed by Chris Dumez.
2326
2327         Add cycler.html that goes through each dashboard on v2 UI.
2328
2329         This allows the dashboards to be cycled through on a TV screen.
2330
2331         * public/cycler.html: Added.
2332         (loadURLAt): Appends a new iframe to load the next URL (i is the index of the dashboard to be shown)
2333         at the end of body. We don't immediately show the new iframe since it might take a while to load.
2334         (showNewFrameIfLoaded): Remove the current iframe and show the next iframe if the next dashboard has
2335         finished loading. We can't rely on DOMContentLoaded or load events because we use asynchronous XHR to
2336         load each chart's data. Instead, wait until some chart becomes available or fails to load and none of
2337         charts are still in progress to be shown.
2338
2339 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2340
2341         Allow custom revisions to be specified in A/B testing
2342         https://bugs.webkit.org/show_bug.cgi?id=149905
2343
2344         Reviewed by Chris Dumez.
2345
2346         Allow custom revision number on each "repository" when creating a test group.
2347
2348         * public/v2/app.css:
2349         (form .analysis-group [name=customValue]): Added.
2350
2351         * public/v2/app.js:
2352         (App.AnalysisTaskController._createConfiguration): Added "Custom" as a revision option.
2353         Also added point labels such as (point 3) on "None" for when some points are missing revision info.
2354         (App.AnalysisTaskController._labelForPoints): Extracted from _createConfiguration.
2355         (App.AnalysisTaskController.actions.createTestGroup): Respect the custom revision number when custom
2356         revision option is selected.
2357
2358         * public/v2/index.html: Added a text field for specifying a custom revision number.
2359
2360 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2361
2362         Make the site name configurable in perf dashboard
2363         https://bugs.webkit.org/show_bug.cgi?id=149894
2364
2365         Reviewed by Chris Dumez.
2366
2367         Added "siteTitle" as a new configuration key to specify the site name.
2368
2369         * public/include/db.php:
2370         (config): Now takes the default value as an argument.
2371         * public/include/manifest.php:
2372         (ManifestGenerator::generate): Include siteTitle in the manifest.
2373         * public/index.html: Update the title and the heading when the manifest is loaded.
2374         * public/v2/index.html: Use App.Manifest.siteTitle as the heading. document.title needs to be updated manually.
2375         * public/v2/manifest.js: 
2376         (App.MetricSerializer.normalizePayload): Update document.title and App.Manifest.siteTitle.
2377
2378 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2379
2380         Perf dashboard doesn't show analysis tasks anchored at outliers
2381         https://bugs.webkit.org/show_bug.cgi?id=149870
2382
2383         Reviewed by Chris Dumez.
2384
2385         The bug was caused by the computation of start and end times of analysis tasks being dependent on
2386         time series provided to the interactive chart component even though they are already filtered.
2387
2388         Since the interactive chart component shouldn't be messing with the underlying data models, moved
2389         the code to compute start and end times to App.Pane, to where it belongs, and made the moved code use
2390         the unfiltered time series newly exposed on ChartData.
2391
2392         Also fixed a bug in fetch-from-remote.php which resulted in Ember endlessly fetching same JSON files.
2393
2394         * public/admin/fetch-from-remote.php:
2395         (.): Use the full request URI for HTTP requests and caching. Otherwise, we're going to mix up caches
2396         and Ember can start hanging browsers (took me three hours to debug this).
2397
2398         * public/v2/app.js:
2399         (App.Pane._showOutlierChanged): Added. Resets chartData when showOutlier flag has been changed.
2400         (App.Pane.fetchAnalyticRanges): The old code wasn't filtering analysis tasks by platforms and metrics
2401         at all since it relied on the server-side REST API to do the filtering, which I haven't implemented yet.
2402         Filter the results manually instead.
2403         (App.Pane.ranges): Moved the logic to compute startTime and endTime here from InteractiveChartComponent.
2404         (App.PaneController.toggleShowOutlier): Now that App.Pane responds to showOutlier changes, we don't
2405         need to call a private method on it.
2406         (App.AnalysisTaskController._chartDataChanged): When end points are not found, try showing outliers.
2407         This will cause chartData to be modified so just exit early and wait for getting called again.
2408
2409         * public/v2/interactive-chart.js:
2410         (App.InteractiveChartComponent._rangesChanged): The code to compute start and end time has been moved
2411         to App.Pane.ranges.
2412
2413         * public/v2/manifest.js:
2414         (App.Manifest._formatFetchedData): Added unfiltered time series as new properties as they are now used
2415         to compute the end points of analysis tasks when their end points are outliers.
2416
2417 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2418
2419         Unreviewed. Fix a typo in r190645.
2420
2421         * public/include/db.php:
2422
2423 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2424
2425         V2 UI shouldn't sort dashboards lexicologically
2426         https://bugs.webkit.org/show_bug.cgi?id=149856
2427
2428         Reviewed by Chris Dumez.
2429
2430         Don't sort the dashboards by name in App.Manifest.
2431
2432         * public/v2/app.js:
2433         (App.IndexRoute.beforeModel): Don't transition to "undefined" (string) dashboard.
2434         * public/v2/manifest.js:
2435         (App.Manifest.._fetchedManifest):
2436
2437 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2438
2439         V2 UI fails to show the data for the very first point in charts
2440         https://bugs.webkit.org/show_bug.cgi?id=149857
2441
2442         Reviewed by Chris Dumez.
2443
2444         The bug was caused by seriesBetweenPoints returning null for when point.seriesIndex is 0.
2445         Explicitly check the type of this property instead.
2446
2447         * public/v2/data.js:
2448         (TimeSeries.prototype.seriesBetweenPoints):
2449
2450 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2451
2452         Perf dashboard should have the capability to test local UI with production data
2453         https://bugs.webkit.org/show_bug.cgi?id=149834
2454
2455         Reviewed by Chris Dumez.
2456
2457         Added tools/run-with-remote-server.py which runs a local httpd server and pulls data from a remote server.
2458
2459         * Install.md: Added the instruction on how to use the script. Also updated the remaining instructions
2460         for El Capitan.
2461         * config.json: Added remote server configurations.
2462         * public/admin/fetch-from-remote.php: Added. This script fetches JSON from the remote server specified in
2463         config.json and caches the results in the location specified as "cacheDirectory" in config.json.
2464         (main):
2465         (fetch_remote):
2466         * public/include/db.php:
2467         (config_path): Extracted from generate_data_file.
2468         (generate_data_file):
2469         * tools/remote-server-relay.conf: Added. Apache 2.4 configuration file for a local http server launched by
2470         run-with-remote-server.py.
2471         * tools/run-with-remote-server.py: Added. Launches Apache with the right set of directives.
2472         (main):
2473         (abspath_from_root):
2474
2475 2015-07-13  Ryosuke Niwa  <rniwa@webkit.org>
2476
2477         Fix a typo.
2478
2479         * public/js/helper-classes.js:
2480
2481 2015-06-27  Ryosuke Niwa  <rniwa@webkit.org>
2482
2483         build-requests should use conform to JSON API format
2484         https://bugs.webkit.org/show_bug.cgi?id=146375
2485
2486         Reviewed by Stephanie Lewis.
2487
2488         Instead of returning single dictionary that maps root set id to a dictionary of repository names
2489         to revisions, timestamps, simply return root sets and roots "rows" or "objects" as defined in
2490         JSON API (http://jsonapi.org/). This API change makes it easier to resolve the bug 146374 and
2491         matches what we do in /api/test-groups.
2492
2493         Also add the support for /api/build-requests/?id=<id> to fetch the build request with <id>.
2494         This is useful for debugging purposes.
2495
2496         * public/api/build-requests.php:
2497         (main): Added the support for $_GET['id']. Also return "rootSets" and "roots".
2498         (update_builds): Extracted from main.
2499
2500         * public/include/build-requests-fetcher.php:
2501         (BuildRequestFetcher::fetch_request): Added. Used for /api/build-requests/?id=<id>.
2502         (BuildRequestFetcher::results_internal): Always call fetch_roots_for_set_if_needed.
2503         (BuildRequestFetcher::fetch_roots_for_set_if_needed): Renamed from fetch_roots_for_set.
2504         Moved the logic to exit early when the root set had already been fetched here.
2505
2506         * public/v2/analysis.js:
2507         (App.TestGroup._fetchTestResults): Fixed the bug that test groups without any successful results
2508         won't be shown.
2509
2510         * tools/pull-os-versions.py:
2511         (main):
2512         (setup_auth): Moved to util.py
2513
2514         * tools/sync-with-buildbot.py:
2515         (main): Replaced a bunch of perf dashboard related options by --server-config-json.
2516         (update_and_fetch_build_requests): No longer takes build_request_auth since that's now taken care
2517         of by setup_auth.
2518         (organize_root_sets_by_id_and_repository_names): Added. Builds the old rootsSets directory based
2519         on "roots" and "rootSets" dictionaries returned by /api/build-requests.
2520         (config_for_request): Fixed a bug that the script blows up when the build request is missing
2521         the repository specified in the configuration. This tolerance is necessary when a new repository
2522         dependency is added but we want to run A/B tests for old builds without the dependency.
2523         (fetch_json): No longer takes auth.
2524
2525         * tools/util.py:
2526         (setup_auth): Moved from pull-os-versions.py to be shared with sync-with-buildbot.py.
2527
2528 2015-06-23  Ryosuke Niwa  <rniwa@webkit.org>
2529
2530         Build fix. A/B testing is broken when continuous builders report revisions out of order.
2531
2532         * public/v2/app.js:
2533         (App.AnalysisTaskController.Ember.Controller.extend.):
2534
2535 2015-06-22  Ryosuke Niwa  <rniwa@webkit.org>
2536
2537         A/B testing results should be shown even if they were submitted to different platforms
2538         https://bugs.webkit.org/show_bug.cgi?id=146219
2539
2540         Reviewed by Andreas Kling.
2541
2542         Fetch A/B testing results regardless of the platform to which results are submitted
2543         by providing the platform ID to which the results were submitted for each test group.
2544
2545         * public/api/test-groups.php:
2546         (main): Include the platform id in the test groups.
2547         * public/v2/analysis.js:
2548         (App.TestGroup._fetchTestResults): Fetch results from the platform associated with the group.
2549
2550 2015-06-19  Csaba Osztrogon√°c  <ossy@webkit.org>
2551
2552         Remove unnecessary svn:executable flags
2553         https://bugs.webkit.org/show_bug.cgi?id=146107
2554
2555         Reviewed by Alexey Proskuryakov.
2556
2557         * public/js/helper-classes.js: Removed property svn:executable.
2558         * public/js/jquery.flot.plugins.js: Removed property svn:executable.
2559         * public/v2/app.css: Removed property svn:executable.
2560         * public/v2/app.js: Removed property svn:executable.
2561         * public/v2/chart-pane.css: Removed property svn:executable.
2562         * public/v2/data.js: Removed property svn:executable.
2563         * public/v2/index.html: Removed property svn:executable.
2564         * public/v2/js/d3/LICENSE: Removed property svn:executable.
2565         * public/v2/js/d3/d3.js: Removed property svn:executable.
2566         * public/v2/js/d3/d3.min.js: Removed property svn:executable.
2567         * public/v2/js/ember-data.js: Removed property svn:executable.
2568         * public/v2/js/ember.js: Removed property svn:executable.
2569         * public/v2/js/handlebars.js: Removed property svn:executable.
2570         * public/v2/js/jquery.min.js: Removed property svn:executable.
2571         * public/v2/js/statistics.js: Removed property svn:executable.
2572         * public/v2/manifest.js: Removed property svn:executable.
2573         * public/v2/popup.js: Removed property svn:executable.
2574
2575 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2576
2577         Reading the list of analysis tasks is extremely slow
2578         https://bugs.webkit.org/show_bug.cgi?id=146086
2579
2580         Reviewed by Darin Adler.
2581
2582         The bug was caused by Ember data requesting manifest.js hundreds of times.
2583         Fetch it ahead of time in each route instead.
2584
2585         * public/v2/app.js:
2586         (App.AnalysisRoute.model):
2587         (App.AnalysisTaskRoute.model):
2588
2589 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2590
2591         Update ReadMe.md and Install.md per database changes
2592         https://bugs.webkit.org/show_bug.cgi?id=146076
2593
2594         Reviewed by Darin Adler.
2595
2596         Updated.
2597
2598         * Install.md:
2599         * ReadMe.md:
2600
2601 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2602
2603         Increase the popup dismissal time from 100ms to 500ms
2604         https://bugs.webkit.org/show_bug.cgi?id=146077
2605
2606         Rubber-stamped by Andreas Kling.
2607
2608         * public/v2/popup.js:
2609         (App.PopupView.scheduleHiding):
2610
2611 2015-06-16  Ryosuke Niwa  <rniwa@webkit.org>
2612
2613         v2 UI should have buttons to breakdown a test
2614         https://bugs.webkit.org/show_bug.cgi?id=146010
2615
2616         Reviewed by Chris Dumez.
2617
2618         Added buttons beneath each chart pane to add "alternative panes". By default, it shows every platform
2619         as well as "Breakdown" to add all subtests' metrics.
2620
2621         Also removed the metric submenu from tests that had exactly one metric. When a test only measures Time
2622         for example, we make the test itself clickable instead of showing a submenu that only contains one item.
2623
2624         * public/v2/app.js:
2625         (App.ChartsController.addAlternativePanes): Added.
2626         (App.TestProxyForPopup.children): Calls _updateChildren and returns this._children.
2627         (App.TestProxyForPopup.actionName): Added.
2628         (App.TestProxyForPopup.actionArgument): Added.
2629         (App.TestProxyForPopup._updateChildren): Extracted from children. Now also sets _actionName and
2630         _actionArgument in the case there was exactly one metric so that showing submenu is unnecessary.
2631         (App.PaneController.alternativePanes): Added. Returns the list of alternative panes. The platform list
2632         excludes ones that don't have this metric (e.g. iOS doesn't have desktop PLT results) as well as ones
2633         that are already present in the list of panes.
2634         * public/v2/chart-pane.css: Added CSS rules for alternative pane buttons beneath the chart panes.
2635         * public/v2/index.html:
2636         * public/v2/manifest.js:
2637         (App.Metric.childMetrics): Added.
2638
2639 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2640
2641         Build fix after r185574.
2642
2643         * public/v2/app.js:
2644         (set get App.Pane.Ember.Object.extend.):
2645
2646 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2647
2648         Fix a typo.
2649
2650         * tools/pull-os-versions.py:
2651         (main):
2652
2653 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2654
2655         Perf dashboard should be able to list iOS versions as well as OS X versions
2656         https://bugs.webkit.org/show_bug.cgi?id=146003
2657
2658         Reviewed by Stephanie Lewis.
2659
2660         Generalized pull-osx.py so that it can run an arbitrary shell command to fetch OS versions based on
2661         information specified in config.json.
2662
2663         * tools/pull-os-versions.py: Renamed from pull-osx.py.
2664         (main): Use available_builds_from_command when 'customCommands' is specified.
2665         (available_builds_from_command): Added. Executes a shell command to fetch a list of available builds.
2666         (fetch_available_builds): Now takes the repository name.
2667
2668 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2669
2670         Removed a superfluous console.log per Chris's comment.
2671
2672         * public/v2/app.js:
2673
2674 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2675
2676         Analysis task should show all possible revisions for A/B testing
2677         https://bugs.webkit.org/show_bug.cgi?id=145996
2678
2679         Reviewed by Chris Dumez.
2680
2681         * public/api/commits.php:
2682         (fetch_commits_between): When the time stamp is not available for commits, use revision numbers
2683         to find revisions between two ranges. This is necessary for OS X and iOS versions since they don't
2684         have a "commit time".
2685
2686         * public/v2/app.js:
2687         (App.AnalysisTaskController.updateRootConfigurations): Fetch commits between two end points.
2688         (App.AnalysisTaskController._createConfiguration): Extracted from updateRootConfigurations. List
2689         the fetched list of commits if available.
2690         (App.AnalysisTaskController._serializeNumbersSkippingConsecutiveEntries): Added. Serializes an list
2691         of numbers intelligently. For example, [1, 2, 4, 5] turns into "1-2, 4-5". Without this, some lists
2692         of points shown in the A/B testing configurations become too long. 
2693
2694         * public/v2/commits-viewer.js:
2695         (App.CommitsViewerComponent.commitsChanged):
2696
2697         * public/v2/data.js:
2698         (CommitLogs.fetchCommits): Renamed from fetchForTimeRange.
2699
2700 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2701
2702         Add a script to post new OS X builds to perf dashboard
2703         https://bugs.webkit.org/show_bug.cgi?id=145955
2704
2705         Reviewed by Darin Adler.
2706
2707         Added a new script pull-osx.py and relaxed the restrictions on commits accepted by the dashboard API.
2708
2709         * public/api/report-commits.php:
2710         (main): Allow more characters than [A-Za-z0-9] in revision. e.g. "10.10.3 14D136".
2711         Also allow commits without the author, commit time, and commit message as OS versions do not have those.
2712
2713         * tools/pull-osx.py: Added.
2714         (main): Fetch the list of builds from a website and submit them per submissionSize with submissionInterval.
2715         Once all builds have been submitted, wait for a long time as specified by fetchInterval.
2716         (setup_auth): Sets up basic or digest auth to access the dashboard.
2717         (fetch_available_builds): Fetches and parses the XML document from an internal website.
2718         (textContent): A helper function to get the text content out of a XML node.
2719         (submit_commits): Submits commits to the perf dashboard.
2720
2721         * tools/pull-svn.py:
2722         (fetch_commit):
2723
2724         * tools/util.py: Extracted submit_commits and text_content from pull-svn.py to be reused in pull-osx.py.
2725
2726 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2727
2728         Perf dashboard's v2 UI shouldn't hide auto-detected outliers
2729         https://bugs.webkit.org/show_bug.cgi?id=145940
2730
2731         Reviewed by Darin Adler.
2732
2733         Don't fallback to the default strategies for moving averages and envelope when one is not specified.
2734         Also deleted the code to mark points outside the envelop as outliers.
2735
2736         * public/v2/app.js:
2737
2738 2015-06-12  Ryosuke Niwa  <rniwa@webkit.org>
2739
2740         Unreviewed build fix for merging platforms.
2741
2742         * public/admin/platforms.php:
2743
2744 2015-06-09  Ryosuke Niwa  <rniwa@webkit.org>
2745
2746         Unreviewed build fix. Some builder names are really long.
2747
2748         * init-database.sql:
2749
2750 2015-05-22  Ryosuke Niwa  <rniwa@webkit.org>
2751
2752         Show results and status before revisions for A/B testing results
2753         https://bugs.webkit.org/show_bug.cgi?id=145327
2754
2755         Reviewed by Chris Dumez.
2756
2757         Place the results and the status columns before the columns for revisions.
2758         Also show the absolute difference as well as the relative difference between the averages of A and B.
2759
2760         * public/v2/app.js:
2761         (App.TestGroupPane._populate):
2762         (App.TestGroupPane._computeStatisticalSignificance):
2763         * public/v2/index.html:
2764
2765 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2766
2767         Build fix after r184591.
2768
2769         * public/v2/manifest.js:
2770
2771 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2772
2773         Build fix. Use POSIX timestamp instead of human readable string for the commit time.
2774
2775         * public/include/build-requests-fetcher.php:
2776
2777 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2778
2779         UI to associate bugs with an analysis task is crappy
2780         https://bugs.webkit.org/show_bug.cgi?id=145198
2781
2782         Reviewed by Andreas Kling.
2783
2784         Make the UI less crappy by linkifying bug numbers and adding an explicit button to disassociate
2785         a bug and a separate select view with a text field to associate a new bug instead of implicitly
2786         updating or deleting the existing record based on what the user had typed.
2787
2788         * init-database.sql: Removed the constraint that each bug tracker should appear exactly once for
2789         a given analysis task since it's perfectly reasonable for a given task to be associated with
2790         multiple WebKit bugs.
2791
2792         * public/privileged-api/associate-bug.php:
2793         (main): Only remove the bug specified by newly added bugToDelete instead of implicitly deleting
2794         one that matches the analysis task and the bug tracker when the bug number is falsey.
2795
2796         * public/v2/analysis.js:
2797         (App.Bug.url): Added.
2798         (App.BugAdapter.deleteRecord): Added. Uses the privileged API to delete the record.
2799
2800         * public/v2/app.css:
2801
2802         * public/v2/app.js:
2803         (App.AnalysisTaskController.actions.addBug): Added.
2804         (App.AnalysisTaskController.actions.deleteBug): Added.
2805         (App.AnalysisTaskController.associateBug): Deleted.
2806
2807         * public/v2/index.html: Updated the templates.
2808
2809         * public/v2/manifest.js:
2810         (App.BugTracker.urlFromBugNumber): Added.
2811
2812 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2813
2814         A/B testing rootSets should provide commit times as well as revisions
2815         https://bugs.webkit.org/show_bug.cgi?id=145207
2816
2817         Reviewed by Andreas Kling.
2818
2819         Some continuous build systems need the commit time as well as the revision number / hash so provide one
2820         in the root sets but maintain the backwards compatibility with buildbots that use revision number directly.
2821
2822         * public/include/build-requests-fetcher.php:
2823         (BuildRequestsFetcher::fetch_roots_for_set): Made the revision info an associative array that contains
2824         the revision number as well as the commit time.
2825         * tools/sync-with-buildbot.py:
2826         (schedule_request): Removed "replacement" which was a superfluous copy of "roots". Use "revision" values
2827         when the JSON configuration refers to "root". This is necessary in buildbot instances that require WebKit
2828         revision to be specified on its own field instead of it being a JSON that contains "revision" and "time".
2829
2830 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2831
2832         Build fix. Don't fall into an infinite loop when value (renamed from bytes) is zero.
2833
2834         * public/v2/manifest.js:
2835         (App.Manifest.Ember.Controller.extend.):
2836         (App.Manifest.Ember.Controller.extend):
2837
2838 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2839
2840         Don't show unit (bytes) separaetly from SI suffixes (K, M, etc...)
2841         https://bugs.webkit.org/show_bug.cgi?id=145181
2842
2843         Rubber-stamped by Chris Dumez.
2844
2845         Show 'MB' in each y-axis label instead of showing 'bytes' separately and suffixing each label with just 'M'
2846         for clarity. This change also reduces the code complexity.
2847
2848         * public/index.html:
2849         * public/v2/app.js:
2850         (App.AnalysisTaskController._chartDataChanged):
2851         (App.TestGroupPane._createConfigurationSummary):
2852         * public/v2/data.js:
2853         (RunsData.unitFromMetricName): Use 'B' instead of 'bytes' as the unit.
2854
2855         * public/v2/interactive-chart.js: Removed the support for showing units separately.
2856         (App.InteractiveChartComponent._constructGraphIfPossible):
2857         (App.InteractiveChartComponent._relayoutDataAndAxes)
2858
2859         * public/v2/manifest.js:
2860         (App.Manifest._makeFormatter): Renamed from _formatBytes. Support more SI suffixes such as micro and mili.
2861         Now takes the unit as the first argument. Adjust the base unit if it's 'ms'.
2862         (App.Manifest._formatFetchedData): Removed unit and formatWithUnit now that all all formatters would
2863         automatically include unit.
2864
2865 2015-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2866
2867         REGRESSION: v2 UI reports a higher memory usage
2868         https://bugs.webkit.org/show_bug.cgi?id=145151
2869
2870         Reviewed by Chris Dumez.
2871
2872         The bug was caused by v2 UI using 1000 to divide the number of bytes instead of by 1024 as done in v1.
2873         Fixed the bug by manually implementing the formatter as done in v1.
2874
2875         * public/v2/manifest.js:
2876         (App.Manfiest._formatBytes): Added.
2877         (App.Manifest._formatFetchedData): Use _formatByte instead of format('s').
2878
2879 2015-05-11  Ryosuke Niwa  <rniwa@webkit.org>
2880
2881         Unreviewed build fix. Add "Duration" as a time metric.
2882
2883         * public/js/helper-classes.js:
2884         * public/v2/data.js:
2885         (RunsData.unitFromMetricName):
2886
2887 2015-05-06  Ryosuke Niwa  <rniwa@webkit.org>
2888
2889         Perf dashboard treats Speedometer and JetStream as smaller is better
2890         https://bugs.webkit.org/show_bug.cgi?id=144711
2891
2892         Reviewed by Chris Dumez.
2893
2894         Added the support for "Score" metric.
2895
2896         * public/js/helper-classes.js:
2897         (PerfTestRuns):
2898         * public/v2/data.js:
2899         (RunsData.unitFromMetricName):
2900         (RunsData.isSmallerBetter):
2901
2902 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
2903
2904         Build fix after r183232.
2905
2906         * public/include/json-header.php:
2907
2908 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
2909
2910         Perf dashboard should automatically detect regressions
2911         https://bugs.webkit.org/show_bug.cgi?id=141443
2912
2913         Reviewed by Anders Carlsson.
2914
2915         Added a node.js script detect-changes.js to detect potential regressions and progressions
2916         on the graphs tracked on v2 dashboards.
2917
2918         * init-database.sql: Added analysis_strategies table and task_segmentation and task_test_range
2919         columns to analysis_tasks to keep the segmentation and test range selection strategies used
2920         to create an analysis task.
2921
2922         * public/api/analysis-tasks.php:
2923         (format_task): Include task_segmentation and analysis_tasks in the results.
2924
2925         * public/include/json-header.php:
2926         (remote_user_name): Returns null when the privileged API is authenticated as a slave instead
2927         of a CSRF prevention token.
2928         (should_authenticate_as_slave): Added.
2929         (ensure_privileged_api_data_and_token_or_slave): Added. Authenticate as a slave if slaveName
2930         and slavePassword are specified. Since detect-changes.js and other slaves are not susceptible
2931         to a CSRF attack, we don't need to check a CSRF token.
2932
2933         * public/privileged-api/create-analysis-task.php:
2934         (main): Use ensure_privileged_api_data_and_token_or_slave to let detect-changes.js create new
2935         analysis task. Also add or find segmentation and test range selection strategies if specified.
2936
2937         * public/privileged-api/create-test-group.php:
2938         (main): Use ensure_privileged_api_data_and_token_or_slave.
2939
2940         * public/privileged-api/generate-csrf-token.php:
2941
2942         * public/v2/app.js:
2943         (App.Pane._computeMovingAverageAndOutliers): _executeStrategy has been moved to Statistics.
2944
2945         * public/v2/data.js: Export Measurement, RunsData, TimeSeries. Used in detect-changes.js.
2946         (Array.prototype.find): Added a polyfill to be used in node.js.
2947         (RunsData.fetchRuns):
2948         (RunsData.pathForFetchingRuns): Extracted from fetchRuns. Used in detect-changes.js.
2949         (RunsData.createRunsDataInResponse): Extracted from App.Manifest._formatFetchedData to use it
2950         in detect-changes.js.
2951         (RunsData.unitFromMetricName): Ditto.
2952         (RunsData.isSmallerBetter): Ditto.
2953         (RunsData.prototype._timeSeriesByTimeInternal): Added secondaryTime to sort points when commit
2954         times are identical.
2955         (TimeSeries): When commit times are identical, order points based on build time. This is needed
2956         for when we trigger two builds at two different OS versions with the same WebKit revision since
2957         OS versions don't change the commit times.
2958         (TimeSeries.prototype.findPointByIndex): Added.
2959         (TimeSeries.prototype.rawValues): Added.
2960
2961         * public/v2/js/statistics.js:
2962         (Statistics.TestRangeSelectionStrategies.[0]): Use the 99% two-sided probability as claimed in the
2963         description of this strategy instead of the default probability. Also fixed a bug that debugging
2964         code was referring to non-existent variables.
2965         (Statistics.executeStrategy): Moved from App.Pane (app.js).
2966
2967         * public/v2/manifest.js:
2968         (App.Manifest._formatFetchedData): Various code has been extracted into RunsData in data.js to be
2969         used in detect-changes.js.
2970
2971         * tools/detect-changes.js: Added. The script fetches the manifest JSON, analyzes each graph in
2972         the v2 dashboards, and creates an analysis task for the latest regression or progression detected.
2973         It also schedules an A/B testing if possible and notifies another server; e.g. to send an email. 
2974         (main): Loads the settings JSON specified in the argument.
2975         (fetchManifestAndAnalyzeData): The main loop that periodically wakes up to do the analysis.
2976         (mapInOrder): Executes callback sequentially (i.e. blocking) on each item in the array.
2977         (configurationsForTesting): Finds every (platform, metric) pair to analyze in the v2 dashbaords,
2978         and computes various values for when statistically significant changes are detected later.
2979         (analyzeConfiguration): Finds potential regressions and progression in the last X days where X
2980         is the specified maximum number of days using the specified strategies. Sort the resultant ranges
2981         in chronological order and create a new analysis task for the very last change we detected. We'll
2982         eventually create an analysis task for all detected changes since we're repeating the analysis in
2983         fetchManifestAndAnalyzeData after some time.
2984         (computeRangesForTesting): Fetch measured values and compute ranges to test using the specified
2985         segmentation and test range selection strategies. Once ranges are found, find overlapping analysis
2986         tasks as they need to be filtered out in analyzeConfiguration to avoid creating multiple analysis
2987         tasks for the same range (e.g. humans may create one before the script gets to do it).
2988         (createAnalysisTaskAndNotify): Create a new analysis task for the specified range, trigger an A/B
2989         testing if available, and notify another server with a HTML message as specified.
2990         (findStrategyByLabel):
2991         (changeTypeForRange): A change is a regression if values are getting larger in a smaller-is-better
2992         test or values are getting smaller in a larger-is-better test and vice versa.
2993         (summarizeRange): Create a human readable string that summarizes the change detected. e.g.
2994         "Potential 3.2% regression detected between 2015-04-20 12:00 and 17:00".
2995         (formatTimeRange):
2996         (getJSON):
2997         (postJSON):
2998         (postNotification): Recursively replaces $title and $massage in the specified JSON template.
2999         (instantiateNotificationTemplate):
3000         (fetchJSON):
3001
3002 2015-04-20  Ryosuke Niwa  <rniwa@webkit.org>
3003
3004         Perf dashboard should have UI to set status on analysis tasks
3005         https://bugs.webkit.org/show_bug.cgi?id=143977
3006
3007         Reviewed by Chris Dumez.
3008
3009         Added the UI to set the result of an analysis task to 'progression', 'regression', 'unchanged', and 'inconclusive'
3010         as well as a boolean indicating whether creating the analysis task was the right thing to do or not.
3011         The latter will be a useful metric once we start automatically creating analysis tasks.
3012
3013         * init-database.sql: Added two columns to analysis_tasks table.
3014         * public/api/analysis-tasks.php: Include the added columns in the JSON.
3015         * public/include/db.php:
3016         (Database::to_database_boolean): Added.
3017         * public/include/json-header.php:
3018         (require_match_one_of_values): Added.
3019         * public/privileged-api/update-analysis-task.php: Added. Updates 'result' and 'needed' values of an analysis task.
3020         (main):
3021         * public/v2/analysis.js:
3022         (App.AnalysisTask.result): Added.
3023         (App.AnalysisTask.needed): Added. We don't use DS.attr('boolean') here since that would coerce null into false
3024         and we want to differentiate null from false in order to differentiate the null-ness of the value.
3025         (App.AnalysisTask.saveStatus): Added.
3026         (App.AnalysisTask.statusLabel): Use 'result' as the label if it's set and all build requests have been processed.
3027         * public/v2/app.css:
3028         * public/v2/app.js:
3029         (App.AnalysisTaskController.analysisResultOptions): Added.
3030         (App.AnalysisTaskController.shouldNotHaveBeenCreated): Added.
3031         (App.AnalysisTaskController.needsFeedback): Added. Show the checkbox to indicate the analysis task should not have
3032         been created if 'no change' is selected.
3033         (App.AnalysisTaskController._updateChosenAnalysisResult): Added.
3034         (App.AnalysisTaskController.actions.saveStatus): Added.
3035         * public/v2/index.html: Extracted a partial template for updating the bug numbers. Also added the UI to update
3036         'result' and 'needed' values of the analysis task.
3037
3038 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
3039
3040         Unreviewed build fix. Updated config.json after recent changes.
3041
3042         * config.json:
3043
3044 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
3045
3046         Make the analysis page more useful
3047         https://bugs.webkit.org/show_bug.cgi?id=143617
3048
3049         Reviewed by Chris Dumez.
3050
3051         * public/api/analysis-tasks.php:
3052         (fetch_and_push_bugs_to_tasks): Added total and finished numbers of build requests associated
3053         with the fetched analysis tasks as buildRequestCount and finishedBuildRequestCount respectively.
3054         * public/v2/analysis.js:
3055         (App.AnalysisTask.formattedCreatedAt): Added.
3056         (App.AnalysisTask._addLeadingZero): Added.
3057         (App.AnalysisTask.buildRequestCount): Added.
3058         (App.AnalysisTask.finishedBuildRequestCount): Added.
3059         (App.AnalysisTask.statusLabel): Added. Status total and finished numbers of build requests.
3060         (App.AnalysisTask.testGroups):
3061         (App.AnalysisTask.triggerable):
3062         (App.AnalysisTask.label):
3063
3064         * public/v2/app.css: Tweaked style rules for the analysis page.
3065
3066         * public/v2/app.js:
3067         (App.buildPopup): Sort the list of platforms by name.
3068         (App.AnalysisRoute.model): Sort the list of analysis tasks by the order they are created.
3069         (App.AnalysisTaskController._fetchedManifest): Added elementId to associate bug tracker names
3070         such as "Bugzilla" with the corresponding text field.
3071
3072         * public/v2/index.html: Added a bunch of columns to the analysis page and also wrapped the table
3073         showing A/B testing results in a div with overflow: scroll so that it always leaves enough space
3074         for the accompanying graph.
3075
3076 2015-04-09  Ryosuke Niwa  <rniwa@webkit.org>
3077
3078         Perf dashboard should automatically select ranges for A/B testing
3079         https://bugs.webkit.org/show_bug.cgi?id=143580
3080
3081         Reviewed by Chris Dumez.
3082
3083         Added a new statistics option for picking a A/B test range selection strategy.
3084         The selected ranges are shown in the graph using the same UI to show analysis tasks.
3085
3086         * public/v2/app.js:
3087         (App.DashboardPaneProxyForPicker._platformOrMetricIdChanged): Updated the query parameters for
3088         charts page used by the dashboard since we've added a new parameter at the end.
3089         (App.Pane.ranges): Added. Merges ranges created for analysis tasks and A/B testing.
3090         (App.Pane.updateStatisticsTools): Clone and set the test range selection strategies.
3091         (App.Pane._cloneStrategy): Copy isSegmentation.
3092         (App.Pane._updateMovingAverageAndEnvelope): Set testRangeCandidates.
3093         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Update the charts when a new text range
3094         selection strategy is picked by the user.
3095         (App.Pane._computeMovingAverageAndOutliers): Compute the test ranges using the chosen strategy.
3096         Avoid going through isAnomalyArray when no anomaly detection strategy is enabled. Also changed
3097         the return value from the moving average time series to a dictionary that contains the moving
3098         average time series, a dictionary of anomalies, and an array of test ranges.
3099         (App.ChartsController._parsePaneList): Parse the test range selection strategy configuration.
3100         (App.ChartsController._serializePaneList): Ditto for serialization.
3101         (App.ChartsController._scheduleQueryStringUpdate): Update the URL hash when the user picks a new
3102         test range selection strategy.
3103
3104         * public/v2/chart-pane.css: Fixed a typo as well as added a CSS rule for test ranges markers.
3105
3106         * public/v2/index.html: Added UI for selecting a test range selection strategy.
3107
3108         * public/v2/interactive-chart.js:
3109         (App.InteractiveChartComponent._rangesChanged): Pass down "status" to be used as a class name.
3110
3111         * public/v2/js/statistics.js:
3112         (Statistics.MovingAverageStrategies): Added isSegmentation to segmentation strategies.
3113         (Statistics.TestRangeSelectionStrategies): Added.
3114
3115 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3116
3117         The results of A/B testing should state statistical significance
3118         https://bugs.webkit.org/show_bug.cgi?id=143552
3119
3120         Reviewed by Chris Dumez.
3121
3122         Added statistical comparisons between results for each configuration on analysis task page using
3123         Welch's t-test. The probability as well as t-statistics and the degrees of freedoms are reported.
3124
3125         * public/v2/app.js:
3126         (App.TestGroupPane._populate): Report the list of statistical comparison between every pair of
3127         root configurations in the results. e.g. if we've got A, B, C configurations then compare A/B, A/C
3128         and B/C.
3129         (App.TestGroupPane._computeStatisticalSignificance): Compute the statistical significance using
3130         Welch's t-test. Report the probability by which two samples do not come from the same distribution.
3131         (App.TestGroupPane._createConfigurationSummary): Include the array of results for this configuration.
3132         Also renamed "items" to "requests" for clarity.
3133
3134         * public/v2/index.html: Added the template for showing statistical comparisons.
3135
3136         * public/v2/js/statistics.js: Renamed tDistributionQuantiles to tDistributionByOneSidedProbability
3137         for clarity. Also factored out the functions to convert from one-sided probability to two-sided
3138         probability and vice versa.
3139         (Statistics.supportedConfidenceIntervalProbabilities):
3140         (Statistics.confidenceIntervalDelta):
3141         (Statistics.probabilityRangeForWelchsT): Added. Computes the lower bound and the upper bound for
3142         the probability that two values are sampled from distinct distributions using Welch's t-test.
3143         (Statistics.computeWelchsT): This function now takes two-sided probability like all other functions.
3144         (.tDistributionByOneSidedProbability): Renamed from tDistributionQuantiles.
3145         (.oneSidedToTwoSidedProbability): Extracted.
3146         (.twoSidedToOneSidedProbability): Extracted.
3147         (Statistics.MovingAverageStrategies): Converted the one-sided probability to the two-sided probability
3148         now that computeWelchsT takes two-sided probability.
3149
3150 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3151
3152         Unreviewed fix after r182496 for when the cached runs JSON doesn't exist.
3153
3154         * public/v2/app.js:
3155         (App.Pane._fetch):
3156         (App.Pane.refetchRuns):
3157
3158 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3159
3160         Perf dashboard should have a way of marking outliers
3161         https://bugs.webkit.org/show_bug.cgi?id=143466
3162
3163         Reviewed by Chris Dumez.
3164
3165         Address kling's in-person comment to notify users when the new run status is saved in the database.
3166
3167         * public/v2/app.js:
3168         (App.PaneController._selectedItemIsMarkedOutlierDidChange)
3169         * public/v2/chart-pane.css: Fixed a typo.
3170
3171 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3172
3173         Perf dashboard should have a way of marking outliers
3174         https://bugs.webkit.org/show_bug.cgi?id=143466
3175
3176         Reviewed by Chris Dumez.
3177
3178         Added UI to mark a data point as an outlier as well as a button to toggle the visibility of outliers.
3179         Added a new privileged API /privileged-api/update-run-status to store this boolean flag.
3180
3181         * init-database.sql: Added run_marked_outlier column to test_runs table.
3182
3183         * public/admin/tests.php:
3184
3185         * public/api/runs.php:
3186         (main): Only emit Cache-Control and Expires headers in v1 UI.
3187         (RunsGenerator::format_run): Emit markedOutlier.
3188
3189         * public/include/admin-header.php:
3190
3191         * public/include/db.php:
3192         (Database::is_true): Made it static.
3193
3194         * public/include/manifest.php:
3195         (Manifest::platforms):
3196
3197         * public/index.html: Call into /api/runs/ with ?cache=true.
3198
3199         * public/privileged-api/update-run-status.php: Added.
3200         (main): Updates the newly added column in test_runs table.
3201
3202         * public/v2/app.js:
3203         (App.Pane._fetch):
3204         (App.Pane.refetchRuns): Extracted from App.Pane._fetch.
3205         (App.Pane._didFetchRuns): Renamed from _updateChartData.
3206         (App.Pane._setNewChartData): Added. Pick the right time series based based on the value of showOutlier.
3207         Cloning chartData is necessary when toggling the outlier visibility or using statistics tools because
3208         the interactive chart component only observes changes to chartData and not individual properties of it.
3209         (App.Pane._highlightPointsMarkedAsOutlier): Added. Highlight points marked as outliers.
3210         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Call to _setNewChartData replaced the code to
3211         clone chartData here.
3212
3213         (App.PaneController.actions.toggleShowOutlier): Toggle the visibility of points marked as outliers by
3214         invoking App.Pane._setNewChartData.
3215         (App.PaneController._detailsChanged): Don't hide the analysis pane when details changed since keep
3216         opening the pane for marking points as outliers would be annoying.
3217         (App.PaneController._updateCanAnalyze): Update 'cannotMarkOutlier' as well as 'cannotAnalyze'.
3218         (App.PaneController.selectedMeasurement): Added.
3219         (App.PaneController.showOutlierTitle): Added.
3220         (App.PaneController._selectedItemIsMarkedOutlierDidChange): Added. Call out to setMarkedOutlier to
3221         mark the selected point as an outlier via the newly added privileged API.
3222
3223         * public/v2/chart-pane.css: Updated styles.
3224
3225         * public/v2/data.js:
3226         (PrivilegedAPI._post): Report the semantic errors.
3227         (Measurement.prototype.markedOutlier): Added.
3228         (Measurement.prototype.setMarkedOutlier): Added. Uses PrivilegedAPI to update the database.
3229         (RunsData.prototype.timeSeriesByCommitTime): Added a new argument, includeOutliers, to indicate
3230