4a002de9a755582bd95dc7627bb07c8bb24c823b
[WebKit-https.git] / Websites / perf.webkit.org / ChangeLog
1 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Add unit tests for measurement-set.js and measurement-adapter.js
4         https://bugs.webkit.org/show_bug.cgi?id=155673
5
6         Reviewed by Daniel Bates.
7
8         Add tests which were supposed to be added in r198462.
9
10         * unit-tests/measurement-adaptor-tests.js: Added.
11         * unit-tests/measurement-set-tests.js: Added.
12         (assert.notReached): Added.
13         (global.RemoteAPI.getJSON): Added.
14         (global.RemoteAPI.getJSONWithStatus): Added. A mock.
15
16 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
17
18         Add unit tests for measurement-set.js and measurement-adapter.js
19         https://bugs.webkit.org/show_bug.cgi?id=155673
20
21         Reviewed by Darin Adler.
22
23         Added mocha unit tests for MeasurementSet and MeasurementAdapter classes along with the necessary
24         refactoring to run these tests in node.
25
26         getJSON and getJSONStatus are now under RemoteAPI so that unit tests can mock them.
27
28         Removed the dependency on v2 UI's TimeSeries and Measurement class by adding a new implementation
29         of TimeSeries in v3 and removing the dependency on Measurement in chart-pane-status-view.js with
30         new helper methods on Build and CommitLog.
31
32         Many js files now use 'use strict' (node doesn't support class syntax in non-strict mode) and
33         module.exports to export symbols in node's require function.
34
35         * public/v3/index.html:
36         * public/v3/main.js:
37         * public/v3/models/analysis-results.js:
38         (AnalysisResults.fetch):
39         * public/v3/models/analysis-task.js:
40         (AnalysisTask.fetchAll):
41         * public/v3/models/builder.js:
42         (Build):
43         (Build.prototype.builder): Added. Used by ChartPaneStatusView.
44         (Build.prototype.buildNumber): Ditto.
45         (Build.prototype.buildTime): Ditto.
46         * public/v3/models/commit-log.js:
47         (CommitLog.prototype.diff): Ditto.
48         (CommitLog.fetchBetweenRevisions):
49         * public/v3/models/data-model.js:
50         (DataModelObject.cachedFetch):
51         * public/v3/models/measurement-adaptor.js:
52         (MeasurementAdaptor.prototype.applyToAnalysisResults): Renamed from adoptToAnalysisResults.
53         (MeasurementAdaptor.prototype.applyTo): Renamed from adoptToSeries. Now shares a lot more
54         code with applyToAnalysisResults. The code to set 'series' and 'seriesIndex' has been moved
55         to TimeSeries.append. 'measurement' is no longer needed as this patch removes its only use
56         in ChartPaneStatusView.
57         * public/v3/models/measurement-cluster.js:
58         (MeasurementCluster.prototype.addToSeries): Use TimeSeries.append instead of directly mutating
59         series._series.
60         * public/v3/models/measurement-set.js:
61         (Array.prototype.includes): Added a polyfill for node.
62         (MeasurementSet.prototype._fetchSecondaryClusters): Removed a bogus assertion. When fetchBetween
63         is called with a mixture of clusters that have been fetched and not fetched, this assertion fails.
64         (MeasurementSet.prototype._fetch):
65         (TimeSeries.prototype.findById): Moved to time-series.js.
66         (TimeSeries.prototype.dataBetweenPoints): Ditto.
67         (TimeSeries.prototype.firstPoint): Ditto.
68         (TimeSeries.prototype.fetchedTimeSeries): Moved the code to extend the last point to TimeSeries'
69         extendToFuture.
70         * public/v3/models/repository.js:
71         * public/v3/models/root-set.js:
72         (MeasurementRootSet): Ignore repositories that had not been defined (e.g. it could be added after
73         manifest.json had been downloaded but before a given root set is created for an A/B testing).
74         * public/v3/models/time-series.js:
75         (TimeSeries): Added.
76         (TimeSeries.prototype.append): Added.
77         (TimeSeries.prototype.extendToFuture): Added.
78         (TimeSeries.prototype.firstPoint): Moved from measurement-set.js.
79         (TimeSeries.prototype.lastPoint): Added.
80         (TimeSeries.prototype.previousPoint): Added.
81         (TimeSeries.prototype.nextPoint): Added.
82         (TimeSeries.prototype.findPointByIndex): Added.
83         (TimeSeries.prototype.findById): Moved from measurement-set.js.
84         (TimeSeries.prototype.findPointAfterTime): Added.
85         (TimeSeries.prototype.dataBetweenPoints): Moved from measurement-set.js.
86         * public/v3/pages/chart-pane-status-view.js:
87         (ChartPaneStatusView.prototype.render): Use newly added helper functions on Build.
88         (ChartPaneStatusView.prototype._formatTime): Added.
89         (ChartPaneStatusView.prototype.setCurrentRepository):
90         (ChartPaneStatusView.prototype.computeChartStatusLabels): Rewrote the code using RootSet object on
91         currentPoint and previousPoint instead of Measurement class from v2 UI. Also sort the results using
92         sortByNamePreferringOnesWithURL.
93         * public/v3/remote.js:
94         (RemoteAPI.getJSON): Moved under RemoteAPI.
95         (RemoteAPI.getJSONWithStatus): Ditto.
96         (PrivilegedAPI):
97         (PrivilegedAPI.requestCSRFToken):
98
99 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
100
101         Add unit tests for config.json and statistics.js
102         https://bugs.webkit.org/show_bug.cgi?id=155626
103
104         Reviewed by Darin Adler.
105
106         Added mocha unit tests for statistics.js and validating config.json. For segmentations, I've extracted
107         real data from our internal perf dashboard.
108
109         Also fixed some bugs covered by these new tests.
110
111         * public/shared/statistics.js:
112         (Statistics.movingAverage): Fixed a bug that forwardWindowSize was never used.
113         (Statistics.exponentialMovingAverage): Fixed the bug that the moving average starts at 0. It should
114         start at the first value instead.
115         (.splitIntoSegmentsUntilGoodEnough): Fixed the bug that we may try to segment a time series into
116         more parts than there are data points. Clearly, that doesn't make any sense.
117         (.findOptimalSegmentation): Renamed local variables so that they're more descriptive, and rewrote
118         the debugging code was the old code was emitting some useless data. Also fixed the bug that the length
119         of "segmentation" was off by one (we need segmentCount + 1 elements in the array sine we always
120         include the start of the first segment = 0 and the end of the last segment = values.length).
121         (.SampleVarianceUpperTriangularMatrix):
122         (Statistics): Modernized the export code.
123         * tools/js: Added.
124         * tools/js/config.js: Added.
125         (Config): Added.
126         (Config.prototype.configFilePath): Added.
127         (Config.prototype.value): Added.
128         (Config.prototype.path): Added.
129         * tools/js/database.js: Added.
130         (Database): Added.
131         (Database.prototype.connect): Added.
132         (Database.prototype.disconnect): Added.
133         * unit-tests: Added.
134         * unit-tests/checkconfig.js: Added. Validates config.json. This is useful while setting up
135         a local instance of the perf dashboard.
136         * unit-tests/statistics-tests.js: Added.
137         (assert.almostEqual): Added. Asserts that two floating values are within a given significant digits.
138         (.stdev):
139         (.delta):
140         (.computeWelchsT):
141
142 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
143
144         Fix a typo which was supposed to be fixed in r198351.
145
146         * public/v3/pages/analysis-task-page.js:
147         (AnalysisTaskPage.prototype.render):
148
149 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
150
151         An analysis task should be closed if a progression cause is identified
152         https://bugs.webkit.org/show_bug.cgi?id=155549
153
154         Reviewed by Chris Dumez.
155
156         Since a progression is desirable, we should close an analysis task once its cause is identified.
157
158         Also fix some typos.
159
160         * init-database.sql: Fixed a typo.
161         * public/api/analysis-tasks.php:
162         * public/v3/models/analysis-task.js:
163         (AnalysisTask.prototype.dissociateBug): Renamed from dissociateBug.
164         * public/v3/pages/analysis-task-page.js:
165         (AnalysisTaskPage.prototype.render):
166         (AnalysisTaskPage.prototype._dissociateBug): Renamed from _dissociateBug.
167         (AnalysisTaskPage.prototype._dissociateCommit): Fixed the typo in the alert.
168
169 2016-03-16  Ryosuke Niwa  <rniwa@webkit.org>
170
171         Analysis task page should allow specifying commits that caused or fixed a regression or a progression
172         https://bugs.webkit.org/show_bug.cgi?id=155529
173
174         Reviewed by Chris Dumez.
175
176         Added the capability to associate revisions that caused or fixed a progression or a regression for which
177         an analysis task was created. Added task_commits that stores this relationship and added the backend
178         support to retrieve this table in /api/analysis-tasks and an privileged API to update this table at
179         /privileged-api/associate-commit.
180
181         Also extracted a new component, MutableListView, out of AnalysisTaskPage to render and manipulate a list
182         of mutable items, and used it to render the list of associated bugs and commits. The view takes a list of
183         kinds (e.g. repositories or bug trackers), and accepts a pair of a kind and arbitrary text as a new item
184         value.
185
186         * init-database.sql: Added task_commits table.
187
188         * public/api/analysis-tasks.php:
189         (main):
190         (fetch_associated_data_for_tasks): Renamed from fetch_and_push_bugs_to_tasks now that it also fetches
191         the list of commits associated with each analysis task by calling CommitLogFetcher::fetch_for_tasks.
192         Also fixe the bug that we were not taking 
193         (format_task): No longer sets 'category' since the computation of category now depends on the list of
194         commits associated with this analysis task which aren't available until fetch_associated_data_for_tasks.
195         (determine_category): Added. Categorize any analysis tasks with "fixes" commits as "closed" and "causes"
196         commits as "identified".
197
198         * public/include/commit-log-fetcher.php:
199         (CommitLogFetcher::__construct): Remove the unused instance variable.
200         (CommitLogFetcher::fetch_for_tasks): Added. Fetches all commits associated with a list of analysis tasks.
201         Assumes the caller (fetch_associated_data_for_tasks) had setup "fixes" and "causes" fields on each task.
202
203         * public/privileged-api/associate-commit.php: Added. Updates task_commits table to associate or disassociate
204         a commit with an analysis task. When the specified analysis task and the specified commit are already
205         associated, we simply update the table instead of adding a duplicating entry or error. For dissociation,
206         the front-end specifies the commit ID.
207         (main): Added.
208
209         * public/v3/index.html:
210         * public/v3/components/mutable-list-view.js: Added. Used by the list associated bugs and commits.
211         (MutableListView): Added.
212         (MutableListView.prototype.setList): Added.
213         (MutableListView.prototype.setKindList): Added.
214         (MutableListView.prototype.setAddCallback): Added. This callback is invoked when the user tries to add
215         a new item to the list.
216         (MutableListView.prototype.render): Added.
217         (MutableListView.prototype._submitted): Added.
218         (MutableListView.cssTemplate):
219         (MutableListView.htmlTemplate):
220         (MutableListItem): Added. RemovalLink could be a hyperlink or a callback and gets involved when the user
221         tries to delete this item.
222         (MutableListItem.prototype.content):
223
224         * public/v3/models/analysis-task.js:
225         (AnalysisTask): Added the support of the list of commits that fixed and caused changes.
226         (AnalysisTask.prototype.updateSingleton): Ditto.
227         (AnalysisTask.prototype.causes): Added.
228         (AnalysisTask.prototype.fixes): Added.
229         (AnalysisTask.prototype.associateCommit): Added. Use the API added at /privileged-api/associate-commit
230         to associate a new commit with this analysis task. Each commit has either caused or fixed the change.
231         (AnalysisTask.prototype.dissociateCommit): Added. Use the same API to disassociate each commit.
232         (AnalysisTask._constructAnalysisTasksFromRawData): Find all commits associated with each analysis task.
233         Because commit log objects use a fake ID fdue to /api/measurement-set not providing commit IDs, we must
234         use CommitLog.findByRemoteId to find each commit instead of usual CommitLog.findById.
235         (AnalysisTask._constructAnalysisTasksFromRawData.resolveCommits): Added.
236
237         * public/v3/models/build-request.js:
238         (BuildRequest.prototype.hasFinished): Renamed from hasCompleted since it was confusing for this._status
239         being "completed" wasn't a necessary condition for this function to return true.
240
241         * public/v3/models/commit-log.js:
242         (CommitLog): Added the static map for actual commit ID instead of a fake ID created in ensureSingleton.
243         (CommitLog.prototype.remoteId): Added. Returns the real commit ID.
244         (CommitLog.findByRemoteId): Added. Finds an CommitLog object using the real ID.
245
246         * public/v3/models/test-group.js:
247         (TestGroup.prototype.hasFinished): Renamed from hasCompleted to match the rename in BuildRequest.
248
249         * public/v3/pages/analysis-task-page.js:
250         (AnalysisTaskPage): Added lists for the commits that fixed and caused the change using MutableListView.
251         Also adopted MutableListView for the list of associated bugs.
252         (AnalysisTaskPage.prototype.render): Added the code to populate the newly added lists.
253         (AnalysisTaskPage.prototype._makeCommitListItem): Added.
254         (AnalysisTaskPage.prototype._associateBug): Now this is a callback from MutableListView.
255         (AnalysisTaskPage.prototype._associateCommit): Added.
256         (AnalysisTaskPage.prototype._dissociateCommit): Added.
257         (AnalysisTaskPage.htmlTemplate):
258         (AnalysisTaskPage.cssTemplate):
259
260         * public/v3/remote.js:
261         (getJSON): Spit out the entire responseText when JSON failed to parse to make debugging easier.
262
263 2016-03-15  Ryosuke Niwa  <rniwa@webkit.org>
264
265         Extract the code to format commit logs into its own PHP file
266         https://bugs.webkit.org/show_bug.cgi?id=155514
267
268         Rubber-stamped by Chris Dumez.
269
270         Extracted CommitLogFetcher out of /api/commits so that it could be used in analysis-tasks.php
271         in the future to support associating cause/fix for each analysis task.
272
273         * public/api/commits.php:
274         * public/include/commit-log-fetcher.php: Added.
275         (CommitLogFetcher)
276         (CommitLogFetcher::__construct): Added.
277         (CommitLogFetcher::repository_id_from_name): Added.
278         (CommitLogFetcher::fetch_between): Added.
279         (CommitLogFetcher::fetch_oldest): Added.
280         (CommitLogFetcher::fetch_latest): Added.
281         (CommitLogFetcher::fetch_last_reported): Added.
282         (CommitLogFetcher::fetch_revision): Added.
283         (CommitLogFetcher::commit_for_revision): Added.
284         (CommitLogFetcher::format_single_commit): Added.
285         (CommitLogFetcher::format_commit): Added.
286
287 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
288
289         Build fix after r196870.
290
291         * public/include/report-processor.php:
292
293 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
294
295         Add Size metric to perf dashboard
296         https://bugs.webkit.org/show_bug.cgi?id=155266
297
298         Reviewed by Chris Dumez.
299
300         Added the "Size" metric and use bytes as its unit.
301
302         * public/js/helper-classes.js:
303         (PerfTestRuns):
304         * public/v2/data.js:
305         (RunsData.unitFromMetricName):
306
307 2016-02-20  Ryosuke Niwa  <rniwa@webkit.org>
308
309         Add the support for universal slave password
310         https://bugs.webkit.org/show_bug.cgi?id=154476
311
312         Reviewed by David Kilzer.
313
314         Added the support for universalSlavePassword.
315
316         * config.json:
317         * public/include/report-processor.php:
318         (ReportProcessor::process):
319         (ReportProcessor::authenticate_and_construct_build_data): Extracted from process().
320
321 2016-02-19  Ryosuke Niwa  <rniwa@webkit.org>
322
323         Analysis tasks page complains about missing repository but with a wrong name
324         https://bugs.webkit.org/show_bug.cgi?id=154468
325
326         Reviewed by Chris Dumez.
327
328         Fixed the bug by using the right variable in the template literal.
329
330         * public/v3/components/customizable-test-group-form.js:
331         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use querySelector here since Chrome doesn't have
332         getElementsByClassName on ShadowRoot.
333         * public/v3/pages/analysis-task-page.js:
334         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Use name which is the name of
335         repository here.
336
337 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
338
339         Revert an unintended change made in the previous commit.
340
341         * init-database.sql:
342
343 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
344
345         Perf dashboard should let user cancel pending A/B testing and hide failed ones
346         https://bugs.webkit.org/show_bug.cgi?id=154433
347
348         Reviewed by Chris Dumez.
349
350         Added a button to hide a test group in the details view (the bottom table) in the analysis task page, and
351         "Show hidden tests" link to show the hidden test groups on demand. When a test group is hidden, all pending
352         requests in the group will also be canceled since a common scenario of using this feature is that the user
353         had triggered an useless A/B testing; e.g. all builds will fail, wrong, etc... We can revisit and add the
354         capability to just cancel the pending requests and leaving the group visible later if necessary.
355
356         Run `ALTER TYPE build_request_status_type ADD VALUE 'canceled';` to add the new type.
357
358         * init-database.sql: Added testgroup_hidden column to analysis_test_groups table and added 'canceled'
359         as a value to build_request_status_type table.
360         * public/api/test-groups.php:
361         (format_test_group): Added 'hidden' field in the JSON result.
362         * public/privileged-api/update-test-group.php:
363         (main): Added the support for updating testgroup_hidden column. When this column is set to true, also
364         cancel all pending build requests (by setting its request_status to 'canceled' which will be ignore by
365         the syncing script).
366         * public/v3/components/test-group-results-table.js:
367         (TestGroupResultsTable.prototype.setTestGroup): Reset _renderedTestGroup here so that the next call to
368         render() will update the table; e.g. when build requests' status change from 'Pending' to 'Canceled'.
369         * public/v3/models/build-request.js:
370         (BuildRequest.prototype.hasCompleted): A build request is considered complete/finished if it's canceled.
371         (BuildRequest.prototype.hasPending): Added.
372         (BuildRequest.prototype.statusLabel): Handle 'canceled' status.
373         * public/v3/models/test-group.js:
374         (TestGroup):
375         (TestGroup.prototype.updateSingleton): Added to update 'hidden' field.
376         (TestGroup.prototype.isHidden): Added.
377         (TestGroup.prototype.hasPending): Added.
378         (TestGroup.prototype.hasPending): Added.
379         (TestGroup.prototype.updateHiddenFlag): Added. Uses the privileged API to update testgroup_hidden column.
380         The JSON API also updates the status of the 'pending' build requests in the group to 'canceled'.
381         * public/v3/pages/analysis-task-page.js:
382         (AnalysisTaskPage): Added _showHiddenTestGroups and _filteredTestGroups as instance variables.
383         (AnalysisTaskPage.prototype._didFetchTestGroups):
384         (AnalysisTaskPage.prototype._showAllTestGroups): Added.
385         (AnalysisTaskPage.prototype._didUpdateTestGroupHiddenState): Extracted from _didFetchTestGroups.
386         (AnalysisTaskPage.prototype._renderTestGroupList): Use the filtered list of test groups to show the list
387         of test groups. When all test groups are shown, we would first show the hidden ones after the regular ones.
388         (AnalysisTaskPage.prototype._createTestGroupListItem): Extracted from _renderTestGroupList.
389         (AnalysisTaskPage.prototype._renderTestGroupDetails): Update the text inside the button to hide the test
390         group. Also show a warning text that the pending requests will be canceled if there are any.
391         (AnalysisTaskPage.prototype._hideCurrentTestGroup): Added.
392         (AnalysisTaskPage.cssTemplate): Updated the style.
393
394 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
395
396         The rows in the analysis results table should be expandable
397         https://bugs.webkit.org/show_bug.cgi?id=154427
398
399         Reviewed by Chris Dumez.
400
401         Added "(Expand)" link between rows that have hidden points. Upon click it inserts the hidden rows.
402
403         We insert around five rows at a time when there are hundreds of hidden points but we also avoid leaving
404         behind expandable rows of less than two rows.
405
406         Also fixed a bug in CustomizableTestGroupForm that getElementsById would throw in the shipping Safari
407         because getElementsById doesn't exist on Element.prototype by using class name instead.
408
409         * public/v3/components/analysis-results-viewer.js:
410         (AnalysisResultsViewer):
411         (AnalysisResultsViewer.prototype.setCurrentTestGroup): Removed superfluous call to render().
412         (AnalysisResultsViewer.prototype.setPoints): Always show the start and the end points.
413         (AnalysisResultsViewer.prototype.buildRowGroups):
414         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Add an instance of ExpandableRow which
415         shows a "(Expand)" link to show hidden rows here.
416         (AnalysisResultsViewer.prototype._expandBetween): Added. Expands rows between two points.
417         (AnalysisResultsViewer.cssTemplate): Added rules for "(Expand)" links.
418         (AnalysisResultsViewer.ExpandableRow): Added.
419         (AnalysisResultsViewer.ExpandableRow.prototype.resultContent): Added. Overrides what's in the results column.
420         (AnalysisResultsViewer.ExpandableRow.prototype.heading): Added. Generates "(Expand)" link.
421
422         * public/v3/components/customizable-test-group-form.js:
423         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use getElementsByClassName instead of
424         getElementById.
425         (CustomizableTestGroupForm.prototype._classForLabelAndRepository): Renamed from _idForLabelAndRepository.
426         (CustomizableTestGroupForm._constructRevisionRadioButtons): Set class name instead of id.
427
428         * public/v3/components/results-table.js:
429         (ResultsTable.prototype.render): Don't generate radio buttons to select a row when root set is missing;
430         e.g. for rows that show "(Expand)" links.
431
432 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
433
434         Statistically significant A/B testing results should be color coded in details view
435         https://bugs.webkit.org/show_bug.cgi?id=154414
436
437         Reviewed by Chris Dumez.
438
439         Color code the statistically significant comparisions in TestGroupResultsTable as done in the analysis
440         results viewer.
441
442         * public/v3/components/customizable-test-group-form.js:
443         (CustomizableTestGroupForm.cssTemplate): Build fix after r196768.
444         * public/v3/components/test-group-results-table.js:
445         (TestGroupResultsTable.prototype.buildRowGroups): Add the status as a class name.
446         (TestGroupResultsTable.cssTemplate): Added styles to color-code statistically significant results.
447
448 2016-02-17  Ryosuke Niwa  <rniwa@webkit.org>
449
450         v3 UI should allow custom revisions for A/B testing
451         https://bugs.webkit.org/show_bug.cgi?id=154379
452
453         Reviewed by Chris Dumez.
454
455         Added the capability to customize revisions selected in the overview chart and the results viewer.
456
457         Newly added CustomizableTestGroupForm is responsible for allowing users to modify the set of revisions in
458         a new A/B testing group. Unlike TestGroupForm which doesn't know anything about which revisions are selected
459         for each project/repository, CustomizableTestGroupForm is aware of the list of revisions used in each set.
460
461         The list of revisions used in each set is represented by RootSet if users had not customized them, and
462         CustomRootSet otherwise; the latter was added since regular RootSet object requires CommitLog and other
463         DataModelObjects which are hard to create without corresponding database entries.
464
465         * public/v3/components/customizable-test-group-form.js: Added.
466         (CustomizableTestGroupForm): Added.
467         (CustomizableTestGroupForm.prototype.setRootSetMap): Added.
468         (CustomizableTestGroupForm.prototype._submitted): Overrides the superclass' method.
469         (CustomizableTestGroupForm.prototype._customize): Ditto. Unlike TestGroupForm's callback, this class'
470         callback passes in a root set map as the third argument.
471         (CustomizableTestGroupForm.prototype._computeRootSetMap): Added. Returns this._rootSetMap, which is set by
472         AnalysisTaskPage if user had not customized the root sets. Otherwise return a new map with CustomRootSet's.
473         (CustomizableTestGroupForm.prototype.render): Added. Creates a table to allow customization of root sets.
474         (CustomizableTestGroupForm._constructRevisionRadioButtons): Added.
475         (CustomizableTestGroupForm._createRadioButton): Added.
476         (CustomizableTestGroupForm.cssTemplate): Added.
477         (CustomizableTestGroupForm.formContent): Added. This method is called by TestGroupForm.htmlTemplate.
478         * public/v3/components/test-group-form.js:
479         (TestGroupForm): Updated the various methods to not directly mutate DOM. Store the state in instance
480         variables and update DOM in render() as done elsewhere.
481         (TestGroupForm.prototype.setNeedsName): Deleted. We no longer need this flag since TestGroupForm which is
482         used for retries never needs a name and CustomizableTestGroupForm which is used to create a new test group
483         always requires a name.
484         (TestGroupForm.prototype.setDisabled):
485         (TestGroupForm.prototype.setLabel):
486         (TestGroupForm.prototype.setRepetitionCount):
487         (TestGroupForm.prototype.render): Added.
488         (TestGroupForm.prototype._submitted): Moved the code to prevent the default action has been moved to the
489         constructor since this method is overridden by CustomizableTestGroupForm.
490         (TestGroupForm.cssTemplate): Added.
491         (TestGroupForm.htmlTemplate):
492         (TestGroupForm.formContent): Extracted from htmlTemplate.
493         * public/v3/index.html:
494         * public/v3/models/repository.js:
495         (Repository.sortByNamePreferringOnesWithURL): Added.
496         * public/v3/models/root-set.js:
497         (RootSet.prototype.revisionForRepository): Added so that _createTestGroupAfterVerifyingRootSetList can retrieve
498         the revision information from CustomRootSet without going through CommitLog objects since CustomRootSet doesn't
499         have associated CommitLog objects.
500         (CustomRootSet): Added. Used by CustomizableTestGroupForm to create a custom root map since regular RootSet
501         requires CommitLog and other related objects which are hard to create without database entries.
502         (CustomRootSet.prototype.setRevisionForRepository): Added.
503         (CustomRootSet.prototype.repositories): Added.
504         (CustomRootSet.prototype.revisionForRepository): Added.
505         * public/v3/pages/analysis-task-page.js:
506         (AnalysisTaskPage):
507         (AnalysisTaskPage.prototype.render): Removed the reference to v2 UI since v3 UI is now strictly more powerful
508         than v2 UI. Also update the root set maps in each form here.
509         (AnalysisTaskPage.prototype._retryCurrentTestGroup): No longer takes unused name argument as it got removed
510         from TestGroupForm.
511         (AnalysisTaskPage.prototype._chartSelectionDidChange): No longer updates the disabled-ness here since it's now
512         done in render() via setRootSetMap().
513         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Now takes rootSetMap as an argument.
514         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): No longer updates the disabled-ness here
515         since it's now done in render() via setRootSetMap().
516         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Now takes rootSetMap as an argument.
517         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Take a dictionary of root set labels
518         such as A and B, which maps to a RootSet or a newly-added CustomRootSet.
519         (AnalysisTaskPage.htmlTemplate): Use customizable-test-group-form for creating a new A/B testing group. Retry
520         form will continue to use TestGroupForm since customizing revisions is non-sensical in retries.
521         (AnalysisTaskPage.cssTemplate): Updated the style.
522
523 2016-02-16  Ryosuke Niwa  <rniwa@webkit.org>
524
525         v3 UI has the capability to schedule an A/B testing in a specific range
526         https://bugs.webkit.org/show_bug.cgi?id=154329
527
528         Reviewed by Chris Dumez.
529
530         Extended AnalysisTaskChartPane and ResultsTable so that users can select a range of points in either
531         the overview chart pane and the results viewer table. Extracted TestGroupForm out of the analysis task
532         page and used right below those two components in the analysis task page.
533
534         * public/v3/components/results-table.js:
535         (ResultsTable):
536         (ResultsTable.prototype.setRangeSelectorLabels): Added.
537         (ResultsTable.prototype.setRangeSelectorCallback): Added.
538         (ResultsTable.prototype.selectedRange): Added.
539         (ResultsTable.prototype._rangeSelectorClicked): Added.
540         (ResultsTable.prototype.render): Generate radio boxes to select a range.
541
542         * public/v3/components/test-group-form.js:
543         (TestGroupForm):
544         (TestGroupForm.prototype.setStartCallback): Added.
545         (TestGroupForm.prototype.setNeedsName): Added.
546         (TestGroupForm.prototype.setDisabled): Added.
547         (TestGroupForm.prototype.setLabel): Added.
548         (TestGroupForm.prototype.setRepetitionCount): Added.
549         (TestGroupForm.prototype._submitted): Added.
550         (TestGroupForm.htmlTemplate): Extracted from AnalysisTaskPage.htmlTemplate.
551
552         * public/v3/index.html:
553
554         * public/v3/pages/analysis-task-page.js:
555         (AnalysisTaskChartPane.prototype._mainSelectionDidChange): Added. Delegates the work to AnalysisTaskPage.
556         (AnalysisTaskChartPane.prototype.selectedPoints): Added.
557         (AnalysisTaskPage):
558         (AnalysisTaskPage.prototype.title):
559         (AnalysisTaskPage.prototype.render):
560         (AnalysisTaskPage.prototype._renderTestGroupDetails): Use TestGroupForm's methods instead of mutating DOM. 
561         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
562         (AnalysisTaskPage.prototype._chartSelectionDidChange): Added.
563         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Added.
564         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): Added.
565         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Added.
566         (AnalysisTaskPage.prototype._createRetryNameForTestGroup):
567         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Extracted from _retryCurrentTestGroup
568         so that we can call it in _createNewTestGroupFromChart and _createNewTestGroupFromViewer.
569         (AnalysisTaskPage.htmlTemplate):
570
571 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
572
573         Extract the code specific to v2 UI out of shared statistics.js
574         https://bugs.webkit.org/show_bug.cgi?id=154277
575
576         Reviewed by Chris Dumez.
577
578         Extracted statistics-strategies.js out of statistics.js for v2 UI and detect-changes.js. The intent is to
579         deprecate this file once we implement refined statistics tools in v3 UI and adopt it in detect-changes.js.
580
581         * public/shared/statistics.js:
582         (Statistics.movingAverage): Extracted from the "Simple Moving Average" strategy.
583         (Statistics.cumultaiveMovingAverage): Extracted from the "Cumulative Moving Average" strategy.
584         (Statistics.exponentialMovingAverage): Extracted from the "Exponential Moving Average" strategy.
585         Use a temporary "movingAverage" to keep the last moving average instead of relying on the previous
586         entry in "averages" array to avoid special casing an array of length 1 and starting the loop at i = 1.
587         (Statistics.segmentTimeSeriesGreedyWithStudentsTTest): Extracted from "Segmentation: Recursive t-test"
588         strategy. Don't create the list of averages to match segmentTimeSeriesByMaximizingSchwarzCriterion here.
589         It's done in newly added averagesFromSegments.
590         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Extracted from
591         "Segmentation: Schwarz criterion" strategy.
592         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Just store the start index to match
593         * public/v2/app.js:
594         (App.Pane.updateStatisticsTools):
595         (App.Pane._computeMovingAverageAndOutliers):
596         * public/v2/data.js:
597         * public/v2/index.html:
598         * public/v2/statistics-strategies.js: Added.
599         (StatisticsStrategies.MovingAverageStrategies): Added.
600         (averagesFromSegments): Extracted from "Segmentation: Schwarz criterion" strategy. Now used by both
601         "Segmentation: Recursive t-test" and "Segmentation: Schwarz criterion" strategies.
602         (StatisticsStrategies.EnvelopingStrategies): Moved from Statistics.EnvelopingStrategies.
603         (StatisticsStrategies.TestRangeSelectionStrategies): Moved from Statistics.TestRangeSelectionStrategies.
604         (createWesternElectricRule): Moved from statistics.js.
605         (countValuesOnSameSide): Ditto.
606         (StatisticsStrategies.executeStrategy): Moved from Statistics.executeStrategy.
607         * tools/detect-changes.js:
608         (computeRangesForTesting):
609
610 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
611
612         v1 UI and v2 UI should share statistics.js
613         https://bugs.webkit.org/show_bug.cgi?id=154262
614
615         Reviewed by Chris Dumez.
616
617         Share statistics.js between v1 and v2 UI.
618
619         * public/index.html:
620         * public/js/shared.js: Deleted.
621         * public/js/statistics.js: Removed.
622         * public/shared: Added.
623         * public/shared/statistics.js: Moved from Websites/perf.webkit.org/public/v2/js/statistics.js.
624         * public/v2/index.html:
625         * public/v2/js/statistics.js: Removed.
626         * public/v3/index.html:
627         * tools/detect-changes.js:
628
629 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
630
631         v3 UI sometimes shows same dates twice on the x-axis of time series charts
632         https://bugs.webkit.org/show_bug.cgi?id=154210
633
634         Reviewed by Chris Dumez.
635
636         The bug was caused by the label generation code in TimeSeriesChart.computeTimeGrid never emitting hours.
637
638         Use hours instead of dates as labels when the current time's date is same as the previous label's date.
639         Always include dates before entering this mode to avoid just having hours as labels on the entire x-axis.
640
641         * public/v3/components/time-series-chart.js:
642         (TimeSeriesChart.prototype._renderXAxis): Slightly increase the "average" width of x-axis label.
643         (TimeSeriesChart.computeTimeGrid): See above. Also assert that the number of labels we generate never
644         exceeds maxLabels as a sanity check.
645         (TimeSeriesChart._timeIterators): Added an iterator that increments by two hours for zoomed graphs.
646
647 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
648
649         v3 UI should show status and associated bugs on analysis task pages
650         https://bugs.webkit.org/show_bug.cgi?id=154212
651
652         Reviewed by Chris Dumez.
653
654         Added the capability to see and modify the status and the list of associated of bugs on analysis task pages.
655
656         Also added the list of related tasks, which are analysis tasks associated with the same bug or have
657         overlapping time ranges with the same test metric but on a potentially different platform.
658
659         In addition, categorize analysis tasks with the status of "no change" or "inconclusive" as "closed" as no
660         further action can be taken (users can bring them back to non-closed state without any restrictions).
661
662         * public/api/analysis-tasks.php:
663         (format_task): Categorize 'unchanged' and 'inconclusive' analysis tasks as closed.
664
665         * public/privileged-api/associate-bug.php:
666         (main): Added shouldDelete as a new mechanism to disassociate a bug since v3 UI shares a single Bug object
667         between multiple analysis tasks (as it should have been in the first place).
668
669         * public/v3/components/chart-pane-base.js:
670         (ChartPaneBase):
671         (ChartPaneBase.prototype._fetchAnalysisTasks): Since each analysis task's change type (status/result) could
672         change, we need to create annotation objects during each render() call.
673         (ChartPaneBase.prototype.render):
674         (ChartPaneBase.prototype._renderAnnotations): Extracted from ChartPaneBase.prototype._fetchAnalysisTasks to
675         do that. I was afraid of the perf impact of this but it doesn't seem to be an issue in my testing.
676         (ChartPaneBase.cssTemplate): Removed superfluous margins (moved to ChartPane.cssTemplate) around the charts
677         since they are only useful in the charts page.
678
679         * public/v3/models/analysis-task.js:
680         (AnalysisTask):
681         (AnalysisTask.prototype.updateSingleton): Added a comment as to why object.result cannot be renamed to
682         object.changeType in the JSON API.
683         (AnalysisTask.prototype.updateName): Added.
684         (AnalysisTask.prototype.updateChangeType): Added.
685         (AnalysisTask.prototype._updateRemoteState): Added.
686         (AnalysisTask.prototype.associateBug): Added.
687         (AnalysisTask.prototype.disassociateBug): Added.
688         (AnalysisTask.fetchRelatedTasks): Added. See above for the criteria of related-ness.
689
690         * public/v3/pages/analysis-task-page.js:
691         (AnalysisTaskPage):
692         (AnalysisTaskPage.prototype.updateFromSerializedState):
693         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId): Extracted from updateFromSerializedState.
694         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks): Added.
695         (AnalysisTaskPage.prototype.render): Render the list of associated bugs, the list of bug trackers (so that
696         users can use it to associate with a new bug), and the list of related analysis tasks.
697         (AnalysisTaskPage.prototype._renderTestGroupList): Extracted from render since it was getting too long.
698         (AnalysisTaskPage.prototype._renderTestGroupDetails): Ditto.
699         (AnalysisTaskPage.prototype._updateChangeType): Added.
700         (AnalysisTaskPage.prototype._associateBug): Added.
701         (AnalysisTaskPage.prototype._disassociateBug): Added.
702         (AnalysisTaskPage.htmlTemplate): Added various elements to show and modify the status, associate bugs,
703         and a list of related analysis tasks.
704         (AnalysisTaskPage.cssTemplate): Added various styles for those form controls.
705
706         * public/v3/pages/chart-pane.js:
707         (ChartPane.cssTemplate): Moved the margins from ChartPaneBase.cssTemplate.
708
709 2016-02-12  Ryosuke Niwa  <rniwa@webkit.org>
710
711         Perf dashboard should allow renaming analysis tasks and test groups
712         https://bugs.webkit.org/show_bug.cgi?id=154200
713
714         Reviewed by Chris Dumez.
715
716         Allow editing names of analysis tasks and A/B testing groups in the v3 UI.
717
718         Added the support for updating the name to the privileged API at /privileged-api/update-analysis-task
719         and added a new prevailed API to update A/B testing groups at /privileged-api/update-test-group.
720
721         * public/privileged-api/update-analysis-task.php: Added the support for renaming the analysis task.
722         (main):
723
724         * public/privileged-api/update-test-group.php: Added. Supports updating the test group's name.
725         (main):
726
727         * public/v3/components/editable-text.js: Added.
728         (EditableText): Added. A new editable text label control. It looks like a text node with "(Edit)" link
729         at the end which allow users to go into the "editing mode", which reveals an input element.
730         The user can exit the editing mode by either moving the focus away from the control or clicking on
731         "(Save)" at the end. It calls _updateCallback in the latter case.
732         (EditableText.prototype.editedText): Returns the current value of the input element user.
733         (EditableText.prototype.setText): Sets the label. This does not live-update the input element until
734         the user exists the current editing mode and re-enters it.
735         (EditableText.prototype.setStartedEditingCallback): Sets a callback which gets called when the user
736         requested to enter the editing mode. Since EditableText relies on AnalysisTaskPage to render, this
737         callback only exits to call EditableText.render() in AnalysisTask._didStartEditingTaskName.
738         (EditableText.prototype.setUpdateCallback): Sets a callback which gets called when the user exits
739         the editing mode by activating the "(Save)" link. This callback MUST return a promise upon resolution
740         of which the control gets out of the editing mode. While the promise is in flight, the input element
741         becomes readonly.
742         (EditableText.prototype.render): Updates various states of the elements. When _updatingPromise is not
743         falsy, we make the input element readonly and show '(...)' on the link. Don't show the action link
744         if the label is empty (e.g. analysis task or test group is still being fetched).
745         (EditableText.prototype._didClick): Called when the user clicked on the action link. Enter the editing
746         mode or save the edited label via _updateCallback.
747         (EditableText.prototype._didBlur): Exit the editing mode without saving if the input element is not
748         focused, there is no inflight promise returned by _updateCallback, and the action link "(Save)" does
749         not have the focus.
750         (EditableText.prototype._didUpdate): Called when exiting the editing mode.
751         (EditableText.htmlTemplate):
752         (EditableText.cssTemplate):
753
754         * public/v3/index.html: Include newly added editable-text.js.
755
756         * public/v3/models/analysis-task.js:
757         (AnalysisTask.prototype.updateSingleton): Added.
758         (AnalysisTask.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
759         the analysis task from the sever.
760         (AnalysisTask._constructAnalysisTasksFromRawData): Use ensureSingleton instead of manually calling
761         findById since we need to update the name of the singleton object we found (via updateSingleton).
762
763         * public/v3/models/bug.js:
764         (Bug.ensureSingleton): Moved the code to compute the synthetic id from AnalysisTask's
765         _constructAnalysisTasksFromRawData.
766         (Bug.prototype.updateSingleton): Added. Just assert that nothing changes.
767
768         * public/v3/models/build-request.js:
769         (BuildRequest.prototype.updateSingleton): Added. Assert that the intrinsic values of a build request
770         doesn't change and update status text, status url, and build id as they could change.
771
772         * public/v3/models/commit-log.js:
773         (CommitLog): Made the constructor argument conform to the convention of id, object pair so that we can
774         use DataModelObject.ensureSingleton.
775         (CommitLog.ensureSingleton): 
776         (CommitLog.prototype.updateSingleton): Extracted from CommitLog.ensureSingleton.
777
778         * public/v3/models/data-model.js:
779         (DataModelObject.ensureSingleton): Call newly added updateSingleton.
780         (DataModelObject.prototype.updateSingleton):
781         (LabeledObject): Removed the name map since it's never used (findByName is never called anywhere).
782         (LabeledObject.prototype.updateSingleton): Added. Updates _name.
783         (LabeledObject.findByName): Deleted.
784
785         * public/v3/models/test-group.js:
786         (TestGroup.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
787         the test group from the sever.
788         (TestGroup._createModelsFromFetchedTestGroups): Removed bogus code. A root set doesn't have a test
789         group associated with it since multiple test groups can share a single root set (this property doesn't
790         even exist).
791
792         * public/v3/pages/analysis-task-page.js:
793         (AnalysisTaskPage): Removed useless _taskId and added this._testGroupLabelMap and this._taskNameLabel.
794         (AnalysisTaskPage.prototype.updateFromSerializedState): Cleanup.
795         (AnalysisTaskPage.prototype._didFetchTask): Assert that this function is called exactly once.
796         (AnalysisTaskPage.prototype.render): Use this._task.id() to show the v2 link. Use EditableText to show
797         the names of the analysis task and the associated test groups. Hide the overview chart and the list of
798         test groups (along with the retry/confirm button) when the analysis task failed to fetch. We always
799         update the names of the analysis task and the associated test groups since they could be updated by
800         the server.
801         (AnalysisTaskPage.prototype._didStartEditingTaskName): Added.
802         (AnalysisTaskPage.prototype._updateTaskName): Added.
803         (AnalysisTaskPage.prototype._updateTestGroupName): Added.
804         (AnalysisTaskPage.htmlTemplate): Updated the style.
805
806 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
807
808         Land the change that was supposed to be the part of r196463.
809
810         * public/v3/pages/analysis-task-page.js:
811         (AnalysisTaskPage.prototype._didFetchTestGroups): Select the latest test group by default.
812
813 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
814
815         Refine v3 UI's analysis task page
816         https://bugs.webkit.org/show_bug.cgi?id=154152
817
818         Reviewed by Chris Dumez.
819
820         This patch makes the following refinements to the analysis task page:
821          - Always show the relative different of in-progress A/B testing.
822          - Make the annotations (colored bars) in the chart open other analysis tasks.
823          - Order the A/B testing groups in the reverse chronological order.
824          - Select the time range corresponding to the current test group.
825
826         * public/v3/components/analysis-results-viewer.js:
827         (AnalysisResultsViewer.cssTemplate): Fixed the bug that pending and running testing groups are no longer
828         colored after r196440. Use a slightly more opaque color for currently running groups compared to pending ones.
829
830         * public/v3/components/chart-pane-base.js:
831         (ChartPaneBase.prototype.setMainSelection): Added.
832         (ChartPaneBase.prototype._openAnalysisTask): Moved the code from ChartPane._openAnalysisTask so that it can be
833         reused in both AnalysisTaskChartPane and ChartPane (in charts page).
834         (ChartPaneBase.prototype.router): Added. Overridden by each subclass.
835
836         * public/v3/components/test-group-results-table.js:
837         (TestGroupResultsTable.prototype.buildRowGroups): Always show the summary (relative difference of A to B) as
838         long as there are some results in each set.
839
840         * public/v3/models/test-group.js:
841         (TestGroup.prototype.compareTestResults): Always set .label and .fullLabel with the relative change as long as
842         there are some values. Keep using "pending" and "running" in .status since that would determine the color of
843         stacking blocks representing those A/B testing groups. 
844
845         * public/v3/pages/analysis-task-page.js:
846         (AnalysisTaskChartPane):
847         (AnalysisTaskChartPane.prototype.setPage): Added.
848         (AnalysisTaskChartPane.prototype.router): Added.
849         (AnalysisTaskPage):
850         (AnalysisTaskPage.prototype.render): Show the list of A/B testing groups in the reverse chronological order.
851         Also set the main chart's selection to the time range of the current test group.
852
853         * public/v3/pages/chart-pane.js:
854         (ChartPane.prototype.router): Added.
855         (ChartPane.prototype._openAnalysisTask): Moved to ChartPaneBase.prototype._openAnalysisTask.
856
857 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
858
859         Add a script to process backlogs created while perf dashboard was in the maintenance mode
860         https://bugs.webkit.org/show_bug.cgi?id=154140
861
862         Reviewed by Chris Dumez.
863
864         Added a script to process the backlog JSONs created while the perf dashboard was put in the maintenance mode.
865         It re-submits each JSON file to the perf dashboard using the same server config file used by syncing scripts.
866
867         * public/include/report-processor.php:
868         (TestRunsGenerator::test_value_list_to_values_by_iterations): Fixed a bug in the error message code. It was
869         referencing an undeclared variable.
870         * tools/process-maintenance-backlog.py: Added.
871
872 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
873
874         AnalysisResultsViewer never uses this._smallerIsBetter
875         https://bugs.webkit.org/show_bug.cgi?id=154134
876
877         Reviewed by Chris Dumez.
878
879         Removed the unused instance variable _smallerIsBetter from AnalysisResultsViewer and TestGroupStackingBlock.
880
881         * public/v3/components/analysis-results-viewer.js:
882         (AnalysisResultsViewer): Removed the unused _smallerIsBetter.
883         (AnalysisResultsViewer.prototype.setSmallerIsBetter): Deleted.
884         (AnalysisResultsViewer.prototype.buildRowGroups):
885         (AnalysisResultsViewer.TestGroupStackingBlock): Removed the unused _smallerIsBetter.
886         * public/v3/pages/analysis-task-page.js:
887         (AnalysisTaskPage.prototype._didFetchTask):
888
889 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
890
891         Build fix after r196440.
892
893         * public/v3/models/test-group.js:
894         (TestGroup.prototype.addBuildRequest): Clear the map instead of setting the property to null.
895
896 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
897
898         Perf dashboard should have UI to retry A/B testing
899         https://bugs.webkit.org/show_bug.cgi?id=154090
900
901         Reviewed by Chris Dumez.
902
903         Added a button to re-try an existing A/B testing group with a custom repetition count. The same button functions
904         as a way of confirming the progression/regression when there have been no A/B testing scheduled in the task.
905
906         Also fixed the bug that A/B testing groups that have been waiting for other test groups will be shown as "running".
907
908         * public/v3/components/results-table.js:
909         (ResultsTable.cssTemplate): Don't pad the list of extra repositories when it's empty.
910
911         * public/v3/components/test-group-results-table.js:
912         (TestGroupResultsTable.prototype.buildRowGroups): Use TestGroup.labelForRootSet instead of manually
913         computing the letter for each configuration set.
914
915         * public/v3/models/build-request.js:
916         (BuildRequest.prototype.hasStarted): Added.
917
918         * public/v3/models/data-model.js:
919         (DataModelObject.ensureSingleton): Added.
920         (DataModelObject.cachedFetch): Added noCache option. This is used when re-fetching the test groups after
921         creating one.
922
923         * public/v3/models/measurement-cluster.js:
924         (MeasurementCluster.prototype.startTime): Added.
925
926         * public/v3/models/measurement-set.js:
927         (MeasurementSet.prototype.hasFetchedRange): Added. Returns true only if there are no "holes" (cluster
928         yet to be fetched) between the specified time range. This was added to fix a bug in AnalysisTaskPage's
929         _didFetchMeasurement.
930
931         * public/v3/models/test-group.js:
932         (TestGroup): Added this._rootSetToLabel.
933         (TestGroup.prototype.addBuildRequest): Reset this._rootSetToLabel along with this._requestedRootSets. 
934         (TestGroup.prototype.repetitionCount): Added. Returns the number of iterations executed per set. We assume that
935         every root set in the test group shares a single repetition count.
936         (TestGroup.prototype.requestedRootSets): Now populates this._rootSetToLabel for labelForRootSet.
937         (TestGroup.prototype.labelForRootSet): Added.
938         (TestGroup.prototype.hasStarted): Added.
939         (TestGroup.prototype.compareTestResults): Use 'running' and 'pending' to differentiate test groups that are waiting
940         for other groups to finish running from the ones that are actually running ('incomplete' before this patch).
941         (TestGroup.fetchByTask):
942         (TestGroup.createAndRefetchTestGroups): Added. Creates a new test group using the privileged-api/create-test-group
943         and fetches the list of test groups for the specified analysis task.
944         (TestGroup._createModelsFromFetchedTestGroups): Extracted from TestGroup.fetchByTask.
945
946         * public/v3/pages/analysis-task-page.js:
947         (AnalysisTaskPage): Initialize _renderedCurrentTestGroup to undefined so that we'd always can differentiate
948         the initial call to AnalysisTaskPage.render and subsequent calls in which it's identical to _currentTestGroup.
949         (AnalysisTaskPage.prototype._didFetchMeasurement): Fixed a bug that we don't exit early even when some
950         clusters in between startPoint and endPoint are still being fetched via newly added hasFetchedRange.
951         (AnalysisTaskPage.prototype.render): Update the default repetition count based on the current test group.
952         Also update the label of the button to "Confirm the change" if there is no A/B testing in this task.
953         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Added. Re-triggers an existing A/B testing group or creates
954         the A/B testing for the entire range of the analysis task.
955         (AnalysisTaskPage.prototype._hasDuplicateTestGroupName): Added.
956         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Added.
957         (AnalysisTaskPage.htmlTemplate): Added form controls to re-trigger A/B testing.
958         (AnalysisTaskPage.cssTemplate): Updated the style.
959
960 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
961
962         Removed the duplicated definition of ChartPaneBase.
963
964         * public/v3/components/chart-pane-base.js:
965
966 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
967
968         Analysis task page on v3 UI should show charts
969         https://bugs.webkit.org/show_bug.cgi?id=154057
970
971         Reviewed by Chris Dumez.
972
973         Extracted ChartPaneBase out of ChartPane and added an instance of its new subclass, AnalysisTaskChartPane,
974         to the analysis task page. The main difference is that ChartPaneBase doesn't depend on the presence of
975         this._chartsPage unlike ChartPane. It also doesn't have the header with toolbar (to show breakdown, etc...).
976
977         * public/v3/components/base.js:
978         (ComponentBase.prototype._constructShadowTree): Call htmlTemplate() and cssTemplate() with the right "this".
979
980         * public/v3/components/chart-pane-base.js: Added.
981         (ChartPaneBase): Extracted from ChartPane.
982         (ChartPaneBase.prototype.configure): Extracted from the constructor. Separating this function allows the
983         component to be instantiated inside a HTML template.
984         (ChartPaneBase.prototype._fetchAnalysisTasks): Moved from ChartPane._fetchAnalysisTasks.
985         (ChartPaneBase.prototype.platformId): Ditto.
986         (ChartPaneBase.prototype.metricId): Ditto.
987         (ChartPaneBase.prototype.setOverviewDomain): Ditto.
988         (ChartPaneBase.prototype.setMainDomain): Ditto.
989         (ChartPaneBase.prototype._overviewSelectionDidChange): Extracted from the constructor. This is overridden in
990         ChartPane and unused in AnalysisTaskChartPane.
991         (ChartPaneBase.prototype._mainSelectionDidChange): Extracted from ChartPane._mainSelectionDidChange.
992         (ChartPaneBase.prototype._mainSelectionDidZoom): Extracted from ChartPane._mainSelectionDidZoom.
993         (ChartPaneBase.prototype._indicatorDidChange): Extracted from ChartPane._indicatorDidChange.
994         (ChartPaneBase.prototype._didFetchData): Moved from ChartPane._fetchAnalysisTasks.
995         (ChartPaneBase.prototype._openAnalysisTask): Ditto.
996         (ChartPaneBase.prototype._openCommitViewer): Ditto. Also fixed a bug that we don't show the spinner while
997         waiting for the data to be fetched by calling this.render() here.
998         (ChartPaneBase.prototype._keyup): Moved from ChartPane._keyup. Also fixed the bug that the revisions list
999         doesn't update by calling this.render() here.
1000         (ChartPaneBase.prototype.render): Extracted from ChartPane.render.
1001         (ChartPaneBase.htmlTemplate): Extracted from ChartPane.htmlTemplate.
1002         (ChartPaneBase.paneHeaderTemplate): Added. This is overridden in ChartPane and unused in AnalysisTaskChartPane.
1003         (ChartPaneBase.cssTemplate): Extracted from ChartPane.htmlTemplate.
1004
1005         * public/v3/components/chart-styles.js: Renamed from public/v3/pages/page-with-charts.js.
1006         (PageWithCharts): Renamed from PageWithCharts since it no longer extends PageWithHeading.
1007         (ChartStyles.createChartSourceList):
1008
1009         * public/v3/components/commit-log-viewer.js:
1010         (CommitLogViewer.prototype.view): Set this._repository right away instead of waiting for the fetched data
1011         so that spinner will be shown while the data is being fetched.
1012
1013         * public/v3/index.html:
1014
1015         * public/v3/pages/analysis-task-page.js:
1016         (AnalysisTaskChartPane): Added extends ChartPaneBase.
1017         (AnalysisTaskPage): Added. this._chartPane.
1018         (AnalysisTaskPage.prototype._didFetchTask): Initialize this._chartPane with a domain.
1019         (AnalysisTaskPage.prototype.render): Render this._chartPane.
1020         (AnalysisTaskPage.htmlTemplate):
1021
1022         * public/v3/pages/chart-pane-status-view.js:
1023         (ChartPaneStatusView): Removed the unused router from the argument list.
1024         (ChartPaneStatusView.prototype.pointsRangeForAnalysis): Renamed from analyzeData() since it was ambiguous.
1025         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Fixed the bug that we don't update the list
1026         of the revisions here.
1027         (ChartPaneStatusView.prototype.computeChartStatusLabels):
1028
1029         * public/v3/pages/chart-pane.js:
1030         (ChartPane): Now extends ChartPaneBase. 
1031         (ChartPane.prototype._overviewSelectionDidChange): Extracted from the constructor.
1032         (ChartPane.prototype._mainSelectionDidChange): 
1033         (ChartPane.prototype._mainSelectionDidZoom):
1034         (ChartPane.prototype._indicatorDidChange):
1035         (ChartPane.prototype.render):
1036         (ChartPane.prototype._renderActionToolbar):
1037         (ChartPane.paneHeaderTemplate): Extracted from htmlTemplate.
1038         (ChartPane.cssTemplate):
1039         (ChartPane.overviewOptions.selection.onchange): Deleted.
1040         (ChartPane.prototype._fetchAnalysisTasks): Deleted.
1041         (ChartPane.prototype.platformId): Deleted.
1042         (ChartPane.prototype.metricId): Deleted.
1043         (ChartPane.prototype.setOverviewDomain): Deleted.
1044         (ChartPane.prototype.setMainDomain): Deleted.
1045         (ChartPane.prototype._openCommitViewer): Deleted.
1046         (ChartPane.prototype._didFetchData): Deleted.
1047         (ChartPane.prototype._keyup): Deleted.
1048
1049         * public/v3/pages/charts-page.js:
1050         (ChartsPage):
1051         (ChartsPage.createDomainForAnalysisTask): Extracted by createDomainForAnalysisTask; used to set the domain
1052         of the charts in the analysis task page.
1053         (ChartsPage.createStateForAnalysisTask):
1054
1055         * public/v3/pages/dashboard-page.js:
1056         (DashboardPage):
1057         (DashboardPage.prototype._createChartForCell):
1058
1059 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
1060
1061         Add the support for maintenance mode
1062         https://bugs.webkit.org/show_bug.cgi?id=154072
1063
1064         Reviewed by Chris Dumez.
1065
1066         Added the crude support for maintenance mode whereby which the reports are stored in the filesystem
1067         instead of the database.
1068
1069         * config.json: Added maintenanceMode and maintenanceDirectory as well as forgotten siteTitle and
1070         remoteServer.httpdMutexDir.
1071         * public/api/report.php:
1072         (main): Don't connect to the database or modify database when maintenanceMode is set.
1073         * public/include/json-header.php:
1074         (ensure_privileged_api_data): Exit with InMaintenanceMode when maintenanceMode is set. This prevents
1075         privileged API such as creating analysis tasks and new A/B testing groups from modifying the database.
1076
1077 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
1078
1079         Analysis task page on v3 show progression as regressions
1080         https://bugs.webkit.org/show_bug.cgi?id=154045
1081
1082         Reviewed by Chris Dumez.
1083
1084         The bug was caused by TestGroup.compareTestResults referring to undefined _smallerIsBetter.
1085         Retrieve it from the associated metric object via the owner analysis task.
1086
1087         * public/v3/models/test-group.js:
1088
1089 2016-02-05  Ryosuke Niwa  <rniwa@webkit.org>
1090
1091         Testing with remote server cache is unusably slow
1092         https://bugs.webkit.org/show_bug.cgi?id=153928
1093
1094         Reviewed by Chris Dumez.
1095
1096         Don't use the single process mode of httpd as it's way too slow even for testing.
1097         Also we'll hit a null pointer crash (http://svn.apache.org/viewvc?view=revision&revision=1711479)
1098
1099         Since httpd exits immediately when launched in multi-process mode, remote-cache-server.py (renamed from
1100         run-with-remote-server.py) now has "start" and "stop" commands to start/stop the Apache. Also added
1101         "reset" command to reset the cache for convenience.
1102
1103         * Install.md: Updated the instruction.
1104         * config.json: Fixed a typo: httpdErro*r*Log.
1105         * tools/remote-cache-server.py: Copied from Websites/perf.webkit.org/tools/run-with-remote-server.py.
1106         Now takes one of the following commands: "start", "stop", and "reset".
1107         (main):
1108         (start_httpd): Extracted from main.
1109         (stop_httpd): Added.
1110         * tools/remote-server-relay.conf: Removed redundant (duplicate) LoadModule's.
1111         * tools/run-with-remote-server.py: Removed.
1112
1113 2016-02-04  Ryosuke Niwa  <rniwa@webkit.org>
1114
1115         Perf dashboard should have a script to setup database
1116         https://bugs.webkit.org/show_bug.cgi?id=153906
1117
1118         Reviewed by Chris Dumez.
1119
1120         Added tools/setup-database.py to setup the database. It retrieves the database name, username, password
1121         and initializes a database at the specified location.
1122
1123         * Install.md: Updated instruction to setup postgres to use setup-database.py.
1124         * tools/setup-database.py: Added.
1125         (main):
1126         (load_database_config):
1127         (determine_psql_dir):
1128         (start_or_stop_database):
1129         (execute_psql_command):
1130
1131 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1132
1133         buildbot syncing scripts sometimes schedule more than one requests per builder
1134         https://bugs.webkit.org/show_bug.cgi?id=153047
1135
1136         Reviewed by Chris Dumez.
1137
1138         The bug was caused by the check for singularity of scheduledRequests being conducted per configuration
1139         instead of per builder. So if there were multiple test configurations (e.g. Speedometer and Octane) that
1140         both used the same builder, then we may end up scheduling both at once.
1141
1142         Fixed the bug by sharing a single set to keep track of the scheduled requests for all configurations per
1143         builder.
1144
1145         * tools/sync-with-buildbot.py:
1146         (load_config): Share a set amongst test configurations for each builder.
1147         (find_request_updates): Instead of creating a new set for each configuration, reuse the existing sets to
1148         share a single set agmonst test configurations for each builder.
1149
1150 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1151
1152         Analysis results viewer sometimes doesn't show the correct relative difference
1153         https://bugs.webkit.org/show_bug.cgi?id=152930
1154
1155         Reviewed by Chris Dumez.
1156
1157         The bug was caused by single A/B testing result associated with multiple rows when there are multiple data
1158         points with the same root set which matches that of an A/B testing.
1159
1160         Fixed the bug by detecting such a case, and only associating each A/B testing result with the row created
1161         for the first matching point.
1162
1163         * public/v3/components/analysis-results-viewer.js:
1164         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
1165
1166 2016-01-08  Ryosuke Niwa  <rniwa@webkit.org>
1167
1168         Make v3 UI analysis task page is hard to understand
1169         https://bugs.webkit.org/show_bug.cgi?id=152917
1170
1171         Reviewed by Antti Koivisto.
1172
1173         Add a dark gray border around the selected block in the analysis results viewer instead of using darker
1174         shades since that looks as if they were bigger regression/progression.
1175
1176         Explicitly show "Failed" as the label instead of omitting with "-" when all build requests in an A/B
1177         testing group fails.
1178
1179         * public/v3/components/analysis-results-viewer.js:
1180         (AnalysisResultsViewer.cssTemplate): Tweaked the style to underline text in the hovered blocks and the
1181         selected blocks and show a dark gray border around the selected blocks.
1182         (AnalysisResultsViewer.TestGroupStackingBlock):
1183         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Use this._title for title.
1184         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
1185         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForRootSet): Deleted.
1186
1187         * public/v3/components/results-table.js:
1188         (ResultsTable.prototype.render):
1189         (ResultsTable.prototype._createRevisionListCells): Extracted from ResultsTable.prototype.render.
1190         (ResultsTable.cssTemplate): Tweaked the style.
1191         (ResultsTableRow):
1192         (ResultsTableRow.prototype.constructor): Added _labelForWholeRow to store the label for the entire row.
1193         This is used to show the comparison result of two root sets (e.g. A vs B).
1194         (ResultsTableRow.prototype.setLabelForWholeRow): Added.
1195         (ResultsTableRow.prototype.labelForWholeRow): Added.
1196         (ResultsTableRow.prototype.resultContent): Extracted from buildHeading. Creates a hyperlinked bar graph
1197         used for each A/B testing result.
1198         (ResultsTableRow.prototype.buildHeading): Deleted since we need to set colspan on the second table cell
1199         when we're creating a row with _labelForWholeRow.
1200
1201         * public/v3/components/test-group-results-table.js:
1202         (TestGroupResultsTable.prototype.buildRowGroups): Added rows to show relative differences and statistical
1203         significance between root sets (e.g. A vs B).
1204
1205         * public/v3/models/build-request.js:
1206         (BuildRequest.prototype.hasCompleted): Added.
1207
1208         * public/v3/models/test-group.js:
1209         (TestGroup.prototype.compareTestResults): Extracted from AnalysisResultsViewer.TestGroupStackingBlock's
1210         _computeTestGroupStatus and generalized to be reused in TestGroupResultsTable.
1211         (TestGroup.prototype._valuesForRootSet): Moved from AnalysisResultsViewer.TestGroupStackingBlock.
1212
1213         * public/v3/pages/analysis-task-page.js:
1214         (AnalysisTaskPage.cssTemplate): Tweaked the style.
1215
1216 2016-01-07  Ryosuke Niwa  <rniwa@webkit.org>
1217
1218         Perf dashboard should automatically add aggregators
1219         https://bugs.webkit.org/show_bug.cgi?id=152818
1220
1221         Reviewed by Chris Dumez.
1222
1223         When an aggregator entry is missing in aggregators table, automatically insert it in /api/report.
1224
1225         In a very early version of the perf dashboard, we had the ability to define a custom aggregator
1226         in an admin page. In practice, nobody used or needed this feature so we got rid of it even before
1227         the dashboard was landed into WebKit repository. This patch cleans up that mess.
1228
1229         * run-tests.js:
1230         (main): Added the filtering capability.
1231         (TestEnvironment): Expose the config JSON in the test environment.
1232
1233         * public/include/report-processor.php:
1234         (ReportProcessor): Renamed name_to_aggregator now that it only contains ID.
1235         (ReportProcessor::__construct): No longer fetches the aggregator table. An equivalent work is done
1236         in newly added ensure_aggregators.
1237         (ReportProcessor::process): Calls ensure_aggregators which populates name_to_aggregator_id.
1238         (ReportProcessor::ensure_aggregators): Added. Add the builtin aggregators: Arithmetic, Geometric,
1239         Harmonic, and Total.
1240         (TestRunsGenerator): Renamed name_to_aggregator now that it only contains ID.
1241         (TestRunsGenerator::__construct):
1242         (TestRunsGenerator::add_aggregated_metric): Don't include aggregator_definition here since it's
1243         never used now that all the aggregations are done natively in PHP.
1244         (TestRunsGenerator::$aggregators): Added. We don't include SquareSum since it's only used for
1245         computing run_square_sum_cache in test_runs table and it's useless elsewhere.
1246         (TestRunsGenerator::aggregate_values): Add a comment about that.
1247
1248         * tests/api-report.js: Updated a test case to reflect the change.
1249
1250 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1251
1252         Perf dashboard JSON API should fail gracefully when postgres is down
1253         https://bugs.webkit.org/show_bug.cgi?id=152812
1254
1255         Reviewed by Chris Dumez.
1256
1257         Even though all JSON APIs returned DatabaseConnectionFailure as the status when Database::connect
1258         returned a falsy value, PHP was spitting out warnings and producing HTTP responses that cannot be
1259         parsed as a JSON when pg_connect failed.
1260
1261         Fixed the bug by suppressing warning messages in pg_connect.
1262
1263         * public/include/db.php:
1264         (Database::connect): Use '@' prefix to suppress warning messages.
1265
1266 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1267
1268         Perf dashboard should auto-generate manifest file when one is missing
1269         https://bugs.webkit.org/show_bug.cgi?id=152813
1270
1271         Reviewed by Chris Dumez.
1272
1273         When /data/manifest.json is missing, fall back to newly added /api/manifest instead of
1274         silently failing to show the UI. This will make the initial setup easier.
1275
1276         * public/api/manifest.php: Added.
1277         (main):
1278         * public/include/manifest.php:
1279         (Manifest::manifest): Added.
1280         * public/v3/main.js:
1281         (fetchManifest):
1282         (didFetchManifest): Extracted from fetchManifest.
1283
1284 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1285
1286         Commit another forgotten change, this time, for r194653.
1287
1288         * public/v3/models/measurement-set.js:
1289
1290 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1291
1292         The sampling of time series on v3 UI is too aggressive
1293         https://bugs.webkit.org/show_bug.cgi?id=152804
1294
1295         Reviewed by Chris Dumez.
1296
1297         Fixed a bug that we were always halving the number of data points in _sampleTimeSeries
1298         and increased the number of data points allowed to make the sampling less aggressive.
1299
1300         * public/v3/components/time-series-chart.js:
1301         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Increase the number of maximum points
1302         to 2x the number of pixels divided by the radius of each point.
1303         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Changed the semantics of endIndex
1304         to mean the index after the last point and renamed it to indexAfterEnd.
1305         (TimeSeriesChart.prototype._sampleTimeSeries): Fixed a bug that this code always coerced two
1306         data points into one sampled data point despite of the fact i and j are sufficiently apart
1307         since data[j].time - data[i].time > timePerSample by definition.
1308
1309 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1310
1311         Commit the forgotten change for r194651.
1312
1313         * public/v3/pages/domain-control-toolbar.js:
1314         (DomainControlToolbar.prototype.setStartTime):
1315
1316 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1317
1318         The right hand side of main chart appears to be cut off as you zoom out on v3 UI
1319         https://bugs.webkit.org/show_bug.cgi?id=152778
1320
1321         Reviewed by Antti Koivisto.
1322
1323         Add a padding on x-axis after the end time to make the main chart more easily interactive.
1324
1325         * public/v3/components/time-series-chart.js:
1326         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics):
1327
1328         * public/v3/pages/page-with-charts.js:
1329         (PageWithCharts.mainChartOptions): Add a padding of 5px at the end of x-axis.
1330
1331 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1332
1333         v3 UI should use four sig-figs to label y-axis of the main charts
1334         https://bugs.webkit.org/show_bug.cgi?id=152779
1335
1336         Reviewed by Antti Koivisto.
1337
1338         Increase the number of significant figures used in the main charts to four as done in v2 UI.
1339
1340         * public/v3/pages/chart-pane.js:
1341         (ChartPane.constructor): Create a formatter with four significant figures.
1342         * public/v3/pages/page-with-charts.js:
1343         (PageWithCharts.mainChartOptions): Increase the width of y-axis labels.
1344
1345 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1346
1347         v3 UI's time range slider is harder to use than that of v2 UI
1348         https://bugs.webkit.org/show_bug.cgi?id=152780
1349
1350         Reviewed by Antti Koivisto.
1351
1352         Improved the time range slider by using a cubic mapping to time range and providing a text field
1353         to directly edit the number of days to show.
1354
1355         Now an user can enter the text mode to directly edit the number of days to show by clicking on
1356         the number of days (text field is always there with opacity=0).
1357
1358         * public/v3/pages/charts-toolbar.js:
1359         (ChartsToolbar): Store the minimum and maximum number of days allowed. Also rename _inputElement
1360         to _slider and added a new type=number text field as _editor. 
1361         (ChartsToolbar.prototype.render):
1362         (ChartsToolbar.prototype.setStartTime): Exit the text mode when the number of days is changed by
1363         an URL state transition (i.e. back/forward navigation).
1364         (ChartsToolbar.prototype._setInputElementValue): Added. Updates the values of _slider and _editor.
1365         (ChartsToolbar.prototype._enterTextMode): Added. Hide the elements used by the slider mode and
1366         show the text field.
1367         (ChartsToolbar.prototype._exitTextMode): Added. Does the opposite.
1368         (ChartsToolbar.prototype._sliderValueMayHaveChanged): Renamed from _inputValueMayHaveChanged.
1369         (ChartsToolbar.prototype._editorValueMayHaveChanged): Added. Similar to _sliderValueMayHaveChanged
1370         but also corrects the value of _editor if needed.
1371         (ChartsToolbar.prototype._callNumberOfDaysCallback): Extracted from _inputValueMayHaveChanged.
1372         Also fixed a bug that we didn't update the URL state when the change event was fired without
1373         modifying the effective number of days.
1374         (ChartsToolbar.cssTemplate): Tweaked the style to support the new mode. Also set a fixed width on
1375         the span showing the number of days in the slider mode.
1376
1377 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1378
1379         Zooming button is broken on v3 UI
1380         https://bugs.webkit.org/show_bug.cgi?id=152777
1381
1382         Reviewed by Chris Dumez.
1383
1384         Bring up the zoom button in z-index so that users can click it.
1385
1386         * public/v3/components/interactive-time-series-chart.js:
1387         (InteractiveTimeSeriesChart.cssTemplate):
1388
1389 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1390
1391         v3 UI doesn't preserve the time range when charts page is opened from a dashboard
1392         https://bugs.webkit.org/show_bug.cgi?id=152776
1393
1394         Reviewed by Chris Dumez.
1395
1396         Fixed the bug by moving the construction of charts URL from DashboardPage.prototype.open to
1397         DashboardPage.prototype.render and re-rendering the entire page upon an URL state transition.
1398
1399         * public/v3/pages/charts-page.js:
1400         (ChartsPage.createStateForDashboardItem): Takes the start time for the charts page.
1401
1402         * public/v3/pages/dashboard-page.js:
1403         (DashboardPage.prototype.updateFromSerializedState): Merged _numberOfDaysDidChange and
1404         _updateChartsDomainFromToolbar into this function since they're not used elsewhere. Also re-render
1405         the entire page when transition between different number of days to show.
1406         (DashboardPage.prototype._numberOfDaysDidChange): Deleted.
1407         (DashboardPage.prototype._updateChartsDomainFromToolbar): Deleted.
1408         (DashboardPage.prototype.render): Construct URL for each charts here.
1409         (DashboardPage.prototype._createChartForCell): Don't construct URL here since this function is
1410         called once when the dashboard page is opened, and not when the time range is changed.
1411
1412 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1413
1414         Build fix for an old version of PHP after r194618.
1415
1416         * public/api/measurement-set.php:
1417
1418 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1419
1420         A/B testing results should be visualized intuitively on v3 UI
1421         https://bugs.webkit.org/show_bug.cgi?id=152496
1422
1423         Rubber-stamped by Chris Dumez.
1424
1425         Add the "stacking block" view of A/B testing results to the analysis task page on v3 UI.
1426
1427         The patch enhances JSON APIs at /api/analysis-task /api/measurement-set/ to reduce the number of
1428         HTTP requests, and adds two UI components: TestGroupResultsTable and AnalysisResultsViewer both
1429         of which inherits from an abstract superclass: ResultsTable.
1430
1431         ResultsTable provides a tabular presentation of measured values in regular measurement sets and
1432         A/B testing results using groups of bar graphs created by BarGraphGroup. TestGroupResultsTable
1433         inherits from this class to display A/B testing configurations and the averaged results for each
1434         configuration, and AnalysisResultsViewer inherits from it to provide an intuitive visualization
1435         of the outcomes of all A/B testing results associated with a given analysis task.
1436
1437         * public/api/analysis-tasks.php:
1438         (main): Add the capability to find the analysis task based on its build request.
1439         This allows /v3/#/analysis/task/?buildRequest=<id> to be hyperlinked on buildbot page.
1440
1441         * public/api/measurement-set.php:
1442         (main): Removed the unused startTime and endTime, and added "analysisTask" to query parameters.
1443         (AnalysisResultsFetcher): Added. Used to fetch measured data associated with every build request
1444         on an analysis task.
1445         (AnalysisResultsFetcher::__construct):
1446         (AnalysisResultsFetcher::fetch): Unlike MeasurementSetFetcher, we fetch the list of commits and
1447         list of measurements separately since there will be a lot less builds and commits than measured
1448         data (since we're fetching measured values for all tests and their metrics).
1449         (AnalysisResultsFetcher::fetch_commits): Fetches commits.
1450         (AnalysisResultsFetcher::format_measurement): Like MeasurementSetFetcher::format_measurement but
1451         with config_type and config_metric since we're returning measured data for all metrics and test
1452         configurations.
1453         (AnalysisResultsFetcher::format_map): Similar to MeasurementSetFetcher::format_map.
1454
1455         * public/v3/components/analysis-results-viewer.js: Added.
1456         (AnalysisResultsViewer): Added. 
1457         (AnalysisResultsViewer.prototype.didUpdateResults): This callback is called by AnalysisTaskPage
1458         when A/B testing results become available.
1459         (AnalysisResultsViewer.prototype.render): Overrides ResultsTable's render to highlight the block
1460         representing the currently selected test group.
1461
1462         (AnalysisResultsViewer.prototype.buildRowGroups): Creates a list of rows with "stacking blocks"
1463         that visualizes A/B testing results. The algorithm works as follows: 1. Create all table rows.
1464         2. Find which row is associated with each set in each test group. 3. Layout "blocks".
1465
1466         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Collects root sets from all data
1467         in the measurement set as well as A/B testing **requests** (results may contain more repositories
1468         than requested but they aren't interesting for the purpose of visualizing results for the entire
1469         analysis task).
1470
1471         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Create table rows. First,
1472         create table rows for measurement set points that have a matching test group (i.e. either set A
1473         or set B of an A/B testing uses the same root set as a point). Second, insert a new row for each
1474         root set in each test group which didn't find a matching measurement set point. There is a little
1475         subtlety that some A/B testing may specify revisions for a subset of repositories and/or some A/B
1476         testing results may appear as if it goes back in time with respect to other A/B testing results.
1477         For example, consider creating two A/B test groups for WebKit changes and OS changes separately.
1478         There could be no coherent linearization of those two A/B testing in which both WebKit and OS
1479         versions move forward.
1480
1481         (AnalysisResultsViewer.RootSetInTestGroup): Added. Represents a pair (test group, root set) since
1482         a root set could be shared by multiple test groups.
1483         (AnalysisResultsViewer.TestGroupStackingBlock): Added. A stacked block representing a test group.
1484         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex): Associates a row number with
1485         either set A or set B.
1486         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Creates a table cell
1487         for this block.
1488         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Returns true if this test group
1489         has failed and this block should look "thin" without any label.
1490         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus): Computes the
1491         status for this test group.
1492
1493         (AnalysisResultsViewer.TestGroupStackingGrid): Added. AnalysisResultsViewer uses this class to
1494         layout blocks representing test groups.
1495         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.insertBlockToColumn): Inserts a new block
1496         to layout. We keep all test groups doing the same A/B test next to each other.
1497         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.layout): Layouts each block / test group
1498         in the order they are created.
1499         (AnalysisResultsViewer.TestGroupStackingGrid.prototype._layoutBlock): Places the block in the
1500         left-most column that can accommodate it while avoiding columns of a different thin-ness. A column
1501         is thin if its A/B testing has failed, and not thin otherwise.
1502         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.createCellsForRow): Creates table cells for
1503         a given row. For each column, generate a table cell if we're in the first row and the first block
1504         starts in a later row, a block starts in the current row, or the last block ended in the previous
1505         row and the next block or the last row appears later.
1506
1507         * public/v3/components/bar-graph-group.js: Added. A component for showing a group of bar graphs.
1508         (BarGraphGroup): Added. Creates a group of bar graphs with the same value range. It's used by
1509         AnalysisResultsViewer and ResultsTable to show bar graphs to compare values.
1510         (SingleBarGraph): A component created and collectively controlled by BarGraphGroup.
1511
1512         * public/v3/components/results-table.js: Added.
1513         (ResultsTable): An abstract superclass for TestGroupResultsTable and AnalysisResultsViewer.
1514
1515         (ResultsTable.prototype.render): Renders the table. 1. Call "buildRowGroups()" implemented by
1516         a subclass to obtain the list of rows. 2. Compute the list of repositories to show. 3. For each
1517         cell in the table, compute the number of rows to show the same value (for rowspan). 4. Render the
1518         table with an extra list of repositories if exists.
1519
1520         (ResultsTable.prototype._computeRepositoryList): Compute the list of repositories to list
1521         revisions in the table. Omit repositories not present in any row or for which all rows have the
1522         same revision. In the latter case, include it in the extra repositories listed below the table.
1523         This minimizes the amount of redundant information presented to the user.
1524
1525         (ResultsTableRow): Added. Represents a single row in the table. ResultsTable constructs necessary
1526         table cells to tabulate the associated root sets, and shows the associated result using a grouped
1527         bar graph. Additional columns are used by AnalysisResultsViewer to show stacked blocks for A/B
1528         testing groups.
1529
1530         * public/v3/components/test-group-results-table.js: Added.
1531         (TestGroupResultsTable):
1532         (TestGroupResultsTable.prototype.didUpdateResults):
1533         (TestGroupResultsTable.prototype.setTestGroup):
1534         (TestGroupResultsTable.prototype.heading):
1535         (TestGroupResultsTable.prototype.render):
1536         (TestGroupResultsTable.prototype.buildRowGroups):
1537
1538         * public/v3/index.html:
1539         * public/v3/models/analysis-results.js: Added.
1540         (AnalysisResults): Added. Like MeasurementSet, this class represents a set of measured values
1541         associated with a given analysis task.
1542         (AnalysisResults.prototype.find): Returns a measured valued for a given build and metric.
1543         (AnalysisResults.prototype.add): Adds a new measured value. Used by AnalysisResults.fetch.
1544         (AnalysisResults.fetch): Fetches data and creates AnalysisResults for a given analysis task.
1545
1546         * public/v3/models/analysis-task.js:
1547         (AnalysisTask.prototype.startMeasurementId): Added.
1548         (AnalysisTask.prototype.endMeasurementId): Added.
1549         (AnalysisTask.fetchByBuildRequestId): Added.
1550         (AnalysisTask._fetchSubset): Uses DataModelObject.cachedFetch.
1551
1552         * public/v3/models/build-request.js: Added.
1553         (BuildRequest): Added. Represents a single A/B testing request associated with a test group.
1554
1555         * public/v3/models/builder.js:
1556         (Build): Added. Represents a build associated with a given A/B testing result.
1557
1558         * public/v3/models/commit-log.js:
1559         (CommitLog): Made this class inherit from DataModelObject.
1560         (CommitLog.ensureSingleton): Added. Finds the singleton object created for a given revision
1561         in the specified repository. This helps RootSet and other classes compare commits fast.
1562         (CommitLog.prototype.repository): Added.
1563         (CommitLog.fetchBetweenRevisions): Uses CommitLog.ensureSingleton.
1564
1565         * public/v3/models/data-model.js:
1566         (DataModelObject):
1567         (DataModelObject.namedStaticMap): Added.
1568         (DataModelObject.ensureNamedStaticMap): Renamed from namedStaticMap instead of implicitly
1569         assuming that the non-static version always creates the map.
1570         (DataModelObject.prototype.namedStaticMap): Added.
1571         (DataModelObject.cachedFetch): Extracted from AnalysisTask._fetchSubset so that TestGroup's
1572         fetchByTask could also use it.
1573         (LabeledObject):
1574
1575         * public/v3/models/measurement-adaptor.js: Added.
1576         (MeasurementAdaptor): Extracted from MeasurementCluster. This class is responsible for
1577         re-formatting the data received via /api/measurement-set JSON API inside the v3 UI.
1578         (MeasurementAdaptor.prototype.extractId): Added.
1579         (MeasurementAdaptor.prototype.adoptToAnalysisResults): Added. Used by AnalysisResults.
1580         (MeasurementAdaptor.aggregateAnalysisResults): Added. Used by TestGroupResultsTable to
1581         aggregate results for each test configuration; e.g. computing the average for set A.
1582         (MeasurementAdaptor.prototype.adoptToSeries): Extracted from MeasurementCluster.addToSeries.
1583         Added rootSet() to each point. This allows AnalysisResultsViewer to compare them against root
1584         sets associated with A/B testing results.
1585         (MeasurementAdaptor.computeConfidenceInterval): Moved from MeasurementCluster.
1586
1587         * public/v3/models/measurement-cluster.js:
1588         (MeasurementCluster):
1589         (MeasurementCluster.prototype.addToSeries):
1590
1591         * public/v3/models/repository.js:
1592         (Repository.prototype.hasUrlForRevision): Added.
1593
1594         * public/v3/models/root-set.js: Added.
1595         (RootSet): Added. Represents a set of commits in measured results.
1596         (MeasurementRootSet): Added. Ditto for results associated with A/B testing.
1597
1598         * public/v3/models/test-group.js: Added.
1599         (TestGroup): Added. Represents a A/B testing on analysis task.
1600         (TestGroup.prototype.createdAt): Added.
1601         (TestGroup.prototype.buildRequests): Returns the list of build requests associated with this
1602         A/B testing.
1603         (TestGroup.prototype.addBuildRequest): Added. Used by BuildRequest's constructor to associate
1604         itself with this group.
1605         (TestGroup.prototype.didSetResult): Added. Called by BuildRequest.setResult when measured
1606         values are fetched and associated with a build request in this group.
1607
1608         * public/v3/models/test.js:
1609         (Test):
1610
1611         * public/v3/pages/analysis-task-page.js:
1612         (AnalysisTaskPage):
1613         (AnalysisTaskPage.prototype.updateFromSerializedState): Fetch the analysis task, test groups
1614         associated with it, and all A/B testing results based on the task id or the build request id
1615         specified in the URL.
1616         (AnalysisTaskPage.prototype._didFetchTask): Added. Start fetching the measured data. This is
1617         the data on charts page for which this analysis task was created, not results of A/B testing.
1618         (AnalysisTaskPage.prototype._didFetchMeasurement): Added. Display the fetched data in a table
1619         inside AnalysisResultsViewer.
1620         (AnalysisTaskPage.prototype._didFetchTestGroups): Added. Display the list of A/B test groups
1621         as well as the results of the first A/B testing.
1622         (AnalysisTaskPage.prototype._didFetchAnalysisResults): Added.
1623         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Added. Once both the analysis task,
1624         A/B test groups as well as their results are fetched, update build requests in each test group
1625         with their results.
1626         (AnalysisTaskPage.prototype.render): Show the list of test groups and highlight the currently
1627         selected one.
1628         (AnalysisTaskPage.prototype._showTestGroup): Added. A callback used by AnalysisResultsViewer
1629         and TestGroupResultsTable to notify this class when the user selects a new test group.
1630         (AnalysisTaskPage.htmlTemplate): Updated the template.
1631         (AnalysisTaskPage.cssTemplate): Ditto.
1632
1633         * public/v3/pages/charts-page.js:
1634         (ChartsPage.createStateForAnalysisTask): Added. Creates a URL state object for opening a chart
1635         associated with an analysis task.
1636
1637 2015-12-22  Ryosuke Niwa  <rniwa@webkit.org>
1638
1639         Analysis task page is slow to load
1640         https://bugs.webkit.org/show_bug.cgi?id=152517
1641
1642         Reviewed by Andreas Kling.
1643
1644         The slowness comes from r194130 which made the JSON API at /api/analysis-tasks to report the start
1645         and the end of each analysis task. This query was adding ~2s to the total JSON generation time.
1646
1647         Cache these values on analysis_task table since they never change once an analysis task is created.
1648
1649         * init-database.sql: Added columns task_start_run_time and task_end_run_time to analysis_task table.
1650         Also added the missing drop statements at the top.
1651
1652         * public/api/analysis-tasks.php:
1653         (fetch_and_push_bugs_to_tasks): Don't fetch the latest commit time of the start and the end.
1654         (format_task): Report task_start_run_time and task_end_run_time as startRunTime and endRunTime.
1655
1656         * public/privileged-api/create-analysis-task.php:
1657         (main): Set start_run_time and end_run_time when creating an analysis task.
1658         (time_for_run): Added.
1659
1660 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1661
1662         v3 UI shouldn't open/close pane selector by mouseenter/leave
1663         https://bugs.webkit.org/show_bug.cgi?id=152399
1664
1665         Reviewed by Andreas Kling.
1666
1667         Removed the code to open and close the pane selector by mouseenter and mouseleave
1668         since multiple people have complained about the behavior.
1669
1670         * public/v3/pages/charts-toolbar.js:
1671         (ChartsToolbar): Removed the event listeners.
1672         (ChartsToolbar.prototype._addPane): Don't close the pane selector when adding a new pane
1673         to better support the use case of adding multiple panes.
1674         (ChartsToolbar.cssTemplate): Tweaked CSS.
1675
1676 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1677
1678         Popover for analysis tasks shows up at the left edge of annotation bars in the v3 UI
1679         https://bugs.webkit.org/show_bug.cgi?id=152389
1680
1681         Reviewed by Darin Adler.
1682
1683         Compute the x coordinate of the popover from the center of each annotation bar.
1684
1685         Also adjust the x coordinate to keep the popover within the charts.
1686
1687         * public/v3/components/interactive-time-series-chart.js:
1688         (InteractiveTimeSeriesChart.prototype._renderChartContent):
1689
1690 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1691
1692         Dashboard charts should have uniform widths on v3 UI
1693         https://bugs.webkit.org/show_bug.cgi?id=152395
1694
1695         Reviewed by Chris Dumez.
1696
1697         Fix the bug by applying table-layout: fixed on the dashboard table.
1698
1699         * public/v3/pages/dashboard-page.js:
1700         (DashboardPage.prototype.render): Added header-column as a class name to explicitly set the header column with.
1701         (DashboardPage.cssTemplate): Adjusted CSS accordingly.
1702
1703 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1704
1705         Closing a pane on v3 UI always closes the last pane
1706         https://bugs.webkit.org/show_bug.cgi?id=152388
1707
1708         Reviewed by Chris Dumez.
1709
1710         The bug was caused by closePane being called without arguments. (The first argument to bind is "this" value.)
1711         Fixed it by passing in "this" pane object to the first argument.
1712
1713         * public/v3/pages/chart-pane.js:
1714         (ChartPane):
1715
1716 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1717
1718         Perf Dashboard v3 UI doesn't show recent data points on v2 UI
1719         https://bugs.webkit.org/show_bug.cgi?id=152368
1720
1721         Reviewed by Chris Dumez.
1722
1723         The bug was caused by the last modified date in measurement set JSON being a string instead of a POSIX timestamp,
1724         which prevented the v3 UI from invalidating the cache. Specifically, the following boolean logic always evaluated
1725         to false because +data['lastModified'] was NaN in MeasurementSet.prototype._fetch (/v3/models/measurement-set.js):
1726
1727         !clusterEndTime && useCache && +data['lastModified'] < self._lastModified
1728
1729         Fixed the bug by calling Database::to_js_time on the last modified date fetched from the database.
1730
1731         * public/api/measurement-set.php:
1732         (MeasurementSetFetcher::fetch_config_list): Convert the string returned by the database to a POSIX timestamp.
1733         * tests/api-measurement-set.js: Added a test to ensure the last modified date in JSON is numeric. Since the value
1734         of the last modified date depends on when tests run, we can't assert it to be a certain value.
1735
1736 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1737
1738         v3 UI should show and link the build number on charts page
1739         https://bugs.webkit.org/show_bug.cgi?id=152359
1740
1741         Reviewed by Chris Dumez.
1742
1743         Show the hyperlinked build number in the v3 UI.
1744
1745         * public/v3/models/builder.js:
1746         (Builder): Renamed _buildURL to _buildUrlTemplate.
1747         (Builder.prototype.urlForBuild): Added.
1748         * public/v3/pages/chart-pane-status-view.js:
1749         (ChartPaneStatusView):
1750         (ChartPaneStatusView.prototype.render): Added the code to render hyperlinked build number when one is available.
1751         (ChartPaneStatusView.prototype.computeChartStatusLabels): Store currentPoint's measurement object as _buildInfo
1752         if the current point is set by an indicator (not by a selection).
1753
1754 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1755
1756         v3 dashboard doesn't stretch charts to fill the screen
1757         https://bugs.webkit.org/show_bug.cgi?id=152354
1758
1759         Reviewed by Chris Dumez.
1760
1761         The bug was caused by a workaround to avoid canvas stretching table cell too much.
1762
1763         Fix the problem instead by making the canvas absolutely positioned inside the "time-series-chart" element
1764         so that it does not contribute to the intrinsic/natural width of the cell.
1765
1766         * public/v3/components/time-series-chart.js:
1767         (TimeSeriesChart.prototype._ensureCanvas): Make the canvas absolutely positioned inside the shadow root.
1768         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Use the container element's size now that
1769         the canvas does not resize with it.
1770         * public/v3/pages/dashboard-page.js:
1771         (DashboardPage.cssTemplate): Updated the CSS so that the chart stretches all the way.
1772
1773 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1774
1775         The chart status on v3 UI sometimes show wrong revision ranges
1776         https://bugs.webkit.org/show_bug.cgi?id=152331
1777
1778         Reviewed by Chris Dumez.
1779
1780         The bug was caused by the status view not taking the data sampling that happens in TimeSeriesChart into account
1781         when finding the previous point. Take this into account by using InteractiveTimeSeries.currentPoint(-1) which
1782         finds the sampled data point immediately preceding the current point (at which the indicator is shown).
1783
1784         * public/v3/components/chart-status-view.js:
1785         (ChartStatusView.prototype.updateStatusIfNeeded):
1786
1787 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1788
1789         Perf dashboard's cycler page should use v3 UI
1790         https://bugs.webkit.org/show_bug.cgi?id=152324
1791
1792         Reviewed by Chris Dumez.
1793
1794         Use the v3 UI in cycler.html after r194130.
1795
1796         * public/cycler.html:
1797         * public/v3/index.html: Removed the reference to a non-existent platform-selector.js.
1798
1799 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1800
1801         Add v3 UI to perf dashboard
1802         https://bugs.webkit.org/show_bug.cgi?id=152311
1803
1804         Reviewed by Chris Dumez.
1805
1806         Add the third iteration of the perf dashboard UI. UI for viewing and modifying analysis tasks is coming soon.
1807         The v3 UI is focused on speed, and removes all third-party script dependencies including jQuery, d3, and Ember.
1808         Both the DOM-based UI and graphing are implemented manually.
1809
1810
1811         The entire app is structured using new component library implemented in components/base.js. Each component is
1812         an instance of a subclass of ComponentBase which owns a single DOM element. Each subclass may supply static
1813         methods named htmlTemplate and cssTemplate as the template for a component instance. ComponentBase automatically
1814         clones the templates inside the associated element (or its shadow root on the supported browsers). Each subclass
1815         must supply a method called "render()" which constructs and updates the DOM as needed.
1816
1817         There is a special component called Page, which represents an entire page. Each Page is opened by PageRouter's
1818         "route()" function. Each subclass of Page supplies "open()" for initialization and "updateFromSerializedState()"
1819         for a hash URL transition.
1820
1821
1822         The key feature of the v3 UI is the split of time series into chunks called clusters (see r194120). On an internal
1823         instance of the dashboard, the v2 UI downloads 27MB of data whereas the same page loads only 3MB of data in the v3.
1824         The key logic for fetching time series in chunks is implemented by MeasurementSet in /v3/models/measurement-set.js.
1825         We first fetch the cached primary cluster (the cluster that contains the newest data) at:
1826         /data/measurement-set-<platform-id>-<metric-id>.json
1827
1828         If that's outdated according to lastModified in manifest.json, then we immediately re-fetch the primary cluster at:
1829         /api/measurement-set/?platform=<platform-id>&metric=<metric-id>
1830
1831         Once the up-to-date primary cluster is fetched, we fetch all "secondary" clusters. For each cluster being fetched,
1832         including the primary, we invoke registered callbacks.
1833
1834
1835         In addition, the v3 UI reduces the initial page load time by loading a single bundled JS file generated by
1836         tools/bundle-v3-scripts.py. index.html has a fallback to load all 44 JS files individually during development.
1837
1838         * public/api/analysis-tasks.php:
1839         (fetch_and_push_bugs_to_tasks): Added the code to fetch start and end run times. This is necessary in V3 UI
1840         because no longer fetch the entire time series. See r194120 for the new measurement set JSON API.
1841         (format_task): Compute the category of an analysis task based on "result" value. This will be re-vamped once
1842         I add the UI for the analysis task page in v3.
1843
1844         * public/include/json-header.php:
1845         (require_format): CamelCase the name.
1846         (require_match_one_of_values): Ditto.
1847         (validate_arguments): Renamed from require_existence_of and used in measurement-set.php landed in r194120.
1848
1849         * public/v3: Added.
1850         * public/v3/components: Added.
1851
1852         * public/v3/components/base.js: Added.
1853         (ComponentBase): The base component class.
1854         (ComponentBase.prototype.element): Returns the DOM element associated with the DOM element.
1855         (ComponentBase.prototype.content): Returns the shadow root if one exists and the associated element otherwise.
1856         (ComponentBase.prototype.render): To be implemented by a subclass.
1857         (ComponentBase.prototype.renderReplace): A helper function to "render" DOM contents.
1858         (ComponentBase.prototype._constructShadowTree): Called inside the constructor to instantiate the templates.
1859         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Instantiates components referred by
1860         its element name inside the instantiated content.
1861         (ComponentBase.isElementInViewport): A helper function. Returns true if the element is in the viewport and it has
1862         non-zero width and height.
1863         (ComponentBase.defineElement): Defines a custom element that can be automatically instantiated from htmlTemplate.
1864         (ComponentBase.createElement): A helper function to create DOM tree to be used in "render()" method.
1865         (ComponentBase._addContentToElement): A helper for "createElement".
1866         (ComponentBase.createLink): A helper function to create a hyperlink or another clickable element (via callback).
1867         (ComponentBase.createActionHandler): A helper function to create an event listener that prevents the default action
1868         and stops the event propagation.
1869
1870         * public/v3/components/button-base.js: Added.
1871
1872         * public/v3/components/chart-status-view.js: Added.
1873         (ChartStatusView): A component that reports the current status of time-series-chart. It's subclasses by
1874         ChartPaneStatusView to provide additional information in the charts page's panes.
1875
1876         * public/v3/components/close-button.js: Added.
1877         (CloseButton):
1878         * public/v3/components/commit-log-viewer.js: Added.
1879         (CommitLogViewer): A component that lists commit revisions along with commit messages for a range of data points.
1880
1881         * public/v3/components/interactive-time-series-chart.js: Added.
1882         (InteractiveTimeSeriesChart): A subclass of InteractiveTimeSeriesChart with interactivity (selection & indicator).
1883         Selection and indicator are mutually exclusive.
1884
1885         * public/v3/components/pane-selector.js: Added.
1886         (PaneSelector): A component for selecting (platform, metric) pair to add in the charts page.
1887
1888         * public/v3/components/spinner-icon.js: Added.
1889
1890         * public/v3/components/time-series-chart.js: Added.
1891         (TimeSeriesChart): A canvas-based chart component without interactivity. It takes a source list and options as
1892         the constructor arguments. A source list is a list of measurement sets (measurement-set.js) with drawing options.
1893         This component fetches data via MeasurementSet.fetchBetween inside TimeSeriesChart.prototype.setDomain and
1894         progressively updates the charts as more data arrives. The canvas is updated on animation frame via rAF and all
1895         layout and rendering metrics are lazily computed in _layout. In addition, this component samples data before
1896         rendering the chart when there are more data points per pixel in _ensureSampledTimeSeries.
1897
1898         * public/v3/index.html: Added. Loads bundled-scripts.js if it exists, or individual script files otherwise.
1899
1900         * public/v3/instrumentation.js: Added. This class is used to gather runtime statistics of v3 UI. (It measures
1901         the performance of the perf dashboard UI).
1902
1903         * public/v3/main.js: Added. Bootstraps the app.
1904         (main):
1905         (fetchManifest):
1906
1907         * public/v3/models: Added.
1908         * public/v3/models/analysis-task.js: Added.
1909         * public/v3/models/bug-tracker.js: Added.
1910         * public/v3/models/bug.js: Added.
1911         * public/v3/models/builder.js: Added.
1912         * public/v3/models/commit-log.js: Added.
1913         * public/v3/models/data-model.js: Added.
1914         (DataModelObject): The base class for various data objects that correspond to database tables. It supplies static
1915         hash map to find entries by id as well as other keys.
1916         (LabeledObject): A subclass of DataModelObject with the capability to find an object via its name.
1917
1918         * public/v3/models/measurement-cluster.js: Added.
1919         (MeasurementCluster): Represents a single cluster or a chunk of data in a measurement set.
1920
1921         * public/v3/models/measurement-set.js: Added.
1922         (MeasurementSet): Represents a measurement set.
1923         (MeasurementSet.findSet): Returns the singleton set given (metric, platform). We use singleton to avoid issuing
1924         multiple HTTP requests for the same JSON when there are multiple TimeSeriesChart that show the same graph (e.g. on
1925         charts page with overview and main charts).
1926         (MeasurementSet.prototype.findClusters): Finds the list of clusters to fetch in a given time range.
1927         (MeasurementSet.prototype.fetchBetween): Fetch clusters for a given time range and calls callback whenever new data
1928         arrives. The number of callbacks depends on the how many clusters need to be newly fetched.
1929         (MeasurementSet.prototype._fetchSecondaryClusters): Fetches non-primary (non-latest) clusters.
1930         (MeasurementSet.prototype._fetch): Issues a HTTP request to fetch a cluster.
1931         (MeasurementSet.prototype._didFetchJSON): Called when a cluster is fetched.
1932         (MeasurementSet.prototype._failedToFetchJSON): Called when the fetching of a cluster has failed.
1933         (MeasurementSet.prototype._invokeCallbacks): Invokes callbacks upon an approval of a new cluster.
1934         (MeasurementSet.prototype._addFetchedCluster): Adds the newly fetched cluster in the order.
1935         (MeasurementSet.prototype.fetchedTimeSeries): Returns a time series that contains data from all clusters that have
1936         been fetched.
1937         (TimeSeries.prototype.findById): Additions to TimeSeries defined in /v2/data.js.
1938         (TimeSeries.prototype.dataBetweenPoints): Ditto.
1939         (TimeSeries.prototype.firstPoint): Ditto.
1940
1941         * public/v3/models/metric.js: Added.
1942         * public/v3/models/platform.js: Added.
1943         * public/v3/models/repository.js: Added.
1944         * public/v3/models/test.js: Added.
1945
1946         * public/v3/pages: Added.
1947         * public/v3/pages/analysis-category-page.js: Added. The "Analysis" page that lists the analysis tasks.
1948         * public/v3/pages/analysis-category-toolbar.js: Added. The toolbar to filter analysis tasks based on its category
1949         (unconfirmed, bisecting, identified, closed) and a keyword.
1950
1951         * public/v3/pages/analysis-task-page.js: Added. Not implemented yet. It just has the hyperlink to the v2  UI.
1952
1953         * public/v3/pages/chart-pane-status-view.js: Added.
1954         (ChartPaneStatusView): A subclass of ChartStatusView used in the charts page. In addition to the current value,
1955         comparison to baseline/target, it shows the list of repository revisions (e.g. WebKit revision, OS version).
1956
1957         * public/v3/pages/chart-pane.js: Added.
1958         (ChartPane): A component a pane in the charts page. Each pane has the overview chart and the main chart. The zooming
1959         is synced across all panes in the charts page.
1960
1961         * public/v3/pages/charts-page.js: Added. Charts page.
1962         * public/v3/pages/charts-toolbar.js: Added. The toolbar to set the number of days to show. This affects the overview
1963         chart's domain in each pane.
1964
1965         * public/v3/pages/create-analysis-task-page.js: Added.
1966         (CreateAnalysisTaskPage): A page that gets shown momentarily while creating a new analysis task.
1967
1968         * public/v3/pages/dashboard-page.js: Added. A dashboard page.
1969         * public/v3/pages/dashboard-toolbar.js: Added. Its toolbar with buttons to select the number of days to show.
1970         * public/v3/pages/domain-control-toolbar.js: Added. An abstract superclass of charts and dashboard toolbars.
1971
1972         * public/v3/pages/heading.js: Added. A component for displaying the header and toolbar, if exists, on each page.
1973         * public/v3/pages/page-router.js: Added. This class is responsible for updating the URL hashes as well as opening
1974         and updating each page when the hash changes (via back/forward navigation).
1975         * public/v3/pages/page-with-charts.js: Added. An abstract subclass of page used by dashboards and charts page.
1976         Supplies helper functions for creating TimeSeriesChart options.
1977         * public/v3/pages/page-with-heading.js: Added. An abstract subclass of page that uses the heading component.
1978         * public/v3/pages/page.js: Added. The Page component.
1979         * public/v3/pages/toolbar.js: Added. An abstract toolbar component.
1980
1981         * public/v3/remote.js: Added.
1982         (getJSON): Fetches JSON from the remote server.
1983         (getJSONWithStatus): Ditto. Rejects the response if the status is not "OK".
1984         (PrivilegedAPI.sendRequest): Posts a HTTP request to a privileged API in /privileged-api/.
1985         (PrivilegedAPI.requestCSRFToken): Creates a new CSRF token to request a privileged API post.
1986
1987         * tools/bundle-v3-scripts.py: Added.
1988         (main): Bundles js files together and minifies them by jsmin.py for the v3 UI. Without this script, we're forced to
1989         download 44 JS files or making each JS file contain multiple classes.
1990
1991         * tools/jsmin.py: Copied from WebInspector / JavaScriptCore code.
1992
1993 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1994
1995         Fix v2 UI after r194093.
1996
1997         * public/v2/data.js:
1998
1999 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
2000
2001         Add /api/measurement-set for v3 UI
2002         https://bugs.webkit.org/show_bug.cgi?id=152312
2003
2004         Rubber-stamped by Chris Dumez.
2005
2006         The new API JSON allows the front end to fetch measured data in chunks called a "cluster" as specified
2007         in config.json for each measurement set specified by the pair of a platform and a metric.
2008
2009         When the front end needs measured data in a given time range (t_0, t_1) for a measurement set, it first
2010         fetches the primary cluster by /api/measurement-set/?platform=<platform-id>&metric=<metric-id>.
2011         The primary cluster is the last cluster in the set (returning the first cluster here is not useful
2012         since we don't typically show very old data), and provides the information needed to fetch other clusters.
2013
2014         Fetching the primary cluster also creates JSON files at:
2015         /data/measurement-set-<platform-id>-<metric-id>-<cluster-end-time>.json
2016         to allow latency free access for secondary clusters. The front end code can also fetch the cache of
2017         the primary cluster at: /data/measurement-set-<platform-id>-<metric-id>.json.
2018
2019         Because the front end code has to behave as if all data is fetched, each cluster contains one data point
2020         immediately before the first data point and one immediately after the last data point. This avoids having
2021         to fetch multiple empty clusters for manually specified baseline data. To support this behavior, we generate
2022         all clusters for a given measurement set at once when the primary cluster is requested.
2023
2024         Furthermore, all measurement sets are divided at the same time into clusters so that the boundary of clusters
2025         won't shift as more data are reported to the server.
2026
2027         * config.json: Added clusterStart and clusterSize as options.
2028         * public/api/measurement-set.php: Added.
2029         (main):
2030         (MeasurementSetFetcher::__construct):
2031         (MeasurementSetFetcher::fetch_config_list): Finds configurations that belongs to this (platform, metric) pair.
2032         (MeasurementSetFetcher::at_end): Returns true if we've reached the end of all clusters for this set.
2033         (MeasurementSetFetcher::fetch_next_cluster): Generates the JSON data for the next cluster. We generate clusters
2034         in increasing chronological order (the oldest first and the newest last).
2035         (MeasurementSetFetcher::execute_query): Executes the main query.
2036         (MeasurementSetFetcher::format_map): Returns the mapping of a measurement field to an array index. This removes
2037         the need to have key names for each measurement and reduces the JSON size by ~10%.
2038         (MeasurementSetFetcher::format_run): Creates an array that contains data for a single measurement. The order
2039         matches that of keys in format_map.
2040         (MeasurementSetFetcher::parse_revisions_array): Added. Copied from runs.php.
2041         * tests/api-measurement-set.js: Added. Added tests for /api/measurement-set.
2042
2043 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2044
2045         Using fake timestamp in OS version make some results invisible
2046         https://bugs.webkit.org/show_bug.cgi?id=152289
2047
2048         Reviewed by Stephanie Lewis.
2049
2050         Fix various bugs after r194088.
2051
2052         * public/api/commits.php:
2053         (format_commit): Include the commit order.
2054         * public/v2/data.js:
2055         (CommitLogs._cacheConsecutiveCommits): Sort by commit order when commit time is missing.
2056         * tools/pull-os-versions.py:
2057         (OSBuildFetcher._assign_order): Use integer instead of fake time for commit order.
2058         (available_builds_from_command): Exit early when an exception is thrown.
2059
2060 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2061
2062         Fix a typo in the previous commit.
2063
2064         * public/include/report-processor.php:
2065
2066 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2067
2068         Build fix after r192965. Suppress a warning about log being referred to as a closure variable.
2069
2070         * public/include/report-processor.php:
2071
2072 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2073
2074         Using fake timestamp in OS version make some results invisible
2075         https://bugs.webkit.org/show_bug.cgi?id=152289
2076
2077         Reviewed by Stephanie Lewis.
2078
2079         Added commit_order column to explicitly order OS versions. This fixes the bug whereby which
2080         baseline results reported with only OS versions are shown with x coordinate set to 10 years ago.
2081
2082         To migrate the existing database, run:
2083             ALTER TABLE commits ADD COLUMN commit_order integer;
2084             CREATE INDEX commit_order_index ON commits(commit_order);
2085
2086         Then for each repository $1,
2087             UPDATE commits SET (commit_time, commit_order) = (NULL, CAST(EXTRACT(epoch from commit_time) as integer))
2088             WHERE commit_repository = $1;
2089
2090
2091         * init-database.sql: Added the column.
2092         * public/api/commits.php:
2093         (fetch_commits_between): Use commit_order to order commits when commit_time is missing.
2094         * public/api/report-commits.php:
2095         (main): Set commit_order.
2096         * tools/pull-os-versions.py:
2097         (OSBuildFetcher.fetch_and_report_new_builds):
2098         (OSBuildFetcher._assign_order): Renamed from _assign_fake_timestamps. Set the order instead of a fake timestmap.
2099
2100 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2101
2102         Perf dashboard can't merge when the destination platform is missing baseline/target
2103         https://bugs.webkit.org/show_bug.cgi?id=152286
2104
2105         Reviewed by Stephanie Lewis.
2106
2107         The bug was caused by the query to migrate test configurations to new platform checking
2108         configuration type and metric separately; that is, it assumes the configuration exists
2109         only if either the same type or the same metric exists in the destination.
2110
2111         Fixed the bug by checking both conditions simultaneously for each configuration.
2112
2113         * public/admin/platforms.php:
2114         * tests/admin-platforms.js: Added a test.
2115
2116 2015-12-11  Ryosuke Niwa  <rniwa@webkit.org>
2117
2118         Perf dashboard's buildbot sync config JSON duplicates too much information
2119         https://bugs.webkit.org/show_bug.cgi?id=152196
2120
2121         Reviewed by Stephanie Lewis.
2122
2123         Added shared, per-builder, and per-test (called type) configurations.
2124
2125         * tools/sync-with-buildbot.py:
2126         (load_config):
2127         (load_config.merge):
2128
2129 2015-12-02  Ryosuke Niwa  <rniwa@webkit.org>
2130
2131         Perf dashboard should avoid overflow during geometric mean computation
2132         https://bugs.webkit.org/show_bug.cgi?id=151773
2133
2134         Reviewed by Chris Dumez.
2135
2136         * public/include/report-processor.php:
2137
2138 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2139
2140         Perf dashboard should extend baseline and target to the future
2141         https://bugs.webkit.org/show_bug.cgi?id=151511
2142
2143         Reviewed by Darin Adler.
2144
2145         * public/v2/data.js:
2146         (RunsData.prototype.timeSeriesByCommitTime): Added extendToFuture as an argument.
2147         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
2148         (RunsData.prototype._timeSeriesByTimeInternal): Ditto.
2149         (TimeSeries): Add a new point to the end if extendToFuture is set and the series is not empty.
2150         * public/v2/manifest.js:
2151         (App.Manifest._formatFetchedData): Set extendToFuture to true for baselines and targets.
2152
2153 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2154
2155         Perf dashboard should always show comparison to baseline and target even if one is missing
2156         https://bugs.webkit.org/show_bug.cgi?id=151510
2157
2158         Reviewed by Darin Adler.
2159
2160         Show the comparison status against the baseline when baseline is present but target is missing.
2161
2162         To make the code more readable, this patch splits the logic into three cases:
2163         1. Both baseline and target are present
2164         2. Only baseline is present
2165         3. Only target is present
2166
2167         Also extracted a helper function to construct the label.
2168
2169         * public/v2/app.js:
2170         (.labelForDiff): Added.
2171         (App.Pane.computeStatus):
2172
2173 2015-11-23  Commit Queue  <commit-queue@webkit.org>
2174
2175         Unreviewed, rolling out r192716 and r192717.
2176         https://bugs.webkit.org/show_bug.cgi?id=151582
2177
2178         The patch was incorrect. We always need at least one data
2179         point in each configuration (Requested by rniwa on #webkit).
2180
2181         Reverted changesets:
2182
2183         "Perf dashboard's should not include results more than 366
2184         days old in JSON"
2185         https://bugs.webkit.org/show_bug.cgi?id=151529
2186         http://trac.webkit.org/changeset/192716
2187
2188         "Build fix for old version of PHP."
2189         http://trac.webkit.org/changeset/192717
2190
2191 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2192
2193         Build fix for old version of PHP.
2194
2195         * public/api/runs.php:
2196
2197 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2198
2199         Perf dashboard's should not include results more than 366 days old in JSON
2200         https://bugs.webkit.org/show_bug.cgi?id=151529
2201
2202         Reviewed by Timothy Hatcher.
2203
2204         Don't return results more than 366 days old in /api/runs/ JSON API.
2205         This is a ~5% runtime improvement and reduces the JSON file size by 20-50% in the internal perf dashboard.
2206
2207         * public/api/runs.php:
2208         (main): Added the support for "?noResults" to avoid echoing results. This is useful for debugging.
2209         Also instantiate RunsGenerator before issuing the query to find all configurations so that the runtime cost
2210         of doing so will be included in elapsedTime.
2211         (RunsGenerator::fetch_runs): Skip a row when its build and commit times are more than 366 days old.
2212         (RunsGenerator::format_run): Takes build_time and revisions as arguments since fetch_runs uses them now.
2213         (RunsGenerator::parse_revisions_array): Compute the max of commit times.
2214
2215 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2216
2217         Remove chartPointRadius from interactive chart component
2218         https://bugs.webkit.org/show_bug.cgi?id=151480
2219
2220         Reviewed by Darin Adler.
2221
2222         Replaced the parameter by CSS rules.
2223
2224         * public/v2/chart-pane.css:
2225         (.chart .dot):
2226         (.chart .dot.foreground):
2227         (.chart .highlight):
2228         (.chart .extent):
2229         * public/v2/index.html:
2230         * public/v2/interactive-chart.js:
2231         (App.InteractiveChartComponent.Ember.Component.extend._constructGraphIfPossible):
2232         (App.InteractiveChartComponent.Ember.Component.extend._highlightedItemsChanged):
2233
2234 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2235
2236         Perf dashboard's runs API uses more than 128MB of memory
2237         https://bugs.webkit.org/show_bug.cgi?id=151478
2238
2239         Reviewed by Andreas Kling.
2240
2241         Don't fetch all query results at once to avoid using twice as much memory as needed.
2242         Use iterative API to format each result at a time.
2243
2244         This change is also a 5% runtime performance gain.
2245
2246         * public/api/runs.php:
2247         (RunsGenerator::__construct): Takes a Database instance instead of a list of configurations. The latter is
2248         no longer needed as we pass in each configuration type explicitly to fetch_runs.
2249         (RunsGenerator::fetch_runs): Renamed from add_runs since it now executes the database query via execute_query.
2250         Also moved the logic to compute the last modified time here.
2251         (RunsGenerator::execute_query): Moved from fetch_runs_for_config. Use Database::query instead of query_and_fetch_all.
2252         (RunsGeneratorForTestGroup):
2253         (RunsGeneratorForTestGroup::__construct):
2254         (RunsGeneratorForTestGroup::execute_query): Moved from fetch_runs_for_config_and_test_group.
2255
2256         * public/include/db.php:
2257         (generate_data_file): Lock the file to avoid corruption.
2258
2259 2015-11-19  Ryosuke Niwa  <rniwa@webkit.org>
2260
2261         Perf dashboard always fetches charts JSON twice
2262         https://bugs.webkit.org/show_bug.cgi?id=151483
2263
2264         Reviewed by Andreas Kling.
2265
2266         Only re-generate "runs" JSON via /api/runs/ when the cache doesn't exist in /data/ or the cached JSON is
2267         obsolete (shouldRefetch is set true) or corrupt (the second closure).
2268
2269         * public/v2/app.js:
2270         (App.Pane._fetch):
2271
2272 2015-11-18  Ryosuke Niwa  <rniwa@webkit.org>
2273
2274         Internal perf dashboard takes forever to load
2275         https://bugs.webkit.org/show_bug.cgi?id=151430
2276
2277         Rubber-stamped by Antti Koivisto.
2278
2279         Fix a few performance problems with the perf dashboard v2 UI.
2280
2281         * public/v2/app.js:
2282         (App.DashboardRow._createPane): Set "inDashboard" to true.
2283         (App.Pane._fetch): Immediately show the cached chart instead of waiting for the refetched data which invokes
2284         a PHP JSON API. Also don't fetch the analysis tasks when the chart is shown in the dashboard since we don't
2285         show annotate charts in the dashboard.
2286
2287 2015-10-15  Ryosuke Niwa  <rniwa@webkit.org>
2288
2289         Unreviewed fix of a test after r190687.
2290
2291         * tests/admin-regenerate-manifest.js:
2292
2293 2015-10-12  Ryosuke Niwa  <rniwa@webkit.org>
2294
2295         Perf dashboard tools shouldn't require server credentials in multiple configuration files
2296         https://bugs.webkit.org/show_bug.cgi?id=149994
2297
2298         Reviewed by Chris Dumez.
2299
2300         Made detect-changes.js and pull-svn.py pull username and passwords from the server config JSON to reduce
2301         the number of JSON files that need to include credentials.
2302
2303         Also made each script reload the server config after sleep to allow dynamic credential updates.
2304
2305         In addition, change the server config JSON's format to include scheme, host, and port numbers separately
2306         instead of a url since detect-changes.js needs each value separately.
2307
2308         This reduces the number of JSONs with credentials to two for our internal dashboard.
2309
2310         * tools/detect-changes.js:
2311         (main): Added a property argument parsing. Now takes --server-config-json, --change-detection-config-json,
2312         and --seconds-to-sleep like other scripts.
2313         (parseArgument): Added.
2314         (fetchManifestAndAnalyzeData): Reload the server config JSON.
2315         (loadServerConfig): Added. Set settings.perfserver and settings.slave from the server config JSON. Also
2316         add settings.perfserver.host to match the old format.
2317         (configurationsForTesting): Fixed a bug that we throw an exception when a dashboard contains an empty cell.
2318
2319         * tools/pull-os-versions.py:
2320         (main): Use load_server_config after each sleep.
2321
2322         * tools/pull-svn.py:
2323         (main): Use load_server_config after each sleep.
2324         (fetch_commits_and_submit): Use the perf dashboard's auth as subversion credential when useServerAuth is set.
2325
2326         * tools/sync-with-buildbot.py:
2327         (main): Use load_server_config after each sleep.
2328
2329         * tools/util.py:
2330         (load_server_config): Extracted from python scripts. Computes server's url from scheme, host, and port number
2331         to match the old format python scripts except.
2332
2333 2015-10-11  Ryosuke Niwa  <rniwa@webkit.org>
2334
2335         Build fix after r190817.  Now that pull-os-versions store fake timestamps, we need to bypass timestamp
2336         checks for OS versions when bots try to report new results. Otherwise, we fail to process the reports
2337         with a MismatchingCommitTime error.
2338
2339         * public/include/report-processor.php:
2340         (ReportProcessor::resolve_build_id):
2341
2342 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2343
2344         Perf dashboard erroneously shows an old OS build in A/B testing range
2345         https://bugs.webkit.org/show_bug.cgi?id=149942
2346
2347         Reviewed by Darin Adler.
2348
2349         Ordering OS builds lexicologically turned out be a bad idea since 15A25 falls between 15A242 and 15A251.
2350         Use a fake/synthetic timestamp to force the commonly understood total order instead.
2351
2352         Refactored pull-os-versions.py to share the server config JSON with other scripts. Also made the script
2353         support pulling multiple sources; e.g. both OS X and iOS.
2354
2355         Also removed superfluous feature to submit results in chunks. The perf dashboard can handle thousands of
2356         revisions being submitted at once just fine.
2357
2358         * public/api/commits.php:
2359         (main): A partial revert of r185574 since we no longer need to order builds lexicologically.
2360
2361         * tools/pull-os-versions.py:
2362         (main): Takes --os-config-json, --server-config-json, and --seconds-to-sleep as arguments instead of
2363         a single --config argument to share the server config JSON with other scripts.
2364         (OSBuildFetcher): Extracted out of main. This class is instantiated for each OS kind (e.g. OS X).
2365         (OSBuildFetcher.__init__): Added.
2366         (OSBuildFetcher._fetch_available_builds): Extracted out of main. Fetches available builds from a website
2367         or custom commands.
2368         (OSBuildFetcher.fetch_and_report_new_builds): Extracted out of main. Submits the fetched builds after
2369         filtering out the ones we've already reported.
2370         (OSBuildFetcher._assign_fake_timestamps): Creates a fake timestamp to establish a total order amongst each
2371         OS X / iOS style build number such as 12A3456b.
2372
2373 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2374
2375         pull-svn.py fails to sync revisions when SVN credentials is not setup
2376         https://bugs.webkit.org/show_bug.cgi?id=149941
2377
2378         Reviewed by Chris Dumez.
2379
2380         Added the support for specifying subversion credentials.
2381
2382         Also added the support for pulling from multiple subversion servers. Subversion servers are specified
2383         in a JSON configuration file specified by --svn-config formatted as follows:
2384
2385         [
2386             {
2387                 "name": "WebKit",
2388                 "url": "http://svn.webkit.org/repository/webkit",
2389                 "username": "webkitten",
2390                 "password": "webkitten's password",
2391                 "trustCertificate": true,
2392                 "accountNameFinderScript":
2393                     ["python", "/Volumes/Data/WebKit/Tools/Scripts/webkit-patch", "find-users"]
2394             },
2395             ...
2396         ]
2397
2398         In addition, refactored it to use the shared server config JSON for the dashboard access.
2399
2400         * tools/pull-svn.py:
2401         (main): Now takes --svn-config-json, --server-config-json, --seconds-to-sleep and --max-fetch-count
2402         as required options instead of seven unnamed arguments.
2403         (fetch_commits_and_submit): Extracted from main. Fetches at most max_fetch_count new revisions from
2404         the subversion server, and submits them in accordance with server_config.
2405         (fetch_commit_and_resolve_author): Now takes a single repository dictionary instead of two separate
2406         arguments for name and URL to pass down the repository's authentication info to fetch_commit.
2407         (fetch_commit): Ditto. Add appropriate arguments when username and passwords are specified.
2408         (resolve_author_name_from_account): Use a list argument instead of a single string argument now that
2409         the argument comes from a JSON instead of sys.argv.
2410
2411 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2412
2413         Unreviewed race condition fix. Exit early when xScale or yScale is not defined.
2414
2415         * public/v2/interactive-chart.js:
2416         (App.InteractiveChartComponent._updateRangeBarRects):
2417
2418 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2419
2420         Add a page that cycles through v2 dashboards
2421         https://bugs.webkit.org/show_bug.cgi?id=149907
2422
2423         Reviewed by Chris Dumez.
2424
2425         Add cycler.html that goes through each dashboard on v2 UI.
2426
2427         This allows the dashboards to be cycled through on a TV screen.
2428
2429         * public/cycler.html: Added.
2430         (loadURLAt): Appends a new iframe to load the next URL (i is the index of the dashboard to be shown)
2431         at the end of body. We don't immediately show the new iframe since it might take a while to load.
2432         (showNewFrameIfLoaded): Remove the current iframe and show the next iframe if the next dashboard has
2433         finished loading. We can't rely on DOMContentLoaded or load events because we use asynchronous XHR to
2434         load each chart's data. Instead, wait until some chart becomes available or fails to load and none of
2435         charts are still in progress to be shown.
2436
2437 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2438
2439         Allow custom revisions to be specified in A/B testing
2440         https://bugs.webkit.org/show_bug.cgi?id=149905
2441
2442         Reviewed by Chris Dumez.
2443
2444         Allow custom revision number on each "repository" when creating a test group.
2445
2446         * public/v2/app.css:
2447         (form .analysis-group [name=customValue]): Added.
2448
2449         * public/v2/app.js:
2450         (App.AnalysisTaskController._createConfiguration): Added "Custom" as a revision option.
2451         Also added point labels such as (point 3) on "None" for when some points are missing revision info.
2452         (App.AnalysisTaskController._labelForPoints): Extracted from _createConfiguration.
2453         (App.AnalysisTaskController.actions.createTestGroup): Respect the custom revision number when custom
2454         revision option is selected.
2455
2456         * public/v2/index.html: Added a text field for specifying a custom revision number.
2457
2458 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2459
2460         Make the site name configurable in perf dashboard
2461         https://bugs.webkit.org/show_bug.cgi?id=149894
2462
2463         Reviewed by Chris Dumez.
2464
2465         Added "siteTitle" as a new configuration key to specify the site name.
2466
2467         * public/include/db.php:
2468         (config): Now takes the default value as an argument.
2469         * public/include/manifest.php:
2470         (ManifestGenerator::generate): Include siteTitle in the manifest.
2471         * public/index.html: Update the title and the heading when the manifest is loaded.
2472         * public/v2/index.html: Use App.Manifest.siteTitle as the heading. document.title needs to be updated manually.
2473         * public/v2/manifest.js: 
2474         (App.MetricSerializer.normalizePayload): Update document.title and App.Manifest.siteTitle.
2475
2476 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2477
2478         Perf dashboard doesn't show analysis tasks anchored at outliers
2479         https://bugs.webkit.org/show_bug.cgi?id=149870
2480
2481         Reviewed by Chris Dumez.
2482
2483         The bug was caused by the computation of start and end times of analysis tasks being dependent on
2484         time series provided to the interactive chart component even though they are already filtered.
2485
2486         Since the interactive chart component shouldn't be messing with the underlying data models, moved
2487         the code to compute start and end times to App.Pane, to where it belongs, and made the moved code use
2488         the unfiltered time series newly exposed on ChartData.
2489
2490         Also fixed a bug in fetch-from-remote.php which resulted in Ember endlessly fetching same JSON files.
2491
2492         * public/admin/fetch-from-remote.php:
2493         (.): Use the full request URI for HTTP requests and caching. Otherwise, we're going to mix up caches
2494         and Ember can start hanging browsers (took me three hours to debug this).
2495
2496         * public/v2/app.js:
2497         (App.Pane._showOutlierChanged): Added. Resets chartData when showOutlier flag has been changed.
2498         (App.Pane.fetchAnalyticRanges): The old code wasn't filtering analysis tasks by platforms and metrics
2499         at all since it relied on the server-side REST API to do the filtering, which I haven't implemented yet.
2500         Filter the results manually instead.
2501         (App.Pane.ranges): Moved the logic to compute startTime and endTime here from InteractiveChartComponent.
2502         (App.PaneController.toggleShowOutlier): Now that App.Pane responds to showOutlier changes, we don't
2503         need to call a private method on it.
2504         (App.AnalysisTaskController._chartDataChanged): When end points are not found, try showing outliers.
2505         This will cause chartData to be modified so just exit early and wait for getting called again.
2506
2507         * public/v2/interactive-chart.js:
2508         (App.InteractiveChartComponent._rangesChanged): The code to compute start and end time has been moved
2509         to App.Pane.ranges.
2510
2511         * public/v2/manifest.js:
2512         (App.Manifest._formatFetchedData): Added unfiltered time series as new properties as they are now used
2513         to compute the end points of analysis tasks when their end points are outliers.
2514
2515 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2516
2517         Unreviewed. Fix a typo in r190645.
2518
2519         * public/include/db.php:
2520
2521 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2522
2523         V2 UI shouldn't sort dashboards lexicologically
2524         https://bugs.webkit.org/show_bug.cgi?id=149856
2525
2526         Reviewed by Chris Dumez.
2527
2528         Don't sort the dashboards by name in App.Manifest.
2529
2530         * public/v2/app.js:
2531         (App.IndexRoute.beforeModel): Don't transition to "undefined" (string) dashboard.
2532         * public/v2/manifest.js:
2533         (App.Manifest.._fetchedManifest):
2534
2535 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2536
2537         V2 UI fails to show the data for the very first point in charts
2538         https://bugs.webkit.org/show_bug.cgi?id=149857
2539
2540         Reviewed by Chris Dumez.
2541
2542         The bug was caused by seriesBetweenPoints returning null for when point.seriesIndex is 0.
2543         Explicitly check the type of this property instead.
2544
2545         * public/v2/data.js:
2546         (TimeSeries.prototype.seriesBetweenPoints):
2547
2548 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2549
2550         Perf dashboard should have the capability to test local UI with production data
2551         https://bugs.webkit.org/show_bug.cgi?id=149834
2552
2553         Reviewed by Chris Dumez.
2554
2555         Added tools/run-with-remote-server.py which runs a local httpd server and pulls data from a remote server.
2556
2557         * Install.md: Added the instruction on how to use the script. Also updated the remaining instructions
2558         for El Capitan.
2559         * config.json: Added remote server configurations.
2560         * public/admin/fetch-from-remote.php: Added. This script fetches JSON from the remote server specified in
2561         config.json and caches the results in the location specified as "cacheDirectory" in config.json.
2562         (main):
2563         (fetch_remote):
2564         * public/include/db.php:
2565         (config_path): Extracted from generate_data_file.
2566         (generate_data_file):
2567         * tools/remote-server-relay.conf: Added. Apache 2.4 configuration file for a local http server launched by
2568         run-with-remote-server.py.
2569         * tools/run-with-remote-server.py: Added. Launches Apache with the right set of directives.
2570         (main):
2571         (abspath_from_root):
2572
2573 2015-07-13  Ryosuke Niwa  <rniwa@webkit.org>
2574
2575         Fix a typo.
2576
2577         * public/js/helper-classes.js:
2578
2579 2015-06-27  Ryosuke Niwa  <rniwa@webkit.org>
2580
2581         build-requests should use conform to JSON API format
2582         https://bugs.webkit.org/show_bug.cgi?id=146375
2583
2584         Reviewed by Stephanie Lewis.
2585
2586         Instead of returning single dictionary that maps root set id to a dictionary of repository names
2587         to revisions, timestamps, simply return root sets and roots "rows" or "objects" as defined in
2588         JSON API (http://jsonapi.org/). This API change makes it easier to resolve the bug 146374 and
2589         matches what we do in /api/test-groups.
2590
2591         Also add the support for /api/build-requests/?id=<id> to fetch the build request with <id>.
2592         This is useful for debugging purposes.
2593
2594         * public/api/build-requests.php:
2595         (main): Added the support for $_GET['id']. Also return "rootSets" and "roots".
2596         (update_builds): Extracted from main.
2597
2598         * public/include/build-requests-fetcher.php:
2599         (BuildRequestFetcher::fetch_request): Added. Used for /api/build-requests/?id=<id>.
2600         (BuildRequestFetcher::results_internal): Always call fetch_roots_for_set_if_needed.
2601         (BuildRequestFetcher::fetch_roots_for_set_if_needed): Renamed from fetch_roots_for_set.
2602         Moved the logic to exit early when the root set had already been fetched here.
2603
2604         * public/v2/analysis.js:
2605         (App.TestGroup._fetchTestResults): Fixed the bug that test groups without any successful results
2606         won't be shown.
2607
2608         * tools/pull-os-versions.py:
2609         (main):
2610         (setup_auth): Moved to util.py
2611
2612         * tools/sync-with-buildbot.py:
2613         (main): Replaced a bunch of perf dashboard related options by --server-config-json.
2614         (update_and_fetch_build_requests): No longer takes build_request_auth since that's now taken care
2615         of by setup_auth.
2616         (organize_root_sets_by_id_and_repository_names): Added. Builds the old rootsSets directory based
2617         on "roots" and "rootSets" dictionaries returned by /api/build-requests.
2618         (config_for_request): Fixed a bug that the script blows up when the build request is missing
2619         the repository specified in the configuration. This tolerance is necessary when a new repository
2620         dependency is added but we want to run A/B tests for old builds without the dependency.
2621         (fetch_json): No longer takes auth.
2622
2623         * tools/util.py:
2624         (setup_auth): Moved from pull-os-versions.py to be shared with sync-with-buildbot.py.
2625
2626 2015-06-23  Ryosuke Niwa  <rniwa@webkit.org>
2627
2628         Build fix. A/B testing is broken when continuous builders report revisions out of order.
2629
2630         * public/v2/app.js:
2631         (App.AnalysisTaskController.Ember.Controller.extend.):
2632
2633 2015-06-22  Ryosuke Niwa  <rniwa@webkit.org>
2634
2635         A/B testing results should be shown even if they were submitted to different platforms
2636         https://bugs.webkit.org/show_bug.cgi?id=146219
2637
2638         Reviewed by Andreas Kling.
2639
2640         Fetch A/B testing results regardless of the platform to which results are submitted
2641         by providing the platform ID to which the results were submitted for each test group.
2642
2643         * public/api/test-groups.php:
2644         (main): Include the platform id in the test groups.
2645         * public/v2/analysis.js:
2646         (App.TestGroup._fetchTestResults): Fetch results from the platform associated with the group.
2647
2648 2015-06-19  Csaba Osztrogonác  <ossy@webkit.org>
2649
2650         Remove unnecessary svn:executable flags
2651         https://bugs.webkit.org/show_bug.cgi?id=146107
2652
2653         Reviewed by Alexey Proskuryakov.
2654
2655         * public/js/helper-classes.js: Removed property svn:executable.
2656         * public/js/jquery.flot.plugins.js: Removed property svn:executable.
2657         * public/v2/app.css: Removed property svn:executable.
2658         * public/v2/app.js: Removed property svn:executable.
2659         * public/v2/chart-pane.css: Removed property svn:executable.
2660         * public/v2/data.js: Removed property svn:executable.
2661         * public/v2/index.html: Removed property svn:executable.
2662         * public/v2/js/d3/LICENSE: Removed property svn:executable.
2663         * public/v2/js/d3/d3.js: Removed property svn:executable.
2664         * public/v2/js/d3/d3.min.js: Removed property svn:executable.
2665         * public/v2/js/ember-data.js: Removed property svn:executable.
2666         * public/v2/js/ember.js: Removed property svn:executable.
2667         * public/v2/js/handlebars.js: Removed property svn:executable.
2668         * public/v2/js/jquery.min.js: Removed property svn:executable.
2669         * public/v2/js/statistics.js: Removed property svn:executable.
2670         * public/v2/manifest.js: Removed property svn:executable.
2671         * public/v2/popup.js: Removed property svn:executable.
2672
2673 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2674
2675         Reading the list of analysis tasks is extremely slow
2676         https://bugs.webkit.org/show_bug.cgi?id=146086
2677
2678         Reviewed by Darin Adler.
2679
2680         The bug was caused by Ember data requesting manifest.js hundreds of times.
2681         Fetch it ahead of time in each route instead.
2682
2683         * public/v2/app.js:
2684         (App.AnalysisRoute.model):
2685         (App.AnalysisTaskRoute.model):
2686
2687 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2688
2689         Update ReadMe.md and Install.md per database changes
2690         https://bugs.webkit.org/show_bug.cgi?id=146076
2691
2692         Reviewed by Darin Adler.
2693
2694         Updated.
2695
2696         * Install.md:
2697         * ReadMe.md:
2698
2699 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2700
2701         Increase the popup dismissal time from 100ms to 500ms
2702         https://bugs.webkit.org/show_bug.cgi?id=146077
2703
2704         Rubber-stamped by Andreas Kling.
2705
2706         * public/v2/popup.js:
2707         (App.PopupView.scheduleHiding):
2708
2709 2015-06-16  Ryosuke Niwa  <rniwa@webkit.org>
2710
2711         v2 UI should have buttons to breakdown a test
2712         https://bugs.webkit.org/show_bug.cgi?id=146010
2713
2714         Reviewed by Chris Dumez.
2715
2716         Added buttons beneath each chart pane to add "alternative panes". By default, it shows every platform
2717         as well as "Breakdown" to add all subtests' metrics.
2718
2719         Also removed the metric submenu from tests that had exactly one metric. When a test only measures Time
2720         for example, we make the test itself clickable instead of showing a submenu that only contains one item.
2721
2722         * public/v2/app.js:
2723         (App.ChartsController.addAlternativePanes): Added.
2724         (App.TestProxyForPopup.children): Calls _updateChildren and returns this._children.
2725         (App.TestProxyForPopup.actionName): Added.
2726         (App.TestProxyForPopup.actionArgument): Added.
2727         (App.TestProxyForPopup._updateChildren): Extracted from children. Now also sets _actionName and
2728         _actionArgument in the case there was exactly one metric so that showing submenu is unnecessary.
2729         (App.PaneController.alternativePanes): Added. Returns the list of alternative panes. The platform list
2730         excludes ones that don't have this metric (e.g. iOS doesn't have desktop PLT results) as well as ones
2731         that are already present in the list of panes.
2732         * public/v2/chart-pane.css: Added CSS rules for alternative pane buttons beneath the chart panes.
2733         * public/v2/index.html:
2734         * public/v2/manifest.js:
2735         (App.Metric.childMetrics): Added.
2736
2737 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2738
2739         Build fix after r185574.
2740
2741         * public/v2/app.js:
2742         (set get App.Pane.Ember.Object.extend.):
2743
2744 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2745
2746         Fix a typo.
2747
2748         * tools/pull-os-versions.py:
2749         (main):
2750
2751 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2752
2753         Perf dashboard should be able to list iOS versions as well as OS X versions
2754         https://bugs.webkit.org/show_bug.cgi?id=146003
2755
2756         Reviewed by Stephanie Lewis.
2757
2758         Generalized pull-osx.py so that it can run an arbitrary shell command to fetch OS versions based on
2759         information specified in config.json.
2760
2761         * tools/pull-os-versions.py: Renamed from pull-osx.py.
2762         (main): Use available_builds_from_command when 'customCommands' is specified.
2763         (available_builds_from_command): Added. Executes a shell command to fetch a list of available builds.
2764         (fetch_available_builds): Now takes the repository name.
2765
2766 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2767
2768         Removed a superfluous console.log per Chris's comment.
2769
2770         * public/v2/app.js:
2771
2772 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2773
2774         Analysis task should show all possible revisions for A/B testing
2775         https://bugs.webkit.org/show_bug.cgi?id=145996
2776
2777         Reviewed by Chris Dumez.
2778
2779         * public/api/commits.php:
2780         (fetch_commits_between): When the time stamp is not available for commits, use revision numbers
2781         to find revisions between two ranges. This is necessary for OS X and iOS versions since they don't
2782         have a "commit time".
2783
2784         * public/v2/app.js:
2785         (App.AnalysisTaskController.updateRootConfigurations): Fetch commits between two end points.
2786         (App.AnalysisTaskController._createConfiguration): Extracted from updateRootConfigurations. List
2787         the fetched list of commits if available.
2788         (App.AnalysisTaskController._serializeNumbersSkippingConsecutiveEntries): Added. Serializes an list
2789         of numbers intelligently. For example, [1, 2, 4, 5] turns into "1-2, 4-5". Without this, some lists
2790         of points shown in the A/B testing configurations become too long. 
2791
2792         * public/v2/commits-viewer.js:
2793         (App.CommitsViewerComponent.commitsChanged):
2794
2795         * public/v2/data.js:
2796         (CommitLogs.fetchCommits): Renamed from fetchForTimeRange.
2797
2798 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2799
2800         Add a script to post new OS X builds to perf dashboard
2801         https://bugs.webkit.org/show_bug.cgi?id=145955
2802
2803         Reviewed by Darin Adler.
2804
2805         Added a new script pull-osx.py and relaxed the restrictions on commits accepted by the dashboard API.
2806
2807         * public/api/report-commits.php:
2808         (main): Allow more characters than [A-Za-z0-9] in revision. e.g. "10.10.3 14D136".
2809         Also allow commits without the author, commit time, and commit message as OS versions do not have those.
2810
2811         * tools/pull-osx.py: Added.
2812         (main): Fetch the list of builds from a website and submit them per submissionSize with submissionInterval.
2813         Once all builds have been submitted, wait for a long time as specified by fetchInterval.
2814         (setup_auth): Sets up basic or digest auth to access the dashboard.
2815         (fetch_available_builds): Fetches and parses the XML document from an internal website.
2816         (textContent): A helper function to get the text content out of a XML node.
2817         (submit_commits): Submits commits to the perf dashboard.
2818
2819         * tools/pull-svn.py:
2820         (fetch_commit):
2821
2822         * tools/util.py: Extracted submit_commits and text_content from pull-svn.py to be reused in pull-osx.py.
2823
2824 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2825
2826         Perf dashboard's v2 UI shouldn't hide auto-detected outliers
2827         https://bugs.webkit.org/show_bug.cgi?id=145940
2828
2829         Reviewed by Darin Adler.
2830
2831         Don't fallback to the default strategies for moving averages and envelope when one is not specified.
2832         Also deleted the code to mark points outside the envelop as outliers.
2833
2834         * public/v2/app.js:
2835
2836 2015-06-12  Ryosuke Niwa  <rniwa@webkit.org>
2837
2838         Unreviewed build fix for merging platforms.
2839
2840         * public/admin/platforms.php:
2841
2842 2015-06-09  Ryosuke Niwa  <rniwa@webkit.org>
2843
2844         Unreviewed build fix. Some builder names are really long.
2845
2846         * init-database.sql:
2847
2848 2015-05-22  Ryosuke Niwa  <rniwa@webkit.org>
2849
2850         Show results and status before revisions for A/B testing results
2851         https://bugs.webkit.org/show_bug.cgi?id=145327
2852
2853         Reviewed by Chris Dumez.
2854
2855         Place the results and the status columns before the columns for revisions.
2856         Also show the absolute difference as well as the relative difference between the averages of A and B.
2857
2858         * public/v2/app.js:
2859         (App.TestGroupPane._populate):
2860         (App.TestGroupPane._computeStatisticalSignificance):
2861         * public/v2/index.html:
2862
2863 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2864
2865         Build fix after r184591.
2866
2867         * public/v2/manifest.js:
2868
2869 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2870
2871         Build fix. Use POSIX timestamp instead of human readable string for the commit time.
2872
2873         * public/include/build-requests-fetcher.php:
2874
2875 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2876
2877         UI to associate bugs with an analysis task is crappy
2878         https://bugs.webkit.org/show_bug.cgi?id=145198
2879
2880         Reviewed by Andreas Kling.
2881
2882         Make the UI less crappy by linkifying bug numbers and adding an explicit button to disassociate
2883         a bug and a separate select view with a text field to associate a new bug instead of implicitly
2884         updating or deleting the existing record based on what the user had typed.
2885
2886         * init-database.sql: Removed the constraint that each bug tracker should appear exactly once for
2887         a given analysis task since it's perfectly reasonable for a given task to be associated with
2888         multiple WebKit bugs.
2889
2890         * public/privileged-api/associate-bug.php:
2891         (main): Only remove the bug specified by newly added bugToDelete instead of implicitly deleting
2892         one that matches the analysis task and the bug tracker when the bug number is falsey.
2893
2894         * public/v2/analysis.js:
2895         (App.Bug.url): Added.
2896         (App.BugAdapter.deleteRecord): Added. Uses the privileged API to delete the record.
2897
2898         * public/v2/app.css:
2899
2900         * public/v2/app.js:
2901         (App.AnalysisTaskController.actions.addBug): Added.
2902         (App.AnalysisTaskController.actions.deleteBug): Added.
2903         (App.AnalysisTaskController.associateBug): Deleted.
2904
2905         * public/v2/index.html: Updated the templates.
2906
2907         * public/v2/manifest.js:
2908         (App.BugTracker.urlFromBugNumber): Added.
2909
2910 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2911
2912         A/B testing rootSets should provide commit times as well as revisions
2913         https://bugs.webkit.org/show_bug.cgi?id=145207
2914
2915         Reviewed by Andreas Kling.
2916
2917         Some continuous build systems need the commit time as well as the revision number / hash so provide one
2918         in the root sets but maintain the backwards compatibility with buildbots that use revision number directly.
2919
2920         * public/include/build-requests-fetcher.php:
2921         (BuildRequestsFetcher::fetch_roots_for_set): Made the revision info an associative array that contains
2922         the revision number as well as the commit time.
2923         * tools/sync-with-buildbot.py:
2924         (schedule_request): Removed "replacement" which was a superfluous copy of "roots". Use "revision" values
2925         when the JSON configuration refers to "root". This is necessary in buildbot instances that require WebKit
2926         revision to be specified on its own field instead of it being a JSON that contains "revision" and "time".
2927
2928 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2929
2930         Build fix. Don't fall into an infinite loop when value (renamed from bytes) is zero.
2931
2932         * public/v2/manifest.js:
2933         (App.Manifest.Ember.Controller.extend.):
2934         (App.Manifest.Ember.Controller.extend):
2935
2936 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2937
2938         Don't show unit (bytes) separaetly from SI suffixes (K, M, etc...)
2939         https://bugs.webkit.org/show_bug.cgi?id=145181
2940
2941         Rubber-stamped by Chris Dumez.
2942
2943         Show 'MB' in each y-axis label instead of showing 'bytes' separately and suffixing each label with just 'M'
2944         for clarity. This change also reduces the code complexity.
2945
2946         * public/index.html:
2947         * public/v2/app.js:
2948         (App.AnalysisTaskController._chartDataChanged):
2949         (App.TestGroupPane._createConfigurationSummary):
2950         * public/v2/data.js:
2951         (RunsData.unitFromMetricName): Use 'B' instead of 'bytes' as the unit.
2952
2953         * public/v2/interactive-chart.js: Removed the support for showing units separately.
2954         (App.InteractiveChartComponent._constructGraphIfPossible):
2955         (App.InteractiveChartComponent._relayoutDataAndAxes)
2956
2957         * public/v2/manifest.js:
2958         (App.Manifest._makeFormatter): Renamed from _formatBytes. Support more SI suffixes such as micro and mili.
2959         Now takes the unit as the first argument. Adjust the base unit if it's 'ms'.
2960         (App.Manifest._formatFetchedData): Removed unit and formatWithUnit now that all all formatters would
2961         automatically include unit.
2962
2963 2015-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2964
2965         REGRESSION: v2 UI reports a higher memory usage
2966         https://bugs.webkit.org/show_bug.cgi?id=145151
2967
2968         Reviewed by Chris Dumez.
2969
2970         The bug was caused by v2 UI using 1000 to divide the number of bytes instead of by 1024 as done in v1.
2971         Fixed the bug by manually implementing the formatter as done in v1.
2972
2973         * public/v2/manifest.js:
2974         (App.Manfiest._formatBytes): Added.
2975         (App.Manifest._formatFetchedData): Use _formatByte instead of format('s').
2976
2977 2015-05-11  Ryosuke Niwa  <rniwa@webkit.org>
2978
2979         Unreviewed build fix. Add "Duration" as a time metric.
2980
2981         * public/js/helper-classes.js:
2982         * public/v2/data.js:
2983         (RunsData.unitFromMetricName):
2984
2985 2015-05-06  Ryosuke Niwa  <rniwa@webkit.org>
2986
2987         Perf dashboard treats Speedometer and JetStream as smaller is better
2988         https://bugs.webkit.org/show_bug.cgi?id=144711
2989
2990         Reviewed by Chris Dumez.
2991
2992         Added the support for "Score" metric.
2993
2994         * public/js/helper-classes.js:
2995         (PerfTestRuns):
2996         * public/v2/data.js:
2997         (RunsData.unitFromMetricName):
2998         (RunsData.isSmallerBetter):
2999
3000 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
3001
3002         Build fix after r183232.
3003
3004         * public/include/json-header.php:
3005
3006 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
3007
3008         Perf dashboard should automatically detect regressions
3009         https://bugs.webkit.org/show_bug.cgi?id=141443
3010
3011         Reviewed by Anders Carlsson.
3012
3013         Added a node.js script detect-changes.js to detect potential regressions and progressions
3014         on the graphs tracked on v2 dashboards.
3015
3016         * init-database.sql: Added analysis_strategies table and task_segmentation and task_test_range
3017         columns to analysis_tasks to keep the segmentation and test range selection strategies used
3018         to create an analysis task.
3019
3020         * public/api/analysis-tasks.php:
3021         (format_task): Include task_segmentation and analysis_tasks in the results.
3022
3023         * public/include/json-header.php:
3024         (remote_user_name): Returns null when the privileged API is authenticated as a slave instead
3025         of a CSRF prevention token.
3026         (should_authenticate_as_slave): Added.
3027         (ensure_privileged_api_data_and_token_or_slave): Added. Authenticate as a slave if slaveName
3028         and slavePassword are specified. Since detect-changes.js and other slaves are not susceptible
3029         to a CSRF attack, we don't need to check a CSRF token.
3030
3031         * public/privileged-api/create-analysis-task.php:
3032         (main): Use ensure_privileged_api_data_and_token_or_slave to let detect-changes.js create new
3033         analysis task. Also add or find segmentation and test range selection strategies if specified.
3034
3035         * public/privileged-api/create-test-group.php:
3036         (main): Use ensure_privileged_api_data_and_token_or_slave.
3037
3038         * public/privileged-api/generate-csrf-token.php:
3039
3040         * public/v2/app.js:
3041         (App.Pane._computeMovingAverageAndOutliers): _executeStrategy has been moved to Statistics.
3042
3043         * public/v2/data.js: Export Measurement, RunsData, TimeSeries. Used in detect-changes.js.
3044         (Array.prototype.find): Added a polyfill to be used in node.js.
3045         (RunsData.fetchRuns):
3046         (RunsData.pathForFetchingRuns): Extracted from fetchRuns. Used in detect-changes.js.
3047         (RunsData.createRunsDataInResponse): Extracted from App.Manifest._formatFetchedData to use it
3048         in detect-changes.js.
3049         (RunsData.unitFromMetricName): Ditto.
3050         (RunsData.isSmallerBetter): Ditto.
3051         (RunsData.prototype._timeSeriesByTimeInternal): Added secondaryTime to sort points when commit
3052         times are identical.
3053         (TimeSeries): When commit times are identical, order points based on build time. This is needed
3054         for when we trigger two builds at two different OS versions with the same WebKit revision since
3055         OS versions don't change the commit times.
3056         (TimeSeries.prototype.findPointByIndex): Added.
3057         (TimeSeries.prototype.rawValues): Added.
3058
3059         * public/v2/js/statistics.js:
3060         (Statistics.TestRangeSelectionStrategies.[0]): Use the 99% two-sided probability as claimed in the
3061         description of this strategy instead of the default probability. Also fixed a bug that debugging
3062         code was referring to non-existent variables.
3063         (Statistics.executeStrategy): Moved from App.Pane (app.js).
3064
3065         * public/v2/manifest.js:
3066         (App.Manifest._formatFetchedData): Various code has been extracted into RunsData in data.js to be
3067         used in detect-changes.js.
3068
3069         * tools/detect-changes.js: Added. The script fetches the manifest JSON, analyzes each graph in
3070         the v2 dashboards, and creates an analysis task for the latest regression or progression detected.
3071         It also schedules an A/B testing if possible and notifies another server; e.g. to send an email. 
3072         (main): Loads the settings JSON specified in the argument.
3073         (fetchManifestAndAnalyzeData): The main loop that periodically wakes up to do the analysis.
3074         (mapInOrder): Executes callback sequentially (i.e. blocking) on each item in the array.
3075         (configurationsForTesting): Finds every (platform, metric) pair to analyze in the v2 dashbaords,
3076         and computes various values for when statistically significant changes are detected later.
3077         (analyzeConfiguration): Finds potential regressions and progression in the last X days where X
3078         is the specified maximum number of days using the specified strategies. Sort the resultant ranges
3079         in chronological order and create a new analysis task for the very last change we detected. We'll
3080         eventually create an analysis task for all detected changes since we're repeating the analysis in
3081         fetchManifestAndAnalyzeData after some time.
3082         (computeRangesForTesting): Fetch measured values and compute ranges to test using the specified
3083         segmentation and test range selection strategies. Once ranges are found, find overlapping analysis
3084         tasks as they need to be filtered out in analyzeConfiguration to avoid creating multiple analysis
3085         tasks for the same range (e.g. humans may create one before the script gets to do it).
3086         (createAnalysisTaskAndNotify): Create a new analysis task for the specified range, trigger an A/B
3087         testing if available, and notify another server with a HTML message as specified.
3088         (findStrategyByLabel):
3089         (changeTypeForRange): A change is a regression if values are getting larger in a smaller-is-better
3090         test or values are getting smaller in a larger-is-better test and vice versa.
3091         (summarizeRange): Create a human readable string that summarizes the change detected. e.g.
3092         "Potential 3.2% regression detected between 2015-04-20 12:00 and 17:00".
3093         (formatTimeRange):
3094         (getJSON):
3095         (postJSON):
3096         (postNotification): Recursively replaces $title and $massage in the specified JSON template.
3097         (instantiateNotificationTemplate):
3098         (fetchJSON):
3099
3100 2015-04-20  Ryosuke Niwa  <rniwa@webkit.org>
3101
3102         Perf dashboard should have UI to set status on analysis tasks
3103         https://bugs.webkit.org/show_bug.cgi?id=143977
3104
3105         Reviewed by Chris Dumez.
3106
3107         Added the UI to set the result of an analysis task to 'progression', 'regression', 'unchanged', and 'inconclusive'
3108         as well as a boolean indicating whether creating the analysis task was the right thing to do or not.
3109         The latter will be a useful metric once we start automatically creating analysis tasks.
3110
3111         * init-database.sql: Added two columns to analysis_tasks table.
3112         * public/api/analysis-tasks.php: Include the added columns in the JSON.
3113         * public/include/db.php:
3114         (Database::to_database_boolean): Added.
3115         * public/include/json-header.php:
3116         (require_match_one_of_values): Added.
3117         * public/privileged-api/update-analysis-task.php: Added. Updates 'result' and 'needed' values of an analysis task.
3118         (main):
3119         * public/v2/analysis.js:
3120         (App.AnalysisTask.result): Added.
3121         (App.AnalysisTask.needed): Added. We don't use DS.attr('boolean') here since that would coerce null into false
3122         and we want to differentiate null from false in order to differentiate the null-ness of the value.
3123         (App.AnalysisTask.saveStatus): Added.
3124         (App.AnalysisTask.statusLabel): Use 'result' as the label if it's set and all build requests have been processed.
3125         * public/v2/app.css:
3126         * public/v2/app.js:
3127         (App.AnalysisTaskController.analysisResultOptions): Added.
3128         (App.AnalysisTaskController.shouldNotHaveBeenCreated): Added.
3129         (App.AnalysisTaskController.needsFeedback): Added. Show the checkbox to indicate the analysis task should not have
3130         been created if 'no change' is selected.
3131         (App.AnalysisTaskController._updateChosenAnalysisResult): Added.
3132         (App.AnalysisTaskController.actions.saveStatus): Added.
3133         * public/v2/index.html: Extracted a partial template for updating the bug numbers. Also added the UI to update
3134         'result' and 'needed' values of the analysis task.
3135
3136 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
3137
3138         Unreviewed build fix. Updated config.json after recent changes.
3139
3140         * config.json:
3141
3142 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
3143
3144         Make the analysis page more useful
3145         https://bugs.webkit.org/show_bug.cgi?id=143617
3146
3147         Reviewed by Chris Dumez.
3148
3149         * public/api/analysis-tasks.php:
3150         (fetch_and_push_bugs_to_tasks): Added total and finished numbers of build requests associated
3151         with the fetched analysis tasks as buildRequestCount and finishedBuildRequestCount respectively.
3152         * public/v2/analysis.js:
3153         (App.AnalysisTask.formattedCreatedAt): Added.
3154         (App.AnalysisTask._addLeadingZero): Added.
3155         (App.AnalysisTask.buildRequestCount): Added.
3156         (App.AnalysisTask.finishedBuildRequestCount): Added.
3157         (App.AnalysisTask.statusLabel): Added. Status total and finished numbers of build requests.
3158         (App.AnalysisTask.testGroups):
3159         (App.AnalysisTask.triggerable):
3160         (App.AnalysisTask.label):
3161
3162         * public/v2/app.css: Tweaked style rules for the analysis page.
3163
3164         * public/v2/app.js:
3165         (App.buildPopup): Sort the list of platforms by name.
3166         (App.AnalysisRoute.model): Sort the list of analysis tasks by the order they are created.
3167         (App.AnalysisTaskController._fetchedManifest): Added elementId to associate bug tracker names
3168         such as "Bugzilla" with the corresponding text field.
3169
3170         * public/v2/index.html: Added a bunch of columns to the analysis page and also wrapped the table
3171         showing A/B testing results in a div with overflow: scroll so that it always leaves enough space
3172         for the accompanying graph.
3173
3174 2015-04-09  Ryosuke Niwa  <rniwa@webkit.org>
3175
3176         Perf dashboard should automatically select ranges for A/B testing
3177         https://bugs.webkit.org/show_bug.cgi?id=143580
3178
3179         Reviewed by Chris Dumez.
3180
3181         Added a new statistics option for picking a A/B test range selection strategy.
3182         The selected ranges are shown in the graph using the same UI to show analysis tasks.
3183
3184         * public/v2/app.js:
3185         (App.DashboardPaneProxyForPicker._platformOrMetricIdChanged): Updated the query parameters for
3186         charts page used by the dashboard since we've added a new parameter at the end.
3187         (App.Pane.ranges): Added. Merges ranges created for analysis tasks and A/B testing.
3188         (App.Pane.updateStatisticsTools): Clone and set the test range selection strategies.
3189         (App.Pane._cloneStrategy): Copy isSegmentation.
3190         (App.Pane._updateMovingAverageAndEnvelope): Set testRangeCandidates.
3191         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Update the charts when a new text range
3192         selection strategy is picked by the user.
3193         (App.Pane._computeMovingAverageAndOutliers): Compute the test ranges using the chosen strategy.
3194         Avoid going through isAnomalyArray when no anomaly detection strategy is enabled. Also changed
3195         the return value from the moving average time series to a dictionary that contains the moving
3196         average time series, a dictionary of anomalies, and an array of test ranges.
3197         (App.ChartsController._parsePaneList): Parse the test range selection strategy configuration.
3198         (App.ChartsController._serializePaneList): Ditto for serialization.
3199         (App.ChartsController._scheduleQueryStringUpdate): Update the URL hash when the user picks a new
3200         test range selection strategy.
3201
3202         * public/v2/chart-pane.css: Fixed a typo as well as added a CSS rule for test ranges markers.
3203
3204         * public/v2/index.html: Added UI for selecting a test range selection strategy.
3205
3206         * public/v2/interactive-chart.js:
3207         (App.InteractiveChartComponent._rangesChanged): Pass down "status" to be used as a class name.
3208
3209         * public/v2/js/statistics.js:
3210         (Statistics.MovingAverageStrategies): Added isSegmentation to segmentation strategies.
3211         (Statistics.TestRangeSelectionStrategies): Added.
3212
3213 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3214
3215         The results of A/B testing should state statistical significance
3216         https://bugs.webkit.org/show_bug.cgi?id=143552
3217
3218         Reviewed by Chris Dumez.
3219
3220         Added statistical comparisons between results for each configuration on analysis task page using
3221         Welch's t-test. The probability as well as t-statistics and the degrees of freedoms are reported.
3222
3223         * public/v2/app.js:
3224         (App.TestGroupPane._populate): Report the list of statistical comparison between every pair of
3225         root configurations in the results. e.g. if we've got A, B, C configurations then compare A/B, A/C
3226         and B/C.
3227         (App.TestGroupPane._computeStatisticalSignificance): Compute the statistical significance using
3228         Welch's t-test. Report the probability by which two samples do not come from the same distribution.
3229         (App.TestGroupPane._createConfigurationSummary): Include the array of results for this configuration.
3230         Also renamed "items" to "requests" for clarity.
3231
3232         * public/v2/index.html: Added the template for showing statistical comparisons.
3233
3234         * public/v2/js/statistics.js: Renamed tDistributionQuantiles to tDistributionByOneSidedProbability
3235         for clarity. Also factored out the functions to convert from one-sided probability to two-sided
3236         probability and vice versa.
3237         (Statistics.supportedConfidenceIntervalProbabilities):
3238         (Statistics.confidenceIntervalDelta):
3239         (Statistics.probabilityRangeForWelchsT): Added. Computes the lower bound and the upper bound for
3240         the probability that two values are sampled from distinct distributions using Welch's t-test.
3241         (Statistics.computeWelchsT): This function now takes two-sided probability like all other functions.
3242         (.tDistributionByOneSidedProbability): Renamed from tDistributionQuantiles.
3243         (.oneSidedToTwoSidedProbability): Extracted.
3244         (.twoSidedToOneSidedProbability): Extracted.
3245         (Statistics.MovingAverageStrategies): Converted the one-sided probability to the two-sided probability
3246         now that computeWelchsT takes two-sided probability.
3247
3248 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3249
3250         Unreviewed fix after r182496 for when the cached runs JSON doesn't exist.
3251
3252         * public/v2/app.js:
3253         (App.Pane._fetch):
3254         (App.Pane.refetchRuns):
3255
3256 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3257
3258         Perf dashboard should have a way of marking outliers
3259         https://bugs.webkit.org/show_bug.cgi?id=143466
3260
3261         Reviewed by Chris Dumez.
3262
3263         Address kling's in-person comment to notify users when the new run status is saved in the database.
3264
3265         * public/v2/app.js:
3266         (App.PaneController._selectedItemIsMarkedOutlierDidChange)
3267         * public/v2/chart-pane.css: Fixed a typo.
3268
3269 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3270
3271         Perf dashboard should have a way of marking outliers
3272         https://bugs.webkit.org/show_bug.cgi?id=143466
3273
3274         Reviewed by Chris Dumez.
3275
3276         Added UI to mark a data point as an outlier as well as a button to toggle the visibility of outliers.
3277         Added a new privileged API /privileged-api/update-run-status to store this boolean flag.
3278
3279         * init-database.sql: Added run_marked_outlier column to test_runs table.
3280
3281         * public/admin/tests.php:
3282
3283         * public/api/runs.php:
3284         (main): Only emit Cache-Control and Expires headers in v1 UI.
3285         (RunsGenerator::format_run): Emit markedOutlier.
3286
3287         * public/include/admin-header.php:
3288
3289         * public/include/db.php:
3290         (Database::is_true): Made it static.
3291
3292         * public/include/manifest.php:
3293         (Manifest::platforms):
3294
3295         * public/index.html: Call into /api/runs/ with ?cache=true.
3296
3297         * public/privileged-api/update-run-status.php: Added.
3298         (main): Updates the newly added column in test_runs table.
3299
3300         * public/v2/app.js:
3301         (App.Pane._fetch):
3302         (App.Pane.refetchRuns): Extracted from App.Pane._fetch.
3303         (App.Pane._didFetchRuns): Renamed from _updateChartData.
3304         (App.Pane._setNewChartData): Added. Pick the right time series based based on the value of showOutlier.
3305         Cloning chartData is necessary when toggling the outlier visibility or using statistics tools because
3306         the interactive chart component only observes changes to chartData and not individual properties of it.
3307         (App.Pane._highlightPointsMarkedAsOutlier): Added. Highlight points marked as outliers.
3308         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Call to _setNewChartData replaced the code to
3309         clone chartData here.
3310
3311         (App.PaneController.actions.toggleShowOutlier): Toggle the visibility of points marked as outliers by
3312         invoking App.Pane._setNewChartData.
3313         (App.PaneController._detailsChanged): Don't hide the analysis pane when details changed since keep
3314         opening the pane for marking points as outliers would be annoying.
3315         (App.PaneController._updateCanAnalyze): Update 'cannotMarkOutlier' as well as 'cannotAnalyze'.
3316         (App.PaneController.selectedMeasurement): Added.
3317         (App.PaneController.showOutlierTitle): Added.
3318         (App.PaneController._selectedItemIsMarkedOutlierDidChange): Added. Call out to setMarkedOutlier to
3319         mark the selected point as an outlier via the newly added privileged API.
3320
3321         * public/v2/chart-pane.css: Updated styles.
3322
3323         * public/v2/data.js:
3324         (PrivilegedAPI._post): Report the semantic errors.
3325         (Measurement.prototype.markedOutlier): Added.
3326         (Measurement.prototype.setMarkedOutlier): Added. Uses PrivilegedAPI to update the database.
3327         (RunsData.prototype.timeSeriesByCommitTime): Added a new argument, includeOutliers, to indicate
3328         whether the time series should include measurements marked as outliers or not.
3329         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
3330         (RunsData.prototype._timeSeriesByTimeInternal): Extracted from timeSeriesByCommitTime and
3331         timeSeriesByBuildTime to share code. Now ignores measurements marked as outliers if needed.
3332
3333         * public/v2/index.html: Added an icon for showing and hiding outliers. Also added a checkbox to
3334         mark individual points as outliers.
3335
3336         * public/v2/interactive-chart.js:
3337         (App.InteractiveChartComponent._selectClosestPointToMouseAsCurrentItem): Re-enable the distance
3338         heuristics that takes vertical closeness into account. This heuristics is more useful when marking
3339         some points as outliers. This heuristics was disabled because the behavior was unpredictable but
3340         with the arrow key navigation support, this is no longer an issue.
3341
3342         * public/v2/manifest.js:
3343         (App.Manifest._formatFetchedData): Added showOutlier to the chart data. This function dynamically
3344         updates the time series in this chart data in order to include or exclude outliers.
3345
3346 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
3347
3348         Perf dashboard should be able to trigger A/B testing jobs for iOS
3349         https://bugs.webkit.org/show_bug.cgi?id=143398
3350
3351         Reviewed by Chris Dumez.
3352
3353         Fix various bugs in the perf dashboard so that it can schedule A/B testing jobs for iOS.
3354
3355         Also generalized sync-with-buildbot.py slightly to meet the requirements of iOS builders.
3356
3357         * public/api/triggerables.php:
3358         (main): Avoid spitting a warning when $id_to_triggerable doesn't contain the triggerable.
3359         * public/v2/analysis.js:
3360         (App.AnalysisTask.triggerable): Log an error when failed to fetch triggerables for debugging purposes.
3361         * public/v2/app.js:
3362         (App.AnalysisTaskController.updateRootConfigurations): Show 'None' when a revision is missing from
3363         some of the data points. This will happen when we modify the list of projects we build for iOS.
3364         (App.AnalysisTaskController.actions.createTestGroup): Gracefully fail by showing alerts when an user
3365         attempts to create an invalid test group; when there is already another test group of the same or when
3366         only either configuration specifies the revision for some repository.
3367         (App.AnalysisTaskController._updateRootsBySelectedPoints): Fixed a typo: sets[i] -> set.
3368         * public/v2/index.html: Don't show the form to create a new test group if it's not available.
3369         * tools/sync-with-buildbot.py:
3370         (find_request_updates):
3371         (schedule_request): iOS builders take a JSON that contains the list of roots. Generate this JSON when
3372         a dictionary of the form {rootsExcluding: ["WebKit"]} is specified. Also replaced the way we refer to
3373         a revision from $-based text replacements to an explicit dictionary of the form {root: "WebKit"}.
3374         (request_id_from_build): Don't hard code the parameter name here. Retrieve the name from the config.
3375
3376 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
3377
3378         Add time series segmentation algorithms as moving averages
3379         https://bugs.webkit.org/show_bug.cgi?id=143362
3380
3381         Reviewed by Chris Dumez.
3382
3383         This patch implements two preliminary time series segmentation algorithms as moving averages.
3384
3385         Recursive t-test: Compute Welch's t-statistic at each point in a given segment of the time series.
3386         If Welch's t-test implicates a statistically significance difference, then split the segment into two
3387         sub segments with the maximum t-statistic (i.e. the point at which if split would yield the highest
3388         probability that two segments do not share the same "underlying" mean in classical / frequentist sense).
3389         We repeat this process recursively. See [1] for the evaluation of this particular algorithm.
3390
3391         Schwarz criterion: Use Schwarz or Bayesian information criterion to heuristically find the optimal
3392         segmentation. Intuitively, the problem of finding the best segmentation comes down to minimizing the
3393         residual sum of squares in each segment as in linear regressions. That is, for a given segment with
3394         values y_1 through y_n with mean y_avg, we want to minimize the sum of (y_i - y_avg)^2 over i = 1
3395         through i = n. However, we also don't want to split every data point into a separate segment so we need
3396         to account the "cost" of introducing new segments. We use a cost function that's loosely based on two
3397         models discussed in [2] for simplicity. We will tune this cost function further in the future.
3398
3399         The problem of finding the best segmentation then reduces to a search problem. Unfortunately, our problem
3400         space is exponential with respect to the size of the time series since we could split at each data point.
3401         We workaround this problem by first splitting the time series into a manageable smaller grids, and only
3402         considering segmentation of a fixed size (i.e. the number of segments is constant). Since time series
3403         tend to contain a lot more data points than segments, this strategy finds the optimal solution without
3404         exploring much of the problem space.
3405
3406         Finding the optimal segmentation of a fixed size is, itself, another search problem that is equivalent to
3407         finding the shortest path of a fixed length in DAG. Here, we use dynamic programming with a matrix of size
3408         n by n where n is the length of the time series (grid). Each entry in this matrix at (i, k) stores
3409         the minimum cost of segmenting data points 1 through i using k segments. We start our search at i = 1.
3410         Clearly C(1, 0) = 0 (note the actual code uses 0-based index). In i-th iteration, we compute the cost
3411         S(i, j) of each segment starting at i and ending at another point j after i and update C(j, k + 1) by
3412         min( C(j, k + 1), C(i, k) + S(i, j) ) for all values of j above i.
3413
3414         [1] Kensuke Fukuda, H. Eugene Stanley, and Luis A. Nunes Amaral, "Heuristic segmentation of
3415         a nonstationary time series", Physical Review E 69, 021108 (2004)
3416
3417         [2] Marc Lavielle, Gilles Teyssi`ere, "Detection of Multiple Change–Points in Multivariate Time Series"
3418         Lithuanian Mathematical Journal, vol 46, 2006
3419
3420         * public/v2/index.html: Show the optional description for the chosen moving average strategy.
3421         * public/v2/js/statistics.js:
3422         (Statistics.testWelchsT):
3423         (Statistics.computeWelchsT): Extracted from testWelchsT. Generalized to take the offset and the length
3424         of each value array between which Welch's t-statistic is computed. This generalization helps the
3425         Schwarz criterion segmentation algorithm avoid splitting values array O(n^2) times.
3426         (.sampleMeanAndVarianceForValues): Ditto for the generalization.
3427         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Added. Implements recursive t-test.
3428         (.splitIntoSegmentsUntilGoodEnough): Added. Implements Schwarz criterion.
3429         (.findOptimalSegmentation): Added. Implements the algorithm to find the optimal segmentation of a fixed
3430         segment count.
3431         (.SampleVarianceUpperTriangularMatrix): Added. Stores S(i, j) used by findOptimalSegmentation.
3432         (.SampleVarianceUpperTriangularMatrix.prototype.costBetween): Added.
3433
3434 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
3435
3436         REGRESSION: Perf dashboard sometimes fails to update zooming level
3437         https://bugs.webkit.org/show_bug.cgi?id=143359
3438
3439         Reviewed by Darin Adler.
3440
3441         The bug was caused by various bugs that ended up in an exception.
3442
3443         * public/v2/app.js:
3444         (App.Pane._handleFetchErrors): Removed superfluous console.log.
3445         (App.Pane.computeStatus): Fixed the bug in r182185 that previousPoint could be null.
3446         (App.PaneController.actions.zoomed): Update the overview when the main chart triggered a zoom.
3447         * public/v2/index.html: Replaced all instances of href="#" by href="javascript:false" to avoid navigating
3448         to # when Ember.js fails to attach event listeners on time.
3449         * public/v2/interactive-chart.js:
3450         (App.InteractiveChartComponent._updateDimensionsIfNeeded): Avoid using a negative width or height when
3451         the containing element's size is 0.
3452         (App.InteractiveChartComponent._updateBrush): Ditto.
3453
3454 2015-04-02  Ryosuke Niwa  <rniwa@webkit.org>
3455
3456         Perf dashboard should have UI to test out anomaly detection strategies
3457         https://bugs.webkit.org/show_bug.cgi?id=143290
3458
3459         Reviewed by Benjamin Poulain.
3460
3461         Added the UI to select anomaly detection strategies. The detected anomalies are highlighted in the graph.
3462
3463         Implemented the Western Electric Rules 1 through 4 in http://en.wikipedia.org/wiki/Western_Electric_rules
3464         as well as Welch's t-test that compares the last five points to the prior twenty points.
3465
3466         The latter is what Mozilla uses (or at least did in the past) to detect performance regressions on their
3467         performance tests although they compare medians instead of means.
3468
3469         All of these strategies don't quite work for us since our data points are too noisy but this is a good start.
3470
3471         * public/v2/app.js:
3472         (App.Pane.updateStatisticsTools): Clone anomaly detection strategies.
3473         (App.Pane._updateMovingAverageAndEnvelope): Highlight anomalies detected by the enabled strategies.
3474         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Observe changes to anomaly detection strategies.
3475         (App.Pane._computeMovingAverageAndOutliers): Detect anomalies by each strategy and aggregate results.
3476         Only report the first data point when multiple consecutive data points are detected as anomalies.
3477         * public/v2/chart-pane.css: Updated styles.
3478         * public/v2/index.html: Added the pane for selecting anomaly detection strategies.
3479         * public/v2/js/statistics.js:
3480         (Statistics.testWelchsT): Added. Implements Welch's t-test.
3481         (.sampleMeanAndVarianceForValues): Added.
3482         (.createWesternElectricRule): Added.
3483         (.countValuesOnSameSide): Added.
3484         (Statistics.AnomalyDetectionStrategy): Added.
3485
3486 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3487
3488         REGRESSION: Searching commits can highlight wrong data points
3489         https://bugs.webkit.org/show_bug.cgi?id=143272
3490
3491         Reviewed by Antti Koivisto.
3492
3493         The bug was caused by /api/commits returning commit times with millisecond precision whereas /api/runs
3494         return commit times with only second precision. This resulted in the frontend code to match a commit
3495         with the data point that included the next commit when the millisecond component of commit's timestamp
3496         wasn't identically 0.
3497
3498         This discrepancy was caused by the fact PHP's strtotime only ignores milliseconds and /api/commits
3499         was returning timestamp as string instead of parsing via Database::to_js_time as done in /api/runs
3500         so miliseconds component was only preserved in /api/commits.
3501
3502         Fixed the bug by always using Database::to_js_time to return commit time. Also fixed to_js_time so that
3503         it returns time in milisecond precision.
3504
3505         * public/api/commits.php:
3506         (fetch_commits_between): Use Database::to_js_time for format commit times.
3507         (format_commit): Ditto.
3508         * public/include/db.php:
3509         (Database::to_js_time): Parse and append millisecond component. Ignore sub-milliseconds for simplicity.
3510         * public/v2/data.js:
3511         (CommitLogs.fetchForTimeRange): The commit time is now an integer so don't call "replace" on it.
3512
3513 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3514
3515         Perf dashboard should show relative change in values
3516         https://bugs.webkit.org/show_bug.cgi?id=143252
3517
3518         Reviewed by Antti Koivisto.
3519
3520         When a range of values are selected, show the percentage difference between the start and the end
3521         in addition to the absolute value difference. When a single point is selected, show the relative
3522         difference with respect to the previous point. Use two significant figures and always show plus sign
3523         when the difference is positive.
3524
3525         * public/v2/app.js: Compute and format the relative difference.
3526         * public/v2/chart-pane.css: Don't let commits view shrink itself when they're all collapsed.
3527         * public/v2/index.html: Show the relative difference.
3528
3529 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3530
3531         REGRESSION(r180000): Changing moving average or enveloping strategy doesn't update the graph
3532         https://bugs.webkit.org/show_bug.cgi?id=143254
3533
3534         Reviewed by Antti Koivisto.
3535         
3536         The bug was caused by App.Pane no longer replacing 'chartData' property when updating the moving average
3537         or the enveloping values. Fixed the bug by creating a new chartData object when the strategy is changed
3538         so that the interactive chart component will observe a change to 'chartData'.
3539
3540         * public/v2/app.js:
3541         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Added.
3542
3543 2015-03-19  Ryosuke Niwa  <rniwa@webkit.org>
3544
3545         Unreviewed build fixes.
3546
3547         * public/include/manifest.php:
3548         (Manifest::generate): These should be {} instead of [] when they're empty.
3549         * public/v2/data.js:
3550         (Measurement.prototype.formattedRevisions): Don't assume previousRevisions[repositoryId] exits.
3551         * public/v2/manifest.js:
3552         (App.Metric.fullName): Fixed the typo.
3553         * tests/admin-regenerate-manifest.js: Fixed the test.
3554
3555 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3556
3557         Commit the erroneously reverted change.
3558
3559         * public/api/runs.php:
3560         (RunsGenerator::results): 
3561
3562 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3563
3564         Loading the perf dashboard takes multiple seconds
3565         https://bugs.webkit.org/show_bug.cgi?id=141860
3566
3567         Reviewed by Andreas Kling.
3568
3569         This patch introduces the caches of JSON files returned by /api/ in /data/ directory. It also records
3570         the last time test_runs rows associated with the requested platforms and metrics are inserted, updated,
3571         or removed in the caches as well as the manifest JSON files ("last modified time"). Because the manifest
3572         is regenerated each time a new test result is reported, the front end can compare last modified time in
3573         the manifest file with that in a /api/runs JSON cache to detect the stale-ness.
3574
3575         More concretely, the front end first optimistically fetches the JSON in /data/. If the cache doesn't exit
3576         or the last modified time in the cache doesn't match with that in the manifest file, it would fetch it
3577         again via /api/runs. In the case the cache did exist, we render the charts based on the cache meanwhile.
3578         This dramatically reduces the perceived latency for the page load since charts are drawn immediately using
3579         the cache and we would only re-render the charts as new up-to-date JSON comes in.
3580
3581         This patch also changes the format of runs JSONs by pushing the exiting properties into 'configurations'
3582         and adding 'lastModified' and 'elapsedTime' at the top level.
3583
3584         * init-database.sql: Added config_runs_last_modified to test_configurations table as well as a trigger to
3585         auto-update this column upon changes to test_runs table.
3586
3587         * public/admin/test-configurations.php:
3588         (add_run): Regenerate the manifest file to invalidate the /api/runs JSON cache.
3589         (delete_run): Ditto.
3590
3591         * public/api/runs.php:
3592         (main): Fetch all columns of test_configurations table including config_runs_last_modified. Also generate
3593         the cache in /data/ directory.
3594         (RunsGenerator::__construct): Compute the last modified time for this (platform, metric) pair.
3595         (RunsGenerator::results): Put the old content in 'configurations' property and include 'lastModified' and
3596         'elapsedTime' properties. 'elapsedTime' is added for debugging purposes.
3597         (RunsGenerator::add_runs):
3598         (RunsGenerator::parse_revisions_array):
3599
3600         * public/include/db.php:
3601         (CONFIG_DIR): Added.
3602         (generate_data_file): Added based on ManifestGenerator::store.
3603         (Database::to_js_time): Extracted from RunsGenerator::add_runs to share code.
3604
3605         * public/include/json-header.php:
3606         (echo_success): Renamed from success_json. Return the serialized JSON instead of echo'ing it so that we can
3607         generate caches in /api/runs/.
3608         (exit_with_success):
3609
3610         * public/include/manifest.php:
3611         (ManifestGenerator::generate): Added 'elapsedTime' property for the time taken to generate the manifest.
3612         It seems like we're generating it in 200-300ms for now so that's good.
3613         (ManifestGenerator::store): Uses generate_data_file.
3614         (ManifestGenerator::platforms): Added 'lastModified' array to each platform entry. This array contains the
3615         last modified time for each (platform, metric) pair.
3616
3617         * public/index.html:
3618         (fetchTest): Updated per the format change in runs JSON.
3619
3620         * public/v2/app.js:
3621         (App.Pane._fetch): Fetch the cached JSON first. Refetch the uncached version if instructed as such.
3622         (App.Pane._updateChartData): Extracted from App.Pane._fetch.
3623         (App.Pane._handleFetchErrors): Ditto.
3624
3625         * public/v2/data.js:
3626         (RunsData.fetchRuns): Takes the fourth argument indicating whether we should fetch the cached version or not.
3627         The cached JSON is located in /data/ with the same filename. When fetching a cached JSON results in 404,
3628         fulfill the promise with null as the result instead of rejecting it. The only client of this function which
3629         sets useCache to true is App.Manifest.fetchRunsWithPlatformAndMetric, and it handles this special case.
3630
3631         * public/v2/manifest.js:
3632         (App.DateArrayTransform): Added. Handles the array of last modified dates in platform objects.
3633         (App.Platform.lastModifiedTimeForMetric): Added. Returns the last modified date in the manifest JSON.
3634         (App.Manifest.fetchRunsWithPlatformAndMetric): Takes "useCache" like RunsData.fetchRuns. Set shouldRefetch
3635         to true if response is null (the cache didn't exit) or the cache is out-of-date.
3636         (App.Manifest._formatFetchedData): Extracted from App.Manifest.fetchRunsWithPlatformAndMetric.
3637
3638         * run-tests.js:
3639         (initializeDatabase): Avoid splitting function definitions in the middle.
3640
3641         * tests/api-report.js: Added tests to verify that reporting new test results updates the last modified time
3642         in test_configurations.
3643
3644 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3645