Statistically significant A/B testing results should be color coded in details view
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Statistically significant A/B testing results should be color coded in details view
4         https://bugs.webkit.org/show_bug.cgi?id=154414
5
6         Reviewed by Chris Dumez.
7
8         Color code the statistically significant comparisions in TestGroupResultsTable as done in the analysis
9         results viewer.
10
11         * public/v3/components/customizable-test-group-form.js:
12         (CustomizableTestGroupForm.cssTemplate): Build fix after r196768.
13         * public/v3/components/test-group-results-table.js:
14         (TestGroupResultsTable.prototype.buildRowGroups): Add the status as a class name.
15         (TestGroupResultsTable.cssTemplate): Added styles to color-code statistically significant results.
16
17 2016-02-17  Ryosuke Niwa  <rniwa@webkit.org>
18
19         v3 UI should allow custom revisions for A/B testing
20         https://bugs.webkit.org/show_bug.cgi?id=154379
21
22         Reviewed by Chris Dumez.
23
24         Added the capability to customize revisions selected in the overview chart and the results viewer.
25
26         Newly added CustomizableTestGroupForm is responsible for allowing users to modify the set of revisions in
27         a new A/B testing group. Unlike TestGroupForm which doesn't know anything about which revisions are selected
28         for each project/repository, CustomizableTestGroupForm is aware of the list of revisions used in each set.
29
30         The list of revisions used in each set is represented by RootSet if users had not customized them, and
31         CustomRootSet otherwise; the latter was added since regular RootSet object requires CommitLog and other
32         DataModelObjects which are hard to create without corresponding database entries.
33
34         * public/v3/components/customizable-test-group-form.js: Added.
35         (CustomizableTestGroupForm): Added.
36         (CustomizableTestGroupForm.prototype.setRootSetMap): Added.
37         (CustomizableTestGroupForm.prototype._submitted): Overrides the superclass' method.
38         (CustomizableTestGroupForm.prototype._customize): Ditto. Unlike TestGroupForm's callback, this class'
39         callback passes in a root set map as the third argument.
40         (CustomizableTestGroupForm.prototype._computeRootSetMap): Added. Returns this._rootSetMap, which is set by
41         AnalysisTaskPage if user had not customized the root sets. Otherwise return a new map with CustomRootSet's.
42         (CustomizableTestGroupForm.prototype.render): Added. Creates a table to allow customization of root sets.
43         (CustomizableTestGroupForm._constructRevisionRadioButtons): Added.
44         (CustomizableTestGroupForm._createRadioButton): Added.
45         (CustomizableTestGroupForm.cssTemplate): Added.
46         (CustomizableTestGroupForm.formContent): Added. This method is called by TestGroupForm.htmlTemplate.
47         * public/v3/components/test-group-form.js:
48         (TestGroupForm): Updated the various methods to not directly mutate DOM. Store the state in instance
49         variables and update DOM in render() as done elsewhere.
50         (TestGroupForm.prototype.setNeedsName): Deleted. We no longer need this flag since TestGroupForm which is
51         used for retries never needs a name and CustomizableTestGroupForm which is used to create a new test group
52         always requires a name.
53         (TestGroupForm.prototype.setDisabled):
54         (TestGroupForm.prototype.setLabel):
55         (TestGroupForm.prototype.setRepetitionCount):
56         (TestGroupForm.prototype.render): Added.
57         (TestGroupForm.prototype._submitted): Moved the code to prevent the default action has been moved to the
58         constructor since this method is overridden by CustomizableTestGroupForm.
59         (TestGroupForm.cssTemplate): Added.
60         (TestGroupForm.htmlTemplate):
61         (TestGroupForm.formContent): Extracted from htmlTemplate.
62         * public/v3/index.html:
63         * public/v3/models/repository.js:
64         (Repository.sortByNamePreferringOnesWithURL): Added.
65         * public/v3/models/root-set.js:
66         (RootSet.prototype.revisionForRepository): Added so that _createTestGroupAfterVerifyingRootSetList can retrieve
67         the revision information from CustomRootSet without going through CommitLog objects since CustomRootSet doesn't
68         have associated CommitLog objects.
69         (CustomRootSet): Added. Used by CustomizableTestGroupForm to create a custom root map since regular RootSet
70         requires CommitLog and other related objects which are hard to create without database entries.
71         (CustomRootSet.prototype.setRevisionForRepository): Added.
72         (CustomRootSet.prototype.repositories): Added.
73         (CustomRootSet.prototype.revisionForRepository): Added.
74         * public/v3/pages/analysis-task-page.js:
75         (AnalysisTaskPage):
76         (AnalysisTaskPage.prototype.render): Removed the reference to v2 UI since v3 UI is now strictly more powerful
77         than v2 UI. Also update the root set maps in each form here.
78         (AnalysisTaskPage.prototype._retryCurrentTestGroup): No longer takes unused name argument as it got removed
79         from TestGroupForm.
80         (AnalysisTaskPage.prototype._chartSelectionDidChange): No longer updates the disabled-ness here since it's now
81         done in render() via setRootSetMap().
82         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Now takes rootSetMap as an argument.
83         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): No longer updates the disabled-ness here
84         since it's now done in render() via setRootSetMap().
85         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Now takes rootSetMap as an argument.
86         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Take a dictionary of root set labels
87         such as A and B, which maps to a RootSet or a newly-added CustomRootSet.
88         (AnalysisTaskPage.htmlTemplate): Use customizable-test-group-form for creating a new A/B testing group. Retry
89         form will continue to use TestGroupForm since customizing revisions is non-sensical in retries.
90         (AnalysisTaskPage.cssTemplate): Updated the style.
91
92 2016-02-16  Ryosuke Niwa  <rniwa@webkit.org>
93
94         v3 UI has the capability to schedule an A/B testing in a specific range
95         https://bugs.webkit.org/show_bug.cgi?id=154329
96
97         Reviewed by Chris Dumez.
98
99         Extended AnalysisTaskChartPane and ResultsTable so that users can select a range of points in either
100         the overview chart pane and the results viewer table. Extracted TestGroupForm out of the analysis task
101         page and used right below those two components in the analysis task page.
102
103         * public/v3/components/results-table.js:
104         (ResultsTable):
105         (ResultsTable.prototype.setRangeSelectorLabels): Added.
106         (ResultsTable.prototype.setRangeSelectorCallback): Added.
107         (ResultsTable.prototype.selectedRange): Added.
108         (ResultsTable.prototype._rangeSelectorClicked): Added.
109         (ResultsTable.prototype.render): Generate radio boxes to select a range.
110
111         * public/v3/components/test-group-form.js:
112         (TestGroupForm):
113         (TestGroupForm.prototype.setStartCallback): Added.
114         (TestGroupForm.prototype.setNeedsName): Added.
115         (TestGroupForm.prototype.setDisabled): Added.
116         (TestGroupForm.prototype.setLabel): Added.
117         (TestGroupForm.prototype.setRepetitionCount): Added.
118         (TestGroupForm.prototype._submitted): Added.
119         (TestGroupForm.htmlTemplate): Extracted from AnalysisTaskPage.htmlTemplate.
120
121         * public/v3/index.html:
122
123         * public/v3/pages/analysis-task-page.js:
124         (AnalysisTaskChartPane.prototype._mainSelectionDidChange): Added. Delegates the work to AnalysisTaskPage.
125         (AnalysisTaskChartPane.prototype.selectedPoints): Added.
126         (AnalysisTaskPage):
127         (AnalysisTaskPage.prototype.title):
128         (AnalysisTaskPage.prototype.render):
129         (AnalysisTaskPage.prototype._renderTestGroupDetails): Use TestGroupForm's methods instead of mutating DOM. 
130         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
131         (AnalysisTaskPage.prototype._chartSelectionDidChange): Added.
132         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Added.
133         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): Added.
134         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Added.
135         (AnalysisTaskPage.prototype._createRetryNameForTestGroup):
136         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Extracted from _retryCurrentTestGroup
137         so that we can call it in _createNewTestGroupFromChart and _createNewTestGroupFromViewer.
138         (AnalysisTaskPage.htmlTemplate):
139
140 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
141
142         Extract the code specific to v2 UI out of shared statistics.js
143         https://bugs.webkit.org/show_bug.cgi?id=154277
144
145         Reviewed by Chris Dumez.
146
147         Extracted statistics-strategies.js out of statistics.js for v2 UI and detect-changes.js. The intent is to
148         deprecate this file once we implement refined statistics tools in v3 UI and adopt it in detect-changes.js.
149
150         * public/shared/statistics.js:
151         (Statistics.movingAverage): Extracted from the "Simple Moving Average" strategy.
152         (Statistics.cumultaiveMovingAverage): Extracted from the "Cumulative Moving Average" strategy.
153         (Statistics.exponentialMovingAverage): Extracted from the "Exponential Moving Average" strategy.
154         Use a temporary "movingAverage" to keep the last moving average instead of relying on the previous
155         entry in "averages" array to avoid special casing an array of length 1 and starting the loop at i = 1.
156         (Statistics.segmentTimeSeriesGreedyWithStudentsTTest): Extracted from "Segmentation: Recursive t-test"
157         strategy. Don't create the list of averages to match segmentTimeSeriesByMaximizingSchwarzCriterion here.
158         It's done in newly added averagesFromSegments.
159         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Extracted from
160         "Segmentation: Schwarz criterion" strategy.
161         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Just store the start index to match
162         * public/v2/app.js:
163         (App.Pane.updateStatisticsTools):
164         (App.Pane._computeMovingAverageAndOutliers):
165         * public/v2/data.js:
166         * public/v2/index.html:
167         * public/v2/statistics-strategies.js: Added.
168         (StatisticsStrategies.MovingAverageStrategies): Added.
169         (averagesFromSegments): Extracted from "Segmentation: Schwarz criterion" strategy. Now used by both
170         "Segmentation: Recursive t-test" and "Segmentation: Schwarz criterion" strategies.
171         (StatisticsStrategies.EnvelopingStrategies): Moved from Statistics.EnvelopingStrategies.
172         (StatisticsStrategies.TestRangeSelectionStrategies): Moved from Statistics.TestRangeSelectionStrategies.
173         (createWesternElectricRule): Moved from statistics.js.
174         (countValuesOnSameSide): Ditto.
175         (StatisticsStrategies.executeStrategy): Moved from Statistics.executeStrategy.
176         * tools/detect-changes.js:
177         (computeRangesForTesting):
178
179 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
180
181         v1 UI and v2 UI should share statistics.js
182         https://bugs.webkit.org/show_bug.cgi?id=154262
183
184         Reviewed by Chris Dumez.
185
186         Share statistics.js between v1 and v2 UI.
187
188         * public/index.html:
189         * public/js/shared.js: Deleted.
190         * public/js/statistics.js: Removed.
191         * public/shared: Added.
192         * public/shared/statistics.js: Moved from Websites/perf.webkit.org/public/v2/js/statistics.js.
193         * public/v2/index.html:
194         * public/v2/js/statistics.js: Removed.
195         * public/v3/index.html:
196         * tools/detect-changes.js:
197
198 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
199
200         v3 UI sometimes shows same dates twice on the x-axis of time series charts
201         https://bugs.webkit.org/show_bug.cgi?id=154210
202
203         Reviewed by Chris Dumez.
204
205         The bug was caused by the label generation code in TimeSeriesChart.computeTimeGrid never emitting hours.
206
207         Use hours instead of dates as labels when the current time's date is same as the previous label's date.
208         Always include dates before entering this mode to avoid just having hours as labels on the entire x-axis.
209
210         * public/v3/components/time-series-chart.js:
211         (TimeSeriesChart.prototype._renderXAxis): Slightly increase the "average" width of x-axis label.
212         (TimeSeriesChart.computeTimeGrid): See above. Also assert that the number of labels we generate never
213         exceeds maxLabels as a sanity check.
214         (TimeSeriesChart._timeIterators): Added an iterator that increments by two hours for zoomed graphs.
215
216 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
217
218         v3 UI should show status and associated bugs on analysis task pages
219         https://bugs.webkit.org/show_bug.cgi?id=154212
220
221         Reviewed by Chris Dumez.
222
223         Added the capability to see and modify the status and the list of associated of bugs on analysis task pages.
224
225         Also added the list of related tasks, which are analysis tasks associated with the same bug or have
226         overlapping time ranges with the same test metric but on a potentially different platform.
227
228         In addition, categorize analysis tasks with the status of "no change" or "inconclusive" as "closed" as no
229         further action can be taken (users can bring them back to non-closed state without any restrictions).
230
231         * public/api/analysis-tasks.php:
232         (format_task): Categorize 'unchanged' and 'inconclusive' analysis tasks as closed.
233
234         * public/privileged-api/associate-bug.php:
235         (main): Added shouldDelete as a new mechanism to disassociate a bug since v3 UI shares a single Bug object
236         between multiple analysis tasks (as it should have been in the first place).
237
238         * public/v3/components/chart-pane-base.js:
239         (ChartPaneBase):
240         (ChartPaneBase.prototype._fetchAnalysisTasks): Since each analysis task's change type (status/result) could
241         change, we need to create annotation objects during each render() call.
242         (ChartPaneBase.prototype.render):
243         (ChartPaneBase.prototype._renderAnnotations): Extracted from ChartPaneBase.prototype._fetchAnalysisTasks to
244         do that. I was afraid of the perf impact of this but it doesn't seem to be an issue in my testing.
245         (ChartPaneBase.cssTemplate): Removed superfluous margins (moved to ChartPane.cssTemplate) around the charts
246         since they are only useful in the charts page.
247
248         * public/v3/models/analysis-task.js:
249         (AnalysisTask):
250         (AnalysisTask.prototype.updateSingleton): Added a comment as to why object.result cannot be renamed to
251         object.changeType in the JSON API.
252         (AnalysisTask.prototype.updateName): Added.
253         (AnalysisTask.prototype.updateChangeType): Added.
254         (AnalysisTask.prototype._updateRemoteState): Added.
255         (AnalysisTask.prototype.associateBug): Added.
256         (AnalysisTask.prototype.disassociateBug): Added.
257         (AnalysisTask.fetchRelatedTasks): Added. See above for the criteria of related-ness.
258
259         * public/v3/pages/analysis-task-page.js:
260         (AnalysisTaskPage):
261         (AnalysisTaskPage.prototype.updateFromSerializedState):
262         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId): Extracted from updateFromSerializedState.
263         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks): Added.
264         (AnalysisTaskPage.prototype.render): Render the list of associated bugs, the list of bug trackers (so that
265         users can use it to associate with a new bug), and the list of related analysis tasks.
266         (AnalysisTaskPage.prototype._renderTestGroupList): Extracted from render since it was getting too long.
267         (AnalysisTaskPage.prototype._renderTestGroupDetails): Ditto.
268         (AnalysisTaskPage.prototype._updateChangeType): Added.
269         (AnalysisTaskPage.prototype._associateBug): Added.
270         (AnalysisTaskPage.prototype._disassociateBug): Added.
271         (AnalysisTaskPage.htmlTemplate): Added various elements to show and modify the status, associate bugs,
272         and a list of related analysis tasks.
273         (AnalysisTaskPage.cssTemplate): Added various styles for those form controls.
274
275         * public/v3/pages/chart-pane.js:
276         (ChartPane.cssTemplate): Moved the margins from ChartPaneBase.cssTemplate.
277
278 2016-02-12  Ryosuke Niwa  <rniwa@webkit.org>
279
280         Perf dashboard should allow renaming analysis tasks and test groups
281         https://bugs.webkit.org/show_bug.cgi?id=154200
282
283         Reviewed by Chris Dumez.
284
285         Allow editing names of analysis tasks and A/B testing groups in the v3 UI.
286
287         Added the support for updating the name to the privileged API at /privileged-api/update-analysis-task
288         and added a new prevailed API to update A/B testing groups at /privileged-api/update-test-group.
289
290         * public/privileged-api/update-analysis-task.php: Added the support for renaming the analysis task.
291         (main):
292
293         * public/privileged-api/update-test-group.php: Added. Supports updating the test group's name.
294         (main):
295
296         * public/v3/components/editable-text.js: Added.
297         (EditableText): Added. A new editable text label control. It looks like a text node with "(Edit)" link
298         at the end which allow users to go into the "editing mode", which reveals an input element.
299         The user can exit the editing mode by either moving the focus away from the control or clicking on
300         "(Save)" at the end. It calls _updateCallback in the latter case.
301         (EditableText.prototype.editedText): Returns the current value of the input element user.
302         (EditableText.prototype.setText): Sets the label. This does not live-update the input element until
303         the user exists the current editing mode and re-enters it.
304         (EditableText.prototype.setStartedEditingCallback): Sets a callback which gets called when the user
305         requested to enter the editing mode. Since EditableText relies on AnalysisTaskPage to render, this
306         callback only exits to call EditableText.render() in AnalysisTask._didStartEditingTaskName.
307         (EditableText.prototype.setUpdateCallback): Sets a callback which gets called when the user exits
308         the editing mode by activating the "(Save)" link. This callback MUST return a promise upon resolution
309         of which the control gets out of the editing mode. While the promise is in flight, the input element
310         becomes readonly.
311         (EditableText.prototype.render): Updates various states of the elements. When _updatingPromise is not
312         falsy, we make the input element readonly and show '(...)' on the link. Don't show the action link
313         if the label is empty (e.g. analysis task or test group is still being fetched).
314         (EditableText.prototype._didClick): Called when the user clicked on the action link. Enter the editing
315         mode or save the edited label via _updateCallback.
316         (EditableText.prototype._didBlur): Exit the editing mode without saving if the input element is not
317         focused, there is no inflight promise returned by _updateCallback, and the action link "(Save)" does
318         not have the focus.
319         (EditableText.prototype._didUpdate): Called when exiting the editing mode.
320         (EditableText.htmlTemplate):
321         (EditableText.cssTemplate):
322
323         * public/v3/index.html: Include newly added editable-text.js.
324
325         * public/v3/models/analysis-task.js:
326         (AnalysisTask.prototype.updateSingleton): Added.
327         (AnalysisTask.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
328         the analysis task from the sever.
329         (AnalysisTask._constructAnalysisTasksFromRawData): Use ensureSingleton instead of manually calling
330         findById since we need to update the name of the singleton object we found (via updateSingleton).
331
332         * public/v3/models/bug.js:
333         (Bug.ensureSingleton): Moved the code to compute the synthetic id from AnalysisTask's
334         _constructAnalysisTasksFromRawData.
335         (Bug.prototype.updateSingleton): Added. Just assert that nothing changes.
336
337         * public/v3/models/build-request.js:
338         (BuildRequest.prototype.updateSingleton): Added. Assert that the intrinsic values of a build request
339         doesn't change and update status text, status url, and build id as they could change.
340
341         * public/v3/models/commit-log.js:
342         (CommitLog): Made the constructor argument conform to the convention of id, object pair so that we can
343         use DataModelObject.ensureSingleton.
344         (CommitLog.ensureSingleton): 
345         (CommitLog.prototype.updateSingleton): Extracted from CommitLog.ensureSingleton.
346
347         * public/v3/models/data-model.js:
348         (DataModelObject.ensureSingleton): Call newly added updateSingleton.
349         (DataModelObject.prototype.updateSingleton):
350         (LabeledObject): Removed the name map since it's never used (findByName is never called anywhere).
351         (LabeledObject.prototype.updateSingleton): Added. Updates _name.
352         (LabeledObject.findByName): Deleted.
353
354         * public/v3/models/test-group.js:
355         (TestGroup.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
356         the test group from the sever.
357         (TestGroup._createModelsFromFetchedTestGroups): Removed bogus code. A root set doesn't have a test
358         group associated with it since multiple test groups can share a single root set (this property doesn't
359         even exist).
360
361         * public/v3/pages/analysis-task-page.js:
362         (AnalysisTaskPage): Removed useless _taskId and added this._testGroupLabelMap and this._taskNameLabel.
363         (AnalysisTaskPage.prototype.updateFromSerializedState): Cleanup.
364         (AnalysisTaskPage.prototype._didFetchTask): Assert that this function is called exactly once.
365         (AnalysisTaskPage.prototype.render): Use this._task.id() to show the v2 link. Use EditableText to show
366         the names of the analysis task and the associated test groups. Hide the overview chart and the list of
367         test groups (along with the retry/confirm button) when the analysis task failed to fetch. We always
368         update the names of the analysis task and the associated test groups since they could be updated by
369         the server.
370         (AnalysisTaskPage.prototype._didStartEditingTaskName): Added.
371         (AnalysisTaskPage.prototype._updateTaskName): Added.
372         (AnalysisTaskPage.prototype._updateTestGroupName): Added.
373         (AnalysisTaskPage.htmlTemplate): Updated the style.
374
375 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
376
377         Land the change that was supposed to be the part of r196463.
378
379         * public/v3/pages/analysis-task-page.js:
380         (AnalysisTaskPage.prototype._didFetchTestGroups): Select the latest test group by default.
381
382 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
383
384         Refine v3 UI's analysis task page
385         https://bugs.webkit.org/show_bug.cgi?id=154152
386
387         Reviewed by Chris Dumez.
388
389         This patch makes the following refinements to the analysis task page:
390          - Always show the relative different of in-progress A/B testing.
391          - Make the annotations (colored bars) in the chart open other analysis tasks.
392          - Order the A/B testing groups in the reverse chronological order.
393          - Select the time range corresponding to the current test group.
394
395         * public/v3/components/analysis-results-viewer.js:
396         (AnalysisResultsViewer.cssTemplate): Fixed the bug that pending and running testing groups are no longer
397         colored after r196440. Use a slightly more opaque color for currently running groups compared to pending ones.
398
399         * public/v3/components/chart-pane-base.js:
400         (ChartPaneBase.prototype.setMainSelection): Added.
401         (ChartPaneBase.prototype._openAnalysisTask): Moved the code from ChartPane._openAnalysisTask so that it can be
402         reused in both AnalysisTaskChartPane and ChartPane (in charts page).
403         (ChartPaneBase.prototype.router): Added. Overridden by each subclass.
404
405         * public/v3/components/test-group-results-table.js:
406         (TestGroupResultsTable.prototype.buildRowGroups): Always show the summary (relative difference of A to B) as
407         long as there are some results in each set.
408
409         * public/v3/models/test-group.js:
410         (TestGroup.prototype.compareTestResults): Always set .label and .fullLabel with the relative change as long as
411         there are some values. Keep using "pending" and "running" in .status since that would determine the color of
412         stacking blocks representing those A/B testing groups. 
413
414         * public/v3/pages/analysis-task-page.js:
415         (AnalysisTaskChartPane):
416         (AnalysisTaskChartPane.prototype.setPage): Added.
417         (AnalysisTaskChartPane.prototype.router): Added.
418         (AnalysisTaskPage):
419         (AnalysisTaskPage.prototype.render): Show the list of A/B testing groups in the reverse chronological order.
420         Also set the main chart's selection to the time range of the current test group.
421
422         * public/v3/pages/chart-pane.js:
423         (ChartPane.prototype.router): Added.
424         (ChartPane.prototype._openAnalysisTask): Moved to ChartPaneBase.prototype._openAnalysisTask.
425
426 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
427
428         Add a script to process backlogs created while perf dashboard was in the maintenance mode
429         https://bugs.webkit.org/show_bug.cgi?id=154140
430
431         Reviewed by Chris Dumez.
432
433         Added a script to process the backlog JSONs created while the perf dashboard was put in the maintenance mode.
434         It re-submits each JSON file to the perf dashboard using the same server config file used by syncing scripts.
435
436         * public/include/report-processor.php:
437         (TestRunsGenerator::test_value_list_to_values_by_iterations): Fixed a bug in the error message code. It was
438         referencing an undeclared variable.
439         * tools/process-maintenance-backlog.py: Added.
440
441 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
442
443         AnalysisResultsViewer never uses this._smallerIsBetter
444         https://bugs.webkit.org/show_bug.cgi?id=154134
445
446         Reviewed by Chris Dumez.
447
448         Removed the unused instance variable _smallerIsBetter from AnalysisResultsViewer and TestGroupStackingBlock.
449
450         * public/v3/components/analysis-results-viewer.js:
451         (AnalysisResultsViewer): Removed the unused _smallerIsBetter.
452         (AnalysisResultsViewer.prototype.setSmallerIsBetter): Deleted.
453         (AnalysisResultsViewer.prototype.buildRowGroups):
454         (AnalysisResultsViewer.TestGroupStackingBlock): Removed the unused _smallerIsBetter.
455         * public/v3/pages/analysis-task-page.js:
456         (AnalysisTaskPage.prototype._didFetchTask):
457
458 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
459
460         Build fix after r196440.
461
462         * public/v3/models/test-group.js:
463         (TestGroup.prototype.addBuildRequest): Clear the map instead of setting the property to null.
464
465 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
466
467         Perf dashboard should have UI to retry A/B testing
468         https://bugs.webkit.org/show_bug.cgi?id=154090
469
470         Reviewed by Chris Dumez.
471
472         Added a button to re-try an existing A/B testing group with a custom repetition count. The same button functions
473         as a way of confirming the progression/regression when there have been no A/B testing scheduled in the task.
474
475         Also fixed the bug that A/B testing groups that have been waiting for other test groups will be shown as "running".
476
477         * public/v3/components/results-table.js:
478         (ResultsTable.cssTemplate): Don't pad the list of extra repositories when it's empty.
479
480         * public/v3/components/test-group-results-table.js:
481         (TestGroupResultsTable.prototype.buildRowGroups): Use TestGroup.labelForRootSet instead of manually
482         computing the letter for each configuration set.
483
484         * public/v3/models/build-request.js:
485         (BuildRequest.prototype.hasStarted): Added.
486
487         * public/v3/models/data-model.js:
488         (DataModelObject.ensureSingleton): Added.
489         (DataModelObject.cachedFetch): Added noCache option. This is used when re-fetching the test groups after
490         creating one.
491
492         * public/v3/models/measurement-cluster.js:
493         (MeasurementCluster.prototype.startTime): Added.
494
495         * public/v3/models/measurement-set.js:
496         (MeasurementSet.prototype.hasFetchedRange): Added. Returns true only if there are no "holes" (cluster
497         yet to be fetched) between the specified time range. This was added to fix a bug in AnalysisTaskPage's
498         _didFetchMeasurement.
499
500         * public/v3/models/test-group.js:
501         (TestGroup): Added this._rootSetToLabel.
502         (TestGroup.prototype.addBuildRequest): Reset this._rootSetToLabel along with this._requestedRootSets. 
503         (TestGroup.prototype.repetitionCount): Added. Returns the number of iterations executed per set. We assume that
504         every root set in the test group shares a single repetition count.
505         (TestGroup.prototype.requestedRootSets): Now populates this._rootSetToLabel for labelForRootSet.
506         (TestGroup.prototype.labelForRootSet): Added.
507         (TestGroup.prototype.hasStarted): Added.
508         (TestGroup.prototype.compareTestResults): Use 'running' and 'pending' to differentiate test groups that are waiting
509         for other groups to finish running from the ones that are actually running ('incomplete' before this patch).
510         (TestGroup.fetchByTask):
511         (TestGroup.createAndRefetchTestGroups): Added. Creates a new test group using the privileged-api/create-test-group
512         and fetches the list of test groups for the specified analysis task.
513         (TestGroup._createModelsFromFetchedTestGroups): Extracted from TestGroup.fetchByTask.
514
515         * public/v3/pages/analysis-task-page.js:
516         (AnalysisTaskPage): Initialize _renderedCurrentTestGroup to undefined so that we'd always can differentiate
517         the initial call to AnalysisTaskPage.render and subsequent calls in which it's identical to _currentTestGroup.
518         (AnalysisTaskPage.prototype._didFetchMeasurement): Fixed a bug that we don't exit early even when some
519         clusters in between startPoint and endPoint are still being fetched via newly added hasFetchedRange.
520         (AnalysisTaskPage.prototype.render): Update the default repetition count based on the current test group.
521         Also update the label of the button to "Confirm the change" if there is no A/B testing in this task.
522         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Added. Re-triggers an existing A/B testing group or creates
523         the A/B testing for the entire range of the analysis task.
524         (AnalysisTaskPage.prototype._hasDuplicateTestGroupName): Added.
525         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Added.
526         (AnalysisTaskPage.htmlTemplate): Added form controls to re-trigger A/B testing.
527         (AnalysisTaskPage.cssTemplate): Updated the style.
528
529 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
530
531         Removed the duplicated definition of ChartPaneBase.
532
533         * public/v3/components/chart-pane-base.js:
534
535 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
536
537         Analysis task page on v3 UI should show charts
538         https://bugs.webkit.org/show_bug.cgi?id=154057
539
540         Reviewed by Chris Dumez.
541
542         Extracted ChartPaneBase out of ChartPane and added an instance of its new subclass, AnalysisTaskChartPane,
543         to the analysis task page. The main difference is that ChartPaneBase doesn't depend on the presence of
544         this._chartsPage unlike ChartPane. It also doesn't have the header with toolbar (to show breakdown, etc...).
545
546         * public/v3/components/base.js:
547         (ComponentBase.prototype._constructShadowTree): Call htmlTemplate() and cssTemplate() with the right "this".
548
549         * public/v3/components/chart-pane-base.js: Added.
550         (ChartPaneBase): Extracted from ChartPane.
551         (ChartPaneBase.prototype.configure): Extracted from the constructor. Separating this function allows the
552         component to be instantiated inside a HTML template.
553         (ChartPaneBase.prototype._fetchAnalysisTasks): Moved from ChartPane._fetchAnalysisTasks.
554         (ChartPaneBase.prototype.platformId): Ditto.
555         (ChartPaneBase.prototype.metricId): Ditto.
556         (ChartPaneBase.prototype.setOverviewDomain): Ditto.
557         (ChartPaneBase.prototype.setMainDomain): Ditto.
558         (ChartPaneBase.prototype._overviewSelectionDidChange): Extracted from the constructor. This is overridden in
559         ChartPane and unused in AnalysisTaskChartPane.
560         (ChartPaneBase.prototype._mainSelectionDidChange): Extracted from ChartPane._mainSelectionDidChange.
561         (ChartPaneBase.prototype._mainSelectionDidZoom): Extracted from ChartPane._mainSelectionDidZoom.
562         (ChartPaneBase.prototype._indicatorDidChange): Extracted from ChartPane._indicatorDidChange.
563         (ChartPaneBase.prototype._didFetchData): Moved from ChartPane._fetchAnalysisTasks.
564         (ChartPaneBase.prototype._openAnalysisTask): Ditto.
565         (ChartPaneBase.prototype._openCommitViewer): Ditto. Also fixed a bug that we don't show the spinner while
566         waiting for the data to be fetched by calling this.render() here.
567         (ChartPaneBase.prototype._keyup): Moved from ChartPane._keyup. Also fixed the bug that the revisions list
568         doesn't update by calling this.render() here.
569         (ChartPaneBase.prototype.render): Extracted from ChartPane.render.
570         (ChartPaneBase.htmlTemplate): Extracted from ChartPane.htmlTemplate.
571         (ChartPaneBase.paneHeaderTemplate): Added. This is overridden in ChartPane and unused in AnalysisTaskChartPane.
572         (ChartPaneBase.cssTemplate): Extracted from ChartPane.htmlTemplate.
573
574         * public/v3/components/chart-styles.js: Renamed from public/v3/pages/page-with-charts.js.
575         (PageWithCharts): Renamed from PageWithCharts since it no longer extends PageWithHeading.
576         (ChartStyles.createChartSourceList):
577
578         * public/v3/components/commit-log-viewer.js:
579         (CommitLogViewer.prototype.view): Set this._repository right away instead of waiting for the fetched data
580         so that spinner will be shown while the data is being fetched.
581
582         * public/v3/index.html:
583
584         * public/v3/pages/analysis-task-page.js:
585         (AnalysisTaskChartPane): Added extends ChartPaneBase.
586         (AnalysisTaskPage): Added. this._chartPane.
587         (AnalysisTaskPage.prototype._didFetchTask): Initialize this._chartPane with a domain.
588         (AnalysisTaskPage.prototype.render): Render this._chartPane.
589         (AnalysisTaskPage.htmlTemplate):
590
591         * public/v3/pages/chart-pane-status-view.js:
592         (ChartPaneStatusView): Removed the unused router from the argument list.
593         (ChartPaneStatusView.prototype.pointsRangeForAnalysis): Renamed from analyzeData() since it was ambiguous.
594         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Fixed the bug that we don't update the list
595         of the revisions here.
596         (ChartPaneStatusView.prototype.computeChartStatusLabels):
597
598         * public/v3/pages/chart-pane.js:
599         (ChartPane): Now extends ChartPaneBase. 
600         (ChartPane.prototype._overviewSelectionDidChange): Extracted from the constructor.
601         (ChartPane.prototype._mainSelectionDidChange): 
602         (ChartPane.prototype._mainSelectionDidZoom):
603         (ChartPane.prototype._indicatorDidChange):
604         (ChartPane.prototype.render):
605         (ChartPane.prototype._renderActionToolbar):
606         (ChartPane.paneHeaderTemplate): Extracted from htmlTemplate.
607         (ChartPane.cssTemplate):
608         (ChartPane.overviewOptions.selection.onchange): Deleted.
609         (ChartPane.prototype._fetchAnalysisTasks): Deleted.
610         (ChartPane.prototype.platformId): Deleted.
611         (ChartPane.prototype.metricId): Deleted.
612         (ChartPane.prototype.setOverviewDomain): Deleted.
613         (ChartPane.prototype.setMainDomain): Deleted.
614         (ChartPane.prototype._openCommitViewer): Deleted.
615         (ChartPane.prototype._didFetchData): Deleted.
616         (ChartPane.prototype._keyup): Deleted.
617
618         * public/v3/pages/charts-page.js:
619         (ChartsPage):
620         (ChartsPage.createDomainForAnalysisTask): Extracted by createDomainForAnalysisTask; used to set the domain
621         of the charts in the analysis task page.
622         (ChartsPage.createStateForAnalysisTask):
623
624         * public/v3/pages/dashboard-page.js:
625         (DashboardPage):
626         (DashboardPage.prototype._createChartForCell):
627
628 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
629
630         Add the support for maintenance mode
631         https://bugs.webkit.org/show_bug.cgi?id=154072
632
633         Reviewed by Chris Dumez.
634
635         Added the crude support for maintenance mode whereby which the reports are stored in the filesystem
636         instead of the database.
637
638         * config.json: Added maintenanceMode and maintenanceDirectory as well as forgotten siteTitle and
639         remoteServer.httpdMutexDir.
640         * public/api/report.php:
641         (main): Don't connect to the database or modify database when maintenanceMode is set.
642         * public/include/json-header.php:
643         (ensure_privileged_api_data): Exit with InMaintenanceMode when maintenanceMode is set. This prevents
644         privileged API such as creating analysis tasks and new A/B testing groups from modifying the database.
645
646 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
647
648         Analysis task page on v3 show progression as regressions
649         https://bugs.webkit.org/show_bug.cgi?id=154045
650
651         Reviewed by Chris Dumez.
652
653         The bug was caused by TestGroup.compareTestResults referring to undefined _smallerIsBetter.
654         Retrieve it from the associated metric object via the owner analysis task.
655
656         * public/v3/models/test-group.js:
657
658 2016-02-05  Ryosuke Niwa  <rniwa@webkit.org>
659
660         Testing with remote server cache is unusably slow
661         https://bugs.webkit.org/show_bug.cgi?id=153928
662
663         Reviewed by Chris Dumez.
664
665         Don't use the single process mode of httpd as it's way too slow even for testing.
666         Also we'll hit a null pointer crash (http://svn.apache.org/viewvc?view=revision&revision=1711479)
667
668         Since httpd exits immediately when launched in multi-process mode, remote-cache-server.py (renamed from
669         run-with-remote-server.py) now has "start" and "stop" commands to start/stop the Apache. Also added
670         "reset" command to reset the cache for convenience.
671
672         * Install.md: Updated the instruction.
673         * config.json: Fixed a typo: httpdErro*r*Log.
674         * tools/remote-cache-server.py: Copied from Websites/perf.webkit.org/tools/run-with-remote-server.py.
675         Now takes one of the following commands: "start", "stop", and "reset".
676         (main):
677         (start_httpd): Extracted from main.
678         (stop_httpd): Added.
679         * tools/remote-server-relay.conf: Removed redundant (duplicate) LoadModule's.
680         * tools/run-with-remote-server.py: Removed.
681
682 2016-02-04  Ryosuke Niwa  <rniwa@webkit.org>
683
684         Perf dashboard should have a script to setup database
685         https://bugs.webkit.org/show_bug.cgi?id=153906
686
687         Reviewed by Chris Dumez.
688
689         Added tools/setup-database.py to setup the database. It retrieves the database name, username, password
690         and initializes a database at the specified location.
691
692         * Install.md: Updated instruction to setup postgres to use setup-database.py.
693         * tools/setup-database.py: Added.
694         (main):
695         (load_database_config):
696         (determine_psql_dir):
697         (start_or_stop_database):
698         (execute_psql_command):
699
700 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
701
702         buildbot syncing scripts sometimes schedule more than one requests per builder
703         https://bugs.webkit.org/show_bug.cgi?id=153047
704
705         Reviewed by Chris Dumez.
706
707         The bug was caused by the check for singularity of scheduledRequests being conducted per configuration
708         instead of per builder. So if there were multiple test configurations (e.g. Speedometer and Octane) that
709         both used the same builder, then we may end up scheduling both at once.
710
711         Fixed the bug by sharing a single set to keep track of the scheduled requests for all configurations per
712         builder.
713
714         * tools/sync-with-buildbot.py:
715         (load_config): Share a set amongst test configurations for each builder.
716         (find_request_updates): Instead of creating a new set for each configuration, reuse the existing sets to
717         share a single set agmonst test configurations for each builder.
718
719 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
720
721         Analysis results viewer sometimes doesn't show the correct relative difference
722         https://bugs.webkit.org/show_bug.cgi?id=152930
723
724         Reviewed by Chris Dumez.
725
726         The bug was caused by single A/B testing result associated with multiple rows when there are multiple data
727         points with the same root set which matches that of an A/B testing.
728
729         Fixed the bug by detecting such a case, and only associating each A/B testing result with the row created
730         for the first matching point.
731
732         * public/v3/components/analysis-results-viewer.js:
733         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
734
735 2016-01-08  Ryosuke Niwa  <rniwa@webkit.org>
736
737         Make v3 UI analysis task page is hard to understand
738         https://bugs.webkit.org/show_bug.cgi?id=152917
739
740         Reviewed by Antti Koivisto.
741
742         Add a dark gray border around the selected block in the analysis results viewer instead of using darker
743         shades since that looks as if they were bigger regression/progression.
744
745         Explicitly show "Failed" as the label instead of omitting with "-" when all build requests in an A/B
746         testing group fails.
747
748         * public/v3/components/analysis-results-viewer.js:
749         (AnalysisResultsViewer.cssTemplate): Tweaked the style to underline text in the hovered blocks and the
750         selected blocks and show a dark gray border around the selected blocks.
751         (AnalysisResultsViewer.TestGroupStackingBlock):
752         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Use this._title for title.
753         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
754         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForRootSet): Deleted.
755
756         * public/v3/components/results-table.js:
757         (ResultsTable.prototype.render):
758         (ResultsTable.prototype._createRevisionListCells): Extracted from ResultsTable.prototype.render.
759         (ResultsTable.cssTemplate): Tweaked the style.
760         (ResultsTableRow):
761         (ResultsTableRow.prototype.constructor): Added _labelForWholeRow to store the label for the entire row.
762         This is used to show the comparison result of two root sets (e.g. A vs B).
763         (ResultsTableRow.prototype.setLabelForWholeRow): Added.
764         (ResultsTableRow.prototype.labelForWholeRow): Added.
765         (ResultsTableRow.prototype.resultContent): Extracted from buildHeading. Creates a hyperlinked bar graph
766         used for each A/B testing result.
767         (ResultsTableRow.prototype.buildHeading): Deleted since we need to set colspan on the second table cell
768         when we're creating a row with _labelForWholeRow.
769
770         * public/v3/components/test-group-results-table.js:
771         (TestGroupResultsTable.prototype.buildRowGroups): Added rows to show relative differences and statistical
772         significance between root sets (e.g. A vs B).
773
774         * public/v3/models/build-request.js:
775         (BuildRequest.prototype.hasCompleted): Added.
776
777         * public/v3/models/test-group.js:
778         (TestGroup.prototype.compareTestResults): Extracted from AnalysisResultsViewer.TestGroupStackingBlock's
779         _computeTestGroupStatus and generalized to be reused in TestGroupResultsTable.
780         (TestGroup.prototype._valuesForRootSet): Moved from AnalysisResultsViewer.TestGroupStackingBlock.
781
782         * public/v3/pages/analysis-task-page.js:
783         (AnalysisTaskPage.cssTemplate): Tweaked the style.
784
785 2016-01-07  Ryosuke Niwa  <rniwa@webkit.org>
786
787         Perf dashboard should automatically add aggregators
788         https://bugs.webkit.org/show_bug.cgi?id=152818
789
790         Reviewed by Chris Dumez.
791
792         When an aggregator entry is missing in aggregators table, automatically insert it in /api/report.
793
794         In a very early version of the perf dashboard, we had the ability to define a custom aggregator
795         in an admin page. In practice, nobody used or needed this feature so we got rid of it even before
796         the dashboard was landed into WebKit repository. This patch cleans up that mess.
797
798         * run-tests.js:
799         (main): Added the filtering capability.
800         (TestEnvironment): Expose the config JSON in the test environment.
801
802         * public/include/report-processor.php:
803         (ReportProcessor): Renamed name_to_aggregator now that it only contains ID.
804         (ReportProcessor::__construct): No longer fetches the aggregator table. An equivalent work is done
805         in newly added ensure_aggregators.
806         (ReportProcessor::process): Calls ensure_aggregators which populates name_to_aggregator_id.
807         (ReportProcessor::ensure_aggregators): Added. Add the builtin aggregators: Arithmetic, Geometric,
808         Harmonic, and Total.
809         (TestRunsGenerator): Renamed name_to_aggregator now that it only contains ID.
810         (TestRunsGenerator::__construct):
811         (TestRunsGenerator::add_aggregated_metric): Don't include aggregator_definition here since it's
812         never used now that all the aggregations are done natively in PHP.
813         (TestRunsGenerator::$aggregators): Added. We don't include SquareSum since it's only used for
814         computing run_square_sum_cache in test_runs table and it's useless elsewhere.
815         (TestRunsGenerator::aggregate_values): Add a comment about that.
816
817         * tests/api-report.js: Updated a test case to reflect the change.
818
819 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
820
821         Perf dashboard JSON API should fail gracefully when postgres is down
822         https://bugs.webkit.org/show_bug.cgi?id=152812
823
824         Reviewed by Chris Dumez.
825
826         Even though all JSON APIs returned DatabaseConnectionFailure as the status when Database::connect
827         returned a falsy value, PHP was spitting out warnings and producing HTTP responses that cannot be
828         parsed as a JSON when pg_connect failed.
829
830         Fixed the bug by suppressing warning messages in pg_connect.
831
832         * public/include/db.php:
833         (Database::connect): Use '@' prefix to suppress warning messages.
834
835 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
836
837         Perf dashboard should auto-generate manifest file when one is missing
838         https://bugs.webkit.org/show_bug.cgi?id=152813
839
840         Reviewed by Chris Dumez.
841
842         When /data/manifest.json is missing, fall back to newly added /api/manifest instead of
843         silently failing to show the UI. This will make the initial setup easier.
844
845         * public/api/manifest.php: Added.
846         (main):
847         * public/include/manifest.php:
848         (Manifest::manifest): Added.
849         * public/v3/main.js:
850         (fetchManifest):
851         (didFetchManifest): Extracted from fetchManifest.
852
853 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
854
855         Commit another forgotten change, this time, for r194653.
856
857         * public/v3/models/measurement-set.js:
858
859 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
860
861         The sampling of time series on v3 UI is too aggressive
862         https://bugs.webkit.org/show_bug.cgi?id=152804
863
864         Reviewed by Chris Dumez.
865
866         Fixed a bug that we were always halving the number of data points in _sampleTimeSeries
867         and increased the number of data points allowed to make the sampling less aggressive.
868
869         * public/v3/components/time-series-chart.js:
870         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Increase the number of maximum points
871         to 2x the number of pixels divided by the radius of each point.
872         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Changed the semantics of endIndex
873         to mean the index after the last point and renamed it to indexAfterEnd.
874         (TimeSeriesChart.prototype._sampleTimeSeries): Fixed a bug that this code always coerced two
875         data points into one sampled data point despite of the fact i and j are sufficiently apart
876         since data[j].time - data[i].time > timePerSample by definition.
877
878 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
879
880         Commit the forgotten change for r194651.
881
882         * public/v3/pages/domain-control-toolbar.js:
883         (DomainControlToolbar.prototype.setStartTime):
884
885 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
886
887         The right hand side of main chart appears to be cut off as you zoom out on v3 UI
888         https://bugs.webkit.org/show_bug.cgi?id=152778
889
890         Reviewed by Antti Koivisto.
891
892         Add a padding on x-axis after the end time to make the main chart more easily interactive.
893
894         * public/v3/components/time-series-chart.js:
895         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics):
896
897         * public/v3/pages/page-with-charts.js:
898         (PageWithCharts.mainChartOptions): Add a padding of 5px at the end of x-axis.
899
900 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
901
902         v3 UI should use four sig-figs to label y-axis of the main charts
903         https://bugs.webkit.org/show_bug.cgi?id=152779
904
905         Reviewed by Antti Koivisto.
906
907         Increase the number of significant figures used in the main charts to four as done in v2 UI.
908
909         * public/v3/pages/chart-pane.js:
910         (ChartPane.constructor): Create a formatter with four significant figures.
911         * public/v3/pages/page-with-charts.js:
912         (PageWithCharts.mainChartOptions): Increase the width of y-axis labels.
913
914 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
915
916         v3 UI's time range slider is harder to use than that of v2 UI
917         https://bugs.webkit.org/show_bug.cgi?id=152780
918
919         Reviewed by Antti Koivisto.
920
921         Improved the time range slider by using a cubic mapping to time range and providing a text field
922         to directly edit the number of days to show.
923
924         Now an user can enter the text mode to directly edit the number of days to show by clicking on
925         the number of days (text field is always there with opacity=0).
926
927         * public/v3/pages/charts-toolbar.js:
928         (ChartsToolbar): Store the minimum and maximum number of days allowed. Also rename _inputElement
929         to _slider and added a new type=number text field as _editor. 
930         (ChartsToolbar.prototype.render):
931         (ChartsToolbar.prototype.setStartTime): Exit the text mode when the number of days is changed by
932         an URL state transition (i.e. back/forward navigation).
933         (ChartsToolbar.prototype._setInputElementValue): Added. Updates the values of _slider and _editor.
934         (ChartsToolbar.prototype._enterTextMode): Added. Hide the elements used by the slider mode and
935         show the text field.
936         (ChartsToolbar.prototype._exitTextMode): Added. Does the opposite.
937         (ChartsToolbar.prototype._sliderValueMayHaveChanged): Renamed from _inputValueMayHaveChanged.
938         (ChartsToolbar.prototype._editorValueMayHaveChanged): Added. Similar to _sliderValueMayHaveChanged
939         but also corrects the value of _editor if needed.
940         (ChartsToolbar.prototype._callNumberOfDaysCallback): Extracted from _inputValueMayHaveChanged.
941         Also fixed a bug that we didn't update the URL state when the change event was fired without
942         modifying the effective number of days.
943         (ChartsToolbar.cssTemplate): Tweaked the style to support the new mode. Also set a fixed width on
944         the span showing the number of days in the slider mode.
945
946 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
947
948         Zooming button is broken on v3 UI
949         https://bugs.webkit.org/show_bug.cgi?id=152777
950
951         Reviewed by Chris Dumez.
952
953         Bring up the zoom button in z-index so that users can click it.
954
955         * public/v3/components/interactive-time-series-chart.js:
956         (InteractiveTimeSeriesChart.cssTemplate):
957
958 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
959
960         v3 UI doesn't preserve the time range when charts page is opened from a dashboard
961         https://bugs.webkit.org/show_bug.cgi?id=152776
962
963         Reviewed by Chris Dumez.
964
965         Fixed the bug by moving the construction of charts URL from DashboardPage.prototype.open to
966         DashboardPage.prototype.render and re-rendering the entire page upon an URL state transition.
967
968         * public/v3/pages/charts-page.js:
969         (ChartsPage.createStateForDashboardItem): Takes the start time for the charts page.
970
971         * public/v3/pages/dashboard-page.js:
972         (DashboardPage.prototype.updateFromSerializedState): Merged _numberOfDaysDidChange and
973         _updateChartsDomainFromToolbar into this function since they're not used elsewhere. Also re-render
974         the entire page when transition between different number of days to show.
975         (DashboardPage.prototype._numberOfDaysDidChange): Deleted.
976         (DashboardPage.prototype._updateChartsDomainFromToolbar): Deleted.
977         (DashboardPage.prototype.render): Construct URL for each charts here.
978         (DashboardPage.prototype._createChartForCell): Don't construct URL here since this function is
979         called once when the dashboard page is opened, and not when the time range is changed.
980
981 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
982
983         Build fix for an old version of PHP after r194618.
984
985         * public/api/measurement-set.php:
986
987 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
988
989         A/B testing results should be visualized intuitively on v3 UI
990         https://bugs.webkit.org/show_bug.cgi?id=152496
991
992         Rubber-stamped by Chris Dumez.
993
994         Add the "stacking block" view of A/B testing results to the analysis task page on v3 UI.
995
996         The patch enhances JSON APIs at /api/analysis-task /api/measurement-set/ to reduce the number of
997         HTTP requests, and adds two UI components: TestGroupResultsTable and AnalysisResultsViewer both
998         of which inherits from an abstract superclass: ResultsTable.
999
1000         ResultsTable provides a tabular presentation of measured values in regular measurement sets and
1001         A/B testing results using groups of bar graphs created by BarGraphGroup. TestGroupResultsTable
1002         inherits from this class to display A/B testing configurations and the averaged results for each
1003         configuration, and AnalysisResultsViewer inherits from it to provide an intuitive visualization
1004         of the outcomes of all A/B testing results associated with a given analysis task.
1005
1006         * public/api/analysis-tasks.php:
1007         (main): Add the capability to find the analysis task based on its build request.
1008         This allows /v3/#/analysis/task/?buildRequest=<id> to be hyperlinked on buildbot page.
1009
1010         * public/api/measurement-set.php:
1011         (main): Removed the unused startTime and endTime, and added "analysisTask" to query parameters.
1012         (AnalysisResultsFetcher): Added. Used to fetch measured data associated with every build request
1013         on an analysis task.
1014         (AnalysisResultsFetcher::__construct):
1015         (AnalysisResultsFetcher::fetch): Unlike MeasurementSetFetcher, we fetch the list of commits and
1016         list of measurements separately since there will be a lot less builds and commits than measured
1017         data (since we're fetching measured values for all tests and their metrics).
1018         (AnalysisResultsFetcher::fetch_commits): Fetches commits.
1019         (AnalysisResultsFetcher::format_measurement): Like MeasurementSetFetcher::format_measurement but
1020         with config_type and config_metric since we're returning measured data for all metrics and test
1021         configurations.
1022         (AnalysisResultsFetcher::format_map): Similar to MeasurementSetFetcher::format_map.
1023
1024         * public/v3/components/analysis-results-viewer.js: Added.
1025         (AnalysisResultsViewer): Added. 
1026         (AnalysisResultsViewer.prototype.didUpdateResults): This callback is called by AnalysisTaskPage
1027         when A/B testing results become available.
1028         (AnalysisResultsViewer.prototype.render): Overrides ResultsTable's render to highlight the block
1029         representing the currently selected test group.
1030
1031         (AnalysisResultsViewer.prototype.buildRowGroups): Creates a list of rows with "stacking blocks"
1032         that visualizes A/B testing results. The algorithm works as follows: 1. Create all table rows.
1033         2. Find which row is associated with each set in each test group. 3. Layout "blocks".
1034
1035         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Collects root sets from all data
1036         in the measurement set as well as A/B testing **requests** (results may contain more repositories
1037         than requested but they aren't interesting for the purpose of visualizing results for the entire
1038         analysis task).
1039
1040         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Create table rows. First,
1041         create table rows for measurement set points that have a matching test group (i.e. either set A
1042         or set B of an A/B testing uses the same root set as a point). Second, insert a new row for each
1043         root set in each test group which didn't find a matching measurement set point. There is a little
1044         subtlety that some A/B testing may specify revisions for a subset of repositories and/or some A/B
1045         testing results may appear as if it goes back in time with respect to other A/B testing results.
1046         For example, consider creating two A/B test groups for WebKit changes and OS changes separately.
1047         There could be no coherent linearization of those two A/B testing in which both WebKit and OS
1048         versions move forward.
1049
1050         (AnalysisResultsViewer.RootSetInTestGroup): Added. Represents a pair (test group, root set) since
1051         a root set could be shared by multiple test groups.
1052         (AnalysisResultsViewer.TestGroupStackingBlock): Added. A stacked block representing a test group.
1053         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex): Associates a row number with
1054         either set A or set B.
1055         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Creates a table cell
1056         for this block.
1057         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Returns true if this test group
1058         has failed and this block should look "thin" without any label.
1059         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus): Computes the
1060         status for this test group.
1061
1062         (AnalysisResultsViewer.TestGroupStackingGrid): Added. AnalysisResultsViewer uses this class to
1063         layout blocks representing test groups.
1064         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.insertBlockToColumn): Inserts a new block
1065         to layout. We keep all test groups doing the same A/B test next to each other.
1066         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.layout): Layouts each block / test group
1067         in the order they are created.
1068         (AnalysisResultsViewer.TestGroupStackingGrid.prototype._layoutBlock): Places the block in the
1069         left-most column that can accommodate it while avoiding columns of a different thin-ness. A column
1070         is thin if its A/B testing has failed, and not thin otherwise.
1071         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.createCellsForRow): Creates table cells for
1072         a given row. For each column, generate a table cell if we're in the first row and the first block
1073         starts in a later row, a block starts in the current row, or the last block ended in the previous
1074         row and the next block or the last row appears later.
1075
1076         * public/v3/components/bar-graph-group.js: Added. A component for showing a group of bar graphs.
1077         (BarGraphGroup): Added. Creates a group of bar graphs with the same value range. It's used by
1078         AnalysisResultsViewer and ResultsTable to show bar graphs to compare values.
1079         (SingleBarGraph): A component created and collectively controlled by BarGraphGroup.
1080
1081         * public/v3/components/results-table.js: Added.
1082         (ResultsTable): An abstract superclass for TestGroupResultsTable and AnalysisResultsViewer.
1083
1084         (ResultsTable.prototype.render): Renders the table. 1. Call "buildRowGroups()" implemented by
1085         a subclass to obtain the list of rows. 2. Compute the list of repositories to show. 3. For each
1086         cell in the table, compute the number of rows to show the same value (for rowspan). 4. Render the
1087         table with an extra list of repositories if exists.
1088
1089         (ResultsTable.prototype._computeRepositoryList): Compute the list of repositories to list
1090         revisions in the table. Omit repositories not present in any row or for which all rows have the
1091         same revision. In the latter case, include it in the extra repositories listed below the table.
1092         This minimizes the amount of redundant information presented to the user.
1093
1094         (ResultsTableRow): Added. Represents a single row in the table. ResultsTable constructs necessary
1095         table cells to tabulate the associated root sets, and shows the associated result using a grouped
1096         bar graph. Additional columns are used by AnalysisResultsViewer to show stacked blocks for A/B
1097         testing groups.
1098
1099         * public/v3/components/test-group-results-table.js: Added.
1100         (TestGroupResultsTable):
1101         (TestGroupResultsTable.prototype.didUpdateResults):
1102         (TestGroupResultsTable.prototype.setTestGroup):
1103         (TestGroupResultsTable.prototype.heading):
1104         (TestGroupResultsTable.prototype.render):
1105         (TestGroupResultsTable.prototype.buildRowGroups):
1106
1107         * public/v3/index.html:
1108         * public/v3/models/analysis-results.js: Added.
1109         (AnalysisResults): Added. Like MeasurementSet, this class represents a set of measured values
1110         associated with a given analysis task.
1111         (AnalysisResults.prototype.find): Returns a measured valued for a given build and metric.
1112         (AnalysisResults.prototype.add): Adds a new measured value. Used by AnalysisResults.fetch.
1113         (AnalysisResults.fetch): Fetches data and creates AnalysisResults for a given analysis task.
1114
1115         * public/v3/models/analysis-task.js:
1116         (AnalysisTask.prototype.startMeasurementId): Added.
1117         (AnalysisTask.prototype.endMeasurementId): Added.
1118         (AnalysisTask.fetchByBuildRequestId): Added.
1119         (AnalysisTask._fetchSubset): Uses DataModelObject.cachedFetch.
1120
1121         * public/v3/models/build-request.js: Added.
1122         (BuildRequest): Added. Represents a single A/B testing request associated with a test group.
1123
1124         * public/v3/models/builder.js:
1125         (Build): Added. Represents a build associated with a given A/B testing result.
1126
1127         * public/v3/models/commit-log.js:
1128         (CommitLog): Made this class inherit from DataModelObject.
1129         (CommitLog.ensureSingleton): Added. Finds the singleton object created for a given revision
1130         in the specified repository. This helps RootSet and other classes compare commits fast.
1131         (CommitLog.prototype.repository): Added.
1132         (CommitLog.fetchBetweenRevisions): Uses CommitLog.ensureSingleton.
1133
1134         * public/v3/models/data-model.js:
1135         (DataModelObject):
1136         (DataModelObject.namedStaticMap): Added.
1137         (DataModelObject.ensureNamedStaticMap): Renamed from namedStaticMap instead of implicitly
1138         assuming that the non-static version always creates the map.
1139         (DataModelObject.prototype.namedStaticMap): Added.
1140         (DataModelObject.cachedFetch): Extracted from AnalysisTask._fetchSubset so that TestGroup's
1141         fetchByTask could also use it.
1142         (LabeledObject):
1143
1144         * public/v3/models/measurement-adaptor.js: Added.
1145         (MeasurementAdaptor): Extracted from MeasurementCluster. This class is responsible for
1146         re-formatting the data received via /api/measurement-set JSON API inside the v3 UI.
1147         (MeasurementAdaptor.prototype.extractId): Added.
1148         (MeasurementAdaptor.prototype.adoptToAnalysisResults): Added. Used by AnalysisResults.
1149         (MeasurementAdaptor.aggregateAnalysisResults): Added. Used by TestGroupResultsTable to
1150         aggregate results for each test configuration; e.g. computing the average for set A.
1151         (MeasurementAdaptor.prototype.adoptToSeries): Extracted from MeasurementCluster.addToSeries.
1152         Added rootSet() to each point. This allows AnalysisResultsViewer to compare them against root
1153         sets associated with A/B testing results.
1154         (MeasurementAdaptor.computeConfidenceInterval): Moved from MeasurementCluster.
1155
1156         * public/v3/models/measurement-cluster.js:
1157         (MeasurementCluster):
1158         (MeasurementCluster.prototype.addToSeries):
1159
1160         * public/v3/models/repository.js:
1161         (Repository.prototype.hasUrlForRevision): Added.
1162
1163         * public/v3/models/root-set.js: Added.
1164         (RootSet): Added. Represents a set of commits in measured results.
1165         (MeasurementRootSet): Added. Ditto for results associated with A/B testing.
1166
1167         * public/v3/models/test-group.js: Added.
1168         (TestGroup): Added. Represents a A/B testing on analysis task.
1169         (TestGroup.prototype.createdAt): Added.
1170         (TestGroup.prototype.buildRequests): Returns the list of build requests associated with this
1171         A/B testing.
1172         (TestGroup.prototype.addBuildRequest): Added. Used by BuildRequest's constructor to associate
1173         itself with this group.
1174         (TestGroup.prototype.didSetResult): Added. Called by BuildRequest.setResult when measured
1175         values are fetched and associated with a build request in this group.
1176
1177         * public/v3/models/test.js:
1178         (Test):
1179
1180         * public/v3/pages/analysis-task-page.js:
1181         (AnalysisTaskPage):
1182         (AnalysisTaskPage.prototype.updateFromSerializedState): Fetch the analysis task, test groups
1183         associated with it, and all A/B testing results based on the task id or the build request id
1184         specified in the URL.
1185         (AnalysisTaskPage.prototype._didFetchTask): Added. Start fetching the measured data. This is
1186         the data on charts page for which this analysis task was created, not results of A/B testing.
1187         (AnalysisTaskPage.prototype._didFetchMeasurement): Added. Display the fetched data in a table
1188         inside AnalysisResultsViewer.
1189         (AnalysisTaskPage.prototype._didFetchTestGroups): Added. Display the list of A/B test groups
1190         as well as the results of the first A/B testing.
1191         (AnalysisTaskPage.prototype._didFetchAnalysisResults): Added.
1192         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Added. Once both the analysis task,
1193         A/B test groups as well as their results are fetched, update build requests in each test group
1194         with their results.
1195         (AnalysisTaskPage.prototype.render): Show the list of test groups and highlight the currently
1196         selected one.
1197         (AnalysisTaskPage.prototype._showTestGroup): Added. A callback used by AnalysisResultsViewer
1198         and TestGroupResultsTable to notify this class when the user selects a new test group.
1199         (AnalysisTaskPage.htmlTemplate): Updated the template.
1200         (AnalysisTaskPage.cssTemplate): Ditto.
1201
1202         * public/v3/pages/charts-page.js:
1203         (ChartsPage.createStateForAnalysisTask): Added. Creates a URL state object for opening a chart
1204         associated with an analysis task.
1205
1206 2015-12-22  Ryosuke Niwa  <rniwa@webkit.org>
1207
1208         Analysis task page is slow to load
1209         https://bugs.webkit.org/show_bug.cgi?id=152517
1210
1211         Reviewed by Andreas Kling.
1212
1213         The slowness comes from r194130 which made the JSON API at /api/analysis-tasks to report the start
1214         and the end of each analysis task. This query was adding ~2s to the total JSON generation time.
1215
1216         Cache these values on analysis_task table since they never change once an analysis task is created.
1217
1218         * init-database.sql: Added columns task_start_run_time and task_end_run_time to analysis_task table.
1219         Also added the missing drop statements at the top.
1220
1221         * public/api/analysis-tasks.php:
1222         (fetch_and_push_bugs_to_tasks): Don't fetch the latest commit time of the start and the end.
1223         (format_task): Report task_start_run_time and task_end_run_time as startRunTime and endRunTime.
1224
1225         * public/privileged-api/create-analysis-task.php:
1226         (main): Set start_run_time and end_run_time when creating an analysis task.
1227         (time_for_run): Added.
1228
1229 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1230
1231         v3 UI shouldn't open/close pane selector by mouseenter/leave
1232         https://bugs.webkit.org/show_bug.cgi?id=152399
1233
1234         Reviewed by Andreas Kling.
1235
1236         Removed the code to open and close the pane selector by mouseenter and mouseleave
1237         since multiple people have complained about the behavior.
1238
1239         * public/v3/pages/charts-toolbar.js:
1240         (ChartsToolbar): Removed the event listeners.
1241         (ChartsToolbar.prototype._addPane): Don't close the pane selector when adding a new pane
1242         to better support the use case of adding multiple panes.
1243         (ChartsToolbar.cssTemplate): Tweaked CSS.
1244
1245 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1246
1247         Popover for analysis tasks shows up at the left edge of annotation bars in the v3 UI
1248         https://bugs.webkit.org/show_bug.cgi?id=152389
1249
1250         Reviewed by Darin Adler.
1251
1252         Compute the x coordinate of the popover from the center of each annotation bar.
1253
1254         Also adjust the x coordinate to keep the popover within the charts.
1255
1256         * public/v3/components/interactive-time-series-chart.js:
1257         (InteractiveTimeSeriesChart.prototype._renderChartContent):
1258
1259 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1260
1261         Dashboard charts should have uniform widths on v3 UI
1262         https://bugs.webkit.org/show_bug.cgi?id=152395
1263
1264         Reviewed by Chris Dumez.
1265
1266         Fix the bug by applying table-layout: fixed on the dashboard table.
1267
1268         * public/v3/pages/dashboard-page.js:
1269         (DashboardPage.prototype.render): Added header-column as a class name to explicitly set the header column with.
1270         (DashboardPage.cssTemplate): Adjusted CSS accordingly.
1271
1272 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
1273
1274         Closing a pane on v3 UI always closes the last pane
1275         https://bugs.webkit.org/show_bug.cgi?id=152388
1276
1277         Reviewed by Chris Dumez.
1278
1279         The bug was caused by closePane being called without arguments. (The first argument to bind is "this" value.)
1280         Fixed it by passing in "this" pane object to the first argument.
1281
1282         * public/v3/pages/chart-pane.js:
1283         (ChartPane):
1284
1285 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1286
1287         Perf Dashboard v3 UI doesn't show recent data points on v2 UI
1288         https://bugs.webkit.org/show_bug.cgi?id=152368
1289
1290         Reviewed by Chris Dumez.
1291
1292         The bug was caused by the last modified date in measurement set JSON being a string instead of a POSIX timestamp,
1293         which prevented the v3 UI from invalidating the cache. Specifically, the following boolean logic always evaluated
1294         to false because +data['lastModified'] was NaN in MeasurementSet.prototype._fetch (/v3/models/measurement-set.js):
1295
1296         !clusterEndTime && useCache && +data['lastModified'] < self._lastModified
1297
1298         Fixed the bug by calling Database::to_js_time on the last modified date fetched from the database.
1299
1300         * public/api/measurement-set.php:
1301         (MeasurementSetFetcher::fetch_config_list): Convert the string returned by the database to a POSIX timestamp.
1302         * tests/api-measurement-set.js: Added a test to ensure the last modified date in JSON is numeric. Since the value
1303         of the last modified date depends on when tests run, we can't assert it to be a certain value.
1304
1305 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1306
1307         v3 UI should show and link the build number on charts page
1308         https://bugs.webkit.org/show_bug.cgi?id=152359
1309
1310         Reviewed by Chris Dumez.
1311
1312         Show the hyperlinked build number in the v3 UI.
1313
1314         * public/v3/models/builder.js:
1315         (Builder): Renamed _buildURL to _buildUrlTemplate.
1316         (Builder.prototype.urlForBuild): Added.
1317         * public/v3/pages/chart-pane-status-view.js:
1318         (ChartPaneStatusView):
1319         (ChartPaneStatusView.prototype.render): Added the code to render hyperlinked build number when one is available.
1320         (ChartPaneStatusView.prototype.computeChartStatusLabels): Store currentPoint's measurement object as _buildInfo
1321         if the current point is set by an indicator (not by a selection).
1322
1323 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1324
1325         v3 dashboard doesn't stretch charts to fill the screen
1326         https://bugs.webkit.org/show_bug.cgi?id=152354
1327
1328         Reviewed by Chris Dumez.
1329
1330         The bug was caused by a workaround to avoid canvas stretching table cell too much.
1331
1332         Fix the problem instead by making the canvas absolutely positioned inside the "time-series-chart" element
1333         so that it does not contribute to the intrinsic/natural width of the cell.
1334
1335         * public/v3/components/time-series-chart.js:
1336         (TimeSeriesChart.prototype._ensureCanvas): Make the canvas absolutely positioned inside the shadow root.
1337         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Use the container element's size now that
1338         the canvas does not resize with it.
1339         * public/v3/pages/dashboard-page.js:
1340         (DashboardPage.cssTemplate): Updated the CSS so that the chart stretches all the way.
1341
1342 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
1343
1344         The chart status on v3 UI sometimes show wrong revision ranges
1345         https://bugs.webkit.org/show_bug.cgi?id=152331
1346
1347         Reviewed by Chris Dumez.
1348
1349         The bug was caused by the status view not taking the data sampling that happens in TimeSeriesChart into account
1350         when finding the previous point. Take this into account by using InteractiveTimeSeries.currentPoint(-1) which
1351         finds the sampled data point immediately preceding the current point (at which the indicator is shown).
1352
1353         * public/v3/components/chart-status-view.js:
1354         (ChartStatusView.prototype.updateStatusIfNeeded):
1355
1356 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1357
1358         Perf dashboard's cycler page should use v3 UI
1359         https://bugs.webkit.org/show_bug.cgi?id=152324
1360
1361         Reviewed by Chris Dumez.
1362
1363         Use the v3 UI in cycler.html after r194130.
1364
1365         * public/cycler.html:
1366         * public/v3/index.html: Removed the reference to a non-existent platform-selector.js.
1367
1368 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1369
1370         Add v3 UI to perf dashboard
1371         https://bugs.webkit.org/show_bug.cgi?id=152311
1372
1373         Reviewed by Chris Dumez.
1374
1375         Add the third iteration of the perf dashboard UI. UI for viewing and modifying analysis tasks is coming soon.
1376         The v3 UI is focused on speed, and removes all third-party script dependencies including jQuery, d3, and Ember.
1377         Both the DOM-based UI and graphing are implemented manually.
1378
1379
1380         The entire app is structured using new component library implemented in components/base.js. Each component is
1381         an instance of a subclass of ComponentBase which owns a single DOM element. Each subclass may supply static
1382         methods named htmlTemplate and cssTemplate as the template for a component instance. ComponentBase automatically
1383         clones the templates inside the associated element (or its shadow root on the supported browsers). Each subclass
1384         must supply a method called "render()" which constructs and updates the DOM as needed.
1385
1386         There is a special component called Page, which represents an entire page. Each Page is opened by PageRouter's
1387         "route()" function. Each subclass of Page supplies "open()" for initialization and "updateFromSerializedState()"
1388         for a hash URL transition.
1389
1390
1391         The key feature of the v3 UI is the split of time series into chunks called clusters (see r194120). On an internal
1392         instance of the dashboard, the v2 UI downloads 27MB of data whereas the same page loads only 3MB of data in the v3.
1393         The key logic for fetching time series in chunks is implemented by MeasurementSet in /v3/models/measurement-set.js.
1394         We first fetch the cached primary cluster (the cluster that contains the newest data) at:
1395         /data/measurement-set-<platform-id>-<metric-id>.json
1396
1397         If that's outdated according to lastModified in manifest.json, then we immediately re-fetch the primary cluster at:
1398         /api/measurement-set/?platform=<platform-id>&metric=<metric-id>
1399
1400         Once the up-to-date primary cluster is fetched, we fetch all "secondary" clusters. For each cluster being fetched,
1401         including the primary, we invoke registered callbacks.
1402
1403
1404         In addition, the v3 UI reduces the initial page load time by loading a single bundled JS file generated by
1405         tools/bundle-v3-scripts.py. index.html has a fallback to load all 44 JS files individually during development.
1406
1407         * public/api/analysis-tasks.php:
1408         (fetch_and_push_bugs_to_tasks): Added the code to fetch start and end run times. This is necessary in V3 UI
1409         because no longer fetch the entire time series. See r194120 for the new measurement set JSON API.
1410         (format_task): Compute the category of an analysis task based on "result" value. This will be re-vamped once
1411         I add the UI for the analysis task page in v3.
1412
1413         * public/include/json-header.php:
1414         (require_format): CamelCase the name.
1415         (require_match_one_of_values): Ditto.
1416         (validate_arguments): Renamed from require_existence_of and used in measurement-set.php landed in r194120.
1417
1418         * public/v3: Added.
1419         * public/v3/components: Added.
1420
1421         * public/v3/components/base.js: Added.
1422         (ComponentBase): The base component class.
1423         (ComponentBase.prototype.element): Returns the DOM element associated with the DOM element.
1424         (ComponentBase.prototype.content): Returns the shadow root if one exists and the associated element otherwise.
1425         (ComponentBase.prototype.render): To be implemented by a subclass.
1426         (ComponentBase.prototype.renderReplace): A helper function to "render" DOM contents.
1427         (ComponentBase.prototype._constructShadowTree): Called inside the constructor to instantiate the templates.
1428         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Instantiates components referred by
1429         its element name inside the instantiated content.
1430         (ComponentBase.isElementInViewport): A helper function. Returns true if the element is in the viewport and it has
1431         non-zero width and height.
1432         (ComponentBase.defineElement): Defines a custom element that can be automatically instantiated from htmlTemplate.
1433         (ComponentBase.createElement): A helper function to create DOM tree to be used in "render()" method.
1434         (ComponentBase._addContentToElement): A helper for "createElement".
1435         (ComponentBase.createLink): A helper function to create a hyperlink or another clickable element (via callback).
1436         (ComponentBase.createActionHandler): A helper function to create an event listener that prevents the default action
1437         and stops the event propagation.
1438
1439         * public/v3/components/button-base.js: Added.
1440
1441         * public/v3/components/chart-status-view.js: Added.
1442         (ChartStatusView): A component that reports the current status of time-series-chart. It's subclasses by
1443         ChartPaneStatusView to provide additional information in the charts page's panes.
1444
1445         * public/v3/components/close-button.js: Added.
1446         (CloseButton):
1447         * public/v3/components/commit-log-viewer.js: Added.
1448         (CommitLogViewer): A component that lists commit revisions along with commit messages for a range of data points.
1449
1450         * public/v3/components/interactive-time-series-chart.js: Added.
1451         (InteractiveTimeSeriesChart): A subclass of InteractiveTimeSeriesChart with interactivity (selection & indicator).
1452         Selection and indicator are mutually exclusive.
1453
1454         * public/v3/components/pane-selector.js: Added.
1455         (PaneSelector): A component for selecting (platform, metric) pair to add in the charts page.
1456
1457         * public/v3/components/spinner-icon.js: Added.
1458
1459         * public/v3/components/time-series-chart.js: Added.
1460         (TimeSeriesChart): A canvas-based chart component without interactivity. It takes a source list and options as
1461         the constructor arguments. A source list is a list of measurement sets (measurement-set.js) with drawing options.
1462         This component fetches data via MeasurementSet.fetchBetween inside TimeSeriesChart.prototype.setDomain and
1463         progressively updates the charts as more data arrives. The canvas is updated on animation frame via rAF and all
1464         layout and rendering metrics are lazily computed in _layout. In addition, this component samples data before
1465         rendering the chart when there are more data points per pixel in _ensureSampledTimeSeries.
1466
1467         * public/v3/index.html: Added. Loads bundled-scripts.js if it exists, or individual script files otherwise.
1468
1469         * public/v3/instrumentation.js: Added. This class is used to gather runtime statistics of v3 UI. (It measures
1470         the performance of the perf dashboard UI).
1471
1472         * public/v3/main.js: Added. Bootstraps the app.
1473         (main):
1474         (fetchManifest):
1475
1476         * public/v3/models: Added.
1477         * public/v3/models/analysis-task.js: Added.
1478         * public/v3/models/bug-tracker.js: Added.
1479         * public/v3/models/bug.js: Added.
1480         * public/v3/models/builder.js: Added.
1481         * public/v3/models/commit-log.js: Added.
1482         * public/v3/models/data-model.js: Added.
1483         (DataModelObject): The base class for various data objects that correspond to database tables. It supplies static
1484         hash map to find entries by id as well as other keys.
1485         (LabeledObject): A subclass of DataModelObject with the capability to find an object via its name.
1486
1487         * public/v3/models/measurement-cluster.js: Added.
1488         (MeasurementCluster): Represents a single cluster or a chunk of data in a measurement set.
1489
1490         * public/v3/models/measurement-set.js: Added.
1491         (MeasurementSet): Represents a measurement set.
1492         (MeasurementSet.findSet): Returns the singleton set given (metric, platform). We use singleton to avoid issuing
1493         multiple HTTP requests for the same JSON when there are multiple TimeSeriesChart that show the same graph (e.g. on
1494         charts page with overview and main charts).
1495         (MeasurementSet.prototype.findClusters): Finds the list of clusters to fetch in a given time range.
1496         (MeasurementSet.prototype.fetchBetween): Fetch clusters for a given time range and calls callback whenever new data
1497         arrives. The number of callbacks depends on the how many clusters need to be newly fetched.
1498         (MeasurementSet.prototype._fetchSecondaryClusters): Fetches non-primary (non-latest) clusters.
1499         (MeasurementSet.prototype._fetch): Issues a HTTP request to fetch a cluster.
1500         (MeasurementSet.prototype._didFetchJSON): Called when a cluster is fetched.
1501         (MeasurementSet.prototype._failedToFetchJSON): Called when the fetching of a cluster has failed.
1502         (MeasurementSet.prototype._invokeCallbacks): Invokes callbacks upon an approval of a new cluster.
1503         (MeasurementSet.prototype._addFetchedCluster): Adds the newly fetched cluster in the order.
1504         (MeasurementSet.prototype.fetchedTimeSeries): Returns a time series that contains data from all clusters that have
1505         been fetched.
1506         (TimeSeries.prototype.findById): Additions to TimeSeries defined in /v2/data.js.
1507         (TimeSeries.prototype.dataBetweenPoints): Ditto.
1508         (TimeSeries.prototype.firstPoint): Ditto.
1509
1510         * public/v3/models/metric.js: Added.
1511         * public/v3/models/platform.js: Added.
1512         * public/v3/models/repository.js: Added.
1513         * public/v3/models/test.js: Added.
1514
1515         * public/v3/pages: Added.
1516         * public/v3/pages/analysis-category-page.js: Added. The "Analysis" page that lists the analysis tasks.
1517         * public/v3/pages/analysis-category-toolbar.js: Added. The toolbar to filter analysis tasks based on its category
1518         (unconfirmed, bisecting, identified, closed) and a keyword.
1519
1520         * public/v3/pages/analysis-task-page.js: Added. Not implemented yet. It just has the hyperlink to the v2  UI.
1521
1522         * public/v3/pages/chart-pane-status-view.js: Added.
1523         (ChartPaneStatusView): A subclass of ChartStatusView used in the charts page. In addition to the current value,
1524         comparison to baseline/target, it shows the list of repository revisions (e.g. WebKit revision, OS version).
1525
1526         * public/v3/pages/chart-pane.js: Added.
1527         (ChartPane): A component a pane in the charts page. Each pane has the overview chart and the main chart. The zooming
1528         is synced across all panes in the charts page.
1529
1530         * public/v3/pages/charts-page.js: Added. Charts page.
1531         * public/v3/pages/charts-toolbar.js: Added. The toolbar to set the number of days to show. This affects the overview
1532         chart's domain in each pane.
1533
1534         * public/v3/pages/create-analysis-task-page.js: Added.
1535         (CreateAnalysisTaskPage): A page that gets shown momentarily while creating a new analysis task.
1536
1537         * public/v3/pages/dashboard-page.js: Added. A dashboard page.
1538         * public/v3/pages/dashboard-toolbar.js: Added. Its toolbar with buttons to select the number of days to show.
1539         * public/v3/pages/domain-control-toolbar.js: Added. An abstract superclass of charts and dashboard toolbars.
1540
1541         * public/v3/pages/heading.js: Added. A component for displaying the header and toolbar, if exists, on each page.
1542         * public/v3/pages/page-router.js: Added. This class is responsible for updating the URL hashes as well as opening
1543         and updating each page when the hash changes (via back/forward navigation).
1544         * public/v3/pages/page-with-charts.js: Added. An abstract subclass of page used by dashboards and charts page.
1545         Supplies helper functions for creating TimeSeriesChart options.
1546         * public/v3/pages/page-with-heading.js: Added. An abstract subclass of page that uses the heading component.
1547         * public/v3/pages/page.js: Added. The Page component.
1548         * public/v3/pages/toolbar.js: Added. An abstract toolbar component.
1549
1550         * public/v3/remote.js: Added.
1551         (getJSON): Fetches JSON from the remote server.
1552         (getJSONWithStatus): Ditto. Rejects the response if the status is not "OK".
1553         (PrivilegedAPI.sendRequest): Posts a HTTP request to a privileged API in /privileged-api/.
1554         (PrivilegedAPI.requestCSRFToken): Creates a new CSRF token to request a privileged API post.
1555
1556         * tools/bundle-v3-scripts.py: Added.
1557         (main): Bundles js files together and minifies them by jsmin.py for the v3 UI. Without this script, we're forced to
1558         download 44 JS files or making each JS file contain multiple classes.
1559
1560         * tools/jsmin.py: Copied from WebInspector / JavaScriptCore code.
1561
1562 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1563
1564         Fix v2 UI after r194093.
1565
1566         * public/v2/data.js:
1567
1568 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
1569
1570         Add /api/measurement-set for v3 UI
1571         https://bugs.webkit.org/show_bug.cgi?id=152312
1572
1573         Rubber-stamped by Chris Dumez.
1574
1575         The new API JSON allows the front end to fetch measured data in chunks called a "cluster" as specified
1576         in config.json for each measurement set specified by the pair of a platform and a metric.
1577
1578         When the front end needs measured data in a given time range (t_0, t_1) for a measurement set, it first
1579         fetches the primary cluster by /api/measurement-set/?platform=<platform-id>&metric=<metric-id>.
1580         The primary cluster is the last cluster in the set (returning the first cluster here is not useful
1581         since we don't typically show very old data), and provides the information needed to fetch other clusters.
1582
1583         Fetching the primary cluster also creates JSON files at:
1584         /data/measurement-set-<platform-id>-<metric-id>-<cluster-end-time>.json
1585         to allow latency free access for secondary clusters. The front end code can also fetch the cache of
1586         the primary cluster at: /data/measurement-set-<platform-id>-<metric-id>.json.
1587
1588         Because the front end code has to behave as if all data is fetched, each cluster contains one data point
1589         immediately before the first data point and one immediately after the last data point. This avoids having
1590         to fetch multiple empty clusters for manually specified baseline data. To support this behavior, we generate
1591         all clusters for a given measurement set at once when the primary cluster is requested.
1592
1593         Furthermore, all measurement sets are divided at the same time into clusters so that the boundary of clusters
1594         won't shift as more data are reported to the server.
1595
1596         * config.json: Added clusterStart and clusterSize as options.
1597         * public/api/measurement-set.php: Added.
1598         (main):
1599         (MeasurementSetFetcher::__construct):
1600         (MeasurementSetFetcher::fetch_config_list): Finds configurations that belongs to this (platform, metric) pair.
1601         (MeasurementSetFetcher::at_end): Returns true if we've reached the end of all clusters for this set.
1602         (MeasurementSetFetcher::fetch_next_cluster): Generates the JSON data for the next cluster. We generate clusters
1603         in increasing chronological order (the oldest first and the newest last).
1604         (MeasurementSetFetcher::execute_query): Executes the main query.
1605         (MeasurementSetFetcher::format_map): Returns the mapping of a measurement field to an array index. This removes
1606         the need to have key names for each measurement and reduces the JSON size by ~10%.
1607         (MeasurementSetFetcher::format_run): Creates an array that contains data for a single measurement. The order
1608         matches that of keys in format_map.
1609         (MeasurementSetFetcher::parse_revisions_array): Added. Copied from runs.php.
1610         * tests/api-measurement-set.js: Added. Added tests for /api/measurement-set.
1611
1612 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1613
1614         Using fake timestamp in OS version make some results invisible
1615         https://bugs.webkit.org/show_bug.cgi?id=152289
1616
1617         Reviewed by Stephanie Lewis.
1618
1619         Fix various bugs after r194088.
1620
1621         * public/api/commits.php:
1622         (format_commit): Include the commit order.
1623         * public/v2/data.js:
1624         (CommitLogs._cacheConsecutiveCommits): Sort by commit order when commit time is missing.
1625         * tools/pull-os-versions.py:
1626         (OSBuildFetcher._assign_order): Use integer instead of fake time for commit order.
1627         (available_builds_from_command): Exit early when an exception is thrown.
1628
1629 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1630
1631         Fix a typo in the previous commit.
1632
1633         * public/include/report-processor.php:
1634
1635 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1636
1637         Build fix after r192965. Suppress a warning about log being referred to as a closure variable.
1638
1639         * public/include/report-processor.php:
1640
1641 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1642
1643         Using fake timestamp in OS version make some results invisible
1644         https://bugs.webkit.org/show_bug.cgi?id=152289
1645
1646         Reviewed by Stephanie Lewis.
1647
1648         Added commit_order column to explicitly order OS versions. This fixes the bug whereby which
1649         baseline results reported with only OS versions are shown with x coordinate set to 10 years ago.
1650
1651         To migrate the existing database, run:
1652             ALTER TABLE commits ADD COLUMN commit_order integer;
1653             CREATE INDEX commit_order_index ON commits(commit_order);
1654
1655         Then for each repository $1,
1656             UPDATE commits SET (commit_time, commit_order) = (NULL, CAST(EXTRACT(epoch from commit_time) as integer))
1657             WHERE commit_repository = $1;
1658
1659
1660         * init-database.sql: Added the column.
1661         * public/api/commits.php:
1662         (fetch_commits_between): Use commit_order to order commits when commit_time is missing.
1663         * public/api/report-commits.php:
1664         (main): Set commit_order.
1665         * tools/pull-os-versions.py:
1666         (OSBuildFetcher.fetch_and_report_new_builds):
1667         (OSBuildFetcher._assign_order): Renamed from _assign_fake_timestamps. Set the order instead of a fake timestmap.
1668
1669 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1670
1671         Perf dashboard can't merge when the destination platform is missing baseline/target
1672         https://bugs.webkit.org/show_bug.cgi?id=152286
1673
1674         Reviewed by Stephanie Lewis.
1675
1676         The bug was caused by the query to migrate test configurations to new platform checking
1677         configuration type and metric separately; that is, it assumes the configuration exists
1678         only if either the same type or the same metric exists in the destination.
1679
1680         Fixed the bug by checking both conditions simultaneously for each configuration.
1681
1682         * public/admin/platforms.php:
1683         * tests/admin-platforms.js: Added a test.
1684
1685 2015-12-11  Ryosuke Niwa  <rniwa@webkit.org>
1686
1687         Perf dashboard's buildbot sync config JSON duplicates too much information
1688         https://bugs.webkit.org/show_bug.cgi?id=152196
1689
1690         Reviewed by Stephanie Lewis.
1691
1692         Added shared, per-builder, and per-test (called type) configurations.
1693
1694         * tools/sync-with-buildbot.py:
1695         (load_config):
1696         (load_config.merge):
1697
1698 2015-12-02  Ryosuke Niwa  <rniwa@webkit.org>
1699
1700         Perf dashboard should avoid overflow during geometric mean computation
1701         https://bugs.webkit.org/show_bug.cgi?id=151773
1702
1703         Reviewed by Chris Dumez.
1704
1705         * public/include/report-processor.php:
1706
1707 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
1708
1709         Perf dashboard should extend baseline and target to the future
1710         https://bugs.webkit.org/show_bug.cgi?id=151511
1711
1712         Reviewed by Darin Adler.
1713
1714         * public/v2/data.js:
1715         (RunsData.prototype.timeSeriesByCommitTime): Added extendToFuture as an argument.
1716         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
1717         (RunsData.prototype._timeSeriesByTimeInternal): Ditto.
1718         (TimeSeries): Add a new point to the end if extendToFuture is set and the series is not empty.
1719         * public/v2/manifest.js:
1720         (App.Manifest._formatFetchedData): Set extendToFuture to true for baselines and targets.
1721
1722 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
1723
1724         Perf dashboard should always show comparison to baseline and target even if one is missing
1725         https://bugs.webkit.org/show_bug.cgi?id=151510
1726
1727         Reviewed by Darin Adler.
1728
1729         Show the comparison status against the baseline when baseline is present but target is missing.
1730
1731         To make the code more readable, this patch splits the logic into three cases:
1732         1. Both baseline and target are present
1733         2. Only baseline is present
1734         3. Only target is present
1735
1736         Also extracted a helper function to construct the label.
1737
1738         * public/v2/app.js:
1739         (.labelForDiff): Added.
1740         (App.Pane.computeStatus):
1741
1742 2015-11-23  Commit Queue  <commit-queue@webkit.org>
1743
1744         Unreviewed, rolling out r192716 and r192717.
1745         https://bugs.webkit.org/show_bug.cgi?id=151582
1746
1747         The patch was incorrect. We always need at least one data
1748         point in each configuration (Requested by rniwa on #webkit).
1749
1750         Reverted changesets:
1751
1752         "Perf dashboard's should not include results more than 366
1753         days old in JSON"
1754         https://bugs.webkit.org/show_bug.cgi?id=151529
1755         http://trac.webkit.org/changeset/192716
1756
1757         "Build fix for old version of PHP."
1758         http://trac.webkit.org/changeset/192717
1759
1760 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1761
1762         Build fix for old version of PHP.
1763
1764         * public/api/runs.php:
1765
1766 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1767
1768         Perf dashboard's should not include results more than 366 days old in JSON
1769         https://bugs.webkit.org/show_bug.cgi?id=151529
1770
1771         Reviewed by Timothy Hatcher.
1772
1773         Don't return results more than 366 days old in /api/runs/ JSON API.
1774         This is a ~5% runtime improvement and reduces the JSON file size by 20-50% in the internal perf dashboard.
1775
1776         * public/api/runs.php:
1777         (main): Added the support for "?noResults" to avoid echoing results. This is useful for debugging.
1778         Also instantiate RunsGenerator before issuing the query to find all configurations so that the runtime cost
1779         of doing so will be included in elapsedTime.
1780         (RunsGenerator::fetch_runs): Skip a row when its build and commit times are more than 366 days old.
1781         (RunsGenerator::format_run): Takes build_time and revisions as arguments since fetch_runs uses them now.
1782         (RunsGenerator::parse_revisions_array): Compute the max of commit times.
1783
1784 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1785
1786         Remove chartPointRadius from interactive chart component
1787         https://bugs.webkit.org/show_bug.cgi?id=151480
1788
1789         Reviewed by Darin Adler.
1790
1791         Replaced the parameter by CSS rules.
1792
1793         * public/v2/chart-pane.css:
1794         (.chart .dot):
1795         (.chart .dot.foreground):
1796         (.chart .highlight):
1797         (.chart .extent):
1798         * public/v2/index.html:
1799         * public/v2/interactive-chart.js:
1800         (App.InteractiveChartComponent.Ember.Component.extend._constructGraphIfPossible):
1801         (App.InteractiveChartComponent.Ember.Component.extend._highlightedItemsChanged):
1802
1803 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1804
1805         Perf dashboard's runs API uses more than 128MB of memory
1806         https://bugs.webkit.org/show_bug.cgi?id=151478
1807
1808         Reviewed by Andreas Kling.
1809
1810         Don't fetch all query results at once to avoid using twice as much memory as needed.
1811         Use iterative API to format each result at a time.
1812
1813         This change is also a 5% runtime performance gain.
1814
1815         * public/api/runs.php:
1816         (RunsGenerator::__construct): Takes a Database instance instead of a list of configurations. The latter is
1817         no longer needed as we pass in each configuration type explicitly to fetch_runs.
1818         (RunsGenerator::fetch_runs): Renamed from add_runs since it now executes the database query via execute_query.
1819         Also moved the logic to compute the last modified time here.
1820         (RunsGenerator::execute_query): Moved from fetch_runs_for_config. Use Database::query instead of query_and_fetch_all.
1821         (RunsGeneratorForTestGroup):
1822         (RunsGeneratorForTestGroup::__construct):
1823         (RunsGeneratorForTestGroup::execute_query): Moved from fetch_runs_for_config_and_test_group.
1824
1825         * public/include/db.php:
1826         (generate_data_file): Lock the file to avoid corruption.
1827
1828 2015-11-19  Ryosuke Niwa  <rniwa@webkit.org>
1829
1830         Perf dashboard always fetches charts JSON twice
1831         https://bugs.webkit.org/show_bug.cgi?id=151483
1832
1833         Reviewed by Andreas Kling.
1834
1835         Only re-generate "runs" JSON via /api/runs/ when the cache doesn't exist in /data/ or the cached JSON is
1836         obsolete (shouldRefetch is set true) or corrupt (the second closure).
1837
1838         * public/v2/app.js:
1839         (App.Pane._fetch):
1840
1841 2015-11-18  Ryosuke Niwa  <rniwa@webkit.org>
1842
1843         Internal perf dashboard takes forever to load
1844         https://bugs.webkit.org/show_bug.cgi?id=151430
1845
1846         Rubber-stamped by Antti Koivisto.
1847
1848         Fix a few performance problems with the perf dashboard v2 UI.
1849
1850         * public/v2/app.js:
1851         (App.DashboardRow._createPane): Set "inDashboard" to true.
1852         (App.Pane._fetch): Immediately show the cached chart instead of waiting for the refetched data which invokes
1853         a PHP JSON API. Also don't fetch the analysis tasks when the chart is shown in the dashboard since we don't
1854         show annotate charts in the dashboard.
1855
1856 2015-10-15  Ryosuke Niwa  <rniwa@webkit.org>
1857
1858         Unreviewed fix of a test after r190687.
1859
1860         * tests/admin-regenerate-manifest.js:
1861
1862 2015-10-12  Ryosuke Niwa  <rniwa@webkit.org>
1863
1864         Perf dashboard tools shouldn't require server credentials in multiple configuration files
1865         https://bugs.webkit.org/show_bug.cgi?id=149994
1866
1867         Reviewed by Chris Dumez.
1868
1869         Made detect-changes.js and pull-svn.py pull username and passwords from the server config JSON to reduce
1870         the number of JSON files that need to include credentials.
1871
1872         Also made each script reload the server config after sleep to allow dynamic credential updates.
1873
1874         In addition, change the server config JSON's format to include scheme, host, and port numbers separately
1875         instead of a url since detect-changes.js needs each value separately.
1876
1877         This reduces the number of JSONs with credentials to two for our internal dashboard.
1878
1879         * tools/detect-changes.js:
1880         (main): Added a property argument parsing. Now takes --server-config-json, --change-detection-config-json,
1881         and --seconds-to-sleep like other scripts.
1882         (parseArgument): Added.
1883         (fetchManifestAndAnalyzeData): Reload the server config JSON.
1884         (loadServerConfig): Added. Set settings.perfserver and settings.slave from the server config JSON. Also
1885         add settings.perfserver.host to match the old format.
1886         (configurationsForTesting): Fixed a bug that we throw an exception when a dashboard contains an empty cell.
1887
1888         * tools/pull-os-versions.py:
1889         (main): Use load_server_config after each sleep.
1890
1891         * tools/pull-svn.py:
1892         (main): Use load_server_config after each sleep.
1893         (fetch_commits_and_submit): Use the perf dashboard's auth as subversion credential when useServerAuth is set.
1894
1895         * tools/sync-with-buildbot.py:
1896         (main): Use load_server_config after each sleep.
1897
1898         * tools/util.py:
1899         (load_server_config): Extracted from python scripts. Computes server's url from scheme, host, and port number
1900         to match the old format python scripts except.
1901
1902 2015-10-11  Ryosuke Niwa  <rniwa@webkit.org>
1903
1904         Build fix after r190817.  Now that pull-os-versions store fake timestamps, we need to bypass timestamp
1905         checks for OS versions when bots try to report new results. Otherwise, we fail to process the reports
1906         with a MismatchingCommitTime error.
1907
1908         * public/include/report-processor.php:
1909         (ReportProcessor::resolve_build_id):
1910
1911 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
1912
1913         Perf dashboard erroneously shows an old OS build in A/B testing range
1914         https://bugs.webkit.org/show_bug.cgi?id=149942
1915
1916         Reviewed by Darin Adler.
1917
1918         Ordering OS builds lexicologically turned out be a bad idea since 15A25 falls between 15A242 and 15A251.
1919         Use a fake/synthetic timestamp to force the commonly understood total order instead.
1920
1921         Refactored pull-os-versions.py to share the server config JSON with other scripts. Also made the script
1922         support pulling multiple sources; e.g. both OS X and iOS.
1923
1924         Also removed superfluous feature to submit results in chunks. The perf dashboard can handle thousands of
1925         revisions being submitted at once just fine.
1926
1927         * public/api/commits.php:
1928         (main): A partial revert of r185574 since we no longer need to order builds lexicologically.
1929
1930         * tools/pull-os-versions.py:
1931         (main): Takes --os-config-json, --server-config-json, and --seconds-to-sleep as arguments instead of
1932         a single --config argument to share the server config JSON with other scripts.
1933         (OSBuildFetcher): Extracted out of main. This class is instantiated for each OS kind (e.g. OS X).
1934         (OSBuildFetcher.__init__): Added.
1935         (OSBuildFetcher._fetch_available_builds): Extracted out of main. Fetches available builds from a website
1936         or custom commands.
1937         (OSBuildFetcher.fetch_and_report_new_builds): Extracted out of main. Submits the fetched builds after
1938         filtering out the ones we've already reported.
1939         (OSBuildFetcher._assign_fake_timestamps): Creates a fake timestamp to establish a total order amongst each
1940         OS X / iOS style build number such as 12A3456b.
1941
1942 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
1943
1944         pull-svn.py fails to sync revisions when SVN credentials is not setup
1945         https://bugs.webkit.org/show_bug.cgi?id=149941
1946
1947         Reviewed by Chris Dumez.
1948
1949         Added the support for specifying subversion credentials.
1950
1951         Also added the support for pulling from multiple subversion servers. Subversion servers are specified
1952         in a JSON configuration file specified by --svn-config formatted as follows:
1953
1954         [
1955             {
1956                 "name": "WebKit",
1957                 "url": "http://svn.webkit.org/repository/webkit",
1958                 "username": "webkitten",
1959                 "password": "webkitten's password",
1960                 "trustCertificate": true,
1961                 "accountNameFinderScript":
1962                     ["python", "/Volumes/Data/WebKit/Tools/Scripts/webkit-patch", "find-users"]
1963             },
1964             ...
1965         ]
1966
1967         In addition, refactored it to use the shared server config JSON for the dashboard access.
1968
1969         * tools/pull-svn.py:
1970         (main): Now takes --svn-config-json, --server-config-json, --seconds-to-sleep and --max-fetch-count
1971         as required options instead of seven unnamed arguments.
1972         (fetch_commits_and_submit): Extracted from main. Fetches at most max_fetch_count new revisions from
1973         the subversion server, and submits them in accordance with server_config.
1974         (fetch_commit_and_resolve_author): Now takes a single repository dictionary instead of two separate
1975         arguments for name and URL to pass down the repository's authentication info to fetch_commit.
1976         (fetch_commit): Ditto. Add appropriate arguments when username and passwords are specified.
1977         (resolve_author_name_from_account): Use a list argument instead of a single string argument now that
1978         the argument comes from a JSON instead of sys.argv.
1979
1980 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1981
1982         Unreviewed race condition fix. Exit early when xScale or yScale is not defined.
1983
1984         * public/v2/interactive-chart.js:
1985         (App.InteractiveChartComponent._updateRangeBarRects):
1986
1987 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1988
1989         Add a page that cycles through v2 dashboards
1990         https://bugs.webkit.org/show_bug.cgi?id=149907
1991
1992         Reviewed by Chris Dumez.
1993
1994         Add cycler.html that goes through each dashboard on v2 UI.
1995
1996         This allows the dashboards to be cycled through on a TV screen.
1997
1998         * public/cycler.html: Added.
1999         (loadURLAt): Appends a new iframe to load the next URL (i is the index of the dashboard to be shown)
2000         at the end of body. We don't immediately show the new iframe since it might take a while to load.
2001         (showNewFrameIfLoaded): Remove the current iframe and show the next iframe if the next dashboard has
2002         finished loading. We can't rely on DOMContentLoaded or load events because we use asynchronous XHR to
2003         load each chart's data. Instead, wait until some chart becomes available or fails to load and none of
2004         charts are still in progress to be shown.
2005
2006 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2007
2008         Allow custom revisions to be specified in A/B testing
2009         https://bugs.webkit.org/show_bug.cgi?id=149905
2010
2011         Reviewed by Chris Dumez.
2012
2013         Allow custom revision number on each "repository" when creating a test group.
2014
2015         * public/v2/app.css:
2016         (form .analysis-group [name=customValue]): Added.
2017
2018         * public/v2/app.js:
2019         (App.AnalysisTaskController._createConfiguration): Added "Custom" as a revision option.
2020         Also added point labels such as (point 3) on "None" for when some points are missing revision info.
2021         (App.AnalysisTaskController._labelForPoints): Extracted from _createConfiguration.
2022         (App.AnalysisTaskController.actions.createTestGroup): Respect the custom revision number when custom
2023         revision option is selected.
2024
2025         * public/v2/index.html: Added a text field for specifying a custom revision number.
2026
2027 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2028
2029         Make the site name configurable in perf dashboard
2030         https://bugs.webkit.org/show_bug.cgi?id=149894
2031
2032         Reviewed by Chris Dumez.
2033
2034         Added "siteTitle" as a new configuration key to specify the site name.
2035
2036         * public/include/db.php:
2037         (config): Now takes the default value as an argument.
2038         * public/include/manifest.php:
2039         (ManifestGenerator::generate): Include siteTitle in the manifest.
2040         * public/index.html: Update the title and the heading when the manifest is loaded.
2041         * public/v2/index.html: Use App.Manifest.siteTitle as the heading. document.title needs to be updated manually.
2042         * public/v2/manifest.js: 
2043         (App.MetricSerializer.normalizePayload): Update document.title and App.Manifest.siteTitle.
2044
2045 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2046
2047         Perf dashboard doesn't show analysis tasks anchored at outliers
2048         https://bugs.webkit.org/show_bug.cgi?id=149870
2049
2050         Reviewed by Chris Dumez.
2051
2052         The bug was caused by the computation of start and end times of analysis tasks being dependent on
2053         time series provided to the interactive chart component even though they are already filtered.
2054
2055         Since the interactive chart component shouldn't be messing with the underlying data models, moved
2056         the code to compute start and end times to App.Pane, to where it belongs, and made the moved code use
2057         the unfiltered time series newly exposed on ChartData.
2058
2059         Also fixed a bug in fetch-from-remote.php which resulted in Ember endlessly fetching same JSON files.
2060
2061         * public/admin/fetch-from-remote.php:
2062         (.): Use the full request URI for HTTP requests and caching. Otherwise, we're going to mix up caches
2063         and Ember can start hanging browsers (took me three hours to debug this).
2064
2065         * public/v2/app.js:
2066         (App.Pane._showOutlierChanged): Added. Resets chartData when showOutlier flag has been changed.
2067         (App.Pane.fetchAnalyticRanges): The old code wasn't filtering analysis tasks by platforms and metrics
2068         at all since it relied on the server-side REST API to do the filtering, which I haven't implemented yet.
2069         Filter the results manually instead.
2070         (App.Pane.ranges): Moved the logic to compute startTime and endTime here from InteractiveChartComponent.
2071         (App.PaneController.toggleShowOutlier): Now that App.Pane responds to showOutlier changes, we don't
2072         need to call a private method on it.
2073         (App.AnalysisTaskController._chartDataChanged): When end points are not found, try showing outliers.
2074         This will cause chartData to be modified so just exit early and wait for getting called again.
2075
2076         * public/v2/interactive-chart.js:
2077         (App.InteractiveChartComponent._rangesChanged): The code to compute start and end time has been moved
2078         to App.Pane.ranges.
2079
2080         * public/v2/manifest.js:
2081         (App.Manifest._formatFetchedData): Added unfiltered time series as new properties as they are now used
2082         to compute the end points of analysis tasks when their end points are outliers.
2083
2084 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2085
2086         Unreviewed. Fix a typo in r190645.
2087
2088         * public/include/db.php:
2089
2090 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2091
2092         V2 UI shouldn't sort dashboards lexicologically
2093         https://bugs.webkit.org/show_bug.cgi?id=149856
2094
2095         Reviewed by Chris Dumez.
2096
2097         Don't sort the dashboards by name in App.Manifest.
2098
2099         * public/v2/app.js:
2100         (App.IndexRoute.beforeModel): Don't transition to "undefined" (string) dashboard.
2101         * public/v2/manifest.js:
2102         (App.Manifest.._fetchedManifest):
2103
2104 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2105
2106         V2 UI fails to show the data for the very first point in charts
2107         https://bugs.webkit.org/show_bug.cgi?id=149857
2108
2109         Reviewed by Chris Dumez.
2110
2111         The bug was caused by seriesBetweenPoints returning null for when point.seriesIndex is 0.
2112         Explicitly check the type of this property instead.
2113
2114         * public/v2/data.js:
2115         (TimeSeries.prototype.seriesBetweenPoints):
2116
2117 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2118
2119         Perf dashboard should have the capability to test local UI with production data
2120         https://bugs.webkit.org/show_bug.cgi?id=149834
2121
2122         Reviewed by Chris Dumez.
2123
2124         Added tools/run-with-remote-server.py which runs a local httpd server and pulls data from a remote server.
2125
2126         * Install.md: Added the instruction on how to use the script. Also updated the remaining instructions
2127         for El Capitan.
2128         * config.json: Added remote server configurations.
2129         * public/admin/fetch-from-remote.php: Added. This script fetches JSON from the remote server specified in
2130         config.json and caches the results in the location specified as "cacheDirectory" in config.json.
2131         (main):
2132         (fetch_remote):
2133         * public/include/db.php:
2134         (config_path): Extracted from generate_data_file.
2135         (generate_data_file):
2136         * tools/remote-server-relay.conf: Added. Apache 2.4 configuration file for a local http server launched by
2137         run-with-remote-server.py.
2138         * tools/run-with-remote-server.py: Added. Launches Apache with the right set of directives.
2139         (main):
2140         (abspath_from_root):
2141
2142 2015-07-13  Ryosuke Niwa  <rniwa@webkit.org>
2143
2144         Fix a typo.
2145
2146         * public/js/helper-classes.js:
2147
2148 2015-06-27  Ryosuke Niwa  <rniwa@webkit.org>
2149
2150         build-requests should use conform to JSON API format
2151         https://bugs.webkit.org/show_bug.cgi?id=146375
2152
2153         Reviewed by Stephanie Lewis.
2154
2155         Instead of returning single dictionary that maps root set id to a dictionary of repository names
2156         to revisions, timestamps, simply return root sets and roots "rows" or "objects" as defined in
2157         JSON API (http://jsonapi.org/). This API change makes it easier to resolve the bug 146374 and
2158         matches what we do in /api/test-groups.
2159
2160         Also add the support for /api/build-requests/?id=<id> to fetch the build request with <id>.
2161         This is useful for debugging purposes.
2162
2163         * public/api/build-requests.php:
2164         (main): Added the support for $_GET['id']. Also return "rootSets" and "roots".
2165         (update_builds): Extracted from main.
2166
2167         * public/include/build-requests-fetcher.php:
2168         (BuildRequestFetcher::fetch_request): Added. Used for /api/build-requests/?id=<id>.
2169         (BuildRequestFetcher::results_internal): Always call fetch_roots_for_set_if_needed.
2170         (BuildRequestFetcher::fetch_roots_for_set_if_needed): Renamed from fetch_roots_for_set.
2171         Moved the logic to exit early when the root set had already been fetched here.
2172
2173         * public/v2/analysis.js:
2174         (App.TestGroup._fetchTestResults): Fixed the bug that test groups without any successful results
2175         won't be shown.
2176
2177         * tools/pull-os-versions.py:
2178         (main):
2179         (setup_auth): Moved to util.py
2180
2181         * tools/sync-with-buildbot.py:
2182         (main): Replaced a bunch of perf dashboard related options by --server-config-json.
2183         (update_and_fetch_build_requests): No longer takes build_request_auth since that's now taken care
2184         of by setup_auth.
2185         (organize_root_sets_by_id_and_repository_names): Added. Builds the old rootsSets directory based
2186         on "roots" and "rootSets" dictionaries returned by /api/build-requests.
2187         (config_for_request): Fixed a bug that the script blows up when the build request is missing
2188         the repository specified in the configuration. This tolerance is necessary when a new repository
2189         dependency is added but we want to run A/B tests for old builds without the dependency.
2190         (fetch_json): No longer takes auth.
2191
2192         * tools/util.py:
2193         (setup_auth): Moved from pull-os-versions.py to be shared with sync-with-buildbot.py.
2194
2195 2015-06-23  Ryosuke Niwa  <rniwa@webkit.org>
2196
2197         Build fix. A/B testing is broken when continuous builders report revisions out of order.
2198
2199         * public/v2/app.js:
2200         (App.AnalysisTaskController.Ember.Controller.extend.):
2201
2202 2015-06-22  Ryosuke Niwa  <rniwa@webkit.org>
2203
2204         A/B testing results should be shown even if they were submitted to different platforms
2205         https://bugs.webkit.org/show_bug.cgi?id=146219
2206
2207         Reviewed by Andreas Kling.
2208
2209         Fetch A/B testing results regardless of the platform to which results are submitted
2210         by providing the platform ID to which the results were submitted for each test group.
2211
2212         * public/api/test-groups.php:
2213         (main): Include the platform id in the test groups.
2214         * public/v2/analysis.js:
2215         (App.TestGroup._fetchTestResults): Fetch results from the platform associated with the group.
2216
2217 2015-06-19  Csaba Osztrogonác  <ossy@webkit.org>
2218
2219         Remove unnecessary svn:executable flags
2220         https://bugs.webkit.org/show_bug.cgi?id=146107
2221
2222         Reviewed by Alexey Proskuryakov.
2223
2224         * public/js/helper-classes.js: Removed property svn:executable.
2225         * public/js/jquery.flot.plugins.js: Removed property svn:executable.
2226         * public/v2/app.css: Removed property svn:executable.
2227         * public/v2/app.js: Removed property svn:executable.
2228         * public/v2/chart-pane.css: Removed property svn:executable.
2229         * public/v2/data.js: Removed property svn:executable.
2230         * public/v2/index.html: Removed property svn:executable.
2231         * public/v2/js/d3/LICENSE: Removed property svn:executable.
2232         * public/v2/js/d3/d3.js: Removed property svn:executable.
2233         * public/v2/js/d3/d3.min.js: Removed property svn:executable.
2234         * public/v2/js/ember-data.js: Removed property svn:executable.
2235         * public/v2/js/ember.js: Removed property svn:executable.
2236         * public/v2/js/handlebars.js: Removed property svn:executable.
2237         * public/v2/js/jquery.min.js: Removed property svn:executable.
2238         * public/v2/js/statistics.js: Removed property svn:executable.
2239         * public/v2/manifest.js: Removed property svn:executable.
2240         * public/v2/popup.js: Removed property svn:executable.
2241
2242 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2243
2244         Reading the list of analysis tasks is extremely slow
2245         https://bugs.webkit.org/show_bug.cgi?id=146086
2246
2247         Reviewed by Darin Adler.
2248
2249         The bug was caused by Ember data requesting manifest.js hundreds of times.
2250         Fetch it ahead of time in each route instead.
2251
2252         * public/v2/app.js:
2253         (App.AnalysisRoute.model):
2254         (App.AnalysisTaskRoute.model):
2255
2256 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2257
2258         Update ReadMe.md and Install.md per database changes
2259         https://bugs.webkit.org/show_bug.cgi?id=146076
2260
2261         Reviewed by Darin Adler.
2262
2263         Updated.
2264
2265         * Install.md:
2266         * ReadMe.md:
2267
2268 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
2269
2270         Increase the popup dismissal time from 100ms to 500ms
2271         https://bugs.webkit.org/show_bug.cgi?id=146077
2272
2273         Rubber-stamped by Andreas Kling.
2274
2275         * public/v2/popup.js:
2276         (App.PopupView.scheduleHiding):
2277
2278 2015-06-16  Ryosuke Niwa  <rniwa@webkit.org>
2279
2280         v2 UI should have buttons to breakdown a test
2281         https://bugs.webkit.org/show_bug.cgi?id=146010
2282
2283         Reviewed by Chris Dumez.
2284
2285         Added buttons beneath each chart pane to add "alternative panes". By default, it shows every platform
2286         as well as "Breakdown" to add all subtests' metrics.
2287
2288         Also removed the metric submenu from tests that had exactly one metric. When a test only measures Time
2289         for example, we make the test itself clickable instead of showing a submenu that only contains one item.
2290
2291         * public/v2/app.js:
2292         (App.ChartsController.addAlternativePanes): Added.
2293         (App.TestProxyForPopup.children): Calls _updateChildren and returns this._children.
2294         (App.TestProxyForPopup.actionName): Added.
2295         (App.TestProxyForPopup.actionArgument): Added.
2296         (App.TestProxyForPopup._updateChildren): Extracted from children. Now also sets _actionName and
2297         _actionArgument in the case there was exactly one metric so that showing submenu is unnecessary.
2298         (App.PaneController.alternativePanes): Added. Returns the list of alternative panes. The platform list
2299         excludes ones that don't have this metric (e.g. iOS doesn't have desktop PLT results) as well as ones
2300         that are already present in the list of panes.
2301         * public/v2/chart-pane.css: Added CSS rules for alternative pane buttons beneath the chart panes.
2302         * public/v2/index.html:
2303         * public/v2/manifest.js:
2304         (App.Metric.childMetrics): Added.
2305
2306 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2307
2308         Build fix after r185574.
2309
2310         * public/v2/app.js:
2311         (set get App.Pane.Ember.Object.extend.):
2312
2313 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2314
2315         Fix a typo.
2316
2317         * tools/pull-os-versions.py:
2318         (main):
2319
2320 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2321
2322         Perf dashboard should be able to list iOS versions as well as OS X versions
2323         https://bugs.webkit.org/show_bug.cgi?id=146003
2324
2325         Reviewed by Stephanie Lewis.
2326
2327         Generalized pull-osx.py so that it can run an arbitrary shell command to fetch OS versions based on
2328         information specified in config.json.
2329
2330         * tools/pull-os-versions.py: Renamed from pull-osx.py.
2331         (main): Use available_builds_from_command when 'customCommands' is specified.
2332         (available_builds_from_command): Added. Executes a shell command to fetch a list of available builds.
2333         (fetch_available_builds): Now takes the repository name.
2334
2335 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2336
2337         Removed a superfluous console.log per Chris's comment.
2338
2339         * public/v2/app.js:
2340
2341 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
2342
2343         Analysis task should show all possible revisions for A/B testing
2344         https://bugs.webkit.org/show_bug.cgi?id=145996
2345
2346         Reviewed by Chris Dumez.
2347
2348         * public/api/commits.php:
2349         (fetch_commits_between): When the time stamp is not available for commits, use revision numbers
2350         to find revisions between two ranges. This is necessary for OS X and iOS versions since they don't
2351         have a "commit time".
2352
2353         * public/v2/app.js:
2354         (App.AnalysisTaskController.updateRootConfigurations): Fetch commits between two end points.
2355         (App.AnalysisTaskController._createConfiguration): Extracted from updateRootConfigurations. List
2356         the fetched list of commits if available.
2357         (App.AnalysisTaskController._serializeNumbersSkippingConsecutiveEntries): Added. Serializes an list
2358         of numbers intelligently. For example, [1, 2, 4, 5] turns into "1-2, 4-5". Without this, some lists
2359         of points shown in the A/B testing configurations become too long. 
2360
2361         * public/v2/commits-viewer.js:
2362         (App.CommitsViewerComponent.commitsChanged):
2363
2364         * public/v2/data.js:
2365         (CommitLogs.fetchCommits): Renamed from fetchForTimeRange.
2366
2367 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2368
2369         Add a script to post new OS X builds to perf dashboard
2370         https://bugs.webkit.org/show_bug.cgi?id=145955
2371
2372         Reviewed by Darin Adler.
2373
2374         Added a new script pull-osx.py and relaxed the restrictions on commits accepted by the dashboard API.
2375
2376         * public/api/report-commits.php:
2377         (main): Allow more characters than [A-Za-z0-9] in revision. e.g. "10.10.3 14D136".
2378         Also allow commits without the author, commit time, and commit message as OS versions do not have those.
2379
2380         * tools/pull-osx.py: Added.
2381         (main): Fetch the list of builds from a website and submit them per submissionSize with submissionInterval.
2382         Once all builds have been submitted, wait for a long time as specified by fetchInterval.
2383         (setup_auth): Sets up basic or digest auth to access the dashboard.
2384         (fetch_available_builds): Fetches and parses the XML document from an internal website.
2385         (textContent): A helper function to get the text content out of a XML node.
2386         (submit_commits): Submits commits to the perf dashboard.
2387
2388         * tools/pull-svn.py:
2389         (fetch_commit):
2390
2391         * tools/util.py: Extracted submit_commits and text_content from pull-svn.py to be reused in pull-osx.py.
2392
2393 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2394
2395         Perf dashboard's v2 UI shouldn't hide auto-detected outliers
2396         https://bugs.webkit.org/show_bug.cgi?id=145940
2397
2398         Reviewed by Darin Adler.
2399
2400         Don't fallback to the default strategies for moving averages and envelope when one is not specified.
2401         Also deleted the code to mark points outside the envelop as outliers.
2402
2403         * public/v2/app.js:
2404
2405 2015-06-12  Ryosuke Niwa  <rniwa@webkit.org>
2406
2407         Unreviewed build fix for merging platforms.
2408
2409         * public/admin/platforms.php:
2410
2411 2015-06-09  Ryosuke Niwa  <rniwa@webkit.org>
2412
2413         Unreviewed build fix. Some builder names are really long.
2414
2415         * init-database.sql:
2416
2417 2015-05-22  Ryosuke Niwa  <rniwa@webkit.org>
2418
2419         Show results and status before revisions for A/B testing results
2420         https://bugs.webkit.org/show_bug.cgi?id=145327
2421
2422         Reviewed by Chris Dumez.
2423
2424         Place the results and the status columns before the columns for revisions.
2425         Also show the absolute difference as well as the relative difference between the averages of A and B.
2426
2427         * public/v2/app.js:
2428         (App.TestGroupPane._populate):
2429         (App.TestGroupPane._computeStatisticalSignificance):
2430         * public/v2/index.html:
2431
2432 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2433
2434         Build fix after r184591.
2435
2436         * public/v2/manifest.js:
2437
2438 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2439
2440         Build fix. Use POSIX timestamp instead of human readable string for the commit time.
2441
2442         * public/include/build-requests-fetcher.php:
2443
2444 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2445
2446         UI to associate bugs with an analysis task is crappy
2447         https://bugs.webkit.org/show_bug.cgi?id=145198
2448
2449         Reviewed by Andreas Kling.
2450
2451         Make the UI less crappy by linkifying bug numbers and adding an explicit button to disassociate
2452         a bug and a separate select view with a text field to associate a new bug instead of implicitly
2453         updating or deleting the existing record based on what the user had typed.
2454
2455         * init-database.sql: Removed the constraint that each bug tracker should appear exactly once for
2456         a given analysis task since it's perfectly reasonable for a given task to be associated with
2457         multiple WebKit bugs.
2458
2459         * public/privileged-api/associate-bug.php:
2460         (main): Only remove the bug specified by newly added bugToDelete instead of implicitly deleting
2461         one that matches the analysis task and the bug tracker when the bug number is falsey.
2462
2463         * public/v2/analysis.js:
2464         (App.Bug.url): Added.
2465         (App.BugAdapter.deleteRecord): Added. Uses the privileged API to delete the record.
2466
2467         * public/v2/app.css:
2468
2469         * public/v2/app.js:
2470         (App.AnalysisTaskController.actions.addBug): Added.
2471         (App.AnalysisTaskController.actions.deleteBug): Added.
2472         (App.AnalysisTaskController.associateBug): Deleted.
2473
2474         * public/v2/index.html: Updated the templates.
2475
2476         * public/v2/manifest.js:
2477         (App.BugTracker.urlFromBugNumber): Added.
2478
2479 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
2480
2481         A/B testing rootSets should provide commit times as well as revisions
2482         https://bugs.webkit.org/show_bug.cgi?id=145207
2483
2484         Reviewed by Andreas Kling.
2485
2486         Some continuous build systems need the commit time as well as the revision number / hash so provide one
2487         in the root sets but maintain the backwards compatibility with buildbots that use revision number directly.
2488
2489         * public/include/build-requests-fetcher.php:
2490         (BuildRequestsFetcher::fetch_roots_for_set): Made the revision info an associative array that contains
2491         the revision number as well as the commit time.
2492         * tools/sync-with-buildbot.py:
2493         (schedule_request): Removed "replacement" which was a superfluous copy of "roots". Use "revision" values
2494         when the JSON configuration refers to "root". This is necessary in buildbot instances that require WebKit
2495         revision to be specified on its own field instead of it being a JSON that contains "revision" and "time".
2496
2497 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2498
2499         Build fix. Don't fall into an infinite loop when value (renamed from bytes) is zero.
2500
2501         * public/v2/manifest.js:
2502         (App.Manifest.Ember.Controller.extend.):
2503         (App.Manifest.Ember.Controller.extend):
2504
2505 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
2506
2507         Don't show unit (bytes) separaetly from SI suffixes (K, M, etc...)
2508         https://bugs.webkit.org/show_bug.cgi?id=145181
2509
2510         Rubber-stamped by Chris Dumez.
2511
2512         Show 'MB' in each y-axis label instead of showing 'bytes' separately and suffixing each label with just 'M'
2513         for clarity. This change also reduces the code complexity.
2514
2515         * public/index.html:
2516         * public/v2/app.js:
2517         (App.AnalysisTaskController._chartDataChanged):
2518         (App.TestGroupPane._createConfigurationSummary):
2519         * public/v2/data.js:
2520         (RunsData.unitFromMetricName): Use 'B' instead of 'bytes' as the unit.
2521
2522         * public/v2/interactive-chart.js: Removed the support for showing units separately.
2523         (App.InteractiveChartComponent._constructGraphIfPossible):
2524         (App.InteractiveChartComponent._relayoutDataAndAxes)
2525
2526         * public/v2/manifest.js:
2527         (App.Manifest._makeFormatter): Renamed from _formatBytes. Support more SI suffixes such as micro and mili.
2528         Now takes the unit as the first argument. Adjust the base unit if it's 'ms'.
2529         (App.Manifest._formatFetchedData): Removed unit and formatWithUnit now that all all formatters would
2530         automatically include unit.
2531
2532 2015-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2533
2534         REGRESSION: v2 UI reports a higher memory usage
2535         https://bugs.webkit.org/show_bug.cgi?id=145151
2536
2537         Reviewed by Chris Dumez.
2538
2539         The bug was caused by v2 UI using 1000 to divide the number of bytes instead of by 1024 as done in v1.
2540         Fixed the bug by manually implementing the formatter as done in v1.
2541
2542         * public/v2/manifest.js:
2543         (App.Manfiest._formatBytes): Added.
2544         (App.Manifest._formatFetchedData): Use _formatByte instead of format('s').
2545
2546 2015-05-11  Ryosuke Niwa  <rniwa@webkit.org>
2547
2548         Unreviewed build fix. Add "Duration" as a time metric.
2549
2550         * public/js/helper-classes.js:
2551         * public/v2/data.js:
2552         (RunsData.unitFromMetricName):
2553
2554 2015-05-06  Ryosuke Niwa  <rniwa@webkit.org>
2555
2556         Perf dashboard treats Speedometer and JetStream as smaller is better
2557         https://bugs.webkit.org/show_bug.cgi?id=144711
2558
2559         Reviewed by Chris Dumez.
2560
2561         Added the support for "Score" metric.
2562
2563         * public/js/helper-classes.js:
2564         (PerfTestRuns):
2565         * public/v2/data.js:
2566         (RunsData.unitFromMetricName):
2567         (RunsData.isSmallerBetter):
2568
2569 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
2570
2571         Build fix after r183232.
2572
2573         * public/include/json-header.php:
2574
2575 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
2576
2577         Perf dashboard should automatically detect regressions
2578         https://bugs.webkit.org/show_bug.cgi?id=141443
2579
2580         Reviewed by Anders Carlsson.
2581
2582         Added a node.js script detect-changes.js to detect potential regressions and progressions
2583         on the graphs tracked on v2 dashboards.
2584
2585         * init-database.sql: Added analysis_strategies table and task_segmentation and task_test_range
2586         columns to analysis_tasks to keep the segmentation and test range selection strategies used
2587         to create an analysis task.
2588
2589         * public/api/analysis-tasks.php:
2590         (format_task): Include task_segmentation and analysis_tasks in the results.
2591
2592         * public/include/json-header.php:
2593         (remote_user_name): Returns null when the privileged API is authenticated as a slave instead
2594         of a CSRF prevention token.
2595         (should_authenticate_as_slave): Added.
2596         (ensure_privileged_api_data_and_token_or_slave): Added. Authenticate as a slave if slaveName
2597         and slavePassword are specified. Since detect-changes.js and other slaves are not susceptible
2598         to a CSRF attack, we don't need to check a CSRF token.
2599
2600         * public/privileged-api/create-analysis-task.php:
2601         (main): Use ensure_privileged_api_data_and_token_or_slave to let detect-changes.js create new
2602         analysis task. Also add or find segmentation and test range selection strategies if specified.
2603
2604         * public/privileged-api/create-test-group.php:
2605         (main): Use ensure_privileged_api_data_and_token_or_slave.
2606
2607         * public/privileged-api/generate-csrf-token.php:
2608
2609         * public/v2/app.js:
2610         (App.Pane._computeMovingAverageAndOutliers): _executeStrategy has been moved to Statistics.
2611
2612         * public/v2/data.js: Export Measurement, RunsData, TimeSeries. Used in detect-changes.js.
2613         (Array.prototype.find): Added a polyfill to be used in node.js.
2614         (RunsData.fetchRuns):
2615         (RunsData.pathForFetchingRuns): Extracted from fetchRuns. Used in detect-changes.js.
2616         (RunsData.createRunsDataInResponse): Extracted from App.Manifest._formatFetchedData to use it
2617         in detect-changes.js.
2618         (RunsData.unitFromMetricName): Ditto.
2619         (RunsData.isSmallerBetter): Ditto.
2620         (RunsData.prototype._timeSeriesByTimeInternal): Added secondaryTime to sort points when commit
2621         times are identical.
2622         (TimeSeries): When commit times are identical, order points based on build time. This is needed
2623         for when we trigger two builds at two different OS versions with the same WebKit revision since
2624         OS versions don't change the commit times.
2625         (TimeSeries.prototype.findPointByIndex): Added.
2626         (TimeSeries.prototype.rawValues): Added.
2627
2628         * public/v2/js/statistics.js:
2629         (Statistics.TestRangeSelectionStrategies.[0]): Use the 99% two-sided probability as claimed in the
2630         description of this strategy instead of the default probability. Also fixed a bug that debugging
2631         code was referring to non-existent variables.
2632         (Statistics.executeStrategy): Moved from App.Pane (app.js).
2633
2634         * public/v2/manifest.js:
2635         (App.Manifest._formatFetchedData): Various code has been extracted into RunsData in data.js to be
2636         used in detect-changes.js.
2637
2638         * tools/detect-changes.js: Added. The script fetches the manifest JSON, analyzes each graph in
2639         the v2 dashboards, and creates an analysis task for the latest regression or progression detected.
2640         It also schedules an A/B testing if possible and notifies another server; e.g. to send an email. 
2641         (main): Loads the settings JSON specified in the argument.
2642         (fetchManifestAndAnalyzeData): The main loop that periodically wakes up to do the analysis.
2643         (mapInOrder): Executes callback sequentially (i.e. blocking) on each item in the array.
2644         (configurationsForTesting): Finds every (platform, metric) pair to analyze in the v2 dashbaords,
2645         and computes various values for when statistically significant changes are detected later.
2646         (analyzeConfiguration): Finds potential regressions and progression in the last X days where X
2647         is the specified maximum number of days using the specified strategies. Sort the resultant ranges
2648         in chronological order and create a new analysis task for the very last change we detected. We'll
2649         eventually create an analysis task for all detected changes since we're repeating the analysis in
2650         fetchManifestAndAnalyzeData after some time.
2651         (computeRangesForTesting): Fetch measured values and compute ranges to test using the specified
2652         segmentation and test range selection strategies. Once ranges are found, find overlapping analysis
2653         tasks as they need to be filtered out in analyzeConfiguration to avoid creating multiple analysis
2654         tasks for the same range (e.g. humans may create one before the script gets to do it).
2655         (createAnalysisTaskAndNotify): Create a new analysis task for the specified range, trigger an A/B
2656         testing if available, and notify another server with a HTML message as specified.
2657         (findStrategyByLabel):
2658         (changeTypeForRange): A change is a regression if values are getting larger in a smaller-is-better
2659         test or values are getting smaller in a larger-is-better test and vice versa.
2660         (summarizeRange): Create a human readable string that summarizes the change detected. e.g.
2661         "Potential 3.2% regression detected between 2015-04-20 12:00 and 17:00".
2662         (formatTimeRange):
2663         (getJSON):
2664         (postJSON):
2665         (postNotification): Recursively replaces $title and $massage in the specified JSON template.
2666         (instantiateNotificationTemplate):
2667         (fetchJSON):
2668
2669 2015-04-20  Ryosuke Niwa  <rniwa@webkit.org>
2670
2671         Perf dashboard should have UI to set status on analysis tasks
2672         https://bugs.webkit.org/show_bug.cgi?id=143977
2673
2674         Reviewed by Chris Dumez.
2675
2676         Added the UI to set the result of an analysis task to 'progression', 'regression', 'unchanged', and 'inconclusive'
2677         as well as a boolean indicating whether creating the analysis task was the right thing to do or not.
2678         The latter will be a useful metric once we start automatically creating analysis tasks.
2679
2680         * init-database.sql: Added two columns to analysis_tasks table.
2681         * public/api/analysis-tasks.php: Include the added columns in the JSON.
2682         * public/include/db.php:
2683         (Database::to_database_boolean): Added.
2684         * public/include/json-header.php:
2685         (require_match_one_of_values): Added.
2686         * public/privileged-api/update-analysis-task.php: Added. Updates 'result' and 'needed' values of an analysis task.
2687         (main):
2688         * public/v2/analysis.js:
2689         (App.AnalysisTask.result): Added.
2690         (App.AnalysisTask.needed): Added. We don't use DS.attr('boolean') here since that would coerce null into false
2691         and we want to differentiate null from false in order to differentiate the null-ness of the value.
2692         (App.AnalysisTask.saveStatus): Added.
2693         (App.AnalysisTask.statusLabel): Use 'result' as the label if it's set and all build requests have been processed.
2694         * public/v2/app.css:
2695         * public/v2/app.js:
2696         (App.AnalysisTaskController.analysisResultOptions): Added.
2697         (App.AnalysisTaskController.shouldNotHaveBeenCreated): Added.
2698         (App.AnalysisTaskController.needsFeedback): Added. Show the checkbox to indicate the analysis task should not have
2699         been created if 'no change' is selected.
2700         (App.AnalysisTaskController._updateChosenAnalysisResult): Added.
2701         (App.AnalysisTaskController.actions.saveStatus): Added.
2702         * public/v2/index.html: Extracted a partial template for updating the bug numbers. Also added the UI to update
2703         'result' and 'needed' values of the analysis task.
2704
2705 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
2706
2707         Unreviewed build fix. Updated config.json after recent changes.
2708
2709         * config.json:
2710
2711 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
2712
2713         Make the analysis page more useful
2714         https://bugs.webkit.org/show_bug.cgi?id=143617
2715
2716         Reviewed by Chris Dumez.
2717
2718         * public/api/analysis-tasks.php:
2719         (fetch_and_push_bugs_to_tasks): Added total and finished numbers of build requests associated
2720         with the fetched analysis tasks as buildRequestCount and finishedBuildRequestCount respectively.
2721         * public/v2/analysis.js:
2722         (App.AnalysisTask.formattedCreatedAt): Added.
2723         (App.AnalysisTask._addLeadingZero): Added.
2724         (App.AnalysisTask.buildRequestCount): Added.
2725         (App.AnalysisTask.finishedBuildRequestCount): Added.
2726         (App.AnalysisTask.statusLabel): Added. Status total and finished numbers of build requests.
2727         (App.AnalysisTask.testGroups):
2728         (App.AnalysisTask.triggerable):
2729         (App.AnalysisTask.label):
2730
2731         * public/v2/app.css: Tweaked style rules for the analysis page.
2732
2733         * public/v2/app.js:
2734         (App.buildPopup): Sort the list of platforms by name.
2735         (App.AnalysisRoute.model): Sort the list of analysis tasks by the order they are created.
2736         (App.AnalysisTaskController._fetchedManifest): Added elementId to associate bug tracker names
2737         such as "Bugzilla" with the corresponding text field.
2738
2739         * public/v2/index.html: Added a bunch of columns to the analysis page and also wrapped the table
2740         showing A/B testing results in a div with overflow: scroll so that it always leaves enough space
2741         for the accompanying graph.
2742
2743 2015-04-09  Ryosuke Niwa  <rniwa@webkit.org>
2744
2745         Perf dashboard should automatically select ranges for A/B testing
2746         https://bugs.webkit.org/show_bug.cgi?id=143580
2747
2748         Reviewed by Chris Dumez.
2749
2750         Added a new statistics option for picking a A/B test range selection strategy.
2751         The selected ranges are shown in the graph using the same UI to show analysis tasks.
2752
2753         * public/v2/app.js:
2754         (App.DashboardPaneProxyForPicker._platformOrMetricIdChanged): Updated the query parameters for
2755         charts page used by the dashboard since we've added a new parameter at the end.
2756         (App.Pane.ranges): Added. Merges ranges created for analysis tasks and A/B testing.
2757         (App.Pane.updateStatisticsTools): Clone and set the test range selection strategies.
2758         (App.Pane._cloneStrategy): Copy isSegmentation.
2759         (App.Pane._updateMovingAverageAndEnvelope): Set testRangeCandidates.
2760         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Update the charts when a new text range
2761         selection strategy is picked by the user.
2762         (App.Pane._computeMovingAverageAndOutliers): Compute the test ranges using the chosen strategy.
2763         Avoid going through isAnomalyArray when no anomaly detection strategy is enabled. Also changed
2764         the return value from the moving average time series to a dictionary that contains the moving
2765         average time series, a dictionary of anomalies, and an array of test ranges.
2766         (App.ChartsController._parsePaneList): Parse the test range selection strategy configuration.
2767         (App.ChartsController._serializePaneList): Ditto for serialization.
2768         (App.ChartsController._scheduleQueryStringUpdate): Update the URL hash when the user picks a new
2769         test range selection strategy.
2770
2771         * public/v2/chart-pane.css: Fixed a typo as well as added a CSS rule for test ranges markers.
2772
2773         * public/v2/index.html: Added UI for selecting a test range selection strategy.
2774
2775         * public/v2/interactive-chart.js:
2776         (App.InteractiveChartComponent._rangesChanged): Pass down "status" to be used as a class name.
2777
2778         * public/v2/js/statistics.js:
2779         (Statistics.MovingAverageStrategies): Added isSegmentation to segmentation strategies.
2780         (Statistics.TestRangeSelectionStrategies): Added.
2781
2782 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
2783
2784         The results of A/B testing should state statistical significance
2785         https://bugs.webkit.org/show_bug.cgi?id=143552
2786
2787         Reviewed by Chris Dumez.
2788
2789         Added statistical comparisons between results for each configuration on analysis task page using
2790         Welch's t-test. The probability as well as t-statistics and the degrees of freedoms are reported.
2791
2792         * public/v2/app.js:
2793         (App.TestGroupPane._populate): Report the list of statistical comparison between every pair of
2794         root configurations in the results. e.g. if we've got A, B, C configurations then compare A/B, A/C
2795         and B/C.
2796         (App.TestGroupPane._computeStatisticalSignificance): Compute the statistical significance using
2797         Welch's t-test. Report the probability by which two samples do not come from the same distribution.
2798         (App.TestGroupPane._createConfigurationSummary): Include the array of results for this configuration.
2799         Also renamed "items" to "requests" for clarity.
2800
2801         * public/v2/index.html: Added the template for showing statistical comparisons.
2802
2803         * public/v2/js/statistics.js: Renamed tDistributionQuantiles to tDistributionByOneSidedProbability
2804         for clarity. Also factored out the functions to convert from one-sided probability to two-sided
2805         probability and vice versa.
2806         (Statistics.supportedConfidenceIntervalProbabilities):
2807         (Statistics.confidenceIntervalDelta):
2808         (Statistics.probabilityRangeForWelchsT): Added. Computes the lower bound and the upper bound for
2809         the probability that two values are sampled from distinct distributions using Welch's t-test.
2810         (Statistics.computeWelchsT): This function now takes two-sided probability like all other functions.
2811         (.tDistributionByOneSidedProbability): Renamed from tDistributionQuantiles.
2812         (.oneSidedToTwoSidedProbability): Extracted.
2813         (.twoSidedToOneSidedProbability): Extracted.
2814         (Statistics.MovingAverageStrategies): Converted the one-sided probability to the two-sided probability
2815         now that computeWelchsT takes two-sided probability.
2816
2817 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
2818
2819         Unreviewed fix after r182496 for when the cached runs JSON doesn't exist.
2820
2821         * public/v2/app.js:
2822         (App.Pane._fetch):
2823         (App.Pane.refetchRuns):
2824
2825 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
2826
2827         Perf dashboard should have a way of marking outliers
2828         https://bugs.webkit.org/show_bug.cgi?id=143466
2829
2830         Reviewed by Chris Dumez.
2831
2832         Address kling's in-person comment to notify users when the new run status is saved in the database.
2833
2834         * public/v2/app.js:
2835         (App.PaneController._selectedItemIsMarkedOutlierDidChange)
2836         * public/v2/chart-pane.css: Fixed a typo.
2837
2838 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
2839
2840         Perf dashboard should have a way of marking outliers
2841         https://bugs.webkit.org/show_bug.cgi?id=143466
2842
2843         Reviewed by Chris Dumez.
2844
2845         Added UI to mark a data point as an outlier as well as a button to toggle the visibility of outliers.
2846         Added a new privileged API /privileged-api/update-run-status to store this boolean flag.
2847
2848         * init-database.sql: Added run_marked_outlier column to test_runs table.
2849
2850         * public/admin/tests.php:
2851
2852         * public/api/runs.php:
2853         (main): Only emit Cache-Control and Expires headers in v1 UI.
2854         (RunsGenerator::format_run): Emit markedOutlier.
2855
2856         * public/include/admin-header.php:
2857
2858         * public/include/db.php:
2859         (Database::is_true): Made it static.
2860
2861         * public/include/manifest.php:
2862         (Manifest::platforms):
2863
2864         * public/index.html: Call into /api/runs/ with ?cache=true.
2865
2866         * public/privileged-api/update-run-status.php: Added.
2867         (main): Updates the newly added column in test_runs table.
2868
2869         * public/v2/app.js:
2870         (App.Pane._fetch):
2871         (App.Pane.refetchRuns): Extracted from App.Pane._fetch.
2872         (App.Pane._didFetchRuns): Renamed from _updateChartData.
2873         (App.Pane._setNewChartData): Added. Pick the right time series based based on the value of showOutlier.
2874         Cloning chartData is necessary when toggling the outlier visibility or using statistics tools because
2875         the interactive chart component only observes changes to chartData and not individual properties of it.
2876         (App.Pane._highlightPointsMarkedAsOutlier): Added. Highlight points marked as outliers.
2877         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Call to _setNewChartData replaced the code to
2878         clone chartData here.
2879
2880         (App.PaneController.actions.toggleShowOutlier): Toggle the visibility of points marked as outliers by
2881         invoking App.Pane._setNewChartData.
2882         (App.PaneController._detailsChanged): Don't hide the analysis pane when details changed since keep
2883         opening the pane for marking points as outliers would be annoying.
2884         (App.PaneController._updateCanAnalyze): Update 'cannotMarkOutlier' as well as 'cannotAnalyze'.
2885         (App.PaneController.selectedMeasurement): Added.
2886         (App.PaneController.showOutlierTitle): Added.
2887         (App.PaneController._selectedItemIsMarkedOutlierDidChange): Added. Call out to setMarkedOutlier to
2888         mark the selected point as an outlier via the newly added privileged API.
2889
2890         * public/v2/chart-pane.css: Updated styles.
2891
2892         * public/v2/data.js:
2893         (PrivilegedAPI._post): Report the semantic errors.
2894         (Measurement.prototype.markedOutlier): Added.
2895         (Measurement.prototype.setMarkedOutlier): Added. Uses PrivilegedAPI to update the database.
2896         (RunsData.prototype.timeSeriesByCommitTime): Added a new argument, includeOutliers, to indicate
2897         whether the time series should include measurements marked as outliers or not.
2898         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
2899         (RunsData.prototype._timeSeriesByTimeInternal): Extracted from timeSeriesByCommitTime and
2900         timeSeriesByBuildTime to share code. Now ignores measurements marked as outliers if needed.
2901
2902         * public/v2/index.html: Added an icon for showing and hiding outliers. Also added a checkbox to
2903         mark individual points as outliers.
2904
2905         * public/v2/interactive-chart.js:
2906         (App.InteractiveChartComponent._selectClosestPointToMouseAsCurrentItem): Re-enable the distance
2907         heuristics that takes vertical closeness into account. This heuristics is more useful when marking
2908         some points as outliers. This heuristics was disabled because the behavior was unpredictable but
2909         with the arrow key navigation support, this is no longer an issue.
2910
2911         * public/v2/manifest.js:
2912         (App.Manifest._formatFetchedData): Added showOutlier to the chart data. This function dynamically
2913         updates the time series in this chart data in order to include or exclude outliers.
2914
2915 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
2916
2917         Perf dashboard should be able to trigger A/B testing jobs for iOS
2918         https://bugs.webkit.org/show_bug.cgi?id=143398
2919
2920         Reviewed by Chris Dumez.
2921
2922         Fix various bugs in the perf dashboard so that it can schedule A/B testing jobs for iOS.
2923
2924         Also generalized sync-with-buildbot.py slightly to meet the requirements of iOS builders.
2925
2926         * public/api/triggerables.php:
2927         (main): Avoid spitting a warning when $id_to_triggerable doesn't contain the triggerable.
2928         * public/v2/analysis.js:
2929         (App.AnalysisTask.triggerable): Log an error when failed to fetch triggerables for debugging purposes.
2930         * public/v2/app.js:
2931         (App.AnalysisTaskController.updateRootConfigurations): Show 'None' when a revision is missing from
2932         some of the data points. This will happen when we modify the list of projects we build for iOS.
2933         (App.AnalysisTaskController.actions.createTestGroup): Gracefully fail by showing alerts when an user
2934         attempts to create an invalid test group; when there is already another test group of the same or when
2935         only either configuration specifies the revision for some repository.
2936         (App.AnalysisTaskController._updateRootsBySelectedPoints): Fixed a typo: sets[i] -> set.
2937         * public/v2/index.html: Don't show the form to create a new test group if it's not available.
2938         * tools/sync-with-buildbot.py:
2939         (find_request_updates):
2940         (schedule_request): iOS builders take a JSON that contains the list of roots. Generate this JSON when
2941         a dictionary of the form {rootsExcluding: ["WebKit"]} is specified. Also replaced the way we refer to
2942         a revision from $-based text replacements to an explicit dictionary of the form {root: "WebKit"}.
2943         (request_id_from_build): Don't hard code the parameter name here. Retrieve the name from the config.
2944
2945 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
2946
2947         Add time series segmentation algorithms as moving averages
2948         https://bugs.webkit.org/show_bug.cgi?id=143362
2949
2950         Reviewed by Chris Dumez.
2951
2952         This patch implements two preliminary time series segmentation algorithms as moving averages.
2953
2954         Recursive t-test: Compute Welch's t-statistic at each point in a given segment of the time series.
2955         If Welch's t-test implicates a statistically significance difference, then split the segment into two
2956         sub segments with the maximum t-statistic (i.e. the point at which if split would yield the highest
2957         probability that two segments do not share the same "underlying" mean in classical / frequentist sense).
2958         We repeat this process recursively. See [1] for the evaluation of this particular algorithm.
2959
2960         Schwarz criterion: Use Schwarz or Bayesian information criterion to heuristically find the optimal
2961         segmentation. Intuitively, the problem of finding the best segmentation comes down to minimizing the
2962         residual sum of squares in each segment as in linear regressions. That is, for a given segment with
2963         values y_1 through y_n with mean y_avg, we want to minimize the sum of (y_i - y_avg)^2 over i = 1
2964         through i = n. However, we also don't want to split every data point into a separate segment so we need
2965         to account the "cost" of introducing new segments. We use a cost function that's loosely based on two
2966         models discussed in [2] for simplicity. We will tune this cost function further in the future.
2967
2968         The problem of finding the best segmentation then reduces to a search problem. Unfortunately, our problem
2969         space is exponential with respect to the size of the time series since we could split at each data point.
2970         We workaround this problem by first splitting the time series into a manageable smaller grids, and only
2971         considering segmentation of a fixed size (i.e. the number of segments is constant). Since time series
2972         tend to contain a lot more data points than segments, this strategy finds the optimal solution without
2973         exploring much of the problem space.
2974
2975         Finding the optimal segmentation of a fixed size is, itself, another search problem that is equivalent to
2976         finding the shortest path of a fixed length in DAG. Here, we use dynamic programming with a matrix of size
2977         n by n where n is the length of the time series (grid). Each entry in this matrix at (i, k) stores
2978         the minimum cost of segmenting data points 1 through i using k segments. We start our search at i = 1.
2979         Clearly C(1, 0) = 0 (note the actual code uses 0-based index). In i-th iteration, we compute the cost
2980         S(i, j) of each segment starting at i and ending at another point j after i and update C(j, k + 1) by
2981         min( C(j, k + 1), C(i, k) + S(i, j) ) for all values of j above i.
2982
2983         [1] Kensuke Fukuda, H. Eugene Stanley, and Luis A. Nunes Amaral, "Heuristic segmentation of
2984         a nonstationary time series", Physical Review E 69, 021108 (2004)
2985
2986         [2] Marc Lavielle, Gilles Teyssi`ere, "Detection of Multiple Change–Points in Multivariate Time Series"
2987         Lithuanian Mathematical Journal, vol 46, 2006
2988
2989         * public/v2/index.html: Show the optional description for the chosen moving average strategy.
2990         * public/v2/js/statistics.js:
2991         (Statistics.testWelchsT):
2992         (Statistics.computeWelchsT): Extracted from testWelchsT. Generalized to take the offset and the length
2993         of each value array between which Welch's t-statistic is computed. This generalization helps the
2994         Schwarz criterion segmentation algorithm avoid splitting values array O(n^2) times.
2995         (.sampleMeanAndVarianceForValues): Ditto for the generalization.
2996         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Added. Implements recursive t-test.
2997         (.splitIntoSegmentsUntilGoodEnough): Added. Implements Schwarz criterion.
2998         (.findOptimalSegmentation): Added. Implements the algorithm to find the optimal segmentation of a fixed
2999         segment count.
3000         (.SampleVarianceUpperTriangularMatrix): Added. Stores S(i, j) used by findOptimalSegmentation.
3001         (.SampleVarianceUpperTriangularMatrix.prototype.costBetween): Added.
3002
3003 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
3004
3005         REGRESSION: Perf dashboard sometimes fails to update zooming level
3006         https://bugs.webkit.org/show_bug.cgi?id=143359
3007
3008         Reviewed by Darin Adler.
3009
3010         The bug was caused by various bugs that ended up in an exception.
3011
3012         * public/v2/app.js:
3013         (App.Pane._handleFetchErrors): Removed superfluous console.log.
3014         (App.Pane.computeStatus): Fixed the bug in r182185 that previousPoint could be null.
3015         (App.PaneController.actions.zoomed): Update the overview when the main chart triggered a zoom.
3016         * public/v2/index.html: Replaced all instances of href="#" by href="javascript:false" to avoid navigating
3017         to # when Ember.js fails to attach event listeners on time.
3018         * public/v2/interactive-chart.js:
3019         (App.InteractiveChartComponent._updateDimensionsIfNeeded): Avoid using a negative width or height when
3020         the containing element's size is 0.
3021         (App.InteractiveChartComponent._updateBrush): Ditto.
3022
3023 2015-04-02  Ryosuke Niwa  <rniwa@webkit.org>
3024
3025         Perf dashboard should have UI to test out anomaly detection strategies
3026         https://bugs.webkit.org/show_bug.cgi?id=143290
3027
3028         Reviewed by Benjamin Poulain.
3029
3030         Added the UI to select anomaly detection strategies. The detected anomalies are highlighted in the graph.
3031
3032         Implemented the Western Electric Rules 1 through 4 in http://en.wikipedia.org/wiki/Western_Electric_rules
3033         as well as Welch's t-test that compares the last five points to the prior twenty points.
3034
3035         The latter is what Mozilla uses (or at least did in the past) to detect performance regressions on their
3036         performance tests although they compare medians instead of means.
3037
3038         All of these strategies don't quite work for us since our data points are too noisy but this is a good start.
3039
3040         * public/v2/app.js:
3041         (App.Pane.updateStatisticsTools): Clone anomaly detection strategies.
3042         (App.Pane._updateMovingAverageAndEnvelope): Highlight anomalies detected by the enabled strategies.
3043         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Observe changes to anomaly detection strategies.
3044         (App.Pane._computeMovingAverageAndOutliers): Detect anomalies by each strategy and aggregate results.
3045         Only report the first data point when multiple consecutive data points are detected as anomalies.
3046         * public/v2/chart-pane.css: Updated styles.
3047         * public/v2/index.html: Added the pane for selecting anomaly detection strategies.
3048         * public/v2/js/statistics.js:
3049         (Statistics.testWelchsT): Added. Implements Welch's t-test.
3050         (.sampleMeanAndVarianceForValues): Added.
3051         (.createWesternElectricRule): Added.
3052         (.countValuesOnSameSide): Added.
3053         (Statistics.AnomalyDetectionStrategy): Added.
3054
3055 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3056
3057         REGRESSION: Searching commits can highlight wrong data points
3058         https://bugs.webkit.org/show_bug.cgi?id=143272
3059
3060         Reviewed by Antti Koivisto.
3061
3062         The bug was caused by /api/commits returning commit times with millisecond precision whereas /api/runs
3063         return commit times with only second precision. This resulted in the frontend code to match a commit
3064         with the data point that included the next commit when the millisecond component of commit's timestamp
3065         wasn't identically 0.
3066
3067         This discrepancy was caused by the fact PHP's strtotime only ignores milliseconds and /api/commits
3068         was returning timestamp as string instead of parsing via Database::to_js_time as done in /api/runs
3069         so miliseconds component was only preserved in /api/commits.
3070
3071         Fixed the bug by always using Database::to_js_time to return commit time. Also fixed to_js_time so that
3072         it returns time in milisecond precision.
3073
3074         * public/api/commits.php:
3075         (fetch_commits_between): Use Database::to_js_time for format commit times.
3076         (format_commit): Ditto.
3077         * public/include/db.php:
3078         (Database::to_js_time): Parse and append millisecond component. Ignore sub-milliseconds for simplicity.
3079         * public/v2/data.js:
3080         (CommitLogs.fetchForTimeRange): The commit time is now an integer so don't call "replace" on it.
3081
3082 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3083
3084         Perf dashboard should show relative change in values
3085         https://bugs.webkit.org/show_bug.cgi?id=143252
3086
3087         Reviewed by Antti Koivisto.
3088
3089         When a range of values are selected, show the percentage difference between the start and the end
3090         in addition to the absolute value difference. When a single point is selected, show the relative
3091         difference with respect to the previous point. Use two significant figures and always show plus sign
3092         when the difference is positive.
3093
3094         * public/v2/app.js: Compute and format the relative difference.
3095         * public/v2/chart-pane.css: Don't let commits view shrink itself when they're all collapsed.
3096         * public/v2/index.html: Show the relative difference.
3097
3098 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
3099
3100         REGRESSION(r180000): Changing moving average or enveloping strategy doesn't update the graph
3101         https://bugs.webkit.org/show_bug.cgi?id=143254
3102
3103         Reviewed by Antti Koivisto.
3104         
3105         The bug was caused by App.Pane no longer replacing 'chartData' property when updating the moving average
3106         or the enveloping values. Fixed the bug by creating a new chartData object when the strategy is changed
3107         so that the interactive chart component will observe a change to 'chartData'.
3108
3109         * public/v2/app.js:
3110         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Added.
3111
3112 2015-03-19  Ryosuke Niwa  <rniwa@webkit.org>
3113
3114         Unreviewed build fixes.
3115
3116         * public/include/manifest.php:
3117         (Manifest::generate): These should be {} instead of [] when they're empty.
3118         * public/v2/data.js:
3119         (Measurement.prototype.formattedRevisions): Don't assume previousRevisions[repositoryId] exits.
3120         * public/v2/manifest.js:
3121         (App.Metric.fullName): Fixed the typo.
3122         * tests/admin-regenerate-manifest.js: Fixed the test.
3123
3124 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3125
3126         Commit the erroneously reverted change.
3127
3128         * public/api/runs.php:
3129         (RunsGenerator::results): 
3130
3131 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3132
3133         Loading the perf dashboard takes multiple seconds
3134         https://bugs.webkit.org/show_bug.cgi?id=141860
3135
3136         Reviewed by Andreas Kling.
3137
3138         This patch introduces the caches of JSON files returned by /api/ in /data/ directory. It also records
3139         the last time test_runs rows associated with the requested platforms and metrics are inserted, updated,
3140         or removed in the caches as well as the manifest JSON files ("last modified time"). Because the manifest
3141         is regenerated each time a new test result is reported, the front end can compare last modified time in
3142         the manifest file with that in a /api/runs JSON cache to detect the stale-ness.
3143
3144         More concretely, the front end first optimistically fetches the JSON in /data/. If the cache doesn't exit
3145         or the last modified time in the cache doesn't match with that in the manifest file, it would fetch it
3146         again via /api/runs. In the case the cache did exist, we render the charts based on the cache meanwhile.
3147         This dramatically reduces the perceived latency for the page load since charts are drawn immediately using
3148         the cache and we would only re-render the charts as new up-to-date JSON comes in.
3149
3150         This patch also changes the format of runs JSONs by pushing the exiting properties into 'configurations'
3151         and adding 'lastModified' and 'elapsedTime' at the top level.
3152
3153         * init-database.sql: Added config_runs_last_modified to test_configurations table as well as a trigger to
3154         auto-update this column upon changes to test_runs table.
3155
3156         * public/admin/test-configurations.php:
3157         (add_run): Regenerate the manifest file to invalidate the /api/runs JSON cache.
3158         (delete_run): Ditto.
3159
3160         * public/api/runs.php:
3161         (main): Fetch all columns of test_configurations table including config_runs_last_modified. Also generate
3162         the cache in /data/ directory.
3163         (RunsGenerator::__construct): Compute the last modified time for this (platform, metric) pair.
3164         (RunsGenerator::results): Put the old content in 'configurations' property and include 'lastModified' and
3165         'elapsedTime' properties. 'elapsedTime' is added for debugging purposes.
3166         (RunsGenerator::add_runs):
3167         (RunsGenerator::parse_revisions_array):
3168
3169         * public/include/db.php:
3170         (CONFIG_DIR): Added.
3171         (generate_data_file): Added based on ManifestGenerator::store.
3172         (Database::to_js_time): Extracted from RunsGenerator::add_runs to share code.
3173
3174         * public/include/json-header.php:
3175         (echo_success): Renamed from success_json. Return the serialized JSON instead of echo'ing it so that we can
3176         generate caches in /api/runs/.
3177         (exit_with_success):
3178
3179         * public/include/manifest.php:
3180         (ManifestGenerator::generate): Added 'elapsedTime' property for the time taken to generate the manifest.
3181         It seems like we're generating it in 200-300ms for now so that's good.
3182         (ManifestGenerator::store): Uses generate_data_file.
3183         (ManifestGenerator::platforms): Added 'lastModified' array to each platform entry. This array contains the
3184         last modified time for each (platform, metric) pair.
3185
3186         * public/index.html:
3187         (fetchTest): Updated per the format change in runs JSON.
3188
3189         * public/v2/app.js:
3190         (App.Pane._fetch): Fetch the cached JSON first. Refetch the uncached version if instructed as such.
3191         (App.Pane._updateChartData): Extracted from App.Pane._fetch.
3192         (App.Pane._handleFetchErrors): Ditto.
3193
3194         * public/v2/data.js:
3195         (RunsData.fetchRuns): Takes the fourth argument indicating whether we should fetch the cached version or not.
3196         The cached JSON is located in /data/ with the same filename. When fetching a cached JSON results in 404,
3197         fulfill the promise with null as the result instead of rejecting it. The only client of this function which
3198         sets useCache to true is App.Manifest.fetchRunsWithPlatformAndMetric, and it handles this special case.
3199
3200         * public/v2/manifest.js:
3201         (App.DateArrayTransform): Added. Handles the array of last modified dates in platform objects.
3202         (App.Platform.lastModifiedTimeForMetric): Added. Returns the last modified date in the manifest JSON.
3203         (App.Manifest.fetchRunsWithPlatformAndMetric): Takes "useCache" like RunsData.fetchRuns. Set shouldRefetch
3204         to true if response is null (the cache didn't exit) or the cache is out-of-date.
3205         (App.Manifest._formatFetchedData): Extracted from App.Manifest.fetchRunsWithPlatformAndMetric.
3206
3207         * run-tests.js:
3208         (initializeDatabase): Avoid splitting function definitions in the middle.
3209
3210         * tests/api-report.js: Added tests to verify that reporting new test results updates the last modified time
3211         in test_configurations.
3212
3213 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
3214
3215         REGRESSION(r180333): Analysis tasks can't be associated with bugs