Testing with remote server cache is unusably slow
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2016-02-05  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Testing with remote server cache is unusably slow
4         https://bugs.webkit.org/show_bug.cgi?id=153928
5
6         Reviewed by Chris Dumez.
7
8         Don't use the single process mode of httpd as it's way too slow even for testing.
9         Also we'll hit a null pointer crash (http://svn.apache.org/viewvc?view=revision&revision=1711479)
10
11         Since httpd exits immediately when launched in multi-process mode, remote-cache-server.py (renamed from
12         run-with-remote-server.py) now has "start" and "stop" commands to start/stop the Apache. Also added
13         "reset" command to reset the cache for convenience.
14
15         * Install.md: Updated the instruction.
16         * config.json: Fixed a typo: httpdErro*r*Log.
17         * tools/remote-cache-server.py: Copied from Websites/perf.webkit.org/tools/run-with-remote-server.py.
18         Now takes one of the following commands: "start", "stop", and "reset".
19         (main):
20         (start_httpd): Extracted from main.
21         (stop_httpd): Added.
22         * tools/remote-server-relay.conf: Removed redundant (duplicate) LoadModule's.
23         * tools/run-with-remote-server.py: Removed.
24
25 2016-02-04  Ryosuke Niwa  <rniwa@webkit.org>
26
27         Perf dashboard should have a script to setup database
28         https://bugs.webkit.org/show_bug.cgi?id=153906
29
30         Reviewed by Chris Dumez.
31
32         Added tools/setup-database.py to setup the database. It retrieves the database name, username, password
33         and initializes a database at the specified location.
34
35         * Install.md: Updated instruction to setup postgres to use setup-database.py.
36         * tools/setup-database.py: Added.
37         (main):
38         (load_database_config):
39         (determine_psql_dir):
40         (start_or_stop_database):
41         (execute_psql_command):
42
43 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
44
45         buildbot syncing scripts sometimes schedule more than one requests per builder
46         https://bugs.webkit.org/show_bug.cgi?id=153047
47
48         Reviewed by Chris Dumez.
49
50         The bug was caused by the check for singularity of scheduledRequests being conducted per configuration
51         instead of per builder. So if there were multiple test configurations (e.g. Speedometer and Octane) that
52         both used the same builder, then we may end up scheduling both at once.
53
54         Fixed the bug by sharing a single set to keep track of the scheduled requests for all configurations per
55         builder.
56
57         * tools/sync-with-buildbot.py:
58         (load_config): Share a set amongst test configurations for each builder.
59         (find_request_updates): Instead of creating a new set for each configuration, reuse the existing sets to
60         share a single set agmonst test configurations for each builder.
61
62 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
63
64         Analysis results viewer sometimes doesn't show the correct relative difference
65         https://bugs.webkit.org/show_bug.cgi?id=152930
66
67         Reviewed by Chris Dumez.
68
69         The bug was caused by single A/B testing result associated with multiple rows when there are multiple data
70         points with the same root set which matches that of an A/B testing.
71
72         Fixed the bug by detecting such a case, and only associating each A/B testing result with the row created
73         for the first matching point.
74
75         * public/v3/components/analysis-results-viewer.js:
76         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
77
78 2016-01-08  Ryosuke Niwa  <rniwa@webkit.org>
79
80         Make v3 UI analysis task page is hard to understand
81         https://bugs.webkit.org/show_bug.cgi?id=152917
82
83         Reviewed by Antti Koivisto.
84
85         Add a dark gray border around the selected block in the analysis results viewer instead of using darker
86         shades since that looks as if they were bigger regression/progression.
87
88         Explicitly show "Failed" as the label instead of omitting with "-" when all build requests in an A/B
89         testing group fails.
90
91         * public/v3/components/analysis-results-viewer.js:
92         (AnalysisResultsViewer.cssTemplate): Tweaked the style to underline text in the hovered blocks and the
93         selected blocks and show a dark gray border around the selected blocks.
94         (AnalysisResultsViewer.TestGroupStackingBlock):
95         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Use this._title for title.
96         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
97         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForRootSet): Deleted.
98
99         * public/v3/components/results-table.js:
100         (ResultsTable.prototype.render):
101         (ResultsTable.prototype._createRevisionListCells): Extracted from ResultsTable.prototype.render.
102         (ResultsTable.cssTemplate): Tweaked the style.
103         (ResultsTableRow):
104         (ResultsTableRow.prototype.constructor): Added _labelForWholeRow to store the label for the entire row.
105         This is used to show the comparison result of two root sets (e.g. A vs B).
106         (ResultsTableRow.prototype.setLabelForWholeRow): Added.
107         (ResultsTableRow.prototype.labelForWholeRow): Added.
108         (ResultsTableRow.prototype.resultContent): Extracted from buildHeading. Creates a hyperlinked bar graph
109         used for each A/B testing result.
110         (ResultsTableRow.prototype.buildHeading): Deleted since we need to set colspan on the second table cell
111         when we're creating a row with _labelForWholeRow.
112
113         * public/v3/components/test-group-results-table.js:
114         (TestGroupResultsTable.prototype.buildRowGroups): Added rows to show relative differences and statistical
115         significance between root sets (e.g. A vs B).
116
117         * public/v3/models/build-request.js:
118         (BuildRequest.prototype.hasCompleted): Added.
119
120         * public/v3/models/test-group.js:
121         (TestGroup.prototype.compareTestResults): Extracted from AnalysisResultsViewer.TestGroupStackingBlock's
122         _computeTestGroupStatus and generalized to be reused in TestGroupResultsTable.
123         (TestGroup.prototype._valuesForRootSet): Moved from AnalysisResultsViewer.TestGroupStackingBlock.
124
125         * public/v3/pages/analysis-task-page.js:
126         (AnalysisTaskPage.cssTemplate): Tweaked the style.
127
128 2016-01-07  Ryosuke Niwa  <rniwa@webkit.org>
129
130         Perf dashboard should automatically add aggregators
131         https://bugs.webkit.org/show_bug.cgi?id=152818
132
133         Reviewed by Chris Dumez.
134
135         When an aggregator entry is missing in aggregators table, automatically insert it in /api/report.
136
137         In a very early version of the perf dashboard, we had the ability to define a custom aggregator
138         in an admin page. In practice, nobody used or needed this feature so we got rid of it even before
139         the dashboard was landed into WebKit repository. This patch cleans up that mess.
140
141         * run-tests.js:
142         (main): Added the filtering capability.
143         (TestEnvironment): Expose the config JSON in the test environment.
144
145         * public/include/report-processor.php:
146         (ReportProcessor): Renamed name_to_aggregator now that it only contains ID.
147         (ReportProcessor::__construct): No longer fetches the aggregator table. An equivalent work is done
148         in newly added ensure_aggregators.
149         (ReportProcessor::process): Calls ensure_aggregators which populates name_to_aggregator_id.
150         (ReportProcessor::ensure_aggregators): Added. Add the builtin aggregators: Arithmetic, Geometric,
151         Harmonic, and Total.
152         (TestRunsGenerator): Renamed name_to_aggregator now that it only contains ID.
153         (TestRunsGenerator::__construct):
154         (TestRunsGenerator::add_aggregated_metric): Don't include aggregator_definition here since it's
155         never used now that all the aggregations are done natively in PHP.
156         (TestRunsGenerator::$aggregators): Added. We don't include SquareSum since it's only used for
157         computing run_square_sum_cache in test_runs table and it's useless elsewhere.
158         (TestRunsGenerator::aggregate_values): Add a comment about that.
159
160         * tests/api-report.js: Updated a test case to reflect the change.
161
162 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
163
164         Perf dashboard JSON API should fail gracefully when postgres is down
165         https://bugs.webkit.org/show_bug.cgi?id=152812
166
167         Reviewed by Chris Dumez.
168
169         Even though all JSON APIs returned DatabaseConnectionFailure as the status when Database::connect
170         returned a falsy value, PHP was spitting out warnings and producing HTTP responses that cannot be
171         parsed as a JSON when pg_connect failed.
172
173         Fixed the bug by suppressing warning messages in pg_connect.
174
175         * public/include/db.php:
176         (Database::connect): Use '@' prefix to suppress warning messages.
177
178 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
179
180         Perf dashboard should auto-generate manifest file when one is missing
181         https://bugs.webkit.org/show_bug.cgi?id=152813
182
183         Reviewed by Chris Dumez.
184
185         When /data/manifest.json is missing, fall back to newly added /api/manifest instead of
186         silently failing to show the UI. This will make the initial setup easier.
187
188         * public/api/manifest.php: Added.
189         (main):
190         * public/include/manifest.php:
191         (Manifest::manifest): Added.
192         * public/v3/main.js:
193         (fetchManifest):
194         (didFetchManifest): Extracted from fetchManifest.
195
196 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
197
198         Commit another forgotten change, this time, for r194653.
199
200         * public/v3/models/measurement-set.js:
201
202 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
203
204         The sampling of time series on v3 UI is too aggressive
205         https://bugs.webkit.org/show_bug.cgi?id=152804
206
207         Reviewed by Chris Dumez.
208
209         Fixed a bug that we were always halving the number of data points in _sampleTimeSeries
210         and increased the number of data points allowed to make the sampling less aggressive.
211
212         * public/v3/components/time-series-chart.js:
213         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Increase the number of maximum points
214         to 2x the number of pixels divided by the radius of each point.
215         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Changed the semantics of endIndex
216         to mean the index after the last point and renamed it to indexAfterEnd.
217         (TimeSeriesChart.prototype._sampleTimeSeries): Fixed a bug that this code always coerced two
218         data points into one sampled data point despite of the fact i and j are sufficiently apart
219         since data[j].time - data[i].time > timePerSample by definition.
220
221 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
222
223         Commit the forgotten change for r194651.
224
225         * public/v3/pages/domain-control-toolbar.js:
226         (DomainControlToolbar.prototype.setStartTime):
227
228 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
229
230         The right hand side of main chart appears to be cut off as you zoom out on v3 UI
231         https://bugs.webkit.org/show_bug.cgi?id=152778
232
233         Reviewed by Antti Koivisto.
234
235         Add a padding on x-axis after the end time to make the main chart more easily interactive.
236
237         * public/v3/components/time-series-chart.js:
238         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics):
239
240         * public/v3/pages/page-with-charts.js:
241         (PageWithCharts.mainChartOptions): Add a padding of 5px at the end of x-axis.
242
243 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
244
245         v3 UI should use four sig-figs to label y-axis of the main charts
246         https://bugs.webkit.org/show_bug.cgi?id=152779
247
248         Reviewed by Antti Koivisto.
249
250         Increase the number of significant figures used in the main charts to four as done in v2 UI.
251
252         * public/v3/pages/chart-pane.js:
253         (ChartPane.constructor): Create a formatter with four significant figures.
254         * public/v3/pages/page-with-charts.js:
255         (PageWithCharts.mainChartOptions): Increase the width of y-axis labels.
256
257 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
258
259         v3 UI's time range slider is harder to use than that of v2 UI
260         https://bugs.webkit.org/show_bug.cgi?id=152780
261
262         Reviewed by Antti Koivisto.
263
264         Improved the time range slider by using a cubic mapping to time range and providing a text field
265         to directly edit the number of days to show.
266
267         Now an user can enter the text mode to directly edit the number of days to show by clicking on
268         the number of days (text field is always there with opacity=0).
269
270         * public/v3/pages/charts-toolbar.js:
271         (ChartsToolbar): Store the minimum and maximum number of days allowed. Also rename _inputElement
272         to _slider and added a new type=number text field as _editor. 
273         (ChartsToolbar.prototype.render):
274         (ChartsToolbar.prototype.setStartTime): Exit the text mode when the number of days is changed by
275         an URL state transition (i.e. back/forward navigation).
276         (ChartsToolbar.prototype._setInputElementValue): Added. Updates the values of _slider and _editor.
277         (ChartsToolbar.prototype._enterTextMode): Added. Hide the elements used by the slider mode and
278         show the text field.
279         (ChartsToolbar.prototype._exitTextMode): Added. Does the opposite.
280         (ChartsToolbar.prototype._sliderValueMayHaveChanged): Renamed from _inputValueMayHaveChanged.
281         (ChartsToolbar.prototype._editorValueMayHaveChanged): Added. Similar to _sliderValueMayHaveChanged
282         but also corrects the value of _editor if needed.
283         (ChartsToolbar.prototype._callNumberOfDaysCallback): Extracted from _inputValueMayHaveChanged.
284         Also fixed a bug that we didn't update the URL state when the change event was fired without
285         modifying the effective number of days.
286         (ChartsToolbar.cssTemplate): Tweaked the style to support the new mode. Also set a fixed width on
287         the span showing the number of days in the slider mode.
288
289 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
290
291         Zooming button is broken on v3 UI
292         https://bugs.webkit.org/show_bug.cgi?id=152777
293
294         Reviewed by Chris Dumez.
295
296         Bring up the zoom button in z-index so that users can click it.
297
298         * public/v3/components/interactive-time-series-chart.js:
299         (InteractiveTimeSeriesChart.cssTemplate):
300
301 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
302
303         v3 UI doesn't preserve the time range when charts page is opened from a dashboard
304         https://bugs.webkit.org/show_bug.cgi?id=152776
305
306         Reviewed by Chris Dumez.
307
308         Fixed the bug by moving the construction of charts URL from DashboardPage.prototype.open to
309         DashboardPage.prototype.render and re-rendering the entire page upon an URL state transition.
310
311         * public/v3/pages/charts-page.js:
312         (ChartsPage.createStateForDashboardItem): Takes the start time for the charts page.
313
314         * public/v3/pages/dashboard-page.js:
315         (DashboardPage.prototype.updateFromSerializedState): Merged _numberOfDaysDidChange and
316         _updateChartsDomainFromToolbar into this function since they're not used elsewhere. Also re-render
317         the entire page when transition between different number of days to show.
318         (DashboardPage.prototype._numberOfDaysDidChange): Deleted.
319         (DashboardPage.prototype._updateChartsDomainFromToolbar): Deleted.
320         (DashboardPage.prototype.render): Construct URL for each charts here.
321         (DashboardPage.prototype._createChartForCell): Don't construct URL here since this function is
322         called once when the dashboard page is opened, and not when the time range is changed.
323
324 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
325
326         Build fix for an old version of PHP after r194618.
327
328         * public/api/measurement-set.php:
329
330 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
331
332         A/B testing results should be visualized intuitively on v3 UI
333         https://bugs.webkit.org/show_bug.cgi?id=152496
334
335         Rubber-stamped by Chris Dumez.
336
337         Add the "stacking block" view of A/B testing results to the analysis task page on v3 UI.
338
339         The patch enhances JSON APIs at /api/analysis-task /api/measurement-set/ to reduce the number of
340         HTTP requests, and adds two UI components: TestGroupResultsTable and AnalysisResultsViewer both
341         of which inherits from an abstract superclass: ResultsTable.
342
343         ResultsTable provides a tabular presentation of measured values in regular measurement sets and
344         A/B testing results using groups of bar graphs created by BarGraphGroup. TestGroupResultsTable
345         inherits from this class to display A/B testing configurations and the averaged results for each
346         configuration, and AnalysisResultsViewer inherits from it to provide an intuitive visualization
347         of the outcomes of all A/B testing results associated with a given analysis task.
348
349         * public/api/analysis-tasks.php:
350         (main): Add the capability to find the analysis task based on its build request.
351         This allows /v3/#/analysis/task/?buildRequest=<id> to be hyperlinked on buildbot page.
352
353         * public/api/measurement-set.php:
354         (main): Removed the unused startTime and endTime, and added "analysisTask" to query parameters.
355         (AnalysisResultsFetcher): Added. Used to fetch measured data associated with every build request
356         on an analysis task.
357         (AnalysisResultsFetcher::__construct):
358         (AnalysisResultsFetcher::fetch): Unlike MeasurementSetFetcher, we fetch the list of commits and
359         list of measurements separately since there will be a lot less builds and commits than measured
360         data (since we're fetching measured values for all tests and their metrics).
361         (AnalysisResultsFetcher::fetch_commits): Fetches commits.
362         (AnalysisResultsFetcher::format_measurement): Like MeasurementSetFetcher::format_measurement but
363         with config_type and config_metric since we're returning measured data for all metrics and test
364         configurations.
365         (AnalysisResultsFetcher::format_map): Similar to MeasurementSetFetcher::format_map.
366
367         * public/v3/components/analysis-results-viewer.js: Added.
368         (AnalysisResultsViewer): Added. 
369         (AnalysisResultsViewer.prototype.didUpdateResults): This callback is called by AnalysisTaskPage
370         when A/B testing results become available.
371         (AnalysisResultsViewer.prototype.render): Overrides ResultsTable's render to highlight the block
372         representing the currently selected test group.
373
374         (AnalysisResultsViewer.prototype.buildRowGroups): Creates a list of rows with "stacking blocks"
375         that visualizes A/B testing results. The algorithm works as follows: 1. Create all table rows.
376         2. Find which row is associated with each set in each test group. 3. Layout "blocks".
377
378         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Collects root sets from all data
379         in the measurement set as well as A/B testing **requests** (results may contain more repositories
380         than requested but they aren't interesting for the purpose of visualizing results for the entire
381         analysis task).
382
383         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Create table rows. First,
384         create table rows for measurement set points that have a matching test group (i.e. either set A
385         or set B of an A/B testing uses the same root set as a point). Second, insert a new row for each
386         root set in each test group which didn't find a matching measurement set point. There is a little
387         subtlety that some A/B testing may specify revisions for a subset of repositories and/or some A/B
388         testing results may appear as if it goes back in time with respect to other A/B testing results.
389         For example, consider creating two A/B test groups for WebKit changes and OS changes separately.
390         There could be no coherent linearization of those two A/B testing in which both WebKit and OS
391         versions move forward.
392
393         (AnalysisResultsViewer.RootSetInTestGroup): Added. Represents a pair (test group, root set) since
394         a root set could be shared by multiple test groups.
395         (AnalysisResultsViewer.TestGroupStackingBlock): Added. A stacked block representing a test group.
396         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex): Associates a row number with
397         either set A or set B.
398         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Creates a table cell
399         for this block.
400         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Returns true if this test group
401         has failed and this block should look "thin" without any label.
402         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus): Computes the
403         status for this test group.
404
405         (AnalysisResultsViewer.TestGroupStackingGrid): Added. AnalysisResultsViewer uses this class to
406         layout blocks representing test groups.
407         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.insertBlockToColumn): Inserts a new block
408         to layout. We keep all test groups doing the same A/B test next to each other.
409         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.layout): Layouts each block / test group
410         in the order they are created.
411         (AnalysisResultsViewer.TestGroupStackingGrid.prototype._layoutBlock): Places the block in the
412         left-most column that can accommodate it while avoiding columns of a different thin-ness. A column
413         is thin if its A/B testing has failed, and not thin otherwise.
414         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.createCellsForRow): Creates table cells for
415         a given row. For each column, generate a table cell if we're in the first row and the first block
416         starts in a later row, a block starts in the current row, or the last block ended in the previous
417         row and the next block or the last row appears later.
418
419         * public/v3/components/bar-graph-group.js: Added. A component for showing a group of bar graphs.
420         (BarGraphGroup): Added. Creates a group of bar graphs with the same value range. It's used by
421         AnalysisResultsViewer and ResultsTable to show bar graphs to compare values.
422         (SingleBarGraph): A component created and collectively controlled by BarGraphGroup.
423
424         * public/v3/components/results-table.js: Added.
425         (ResultsTable): An abstract superclass for TestGroupResultsTable and AnalysisResultsViewer.
426
427         (ResultsTable.prototype.render): Renders the table. 1. Call "buildRowGroups()" implemented by
428         a subclass to obtain the list of rows. 2. Compute the list of repositories to show. 3. For each
429         cell in the table, compute the number of rows to show the same value (for rowspan). 4. Render the
430         table with an extra list of repositories if exists.
431
432         (ResultsTable.prototype._computeRepositoryList): Compute the list of repositories to list
433         revisions in the table. Omit repositories not present in any row or for which all rows have the
434         same revision. In the latter case, include it in the extra repositories listed below the table.
435         This minimizes the amount of redundant information presented to the user.
436
437         (ResultsTableRow): Added. Represents a single row in the table. ResultsTable constructs necessary
438         table cells to tabulate the associated root sets, and shows the associated result using a grouped
439         bar graph. Additional columns are used by AnalysisResultsViewer to show stacked blocks for A/B
440         testing groups.
441
442         * public/v3/components/test-group-results-table.js: Added.
443         (TestGroupResultsTable):
444         (TestGroupResultsTable.prototype.didUpdateResults):
445         (TestGroupResultsTable.prototype.setTestGroup):
446         (TestGroupResultsTable.prototype.heading):
447         (TestGroupResultsTable.prototype.render):
448         (TestGroupResultsTable.prototype.buildRowGroups):
449
450         * public/v3/index.html:
451         * public/v3/models/analysis-results.js: Added.
452         (AnalysisResults): Added. Like MeasurementSet, this class represents a set of measured values
453         associated with a given analysis task.
454         (AnalysisResults.prototype.find): Returns a measured valued for a given build and metric.
455         (AnalysisResults.prototype.add): Adds a new measured value. Used by AnalysisResults.fetch.
456         (AnalysisResults.fetch): Fetches data and creates AnalysisResults for a given analysis task.
457
458         * public/v3/models/analysis-task.js:
459         (AnalysisTask.prototype.startMeasurementId): Added.
460         (AnalysisTask.prototype.endMeasurementId): Added.
461         (AnalysisTask.fetchByBuildRequestId): Added.
462         (AnalysisTask._fetchSubset): Uses DataModelObject.cachedFetch.
463
464         * public/v3/models/build-request.js: Added.
465         (BuildRequest): Added. Represents a single A/B testing request associated with a test group.
466
467         * public/v3/models/builder.js:
468         (Build): Added. Represents a build associated with a given A/B testing result.
469
470         * public/v3/models/commit-log.js:
471         (CommitLog): Made this class inherit from DataModelObject.
472         (CommitLog.ensureSingleton): Added. Finds the singleton object created for a given revision
473         in the specified repository. This helps RootSet and other classes compare commits fast.
474         (CommitLog.prototype.repository): Added.
475         (CommitLog.fetchBetweenRevisions): Uses CommitLog.ensureSingleton.
476
477         * public/v3/models/data-model.js:
478         (DataModelObject):
479         (DataModelObject.namedStaticMap): Added.
480         (DataModelObject.ensureNamedStaticMap): Renamed from namedStaticMap instead of implicitly
481         assuming that the non-static version always creates the map.
482         (DataModelObject.prototype.namedStaticMap): Added.
483         (DataModelObject.cachedFetch): Extracted from AnalysisTask._fetchSubset so that TestGroup's
484         fetchByTask could also use it.
485         (LabeledObject):
486
487         * public/v3/models/measurement-adaptor.js: Added.
488         (MeasurementAdaptor): Extracted from MeasurementCluster. This class is responsible for
489         re-formatting the data received via /api/measurement-set JSON API inside the v3 UI.
490         (MeasurementAdaptor.prototype.extractId): Added.
491         (MeasurementAdaptor.prototype.adoptToAnalysisResults): Added. Used by AnalysisResults.
492         (MeasurementAdaptor.aggregateAnalysisResults): Added. Used by TestGroupResultsTable to
493         aggregate results for each test configuration; e.g. computing the average for set A.
494         (MeasurementAdaptor.prototype.adoptToSeries): Extracted from MeasurementCluster.addToSeries.
495         Added rootSet() to each point. This allows AnalysisResultsViewer to compare them against root
496         sets associated with A/B testing results.
497         (MeasurementAdaptor.computeConfidenceInterval): Moved from MeasurementCluster.
498
499         * public/v3/models/measurement-cluster.js:
500         (MeasurementCluster):
501         (MeasurementCluster.prototype.addToSeries):
502
503         * public/v3/models/repository.js:
504         (Repository.prototype.hasUrlForRevision): Added.
505
506         * public/v3/models/root-set.js: Added.
507         (RootSet): Added. Represents a set of commits in measured results.
508         (MeasurementRootSet): Added. Ditto for results associated with A/B testing.
509
510         * public/v3/models/test-group.js: Added.
511         (TestGroup): Added. Represents a A/B testing on analysis task.
512         (TestGroup.prototype.createdAt): Added.
513         (TestGroup.prototype.buildRequests): Returns the list of build requests associated with this
514         A/B testing.
515         (TestGroup.prototype.addBuildRequest): Added. Used by BuildRequest's constructor to associate
516         itself with this group.
517         (TestGroup.prototype.didSetResult): Added. Called by BuildRequest.setResult when measured
518         values are fetched and associated with a build request in this group.
519
520         * public/v3/models/test.js:
521         (Test):
522
523         * public/v3/pages/analysis-task-page.js:
524         (AnalysisTaskPage):
525         (AnalysisTaskPage.prototype.updateFromSerializedState): Fetch the analysis task, test groups
526         associated with it, and all A/B testing results based on the task id or the build request id
527         specified in the URL.
528         (AnalysisTaskPage.prototype._didFetchTask): Added. Start fetching the measured data. This is
529         the data on charts page for which this analysis task was created, not results of A/B testing.
530         (AnalysisTaskPage.prototype._didFetchMeasurement): Added. Display the fetched data in a table
531         inside AnalysisResultsViewer.
532         (AnalysisTaskPage.prototype._didFetchTestGroups): Added. Display the list of A/B test groups
533         as well as the results of the first A/B testing.
534         (AnalysisTaskPage.prototype._didFetchAnalysisResults): Added.
535         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Added. Once both the analysis task,
536         A/B test groups as well as their results are fetched, update build requests in each test group
537         with their results.
538         (AnalysisTaskPage.prototype.render): Show the list of test groups and highlight the currently
539         selected one.
540         (AnalysisTaskPage.prototype._showTestGroup): Added. A callback used by AnalysisResultsViewer
541         and TestGroupResultsTable to notify this class when the user selects a new test group.
542         (AnalysisTaskPage.htmlTemplate): Updated the template.
543         (AnalysisTaskPage.cssTemplate): Ditto.
544
545         * public/v3/pages/charts-page.js:
546         (ChartsPage.createStateForAnalysisTask): Added. Creates a URL state object for opening a chart
547         associated with an analysis task.
548
549 2015-12-22  Ryosuke Niwa  <rniwa@webkit.org>
550
551         Analysis task page is slow to load
552         https://bugs.webkit.org/show_bug.cgi?id=152517
553
554         Reviewed by Andreas Kling.
555
556         The slowness comes from r194130 which made the JSON API at /api/analysis-tasks to report the start
557         and the end of each analysis task. This query was adding ~2s to the total JSON generation time.
558
559         Cache these values on analysis_task table since they never change once an analysis task is created.
560
561         * init-database.sql: Added columns task_start_run_time and task_end_run_time to analysis_task table.
562         Also added the missing drop statements at the top.
563
564         * public/api/analysis-tasks.php:
565         (fetch_and_push_bugs_to_tasks): Don't fetch the latest commit time of the start and the end.
566         (format_task): Report task_start_run_time and task_end_run_time as startRunTime and endRunTime.
567
568         * public/privileged-api/create-analysis-task.php:
569         (main): Set start_run_time and end_run_time when creating an analysis task.
570         (time_for_run): Added.
571
572 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
573
574         v3 UI shouldn't open/close pane selector by mouseenter/leave
575         https://bugs.webkit.org/show_bug.cgi?id=152399
576
577         Reviewed by Andreas Kling.
578
579         Removed the code to open and close the pane selector by mouseenter and mouseleave
580         since multiple people have complained about the behavior.
581
582         * public/v3/pages/charts-toolbar.js:
583         (ChartsToolbar): Removed the event listeners.
584         (ChartsToolbar.prototype._addPane): Don't close the pane selector when adding a new pane
585         to better support the use case of adding multiple panes.
586         (ChartsToolbar.cssTemplate): Tweaked CSS.
587
588 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
589
590         Popover for analysis tasks shows up at the left edge of annotation bars in the v3 UI
591         https://bugs.webkit.org/show_bug.cgi?id=152389
592
593         Reviewed by Darin Adler.
594
595         Compute the x coordinate of the popover from the center of each annotation bar.
596
597         Also adjust the x coordinate to keep the popover within the charts.
598
599         * public/v3/components/interactive-time-series-chart.js:
600         (InteractiveTimeSeriesChart.prototype._renderChartContent):
601
602 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
603
604         Dashboard charts should have uniform widths on v3 UI
605         https://bugs.webkit.org/show_bug.cgi?id=152395
606
607         Reviewed by Chris Dumez.
608
609         Fix the bug by applying table-layout: fixed on the dashboard table.
610
611         * public/v3/pages/dashboard-page.js:
612         (DashboardPage.prototype.render): Added header-column as a class name to explicitly set the header column with.
613         (DashboardPage.cssTemplate): Adjusted CSS accordingly.
614
615 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
616
617         Closing a pane on v3 UI always closes the last pane
618         https://bugs.webkit.org/show_bug.cgi?id=152388
619
620         Reviewed by Chris Dumez.
621
622         The bug was caused by closePane being called without arguments. (The first argument to bind is "this" value.)
623         Fixed it by passing in "this" pane object to the first argument.
624
625         * public/v3/pages/chart-pane.js:
626         (ChartPane):
627
628 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
629
630         Perf Dashboard v3 UI doesn't show recent data points on v2 UI
631         https://bugs.webkit.org/show_bug.cgi?id=152368
632
633         Reviewed by Chris Dumez.
634
635         The bug was caused by the last modified date in measurement set JSON being a string instead of a POSIX timestamp,
636         which prevented the v3 UI from invalidating the cache. Specifically, the following boolean logic always evaluated
637         to false because +data['lastModified'] was NaN in MeasurementSet.prototype._fetch (/v3/models/measurement-set.js):
638
639         !clusterEndTime && useCache && +data['lastModified'] < self._lastModified
640
641         Fixed the bug by calling Database::to_js_time on the last modified date fetched from the database.
642
643         * public/api/measurement-set.php:
644         (MeasurementSetFetcher::fetch_config_list): Convert the string returned by the database to a POSIX timestamp.
645         * tests/api-measurement-set.js: Added a test to ensure the last modified date in JSON is numeric. Since the value
646         of the last modified date depends on when tests run, we can't assert it to be a certain value.
647
648 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
649
650         v3 UI should show and link the build number on charts page
651         https://bugs.webkit.org/show_bug.cgi?id=152359
652
653         Reviewed by Chris Dumez.
654
655         Show the hyperlinked build number in the v3 UI.
656
657         * public/v3/models/builder.js:
658         (Builder): Renamed _buildURL to _buildUrlTemplate.
659         (Builder.prototype.urlForBuild): Added.
660         * public/v3/pages/chart-pane-status-view.js:
661         (ChartPaneStatusView):
662         (ChartPaneStatusView.prototype.render): Added the code to render hyperlinked build number when one is available.
663         (ChartPaneStatusView.prototype.computeChartStatusLabels): Store currentPoint's measurement object as _buildInfo
664         if the current point is set by an indicator (not by a selection).
665
666 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
667
668         v3 dashboard doesn't stretch charts to fill the screen
669         https://bugs.webkit.org/show_bug.cgi?id=152354
670
671         Reviewed by Chris Dumez.
672
673         The bug was caused by a workaround to avoid canvas stretching table cell too much.
674
675         Fix the problem instead by making the canvas absolutely positioned inside the "time-series-chart" element
676         so that it does not contribute to the intrinsic/natural width of the cell.
677
678         * public/v3/components/time-series-chart.js:
679         (TimeSeriesChart.prototype._ensureCanvas): Make the canvas absolutely positioned inside the shadow root.
680         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Use the container element's size now that
681         the canvas does not resize with it.
682         * public/v3/pages/dashboard-page.js:
683         (DashboardPage.cssTemplate): Updated the CSS so that the chart stretches all the way.
684
685 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
686
687         The chart status on v3 UI sometimes show wrong revision ranges
688         https://bugs.webkit.org/show_bug.cgi?id=152331
689
690         Reviewed by Chris Dumez.
691
692         The bug was caused by the status view not taking the data sampling that happens in TimeSeriesChart into account
693         when finding the previous point. Take this into account by using InteractiveTimeSeries.currentPoint(-1) which
694         finds the sampled data point immediately preceding the current point (at which the indicator is shown).
695
696         * public/v3/components/chart-status-view.js:
697         (ChartStatusView.prototype.updateStatusIfNeeded):
698
699 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
700
701         Perf dashboard's cycler page should use v3 UI
702         https://bugs.webkit.org/show_bug.cgi?id=152324
703
704         Reviewed by Chris Dumez.
705
706         Use the v3 UI in cycler.html after r194130.
707
708         * public/cycler.html:
709         * public/v3/index.html: Removed the reference to a non-existent platform-selector.js.
710
711 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
712
713         Add v3 UI to perf dashboard
714         https://bugs.webkit.org/show_bug.cgi?id=152311
715
716         Reviewed by Chris Dumez.
717
718         Add the third iteration of the perf dashboard UI. UI for viewing and modifying analysis tasks is coming soon.
719         The v3 UI is focused on speed, and removes all third-party script dependencies including jQuery, d3, and Ember.
720         Both the DOM-based UI and graphing are implemented manually.
721
722
723         The entire app is structured using new component library implemented in components/base.js. Each component is
724         an instance of a subclass of ComponentBase which owns a single DOM element. Each subclass may supply static
725         methods named htmlTemplate and cssTemplate as the template for a component instance. ComponentBase automatically
726         clones the templates inside the associated element (or its shadow root on the supported browsers). Each subclass
727         must supply a method called "render()" which constructs and updates the DOM as needed.
728
729         There is a special component called Page, which represents an entire page. Each Page is opened by PageRouter's
730         "route()" function. Each subclass of Page supplies "open()" for initialization and "updateFromSerializedState()"
731         for a hash URL transition.
732
733
734         The key feature of the v3 UI is the split of time series into chunks called clusters (see r194120). On an internal
735         instance of the dashboard, the v2 UI downloads 27MB of data whereas the same page loads only 3MB of data in the v3.
736         The key logic for fetching time series in chunks is implemented by MeasurementSet in /v3/models/measurement-set.js.
737         We first fetch the cached primary cluster (the cluster that contains the newest data) at:
738         /data/measurement-set-<platform-id>-<metric-id>.json
739
740         If that's outdated according to lastModified in manifest.json, then we immediately re-fetch the primary cluster at:
741         /api/measurement-set/?platform=<platform-id>&metric=<metric-id>
742
743         Once the up-to-date primary cluster is fetched, we fetch all "secondary" clusters. For each cluster being fetched,
744         including the primary, we invoke registered callbacks.
745
746
747         In addition, the v3 UI reduces the initial page load time by loading a single bundled JS file generated by
748         tools/bundle-v3-scripts.py. index.html has a fallback to load all 44 JS files individually during development.
749
750         * public/api/analysis-tasks.php:
751         (fetch_and_push_bugs_to_tasks): Added the code to fetch start and end run times. This is necessary in V3 UI
752         because no longer fetch the entire time series. See r194120 for the new measurement set JSON API.
753         (format_task): Compute the category of an analysis task based on "result" value. This will be re-vamped once
754         I add the UI for the analysis task page in v3.
755
756         * public/include/json-header.php:
757         (require_format): CamelCase the name.
758         (require_match_one_of_values): Ditto.
759         (validate_arguments): Renamed from require_existence_of and used in measurement-set.php landed in r194120.
760
761         * public/v3: Added.
762         * public/v3/components: Added.
763
764         * public/v3/components/base.js: Added.
765         (ComponentBase): The base component class.
766         (ComponentBase.prototype.element): Returns the DOM element associated with the DOM element.
767         (ComponentBase.prototype.content): Returns the shadow root if one exists and the associated element otherwise.
768         (ComponentBase.prototype.render): To be implemented by a subclass.
769         (ComponentBase.prototype.renderReplace): A helper function to "render" DOM contents.
770         (ComponentBase.prototype._constructShadowTree): Called inside the constructor to instantiate the templates.
771         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Instantiates components referred by
772         its element name inside the instantiated content.
773         (ComponentBase.isElementInViewport): A helper function. Returns true if the element is in the viewport and it has
774         non-zero width and height.
775         (ComponentBase.defineElement): Defines a custom element that can be automatically instantiated from htmlTemplate.
776         (ComponentBase.createElement): A helper function to create DOM tree to be used in "render()" method.
777         (ComponentBase._addContentToElement): A helper for "createElement".
778         (ComponentBase.createLink): A helper function to create a hyperlink or another clickable element (via callback).
779         (ComponentBase.createActionHandler): A helper function to create an event listener that prevents the default action
780         and stops the event propagation.
781
782         * public/v3/components/button-base.js: Added.
783
784         * public/v3/components/chart-status-view.js: Added.
785         (ChartStatusView): A component that reports the current status of time-series-chart. It's subclasses by
786         ChartPaneStatusView to provide additional information in the charts page's panes.
787
788         * public/v3/components/close-button.js: Added.
789         (CloseButton):
790         * public/v3/components/commit-log-viewer.js: Added.
791         (CommitLogViewer): A component that lists commit revisions along with commit messages for a range of data points.
792
793         * public/v3/components/interactive-time-series-chart.js: Added.
794         (InteractiveTimeSeriesChart): A subclass of InteractiveTimeSeriesChart with interactivity (selection & indicator).
795         Selection and indicator are mutually exclusive.
796
797         * public/v3/components/pane-selector.js: Added.
798         (PaneSelector): A component for selecting (platform, metric) pair to add in the charts page.
799
800         * public/v3/components/spinner-icon.js: Added.
801
802         * public/v3/components/time-series-chart.js: Added.
803         (TimeSeriesChart): A canvas-based chart component without interactivity. It takes a source list and options as
804         the constructor arguments. A source list is a list of measurement sets (measurement-set.js) with drawing options.
805         This component fetches data via MeasurementSet.fetchBetween inside TimeSeriesChart.prototype.setDomain and
806         progressively updates the charts as more data arrives. The canvas is updated on animation frame via rAF and all
807         layout and rendering metrics are lazily computed in _layout. In addition, this component samples data before
808         rendering the chart when there are more data points per pixel in _ensureSampledTimeSeries.
809
810         * public/v3/index.html: Added. Loads bundled-scripts.js if it exists, or individual script files otherwise.
811
812         * public/v3/instrumentation.js: Added. This class is used to gather runtime statistics of v3 UI. (It measures
813         the performance of the perf dashboard UI).
814
815         * public/v3/main.js: Added. Bootstraps the app.
816         (main):
817         (fetchManifest):
818
819         * public/v3/models: Added.
820         * public/v3/models/analysis-task.js: Added.
821         * public/v3/models/bug-tracker.js: Added.
822         * public/v3/models/bug.js: Added.
823         * public/v3/models/builder.js: Added.
824         * public/v3/models/commit-log.js: Added.
825         * public/v3/models/data-model.js: Added.
826         (DataModelObject): The base class for various data objects that correspond to database tables. It supplies static
827         hash map to find entries by id as well as other keys.
828         (LabeledObject): A subclass of DataModelObject with the capability to find an object via its name.
829
830         * public/v3/models/measurement-cluster.js: Added.
831         (MeasurementCluster): Represents a single cluster or a chunk of data in a measurement set.
832
833         * public/v3/models/measurement-set.js: Added.
834         (MeasurementSet): Represents a measurement set.
835         (MeasurementSet.findSet): Returns the singleton set given (metric, platform). We use singleton to avoid issuing
836         multiple HTTP requests for the same JSON when there are multiple TimeSeriesChart that show the same graph (e.g. on
837         charts page with overview and main charts).
838         (MeasurementSet.prototype.findClusters): Finds the list of clusters to fetch in a given time range.
839         (MeasurementSet.prototype.fetchBetween): Fetch clusters for a given time range and calls callback whenever new data
840         arrives. The number of callbacks depends on the how many clusters need to be newly fetched.
841         (MeasurementSet.prototype._fetchSecondaryClusters): Fetches non-primary (non-latest) clusters.
842         (MeasurementSet.prototype._fetch): Issues a HTTP request to fetch a cluster.
843         (MeasurementSet.prototype._didFetchJSON): Called when a cluster is fetched.
844         (MeasurementSet.prototype._failedToFetchJSON): Called when the fetching of a cluster has failed.
845         (MeasurementSet.prototype._invokeCallbacks): Invokes callbacks upon an approval of a new cluster.
846         (MeasurementSet.prototype._addFetchedCluster): Adds the newly fetched cluster in the order.
847         (MeasurementSet.prototype.fetchedTimeSeries): Returns a time series that contains data from all clusters that have
848         been fetched.
849         (TimeSeries.prototype.findById): Additions to TimeSeries defined in /v2/data.js.
850         (TimeSeries.prototype.dataBetweenPoints): Ditto.
851         (TimeSeries.prototype.firstPoint): Ditto.
852
853         * public/v3/models/metric.js: Added.
854         * public/v3/models/platform.js: Added.
855         * public/v3/models/repository.js: Added.
856         * public/v3/models/test.js: Added.
857
858         * public/v3/pages: Added.
859         * public/v3/pages/analysis-category-page.js: Added. The "Analysis" page that lists the analysis tasks.
860         * public/v3/pages/analysis-category-toolbar.js: Added. The toolbar to filter analysis tasks based on its category
861         (unconfirmed, bisecting, identified, closed) and a keyword.
862
863         * public/v3/pages/analysis-task-page.js: Added. Not implemented yet. It just has the hyperlink to the v2  UI.
864
865         * public/v3/pages/chart-pane-status-view.js: Added.
866         (ChartPaneStatusView): A subclass of ChartStatusView used in the charts page. In addition to the current value,
867         comparison to baseline/target, it shows the list of repository revisions (e.g. WebKit revision, OS version).
868
869         * public/v3/pages/chart-pane.js: Added.
870         (ChartPane): A component a pane in the charts page. Each pane has the overview chart and the main chart. The zooming
871         is synced across all panes in the charts page.
872
873         * public/v3/pages/charts-page.js: Added. Charts page.
874         * public/v3/pages/charts-toolbar.js: Added. The toolbar to set the number of days to show. This affects the overview
875         chart's domain in each pane.
876
877         * public/v3/pages/create-analysis-task-page.js: Added.
878         (CreateAnalysisTaskPage): A page that gets shown momentarily while creating a new analysis task.
879
880         * public/v3/pages/dashboard-page.js: Added. A dashboard page.
881         * public/v3/pages/dashboard-toolbar.js: Added. Its toolbar with buttons to select the number of days to show.
882         * public/v3/pages/domain-control-toolbar.js: Added. An abstract superclass of charts and dashboard toolbars.
883
884         * public/v3/pages/heading.js: Added. A component for displaying the header and toolbar, if exists, on each page.
885         * public/v3/pages/page-router.js: Added. This class is responsible for updating the URL hashes as well as opening
886         and updating each page when the hash changes (via back/forward navigation).
887         * public/v3/pages/page-with-charts.js: Added. An abstract subclass of page used by dashboards and charts page.
888         Supplies helper functions for creating TimeSeriesChart options.
889         * public/v3/pages/page-with-heading.js: Added. An abstract subclass of page that uses the heading component.
890         * public/v3/pages/page.js: Added. The Page component.
891         * public/v3/pages/toolbar.js: Added. An abstract toolbar component.
892
893         * public/v3/remote.js: Added.
894         (getJSON): Fetches JSON from the remote server.
895         (getJSONWithStatus): Ditto. Rejects the response if the status is not "OK".
896         (PrivilegedAPI.sendRequest): Posts a HTTP request to a privileged API in /privileged-api/.
897         (PrivilegedAPI.requestCSRFToken): Creates a new CSRF token to request a privileged API post.
898
899         * tools/bundle-v3-scripts.py: Added.
900         (main): Bundles js files together and minifies them by jsmin.py for the v3 UI. Without this script, we're forced to
901         download 44 JS files or making each JS file contain multiple classes.
902
903         * tools/jsmin.py: Copied from WebInspector / JavaScriptCore code.
904
905 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
906
907         Fix v2 UI after r194093.
908
909         * public/v2/data.js:
910
911 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
912
913         Add /api/measurement-set for v3 UI
914         https://bugs.webkit.org/show_bug.cgi?id=152312
915
916         Rubber-stamped by Chris Dumez.
917
918         The new API JSON allows the front end to fetch measured data in chunks called a "cluster" as specified
919         in config.json for each measurement set specified by the pair of a platform and a metric.
920
921         When the front end needs measured data in a given time range (t_0, t_1) for a measurement set, it first
922         fetches the primary cluster by /api/measurement-set/?platform=<platform-id>&metric=<metric-id>.
923         The primary cluster is the last cluster in the set (returning the first cluster here is not useful
924         since we don't typically show very old data), and provides the information needed to fetch other clusters.
925
926         Fetching the primary cluster also creates JSON files at:
927         /data/measurement-set-<platform-id>-<metric-id>-<cluster-end-time>.json
928         to allow latency free access for secondary clusters. The front end code can also fetch the cache of
929         the primary cluster at: /data/measurement-set-<platform-id>-<metric-id>.json.
930
931         Because the front end code has to behave as if all data is fetched, each cluster contains one data point
932         immediately before the first data point and one immediately after the last data point. This avoids having
933         to fetch multiple empty clusters for manually specified baseline data. To support this behavior, we generate
934         all clusters for a given measurement set at once when the primary cluster is requested.
935
936         Furthermore, all measurement sets are divided at the same time into clusters so that the boundary of clusters
937         won't shift as more data are reported to the server.
938
939         * config.json: Added clusterStart and clusterSize as options.
940         * public/api/measurement-set.php: Added.
941         (main):
942         (MeasurementSetFetcher::__construct):
943         (MeasurementSetFetcher::fetch_config_list): Finds configurations that belongs to this (platform, metric) pair.
944         (MeasurementSetFetcher::at_end): Returns true if we've reached the end of all clusters for this set.
945         (MeasurementSetFetcher::fetch_next_cluster): Generates the JSON data for the next cluster. We generate clusters
946         in increasing chronological order (the oldest first and the newest last).
947         (MeasurementSetFetcher::execute_query): Executes the main query.
948         (MeasurementSetFetcher::format_map): Returns the mapping of a measurement field to an array index. This removes
949         the need to have key names for each measurement and reduces the JSON size by ~10%.
950         (MeasurementSetFetcher::format_run): Creates an array that contains data for a single measurement. The order
951         matches that of keys in format_map.
952         (MeasurementSetFetcher::parse_revisions_array): Added. Copied from runs.php.
953         * tests/api-measurement-set.js: Added. Added tests for /api/measurement-set.
954
955 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
956
957         Using fake timestamp in OS version make some results invisible
958         https://bugs.webkit.org/show_bug.cgi?id=152289
959
960         Reviewed by Stephanie Lewis.
961
962         Fix various bugs after r194088.
963
964         * public/api/commits.php:
965         (format_commit): Include the commit order.
966         * public/v2/data.js:
967         (CommitLogs._cacheConsecutiveCommits): Sort by commit order when commit time is missing.
968         * tools/pull-os-versions.py:
969         (OSBuildFetcher._assign_order): Use integer instead of fake time for commit order.
970         (available_builds_from_command): Exit early when an exception is thrown.
971
972 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
973
974         Fix a typo in the previous commit.
975
976         * public/include/report-processor.php:
977
978 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
979
980         Build fix after r192965. Suppress a warning about log being referred to as a closure variable.
981
982         * public/include/report-processor.php:
983
984 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
985
986         Using fake timestamp in OS version make some results invisible
987         https://bugs.webkit.org/show_bug.cgi?id=152289
988
989         Reviewed by Stephanie Lewis.
990
991         Added commit_order column to explicitly order OS versions. This fixes the bug whereby which
992         baseline results reported with only OS versions are shown with x coordinate set to 10 years ago.
993
994         To migrate the existing database, run:
995             ALTER TABLE commits ADD COLUMN commit_order integer;
996             CREATE INDEX commit_order_index ON commits(commit_order);
997
998         Then for each repository $1,
999             UPDATE commits SET (commit_time, commit_order) = (NULL, CAST(EXTRACT(epoch from commit_time) as integer))
1000             WHERE commit_repository = $1;
1001
1002
1003         * init-database.sql: Added the column.
1004         * public/api/commits.php:
1005         (fetch_commits_between): Use commit_order to order commits when commit_time is missing.
1006         * public/api/report-commits.php:
1007         (main): Set commit_order.
1008         * tools/pull-os-versions.py:
1009         (OSBuildFetcher.fetch_and_report_new_builds):
1010         (OSBuildFetcher._assign_order): Renamed from _assign_fake_timestamps. Set the order instead of a fake timestmap.
1011
1012 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
1013
1014         Perf dashboard can't merge when the destination platform is missing baseline/target
1015         https://bugs.webkit.org/show_bug.cgi?id=152286
1016
1017         Reviewed by Stephanie Lewis.
1018
1019         The bug was caused by the query to migrate test configurations to new platform checking
1020         configuration type and metric separately; that is, it assumes the configuration exists
1021         only if either the same type or the same metric exists in the destination.
1022
1023         Fixed the bug by checking both conditions simultaneously for each configuration.
1024
1025         * public/admin/platforms.php:
1026         * tests/admin-platforms.js: Added a test.
1027
1028 2015-12-11  Ryosuke Niwa  <rniwa@webkit.org>
1029
1030         Perf dashboard's buildbot sync config JSON duplicates too much information
1031         https://bugs.webkit.org/show_bug.cgi?id=152196
1032
1033         Reviewed by Stephanie Lewis.
1034
1035         Added shared, per-builder, and per-test (called type) configurations.
1036
1037         * tools/sync-with-buildbot.py:
1038         (load_config):
1039         (load_config.merge):
1040
1041 2015-12-02  Ryosuke Niwa  <rniwa@webkit.org>
1042
1043         Perf dashboard should avoid overflow during geometric mean computation
1044         https://bugs.webkit.org/show_bug.cgi?id=151773
1045
1046         Reviewed by Chris Dumez.
1047
1048         * public/include/report-processor.php:
1049
1050 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
1051
1052         Perf dashboard should extend baseline and target to the future
1053         https://bugs.webkit.org/show_bug.cgi?id=151511
1054
1055         Reviewed by Darin Adler.
1056
1057         * public/v2/data.js:
1058         (RunsData.prototype.timeSeriesByCommitTime): Added extendToFuture as an argument.
1059         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
1060         (RunsData.prototype._timeSeriesByTimeInternal): Ditto.
1061         (TimeSeries): Add a new point to the end if extendToFuture is set and the series is not empty.
1062         * public/v2/manifest.js:
1063         (App.Manifest._formatFetchedData): Set extendToFuture to true for baselines and targets.
1064
1065 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
1066
1067         Perf dashboard should always show comparison to baseline and target even if one is missing
1068         https://bugs.webkit.org/show_bug.cgi?id=151510
1069
1070         Reviewed by Darin Adler.
1071
1072         Show the comparison status against the baseline when baseline is present but target is missing.
1073
1074         To make the code more readable, this patch splits the logic into three cases:
1075         1. Both baseline and target are present
1076         2. Only baseline is present
1077         3. Only target is present
1078
1079         Also extracted a helper function to construct the label.
1080
1081         * public/v2/app.js:
1082         (.labelForDiff): Added.
1083         (App.Pane.computeStatus):
1084
1085 2015-11-23  Commit Queue  <commit-queue@webkit.org>
1086
1087         Unreviewed, rolling out r192716 and r192717.
1088         https://bugs.webkit.org/show_bug.cgi?id=151582
1089
1090         The patch was incorrect. We always need at least one data
1091         point in each configuration (Requested by rniwa on #webkit).
1092
1093         Reverted changesets:
1094
1095         "Perf dashboard's should not include results more than 366
1096         days old in JSON"
1097         https://bugs.webkit.org/show_bug.cgi?id=151529
1098         http://trac.webkit.org/changeset/192716
1099
1100         "Build fix for old version of PHP."
1101         http://trac.webkit.org/changeset/192717
1102
1103 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1104
1105         Build fix for old version of PHP.
1106
1107         * public/api/runs.php:
1108
1109 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1110
1111         Perf dashboard's should not include results more than 366 days old in JSON
1112         https://bugs.webkit.org/show_bug.cgi?id=151529
1113
1114         Reviewed by Timothy Hatcher.
1115
1116         Don't return results more than 366 days old in /api/runs/ JSON API.
1117         This is a ~5% runtime improvement and reduces the JSON file size by 20-50% in the internal perf dashboard.
1118
1119         * public/api/runs.php:
1120         (main): Added the support for "?noResults" to avoid echoing results. This is useful for debugging.
1121         Also instantiate RunsGenerator before issuing the query to find all configurations so that the runtime cost
1122         of doing so will be included in elapsedTime.
1123         (RunsGenerator::fetch_runs): Skip a row when its build and commit times are more than 366 days old.
1124         (RunsGenerator::format_run): Takes build_time and revisions as arguments since fetch_runs uses them now.
1125         (RunsGenerator::parse_revisions_array): Compute the max of commit times.
1126
1127 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1128
1129         Remove chartPointRadius from interactive chart component
1130         https://bugs.webkit.org/show_bug.cgi?id=151480
1131
1132         Reviewed by Darin Adler.
1133
1134         Replaced the parameter by CSS rules.
1135
1136         * public/v2/chart-pane.css:
1137         (.chart .dot):
1138         (.chart .dot.foreground):
1139         (.chart .highlight):
1140         (.chart .extent):
1141         * public/v2/index.html:
1142         * public/v2/interactive-chart.js:
1143         (App.InteractiveChartComponent.Ember.Component.extend._constructGraphIfPossible):
1144         (App.InteractiveChartComponent.Ember.Component.extend._highlightedItemsChanged):
1145
1146 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
1147
1148         Perf dashboard's runs API uses more than 128MB of memory
1149         https://bugs.webkit.org/show_bug.cgi?id=151478
1150
1151         Reviewed by Andreas Kling.
1152
1153         Don't fetch all query results at once to avoid using twice as much memory as needed.
1154         Use iterative API to format each result at a time.
1155
1156         This change is also a 5% runtime performance gain.
1157
1158         * public/api/runs.php:
1159         (RunsGenerator::__construct): Takes a Database instance instead of a list of configurations. The latter is
1160         no longer needed as we pass in each configuration type explicitly to fetch_runs.
1161         (RunsGenerator::fetch_runs): Renamed from add_runs since it now executes the database query via execute_query.
1162         Also moved the logic to compute the last modified time here.
1163         (RunsGenerator::execute_query): Moved from fetch_runs_for_config. Use Database::query instead of query_and_fetch_all.
1164         (RunsGeneratorForTestGroup):
1165         (RunsGeneratorForTestGroup::__construct):
1166         (RunsGeneratorForTestGroup::execute_query): Moved from fetch_runs_for_config_and_test_group.
1167
1168         * public/include/db.php:
1169         (generate_data_file): Lock the file to avoid corruption.
1170
1171 2015-11-19  Ryosuke Niwa  <rniwa@webkit.org>
1172
1173         Perf dashboard always fetches charts JSON twice
1174         https://bugs.webkit.org/show_bug.cgi?id=151483
1175
1176         Reviewed by Andreas Kling.
1177
1178         Only re-generate "runs" JSON via /api/runs/ when the cache doesn't exist in /data/ or the cached JSON is
1179         obsolete (shouldRefetch is set true) or corrupt (the second closure).
1180
1181         * public/v2/app.js:
1182         (App.Pane._fetch):
1183
1184 2015-11-18  Ryosuke Niwa  <rniwa@webkit.org>
1185
1186         Internal perf dashboard takes forever to load
1187         https://bugs.webkit.org/show_bug.cgi?id=151430
1188
1189         Rubber-stamped by Antti Koivisto.
1190
1191         Fix a few performance problems with the perf dashboard v2 UI.
1192
1193         * public/v2/app.js:
1194         (App.DashboardRow._createPane): Set "inDashboard" to true.
1195         (App.Pane._fetch): Immediately show the cached chart instead of waiting for the refetched data which invokes
1196         a PHP JSON API. Also don't fetch the analysis tasks when the chart is shown in the dashboard since we don't
1197         show annotate charts in the dashboard.
1198
1199 2015-10-15  Ryosuke Niwa  <rniwa@webkit.org>
1200
1201         Unreviewed fix of a test after r190687.
1202
1203         * tests/admin-regenerate-manifest.js:
1204
1205 2015-10-12  Ryosuke Niwa  <rniwa@webkit.org>
1206
1207         Perf dashboard tools shouldn't require server credentials in multiple configuration files
1208         https://bugs.webkit.org/show_bug.cgi?id=149994
1209
1210         Reviewed by Chris Dumez.
1211
1212         Made detect-changes.js and pull-svn.py pull username and passwords from the server config JSON to reduce
1213         the number of JSON files that need to include credentials.
1214
1215         Also made each script reload the server config after sleep to allow dynamic credential updates.
1216
1217         In addition, change the server config JSON's format to include scheme, host, and port numbers separately
1218         instead of a url since detect-changes.js needs each value separately.
1219
1220         This reduces the number of JSONs with credentials to two for our internal dashboard.
1221
1222         * tools/detect-changes.js:
1223         (main): Added a property argument parsing. Now takes --server-config-json, --change-detection-config-json,
1224         and --seconds-to-sleep like other scripts.
1225         (parseArgument): Added.
1226         (fetchManifestAndAnalyzeData): Reload the server config JSON.
1227         (loadServerConfig): Added. Set settings.perfserver and settings.slave from the server config JSON. Also
1228         add settings.perfserver.host to match the old format.
1229         (configurationsForTesting): Fixed a bug that we throw an exception when a dashboard contains an empty cell.
1230
1231         * tools/pull-os-versions.py:
1232         (main): Use load_server_config after each sleep.
1233
1234         * tools/pull-svn.py:
1235         (main): Use load_server_config after each sleep.
1236         (fetch_commits_and_submit): Use the perf dashboard's auth as subversion credential when useServerAuth is set.
1237
1238         * tools/sync-with-buildbot.py:
1239         (main): Use load_server_config after each sleep.
1240
1241         * tools/util.py:
1242         (load_server_config): Extracted from python scripts. Computes server's url from scheme, host, and port number
1243         to match the old format python scripts except.
1244
1245 2015-10-11  Ryosuke Niwa  <rniwa@webkit.org>
1246
1247         Build fix after r190817.  Now that pull-os-versions store fake timestamps, we need to bypass timestamp
1248         checks for OS versions when bots try to report new results. Otherwise, we fail to process the reports
1249         with a MismatchingCommitTime error.
1250
1251         * public/include/report-processor.php:
1252         (ReportProcessor::resolve_build_id):
1253
1254 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
1255
1256         Perf dashboard erroneously shows an old OS build in A/B testing range
1257         https://bugs.webkit.org/show_bug.cgi?id=149942
1258
1259         Reviewed by Darin Adler.
1260
1261         Ordering OS builds lexicologically turned out be a bad idea since 15A25 falls between 15A242 and 15A251.
1262         Use a fake/synthetic timestamp to force the commonly understood total order instead.
1263
1264         Refactored pull-os-versions.py to share the server config JSON with other scripts. Also made the script
1265         support pulling multiple sources; e.g. both OS X and iOS.
1266
1267         Also removed superfluous feature to submit results in chunks. The perf dashboard can handle thousands of
1268         revisions being submitted at once just fine.
1269
1270         * public/api/commits.php:
1271         (main): A partial revert of r185574 since we no longer need to order builds lexicologically.
1272
1273         * tools/pull-os-versions.py:
1274         (main): Takes --os-config-json, --server-config-json, and --seconds-to-sleep as arguments instead of
1275         a single --config argument to share the server config JSON with other scripts.
1276         (OSBuildFetcher): Extracted out of main. This class is instantiated for each OS kind (e.g. OS X).
1277         (OSBuildFetcher.__init__): Added.
1278         (OSBuildFetcher._fetch_available_builds): Extracted out of main. Fetches available builds from a website
1279         or custom commands.
1280         (OSBuildFetcher.fetch_and_report_new_builds): Extracted out of main. Submits the fetched builds after
1281         filtering out the ones we've already reported.
1282         (OSBuildFetcher._assign_fake_timestamps): Creates a fake timestamp to establish a total order amongst each
1283         OS X / iOS style build number such as 12A3456b.
1284
1285 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
1286
1287         pull-svn.py fails to sync revisions when SVN credentials is not setup
1288         https://bugs.webkit.org/show_bug.cgi?id=149941
1289
1290         Reviewed by Chris Dumez.
1291
1292         Added the support for specifying subversion credentials.
1293
1294         Also added the support for pulling from multiple subversion servers. Subversion servers are specified
1295         in a JSON configuration file specified by --svn-config formatted as follows:
1296
1297         [
1298             {
1299                 "name": "WebKit",
1300                 "url": "http://svn.webkit.org/repository/webkit",
1301                 "username": "webkitten",
1302                 "password": "webkitten's password",
1303                 "trustCertificate": true,
1304                 "accountNameFinderScript":
1305                     ["python", "/Volumes/Data/WebKit/Tools/Scripts/webkit-patch", "find-users"]
1306             },
1307             ...
1308         ]
1309
1310         In addition, refactored it to use the shared server config JSON for the dashboard access.
1311
1312         * tools/pull-svn.py:
1313         (main): Now takes --svn-config-json, --server-config-json, --seconds-to-sleep and --max-fetch-count
1314         as required options instead of seven unnamed arguments.
1315         (fetch_commits_and_submit): Extracted from main. Fetches at most max_fetch_count new revisions from
1316         the subversion server, and submits them in accordance with server_config.
1317         (fetch_commit_and_resolve_author): Now takes a single repository dictionary instead of two separate
1318         arguments for name and URL to pass down the repository's authentication info to fetch_commit.
1319         (fetch_commit): Ditto. Add appropriate arguments when username and passwords are specified.
1320         (resolve_author_name_from_account): Use a list argument instead of a single string argument now that
1321         the argument comes from a JSON instead of sys.argv.
1322
1323 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1324
1325         Unreviewed race condition fix. Exit early when xScale or yScale is not defined.
1326
1327         * public/v2/interactive-chart.js:
1328         (App.InteractiveChartComponent._updateRangeBarRects):
1329
1330 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1331
1332         Add a page that cycles through v2 dashboards
1333         https://bugs.webkit.org/show_bug.cgi?id=149907
1334
1335         Reviewed by Chris Dumez.
1336
1337         Add cycler.html that goes through each dashboard on v2 UI.
1338
1339         This allows the dashboards to be cycled through on a TV screen.
1340
1341         * public/cycler.html: Added.
1342         (loadURLAt): Appends a new iframe to load the next URL (i is the index of the dashboard to be shown)
1343         at the end of body. We don't immediately show the new iframe since it might take a while to load.
1344         (showNewFrameIfLoaded): Remove the current iframe and show the next iframe if the next dashboard has
1345         finished loading. We can't rely on DOMContentLoaded or load events because we use asynchronous XHR to
1346         load each chart's data. Instead, wait until some chart becomes available or fails to load and none of
1347         charts are still in progress to be shown.
1348
1349 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1350
1351         Allow custom revisions to be specified in A/B testing
1352         https://bugs.webkit.org/show_bug.cgi?id=149905
1353
1354         Reviewed by Chris Dumez.
1355
1356         Allow custom revision number on each "repository" when creating a test group.
1357
1358         * public/v2/app.css:
1359         (form .analysis-group [name=customValue]): Added.
1360
1361         * public/v2/app.js:
1362         (App.AnalysisTaskController._createConfiguration): Added "Custom" as a revision option.
1363         Also added point labels such as (point 3) on "None" for when some points are missing revision info.
1364         (App.AnalysisTaskController._labelForPoints): Extracted from _createConfiguration.
1365         (App.AnalysisTaskController.actions.createTestGroup): Respect the custom revision number when custom
1366         revision option is selected.
1367
1368         * public/v2/index.html: Added a text field for specifying a custom revision number.
1369
1370 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1371
1372         Make the site name configurable in perf dashboard
1373         https://bugs.webkit.org/show_bug.cgi?id=149894
1374
1375         Reviewed by Chris Dumez.
1376
1377         Added "siteTitle" as a new configuration key to specify the site name.
1378
1379         * public/include/db.php:
1380         (config): Now takes the default value as an argument.
1381         * public/include/manifest.php:
1382         (ManifestGenerator::generate): Include siteTitle in the manifest.
1383         * public/index.html: Update the title and the heading when the manifest is loaded.
1384         * public/v2/index.html: Use App.Manifest.siteTitle as the heading. document.title needs to be updated manually.
1385         * public/v2/manifest.js: 
1386         (App.MetricSerializer.normalizePayload): Update document.title and App.Manifest.siteTitle.
1387
1388 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1389
1390         Perf dashboard doesn't show analysis tasks anchored at outliers
1391         https://bugs.webkit.org/show_bug.cgi?id=149870
1392
1393         Reviewed by Chris Dumez.
1394
1395         The bug was caused by the computation of start and end times of analysis tasks being dependent on
1396         time series provided to the interactive chart component even though they are already filtered.
1397
1398         Since the interactive chart component shouldn't be messing with the underlying data models, moved
1399         the code to compute start and end times to App.Pane, to where it belongs, and made the moved code use
1400         the unfiltered time series newly exposed on ChartData.
1401
1402         Also fixed a bug in fetch-from-remote.php which resulted in Ember endlessly fetching same JSON files.
1403
1404         * public/admin/fetch-from-remote.php:
1405         (.): Use the full request URI for HTTP requests and caching. Otherwise, we're going to mix up caches
1406         and Ember can start hanging browsers (took me three hours to debug this).
1407
1408         * public/v2/app.js:
1409         (App.Pane._showOutlierChanged): Added. Resets chartData when showOutlier flag has been changed.
1410         (App.Pane.fetchAnalyticRanges): The old code wasn't filtering analysis tasks by platforms and metrics
1411         at all since it relied on the server-side REST API to do the filtering, which I haven't implemented yet.
1412         Filter the results manually instead.
1413         (App.Pane.ranges): Moved the logic to compute startTime and endTime here from InteractiveChartComponent.
1414         (App.PaneController.toggleShowOutlier): Now that App.Pane responds to showOutlier changes, we don't
1415         need to call a private method on it.
1416         (App.AnalysisTaskController._chartDataChanged): When end points are not found, try showing outliers.
1417         This will cause chartData to be modified so just exit early and wait for getting called again.
1418
1419         * public/v2/interactive-chart.js:
1420         (App.InteractiveChartComponent._rangesChanged): The code to compute start and end time has been moved
1421         to App.Pane.ranges.
1422
1423         * public/v2/manifest.js:
1424         (App.Manifest._formatFetchedData): Added unfiltered time series as new properties as they are now used
1425         to compute the end points of analysis tasks when their end points are outliers.
1426
1427 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
1428
1429         Unreviewed. Fix a typo in r190645.
1430
1431         * public/include/db.php:
1432
1433 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
1434
1435         V2 UI shouldn't sort dashboards lexicologically
1436         https://bugs.webkit.org/show_bug.cgi?id=149856
1437
1438         Reviewed by Chris Dumez.
1439
1440         Don't sort the dashboards by name in App.Manifest.
1441
1442         * public/v2/app.js:
1443         (App.IndexRoute.beforeModel): Don't transition to "undefined" (string) dashboard.
1444         * public/v2/manifest.js:
1445         (App.Manifest.._fetchedManifest):
1446
1447 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
1448
1449         V2 UI fails to show the data for the very first point in charts
1450         https://bugs.webkit.org/show_bug.cgi?id=149857
1451
1452         Reviewed by Chris Dumez.
1453
1454         The bug was caused by seriesBetweenPoints returning null for when point.seriesIndex is 0.
1455         Explicitly check the type of this property instead.
1456
1457         * public/v2/data.js:
1458         (TimeSeries.prototype.seriesBetweenPoints):
1459
1460 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
1461
1462         Perf dashboard should have the capability to test local UI with production data
1463         https://bugs.webkit.org/show_bug.cgi?id=149834
1464
1465         Reviewed by Chris Dumez.
1466
1467         Added tools/run-with-remote-server.py which runs a local httpd server and pulls data from a remote server.
1468
1469         * Install.md: Added the instruction on how to use the script. Also updated the remaining instructions
1470         for El Capitan.
1471         * config.json: Added remote server configurations.
1472         * public/admin/fetch-from-remote.php: Added. This script fetches JSON from the remote server specified in
1473         config.json and caches the results in the location specified as "cacheDirectory" in config.json.
1474         (main):
1475         (fetch_remote):
1476         * public/include/db.php:
1477         (config_path): Extracted from generate_data_file.
1478         (generate_data_file):
1479         * tools/remote-server-relay.conf: Added. Apache 2.4 configuration file for a local http server launched by
1480         run-with-remote-server.py.
1481         * tools/run-with-remote-server.py: Added. Launches Apache with the right set of directives.
1482         (main):
1483         (abspath_from_root):
1484
1485 2015-07-13  Ryosuke Niwa  <rniwa@webkit.org>
1486
1487         Fix a typo.
1488
1489         * public/js/helper-classes.js:
1490
1491 2015-06-27  Ryosuke Niwa  <rniwa@webkit.org>
1492
1493         build-requests should use conform to JSON API format
1494         https://bugs.webkit.org/show_bug.cgi?id=146375
1495
1496         Reviewed by Stephanie Lewis.
1497
1498         Instead of returning single dictionary that maps root set id to a dictionary of repository names
1499         to revisions, timestamps, simply return root sets and roots "rows" or "objects" as defined in
1500         JSON API (http://jsonapi.org/). This API change makes it easier to resolve the bug 146374 and
1501         matches what we do in /api/test-groups.
1502
1503         Also add the support for /api/build-requests/?id=<id> to fetch the build request with <id>.
1504         This is useful for debugging purposes.
1505
1506         * public/api/build-requests.php:
1507         (main): Added the support for $_GET['id']. Also return "rootSets" and "roots".
1508         (update_builds): Extracted from main.
1509
1510         * public/include/build-requests-fetcher.php:
1511         (BuildRequestFetcher::fetch_request): Added. Used for /api/build-requests/?id=<id>.
1512         (BuildRequestFetcher::results_internal): Always call fetch_roots_for_set_if_needed.
1513         (BuildRequestFetcher::fetch_roots_for_set_if_needed): Renamed from fetch_roots_for_set.
1514         Moved the logic to exit early when the root set had already been fetched here.
1515
1516         * public/v2/analysis.js:
1517         (App.TestGroup._fetchTestResults): Fixed the bug that test groups without any successful results
1518         won't be shown.
1519
1520         * tools/pull-os-versions.py:
1521         (main):
1522         (setup_auth): Moved to util.py
1523
1524         * tools/sync-with-buildbot.py:
1525         (main): Replaced a bunch of perf dashboard related options by --server-config-json.
1526         (update_and_fetch_build_requests): No longer takes build_request_auth since that's now taken care
1527         of by setup_auth.
1528         (organize_root_sets_by_id_and_repository_names): Added. Builds the old rootsSets directory based
1529         on "roots" and "rootSets" dictionaries returned by /api/build-requests.
1530         (config_for_request): Fixed a bug that the script blows up when the build request is missing
1531         the repository specified in the configuration. This tolerance is necessary when a new repository
1532         dependency is added but we want to run A/B tests for old builds without the dependency.
1533         (fetch_json): No longer takes auth.
1534
1535         * tools/util.py:
1536         (setup_auth): Moved from pull-os-versions.py to be shared with sync-with-buildbot.py.
1537
1538 2015-06-23  Ryosuke Niwa  <rniwa@webkit.org>
1539
1540         Build fix. A/B testing is broken when continuous builders report revisions out of order.
1541
1542         * public/v2/app.js:
1543         (App.AnalysisTaskController.Ember.Controller.extend.):
1544
1545 2015-06-22  Ryosuke Niwa  <rniwa@webkit.org>
1546
1547         A/B testing results should be shown even if they were submitted to different platforms
1548         https://bugs.webkit.org/show_bug.cgi?id=146219
1549
1550         Reviewed by Andreas Kling.
1551
1552         Fetch A/B testing results regardless of the platform to which results are submitted
1553         by providing the platform ID to which the results were submitted for each test group.
1554
1555         * public/api/test-groups.php:
1556         (main): Include the platform id in the test groups.
1557         * public/v2/analysis.js:
1558         (App.TestGroup._fetchTestResults): Fetch results from the platform associated with the group.
1559
1560 2015-06-19  Csaba Osztrogonác  <ossy@webkit.org>
1561
1562         Remove unnecessary svn:executable flags
1563         https://bugs.webkit.org/show_bug.cgi?id=146107
1564
1565         Reviewed by Alexey Proskuryakov.
1566
1567         * public/js/helper-classes.js: Removed property svn:executable.
1568         * public/js/jquery.flot.plugins.js: Removed property svn:executable.
1569         * public/v2/app.css: Removed property svn:executable.
1570         * public/v2/app.js: Removed property svn:executable.
1571         * public/v2/chart-pane.css: Removed property svn:executable.
1572         * public/v2/data.js: Removed property svn:executable.
1573         * public/v2/index.html: Removed property svn:executable.
1574         * public/v2/js/d3/LICENSE: Removed property svn:executable.
1575         * public/v2/js/d3/d3.js: Removed property svn:executable.
1576         * public/v2/js/d3/d3.min.js: Removed property svn:executable.
1577         * public/v2/js/ember-data.js: Removed property svn:executable.
1578         * public/v2/js/ember.js: Removed property svn:executable.
1579         * public/v2/js/handlebars.js: Removed property svn:executable.
1580         * public/v2/js/jquery.min.js: Removed property svn:executable.
1581         * public/v2/js/statistics.js: Removed property svn:executable.
1582         * public/v2/manifest.js: Removed property svn:executable.
1583         * public/v2/popup.js: Removed property svn:executable.
1584
1585 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
1586
1587         Reading the list of analysis tasks is extremely slow
1588         https://bugs.webkit.org/show_bug.cgi?id=146086
1589
1590         Reviewed by Darin Adler.
1591
1592         The bug was caused by Ember data requesting manifest.js hundreds of times.
1593         Fetch it ahead of time in each route instead.
1594
1595         * public/v2/app.js:
1596         (App.AnalysisRoute.model):
1597         (App.AnalysisTaskRoute.model):
1598
1599 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
1600
1601         Update ReadMe.md and Install.md per database changes
1602         https://bugs.webkit.org/show_bug.cgi?id=146076
1603
1604         Reviewed by Darin Adler.
1605
1606         Updated.
1607
1608         * Install.md:
1609         * ReadMe.md:
1610
1611 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
1612
1613         Increase the popup dismissal time from 100ms to 500ms
1614         https://bugs.webkit.org/show_bug.cgi?id=146077
1615
1616         Rubber-stamped by Andreas Kling.
1617
1618         * public/v2/popup.js:
1619         (App.PopupView.scheduleHiding):
1620
1621 2015-06-16  Ryosuke Niwa  <rniwa@webkit.org>
1622
1623         v2 UI should have buttons to breakdown a test
1624         https://bugs.webkit.org/show_bug.cgi?id=146010
1625
1626         Reviewed by Chris Dumez.
1627
1628         Added buttons beneath each chart pane to add "alternative panes". By default, it shows every platform
1629         as well as "Breakdown" to add all subtests' metrics.
1630
1631         Also removed the metric submenu from tests that had exactly one metric. When a test only measures Time
1632         for example, we make the test itself clickable instead of showing a submenu that only contains one item.
1633
1634         * public/v2/app.js:
1635         (App.ChartsController.addAlternativePanes): Added.
1636         (App.TestProxyForPopup.children): Calls _updateChildren and returns this._children.
1637         (App.TestProxyForPopup.actionName): Added.
1638         (App.TestProxyForPopup.actionArgument): Added.
1639         (App.TestProxyForPopup._updateChildren): Extracted from children. Now also sets _actionName and
1640         _actionArgument in the case there was exactly one metric so that showing submenu is unnecessary.
1641         (App.PaneController.alternativePanes): Added. Returns the list of alternative panes. The platform list
1642         excludes ones that don't have this metric (e.g. iOS doesn't have desktop PLT results) as well as ones
1643         that are already present in the list of panes.
1644         * public/v2/chart-pane.css: Added CSS rules for alternative pane buttons beneath the chart panes.
1645         * public/v2/index.html:
1646         * public/v2/manifest.js:
1647         (App.Metric.childMetrics): Added.
1648
1649 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
1650
1651         Build fix after r185574.
1652
1653         * public/v2/app.js:
1654         (set get App.Pane.Ember.Object.extend.):
1655
1656 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
1657
1658         Fix a typo.
1659
1660         * tools/pull-os-versions.py:
1661         (main):
1662
1663 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
1664
1665         Perf dashboard should be able to list iOS versions as well as OS X versions
1666         https://bugs.webkit.org/show_bug.cgi?id=146003
1667
1668         Reviewed by Stephanie Lewis.
1669
1670         Generalized pull-osx.py so that it can run an arbitrary shell command to fetch OS versions based on
1671         information specified in config.json.
1672
1673         * tools/pull-os-versions.py: Renamed from pull-osx.py.
1674         (main): Use available_builds_from_command when 'customCommands' is specified.
1675         (available_builds_from_command): Added. Executes a shell command to fetch a list of available builds.
1676         (fetch_available_builds): Now takes the repository name.
1677
1678 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
1679
1680         Removed a superfluous console.log per Chris's comment.
1681
1682         * public/v2/app.js:
1683
1684 2015-06-15  Ryosuke Niwa  <rniwa@webkit.org>
1685
1686         Analysis task should show all possible revisions for A/B testing
1687         https://bugs.webkit.org/show_bug.cgi?id=145996
1688
1689         Reviewed by Chris Dumez.
1690
1691         * public/api/commits.php:
1692         (fetch_commits_between): When the time stamp is not available for commits, use revision numbers
1693         to find revisions between two ranges. This is necessary for OS X and iOS versions since they don't
1694         have a "commit time".
1695
1696         * public/v2/app.js:
1697         (App.AnalysisTaskController.updateRootConfigurations): Fetch commits between two end points.
1698         (App.AnalysisTaskController._createConfiguration): Extracted from updateRootConfigurations. List
1699         the fetched list of commits if available.
1700         (App.AnalysisTaskController._serializeNumbersSkippingConsecutiveEntries): Added. Serializes an list
1701         of numbers intelligently. For example, [1, 2, 4, 5] turns into "1-2, 4-5". Without this, some lists
1702         of points shown in the A/B testing configurations become too long. 
1703
1704         * public/v2/commits-viewer.js:
1705         (App.CommitsViewerComponent.commitsChanged):
1706
1707         * public/v2/data.js:
1708         (CommitLogs.fetchCommits): Renamed from fetchForTimeRange.
1709
1710 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
1711
1712         Add a script to post new OS X builds to perf dashboard
1713         https://bugs.webkit.org/show_bug.cgi?id=145955
1714
1715         Reviewed by Darin Adler.
1716
1717         Added a new script pull-osx.py and relaxed the restrictions on commits accepted by the dashboard API.
1718
1719         * public/api/report-commits.php:
1720         (main): Allow more characters than [A-Za-z0-9] in revision. e.g. "10.10.3 14D136".
1721         Also allow commits without the author, commit time, and commit message as OS versions do not have those.
1722
1723         * tools/pull-osx.py: Added.
1724         (main): Fetch the list of builds from a website and submit them per submissionSize with submissionInterval.
1725         Once all builds have been submitted, wait for a long time as specified by fetchInterval.
1726         (setup_auth): Sets up basic or digest auth to access the dashboard.
1727         (fetch_available_builds): Fetches and parses the XML document from an internal website.
1728         (textContent): A helper function to get the text content out of a XML node.
1729         (submit_commits): Submits commits to the perf dashboard.
1730
1731         * tools/pull-svn.py:
1732         (fetch_commit):
1733
1734         * tools/util.py: Extracted submit_commits and text_content from pull-svn.py to be reused in pull-osx.py.
1735
1736 2015-06-13  Ryosuke Niwa  <rniwa@webkit.org>
1737
1738         Perf dashboard's v2 UI shouldn't hide auto-detected outliers
1739         https://bugs.webkit.org/show_bug.cgi?id=145940
1740
1741         Reviewed by Darin Adler.
1742
1743         Don't fallback to the default strategies for moving averages and envelope when one is not specified.
1744         Also deleted the code to mark points outside the envelop as outliers.
1745
1746         * public/v2/app.js:
1747
1748 2015-06-12  Ryosuke Niwa  <rniwa@webkit.org>
1749
1750         Unreviewed build fix for merging platforms.
1751
1752         * public/admin/platforms.php:
1753
1754 2015-06-09  Ryosuke Niwa  <rniwa@webkit.org>
1755
1756         Unreviewed build fix. Some builder names are really long.
1757
1758         * init-database.sql:
1759
1760 2015-05-22  Ryosuke Niwa  <rniwa@webkit.org>
1761
1762         Show results and status before revisions for A/B testing results
1763         https://bugs.webkit.org/show_bug.cgi?id=145327
1764
1765         Reviewed by Chris Dumez.
1766
1767         Place the results and the status columns before the columns for revisions.
1768         Also show the absolute difference as well as the relative difference between the averages of A and B.
1769
1770         * public/v2/app.js:
1771         (App.TestGroupPane._populate):
1772         (App.TestGroupPane._computeStatisticalSignificance):
1773         * public/v2/index.html:
1774
1775 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
1776
1777         Build fix after r184591.
1778
1779         * public/v2/manifest.js:
1780
1781 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
1782
1783         Build fix. Use POSIX timestamp instead of human readable string for the commit time.
1784
1785         * public/include/build-requests-fetcher.php:
1786
1787 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
1788
1789         UI to associate bugs with an analysis task is crappy
1790         https://bugs.webkit.org/show_bug.cgi?id=145198
1791
1792         Reviewed by Andreas Kling.
1793
1794         Make the UI less crappy by linkifying bug numbers and adding an explicit button to disassociate
1795         a bug and a separate select view with a text field to associate a new bug instead of implicitly
1796         updating or deleting the existing record based on what the user had typed.
1797
1798         * init-database.sql: Removed the constraint that each bug tracker should appear exactly once for
1799         a given analysis task since it's perfectly reasonable for a given task to be associated with
1800         multiple WebKit bugs.
1801
1802         * public/privileged-api/associate-bug.php:
1803         (main): Only remove the bug specified by newly added bugToDelete instead of implicitly deleting
1804         one that matches the analysis task and the bug tracker when the bug number is falsey.
1805
1806         * public/v2/analysis.js:
1807         (App.Bug.url): Added.
1808         (App.BugAdapter.deleteRecord): Added. Uses the privileged API to delete the record.
1809
1810         * public/v2/app.css:
1811
1812         * public/v2/app.js:
1813         (App.AnalysisTaskController.actions.addBug): Added.
1814         (App.AnalysisTaskController.actions.deleteBug): Added.
1815         (App.AnalysisTaskController.associateBug): Deleted.
1816
1817         * public/v2/index.html: Updated the templates.
1818
1819         * public/v2/manifest.js:
1820         (App.BugTracker.urlFromBugNumber): Added.
1821
1822 2015-05-20  Ryosuke Niwa  <rniwa@webkit.org>
1823
1824         A/B testing rootSets should provide commit times as well as revisions
1825         https://bugs.webkit.org/show_bug.cgi?id=145207
1826
1827         Reviewed by Andreas Kling.
1828
1829         Some continuous build systems need the commit time as well as the revision number / hash so provide one
1830         in the root sets but maintain the backwards compatibility with buildbots that use revision number directly.
1831
1832         * public/include/build-requests-fetcher.php:
1833         (BuildRequestsFetcher::fetch_roots_for_set): Made the revision info an associative array that contains
1834         the revision number as well as the commit time.
1835         * tools/sync-with-buildbot.py:
1836         (schedule_request): Removed "replacement" which was a superfluous copy of "roots". Use "revision" values
1837         when the JSON configuration refers to "root". This is necessary in buildbot instances that require WebKit
1838         revision to be specified on its own field instead of it being a JSON that contains "revision" and "time".
1839
1840 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
1841
1842         Build fix. Don't fall into an infinite loop when value (renamed from bytes) is zero.
1843
1844         * public/v2/manifest.js:
1845         (App.Manifest.Ember.Controller.extend.):
1846         (App.Manifest.Ember.Controller.extend):
1847
1848 2015-05-19  Ryosuke Niwa  <rniwa@webkit.org>
1849
1850         Don't show unit (bytes) separaetly from SI suffixes (K, M, etc...)
1851         https://bugs.webkit.org/show_bug.cgi?id=145181
1852
1853         Rubber-stamped by Chris Dumez.
1854
1855         Show 'MB' in each y-axis label instead of showing 'bytes' separately and suffixing each label with just 'M'
1856         for clarity. This change also reduces the code complexity.
1857
1858         * public/index.html:
1859         * public/v2/app.js:
1860         (App.AnalysisTaskController._chartDataChanged):
1861         (App.TestGroupPane._createConfigurationSummary):
1862         * public/v2/data.js:
1863         (RunsData.unitFromMetricName): Use 'B' instead of 'bytes' as the unit.
1864
1865         * public/v2/interactive-chart.js: Removed the support for showing units separately.
1866         (App.InteractiveChartComponent._constructGraphIfPossible):
1867         (App.InteractiveChartComponent._relayoutDataAndAxes)
1868
1869         * public/v2/manifest.js:
1870         (App.Manifest._makeFormatter): Renamed from _formatBytes. Support more SI suffixes such as micro and mili.
1871         Now takes the unit as the first argument. Adjust the base unit if it's 'ms'.
1872         (App.Manifest._formatFetchedData): Removed unit and formatWithUnit now that all all formatters would
1873         automatically include unit.
1874
1875 2015-05-18  Ryosuke Niwa  <rniwa@webkit.org>
1876
1877         REGRESSION: v2 UI reports a higher memory usage
1878         https://bugs.webkit.org/show_bug.cgi?id=145151
1879
1880         Reviewed by Chris Dumez.
1881
1882         The bug was caused by v2 UI using 1000 to divide the number of bytes instead of by 1024 as done in v1.
1883         Fixed the bug by manually implementing the formatter as done in v1.
1884
1885         * public/v2/manifest.js:
1886         (App.Manfiest._formatBytes): Added.
1887         (App.Manifest._formatFetchedData): Use _formatByte instead of format('s').
1888
1889 2015-05-11  Ryosuke Niwa  <rniwa@webkit.org>
1890
1891         Unreviewed build fix. Add "Duration" as a time metric.
1892
1893         * public/js/helper-classes.js:
1894         * public/v2/data.js:
1895         (RunsData.unitFromMetricName):
1896
1897 2015-05-06  Ryosuke Niwa  <rniwa@webkit.org>
1898
1899         Perf dashboard treats Speedometer and JetStream as smaller is better
1900         https://bugs.webkit.org/show_bug.cgi?id=144711
1901
1902         Reviewed by Chris Dumez.
1903
1904         Added the support for "Score" metric.
1905
1906         * public/js/helper-classes.js:
1907         (PerfTestRuns):
1908         * public/v2/data.js:
1909         (RunsData.unitFromMetricName):
1910         (RunsData.isSmallerBetter):
1911
1912 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
1913
1914         Build fix after r183232.
1915
1916         * public/include/json-header.php:
1917
1918 2015-04-23  Ryosuke Niwa  <rniwa@webkit.org>
1919
1920         Perf dashboard should automatically detect regressions
1921         https://bugs.webkit.org/show_bug.cgi?id=141443
1922
1923         Reviewed by Anders Carlsson.
1924
1925         Added a node.js script detect-changes.js to detect potential regressions and progressions
1926         on the graphs tracked on v2 dashboards.
1927
1928         * init-database.sql: Added analysis_strategies table and task_segmentation and task_test_range
1929         columns to analysis_tasks to keep the segmentation and test range selection strategies used
1930         to create an analysis task.
1931
1932         * public/api/analysis-tasks.php:
1933         (format_task): Include task_segmentation and analysis_tasks in the results.
1934
1935         * public/include/json-header.php:
1936         (remote_user_name): Returns null when the privileged API is authenticated as a slave instead
1937         of a CSRF prevention token.
1938         (should_authenticate_as_slave): Added.
1939         (ensure_privileged_api_data_and_token_or_slave): Added. Authenticate as a slave if slaveName
1940         and slavePassword are specified. Since detect-changes.js and other slaves are not susceptible
1941         to a CSRF attack, we don't need to check a CSRF token.
1942
1943         * public/privileged-api/create-analysis-task.php:
1944         (main): Use ensure_privileged_api_data_and_token_or_slave to let detect-changes.js create new
1945         analysis task. Also add or find segmentation and test range selection strategies if specified.
1946
1947         * public/privileged-api/create-test-group.php:
1948         (main): Use ensure_privileged_api_data_and_token_or_slave.
1949
1950         * public/privileged-api/generate-csrf-token.php:
1951
1952         * public/v2/app.js:
1953         (App.Pane._computeMovingAverageAndOutliers): _executeStrategy has been moved to Statistics.
1954
1955         * public/v2/data.js: Export Measurement, RunsData, TimeSeries. Used in detect-changes.js.
1956         (Array.prototype.find): Added a polyfill to be used in node.js.
1957         (RunsData.fetchRuns):
1958         (RunsData.pathForFetchingRuns): Extracted from fetchRuns. Used in detect-changes.js.
1959         (RunsData.createRunsDataInResponse): Extracted from App.Manifest._formatFetchedData to use it
1960         in detect-changes.js.
1961         (RunsData.unitFromMetricName): Ditto.
1962         (RunsData.isSmallerBetter): Ditto.
1963         (RunsData.prototype._timeSeriesByTimeInternal): Added secondaryTime to sort points when commit
1964         times are identical.
1965         (TimeSeries): When commit times are identical, order points based on build time. This is needed
1966         for when we trigger two builds at two different OS versions with the same WebKit revision since
1967         OS versions don't change the commit times.
1968         (TimeSeries.prototype.findPointByIndex): Added.
1969         (TimeSeries.prototype.rawValues): Added.
1970
1971         * public/v2/js/statistics.js:
1972         (Statistics.TestRangeSelectionStrategies.[0]): Use the 99% two-sided probability as claimed in the
1973         description of this strategy instead of the default probability. Also fixed a bug that debugging
1974         code was referring to non-existent variables.
1975         (Statistics.executeStrategy): Moved from App.Pane (app.js).
1976
1977         * public/v2/manifest.js:
1978         (App.Manifest._formatFetchedData): Various code has been extracted into RunsData in data.js to be
1979         used in detect-changes.js.
1980
1981         * tools/detect-changes.js: Added. The script fetches the manifest JSON, analyzes each graph in
1982         the v2 dashboards, and creates an analysis task for the latest regression or progression detected.
1983         It also schedules an A/B testing if possible and notifies another server; e.g. to send an email. 
1984         (main): Loads the settings JSON specified in the argument.
1985         (fetchManifestAndAnalyzeData): The main loop that periodically wakes up to do the analysis.
1986         (mapInOrder): Executes callback sequentially (i.e. blocking) on each item in the array.
1987         (configurationsForTesting): Finds every (platform, metric) pair to analyze in the v2 dashbaords,
1988         and computes various values for when statistically significant changes are detected later.
1989         (analyzeConfiguration): Finds potential regressions and progression in the last X days where X
1990         is the specified maximum number of days using the specified strategies. Sort the resultant ranges
1991         in chronological order and create a new analysis task for the very last change we detected. We'll
1992         eventually create an analysis task for all detected changes since we're repeating the analysis in
1993         fetchManifestAndAnalyzeData after some time.
1994         (computeRangesForTesting): Fetch measured values and compute ranges to test using the specified
1995         segmentation and test range selection strategies. Once ranges are found, find overlapping analysis
1996         tasks as they need to be filtered out in analyzeConfiguration to avoid creating multiple analysis
1997         tasks for the same range (e.g. humans may create one before the script gets to do it).
1998         (createAnalysisTaskAndNotify): Create a new analysis task for the specified range, trigger an A/B
1999         testing if available, and notify another server with a HTML message as specified.
2000         (findStrategyByLabel):
2001         (changeTypeForRange): A change is a regression if values are getting larger in a smaller-is-better
2002         test or values are getting smaller in a larger-is-better test and vice versa.
2003         (summarizeRange): Create a human readable string that summarizes the change detected. e.g.
2004         "Potential 3.2% regression detected between 2015-04-20 12:00 and 17:00".
2005         (formatTimeRange):
2006         (getJSON):
2007         (postJSON):
2008         (postNotification): Recursively replaces $title and $massage in the specified JSON template.
2009         (instantiateNotificationTemplate):
2010         (fetchJSON):
2011
2012 2015-04-20  Ryosuke Niwa  <rniwa@webkit.org>
2013
2014         Perf dashboard should have UI to set status on analysis tasks
2015         https://bugs.webkit.org/show_bug.cgi?id=143977
2016
2017         Reviewed by Chris Dumez.
2018
2019         Added the UI to set the result of an analysis task to 'progression', 'regression', 'unchanged', and 'inconclusive'
2020         as well as a boolean indicating whether creating the analysis task was the right thing to do or not.
2021         The latter will be a useful metric once we start automatically creating analysis tasks.
2022
2023         * init-database.sql: Added two columns to analysis_tasks table.
2024         * public/api/analysis-tasks.php: Include the added columns in the JSON.
2025         * public/include/db.php:
2026         (Database::to_database_boolean): Added.
2027         * public/include/json-header.php:
2028         (require_match_one_of_values): Added.
2029         * public/privileged-api/update-analysis-task.php: Added. Updates 'result' and 'needed' values of an analysis task.
2030         (main):
2031         * public/v2/analysis.js:
2032         (App.AnalysisTask.result): Added.
2033         (App.AnalysisTask.needed): Added. We don't use DS.attr('boolean') here since that would coerce null into false
2034         and we want to differentiate null from false in order to differentiate the null-ness of the value.
2035         (App.AnalysisTask.saveStatus): Added.
2036         (App.AnalysisTask.statusLabel): Use 'result' as the label if it's set and all build requests have been processed.
2037         * public/v2/app.css:
2038         * public/v2/app.js:
2039         (App.AnalysisTaskController.analysisResultOptions): Added.
2040         (App.AnalysisTaskController.shouldNotHaveBeenCreated): Added.
2041         (App.AnalysisTaskController.needsFeedback): Added. Show the checkbox to indicate the analysis task should not have
2042         been created if 'no change' is selected.
2043         (App.AnalysisTaskController._updateChosenAnalysisResult): Added.
2044         (App.AnalysisTaskController.actions.saveStatus): Added.
2045         * public/v2/index.html: Extracted a partial template for updating the bug numbers. Also added the UI to update
2046         'result' and 'needed' values of the analysis task.
2047
2048 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
2049
2050         Unreviewed build fix. Updated config.json after recent changes.
2051
2052         * config.json:
2053
2054 2015-04-10  Ryosuke Niwa  <rniwa@webkit.org>
2055
2056         Make the analysis page more useful
2057         https://bugs.webkit.org/show_bug.cgi?id=143617
2058
2059         Reviewed by Chris Dumez.
2060
2061         * public/api/analysis-tasks.php:
2062         (fetch_and_push_bugs_to_tasks): Added total and finished numbers of build requests associated
2063         with the fetched analysis tasks as buildRequestCount and finishedBuildRequestCount respectively.
2064         * public/v2/analysis.js:
2065         (App.AnalysisTask.formattedCreatedAt): Added.
2066         (App.AnalysisTask._addLeadingZero): Added.
2067         (App.AnalysisTask.buildRequestCount): Added.
2068         (App.AnalysisTask.finishedBuildRequestCount): Added.
2069         (App.AnalysisTask.statusLabel): Added. Status total and finished numbers of build requests.
2070         (App.AnalysisTask.testGroups):
2071         (App.AnalysisTask.triggerable):
2072         (App.AnalysisTask.label):
2073
2074         * public/v2/app.css: Tweaked style rules for the analysis page.
2075
2076         * public/v2/app.js:
2077         (App.buildPopup): Sort the list of platforms by name.
2078         (App.AnalysisRoute.model): Sort the list of analysis tasks by the order they are created.
2079         (App.AnalysisTaskController._fetchedManifest): Added elementId to associate bug tracker names
2080         such as "Bugzilla" with the corresponding text field.
2081
2082         * public/v2/index.html: Added a bunch of columns to the analysis page and also wrapped the table
2083         showing A/B testing results in a div with overflow: scroll so that it always leaves enough space
2084         for the accompanying graph.
2085
2086 2015-04-09  Ryosuke Niwa  <rniwa@webkit.org>
2087
2088         Perf dashboard should automatically select ranges for A/B testing
2089         https://bugs.webkit.org/show_bug.cgi?id=143580
2090
2091         Reviewed by Chris Dumez.
2092
2093         Added a new statistics option for picking a A/B test range selection strategy.
2094         The selected ranges are shown in the graph using the same UI to show analysis tasks.
2095
2096         * public/v2/app.js:
2097         (App.DashboardPaneProxyForPicker._platformOrMetricIdChanged): Updated the query parameters for
2098         charts page used by the dashboard since we've added a new parameter at the end.
2099         (App.Pane.ranges): Added. Merges ranges created for analysis tasks and A/B testing.
2100         (App.Pane.updateStatisticsTools): Clone and set the test range selection strategies.
2101         (App.Pane._cloneStrategy): Copy isSegmentation.
2102         (App.Pane._updateMovingAverageAndEnvelope): Set testRangeCandidates.
2103         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Update the charts when a new text range
2104         selection strategy is picked by the user.
2105         (App.Pane._computeMovingAverageAndOutliers): Compute the test ranges using the chosen strategy.
2106         Avoid going through isAnomalyArray when no anomaly detection strategy is enabled. Also changed
2107         the return value from the moving average time series to a dictionary that contains the moving
2108         average time series, a dictionary of anomalies, and an array of test ranges.
2109         (App.ChartsController._parsePaneList): Parse the test range selection strategy configuration.
2110         (App.ChartsController._serializePaneList): Ditto for serialization.
2111         (App.ChartsController._scheduleQueryStringUpdate): Update the URL hash when the user picks a new
2112         test range selection strategy.
2113
2114         * public/v2/chart-pane.css: Fixed a typo as well as added a CSS rule for test ranges markers.
2115
2116         * public/v2/index.html: Added UI for selecting a test range selection strategy.
2117
2118         * public/v2/interactive-chart.js:
2119         (App.InteractiveChartComponent._rangesChanged): Pass down "status" to be used as a class name.
2120
2121         * public/v2/js/statistics.js:
2122         (Statistics.MovingAverageStrategies): Added isSegmentation to segmentation strategies.
2123         (Statistics.TestRangeSelectionStrategies): Added.
2124
2125 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
2126
2127         The results of A/B testing should state statistical significance
2128         https://bugs.webkit.org/show_bug.cgi?id=143552
2129
2130         Reviewed by Chris Dumez.
2131
2132         Added statistical comparisons between results for each configuration on analysis task page using
2133         Welch's t-test. The probability as well as t-statistics and the degrees of freedoms are reported.
2134
2135         * public/v2/app.js:
2136         (App.TestGroupPane._populate): Report the list of statistical comparison between every pair of
2137         root configurations in the results. e.g. if we've got A, B, C configurations then compare A/B, A/C
2138         and B/C.
2139         (App.TestGroupPane._computeStatisticalSignificance): Compute the statistical significance using
2140         Welch's t-test. Report the probability by which two samples do not come from the same distribution.
2141         (App.TestGroupPane._createConfigurationSummary): Include the array of results for this configuration.
2142         Also renamed "items" to "requests" for clarity.
2143
2144         * public/v2/index.html: Added the template for showing statistical comparisons.
2145
2146         * public/v2/js/statistics.js: Renamed tDistributionQuantiles to tDistributionByOneSidedProbability
2147         for clarity. Also factored out the functions to convert from one-sided probability to two-sided
2148         probability and vice versa.
2149         (Statistics.supportedConfidenceIntervalProbabilities):
2150         (Statistics.confidenceIntervalDelta):
2151         (Statistics.probabilityRangeForWelchsT): Added. Computes the lower bound and the upper bound for
2152         the probability that two values are sampled from distinct distributions using Welch's t-test.
2153         (Statistics.computeWelchsT): This function now takes two-sided probability like all other functions.
2154         (.tDistributionByOneSidedProbability): Renamed from tDistributionQuantiles.
2155         (.oneSidedToTwoSidedProbability): Extracted.
2156         (.twoSidedToOneSidedProbability): Extracted.
2157         (Statistics.MovingAverageStrategies): Converted the one-sided probability to the two-sided probability
2158         now that computeWelchsT takes two-sided probability.
2159
2160 2015-04-08  Ryosuke Niwa  <rniwa@webkit.org>
2161
2162         Unreviewed fix after r182496 for when the cached runs JSON doesn't exist.
2163
2164         * public/v2/app.js:
2165         (App.Pane._fetch):
2166         (App.Pane.refetchRuns):
2167
2168 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
2169
2170         Perf dashboard should have a way of marking outliers
2171         https://bugs.webkit.org/show_bug.cgi?id=143466
2172
2173         Reviewed by Chris Dumez.
2174
2175         Address kling's in-person comment to notify users when the new run status is saved in the database.
2176
2177         * public/v2/app.js:
2178         (App.PaneController._selectedItemIsMarkedOutlierDidChange)
2179         * public/v2/chart-pane.css: Fixed a typo.
2180
2181 2015-04-07  Ryosuke Niwa  <rniwa@webkit.org>
2182
2183         Perf dashboard should have a way of marking outliers
2184         https://bugs.webkit.org/show_bug.cgi?id=143466
2185
2186         Reviewed by Chris Dumez.
2187
2188         Added UI to mark a data point as an outlier as well as a button to toggle the visibility of outliers.
2189         Added a new privileged API /privileged-api/update-run-status to store this boolean flag.
2190
2191         * init-database.sql: Added run_marked_outlier column to test_runs table.
2192
2193         * public/admin/tests.php:
2194
2195         * public/api/runs.php:
2196         (main): Only emit Cache-Control and Expires headers in v1 UI.
2197         (RunsGenerator::format_run): Emit markedOutlier.
2198
2199         * public/include/admin-header.php:
2200
2201         * public/include/db.php:
2202         (Database::is_true): Made it static.
2203
2204         * public/include/manifest.php:
2205         (Manifest::platforms):
2206
2207         * public/index.html: Call into /api/runs/ with ?cache=true.
2208
2209         * public/privileged-api/update-run-status.php: Added.
2210         (main): Updates the newly added column in test_runs table.
2211
2212         * public/v2/app.js:
2213         (App.Pane._fetch):
2214         (App.Pane.refetchRuns): Extracted from App.Pane._fetch.
2215         (App.Pane._didFetchRuns): Renamed from _updateChartData.
2216         (App.Pane._setNewChartData): Added. Pick the right time series based based on the value of showOutlier.
2217         Cloning chartData is necessary when toggling the outlier visibility or using statistics tools because
2218         the interactive chart component only observes changes to chartData and not individual properties of it.
2219         (App.Pane._highlightPointsMarkedAsOutlier): Added. Highlight points marked as outliers.
2220         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Call to _setNewChartData replaced the code to
2221         clone chartData here.
2222
2223         (App.PaneController.actions.toggleShowOutlier): Toggle the visibility of points marked as outliers by
2224         invoking App.Pane._setNewChartData.
2225         (App.PaneController._detailsChanged): Don't hide the analysis pane when details changed since keep
2226         opening the pane for marking points as outliers would be annoying.
2227         (App.PaneController._updateCanAnalyze): Update 'cannotMarkOutlier' as well as 'cannotAnalyze'.
2228         (App.PaneController.selectedMeasurement): Added.
2229         (App.PaneController.showOutlierTitle): Added.
2230         (App.PaneController._selectedItemIsMarkedOutlierDidChange): Added. Call out to setMarkedOutlier to
2231         mark the selected point as an outlier via the newly added privileged API.
2232
2233         * public/v2/chart-pane.css: Updated styles.
2234
2235         * public/v2/data.js:
2236         (PrivilegedAPI._post): Report the semantic errors.
2237         (Measurement.prototype.markedOutlier): Added.
2238         (Measurement.prototype.setMarkedOutlier): Added. Uses PrivilegedAPI to update the database.
2239         (RunsData.prototype.timeSeriesByCommitTime): Added a new argument, includeOutliers, to indicate
2240         whether the time series should include measurements marked as outliers or not.
2241         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
2242         (RunsData.prototype._timeSeriesByTimeInternal): Extracted from timeSeriesByCommitTime and
2243         timeSeriesByBuildTime to share code. Now ignores measurements marked as outliers if needed.
2244
2245         * public/v2/index.html: Added an icon for showing and hiding outliers. Also added a checkbox to
2246         mark individual points as outliers.
2247
2248         * public/v2/interactive-chart.js:
2249         (App.InteractiveChartComponent._selectClosestPointToMouseAsCurrentItem): Re-enable the distance
2250         heuristics that takes vertical closeness into account. This heuristics is more useful when marking
2251         some points as outliers. This heuristics was disabled because the behavior was unpredictable but
2252         with the arrow key navigation support, this is no longer an issue.
2253
2254         * public/v2/manifest.js:
2255         (App.Manifest._formatFetchedData): Added showOutlier to the chart data. This function dynamically
2256         updates the time series in this chart data in order to include or exclude outliers.
2257
2258 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
2259
2260         Perf dashboard should be able to trigger A/B testing jobs for iOS
2261         https://bugs.webkit.org/show_bug.cgi?id=143398
2262
2263         Reviewed by Chris Dumez.
2264
2265         Fix various bugs in the perf dashboard so that it can schedule A/B testing jobs for iOS.
2266
2267         Also generalized sync-with-buildbot.py slightly to meet the requirements of iOS builders.
2268
2269         * public/api/triggerables.php:
2270         (main): Avoid spitting a warning when $id_to_triggerable doesn't contain the triggerable.
2271         * public/v2/analysis.js:
2272         (App.AnalysisTask.triggerable): Log an error when failed to fetch triggerables for debugging purposes.
2273         * public/v2/app.js:
2274         (App.AnalysisTaskController.updateRootConfigurations): Show 'None' when a revision is missing from
2275         some of the data points. This will happen when we modify the list of projects we build for iOS.
2276         (App.AnalysisTaskController.actions.createTestGroup): Gracefully fail by showing alerts when an user
2277         attempts to create an invalid test group; when there is already another test group of the same or when
2278         only either configuration specifies the revision for some repository.
2279         (App.AnalysisTaskController._updateRootsBySelectedPoints): Fixed a typo: sets[i] -> set.
2280         * public/v2/index.html: Don't show the form to create a new test group if it's not available.
2281         * tools/sync-with-buildbot.py:
2282         (find_request_updates):
2283         (schedule_request): iOS builders take a JSON that contains the list of roots. Generate this JSON when
2284         a dictionary of the form {rootsExcluding: ["WebKit"]} is specified. Also replaced the way we refer to
2285         a revision from $-based text replacements to an explicit dictionary of the form {root: "WebKit"}.
2286         (request_id_from_build): Don't hard code the parameter name here. Retrieve the name from the config.
2287
2288 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
2289
2290         Add time series segmentation algorithms as moving averages
2291         https://bugs.webkit.org/show_bug.cgi?id=143362
2292
2293         Reviewed by Chris Dumez.
2294
2295         This patch implements two preliminary time series segmentation algorithms as moving averages.
2296
2297         Recursive t-test: Compute Welch's t-statistic at each point in a given segment of the time series.
2298         If Welch's t-test implicates a statistically significance difference, then split the segment into two
2299         sub segments with the maximum t-statistic (i.e. the point at which if split would yield the highest
2300         probability that two segments do not share the same "underlying" mean in classical / frequentist sense).
2301         We repeat this process recursively. See [1] for the evaluation of this particular algorithm.
2302
2303         Schwarz criterion: Use Schwarz or Bayesian information criterion to heuristically find the optimal
2304         segmentation. Intuitively, the problem of finding the best segmentation comes down to minimizing the
2305         residual sum of squares in each segment as in linear regressions. That is, for a given segment with
2306         values y_1 through y_n with mean y_avg, we want to minimize the sum of (y_i - y_avg)^2 over i = 1
2307         through i = n. However, we also don't want to split every data point into a separate segment so we need
2308         to account the "cost" of introducing new segments. We use a cost function that's loosely based on two
2309         models discussed in [2] for simplicity. We will tune this cost function further in the future.
2310
2311         The problem of finding the best segmentation then reduces to a search problem. Unfortunately, our problem
2312         space is exponential with respect to the size of the time series since we could split at each data point.
2313         We workaround this problem by first splitting the time series into a manageable smaller grids, and only
2314         considering segmentation of a fixed size (i.e. the number of segments is constant). Since time series
2315         tend to contain a lot more data points than segments, this strategy finds the optimal solution without
2316         exploring much of the problem space.
2317
2318         Finding the optimal segmentation of a fixed size is, itself, another search problem that is equivalent to
2319         finding the shortest path of a fixed length in DAG. Here, we use dynamic programming with a matrix of size
2320         n by n where n is the length of the time series (grid). Each entry in this matrix at (i, k) stores
2321         the minimum cost of segmenting data points 1 through i using k segments. We start our search at i = 1.
2322         Clearly C(1, 0) = 0 (note the actual code uses 0-based index). In i-th iteration, we compute the cost
2323         S(i, j) of each segment starting at i and ending at another point j after i and update C(j, k + 1) by
2324         min( C(j, k + 1), C(i, k) + S(i, j) ) for all values of j above i.
2325
2326         [1] Kensuke Fukuda, H. Eugene Stanley, and Luis A. Nunes Amaral, "Heuristic segmentation of
2327         a nonstationary time series", Physical Review E 69, 021108 (2004)
2328
2329         [2] Marc Lavielle, Gilles Teyssi`ere, "Detection of Multiple Change–Points in Multivariate Time Series"
2330         Lithuanian Mathematical Journal, vol 46, 2006
2331
2332         * public/v2/index.html: Show the optional description for the chosen moving average strategy.
2333         * public/v2/js/statistics.js:
2334         (Statistics.testWelchsT):
2335         (Statistics.computeWelchsT): Extracted from testWelchsT. Generalized to take the offset and the length
2336         of each value array between which Welch's t-statistic is computed. This generalization helps the
2337         Schwarz criterion segmentation algorithm avoid splitting values array O(n^2) times.
2338         (.sampleMeanAndVarianceForValues): Ditto for the generalization.
2339         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Added. Implements recursive t-test.
2340         (.splitIntoSegmentsUntilGoodEnough): Added. Implements Schwarz criterion.
2341         (.findOptimalSegmentation): Added. Implements the algorithm to find the optimal segmentation of a fixed
2342         segment count.
2343         (.SampleVarianceUpperTriangularMatrix): Added. Stores S(i, j) used by findOptimalSegmentation.
2344         (.SampleVarianceUpperTriangularMatrix.prototype.costBetween): Added.
2345
2346 2015-04-03  Ryosuke Niwa  <rniwa@webkit.org>
2347
2348         REGRESSION: Perf dashboard sometimes fails to update zooming level
2349         https://bugs.webkit.org/show_bug.cgi?id=143359
2350
2351         Reviewed by Darin Adler.
2352
2353         The bug was caused by various bugs that ended up in an exception.
2354
2355         * public/v2/app.js:
2356         (App.Pane._handleFetchErrors): Removed superfluous console.log.
2357         (App.Pane.computeStatus): Fixed the bug in r182185 that previousPoint could be null.
2358         (App.PaneController.actions.zoomed): Update the overview when the main chart triggered a zoom.
2359         * public/v2/index.html: Replaced all instances of href="#" by href="javascript:false" to avoid navigating
2360         to # when Ember.js fails to attach event listeners on time.
2361         * public/v2/interactive-chart.js:
2362         (App.InteractiveChartComponent._updateDimensionsIfNeeded): Avoid using a negative width or height when
2363         the containing element's size is 0.
2364         (App.InteractiveChartComponent._updateBrush): Ditto.
2365
2366 2015-04-02  Ryosuke Niwa  <rniwa@webkit.org>
2367
2368         Perf dashboard should have UI to test out anomaly detection strategies
2369         https://bugs.webkit.org/show_bug.cgi?id=143290
2370
2371         Reviewed by Benjamin Poulain.
2372
2373         Added the UI to select anomaly detection strategies. The detected anomalies are highlighted in the graph.
2374
2375         Implemented the Western Electric Rules 1 through 4 in http://en.wikipedia.org/wiki/Western_Electric_rules
2376         as well as Welch's t-test that compares the last five points to the prior twenty points.
2377
2378         The latter is what Mozilla uses (or at least did in the past) to detect performance regressions on their
2379         performance tests although they compare medians instead of means.
2380
2381         All of these strategies don't quite work for us since our data points are too noisy but this is a good start.
2382
2383         * public/v2/app.js:
2384         (App.Pane.updateStatisticsTools): Clone anomaly detection strategies.
2385         (App.Pane._updateMovingAverageAndEnvelope): Highlight anomalies detected by the enabled strategies.
2386         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Observe changes to anomaly detection strategies.
2387         (App.Pane._computeMovingAverageAndOutliers): Detect anomalies by each strategy and aggregate results.
2388         Only report the first data point when multiple consecutive data points are detected as anomalies.
2389         * public/v2/chart-pane.css: Updated styles.
2390         * public/v2/index.html: Added the pane for selecting anomaly detection strategies.
2391         * public/v2/js/statistics.js:
2392         (Statistics.testWelchsT): Added. Implements Welch's t-test.
2393         (.sampleMeanAndVarianceForValues): Added.
2394         (.createWesternElectricRule): Added.
2395         (.countValuesOnSameSide): Added.
2396         (Statistics.AnomalyDetectionStrategy): Added.
2397
2398 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
2399
2400         REGRESSION: Searching commits can highlight wrong data points
2401         https://bugs.webkit.org/show_bug.cgi?id=143272
2402
2403         Reviewed by Antti Koivisto.
2404
2405         The bug was caused by /api/commits returning commit times with millisecond precision whereas /api/runs
2406         return commit times with only second precision. This resulted in the frontend code to match a commit
2407         with the data point that included the next commit when the millisecond component of commit's timestamp
2408         wasn't identically 0.
2409
2410         This discrepancy was caused by the fact PHP's strtotime only ignores milliseconds and /api/commits
2411         was returning timestamp as string instead of parsing via Database::to_js_time as done in /api/runs
2412         so miliseconds component was only preserved in /api/commits.
2413
2414         Fixed the bug by always using Database::to_js_time to return commit time. Also fixed to_js_time so that
2415         it returns time in milisecond precision.
2416
2417         * public/api/commits.php:
2418         (fetch_commits_between): Use Database::to_js_time for format commit times.
2419         (format_commit): Ditto.
2420         * public/include/db.php:
2421         (Database::to_js_time): Parse and append millisecond component. Ignore sub-milliseconds for simplicity.
2422         * public/v2/data.js:
2423         (CommitLogs.fetchForTimeRange): The commit time is now an integer so don't call "replace" on it.
2424
2425 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
2426
2427         Perf dashboard should show relative change in values
2428         https://bugs.webkit.org/show_bug.cgi?id=143252
2429
2430         Reviewed by Antti Koivisto.
2431
2432         When a range of values are selected, show the percentage difference between the start and the end
2433         in addition to the absolute value difference. When a single point is selected, show the relative
2434         difference with respect to the previous point. Use two significant figures and always show plus sign
2435         when the difference is positive.
2436
2437         * public/v2/app.js: Compute and format the relative difference.
2438         * public/v2/chart-pane.css: Don't let commits view shrink itself when they're all collapsed.
2439         * public/v2/index.html: Show the relative difference.
2440
2441 2015-03-31  Ryosuke Niwa  <rniwa@webkit.org>
2442
2443         REGRESSION(r180000): Changing moving average or enveloping strategy doesn't update the graph
2444         https://bugs.webkit.org/show_bug.cgi?id=143254
2445
2446         Reviewed by Antti Koivisto.
2447         
2448         The bug was caused by App.Pane no longer replacing 'chartData' property when updating the moving average
2449         or the enveloping values. Fixed the bug by creating a new chartData object when the strategy is changed
2450         so that the interactive chart component will observe a change to 'chartData'.
2451
2452         * public/v2/app.js:
2453         (App.Pane._movingAverageOrEnvelopeStrategyDidChange): Added.
2454
2455 2015-03-19  Ryosuke Niwa  <rniwa@webkit.org>
2456
2457         Unreviewed build fixes.
2458
2459         * public/include/manifest.php:
2460         (Manifest::generate): These should be {} instead of [] when they're empty.
2461         * public/v2/data.js:
2462         (Measurement.prototype.formattedRevisions): Don't assume previousRevisions[repositoryId] exits.
2463         * public/v2/manifest.js:
2464         (App.Metric.fullName): Fixed the typo.
2465         * tests/admin-regenerate-manifest.js: Fixed the test.
2466
2467 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
2468
2469         Commit the erroneously reverted change.
2470
2471         * public/api/runs.php:
2472         (RunsGenerator::results): 
2473
2474 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
2475
2476         Loading the perf dashboard takes multiple seconds
2477         https://bugs.webkit.org/show_bug.cgi?id=141860
2478
2479         Reviewed by Andreas Kling.
2480
2481         This patch introduces the caches of JSON files returned by /api/ in /data/ directory. It also records
2482         the last time test_runs rows associated with the requested platforms and metrics are inserted, updated,
2483         or removed in the caches as well as the manifest JSON files ("last modified time"). Because the manifest
2484         is regenerated each time a new test result is reported, the front end can compare last modified time in
2485         the manifest file with that in a /api/runs JSON cache to detect the stale-ness.
2486
2487         More concretely, the front end first optimistically fetches the JSON in /data/. If the cache doesn't exit
2488         or the last modified time in the cache doesn't match with that in the manifest file, it would fetch it
2489         again via /api/runs. In the case the cache did exist, we render the charts based on the cache meanwhile.
2490         This dramatically reduces the perceived latency for the page load since charts are drawn immediately using
2491         the cache and we would only re-render the charts as new up-to-date JSON comes in.
2492
2493         This patch also changes the format of runs JSONs by pushing the exiting properties into 'configurations'
2494         and adding 'lastModified' and 'elapsedTime' at the top level.
2495
2496         * init-database.sql: Added config_runs_last_modified to test_configurations table as well as a trigger to
2497         auto-update this column upon changes to test_runs table.
2498
2499         * public/admin/test-configurations.php:
2500         (add_run): Regenerate the manifest file to invalidate the /api/runs JSON cache.
2501         (delete_run): Ditto.
2502
2503         * public/api/runs.php:
2504         (main): Fetch all columns of test_configurations table including config_runs_last_modified. Also generate
2505         the cache in /data/ directory.
2506         (RunsGenerator::__construct): Compute the last modified time for this (platform, metric) pair.
2507         (RunsGenerator::results): Put the old content in 'configurations' property and include 'lastModified' and
2508         'elapsedTime' properties. 'elapsedTime' is added for debugging purposes.
2509         (RunsGenerator::add_runs):
2510         (RunsGenerator::parse_revisions_array):
2511
2512         * public/include/db.php:
2513         (CONFIG_DIR): Added.
2514         (generate_data_file): Added based on ManifestGenerator::store.
2515         (Database::to_js_time): Extracted from RunsGenerator::add_runs to share code.
2516
2517         * public/include/json-header.php:
2518         (echo_success): Renamed from success_json. Return the serialized JSON instead of echo'ing it so that we can
2519         generate caches in /api/runs/.
2520         (exit_with_success):
2521
2522         * public/include/manifest.php:
2523         (ManifestGenerator::generate): Added 'elapsedTime' property for the time taken to generate the manifest.
2524         It seems like we're generating it in 200-300ms for now so that's good.
2525         (ManifestGenerator::store): Uses generate_data_file.
2526         (ManifestGenerator::platforms): Added 'lastModified' array to each platform entry. This array contains the
2527         last modified time for each (platform, metric) pair.
2528
2529         * public/index.html:
2530         (fetchTest): Updated per the format change in runs JSON.
2531
2532         * public/v2/app.js:
2533         (App.Pane._fetch): Fetch the cached JSON first. Refetch the uncached version if instructed as such.
2534         (App.Pane._updateChartData): Extracted from App.Pane._fetch.
2535         (App.Pane._handleFetchErrors): Ditto.
2536
2537         * public/v2/data.js:
2538         (RunsData.fetchRuns): Takes the fourth argument indicating whether we should fetch the cached version or not.
2539         The cached JSON is located in /data/ with the same filename. When fetching a cached JSON results in 404,
2540         fulfill the promise with null as the result instead of rejecting it. The only client of this function which
2541         sets useCache to true is App.Manifest.fetchRunsWithPlatformAndMetric, and it handles this special case.
2542
2543         * public/v2/manifest.js:
2544         (App.DateArrayTransform): Added. Handles the array of last modified dates in platform objects.
2545         (App.Platform.lastModifiedTimeForMetric): Added. Returns the last modified date in the manifest JSON.
2546         (App.Manifest.fetchRunsWithPlatformAndMetric): Takes "useCache" like RunsData.fetchRuns. Set shouldRefetch
2547         to true if response is null (the cache didn't exit) or the cache is out-of-date.
2548         (App.Manifest._formatFetchedData): Extracted from App.Manifest.fetchRunsWithPlatformAndMetric.
2549
2550         * run-tests.js:
2551         (initializeDatabase): Avoid splitting function definitions in the middle.
2552
2553         * tests/api-report.js: Added tests to verify that reporting new test results updates the last modified time
2554         in test_configurations.
2555
2556 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
2557
2558         REGRESSION(r180333): Analysis tasks can't be associated with bugs
2559         https://bugs.webkit.org/show_bug.cgi?id=141858
2560
2561         Reviewed by Andreas Kling.
2562
2563         Added back the erroneously removed table to associate bugs. Also moved "details-table-container" div outside
2564         of the chart-details partial template as it needs to wrap associate bugs in analysis task pages.
2565
2566         * public/v2/chart-pane.css:
2567         * public/v2/index.html:
2568
2569 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
2570
2571         Selecting revisions for A/B testing is hard
2572         https://bugs.webkit.org/show_bug.cgi?id=141824
2573
2574         Reviewed by Andreas Kling.
2575
2576         Update the revisions used in A/B testing based on the selection in the overview chart. This allows users to
2577         intuitively select revisions based on points shown in the chart. Removed the old select elements used to
2578         select A/B testing points manually.
2579
2580         Also renamed 'testSets' to 'configurations', 'roots' to 'rootConfigurations', and 'revisions' in each root's
2581         sets to 'options' for clarity.
2582
2583         * public/v2/app.css: Reorganized style rules. 
2584
2585         * public/v2/app.js:
2586         (App.AnalysisTaskController):
2587         (App.AnalysisTaskController._taskUpdated): Merged updateTestGroupPanes.
2588         (App.AnalysisTaskController._chartDataChanged): Renamed from paneDomain. It's now an observer instead of
2589         a property, which sets 'overviewDomain' property as well as other properties.
2590         (App.AnalysisTaskController.updateRootConfigurations): Renamed from updateRoots.
2591         (App.AnalysisTaskController._updateRootsBySelectedPoints): Added. Select roots based on the selected points
2592         in the overview chart.
2593
2594         * public/v2/chart-pane.css: Added arrows next to the configuration names (e.g. 'A') to indicate whether
2595         individual build requests / test results are shown or not.
2596
2597         * public/v2/index.html: Removed the select element per configuration column. Also moved the select element
2598         for the number of runs as it doesn't belong in the same table as the one that lists repositories and roots.
2599
2600 2015-02-20  Ryosuke Niwa  <rniwa@webkit.org>
2601
2602         Unreviewed test fixes after r179037, r179591, and r179763.
2603
2604         * tests/admin-regenerate-manifest.js:
2605         * tests/admin-reprocess-report.js:
2606
2607 2015-02-19  Ryosuke Niwa  <rniwa@webkit.org>
2608
2609         Relationship between A/B testing results are unclear
2610         https://bugs.webkit.org/show_bug.cgi?id=141810
2611
2612         Reviewed by Andreas Kling.
2613
2614         Show a "reference chart" indicating which two points have been tested in each test group pane.
2615
2616         Now the chart shown at the top of an analysis task page is called the "overview pane", and we use the pane
2617         and the domain used in this chart to show charts in each test group.
2618
2619         Also renamed an array of revisions used in the A/B test results tables from 'revisions' to 'revisionList'.
2620
2621         * public/v2/analysis.js:
2622         (App.TestGroup._fetchTestResults): Renamed from _fetchChartData. Set 'testResults' instead of 'chartData'
2623         since this is the results of A/B testing results, not the data for charts shown next to them.
2624
2625         * public/v2/app.css: Added CSS rules for reference charts.
2626
2627         * public/v2/app.js:
2628         (App.AnalysisTaskController.paneDomain): Set 'overviewPane' and 'overviewDomain' on each test group pane.
2629         (App.TestGroupPane._populate): Updated per 'chartData' to 'testResults' rename.
2630         (App.TestGroupPane._updateReferenceChart): Get the chart data via the overview pane and find points that
2631         identically matches root sets. If one of configuration used a set of revisions for which no measurement
2632         was made in the original chart, don't show the reference chart as that would be misleading / confusing.
2633         (App.TestGroupPane._computeRepositoryList): Updated per 'chartData' to 'testResults' rename.
2634         (App.TestGroupPane._createConfigurationSummary): Ditto. Also renamed 'revisions' to 'revisionList'.
2635         In addition, renamed 'buildNumber' to 'buildLabel' and prefixed it with "Build ".
2636
2637         * public/v2/data.js:
2638         (Measurement.prototype.revisionForRepository): Added.
2639         (Measurement.prototype.commitTimeForRepository): Cleanup.
2640         (TimeSeries.prototype.findPointByRevisions): Added. Finds a point based on a set of revisions.
2641
2642         * public/v2/index.html: Added the reference chart. Streamlined the status label for each build request
2643         by including the build number in the title attribute instead of in the markup.
2644
2645         * public/v2/interactive-chart.js:
2646         (App.InteractiveChartComponent._updateDomain): Fixed a typo introduced as a consequence of r179913.
2647         (App.InteractiveChartComponent._computeYAxisDomain): Expand the y-axis to show the highlighted points.
2648         (App.InteractiveChartComponent._highlightedItemsChanged): Adjust the y-axis as needed.
2649
2650 2015-02-18  Ryosuke Niwa  <rniwa@webkit.org>
2651
2652         Analysis task pages are unusable
2653         https://bugs.webkit.org/show_bug.cgi?id=141786
2654
2655         Reviewed by Andreas Kling.
2656
2657         This patch makes following improvements to analysis task pages:
2658         1. Making the main chart interactive. This change required the use of App.Pane as well as moving the code to
2659         compute the data for the details pane from PaneController.
2660         2. Moving the form to add a new test group to the top of test groups instead of the bottom of them.
2661         3. Grouping the build requests in each test group by root sets instead of the order by which they were ran.
2662         This change required the creation of App.TestGroupPane as well as its methods.
2663         4. Show a box plot for each root set configuration as well as each build request. This change required
2664         App.BoxPlotComponent.
2665         5. Show revisions of each repository (e.g. WebKit) for each root set and build request.
2666
2667         * public/api/build-requests.php:
2668         (main): Update per the rename of BuildRequestsFetcher::root_sets to BuildRequestsFetcher::root_sets_by_id.
2669
2670         * public/api/test-groups.php:
2671         (main): Include root sets and roots in the response.
2672         (format_test_group):
2673
2674         * public/include/build-requests-fetcher.php:
2675         (BuildRequestsFetcher::root_sets_by_id): Renamed from root_sets.
2676         (BuildRequestsFetcher::root_sets): Added.
2677         (BuildRequestsFetcher::roots): Added.
2678         (BuildRequestsFetcher::fetch_roots_for_set): Takes a boolean argument $resolve_ids. This flag is only set to
2679         true in /api/build-requests/ (as done prior to this patch) to use repository names as identifiers since
2680         tools/sync-with-buildbot.py can't convert repository names to their ids.
2681
2682         * public/v2/analysis.js:
2683         (App.Root): Added.
2684         (App.RootSet): Added.
2685         (App.RootSet.revisionForRepository): Added.
2686         (App.TestGroup.rootSets): Deleted the code to compute root set ids from build requests now that the JSON
2687         response at /api/test-groups will include them.
2688         (App.BuildRequest): Ditto. Also deleted 'configLetter' property, which has been moved to a proxy created by
2689         _createConfigurationSummary.
2690         (App.BuildRequest.statusLabel): Use 'Completed' as the human readable label for 'completed' status.
2691         (App.BuildRequest.aggregateStatuses): Added. Generates a human readable status for a set of build requests.
2692
2693         * public/v2/app.css: Updated style rules for analysis task pages.
2694
2695         * public/v2/app.js:
2696         (App.Pane): This class is now used in analysis task pages to make the main chart interactive.
2697         (App.Pane._updateDetails): Moved from App.PaneController.
2698
2699         (App.PaneController._updateCanAnalyze): Updated the code per the move of selectedPoints.
2700
2701         (App.AnalysisTaskController): Added 'details'.
2702         (App.AnalysisTaskController._taskUpdated):
2703         (App.AnalysisTaskController.paneDomain):Renamed from _fetchedRuns.
2704         (App.AnalysisTaskController.updateTestGroupPanes): Added. Creates App.TestGroupPane for each test group.
2705         (App.AnalysisTaskController.actions.toggleShowRequestList): Added.
2706
2707         (App.TestGroupPane): Added.
2708         (App.TestGroupPane._populate): Added. Group build requests by root sets and create a summary for each group.
2709         (App.TestGroupPane._computeRepositoryList): Added. Returns a sorted list of repositories which is the union
2710         of all repositories appearing in root sets and builds associated with A/B testing results.
2711         (App.TestGroupPane._groupRequestsByConfigurations): Added. Groups build requests by root sets.
2712         (App.TestGroupPane._createConfigurationSummary): Added. Creates a summary for a group of build requests that
2713         use the same root set. We start by wrapping "raw" build requests in a proxy with formatted values,
2714         build numbers, etc... obtained from the fetched chart data. The list of revisions shown in the group summary
2715         is a union of revisions in the root set and the first build request in the group. We null-out revision info
2716         for a build request if it is identical to the one in the summary. The range of values is expanded as needed
2717         by the values in the group as well as 95% percentile confidence interval.
2718
2719         (App.BoxPlotComponent): Added. Controls a box plot shown for each test group summary and build request.
2720         (App.BoxPlotComponent.didInsertElement): Added. Inserts a SVG element as well as two indicator rects to show
2721         the mean and the confidence interval.
2722         (App.BoxPlotComponent._updateBars): Added. Updates the dimensions of the indicator rects.
2723         (App.BoxPlotComponent.valueChanged): Added. Computes the relative dimensions of the indicator rects and
2724         calls _updateBars to update the rects.
2725
2726         * public/v2/chart-pane.css: Added some style rules to be used in the details pane in analysis task pages.
2727
2728         * public/v2/data.js:
2729         (Measurement.prototype.formattedRevisions):
2730         (Measurement.formatRevisionRange): Renamed from Measurement.prototype._formatRevisionRange so that it can be
2731         called in _createConfigurationSummary.
2732
2733         * public/v2/index.html: Updated the templates for analysis task pages. Moved the form to create a new test
2734         group above all test groups, and replaced the list of data points by "details" pane used in the charts page.
2735         Also made the fetching of chartData no longer block showing of test groups.
2736
2737         * public/v2/interactive-chart.js:
2738         (App.InteractiveChartComponent._updateDomain): Added an early exit to fix a newly revealed race condition.
2739         (App.InteractiveChartComponent._domainChanged): Ditto.
2740         (App.InteractiveChartComponent._updateSelectionToolbar): Made it respect 'zoomable' boolean property.
2741
2742         * public/v2/js/statistics.js:
2743         (Statistics.min): Added.
2744         (Statistics.max): Added.
2745
2746         * public/v2/manifest.js:
2747         (App.Manifest.fetchRunsWithPlatformAndMetric): Added formatWithDeltaAndUnit to be used in _createConfigurationSummary.
2748
2749 2015-02-14  Ryosuke Niwa  <rniwa@webkit.org>
2750
2751         Build URL on new perf dashboard doesn't resolve $builderName
2752         https://bugs.webkit.org/show_bug.cgi?id=141583
2753
2754         Reviewed by Darin Adler.
2755
2756         Support $builderName in the build URL template.
2757
2758         * public/js/helper-classes.js:
2759         (TestBuild.buildUrl): Replaced $builderName with the builder name.
2760
2761         * public/v2/manifest.js:
2762         (App.Metric.fullName): Fixed the typo. We need &ni, not &in.
2763         (App.BuilderurlFromBuildNumber): Replaced $builderName with the builder name.
2764
2765 2015-02-13  Ryosuke Niwa  <rniwa@webkit.org>
2766
2767         Unreviewed build fix after r179591.
2768
2769         * public/api/commits.php:
2770
2771 2015-02-13  Ryosuke Niwa  <rniwa@webkit.org>
2772
2773         The status of a A/B testing request always eventually becomes "Failed"
2774         https://bugs.webkit.org/show_bug.cgi?id=141523
2775
2776         Reviewed by Andreas Kling.
2777
2778         The bug was caused by /api/build-requests always setting the status of a build request to 'failed' when
2779         'failedIfNotCompleted' was sent by the buildbot sync'er.
2780
2781         Fixed the bug by only setting the status to 'failed' if it wasn't set to 'completed'.
2782
2783         * public/api/build-requests.php:
2784         (main):
2785
2786 2015-02-13  Csaba Osztrogonác  <ossy@webkit.org>
2787
2788         Unreviewed, remove empty directories.
2789
2790         * public/data: Removed.
2791
2792 2015-02-12  Ryosuke Niwa  <rniwa@webkit.org>
2793
2794         Perf dashboard should show the results of A/B testing
2795         https://bugs.webkit.org/show_bug.cgi?id=141500
2796
2797         Reviewed by Chris Dumez.
2798
2799         Added the support for fetching test_runs for a specific test group in /api/runs/, and used it in the
2800         analysis task page to fetch results for each test group.
2801
2802         Merged App.createChartData into App.Manifest.fetchRunsWithPlatformAndMetric so that App.BuildRequest
2803         can use the formatter.
2804
2805         * public/api/runs.php:
2806         (fetch_runs_for_config_and_test_group): Added.
2807         (fetch_runs_for_config): Just return the fetched rows since main will format them with RunsGenerator.
2808         (main): Use fetch_runs_for_config_and_test_group to fetch rows when a test group id is specified. Also
2809         use RunsGenerator to format results.
2810         (RunsGenerator): Added.
2811         (RunsGenerator::__construct): Added.
2812         (RunsGenerator::add_runs): Added.
2813         (RunsGenerator::format_run): Moved.
2814         (RunsGenerator::parse_revisions_array): Moved.
2815
2816         * public/v2/analysis.js:
2817         (App.TestGroup): Fixed a typo. The property on a test group that refers to an analysis task is "task".
2818         (App.TestGroup._fetchChartData): Added. Fetches all A/B testing results for this group.
2819         (App.BuildRequest.configLetter): Renamed from config since this returns a letter that identifies the
2820         configuration associated with this build request such as "A" and "B".
2821         (App.BuildRequest.statusLabel): Added the missing label for failed build requests.
2822         (App.BuildRequest.url): Added. Returns the URL associated with this build request.
2823         (App.BuildRequest._meanFetched): Added. Retrieve the mean and the build number for this request via
2824         _fetchChartData.
2825
2826         * public/v2/app.js:
2827         (App.Pane._fetch): Set chartData directly here.
2828         (App.Pane._updateMovingAverageAndEnvelope): Renamed from _computeChartData. No longer sets chartData
2829         now that it's done in App.Pane._fetch.
2830         (App.AnalysisTaskController._fetchedRuns): Updated per createChartData merge.
2831
2832         * public/v2/data.js:
2833         (Measurement.prototype.buildId): Added.
2834         (TimeSeries.prototype.findPointByBuild): Added.
2835
2836         * public/v2/index.html: Fixed a bug that build status URL was broken. We can't use link-to helper since
2837         url is not an Ember routed path.
2838
2839         * public/v2/manifest.js:
2840         (App.Manifest.fetchRunsWithPlatformAndMetric): Takes testGroupId as the third argument. Merged
2841         App.createChartData here so that App.BuildRequest can use the formatter
2842
2843 2015-02-12  Ryosuke Niwa  <rniwa@webkit.org>
2844
2845         v2 UI should adjust the number of ticks on dashboards based on screen size
2846         https://bugs.webkit.org/show_bug.cgi?id=141502
2847
2848         Reviewed by Chris Dumez.
2849
2850         * public/v2/interactive-chart.js:
2851         (App.InteractiveChartComponent._updateDimensionsIfNeeded): Compute the number of ticks based on the
2852         content size.
2853
2854 2015-02-11  Ryosuke Niwa  <rniwa@webkit.org>
2855
2856         New perf dashboard shows too much space around interesting data points
2857         https://bugs.webkit.org/show_bug.cgi?id=141487
2858
2859         Reviewed by Chris Dumez.
2860
2861         Revise the y-axis range adjustment algorithm in r179913. Instead of showing the entire moving average,
2862         show the current time series excluding points in the series outside the moving average envelope.
2863
2864         * public/v2/app.js:
2865         (App.Pane._computeChartData): Don't deal with missing moving average or enveloping strategy here.
2866         (App.Pane._computeMovingAverageAndOutliers): Set isOutliner to true on all data points in the current
2867         time series if the point lies outside the moving average envelope. Don't expose the moving average or
2868         the envelope computed for this purpose if they're not set by the user.
2869
2870         * public/v2/data.js:
2871         (TimeSeries.prototype.minMaxForTimeRange): Takes a boolean argument, ignoreOutlier. When the flag is set
2872         to true, min/max computation will ignore any point in the series with non-falsy "isOutliner" property.
2873
2874         * public/v2/interactive-chart.js:
2875         (App.InteractiveChartComponent._constructGraphIfPossible): Unsupport hideMovingAverage and hideEnvelope.
2876         (App.InteractiveChartComponent._computeYAxisDomain): Removed the commented out code. Also moved the code
2877         to deal with showFullYAxis here.
2878         (App.InteractiveChartComponent._minMaxForAllTimeSeries): Rewrote the code. Takes ignoreOutliners as an
2879         argument instead of directly inspecting showFullYAxis.
2880
2881 2015-02-10  Ryosuke Niwa  <rniwa@webkit.org>
2882
2883         New perf dashboard shouldn't always show outliners
2884         https://bugs.webkit.org/show_bug.cgi?id=141445
2885
2886         Reviewed by Chris Dumez.
2887
2888         Use the simple moving average with an average difference envelope to compute the y-axis range to show
2889         to avoid expanding it spuriously to show one off outlier.
2890
2891         * public/v2/app.js:
2892         (App.Pane): Don't show the full y-axis range by default.
2893         (App.Pane._computeChartData): Use the first strategies for the moving average and the enveloping if
2894         one is not specified by the user but without showing them in the charts.
2895         (App.Pane._computeMovingAverage): Takes moving average and enveloping strategies as arguments instead
2896         of retrieving via chosenMovingAverageStrategy and chosenEnvelopingStrategy.
2897
2898         (App.ChartsController._parsePaneList): Added showFullYAxis as a query string argument to each pane.
2899         (App.ChartsController._serializePaneList): Ditto.
2900
2901         * public/v2/chart-pane.css: Added a CSS rule for when y-axis is clickable.
2902
2903         * public/v2/index.html: Pass in showFullYAxis as an argument to the main interactive chart.
2904
2905         * public/v2/interactive-chart.js:
2906         (App.InteractiveChartComponent._constructGraphIfPossible): Add an event listener on y-axis labels when
2907         the chart is interactive so that toggle showFullYAxis. Also hide the moving average and/or the envelope
2908         if they are not specified by the user (i.e. only used to adjust y-axis range).
2909         (App.InteractiveChartComponent._updateDomain): Don't exit early if y-axis domains are different even if
2910         x-axis domain remained the same. Without this change, the charts would never redraw.
2911         (App.InteractiveChartComponent._minMaxForAllTimeSeries): Use the moving average instead of the current
2912         time series to compute the y-axis range if showFullYAxis is false. When showFullYAxis is true, expand
2913         y-axis all the way down to 0 or the minimum value in the current time series whichever is smaller.
2914
2915         * public/v2/js/statistics.js:
2916         (Statistics.MovingAverageStrategies): Use a wider window in Simple Moving Average by default.
2917
2918 2015-02-10  Ryosuke Niwa  <rniwa@webkit.org>
2919
2920         Unreviewed build fix.
2921
2922         * public/v2/app.js:
2923         (set get App.Pane.Ember.Object.extend):
2924
2925 2015-02-10  Ryosuke Niwa  <rniwa@webkit.org>
2926
2927         New perf dashboard should have the ability to overlay moving average with an envelope
2928         https://bugs.webkit.org/show_bug.cgi?id=141438
2929
2930         Reviewed by Andreas Kling.
2931
2932         This patch adds three kinds of moving average strategies and two kinds of enveloping strategies:
2933
2934         Simple Moving Average - The moving average x̄_i of x_i is computed as the arithmetic mean of values
2935         from x_(i - n) though x_(i + m) where n is a non-negative integer and m is a positive integer. It takes
2936         n, backward window size, and m, forward window size, as an argument.
2937
2938         Cumulative Moving Average - x̄_i is computed as the arithmetic mean of all values x_0 though x_i.
2939         That is, x̄_1 = x_1 and x̄_i = ((i - 1) * M_(i - 1) + x_i) / i for all i > 1.
2940
2941         Exponential Moving Average - x̄_i is computed as the weighted average of x_i and x̄_(i - 1) with α as
2942         an argument specifying x_i's weight. To be precise, x̄_1 = x_1 and x̄_i = α * x_i + (α - 1) x̄_(i-1).
2943
2944
2945         Average Difference - The enveloping delta d is computed as the arithmetic mean of the difference
2946         between each x_i and x̄_i.
2947
2948         Moving Average Standard Deviation - d is computed like the standard deviation except the deviation
2949         for each term is measured from the moving average instead of the sample arithmetic mean. i.e. it uses
2950         the average of (x_i - x̄_i)^2 as the "sample variance" instead of the conventional (x_i - x̄)^2 where
2951         x̄ is the sample mean of all x_i's. This change was necessary since our time series is non-stationary.
2952
2953
2954         Each strategy is cloned for an App.Pane instance so that its parameterList can be configured per pane.
2955         The configuration of the currently chosen strategies is saved in the query string for convenience.
2956
2957         Also added the "stat pane" to choose a moving average strategy and a enveloping strategy in each pane.
2958
2959         * public/v2/app.css: Specify the fill color for all SVG groups in the pane toolbar icons.
2960
2961         * public/v2/app.js:
2962         (App.Pane._fetch): Delegate the creation of 'chartData' to _computeChartData.
2963         (App.Pane.updateStatisticsTools): Added. Clones moving average and enveloping strategies for this pane.
2964         (App.Pane._cloneStrategy): Added. Clones a strategy for a new pane.
2965         (App.Pane._configureStrategy): Added. Finds and configures a strategy from the configuration retrieved
2966         from the query string via ChartsController.
2967         (App.Pane._computeChartData): Added. Creates chartData from fetchedData.
2968         (App.Pane._computeMovingAverage): Added. Computes the moving average and the envelope.
2969         (App.Pane._executeStrategy): Added.
2970         (App.Pane._updateStrategyConfigIfNeeded): Pushes the strategy configurations to the query string via
2971         ChartsController.
2972         (App.ChartsController._parsePaneList): Merged the query string arguments for the range and point
2973         selections, and added two new arguments for the moving average and the enveloping configurations.
2974         (App.ChartsController._serializePaneList): Ditto.
2975         (App.ChartsController._scheduleQueryStringUpdate): Observes strategy configurations.
2976         (App.PaneController.actions.toggleBugsPane): Hides the stat pane.
2977         (App.PaneController.actions.toggleSearchPane): Hides the stat pane.
2978         (App.PaneController.actions.toggleStatPane): Added.
2979
2980         * public/v2/chart-pane.css: Added CSS rules for the new stat pane. Also added .foreground class for the
2981         current (as opposed to baseline and target) time series for when it's the most foreground graph without
2982         moving average and its envelope overlapping on top of it.
2983
2984         * public/v2/index.html: Added the templates for the stat pane and the corresponding icon (Σ).
2985
2986         * public/v2/interactive-chart.js:
2987         (App.InteractiveChartComponent.chartDataDidChange): Unset _totalWidth and _totalHeight to avoid exiting
2988         early inside _updateDimensionsIfNeeded when chartData changes after the initial layout.
2989         (App.InteractiveChartComponent.didInsertElement): Attach event listeners here instead of inside
2990         _constructGraphIfPossible since that could be called multiple times on the same SVG element.
2991         (App.InteractiveChartComponent._constructGraphIfPossible): Clear down the old SVG element we created
2992         but don't bother removing individual paths and circles. Added the code to show the moving average time
2993         series when there is one. Also add "foreground" class on SVG elements for the current time series when
2994         we're not showing the moving average. chart-pane.css has been updated to "dim down" the current time
2995         series when "foreground" is not set.
2996         (App.InteractiveChartComponent._minMaxForAllTimeSeries): Take the moving average time series into
2997         account when computing the y-axis range.
2998         (App.InteractiveChartComponent._brushChanged): Removed 'selectionIsLocked' argument as it's useless.
2999
3000         * public/v2/js/statistics.js:
3001         (Statistics.MovingAverageStrategies): Added.
3002         (Statistics.EnvelopingStrategies): Added.
3003
3004 2015-02-06  Ryosuke Niwa  <rniwa@webkit.org>
3005
3006         The delta value in the chart pane sometimes doens't show '+' for a positive delta
3007         https://bugs.webkit.org/show_bug.cgi?id=141340
3008
3009         Reviewed by Andreas Kling.
3010
3011         The bug was caused by computeStatus prefixing the value delta with '+' if it's greater than 0 after
3012         it had already been formatted. Fixed the bug by using a formatter that always emits a sign symbol.
3013
3014         * public/v2/app.js:
3015         (App.Pane.computeStatus):
3016         (App.createChartData):
3017
3018 2015-02-06  Ryosuke Niwa  <rniwa@webkit.org>
3019
3020         Unreviewed build fix. currentPoint wasn't defined when selectedPoints was used to find points.
3021
3022         * public/v2/app.js:
3023         (App.PaneController._updateDetails):
3024
3025 2015-02-06  Ryosuke Niwa  <rniwa@webkit.org>
3026
3027         Unreviewed. Commit the forgotten change.
3028
3029         * public/include/manifest.php:
3030
3031 2015-02-06  Ryosuke Niwa  <rniwa@webkit.org>
3032
3033         New perf dashboard should have multiple dashboard pages
3034         https://bugs.webkit.org/show_bug.cgi?id=141339
3035
3036         Reviewed by Chris Dumez.
3037
3038         Added the support for multiple dashboard pages. Also added the status of the latest data point.
3039         e.g. "5% better than target"
3040
3041         * public/v2/app.css: Tweaked the styles to work around the fact Ember.js creates empty script elements.
3042         Also hid the border lines around charts on the dashboard page for a cleaner look.
3043
3044         * public/v2/app.js:
3045         (App.IndexRoute): Added. Navigate to /dashboard/<defaultDashboardName> once the manifest.json is loaded.
3046         (App.IndexRoute.beforeModel): Added.
3047         (App.DashboardRoute): Added.
3048         (App.DashboardRoute.model): Added. Return the dashboard specified by the name.
3049         (App.CustomDashboardRoute): Added. This route is used for a customized dashboard specified by "grid".
3050         (App.CustomDashboardRoute.model): Create a dashboard model from "grid" query parameter.
3051         (App.CustomDashboardRoute.renderTemplate): Use the dashboard template.
3052         (App.DashboardController): Renamed from App.IndexController.
3053         (App.DashboardController.modelChanged): Renamed from gridChanged. Removed the code to deal with "grid"
3054         and "defaultDashboard" as these are taken care of by newly added routers.
3055         (App.DashboardController.computeGrid): Renamed from updateGrid. No longer updates "grid" since this is
3056         now done in actions.toggleEditMode.
3057         (App.DashboardController.actions.toggleEditMode): Navigate to CustomDashboardRoute when start editing
3058         an existing dashboard.
3059
3060         (App.Pane.computeStatus): Moved from App.PaneController so that to be called in App.Pane.latestStatus.
3061         Also moved the code to compute the delta with respect to the previous data point from _updateDetails.
3062         (App.Pane._relativeDifferentToLaterPointInTimeSeries): Ditto.
3063         (App.Pane.latestStatus): Added. Used by the dashboard template to show the status of the latest result.
3064
3065         (App.createChartData): Added deltaFormatter to show less significant digits for differences.
3066
3067         (App.PaneController._updateDetails): Updated per changes to computeStatus.
3068
3069         * public/v2/chart-pane.css: Added style rules for the status labels on the dashboard.
3070
3071         * public/v2/data.js:
3072         (TimeSeries.prototype.lastPoint): Added.
3073
3074         * public/v2/index.html: Prefetch manifest.json as soon as possible, show the latest data points' status
3075         on the dashboard, and enumerate all predefined dashboards.
3076
3077         * public/v2/interactive-chart.js:
3078         (App.InteractiveChartComponent._relayoutDataAndAxes): Slightly adjust the offset at which we show unit
3079         for the dashboard page.
3080
3081         * public/v2/manifest.js:
3082         (App.Dashboard): Inherit from App.NameLabelModel now that each predefined dashboard has a name.
3083         (App.MetricSerializer.normalizePayload): Parse all predefined dashboards instead of a single dashboard.
3084         IDs are generated for each dashboard for forward compatibility.
3085         (App.Manifest):
3086         (App.Manifest.dashboardByName): Added.
3087         (App.Manifest.defaultDashboardName): Added.
3088         (App.Manifest._fetchedManifest): Create dashboard model objects for all predefined ones.
3089
3090 2015-02-05  Ryosuke Niwa  <rniwa@webkit.org>
3091
3092         Move commits viewer to the end of details view
3093         https://bugs.webkit.org/show_bug.cgi?id=141315
3094
3095         Rubber-stamped by Andreas Kling.
3096
3097         Show the difference instead of the old value per kling's request.
3098
3099         * public/v2/app.js:
3100         (App.PaneController._updateDetails):
3101         * public/v2/index.html:
3102
3103 2015-02-05  Ryosuke Niwa  <rniwa@webkit.org>
3104
3105         Move commits viewer to the end of details view
3106         https://bugs.webkit.org/show_bug.cgi?id=141315
3107
3108         Reviewed by Andreas Kling.
3109
3110         Improved the way list of commits are shown per kling's request.
3111
3112         * public/v2/app.js:
3113         (App.PaneController._updateDetails): Always show the old value even when a single point is selected.
3114
3115         * public/v2/chart-pane.css: Updated the style for the commits viewer.
3116
3117         * public/v2/commits-viewer.js:
3118         (App.CommitsViewerComponent): Added "visible" property to hide the list of commits.
3119         (App.CommitsViewerComponent.actions.toggleVisibility): Added. Toggles "visible" property.
3120
3121         * public/v2/index.html: Updated the template for commits viewer to support "visible" property. Also
3122         moved the commits viewers out of the details tables so that they don't interleave revision data.
3123
3124 2015-02-05  Ryosuke Niwa  <rniwa@webkit.org>
3125
3126         New perf dashboard should compare results to baseline and target
3127         https://bugs.webkit.org/show_bug.cgi?id=141286
3128
3129         Reviewed by Chris Dumez.
3130
3131         Compare the selected value against baseline and target values as done in v1. e.g. "5% below target"
3132         Also use d3.format to format the selected value to show four significant figures.
3133
3134         * public/v2/app.js:
3135         (App.Pane.searchCommit):
3136         (App.Pane._fetch): Create time series here via createChartData so that _computeStatus can use them
3137         to compute the status text without having to recreate them.
3138         (App.createChartData): Added.
3139         (App.PaneController._updateDetails): Use 3d.format on current and old values.
3140         (App.PaneController._computeStatus): Added. Computes the status text.
3141         (App.PaneController._relativeDifferentToLaterPointInTimeSeries): Added.
3142         (App.AnalysisTaskController._fetchedManifest): Use createChartData as done in App.Pane._fetch. Also
3143         format the values using chartData.formatter.
3144
3145         * public/v2/chart-pane.css: Enlarge the status text. Show the status text in red if it's worse than
3146         the baseline and in blue if it's better than the target.
3147
3148         * public/v2/data.js:
3149         (TimeSeries.prototype.findPointAfterTime): Added.
3150
3151         * public/v2/index.html: Added a new tbody for the status text and the selected value. Also fixed
3152         the bug that we were not showing the old value's unit.
3153
3154         * public/v2/interactive-chart.js:
3155         (App.InteractiveChartComponent._constructGraphIfPossible): Use chartData.formatter. Also cleaned up
3156         the code to show the baseline and the target lines.
3157
3158         * public/v2/manifest.js:
3159         (App.Manifest.fetchRunsWithPlatformAndMetric): Added smallerIsBetter.
3160
3161 2015-02-05  Ryosuke Niwa  <rniwa@webkit.org>
3162
3163         Unreviewed build fix.
3164
3165         * public/v2/app.js:
3166         (App.IndexController.gridChanged): Use store.createRecord to create a custom dashboard as required by Ember.js
3167
3168 2015-02-04  Ryosuke Niwa  <rniwa@webkit.org>
3169
3170         New perf dashboard doesn't preserve the number of days when clicking on a dashboard chart
3171         https://bugs.webkit.org/show_bug.cgi?id=141280
3172
3173         Reviewed by Chris Dumez.
3174
3175         Fixed the bug by passing in "since" as a query parameter to the charts page.
3176
3177         Also fixed the styling issue that manifests when a JSON fetching fails on "Dashboard" page.
3178
3179         * public/v2/app.css: Fixed CSS rules for error messages shown in the place of charts.
3180         * public/v2/app.js:
3181         (App.IndexController): Changed the default number of days from one month to one week.
3182         (App.IndexController._sharedDomainChanged): Set "since" property on the controller.
3183         * public/v2/index.html: Pass in "since" property on the controller as a query parameter.
3184
3185 2015-02-04  Ryosuke Niwa  <rniwa@webkit.org>
3186
3187         New perf dashboard erroneously clears zoom when poping history items
3188         https://bugs.webkit.org/show_bug.cgi?id=141278
3189
3190         Reviewed by Chris Dumez.
3191
3192         The bug was caused by _sharedZoomChanged updating overviewSelection without updating mainPlotDomain.
3193
3194         Updating overviewSelection resulted in _overviewSelectionChanged, which observes changes to overviewSelection,
3195         to schedule a call to propagateZoom, which in turn overrode "sharedZoom" we just parsed from the query string.
3196
3197         * public/v2/app.js:
3198         (App.PaneController._overviewSelectionChanged): Don't schedule propagateZoom if the selected domain is already
3199         shown in the main plot.
3200         (App.PaneController._sharedZoomChanged): Set both overviewSelection and mainPlotDomain to avoid overriding
3201         "sharedZoom" via propagateZoom inside _overviewSelectionChanged.
3202
3203 2015-02-04  Ryosuke Niwa  <rniwa@webkit.org>
3204
3205         New perf dashboard shows null as the aggregator name if no aggregation is done
3206         https://bugs.webkit.org/show_bug.cgi?id=141256
3207
3208         Reviewed by Chris Dumez.
3209
3210         Don't show the aggregator name if there isn't one.
3211
3212         * public/v2/manifest.js:
3213         (App.Metric.label):
3214
3215 2015-02-04  Ryosuke Niwa  <rniwa@webkit.org>
3216
3217         Unreviewed build fix after r179611.
3218
3219         * public/v2/interactive-chart.js:
3220
3221 2015-02-04  Ryosuke Niwa  <rniwa@webkit.org>
3222
3223         Perf dashboard doesn’t show the right unit for Safari UI tests
3224         https://bugs.webkit.org/show_bug.cgi?id=141238
3225
3226         Reviewed by Darin Adler.
3227
3228         Safari UI tests use custom metrics that end with "Time". This patch teaches the perf dashboard how to
3229         get the unit for a given metric based on the suffix of the metric name instead of hard-coding the mapping
3230         between metrics and their units.