Migrate admin-regenerate-manifest.js to mocha.js and test v3 UI code
[WebKit-https.git] / Websites / perf.webkit.org / ChangeLog
1 2016-03-24  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Migrate admin-regenerate-manifest.js to mocha.js and test v3 UI code
4         https://bugs.webkit.org/show_bug.cgi?id=155863
5
6         Reviewed by Joseph Pecoraro.
7
8         Replaced admin-regenerate-manifest.js by a new mocha.js tests using the new server testing capability
9         added in r198642 and tested v3 UI code (parsing manifest.json and creating models). Also removed
10         /admin/regenerate-manifest since it has been superseded by /api/manifest.
11
12         This patch also extracts manifest.js out of main.js so that it could be used and tested without the
13         DOM support in node.
14
15         * public/admin/regenerate-manifest.php: Deleted.
16         * public/include/db.php: Fixed a regression from r198642 since CONFIG_DIR now doesn't end with
17         a trailing backslash.
18         * public/include/manifest.php:
19         (ManifestGenerator::bug_trackers): Avoid a warning message when there are no repositories.
20         * public/v3/index.html:
21         * public/v3/main.js:
22         (main):
23         * public/v3/models/bug-tracker.js:
24         (BugTracker.prototype.newBugUrl): Added.
25         (BugTracker.prototype.repositories): Added.
26         * public/v3/models/manifest.js: Added. Extracted from main.js.
27         (Manifest.fetch): Moved from main.js' fetchManifest.
28         (Manifest._didFetchManifest): Moved from main.js' didFetchManifest.
29         * public/v3/models/platform.js:
30         (Platform.prototype.hasTest): Fixed the bug that "test" here was shadowing the function parameter of
31         the same name. This is tested by the newly added test cases.
32         * server-tests/api-build-requests-tests.js:
33         * server-tests/api-manifest.js: Added. Migrated test cases from tests/admin-regenerate-manifest.js
34         with additional assertions for v3 UI model objects.
35         * server-tests/resources/test-server.js:
36         (TestServer.prototype.start):
37         (TestServer.prototype.testConfig): Renamed from _constructTestConfig now that this is a public API.
38         Also no longer takes dataDirectory as an argument since it's always the same.
39         (TestServer.prototype._ensureDataDirectory): Fixed a bug that we weren't making public/data.
40         (TestServer.prototype.cleanDataDirectory): Added. Remove all files inside public/data between tests.
41         (TestServer.prototype.inject): Added. Calls before, etc... because always calling before had an
42         unintended side effect of slowing down unit tests even through they don't need Postgres or Apache.
43         * tests/admin-regenerate-manifest.js: Removed.
44         * tools/js/database.js:
45         * tools/js/v3-models.js:
46
47 2016-03-23  Ryosuke Niwa  <rniwa@webkit.org>
48
49         Add mocha server tests for /api/build-requests
50         https://bugs.webkit.org/show_bug.cgi?id=155831
51
52         Reviewed by Chris Dumez.
53
54         Added the new mocha.js based server-tests for /api/build-requests. The new harness automatically:
55          - starts a new Apache instance
56          - switches the database during testing via setting an environmental variable 
57          - backups and restores public/data directory during testing
58
59         As a result, developer no longer has to manually setup Apache, edit config.json manually to use
60         a testing database, or run /api/manifest.php to re-generate the manifest file after testing.
61
62         This patch also makes ID resolution optional on /api/build-requests so that v3 model based syncing
63         scripts can re-use the same code as the v3 UI to process the JSON. tools/sync-with-buildbot.py has
64         been modified to use this option (useLegacyIdResolution).
65
66         * config.json: Added configurations for the test httpd server.
67         * init-database.sql: Don't error when tables and types don't exist (when database is empty).
68         * public/api/build-requests.php:
69         (main): Made the ID resolution optional with useLegacyIdResolution. Also removed "updates" from the
70         results JSON since it's never used.
71         * public/include/build-requests-fetcher.php:
72         (BuildRequestsFetcher::__construct):
73         (BuildRequestsFetcher::fetch_roots_for_set_if_needed): Fixed the bug that we would include the same
74         commit multiple times for each root set.
75         * public/include/db.php:
76         (config): If present, use ORG_WEBKIT_PERF_CONFIG_PATH instead of Websites/perf.webkit.org/config.json.
77         * server-tests: Added.
78         * server-tests/api-build-requests-tests.js: Added. Tests for /api/build-requests.
79         (.addMockData):
80         * server-tests/resources: Added.
81         * server-tests/resources/test-server.conf: Added. Apache configuration file for testing.
82         * server-tests/resources/test-server.js: Added.
83         (TestSever): Added.
84         (TestSever.prototype.start): Added.
85         (TestSever.prototype.stop): Added.
86         (TestSever.prototype.remoteAPI): Added. Configures RemoteAPI to be used with the test sever.
87         (TestSever.prototype.database): Added. Returns Database configured to use the test database.
88         (TestSever.prototype._constructTestConfig): Creates config.json for testing. The file is generated by
89         _start and db.php's config() reads it from the environmental variable: ORG_WEBKIT_PERF_CONFIG_PATH.
90         (TestSever.prototype._ensureDataDirectory): Renames public/data to public/original-data if exists,
91         and creates a new empty public/data.
92         (TestSever.prototype._restoreDataDirectory): Deletes public/data and renames public/original-data
93         back to public/data.
94         (TestSever.prototype._ensureTestDatabase): Drops the test database if exists and creates a new one.
95         (TestSever.prototype.initDatabase): Run init-database.sql to start each test with a consistent state.
96         (TestSever.prototype._executePgsqlCommand): Executes a postgres command line tool such as psql.
97         (TestSever.prototype._determinePgsqlDirectory): Finds the directory that contains psql.
98         (TestSever.prototype._startApache): Starts an Apache instance for testing.
99         (TestSever.prototype._stopApache): Stops the Apache instance for testing.
100         (TestSever.prototype._waitForPid): Waits for the Apache pid file to appear or disappear.
101         (before): Start the test server at the beginning.
102         (beforeEach): Re-initialize all tables before each test.
103         (after): Stop the test server at the end.
104         * tools/js/config.js:
105         (Config.prototype.path):
106         (Config.prototype.serverRoot): Added. The path to Websites/perf.webkit.org/public/.
107         (Config.prototype.pathFromRoot): Added. Resolves a path from Websites/perf.webkit.org.
108         * tools/js/database.js:
109         (Database): Now optionally takes the database name to use a different database during testing.
110         (Database.prototype.connect):
111         (Database.prototype.query): Added.
112         (Database.prototype.insert): Added.
113         (tableToPrefixMap): Maps table name to its prefix. Used by Database.insert.
114         * tools/js/remote.js: Added.
115         (RemoteAPI): Added. This is node.js equivalent of RemoteAPI in public/v3/remote.js.
116         (RemoteAPI.prototype.configure): Added.
117         (RemoteAPI.prototype.fetchJSON): Added.
118         (RemoteAPI.prototype.fetchJSONWithStatus): Added.
119         (RemoteAPI.prototype.sendHttpRequest): Added.
120         * tools/sync-with-buildbot.py:
121         (main): Use useLegacyIdResolution as this script relies on the legacy behavior.
122         * unit-tests/checkconfig.js: pg was never directly used in this test.
123
124 2016-03-23  Ryosuke Niwa  <rniwa@webkit.org>
125
126         Delete a file that was supposed to be removed in r198614 for real.
127
128         * unit-tests/resources/v3-models.js: Removed.
129
130 2016-03-23  Ryosuke Niwa  <rniwa@webkit.org>
131
132         Add a model for parsing buildbot JSON with unit tests
133         https://bugs.webkit.org/show_bug.cgi?id=155814
134
135         Reviewed by Joseph Pecoraro.
136
137         Added BuildbotSyncer and BuildbotBuildEntry classes to parse buildbot JSON files with unit tests.
138         They will be used in the new syncing scripts to improve A/B testing.
139
140         * public/v3/models/build-request.js:
141         (BuildRequest):
142         * tools/js/buildbot-syncer.js: Added.
143         (BuildbotBuildEntry): Added.
144         (BuildbotBuildEntry.prototype.slaveName): Added.
145         (BuildbotBuildEntry.prototype.buildRequestId): Added.
146         (BuildbotBuildEntry.prototype.isInProgress): Added.
147         (BuildbotSyncer): Added.
148         (BuildbotSyncer.prototype.testPath): Added.
149         (BuildbotSyncer.prototype.builderName): Added.
150         (BuildbotSyncer.prototype.platformName): Added.
151         (BuildbotSyncer.prototype.fetchPendingRequests): Added.
152         (BuildbotSyncer.prototype._propertiesForBuildRequest): Added.
153         (BuildbotSyncer.prototype._revisionSetFromRootSetWithExclusionList): Added.
154         (BuildbotSyncer._loadConfig): Added.
155         (BuildbotSyncer._validateAndMergeConfig): Added.
156         (BuildbotSyncer._validateAndMergeProperties): Added.
157         * tools/js/v3-models.js: Copied from unit-tests/resources/v3-models.js.
158         (beforeEach): Deleted since this only defined inside mocha.
159         * unit-tests/analysis-task-tests.js:
160         * unit-tests/buildbot-syncer-tests.js: Added.
161         (sampleiOSConfig):
162         (createSampleBuildRequest):
163         (.smallConfiguration):
164         * unit-tests/measurement-adaptor-tests.js:
165         * unit-tests/measurement-set-tests.js:
166         * unit-tests/resources/mock-v3-models.js: Renamed from unit-tests/resources/v3-models.js.
167         (beforeEach):
168         * unit-tests/test-groups-tests.js:
169         (sampleTestGroup):
170
171 2016-03-22  Ryosuke Niwa  <rniwa@webkit.org>
172
173         Add unit tests for test-group.js
174         https://bugs.webkit.org/show_bug.cgi?id=155781
175
176         Reviewed by Joseph Pecoraro.
177
178         Added unit tests for test-group.js that would have caught regressions fixed in r198503.
179
180         * public/v3/components/chart-pane-base.js:
181         (ChartPaneBase.prototype._renderAnnotations): Added a forgotten break statement.
182         * public/v3/models/build-request.js:
183         (BuildRequest.prototype.setResult):
184         (BuildRequest):
185         * public/v3/models/test-group.js:
186         * unit-tests/measurement-set-tests.js: Use ./resources/v3-models.js to reduce the code duplication.
187         * unit-tests/resources/v3-models.js: Import more stuff from v3 models.
188         (beforeEach):
189         * unit-tests/test-groups-tests.js: Added. Added some unit tests for TestGroup.
190         (sampleTestGroup):
191         (.testGroupWithStatusList):
192
193 2016-03-22  Ryosuke Niwa  <rniwa@webkit.org>
194
195         Fix a typo.
196
197         * config.json:
198
199 2016-03-21  Ryosuke Niwa  <rniwa@webkit.org>
200
201         Commit log viewer repaints too frequently after r198499
202         https://bugs.webkit.org/show_bug.cgi?id=155732
203
204         Reviewed by Joseph Pecoraro.
205
206         The bug was caused by InteractiveTimeSeriesChart invoking onchange callback whenever mouse moved even
207         if the current point didn't change. Fixed the bug by avoiding the work if the indicator hadn't changed
208         and avoiding work in the commit log viewer when the requested repository and the revision range were
209         the same as those of the last request.
210
211         * public/v3/components/commit-log-viewer.js:
212         (CommitLogViewer):
213         (CommitLogViewer.prototype.currentRepository): Exit early when repository and the revision range are
214         identical to the one we already have to avoid repaints and issuing multiple network requests.
215         * public/v3/components/interactive-time-series-chart.js:
216         (InteractiveTimeSeriesChart.prototype._mouseMove): Don't invoke _notifyIndicatorChanged if the current
217         indicator hadn't changed.
218         * public/v3/pages/chart-pane.js:
219         (ChartPane.prototype._indicatorDidChange): Fixed the bug that unlocking the indicator wouldn't update
220         the URL. We need to check whether the lock state had changed. The old condition was also redundant
221         since _mainChartIndicatorWasLocked is always identically equal to isLocked per the prior assignment.
222
223 2016-03-21  Ryosuke Niwa  <rniwa@webkit.org>
224
225         Fix A/B testing after r198503.
226
227         * public/include/build-requests-fetcher.php:
228
229 2016-03-21  Ryosuke Niwa  <rniwa@webkit.org>
230
231         Analysis task page is broken after r198479
232         https://bugs.webkit.org/show_bug.cgi?id=155735
233
234         Rubber-stamped by Chris Dumez.
235
236         * public/api/measurement-set.php:
237         (AnalysisResultsFetcher::fetch_commits): We need to emit the commit ID as done for regular data.
238         * public/include/build-requests-fetcher.php:
239         (BuildRequestsFetcher::fetch_roots_for_set_if_needed): Ditto. Don't use a fake ID after r198479.
240         * public/v3/models/commit-log.js:
241         (CommitLog): Assert that all commit log IDs are integers to catch regressions like this in future.
242         * public/v3/models/root-set.js:
243         (RootSet): Don't resolve Repository here as doing so would modify the shared "root" entry in the JSON
244         we fetched, and subsequent construction of RootSet would fail since this line would blow up trying to
245         find the repository with "[object]" as the ID.
246         * public/v3/models/test-group.js:
247         (TestGroup._createModelsFromFetchedTestGroups): Resolve Repository here.
248
249 2016-03-21  Ryosuke Niwa  <rniwa@webkit.org>
250
251         v3 UI sometimes don't update the list of revisions on the commit log viewer
252         https://bugs.webkit.org/show_bug.cgi?id=155729
253
254         Rubber-stamped by Chris Dumez.
255
256         Fixed multiple bugs that were affecting the list of blame range and commit logs for the range weren't
257         updated in some cases on v3 UI. Also, the commit log viewer state is now a part of the URL state so
258         opening and closing the commit log viewer will persist across page loads.
259
260         Also fixed a regression from r198479 that Test object can't be created for a top level test.
261
262         * public/v3/components/chart-pane-base.js:
263         (ChartPaneBase.prototype.configure):
264         (ChartPaneBase.prototype._mainSelectionDidChange): Fixed the bug that the list of blame range nor the
265         commit log viewer don't get updated when the selected range changes.
266         (ChartPaneBase.prototype._indicatorDidChange):
267         (ChartPaneBase.prototype._didFetchData):
268         (ChartPaneBase.prototype._updateStatus): Extracted from _indicatorDidChange and _didFetchData.
269         (ChartPaneBase.prototype._requestOpeningCommitViewer): Renamed from _openCommitViewer.
270
271         * public/v3/components/chart-status-view.js:
272         (ChartStatusView.prototype.updateStatusIfNeeded): Fixed the bug that the blame range doesn't get set
273         on the initial page load when the selection range is set but the chart data hadn't been fetched yet.
274
275         * public/v3/components/commit-log-viewer.js:
276         (CommitLogViewer.prototype.view): Fixed the bug that we don't clear out the old list of commits while
277         loading the next set of commits to show as it looked as if the list was never updated.
278         (CommitLogViewer.prototype.render): Fixed the bug that the view always show the last repository name
279         even if there were nothing being fetched or commits to show.
280
281         * public/v3/components/pane-selector.js:
282         (PaneSelector.prototype.focus): Removed superfluous call to console.log.
283
284         * public/v3/models/data-model.js:
285         (DataModelObject.listForStaticMap): Generalized the code for all to fix the bug in Test.
286         (DataModelObject.all):
287
288         * public/v3/models/test.js:
289         (Test): Fixed the bug that this code was relying on the static map to be an array.
290         (Test.topLevelTests): Use newly added listForStaticMap to convert the dictionary to an array.
291
292         * public/v3/pages/chart-pane-status-view.js:
293         (ChartPaneStatusView): Always initialize _usedRevisionRange as a triple to simplify code elsewhere.
294         (ChartPaneStatusView.prototype.render): Invoke _revisionCallback when user clicks on a repository
295         expansion mark (>>). Also fixed click handler from the row since this made selecting revision range
296         on the view cumbersome. Now user has to explicitly click on the expansion mark (>>).
297         (ChartPaneStatusView.prototype._setRevisionRange): Now takes shouldNotify, from, and to as arguments
298         as this function must not invoke_revisionCallback inside _updateRevisionListForNewCurrentRepository.
299         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Use newly added setCurrentRepository
300         instead of manually invoking setCurrentRepository and updateRevisionListWithNotification.
301         (ChartPaneStatusView.prototype.setCurrentRepository): Fixed the bug that we weren't updating the
302         blame list here.
303         (ChartPaneStatusView.prototype.updateRevisionList): Renamed from updateRevisionListWithNotification
304         since we no longer call _revisionCallback. In general, callbacks are only meant to communicate user
305         initiated actions, and not program induced updates like this API so this was a bad pattern anyway.
306         ChartPane now explicitly updates the commit log viewer instead of relying on this function calling
307         _requestOpeningCommitViewer implicitly.
308         (ChartPaneStatusView.prototype._updateRevisionListForNewCurrentRepository): Extracted from
309         updateRevisionListWithNotification so that setCurrentRepository can also call this function.
310
311         * public/v3/pages/chart-pane.js:
312         (ChartPane.prototype._requestOpeningCommitViewer): Overrides ChartPaneBase's method. Open the same
313         repository in other panes via ChartsPage.setOpenRepository.
314         (ChartPane.prototype.setOpenRepository): This method is called when the user selected a repository in
315         another pane. Open the same repository in this pane if it wasn't already open.
316
317         * public/v3/pages/charts-page.js:
318         (ChartsPage): Added this._currentRepositoryId.
319         (ChartsPage.prototype.serializeState): Serialize _currentRepositoryId.
320         (ChartsPage.prototype.updateFromSerializedState): Set the commit log viewer's 
321         (ChartsPage.prototype.setOpenRepository): Added.
322
323         * tests/api-measurement-set.js: Fixed a test after r198479.
324
325 2016-03-21  Ryosuke Niwa  <rniwa@webkit.org>
326
327         V3 Perf Dashboard should automatically select initial range when creating a new task
328         https://bugs.webkit.org/show_bug.cgi?id=155677
329
330         Reviewed by Joseph Pecoraro.
331
332         Select the entire range of points for which the analysis task is created by default so that creating
333         a test group to confirm the regression / progression is easy.
334
335         * public/v3/pages/analysis-task-page.js:
336         (AnalysisTaskPage): Added a boolean flag which indicates the user had modified main chart's selection.
337         * public/v3/pages/analysis-task-page.js:
338         (AnalysisTaskPage.prototype.render): Set the main chart's selection to the entire range of points in
339         the analysis task if the user had never modified selection.
340         (AnalysisTaskPage.prototype._chartSelectionDidChange): This callback is invoked only when the user had
341         modified the selection so set _selectionWasModifiedByUser true here unconditionally.
342
343 2016-03-19  Ryosuke Niwa  <rniwa@webkit.org>
344
345         Associated commits don't immediately show up on an analysis task page
346         https://bugs.webkit.org/show_bug.cgi?id=155692
347
348         Reviewed by Darin Adler.
349
350         The bug was caused by resolveCommits in AnalysisTask._constructAnalysisTasksFromRawData not being
351         able to find the matching commit log if the commit log had been created by the charts which don't
352         set the remote identifiers on each CommitLog objects.
353
354         Fixed the bug by modifying /api/measurement-set to include the commit ID, and making CommitLog
355         use the real database ID as its ID instead of a fake ID we create from repository and revision.
356
357         Also added a bunch of Mocha unit tests for AnalysisTask.fetchAll.
358
359         * public/api/measurement-set.php:
360         (MeasurementSetFetcher::execute_query): Fetch commit_id.
361         (MeasurementSetFetcher::format_run): Use pass-by-reference to avoid making a copy of the row.
362         (MeasurementSetFetcher::parse_revisions_array): Include commit_id as the first item in the result.
363         * public/v3/instrumentation.js:
364         * public/v3/models/analysis-task.js:
365         (AnalysisTask): Fixed a bug that _buildRequestCount and _finishedBuildRequestCount could be kept
366         as strings and hasPendingRequests() could return a wrong result because it would perform string
367         inequality instead of numerical inequality.
368         (AnalysisTask.prototype.updateSingleton): Ditto.
369         (AnalysisTask.prototype.dissociateCommit):
370         (AnalysisTask._constructAnalysisTasksFromRawData):
371         (AnalysisTask._constructAnalysisTasksFromRawData.resolveCommits): Use findById now that CommitLog
372         objects all use the same id as the database id.
373         * public/v3/models/commit-log.js:
374         (CommitLog):
375         (CommitLog.prototype.remoteId): Deleted since we no longer create a fake id for commit logs for
376         measurement sets.
377         (CommitLog.findByRemoteId): Deleted.
378         (CommitLog.ensureSingleton): Deleted.
379         (CommitLog.fetchBetweenRevisions):
380
381         * public/v3/models/data-model.js:
382         (DataModelObject.clearStaticMap): Added to aid unit testing.
383         (DataModelObject.ensureNamedStaticMap): Fixed a typo. Each map is a dictionary, not an array.
384         * public/v3/models/metric.js:
385         * public/v3/models/platform.js:
386         * public/v3/models/root-set.js:
387         (RootSet): Updated per the interface change in CommitLog.ensureSingleton.
388         (MeasurementRootSet): Updated per /api/measurement-set change. Use the first value as the id.
389         * public/v3/models/test.js:
390         * unit-tests/analysis-task-tests.js: Added.
391         (sampleAnalysisTask):
392         (measurementCluster):
393         * unit-tests/checkconfig.js: Added some assertion message to help aid diagnosing the failure.
394         * unit-tests/measurement-adaptor-tests.js: Updated the sample data per the API change in
395         /api/measurement-set and also added assertions for commit log ids.
396         * unit-tests/measurement-set-tests.js:
397         (beforeEach):
398         * unit-tests/resources: Added.
399         * unit-tests/resources/mock-remote-api.js: Added. Extracted from measurement-set-tests.js to be
400         used in analysis-task-tests.js.
401         (assert.notReached.assert.notReached):
402         (global.RemoteAPI.getJSON):
403         (global.RemoteAPI.getJSONWithStatus):
404         (beforeEach):
405         * unit-tests/resources/v3-models.js: Added. Extracted from measurement-set-tests.js to be used in
406         analysis-task-tests.js and added more imports as needed.
407         (importFromV3):
408         (beforeEach):
409
410 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
411
412         Build fix after r198464.
413
414         * public/v3/components/analysis-results-viewer.js:
415         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
416
417 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
418
419         Build fix after r198234.
420
421         * public/api/commits.php:
422         (main): Typo: fetch_latest_reported -> fetch_last_reported.
423         * public/include/commit-log-fetcher.php:
424         (CommitLogFetcher::format_single_commit): commits should be an array.
425
426 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
427
428         Perf Dashboard v3 confuses better and worse on A/B task page
429         https://bugs.webkit.org/show_bug.cgi?id=155675
430         <rdar://problem/25208723>
431
432         Reviewed by Joseph Pecoraro.
433
434         The analysis results viewer on v3 UI sometimes treats regressions as progressions and vice versa when
435         the first set (i.e. set A) of the revisions used in an A/B testing never appears in the original graph,
436         and its latest commit time matches that of the second set, which appears in the original graph.
437
438         Because the analysis results viewer compares results in the increasing row number, this results in
439         B to be compared to A instead of A to be compared to B. Fixed the bug by preventing the wrong ordering
440         to occur in _buildRowsForPointsAndTestGroups by always inserting a root set A before B when B appears
441         and A doesn't appear in the original graph.
442
443         * public/v3/components/analysis-results-viewer.js:
444         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Remember the succeeding root set B
445         when creating an entry for root set A.
446         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Fixed the bug. Also un-duplicated
447         the code to create a new row.
448         (AnalysisResultsViewer.RootSetInTestGroup): Now takes a succeeding root set. e.g. it's B for A and
449         undefined for B in A/B testing.
450         (AnalysisResultsViewer.RootSetInTestGroup.prototype.succeedingRootSet): Added.
451         * public/v3/components/time-series-chart.js:
452         (TimeSeriesChart.computeTimeGrid): Fixed the bug that we would end up showing 0 AM instead of dates
453         when both dates and months change.
454
455 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
456
457         Add unit tests for measurement-set.js and measurement-adapter.js
458         https://bugs.webkit.org/show_bug.cgi?id=155673
459
460         Reviewed by Daniel Bates.
461
462         Add tests which were supposed to be added in r198462.
463
464         * unit-tests/measurement-adaptor-tests.js: Added.
465         * unit-tests/measurement-set-tests.js: Added.
466         (assert.notReached): Added.
467         (global.RemoteAPI.getJSON): Added.
468         (global.RemoteAPI.getJSONWithStatus): Added. A mock.
469
470 2016-03-18  Ryosuke Niwa  <rniwa@webkit.org>
471
472         Add unit tests for measurement-set.js and measurement-adapter.js
473         https://bugs.webkit.org/show_bug.cgi?id=155673
474
475         Reviewed by Darin Adler.
476
477         Added mocha unit tests for MeasurementSet and MeasurementAdapter classes along with the necessary
478         refactoring to run these tests in node.
479
480         getJSON and getJSONStatus are now under RemoteAPI so that unit tests can mock them.
481
482         Removed the dependency on v2 UI's TimeSeries and Measurement class by adding a new implementation
483         of TimeSeries in v3 and removing the dependency on Measurement in chart-pane-status-view.js with
484         new helper methods on Build and CommitLog.
485
486         Many js files now use 'use strict' (node doesn't support class syntax in non-strict mode) and
487         module.exports to export symbols in node's require function.
488
489         * public/v3/index.html:
490         * public/v3/main.js:
491         * public/v3/models/analysis-results.js:
492         (AnalysisResults.fetch):
493         * public/v3/models/analysis-task.js:
494         (AnalysisTask.fetchAll):
495         * public/v3/models/builder.js:
496         (Build):
497         (Build.prototype.builder): Added. Used by ChartPaneStatusView.
498         (Build.prototype.buildNumber): Ditto.
499         (Build.prototype.buildTime): Ditto.
500         * public/v3/models/commit-log.js:
501         (CommitLog.prototype.diff): Ditto.
502         (CommitLog.fetchBetweenRevisions):
503         * public/v3/models/data-model.js:
504         (DataModelObject.cachedFetch):
505         * public/v3/models/measurement-adaptor.js:
506         (MeasurementAdaptor.prototype.applyToAnalysisResults): Renamed from adoptToAnalysisResults.
507         (MeasurementAdaptor.prototype.applyTo): Renamed from adoptToSeries. Now shares a lot more
508         code with applyToAnalysisResults. The code to set 'series' and 'seriesIndex' has been moved
509         to TimeSeries.append. 'measurement' is no longer needed as this patch removes its only use
510         in ChartPaneStatusView.
511         * public/v3/models/measurement-cluster.js:
512         (MeasurementCluster.prototype.addToSeries): Use TimeSeries.append instead of directly mutating
513         series._series.
514         * public/v3/models/measurement-set.js:
515         (Array.prototype.includes): Added a polyfill for node.
516         (MeasurementSet.prototype._fetchSecondaryClusters): Removed a bogus assertion. When fetchBetween
517         is called with a mixture of clusters that have been fetched and not fetched, this assertion fails.
518         (MeasurementSet.prototype._fetch):
519         (TimeSeries.prototype.findById): Moved to time-series.js.
520         (TimeSeries.prototype.dataBetweenPoints): Ditto.
521         (TimeSeries.prototype.firstPoint): Ditto.
522         (TimeSeries.prototype.fetchedTimeSeries): Moved the code to extend the last point to TimeSeries'
523         extendToFuture.
524         * public/v3/models/repository.js:
525         * public/v3/models/root-set.js:
526         (MeasurementRootSet): Ignore repositories that had not been defined (e.g. it could be added after
527         manifest.json had been downloaded but before a given root set is created for an A/B testing).
528         * public/v3/models/time-series.js:
529         (TimeSeries): Added.
530         (TimeSeries.prototype.append): Added.
531         (TimeSeries.prototype.extendToFuture): Added.
532         (TimeSeries.prototype.firstPoint): Moved from measurement-set.js.
533         (TimeSeries.prototype.lastPoint): Added.
534         (TimeSeries.prototype.previousPoint): Added.
535         (TimeSeries.prototype.nextPoint): Added.
536         (TimeSeries.prototype.findPointByIndex): Added.
537         (TimeSeries.prototype.findById): Moved from measurement-set.js.
538         (TimeSeries.prototype.findPointAfterTime): Added.
539         (TimeSeries.prototype.dataBetweenPoints): Moved from measurement-set.js.
540         * public/v3/pages/chart-pane-status-view.js:
541         (ChartPaneStatusView.prototype.render): Use newly added helper functions on Build.
542         (ChartPaneStatusView.prototype._formatTime): Added.
543         (ChartPaneStatusView.prototype.setCurrentRepository):
544         (ChartPaneStatusView.prototype.computeChartStatusLabels): Rewrote the code using RootSet object on
545         currentPoint and previousPoint instead of Measurement class from v2 UI. Also sort the results using
546         sortByNamePreferringOnesWithURL.
547         * public/v3/remote.js:
548         (RemoteAPI.getJSON): Moved under RemoteAPI.
549         (RemoteAPI.getJSONWithStatus): Ditto.
550         (PrivilegedAPI):
551         (PrivilegedAPI.requestCSRFToken):
552
553 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
554
555         Add unit tests for config.json and statistics.js
556         https://bugs.webkit.org/show_bug.cgi?id=155626
557
558         Reviewed by Darin Adler.
559
560         Added mocha unit tests for statistics.js and validating config.json. For segmentations, I've extracted
561         real data from our internal perf dashboard.
562
563         Also fixed some bugs covered by these new tests.
564
565         * public/shared/statistics.js:
566         (Statistics.movingAverage): Fixed a bug that forwardWindowSize was never used.
567         (Statistics.exponentialMovingAverage): Fixed the bug that the moving average starts at 0. It should
568         start at the first value instead.
569         (.splitIntoSegmentsUntilGoodEnough): Fixed the bug that we may try to segment a time series into
570         more parts than there are data points. Clearly, that doesn't make any sense.
571         (.findOptimalSegmentation): Renamed local variables so that they're more descriptive, and rewrote
572         the debugging code was the old code was emitting some useless data. Also fixed the bug that the length
573         of "segmentation" was off by one (we need segmentCount + 1 elements in the array sine we always
574         include the start of the first segment = 0 and the end of the last segment = values.length).
575         (.SampleVarianceUpperTriangularMatrix):
576         (Statistics): Modernized the export code.
577         * tools/js: Added.
578         * tools/js/config.js: Added.
579         (Config): Added.
580         (Config.prototype.configFilePath): Added.
581         (Config.prototype.value): Added.
582         (Config.prototype.path): Added.
583         * tools/js/database.js: Added.
584         (Database): Added.
585         (Database.prototype.connect): Added.
586         (Database.prototype.disconnect): Added.
587         * unit-tests: Added.
588         * unit-tests/checkconfig.js: Added. Validates config.json. This is useful while setting up
589         a local instance of the perf dashboard.
590         * unit-tests/statistics-tests.js: Added.
591         (assert.almostEqual): Added. Asserts that two floating values are within a given significant digits.
592         (.stdev):
593         (.delta):
594         (.computeWelchsT):
595
596 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
597
598         Fix a typo which was supposed to be fixed in r198351.
599
600         * public/v3/pages/analysis-task-page.js:
601         (AnalysisTaskPage.prototype.render):
602
603 2016-03-17  Ryosuke Niwa  <rniwa@webkit.org>
604
605         An analysis task should be closed if a progression cause is identified
606         https://bugs.webkit.org/show_bug.cgi?id=155549
607
608         Reviewed by Chris Dumez.
609
610         Since a progression is desirable, we should close an analysis task once its cause is identified.
611
612         Also fix some typos.
613
614         * init-database.sql: Fixed a typo.
615         * public/api/analysis-tasks.php:
616         * public/v3/models/analysis-task.js:
617         (AnalysisTask.prototype.dissociateBug): Renamed from dissociateBug.
618         * public/v3/pages/analysis-task-page.js:
619         (AnalysisTaskPage.prototype.render):
620         (AnalysisTaskPage.prototype._dissociateBug): Renamed from _dissociateBug.
621         (AnalysisTaskPage.prototype._dissociateCommit): Fixed the typo in the alert.
622
623 2016-03-16  Ryosuke Niwa  <rniwa@webkit.org>
624
625         Analysis task page should allow specifying commits that caused or fixed a regression or a progression
626         https://bugs.webkit.org/show_bug.cgi?id=155529
627
628         Reviewed by Chris Dumez.
629
630         Added the capability to associate revisions that caused or fixed a progression or a regression for which
631         an analysis task was created. Added task_commits that stores this relationship and added the backend
632         support to retrieve this table in /api/analysis-tasks and an privileged API to update this table at
633         /privileged-api/associate-commit.
634
635         Also extracted a new component, MutableListView, out of AnalysisTaskPage to render and manipulate a list
636         of mutable items, and used it to render the list of associated bugs and commits. The view takes a list of
637         kinds (e.g. repositories or bug trackers), and accepts a pair of a kind and arbitrary text as a new item
638         value.
639
640         * init-database.sql: Added task_commits table.
641
642         * public/api/analysis-tasks.php:
643         (main):
644         (fetch_associated_data_for_tasks): Renamed from fetch_and_push_bugs_to_tasks now that it also fetches
645         the list of commits associated with each analysis task by calling CommitLogFetcher::fetch_for_tasks.
646         Also fixe the bug that we were not taking 
647         (format_task): No longer sets 'category' since the computation of category now depends on the list of
648         commits associated with this analysis task which aren't available until fetch_associated_data_for_tasks.
649         (determine_category): Added. Categorize any analysis tasks with "fixes" commits as "closed" and "causes"
650         commits as "identified".
651
652         * public/include/commit-log-fetcher.php:
653         (CommitLogFetcher::__construct): Remove the unused instance variable.
654         (CommitLogFetcher::fetch_for_tasks): Added. Fetches all commits associated with a list of analysis tasks.
655         Assumes the caller (fetch_associated_data_for_tasks) had setup "fixes" and "causes" fields on each task.
656
657         * public/privileged-api/associate-commit.php: Added. Updates task_commits table to associate or disassociate
658         a commit with an analysis task. When the specified analysis task and the specified commit are already
659         associated, we simply update the table instead of adding a duplicating entry or error. For dissociation,
660         the front-end specifies the commit ID.
661         (main): Added.
662
663         * public/v3/index.html:
664         * public/v3/components/mutable-list-view.js: Added. Used by the list associated bugs and commits.
665         (MutableListView): Added.
666         (MutableListView.prototype.setList): Added.
667         (MutableListView.prototype.setKindList): Added.
668         (MutableListView.prototype.setAddCallback): Added. This callback is invoked when the user tries to add
669         a new item to the list.
670         (MutableListView.prototype.render): Added.
671         (MutableListView.prototype._submitted): Added.
672         (MutableListView.cssTemplate):
673         (MutableListView.htmlTemplate):
674         (MutableListItem): Added. RemovalLink could be a hyperlink or a callback and gets involved when the user
675         tries to delete this item.
676         (MutableListItem.prototype.content):
677
678         * public/v3/models/analysis-task.js:
679         (AnalysisTask): Added the support of the list of commits that fixed and caused changes.
680         (AnalysisTask.prototype.updateSingleton): Ditto.
681         (AnalysisTask.prototype.causes): Added.
682         (AnalysisTask.prototype.fixes): Added.
683         (AnalysisTask.prototype.associateCommit): Added. Use the API added at /privileged-api/associate-commit
684         to associate a new commit with this analysis task. Each commit has either caused or fixed the change.
685         (AnalysisTask.prototype.dissociateCommit): Added. Use the same API to disassociate each commit.
686         (AnalysisTask._constructAnalysisTasksFromRawData): Find all commits associated with each analysis task.
687         Because commit log objects use a fake ID fdue to /api/measurement-set not providing commit IDs, we must
688         use CommitLog.findByRemoteId to find each commit instead of usual CommitLog.findById.
689         (AnalysisTask._constructAnalysisTasksFromRawData.resolveCommits): Added.
690
691         * public/v3/models/build-request.js:
692         (BuildRequest.prototype.hasFinished): Renamed from hasCompleted since it was confusing for this._status
693         being "completed" wasn't a necessary condition for this function to return true.
694
695         * public/v3/models/commit-log.js:
696         (CommitLog): Added the static map for actual commit ID instead of a fake ID created in ensureSingleton.
697         (CommitLog.prototype.remoteId): Added. Returns the real commit ID.
698         (CommitLog.findByRemoteId): Added. Finds an CommitLog object using the real ID.
699
700         * public/v3/models/test-group.js:
701         (TestGroup.prototype.hasFinished): Renamed from hasCompleted to match the rename in BuildRequest.
702
703         * public/v3/pages/analysis-task-page.js:
704         (AnalysisTaskPage): Added lists for the commits that fixed and caused the change using MutableListView.
705         Also adopted MutableListView for the list of associated bugs.
706         (AnalysisTaskPage.prototype.render): Added the code to populate the newly added lists.
707         (AnalysisTaskPage.prototype._makeCommitListItem): Added.
708         (AnalysisTaskPage.prototype._associateBug): Now this is a callback from MutableListView.
709         (AnalysisTaskPage.prototype._associateCommit): Added.
710         (AnalysisTaskPage.prototype._dissociateCommit): Added.
711         (AnalysisTaskPage.htmlTemplate):
712         (AnalysisTaskPage.cssTemplate):
713
714         * public/v3/remote.js:
715         (getJSON): Spit out the entire responseText when JSON failed to parse to make debugging easier.
716
717 2016-03-15  Ryosuke Niwa  <rniwa@webkit.org>
718
719         Extract the code to format commit logs into its own PHP file
720         https://bugs.webkit.org/show_bug.cgi?id=155514
721
722         Rubber-stamped by Chris Dumez.
723
724         Extracted CommitLogFetcher out of /api/commits so that it could be used in analysis-tasks.php
725         in the future to support associating cause/fix for each analysis task.
726
727         * public/api/commits.php:
728         * public/include/commit-log-fetcher.php: Added.
729         (CommitLogFetcher)
730         (CommitLogFetcher::__construct): Added.
731         (CommitLogFetcher::repository_id_from_name): Added.
732         (CommitLogFetcher::fetch_between): Added.
733         (CommitLogFetcher::fetch_oldest): Added.
734         (CommitLogFetcher::fetch_latest): Added.
735         (CommitLogFetcher::fetch_last_reported): Added.
736         (CommitLogFetcher::fetch_revision): Added.
737         (CommitLogFetcher::commit_for_revision): Added.
738         (CommitLogFetcher::format_single_commit): Added.
739         (CommitLogFetcher::format_commit): Added.
740
741 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
742
743         Build fix after r196870.
744
745         * public/include/report-processor.php:
746
747 2016-03-09  Ryosuke Niwa  <rniwa@webkit.org>
748
749         Add Size metric to perf dashboard
750         https://bugs.webkit.org/show_bug.cgi?id=155266
751
752         Reviewed by Chris Dumez.
753
754         Added the "Size" metric and use bytes as its unit.
755
756         * public/js/helper-classes.js:
757         (PerfTestRuns):
758         * public/v2/data.js:
759         (RunsData.unitFromMetricName):
760
761 2016-02-20  Ryosuke Niwa  <rniwa@webkit.org>
762
763         Add the support for universal slave password
764         https://bugs.webkit.org/show_bug.cgi?id=154476
765
766         Reviewed by David Kilzer.
767
768         Added the support for universalSlavePassword.
769
770         * config.json:
771         * public/include/report-processor.php:
772         (ReportProcessor::process):
773         (ReportProcessor::authenticate_and_construct_build_data): Extracted from process().
774
775 2016-02-19  Ryosuke Niwa  <rniwa@webkit.org>
776
777         Analysis tasks page complains about missing repository but with a wrong name
778         https://bugs.webkit.org/show_bug.cgi?id=154468
779
780         Reviewed by Chris Dumez.
781
782         Fixed the bug by using the right variable in the template literal.
783
784         * public/v3/components/customizable-test-group-form.js:
785         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use querySelector here since Chrome doesn't have
786         getElementsByClassName on ShadowRoot.
787         * public/v3/pages/analysis-task-page.js:
788         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Use name which is the name of
789         repository here.
790
791 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
792
793         Revert an unintended change made in the previous commit.
794
795         * init-database.sql:
796
797 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
798
799         Perf dashboard should let user cancel pending A/B testing and hide failed ones
800         https://bugs.webkit.org/show_bug.cgi?id=154433
801
802         Reviewed by Chris Dumez.
803
804         Added a button to hide a test group in the details view (the bottom table) in the analysis task page, and
805         "Show hidden tests" link to show the hidden test groups on demand. When a test group is hidden, all pending
806         requests in the group will also be canceled since a common scenario of using this feature is that the user
807         had triggered an useless A/B testing; e.g. all builds will fail, wrong, etc... We can revisit and add the
808         capability to just cancel the pending requests and leaving the group visible later if necessary.
809
810         Run `ALTER TYPE build_request_status_type ADD VALUE 'canceled';` to add the new type.
811
812         * init-database.sql: Added testgroup_hidden column to analysis_test_groups table and added 'canceled'
813         as a value to build_request_status_type table.
814         * public/api/test-groups.php:
815         (format_test_group): Added 'hidden' field in the JSON result.
816         * public/privileged-api/update-test-group.php:
817         (main): Added the support for updating testgroup_hidden column. When this column is set to true, also
818         cancel all pending build requests (by setting its request_status to 'canceled' which will be ignore by
819         the syncing script).
820         * public/v3/components/test-group-results-table.js:
821         (TestGroupResultsTable.prototype.setTestGroup): Reset _renderedTestGroup here so that the next call to
822         render() will update the table; e.g. when build requests' status change from 'Pending' to 'Canceled'.
823         * public/v3/models/build-request.js:
824         (BuildRequest.prototype.hasCompleted): A build request is considered complete/finished if it's canceled.
825         (BuildRequest.prototype.hasPending): Added.
826         (BuildRequest.prototype.statusLabel): Handle 'canceled' status.
827         * public/v3/models/test-group.js:
828         (TestGroup):
829         (TestGroup.prototype.updateSingleton): Added to update 'hidden' field.
830         (TestGroup.prototype.isHidden): Added.
831         (TestGroup.prototype.hasPending): Added.
832         (TestGroup.prototype.hasPending): Added.
833         (TestGroup.prototype.updateHiddenFlag): Added. Uses the privileged API to update testgroup_hidden column.
834         The JSON API also updates the status of the 'pending' build requests in the group to 'canceled'.
835         * public/v3/pages/analysis-task-page.js:
836         (AnalysisTaskPage): Added _showHiddenTestGroups and _filteredTestGroups as instance variables.
837         (AnalysisTaskPage.prototype._didFetchTestGroups):
838         (AnalysisTaskPage.prototype._showAllTestGroups): Added.
839         (AnalysisTaskPage.prototype._didUpdateTestGroupHiddenState): Extracted from _didFetchTestGroups.
840         (AnalysisTaskPage.prototype._renderTestGroupList): Use the filtered list of test groups to show the list
841         of test groups. When all test groups are shown, we would first show the hidden ones after the regular ones.
842         (AnalysisTaskPage.prototype._createTestGroupListItem): Extracted from _renderTestGroupList.
843         (AnalysisTaskPage.prototype._renderTestGroupDetails): Update the text inside the button to hide the test
844         group. Also show a warning text that the pending requests will be canceled if there are any.
845         (AnalysisTaskPage.prototype._hideCurrentTestGroup): Added.
846         (AnalysisTaskPage.cssTemplate): Updated the style.
847
848 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
849
850         The rows in the analysis results table should be expandable
851         https://bugs.webkit.org/show_bug.cgi?id=154427
852
853         Reviewed by Chris Dumez.
854
855         Added "(Expand)" link between rows that have hidden points. Upon click it inserts the hidden rows.
856
857         We insert around five rows at a time when there are hundreds of hidden points but we also avoid leaving
858         behind expandable rows of less than two rows.
859
860         Also fixed a bug in CustomizableTestGroupForm that getElementsById would throw in the shipping Safari
861         because getElementsById doesn't exist on Element.prototype by using class name instead.
862
863         * public/v3/components/analysis-results-viewer.js:
864         (AnalysisResultsViewer):
865         (AnalysisResultsViewer.prototype.setCurrentTestGroup): Removed superfluous call to render().
866         (AnalysisResultsViewer.prototype.setPoints): Always show the start and the end points.
867         (AnalysisResultsViewer.prototype.buildRowGroups):
868         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Add an instance of ExpandableRow which
869         shows a "(Expand)" link to show hidden rows here.
870         (AnalysisResultsViewer.prototype._expandBetween): Added. Expands rows between two points.
871         (AnalysisResultsViewer.cssTemplate): Added rules for "(Expand)" links.
872         (AnalysisResultsViewer.ExpandableRow): Added.
873         (AnalysisResultsViewer.ExpandableRow.prototype.resultContent): Added. Overrides what's in the results column.
874         (AnalysisResultsViewer.ExpandableRow.prototype.heading): Added. Generates "(Expand)" link.
875
876         * public/v3/components/customizable-test-group-form.js:
877         (CustomizableTestGroupForm.prototype._computeRootSetMap): Use getElementsByClassName instead of
878         getElementById.
879         (CustomizableTestGroupForm.prototype._classForLabelAndRepository): Renamed from _idForLabelAndRepository.
880         (CustomizableTestGroupForm._constructRevisionRadioButtons): Set class name instead of id.
881
882         * public/v3/components/results-table.js:
883         (ResultsTable.prototype.render): Don't generate radio buttons to select a row when root set is missing;
884         e.g. for rows that show "(Expand)" links.
885
886 2016-02-18  Ryosuke Niwa  <rniwa@webkit.org>
887
888         Statistically significant A/B testing results should be color coded in details view
889         https://bugs.webkit.org/show_bug.cgi?id=154414
890
891         Reviewed by Chris Dumez.
892
893         Color code the statistically significant comparisions in TestGroupResultsTable as done in the analysis
894         results viewer.
895
896         * public/v3/components/customizable-test-group-form.js:
897         (CustomizableTestGroupForm.cssTemplate): Build fix after r196768.
898         * public/v3/components/test-group-results-table.js:
899         (TestGroupResultsTable.prototype.buildRowGroups): Add the status as a class name.
900         (TestGroupResultsTable.cssTemplate): Added styles to color-code statistically significant results.
901
902 2016-02-17  Ryosuke Niwa  <rniwa@webkit.org>
903
904         v3 UI should allow custom revisions for A/B testing
905         https://bugs.webkit.org/show_bug.cgi?id=154379
906
907         Reviewed by Chris Dumez.
908
909         Added the capability to customize revisions selected in the overview chart and the results viewer.
910
911         Newly added CustomizableTestGroupForm is responsible for allowing users to modify the set of revisions in
912         a new A/B testing group. Unlike TestGroupForm which doesn't know anything about which revisions are selected
913         for each project/repository, CustomizableTestGroupForm is aware of the list of revisions used in each set.
914
915         The list of revisions used in each set is represented by RootSet if users had not customized them, and
916         CustomRootSet otherwise; the latter was added since regular RootSet object requires CommitLog and other
917         DataModelObjects which are hard to create without corresponding database entries.
918
919         * public/v3/components/customizable-test-group-form.js: Added.
920         (CustomizableTestGroupForm): Added.
921         (CustomizableTestGroupForm.prototype.setRootSetMap): Added.
922         (CustomizableTestGroupForm.prototype._submitted): Overrides the superclass' method.
923         (CustomizableTestGroupForm.prototype._customize): Ditto. Unlike TestGroupForm's callback, this class'
924         callback passes in a root set map as the third argument.
925         (CustomizableTestGroupForm.prototype._computeRootSetMap): Added. Returns this._rootSetMap, which is set by
926         AnalysisTaskPage if user had not customized the root sets. Otherwise return a new map with CustomRootSet's.
927         (CustomizableTestGroupForm.prototype.render): Added. Creates a table to allow customization of root sets.
928         (CustomizableTestGroupForm._constructRevisionRadioButtons): Added.
929         (CustomizableTestGroupForm._createRadioButton): Added.
930         (CustomizableTestGroupForm.cssTemplate): Added.
931         (CustomizableTestGroupForm.formContent): Added. This method is called by TestGroupForm.htmlTemplate.
932         * public/v3/components/test-group-form.js:
933         (TestGroupForm): Updated the various methods to not directly mutate DOM. Store the state in instance
934         variables and update DOM in render() as done elsewhere.
935         (TestGroupForm.prototype.setNeedsName): Deleted. We no longer need this flag since TestGroupForm which is
936         used for retries never needs a name and CustomizableTestGroupForm which is used to create a new test group
937         always requires a name.
938         (TestGroupForm.prototype.setDisabled):
939         (TestGroupForm.prototype.setLabel):
940         (TestGroupForm.prototype.setRepetitionCount):
941         (TestGroupForm.prototype.render): Added.
942         (TestGroupForm.prototype._submitted): Moved the code to prevent the default action has been moved to the
943         constructor since this method is overridden by CustomizableTestGroupForm.
944         (TestGroupForm.cssTemplate): Added.
945         (TestGroupForm.htmlTemplate):
946         (TestGroupForm.formContent): Extracted from htmlTemplate.
947         * public/v3/index.html:
948         * public/v3/models/repository.js:
949         (Repository.sortByNamePreferringOnesWithURL): Added.
950         * public/v3/models/root-set.js:
951         (RootSet.prototype.revisionForRepository): Added so that _createTestGroupAfterVerifyingRootSetList can retrieve
952         the revision information from CustomRootSet without going through CommitLog objects since CustomRootSet doesn't
953         have associated CommitLog objects.
954         (CustomRootSet): Added. Used by CustomizableTestGroupForm to create a custom root map since regular RootSet
955         requires CommitLog and other related objects which are hard to create without database entries.
956         (CustomRootSet.prototype.setRevisionForRepository): Added.
957         (CustomRootSet.prototype.repositories): Added.
958         (CustomRootSet.prototype.revisionForRepository): Added.
959         * public/v3/pages/analysis-task-page.js:
960         (AnalysisTaskPage):
961         (AnalysisTaskPage.prototype.render): Removed the reference to v2 UI since v3 UI is now strictly more powerful
962         than v2 UI. Also update the root set maps in each form here.
963         (AnalysisTaskPage.prototype._retryCurrentTestGroup): No longer takes unused name argument as it got removed
964         from TestGroupForm.
965         (AnalysisTaskPage.prototype._chartSelectionDidChange): No longer updates the disabled-ness here since it's now
966         done in render() via setRootSetMap().
967         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Now takes rootSetMap as an argument.
968         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): No longer updates the disabled-ness here
969         since it's now done in render() via setRootSetMap().
970         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Now takes rootSetMap as an argument.
971         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Take a dictionary of root set labels
972         such as A and B, which maps to a RootSet or a newly-added CustomRootSet.
973         (AnalysisTaskPage.htmlTemplate): Use customizable-test-group-form for creating a new A/B testing group. Retry
974         form will continue to use TestGroupForm since customizing revisions is non-sensical in retries.
975         (AnalysisTaskPage.cssTemplate): Updated the style.
976
977 2016-02-16  Ryosuke Niwa  <rniwa@webkit.org>
978
979         v3 UI has the capability to schedule an A/B testing in a specific range
980         https://bugs.webkit.org/show_bug.cgi?id=154329
981
982         Reviewed by Chris Dumez.
983
984         Extended AnalysisTaskChartPane and ResultsTable so that users can select a range of points in either
985         the overview chart pane and the results viewer table. Extracted TestGroupForm out of the analysis task
986         page and used right below those two components in the analysis task page.
987
988         * public/v3/components/results-table.js:
989         (ResultsTable):
990         (ResultsTable.prototype.setRangeSelectorLabels): Added.
991         (ResultsTable.prototype.setRangeSelectorCallback): Added.
992         (ResultsTable.prototype.selectedRange): Added.
993         (ResultsTable.prototype._rangeSelectorClicked): Added.
994         (ResultsTable.prototype.render): Generate radio boxes to select a range.
995
996         * public/v3/components/test-group-form.js:
997         (TestGroupForm):
998         (TestGroupForm.prototype.setStartCallback): Added.
999         (TestGroupForm.prototype.setNeedsName): Added.
1000         (TestGroupForm.prototype.setDisabled): Added.
1001         (TestGroupForm.prototype.setLabel): Added.
1002         (TestGroupForm.prototype.setRepetitionCount): Added.
1003         (TestGroupForm.prototype._submitted): Added.
1004         (TestGroupForm.htmlTemplate): Extracted from AnalysisTaskPage.htmlTemplate.
1005
1006         * public/v3/index.html:
1007
1008         * public/v3/pages/analysis-task-page.js:
1009         (AnalysisTaskChartPane.prototype._mainSelectionDidChange): Added. Delegates the work to AnalysisTaskPage.
1010         (AnalysisTaskChartPane.prototype.selectedPoints): Added.
1011         (AnalysisTaskPage):
1012         (AnalysisTaskPage.prototype.title):
1013         (AnalysisTaskPage.prototype.render):
1014         (AnalysisTaskPage.prototype._renderTestGroupDetails): Use TestGroupForm's methods instead of mutating DOM. 
1015         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
1016         (AnalysisTaskPage.prototype._chartSelectionDidChange): Added.
1017         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Added.
1018         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): Added.
1019         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Added.
1020         (AnalysisTaskPage.prototype._createRetryNameForTestGroup):
1021         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingRootSetList): Extracted from _retryCurrentTestGroup
1022         so that we can call it in _createNewTestGroupFromChart and _createNewTestGroupFromViewer.
1023         (AnalysisTaskPage.htmlTemplate):
1024
1025 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
1026
1027         Extract the code specific to v2 UI out of shared statistics.js
1028         https://bugs.webkit.org/show_bug.cgi?id=154277
1029
1030         Reviewed by Chris Dumez.
1031
1032         Extracted statistics-strategies.js out of statistics.js for v2 UI and detect-changes.js. The intent is to
1033         deprecate this file once we implement refined statistics tools in v3 UI and adopt it in detect-changes.js.
1034
1035         * public/shared/statistics.js:
1036         (Statistics.movingAverage): Extracted from the "Simple Moving Average" strategy.
1037         (Statistics.cumultaiveMovingAverage): Extracted from the "Cumulative Moving Average" strategy.
1038         (Statistics.exponentialMovingAverage): Extracted from the "Exponential Moving Average" strategy.
1039         Use a temporary "movingAverage" to keep the last moving average instead of relying on the previous
1040         entry in "averages" array to avoid special casing an array of length 1 and starting the loop at i = 1.
1041         (Statistics.segmentTimeSeriesGreedyWithStudentsTTest): Extracted from "Segmentation: Recursive t-test"
1042         strategy. Don't create the list of averages to match segmentTimeSeriesByMaximizingSchwarzCriterion here.
1043         It's done in newly added averagesFromSegments.
1044         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Extracted from
1045         "Segmentation: Schwarz criterion" strategy.
1046         (.recursivelySplitIntoTwoSegmentsAtMaxTIfSignificantlyDifferent): Just store the start index to match
1047         * public/v2/app.js:
1048         (App.Pane.updateStatisticsTools):
1049         (App.Pane._computeMovingAverageAndOutliers):
1050         * public/v2/data.js:
1051         * public/v2/index.html:
1052         * public/v2/statistics-strategies.js: Added.
1053         (StatisticsStrategies.MovingAverageStrategies): Added.
1054         (averagesFromSegments): Extracted from "Segmentation: Schwarz criterion" strategy. Now used by both
1055         "Segmentation: Recursive t-test" and "Segmentation: Schwarz criterion" strategies.
1056         (StatisticsStrategies.EnvelopingStrategies): Moved from Statistics.EnvelopingStrategies.
1057         (StatisticsStrategies.TestRangeSelectionStrategies): Moved from Statistics.TestRangeSelectionStrategies.
1058         (createWesternElectricRule): Moved from statistics.js.
1059         (countValuesOnSameSide): Ditto.
1060         (StatisticsStrategies.executeStrategy): Moved from Statistics.executeStrategy.
1061         * tools/detect-changes.js:
1062         (computeRangesForTesting):
1063
1064 2016-02-15  Ryosuke Niwa  <rniwa@webkit.org>
1065
1066         v1 UI and v2 UI should share statistics.js
1067         https://bugs.webkit.org/show_bug.cgi?id=154262
1068
1069         Reviewed by Chris Dumez.
1070
1071         Share statistics.js between v1 and v2 UI.
1072
1073         * public/index.html:
1074         * public/js/shared.js: Deleted.
1075         * public/js/statistics.js: Removed.
1076         * public/shared: Added.
1077         * public/shared/statistics.js: Moved from Websites/perf.webkit.org/public/v2/js/statistics.js.
1078         * public/v2/index.html:
1079         * public/v2/js/statistics.js: Removed.
1080         * public/v3/index.html:
1081         * tools/detect-changes.js:
1082
1083 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
1084
1085         v3 UI sometimes shows same dates twice on the x-axis of time series charts
1086         https://bugs.webkit.org/show_bug.cgi?id=154210
1087
1088         Reviewed by Chris Dumez.
1089
1090         The bug was caused by the label generation code in TimeSeriesChart.computeTimeGrid never emitting hours.
1091
1092         Use hours instead of dates as labels when the current time's date is same as the previous label's date.
1093         Always include dates before entering this mode to avoid just having hours as labels on the entire x-axis.
1094
1095         * public/v3/components/time-series-chart.js:
1096         (TimeSeriesChart.prototype._renderXAxis): Slightly increase the "average" width of x-axis label.
1097         (TimeSeriesChart.computeTimeGrid): See above. Also assert that the number of labels we generate never
1098         exceeds maxLabels as a sanity check.
1099         (TimeSeriesChart._timeIterators): Added an iterator that increments by two hours for zoomed graphs.
1100
1101 2016-02-13  Ryosuke Niwa  <rniwa@webkit.org>
1102
1103         v3 UI should show status and associated bugs on analysis task pages
1104         https://bugs.webkit.org/show_bug.cgi?id=154212
1105
1106         Reviewed by Chris Dumez.
1107
1108         Added the capability to see and modify the status and the list of associated of bugs on analysis task pages.
1109
1110         Also added the list of related tasks, which are analysis tasks associated with the same bug or have
1111         overlapping time ranges with the same test metric but on a potentially different platform.
1112
1113         In addition, categorize analysis tasks with the status of "no change" or "inconclusive" as "closed" as no
1114         further action can be taken (users can bring them back to non-closed state without any restrictions).
1115
1116         * public/api/analysis-tasks.php:
1117         (format_task): Categorize 'unchanged' and 'inconclusive' analysis tasks as closed.
1118
1119         * public/privileged-api/associate-bug.php:
1120         (main): Added shouldDelete as a new mechanism to disassociate a bug since v3 UI shares a single Bug object
1121         between multiple analysis tasks (as it should have been in the first place).
1122
1123         * public/v3/components/chart-pane-base.js:
1124         (ChartPaneBase):
1125         (ChartPaneBase.prototype._fetchAnalysisTasks): Since each analysis task's change type (status/result) could
1126         change, we need to create annotation objects during each render() call.
1127         (ChartPaneBase.prototype.render):
1128         (ChartPaneBase.prototype._renderAnnotations): Extracted from ChartPaneBase.prototype._fetchAnalysisTasks to
1129         do that. I was afraid of the perf impact of this but it doesn't seem to be an issue in my testing.
1130         (ChartPaneBase.cssTemplate): Removed superfluous margins (moved to ChartPane.cssTemplate) around the charts
1131         since they are only useful in the charts page.
1132
1133         * public/v3/models/analysis-task.js:
1134         (AnalysisTask):
1135         (AnalysisTask.prototype.updateSingleton): Added a comment as to why object.result cannot be renamed to
1136         object.changeType in the JSON API.
1137         (AnalysisTask.prototype.updateName): Added.
1138         (AnalysisTask.prototype.updateChangeType): Added.
1139         (AnalysisTask.prototype._updateRemoteState): Added.
1140         (AnalysisTask.prototype.associateBug): Added.
1141         (AnalysisTask.prototype.disassociateBug): Added.
1142         (AnalysisTask.fetchRelatedTasks): Added. See above for the criteria of related-ness.
1143
1144         * public/v3/pages/analysis-task-page.js:
1145         (AnalysisTaskPage):
1146         (AnalysisTaskPage.prototype.updateFromSerializedState):
1147         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId): Extracted from updateFromSerializedState.
1148         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks): Added.
1149         (AnalysisTaskPage.prototype.render): Render the list of associated bugs, the list of bug trackers (so that
1150         users can use it to associate with a new bug), and the list of related analysis tasks.
1151         (AnalysisTaskPage.prototype._renderTestGroupList): Extracted from render since it was getting too long.
1152         (AnalysisTaskPage.prototype._renderTestGroupDetails): Ditto.
1153         (AnalysisTaskPage.prototype._updateChangeType): Added.
1154         (AnalysisTaskPage.prototype._associateBug): Added.
1155         (AnalysisTaskPage.prototype._disassociateBug): Added.
1156         (AnalysisTaskPage.htmlTemplate): Added various elements to show and modify the status, associate bugs,
1157         and a list of related analysis tasks.
1158         (AnalysisTaskPage.cssTemplate): Added various styles for those form controls.
1159
1160         * public/v3/pages/chart-pane.js:
1161         (ChartPane.cssTemplate): Moved the margins from ChartPaneBase.cssTemplate.
1162
1163 2016-02-12  Ryosuke Niwa  <rniwa@webkit.org>
1164
1165         Perf dashboard should allow renaming analysis tasks and test groups
1166         https://bugs.webkit.org/show_bug.cgi?id=154200
1167
1168         Reviewed by Chris Dumez.
1169
1170         Allow editing names of analysis tasks and A/B testing groups in the v3 UI.
1171
1172         Added the support for updating the name to the privileged API at /privileged-api/update-analysis-task
1173         and added a new prevailed API to update A/B testing groups at /privileged-api/update-test-group.
1174
1175         * public/privileged-api/update-analysis-task.php: Added the support for renaming the analysis task.
1176         (main):
1177
1178         * public/privileged-api/update-test-group.php: Added. Supports updating the test group's name.
1179         (main):
1180
1181         * public/v3/components/editable-text.js: Added.
1182         (EditableText): Added. A new editable text label control. It looks like a text node with "(Edit)" link
1183         at the end which allow users to go into the "editing mode", which reveals an input element.
1184         The user can exit the editing mode by either moving the focus away from the control or clicking on
1185         "(Save)" at the end. It calls _updateCallback in the latter case.
1186         (EditableText.prototype.editedText): Returns the current value of the input element user.
1187         (EditableText.prototype.setText): Sets the label. This does not live-update the input element until
1188         the user exists the current editing mode and re-enters it.
1189         (EditableText.prototype.setStartedEditingCallback): Sets a callback which gets called when the user
1190         requested to enter the editing mode. Since EditableText relies on AnalysisTaskPage to render, this
1191         callback only exits to call EditableText.render() in AnalysisTask._didStartEditingTaskName.
1192         (EditableText.prototype.setUpdateCallback): Sets a callback which gets called when the user exits
1193         the editing mode by activating the "(Save)" link. This callback MUST return a promise upon resolution
1194         of which the control gets out of the editing mode. While the promise is in flight, the input element
1195         becomes readonly.
1196         (EditableText.prototype.render): Updates various states of the elements. When _updatingPromise is not
1197         falsy, we make the input element readonly and show '(...)' on the link. Don't show the action link
1198         if the label is empty (e.g. analysis task or test group is still being fetched).
1199         (EditableText.prototype._didClick): Called when the user clicked on the action link. Enter the editing
1200         mode or save the edited label via _updateCallback.
1201         (EditableText.prototype._didBlur): Exit the editing mode without saving if the input element is not
1202         focused, there is no inflight promise returned by _updateCallback, and the action link "(Save)" does
1203         not have the focus.
1204         (EditableText.prototype._didUpdate): Called when exiting the editing mode.
1205         (EditableText.htmlTemplate):
1206         (EditableText.cssTemplate):
1207
1208         * public/v3/index.html: Include newly added editable-text.js.
1209
1210         * public/v3/models/analysis-task.js:
1211         (AnalysisTask.prototype.updateSingleton): Added.
1212         (AnalysisTask.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
1213         the analysis task from the sever.
1214         (AnalysisTask._constructAnalysisTasksFromRawData): Use ensureSingleton instead of manually calling
1215         findById since we need to update the name of the singleton object we found (via updateSingleton).
1216
1217         * public/v3/models/bug.js:
1218         (Bug.ensureSingleton): Moved the code to compute the synthetic id from AnalysisTask's
1219         _constructAnalysisTasksFromRawData.
1220         (Bug.prototype.updateSingleton): Added. Just assert that nothing changes.
1221
1222         * public/v3/models/build-request.js:
1223         (BuildRequest.prototype.updateSingleton): Added. Assert that the intrinsic values of a build request
1224         doesn't change and update status text, status url, and build id as they could change.
1225
1226         * public/v3/models/commit-log.js:
1227         (CommitLog): Made the constructor argument conform to the convention of id, object pair so that we can
1228         use DataModelObject.ensureSingleton.
1229         (CommitLog.ensureSingleton): 
1230         (CommitLog.prototype.updateSingleton): Extracted from CommitLog.ensureSingleton.
1231
1232         * public/v3/models/data-model.js:
1233         (DataModelObject.ensureSingleton): Call newly added updateSingleton.
1234         (DataModelObject.prototype.updateSingleton):
1235         (LabeledObject): Removed the name map since it's never used (findByName is never called anywhere).
1236         (LabeledObject.prototype.updateSingleton): Added. Updates _name.
1237         (LabeledObject.findByName): Deleted.
1238
1239         * public/v3/models/test-group.js:
1240         (TestGroup.prototype.updateName): Added. Uses PrivilegedAPI to update the name and re-fetches
1241         the test group from the sever.
1242         (TestGroup._createModelsFromFetchedTestGroups): Removed bogus code. A root set doesn't have a test
1243         group associated with it since multiple test groups can share a single root set (this property doesn't
1244         even exist).
1245
1246         * public/v3/pages/analysis-task-page.js:
1247         (AnalysisTaskPage): Removed useless _taskId and added this._testGroupLabelMap and this._taskNameLabel.
1248         (AnalysisTaskPage.prototype.updateFromSerializedState): Cleanup.
1249         (AnalysisTaskPage.prototype._didFetchTask): Assert that this function is called exactly once.
1250         (AnalysisTaskPage.prototype.render): Use this._task.id() to show the v2 link. Use EditableText to show
1251         the names of the analysis task and the associated test groups. Hide the overview chart and the list of
1252         test groups (along with the retry/confirm button) when the analysis task failed to fetch. We always
1253         update the names of the analysis task and the associated test groups since they could be updated by
1254         the server.
1255         (AnalysisTaskPage.prototype._didStartEditingTaskName): Added.
1256         (AnalysisTaskPage.prototype._updateTaskName): Added.
1257         (AnalysisTaskPage.prototype._updateTestGroupName): Added.
1258         (AnalysisTaskPage.htmlTemplate): Updated the style.
1259
1260 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
1261
1262         Land the change that was supposed to be the part of r196463.
1263
1264         * public/v3/pages/analysis-task-page.js:
1265         (AnalysisTaskPage.prototype._didFetchTestGroups): Select the latest test group by default.
1266
1267 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
1268
1269         Refine v3 UI's analysis task page
1270         https://bugs.webkit.org/show_bug.cgi?id=154152
1271
1272         Reviewed by Chris Dumez.
1273
1274         This patch makes the following refinements to the analysis task page:
1275          - Always show the relative different of in-progress A/B testing.
1276          - Make the annotations (colored bars) in the chart open other analysis tasks.
1277          - Order the A/B testing groups in the reverse chronological order.
1278          - Select the time range corresponding to the current test group.
1279
1280         * public/v3/components/analysis-results-viewer.js:
1281         (AnalysisResultsViewer.cssTemplate): Fixed the bug that pending and running testing groups are no longer
1282         colored after r196440. Use a slightly more opaque color for currently running groups compared to pending ones.
1283
1284         * public/v3/components/chart-pane-base.js:
1285         (ChartPaneBase.prototype.setMainSelection): Added.
1286         (ChartPaneBase.prototype._openAnalysisTask): Moved the code from ChartPane._openAnalysisTask so that it can be
1287         reused in both AnalysisTaskChartPane and ChartPane (in charts page).
1288         (ChartPaneBase.prototype.router): Added. Overridden by each subclass.
1289
1290         * public/v3/components/test-group-results-table.js:
1291         (TestGroupResultsTable.prototype.buildRowGroups): Always show the summary (relative difference of A to B) as
1292         long as there are some results in each set.
1293
1294         * public/v3/models/test-group.js:
1295         (TestGroup.prototype.compareTestResults): Always set .label and .fullLabel with the relative change as long as
1296         there are some values. Keep using "pending" and "running" in .status since that would determine the color of
1297         stacking blocks representing those A/B testing groups. 
1298
1299         * public/v3/pages/analysis-task-page.js:
1300         (AnalysisTaskChartPane):
1301         (AnalysisTaskChartPane.prototype.setPage): Added.
1302         (AnalysisTaskChartPane.prototype.router): Added.
1303         (AnalysisTaskPage):
1304         (AnalysisTaskPage.prototype.render): Show the list of A/B testing groups in the reverse chronological order.
1305         Also set the main chart's selection to the time range of the current test group.
1306
1307         * public/v3/pages/chart-pane.js:
1308         (ChartPane.prototype.router): Added.
1309         (ChartPane.prototype._openAnalysisTask): Moved to ChartPaneBase.prototype._openAnalysisTask.
1310
1311 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
1312
1313         Add a script to process backlogs created while perf dashboard was in the maintenance mode
1314         https://bugs.webkit.org/show_bug.cgi?id=154140
1315
1316         Reviewed by Chris Dumez.
1317
1318         Added a script to process the backlog JSONs created while the perf dashboard was put in the maintenance mode.
1319         It re-submits each JSON file to the perf dashboard using the same server config file used by syncing scripts.
1320
1321         * public/include/report-processor.php:
1322         (TestRunsGenerator::test_value_list_to_values_by_iterations): Fixed a bug in the error message code. It was
1323         referencing an undeclared variable.
1324         * tools/process-maintenance-backlog.py: Added.
1325
1326 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
1327
1328         AnalysisResultsViewer never uses this._smallerIsBetter
1329         https://bugs.webkit.org/show_bug.cgi?id=154134
1330
1331         Reviewed by Chris Dumez.
1332
1333         Removed the unused instance variable _smallerIsBetter from AnalysisResultsViewer and TestGroupStackingBlock.
1334
1335         * public/v3/components/analysis-results-viewer.js:
1336         (AnalysisResultsViewer): Removed the unused _smallerIsBetter.
1337         (AnalysisResultsViewer.prototype.setSmallerIsBetter): Deleted.
1338         (AnalysisResultsViewer.prototype.buildRowGroups):
1339         (AnalysisResultsViewer.TestGroupStackingBlock): Removed the unused _smallerIsBetter.
1340         * public/v3/pages/analysis-task-page.js:
1341         (AnalysisTaskPage.prototype._didFetchTask):
1342
1343 2016-02-11  Ryosuke Niwa  <rniwa@webkit.org>
1344
1345         Build fix after r196440.
1346
1347         * public/v3/models/test-group.js:
1348         (TestGroup.prototype.addBuildRequest): Clear the map instead of setting the property to null.
1349
1350 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
1351
1352         Perf dashboard should have UI to retry A/B testing
1353         https://bugs.webkit.org/show_bug.cgi?id=154090
1354
1355         Reviewed by Chris Dumez.
1356
1357         Added a button to re-try an existing A/B testing group with a custom repetition count. The same button functions
1358         as a way of confirming the progression/regression when there have been no A/B testing scheduled in the task.
1359
1360         Also fixed the bug that A/B testing groups that have been waiting for other test groups will be shown as "running".
1361
1362         * public/v3/components/results-table.js:
1363         (ResultsTable.cssTemplate): Don't pad the list of extra repositories when it's empty.
1364
1365         * public/v3/components/test-group-results-table.js:
1366         (TestGroupResultsTable.prototype.buildRowGroups): Use TestGroup.labelForRootSet instead of manually
1367         computing the letter for each configuration set.
1368
1369         * public/v3/models/build-request.js:
1370         (BuildRequest.prototype.hasStarted): Added.
1371
1372         * public/v3/models/data-model.js:
1373         (DataModelObject.ensureSingleton): Added.
1374         (DataModelObject.cachedFetch): Added noCache option. This is used when re-fetching the test groups after
1375         creating one.
1376
1377         * public/v3/models/measurement-cluster.js:
1378         (MeasurementCluster.prototype.startTime): Added.
1379
1380         * public/v3/models/measurement-set.js:
1381         (MeasurementSet.prototype.hasFetchedRange): Added. Returns true only if there are no "holes" (cluster
1382         yet to be fetched) between the specified time range. This was added to fix a bug in AnalysisTaskPage's
1383         _didFetchMeasurement.
1384
1385         * public/v3/models/test-group.js:
1386         (TestGroup): Added this._rootSetToLabel.
1387         (TestGroup.prototype.addBuildRequest): Reset this._rootSetToLabel along with this._requestedRootSets. 
1388         (TestGroup.prototype.repetitionCount): Added. Returns the number of iterations executed per set. We assume that
1389         every root set in the test group shares a single repetition count.
1390         (TestGroup.prototype.requestedRootSets): Now populates this._rootSetToLabel for labelForRootSet.
1391         (TestGroup.prototype.labelForRootSet): Added.
1392         (TestGroup.prototype.hasStarted): Added.
1393         (TestGroup.prototype.compareTestResults): Use 'running' and 'pending' to differentiate test groups that are waiting
1394         for other groups to finish running from the ones that are actually running ('incomplete' before this patch).
1395         (TestGroup.fetchByTask):
1396         (TestGroup.createAndRefetchTestGroups): Added. Creates a new test group using the privileged-api/create-test-group
1397         and fetches the list of test groups for the specified analysis task.
1398         (TestGroup._createModelsFromFetchedTestGroups): Extracted from TestGroup.fetchByTask.
1399
1400         * public/v3/pages/analysis-task-page.js:
1401         (AnalysisTaskPage): Initialize _renderedCurrentTestGroup to undefined so that we'd always can differentiate
1402         the initial call to AnalysisTaskPage.render and subsequent calls in which it's identical to _currentTestGroup.
1403         (AnalysisTaskPage.prototype._didFetchMeasurement): Fixed a bug that we don't exit early even when some
1404         clusters in between startPoint and endPoint are still being fetched via newly added hasFetchedRange.
1405         (AnalysisTaskPage.prototype.render): Update the default repetition count based on the current test group.
1406         Also update the label of the button to "Confirm the change" if there is no A/B testing in this task.
1407         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Added. Re-triggers an existing A/B testing group or creates
1408         the A/B testing for the entire range of the analysis task.
1409         (AnalysisTaskPage.prototype._hasDuplicateTestGroupName): Added.
1410         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Added.
1411         (AnalysisTaskPage.htmlTemplate): Added form controls to re-trigger A/B testing.
1412         (AnalysisTaskPage.cssTemplate): Updated the style.
1413
1414 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
1415
1416         Removed the duplicated definition of ChartPaneBase.
1417
1418         * public/v3/components/chart-pane-base.js:
1419
1420 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
1421
1422         Analysis task page on v3 UI should show charts
1423         https://bugs.webkit.org/show_bug.cgi?id=154057
1424
1425         Reviewed by Chris Dumez.
1426
1427         Extracted ChartPaneBase out of ChartPane and added an instance of its new subclass, AnalysisTaskChartPane,
1428         to the analysis task page. The main difference is that ChartPaneBase doesn't depend on the presence of
1429         this._chartsPage unlike ChartPane. It also doesn't have the header with toolbar (to show breakdown, etc...).
1430
1431         * public/v3/components/base.js:
1432         (ComponentBase.prototype._constructShadowTree): Call htmlTemplate() and cssTemplate() with the right "this".
1433
1434         * public/v3/components/chart-pane-base.js: Added.
1435         (ChartPaneBase): Extracted from ChartPane.
1436         (ChartPaneBase.prototype.configure): Extracted from the constructor. Separating this function allows the
1437         component to be instantiated inside a HTML template.
1438         (ChartPaneBase.prototype._fetchAnalysisTasks): Moved from ChartPane._fetchAnalysisTasks.
1439         (ChartPaneBase.prototype.platformId): Ditto.
1440         (ChartPaneBase.prototype.metricId): Ditto.
1441         (ChartPaneBase.prototype.setOverviewDomain): Ditto.
1442         (ChartPaneBase.prototype.setMainDomain): Ditto.
1443         (ChartPaneBase.prototype._overviewSelectionDidChange): Extracted from the constructor. This is overridden in
1444         ChartPane and unused in AnalysisTaskChartPane.
1445         (ChartPaneBase.prototype._mainSelectionDidChange): Extracted from ChartPane._mainSelectionDidChange.
1446         (ChartPaneBase.prototype._mainSelectionDidZoom): Extracted from ChartPane._mainSelectionDidZoom.
1447         (ChartPaneBase.prototype._indicatorDidChange): Extracted from ChartPane._indicatorDidChange.
1448         (ChartPaneBase.prototype._didFetchData): Moved from ChartPane._fetchAnalysisTasks.
1449         (ChartPaneBase.prototype._openAnalysisTask): Ditto.
1450         (ChartPaneBase.prototype._openCommitViewer): Ditto. Also fixed a bug that we don't show the spinner while
1451         waiting for the data to be fetched by calling this.render() here.
1452         (ChartPaneBase.prototype._keyup): Moved from ChartPane._keyup. Also fixed the bug that the revisions list
1453         doesn't update by calling this.render() here.
1454         (ChartPaneBase.prototype.render): Extracted from ChartPane.render.
1455         (ChartPaneBase.htmlTemplate): Extracted from ChartPane.htmlTemplate.
1456         (ChartPaneBase.paneHeaderTemplate): Added. This is overridden in ChartPane and unused in AnalysisTaskChartPane.
1457         (ChartPaneBase.cssTemplate): Extracted from ChartPane.htmlTemplate.
1458
1459         * public/v3/components/chart-styles.js: Renamed from public/v3/pages/page-with-charts.js.
1460         (PageWithCharts): Renamed from PageWithCharts since it no longer extends PageWithHeading.
1461         (ChartStyles.createChartSourceList):
1462
1463         * public/v3/components/commit-log-viewer.js:
1464         (CommitLogViewer.prototype.view): Set this._repository right away instead of waiting for the fetched data
1465         so that spinner will be shown while the data is being fetched.
1466
1467         * public/v3/index.html:
1468
1469         * public/v3/pages/analysis-task-page.js:
1470         (AnalysisTaskChartPane): Added extends ChartPaneBase.
1471         (AnalysisTaskPage): Added. this._chartPane.
1472         (AnalysisTaskPage.prototype._didFetchTask): Initialize this._chartPane with a domain.
1473         (AnalysisTaskPage.prototype.render): Render this._chartPane.
1474         (AnalysisTaskPage.htmlTemplate):
1475
1476         * public/v3/pages/chart-pane-status-view.js:
1477         (ChartPaneStatusView): Removed the unused router from the argument list.
1478         (ChartPaneStatusView.prototype.pointsRangeForAnalysis): Renamed from analyzeData() since it was ambiguous.
1479         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Fixed the bug that we don't update the list
1480         of the revisions here.
1481         (ChartPaneStatusView.prototype.computeChartStatusLabels):
1482
1483         * public/v3/pages/chart-pane.js:
1484         (ChartPane): Now extends ChartPaneBase. 
1485         (ChartPane.prototype._overviewSelectionDidChange): Extracted from the constructor.
1486         (ChartPane.prototype._mainSelectionDidChange): 
1487         (ChartPane.prototype._mainSelectionDidZoom):
1488         (ChartPane.prototype._indicatorDidChange):
1489         (ChartPane.prototype.render):
1490         (ChartPane.prototype._renderActionToolbar):
1491         (ChartPane.paneHeaderTemplate): Extracted from htmlTemplate.
1492         (ChartPane.cssTemplate):
1493         (ChartPane.overviewOptions.selection.onchange): Deleted.
1494         (ChartPane.prototype._fetchAnalysisTasks): Deleted.
1495         (ChartPane.prototype.platformId): Deleted.
1496         (ChartPane.prototype.metricId): Deleted.
1497         (ChartPane.prototype.setOverviewDomain): Deleted.
1498         (ChartPane.prototype.setMainDomain): Deleted.
1499         (ChartPane.prototype._openCommitViewer): Deleted.
1500         (ChartPane.prototype._didFetchData): Deleted.
1501         (ChartPane.prototype._keyup): Deleted.
1502
1503         * public/v3/pages/charts-page.js:
1504         (ChartsPage):
1505         (ChartsPage.createDomainForAnalysisTask): Extracted by createDomainForAnalysisTask; used to set the domain
1506         of the charts in the analysis task page.
1507         (ChartsPage.createStateForAnalysisTask):
1508
1509         * public/v3/pages/dashboard-page.js:
1510         (DashboardPage):
1511         (DashboardPage.prototype._createChartForCell):
1512
1513 2016-02-10  Ryosuke Niwa  <rniwa@webkit.org>
1514
1515         Add the support for maintenance mode
1516         https://bugs.webkit.org/show_bug.cgi?id=154072
1517
1518         Reviewed by Chris Dumez.
1519
1520         Added the crude support for maintenance mode whereby which the reports are stored in the filesystem
1521         instead of the database.
1522
1523         * config.json: Added maintenanceMode and maintenanceDirectory as well as forgotten siteTitle and
1524         remoteServer.httpdMutexDir.
1525         * public/api/report.php:
1526         (main): Don't connect to the database or modify database when maintenanceMode is set.
1527         * public/include/json-header.php:
1528         (ensure_privileged_api_data): Exit with InMaintenanceMode when maintenanceMode is set. This prevents
1529         privileged API such as creating analysis tasks and new A/B testing groups from modifying the database.
1530
1531 2016-02-09  Ryosuke Niwa  <rniwa@webkit.org>
1532
1533         Analysis task page on v3 show progression as regressions
1534         https://bugs.webkit.org/show_bug.cgi?id=154045
1535
1536         Reviewed by Chris Dumez.
1537
1538         The bug was caused by TestGroup.compareTestResults referring to undefined _smallerIsBetter.
1539         Retrieve it from the associated metric object via the owner analysis task.
1540
1541         * public/v3/models/test-group.js:
1542
1543 2016-02-05  Ryosuke Niwa  <rniwa@webkit.org>
1544
1545         Testing with remote server cache is unusably slow
1546         https://bugs.webkit.org/show_bug.cgi?id=153928
1547
1548         Reviewed by Chris Dumez.
1549
1550         Don't use the single process mode of httpd as it's way too slow even for testing.
1551         Also we'll hit a null pointer crash (http://svn.apache.org/viewvc?view=revision&revision=1711479)
1552
1553         Since httpd exits immediately when launched in multi-process mode, remote-cache-server.py (renamed from
1554         run-with-remote-server.py) now has "start" and "stop" commands to start/stop the Apache. Also added
1555         "reset" command to reset the cache for convenience.
1556
1557         * Install.md: Updated the instruction.
1558         * config.json: Fixed a typo: httpdErro*r*Log.
1559         * tools/remote-cache-server.py: Copied from Websites/perf.webkit.org/tools/run-with-remote-server.py.
1560         Now takes one of the following commands: "start", "stop", and "reset".
1561         (main):
1562         (start_httpd): Extracted from main.
1563         (stop_httpd): Added.
1564         * tools/remote-server-relay.conf: Removed redundant (duplicate) LoadModule's.
1565         * tools/run-with-remote-server.py: Removed.
1566
1567 2016-02-04  Ryosuke Niwa  <rniwa@webkit.org>
1568
1569         Perf dashboard should have a script to setup database
1570         https://bugs.webkit.org/show_bug.cgi?id=153906
1571
1572         Reviewed by Chris Dumez.
1573
1574         Added tools/setup-database.py to setup the database. It retrieves the database name, username, password
1575         and initializes a database at the specified location.
1576
1577         * Install.md: Updated instruction to setup postgres to use setup-database.py.
1578         * tools/setup-database.py: Added.
1579         (main):
1580         (load_database_config):
1581         (determine_psql_dir):
1582         (start_or_stop_database):
1583         (execute_psql_command):
1584
1585 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1586
1587         buildbot syncing scripts sometimes schedule more than one requests per builder
1588         https://bugs.webkit.org/show_bug.cgi?id=153047
1589
1590         Reviewed by Chris Dumez.
1591
1592         The bug was caused by the check for singularity of scheduledRequests being conducted per configuration
1593         instead of per builder. So if there were multiple test configurations (e.g. Speedometer and Octane) that
1594         both used the same builder, then we may end up scheduling both at once.
1595
1596         Fixed the bug by sharing a single set to keep track of the scheduled requests for all configurations per
1597         builder.
1598
1599         * tools/sync-with-buildbot.py:
1600         (load_config): Share a set amongst test configurations for each builder.
1601         (find_request_updates): Instead of creating a new set for each configuration, reuse the existing sets to
1602         share a single set agmonst test configurations for each builder.
1603
1604 2016-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1605
1606         Analysis results viewer sometimes doesn't show the correct relative difference
1607         https://bugs.webkit.org/show_bug.cgi?id=152930
1608
1609         Reviewed by Chris Dumez.
1610
1611         The bug was caused by single A/B testing result associated with multiple rows when there are multiple data
1612         points with the same root set which matches that of an A/B testing.
1613
1614         Fixed the bug by detecting such a case, and only associating each A/B testing result with the row created
1615         for the first matching point.
1616
1617         * public/v3/components/analysis-results-viewer.js:
1618         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
1619
1620 2016-01-08  Ryosuke Niwa  <rniwa@webkit.org>
1621
1622         Make v3 UI analysis task page is hard to understand
1623         https://bugs.webkit.org/show_bug.cgi?id=152917
1624
1625         Reviewed by Antti Koivisto.
1626
1627         Add a dark gray border around the selected block in the analysis results viewer instead of using darker
1628         shades since that looks as if they were bigger regression/progression.
1629
1630         Explicitly show "Failed" as the label instead of omitting with "-" when all build requests in an A/B
1631         testing group fails.
1632
1633         * public/v3/components/analysis-results-viewer.js:
1634         (AnalysisResultsViewer.cssTemplate): Tweaked the style to underline text in the hovered blocks and the
1635         selected blocks and show a dark gray border around the selected blocks.
1636         (AnalysisResultsViewer.TestGroupStackingBlock):
1637         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Use this._title for title.
1638         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
1639         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForRootSet): Deleted.
1640
1641         * public/v3/components/results-table.js:
1642         (ResultsTable.prototype.render):
1643         (ResultsTable.prototype._createRevisionListCells): Extracted from ResultsTable.prototype.render.
1644         (ResultsTable.cssTemplate): Tweaked the style.
1645         (ResultsTableRow):
1646         (ResultsTableRow.prototype.constructor): Added _labelForWholeRow to store the label for the entire row.
1647         This is used to show the comparison result of two root sets (e.g. A vs B).
1648         (ResultsTableRow.prototype.setLabelForWholeRow): Added.
1649         (ResultsTableRow.prototype.labelForWholeRow): Added.
1650         (ResultsTableRow.prototype.resultContent): Extracted from buildHeading. Creates a hyperlinked bar graph
1651         used for each A/B testing result.
1652         (ResultsTableRow.prototype.buildHeading): Deleted since we need to set colspan on the second table cell
1653         when we're creating a row with _labelForWholeRow.
1654
1655         * public/v3/components/test-group-results-table.js:
1656         (TestGroupResultsTable.prototype.buildRowGroups): Added rows to show relative differences and statistical
1657         significance between root sets (e.g. A vs B).
1658
1659         * public/v3/models/build-request.js:
1660         (BuildRequest.prototype.hasCompleted): Added.
1661
1662         * public/v3/models/test-group.js:
1663         (TestGroup.prototype.compareTestResults): Extracted from AnalysisResultsViewer.TestGroupStackingBlock's
1664         _computeTestGroupStatus and generalized to be reused in TestGroupResultsTable.
1665         (TestGroup.prototype._valuesForRootSet): Moved from AnalysisResultsViewer.TestGroupStackingBlock.
1666
1667         * public/v3/pages/analysis-task-page.js:
1668         (AnalysisTaskPage.cssTemplate): Tweaked the style.
1669
1670 2016-01-07  Ryosuke Niwa  <rniwa@webkit.org>
1671
1672         Perf dashboard should automatically add aggregators
1673         https://bugs.webkit.org/show_bug.cgi?id=152818
1674
1675         Reviewed by Chris Dumez.
1676
1677         When an aggregator entry is missing in aggregators table, automatically insert it in /api/report.
1678
1679         In a very early version of the perf dashboard, we had the ability to define a custom aggregator
1680         in an admin page. In practice, nobody used or needed this feature so we got rid of it even before
1681         the dashboard was landed into WebKit repository. This patch cleans up that mess.
1682
1683         * run-tests.js:
1684         (main): Added the filtering capability.
1685         (TestEnvironment): Expose the config JSON in the test environment.
1686
1687         * public/include/report-processor.php:
1688         (ReportProcessor): Renamed name_to_aggregator now that it only contains ID.
1689         (ReportProcessor::__construct): No longer fetches the aggregator table. An equivalent work is done
1690         in newly added ensure_aggregators.
1691         (ReportProcessor::process): Calls ensure_aggregators which populates name_to_aggregator_id.
1692         (ReportProcessor::ensure_aggregators): Added. Add the builtin aggregators: Arithmetic, Geometric,
1693         Harmonic, and Total.
1694         (TestRunsGenerator): Renamed name_to_aggregator now that it only contains ID.
1695         (TestRunsGenerator::__construct):
1696         (TestRunsGenerator::add_aggregated_metric): Don't include aggregator_definition here since it's
1697         never used now that all the aggregations are done natively in PHP.
1698         (TestRunsGenerator::$aggregators): Added. We don't include SquareSum since it's only used for
1699         computing run_square_sum_cache in test_runs table and it's useless elsewhere.
1700         (TestRunsGenerator::aggregate_values): Add a comment about that.
1701
1702         * tests/api-report.js: Updated a test case to reflect the change.
1703
1704 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1705
1706         Perf dashboard JSON API should fail gracefully when postgres is down
1707         https://bugs.webkit.org/show_bug.cgi?id=152812
1708
1709         Reviewed by Chris Dumez.
1710
1711         Even though all JSON APIs returned DatabaseConnectionFailure as the status when Database::connect
1712         returned a falsy value, PHP was spitting out warnings and producing HTTP responses that cannot be
1713         parsed as a JSON when pg_connect failed.
1714
1715         Fixed the bug by suppressing warning messages in pg_connect.
1716
1717         * public/include/db.php:
1718         (Database::connect): Use '@' prefix to suppress warning messages.
1719
1720 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1721
1722         Perf dashboard should auto-generate manifest file when one is missing
1723         https://bugs.webkit.org/show_bug.cgi?id=152813
1724
1725         Reviewed by Chris Dumez.
1726
1727         When /data/manifest.json is missing, fall back to newly added /api/manifest instead of
1728         silently failing to show the UI. This will make the initial setup easier.
1729
1730         * public/api/manifest.php: Added.
1731         (main):
1732         * public/include/manifest.php:
1733         (Manifest::manifest): Added.
1734         * public/v3/main.js:
1735         (fetchManifest):
1736         (didFetchManifest): Extracted from fetchManifest.
1737
1738 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1739
1740         Commit another forgotten change, this time, for r194653.
1741
1742         * public/v3/models/measurement-set.js:
1743
1744 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1745
1746         The sampling of time series on v3 UI is too aggressive
1747         https://bugs.webkit.org/show_bug.cgi?id=152804
1748
1749         Reviewed by Chris Dumez.
1750
1751         Fixed a bug that we were always halving the number of data points in _sampleTimeSeries
1752         and increased the number of data points allowed to make the sampling less aggressive.
1753
1754         * public/v3/components/time-series-chart.js:
1755         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Increase the number of maximum points
1756         to 2x the number of pixels divided by the radius of each point.
1757         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Changed the semantics of endIndex
1758         to mean the index after the last point and renamed it to indexAfterEnd.
1759         (TimeSeriesChart.prototype._sampleTimeSeries): Fixed a bug that this code always coerced two
1760         data points into one sampled data point despite of the fact i and j are sufficiently apart
1761         since data[j].time - data[i].time > timePerSample by definition.
1762
1763 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1764
1765         Commit the forgotten change for r194651.
1766
1767         * public/v3/pages/domain-control-toolbar.js:
1768         (DomainControlToolbar.prototype.setStartTime):
1769
1770 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1771
1772         The right hand side of main chart appears to be cut off as you zoom out on v3 UI
1773         https://bugs.webkit.org/show_bug.cgi?id=152778
1774
1775         Reviewed by Antti Koivisto.
1776
1777         Add a padding on x-axis after the end time to make the main chart more easily interactive.
1778
1779         * public/v3/components/time-series-chart.js:
1780         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics):
1781
1782         * public/v3/pages/page-with-charts.js:
1783         (PageWithCharts.mainChartOptions): Add a padding of 5px at the end of x-axis.
1784
1785 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1786
1787         v3 UI should use four sig-figs to label y-axis of the main charts
1788         https://bugs.webkit.org/show_bug.cgi?id=152779
1789
1790         Reviewed by Antti Koivisto.
1791
1792         Increase the number of significant figures used in the main charts to four as done in v2 UI.
1793
1794         * public/v3/pages/chart-pane.js:
1795         (ChartPane.constructor): Create a formatter with four significant figures.
1796         * public/v3/pages/page-with-charts.js:
1797         (PageWithCharts.mainChartOptions): Increase the width of y-axis labels.
1798
1799 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1800
1801         v3 UI's time range slider is harder to use than that of v2 UI
1802         https://bugs.webkit.org/show_bug.cgi?id=152780
1803
1804         Reviewed by Antti Koivisto.
1805
1806         Improved the time range slider by using a cubic mapping to time range and providing a text field
1807         to directly edit the number of days to show.
1808
1809         Now an user can enter the text mode to directly edit the number of days to show by clicking on
1810         the number of days (text field is always there with opacity=0).
1811
1812         * public/v3/pages/charts-toolbar.js:
1813         (ChartsToolbar): Store the minimum and maximum number of days allowed. Also rename _inputElement
1814         to _slider and added a new type=number text field as _editor. 
1815         (ChartsToolbar.prototype.render):
1816         (ChartsToolbar.prototype.setStartTime): Exit the text mode when the number of days is changed by
1817         an URL state transition (i.e. back/forward navigation).
1818         (ChartsToolbar.prototype._setInputElementValue): Added. Updates the values of _slider and _editor.
1819         (ChartsToolbar.prototype._enterTextMode): Added. Hide the elements used by the slider mode and
1820         show the text field.
1821         (ChartsToolbar.prototype._exitTextMode): Added. Does the opposite.
1822         (ChartsToolbar.prototype._sliderValueMayHaveChanged): Renamed from _inputValueMayHaveChanged.
1823         (ChartsToolbar.prototype._editorValueMayHaveChanged): Added. Similar to _sliderValueMayHaveChanged
1824         but also corrects the value of _editor if needed.
1825         (ChartsToolbar.prototype._callNumberOfDaysCallback): Extracted from _inputValueMayHaveChanged.
1826         Also fixed a bug that we didn't update the URL state when the change event was fired without
1827         modifying the effective number of days.
1828         (ChartsToolbar.cssTemplate): Tweaked the style to support the new mode. Also set a fixed width on
1829         the span showing the number of days in the slider mode.
1830
1831 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1832
1833         Zooming button is broken on v3 UI
1834         https://bugs.webkit.org/show_bug.cgi?id=152777
1835
1836         Reviewed by Chris Dumez.
1837
1838         Bring up the zoom button in z-index so that users can click it.
1839
1840         * public/v3/components/interactive-time-series-chart.js:
1841         (InteractiveTimeSeriesChart.cssTemplate):
1842
1843 2016-01-06  Ryosuke Niwa  <rniwa@webkit.org>
1844
1845         v3 UI doesn't preserve the time range when charts page is opened from a dashboard
1846         https://bugs.webkit.org/show_bug.cgi?id=152776
1847
1848         Reviewed by Chris Dumez.
1849
1850         Fixed the bug by moving the construction of charts URL from DashboardPage.prototype.open to
1851         DashboardPage.prototype.render and re-rendering the entire page upon an URL state transition.
1852
1853         * public/v3/pages/charts-page.js:
1854         (ChartsPage.createStateForDashboardItem): Takes the start time for the charts page.
1855
1856         * public/v3/pages/dashboard-page.js:
1857         (DashboardPage.prototype.updateFromSerializedState): Merged _numberOfDaysDidChange and
1858         _updateChartsDomainFromToolbar into this function since they're not used elsewhere. Also re-render
1859         the entire page when transition between different number of days to show.
1860         (DashboardPage.prototype._numberOfDaysDidChange): Deleted.
1861         (DashboardPage.prototype._updateChartsDomainFromToolbar): Deleted.
1862         (DashboardPage.prototype.render): Construct URL for each charts here.
1863         (DashboardPage.prototype._createChartForCell): Don't construct URL here since this function is
1864         called once when the dashboard page is opened, and not when the time range is changed.
1865
1866 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1867
1868         Build fix for an old version of PHP after r194618.
1869
1870         * public/api/measurement-set.php:
1871
1872 2016-01-05  Ryosuke Niwa  <rniwa@webkit.org>
1873
1874         A/B testing results should be visualized intuitively on v3 UI
1875         https://bugs.webkit.org/show_bug.cgi?id=152496
1876
1877         Rubber-stamped by Chris Dumez.
1878
1879         Add the "stacking block" view of A/B testing results to the analysis task page on v3 UI.
1880
1881         The patch enhances JSON APIs at /api/analysis-task /api/measurement-set/ to reduce the number of
1882         HTTP requests, and adds two UI components: TestGroupResultsTable and AnalysisResultsViewer both
1883         of which inherits from an abstract superclass: ResultsTable.
1884
1885         ResultsTable provides a tabular presentation of measured values in regular measurement sets and
1886         A/B testing results using groups of bar graphs created by BarGraphGroup. TestGroupResultsTable
1887         inherits from this class to display A/B testing configurations and the averaged results for each
1888         configuration, and AnalysisResultsViewer inherits from it to provide an intuitive visualization
1889         of the outcomes of all A/B testing results associated with a given analysis task.
1890
1891         * public/api/analysis-tasks.php:
1892         (main): Add the capability to find the analysis task based on its build request.
1893         This allows /v3/#/analysis/task/?buildRequest=<id> to be hyperlinked on buildbot page.
1894
1895         * public/api/measurement-set.php:
1896         (main): Removed the unused startTime and endTime, and added "analysisTask" to query parameters.
1897         (AnalysisResultsFetcher): Added. Used to fetch measured data associated with every build request
1898         on an analysis task.
1899         (AnalysisResultsFetcher::__construct):
1900         (AnalysisResultsFetcher::fetch): Unlike MeasurementSetFetcher, we fetch the list of commits and
1901         list of measurements separately since there will be a lot less builds and commits than measured
1902         data (since we're fetching measured values for all tests and their metrics).
1903         (AnalysisResultsFetcher::fetch_commits): Fetches commits.
1904         (AnalysisResultsFetcher::format_measurement): Like MeasurementSetFetcher::format_measurement but
1905         with config_type and config_metric since we're returning measured data for all metrics and test
1906         configurations.
1907         (AnalysisResultsFetcher::format_map): Similar to MeasurementSetFetcher::format_map.
1908
1909         * public/v3/components/analysis-results-viewer.js: Added.
1910         (AnalysisResultsViewer): Added. 
1911         (AnalysisResultsViewer.prototype.didUpdateResults): This callback is called by AnalysisTaskPage
1912         when A/B testing results become available.
1913         (AnalysisResultsViewer.prototype.render): Overrides ResultsTable's render to highlight the block
1914         representing the currently selected test group.
1915
1916         (AnalysisResultsViewer.prototype.buildRowGroups): Creates a list of rows with "stacking blocks"
1917         that visualizes A/B testing results. The algorithm works as follows: 1. Create all table rows.
1918         2. Find which row is associated with each set in each test group. 3. Layout "blocks".
1919
1920         (AnalysisResultsViewer.prototype._collectRootSetsInTestGroups): Collects root sets from all data
1921         in the measurement set as well as A/B testing **requests** (results may contain more repositories
1922         than requested but they aren't interesting for the purpose of visualizing results for the entire
1923         analysis task).
1924
1925         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups): Create table rows. First,
1926         create table rows for measurement set points that have a matching test group (i.e. either set A
1927         or set B of an A/B testing uses the same root set as a point). Second, insert a new row for each
1928         root set in each test group which didn't find a matching measurement set point. There is a little
1929         subtlety that some A/B testing may specify revisions for a subset of repositories and/or some A/B
1930         testing results may appear as if it goes back in time with respect to other A/B testing results.
1931         For example, consider creating two A/B test groups for WebKit changes and OS changes separately.
1932         There could be no coherent linearization of those two A/B testing in which both WebKit and OS
1933         versions move forward.
1934
1935         (AnalysisResultsViewer.RootSetInTestGroup): Added. Represents a pair (test group, root set) since
1936         a root set could be shared by multiple test groups.
1937         (AnalysisResultsViewer.TestGroupStackingBlock): Added. A stacked block representing a test group.
1938         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex): Associates a row number with
1939         either set A or set B.
1940         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): Creates a table cell
1941         for this block.
1942         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Returns true if this test group
1943         has failed and this block should look "thin" without any label.
1944         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus): Computes the
1945         status for this test group.
1946
1947         (AnalysisResultsViewer.TestGroupStackingGrid): Added. AnalysisResultsViewer uses this class to
1948         layout blocks representing test groups.
1949         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.insertBlockToColumn): Inserts a new block
1950         to layout. We keep all test groups doing the same A/B test next to each other.
1951         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.layout): Layouts each block / test group
1952         in the order they are created.
1953         (AnalysisResultsViewer.TestGroupStackingGrid.prototype._layoutBlock): Places the block in the
1954         left-most column that can accommodate it while avoiding columns of a different thin-ness. A column
1955         is thin if its A/B testing has failed, and not thin otherwise.
1956         (AnalysisResultsViewer.TestGroupStackingGrid.prototype.createCellsForRow): Creates table cells for
1957         a given row. For each column, generate a table cell if we're in the first row and the first block
1958         starts in a later row, a block starts in the current row, or the last block ended in the previous
1959         row and the next block or the last row appears later.
1960
1961         * public/v3/components/bar-graph-group.js: Added. A component for showing a group of bar graphs.
1962         (BarGraphGroup): Added. Creates a group of bar graphs with the same value range. It's used by
1963         AnalysisResultsViewer and ResultsTable to show bar graphs to compare values.
1964         (SingleBarGraph): A component created and collectively controlled by BarGraphGroup.
1965
1966         * public/v3/components/results-table.js: Added.
1967         (ResultsTable): An abstract superclass for TestGroupResultsTable and AnalysisResultsViewer.
1968
1969         (ResultsTable.prototype.render): Renders the table. 1. Call "buildRowGroups()" implemented by
1970         a subclass to obtain the list of rows. 2. Compute the list of repositories to show. 3. For each
1971         cell in the table, compute the number of rows to show the same value (for rowspan). 4. Render the
1972         table with an extra list of repositories if exists.
1973
1974         (ResultsTable.prototype._computeRepositoryList): Compute the list of repositories to list
1975         revisions in the table. Omit repositories not present in any row or for which all rows have the
1976         same revision. In the latter case, include it in the extra repositories listed below the table.
1977         This minimizes the amount of redundant information presented to the user.
1978
1979         (ResultsTableRow): Added. Represents a single row in the table. ResultsTable constructs necessary
1980         table cells to tabulate the associated root sets, and shows the associated result using a grouped
1981         bar graph. Additional columns are used by AnalysisResultsViewer to show stacked blocks for A/B
1982         testing groups.
1983
1984         * public/v3/components/test-group-results-table.js: Added.
1985         (TestGroupResultsTable):
1986         (TestGroupResultsTable.prototype.didUpdateResults):
1987         (TestGroupResultsTable.prototype.setTestGroup):
1988         (TestGroupResultsTable.prototype.heading):
1989         (TestGroupResultsTable.prototype.render):
1990         (TestGroupResultsTable.prototype.buildRowGroups):
1991
1992         * public/v3/index.html:
1993         * public/v3/models/analysis-results.js: Added.
1994         (AnalysisResults): Added. Like MeasurementSet, this class represents a set of measured values
1995         associated with a given analysis task.
1996         (AnalysisResults.prototype.find): Returns a measured valued for a given build and metric.
1997         (AnalysisResults.prototype.add): Adds a new measured value. Used by AnalysisResults.fetch.
1998         (AnalysisResults.fetch): Fetches data and creates AnalysisResults for a given analysis task.
1999
2000         * public/v3/models/analysis-task.js:
2001         (AnalysisTask.prototype.startMeasurementId): Added.
2002         (AnalysisTask.prototype.endMeasurementId): Added.
2003         (AnalysisTask.fetchByBuildRequestId): Added.
2004         (AnalysisTask._fetchSubset): Uses DataModelObject.cachedFetch.
2005
2006         * public/v3/models/build-request.js: Added.
2007         (BuildRequest): Added. Represents a single A/B testing request associated with a test group.
2008
2009         * public/v3/models/builder.js:
2010         (Build): Added. Represents a build associated with a given A/B testing result.
2011
2012         * public/v3/models/commit-log.js:
2013         (CommitLog): Made this class inherit from DataModelObject.
2014         (CommitLog.ensureSingleton): Added. Finds the singleton object created for a given revision
2015         in the specified repository. This helps RootSet and other classes compare commits fast.
2016         (CommitLog.prototype.repository): Added.
2017         (CommitLog.fetchBetweenRevisions): Uses CommitLog.ensureSingleton.
2018
2019         * public/v3/models/data-model.js:
2020         (DataModelObject):
2021         (DataModelObject.namedStaticMap): Added.
2022         (DataModelObject.ensureNamedStaticMap): Renamed from namedStaticMap instead of implicitly
2023         assuming that the non-static version always creates the map.
2024         (DataModelObject.prototype.namedStaticMap): Added.
2025         (DataModelObject.cachedFetch): Extracted from AnalysisTask._fetchSubset so that TestGroup's
2026         fetchByTask could also use it.
2027         (LabeledObject):
2028
2029         * public/v3/models/measurement-adaptor.js: Added.
2030         (MeasurementAdaptor): Extracted from MeasurementCluster. This class is responsible for
2031         re-formatting the data received via /api/measurement-set JSON API inside the v3 UI.
2032         (MeasurementAdaptor.prototype.extractId): Added.
2033         (MeasurementAdaptor.prototype.adoptToAnalysisResults): Added. Used by AnalysisResults.
2034         (MeasurementAdaptor.aggregateAnalysisResults): Added. Used by TestGroupResultsTable to
2035         aggregate results for each test configuration; e.g. computing the average for set A.
2036         (MeasurementAdaptor.prototype.adoptToSeries): Extracted from MeasurementCluster.addToSeries.
2037         Added rootSet() to each point. This allows AnalysisResultsViewer to compare them against root
2038         sets associated with A/B testing results.
2039         (MeasurementAdaptor.computeConfidenceInterval): Moved from MeasurementCluster.
2040
2041         * public/v3/models/measurement-cluster.js:
2042         (MeasurementCluster):
2043         (MeasurementCluster.prototype.addToSeries):
2044
2045         * public/v3/models/repository.js:
2046         (Repository.prototype.hasUrlForRevision): Added.
2047
2048         * public/v3/models/root-set.js: Added.
2049         (RootSet): Added. Represents a set of commits in measured results.
2050         (MeasurementRootSet): Added. Ditto for results associated with A/B testing.
2051
2052         * public/v3/models/test-group.js: Added.
2053         (TestGroup): Added. Represents a A/B testing on analysis task.
2054         (TestGroup.prototype.createdAt): Added.
2055         (TestGroup.prototype.buildRequests): Returns the list of build requests associated with this
2056         A/B testing.
2057         (TestGroup.prototype.addBuildRequest): Added. Used by BuildRequest's constructor to associate
2058         itself with this group.
2059         (TestGroup.prototype.didSetResult): Added. Called by BuildRequest.setResult when measured
2060         values are fetched and associated with a build request in this group.
2061
2062         * public/v3/models/test.js:
2063         (Test):
2064
2065         * public/v3/pages/analysis-task-page.js:
2066         (AnalysisTaskPage):
2067         (AnalysisTaskPage.prototype.updateFromSerializedState): Fetch the analysis task, test groups
2068         associated with it, and all A/B testing results based on the task id or the build request id
2069         specified in the URL.
2070         (AnalysisTaskPage.prototype._didFetchTask): Added. Start fetching the measured data. This is
2071         the data on charts page for which this analysis task was created, not results of A/B testing.
2072         (AnalysisTaskPage.prototype._didFetchMeasurement): Added. Display the fetched data in a table
2073         inside AnalysisResultsViewer.
2074         (AnalysisTaskPage.prototype._didFetchTestGroups): Added. Display the list of A/B test groups
2075         as well as the results of the first A/B testing.
2076         (AnalysisTaskPage.prototype._didFetchAnalysisResults): Added.
2077         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Added. Once both the analysis task,
2078         A/B test groups as well as their results are fetched, update build requests in each test group
2079         with their results.
2080         (AnalysisTaskPage.prototype.render): Show the list of test groups and highlight the currently
2081         selected one.
2082         (AnalysisTaskPage.prototype._showTestGroup): Added. A callback used by AnalysisResultsViewer
2083         and TestGroupResultsTable to notify this class when the user selects a new test group.
2084         (AnalysisTaskPage.htmlTemplate): Updated the template.
2085         (AnalysisTaskPage.cssTemplate): Ditto.
2086
2087         * public/v3/pages/charts-page.js:
2088         (ChartsPage.createStateForAnalysisTask): Added. Creates a URL state object for opening a chart
2089         associated with an analysis task.
2090
2091 2015-12-22  Ryosuke Niwa  <rniwa@webkit.org>
2092
2093         Analysis task page is slow to load
2094         https://bugs.webkit.org/show_bug.cgi?id=152517
2095
2096         Reviewed by Andreas Kling.
2097
2098         The slowness comes from r194130 which made the JSON API at /api/analysis-tasks to report the start
2099         and the end of each analysis task. This query was adding ~2s to the total JSON generation time.
2100
2101         Cache these values on analysis_task table since they never change once an analysis task is created.
2102
2103         * init-database.sql: Added columns task_start_run_time and task_end_run_time to analysis_task table.
2104         Also added the missing drop statements at the top.
2105
2106         * public/api/analysis-tasks.php:
2107         (fetch_and_push_bugs_to_tasks): Don't fetch the latest commit time of the start and the end.
2108         (format_task): Report task_start_run_time and task_end_run_time as startRunTime and endRunTime.
2109
2110         * public/privileged-api/create-analysis-task.php:
2111         (main): Set start_run_time and end_run_time when creating an analysis task.
2112         (time_for_run): Added.
2113
2114 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
2115
2116         v3 UI shouldn't open/close pane selector by mouseenter/leave
2117         https://bugs.webkit.org/show_bug.cgi?id=152399
2118
2119         Reviewed by Andreas Kling.
2120
2121         Removed the code to open and close the pane selector by mouseenter and mouseleave
2122         since multiple people have complained about the behavior.
2123
2124         * public/v3/pages/charts-toolbar.js:
2125         (ChartsToolbar): Removed the event listeners.
2126         (ChartsToolbar.prototype._addPane): Don't close the pane selector when adding a new pane
2127         to better support the use case of adding multiple panes.
2128         (ChartsToolbar.cssTemplate): Tweaked CSS.
2129
2130 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
2131
2132         Popover for analysis tasks shows up at the left edge of annotation bars in the v3 UI
2133         https://bugs.webkit.org/show_bug.cgi?id=152389
2134
2135         Reviewed by Darin Adler.
2136
2137         Compute the x coordinate of the popover from the center of each annotation bar.
2138
2139         Also adjust the x coordinate to keep the popover within the charts.
2140
2141         * public/v3/components/interactive-time-series-chart.js:
2142         (InteractiveTimeSeriesChart.prototype._renderChartContent):
2143
2144 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
2145
2146         Dashboard charts should have uniform widths on v3 UI
2147         https://bugs.webkit.org/show_bug.cgi?id=152395
2148
2149         Reviewed by Chris Dumez.
2150
2151         Fix the bug by applying table-layout: fixed on the dashboard table.
2152
2153         * public/v3/pages/dashboard-page.js:
2154         (DashboardPage.prototype.render): Added header-column as a class name to explicitly set the header column with.
2155         (DashboardPage.cssTemplate): Adjusted CSS accordingly.
2156
2157 2015-12-17  Ryosuke Niwa  <rniwa@webkit.org>
2158
2159         Closing a pane on v3 UI always closes the last pane
2160         https://bugs.webkit.org/show_bug.cgi?id=152388
2161
2162         Reviewed by Chris Dumez.
2163
2164         The bug was caused by closePane being called without arguments. (The first argument to bind is "this" value.)
2165         Fixed it by passing in "this" pane object to the first argument.
2166
2167         * public/v3/pages/chart-pane.js:
2168         (ChartPane):
2169
2170 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
2171
2172         Perf Dashboard v3 UI doesn't show recent data points on v2 UI
2173         https://bugs.webkit.org/show_bug.cgi?id=152368
2174
2175         Reviewed by Chris Dumez.
2176
2177         The bug was caused by the last modified date in measurement set JSON being a string instead of a POSIX timestamp,
2178         which prevented the v3 UI from invalidating the cache. Specifically, the following boolean logic always evaluated
2179         to false because +data['lastModified'] was NaN in MeasurementSet.prototype._fetch (/v3/models/measurement-set.js):
2180
2181         !clusterEndTime && useCache && +data['lastModified'] < self._lastModified
2182
2183         Fixed the bug by calling Database::to_js_time on the last modified date fetched from the database.
2184
2185         * public/api/measurement-set.php:
2186         (MeasurementSetFetcher::fetch_config_list): Convert the string returned by the database to a POSIX timestamp.
2187         * tests/api-measurement-set.js: Added a test to ensure the last modified date in JSON is numeric. Since the value
2188         of the last modified date depends on when tests run, we can't assert it to be a certain value.
2189
2190 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
2191
2192         v3 UI should show and link the build number on charts page
2193         https://bugs.webkit.org/show_bug.cgi?id=152359
2194
2195         Reviewed by Chris Dumez.
2196
2197         Show the hyperlinked build number in the v3 UI.
2198
2199         * public/v3/models/builder.js:
2200         (Builder): Renamed _buildURL to _buildUrlTemplate.
2201         (Builder.prototype.urlForBuild): Added.
2202         * public/v3/pages/chart-pane-status-view.js:
2203         (ChartPaneStatusView):
2204         (ChartPaneStatusView.prototype.render): Added the code to render hyperlinked build number when one is available.
2205         (ChartPaneStatusView.prototype.computeChartStatusLabels): Store currentPoint's measurement object as _buildInfo
2206         if the current point is set by an indicator (not by a selection).
2207
2208 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
2209
2210         v3 dashboard doesn't stretch charts to fill the screen
2211         https://bugs.webkit.org/show_bug.cgi?id=152354
2212
2213         Reviewed by Chris Dumez.
2214
2215         The bug was caused by a workaround to avoid canvas stretching table cell too much.
2216
2217         Fix the problem instead by making the canvas absolutely positioned inside the "time-series-chart" element
2218         so that it does not contribute to the intrinsic/natural width of the cell.
2219
2220         * public/v3/components/time-series-chart.js:
2221         (TimeSeriesChart.prototype._ensureCanvas): Make the canvas absolutely positioned inside the shadow root.
2222         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Use the container element's size now that
2223         the canvas does not resize with it.
2224         * public/v3/pages/dashboard-page.js:
2225         (DashboardPage.cssTemplate): Updated the CSS so that the chart stretches all the way.
2226
2227 2015-12-16  Ryosuke Niwa  <rniwa@webkit.org>
2228
2229         The chart status on v3 UI sometimes show wrong revision ranges
2230         https://bugs.webkit.org/show_bug.cgi?id=152331
2231
2232         Reviewed by Chris Dumez.
2233
2234         The bug was caused by the status view not taking the data sampling that happens in TimeSeriesChart into account
2235         when finding the previous point. Take this into account by using InteractiveTimeSeries.currentPoint(-1) which
2236         finds the sampled data point immediately preceding the current point (at which the indicator is shown).
2237
2238         * public/v3/components/chart-status-view.js:
2239         (ChartStatusView.prototype.updateStatusIfNeeded):
2240
2241 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
2242
2243         Perf dashboard's cycler page should use v3 UI
2244         https://bugs.webkit.org/show_bug.cgi?id=152324
2245
2246         Reviewed by Chris Dumez.
2247
2248         Use the v3 UI in cycler.html after r194130.
2249
2250         * public/cycler.html:
2251         * public/v3/index.html: Removed the reference to a non-existent platform-selector.js.
2252
2253 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
2254
2255         Add v3 UI to perf dashboard
2256         https://bugs.webkit.org/show_bug.cgi?id=152311
2257
2258         Reviewed by Chris Dumez.
2259
2260         Add the third iteration of the perf dashboard UI. UI for viewing and modifying analysis tasks is coming soon.
2261         The v3 UI is focused on speed, and removes all third-party script dependencies including jQuery, d3, and Ember.
2262         Both the DOM-based UI and graphing are implemented manually.
2263
2264
2265         The entire app is structured using new component library implemented in components/base.js. Each component is
2266         an instance of a subclass of ComponentBase which owns a single DOM element. Each subclass may supply static
2267         methods named htmlTemplate and cssTemplate as the template for a component instance. ComponentBase automatically
2268         clones the templates inside the associated element (or its shadow root on the supported browsers). Each subclass
2269         must supply a method called "render()" which constructs and updates the DOM as needed.
2270
2271         There is a special component called Page, which represents an entire page. Each Page is opened by PageRouter's
2272         "route()" function. Each subclass of Page supplies "open()" for initialization and "updateFromSerializedState()"
2273         for a hash URL transition.
2274
2275
2276         The key feature of the v3 UI is the split of time series into chunks called clusters (see r194120). On an internal
2277         instance of the dashboard, the v2 UI downloads 27MB of data whereas the same page loads only 3MB of data in the v3.
2278         The key logic for fetching time series in chunks is implemented by MeasurementSet in /v3/models/measurement-set.js.
2279         We first fetch the cached primary cluster (the cluster that contains the newest data) at:
2280         /data/measurement-set-<platform-id>-<metric-id>.json
2281
2282         If that's outdated according to lastModified in manifest.json, then we immediately re-fetch the primary cluster at:
2283         /api/measurement-set/?platform=<platform-id>&metric=<metric-id>
2284
2285         Once the up-to-date primary cluster is fetched, we fetch all "secondary" clusters. For each cluster being fetched,
2286         including the primary, we invoke registered callbacks.
2287
2288
2289         In addition, the v3 UI reduces the initial page load time by loading a single bundled JS file generated by
2290         tools/bundle-v3-scripts.py. index.html has a fallback to load all 44 JS files individually during development.
2291
2292         * public/api/analysis-tasks.php:
2293         (fetch_and_push_bugs_to_tasks): Added the code to fetch start and end run times. This is necessary in V3 UI
2294         because no longer fetch the entire time series. See r194120 for the new measurement set JSON API.
2295         (format_task): Compute the category of an analysis task based on "result" value. This will be re-vamped once
2296         I add the UI for the analysis task page in v3.
2297
2298         * public/include/json-header.php:
2299         (require_format): CamelCase the name.
2300         (require_match_one_of_values): Ditto.
2301         (validate_arguments): Renamed from require_existence_of and used in measurement-set.php landed in r194120.
2302
2303         * public/v3: Added.
2304         * public/v3/components: Added.
2305
2306         * public/v3/components/base.js: Added.
2307         (ComponentBase): The base component class.
2308         (ComponentBase.prototype.element): Returns the DOM element associated with the DOM element.
2309         (ComponentBase.prototype.content): Returns the shadow root if one exists and the associated element otherwise.
2310         (ComponentBase.prototype.render): To be implemented by a subclass.
2311         (ComponentBase.prototype.renderReplace): A helper function to "render" DOM contents.
2312         (ComponentBase.prototype._constructShadowTree): Called inside the constructor to instantiate the templates.
2313         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Instantiates components referred by
2314         its element name inside the instantiated content.
2315         (ComponentBase.isElementInViewport): A helper function. Returns true if the element is in the viewport and it has
2316         non-zero width and height.
2317         (ComponentBase.defineElement): Defines a custom element that can be automatically instantiated from htmlTemplate.
2318         (ComponentBase.createElement): A helper function to create DOM tree to be used in "render()" method.
2319         (ComponentBase._addContentToElement): A helper for "createElement".
2320         (ComponentBase.createLink): A helper function to create a hyperlink or another clickable element (via callback).
2321         (ComponentBase.createActionHandler): A helper function to create an event listener that prevents the default action
2322         and stops the event propagation.
2323
2324         * public/v3/components/button-base.js: Added.
2325
2326         * public/v3/components/chart-status-view.js: Added.
2327         (ChartStatusView): A component that reports the current status of time-series-chart. It's subclasses by
2328         ChartPaneStatusView to provide additional information in the charts page's panes.
2329
2330         * public/v3/components/close-button.js: Added.
2331         (CloseButton):
2332         * public/v3/components/commit-log-viewer.js: Added.
2333         (CommitLogViewer): A component that lists commit revisions along with commit messages for a range of data points.
2334
2335         * public/v3/components/interactive-time-series-chart.js: Added.
2336         (InteractiveTimeSeriesChart): A subclass of InteractiveTimeSeriesChart with interactivity (selection & indicator).
2337         Selection and indicator are mutually exclusive.
2338
2339         * public/v3/components/pane-selector.js: Added.
2340         (PaneSelector): A component for selecting (platform, metric) pair to add in the charts page.
2341
2342         * public/v3/components/spinner-icon.js: Added.
2343
2344         * public/v3/components/time-series-chart.js: Added.
2345         (TimeSeriesChart): A canvas-based chart component without interactivity. It takes a source list and options as
2346         the constructor arguments. A source list is a list of measurement sets (measurement-set.js) with drawing options.
2347         This component fetches data via MeasurementSet.fetchBetween inside TimeSeriesChart.prototype.setDomain and
2348         progressively updates the charts as more data arrives. The canvas is updated on animation frame via rAF and all
2349         layout and rendering metrics are lazily computed in _layout. In addition, this component samples data before
2350         rendering the chart when there are more data points per pixel in _ensureSampledTimeSeries.
2351
2352         * public/v3/index.html: Added. Loads bundled-scripts.js if it exists, or individual script files otherwise.
2353
2354         * public/v3/instrumentation.js: Added. This class is used to gather runtime statistics of v3 UI. (It measures
2355         the performance of the perf dashboard UI).
2356
2357         * public/v3/main.js: Added. Bootstraps the app.
2358         (main):
2359         (fetchManifest):
2360
2361         * public/v3/models: Added.
2362         * public/v3/models/analysis-task.js: Added.
2363         * public/v3/models/bug-tracker.js: Added.
2364         * public/v3/models/bug.js: Added.
2365         * public/v3/models/builder.js: Added.
2366         * public/v3/models/commit-log.js: Added.
2367         * public/v3/models/data-model.js: Added.
2368         (DataModelObject): The base class for various data objects that correspond to database tables. It supplies static
2369         hash map to find entries by id as well as other keys.
2370         (LabeledObject): A subclass of DataModelObject with the capability to find an object via its name.
2371
2372         * public/v3/models/measurement-cluster.js: Added.
2373         (MeasurementCluster): Represents a single cluster or a chunk of data in a measurement set.
2374
2375         * public/v3/models/measurement-set.js: Added.
2376         (MeasurementSet): Represents a measurement set.
2377         (MeasurementSet.findSet): Returns the singleton set given (metric, platform). We use singleton to avoid issuing
2378         multiple HTTP requests for the same JSON when there are multiple TimeSeriesChart that show the same graph (e.g. on
2379         charts page with overview and main charts).
2380         (MeasurementSet.prototype.findClusters): Finds the list of clusters to fetch in a given time range.
2381         (MeasurementSet.prototype.fetchBetween): Fetch clusters for a given time range and calls callback whenever new data
2382         arrives. The number of callbacks depends on the how many clusters need to be newly fetched.
2383         (MeasurementSet.prototype._fetchSecondaryClusters): Fetches non-primary (non-latest) clusters.
2384         (MeasurementSet.prototype._fetch): Issues a HTTP request to fetch a cluster.
2385         (MeasurementSet.prototype._didFetchJSON): Called when a cluster is fetched.
2386         (MeasurementSet.prototype._failedToFetchJSON): Called when the fetching of a cluster has failed.
2387         (MeasurementSet.prototype._invokeCallbacks): Invokes callbacks upon an approval of a new cluster.
2388         (MeasurementSet.prototype._addFetchedCluster): Adds the newly fetched cluster in the order.
2389         (MeasurementSet.prototype.fetchedTimeSeries): Returns a time series that contains data from all clusters that have
2390         been fetched.
2391         (TimeSeries.prototype.findById): Additions to TimeSeries defined in /v2/data.js.
2392         (TimeSeries.prototype.dataBetweenPoints): Ditto.
2393         (TimeSeries.prototype.firstPoint): Ditto.
2394
2395         * public/v3/models/metric.js: Added.
2396         * public/v3/models/platform.js: Added.
2397         * public/v3/models/repository.js: Added.
2398         * public/v3/models/test.js: Added.
2399
2400         * public/v3/pages: Added.
2401         * public/v3/pages/analysis-category-page.js: Added. The "Analysis" page that lists the analysis tasks.
2402         * public/v3/pages/analysis-category-toolbar.js: Added. The toolbar to filter analysis tasks based on its category
2403         (unconfirmed, bisecting, identified, closed) and a keyword.
2404
2405         * public/v3/pages/analysis-task-page.js: Added. Not implemented yet. It just has the hyperlink to the v2  UI.
2406
2407         * public/v3/pages/chart-pane-status-view.js: Added.
2408         (ChartPaneStatusView): A subclass of ChartStatusView used in the charts page. In addition to the current value,
2409         comparison to baseline/target, it shows the list of repository revisions (e.g. WebKit revision, OS version).
2410
2411         * public/v3/pages/chart-pane.js: Added.
2412         (ChartPane): A component a pane in the charts page. Each pane has the overview chart and the main chart. The zooming
2413         is synced across all panes in the charts page.
2414
2415         * public/v3/pages/charts-page.js: Added. Charts page.
2416         * public/v3/pages/charts-toolbar.js: Added. The toolbar to set the number of days to show. This affects the overview
2417         chart's domain in each pane.
2418
2419         * public/v3/pages/create-analysis-task-page.js: Added.
2420         (CreateAnalysisTaskPage): A page that gets shown momentarily while creating a new analysis task.
2421
2422         * public/v3/pages/dashboard-page.js: Added. A dashboard page.
2423         * public/v3/pages/dashboard-toolbar.js: Added. Its toolbar with buttons to select the number of days to show.
2424         * public/v3/pages/domain-control-toolbar.js: Added. An abstract superclass of charts and dashboard toolbars.
2425
2426         * public/v3/pages/heading.js: Added. A component for displaying the header and toolbar, if exists, on each page.
2427         * public/v3/pages/page-router.js: Added. This class is responsible for updating the URL hashes as well as opening
2428         and updating each page when the hash changes (via back/forward navigation).
2429         * public/v3/pages/page-with-charts.js: Added. An abstract subclass of page used by dashboards and charts page.
2430         Supplies helper functions for creating TimeSeriesChart options.
2431         * public/v3/pages/page-with-heading.js: Added. An abstract subclass of page that uses the heading component.
2432         * public/v3/pages/page.js: Added. The Page component.
2433         * public/v3/pages/toolbar.js: Added. An abstract toolbar component.
2434
2435         * public/v3/remote.js: Added.
2436         (getJSON): Fetches JSON from the remote server.
2437         (getJSONWithStatus): Ditto. Rejects the response if the status is not "OK".
2438         (PrivilegedAPI.sendRequest): Posts a HTTP request to a privileged API in /privileged-api/.
2439         (PrivilegedAPI.requestCSRFToken): Creates a new CSRF token to request a privileged API post.
2440
2441         * tools/bundle-v3-scripts.py: Added.
2442         (main): Bundles js files together and minifies them by jsmin.py for the v3 UI. Without this script, we're forced to
2443         download 44 JS files or making each JS file contain multiple classes.
2444
2445         * tools/jsmin.py: Copied from WebInspector / JavaScriptCore code.
2446
2447 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
2448
2449         Fix v2 UI after r194093.
2450
2451         * public/v2/data.js:
2452
2453 2015-12-15  Ryosuke Niwa  <rniwa@webkit.org>
2454
2455         Add /api/measurement-set for v3 UI
2456         https://bugs.webkit.org/show_bug.cgi?id=152312
2457
2458         Rubber-stamped by Chris Dumez.
2459
2460         The new API JSON allows the front end to fetch measured data in chunks called a "cluster" as specified
2461         in config.json for each measurement set specified by the pair of a platform and a metric.
2462
2463         When the front end needs measured data in a given time range (t_0, t_1) for a measurement set, it first
2464         fetches the primary cluster by /api/measurement-set/?platform=<platform-id>&metric=<metric-id>.
2465         The primary cluster is the last cluster in the set (returning the first cluster here is not useful
2466         since we don't typically show very old data), and provides the information needed to fetch other clusters.
2467
2468         Fetching the primary cluster also creates JSON files at:
2469         /data/measurement-set-<platform-id>-<metric-id>-<cluster-end-time>.json
2470         to allow latency free access for secondary clusters. The front end code can also fetch the cache of
2471         the primary cluster at: /data/measurement-set-<platform-id>-<metric-id>.json.
2472
2473         Because the front end code has to behave as if all data is fetched, each cluster contains one data point
2474         immediately before the first data point and one immediately after the last data point. This avoids having
2475         to fetch multiple empty clusters for manually specified baseline data. To support this behavior, we generate
2476         all clusters for a given measurement set at once when the primary cluster is requested.
2477
2478         Furthermore, all measurement sets are divided at the same time into clusters so that the boundary of clusters
2479         won't shift as more data are reported to the server.
2480
2481         * config.json: Added clusterStart and clusterSize as options.
2482         * public/api/measurement-set.php: Added.
2483         (main):
2484         (MeasurementSetFetcher::__construct):
2485         (MeasurementSetFetcher::fetch_config_list): Finds configurations that belongs to this (platform, metric) pair.
2486         (MeasurementSetFetcher::at_end): Returns true if we've reached the end of all clusters for this set.
2487         (MeasurementSetFetcher::fetch_next_cluster): Generates the JSON data for the next cluster. We generate clusters
2488         in increasing chronological order (the oldest first and the newest last).
2489         (MeasurementSetFetcher::execute_query): Executes the main query.
2490         (MeasurementSetFetcher::format_map): Returns the mapping of a measurement field to an array index. This removes
2491         the need to have key names for each measurement and reduces the JSON size by ~10%.
2492         (MeasurementSetFetcher::format_run): Creates an array that contains data for a single measurement. The order
2493         matches that of keys in format_map.
2494         (MeasurementSetFetcher::parse_revisions_array): Added. Copied from runs.php.
2495         * tests/api-measurement-set.js: Added. Added tests for /api/measurement-set.
2496
2497 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2498
2499         Using fake timestamp in OS version make some results invisible
2500         https://bugs.webkit.org/show_bug.cgi?id=152289
2501
2502         Reviewed by Stephanie Lewis.
2503
2504         Fix various bugs after r194088.
2505
2506         * public/api/commits.php:
2507         (format_commit): Include the commit order.
2508         * public/v2/data.js:
2509         (CommitLogs._cacheConsecutiveCommits): Sort by commit order when commit time is missing.
2510         * tools/pull-os-versions.py:
2511         (OSBuildFetcher._assign_order): Use integer instead of fake time for commit order.
2512         (available_builds_from_command): Exit early when an exception is thrown.
2513
2514 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2515
2516         Fix a typo in the previous commit.
2517
2518         * public/include/report-processor.php:
2519
2520 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2521
2522         Build fix after r192965. Suppress a warning about log being referred to as a closure variable.
2523
2524         * public/include/report-processor.php:
2525
2526 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2527
2528         Using fake timestamp in OS version make some results invisible
2529         https://bugs.webkit.org/show_bug.cgi?id=152289
2530
2531         Reviewed by Stephanie Lewis.
2532
2533         Added commit_order column to explicitly order OS versions. This fixes the bug whereby which
2534         baseline results reported with only OS versions are shown with x coordinate set to 10 years ago.
2535
2536         To migrate the existing database, run:
2537             ALTER TABLE commits ADD COLUMN commit_order integer;
2538             CREATE INDEX commit_order_index ON commits(commit_order);
2539
2540         Then for each repository $1,
2541             UPDATE commits SET (commit_time, commit_order) = (NULL, CAST(EXTRACT(epoch from commit_time) as integer))
2542             WHERE commit_repository = $1;
2543
2544
2545         * init-database.sql: Added the column.
2546         * public/api/commits.php:
2547         (fetch_commits_between): Use commit_order to order commits when commit_time is missing.
2548         * public/api/report-commits.php:
2549         (main): Set commit_order.
2550         * tools/pull-os-versions.py:
2551         (OSBuildFetcher.fetch_and_report_new_builds):
2552         (OSBuildFetcher._assign_order): Renamed from _assign_fake_timestamps. Set the order instead of a fake timestmap.
2553
2554 2015-12-14  Ryosuke Niwa  <rniwa@webkit.org>
2555
2556         Perf dashboard can't merge when the destination platform is missing baseline/target
2557         https://bugs.webkit.org/show_bug.cgi?id=152286
2558
2559         Reviewed by Stephanie Lewis.
2560
2561         The bug was caused by the query to migrate test configurations to new platform checking
2562         configuration type and metric separately; that is, it assumes the configuration exists
2563         only if either the same type or the same metric exists in the destination.
2564
2565         Fixed the bug by checking both conditions simultaneously for each configuration.
2566
2567         * public/admin/platforms.php:
2568         * tests/admin-platforms.js: Added a test.
2569
2570 2015-12-11  Ryosuke Niwa  <rniwa@webkit.org>
2571
2572         Perf dashboard's buildbot sync config JSON duplicates too much information
2573         https://bugs.webkit.org/show_bug.cgi?id=152196
2574
2575         Reviewed by Stephanie Lewis.
2576
2577         Added shared, per-builder, and per-test (called type) configurations.
2578
2579         * tools/sync-with-buildbot.py:
2580         (load_config):
2581         (load_config.merge):
2582
2583 2015-12-02  Ryosuke Niwa  <rniwa@webkit.org>
2584
2585         Perf dashboard should avoid overflow during geometric mean computation
2586         https://bugs.webkit.org/show_bug.cgi?id=151773
2587
2588         Reviewed by Chris Dumez.
2589
2590         * public/include/report-processor.php:
2591
2592 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2593
2594         Perf dashboard should extend baseline and target to the future
2595         https://bugs.webkit.org/show_bug.cgi?id=151511
2596
2597         Reviewed by Darin Adler.
2598
2599         * public/v2/data.js:
2600         (RunsData.prototype.timeSeriesByCommitTime): Added extendToFuture as an argument.
2601         (RunsData.prototype.timeSeriesByBuildTime): Ditto.
2602         (RunsData.prototype._timeSeriesByTimeInternal): Ditto.
2603         (TimeSeries): Add a new point to the end if extendToFuture is set and the series is not empty.
2604         * public/v2/manifest.js:
2605         (App.Manifest._formatFetchedData): Set extendToFuture to true for baselines and targets.
2606
2607 2015-11-30  Ryosuke Niwa  <rniwa@webkit.org>
2608
2609         Perf dashboard should always show comparison to baseline and target even if one is missing
2610         https://bugs.webkit.org/show_bug.cgi?id=151510
2611
2612         Reviewed by Darin Adler.
2613
2614         Show the comparison status against the baseline when baseline is present but target is missing.
2615
2616         To make the code more readable, this patch splits the logic into three cases:
2617         1. Both baseline and target are present
2618         2. Only baseline is present
2619         3. Only target is present
2620
2621         Also extracted a helper function to construct the label.
2622
2623         * public/v2/app.js:
2624         (.labelForDiff): Added.
2625         (App.Pane.computeStatus):
2626
2627 2015-11-23  Commit Queue  <commit-queue@webkit.org>
2628
2629         Unreviewed, rolling out r192716 and r192717.
2630         https://bugs.webkit.org/show_bug.cgi?id=151582
2631
2632         The patch was incorrect. We always need at least one data
2633         point in each configuration (Requested by rniwa on #webkit).
2634
2635         Reverted changesets:
2636
2637         "Perf dashboard's should not include results more than 366
2638         days old in JSON"
2639         https://bugs.webkit.org/show_bug.cgi?id=151529
2640         http://trac.webkit.org/changeset/192716
2641
2642         "Build fix for old version of PHP."
2643         http://trac.webkit.org/changeset/192717
2644
2645 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2646
2647         Build fix for old version of PHP.
2648
2649         * public/api/runs.php:
2650
2651 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2652
2653         Perf dashboard's should not include results more than 366 days old in JSON
2654         https://bugs.webkit.org/show_bug.cgi?id=151529
2655
2656         Reviewed by Timothy Hatcher.
2657
2658         Don't return results more than 366 days old in /api/runs/ JSON API.
2659         This is a ~5% runtime improvement and reduces the JSON file size by 20-50% in the internal perf dashboard.
2660
2661         * public/api/runs.php:
2662         (main): Added the support for "?noResults" to avoid echoing results. This is useful for debugging.
2663         Also instantiate RunsGenerator before issuing the query to find all configurations so that the runtime cost
2664         of doing so will be included in elapsedTime.
2665         (RunsGenerator::fetch_runs): Skip a row when its build and commit times are more than 366 days old.
2666         (RunsGenerator::format_run): Takes build_time and revisions as arguments since fetch_runs uses them now.
2667         (RunsGenerator::parse_revisions_array): Compute the max of commit times.
2668
2669 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2670
2671         Remove chartPointRadius from interactive chart component
2672         https://bugs.webkit.org/show_bug.cgi?id=151480
2673
2674         Reviewed by Darin Adler.
2675
2676         Replaced the parameter by CSS rules.
2677
2678         * public/v2/chart-pane.css:
2679         (.chart .dot):
2680         (.chart .dot.foreground):
2681         (.chart .highlight):
2682         (.chart .extent):
2683         * public/v2/index.html:
2684         * public/v2/interactive-chart.js:
2685         (App.InteractiveChartComponent.Ember.Component.extend._constructGraphIfPossible):
2686         (App.InteractiveChartComponent.Ember.Component.extend._highlightedItemsChanged):
2687
2688 2015-11-20  Ryosuke Niwa  <rniwa@webkit.org>
2689
2690         Perf dashboard's runs API uses more than 128MB of memory
2691         https://bugs.webkit.org/show_bug.cgi?id=151478
2692
2693         Reviewed by Andreas Kling.
2694
2695         Don't fetch all query results at once to avoid using twice as much memory as needed.
2696         Use iterative API to format each result at a time.
2697
2698         This change is also a 5% runtime performance gain.
2699
2700         * public/api/runs.php:
2701         (RunsGenerator::__construct): Takes a Database instance instead of a list of configurations. The latter is
2702         no longer needed as we pass in each configuration type explicitly to fetch_runs.
2703         (RunsGenerator::fetch_runs): Renamed from add_runs since it now executes the database query via execute_query.
2704         Also moved the logic to compute the last modified time here.
2705         (RunsGenerator::execute_query): Moved from fetch_runs_for_config. Use Database::query instead of query_and_fetch_all.
2706         (RunsGeneratorForTestGroup):
2707         (RunsGeneratorForTestGroup::__construct):
2708         (RunsGeneratorForTestGroup::execute_query): Moved from fetch_runs_for_config_and_test_group.
2709
2710         * public/include/db.php:
2711         (generate_data_file): Lock the file to avoid corruption.
2712
2713 2015-11-19  Ryosuke Niwa  <rniwa@webkit.org>
2714
2715         Perf dashboard always fetches charts JSON twice
2716         https://bugs.webkit.org/show_bug.cgi?id=151483
2717
2718         Reviewed by Andreas Kling.
2719
2720         Only re-generate "runs" JSON via /api/runs/ when the cache doesn't exist in /data/ or the cached JSON is
2721         obsolete (shouldRefetch is set true) or corrupt (the second closure).
2722
2723         * public/v2/app.js:
2724         (App.Pane._fetch):
2725
2726 2015-11-18  Ryosuke Niwa  <rniwa@webkit.org>
2727
2728         Internal perf dashboard takes forever to load
2729         https://bugs.webkit.org/show_bug.cgi?id=151430
2730
2731         Rubber-stamped by Antti Koivisto.
2732
2733         Fix a few performance problems with the perf dashboard v2 UI.
2734
2735         * public/v2/app.js:
2736         (App.DashboardRow._createPane): Set "inDashboard" to true.
2737         (App.Pane._fetch): Immediately show the cached chart instead of waiting for the refetched data which invokes
2738         a PHP JSON API. Also don't fetch the analysis tasks when the chart is shown in the dashboard since we don't
2739         show annotate charts in the dashboard.
2740
2741 2015-10-15  Ryosuke Niwa  <rniwa@webkit.org>
2742
2743         Unreviewed fix of a test after r190687.
2744
2745         * tests/admin-regenerate-manifest.js:
2746
2747 2015-10-12  Ryosuke Niwa  <rniwa@webkit.org>
2748
2749         Perf dashboard tools shouldn't require server credentials in multiple configuration files
2750         https://bugs.webkit.org/show_bug.cgi?id=149994
2751
2752         Reviewed by Chris Dumez.
2753
2754         Made detect-changes.js and pull-svn.py pull username and passwords from the server config JSON to reduce
2755         the number of JSON files that need to include credentials.
2756
2757         Also made each script reload the server config after sleep to allow dynamic credential updates.
2758
2759         In addition, change the server config JSON's format to include scheme, host, and port numbers separately
2760         instead of a url since detect-changes.js needs each value separately.
2761
2762         This reduces the number of JSONs with credentials to two for our internal dashboard.
2763
2764         * tools/detect-changes.js:
2765         (main): Added a property argument parsing. Now takes --server-config-json, --change-detection-config-json,
2766         and --seconds-to-sleep like other scripts.
2767         (parseArgument): Added.
2768         (fetchManifestAndAnalyzeData): Reload the server config JSON.
2769         (loadServerConfig): Added. Set settings.perfserver and settings.slave from the server config JSON. Also
2770         add settings.perfserver.host to match the old format.
2771         (configurationsForTesting): Fixed a bug that we throw an exception when a dashboard contains an empty cell.
2772
2773         * tools/pull-os-versions.py:
2774         (main): Use load_server_config after each sleep.
2775
2776         * tools/pull-svn.py:
2777         (main): Use load_server_config after each sleep.
2778         (fetch_commits_and_submit): Use the perf dashboard's auth as subversion credential when useServerAuth is set.
2779
2780         * tools/sync-with-buildbot.py:
2781         (main): Use load_server_config after each sleep.
2782
2783         * tools/util.py:
2784         (load_server_config): Extracted from python scripts. Computes server's url from scheme, host, and port number
2785         to match the old format python scripts except.
2786
2787 2015-10-11  Ryosuke Niwa  <rniwa@webkit.org>
2788
2789         Build fix after r190817.  Now that pull-os-versions store fake timestamps, we need to bypass timestamp
2790         checks for OS versions when bots try to report new results. Otherwise, we fail to process the reports
2791         with a MismatchingCommitTime error.
2792
2793         * public/include/report-processor.php:
2794         (ReportProcessor::resolve_build_id):
2795
2796 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2797
2798         Perf dashboard erroneously shows an old OS build in A/B testing range
2799         https://bugs.webkit.org/show_bug.cgi?id=149942
2800
2801         Reviewed by Darin Adler.
2802
2803         Ordering OS builds lexicologically turned out be a bad idea since 15A25 falls between 15A242 and 15A251.
2804         Use a fake/synthetic timestamp to force the commonly understood total order instead.
2805
2806         Refactored pull-os-versions.py to share the server config JSON with other scripts. Also made the script
2807         support pulling multiple sources; e.g. both OS X and iOS.
2808
2809         Also removed superfluous feature to submit results in chunks. The perf dashboard can handle thousands of
2810         revisions being submitted at once just fine.
2811
2812         * public/api/commits.php:
2813         (main): A partial revert of r185574 since we no longer need to order builds lexicologically.
2814
2815         * tools/pull-os-versions.py:
2816         (main): Takes --os-config-json, --server-config-json, and --seconds-to-sleep as arguments instead of
2817         a single --config argument to share the server config JSON with other scripts.
2818         (OSBuildFetcher): Extracted out of main. This class is instantiated for each OS kind (e.g. OS X).
2819         (OSBuildFetcher.__init__): Added.
2820         (OSBuildFetcher._fetch_available_builds): Extracted out of main. Fetches available builds from a website
2821         or custom commands.
2822         (OSBuildFetcher.fetch_and_report_new_builds): Extracted out of main. Submits the fetched builds after
2823         filtering out the ones we've already reported.
2824         (OSBuildFetcher._assign_fake_timestamps): Creates a fake timestamp to establish a total order amongst each
2825         OS X / iOS style build number such as 12A3456b.
2826
2827 2015-10-08  Ryosuke Niwa  <rniwa@webkit.org>
2828
2829         pull-svn.py fails to sync revisions when SVN credentials is not setup
2830         https://bugs.webkit.org/show_bug.cgi?id=149941
2831
2832         Reviewed by Chris Dumez.
2833
2834         Added the support for specifying subversion credentials.
2835
2836         Also added the support for pulling from multiple subversion servers. Subversion servers are specified
2837         in a JSON configuration file specified by --svn-config formatted as follows:
2838
2839         [
2840             {
2841                 "name": "WebKit",
2842                 "url": "http://svn.webkit.org/repository/webkit",
2843                 "username": "webkitten",
2844                 "password": "webkitten's password",
2845                 "trustCertificate": true,
2846                 "accountNameFinderScript":
2847                     ["python", "/Volumes/Data/WebKit/Tools/Scripts/webkit-patch", "find-users"]
2848             },
2849             ...
2850         ]
2851
2852         In addition, refactored it to use the shared server config JSON for the dashboard access.
2853
2854         * tools/pull-svn.py:
2855         (main): Now takes --svn-config-json, --server-config-json, --seconds-to-sleep and --max-fetch-count
2856         as required options instead of seven unnamed arguments.
2857         (fetch_commits_and_submit): Extracted from main. Fetches at most max_fetch_count new revisions from
2858         the subversion server, and submits them in accordance with server_config.
2859         (fetch_commit_and_resolve_author): Now takes a single repository dictionary instead of two separate
2860         arguments for name and URL to pass down the repository's authentication info to fetch_commit.
2861         (fetch_commit): Ditto. Add appropriate arguments when username and passwords are specified.
2862         (resolve_author_name_from_account): Use a list argument instead of a single string argument now that
2863         the argument comes from a JSON instead of sys.argv.
2864
2865 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2866
2867         Unreviewed race condition fix. Exit early when xScale or yScale is not defined.
2868
2869         * public/v2/interactive-chart.js:
2870         (App.InteractiveChartComponent._updateRangeBarRects):
2871
2872 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2873
2874         Add a page that cycles through v2 dashboards
2875         https://bugs.webkit.org/show_bug.cgi?id=149907
2876
2877         Reviewed by Chris Dumez.
2878
2879         Add cycler.html that goes through each dashboard on v2 UI.
2880
2881         This allows the dashboards to be cycled through on a TV screen.
2882
2883         * public/cycler.html: Added.
2884         (loadURLAt): Appends a new iframe to load the next URL (i is the index of the dashboard to be shown)
2885         at the end of body. We don't immediately show the new iframe since it might take a while to load.
2886         (showNewFrameIfLoaded): Remove the current iframe and show the next iframe if the next dashboard has
2887         finished loading. We can't rely on DOMContentLoaded or load events because we use asynchronous XHR to
2888         load each chart's data. Instead, wait until some chart becomes available or fails to load and none of
2889         charts are still in progress to be shown.
2890
2891 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2892
2893         Allow custom revisions to be specified in A/B testing
2894         https://bugs.webkit.org/show_bug.cgi?id=149905
2895
2896         Reviewed by Chris Dumez.
2897
2898         Allow custom revision number on each "repository" when creating a test group.
2899
2900         * public/v2/app.css:
2901         (form .analysis-group [name=customValue]): Added.
2902
2903         * public/v2/app.js:
2904         (App.AnalysisTaskController._createConfiguration): Added "Custom" as a revision option.
2905         Also added point labels such as (point 3) on "None" for when some points are missing revision info.
2906         (App.AnalysisTaskController._labelForPoints): Extracted from _createConfiguration.
2907         (App.AnalysisTaskController.actions.createTestGroup): Respect the custom revision number when custom
2908         revision option is selected.
2909
2910         * public/v2/index.html: Added a text field for specifying a custom revision number.
2911
2912 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2913
2914         Make the site name configurable in perf dashboard
2915         https://bugs.webkit.org/show_bug.cgi?id=149894
2916
2917         Reviewed by Chris Dumez.
2918
2919         Added "siteTitle" as a new configuration key to specify the site name.
2920
2921         * public/include/db.php:
2922         (config): Now takes the default value as an argument.
2923         * public/include/manifest.php:
2924         (ManifestGenerator::generate): Include siteTitle in the manifest.
2925         * public/index.html: Update the title and the heading when the manifest is loaded.
2926         * public/v2/index.html: Use App.Manifest.siteTitle as the heading. document.title needs to be updated manually.
2927         * public/v2/manifest.js: 
2928         (App.MetricSerializer.normalizePayload): Update document.title and App.Manifest.siteTitle.
2929
2930 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2931
2932         Perf dashboard doesn't show analysis tasks anchored at outliers
2933         https://bugs.webkit.org/show_bug.cgi?id=149870
2934
2935         Reviewed by Chris Dumez.
2936
2937         The bug was caused by the computation of start and end times of analysis tasks being dependent on
2938         time series provided to the interactive chart component even though they are already filtered.
2939
2940         Since the interactive chart component shouldn't be messing with the underlying data models, moved
2941         the code to compute start and end times to App.Pane, to where it belongs, and made the moved code use
2942         the unfiltered time series newly exposed on ChartData.
2943
2944         Also fixed a bug in fetch-from-remote.php which resulted in Ember endlessly fetching same JSON files.
2945
2946         * public/admin/fetch-from-remote.php:
2947         (.): Use the full request URI for HTTP requests and caching. Otherwise, we're going to mix up caches
2948         and Ember can start hanging browsers (took me three hours to debug this).
2949
2950         * public/v2/app.js:
2951         (App.Pane._showOutlierChanged): Added. Resets chartData when showOutlier flag has been changed.
2952         (App.Pane.fetchAnalyticRanges): The old code wasn't filtering analysis tasks by platforms and metrics
2953         at all since it relied on the server-side REST API to do the filtering, which I haven't implemented yet.
2954         Filter the results manually instead.
2955         (App.Pane.ranges): Moved the logic to compute startTime and endTime here from InteractiveChartComponent.
2956         (App.PaneController.toggleShowOutlier): Now that App.Pane responds to showOutlier changes, we don't
2957         need to call a private method on it.
2958         (App.AnalysisTaskController._chartDataChanged): When end points are not found, try showing outliers.
2959         This will cause chartData to be modified so just exit early and wait for getting called again.
2960
2961         * public/v2/interactive-chart.js:
2962         (App.InteractiveChartComponent._rangesChanged): The code to compute start and end time has been moved
2963         to App.Pane.ranges.
2964
2965         * public/v2/manifest.js:
2966         (App.Manifest._formatFetchedData): Added unfiltered time series as new properties as they are now used
2967         to compute the end points of analysis tasks when their end points are outliers.
2968
2969 2015-10-07  Ryosuke Niwa  <rniwa@webkit.org>
2970
2971         Unreviewed. Fix a typo in r190645.
2972
2973         * public/include/db.php:
2974
2975 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2976
2977         V2 UI shouldn't sort dashboards lexicologically
2978         https://bugs.webkit.org/show_bug.cgi?id=149856
2979
2980         Reviewed by Chris Dumez.
2981
2982         Don't sort the dashboards by name in App.Manifest.
2983
2984         * public/v2/app.js:
2985         (App.IndexRoute.beforeModel): Don't transition to "undefined" (string) dashboard.
2986         * public/v2/manifest.js:
2987         (App.Manifest.._fetchedManifest):
2988
2989 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
2990
2991         V2 UI fails to show the data for the very first point in charts
2992         https://bugs.webkit.org/show_bug.cgi?id=149857
2993
2994         Reviewed by Chris Dumez.
2995
2996         The bug was caused by seriesBetweenPoints returning null for when point.seriesIndex is 0.
2997         Explicitly check the type of this property instead.
2998
2999         * public/v2/data.js:
3000         (TimeSeries.prototype.seriesBetweenPoints):
3001
3002 2015-10-06  Ryosuke Niwa  <rniwa@webkit.org>
3003
3004         Perf dashboard should have the capability to test local UI with production data
3005         https://bugs.webkit.org/show_bug.cgi?id=149834
3006
3007         Reviewed by Chris Dumez.
3008
3009         Added tools/run-with-remote-server.py which runs a local httpd server and pulls data from a remote server.
3010
3011         * Install.md: Added the instruction on how to use the script. Also updated the remaining instructions
3012         for El Capitan.
3013         * config.json: Added remote server configurations.
3014         * public/admin/fetch-from-remote.php: Added. This script fetches JSON from the remote server specified in
3015         config.json and caches the results in the location specified as "cacheDirectory" in config.json.
3016         (main):
3017         (fetch_remote):
3018         * public/include/db.php:
3019         (config_path): Extracted from generate_data_file.
3020         (generate_data_file):
3021         * tools/remote-server-relay.conf: Added. Apache 2.4 configuration file for a local http server launched by
3022         run-with-remote-server.py.
3023         * tools/run-with-remote-server.py: Added. Launches Apache with the right set of directives.
3024         (main):
3025         (abspath_from_root):
3026
3027 2015-07-13  Ryosuke Niwa  <rniwa@webkit.org>
3028
3029         Fix a typo.
3030
3031         * public/js/helper-classes.js:
3032
3033 2015-06-27  Ryosuke Niwa  <rniwa@webkit.org>
3034
3035         build-requests should use conform to JSON API format
3036         https://bugs.webkit.org/show_bug.cgi?id=146375
3037
3038         Reviewed by Stephanie Lewis.
3039
3040         Instead of returning single dictionary that maps root set id to a dictionary of repository names
3041         to revisions, timestamps, simply return root sets and roots "rows" or "objects" as defined in
3042         JSON API (http://jsonapi.org/). This API change makes it easier to resolve the bug 146374 and
3043         matches what we do in /api/test-groups.
3044
3045         Also add the support for /api/build-requests/?id=<id> to fetch the build request with <id>.
3046         This is useful for debugging purposes.
3047
3048         * public/api/build-requests.php:
3049         (main): Added the support for $_GET['id']. Also return "rootSets" and "roots".
3050         (update_builds): Extracted from main.
3051
3052         * public/include/build-requests-fetcher.php:
3053         (BuildRequestFetcher::fetch_request): Added. Used for /api/build-requests/?id=<id>.
3054         (BuildRequestFetcher::results_internal): Always call fetch_roots_for_set_if_needed.
3055         (BuildRequestFetcher::fetch_roots_for_set_if_needed): Renamed from fetch_roots_for_set.
3056         Moved the logic to exit early when the root set had already been fetched here.
3057
3058         * public/v2/analysis.js:
3059         (App.TestGroup._fetchTestResults): Fixed the bug that test groups without any successful results
3060         won't be shown.
3061
3062         * tools/pull-os-versions.py:
3063         (main):
3064         (setup_auth): Moved to util.py
3065
3066         * tools/sync-with-buildbot.py:
3067         (main): Replaced a bunch of perf dashboard related options by --server-config-json.
3068         (update_and_fetch_build_requests): No longer takes build_request_auth since that's now taken care
3069         of by setup_auth.
3070         (organize_root_sets_by_id_and_repository_names): Added. Builds the old rootsSets directory based
3071         on "roots" and "rootSets" dictionaries returned by /api/build-requests.
3072         (config_for_request): Fixed a bug that the script blows up when the build request is missing
3073         the repository specified in the configuration. This tolerance is necessary when a new repository
3074         dependency is added but we want to run A/B tests for old builds without the dependency.
3075         (fetch_json): No longer takes auth.
3076
3077         * tools/util.py:
3078         (setup_auth): Moved from pull-os-versions.py to be shared with sync-with-buildbot.py.
3079
3080 2015-06-23  Ryosuke Niwa  <rniwa@webkit.org>
3081
3082         Build fix. A/B testing is broken when continuous builders report revisions out of order.
3083
3084         * public/v2/app.js:
3085         (App.AnalysisTaskController.Ember.Controller.extend.):
3086
3087 2015-06-22  Ryosuke Niwa  <rniwa@webkit.org>
3088
3089         A/B testing results should be shown even if they were submitted to different platforms
3090         https://bugs.webkit.org/show_bug.cgi?id=146219
3091
3092         Reviewed by Andreas Kling.
3093
3094         Fetch A/B testing results regardless of the platform to which results are submitted
3095         by providing the platform ID to which the results were submitted for each test group.
3096
3097         * public/api/test-groups.php:
3098         (main): Include the platform id in the test groups.
3099         * public/v2/analysis.js:
3100         (App.TestGroup._fetchTestResults): Fetch results from the platform associated with the group.
3101
3102 2015-06-19  Csaba Osztrogon√°c  <ossy@webkit.org>
3103
3104         Remove unnecessary svn:executable flags
3105         https://bugs.webkit.org/show_bug.cgi?id=146107
3106
3107         Reviewed by Alexey Proskuryakov.
3108
3109         * public/js/helper-classes.js: Removed property svn:executable.
3110         * public/js/jquery.flot.plugins.js: Removed property svn:executable.
3111         * public/v2/app.css: Removed property svn:executable.
3112         * public/v2/app.js: Removed property svn:executable.
3113         * public/v2/chart-pane.css: Removed property svn:executable.
3114         * public/v2/data.js: Removed property svn:executable.
3115         * public/v2/index.html: Removed property svn:executable.
3116         * public/v2/js/d3/LICENSE: Removed property svn:executable.
3117         * public/v2/js/d3/d3.js: Removed property svn:executable.
3118         * public/v2/js/d3/d3.min.js: Removed property svn:executable.
3119         * public/v2/js/ember-data.js: Removed property svn:executable.
3120         * public/v2/js/ember.js: Removed property svn:executable.
3121         * public/v2/js/handlebars.js: Removed property svn:executable.
3122         * public/v2/js/jquery.min.js: Removed property svn:executable.
3123         * public/v2/js/statistics.js: Removed property svn:executable.
3124         * public/v2/manifest.js: Removed property svn:executable.
3125         * public/v2/popup.js: Removed property svn:executable.
3126
3127 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
3128
3129         Reading the list of analysis tasks is extremely slow
3130         https://bugs.webkit.org/show_bug.cgi?id=146086
3131
3132         Reviewed by Darin Adler.
3133
3134         The bug was caused by Ember data requesting manifest.js hundreds of times.
3135         Fetch it ahead of time in each route instead.
3136
3137         * public/v2/app.js:
3138         (App.AnalysisRoute.model):
3139         (App.AnalysisTaskRoute.model):
3140
3141 2015-06-17  Ryosuke Niwa  <rniwa@webkit.org>
3142
3143         Update ReadMe.md and Install.md per database changes
3144         https://bugs.webkit.org/show_bug.cgi?id=146076
3145
3146         Reviewed by Darin Adler.
3147
3148         Updated.
3149