Fix unit test and bug fix for 'pull-os-versions.js' script.
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2017-03-15  Dewei Zhu  <dewei_zhu@apple.com>
2
3         Fix unit test and bug fix for 'pull-os-versions.js' script.
4         https://bugs.webkit.org/show_bug.cgi?id=169701
5
6         Reviewed by Ryosuke Niwa.
7
8         Fix unit tests warnings on node-6.10.0.
9         Fix 'pull-os-versions.js' does not fetch new builds and report.
10
11         * server-tests/tools-os-build-fetcher-tests.js:
12         (then):
13         (beforeEach):
14         (afterEach):
15         * tools/pull-os-versions.js:
16         (syncLoop):
17
18 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
19
20         In-browser and node.js implementations of RemoteAPI should share some code
21         https://bugs.webkit.org/show_bug.cgi?id=169695
22
23         Rubber-stamped by Antti Koivisto.
24
25         Extracted CommonRemoteAPI out of RemoteAPI implementations for node.js and browser. 
26
27         * public/shared/common-remote.js: Added.
28         (CommonRemoteAPI): Added.
29         (CommonRemoteAPI.prototype.postJSON): Extracted from RemoteAPI.
30         (CommonRemoteAPI.prototype.postJSONWithStatus): Ditto.
31         (CommonRemoteAPI.prototype.getJSON): Ditto.
32         (CommonRemoteAPI.prototype.getJSONWithStatus): Ditto.
33         (CommonRemoteAPI.prototype.sendHttpRequest): Added. Needs to implemented by a subclass.
34         (CommonRemoteAPI.prototype._asJSON): Added.
35         (CommonRemoteAPI.prototype._checkStatus): Added.
36
37         * public/v3/index.html: Include common-remote.js.
38
39         * public/v3/privileged-api.js:
40         (PrivilegedAPI): Use class now that we don't include data.js.
41         (PrivilegedAPI.sendRequest): Modernized the code.
42         (PrivilegedAPI.requestCSRFToken): Ditto.
43
44         * public/v3/remote.js:
45         (BrowserRemoteAPI): Renamed from RemoteAPI. window.RemoteAPI is now an instance of this class.
46         (BrowserRemoteAPI.prototype.sendHttpRequest): Moved from RemoteAPI.sendHttpRequest.
47         (BrowserRemoteAPI.prototype.sendHttpRequest):
48
49         * server-tests/privileged-api-create-analysis-task-tests.js: Updated tests since NodeJSRemoteAPI
50         now throws the JSON status as an error to be consistent with BrowserRemoteAPI.
51         * server-tests/privileged-api-create-test-group-tests.js: Ditto.
52         * server-tests/privileged-api-upate-run-status.js: Ditto.
53
54         * tools/js/buildbot-triggerable.js:
55         (BuildbotTriggerable.prototype.syncOnce): Just use postJSONWithStatus instead of manually
56         checking the status.
57
58         * tools/js/remote.js:
59         (NodeRemoteAPI): Renamed from RemoteAPI. Still exported as RemoteAPI.
60         (NodeRemoteAPI.prototype.constructor):
61         (NodeRemoteAPI.prototype.sendHttpRequest): Modernized the code.
62
63 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
64
65         Fix server tests after r213998 and r213969
66         https://bugs.webkit.org/show_bug.cgi?id=169690
67
68         Reviewed by Antti Koivisto.
69
70         Fixed the existing server tests.
71
72         * public/v3/models/analysis-task.js:
73         (AnalysisTask.prototype._updateRemoteState): Use the relative path from the root so that it works inside tests.
74         (AnalysisTask.prototype.associateBug): Ditto.
75         (AnalysisTask.prototype.dissociateBug): Ditto.
76         (AnalysisTask.prototype.associateCommit): Ditto.
77         (AnalysisTask.prototype.dissociateCommit): Ditto.
78         (AnalysisTask._fetchSubset): Ditto.
79         (AnalysisTask.fetchAll): Ditto.
80         * public/v3/models/test-group.js:
81         (TestGroup.prototype.updateName): Ditto.
82         (TestGroup.prototype.updateHiddenFlag): Ditto.
83         (TestGroup.createAndRefetchTestGroups): Ditto.
84         (TestGroup.cachedFetch): Ditto.
85         * server-tests/api-manifest.js: Reverted an inadvertant change in r213969.
86         * tools/js/database.js:
87         (tableToPrefixMap): Added analysis_strategies.
88         * unit-tests/analysis-task-tests.js: Updated expectations per changes to AnalysisTask.
89
90 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
91
92         Add tests for privileged-api/create-analysis-task and privileged-api/create-test-group
93         https://bugs.webkit.org/show_bug.cgi?id=169688
94
95         Rubber-stamped by Antti Koivisto.
96
97         Added tests for privileged-api/create-analysis-task and privileged-api/create-test-group, and fixed newly found bugs.
98
99         * public/privileged-api/create-analysis-task.php:
100         (main): Fixed the bug that we were not explicitly checking whether start_run and end_run were integers or not.
101         Also return InvalidTimeRange when start and end times are identical as that makes no sense for an analysis task.
102
103         * public/privileged-api/create-test-group.php:
104         (main): Fixed a bug that we were not explicitly checking task and repetitionCount to be an integer.
105         (ensure_commit_sets): Fixed the bug that the number of commit sets weren't checked. 
106
107         * server-tests/privileged-api-create-analysis-task-tests.js: Added.
108         * server-tests/privileged-api-create-test-group-tests.js: Added.
109
110         * server-tests/resources/common-operations.js:
111         (prepareServerTest): Increase the timeout from 1s to 5s.
112
113         * server-tests/resources/mock-data.js:
114         (MockData.addMockData): Use a higher database ID of 20 for a mock build_slave to avoid a conflict with auto-generated IDs.
115
116 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
117
118         Make unit tests return a promise instead of manually calling done
119         https://bugs.webkit.org/show_bug.cgi?id=169663
120
121         Reviewed by Antti Koivisto.
122
123         Make the existing unit tests always reutrn a promise instead of manually calling "done" callback as done
124         in r213969. The promise tests are a lot more stable and less error prone.
125
126         Also use MockRemoteAPI.waitForRequest() instead of chaining two resolved promises where appropriate.
127
128         * unit-tests/analysis-task-tests.js:
129         * unit-tests/buildbot-syncer-tests.js:
130         * unit-tests/checkconfig.js:
131         * unit-tests/privileged-api-tests.js:
132
133 2017-03-15  Dewei Zhu  <dewei_zhu@apple.com>
134
135         Rewrite 'pull-os-versions' script in Javascript to add support for reporting os revisions with sub commits.
136         https://bugs.webkit.org/show_bug.cgi?id=169542
137
138         Reviewed by Ryosuke Niwa.
139
140         Extend '/api/commits/<repository>/last-reported' to accept a range and return last reported commits in given range.
141         Rewrite 'pull-os-versions' in JavaScript and add unit tests for it.
142         Instead of writing query manually while searching criteria contains null columns, use the methods provided in 'db.php'.
143         Add '.gitignore' file to ommit files generated by while running tests/instances locally.
144
145         * .gitignore: Added.
146         * public/api/commits.php:
147         * public/api/report-commits.php:
148         * public/include/commit-log-fetcher.php:
149         * public/include/db.php: 'null_columns' of prepare_params should be a reference.
150         * public/include/report-processor.php:
151         * server-tests/api-commits.js:
152         (then):
153         * server-tests/api-report-commits-tests.js:
154         * server-tests/resources/mock-logger.js: Added.
155         (MockLogger):
156         (MockLogger.prototype.log):
157         (MockLogger.prototype.error):
158         * server-tests/resources/mock-subprocess.js: Added.
159         (MockSubprocess.call):
160         (MockSubprocess.waitingForInvocation):
161         (MockSubprocess.inject):
162         (MockSubprocess.reset):
163         * server-tests/tools-buildbot-triggerable-tests.js:
164         (MockLogger): Deleted.
165         (MockLogger.prototype.log): Deleted.
166         (MockLogger.prototype.error): Deleted.
167         * server-tests/tools-os-build-fetcher-tests.js: Added.
168         (beforeEach):
169         (return.waitingForInvocationPromise.then):
170         (then):
171         (string_appeared_here.return.waitingForInvocationPromise.then):
172         (return.addSlaveForReport.emptyReport.then):
173         * tools/js/os-build-fetcher.js: Added.
174         (OSBuildFetcher):
175         (OSBuildFetcher.prototype._fetchAvailableBuilds):
176         (OSBuildFetcher.prototype._computeOrder):
177         (OSBuildFetcher.prototype._commitsForAvailableBuilds.return.this._subprocess.call.then.):
178         (OSBuildFetcher.prototype._commitsForAvailableBuilds):
179         (OSBuildFetcher.prototype._addSubCommitsForBuild):
180         (OSBuildFetcher.prototype._submitCommits):
181         (OSBuildFetcher.prototype.fetchAndReportNewBuilds):
182         * tools/js/subprocess.js: Added.
183         (const.childProcess.require.string_appeared_here.Subprocess.prototype.call):
184         (const.childProcess.require.string_appeared_here.Subprocess):
185         * tools/pull-os-versions.js: Added.
186         (main):
187         (syncLoop):
188         * tools/sync-commits.py:
189         (Repository.fetch_commits_and_submit):
190
191 2017-03-14  Ryosuke Niwa  <rniwa@webkit.org>
192
193         Make server tests return a promise instead of manually calling done
194         https://bugs.webkit.org/show_bug.cgi?id=169648
195
196         Rubber-stamped by Chris Dumez.
197
198         Make the existing server tests always reutrn a promise instead of manually calling "done" callback.
199         The promise tests are a lot more stable and less error prone.
200
201         Also use arrow functions everywhere and use prepareServerTest, renamed from connectToDatabaseInEveryTest,
202         in more tests instead of manually connecting to database in every test, and reset v3 models.
203
204         * server-tests/admin-platforms-tests.js:
205         * server-tests/admin-reprocess-report-tests.js:
206         * server-tests/api-build-requests-tests.js:
207         * server-tests/api-manifest.js:
208         * server-tests/api-measurement-set-tests.js:
209         (.postReports): Deleted. Not used in any test.
210         * server-tests/api-report-commits-tests.js:
211         * server-tests/api-report-tests.js:
212         * server-tests/api-update-triggerable.js:
213         * server-tests/privileged-api-upate-run-status.js:
214         * server-tests/resources/common-operations.js:
215         (prepareServerTest): Renamed from connectToDatabaseInEveryTest. Increase the timeout and reset v3 models.
216         * server-tests/tools-buildbot-triggerable-tests.js:
217
218 2017-03-12  Ryosuke Niwa  <rniwa@webkit.org>
219
220         Rename RootSet to CommitSet
221         https://bugs.webkit.org/show_bug.cgi?id=169580
222
223         Rubber-stamped by Chris Dumez.
224
225         Renamed root_sets to commit_sets and roots to commit_set_relationships in the database schema, and renamed
226         related classes in public/v3/ and tools accordingly.
227
228         RootSet, MeasurementRootSet, and CustomRootSet are respectively renamed to CommitSet, MeasurementCommitSet,
229         and CustomCommitSet.
230
231         In order to migrate the database, run:
232         ```
233         BEGIN;
234         ALTER TABLE root_sets RENAME TO commit_sets;
235         ALTER TABLE commit_sets RENAME COLUMN rootset_id TO commitset_id;
236         ALTER TABLE roots RENAME TO commit_set_relationships;
237         ALTER TABLE commit_set_relationships RENAME COLUMN root_set TO commitset_set;
238         ALTER TABLE commit_set_relationships RENAME COLUMN root_commit TO commitset_commit;
239         ALTER TABLE build_requests RENAME COLUMN request_root_set TO request_commit_set;
240         END;
241         ```
242
243         * browser-tests/index.html:
244         * init-database.sql:
245         * public/api/build-requests.php:
246         (main):
247         * public/api/test-groups.php:
248         (main):
249         (format_test_group):
250         * public/include/build-requests-fetcher.php:
251         (BuildRequestsFetcher::__construct):
252         (BuildRequestsFetcher::results_internal):
253         (BuildRequestsFetcher::commit_sets): Renamed from root_sets.
254         (BuildRequestsFetcher::commits): Renamed from roots.
255         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Renamed from fetch_roots_for_set_if_needed.
256         * public/privileged-api/create-test-group.php:
257         (main):
258         (ensure_commit_sets): Renamed from commit_sets_from_root_sets.
259         * public/v3/components/analysis-results-viewer.js:
260         (AnalysisResultsViewer.prototype.buildRowGroups):
261         (AnalysisResultsViewer.prototype._collectCommitSetsInTestGroups): Renamed from _collectRootSetsInTestGroups.
262         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
263         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
264         (AnalysisResultsViewer.CommitSetInTestGroup): Renamed from RootSetInTestGroup.
265         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.constructor):
266         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.commitSet): Renamed from rootSet.
267         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.succeedingCommitSet): Renamed from succeedingRootSet.
268         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.constructor):
269         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex):
270         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isComplete):
271         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.startRowIndex):
272         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.endRowIndex):
273         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
274         * public/v3/components/chart-revision-range.js:
275         (ChartRevisionRange.prototype._revisionForPoint):
276         (ChartRevisionRange.prototype._computeRevisionList):
277         * public/v3/components/customizable-test-group-form.js:
278         (CustomizableTestGroupForm.prototype.constructor):
279         (CustomizableTestGroupForm.prototype.setCommitSetMap): Renamed from setRootSetMap.
280         (CustomizableTestGroupForm.prototype._submitted):
281         (CustomizableTestGroupForm.prototype._computeCommitSetMap): Renamed from _computeRootSetMap.
282         (CustomizableTestGroupForm.prototype.render): Renamed from render.
283         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
284         * public/v3/components/results-table.js:
285         (ResultsTable.prototype.render):
286         (ResultsTable.prototype._createRevisionListCells):
287         (ResultsTable.prototype._computeRepositoryList):
288         (ResultsTableRow.prototype.constructor):
289         (ResultsTableRow.prototype.commitSet): Renamed from rootSet.
290         * public/v3/components/test-group-results-table.js:
291         (TestGroupResultsTable.prototype.buildRowGroups):
292         * public/v3/index.html:
293         * public/v3/models/build-request.js:
294         (BuildRequest.prototype.constructor):
295         (BuildRequest.prototype.updateSingleton):
296         (BuildRequest.prototype.commitSet): Renamed from rootSet.
297         (BuildRequest.constructBuildRequestsFromData):
298         * public/v3/models/commit-set.js: Renamed from public/v3/models/root-set.js.
299         (CommitSet): Renamed from RootSet.
300         (CommitSet.containsMultipleCommitsForRepository):
301         (MeasurementCommitSet): Renamed from MeasurementRootSet.
302         (MeasurementCommitSet.prototype.namedStaticMap):
303         (MeasurementCommitSet.prototype.ensureNamedStaticMap):
304         (MeasurementCommitSet.namedStaticMap):
305         (MeasurementCommitSet.ensureNamedStaticMap):
306         (MeasurementCommitSet.ensureSingleton):
307         (CustomCommitSet): Renamed from CustomRootSet.
308         * public/v3/models/measurement-adaptor.js:
309         (MeasurementAdaptor.prototype.applyTo):
310         * public/v3/models/test-group.js:
311         (TestGroup.prototype.constructor):
312         (TestGroup.prototype.addBuildRequest):
313         (TestGroup.prototype.repetitionCount):
314         (TestGroup.prototype.requestedCommitSets): Renamed from requestedRootSets.
315         (TestGroup.prototype.requestsForCommitSet): Renamed from requestsForRootSet.
316         (TestGroup.prototype.labelForCommitSet): Renamed from labelForRootSet.
317         (TestGroup.prototype.didSetResult):
318         (TestGroup.prototype.compareTestResults):
319         (TestGroup.prototype._valuesForCommitSet): Renamed from _valuesForRootSet.
320         (TestGroup.prototype.createAndRefetchTestGroups):
321         * public/v3/pages/analysis-task-page.js:
322         (AnalysisTaskPage.prototype.render):
323         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
324         (AnalysisTaskPage.prototype._createNewTestGroupFromChart):
325         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer):
326         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
327         * server-tests/api-build-requests-tests.js:
328         * server-tests/resources/mock-data.js:
329         (MockData.resetV3Models):
330         (MockData.addMockData):
331         (MockData.addAnotherMockTestGroup):
332         * tools/detect-changes.js:
333         (createAnalysisTaskAndNotify):
334         * tools/js/buildbot-syncer.js:
335         (BuildbotSyncer.prototype._propertiesForBuildRequest):
336         (BuildbotSyncer.prototype._revisionSetFromCommitSetWithExclusionList):
337         * tools/js/database.js:
338         (tableToPrefixMap):
339         * tools/js/v3-models.js:
340         * tools/sync-buildbot.js:
341         (syncLoop):
342         * tools/sync-with-buildbot.py: Deleted. No longer used.
343         * unit-tests/analysis-task-tests.js:
344         * unit-tests/build-request-tests.js:
345         (sampleBuildRequestData):
346         * unit-tests/buildbot-syncer-tests.js:
347         (sampleCommitSetData):
348         * unit-tests/measurement-adaptor-tests.js:
349         * unit-tests/measurement-set-tests.js:
350         * unit-tests/resources/mock-v3-models.js:
351         (MockModels.inject):
352         * unit-tests/test-groups-tests.js:
353         (sampleTestGroup):
354
355 2017-03-13  Ryosuke Niwa  <rniwa@webkit.org>
356
357         Database's query functions should support querying for a row with NULL value
358         https://bugs.webkit.org/show_bug.cgi?id=169504
359
360         Reviewed by Antti Koivisto.
361
362         Add the support for calling select_* with one of column values set to NULL.
363         This feature is useful in webkit.org/b/146374 and webkit.org/b/168962.
364
365         * public/include/db.php:
366         (Database::prepare_params): Added $null_columns as an optional argument.
367         (Database::select_conditions_with_null_columns): Added. Builds up a query string by appending AND x is NULL
368         to match columns whose value must be NULL.
369         (Database::_select_update_or_insert_row):
370         (Database::select_rows):
371
372 2017-03-13  Dewei Zhu  <dewei_zhu@apple.com>
373
374         Add the ability to report a commit with sub-commits.
375         https://bugs.webkit.org/show_bug.cgi?id=168962
376
377         Reviewed by Ryosuke Niwa.
378
379         Introduce 'commit_ownerships' which records ownership between commits.
380         On existing production server, run ```
381             CREATE TABLE commit_ownerships (
382                 commit_owner integer NOT NULL REFERENCES commits ON DELETE CASCADE,
383                 commit_ownee integer NOT NULL REFERENCES commits ON DELETE CASCADE,
384                 PRIMARY KEY (commit_owner, commit_ownee)
385             );
386             ALTER TABLE repositories RENAME repository_parent TO repository_owner;
387             ALTER TABLE repositories DROP repository_name_must_be_unique;
388             CREATE UNIQUE INDEX repository_name_owner_unique_index ON repositories (repository_owner, repository_name) WHERE repository_owner IS NOT NULL;
389             CREATE UNIQUE INDEX repository_name_unique_index ON repositories (repository_name) WHERE repository_owner IS NULL;
390         ``` to update database.
391         Add unit-tests to cover this change.
392
393         * init-database.sql:
394         * public/api/report-commits.php:
395         * public/include/commit-log-fetcher.php:
396         * public/include/db.php:
397         * public/include/manifest-generator.php:
398         * public/include/report-processor.php:
399         * public/v3/models/repository.js:
400         (Repository):
401         (Repository.prototype.owner):
402         * server-tests/admin-reprocess-report-tests.js:
403         (addBuilderForReport.simpleReportWithRevisions.0.then):
404         (then):
405         * server-tests/api-manifest.js:
406         (then):
407         * server-tests/api-report-commits-tests.js:
408         (addSlaveForReport.sameRepositoryNameInSubCommitAndMajorCommit.then):
409         (then):
410         (addSlaveForReport.systemVersionCommitWithSubcommits.then):
411         (addSlaveForReport.multipleSystemVersionCommitsWithSubcommits.then):
412         (addSlaveForReport.systemVersionCommitWithEmptySubcommits.then):
413         (addSlaveForReport.systemVersionCommitAndSubcommitWithTimestamp.then):
414         * tools/js/database.js:
415
416 2017-03-07  Ryosuke Niwa  <rniwa@webkit.org>
417
418         Update ReadMe.md to use directory format for backing up & restoring the database
419         https://bugs.webkit.org/show_bug.cgi?id=169263
420
421         Reviewed by Joseph Pecoraro.
422
423         Update ReadMe.md's instruction to backup and restore the database to use directory format instead of
424         piping it to gzip. The new command will backup and restore the database with multiple concurrent processes
425         with a custom compression level.
426
427         * ReadMe.md:
428
429 2017-03-02  Ryosuke Niwa  <rniwa@webkit.org>
430
431         Make baseline data points selectable
432         https://bugs.webkit.org/show_bug.cgi?id=169069
433         <rdar://problem/29209427>
434
435         Reviewed by Antti Koivisto.
436
437         Add the capability to select data points other than "current" configuration type.
438
439         This patch refactors the way the "chart status" is computed. Before this patch, ChartStatusView was
440         responsible for determining two data points for which to compute the status, and computing the status
441         between two data points. ChartPaneStatusView which inherits from ChartStatusView and used in the charts
442         page relied upon ChartStatusView to compute these values, and computed the list of revision ranges for
443         each relevant repository between the data points. ChartPane then had callbacks on ChartPaneStatusView
444         to know whenever these values changed. Because of this entangled mess, ChartStatusView had to be aware
445         of InteractiveTimeSeriesChart even though only ChartPaneStatusView could be used with it.
446
447         This patch dramatically simplifies the situation by adding referencePoints() on TimeSeriesChart and
448         InteractiveTimeSeriesChart which returns the current point, the previous point if there is any, and
449         their time series view. It also extracts ChartStatusEvaluator which computes the current status values
450         and ChartRevisionRange which computes a list of revision differences both based on the referencePoints.
451         As a result, ChartPaneStatusView no longer inherits from ChartStatusView, and ChartStatusView has been
452         renamed to DashboardChartStatusView to reflect its purpose. Furthermore, ChartPane which used to rely on
453         ChartPaneStatusView's revisionCallback to update the commit log viewer simply uses another instance of
454         ChartRevisionRange, eliminating the need for the callback.
455
456         To implement these classes easily, this patch also introduces a new class, LazilyEvaluatedFunction to
457         memoize the return value of a function when called with the same arguments. Delaying the computation of
458         a value and avoiding the work when the values are the same is a very common pattern in the perf dashboard
459         so I expect this class would be used in a lot more places in the future.
460
461         * browser-tests/chart-revision-range-tests.js: Added. Tests for ChartRevisionRange.
462         * browser-tests/chart-status-evaluator-tests.js: Added. Tests for ChartStatusEvaluator.
463
464         * browser-tests/index.html:
465         (BrowsingContext):
466         (BrowsingContext.importScripts): Fixed the bug that calling importScripts twice results in MockRemoteAPI
467         being loaded twice.
468         (ChartTest.importChartScripts): Import more model objects.
469         (ChartTest.sampleCluster): Made this a getter.
470         (ChartTest.makeModelObjectsForSampleCluster):
471         (ChartTest.makeSampleCluster): Added. Cutomizes the valus of baseline / target based on options.
472         (ChartTest.respondWithSampleCluster): Now takes an options argument for makeSampleCluster.
473
474         * public/v3/components/chart-pane-base.js:
475         (ChartPaneBase): Added _openRepository to keep track of the currently open repository instead of relying
476         on _mainChartStatus or _commitLogViewer to keep track of it.
477         (ChartPaneBase.prototype.configure):  The callback for when the user clicked on a repository name in
478         ChartPaneStatusView has been replaced by "openRepository" action.
479         (ChartPaneBase.prototype.setOpenRepository): Moved from ChartPane.
480         (ChartPaneBase.prototype._mainSelectionDidChange):
481         (ChartPaneBase.prototype._indicatorDidChange):
482         (ChartPaneBase.prototype._didFetchData):
483         (ChartPaneBase.prototype._updateCommitLogViewer): Renamed from _updateStatus.
484         (ChartPaneBase.prototype.openNewRepository): Renamed from _requestOpeningCommitViewer. Fixed a bug that
485         clicking on the repository name inside ChartPaneStatusView would not focus the pane, which resulted in
486         arrow keys to be ignored instead of moving the main chart's indicator or the currently open repository.
487         (ChartPaneBase.prototype._keyup):
488         (ChartPaneBase.prototype._moveOpenRepository): Moved from ChartPaneStatusView's
489         moveRepositoryWithNotification. Used when changing the open repository by up/down arrow keys.
490
491         * public/v3/components/chart-revision-range.js: Added. Extracted from ChartPaneStatusView.
492         (ChartRevisionRange): Added.
493         (ChartRevisionRange.prototype.revisionList): Added.
494         (ChartRevisionRange.prototype.rangeForRepository): Added.
495         (ChartRevisionRange._revisionForPoint): Added. Extracted from ChartPaneStatusView's
496         _updateRevisionListForNewCurrentRepository.
497         (ChartRevisionRange._computeRevisionList): Ditto from computeChartStatusLabels.
498
499         * public/v3/components/chart-status-evaluator.js: Added.
500         (ChartStatusEvaluator): Added.
501         (ChartStatusEvaluator.prototype.status): Added.
502         (ChartStatusEvaluator.computeChartStatus): Added. Extracted from ChartStatusView's updateStatusIfNeeded.
503
504         * public/v3/components/chart-status-view.js: Removed.
505         (ChartStatusView): Deleted. Split into ChartStatusEvaluator and DashboardChartStatusView.
506
507         * public/v3/components/chart-styles.js:
508         (ChartStyles.baselineStyle): Make baseline data points interactive. This single line change is what
509         enables the user to interact with the data points. The rest of changes in this patch mostly deals with
510         the status text such as "5% worse than baseline" and the list of revisions shown in the commit log viewer
511         which would have shown the wrong range without these changes.
512
513         * public/v3/components/dashboard-chart-status-view.js: Added. Extracted from ChartStatusView.
514         (DashboardChartStatusView): Added.
515         (DashboardChartStatusView.prototype.render): Added.
516         (DashboardChartStatusView.htmlTemplate): Added.
517         (DashboardChartStatusView.cssTemplate): Added.
518
519         * public/v3/components/interactive-time-series-chart.js:
520         (InteractiveTimeSeriesChart.prototype.referencePoints): Added. Return the first point and the last point
521         as the reference points when there is a selection. Only report the previous point if they are distinct as
522         showing a range of revisions from a data point to itself makes no sense. When there is a indicator simply
523         return it and its previous point as reference points. Otherwise return null unlike TimeSeriesChart's
524         referencePoints which always returns the latest point as the reference point.
525
526         * public/v3/components/time-series-chart.js:
527         (TimeSeriesChart.prototype.referencePoints): Added. Return the latest point as the reference point. It
528         never returns the previous point even if there were more data points as there is no way for the user to
529         specify which data points to compare.
530
531         * public/v3/index.html: Include newly added files.
532
533         * public/v3/lazily-evaluated-function.js: Added.
534         (LazilyEvaluatedFunction): Added.
535         (LazilyEvaluatedFunction.prototype.evaluate): Added.
536
537         * public/v3/models/commit-log.js:
538         (CommitLog.prototype.diff): Fixed a bug that computing the diff of two Subversion-like revisions results
539         in "from" field to be unexpectedly an integer instead of a string.
540
541         * public/v3/models/metric.js:
542         (Metric): Moved the code to compute the unit from the metric name from v2's RunsData class. This makes
543         writing tests easier since it eliminates the need to load v2's data.js.
544         (Metric.prototype.unit):
545         (Metric.prototype.isSmallerBetter): Ditto for determining whether the unit is smaller-is-better.
546
547         * public/v3/pages/analysis-task-page.js:
548         (AnalysisTaskChartPane.prototype._updateStatus): Deleted the unused code.
549
550         * public/v3/pages/chart-pane-status-view.js:
551         (ChartPaneStatusView): No longer inherits from ChartStatusView. Uses ChartStatusEvaluator and
552         ChartRevisionRange to to compute the chart status and the list of revision changes.
553         (ChartPaneStatusView.prototype.pointsRangeForAnalysis): Deleted.
554         (ChartPaneStatusView.prototype.render): Split it into _renderStatus and _renderBuildRevisionTable using
555         LazilyEvaluatedFunction.
556         (ChartPaneStatusView.prototype._renderStatus): Added.
557         (ChartPaneStatusView.prototype._renderBuildRevisionTable): Added.
558         (ChartPaneStatusView.prototype.setCurrentRepository): _updateRevisionListForNewCurrentRepository has been
559         moved into ChartRevisionRange. Just enqueue itself to re-render.
560         (ChartPaneStatusView.prototype._setRevisionRange): Deleted.
561         (ChartPaneStatusView.prototype.moveRepositoryWithNotification): Deleted.
562         (ChartPaneStatusView.prototype.updateRevisionList): Deleted.
563         (ChartPaneStatusView.prototype._updateRevisionListForNewCurrentRepository): Deleted.
564         (ChartPaneStatusView.prototype.computeChartStatusLabels): Deleted.
565         (ChartPaneStatusView.htmlTemplate):
566         (ChartPaneStatusView.cssTemplate):
567
568         * public/v3/pages/chart-pane.js:
569         (ChartPane.prototype.openNewRepository): Overrides the one in ChartPaneBase, which has been renamed from
570         _requestOpeningCommitViewer.
571         (ChartPane.prototype._analyzeRange):
572         (ChartPane.prototype._renderActionToolbar): Use the main chart's selection directly to determine whether
573         an analysis task can be created for the currenty selected range.
574
575         * public/v3/pages/dashboard-page.js:
576         (DashboardPage.prototype._createChartForCell):
577
578         * unit-tests/lazily-evaluated-function-tests.js: Added. Tests for LazilyEvaluatedFunction.
579
580 2017-03-01  Ryosuke Niwa  <rniwa@webkit.org>
581
582         Build fix after r212853. Make creating an analysis task work again.
583
584         * public/v3/pages/analysis-task-page.js:
585         (AnalysisTaskPage.prototype.render):
586
587 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
588
589         Fix tests after r213119 and r213120.
590
591         * browser-tests/time-series-chart-tests.js:
592         (return.ChartTest.importChartScripts.context.then):
593         (string_appeared_here.then): Deleted.
594
595 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
596
597         Removed the unused code that was supposed to be removed in the previous commit.
598
599         * browser-tests/time-series-chart-tests.js:
600
601 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
602
603         Split tests for InteractiveTimeSeriesChart into a separate test file.
604         https://bugs.webkit.org/show_bug.cgi?id=168960
605
606         Reviewed by Joseph Pecoraro.
607
608         Extracted the test cases for InteractiveTimeSeriesChart charts from time-series-chart-tests.js
609         into interactive-time-series-chart-tests.js now that the former file has gotten really big over time.
610
611         Also extracted a bunch of helper functions time-series-chart-tests.js as ChartTest in index.html.
612         Any test which instantiates a time series chart can use this helper class.
613
614         * browser-tests/index.html:
615         (ChartTest.importChartScripts): Ditto.
616         (ChartTest.posixTime): Moved from time-series-chart-tests.js.
617         (ChartTest.sampleCluster): Ditto.
618         (ChartTest.createChartWithSampleCluster): Ditto.
619         (ChartTest.createInteractiveChartWithSampleCluster): Ditto.
620         (ChartTest.respondWithSampleCluster):
621         * browser-tests/interactive-time-series-chart-tests.js: Extracted from time-series-chart-tests.js.
622         * browser-tests/time-series-chart-tests.js:
623         (posixTime): Moved.
624         (dayInMilliseconds): Moved.
625         (sampleCluster): Moved.
626         (createChartWithSampleCluster): Moved.
627         (createInteractiveChartWithSampleCluster): Moved.
628         (respondWithSampleCluster): Moved.
629         * unit-tests/analysis-task-tests.js: Fixed a typo. s/adopter/adapter/.
630
631 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
632
633         Calling build() on a baseline point results in an exception
634         https://bugs.webkit.org/show_bug.cgi?id=168959
635
636         Reviewed by Joseph Pecoraro.
637
638         Some baseline points may lack the build information. e.g. A custom data point made by an user.
639         Only instantiate Build object in a point object returned by MeasurementAdaptor when the builder id
640         is available so that we don't hit an assertion inside Build's constructor.
641
642         * public/v3/models/measurement-adaptor.js:
643         (MeasurementAdaptor.prototype.applyTo..build): Only instantiate Build when builderId is set.
644         * unit-tests/measurement-adaptor-tests.js: Added a test case.
645
646 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
647
648         Arrow key shouldn't move the indicator beyond the visible points
649         https://bugs.webkit.org/show_bug.cgi?id=168956
650
651         Reviewed by Joseph Pecoraro.
652
653         The bug was caused by moveLockedIndicatorWithNotification using the full sampled time series view
654         instead of the one constrained by the domain. Since the time series chart expands the visible domain
655         to include at least one point before the start time and one point after the end tiem to draw lines
656         extending beyond the visible region (otherwise it looks as though the graph ends there), we need to
657         use a view constrained by the start time and the end time before looking for a next/previous point.
658
659         * browser-tests/time-series-chart-tests.js: Added test cases for moveLockedIndicatorWithNotification.
660         * public/v3/components/interactive-time-series-chart.js:
661         (InteractiveTimeSeriesChart.prototype.moveLockedIndicatorWithNotification): Fixed the bug. Also
662         enqueue itself to render instead of relying on a parent component to do it.
663
664 2017-02-27  Ryosuke Niwa  <rniwa@webkit.org>
665
666         A Locked indicator should be visually distinct from an unlocked indicator
667         https://bugs.webkit.org/show_bug.cgi?id=168868
668         <rdar://problem/29666054>
669
670         Reviewed by Antti Koivisto.
671
672         Added the support for specifying options.lockedIndicator in addition to options.indicator to style
673         an locked indicator differently from an unlocked one.
674
675         * browser-tests/time-series-chart-tests.js: Added new test cases for indicators.
676         (createChartWithSampleCluster): Renamed and swapped the order of arguments to better match
677         TimeSeriesChart's constructor. Now the second argument is an array of source as is in the constructor.
678         (createInteractiveChartWithSampleCluster): Added.
679
680         * public/v3/components/chart-styles.js:
681         (ChartStyles.overviewChartOptions): Changed the color of a selection to blue.
682         (ChartStyles.mainChartOptions): Ditto. Also use a different style for a locked indicator.
683
684         * public/v3/components/interactive-time-series-chart.js:
685         (InteractiveTimeSeriesChart.prototype._layout): Removed the unused variable.
686         (InteractiveTimeSeriesChart.prototype._renderChartContent): Use options.lockedIndicator when rendering
687         a locked indicator. Also stroke the circle in addition to filling it so that we can use a blue circle
688         with a white hole for a locked indicator to make it even more visually distinctive from an unlocked one.
689
690 2017-02-25  Dewei Zhu  <dewei_zhu@apple.com>
691
692         Commit should order by 'commit_order' as secondary key.
693         https://bugs.webkit.org/show_bug.cgi?id=168866
694
695         Reviewed by Ryosuke Niwa.
696
697         Currently, commits are sorted by 'commit_time' only.
698         We should use 'commit_order' as secondary key when 'commit_time' is equal or null.
699
700         * public/include/commit-log-fetcher.php:
701         * public/include/db.php:
702         * server-tests/api-commits.js:
703         (return.addSlaveForReport.subversionCommits.then):
704         (then):
705
706 2017-02-24  Ryosuke Niwa  <rniwa@webkit.org>
707
708         REGRESSION(r212853): Comparisons to baseline no longer shows up
709         https://bugs.webkit.org/show_bug.cgi?id=168863
710
711         Reviewed by Joseph Pecoraro.
712
713         The bug was caused by ChartStatusView's code not being updated to use TimeSeriesView's.
714         Updated the code to use TimeSeriesView's methods to fix the bug.
715
716         Also made InteractiveTimeSeriesChart's currentPoint to return a (TimeSeriesView, point, isLocked) tuple
717         to consolidate it with lockedIndicator() to work towards making the baseline data points selectable.
718
719         * browser-tests/time-series-chart-tests.js: Updated the test cases to use currentIndicator, and added
720         test cases for newly added lastPointInTimeRange.
721
722         * public/v3/components/chart-pane.js:
723         (ChartPane.prototype.serializeState): Updated to use currentIndicator.
724         (ChartPane.prototype._renderFilteringPopover): Ditto.
725
726         * public/v3/components/chart-status-view.js:
727         (ChartStatusView.prototype.updateStatusIfNeeded): Use currentIndicator for an interative time series.
728         Fixed the non-interactive chart's code path for TimeSeriesView.
729         (ChartStatusView.prototype._computeChartStatus): Modernized the code.
730         (ChartStatusView.prototype._findLastPointPriorToTime): Deleted. Replaced by TimeSeriesView's
731         lastPointInTimeRange.
732
733         * public/v3/components/interactive-time-series-chart.js:
734         (InteractiveTimeSeriesChart.prototype.currentIndicator):
735         (InteractiveTimeSeriesChart.prototype.moveLockedIndicatorWithNotification):
736         (InteractiveTimeSeriesChart.prototype._renderChartContent):
737         (InteractiveTimeSeriesChart):
738
739         * public/v3/models/time-series.js:
740         (TimeSeriesView.prototype.lastPointInTimeRange): Added.
741         (TimeSeriesView.prototype._reverse): Added. Traverses the view in the reverse order.
742         * unit-tests/time-series-tests.js:
743
744 2017-02-23  Dewei Zhu  <dewei_zhu@apple.com>
745
746         Rename 'commit_parent' in 'commits' table to 'commit_previous_commit'.
747         https://bugs.webkit.org/show_bug.cgi?id=168816
748
749         Reviewed by Ryosuke Niwa.
750
751         Rename 'commit_parent' to avoid ambiguity in the coming feature.
752         For exisiting database, run
753             "ALTER TABLE commits RENAME commit_parent TO commit_previous_commit;"
754         to update the database.
755
756         * init-database.sql:
757         * public/api/report-commits.php:
758         * public/include/commit-log-fetcher.php:
759         * server-tests/api-commits.js:
760         (then):
761         * server-tests/api-report-commits-tests.js:
762         (then):
763         * tools/sync-commits.py:
764         (main):
765         (Repository.fetch_commits_and_submit):
766         (GitRepository._revision_from_tokens):
767         * unit-tests/analysis-task-tests.js:
768         (sampleAnalysisTask):
769
770 2017-02-23  Ryosuke Niwa  <rniwa@webkit.org>
771
772         New sampling algorithm shows very few points when zoomed out
773         https://bugs.webkit.org/show_bug.cgi?id=168813
774
775         Reviewed by Saam Barati.
776
777         When a chart is zoomed out to a large time interval, the new sampling algorithm introduced in r212853 can
778         hide most of the data points because the difference between the preceding point's time and the succeeding
779         point's time of most points will be below the threshold we computed.
780
781         Instead, rank each data point based on the aforementioned time interval difference, and pick the first M data
782         points when M data points are to be shown.
783
784         This makes the new algorithm behave like our old algorithm while keeping it stable still. Note that this
785         algorithm still biases data points without a close neighboring point but this seems to work out in practice
786         because such a point tends to be an important sample anyway, and we don't have a lot of space between
787         data points since we aim to show about one point per pixel.
788
789         * browser-tests/index.html:
790         (CanvasTest.canvasContainsColor): Extracted from one of the test cases and generalized. Returns true when
791         the specified region of the canvas contains a specified color (alpha is optional).
792         * browser-tests/time-series-chart-tests.js: Added a test case for sampling. It checks that sampling happens
793         and that we always show some data point even when zoomed out to a large time interval.
794         (createChartWithSampleCluster):
795
796         * public/v3/components/interactive-time-series-chart.js:
797         (InteractiveTimeSeriesChart.prototype._sampleTimeSeries):
798         * public/v3/components/time-series-chart.js:
799         (TimeSeriesChart.prototype._ensureSampledTimeSeries): M, the number of data points we pick must be computed
800         based on the width of data points we're about to draw constrained by the canvas size. e.g. when the canvas
801         is only half filled, we shouldn't be showing two points per pixel in the filled region.
802         (TimeSeriesChart.prototype._sampleTimeSeries): Refined the algorithm. First, compute the time difference or
803         the rank for each N data points. Sort those ranks in descending order (in the order we prefer), and include
804         all data points above the M-th rank in the sample.
805         (TimeSeriesChart.prototype.computeTimeGrid): Revert the inadvertent change in r212935.
806
807         * public/v3/models/time-series.js:
808         (TimeSeriesView.prototype.filter): Fixed a bug that the indices passed onto the callback were shifted by the
809         starting index.
810         * unit-tests/time-series-tests.js: Added a test case to ensure callbacks are called with correct data points
811         and indices.
812
813 2017-02-23  Ryosuke Niwa  <rniwa@webkit.org>
814
815         REGRESSION(r212542): Make TimeSeriesChart.computeTimeGrid stops x-axis grid prematurely
816         https://bugs.webkit.org/show_bug.cgi?id=168812
817
818         Reviewed by Joseph Pecoraro.
819
820         Add time iterator of two months, three months, and four months with some tests.
821
822         Also for one-month time iterator, round the day of month to 1 or 15 whichever is closer.
823
824         * browser-tests/time-series-chart-tests.js: Added more tests.
825         * public/v3/components/time-series-chart.js:
826         (TimeSeriesChart._timeIterators.next):
827         (TimeSeriesChart._timeIterators):
828
829 2017-02-22  Ryosuke Niwa  <rniwa@webkit.org>
830
831         Add tests for InteractiveTimeSeriesChart and adopt actions
832         https://bugs.webkit.org/show_bug.cgi?id=168750
833
834         Reviewed by Chris Dumez.
835
836         Added tests for InteractiveTimeSeriesChart.
837
838         Also replaced selection.onchange, selection.onzoom, indicator.onchange, annotations.onclick callbacks
839         by "selectionChange", "zoom", "indicatorChange", and "annotationClick" actions respectively.
840
841         Also fixed various bugs and bad code I encountered while writing these tests.
842
843         * browser-tests/index.html:
844         (waitForComponentsToRender): Delay the call to enqueueToRender until the next run loop because there
845         might be outstanding promises that just got resolved. e.g. for fetching measurement sets JSONs. Let
846         all those promises get resolved first. Otherwise, some tests become racy.
847         (canvasImageData): Extracted from time-series-chart-tests.js.
848         (canvasRefTest): Ditto.
849         (CanvasTest): Ditto.
850         (CanvasTest.fillCanvasBeforeRedrawCheck): Ditto.
851         (CanvasTest.hasCanvasBeenRedrawn): Ditto.
852         (CanvasTest.canvasImageData): Ditto.
853         (CanvasTest.expectCanvasesMatch): Ditto.
854         (CanvasTest.expectCanvasesMismatch): Ditto.
855
856         * browser-tests/time-series-chart-tests.js: Fixed some test cases where dpr multipler was not doing
857         the right thing anymore in Safari under a high DPI screen. Also added a lot of test cases for interactive
858         time series chart and one for rendering annotations.
859         (scripts): Moved.
860         (posixTime): Added. A helper function for sampleCluster.
861         (dayInMilliseconds): Ditto.
862         (sampleCluster): Moved here. Made the same cluster more artifical for an easier testing.
863         (createChartWithSampleCluster): Moved out of one of the tests.
864         (respondWithSampleCluster): Ditto.
865
866         * public/v3/components/chart-pane-base.js:
867         (ChartPaneBase.prototype.configure): Adopted new actions in InteractiveTimeSeriesChart.
868
869         * public/v3/components/chart-status-view.js:
870         (ChartStatusView.prototype.updateStatusIfNeeded): Removed a superflous console.log.
871
872         * public/v3/components/chart-styles.js:
873         (ChartStyles.mainChartOptions): Set zoomButton to true. InteractiveTimeSeriesChart used to determine
874         whether to show the zoom button or not based on the precense of the zoom callback. We made it explicit.
875
876         * public/v3/components/interactive-time-series-chart.js:
877         (InteractiveTimeSeriesChart.prototype.setIndicator): Explicitly call _notifySelectionChanged with false
878         instead of relying on undefined to be treated as falsey.
879         (InteractiveTimeSeriesChart.prototype._createCanvas): Use id instead of selector to find elements.
880         (InteractiveTimeSeriesChart.htmlTemplate):
881         (InteractiveTimeSeriesChart.cssTemplate):
882         (InteractiveTimeSeriesChart.prototype._mouseMove): Explicitly call _startOrContinueDragging with false
883         instead of relying on undefined treated as falsey. Also added the missing call to enqueueToRender found
884         by new tests. This was working fine on the dashboard due to other components invoking enqueueToRender
885         but won't work in a standalone instance of InteractiveTimeSeriesChart.
886         (InteractiveTimeSeriesChart.prototype._mouseLeave): Ditto, adding the missing call to enqueueToRender.
887         (InteractiveTimeSeriesChart.prototype._click): Removed the assignment to _forceRender when calling
888         _mouseMove in an early exist, which does set this flag and invokes enqueueToRender, and added the missing
889         call to enqueueToRender in the other code path.
890         (InteractiveTimeSeriesChart.prototype._startOrContinueDragging): Replaced annotations.onclick callback
891         by the newly added "annotationClick" action, and added the missing call to enqueueToRender.
892         (InteractiveTimeSeriesChart.prototype._endDragging): Use arrow function.
893         (InteractiveTimeSeriesChart.prototype._notifyIndicatorChanged): Replaced indicator.onchange callback by
894         the newly added "indicatorChange" action.
895         (InteractiveTimeSeriesChart.prototype._notifySelectionChanged): Replaced selection.onchange callback by
896         the newly added "selectionChange" action.
897         (InteractiveTimeSeriesChart.prototype._renderChartContent): Show the zoom button when options.zoomButton
898         is set instead of relying on the presence of selection.onzoom especially now that the callback has been
899         replaced by the "zoom" action.
900
901         * public/v3/components/time-series-chart.js:
902         (TimeSeriesChart.prototype.setAnnotations): Added the missing call to enqueueToRender.
903
904         * public/v3/main.js:
905
906 2017-02-21  Ryosuke Niwa  <rniwa@webkit.org>
907
908         Make sampling algorithm more stable and introduce an abstraction for sampled data
909         https://bugs.webkit.org/show_bug.cgi?id=168693
910
911         Reviewed by Chris Dumez.
912
913         Before this patch, TimeSeriesChart's resampling resulted in some points poping up and disappearing as
914         the width of a chart is changed. e.g. when resizing the browser window. The bug was by caused by
915         the sample for a given width not always including all points for a smaller width so as the width is
916         expanded, some point may be dropped.
917
918         Fixed this by using a much simpler algorithm of always picking a point when the time interval between
919         the preceding point and the succeeding point is larger than the minimum space we allow for a given width.
920
921         Also introduced a new abstraction around the sample data: TimeSeriesView. A TimeSeriesView provides
922         a similar API to TimeSeries for a subset of the time series filtered by a time range a custom function.
923         This paves a way to adding the ability to select baseline, etc... on the chart status view.
924
925         TimeSeriesView can be in two modes:
926         Mode 1. The view represents a contiguous subrange of TimeSeries - In this mode, this._data references
927                 the underlying TimeSeries's _data directly, and we use _startingIndex to adjust index given to
928                 find the relative index. Finding the next point or the previous point of a given point is done
929                 via looking up the point's seriesIndex and doing a simple arithmetic. In general, an index is
930                 converted to the absolute index in the underlying TimeSeries's _data array.
931
932         Mode 2. The view represents a filtered non-contiguous subset of TimeSeries -  In this mode, this._data is
933                 its own array. Finding the next point or the previous point of a given point requires finding
934                 a sibling point in the underlying TimeSeries which is in this view. Since this may result in O(n)
935                 traversal and a hash lookup, we lazily build a map of each point to its position in _data instead.
936
937         * public/v3/components/chart-status-view.js:
938         (ChartStatusView.prototype.updateStatusIfNeeded): Call selectedPoints instead of sampledDataBetween for
939         clarity. This function now returns a TimeSeriesView instead of a raw array.
940
941         * public/v3/components/interactive-time-series-chart.js:
942         (InteractiveTimeSeriesChart.prototype.currentPoint): Updated now that _sampledTimeSeriesData contains
943         an array of TimeSeriesView's. Note that diff is either 0, -1, or 1.
944         (InteractiveTimeSeriesChart.prototype.selectedPoints): Ditto. sampledDataBetween no longer exists since
945         we can simply call viewTimeRange on TimeSeriesView returned by sampledDataBetween.
946         (InteractiveTimeSeriesChart.prototype.firstSelectedPoint): Ditto.
947         (InteractiveTimeSeriesChart.prototype._sampleTimeSeries): Use add since excludedPoints is now a Set.
948
949         * public/v3/components/time-series-chart.js:
950         (TimeSeriesChart.prototype.sampledDataBetween): Deleted.
951         (TimeSeriesChart.prototype.firstSampledPointBetweenTime): Deleted.
952         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Modernized the code. Use the the time interval of
953         the chart divided by the number of allowed points as the time interval used in the new sampling algorithm.
954         (TimeSeriesChart.prototype._sampleTimeSeries): Rewritten. We also create TimeSeriesView here.
955         (TimeSeriesChart.prototype._sampleTimeSeries.findMedian): Deleted.
956         (TimeSeriesChart.prototype._updateCanvasSizeIfClientSizeChanged): Fixed a bug that the canvas size wasn't
957         set to the correct value on Chrome when a high DPI screen is used.
958
959         * public/v3/models/time-series.js:
960         (TimeSeries.prototype.viewBetweenPoints): Renamed from dataBetweenPoints. Now returns a TimeSeriesView.
961         (TimeSeriesView): Added. This constructor is to be called by viewBetweenPoints, viewTimeRange, and filter.
962         (TimeSeriesView.prototype._buildPointIndexMap): Added. Used in mode (2).
963         (TimeSeriesView.prototype.length): Added.
964         (TimeSeriesView.prototype.firstPoint): Added.
965         (TimeSeriesView.prototype.lastPoint): Added.
966         (TimeSeriesView.prototype.nextPoint): Added. Note index is always a position in this._data. In mode (1),
967         this is the position of the point in the underlying TimeSeries' _data. In mode (2), this is the position
968         of the point in this._data which is dictinct from the underlying TimeSeries' _data.
969         (TimeSeriesView.prototype.previousPoint): Ditto.
970         (TimeSeriesView.prototype.findPointByIndex): Added. Finds the point using the positional index from the
971         beginning of this view. findPointByIndex(0) on one view may not be same as findPointByIndex(0) of another.
972         (TimeSeriesView.prototype.findById): Added. This is O(n).
973         (TimeSeriesView.prototype.values): Added. Returns the value of each point in this view.
974         (TimeSeriesView.prototype.filter): Added. Creates a new view with a subset of data points the predicate
975         function returned true.
976         (TimeSeriesView.prototype.viewTimeRange): Added. Creates a new view with a subset of data points for the
977         given time ragne. When the resultant view would include all points of this view, it simply returns itself
978         as an optimization.
979         (TimeSeriesView.prototype.firstPointInTimeRange): Added. Returns the first point in the view which lies
980         within the specified time range.
981         (TimeSeriesView.prototype.Symbol.iterator): Added. Iterates over each point in the view.
982
983         * public/v3/pages/analysis-task-page.js:
984         (AnalysisTaskChartPane.prototype.selectedPoints): Use selectedPoints in lieu of getting selection and then
985         calling sampledDataBetween with that range.
986
987         * public/v3/pages/summary-page.js:
988         (SummaryPageConfigurationGroup.set _medianForTimeRange): Modernized.
989
990         * unit-tests/time-series-tests.js: Added tests for TimeSeries and TimeSeriesView. Already caught bugs!
991         (addPointsToSeries):
992
993 2017-02-17  Ryosuke Niwa  <rniwa@webkit.org>
994
995         Add tests for the time series chart and fix bugs I found along the way
996         https://bugs.webkit.org/show_bug.cgi?id=168499
997
998         Reviewed by Antti Koivisto.
999
1000         Add basic tests for the time series chart.
1001
1002         Replaced the "ondata" callback set in the options by "dataChange" action now that ComponentBase provides
1003         a facility for defining event-like actions.
1004
1005         Also fixed bugs I encountered while writing these tests see below for descriptions.
1006
1007         * browser-tests/editable-text-tests.js:
1008         (waitToRender): Moved to index.html
1009         * browser-tests/index.html:
1010         (waitToRender): Moved from editable-text-tests.js.
1011         (wait): Added.
1012         * browser-tests/time-series-chart-tests.js: Added.
1013         * public/v3/components/chart-pane-base.js:
1014         (ChartPaneBase.prototype.configure):
1015         * public/v3/components/time-series-chart.js:
1016         (TimeSeriesChart): Removed the code to set display and position inline properties. This is now done inside
1017         cssTemplate with :host pseudo class.
1018         (TimeSeriesChart.prototype._ensureCanvas): Don't strech the canvas to 100% of width and height. This was
1019         causing a flush of contents where the canvas is momentarily streched by the browser and the script later
1020         updates with the content with the correct aspect ratio.
1021         (TimeSeriesChart.cssTemplate): Added :host rule to set display: block and position: relative.
1022         (TimeSeriesChart._updateAllCharts): Deleted.
1023         (TimeSeriesChart.prototype.render): Only run the code for axis when options.axis is defined. Also, avoid
1024         setting the fill style because we never fill for axis drawing.
1025         (TimeSeriesChart.prototype._computeHorizontalRenderingMetrics): Ditto. Fallback to sensible values when
1026         options.axis is not defined.
1027         (TimeSeriesChart.prototype._renderYAxis): Now computeValueGrid generates a sequence of {time, label}.
1028         (TimeSeriesChart.prototype._renderTimeSeries): Don't draw the shades for confidence intervals unless its
1029         fill style is defined. Otherwise, we'd end up drawing black shade and mask the actual data points.
1030         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Dispatch newly added "dataChange" action instead of
1031         calling "ondata" callback in options dictionary.
1032         (TimeSeriesChart.computeTimeGrid): Modernized to use const/let. Also fixed the bug that we were emitting
1033         the date even when the entire time range fit within a 24-hour interval.
1034         (TimeSeriesChart.computeValueGrid): Rewritten to make MB/GB use a nice round number instead of 0.98GB.
1035         We were using a power of 10 to round up the stepping value but the value formatter used a power of 1024
1036         to divide byte measurements (e.g. for memory). Use formatter.divisor to find the right scaling factor for
1037         each kind.
1038         * public/v3/models/metric.js:
1039         (Metric.prototype.makeFormatter):
1040         (Metric.makeFormatter): Extracted from the one on the prototype so that tests don't need a metric object
1041         just to test TimeSeriesChart. Added the second argument which specifies the maximum absolute value of the
1042         range we're formatting. This is needed to use the same number of decimal points when the most significant
1043         digit of some value is smaller than that of the biggest one. For example, we were emitting 0.50GB instead
1044         of 0.5G along with 2.0GB. The "adjustment" reduces the number of significant figures in these cases.
1045         * public/v3/pages/dashboard-page.js:
1046         (DashboardPage.prototype._createChartForCell):
1047
1048 2017-02-16  Ryosuke Niwa  <rniwa@webkit.org>
1049
1050         Use expect.js instead of expect in browser tests
1051         https://bugs.webkit.org/show_bug.cgi?id=168492
1052
1053         Reviewed by Joseph Pecoraro.
1054
1055         Use expect.js (https://github.com/Automattic/expect.js) instead of expect (https://github.com/mjackson/expect).
1056
1057         * browser-tests/close-button-tests.js:
1058         * browser-tests/component-base-tests.js:
1059         * browser-tests/editable-text-tests.js:
1060         * browser-tests/index.html:
1061
1062 2017-02-16  Ryosuke Niwa  <rniwa@webkit.org>
1063
1064         Modernize and fix measurement-set tests
1065         https://bugs.webkit.org/show_bug.cgi?id=168484
1066
1067         Reviewed by Joseph Pecoraro.
1068
1069         Modernized and fixed the tests in measurement-set-tests.js.
1070
1071         1. Return a promise instead of manually calling done in then/catch hanlders.
1072         2. Use arrow function everywhere.
1073         3. Explicitly assert the number of calls to callbacks instead of asserting never reached.
1074
1075         The test case labled "should return false when the range ends after the fetched cluster"
1076         was incorrectly asserting that hasFetchedRange returns false when the end time is after
1077         the primary cluster's end time. Test an interval before the primary cluster instead.
1078
1079         Added a test case for hasFetchedRange returning true when the end time appears after
1080         the end of the primary cluster and fixed hasFetchedRange to that end. Since there are
1081         no data points after the primary cluster which is chronologically the last cluster,
1082         there is nothing to fetch beyond its end time.
1083
1084         * public/v3/models/measurement-set.js:
1085         (MeasurementSet.prototype.hasFetchedRange): Fixed the bug that this function returned
1086         false when the end time was after the primary cluster's end by truncating the range by
1087         the end of the primary cluster.
1088         * unit-tests/measurement-set-tests.js:
1089         * unit-tests/resources/mock-remote-api.js:
1090         (assert.notReached.assert.notReached): Deleted. It's no longer used by any tests.
1091
1092 2017-02-15  Ryosuke Niwa  <rniwa@webkit.org>
1093
1094         Update ReadMe.md and merge it with Install.md
1095         https://bugs.webkit.org/show_bug.cgi?id=168405
1096
1097         Reviewed by Michael Catanzaro.
1098
1099         Merged Install.md and ReadMe.md into one file.
1100
1101         * Install.md: Removed.
1102         * ReadMe.md: Merged Install.md at the top and updated the rest of the content.
1103
1104 2017-01-24  Ryosuke Niwa  <rniwa@webkit.org>
1105
1106         Modernize editable-text component and add tests
1107         https://bugs.webkit.org/show_bug.cgi?id=167398
1108
1109         Reviewed by Yusuke Suzuki.
1110
1111         Modernized EditableText component to use the action feature added in r210938.
1112
1113         * browser-tests/editable-text-tests.js: Added. Added tests for EditableText component.
1114         (.waitToRender):
1115         * browser-tests/index.html:
1116         * public/v3/components/base.js:
1117         (ComponentBase.prototype.dispatchAction): Return the result from the callback.
1118         * public/v3/components/editable-text.js:
1119         (EditableText): Removed a bunch of instance variables that are no longer needed.
1120         (EditableText.prototype.didConstructShadowTree): Added. Add event listeners on the Edit/Save button and the host.
1121         (EditableText.prototype.editedText): Return the text field's value directly.
1122         (EditableText.prototype.text): Added.
1123         (EditableText.prototype.setText): Call enqueueToRender automatically instead of relying on the parent component
1124         to do so in _startedEditingCallback, which has been removed.
1125         (EditableText.prototype.render): Modernized the code.
1126         (EditableText.prototype._didClick): No longer prevents the default action manually since that's automatically done
1127         in createEventHandler. Handle the case where the update action is not handled.
1128         (EditableText.prototype._endEditingMode): Renamed from _didUpdate.
1129         (EditableText.htmlTemplate): Added ids on various elements in the shadow tree.
1130         (EditableText.cssTemplate): Updated the CSS selectors per above change.
1131         * public/v3/main.js:
1132         (main): Fixed a typo.
1133         * public/v3/pages/analysis-task-page.js:
1134         (AnalysisTaskPage): Use the action listener instead of manually setting callbacks.
1135         (AnalysisTaskPage.prototype._createTestGroupListItem): Ditto.
1136         (AnalysisTaskPage.prototype._didStartEditingTaskName): Deleted.
1137
1138 2017-01-20  Ryosuke Niwa  <rniwa@webkit.org>
1139
1140         Build fix after r210783. Didn't mean to require custom elements API.
1141
1142         * public/v3/main.js:
1143         (main):
1144
1145 2017-01-20  Ryosuke Niwa  <rniwa@webkit.org>
1146
1147         Make sync-commits.py robust against missing Subversion authors and missing parent Git commits
1148         https://bugs.webkit.org/show_bug.cgi?id=167231
1149
1150         Reviewed by Antti Koivisto.
1151
1152         Fixed a bug that a subversion commit that's missing author name (anonymous commit) results in an out of bound
1153         exception, and a bug that syncing a git repository starts failing once there was a merge commit which pulled
1154         in a commit data earlier than that of the last reported commit.
1155
1156         For the latter fix, added --max-ancestor-fetch-count to specify the number of maximum commits to look back.
1157
1158         * tools/sync-commits.py:
1159         (main): Added --max-ancestor-fetch-count.
1160         (Repository.fetch_commits_and_submit): If submit_commits fails with FailedToFindParentCommit, fetch the parent
1161         commit's information until we've resolved them all.
1162         (Repository.fetch_next_commit): Renamed from fetch_commit.
1163         (SVNRepository.fetch_next_commit): Renamed from fetch_commit. Don't try to get the author name if it's missing
1164         due to an anonymous commit. It's important to never include the "author" field in the JSON submitted to
1165         a dashboard since it rejects when "author" field is not an array (e.g. null). 
1166         (GitRepository.fetch_next_commit): Renamed from fetch_commit.
1167         (GitRepository.fetch_commit): Added. Fetches the commit information for a given git hash. Used to retrieve
1168         missing parent commits.
1169         (GitRepository._revision_from_tokens): Extracted from fetch_commit.
1170
1171         * tools/util.py:
1172         (submit_commits): Optionally takes status_to_accept to avoid throwing in the case of FailedToFindParentCommit
1173         and returns the response JSON.
1174
1175 2017-01-20  Ryosuke Niwa  <rniwa@webkit.org>
1176
1177         REGRESSION(r198234): /api/commits/%revision% always fails
1178         https://bugs.webkit.org/show_bug.cgi?id=167235
1179
1180         Reviewed by Antti Koivisto.
1181
1182         The bug was caused by a typo in CommitLogFetcher::fetch_revision, which was calling commit_for_revision on
1183         $this->db instead of $this. This had been monkey-patched in the internal dashboard so it was working there.
1184
1185         Also fixed a bug that /latest wasn't doing what it claimed to do, and a bug that /oldest /latest,
1186         and /last-reported would return a commit with all values set to null instead of an empty list.
1187
1188         Finally, added server API tests for /api/commits.
1189
1190         * public/api/commits.php:
1191         (main): Add a comment for APIs that only exist for v2 UI.
1192
1193         * public/include/commit-log-fetcher.php:
1194         (CommitLogFetcher::fetch_latest): Fixed the bug that this function was returning the oldest commit, not the
1195         the latest commit as desired.
1196         (CommitLogFetcher::fetch_revision): Fixed the bug that this function would always encounter an exception
1197         because commit_for_revision is defined on $this, not $this->db.
1198         (CommitLogFetcher::format_single_commit): Return an empty list instead of an array with a single commit with
1199         all values set to null.
1200
1201         * server-tests/api-commits.js: Added. Added tests for the JSON API at /api/commits.
1202         (.assertCommitIsSameAsOneSubmitted): Added. A helper function to compare a commit returned by /api/commits
1203         to one sent to /api/report-commits.
1204
1205 2017-01-19  Ryosuke Niwa  <rniwa@webkit.org>
1206
1207         measurement-sets API can incorrectly order points with OS version without commit time
1208         https://bugs.webkit.org/show_bug.cgi?id=167227
1209
1210         Reviewed by Chris Dumez.
1211
1212         Ignore revision_order for the purpose of ordering data points in /api/measurement-sets.
1213
1214         These orderings are used in some UI (e.g A/B testing) to order OS build numbers which do not have a timestamp
1215         associated with each "revision".
1216
1217         The baseline measurements made in our internal dashboard were using these ordering numbers before ordering
1218         results with build time. Because those data points don't have an associated Webkit revisions, all data points
1219         were ordered first by macOS's revision_order, then build time. Because v3 UI completely ignores revision_order
1220         for the purpose of plotting data points, this resulted in some data points being plotted in a wrong order
1221         with some lines going backwards in time.
1222
1223         This patch addresses this discrepancy by stop ordering data points with revision_order in the JSON API.
1224
1225         * public/api/measurement-set.php:
1226         (MeasurementSetFetcher::execute_query): Fixed the bug.
1227         * server-tests/api-measurement-set-tests.js: Added a test.
1228
1229 2017-01-19  Ryosuke Niwa  <rniwa@webkit.org>
1230
1231         Build fix after r210626. We need to clear Triggerable's static map in each iteration.
1232
1233         * tools/sync-buildbot.js:
1234         (syncLoop):
1235
1236 2017-01-18  Ryosuke Niwa  <rniwa@webkit.org>
1237
1238         Add a mechanism to dispatch and listen to an action
1239         https://bugs.webkit.org/show_bug.cgi?id=167191
1240
1241         Reviewed by Antti Koivisto.
1242
1243         Added the notion of an action to components. Like DOM events, it can be dispatched or listen to.
1244
1245         Also added ComponentBase.prototype.part which finds a sub-component inside a component's shadow tree,
1246         and made ComponentBase.prototype.content take an id to find an element that matches it.
1247
1248         * browser-tests/close-button-tests.js: Added. Tests for CloseButton.
1249         * browser-tests/component-base-tests.js: Added tests for ComponentBase's part(~), content(id), dispatchEvent.
1250         * browser-tests/index.html:
1251         * public/v3/components/base.js:
1252         (ComponentBase): Added this._actionCallbacks, which is a map of an action name to a callback to be invoked.
1253         (ComponentBase.prototype.content): Return an element of the given id if one is specified.
1254         (ComponentBase.prototype.part): Find a component whose element has the matching id.
1255         (ComponentBase.prototype.dispatchAction): Added.
1256         (ComponentBase.prototype.listenToAction): Added.
1257         (ComponentBase.prototype._ensureShadowTree): Call didConstructShadowTree.
1258         (ComponentBase.prototype.didConstructShadowTree): Added.
1259         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Copy attributes when instantiating
1260         an element for a component when the browser doesn't support custom elements API.
1261         (ComponentBase.createLink):
1262         (ComponentBase.prototype.createEventHandler): Added.
1263         (ComponentBase.createEventHandler): Renamed from createActionHandler.
1264         * public/v3/components/button-base.js:
1265         (ButtonBase.prototype.didConstructShadowTree): Added. Dispatch "activate" action when the button is clicked.
1266         (ButtonBase.prototype.setCallback): Deleted.
1267         (ButtonBase.htmlTemplate): Use id instead of class so that this.content() can find it.
1268         (ButtonBase.cssTemplate): Updated style rules.
1269         * public/v3/pages/chart-pane.js:
1270         (ChartPane):
1271         (ChartPane.prototype.didConstructShadowTree): Added. Listen to "activate" action on the close button.
1272         (ChartPane.prototype.render): Fixed a bug that we were never calling enqueueToRender on the close button.
1273         (ChartPane.htmlTemplate): Add the id on the close button.
1274
1275 2017-01-18  Dewei Zhu  <dewei_zhu@apple.com>
1276
1277         'buildbot-syncer.js' should be able to determine force build argument from a list of possible repositories.
1278         https://bugs.webkit.org/show_bug.cgi?id=167152
1279
1280         Reviewed by Ryosuke Niwa.
1281
1282         Add 'rootOptions' key which maps to a list of possible repositories.
1283         For a build request, only one of the repositories in the list is valid.
1284
1285         * tools/js/buildbot-syncer.js:
1286         (BuildbotSyncer.prototype._propertiesForBuildRequest):
1287         (BuildbotSyncer._validateAndMergeProperties):
1288         (BuildbotSyncer):
1289         * unit-tests/buildbot-syncer-tests.js:
1290         (sampleiOSConfig):
1291         (sampleiOSConfigWithExpansions):
1292         (createSampleBuildRequest):
1293         (Promise.resolve.then):
1294         * unit-tests/resources/mock-v3-models.js:
1295         (MockModels.inject):
1296
1297 2017-01-17  Ryosuke Niwa  <rniwa@webkit.org>
1298
1299         Make calls to render() functions async
1300         https://bugs.webkit.org/show_bug.cgi?id=167151
1301
1302         Reviewed by Andreas Kling.
1303
1304         Make calls to render() async by coalescing calls inside enqueueToRender(), which has been renamed from
1305         updateRendering(). We now queue up all the components and wait until the next animation frame to invoke
1306         render() on all those components.
1307
1308         This reduces render() calls in the summary page of our internal dashboard by 15x from ~9400 to ~600 by
1309         eliminating pathological O(n^2) behavior between render() calls.
1310
1311         Consolidated TimeSeriesChart's enqueueRender into this newly added feature of ComponentBase along with
1312         the support to call render() on a resize event. New implementation makes use of connectedCallback and
1313         disconnectedCallback to avoid the work when the component is not in a document tree.
1314
1315         The rest of the patch concerns with renaming updateRendering to enqueueToRender and fixing a few minor bugs
1316         that I encountered while working on this patch.
1317
1318         * browser-tests/component-base-tests.js: Added tests for ComponentBase.enqueueToRender().
1319         * browser-tests/index.html:
1320         (BrowserContext.prototype.importScripts): Renamed from importScript; Now supports loading multiple scripts.
1321         (BrowserContext.prototype.importScript): Added.
1322         (BrowserContext): Removed the unused createWithScripts.
1323
1324         * public/v3/components/analysis-results-viewer.js:
1325         (AnalysisResultsViewer.prototype._expandBetween):
1326         * public/v3/components/bar-graph-group.js:
1327         (BarGraphGroup.prototype.updateGroupRendering):
1328
1329         * public/v3/components/base.js:
1330         (ComponentBase): When the browser doesn't support custom elements and 
1331         (ComponentBase.prototype.enqueueToRender): Renamed from updateRendering. Queues up the component to call
1332         render() instead of immediately invoking it.
1333         (ComponentBase.renderingTimerDidFire): Call render(). Since render() function often calls enqueueToRender
1334         on child components, go ahead and invoke render() on any components enqueued during render() calls.
1335         (ComponentBase._connectedComponentToRenderOnResize): Added.
1336         (ComponentBase._disconnectedComponentToRenderOnResize): Added.
1337         (ComponentBase.defineElement.elementClass.prototype.connectedCallback): Added. This is an optimization to
1338         avoid the work when the component is not in the document; e.g. because the entire page component has been
1339         detached from the document. The old implementation in TimeSeriesChart was not doing this.
1340         (ComponentBase.defineElement.elementClass.prototype.disconnectedCallback): Added.
1341         (ComponentBase): Replaced unused static variables with _componentsToRender and _componentsToRenderOnResize.
1342
1343         * public/v3/components/chart-pane-base.js:
1344         (ChartPaneBase.prototype.fetchAnalysisTasks):
1345         (ChartPaneBase.prototype.didUpdateAnnotations): Added. Addresses the bug that the annotation bars in the
1346         charts shown an an analysis task doesn't update its color when the state is updated in the UI. 
1347         (ChartPaneBase.prototype._mainSelectionDidZoom):
1348         (ChartPaneBase.prototype._updateStatus):
1349         (ChartPaneBase.prototype._requestOpeningCommitViewer):
1350         (ChartPaneBase.prototype._keyup):
1351         (ChartPaneBase.prototype.render):
1352         * public/v3/components/commit-log-viewer.js:
1353         * public/v3/components/customizable-test-group-form.js:
1354         (CustomizableTestGroupForm):
1355         (CustomizableTestGroupForm.prototype._customize):
1356         * public/v3/components/editable-text.js:
1357         (EditableText.prototype._didUpdate):
1358         * public/v3/components/interactive-time-series-chart.js:
1359         * public/v3/components/pane-selector.js:
1360         (PaneSelector.prototype._selectedItem):
1361         * public/v3/components/time-series-chart.js:
1362         (TimeSeriesChart): Removed the logic to update upon resize. See _connectedComponentToRenderOnResize above.
1363         (TimeSeriesChart.prototype.get enqueueToRenderOnResize): Added. Returns true.
1364         (TimeSeriesChart.prototype.enqueueToRender): Deleted.
1365         (TimeSeriesChart._renderEnqueuedCharts): Deleted.
1366         (TimeSeriesChart): Call ComponentBase.defineElement to make this a proper component so that the logic in
1367         connectedCallback to update upon resize event would work.
1368         * public/v3/instrumentation.js:
1369         (Instrumentation.dumpStatistics): Sort results by the key names.
1370         * public/v3/models/time-series.js:
1371         (TimeSeries.prototype.values): Added. This method was never ported to v3 in r198462, and broke the feature
1372         to show moving averages, etc... on the charts page.
1373         * public/v3/pages/analysis-category-page.js:
1374         (AnalysisCategoryPage.prototype.open):
1375         (AnalysisCategoryPage.prototype.updateFromSerializedState):
1376         (AnalysisCategoryPage.prototype.filterDidChange):
1377         (AnalysisCategoryPage.prototype.render):
1378         * public/v3/pages/analysis-task-page.js:
1379         (AnalysisTaskChartPane.prototype._updateStatus):
1380         (AnalysisTaskPage.prototype.updateFromSerializedState):
1381         (AnalysisTaskPage.prototype._didFetchTask):
1382         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks):
1383         (AnalysisTaskPage.prototype._didFetchMeasurement):
1384         (AnalysisTaskPage.prototype._didFetchTestGroups):
1385         (AnalysisTaskPage.prototype._showAllTestGroups):
1386         (AnalysisTaskPage.prototype._didFetchAnalysisResults):
1387         (AnalysisTaskPage.prototype.render):
1388         (AnalysisTaskPage.prototype._renderTestGroupList.):
1389         (AnalysisTaskPage.prototype._renderTestGroupList):
1390         (AnalysisTaskPage.prototype._createTestGroupListItem):
1391         (AnalysisTaskPage.prototype._showTestGroup):
1392         (AnalysisTaskPage.prototype._didStartEditingTaskName):
1393         (AnalysisTaskPage.prototype._updateTaskName):
1394         (AnalysisTaskPage.prototype._updateTestGroupName):
1395         (AnalysisTaskPage.prototype._hideCurrentTestGroup):
1396         (AnalysisTaskPage.prototype._updateChangeType): Fixed the bug that we were never updating annotation bars
1397         in the main chart by calling didUpdateAnnotations.
1398         (AnalysisTaskPage.prototype._associateBug):
1399         (AnalysisTaskPage.prototype._dissociateBug):
1400         (AnalysisTaskPage.prototype._associateCommit):
1401         (AnalysisTaskPage.prototype._dissociateCommit):
1402         (AnalysisTaskPage.prototype._chartSelectionDidChange):
1403         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer):
1404         * public/v3/pages/build-request-queue-page.js:
1405         (BuildRequestQueuePage.prototype.open.):
1406         (BuildRequestQueuePage.prototype.open):
1407         * public/v3/pages/chart-pane.js:
1408         (ChartPane.prototype.setOpenRepository):
1409         (ChartPane.prototype._renderTrendLinePopover): Fixed a race condition. Insert a select element as needed
1410         before trying to assign the current value on it.
1411         (ChartPane.prototype._trendLineTypeDidChange):
1412         (ChartPane.prototype._updateTrendLine):
1413         * public/v3/pages/charts-page.js:
1414         (ChartsPage.prototype.updateFromSerializedState):
1415         (ChartsPage.prototype._updateDomainsFromSerializedState):
1416         (ChartsPage.prototype.setNumberOfDaysFromToolbar):
1417         (ChartsPage.prototype._didMutatePaneList):
1418         (ChartsPage.prototype.render):
1419         * public/v3/pages/charts-toolbar.js:
1420         (ChartsToolbar.prototype.render):
1421         * public/v3/pages/create-analysis-task-page.js:
1422         (CreateAnalysisTaskPage.prototype.updateFromSerializedState):
1423         * public/v3/pages/dashboard-page.js:
1424         (DashboardPage.prototype.updateFromSerializedState):
1425         (DashboardPage.prototype._fetchedData):
1426         * public/v3/pages/heading.js:
1427         (Heading.prototype.render):
1428         * public/v3/pages/page-with-heading.js:
1429         (PageWithHeading.prototype.render):
1430         * public/v3/pages/page.js:
1431         (Page.prototype.open):
1432         * public/v3/pages/summary-page.js:
1433         (SummaryPage.prototype.open):
1434         (SummaryPage.prototype.this._renderQueue.push):
1435         (SummaryPage):
1436         (SummaryPage.prototype._renderCell):
1437
1438 2017-01-15  Ryosuke Niwa  <rniwa@webkit.org>
1439
1440         Add the build fix for browsers that don't yet support custom elements SPI.
1441         It was supposedly to be a part of the previous commit.
1442
1443         * public/v3/components/base.js:
1444         (ComponentBase.defineElement):
1445
1446 2017-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1447
1448         Adopt custom elements API in perf dashboard
1449         https://bugs.webkit.org/show_bug.cgi?id=167045
1450
1451         Reviewed by Darin Adler.
1452
1453         Adopt custom elements API in ComponentBase, and create the shadow tree lazily in content() and render()
1454         instead of eagerly creating it inside the constructor.
1455
1456         For now, create a separate element class for each component in ComponentBase.defineElement instead of
1457         making ComponentBase inherit from HTMLElement to preserve the semantics we have as well as to test
1458         the boundaries of what custom elements API allows for framework authors.
1459
1460         In order to ensure one-to-one correspondence between elements and their components, we use a static map,
1461         ComponentBase._currentlyConstructedByInterface, to remember which element or component is being created
1462         and use that in custom element's constructor to update element.component() and this._element.
1463
1464         Also dropped the support for not having attachShadow as we've shipped this feature in Safari 10.
1465
1466         Finally, added tests to be ran inside a browser to test the front end code in browser-tests.
1467
1468         * browser-tests/component-base-tests.js: Added. Basic tests for ComponentBase.
1469         * browser-tests/index.html: Added.
1470
1471         * public/v3/components/base.js:
1472         (ComponentBase): Don't create the shadow tree. Use the currently constructed element as this._element if
1473         there is one (the custom element's constructor is getting called). Otherwise create a new element but
1474         store this component in the map to avoid creating a new component in the custom element's constructor.
1475         (ComponentBase.prototype.content): Lazily create the shadow tree now.
1476         (ComponentBase.prototype.render): Ditto.
1477         (ComponentBase.prototype._ensureShadowTree): Renamed from _constructShadowTree. Dropped the support for
1478         not having shadow DOM API. This is now required. Also use importNode instead of cloneNode in cloning
1479         the template content since the latter would not get upgraded.
1480         (ComponentBase.prototype._recursivelyReplaceUnknownElementsByComponents): Modernized the code. Don't
1481         re-create a component if its element had already been upgraded by its custom element constructor.
1482         (ComponentBase.defineElement): Add this component to the static maps. _componentByName is used by
1483         _recursivelyReplaceUnknownElementsByComponents to instantiate new components in the browsers that don't
1484         support custom elements API and _componentByClass is used by ComponentBase's constructor to lookup the
1485         element name. The latter should go away once all components fully adopt ComponentBase.defineElement.
1486         (ComponentBase.defineElement.elementClass): A class to define a custom element for the component.
1487         We need to reconfigure the property since class's name is not writable but configurable.
1488
1489         * public/v3/components/button-base.js:
1490         (ButtonBase.htmlTemplate): Added. Extracted the common code from CloseButton and WarningIcon.
1491         (ButtonBase.buttonContent): Added. An abstract method overridden by CloseButton and WarningIcon.
1492         (ButtonBase.sizeFactor): Added. Overridden by WarningIcon.
1493         (ButtonBase.cssTemplate): Updated to use :host.
1494         * public/v3/components/close-button.js:
1495         (CloseButton.buttonContent): Renamed from htmlTemplate.
1496         * public/v3/components/spinner-icon.js:
1497         (SpinnerIcon.cssTemplate): Removed webkit prefixed properties, and updated it to animate stroke instead
1498         of opacity to reduce the power usage.
1499         (SpinnerIcon.htmlTemplate): Factored stroke, stroke-width, and stroke-linecap into cssTemplate.
1500         * public/v3/components/warning-icon.js:
1501         (WarningIcon.cssTemplate): Deleted.
1502         (WarningIcon.sizeFactor): Added.
1503         (WarningIcon.buttonContent): Renamed from htmlTemplate.
1504         * public/v3/pages/summary-page.js:
1505         (SummaryPage._constructRatioGraph): Fixed a bug that we were not never calling spinner.updateRendering().
1506         (SummaryPage.prototype._renderCell):
1507
1508 2017-01-13  Ryosuke Niwa  <rniwa@webkit.org>
1509
1510         Instrument calls to render()
1511         https://bugs.webkit.org/show_bug.cgi?id=167037
1512
1513         Reviewed by Sam Weinig.
1514
1515         Wrap every call to render() by newly added ComponentBase.updateRendering() to instrument it.
1516         Also, use arrow functions instead of this.render.bind or regular closures for simplicity.
1517
1518         Currently, we're making 5100 calls to render() while opening the summary page, and that's way too high.
1519
1520         * public/v3/components/analysis-results-viewer.js:
1521         (AnalysisResultsViewer.prototype._expandBetween):
1522         * public/v3/components/bar-graph-group.js:
1523         (BarGraphGroup.prototype.updateGroupRendering): Renamed form render() as BarGraphGroup is not a component.
1524         * public/v3/components/base.js:
1525         (ComponentBase.prototype.updateRendering): Added. Instruments render() call.
1526         * public/v3/components/chart-pane-base.js:
1527         (ChartPaneBase.prototype.fetchAnalysisTasks):
1528         (ChartPaneBase.prototype._mainSelectionDidZoom):
1529         (ChartPaneBase.prototype._updateStatus):
1530         (ChartPaneBase.prototype._requestOpeningCommitViewer):
1531         (ChartPaneBase.prototype._keyup):
1532         (ChartPaneBase.prototype.render):
1533         * public/v3/components/commit-log-viewer.js:
1534         * public/v3/components/customizable-test-group-form.js:
1535         (CustomizableTestGroupForm):
1536         (CustomizableTestGroupForm.prototype._customize):
1537         * public/v3/components/editable-text.js:
1538         (EditableText.prototype._didUpdate):
1539         * public/v3/components/pane-selector.js:
1540         (PaneSelector.prototype._selectedItem):
1541         * public/v3/components/results-table.js:
1542         (ResultsTable.prototype.render):
1543         * public/v3/components/time-series-chart.js:
1544         (TimeSeriesChart._renderEnqueuedCharts):
1545         * public/v3/pages/analysis-category-page.js:
1546         (AnalysisCategoryPage.prototype.open):
1547         (AnalysisCategoryPage.prototype.updateFromSerializedState):
1548         (AnalysisCategoryPage.prototype.filterDidChange):
1549         (AnalysisCategoryPage.prototype.render):
1550         * public/v3/pages/analysis-task-page.js:
1551         (AnalysisTaskChartPane.prototype._updateStatus):
1552         (AnalysisTaskPage.prototype.updateFromSerializedState):
1553         (AnalysisTaskPage.prototype._didFetchTask):
1554         (AnalysisTaskPage.prototype._didFetchRelatedAnalysisTasks):
1555         (AnalysisTaskPage.prototype._didFetchMeasurement):
1556         (AnalysisTaskPage.prototype._didFetchTestGroups):
1557         (AnalysisTaskPage.prototype._showAllTestGroups):
1558         (AnalysisTaskPage.prototype._didFetchAnalysisResults):
1559         (AnalysisTaskPage.prototype.render):
1560         (AnalysisTaskPage.prototype._renderTestGroupList.):
1561         (AnalysisTaskPage.prototype._renderTestGroupList):
1562         (AnalysisTaskPage.prototype._createTestGroupListItem):
1563         (AnalysisTaskPage.prototype._showTestGroup):
1564         (AnalysisTaskPage.prototype._didStartEditingTaskName):
1565         (AnalysisTaskPage.prototype._updateTaskName):
1566         (AnalysisTaskPage.prototype._updateTestGroupName):
1567         (AnalysisTaskPage.prototype._hideCurrentTestGroup):
1568         (AnalysisTaskPage.prototype._updateChangeType):
1569         (AnalysisTaskPage.prototype._associateBug):
1570         (AnalysisTaskPage.prototype._dissociateBug):
1571         (AnalysisTaskPage.prototype._associateCommit):
1572         (AnalysisTaskPage.prototype._dissociateCommit):
1573         (AnalysisTaskPage.prototype._chartSelectionDidChange):
1574         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer):
1575         * public/v3/pages/build-request-queue-page.js:
1576         (BuildRequestQueuePage.prototype.open.):
1577         (BuildRequestQueuePage.prototype.open):
1578         * public/v3/pages/chart-pane.js:
1579         (ChartPane.prototype.setOpenRepository):
1580         (ChartPane.prototype._trendLineTypeDidChange):
1581         (ChartPane.prototype._updateTrendLine):
1582         * public/v3/pages/charts-page.js:
1583         (ChartsPage.prototype.updateFromSerializedState):
1584         (ChartsPage.prototype._updateDomainsFromSerializedState):
1585         (ChartsPage.prototype.setNumberOfDaysFromToolbar):
1586         (ChartsPage.prototype._didMutatePaneList):
1587         (ChartsPage.prototype.render):
1588         * public/v3/pages/charts-toolbar.js:
1589         (ChartsToolbar.prototype.render):
1590         * public/v3/pages/create-analysis-task-page.js:
1591         (CreateAnalysisTaskPage.prototype.updateFromSerializedState):
1592         * public/v3/pages/dashboard-page.js:
1593         (DashboardPage.prototype.updateFromSerializedState):
1594         (DashboardPage.prototype._fetchedData):
1595         * public/v3/pages/heading.js:
1596         (Heading.prototype.render):
1597         * public/v3/pages/page-with-heading.js:
1598         (PageWithHeading.prototype.render):
1599         * public/v3/pages/page.js:
1600         (Page.prototype.open):
1601         * public/v3/pages/summary-page.js:
1602         (SummaryPage.prototype.open):
1603         (SummaryPage.prototype.this._renderQueue.push):
1604         (SummaryPage):
1605         (SummaryPage.prototype._renderCell):
1606
1607 2017-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1608
1609         Outliers are not hidden in v3 UI
1610         https://bugs.webkit.org/show_bug.cgi?id=166966
1611
1612         Reviewed by Andreas Kling.
1613
1614         Fixed the typo in addToSeries. An outlier has markedOutlier set to true, not isOutlier.
1615
1616         Also fixed a bug unveiled by new tests in MeasurementRootSet.ensureSingleton. It was was creating
1617         a new MeasurementRootSet each time it was called instead of finding an existing instance. Fixed the bug
1618         by merging the static maps of MeasurementRootSet and RootSet.
1619
1620         * public/v3/models/measurement-cluster.js:
1621         (MeasurementCluster.prototype.addToSeries): Fixed the bug.
1622         * public/v3/models/root-set.js:
1623         (MeasurementRootSet.prototype.namedStaticMap): Added.
1624         (MeasurementRootSet.prototype.ensureNamedStaticMap): Added.
1625         (MeasurementRootSet.namedStaticMap): Added.
1626         (MeasurementRootSet.ensureNamedStaticMap): Added.
1627         * unit-tests/measurement-set-tests.js: Added tests for adopting time series data from a cluster.
1628
1629 2017-01-12  Ryosuke Niwa  <rniwa@webkit.org>
1630
1631         Hide the UI to trigger an A/B testing when there are no triggerables
1632         https://bugs.webkit.org/show_bug.cgi?id=166964
1633
1634         Reviewed by Yusuke Suzuki.
1635
1636         Hide the "Start A/B Testing" button on analysis task pages instead of showing it and failing later
1637         when the user tries to create one it with a TriggerableNotFound error.
1638
1639         Added the list of triggerables to the manifest JSON so that we can determine this condition without
1640         having to fetch /api/triggerable for each analysis task as done in v2 UI.
1641
1642         * public/admin/reprocess-report.php:
1643         * public/api/manifest.php:
1644         * public/api/report.php:
1645         * public/include/admin-header.php:
1646         * public/include/manifest-generator.php: Moved from public/include/manifest.php.
1647         (ManifestGenerator::generate):
1648         (ManifestGenerator::triggerables): Added. Include the list of repositories this triggerable accepts
1649         as well as the list of (test, platform) pairs on which this triggerable is available.
1650         Use [testId, platformId] instead of a dictionary to reduce the file size.
1651         * public/v3/components/customizable-test-group-form.js:
1652         (CustomizableTestGroupForm): Removed this._disabled. This variable was used in TestGroupFrom to
1653         disable the "Start A/B Testing" button when no range is selected but this ended up racy. Compute
1654         the visibility of the button in render() function instead.
1655         (CustomizableTestGroupForm.prototype.setRootSetMap):
1656         (CustomizableTestGroupForm.prototype._submitted):
1657         (CustomizableTestGroupForm.prototype.render): Hide the customize link and the button as needed.
1658         The "Start A/B Testing" button must be hidden when either no range is selected or no title is typed.
1659         "Customize" button must be hidden when no range is selected.
1660         * public/v3/components/test-group-form.js:
1661         (TestGroupForm): Removed _disabled since it's no longer used.
1662         (TestGroupForm.prototype.setDisabled): Ditto.
1663         (TestGroupForm.prototype.render): Ditto.
1664         * public/v3/index.html: Include triggerable.js.
1665         * public/v3/models/manifest.js:
1666         (Manifest._didFetchManifest): Modernized. Create Triggerable objects from the manifest JSON.
1667         * public/v3/models/triggerable.js: Added.
1668         (Triggerable): Add this triggerable object to the static map of (test id, platform id) pair.
1669         (Triggerable.prototype.acceptedRepositories): Added.
1670         (Triggerable.findByTestConfiguration): Added. Finds a triggerable in the aforementioned static map.
1671         * public/v3/pages/analysis-task-page.js:
1672         (AnalysisTaskChartPane.prototype._updateStatus): Added. Re-render the page since time series data
1673         points that were previously not available may have become available. The lack of this update was
1674         causing a race condition in which the "Start A/B Testing" button for the charts is disabled even
1675         after a group name had been specified because setRootSetMap was never called with a valid set.
1676         (AnalysisTaskPage): Added this._triggerable.
1677         (AnalysisTaskPage.prototype._didFetchTask): Find the triggerable now that we've fetched the task.
1678         (AnalysisTaskPage.prototype.render): Hide the group view (the table of A/B testing results) entirely
1679         when there are no groups to show. Also hide the forms to start A/B testing when there are no matching
1680         triggerable, which is the main feature of this patch.
1681         * server-tests/api-manifest.js: Added a test for including a list of triggerables in the manifest JSON.
1682         * server-tests/resources/mock-data.js:
1683         (MockData.resetV3Models): Reset Triggerable's static map.
1684         * server-tests/tools-buildbot-triggerable-tests.js: Assert that Triggerable objects are  constructed
1685         with appropriate list of repositories and (test, platform) associations.
1686         * tools/js/database.js:
1687         (tableToPrefixMap): Added triggerable_repositories's prefix.
1688         * tools/js/remote.js:
1689         (RemoteAPI.prototype.getJSON): Log the entire response to stderr when JSON.parse fails to aid debugging.
1690         * tools/js/v3-models.js: Import triggerable.js.
1691
1692 2017-01-11  Ryosuke Niwa  <rniwa@webkit.org>
1693
1694         fetch-from-remote doesn’t work with some websites
1695         https://bugs.webkit.org/show_bug.cgi?id=166963
1696
1697         Reviewed by Yusuke Suzuki.
1698
1699         Apparently file_get_contents is not compatible with some SSL/TLS connections.
1700         Use curl_* functions to access remote servers instead.
1701
1702         * public/admin/fetch-from-remote.php:
1703         (fetch_remote):
1704
1705 2017-01-10  Ryosuke Niwa  <rniwa@webkit.org>
1706
1707         Another build fix. Always use UTC when expressing commit times in UNIX-epoch timestamps.
1708
1709         * public/api/measurement-set.php:
1710
1711 2017-01-10  Ryosuke Niwa  <rniwa@webkit.org>
1712
1713         Fix a typo in the previous commit.
1714
1715         * public/api/measurement-set.php:
1716
1717 2017-01-10  Ryosuke Niwa  <rniwa@webkit.org>
1718
1719         Build fixes for older versions of Postgres.
1720
1721         Also redirect / and /# to /v3/ as intended in r200820.
1722
1723         * public/api/measurement-set.php:
1724         * public/api/runs.php:
1725         * public/index.html:
1726
1727 2016-10-18  Dewei Zhu  <dewei_zhu@apple.com>
1728
1729         Update test cases for change r206465.
1730         https://bugs.webkit.org/show_bug.cgi?id=163618
1731
1732         Reviewed by Ryosuke Niwa.
1733
1734         Update test case for change r206465 which added support for multiple summary pages.
1735         Use deepStrictEqual instead of deepEqual as deepEqual will not complain in the case like 'deepEqual([],{})'.
1736         Fix a test failure in tools-buildbot-triggerable-tests.js.
1737         Fix a bug in generating manifest.
1738
1739         * config.json:
1740         * public/include/manifest.php:
1741         * server-tests/api-manifest.js:
1742         (TestServer.remoteAPI.getJSON.string_appeared_here.then):
1743         * server-tests/tools-buildbot-triggerable-tests.js:
1744         (then):
1745
1746 2016-09-27  Dewei Zhu  <dewei_zhu@apple.com>
1747
1748         Extend perf dashboard to support multiple summary pages.
1749         https://bugs.webkit.org/show_bug.cgi?id=162594
1750
1751         Reviewed by Ryosuke Niwa.
1752
1753         Start support multiple summary pages instead of one.
1754         Specify 'summaryPages' as key that map to a list of summaries which follows
1755         current 'summary' format in 'config.json' but with 2 more properties:
1756            'name': specifying the name shows on perf dashboard,
1757            'route': specifying the path to this page.
1758
1759         * public/include/manifest.php:
1760         * public/v3/main.js:
1761         (main):
1762         (main.): Deleted.
1763         * public/v3/models/manifest.js:
1764         (Manifest._didFetchManifest):
1765         (Manifest):
1766         * public/v3/pages/summary-page.js:
1767         (SummaryPage):
1768         (SummaryPage.prototype.routeName):
1769
1770 2016-08-09  Ryosuke Niwa  <rniwa@webkit.org>
1771
1772         Don't filter out the latest data point in chart data sampling
1773         https://bugs.webkit.org/show_bug.cgi?id=160714
1774
1775         Reviewed by Chris Dumez.
1776
1777         Exclude the last data point from sampling so that it's always included in the "sampled" charts data.
1778         Without this, the last data point can change as we zoom out the time domain.
1779
1780         Luckily, we already had a mechanism to exclude the user selected point from sampling. Extend this
1781         feature by supporting an array of point IDs instead of a single ID to exclude from filering.
1782
1783         * public/v3/components/interactive-time-series-chart.js:
1784         (InteractiveTimeSeriesChart.prototype._sampleTimeSeries): Replaced exclusionPointID by excludedPoints. 
1785
1786         * public/v3/components/time-series-chart.js:
1787         (TimeSeriesChart.prototype._ensureSampledTimeSeries): Put the last data point in excludedPoints.
1788         (TimeSeriesChart.prototype._sampleTimeSeries): Check point's id against the list of IDs.
1789
1790 2016-08-09  Ryosuke Niwa  <rniwa@webkit.org>
1791
1792         Build fix after r204187. interval has to be a getter, not a method.
1793
1794         * public/v3/components/time-series-chart.js:
1795         (TimeSeriesChart.prototype._renderTimeSeries):
1796         * public/v3/models/measurement-adaptor.js:
1797         (MeasurementAdaptor.prototype.applyTo):
1798
1799 2016-08-09  Ryosuke Niwa  <rniwa@webkit.org>
1800
1801         Fix a typo that was supposed to be fixed in r204296 before landing.
1802
1803         * public/v3/pages/chart-pane.js:
1804         (ChartPane):
1805         (ChartPane.prototype.updateFromSerializedState):
1806         (ChartPane.prototype._analyzeRange):
1807         (ChartPane.prototype._renderTrendLinePopover):
1808         (ChartPane.prototype._trendLineTypeDidChange):
1809
1810 2016-08-08  Ryosuke Niwa  <rniwa@webkit.org>
1811
1812         Always show segmentation on v3 charts page
1813         https://bugs.webkit.org/show_bug.cgi?id=160576
1814
1815         Rubber-stamped by Chris Dumez.
1816
1817         Added "Trend Lines" popover to select and customize a moving average or a segmentation to show on charts page
1818         and made Schwarz criterion segmentation the default trend line for all charts.
1819
1820         Because computing the segmentation is expensive, we use WebWorker to parallelize the computation via AsyncTask.
1821         We also compute and cache the segmentation for each cluster separately to avoid processing the entire measurement
1822         set as that could take 10-20s total, which was a huge problem in v2 UI. v3 UI's approach is more incremental and
1823         even opens up an opportunity to cache the results in the server side.
1824
1825         Also brought back "shading" for the confidence interval drawing as done in v1 and v2 UI.
1826
1827         * public/shared/statistics.js:
1828         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Added segmentCountWeight and gridSize as arguments
1829         to customize the algorithm.
1830         (Statistics.splitIntoSegmentsUntilGoodEnough): Takes segmentCountWeight as BirgeAndMassartC.
1831
1832         * public/v3/async-task.js: Added.
1833         (AsyncTask): Added. This class represents a task such as computing segmentation to be executed in a worker.
1834         (AsyncTask.prototype.execute): Added. Returns a promise that gets resolved when the specified task completes.
1835         (AsyncTaskWorker.waitForAvailableWorker): Added. Calls the given callback with the first available worker. When
1836         all workers are processing some tasks, it waits until one becomes available by putting the callback into a queue.
1837         _didRecieveMessage pops an item out of this queue when a worker completes a task. We don't use a promise here
1838         because calling this function multiple times synchronously could result in all the returned promises getting
1839         resolved with the same worker as none of the callers get to lock away the first available worker until the end
1840         of the current micro-task.
1841         (AsyncTaskWorker._makeWorkerEventuallyAvailable): Added. A helper function for waitForAvailableWorker. Start
1842         a new worker if the number of workers we've started is less than the number of extra cores (e.g. 7 if there are
1843         8 cores on the machine). Avoid starting a new worker if we've started a new worker within the last 50 ms since
1844         starting a new worker takes some time.
1845         (AsyncTaskWorker._findAvailableWorker): Added. Finds a worker that's available right now if there is any.
1846         (AsyncTaskWorker): Added. An instance of AsyncTaskWorker represents a Web worker.
1847         (AsyncTaskWorker.prototype.id): Added.
1848         (AsyncTaskWorker.prototype.sendTask): Added. Sends a task represented by AsyncTask to the worker.
1849         (AsyncTaskWorker.prototype._didRecieveMessage): Added. This function gets called when the current task completes
1850         in the worker. Pop the next callback if some caller of waitForAvailableWorker is still waiting. Otherwise stop
1851         the worker after one second of waiting to avoid worker churning.
1852         (AsyncTaskWorker.workerDidRecieveMessage): Added. Called by onmessage on the worker. Executes the specified task
1853         and sends back a message upon completion with the appropriate timing data.
1854
1855         * public/v3/components/chart-pane-base.js:
1856         (ChartPaneBase.prototype.configure): Uses _createSourceList.
1857         (ChartPaneBase.prototype._createSourceList): Added. Extracted from configure to customize the source list for
1858         the main chart and the overview chart.
1859         (ChartPaneBase.prototype._updateSourceList): Uses _createSourceList.
1860
1861         * public/v3/components/chart-styles.js:
1862         (ChartStyles.createSourceList): Added a boolean showPoint as an extra argument. This specifies whether circles
1863         are drawn for each data point.
1864         (ChartStyles.baselineStyle): Added styles for foreground lines and background lines. They're used for trend lines
1865         and underlying raw data respectively when trend lines are shown.
1866         (ChartStyles.targetStyle): Ditto.
1867         (ChartStyles.currentStyle): Ditto.
1868
1869         * public/v3/components/time-series-chart.js:
1870         (TimeSeriesChart): Added _trendLines, _renderedTrendLines, and _fetchedTimeSeries as instance variables.
1871         (TimeSeriesChart.prototype.setSourceList): Clear _fetchedTimeSeries before calling setSourceList for consistency.
1872         (TimeSeriesChart.prototype.sourceList): Added.
1873         (TimeSeriesChart.prototype.clearTrendLines): Added.
1874         (TimeSeriesChart.prototype.setTrendLine): Added. Preserves the existing trend lines for other sources. This is
1875         necessary because segmentation for "current" and "baseline" lines may become available at different times, and we
1876         don't want to clear one or the other when setting one.
1877         (TimeSeriesChart.prototype._layout): Added a call to _ensureTrendLines.
1878         (TimeSeriesChart.prototype._renderChartContent): Call _renderTimeSeries for trend lines. Trend lines are always
1879         foreground lines and "regular" raw data points are drawn as background if there are trend lines.
1880         (TimeSeriesChart.prototype._renderTimeSeries): Added layerName as an argument. It could be an empty string,
1881         "foreground", or "background". Draw a "shade" just like v1 and v2 UI instead of vertical lines for the confidence
1882         intervals. Pick "foreground", "background", or "regular" chart style based on layerName. Also avoid drawing data
1883         points when *PointRadius is set to zero to reduce the runtime of this function.
1884         (TimeSeriesChart.prototype._sourceOptionWithFallback): Added.
1885         (TimeSeriesChart.prototype._ensureSampledTimeSeries): When *PointRadius is 0, show as many points as there are x
1886         coordinates as a fallback instead of showing every point.
1887         (TimeSeriesChart.prototype._ensureTrendLines): Added. Returns true if the chart contents haven't been re-rendered
1888         since the last update to trend lines. This flag is unset by setTrendLine.
1889
1890         * public/v3/index.html:
1891
1892         * public/v3/models/measurement-cluster.js:
1893         (MeasurementCluster.prototype.addToSeries): Store the data points' index to idMap to help aid MeasurementSet's
1894         _cachedClusterSegmentation efficiently re-create the segmentation from the cache.
1895
1896         * public/v3/models/measurement-set.js:
1897         (MeasurementSet): Added _segmentationCache as an instance variable.
1898         (MeasurementSet.prototype.fetchSegmentation): Added. Calls _cachedClusterSegmentation on each cluster, and
1899         constructs the time series representation of the segmentation from the results.
1900         (MeasurementSet.prototype._cachedClusterSegmentation): Computes and caches the segmentation for each cluster.
1901         The cache of segmentation stores ID of each measurement set at which segment changes instead of its index since
1902         the latter could change in any moment when a new test result is reported, or an existing test result is removed
1903         from the time series; e.g. when it's marked as an outlier.
1904         (MeasurementSet.prototype._validateSegmentationCache): Added. Checks whether the cached segmentation's name and
1905         its parameters match that of the requested one.
1906         (MeasurementSet.prototype._invokeSegmentationAlgorithm): Added. Invokes the segmentation algorithm either in the
1907         main thread or in a Web worker via AsyncTask API based on the size of the time series. While parallelizing the
1908         work is beneficial when the data set is large, the overhead can add up if we keep processing a very small data
1909         set in a worker.
1910
1911         * public/v3/models/time-series.js: Made the file compatible with Node.
1912         (TimeSeries.prototype.length): Added.
1913         (TimeSeries.prototype.valuesBetweenRange): Added.
1914
1915         * public/v3/pages/chart-pane.js:
1916         (createTrendLineExecutableFromAveragingFunction): Added.
1917         (ChartTrendLineTypes): Added. Similar to StatisticsStrategies (statistics-strategies.js) in v2 UI.
1918         (ChartPane): Added _trendLineType, _trendLineParameters, _trendLineVersion, and _renderedTrendLineOptions as
1919         instance variables.
1920         (ChartPane.prototype.serializeState): Serialize the trend line option. This format is compatible with v2 UI.
1921         (ChartPane.prototype.updateFromSerializedState): Ditto. Parsing is compatible with v2 UI except that we now have
1922         the default trend line set when the specified ID doesn't match an existing type ID.
1923         (ChartPane.prototype._renderActionToolbar): Added a call to _renderTrendLinePopover. This is the popover that
1924         specifies the type of a trend line to show as well as its parameters.
1925         (ChartPane.prototype._renderTrendLinePopover): Added. A popover for specifying and customizing a trend line.
1926         (ChartPane.prototype._trendLineTypeDidChange): Added. Called when a new trend line is selected.
1927         (ChartPane.prototype._defaultParametersForTrendLine): Added.
1928         (ChartPane.prototype._trendLineParameterDidChange): Added. Called when the trend lines' parameters are changed.
1929         (ChartPane.prototype._didFetchData): Added. Overrides the one in ChartPaneBase to trigger a trend line update.
1930         (ChartPane.prototype._updateTrendLine): Added. Update the trend line. Since segmentation can take an arbitrary
1931         long time, avoid updating trend lines if this function had been called again (possibly for a different trend line
1932         type or with different parameters) before the results become available; hence the versioning.
1933         (ChartPane.paneHeaderTemplate): Added the trend line popover.
1934         (ChartPane.cssTemplate): Added styles for the trend line popover. Also use a more opaque background color behind
1935         popovers when the -webkit-backdrop-filter property is not supported.
1936
1937         * public/v3/pages/dashboard-page.js:
1938         (DashboardPage.prototype._createChartForCell): Call createSourceList with showPoints set to true to preserve the
1939         existing behavior.
1940
1941         * tools/js/v3-models.js: Include TimeSeries object.
1942
1943         * unit-tests/measurement-set-tests.js: Added two test cases for MeasurementSet's fetchSegmentation.
1944
1945         * unit-tests/resources/almost-equal.js: Added.
1946         (almostEqual): Extracted out of statistics-tests.js.
1947
1948         * unit-tests/statistics-tests.js:
1949
1950 2016-08-05  Ryosuke Niwa  <rniwa@webkit.org>
1951
1952         segmentTimeSeriesByMaximizingSchwarzCriterion returns a bogus result on empty charts
1953         https://bugs.webkit.org/show_bug.cgi?id=160575
1954
1955         Rubber-stamped by Chris Dumez.
1956
1957         The bug was caused by an early return in segmentTimeSeriesByMaximizingSchwarzCriterion.
1958         Removed this early return as the one in splitIntoSegmentsUntilGoodEnough was sufficient.
1959
1960         Also factored out a few functions in findOptimalSegmentation so that they can be better
1961         optimized in JSC's DFG and FTL tiers, and removed unused debuggingTestingRangeNomination.
1962
1963         * public/shared/statistics.js:
1964         (Statistics.segmentTimeSeriesByMaximizingSchwarzCriterion): Removed an early return.
1965         (Statistics.splitIntoSegmentsUntilGoodEnough):
1966         (.allocateCostUpperTriangularForSegmentation): Extracted from findOptimalSegmentation.
1967         (.allocatePreviousNodeForSegmentation): Ditto.
1968         (.findOptimalSegmentationInternal): Ditto.
1969         (.findOptimalSegmentation):
1970
1971         * unit-tests/statistics-tests.js: Added a test case.
1972
1973 2016-08-05  Ryosuke Niwa  <rniwa@webkit.org>
1974
1975         Perf dashboard sometimes tries to fetch a non-existent measurement-set JSON
1976         https://bugs.webkit.org/show_bug.cgi?id=160577
1977
1978         Rubber-stamped by Chris Dumez.
1979
1980         The bug was caused by findClusters computing the first cluster's endTime incorrectly. Namely, we were
1981         multiplying the number of clusters by clusterStart instead of clusterSize with an off-by-one error.
1982
1983         * public/v3/models/measurement-set.js:
1984         (MeasurementSet.prototype.findClusters): Folded computeClusterStart into where clusterEnd is computed
1985         for clarity. Also fixed a bug that we were not computing the first cluster to fetch correctly when
1986         the fetched time range started before clusterStart (i.e. when startTime - clusterStart is negative).
1987         Finally, fixed the main bug by multiplying the number of clusters by clusterSize instead of
1988         clusterStart to compute the end time of the very first cluster in this measurement set. Because what
1989         we're computing here is the end time of the first cluster, not the start time, we also need to subtract
1990         one from the number of clusters. e.g. if there was exactly one cluster, then firstClusterEndTime is
1991         identically equal to lastClusterEndTime.
1992         (MeasurementSet.prototype.fetchedTimeSeries): Removed the unused argument to TimeSeries's constructor.
1993
1994         * unit-tests/analysis-task-tests.js: Fixed the tests for the latest version of Mocha which complains if
1995         we returned a promise in unit tests when "done" function is used.
1996         * unit-tests/checkconfig.js: Ditto.
1997         * unit-tests/measurement-set-tests.js: Added a test case for findClusters and a test to make sure
1998         fetchBetween doesn't try to fetch a cluster before the first cluster in the set. Also fixed other test
1999         cases which were relying on the bug this patch fixed.
2000
2001 2016-08-04  Ryosuke Niwa  <rniwa@webkit.org>
2002
2003         MeasurementCluster's addToSeries is slow
2004         https://bugs.webkit.org/show_bug.cgi?id=160581
2005
2006         Rubber-stamped by Chris Dumez.
2007
2008         The bulk of time was spent in MeasurementAdaptor.prototype.applyTo where we computed the interval.
2009
2010         Since some of data points are filtered out by TimeSeriesChart component before intervals are used,
2011         we can significantly reduce the CPU time by lazily compute them. This patch reduces the runtime of
2012         applyTo from ~60ms to ~30ms on my machine.
2013
2014         * public/v3/models/measurement-adaptor.js:
2015         (MeasurementAdaptor.prototype.applyTo): Lazily compute and cache the interval. Also cache the build
2016         object instead of always creating a new object.
2017         * public/v3/models/measurement-cluster.js:
2018         (MeasurementCluster.prototype.addToSeries): Call applyTo first before checking whether the point is
2019         an outlier or its id to avoid extracting those values twice since they show up in the profiler. Also
2020         use "of" instead "forEach" since "of" seems to be faster here.
2021
2022 2016-08-04  Ryosuke Niwa  <rniwa@webkit.org>
2023
2024         Syncing script's configuration duplicates a lot of boilerplate
2025         https://bugs.webkit.org/show_bug.cgi?id=160574
2026
2027         Rubber-stamped by Chris Dumez.
2028
2029         This patch makes each configuration accept an array of platforms and types so that we can write:
2030
2031         {"type": "speedometer", "builder": "mba", "platform": "Trunk El Capitan MacBookAir"},
2032         {"type": "speedometer", "builder": "mbp", "platform": "Trunk El Capitan MacBookPro"},
2033         {"type": "speedometer", "builder": "mba", "platform": "Trunk Sierra MacBookAir"},
2034         {"type": "speedometer", "builder": "mbp", "platform": "Trunk Sierra MacBookPro"},
2035         {"type": "jetstream", "builder": "mba", "platform": "Trunk El Capitan MacBookAir"},
2036         {"type": "jetstream", "builder": "mbp", "platform": "Trunk El Capitan MacBookPro"},
2037         {"type": "jetstream", "builder": "mba", "platform": "Trunk Sierra MacBookAir"},
2038         {"type": "jetstream", "builder": "mbp", "platform": "Trunk Sierra MacBookPro"},
2039
2040         more concisely as:
2041
2042         {"builder": "mba", "types": ["speedometer", "jetstream"],
2043             "platforms": ["Trunk El Capitan MacBookAir", "Trunk Sierra MacBookAir"]},
2044         {"builder": "mbp", "types": ["speedometer", "jetstream"],
2045             "platforms": ["Trunk El Capitan MacBookPro", "Trunk Sierra MacBookPro"]},
2046
2047         * tools/js/buildbot-syncer.js:
2048         (BuildbotSyncer._loadConfig):
2049         (BuildbotSyncer._expandTypesAndPlatforms): Added. Clones a new configuration entry for each type
2050         and platform.
2051         (BuildbotSyncer._createTestConfiguration): Extracted from _loadConfig.
2052         (BuildbotSyncer._validateAndMergeConfig): Added a new argument that specifies a property that
2053         shouldn't be merged into the configuration. Also added the support for 'types' and 'platforms',
2054         and merged the code for verify an array of strings. Finally, allow the appearance of 'properties'
2055         since this function can now be called on a cloned configuration in which 'arguments' had already
2056         been renamed to 'properties'.
2057
2058         * unit-tests/buildbot-syncer-tests.js: Added a test case to parse a consolidated configuration.
2059         (sampleiOSConfigWithExpansions): Added.
2060
2061         * unit-tests/resources/mock-v3-models.js:
2062         (MockModels.inject): Added a few more mock models for the newly added test.
2063
2064 2016-07-26  Ryosuke Niwa  <rniwa@webkit.org>
2065
2066         REGRESSION: Tooltip for analysis tasks doesn't show up on charts
2067         https://bugs.webkit.org/show_bug.cgi?id=160221
2068
2069         Rubber-stamped by Chris Dumez.
2070
2071         The bug was caused by ChartPaneBase resetting annotation bars every time the current point has moved.
2072         Avoid doing this in ChartPaneBase's _renderAnnotations().
2073
2074         * public/v3/components/chart-pane-base.js:
2075         (ChartPaneBase):
2076         (ChartPaneBase.prototype.fetchAnalysisTasks):
2077         (ChartPaneBase.prototype._renderAnnotations):
2078
2079 2016-07-26  Ryosuke Niwa  <rniwa@webkit.org>
2080
2081         REGRESSION: The arrow indicating the current page doesn't get updated
2082         https://bugs.webkit.org/show_bug.cgi?id=160185
2083
2084         Reviewed by Chris Dumez.
2085
2086         The bug was caused by Heading's render() function not updating the DOM more than once. I don't understand
2087         how this has ever worked. Fixed the bug by rendering DOM whenever the current page has changed.
2088
2089         * public/v3/pages/heading.js:
2090         (Heading):
2091         (Heading.prototype.render):
2092
2093 2016-07-25  Ryosuke Niwa  <rniwa@webkit.org>
2094
2095         Build fix for Safari 9.
2096
2097         * public/v3/models/build-request.js:
2098         (BuildRequest.prototype.waitingTime): Don't use "const" in strict mode.
2099
2100 2016-07-23  Ryosuke Niwa  <rniwa@webkit.org>
2101
2102         Perf dashboard should show the list of a pending A/B testing jobs
2103         https://bugs.webkit.org/show_bug.cgi?id=160138
2104
2105         Rubber-stamped by Chris Dumez.
2106
2107         Add a page to show the list of A/B testing build requests per triggerable. Ideally, we would like to
2108         see a queue per builder but that would require changes to database tables and syncing scripts.
2109
2110         Because this page is most useful when the analysis task with which each build request is associated,
2111         JSON API at /api/build-requests/ has been modified to return the analysis task ID for each request.
2112
2113         Also streamlined the page that shows the list of analysis tasks per Chris' feedback by consolidating
2114         "Bisecting" and "Identified" into "Investigated" and moving the toolbar from the upper left corner
2115         inside the heading to right beneath the heading above the table. Also made the category page serialize
2116         the filter an user had typed in so that reloading the page doesn't clear it.
2117
2118         * public/api/analysis-tasks.php:
2119         (fetch_associated_data_for_tasks): Removed 'category' from the list of columns returned as the notion
2120         of 'category' is only relevant in UI, and it's better computed in the front-end.
2121         (format_task): Ditto.
2122         (determine_category): Deleted.
2123
2124         * public/api/test-groups.php:
2125         (main):
2126
2127         * public/include/build-requests-fetcher.php:
2128         (BuildRequestsFetcher::fetch_for_task): Include the analysis task ID in the rows.
2129         (BuildRequestsFetcher::fetch_for_group): Ditto. Ditto.
2130         (BuildRequestsFetcher::fetch_incomplete_requests_for_triggerable): Ditto.
2131         (BuildRequestsFetcher::results_internal): Ditto.
2132
2133         * public/v3/index.html:
2134
2135         * public/v3/main.js:
2136         (main): Create a newly introduced BuildRequestQueuePage as a subpage of AnalysisCategoryPage.
2137
2138         * public/v3/components/ratio-bar-graph.js:
2139         (RatioBarGraph.prototype.update): Fixed a bogus assertion here. ratio can be any number. The coercion
2140         into [-1, 1] is done inside RatioBarGraph's render() function.
2141
2142         * public/v3/models/analysis-task.js:
2143         (AnalysisTask.prototype.category): Moved the code to compute the analysis task's category from
2144         determine_category in analysis-tasks.php. Also merged "bisecting" and "identified" into "investigated".
2145         (AnalysisTask.categories): Merged "bisecting" and "identified" into "investigated".
2146
2147         * public/v3/models/build-request.js:
2148         (BuildRequest): Remember the triggerable and the analysis task associated with this request as well as
2149         the time at when this request was created.        
2150         (BuildRequest.prototype.analysisTaskId): Added.
2151         (BuildRequest.prototype.statusLabel): Use a shorter label: "Waiting" for "pending" status.
2152         (BuildRequest.prototype.createdAt): Added.
2153         (BuildRequest.prototype.waitingTime): Added. Returns a human readable time duration since the creation
2154         of this build request such as "2 hours 21 minutes" against a reference time.
2155         (BuildRequest.fetchTriggerables): Added.
2156         (BuildRequest.cachedRequestsForTriggerableID): Added. Used when navigating back to 
2157
2158         * public/v3/pages/analysis-category-page.js:
2159         (AnalysisCategoryPage): Construct AnalysisCategoryToolbar and store it in this._categoryToolbar since it
2160         no longer inherits from Toolbar class, which PageWithHeading recognizes and stores.
2161         (AnalysisCategoryPage.prototype.title):
2162         (AnalysisCategoryPage.prototype.serializeState): Added.
2163         (AnalysisCategoryPage.prototype.stateForCategory): Added. Include the filter in the serialization.
2164         (AnalysisCategoryPage.prototype.updateFromSerializedState): Restore the filter from the URL state.
2165         (AnalysisCategoryPage.prototype.filterDidChange): Added. Called by AnalysisCategoryToolbar to update
2166         the URL state in addition to calling render() as done previously via setFilterCallback.
2167         (AnalysisCategoryPage.prototype.render): Always call _categoryToolbar.render() since the hyperlinks for
2168         the category pages now include the filter, which can be updated in each call.
2169         (AnalysisCategoryPage.cssTemplate):
2170
2171         * public/v3/pages/analysis-category-toolbar.js:
2172         (AnalysisCategoryToolbar): Inherits from ComponentBase instead of Toolbar since AnalysisCategoryToolbar
2173         no longer works with Heading class unlike other subclasses of Toolbar class.
2174         (AnalysisCategoryToolbar.prototype.setCategoryPage): Added.
2175         (AnalysisCategoryToolbar.prototype.setFilterCallback): Deleted.
2176         (AnalysisCategoryToolbar.prototype.setFilter): Added. Used to restore from a serialized URL state.
2177         (AnalysisCategoryToolbar.prototype.render): Don't recreate the input element as it clears the value as
2178         well as the selection of the element. Also use AnalysisCategoryPage's stateForCategory to serialize the
2179         category name and the current filter for each hyperlink.
2180         (AnalysisCategoryToolbar.prototype._filterMayHaveChanged): Now takes an boolean argument specifying
2181         whether the URL state should be updated or not. We update the URL only when a change event is fired to
2182         avoid constantly updating it while an user is still typing.
2183         (AnalysisCategoryToolbar.cssTemplate): Added.
2184         (AnalysisCategoryToolbar.htmlTemplate): Added a button to open the newly added queue page.
2185
2186         * public/v3/pages/build-request-queue-page.js:
2187         (BuildRequestQueuePage): Added.
2188         (BuildRequestQueuePage.prototype.routeName): Added.
2189         (BuildRequestQueuePage.prototype.pageTitle): Added.
2190         (BuildRequestQueuePage.prototype.open): Added. Fetch open build requests for every triggerables using
2191         the same API as the syncing scripts.
2192         (BuildRequestQueuePage.prototype.render): Added.
2193         (BuildRequestQueuePage.prototype._constructBuildRequestTable): Added. Construct a table for the list of
2194         pending, scheduled or running build requests in the order syncing scripts would see. Note that the list
2195         of build requests returned by /api/build-requests/* can contain completed, canceled, or failed requests
2196         since the JSON returns all build requests associated with each test group if one of the requests of the
2197         group have not finished. This helps syncing scripts picking the right builder for A/B testing when it
2198         had previously been unloaded or crashed in the middle of processing a test group. This characteristics
2199         of the API actually helps us here because we can reliably compute the total number of build requests in
2200         the group. The first half of this function does this counting as well as collapses all but the first
2201         unfinished build requests into a "contraction" row, which just shows the number of build requests that
2202         are remaining in the group.
2203         (BuildRequestQueuePage.cssTemplate): Added.
2204         (BuildRequestQueuePage.htmlTemplate): Added.
2205
2206         * public/v3/pages/summary-page.js:
2207         (SummaryPage.prototype.open): Use one-day median instead of seven-day median to compute the status.
2208         (SummaryPageConfigurationGroup): Initialize _ratio to NaN. This was causing assertion failures in
2209         RatioBarGraph's update() while measurement sets are being fetched.
2210
2211         * server-tests/api-build-requests-tests.js: Updated the tests per change in BuildRequest's statusLabel.
2212         * unit-tests/analysis-task-tests.js: Ditto.
2213         * unit-tests/test-groups-tests.js: Ditto.
2214         * unit-tests/build-request-tests.js: Added tests for BuildRequest's waitingTime.
2215
2216 2016-07-22  Ryosuke Niwa  <rniwa@webkit.org>
2217
2218         REGRESSION(r203035): Marking points as an outlier no longer updates charts
2219         https://bugs.webkit.org/show_bug.cgi?id=160106
2220
2221         Reviewed by Darin Adler.
2222
2223         The bug was caused by MeasurementSet's fetchBetween clearing previously registered callbacks when noCache
2224         option is specified.
2225
2226         * public/v3/components/time-series-chart.js:
2227         (TimeSeriesChart.prototype.setSourceList): Clear this._fetchedTimeSeries when changing chart options.
2228         e.g. need to start including or excluding outliers.
2229         (TimeSeriesChart.prototype.fetchMeasurementSets): Don't skip the fetching when noCache is true.
2230
2231         * public/v3/models/measurement-set.js:
2232         (MeasurementSet): Added this._callbackMap as an instance variable to keep track of all callbacks on every
2233         cluster since we may need to call each callback multiple times per cluster when noCache option is used.
2234         (MeasurementSet.prototype.fetchBetween): Moved the code to add _primaryClusterPromise to _allFetches here
2235         so that now this function and _ensureClusterPromise are only functions that touch _allFetches.
2236         (MeasurementSet.prototype._ensureClusterPromise): Extracted out of fetchBetween. Queue up all callbacks
2237         for each cluster when creating a new promise.
2238         (MeasurementSet.prototype._fetchPrimaryCluster): Removed the code to add _primaryClusterPromise now that
2239         it's done in fetchBetween.
2240
2241         * public/v3/remote.js:
2242         (RemoteAPI.postJSONWithStatus): Removed superfluous call to console.log.
2243
2244         * unit-tests/measurement-set-tests.js: Updated the test case for noCache. The callback registered before
2245         fetchBetween is called with noCache=true is now invoked so callCount must be 3 instead of 2.
2246
2247 2016-07-19  Ryosuke Niwa  <rniwa@webkit.org>
2248
2249         Perf dashboard always re-generate measurement set JSON
2250         https://bugs.webkit.org/show_bug.cgi?id=159951
2251
2252         Reviewed by Chris Dumez.
2253
2254         The bug was caused by manifest.json reporting the last modified date of a measurement set in floating point,
2255         and a measurement set JSON reporting it as an integer. Fixed the bug by always using an integer.
2256
2257         * public/api/measurement-set.php:
2258         (main): Return 404 when the results is empty.
2259         (MeasurementSetFetcher::execute_query): Use "extract(epoch from commit_time)" like ManifestGenerator to improve
2260         the generation speed. This is ~10% runtime improvement.
2261         (MeasurementSetFetcher::format_map): Updated to reflect the above change.
2262         (MeasurementSetFetcher::parse_revisions_array): Ditto.
2263
2264         * public/include/manifest.php:
2265         (ManifestGenerator::platforms): Fixed the bug by coercing lastModified to integer (instead of float).
2266
2267         * server-tests/api-measurement-set-tests.js: Added a test case for returning empty results, and a test case for
2268         making sure lastModified dates in manifest.json and measurement sets match.
2269
2270         * tools/js/remote.js:
2271         (RemoteAPI.prototype.sendHttpRequest): Reject the promise when HTTP status code is not 200.
2272
2273 2016-07-09  Ryosuke Niwa  <rniwa@webkit.org>
2274
2275         Perf dashboard can consume 50-70% of CPU on MacBook even if user is not interacting at all
2276         https://bugs.webkit.org/show_bug.cgi?id=159597
2277
2278         Reviewed by Chris Dumez.
2279
2280         TimeSeriesChart and InteractiveTimeSeriesChart had been relying on continually polling on requestAnimationFrame
2281         to update itself in response to its canvas resizing. Even though there as an early exit in the case there was
2282         nothing to update, this is still causing a significant power drain when the user is not interacting at all.
2283
2284         Let TimeSeriesChart use the regular top-down render path like other components with exceptions of listening to
2285         window's resize eventas well as when new JSONs are fetched from the server. The render() call to the latter case
2286         will be coerced into a single callback on requestAnimationFrame to avoid DOM-mutation-layout churn.
2287
2288         * public/v3/components/base.js:
2289         (ComponentBase.isElementInViewport): Deleted.
2290         * public/v3/components/chart-pane-base.js:
2291         (ChartPaneBase.prototype.render): Enqueue charts to render.
2292         * public/v3/components/chart-styles.js:
2293         (ChartStyles.dashboardOptions): Removed updateOnRequestAnimationFrame which is no longer an available option.
2294         * public/v3/components/time-series-chart.js:
2295         (TimeSeriesChart): Replaced the code to register itself for rAF by the code to listen to resize events on window.
2296         (TimeSeriesChart._updateOnRAF): Deleted.
2297         (TimeSeriesChart._updateAllCharts): Added.
2298         (TimeSeriesChart.prototype._enqueueToRender): Added.
2299         (TimeSeriesChart._renderEnqueuedCharts): Added.
2300         (TimeSeriesChart.prototype.fetchMeasurementSets): Avoid calling fetchBetween when the range had been fetched.
2301         Without this change, we can incur a significant number of redundant calls to render() when adjusting the domain
2302         in charts page by the slider. When no new JSON is fetched, simply enqueue this chart to render on rAF.
2303         (TimeSeriesChart.prototype._didFetchMeasurementSet): Enqueue this chart to render on rAF.
2304         (TimeSeriesChart.prototype.render): Removed the check for isElementInViewport since we no longer get render() call
2305         when this chart moves into the viewport (as we no longer listen to every rAF or scroll event).
2306         * public/v3/models/measurement-set.js:
2307         (MeasurementSet.prototype.hasFetchedRange): Fixed various bugs revealed by the new use in fetchMeasurementSets.
2308         * public/v3/pages/chart-pane-status-view.js:
2309         (ChartPaneStatusView.prototype._updateRevisionListForNewCurrentRepository): Removed the dead code. It was probably
2310         copied from when this code was in InteractiveTimeSeries chart. There is no this._forceRender in this component.
2311         * public/v3/pages/dashboard-page.js:
2312         (DashboardPage.prototype.render): Enqueue charts to render. 
2313         * public/v3/pages/heading.js:
2314         (SummaryPage.prototype.open): Removed the call to isElementInViewport. This wasn't really doing anything useful in
2315         this component.
2316         * unit-tests/measurement-set-tests.js: Added tests for hasFetchedRange.
2317         (.waitForMeasurementSet): Moved to be used in a newly added test case.
2318
2319 2016-07-09  Ryosuke Niwa  <rniwa@webkit.org>
2320
2321         REGRESSION: manifest.json generation takes multiple seconds on perf dashboard
2322         https://bugs.webkit.org/show_bug.cgi?id=159596
2323
2324         Reviewed by Chris Dumez.
2325
2326         The most of CPU time was spent looking for a duplicate entry in an array of metrics by array_search.
2327         This patch moves to postgres by using aggregate functions in the query. Also moved the code to convert
2328         datetime to UNIX epoch timestamp from PHP to within postgres query.
2329
2330         These improvements reduce total runtime of Manifest::generate from ~4s to ~350ms on my machine.
2331
2332         * public/include/manifest.php:
2333         (Manifest::generate): No longer fetches test_configurations table as this is done in Manifest::platforms now.
2334         Also moved calls to each method in the class to separate lines for easier instrumentation.
2335         (Manifest::platforms): Group test configurations (current, baseline, target) by platform and metric.
2336         Use the max of the last modified dates in UNIX epoch timestamps (ms to be compatible with JS's representation).
2337         A given platform, metric pair is considered to be in the v1 dashboard if any test configuration is in.
2338
2339 2016-07-08  Ryosuke Niwa  <rniwa@webkit.org>
2340
2341         bundle-v3-scripts.py should compress HTML/CSS templates
2342         https://bugs.webkit.org/show_bug.cgi?id=159582
2343
2344         Reviewed by Joseph Pecoraro.
2345
2346         Strip leading and trailing whitespaces from HTML and CSS templates. This is a 8% progression on the file size.
2347
2348         * Install.md: Updated the list of MIME types to apply deflate for newer versions of Apache.
2349         * tools/bundle-v3-scripts.py:
2350         (main):
2351         (compress_template): Added.
2352
2353 2016-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2354
2355         Build fix. Strip out "use strict" everywhere so that the perf dashboard works on the shipping Safari.
2356
2357         * tools/bundle-v3-scripts.py:
2358         (main):
2359
2360 2016-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2361
2362         Invalid token error when trying to create an A/B analysis for a range
2363         https://bugs.webkit.org/show_bug.cgi?id=158679
2364
2365         Reviewed by Chris Dumez.
2366
2367         The problem in this particular case was due to another website overriding cookies for our subdomain.
2368         Make PrivilegedAPI robust against its token becoming invalid in general to fix the bug since the cookie
2369         is only available under /privileged-api/ and the v3 UI can't access it for security reasons.
2370
2371         This patch factors out PrivilegedAPI out of remote.js so that it can be tested separately in server tests
2372         as well as unit tests even though RemoteAPI itself is implemented differently in each case.
2373
2374         * init-database.sql: Added a forgotten default value "false" to run_marked_outlier.
2375         * public/v3/index.html:
2376         * public/v3/privileged-api.js: Added. Extracted out of public/v3/remote.js.
2377         (PrivilegedAPI.sendRequest): Fixed the bug. When the initial request fails with "InvalidToken" error,
2378         re-generate the token and re-issue the request.
2379         (PrivilegedAPI.requestCSRFToken):
2380         * public/v3/remote.js:
2381         (RemoteAPI.postJSON): Added to match tools/js/remote.js.
2382         (RemoteAPI.postJSONWithStatus): Ditto.
2383         (PrivilegedAPI): Moved to privileged-api.js.
2384         * server-tests/api-measurement-set-tests.js: Removed the unused require for crypto.
2385         * server-tests/privileged-api-upate-run-status.js: Added tests for /privileged-api/update-run-status.
2386         * server-tests/resources/test-server.js:
2387         (TestServer.prototype.inject): Clear the cookies as well as tokens in PrivilegedAPI.
2388         * tools/js/remote.js:
2389         (RemoteAPI): Added the support for PrivilegedAPI by making cookie set by the server persist.
2390         (RemoteAPI.prototype.clearCookies): Added for tests.
2391         (RemoteAPI.prototype.postJSON): Make sure sendHttpRequest always sends a valid JSON.
2392         (RemoteAPI.prototype.postJSONWithStatus): Added since this API is used PrivilegedAPI.
2393         (RemoteAPI.prototype.sendHttpRequest): Retain the cookie set by the server and send it back in each request.
2394         * tools/js/v3-models.js:
2395         * unit-tests/privileged-api-tests.js: Added unit tests for PrivilegedAPI.
2396         * unit-tests/resources/mock-remote-api.js:
2397         (MockRemoteAPI.postJSON): Added for unit testing.
2398         (MockRemoteAPI.postJSONWithStatus): Ditto.
2399
2400 2016-06-13  Ryosuke Niwa  <rniwa@webkit.org>
2401
2402         /admin/tests is very slow
2403         https://bugs.webkit.org/show_bug.cgi?id=158682
2404
2405         Reviewed by Chris Dumez.
2406
2407         The slowness came from TestNameResolver::__construct, which was fetching the entire table of test_configurations,
2408         which at this point contains more than 32,000 rows. Don't fetch the entire table in the constructor. Instead,
2409         fetch a subset of rows as needed in configurations_for_metric_and_platform. Even though this results in many SQL
2410         queries being issued, that's a lot more efficient in practice because we only fetch a few dozen rows in practice.
2411
2412         Also removed a whole bunch of features from /admin/tests to simplify the page. In particular, the ability to update
2413         the list of triggerables has been removed now that sync-buildbot.js automatically updates that for us. This removed
2414         the last use of test_exists_on_platform, which was also dependent on fetching test_configurations upfront.
2415
2416         * public/admin/tests.php:
2417         * public/include/test-name-resolver.php:
2418         (TestNameResolver::__construct): Don't fetch the entire table of test_configurations.
2419         (TestNameResolver::configurations_for_metric_and_platform): Just issue a SQL query for the specified platform and metric.
2420         (TestNameResolver::test_exists_on_platform): Removed.
2421
2422 2016-06-08  Ryosuke Niwa  <rniwa@webkit.org>
2423
2424         sync-buildbot.js should update the list of tests and platforms associated with a triggerable
2425         https://bugs.webkit.org/show_bug.cgi?id=158406
2426
2427         Reviewed by Chris Dumez.
2428
2429         Add /api/update-triggerable and a test for it, which were supposed to be added in r201718
2430         but for which I forgot to run svn add.
2431
2432         * public/api/update-triggerable.php: Added.
2433         (main):
2434         * server-tests/api-update-triggerable.js: Added.
2435
2436 2016-06-07  Ryosuke Niwa  <rniwa@webkit.org>
2437
2438         Build fix after r201739. attachShadow was throwing an exception on this component.
2439
2440         * public/v3/pages/analysis-category-toolbar.js:
2441         (AnalysisCategoryToolbar):
2442
2443 2016-06-06  Ryosuke Niwa  <rniwa@webkit.org>
2444
2445         sync-buildbot.js should update the list of tests and platforms associated with a triggerable
2446         https://bugs.webkit.org/show_bug.cgi?id=158406
2447         <rdar://problem/26185737>
2448
2449         Reviewed by Darin Adler.
2450
2451         Added /api/update-triggerable to update the list of configurations (platform and test pairs)
2452         associated with a given triggerable, and make sync-buildbot.js use this JSON API before each
2453         syncing cycle so that the association gets updated automatically by simply updating the JSON.
2454
2455         * server-tests/api-manifest.js: Use const for imported modules.
2456         * server-tests/api-report-commits-tests.js: Removed unnecessary importing of crypto.
2457         * server-tests/resources/mock-data.js:
2458         (MockData.someTestId): Added.
2459         (MockData.somePlatformId): Added.
2460         (MockData.addMockData):
2461         * server-tests/tools-buildbot-triggerable-tests.js: Use const for imported modules. Also added
2462         a test for BuildbotTriggerable's updateTriggerable.
2463         * tools/js/buildbot-triggerable.js:
2464         (BuildbotTriggerable.prototype.updateTriggerable): Added. Find the list of all configurations
2465         associated with this triggeerable and post it to /api/update-triggerable.
2466         * tools/js/database.js: Added triggerable_configurations to the list of tables.
2467         * tools/js/remote.js:
2468         (RemoteAPI.prototype.postJSON): Print the whole response when JSON parsing fails for debugging.
2469         * tools/sync-buildbot.js:
2470         (syncLoop): Call BuildbotTriggerable's updateTriggerable before syncing.
2471
2472 2016-06-02  Ryosuke Niwa  <rniwa@webkit.org>
2473
2474         Build fix after r201564.
2475
2476         * public/v3/pages/analysis-category-page.js:
2477         (AnalysisCategoryPage.prototype.updateFromSerializedState):
2478         * public/v3/pages/create-analysis-task-page.js:
2479         (CreateAnalysisTaskPage.prototype.updateFromSerializedState):
2480         (CreateAnalysisTaskPage.prototype.render):
2481
2482 2016-05-31  Ryosuke Niwa  <rniwa@webkit.org>
2483
2484         v3 UI should support marking and unmarking outliers as well as hiding them
2485         https://bugs.webkit.org/show_bug.cgi?id=158248
2486
2487         Rubber-stamped by Chris Dumez.
2488
2489         Added the support for marking and unmarking a sequence of points as outliers. Unlike v2, we now support marking
2490         multiple points as outliers in a single click. Also fixed a bug that outliers are never explicitly hidden in v3 UI.
2491
2492         This patch splits ChartStyles.createChartSourceList into two functions: resolveConfiguration and createSourceList
2493         to separate the work of resolving platform and metric IDs to their respective model objects, and creating a source
2494         list used by TimeSeriesChart to fetch measurement sets. createSourceList is called again when filtering options are
2495         changed.
2496
2497         It also adds noCache option to TimeSeriesChart's fetchMeasurementSets, MeasurementSet's fetchBetween and
2498         _fetchPrimaryCluster to update the measurement sets after marking or unmarking points as outliers. In addition, it
2499         fixes a bug that the annotation bars for analysis tasks are not updated in charts page after creating an analysis
2500         task by adding noCache option to ChartPaneBase's fetchAnalysisTasks, AnalysisTask's fetchByPlatformAndMetric and
2501         _fetchSubset.
2502
2503         Finally, this patch splits ChartPane._makeAnchorToOpenPane into _makePopoverActionItem, _makePopoverOpenOnHover and
2504         _setPopoverVisibility for clarity.
2505
2506         * public/v3/components/chart-pane-base.js:
2507         (ChartPaneBase): Added _disableSampling and _showOutliers as instance variables.
2508         (ChartPaneBase.prototype.configure):
2509         (ChartPaneBase.prototype.isSamplingEnabled): Added.
2510         (ChartPaneBase.prototype.setSamplingEnabled): Added. When a filtering option is updated, recreate the source list
2511         so that TimeSeriesChart.setSourceList can re-fetch the measurement set JSONs.
2512         (ChartPaneBase.prototype.isShowingOutliers): Added.
2513         (ChartPaneBase.prototype.setShowOutliers): Added. Ditto for calling _updateSourceList.
2514         (ChartPaneBase.prototype._updateSourceList): Added.
2515         (ChartPaneBase.prototype.fetchAnalysisTasks): Renamed from _fetchAnalysisTasks. Now takes noCache as an argument
2516         instead of platform and metric IDs since they're on instance variables.
2517
2518         * public/v3/components/chart-styles.js:
2519         (ChartStyles.resolveConfiguration): Renamed from createChartSourceList. Just resolves platform and metric IDs.
2520         (ChartStyles.createSourceList): Extracted from createChartSourceList since it needs to be called when a filtering
2521         option is changed as well as when ChartPaneBase.prototype.configure is called.
2522         (ChartStyles.baselineStyle): Now takes filtering options.
2523         (ChartStyles.targetStyle): Ditto.
2524         (ChartStyles.currentStyle): Ditto.
2525
2526         * public/v3/components/interactive-time-series-chart.js:
2527         (InteractiveTimeSeriesChart.prototype.currentPoint): Find the point in _fetchedTimeSeries when
2528         _sampledTimeSeriesData hasn't been computed yet as a fallback (e.g. when the chart hasn't been rendered yet).
2529         (InteractiveTimeSeriesChart.prototype.selectedPoints): Added.
2530         (InteractiveTimeSeriesChart.prototype.firstSelectedPoint): Added.
2531         (InteractiveTimeSeriesChart.prototype.lockedIndicator): Added. Returns the current point if it's locked.
2532
2533         * public/v3/components/time-series-chart.js:
2534         (TimeSeriesChart.prototype.setDomain):
2535         (TimeSeriesChart.prototype.setSourceList): Added. Re-create _fetchedTimeSeries when filtering options have changed.
2536         Don't re-fetch measurement set JSONs here since showing outliers can be done entirely in the front end.
2537         (TimeSeriesChart.prototype.fetchMeasurementSets): Extracted out of setDomain. Now takes noCache as an argument.
2538         ChartPane._markAsOutlier
2539         (TimeSeriesChart.prototype.firstSampledPointBetweenTime): Added.
2540
2541         * public/v3/models/analysis-task.js:
2542         (AnalysisTask.fetchByPlatformAndMetric): Added noCache as an argument.
2543         (AnalysisTask._fetchSubset): Ditto.
2544
2545         * public/v3/models/measurement-adaptor.js:
2546         (MeasurementAdaptor.prototype.isOutlier): Added.
2547         (MeasurementAdaptor.prototype.applyToAnalysisResults): Add markedOutlier as a property on each point.
2548
2549         * public/v3/models/measurement-cluster.js:
2550         (MeasurementCluster.prototype.addToSeries): Fixed the bug that filtering outliers was broken as _markedOutlierIndex
2551         is undefined here. Use MeasurementAdaptor's isOutlier instead.
2552
2553         * public/v3/models/measurement-set.js:
2554         (MeasurementSet.prototype.fetchBetween): Added noCache as an argument. Reset _primaryClusterPromise and _allFetches
2555         when noCache is true since we need to re-fetch the primary cluster as well as all secondary clusters now.
2556         (MeasurementSet.prototype._fetchPrimaryCluster): Added noCache as an argument. Directly invoke the JSON API at
2557         /api/measurement-set to re-generate all clusters' JSON files instead of first fetching the cached version.
2558         (MeasurementSet.prototype._fetchSecondaryCluster):
2559         (MeasurementSet.prototype._didFetchJSON): Removed a bogus assertion since this function is called on secondary
2560         clusters as well as primary clusters.
2561         (MeasurementSet.prototype._addFetchedCluster): Reimplemented this function using an insertion sort. Also remove the
2562         existing entry if the fetch cluster should replace it.
2563
2564         * public/v3/models/time-series.js:
2565         (TimeSeries.prototype.dataBetweenPoints): Removed the dead code to filter out outliers. This is done in addToSeries
2566         of MeasurementCluster instead.
2567
2568         * public/v3/pages/chart-pane.js:
2569         (ChartPane): Renamed pane to popover since it was confusing to have a pane inside a pane class. As such, renamed
2570         _paneOpenedByClick to _lockedPopover.
2571         (ChartPane.prototype.serializeState): Added the code to serialize filtering options in the serialized state URL.
2572         (ChartPane.prototype.updateFromSerializedState): Ditto for parsing.
2573         (ChartPane.prototype._analyzeRange): Extracted out of render(). Also fixed a bug that the charts page don't show
2574         the newly created analysis task by invoking fetchAnalysisTasks with noCache set to true.
2575         (ChartPane.prototype._markAsOutlier): Added.
2576         (ChartPane.prototype._renderActionToolbar): A bunch of changes due to pane -> popover rename. Also added a popover
2577         for filtering options.
2578         (ChartPane.prototype._makePopoverActionItem): Extracted from _makeAnchorToOpenPane.
2579         (ChartPane.prototype._makePopoverOpenOnHover): Ditto.
2580         (ChartPane.prototype._setPopoverVisibility): Ditto.
2581         (ChartPane.prototype._renderFilteringPopover): Added.
2582         (ChartPane.htmlTemplate): Added a popover for specifying filtering options. Also added .popover on each popover.
2583         (ChartPane.cssTemplate): Updated the style to make use of .popover.
2584
2585         * public/v3/pages/charts-page.js:
2586         (ChartsPage.prototype.graphOptionsDidChange): Added. Updates the URL state when a filtering option is modified.
2587
2588         * public/v3/pages/dashboard-page.js:
2589         (DashboardPage.prototype._createChartForCell):
2590
2591         * public/v3/pages/page-router.js:
2592         (PageRouter.prototype._serializeHashQueryValue): Serialize a set of strings as | separated tokens.
2593         (PageRouter.prototype._deserializeHashQueryValue): Rewrote the function as the serialized URL can no longer be
2594         parsed as a JSON as | separated tokens can't be converted into a valid JSON construct with a simple regex.
2595
2596         * unit-tests/measurement-set-tests.js: Added a test case for fetchBetween with noCache=true.
2597
2598 2016-05-24  Ryosuke Niwa  <rniwa@webkit.org>
2599
2600         Another build fix after r201307.
2601
2602         * public/v3/pages/page-router.js:
2603         (PageRouter.prototype._deserializeHashQueryValue):
2604         (PageRouter.prototype._countOccurrences): Moved from _deserializeHashQueryValue.
2605
2606 2016-05-23  Ryosuke Niwa  <rniwa@webkit.org>
2607
2608         Build fix after r201307.
2609
2610         * public/v3/pages/chart-pane.js:
2611         (ChartPane.prototype.serializeState):
2612
2613 2016-05-23  Ryosuke Niwa  <rniwa@webkit.org>
2614
2615         Some applications truncates the last closing parenthesis in perf dashboard URL
2616         https://bugs.webkit.org/show_bug.cgi?id=157976
2617
2618         Reviewed by Tim Horton.
2619
2620         Unfortunately, different applications use different heuristics to determine the end of each URL. Two trailing
2621         parentheses, for example, is just fine in Radar as well as Apple Mail if the URL is short enough. Using other
2622         characters such as ] and } wouldn't work either because they would be %-escaped. At that point, we might as well
2623         as %-escape everything.
2624
2625         Work around the bug by parsing the URL as if it had one extra ')' if the parsing had failed. Also shorten the charts
2626         page's URL by avoid emitting "-null" for each pane when the pane doesn't have a currently selected point or selection.
2627         This improves the odds of the entire URL being recognized by various applications.
2628
2629         We could, in theory, implement some sort of a URL shorter but that can wait until when we support real user accounts.
2630
2631         * public/v3/pages/chart-pane.js:
2632         (ChartPane.prototype.serializeState): Don't serialize the selection or the current point if nothing is selected.
2633         * public/v3/pages/page-router.js:
2634         (PageRouter.prototype._deserializeHashQueryValue): Try parsing the value again with one extra ] at the end if
2635         the JSON parsing had failed.
2636
2637 2016-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2638
2639         Perf dashboard "Add pane" should list first by test, then by machine
2640         https://bugs.webkit.org/show_bug.cgi?id=157880
2641
2642         Reviewed by Stephanie Lewis.
2643
2644         Reversed the order which tests and platforms are selected. Also split .pane-selector-container into #tests and
2645         #platform for the ease of DOM node manipulations.
2646
2647         * public/v3/components/pane-selector.js:
2648         (PaneSelector):
2649         (PaneSelector.prototype._renderPlatformList): Renamed from _renderPlatformLists since there is a single list
2650         for platforms. This list now disappears while a non-metric item is selected in the collection of test lists.
2651         e.g. "Speedometer" instead of its "Score" metric. Remember the last metric we rendered to avoid churning.
2652         (PaneSelector.prototype._renderTestLists): Render the top level tests once. The index of lists have been
2653         decreased by one since test lists are now inside #tests instead of appearing after the platform list.
2654         (PaneSelector.prototype._buildTestList): Don't filter tests since platform is chosen after tests now.
2655         (PaneSelector.prototype._replaceList):
2656         (PaneSelector.prototype._selectedItem): Don't reset the test path (specifies which subtest or metric is picked)
2657         when a platform is selected since it happens after a test metric is chosen now.
2658         (PaneSelector.prototype._clickedItem): Add a pane when a platform is clicked, not when a metric is clicked.
2659         (PaneSelector.cssTemplate):
2660
2661 2016-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2662
2663         Analysis task should look for a git commit based on abridged hashes
2664         https://bugs.webkit.org/show_bug.cgi?id=157877
2665         <rdar://problem/26254374>
2666
2667         Reviewed by Chris Dumez.
2668
2669         Made /privileged-api/associate-commit look for commits using LIKE instead of an exact match.
2670         Associate the commit when there is exactly one match.
2671
2672         * public/include/commit-log-fetcher.php:
2673         (CommitLogFetcher::fetch_between):
2674         * public/include/db.php:
2675         (Database::escape_for_like): Extracted from CommitLogFetcher::fetch_between.
2676         * public/privileged-api/associate-commit.php:
2677         (main): Look for the commits using LIKE. Reject whenever there are multiple commits. We limit the number of
2678         matches to two for performance when the user specifies something that almost thousands of commits: e.g. "1".
2679         * public/v3/pages/analysis-task-page.js:
2680         (AnalysisTaskPage.prototype._associateCommit): Added human friendly error messages for mismatching commits.
2681
2682 2016-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2683
2684         Unreviewed build fix. Use --date-order so that every child commit appears after its parent.
2685         Otherwise we'll hit a FailedToFindParentCommit error while submitting a commit that appears before its parent.
2686
2687         * tools/sync-commits.py:
2688         (GitRepository._fetch_all_hashes):
2689
2690 2016-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2691
2692         Removed the erroneously committed debug code.
2693
2694         * tools/sync-commits.py:
2695         (GitRepository.fetch_commit):
2696
2697 2016-05-18  Ryosuke Niwa  <rniwa@webkit.org>
2698
2699         Perf dashboard should have a script to sync git commits
2700         https://bugs.webkit.org/show_bug.cgi?id=157867
2701
2702         Reviewed by Chris Dumez.
2703
2704         Added the support to pull from a Git repo to pull-svn.py and renamed it to sync-commits.py.
2705
2706         Added two classes SVNRepository and GitRepository which inherits from an abstract class, Repository.
2707         The code that fetches commit and format revision number / git hash is specialized in each.
2708
2709         * Install.md:
2710         * tools/pull-svn.py: Removed.
2711         * tools/sync-commits.py: Renamed from Websites/perf.webkit.org/tools/pull-svn.py.
2712         (main): Renamed --svn-config-json to --repository-config-json. Also made it robust against exceptions
2713         inside fetch_commits_and_submit of each Repository class.
2714         (load_repository): A factory function for SVNRepository and GitRepository.
2715         (Repository): Added.
2716         (Repository.__init__): Added.
2717         (Repository.fetch_commits_and_submit): Extracted from standalone fetch_commits_and_submit.
2718         (Repository.fetch_commit): Added. Implemented by a subclass.
2719         (Repository.format_revision): Ditto.
2720         (Repository.determine_last_reported_revision): Extracted from alonealone
2721         determine_first_revision_to_fetch. The fallback to use "oldest" has been moved to SVNRepository's
2722         fetch_commit since it doesn't work in Git.
2723         (Repository.fetch_revision_from_dasbhoard): Extracted from fetch_revision_from_dasbhoard.
2724         (SVNRepository): Added.
2725         (SVNRepository.__init__): Added.
2726         (SVNRepository.fetch_commit): Extracted from standalone fetch_commit_and_resolve_author and fetch_commit.
2727         (SVNRepository._resolve_author_name): Renamed from resolve_author_name_from_account.
2728         (SVNRepository.format_revision): Added.
2729         (GitRepository): Added.
2730         (GitRepository.__init__):
2731         (GitRepository.fetch_commit): Added. Fetches the list of all git hashes if needed, and finds the next hash.
2732         (GitRepository._find_next_hash): Added. Finds the first commit that appears after the specified hash.
2733         (GitRepository._fetch_all_hashes): Added. Gets the list of all git hashs chronologically (old to new).
2734         (GitRepository._run_git_command): Added.
2735         (GitRepository.format_revision): Added. Use the first 8 characters of the hash.
2736
2737 2016-05-17  Ryosuke Niwa  <rniwa@webkit.org>
2738
2739         Add a subtitle under platform name in the summary page
2740         https://bugs.webkit.org/show_bug.cgi?id=157809
2741
2742         Reviewed by Chris Dumez.
2743
2744         Add a description beneath the platform names.
2745
2746         * public/v3/pages/summary-page.js:
2747         (SummaryPage.prototype._constructTable): Add a br and a span if subtitle is present.
2748         (SummaryPage.cssTemplate): Added CSS rules for .subtitle.
2749
2750 2016-05-13  Ryosuke Niwa  <rniwa@webkit.org>
2751
2752         v3 UI shows full git hash instead of the first 8 characters for a blame range
2753         https://bugs.webkit.org/show_bug.cgi?id=157691
2754
2755         Reviewed by Stephanie Lewis.
2756
2757         Fixed the bug that v3 UI shows the full 40 character git hash instead of the first 8 character as done in v2 UI.
2758
2759         * public/v3/models/commit-log.js:
2760         (CommitLog.prototype.diff): Fixed the bug.
2761         * tools/run-tests.py:
2762         (main): Add the support for running a subset of tests as mocha does.
2763         * unit-tests/commit-log-tests.js: Added.
2764
2765 2016-05-13  Ryosuke Niwa  <rniwa@webkit.org>
2766
2767         Unreviewed. Added the missing executable bits.
2768
2769         * tools/bundle-v3-scripts.py: Added property svn:executable.
2770         * tools/detect-changes.js: Added property svn:executable.
2771         * tools/process-maintenance-backlog.py: Added property svn:executable.
2772
2773 2016-05-13  Ryosuke Niwa  <rniwa@webkit.org>
2774
2775         Summary page doesn't report some missing platforms
2776         https://bugs.webkit.org/show_bug.cgi?id=157670
2777
2778         Reviewed by Darin Adler.
2779
2780         This patch improves the warning text for missing platforms and fixes the bug that platforms that don't have
2781         any data reported for a given test would not be reported as missing.
2782
2783         * public/v3/pages/summary-page.js:
2784         (SummaryPage.prototype.render): Added instrumentations.
2785         (SummaryPage.prototype._constructRatioGraph): Always create both the ratio bar graph and the spinner icon.
2786         (SummaryPage.prototype._renderCell): Extracted from _constructRatioGraph. Toggle the displayed-ness of the
2787         spinner and the ratio bar graph in the cell by CSS for better performance.
2788         (SummaryPage.prototype._warningTextForGroup): Extracted from _constructRatioGraph. Rephrased warning text
2789         for clarity and adopted new API of SummaryPageConfigurationGroup.
2790         (SummaryPage.prototype._warningTextForGroup.mapAndSortByName): Added.
2791         (SummaryPage.prototype._warningTextForGroup.pluralizeIfNeeded): Added.
2792         (SummaryPage.cssTemplate): Added rules to toggle the visibility of spinner icons and bar graphs.
2793         (SummaryPageConfigurationGroup): Replaced this._warnings by more explicitly named this._missingPlatforms
2794         and this._platformsWithoutBaseline. Also add a platform to this._missingPlatforms if it didn't appear in
2795         any metrics. Note that adding a platform whenever it doesn't in any one metric would be incorrect since
2796         some tests uses a different test name on different platforms: e.g. PLT-Mac and PLT-iPhone.
2797         (SummaryPageConfigurationGroup.prototype.missingPlatforms): Added.
2798         (SummaryPageConfigurationGroup.prototype.platformsWithoutBaseline): Added.
2799         (SummaryPageConfigurationGroup.prototype._fetchAndComputeRatio):
2800
2801 2016-05-13  Ryosuke Niwa  <rniwa@webkit.org>
2802
2803         Always use v3 UI for dashboards and analysis task pages
2804         https://bugs.webkit.org/show_bug.cgi?id=157647
2805
2806         Reviewed by Darin Adler.
2807
2808         Redirect dashboard pages from v1 and v2 to v3's summary page. Also redirect v1 UI's charts page and v2 UI's
2809         analysis task pages to the corresponding v3 pages.
2810
2811         Keep v2's charts page accessible since some features such as segmentation is still only available on v2 UI.
2812
2813         * public/index.html:
2814         (init.showCharts): Redirect to v3 UI once the chart list has been parsed.
2815         (init.redirectChartsToV3): Added.
2816         * public/v2/index.html:
2817
2818 2016-05-13  Ryosuke Niwa  <rniwa@webkit.org>
2819
2820         Show a spinner while fetching data on summary page
2821         https://bugs.webkit.org/show_bug.cgi?id=157658
2822
2823         Reviewed by Darin Adler.
2824
2825         Show a spinner while fetching JSON files on the summary page.
2826
2827         * public/v3/components/base.js:
2828         (ComponentBase.prototype.renderReplace): Added a new implementation that simply calls the static version.
2829         (ComponentBase.renderReplace): Made this static.
2830
2831         * public/v3/pages/summary-page.js:
2832         (SummaryPage.prototype._constructRatioGraph): Show a spinner icon when SummaryPageConfigurationGroup's
2833         isFetching returns true.
2834         (SummaryPage.cssTemplate): Force the height of each cell to be 2.5rem so that the height of cell doesn't
2835         change when a spinner is replaced by a ratio bar graph.
2836
2837         (SummaryPageConfigurationGroup): Added this._isFetching as an instance variable.
2838         (SummaryPageConfigurationGroup.prototype.isFetching): Added.
2839         (SummaryPageConfigurationGroup.prototype.fetchAndComputeSummary): Set this._isFetching while waiting for
2840         the promises to resolve after 50ms. We don't immediately set this._isFetching to avoid FOC when all JSON
2841         files have been cached.
2842
2843 2016-05-07  Ryosuke Niwa  <rniwa@webkit.org>
2844
2845         Add horizontal between categories of tests
2846         https://bugs.webkit.org/show_bug.cgi?id=157386
2847
2848         Reviewed by Darin Adler.
2849
2850         Wrap tests in each category by tbody and add a horizontal bar between each category.
2851
2852         * public/v3/pages/summary-page.js:
2853         (SummaryPage.prototype._constructTable):
2854         (SummaryPage.cssTemplate):
2855
2856 2016-05-04  Dewei Zhu  <dewei_zhu@apple.com>
2857
2858         Summary page should show warnings when current or baseline data is missing.
2859         https://bugs.webkit.org/show_bug.cgi?id=157339
2860
2861         Reviewed by Ryosuke Niwa.
2862
2863         Set summary page to be the default page of v3 UI.
2864         Show warning icon when either baseline or current data is missing.
2865         Make fetchBetween returns a promise.
2866         Update unit tests for MeasurementSet.fetchBetween since it returns a promise now.
2867         Add a workaround to skip some platform and metric configurations.
2868
2869         * public/v3/components/ratio-bar-graph.js:
2870         (RatioBarGraph):
2871         (RatioBarGraph.prototype.update): Add showWarningIcon flag to indicate whether we should show warning icon.
2872         (RatioBarGraph.prototype.render): Show warning icon when showWarningIcon is true.
2873         (RatioBarGraph.cssTemplate): Add style for warning icon.
2874         * public/v3/components/warning-icon.js: Add warning icon.
2875         (WarningIcon):
2876         (WarningIcon.cssTemplate):
2877         * public/v3/index.html:
2878         * public/v3/main.js:
2879         (main): Set summary page to be the default page of v3 UI.
2880         * public/v3/models/measurement-set.js:
2881         (MeasurementSet):
2882         (MeasurementSet.prototype.fetchBetween): Returns a promise. Fix the bug in previous implementation that we miss
2883         some callbacks sometimes. Basically, we will fetch primary cluster first, then secondary clusters. For each
2884         secondary cluster fetch, we will always invoke callback even when it fails.
2885         (MeasurementSet.prototype._fetchSecondaryClusters): Deleted.
2886         (MeasurementSet.prototype._fetch.else.url.api.measurement.set platform): Deleted.
2887         * public/v3/pages/summary-page.js:
2888         (SummaryPage): Add a variable for excluded configurations.
2889         (SummaryPage.prototype._createConfigurationGroup): Pass excluded configurations while building config groups.
2890         (SummaryPage.prototype._constructTable): Remove the logic for unified header since it breaks consistency of the table appearance.
2891         (SummaryPage.prototype.this._renderQueue.push): Show warning message when baseline/current data is missing.
2892         (SummaryPageConfigurationGroup): Add a variable to keep track of the warnings while computing summary.
2893         (SummaryPageConfigurationGroup.prototype.warnings): A getter for warnings.
2894         (SummaryPageConfigurationGroup._computeSummary): Fix a bug in calculating ratios. We should always use
2895         current/baseline for ratio and present the difference between ratio and 1 in the summary page.
2896         (SummaryPageConfigurationGroup.set then): Deleted.
2897         (SummaryPageConfigurationGroup.set var): Deleted.
2898         * unit-tests/measurement-set-tests.js: Add a helper function to wait for fetchBetween. Update unit tests since fetchBetween returns a promise now.
2899         (promise.set fetchBetween):
2900         (set MeasurementSet):
2901         (set fetchBetween): Deleted.
2902
2903 2016-04-26  Ryosuke Niwa  <rniwa@webkit.org>
2904
2905         Chart status should always be computed against prior values
2906         https://bugs.webkit.org/show_bug.cgi?id=157014
2907
2908         Reviewed by Darin Adler.
2909
2910         Compare the current value against the last baseline or target value that appear before the current value in time
2911         so that the comparison stay the same even when new baseline and target values are reported. Also include the compared
2912         baseline or target value in the label for clarity.
2913
2914         * public/v3/components/chart-status-view.js:
2915         (ChartStatusView.prototype._computeChartStatus):
2916         (ChartStatusView.prototype._computeChartStatus.labelForDiff):
2917         (ChartStatusView.prototype._findLastPointPriorToTime): Extracted from _relativeDifferenceToLaterPointInTimeSeries.
2918         Now finds the last point before the current point's time if there is any, or the last point in baseline / target.
2919         (ChartStatusView.prototype._relativeDifferenceToLaterPointInTimeSeries): Deleted.
2920         * public/v3/models/metric.js:
2921         (Metric.prototype.makeFormatter): Don't use SI units for unit-less metrics.
2922
2923 2016-04-13  Ryosuke Niwa  <rniwa@webkit.org>
2924
2925         REGRESSION(r199444): Perf dashboard always fetches all measurement sets
2926         https://bugs.webkit.org/show_bug.cgi?id=156534
2927
2928         Reviewed by Darin Adler.
2929
2930         The bug was cased by SummaryPage's constructor fetching all measurement sets. Since each page is always
2931         constructed in main(), this resulted in all measurement sets being fetched on all pages.
2932
2933         * public/v3/pages/summary-page.js:
2934         (SummaryPage):
2935         (SummaryPage.prototype.open): Fetch measurement set JSONs here.
2936         (SummaryPage.prototype._createConfigurationGroup): Renamed from _createConfigurationGroupAndStartFetchingData.
2937
2938 2016-04-12  Ryosuke Niwa  <rniwa@webkit.org>
2939
2940         Add a summary page to v3 UI
2941         https://bugs.webkit.org/show_bug.cgi?id=156531
2942
2943         Reviewed by Stephanie Lewis.
2944
2945         Add new "Summary" page, which shows the average difference (better or worse) from the baseline across
2946         multiple platforms and tests by a single number.
2947
2948         * public/include/manifest.php:
2949         (ManifestGenerator::generate): Include "summary" in manifest.json.
2950         * public/shared/statistics.js:
2951         (Statistics.mean): Added.
2952         (Statistics.median): Added.
2953         * public/v3/components/ratio-bar-graph.js: Added.
2954         (RatioBarGraph): Shows a horizontal bar graph that visualizes the relative difference (e.g. 3% better).
2955         (RatioBarGraph.prototype.update):
2956         (RatioBarGraph.prototype.render):
2957         (RatioBarGraph.cssTemplate):
2958         (RatioBarGraph.htmlTemplate):
2959         * public/v3/index.html:
2960         * public/v3/main.js:
2961         (main): Instantiate SummaryPage and add it to the navigation bar and the router.
2962         * public/v3/models/manifest.js:
2963         (Manifest._didFetchManifest): Let "summary" pass through from manifest.json to main().
2964         * public/v3/models/measurement-set.js:
2965         (MeasurementSet.prototype._failedToFetchJSON): Invoke the callback with an error or true in order for
2966         the callback can detect a failure.
2967         (MeasurementSet.prototype._invokeCallbacks): Ditto.
2968         * public/v3/pages/charts-page.js:
2969         (ChartsPage.createStateForConfigurationList): Added to add a hyperlink from summary page to charts page.
2970         * public/v3/pages/summary-page.js: Added.
2971         (SummaryPage): Added.
2972         (SummaryPage.prototype.routeName): Added.
2973         (SummaryPage.prototype.open): Added.
2974         (SummaryPage.prototype.render): Added.
2975         (SummaryPage.prototype._createConfigurationGroupAndStartFetchingData): Added.
2976         (SummaryPage.prototype._constructTable): Added.
2977         (SummaryPage.prototype._constructRatioGraph): Added.
2978         (SummaryPage.htmlTemplate): Added.
2979         (SummaryPage.cssTemplate): Added.
2980         (SummaryPageConfigurationGroup): Added. Represents a set of platforms and tests shown in a single cell.
2981         (SummaryPageConfigurationGroup.prototype.ratio): Added.
2982         (SummaryPageConfigurationGroup.prototype.label): Added.
2983         (SummaryPageConfigurationGroup.prototype.changeType): Added.
2984         (SummaryPageConfigurationGroup.prototype.configurationList): Added.
2985         (SummaryPageConfigurationGroup.prototype.fetchAndComputeSummary): Added.
2986         (SummaryPageConfigurationGroup.prototype._computeSummary): Added.
2987         (SummaryPageConfigurationGroup.prototype._fetchAndComputeRatio): Added. Invoked for each time series in
2988         the set, and stores the computed ratio of the current values to the baseline in this._setToRatio.
2989         The results are aggregated by _computeSummary as a single number later.
2990         (SummaryPageConfigurationGroup._medianForTimeRange): Added.
2991         (SummaryPageConfigurationGroup._fetchData): A thin wrapper to make MeasurementSet.fetchBetween promise
2992         friendly since MeasurementSet doesn't support Promise at the moment (but it should!).
2993         * server-tests/api-manifest.js: Updated a test case.
2994
2995 2016-04-12  Ryosuke Niwa  <rniwa@webkit.org>
2996
2997         Make sync-buildbot.js fault safe
2998         https://bugs.webkit.org/show_bug.cgi?id=156498
2999
3000         Reviewed by Chris Dumez.
3001
3002         Fixed a bug that sync-buildbot.js will continue to schedule build requests from multiple test groups
3003         if multiple test groups are simultaneously in-progress on the same builder. Also fixed a bug that if
3004         a build request had failed without leaving a trace (i.e. no entry on any of the builders we know of),
3005         sync-buildbot.js throws an exception.
3006
3007         * server-tests/tools-buildbot-triggerable-tests.js: Added test cases.
3008         * tools/js/buildbot-syncer.js:
3009         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Renamed. Optionally takes the slave name.
3010         When this parameter is specified, schedule the request only if the specified slave is available.
3011         * tools/js/buildbot-triggerable.js:
3012         (BuildbotTriggerable.prototype._scheduleNextRequestInGroupIfSlaveIsAvailable): Always use
3013         scheduleRequestInGroupIfAvailable to schedule a new build request. Using scheduleRequest for non-first
3014         build requests was problematic when there were multiple test groups with pending requests because then
3015         we would schedule those pending requests without checking whether there is already a pending job or if
3016         we have previously scheduled a job. Also fallback to use any syncer / builder when groupInfo.syncer is
3017         not set even if the next request was not the first one in the test group since we can't determine on
3018         which builder preceding requests are processed in such cases.
3019         * unit-tests/buildbot-syncer-tests.js:
3020
3021 2016-04-11  Ryosuke Niwa  <rniwa@webkit.org>
3022
3023         Replace script runner to use mocha.js tests
3024         https://bugs.webkit.org/show_bug.cgi?id=156490
3025
3026         Reviewed by Chris Dumez.
3027
3028         Replaced run-tests.js, which was a whole test harness for running legacy tests by tools/run-tests.py
3029         which is a thin wrapper around mocha.js.
3030
3031         * run-tests.js: Removed.
3032         * tests: Removed.
3033         * tools/run-tests.py: Added.
3034         (main):
3035
3036 2016-04-11  Ryosuke Niwa  <rniwa@webkit.org>
3037
3038         New syncing script sometimes schedules a build request on a wrong builder
3039         https://bugs.webkit.org/show_bug.cgi?id=156489
3040
3041         Reviewed by Stephanie Lewis.
3042
3043         The bug was caused by _scheduleNextRequestInGroupIfSlaveIsAvailable scheduling the next build request on
3044         any available syncer regardless of whether the request is the first one in the test group or not because
3045         BuildRequest.order was returning a string instead of a number.
3046
3047         Also fixed a bug that BuildbotTriggerable.syncOnce was re-ordering test groups by their id's instead of
3048         respecting the order in which the perf dashboard returned.
3049
3050         * public/v3/models/build-request.js:
3051         (BuildRequest.prototype.order): Force the order to be a number.
3052         * server-tests/api-build-requests-tests.js: Assert the order as numbers.
3053         * server-tests/resources/mock-data.js:
3054         (MockData.addAnotherMockTestGroup): Changed the test group id to 601, which is after the first mock data.
3055         The old number was masking a bug in BuildbotTriggerable that it was re-ordering test groups by their id's
3056         instead of using the order set forth by the perf dashboard.
3057         (MockData.mockTestSyncConfigWithSingleBuilder):
3058         * server-tests/tools-buildbot-triggerable-tests.js: Added a test case for scheduling two build requests in
3059         a single call to syncOnce. Each build request should be scheduled on the same builder as the previous build
3060         requests in the same test group.
3061         * tools/js/buildbot-triggerable.js:
3062         (BuildbotTriggerable.prototype.syncOnce): Order test groups by groupOrder, which is the index at which first
3063         build request in the group appeared.
3064         (BuildbotTriggerable.prototype._scheduleNextRequestInGroupIfSlaveIsAvailable): Don't re-order build requests
3065         as they're already sorted on the server side.
3066         (BuildbotTriggerable._testGroupMapForBuildRequests): Added groupOrder to test group info 
3067
3068 2016-04-09  Ryosuke Niwa  <rniwa@webkit.org>
3069
3070         Build fix. Don't treat a build number 0 as a pending build.
3071
3072         * tools/js/buildbot-syncer.js:
3073         (BuildbotBuildEntry.prototype.isPending):
3074
3075 2016-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3076
3077         Escape builder names in url* and pathFor* methods of BuildbotSyncer
3078         https://bugs.webkit.org/show_bug.cgi?id=156427
3079
3080         Reviewed by Darin Adler.
3081
3082         The build fix in r199251 breaks other usage of RemoteAPI. Fix it properly by escaping builder names in
3083         various methods of BuildbotSyncer.
3084
3085         Also fixed a typo in the logging and a bug that the new syncing script never updated "scheduled" to "running".
3086
3087         * server-tests/resources/mock-data.js:
3088         (MockData.mockTestSyncConfigWithTwoBuilders): Renamed "some-builder-2" to "some builder 2" to test the
3089         new escaping behavior in tools-buildbot-triggerable-tests.js and buildbot-syncer-tests.js.
3090
3091         * server-tests/tools-buildbot-triggerable-tests.js: Added tests for status url, and added a new test case
3092         for updating "scheduled" to "running".
3093
3094         * tools/js/buildbot-syncer.js:
3095         (BuildbotBuildEntry.buildRequestStatusIfUpdateIsNeeded): Update the status to "running" when the request's
3096         status is "scheduled" and the buildbot's build is currently in progress.
3097         (BuildbotSyncer.prototype.pathForPendingBuildsJSON): Escape the builder name.
3098         (BuildbotSyncer.prototype.pathForBuildJSON): Ditto.
3099         (BuildbotSyncer.prototype.pathForForceBuild): Ditto.
3100         (BuildbotSyncer.prototype.url): Ditto.
3101         (BuildbotSyncer.prototype.urlForBuildNumber): Ditto.
3102
3103         * tools/js/buildbot-triggerable.js:
3104         (BuildbotTriggerable.prototype._pullBuildbotOnAllSyncers):
3105         (BuildbotTriggerable.prototype._scheduleNextRequestInGroupIfSlaveIsAvailable): Fixed a typo. We are
3106         scheduling new build requests, not syncing them.
3107         * tools/js/remote.js:
3108         (RemoteAPI.sendHttpRequest): Reverted r199251.
3109         * unit-tests/buildbot-syncer-tests.js:
3110
3111 2016-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3112
3113         Build fix. We need to escape the path or http.request would fail.
3114
3115         * tools/js/remote.js:
3116
3117 2016-04-08  Ryosuke Niwa  <rniwa@webkit.org>
3118
3119         Fix various bugs in the new syncing script
3120         https://bugs.webkit.org/show_bug.cgi?id=156393
3121
3122         Reviewed by Darin Adler.
3123
3124         * server-tests/resources/common-operations.js: Added. This file was supposed to be added in r199191.
3125         (addBuilderForReport):
3126         (addSlaveForReport):
3127         (connectToDatabaseInEveryTest):
3128         (submitReport):
3129         * tools/js/buildbot-triggerable.js:
3130         (BuildbotTriggerable.prototype._pullBuildbotOnAllSyncers): Don't log every time we pull from buildbot
3131         builder as this dramatically increases the amount of log we generate.
3132         * tools/js/parse-arguments.js:
3133         (parseArguments): Fixed a typo. This should be parseArgument*s*, not parseArgument.
3134         * tools/js/remote.js:
3135         (RemoteAPI.prototype.url): Fixed a bug that portSuffix wasn't being expanded in the template literal.
3136         (RemoteAPI.prototype.configure): Added more validations with nice error messages.
3137         (RemoteAPI.prototype.sendHttpRequest): Falling back to port 80 isn't right when scheme is https. Compute
3138         the right port in configure instead based on the scheme.
3139         * tools/sync-buildbot.js:
3140         (syncLoop): Fixed the bug that syncing multiple times fail because Manifest.fetch() create new Platform
3141         and Test objects. This results in various references in BuildRequest objects to get outdated. Fixing this
3142         properly in Manifest.fetch() because we do need to "forget" about some tests and platforms in some cases.
3143         For now, delete all v3 model objects and start over in each syncing cycle.
3144         * unit-tests/tools-js-remote-tests.js: Added. Unit tests for the aforementioned changes to RemoteAPI.
3145
3146 2016-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3147
3148         sync-buildbot.js doesn't mark disappeared builds as failed
3149         https://bugs.webkit.org/show_bug.cgi?id=156386
3150
3151         Reviewed by Chris Dumez.
3152
3153         Fix a bug that new syncing script doesn't mark builds that it scheduled but doesn't appear when queried
3154         by buildbot's JSON API. These are builds that got canceled by humans (e.g. buildbot was restarted, data
3155         loss, pending build was canceled, etc...)
3156
3157         * server-tests/tools-buildbot-triggerable-tests.js: Added a test case.
3158         * tools/js/buildbot-triggerable.js:
3159         (BuildbotTriggerable.prototype._pullBuildbotOnAllSyncers): Added a set of build requests we've matched
3160         against BuildbotBuildEntry's. Mark build requests that didn't have any entry but supposed to be in either
3161         'scheduled' or 'running' status as failed.
3162
3163 2016-04-07  Ryosuke Niwa  <rniwa@webkit.org>
3164
3165         A/B testing bots should prioritize user created test groups
3166         https://bugs.webkit.org/show_bug.cgi?id=156375
3167
3168         Reviewed by Chris Dumez.
3169
3170         Order build requests preferring user created ones over ones automatically created by detect-changes.js.
3171
3172         Also fixed a bug in BuildbotSyncer.scheduleFirstRequestInGroupIfAvailable that it was scheduling a new
3173         build request on a builder/slave even when we had previously scheduled another build request.
3174