NewArray in FTLLowerDFGToB3 does not handle speculating on doubles when having a...
[WebKit-https.git] / Websites / perf.webkit.org / ChangeLog
1 2017-07-03  Ryosuke Niwa  <rniwa@webkit.org>
2
3         Fix a typo pointed out by Andreas Kling.
4
5         * public/v3/components/instant-file-uploader.js:
6         (InstantFileUploader.prototype._uploadFiles):
7         * public/v3/models/uploaded-file.js:
8         (UploadedFile.fetchUploadedFileWithIdenticalHash): Renamed from fetchUnloadedFileWithIdenticalHash.
9
10 2017-07-03  Ryosuke Niwa  <rniwa@webkit.org>
11
12         Add an admin page to manage uploaded files
13         https://bugs.webkit.org/show_bug.cgi?id=174089
14
15         Reviewed by Andreas Kling.
16
17         Add an admin page to see the disk usage per user as well as the total, and to prune any zombie files (ones marked
18         as deleted but aren't actually deleted in the filesystem).
19
20         * public/admin/files.php: Added.
21         (format_size): Added.
22         * public/include/admin-header.php:
23
24 2017-07-03  Ryosuke Niwa  <rniwa@webkit.org>
25
26         Roots uploaded by bots don't get author specified properly
27         https://bugs.webkit.org/show_bug.cgi?id=174087
28
29         Reviewed by Andreas Kling.
30
31         When a root file is uploaded from the bot, we manually specify the remote user to upload_file_in_transaction.
32         However, this was getting ignored by create_uploaded_file_from_form_data since it was always calling
33         remote_user_name to get the user name off of $_SERVER.
34
35         Fixed the bug by passing in the user name from upload_file_in_transaction to create_uploaded_file_from_form_data.
36
37         * public/include/uploaded-file-helpers.php:
38         (create_uploaded_file_from_form_data): Take the remote user as an argument instead of calling remote_user_name.
39         (upload_file_in_transaction):
40         * server-tests/api-upload-root-tests.js: Updated an existing test cases to make sure root files' author is set.
41         (createTestGroupWihPatch): Manually override the author of a test group for testing.
42
43 2017-07-03  Ryosuke Niwa  <rniwa@webkit.org>
44
45         Prune unused uploaded files when the file quota is reached
46         https://bugs.webkit.org/show_bug.cgi?id=174086
47
48         Reviewed by Andreas Kling.
49
50         Made /privileged-api/uploaded-file and /api/upload-root automatically delete old uploaded files when
51         uploading a new file results in the file quota to be exceeded. Also added the notion of the total quota
52         to avoid running out of a disk when there are hundreds of users each uploading near their quota.
53
54         * config.json: Added a sample total disk quota of 100GB.
55         * public/include/uploaded-file-helpers.php:
56         (query_file_usage_for_user): Renamed from query_total_file_size.
57         (query_total_file_usage): Added.
58         (upload_file_in_transaction):
59         (delete_file): Added.
60         (prune_old_files): Added.
61         * server-tests/privileged-api-upload-file-tests.js: Added tests for deleting old uploaded files as well as
62         tests for the total quota.
63         * server-tests/resources/test-server.js:
64         (TestServer.prototype.testConfig): Added uploadTotalQuotaInMB to the test configuration.
65
66 2017-06-29  Ryosuke Niwa  <rniwa@webkit.org>
67
68         UploadedFile should include the file extension in its url
69         https://bugs.webkit.org/show_bug.cgi?id=174009
70
71         Reviewed by Chris Dumez.
72
73         Some command line tools such as darwinup use the file extension to determine the file type.
74         Include the file extension in the URL of an uploaded file to make it work with these tools.
75
76         * public/include/uploaded-file-helpers.php:
77         (format_uploaded_file): Include the file extension.
78         * public/v3/models/uploaded-file.js:
79         (UploadedFile):
80         (UploadedFile.prototype.url): Return the URL with hthe file extension specified. /api/uploaded-file
81         already supports having the file extension specified.
82         * server-tests/tools-sync-buildbot-integration-tests.js: Updated test cases.
83         * unit-tests/buildbot-syncer-tests.js: Ditto.
84
85 2017-05-31  Ryosuke Niwa  <rniwa@webkit.org>
86
87         Don't shouldn't create a request to build a patch if there is no patch to build
88         https://bugs.webkit.org/show_bug.cgi?id=172791
89
90         Reviewed by Chris Dumez.
91
92         When a commit set doesn't have a patch specified, don't create a request to build. For example, when we're comparing
93         WebKit in the system to WebKit with a patch, there is nothing to build for the first commit set.
94
95         However, when conducting an A/B testing, it's advisible to compare WebKit built with and without a patch on a single
96         machine with the same version of Xcode, etc... For this reason, we still create a request to build for a commit set
97         if there is another commit set with a patch which uses the same repository group.
98
99         * public/privileged-api/create-test-group.php:
100         (main): Fixed the bug. Only create a build request to build if there is a matching repository group with a patch.
101         * server-tests/privileged-api-create-test-group-tests.js: Added a test case.
102
103 2017-05-31  Ryosuke Niwa  <rniwa@webkit.org>
104
105         Allow sync-buildbot.js to set a buildbot property only when patches are built
106         https://bugs.webkit.org/show_bug.cgi?id=172743
107
108         Rubber-stamped by Chris Dumez.
109
110         Added the ability to specify a buildbot property only when there are build requests to build a patch.
111
112         * tools/js/buildbot-syncer.js:
113         (BuildbotSyncer.prototype.scheduleRequest): Pass in the list of build requests that belong to the same test group.
114         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Ditto.
115         (BuildbotSyncer.prototype._propertiesForBuildRequest): Added the support for specifying a conditional property.
116         For the condition type of "built", we check if there was any other 
117         (BuildbotSyncer._parseRepositoryGroup): Added the support for "ifBuilt" conditional.
118
119         * tools/js/buildbot-triggerable.js:
120         (BuildbotTriggerable.prototype._scheduleRequestIfSlaveIsAvailable): Pass in the list of build requests that
121         belong to the same test group.
122         (BuildbotTriggerable.prototype._scheduleRequestWithLog): Ditto.
123
124         * unit-tests/buildbot-syncer-tests.js:  Added test case for newly added "ifBuilt" as well as specifying a patch.
125         Updated the various test cases per the addition of new argument to scheduleRequest, _propertiesForBuildRequest,
126         and scheduleRequestInGroupIfAvailable.
127         (createSampleBuildRequestWithPatch): Added.
128
129         * unit-tests/resources/mock-v3-models.js:
130         (MockModels.inject): Made "ios-svn-webkit" accept a WebKit patch and roots to allow new testing.
131
132 2017-05-30  Ryosuke Niwa  <rniwa@webkit.org>
133
134         sync-builedbot.js fails to schedule the second request to test with a patch
135         https://bugs.webkit.org/show_bug.cgi?id=172701
136
137         Reviewed by Antti Koivisto.
138
139         The bug was caused by an assertion failure in BuildbotTriggerable's _pullBuildbotOnAllSyncers failing to
140         take into account that for a test group with a patch could be associated with two syncers, one to build
141         a patch and another to run tests. Fixed the bug by differentiating the two types of syncers by buildSyncer
142         and testSyncer per test group.
143
144         * server-tests/tools-sync-buildbot-integration-tests.js: Extended a test case so that it would hit the
145         assertion without the fix.
146
147         * tools/js/buildbot-triggerable.js:
148         (BuildbotTriggerable.prototype.syncOnce): Use the right kind of the syncer to schedule a build or a test.
149         (BuildbotTriggerable.prototype._pullBuildbotOnAllSyncers): Associate a given syncer based on the kind of
150         the build request it processed, and assert accordingly.
151
152 2017-05-29  Ryosuke Niwa  <rniwa@webkit.org>
153
154         Fix UI glitches with a custom analysis test group with a patch
155         https://bugs.webkit.org/show_bug.cgi?id=172694
156
157         Reviewed by Sam Weinig.
158
159         Fix the following UI glitches with perf try bots:
160          - Retrying an A/B testing with a patch fails.
161          - A patch specified in an test group does not get specified in the configurator.
162          - Drag & dropping a patch doesn't work.
163          - Results for custom analysis tasks don't get shown.
164
165         * public/api/test-groups.php:
166         (main): Fix a bug that test group's platform does not match that of the request'ed platform. Since each test
167         group is associated with platform, just use that instead of querying test_configurations. This resulted in
168         the configurator not being able to find a triggerable in some cases.
169
170         * public/v3/components/custom-analysis-task-configurator.js:
171         (CustomAnalysisTaskConfigurator):
172         (CustomAnalysisTaskConfigurator.prototype.setCommitSets): Add patches in the commit set.
173         (CustomAnalysisTaskConfigurator.prototype._setUploadedFilesToUploader): Now clears the exiting uploaded files
174         Also renamed from _setUploadedFilesIfEmpty.
175         (CustomAnalysisTaskConfigurator.prototype._setPatchFiles): Added.
176         (CustomAnalysisTaskConfigurator.prototype.didConstructShadowTree): We no longer update the list of roots
177         for the comparsion when a new root is added to the baseline.
178         (CustomAnalysisTaskConfigurator.prototype._configureComparison): Copy over the list of patches and roots when
179         starting to configure the comparsion.
180
181         * public/v3/components/instant-file-uploader.js:
182         (InstantFileUploader.prototype.clear): Added.
183         (InstantFileUploader.prototype.didConstructShadowTree): Added event handlers for dragover & drop events to
184         allow specifying a patch and root using drag & drop. Unfortunately, this still doesn't work in WebKit due to
185         a bug in our shadow DOM implementation.
186         (InstantFileUploader.prototype._didFileInputChange):
187         (InstantFileUploader.prototype._uploadFiles): Extracted from _didFileInputChange.
188
189         * public/v3/pages/analysis-task-page.js:
190         (AnalysisTaskTestGroupPane.prototype.setAnalysisResults): No longer takes metric.
191         (AnalysisTaskTestGroupPane.cssTemplate): Removed unused rules. Also disallow flexing on the list of test groups
192         to avoid the name of a test froup from overflowing on top of the results pane.
193         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Set setAnalysisResults even when metric is not set
194         as is the case for a custom analysis task.
195         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Use createWithCustomConfiguration to allow retrying of
196         an A/B testing with a patch in a custom analysis task.
197         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
198
199 2017-05-26  Ryosuke Niwa  <rniwa@webkit.org>
200
201         Show patches applied in each A/B testing build requests
202         https://bugs.webkit.org/show_bug.cgi?id=172636
203
204         Reviewed by Antti Koivisto.
205
206         List patches applied along side revisions inn the list of revisions for an A/B tesing build requests if there
207         are any patches applied.
208
209         * public/v3/components/test-group-revision-table.js:
210         (TestGroupRevisionTable.prototype._renderTable): Indicate which request is to build a patch and which one is
211         to run tests.
212         (TestGroupRevisionTable.prototype._buildCommitCell): Include the patch file's information when there is one.
213         We need to use the requested commit set instead of the one reported by testers or builders since they don't
214         include patch or root information.
215         (TestGroupRevisionTable.prototype._buildCustomRootsCell):
216         (TestGroupRevisionTable.prototype._buildFileInfo): Extracted from _buildCustomRootsCell.
217
218 2017-05-26  Ryosuke Niwa  <rniwa@webkit.org>
219
220         The queue page is broke when there is a custom analysis task
221         https://bugs.webkit.org/show_bug.cgi?id=172631
222
223         Reviewed by Antti Koivisto.
224
225         Fix the bug that we were always assuming each build request to have a test associated.
226
227         * public/v3/models/test-group.js:
228         (TestGroup.createAndRefetchTestGroups): Fixed the bug that we were referring to a non-existent variable task.
229         * public/v3/pages/build-request-queue-page.js:
230         (BuildRequestQueuePage.prototype._constructBuildRequestTable): Fixed the bug. Collect every request in the group
231         and then find the first test request's test name. Make it clear that we're waiting for a build as needed.
232
233 2017-05-25  Ryosuke Niwa  <rniwa@webkit.org>
234
235         Syncing script shouldn't schedule a build request when there is a build from another test group in progress
236         https://bugs.webkit.org/show_bug.cgi?id=172577
237         <rdar://problem/32395049>
238
239         Reviewed by Chris Dumez.
240
241         When a buildbot master gets restarted while there is an in-progress build and a pending build, the master will
242         re-schedule the currently running build, and this can result in multiple build requests from different test
243         groups being scheduled simultaneously.
244
245         sync-buildbot.js was supposed to recover from this state by only processing build requests from one test group
246         at a time and eventually come back to a state where only a single test group is running per buildbot slave.
247
248         We had a test for this particular case but it wasn't testing what it claimed to test. Rewriten the test case
249         and fixed the bug by explicitly checking this condition and treating it as if there is a pending build already
250         scheduled in the builder in this case.
251
252         * public/api/test-groups.php:
253         (main): Fixed a regression from r217397. Return the platform ID of the first request when none of the requets
254         have been processed yet or all of them had failed.
255         * server-tests/tools-buildbot-triggerable-tests.js: Rewritten a test case intended to cover this bug.
256         (.assertRequestAndResolve): Added.
257         * tools/js/buildbot-syncer.js:
258         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Fixed the bug. Avoid scheduling a new request on
259         this syncer if there is a build in progress for a test group different from that of the new request. Reuse the
260         code we had to deal with a pending build for this purpose.
261
262 2017-05-24  Ryosuke Niwa  <rniwa@webkit.org>
263
264         Opening an analysis task from the queue page is broken
265         https://bugs.webkit.org/show_bug.cgi?id=172559
266         <rdar://problem/32389708>
267
268         Rubber-stamped by Chris Dumez.
269
270         Fix the bug that opening the analysis task page from the queue page results in multiple assertion failures
271         as well as the list of test groups in the analysis task page not getting updated.
272
273         * public/v3/models/build-request.js:
274         (BuildRequest.prototype.updateSingleton): Because /api/build-requests/ do not include test groups, it's
275         possible for testGroup to be dynamically updated upon loading an analysis task page. Update _testGroup in
276         such instances instead of asserting that it doesn't happen.
277
278         * public/v3/models/data-model.js:
279         (DataModelObject.cachedFetch): Because various code to create model objects from the result of a JSON API
280         modify the fetched content in irreversible manner, e.g. `object.platform = Platform.findById(object.platform)`
281         we must return a fresh new content each time even if the result had been cached.
282
283         * public/v3/models/test-group.js:
284         (TestGroup.prototype.platform): Return this._platform as that's not available.
285
286         * public/v3/pages/analysis-task-page.js:
287         (AnalysisTaskPage):
288         (AnalysisTaskPage.prototype._resetVariables): Extracted from the constructor.
289         (AnalysisTaskPage.prototype.updateFromSerializedState): Reset all instance variables when opening a new
290         analysis task page. This would avoid showing the stale result even when fetching new test groups had failed.
291
292         * unit-tests/test-groups-tests.js: Added a test case for fetching the same test group twice. This used to hit
293         a problem in BuildRequest.constructBuildRequestsFromData which overrode platform property of each raw content
294         with a Platform model object because in the case of a cached fetch, we end up trying to look up the platform
295         again using the result of stringifying the Platform object instead of the platform ID included in the original
296         fetched content.
297         (sampleTestGroup): Added "platform" as included in the JSON API's response now.
298
299 2017-05-24  Ryosuke Niwa  <rniwa@webkit.org>
300
301         The commit log viewer can overlap the analysis results viewer
302         https://bugs.webkit.org/show_bug.cgi?id=172534
303
304         Rubber-stamped by Chris Dumez.
305
306         Allocate the padding on the right for the commit log viewer, and add a horizontal scrollbar
307         to the analysis results viewer instead of letting it expand beneath the commit log viewer.
308
309         * public/v3/pages/analysis-task-page.js:
310         (AnalysisTaskResultsPane.htmlTemplate):
311         (AnalysisTaskResultsPane.cssTemplate):
312
313 2017-05-24  Ryosuke Niwa  <rniwa@webkit.org>
314
315         Sycning script build fix after r217378.
316
317         * tools/sync-buildbot.js:
318         (syncLoop):
319
320 2017-05-23  Ryosuke Niwa  <rniwa@webkit.org>
321
322         Add the support for perf try bots to sync-buildbot.js
323         https://bugs.webkit.org/show_bug.cgi?id=172529
324
325         Rubber-stamped by Chris Dumez.
326
327         Make sync-buildbot.js schedule an A/B testing job with a patch or roots to buildbot.
328
329         Change the buildbot property format in the syncing script's configuration again to use a dictionary
330         with a single key of "revision", "patch", or "roots" to specify a revision, a patch, or a set of roots,
331         and simplified the structure of the configuration by always having "types" and "builders", and
332         make each entry in "configurations" refer to a list of types, platforms, and builders.
333
334         Since now there are build requests to build patches and run tests, "configurations" has been renamed to
335         "testConfigurations" and "buildConfigurations" have been added. Each entry in "buildConfigurations"
336         specifies a list of platforms and builders. Similarly in repository group configurations, the buildbot
337         properties for testing is now specified as "testProperties" and ones for building a patch is specified
338         in newly introduced "buildProperties".
339
340         * public/api/build-requests.php:
341         (update_builds): When a build request to build a patch fails, mark all subsequent requests as failed
342         since there is no way to run tests without a successful build.
343
344         * public/api/update-triggerable.php:
345         (main): Re-generate manifest.json after updating the triggerable. The lack of this re-generation was
346         the reason we had to manually GET /api/manifest in api-update-triggerable-tests.js.
347
348         * public/v3/models/build-request.js:
349         (BuildRequest.prototype.hasCompleted): Added.
350
351         * public/v3/models/manifest.js:
352         (Manifest.reset): Added. Extracted from MockData.resetV3Models in unit-tests/mock-data.js and
353         syncLoop in tools/sync-buildbot.js
354         (Manifest.fetch): Reset V3 models before fetching the manifest. This eliminates the need to manually
355         reset V3 models in syncLoop.
356
357         * public/v3/models/uploaded-file.js:
358         (UploadedFile.prototype.url): Use RemoteAPI.url to get the full URL instead of just a path.
359
360         * public/v3/remote.js:
361         (BrowserRemoteAPI.prototype.url): Added. Constructs the full URL.
362
363         * server-tests/api-update-triggerable-tests.js:
364         (.refetchManifest): Deleted. Now that /api/manifest re-generates manifest.json, we can simply call
365         Manifest.fetch instead.
366
367         * server-tests/resources/mock-data.js:
368         (MockData.resetV3Models): Calls Manifest.reset().
369         (MockData.addMockConfiguration): Extracted from addMockData.
370         (MockData.addMockData): Updated per the format change.
371         (MockData.mockTestSyncConfigWithSingleBuilder): Ditto.
372         (MockData.mockTestSyncConfigWithTwoBuilders): Ditto.
373         (MockData.runningBuild): Make buildNumber specifiable.
374         (MockData.finishedBuild): Ditto.
375
376         * server-tests/tools-buildbot-triggerable-tests.js: Updated configurations per the format change.
377         Now that now acceptsCustomRoots() for "system-and-webkit" must be true since we can't have a
378         repository group that which accepts a patch and not take roots.
379
380         * server-tests/tools-sync-buildbot-integration-tests.js: Added.
381         (createTriggerable): Added.
382         (createTestGroupWihPatch): Added.
383         (uploadRoot): Added.
384         (.assertAndResolveRequest): Added.
385         (.assertTestBuildHasFailed): Added.
386
387         * tools/js/buildbot-syncer.js:
388         (BuildbotSyncer): Added. _type as an instance variable to identify whether this buildbot builder
389         is a "builder" which builds a patch, builder, or a "tester" which runs a test. Also renamed
390         _testConfigurations to _configurations.
391         (BuildbotSyncer.prototype.addTestConfiguration): Assert that either the type of this syncer hasn't
392         been set or it's a tester.
393         (BuildbotSyncer.prototype.testConfigurations): Return [] when it's a builder.
394         (BuildbotSyncer.prototype.addBuildConfiguration): Added. Adds a platform to a builder.
395         (BuildbotSyncer.prototype.buildConfigurations): Added. Returns the list of configurations if this
396         syncer is a builder. Otherwise returns [].
397         (BuildbotSyncer.prototype.isTester): Added.
398         (BuildbotSyncer.prototype.matchesConfiguration):
399         (BuildbotSyncer.prototype._propertiesForBuildRequest): Updated to support the new format.
400         (BuildbotSyncer._loadConfig): Ditto. Optionally parse buildConfigurations.
401         (BuildbotSyncer._resolveBuildersWithPlatforms): Added. For each test or build configuration entry,
402         creates the list of configurations per builder and platform.
403         (BuildbotSyncer._parseRepositoryGroup): Added the support for parsing the new format with revision,
404         roots, and patch option types with a lot of validations as we're seeing a bit of combinatorial
405         explosion in the number of things that can go wrong. Also parse buildProperties optionally.
406         (BuildbotSyncer._parseRepositoryGroupPropertyTemplate): Added. A helper function to parse a set of
407         buildbot properties, validates its content, and invokes a callback if it's an dynamically resolved
408         type such as "revision" and "patch".
409         (BuildbotSyncer._validateAndMergeConfig): Updated per the format change. No longer allows "types",
410         "type", "platforms", and "platform" as they're explicity resolved in _resolveBuildersWithPlatforms.
411
412         * tools/js/buildbot-triggerable.js:
413         (BuildbotTriggerable.prototype.syncOnce):
414         (BuildbotTriggerable.prototype._validateRequests): Handle the case when a build request is not
415         associated with any test.
416         (BuildbotTriggerable.prototype._nextRequestInGroup): Return null when there is a build request to
417         build a patch which has not been completed (pending, scheduled, running, or failed). Since all
418         requests to build a patch has a negative order, those requests should all show up at the beginning.
419         (BuildbotTriggerable.prototype._scheduleRequestIfSlaveIsAvailable): Pick a new buildbot syncer when
420         scheduling the first request to build a patch or the first request to run a test. The first request
421         to run a test will always have order of 0, so it's a sufficient condition to find such a request.
422         On the other hand, the first request to build a patch can have a negative order number so we must
423         explicitly check if it's the first item in the ordered list of requests in the test group.
424
425         * tools/remote-server-relay.log: Added.
426
427         * tools/sync-buildbot.js:
428         (syncLoop): Fixed a bug we were not re-fetching the triggerable after updating the triggerable so
429         that Triggerable and related objects we have in the memory may not reflect what we just synced to
430         the perf dashboard. Also, we don't reset V3 models manually any more since Manifest.fetch does that.
431
432         * unit-tests/buildbot-syncer-tests.js: Added more test cases and updated existing test cases to test
433         exception messages explicitly since allowing any exception was resulting in some tests passing a
434         result of unrelated parsing error being thrown, etc...
435         (sampleiOSConfig): Updated per the format change.
436         (sampleiOSConfigWithExpansions): Ditto.
437         (smallConfiguration): Ditto.
438
439 2017-05-22  Dewei Zhu  <dewei_zhu@apple.com>
440
441         Fix the bug that sometimes analysis task results pane is missing.
442         https://bugs.webkit.org/show_bug.cgi?id=172404
443
444         Reviewed by Ryosuke Niwa.
445
446         AnalysisTaskPage._didFetchTask and AnalaysisTaskPage._fetchRelatedInfoForTaskId should be called in order.
447         The race between those two functions causes the analysis task results pane sometimes missing.
448
449         * public/v3/components/analysis-results-viewer.js:
450         (AnalysisResultsViewer.prototype.render): Fix the bug in r217173 that commitSet can be undefined.
451         * public/v3/pages/analysis-task-page.js:
452         (AnalysisTaskPage.prototype.updateFromSerializedState): Use arrow function to get rid of self variable.
453         Use `const` instead of var for constant variable. And call _didFetchTask before calling _fetchRelatedInfoForTaskId.
454         (AnalysisTaskPage.prototype._renderTaskNameAndStatus):
455         (AnalysisTaskPage.cssTemplate):
456
457 2017-05-19  Ryosuke Niwa  <rniwa@webkit.org>
458
459         Add a commit log viewer next to the analysis results viewer
460         https://bugs.webkit.org/show_bug.cgi?id=172399
461
462         Reviewed by Chris Dumez.
463
464         Add a commit log viewer next to the analysis results viewer, which visualizes the A/B testing results.
465
466         Also linkify the revisions in the table that shows the status of each A/B testing job,
467         and allow the prefix of "r" when associating a Subversion revision.
468
469         Finally, Fixed a bug that the list of commits associated with the analysis task were not re-rendered
470         when the list was updated by the user.
471
472         * public/v3/components/analysis-results-viewer.js:
473         (AnalysisResultsViewer): Added _selectorRadioButtonList as an instance variable. It's a list of radio
474         buttons to select a configuration (A/B) with a commit set. It's added to update the checked status of
475         radio buttons upon changing the currently selected test group.
476         (AnalysisResultsViewer.prototype.setTestGroups): Update the selected range to that of the currently
477         selected group.
478         (AnalysisResultsViewer.prototype.render): Fill _selectorRadioButtonList with radio buttons.
479
480         * public/v3/components/commit-log-viewer.js:
481         (CommitLogViewer): Added _showRepositoryName as an instance variable.
482         (CommitLogViewer.prototype.setShowRepositoryName): Added.
483         (CommitLogViewer.prototype.render): Hide the repository name when _showRepositoryName is false. This
484         is used in the newly added commit log viewer for the analysis results since we're showing a select
485         element with all the names of repositories above this component.
486
487         * public/v3/components/test-group-revision-table.js:
488         (TestGroupRevisionTable.prototype._buildCommitCell): Linkify the revisions if possible.
489
490         * public/v3/models/analysis-task.js:
491         (AnalysisTask.prototype.associateCommit): Strip "r" at the beginning for a Subversion like r12345
492         since that's the format we use to show to the user. This makes copy & paste easier.
493
494         * public/v3/pages/analysis-task-page.js:
495         (AnalysisTaskResultsPane): Added a bunch of new instance variables to show and update the commit log
496         viewer next to the analysis results viewer.
497         (AnalysisTaskResultsPane.prototype.setPoints): Create the list of repositories to show details.
498         (AnalysisTaskResultsPane.prototype.didConstructShadowTree): Re-render when the current selected test
499         group changes since that may have updated the selected range for A/B testing. Also re-render when
500         a new repository is selected to show details.
501         (AnalysisTaskResultsPane.prototype.render): Update the list of repositories and the commit log viewer.
502         (AnalysisTaskResultsPane.prototype._renderRepositoryList): Renders the list of repositories.
503         (AnalysisTaskResultsPane.prototype._updateCommitViewer): Updates the commit log viewer given the range
504         selected in the analysis results viewer.
505         (AnalysisTaskResultsPane.htmlTemplate): Updated the template.
506         (AnalysisTaskResultsPane.cssTemplate): Ditto.
507         (AnalysisTaskTestGroupPane.cssTemplate): Add a little space between the list of results and the table
508         of A/B testing jobs with revisions.
509         (AnalysisTaskPage.prototype.render): Fixed the bug that the list of commits associated with the task
510         is not updated when the list changes the task or the start point never changed when the list of commits
511         associated with the task changed. Make the lazily evaluated function compare the actual list of commits
512         so that it will invoke _renderCauseAndFixes when the list changes.
513         (AnalysisTaskPage.prototype._renderCauseAndFixes): Now renders a specific list.
514
515 2017-05-16  Ryosuke Niwa  <rniwa@webkit.org>
516
517         Another build fix. Added a missing null check.
518
519         * public/v3/components/custom-analysis-task-configurator.js:
520         (CustomAnalysisTaskConfigurator.prototype._setUploadedFilesIfEmpty):
521
522 2017-05-14  Ryosuke Niwa  <rniwa@webkit.org>
523
524         Build fix. Added a missing null check.
525
526         * public/v3/pages/analysis-task-page.js:
527         (AnalysisTaskConfiguratorPane.prototype.setTestGroups):
528
529 2017-05-11  Ryosuke Niwa  <rniwa@webkit.org>
530
531         Remove the code for old syncing script configuration in BuildbotSyncer
532         https://bugs.webkit.org/show_bug.cgi?id=171963
533
534         Reviewed by Chris Dumez.
535
536         Removed the code for specifying {"root": ~}, {"rootOptions": [~]}, and {"rootsExcluding": [~]} in buildbot
537         properties in the syncing script's configurations since they are no longer used after r215061.
538
539         Also removed the support for using "arguments" as an alias to "properties", and updated the tests accordingly.
540
541         * tools/js/buildbot-syncer.js:
542         (BuildbotSyncer._parseRepositoryGroup): Removed the unused code.
543         (BuildbotSyncer._validateAndMergeConfig): Just allow string values in properties.
544         (BuildbotSyncer._validateAndMergeProperties): Deleted.
545
546         * unit-tests/buildbot-syncer-tests.js:
547         (sampleiOSConfig): Use "properties" instead of "arguments" to specify the buildbot properties.
548         (sampleiOSConfigWithExpansions): Ditto.
549
550 2017-05-10  Ryosuke Niwa  <rniwa@webkit.org>
551
552         Another build fix after r215633 to make the bar graphs render even when the confidence intervals aren't available.
553
554         * public/v3/components/bar-graph-group.js:
555         (BarGraphGroup.prototype._computeRange):
556
557 2017-05-10  Ryosuke Niwa  <rniwa@webkit.org>
558
559         Build fix after r215633.
560
561         * public/v3/models/test-group.js:
562         (TestGroup.prototype._computeRequestedCommitSets):
563         (TestGroup.prototype.requestsForCommitSet):
564
565 2017-05-10  Ryosuke Niwa  <rniwa@webkit.org>
566
567         Add API to upload a patched build for a custom A/B testing
568         https://bugs.webkit.org/show_bug.cgi?id=171956
569
570         Reviewed by Chris Dumez.
571
572         Added /api/upload-root to upload a root file, the build product of a patch associated with a commit set.
573
574         Extracted more functions out of privileged-api/upload-file.php to uploaded-file-helpers.php to share code
575         with /api/upload-root.php.
576
577         * public/api/upload-root.php: Added.
578         (main):
579         (compute_commit_set_items_to_update): Find the list of commit set items to associate this root with.
580         A root can be associated with multiple repositories and there fore commit set items; e.g. if a software
581         is built from multiple repositories and there is a patch associated with one of them, the built product
582         must be associated with all those repositories.
583
584         * public/include/build-requests-fetcher.php:
585         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Include the root file is there is one.
586
587         * public/include/json-header.php:
588         (validate_arguments): Added the support for validating json string.
589         (verify_slave): Return the slave ID found.
590
591         * public/include/uploaded-file-helpers.php:
592         (validate_uploaded_file): Extracted from /privileged-api/upload-file to be shared with /api/upload-root.
593         (query_total_file_size): Ditto.
594         (create_uploaded_file_from_form_data): Ditto.
595         (upload_file_in_transaction): Ditto. Takes a lambda to do the extra work inside the transaction.
596
597         * public/privileged-api/upload-file.php:
598         (main):
599
600         * public/v3/models/build-request.js:
601         (BuildRequest.constructBuildRequestsFromData): Resolve the rootFIle of each commit set item.
602
603         * public/v3/models/commit-set.js:
604         (CommitSet): Added _repositoryToRootMap and _allRootFiles as instance variables.
605         (CommitSet.prototype.updateSingleton): Added. Previously, each commit set's states never changed after
606         its creation. After this patch, each item can be newly associated with a root so we must update its
607         _repositoryToRootMap and _allRootFiles. For simplicity, we update all states.
608         (CommitSet.prototype._updateFromObject): Extracted from the constructor.
609         (CommitSet.prototype.allRootFiles): Added. Includes custom roots and roots created for patches.
610         (CommitSet.prototype.rootForRepository): Added.
611         (CommitSet.prototype.equals): Fixed the bug that we were comparing _repositoryToPatchMap to
612         _repositoryToCommitMap, and added a check for _repositoryToRootMap.
613
614         * public/v3/models/test-group.js:
615         (TestGroup.prototype.task): Added.
616         (TestGroup.createWithTask):
617         (TestGroup.createWithCustomConfiguration):
618         (TestGroup.createAndRefetchTestGroups):
619         (TestGroup._fetchTestGroupsForTask): Deleted. Now fetchForTask takes a boolean argument: ignoreCache.
620         (TestGroup.findAllByTask): Added.
621         (TestGroup.fetchForTask): Renamed from fetchByTask.
622
623         * public/v3/pages/analysis-task-page.js:
624         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId):
625
626         * server-tests/api-build-requests-tests.js:
627
628         * server-tests/api-upload-root-tests.js: Added. Added tests for /api/upload-root.
629         (makeReport): Added.
630         (addSlaveAndCreateRootFile): Added.
631         (createTestGroupWihPatch): Added.
632
633         * server-tests/privileged-api-create-test-group-tests.js:
634
635         * server-tests/resources/mock-data.js:
636         (MockData.sharedRepositoryId): Added.
637         (MockData.addMockData): Added "Shared" repository along with commits.
638
639 2017-05-10  Ryosuke Niwa  <rniwa@webkit.org>
640
641         Rename server-tests/api-update-triggerable.js to server-tests/api-update-triggerable-tests.js
642         https://bugs.webkit.org/show_bug.cgi?id=171905
643
644         Reviewed by Chris Dumez.
645
646         * server-tests/api-update-triggerable-tests.js: Renamed from server-tests/api-update-triggerable.js.
647
648 2017-04-30  Ryosuke Niwa  <rniwa@webkit.org>
649
650         Add the support for scheduling a A/B testing with a patch.
651         https://bugs.webkit.org/show_bug.cgi?id=171209
652
653         Reviewed by Chris Dumez.
654
655         Added the support for creating a custom test group with a patch applied.
656
657         First, each repository in a repository group has a boolean indicating whether a given repository can have
658         a patch applied or not. When any configuration in a test group contains a patch, we create build requests
659         without a test specified in order to "build" those patches. These build requests have negative order numbers
660         to differentiate them from regular build requests. We can't simply build ones with patches since there could
661         be differences in SDK, build options, etc... when patches are applied.
662
663         The JSON format for commit sets returned by /api/build-requests have been changed from using an array of
664         commit IDs to an array of dictionaries indicate commit and acceptsPatch boolean. /api/update-triggerable now
665         uses a dictionary with two keys: repository and acceptsPatch to specify a set of repositories associated with
666         a repository group, and /privileged-api-create-test-group uses a dictionary with two keys: revision and patch
667         instead of a revision string to specify commit sets.
668
669         Furthermore, the syncing script's configuration have been updated to use a dictionary of repository names to
670         an options dictionary instead of an array of repositories names. For now, the only supported option is
671         acceptsPatch but will be extended when we add the support for rolling back system components.
672         e.g. {"WebKit": {acceptsPatch: true}, "macOS": {}} instead of ["WebKit", "macOS"]
673
674         On the UI side, InstantFileUploader has been changed to accept only one file by default, and added a new method
675         allowMultipleFiles() to allow multiple files to be selected for custom roots. Also replaced the input element
676         with type=file by a button with a custom label to show labels such as "Apply a patch" or "Add a new root"
677         instead of the generic label like "choose a file".
678
679
680         * init-database.sql: Added trigrepo_accepts_patch to triggerable_repositories to indicate whether a given
681         repository can have a patch applied or not. Made request_test optional in build_requests for when a build
682         request is created to build patches. Such a build request have a negative request_order. Updated the related
683         constraints accordingly.
684
685         * public/admin/triggerables.php: Added the support for updating whether a given repository can have a patch
686         applied in each repository group. Only show the repositories in the repository group for this purpose since
687         there is no way to accept a patch on a repository without it being a part of the group.
688         (generate_repository_form): Now takes the markup for checkboxes instead of generating one itself.
689         (generate_repository_checkboxes): Now takes an array of repositories to generate checkboxes. The checkbox is
690         shown when the repository ID exists as a key in this array, and is checked when its value is true. The new
691         capability to skip repositories not in the array is used to hide repositories not associated with the group
692         in the list of checkboxes to indicate a repository accepts a patch.
693
694         * public/api/update-triggerable.php:
695         (main): Now updates the description and acceptsRoots states of each repository group, and sets acceptsPatch
696         boolean for each repository in the group if set in the update.
697         (validate_repository_groups): Use a reference to $repository_groups in order to set repository_id_list, which
698         contains an array of repository IDs to find the existing repository group that matches the set via
699         RepositoryGroupFinder's find_by_repositories. Also added a various validations for acceptsRoots, a dictionary
700         specifying repository and acceptsPatch.
701
702         * public/include/build-requests-fetcher.php:
703         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Instead of returning an array of commit IDs as
704         "commits", it now returns an array of dictionaries with "commit" and "patch" keys specifying the commit ID
705         and the patch file's ID respectively as "revisionItems". 
706         (BuildRequestsFetcher::add_uploaded_file): Added. Extracted from fetch_commits_for_set_if_needed. Used to
707         add either a patch file or a custom root file in the list of uploaded files in the result.
708
709         * public/include/manifest-generator.php:
710         (fetch_triggerables): Each element in repository group's "repositories" field is now an array of dictionaries
711         with "repository" and "acceptsPatch" as keys.
712
713         * public/include/repository-group-finder.php:
714         (RepositoryGroupFinder::__construct): Added a map for boolean indicating whether a given repository group
715         allows a patch on a repository. Used in /privileged-api/create-test-group.
716         (RepositoryGroupFinder::accepts_patch): Added.
717         (RepositoryGroupFinder::populate_map): Build up the map for acceptsPatch boolean per repository per group.
718
719         * public/privileged-api/create-test-group.php:
720         (main): Fixed a bug that we were not explicitly checking for a duplicate test group name (with a test). Create
721         build requests to "build" patches if there is any patch file specified.
722         (commit_sets_from_revision_sets): Updated to take a dictionary with "revision" and "patch" as keys to specify
723         a revision and a patch if any instead of just a revision string for each repository. Also validate that each
724         repository is allowed to have a patch once the repository group has been found for the set of repositories.
725         (ensure_commit_sets):
726
727         * public/v3/components/custom-analysis-task-configurator.js:
728         (CustomAnalysisTaskConfigurator): Added _patchUploaders as an instance variable, which is a dictionary of
729         configuration names to a map of InstantFileUploader's used to upload a patch. Also renamed _fileUploaders to
730         _customRootUploaders for clarity.
731         (CustomAnalysisTaskConfigurator.prototype.setCommitSets):
732         (CustomAnalysisTaskConfigurator.prototype.didConstructShadowTree.createRootUploader): Added.
733         (CustomAnalysisTaskConfigurator.prototype.didConstructShadowTree):
734         (CustomAnalysisTaskConfigurator.prototype._ensurePatchUploader): Added. Creates an instant file uploader for
735         patches. We only allow a single patch per repository.
736         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet): Include a patch in the commit set as needed.
737         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable): Show the patch file uploader for repositories
738         which can have patches in the current repository group.
739         (CustomAnalysisTaskConfigurator.cssTemplate): Show borders between every rows instead of just between tbody's
740         now that each row can have a patch file uploader.
741
742         * public/v3/components/instant-file-uploader.js:
743         (InstantFileUploader): Added _fileInput and _allowMultipleFiles as instance variables. We now show a button
744         in the UI instead of an input with type=file. _fileInput is a hidden input with type=file used inside a click
745         event of the button to let the user pick a file.
746         (InstantFileUploader.prototype.allowMultipleFiles): Added. Allows this instance to accept multiple files.
747         (InstantFileUploader.prototype.didConstructShadowTree): Synthetically click on the hidden input element when
748         the newly added button element is clicked to open the browser's file picker.
749         (InstantFileUploader.prototype.render): Hide the button to add a file if this instance can only select one file
750         and there is already some file being uploaded in this instance.
751         (InstantFileUploader.htmlTemplate): Replaced the input element with type=file with a button. Its label comes
752         from the default slot content.
753
754         * public/v3/models/build-request.js:
755         (BuildRequest): Made the test optional.
756         (BuildRequest.prototype.isBuild): Returns true if this is a build request for building a patch.
757         (BuildRequest.prototype.isTest): Returns true if this is a build request for running tests.
758         (BuildRequest.constructBuildRequestsFromData): Create each commit log here instead of relying on CommitSet's
759         constructor to construct its commit logs. Also updated per the replacement of an array of commit IDs by
760         an array of dictionaries with commit and patch properties.
761
762         * public/v3/models/commit-set.js:
763         (CommitSet): Made _repositoryToCommitMap a real Map object. Also added _repositoryToPatchMap. Also got rid of
764         the code to instantiate commit logs since that's now done in BuildRequest.constructBuildRequestsFromData.
765         (CommitSet.prototype.commitForRepository):
766         (CommitSet.prototype.revisionForRepository):
767         (CommitSet.prototype.patchForRepository): Added.
768         (CommitSet.prototype.latestCommitTime): Modernized the code.
769         (CommitSet.prototype.equals): Modernized the code. Also added the check for patches.
770         (MeasurementCommitSet): Updated per the change to make _repositoryToCommitMap a real Map.
771         (CustomCommitSet.prototype.setRevisionForRepository):
772         (CustomCommitSet.prototype.equals): Added the check for patches.
773         (CustomCommitSet.prototype.revisionForRepository):
774         (CustomCommitSet.prototype.patchForRepository): Added.
775
776         * public/v3/models/manifest.js:
777         (Manifest._didFetchManifest): Updated per the replacement of an array of commit IDs by an array of dictionaries
778         with commit and patch properties.
779
780         * public/v3/models/repository.js:
781         (Repository.prototype.ownerId): Renamed from owner for clarity.
782
783         * public/v3/models/test-group.js:
784         (TestGroup): Modernized the code by using LazilyEvaluatedFunction. Removed _requestsAreInOrder since it's not
785         necessary anymore with LazilyEvaluatedFunction.
786         (TestGroup.prototype.addBuildRequest):
787         (TestGroup.prototype.test): Use the last build request's test since the first few requests could be requests to
788         build patches.
789         (TestGroup.prototype.platform): Ditto.
790         (TestGroup.prototype._lastRequest): Added.
791         (TestGroup.prototype._orderedBuildRequests): Added.
792         (TestGroup.prototype.repetitionCount): Only count the build requests for testing (skipping any requests to
793         build patches).
794         (TestGroup.prototype.requestedCommitSets): Simply call _computeRequestedCommitSetsLazily.
795         (TestGroup.prototype._computeRequestedCommitSets): Extracted from requestedCommitSets.
796         (TestGroup.prototype.requestsForCommitSet):
797         (TestGroup.prototype.labelForCommitSet): Rewritten. Just compute the label here instead of relying on
798         _commitSetToLabel since requestedSets is always of the length two at the moment.
799         (TestGroup._revisionSetsFromCommitSets): Specify both the revision and the patch in the revision set.        
800
801         * public/v3/models/triggerable.js:
802         (TriggerableRepositoryGroup): Added _patchAcceptingSet as an instance variable. Use
803         sortByNamePreferringOnesWithURL to sort repositories instead of simple sortByName.
804         (TriggerableRepositoryGroup.prototype.accepts): Added checks for the custom roots and patches.
805         (TriggerableRepositoryGroup.prototype.acceptsPatchForRepository): Added.
806
807         * server-tests/api-build-requests-tests.js: Updated the test cases per the replacement of an array of commit
808         IDs by an array of dictionaries with commit and patch properties.
809
810         * server-tests/api-manifest-tests.js: Updated the test case per the name of Repository's owner to ownerId.
811
812         * server-tests/api-update-triggerable.js: Updated the test case per the name of Repository's owner to ownerId,
813         and added a test case for updating whether a given repository group allows custom roots as well as patches
814         on repositories via /api/update-triggerable. 
815         (.updateWithOSXRepositoryGroup): Updated the sample syncing script configuration per the format change.
816         (.refetchManifest): Added.
817
818         * server-tests/privileged-api-create-test-group-tests.js: Updated per the syncing script configuration format
819         change. Also added a test for creating a test group with a duplicate name, which is expected to fail with 
820         DuplicateTestGroupName, and creating a test group with a patch both when it's allowed and when it's not allowed
821         in the matching repository group.
822         (.addTriggerableAndCreateTask): Updated per the format change.
823
824         * server-tests/resources/mock-data.js:
825         (MockData.addEmptyTriggerable): Added a metric and its configuration to make it appear in the manifest file.
826         The new test case in api-update-triggerable.js requires this.
827         (MockData.mockTestSyncConfigWithSingleBuilder): Updated per the syncing script configuration format change.
828         (MockData.mockTestSyncConfigWithTwoBuilders): Ditto.
829
830         * server-tests/tools-buildbot-triggerable-tests.js: Removed the useless assertions about test configurations,
831         and added assertions about custom roots and patches in the test case for updateTriggerables.
832
833         * tools/js/buildbot-syncer.js:
834         (BuildbotSyncer._parseRepositoryGroup): Made each assertion explicitly refer to the specific repository group
835         to make it more user friendly. Now each repository group uses a dictionary of repository names to its options
836         in the syncing script configurations. When parsed, we insert it as an array of dictionaries with repository ID
837         and acceptsPatch boolean specified separately since this is the format /api/update-triggerable expects.
838
839         * tools/js/buildbot-triggerable.js:
840         (BuildbotTriggerable.prototype.updateTriggerable):
841
842         * unit-tests/build-request-tests.js:
843         (sampleBuildRequestData): Updated per the commit sets format change in /api/build-requests.
844
845         * unit-tests/buildbot-syncer-tests.js: Updated the existing tests per various format changes and added a couple
846         of new test cases for the syncing script's configuration validation.
847         (sampleiOSConfig):
848         (smallConfiguration):
849         (createSampleBuildRequest):
850
851         * unit-tests/resources/mock-v3-models.js:
852         (MockModels.inject): Updated per the repository group format change.
853
854         * unit-tests/test-groups-tests.js:
855         (sampleTestGroup): Updated per the commit sets format change in /api/build-requests. 
856
857 2017-04-21  Ryosuke Niwa  <rniwa@webkit.org>
858
859         Rename commit_set_relationships to commit_set_items
860         https://bugs.webkit.org/show_bug.cgi?id=171143
861
862         Reviewed by Joseph Pecoraro.
863
864         Renamed commit_set_relationships to commit_set_items. Also added commitset_patch_file in the preparation to add
865         the support for applying patches in custom test groups. To migrate an existing database, run:
866
867         ```sql
868         BEGIN;
869         ALTER TABLE commit_set_relationships RENAME TO commit_set_items;
870         ALTER TABLE commit_set_items ADD COLUMN commitset_patch_file integer REFERENCES uploaded_files;
871         ALTER TABLE commit_set_items ADD CONSTRAINT commitset_with_patch_must_have_commit
872             CHECK (commitset_patch_file IS NULL OR commitset_commit IS NOT NULL);
873         END;
874         ```
875
876         * init-database.sql:
877         * public/include/build-requests-fetcher.php:
878         * public/privileged-api/create-test-group.php:
879         * server-tests/resources/mock-data.js:
880         (MockData.addMockData):
881         (MockData.addMockTestGroupWithGitWebKit):
882         * tools/js/database.js:
883
884 2017-04-21  Ryosuke Niwa  <rniwa@webkit.org>
885
886         Add the support for creating a custom test group in the analysis task page
887
888         Make it possible to create more custom test groups in the analysis task page
889         https://bugs.webkit.org/show_bug.cgi?id=171138
890
891         Rubber-stamped by Chris Dumez.
892
893         Extracted CustomConfigurationTestGroupForm out of CreateAnalysisTaskPage and added it to AnalysisTaskPage inside
894         AnalysisTaskConfiguratorPane. This allows configuration of a new test group within a custom analysis task.
895
896         * public/privileged-api/create-test-group.php:
897         (main): Fixed the bug that the triggerable wasn't resolved when creating a test group in a custom analysis task.
898
899         * public/v3/components/custom-analysis-task-configurator.js:
900         (CustomAnalysisTaskConfigurator.prototype.selectTests): Added. Used by CustomConfigurationTestGroupForm's
901         setConfigurations.
902         (CustomAnalysisTaskConfigurator.prototype.selectPlatform): Ditto.
903         (CustomAnalysisTaskConfigurator.prototype.setCommitSets): Ditto. 
904         (CustomAnalysisTaskConfigurator.prototype._setUploadedFilesIfEmpty): Added.
905         (CustomAnalysisTaskConfigurator.prototype._revisionMapFromCommitSet): Added.
906         (CustomAnalysisTaskConfigurator.prototype.render): Update the currently selected platforms and tests now that
907         they can be set externally via selectTests and selectPlatform.
908         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Return the result of _renderRadioButtonList
909         so that the caller can update the currently selected tests without having to reconstruct the list.
910         (CustomAnalysisTaskConfigurator.prototype._renderTriggerablePlatforms): Ditto.
911         (CustomAnalysisTaskConfigurator.prototype._renderRadioButtonList): Renamed from _buildCheckboxList. Now returns
912         a function which updates the currently selected items. We still pretend that multiple items can be selected to
913         make it future-proof.
914
915         * public/v3/components/custom-configuration-test-group-form.js: Added.
916         (CustomConfigurationTestGroupForm): Added. Inherits from TestGroupForm. Extracted from CreateAnalysisTaskPage.
917         (CustomConfigurationTestGroupForm.prototype.setHasTask): Added.
918         (CustomConfigurationTestGroupForm.prototype.hasCommitSets): Added.
919         (CustomConfigurationTestGroupForm.prototype.setConfigurations): Added. Used by AnalysisTaskConfiguratorPane to
920         set the default configuration to what the latest test group used.
921         (CustomConfigurationTestGroupForm.prototype.startTesting): Added. Dispatches "startTesting" action with
922         platform, test, taskName in addition to what CustomizedTestGroupForm emits.
923         (CustomConfigurationTestGroupForm.prototype.didConstructShadowTree): Added.
924         (CustomConfigurationTestGroupForm.prototype.render): Added.
925         (CustomConfigurationTestGroupForm.prototype._updateTestGroupName): Added.
926         (CustomConfigurationTestGroupForm.cssTemplate): Added.
927         (CustomConfigurationTestGroupForm.htmlTemplate): Added.
928
929         * public/v3/components/test-group-form.js:
930         (TestGroupForm.cssTemplate): Make the form display: block.
931
932         * public/v3/index.html:
933
934         * public/v3/models/test-group.js:
935         (TestGroup.prototype.test): Added.
936         (TestGroup.prototype.platform): Added.
937         (TestGroup.createWithCustomConfiguration): Added. Creates a custom test group with an existing analysis task.
938
939         * public/v3/models/uploaded-file.js:
940         (UploadedFile): Fixed a bug that _deletedAt was set to a Date object even when object.deletedAt is null.
941
942         * public/v3/pages/analysis-task-page.js:
943         (AnalysisTaskConfiguratorPane): Added.
944         (AnalysisTaskConfiguratorPane.prototype.didConstructShadowTree): Added. Dispatch createCustomTestGroup action
945         in turn when receiving startTesting from CustomConfigurationTestGroupForm.
946         (AnalysisTaskConfiguratorPane.prototype.setTestGroups): Added.
947         (AnalysisTaskConfiguratorPane.prototype.render): Added.
948         (AnalysisTaskConfiguratorPane.htmlTemplate): Added. We override this instead of formContent to display the
949         "Start" button at the end instead of at the beginnning.
950         (AnalysisTaskConfiguratorPane.cssTemplate): Added.
951         (AnalysisTaskPage.prototype.didConstructShadowTree): Listen to createCustomTestGroup.
952         (AnalysisTaskPage.prototype.render): Hide AnalysisTaskConfiguratorPane when the analysis task is not custom.
953         (AnalysisTaskPage.prototype._showTestGroup): Let AnalysisTaskConfiguratorPane know of the current test group
954         so that it can update the default configuration if the user hasn't modified yet.
955         (AnalysisTaskPage.prototype._createCustomTestGroup): Added. 
956
957         * public/v3/pages/create-analysis-task-page.js:
958         (CreateAnalysisTaskPage.prototype.didConstructShadowTree):
959         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup):
960         (CreateAnalysisTaskPage.prototype.render):
961         (CreateAnalysisTaskPage.prototype._renderMessage):
962         (CreateAnalysisTaskPage.htmlTemplate):
963         (CreateAnalysisTaskPage.cssTemplate):
964
965         * server-tests/privileged-api-create-test-group-tests.js: Added a test case for creating a custom test group for
966         an existing analysis task.
967
968         * server-tests/resources/mock-data.js:
969         (MockData.otherPlatformId): Added.
970         (MockData.addMockData): Added a test configuration for otherPlatformId.
971
972 2017-04-21  Ryosuke Niwa  <rniwa@webkit.org>
973
974         Make it possible to view results for sub tests and metrics in A/B testing
975         https://bugs.webkit.org/show_bug.cgi?id=170975
976
977         Reviewed by Chris Dumez.
978
979         Replaced TestGroupResultsTable, which was a single table that presented the test results with a set of revisions
980         each build request used, with TestGroupResultsViewer and TestGroupRevisionTable. TestGroupResultsViewer provides
981         an UI to look the results of sub-tests and sub-metrics and TestGroupRevisionTable provides an UI to display
982         the set of revisions each build request used. TestGroupRevisionTable can also show the list of custom roots now
983         that we've added UI to schedule an analysis task with a custom test group.
984
985         This patch extends BarGraphGroup to show multiple bars per SingleBarGraph using a canvas with bars indicating
986         their mean and confidence interval.
987
988         * browser-tests/index.html:
989         (ChartTest.importChartScripts): Include lazily-evaluated-function.js now that Test model object uses
990         LazilyEvaluatedFunction.
991
992         * public/v3/components/analysis-results-viewer.js:
993         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForCommitSet):
994         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
995
996         * public/v3/components/bar-graph-group.js:
997         (BarGraphGroup): No longer takes formatter. Added _computeRangeLazily and _showLabels as instance variables.
998         (BarGraphGroup.prototype.addBar): Now takes a list of values, their labels, mean, confidence interval, and
999         the colors of bar graphs shown for each value and the mean indicator.
1000         (BarGraphGroup.prototype.showLabels): Added.
1001         (BarGraphGroup.prototype.setShowLabels): Added.
1002         (BarGraphGroup.prototype.range): Added.
1003         (BarGraphGroup.prototype._computeRange): Renamed from updateGroupRendering. Now returns the range instead off
1004         setting it to each bar, and each SingleBarGraph's render function uses the value via BarGraphGroup's range.
1005         (BarGraph): Renamed from SingleBarGraph. Added various arguments introduced in addBar, and now stores various
1006         lazily evaluated functions used for rendering.
1007         (BarGraph.prototype.render): Rewritten to use canvas to draw bar graphs and show a label when group's
1008         showLabels() returns true.
1009         (BarGraph.prototype._resizeCanvas): Added.
1010         (BarGraph.prototype._renderCanvas): Added.
1011         (BarGraph.prototype._renderLabels): Added. We align the top of each label to the middle of each bar and shift it
1012         back up by half the height of the label (0.4rem) using margin-top in css.
1013         (BarGraph.htmlTemplate): Uses a canvas now.
1014         (BarGraph.cssTemplate):
1015
1016         * public/v3/components/results-table.js:
1017         (ResultsTable.prototype.renderTable): Updated per code changes to BarGraphGroup.
1018         (ResultsTableRow.prototype.resultContent): Ditto.
1019
1020         * public/v3/components/test-group-results-table.js: Removed.
1021         * public/v3/components/test-group-results-viewer.js: Added.
1022         (TestGroupResultsViewer): Added. Shows a list of test results with bar graphs with mean and confidence interval
1023         indicators. The results of sub tests and metrics can be expanded via "(Breakdown)" link shown below each test. 
1024         (TestGroupResultsViewer.prototype.setTestGroup): Added.
1025         (TestGroupResultsViewer.prototype.setAnalysisResults): Added.
1026         (TestGroupResultsViewer.prototype.render): Added.
1027         (TestGroupResultsViewer.prototype._renderResultsTable): Compute the depth of the test tree we show, and construct
1028         the header rows. Each sub test is "indented" by a new column.
1029         (TestGroupResultsViewer.prototype._buildRowForTest): Added. Build rows for metrics of the given test. Expand the
1030         list of its child tests if it's in expandedTests. Otherwise add a link to "Breakdown" if it has any child tests.
1031         (TestGroupResultsViewer.prototype._buildRowForMetric): Added. Builds rows of table cells to show the results for
1032         the given metric for each configuration.
1033         (TestGroupResultsViewer.prototype._buildRowForMetric.createConfigurationRow): Added. A helper to build cells for
1034         a given configuration represented by a requested commit set.
1035         (TestGroupResultsViewer.prototype._buildValueMap): Added. Creates a mappting between a requested commit set, and
1036         the list of values, mean, etc... associated with the results for the commit set.
1037         (TestGroupResultsViewer.prototype._buildEmptyCells): Added. A helper to create empty cells to indent sub tests.
1038         (TestGroupResultsViewer.prototype._expandCurrentMetrics): Added. Highlights the current metrics and renders the
1039         label for each bar in the results.
1040         (TestGroupResultsViewer.htmlTemplate): Added.
1041         (TestGroupResultsViewer.cssTemplate): Added.
1042
1043         * public/v3/components/test-group-revision-table.js: Added.
1044         (TestGroupRevisionTable): Added. Renders the list of revisions requested for each test configuration as well as
1045         ones used in actual testing, and additional repositories being reported (e.g. repositories for helper scripts).
1046         (TestGroupRevisionTable.prototype.setTestGroup): Added.
1047         (TestGroupRevisionTable.prototype.setAnalysisResults): Added.
1048         (TestGroupRevisionTable.prototype.render): Added.
1049         (TestGroupRevisionTable.prototype._renderTable): Added. The basic algorithm here is to first create a row entry
1050         object for each build request, merge cells that use the same revision of the same repository, and then render
1051         the entire table.
1052         (TestGroupRevisionTable.prototype._buildCommitCell): Added.
1053         (TestGroupRevisionTable.prototype._buildCustomRootsCell): Added.
1054         (TestGroupRevisionTable.prototype._mergeCellsWithSameCommitsAcrossRows): Added. Compute rowspan for each cell
1055         by traversing the rows that use the same revision per repository, and store it in rowCountByRepository while
1056         adding the repository to each succeeding row's repositoriesToSkip.
1057         (TestGroupRevisionTable.htmlTemplate): Added.
1058         (TestGroupRevisionTable.cssTemplate): Added.
1059
1060         * public/v3/index.html:
1061         * public/v3/models/analysis-results.js:
1062         (AnalysisResults): Added _metricIds and _lazilyComputedHighestTests as instance variables.
1063         (AnalysisResults.prototype.findResult): Renamed from find.
1064         (AnalysisResults.prototype.highestTests): Added.
1065         (AnalysisResults.prototype._computeHighestTests): Added. Finds the root tests for this analysis result.
1066         (AnalysisResults.prototype.add): Update _metricIds.
1067         (AnalysisResults.prototype.commitSetForRequest): Added. Returns the reported commit set for the build request.
1068         This commit set contains the set of revisions reported to /api/report by A/B testers.
1069         (AnalysisResultsView.prototype.resultForRequest): Renamed from resultForBuildId.
1070
1071         * public/v3/models/metric.js:
1072         (Metric.prototype.relativeName): Added. Computes the relative name given the test/metric path. This function is
1073         used to determine the label for each test/metric in TestGroupResultsViewer.
1074         (Metric.prototype.aggregatorLabel): Extracted from label.
1075         (Metric.prototype.label):
1076         (Metric.makeFormatter): Added the default value of false to alwaysShowSign.
1077
1078         * public/v3/models/test-group.js:
1079         (TestGroup.prototype.compareTestResults): Now takes a metric instead of retrieving it from the analysis task
1080         since a custom analysis task may not have a metric associated with it.
1081
1082         * public/v3/models/test.js:
1083         (Test): Added _computePathLazily as an instance variable.
1084         (Test.prototype.path): Lazily computes the path now that this function can be called on the same test for many
1085         times in TestGroupResultsViewer while computing relative names of tests and metrics.
1086         (Test.prototype._computePath): Extracted path.
1087         (Test.prototype.fullName): Modernized the code.
1088         (Test.prototype.relativeName): Added.
1089
1090         * public/v3/models/uploaded-file.js:
1091         (UploadedFile):
1092         (UploadedFile.prototype.deletedAt): Added.
1093         (UploadedFile.prototype.label): Added.
1094         (UploadedFile.prototype.url): Added.
1095
1096         * public/v3/pages/analysis-task-page.js:
1097         (AnalysisTaskTestGroupPane.prototype.setTestGroups):
1098         (AnalysisTaskTestGroupPane.prototype.setAnalysisResults): Replaced setAnalysisResultsView. Now takes an
1099         analysisResults instead of its view.
1100         (AnalysisTaskTestGroupPane.prototype.render): No longer enqueues the results table and the retry form to render
1101         since the results table no longer exists, and the retry form re-renders itself as needed.
1102         (AnalysisTaskTestGroupPane.htmlTemplate): Now uses test-group-results-viewer and test-group-revision-table
1103         instead of test-group-results-table, which has been removed.
1104         (AnalysisTaskTestGroupPane.cssTemplate):
1105         (AnalysisTaskPage.prototype._assignTestResultsIfPossible):
1106
1107         * public/v3/pages/create-analysis-task-page.js:
1108         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup): Removed superflous console.log's.
1109
1110         * tools/js/v3-models.js: Import LazilyEvaluatedFunction now that it's used in the Test model.
1111
1112         * unit-tests/test-model-tests.js: Added.
1113
1114 2017-04-19  Ryosuke Niwa  <rniwa@webkit.org>
1115
1116         Another build fix after r215061. Clear TriggerableRepositoryGroup's static map in each iteration.
1117
1118         * tools/sync-buildbot.js:
1119         (syncLoop):
1120
1121 2017-04-18  Ryosuke Niwa  <rniwa@webkit.org>
1122
1123         Build fix after r215061.
1124
1125         There was a mismatch between the format updateTriggerable and /api/update-triggerable were using.
1126         Namely, each repository group was assumed to contain a name field in /api/update-triggerable
1127         but updateTriggerable was not including that at all.
1128
1129         We didn't catch this because the test for updateTriggerable also used the wrong format :(
1130
1131         * server-tests/tools-buildbot-triggerable-tests.js:
1132         * tools/js/buildbot-triggerable.js:
1133         (BuildbotTriggerable.prototype.updateTriggerable):
1134
1135 2017-04-14  Dewei Zhu  <dewei_zhu@apple.com>
1136
1137         Add sub-commit UI in commit log viewer.
1138         https://bugs.webkit.org/show_bug.cgi?id=170379
1139
1140         Reviewed by Ryosuke Niwa.
1141
1142         Add an API to return sub-commits for a given commit.
1143         Add sub-commit difference viewer into commit log viewer to show changed sub-commits between two commits.
1144         Add 'ownsSubCommits' info in 'api/commits' return values.
1145         Extend 'api/manifest' to include whether a repositories owns other repositories.
1146         Only show this sub-commit difference viewer when a repository owns other repositories and both commits owns sub-commits.
1147         Add unit tests for those new features.
1148
1149         * browser-tests/commit-log-viewer-tests.js: Updated test cases.
1150         * public/api/commits.php: Added 'sub-commits' to provide sub-commit for a given commit.
1151         * public/include/commit-log-fetcher.php: Added function to query sub-commit from database. Added 'repository' and 'ownsSubCommits' fields in returning commits.
1152         * public/v3/components/expand-collapse-button.js: Added.
1153         (ExpandCollapseButton):
1154         (ExpandCollapseButton.prototype.didConstructShadowTree): Changes state on click and dispatches 'toggle' event.
1155         (ExpandCollapseButton.sizeFactor):
1156         (ExpandCollapseButton.buttonContent):
1157         (ExpandCollapseButton.cssTemplate):
1158         * public/v3/components/commit-log-viewer.js:
1159         (CommitLogViewer.prototype._renderCommitList): Added sub-commit viewer if two adjacent commits both have sub-commits.
1160         (CommitLogViewer.cssTemplate):
1161         * public/v3/components/sub-commit-viewer.js: Added.
1162         (SubCommitViewer): Added 'SubCommitViewer' class to represent the sub-commit differences between two given commits.`
1163         (SubCommitViewer.prototype.didConstructShadowTree): Makes 'expand-collapse' button listen to 'toggle' event.
1164         (SubCommitViewer.prototype._toggleVisibility): Updates UI once 'expand-collapse' button is clicked.
1165         (SubCommitViewer.prototype.render): Render sub-commit view based on the state.
1166         (SubCommitViewer.prototype._renderSubcommitTable): Generates sub-commits difference table entries.
1167         (SubCommitViewer.htmlTemplate):
1168         (SubCommitViewer.cssTemplate):
1169         * public/v3/index.html: Added 'sub-commit-viewer.js' and 'expand-collapse-button.js'.
1170         * public/v3/models/commit-log.js:
1171         (CommitLog): Added '_subCommits'.
1172         (CommitLog.prototype.updateSingleton): Updates 'rawData.ownsSubCommits' as well.
1173         (CommitLog.prototype.ownsSubCommits):
1174         (CommitLog.prototype.subCommits): Added. Returns sub-commits.
1175         (CommitLog.prototype.fetchSubCommits): Added. Fetches sub-commits if haven't fetched them before.
1176         (CommitLog.prototype._buildSubCommitMap): Added. Creates a map which maps repositories to commits.
1177         (CommitLog.diffSubCommits): Added. Finds difference between two given commits.
1178         (CommitLog.fetchBetweenRevisions): Updated due to '_constructFromRawData' change.
1179         (CommitLog.fetchForSingleRevision): Updated due to '_constructFromRawData' change.
1180         (CommitLog._constructFromRawData): Removed first argument 'repository' as it can be determined by calling 'Repository.findById'.
1181         * public/v3/models/repository.js:
1182         (Repository):
1183         (Repository.prototype.owner): Returns the owner id.
1184         (Repository.prototype.ownedRepositories): Returns a list of repositories owned by this repository.
1185         * server-tests/api-commits-tests.js: Added tests for 'sub-commits' filter.
1186         * server-tests/api-manifest-tests.js: Added a test.
1187         * unit-tests/commit-log-tests.js: Added tests for 'fetchSubCommits' and 'diffSubCommits'.
1188         * unit-tests/resources/mock-v3-models.js: Added 'ownerRepository' and 'ownedRepository'.
1189
1190 2017-04-11  Ryosuke Niwa  <rniwa@webkit.org>
1191
1192         Retrying an A/B testing does not set the repetition count in some cases
1193         https://bugs.webkit.org/show_bug.cgi?id=170695
1194
1195         Reviewed by Joseph Pecoraro.
1196
1197         When selecting an existing A/B test group, the analysis task page automatically sets the repetition count
1198         of its retry to be that of the original test group. However, this information wasn't being passed correctly
1199         to the code that actually created a test group. As a result, the retried test group's repetition count does
1200         not match that of the original group or the number shown to the user on UI.
1201
1202         Fixed the bug by updating this._repetitionCount in setRepetitionCount.
1203
1204         * browser-tests/index.html:
1205         * browser-tests/test-group-form-tests.js: Added. Added tests.
1206         (.createTestGroupFormWithContext): Added.
1207         * public/v3/components/test-group-form.js:
1208         (TestGroupForm.prototype.setRepetitionCount):
1209         (TestGroupForm.formContent):
1210         (TestGroupForm):
1211
1212 2017-04-10  Ryosuke Niwa  <rniwa@webkit.org>
1213
1214         Add the UI for scheduling a A/B testing with a custom root
1215         https://bugs.webkit.org/show_bug.cgi?id=170622
1216
1217         Reviewed by Anders Carlsson.
1218
1219         This patch adds the support for creating a new analysis task with a custom darwinup roots. A follow up patch
1220         would update the syncing script to schedule such an A/B testing job to a buildbot instance.
1221
1222
1223         * ReadMe.md: Updated instructions for backing up and restoring the database so that it's easier to replace
1224         the file path for the backup.
1225
1226         * init-database.sql: Make task_platform and task_metric optional in each analysis task. Also added a column
1227         to store the root file in commit_set_relationships.
1228
1229         * public/api/build-requests.php:
1230         (main): Include the uploaded files.
1231
1232         * public/api/commits.php:
1233         (main): Added the support for querying the latest commits for a given platform. This is used in a new page
1234         to create a custom analysis task to autofill the latest revisions for a given platform.
1235
1236         * public/api/test-groups.php:
1237         (main): Include the uploaded files.
1238
1239         * public/include/build-requests-fetcher.php:
1240         (BuildRequestsFetcher::__construct): Added a list of uploaded_files and a map from its id.
1241         (BuildRequestsFetcher::uploaded_files): Added.
1242         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Added the support for including custom roots' id in
1243         each commit set, and inserting its meta data in the list of uplaoded files.
1244
1245         * public/include/commit-log-fetcher.php:
1246         (CommitLogFetcher::fetch_latest_for_platform): Added. Finds the latest commit for a given platform. Ideally,
1247         we should be finding the latest commit for a given platform, but this is very slow so instead find the commit
1248         of the latest build for a given platform.
1249
1250         * public/privileged-api/create-test-group.php:
1251         (main): Added the support for creating an analysis task along with a group.
1252         (commit_sets_from_revision_sets): Added the support for custom roots. Verify the specified uploaded file exists
1253         and include it in commit_set_relationships. Because commits and upload files are stored in a different column
1254         in commit_set_relationships, this function now stores the information for each row of commit_set_relationships
1255         except the commit set ID, which is unknown until the set is created, instead of a commit ID.
1256         (ensure_commit_sets): Made the each entry in a commit set a row instead of a commit ID as done. As this format
1257         is only by v2 UI and detect-changes.js, we don't add the support for specifying custom roots here.
1258
1259         * public/privileged-api/upload-file.php:
1260         (main): Fixed a typo. Also added one more error check.
1261
1262         * public/v3/components/custom-analysis-task-configurator.js: Added. The UI for selecting a test, a platform,
1263         and a set of revisions, as well as custom roots for a custom A/B testing job. The first set of revision with
1264         custom roots is referred as "baseline", and the second configuration is referred as "comparison" in this class.
1265         (CustomAnalysisTaskConfigurator):
1266         (CustomAnalysisTaskConfigurator.prototype.tests): Added.
1267         (CustomAnalysisTaskConfigurator.prototype.platform): Added.
1268         (CustomAnalysisTaskConfigurator.prototype.commitSets): Added. Returns a pair of baseline and comparsion if both
1269         have been configured by the user.
1270         (CustomAnalysisTaskConfigurator.prototype.didConstructShadowTree): Added.
1271         (CustomAnalysisTaskConfigurator.prototype._configureComparison): Added. Called when the user is to configu the
1272         "comparison" configuration.
1273         (CustomAnalysisTaskConfigurator.prototype.render): Added.
1274         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Added. Renders the list of top-level tests
1275         that can be scheduled by a triggerable.
1276         (CustomAnalysisTaskConfigurator.prototype._renderTriggerablePlatforms): Added. Renders the list of platforms
1277         that can be schedule with the currently selected list of tests by a triggerable. Note that the current UI only
1278         lets the user select a single test but the intent is to allow multiple tests to be selected in the near future.
1279         (CustomAnalysisTaskConfigurator.prototype._buildCheckboxList): Added. Creates a list of radio boxes to select
1280         an item with a callback for each. It automatically sets "selected" class on the selected item. It's used to
1281         render both the list of tests and platforms.
1282         (CustomAnalysisTaskConfigurator.prototype._updateTriggerable): Added. Finds the triggerable for a given list of
1283         tests and platforms. Returns an error when some tests belong to another triggearalbe.
1284         (CustomAnalysisTaskConfigurator.prototype._updateRepositoryGroups): Added. Finds a repository group to use when
1285         the current triggerable has changed. We try to use the repository group of the same name if there is any, and
1286         defaults to the first repository group if there is none. This allows the set of repositories to be specified to
1287         more or less persist across different triggerables. For example, if iOS platforms and Mac platforms use two
1288         distinct triggerables , and both triggerables have two repository groups: one that only specify the OS and the
1289         other that specifies both teh OS and WebKit revision, then this code allows the choice the user had made to
1290         specify either just the OS or the OS and WebKit will be preserved when the user switches from an iOS platform
1291         to a Mac platform.
1292         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Added. Create a commit set map, the format that
1293         TestGroup.createWithTask accepts given "baseline" and "comparison" commit sets. Pretend "comparison" is not set
1294         if two sets are identical since it makes no sense to schedule an A/B testing job when A and B are identical.
1295         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet): Added. Creates a commit set using the revisions
1296         and the csutom roots the user had specified.
1297         (CustomAnalysisTaskConfigurator.prototype._renderRepositoryPanes): Added. Renders the pane to specify revisions
1298         and custom roots for "baseline" and "comparison".
1299         (CustomAnalysisTaskConfigurator.prototype._renderBaselineRevisionTable): Added.
1300         (CustomAnalysisTaskConfigurator.prototype._renderComparisonRevisionTable): Added.
1301         (CustomAnalysisTaskConfigurator.prototype._optionalRepositoryList): Added.
1302         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable): Added. Creates a table for specifying revisions
1303         and custom roots along with a list of repository groups to pick. The set of repositories and custom roots are
1304         shown at the all if all repository groups require them. Otherwise, they are grouped at the bottom as optional.
1305         (CustomAnalysisTaskConfigurator.prototype._buildRepositoryGroupList): Added.
1306         (CustomAnalysisTaskConfigurator.prototype._selectRepositoryGroup): Added.
1307         (CustomAnalysisTaskConfigurator.prototype._buildRevisionInput): Added. Creates an input element to specify
1308         a revision for a given repository. Autofills it with the latest commit for the currently selected platform if
1309         the user had not modified the field by the time the revisions are fetched.
1310         (CustomAnalysisTaskConfigurator.htmlTemplate): Added.
1311         (CustomAnalysisTaskConfigurator.cssTemplate): Added.
1312
1313         * public/v3/components/instant-file-uploader.js: Added. A form to upload a custom darwinup root in "baseline"
1314         or "comparison" configurations of CustomAnalysisTaskConfigurator. It's "instant" because it auto-detects when a
1315         file to be uploaded had already been uploaded elsewhere by checking its SHA-256 hash.
1316         (InstantFileUploader):
1317         (InstantFileUploader.prototype.hasFileToUpload): Added.
1318         (InstantFileUploader.prototype.uploadedFiles): Added.
1319         (InstantFileUploader.prototype.addUploadedFile): Added. It's called on the uploader for "comparison"
1320         configuration when the uploader for "baseline" configuration dipsatches "uploadedFile" action to automatically
1321         mirror the newly uploaded custom root to "comparision" configuration.
1322         (InstantFileUploader.prototype.didConstructShadowTree): Added.
1323         (InstantFileUploader.prototype.render): Added.
1324         (InstantFileUploader.prototype._renderUploadedFiles): Added. Renders the list of the uploaded files.
1325         (InstantFileUploader.prototype._renderPreuploadFiles): Added. Renders the list of the files to be uploaded with
1326         a progress bar.
1327         (InstantFileUploader.prototype._updateUploadStatus): Added. Updates the progress bar for uploading the file.
1328         (InstantFileUploader.prototype._formatUploadError): Added.
1329         (InstantFileUploader.prototype._didFileInputChange): Added. Called when the user picks a file to uploaded on
1330         the input element. Fetch the meta data for the uploaded file with the same SHA-256 hash if there is any, and
1331         start uploading the file if there isn't one.
1332         (InstantFileUploader.prototype._removeUploadedFile): Added.
1333         (InstantFileUploader.prototype._didUploadFile): Added. Move a file from the list of files to be uploaded to
1334         the list of uploaded files.
1335         (InstantFileUploader.htmlTemplate): Added.
1336         (InstantFileUploader.cssTemplate): Added.
1337
1338         * public/v3/index.html:
1339
1340         * public/v3/models/analysis-task.js:
1341         (AnalysisTask): Made platform and metric optional as it is now.
1342         (AnalysisTask.findByPlatformAndMetric): Skip analysis tasks without a platform or a metric.
1343         (AnalysisTask.prototype.isCustom): Added. Returns true for a custom analysis task.
1344         (AnalysisTask.fetchRelatedTasks): Skip custom analysis tasks.
1345         (AnalysisTask._constructAnalysisTasksFromRawData): Construct analysis tasks even if they were missing a metric
1346         or a platform instead of silently skipping them.
1347
1348         * public/v3/models/build-request.js:
1349         (BuildRequest.constructBuildRequestsFromData): Construct uploaded file objects returned by /api/build-requests.
1350
1351         * public/v3/models/commit-log.js:
1352         (CommitLog.fetchLatestCommitForPlatform): Added.
1353
1354         * public/v3/models/commit-set.js:
1355         (CommitSet): Added this._customRoots.
1356         (CommitSet.prototype.customRoots): Returns this._customRoots.
1357         (CommitSet.prototype.equals): Returns false when the set of custom roots are not equal.
1358         (CommitSet.areCustomRootsEqual): Added.
1359         (CustomCommitSet):
1360         (CustomCommitSet.prototype.equals): Added.
1361         (CustomCommitSet.prototype.customRoots): Added.
1362         (CustomCommitSet.prototype.addCustomRoot): Added.
1363
1364         * public/v3/models/manifest.js:
1365         (Manifest._didFetchManifest): Store fileUploadSizeLimit in the manifest as UploadedFile.fileUploadSizeLimit.
1366         This allows a file size check in the client size instead of uploading it to the server and receiving an error.
1367
1368         * public/v3/models/metric.js:
1369         (Metric.formatTime): Moved from ChartPaneStatusView to be also used by InstantFileUploader._renderUploadedFiles.
1370
1371         * public/v3/models/test-group.js:
1372         (TestGroup.prototype.createWithTask): Added.
1373         (TestGroup.prototype.createAndRefetchTestGroups):
1374         (TestGroup.prototype._revisionSetsFromCommitSets): Added. Extracted from createAndRefetchTestGroups.
1375         (TestGroup.prototype._fetchTestGroupsForTask): Added. Extracted from createAndRefetchTestGroups.
1376
1377         * public/v3/models/triggerable.js:
1378         (Triggerable.triggerablePlatformsForTests): Added.
1379         (Triggerable.sortByNamePreferringSmallerRepositories): Added.
1380
1381         * public/v3/models/uploaded-file.js:
1382         (UploadedFile.prototype.createdAt): Added.
1383         (UploadedFile.prototype.filename): Added.
1384         (UploadedFile.prototype.author): Added.
1385         (UploadedFile.prototype.size): Added.
1386         (UploadedFile.uploadFile): Added a client-side check for the file size using UploadedFile.fileUploadSizeLimit.
1387         (UploadedFile.fetchUnloadedFileWithIdenticalHash): Ditto. Also fixed a bug that 404 was resulting in a rejected
1388         promise instead of a resolved promise with null.
1389
1390         * public/v3/pages/analysis-category-page.js:
1391         (AnalysisCategoryPage.prototype._reconstructTaskList): Modernized the code. Added the support for platform and
1392         metric being null for some analysis tasks.
1393
1394         * public/v3/pages/analysis-task-page.js:
1395         (AnalysisTaskPage.prototype._didFetchTask): Don't fetch the measurement set or create a chart for custom tasks.
1396         (AnalysisTaskPage.prototype.render): Don't display the charts or the stacking table for custom tasks.
1397         (AnalysisTaskPage.prototype._renderTaskNameAndStatus): Don't try to show the full test name for custom tasks
1398         since it's not associated with exactly one pair.
1399
1400         * public/v3/pages/chart-pane-status-view.js:
1401         (ChartPaneStatusView.prototype._renderBuildRevisionTable):
1402         (ChartPaneStatusView.prototype._formatTime): Moved to Metric.formatTime.
1403
1404         * public/v3/pages/chart-pane.js:
1405         (ChartPane.prototype._analyzeRange): Set inProgress to true to hide CustomAnalysisTaskConfigurator in
1406         CreateAnalysisTaskPage when creating a non-custom analysis task for a specific range.
1407
1408         * public/v3/pages/create-analysis-task-page.js:
1409         (CreateAnalysisTaskPage): This page now shows CustomAnalysisTaskConfigurator by default, and lets a user create
1410         a custom analysis task by picking a test, a platform, and a set of revisions and custom darwinup roots.
1411         (CreateAnalysisTaskPage.prototype.updateFromSerializedState): Show a message when inProgress is set. This is
1412         the old behavior of this page.
1413         (CreateAnalysisTaskPage.prototype.didConstructShadowTree): Added.
1414         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup): Added.
1415         (CreateAnalysisTaskPage.prototype.render):
1416         (CreateAnalysisTaskPage.prototype._renderMessage): Added. Hides CustomAnalysisTaskConfigurator and the select
1417         element to specify the numebr of iterations when a message is set.
1418         (CreateAnalysisTaskPage.htmlTemplate):
1419         (CreateAnalysisTaskPage.cssTemplate):
1420
1421         * public/v3/pages/page-router.js:
1422         (PageRouter.prototype.route): Always enqueue the page to re-render when the route has changed.
1423
1424         * server-tests/api-build-requests-tests.js: Updated test cases now that the response contains a list of
1425         uploaded files associated with build requests.
1426
1427         * server-tests/privileged-api-create-test-group-tests.js: Added test cases for creating a custom analysis task
1428         and a test group with custom roots. 
1429
1430         * server-tests/resources/mock-data.js:
1431         (MockData.addMockData): Updated the mock data to satisfy new constraint on analysis-tasks table.
1432
1433         * tools/js/remote.js: Include global.FormData from form-data.js.
1434
1435         * unit-tests/build-request-tests.js:
1436         (sampleBuildRequestData): Updated the mock response.
1437         * unit-tests/buildbot-syncer-tests.js:
1438         (createSampleBuildRequest): Ditto.
1439         * unit-tests/test-groups-tests.js:
1440         (sampleTestGroup): Ditto.
1441
1442 2017-04-10  Commit Queue  <commit-queue@webkit.org>
1443
1444         Unreviewed, rolling out r215202.
1445         https://bugs.webkit.org/show_bug.cgi?id=170694
1446
1447         Committed incorrectly (Requested by rniwa on #webkit).
1448
1449         Reverted changeset:
1450
1451         "Add the UI for scheduling a A/B testing with a custom root"
1452         https://bugs.webkit.org/show_bug.cgi?id=170622
1453         http://trac.webkit.org/changeset/215202
1454
1455 2017-04-10  Ryosuke Niwa  <rniwa@webkit.org>
1456
1457         Add the UI for scheduling a A/B testing with a custom root
1458         https://bugs.webkit.org/show_bug.cgi?id=170622
1459
1460         Reviewed by Anders Carlsson.
1461
1462         This patch adds the support for creating a new analysis task with a custom darwinup roots. A follow up patch
1463         would update the syncing script to schedule such an A/B testing job to a buildbot instance.
1464
1465
1466         * ReadMe.md: Updated instructions for backing up and restoring the database so that it's easier to replace
1467         the file path for the backup.
1468
1469         * init-database.sql: Make task_platform and task_metric optional in each analysis task. Also added a column
1470         to store the root file in commit_set_relationships.
1471
1472         * public/api/build-requests.php:
1473         (main): Include the uploaded files.
1474
1475         * public/api/commits.php:
1476         (main): Added the support for querying the latest commits for a given platform. This is used in a new page
1477         to create a custom analysis task to autofill the latest revisions for a given platform.
1478
1479         * public/api/test-groups.php:
1480         (main): Include the uploaded files.
1481
1482         * public/include/build-requests-fetcher.php:
1483         (BuildRequestsFetcher::__construct): Added a list of uploaded_files and a map from its id.
1484         (BuildRequestsFetcher::uploaded_files): Added.
1485         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Added the support for including custom roots' id in
1486         each commit set, and inserting its meta data in the list of uplaoded files.
1487
1488         * public/include/commit-log-fetcher.php:
1489         (CommitLogFetcher::fetch_latest_for_platform): Added. Finds the latest commit for a given platform. Ideally,
1490         we should be finding the latest commit for a given platform, but this is very slow so instead find the commit
1491         of the latest build for a given platform.
1492
1493         * public/privileged-api/create-test-group.php:
1494         (main): Added the support for creating an analysis task along with a group.
1495         (commit_sets_from_revision_sets): Added the support for custom roots. Verify the specified uploaded file exists
1496         and include it in commit_set_relationships. Because commits and upload files are stored in a different column
1497         in commit_set_relationships, this function now stores the information for each row of commit_set_relationships
1498         except the commit set ID, which is unknown until the set is created, instead of a commit ID.
1499         (ensure_commit_sets): Made the each entry in a commit set a row instead of a commit ID as done. As this format
1500         is only by v2 UI and detect-changes.js, we don't add the support for specifying custom roots here.
1501
1502         * public/privileged-api/upload-file.php:
1503         (main): Fixed a typo. Also added one more error check.
1504
1505         * public/v3/components/custom-analysis-task-configurator.js: Added. The UI for selecting a test, a platform,
1506         and a set of revisions, as well as custom roots for a custom A/B testing job. The first set of revision with
1507         custom roots is referred as "baseline", and the second configuration is referred as "comparison" in this class.
1508         (CustomAnalysisTaskConfigurator):
1509         (CustomAnalysisTaskConfigurator.prototype.tests): Added.
1510         (CustomAnalysisTaskConfigurator.prototype.platform): Added.
1511         (CustomAnalysisTaskConfigurator.prototype.commitSets): Added. Returns a pair of baseline and comparsion if both
1512         have been configured by the user.
1513         (CustomAnalysisTaskConfigurator.prototype.didConstructShadowTree): Added.
1514         (CustomAnalysisTaskConfigurator.prototype._configureComparison): Added. Called when the user is to configu the
1515         "comparison" configuration.
1516         (CustomAnalysisTaskConfigurator.prototype.render): Added.
1517         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Added. Renders the list of top-level tests
1518         that can be scheduled by a triggerable.
1519         (CustomAnalysisTaskConfigurator.prototype._renderTriggerablePlatforms): Added. Renders the list of platforms
1520         that can be schedule with the currently selected list of tests by a triggerable. Note that the current UI only
1521         lets the user select a single test but the intent is to allow multiple tests to be selected in the near future.
1522         (CustomAnalysisTaskConfigurator.prototype._buildCheckboxList): Added. Creates a list of radio boxes to select
1523         an item with a callback for each. It automatically sets "selected" class on the selected item. It's used to
1524         render both the list of tests and platforms.
1525         (CustomAnalysisTaskConfigurator.prototype._updateTriggerable): Added. Finds the triggerable for a given list of
1526         tests and platforms. Returns an error when some tests belong to another triggearalbe.
1527         (CustomAnalysisTaskConfigurator.prototype._updateRepositoryGroups): Added. Finds a repository group to use when
1528         the current triggerable has changed. We try to use the repository group of the same name if there is any, and
1529         defaults to the first repository group if there is none. This allows the set of repositories to be specified to
1530         more or less persist across different triggerables. For example, if iOS platforms and Mac platforms use two
1531         distinct triggerables , and both triggerables have two repository groups: one that only specify the OS and the
1532         other that specifies both teh OS and WebKit revision, then this code allows the choice the user had made to
1533         specify either just the OS or the OS and WebKit will be preserved when the user switches from an iOS platform
1534         to a Mac platform.
1535         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Added. Create a commit set map, the format that
1536         TestGroup.createWithTask accepts given "baseline" and "comparison" commit sets. Pretend "comparison" is not set
1537         if two sets are identical since it makes no sense to schedule an A/B testing job when A and B are identical.
1538         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet): Added. Creates a commit set using the revisions
1539         and the csutom roots the user had specified.
1540         (CustomAnalysisTaskConfigurator.prototype._renderRepositoryPanes): Added. Renders the pane to specify revisions
1541         and custom roots for "baseline" and "comparison".
1542         (CustomAnalysisTaskConfigurator.prototype._renderBaselineRevisionTable): Added.
1543         (CustomAnalysisTaskConfigurator.prototype._renderComparisonRevisionTable): Added.
1544         (CustomAnalysisTaskConfigurator.prototype._optionalRepositoryList): Added.
1545         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable): Added. Creates a table for specifying revisions
1546         and custom roots along with a list of repository groups to pick. The set of repositories and custom roots are
1547         shown at the all if all repository groups require them. Otherwise, they are grouped at the bottom as optional.
1548         (CustomAnalysisTaskConfigurator.prototype._buildRepositoryGroupList): Added.
1549         (CustomAnalysisTaskConfigurator.prototype._selectRepositoryGroup): Added.
1550         (CustomAnalysisTaskConfigurator.prototype._buildRevisionInput): Added. Creates an input element to specify
1551         a revision for a given repository. Autofills it with the latest commit for the currently selected platform if
1552         the user had not modified the field by the time the revisions are fetched.
1553         (CustomAnalysisTaskConfigurator.htmlTemplate): Added.
1554         (CustomAnalysisTaskConfigurator.cssTemplate): Added.
1555
1556         * public/v3/components/instant-file-uploader.js: Added. A form to upload a custom darwinup root in "baseline"
1557         or "comparison" configurations of CustomAnalysisTaskConfigurator. It's "instant" because it auto-detects when a
1558         file to be uploaded had already been uploaded elsewhere by checking its SHA-256 hash.
1559         (InstantFileUploader):
1560         (InstantFileUploader.prototype.hasFileToUpload): Added.
1561         (InstantFileUploader.prototype.uploadedFiles): Added.
1562         (InstantFileUploader.prototype.addUploadedFile): Added. It's called on the uploader for "comparison"
1563         configuration when the uploader for "baseline" configuration dipsatches "uploadedFile" action to automatically
1564         mirror the newly uploaded custom root to "comparision" configuration.
1565         (InstantFileUploader.prototype.didConstructShadowTree): Added.
1566         (InstantFileUploader.prototype.render): Added.
1567         (InstantFileUploader.prototype._renderUploadedFiles): Added. Renders the list of the uploaded files.
1568         (InstantFileUploader.prototype._renderPreuploadFiles): Added. Renders the list of the files to be uploaded with
1569         a progress bar.
1570         (InstantFileUploader.prototype._updateUploadStatus): Added. Updates the progress bar for uploading the file.
1571         (InstantFileUploader.prototype._formatUploadError): Added.
1572         (InstantFileUploader.prototype._didFileInputChange): Added. Called when the user picks a file to uploaded on
1573         the input element. Fetch the meta data for the uploaded file with the same SHA-256 hash if there is any, and
1574         start uploading the file if there isn't one.
1575         (InstantFileUploader.prototype._removeUploadedFile): Added.
1576         (InstantFileUploader.prototype._didUploadFile): Added. Move a file from the list of files to be uploaded to
1577         the list of uploaded files.
1578         (InstantFileUploader.htmlTemplate): Added.
1579         (InstantFileUploader.cssTemplate): Added.
1580
1581         * public/v3/index.html:
1582
1583         * public/v3/models/analysis-task.js:
1584         (AnalysisTask): Made platform and metric optional as it is now.
1585         (AnalysisTask.findByPlatformAndMetric): Skip analysis tasks without a platform or a metric.
1586         (AnalysisTask.prototype.isCustom): Added. Returns true for a custom analysis task.
1587         (AnalysisTask.fetchRelatedTasks): Skip custom analysis tasks.
1588         (AnalysisTask._constructAnalysisTasksFromRawData): Construct analysis tasks even if they were missing a metric
1589         or a platform instead of silently skipping them.
1590
1591         * public/v3/models/build-request.js:
1592         (BuildRequest.constructBuildRequestsFromData): Construct uploaded file objects returned by /api/build-requests.
1593
1594         * public/v3/models/commit-log.js:
1595         (CommitLog.fetchLatestCommitForPlatform): Added.
1596
1597         * public/v3/models/commit-set.js:
1598         (CommitSet): Added this._customRoots.
1599         (CommitSet.prototype.customRoots): Returns this._customRoots.
1600         (CommitSet.prototype.equals): Returns false when the set of custom roots are not equal.
1601         (CommitSet.areCustomRootsEqual): Added.
1602         (CustomCommitSet):
1603         (CustomCommitSet.prototype.equals): Added.
1604         (CustomCommitSet.prototype.customRoots): Added.
1605         (CustomCommitSet.prototype.addCustomRoot): Added.
1606
1607         * public/v3/models/manifest.js:
1608         (Manifest._didFetchManifest): Store fileUploadSizeLimit in the manifest as UploadedFile.fileUploadSizeLimit.
1609         This allows a file size check in the client size instead of uploading it to the server and receiving an error.
1610
1611         * public/v3/models/metric.js:
1612         (Metric.formatTime): Moved from ChartPaneStatusView to be also used by InstantFileUploader._renderUploadedFiles.
1613
1614         * public/v3/models/test-group.js:
1615         (TestGroup.prototype.createWithTask): Added.
1616         (TestGroup.prototype.createAndRefetchTestGroups):
1617         (TestGroup.prototype._revisionSetsFromCommitSets): Added. Extracted from createAndRefetchTestGroups.
1618         (TestGroup.prototype._fetchTestGroupsForTask): Added. Extracted from createAndRefetchTestGroups.
1619
1620         * public/v3/models/triggerable.js:
1621         (Triggerable.triggerablePlatformsForTests): Added.
1622         (Triggerable.sortByNamePreferringSmallerRepositories): Added.
1623
1624         * public/v3/models/uploaded-file.js:
1625         (UploadedFile.prototype.createdAt): Added.
1626         (UploadedFile.prototype.filename): Added.
1627         (UploadedFile.prototype.author): Added.
1628         (UploadedFile.prototype.size): Added.
1629         (UploadedFile.uploadFile): Added a client-side check for the file size using UploadedFile.fileUploadSizeLimit.
1630         (UploadedFile.fetchUnloadedFileWithIdenticalHash): Ditto. Also fixed a bug that 404 was resulting in a rejected
1631         promise instead of a resolved promise with null.
1632
1633         * public/v3/pages/analysis-category-page.js:
1634         (AnalysisCategoryPage.prototype._reconstructTaskList): Modernized the code. Added the support for platform and
1635         metric being null for some analysis tasks.
1636
1637         * public/v3/pages/analysis-task-page.js:
1638         (AnalysisTaskPage.prototype._didFetchTask): Don't fetch the measurement set or create a chart for custom tasks.
1639         (AnalysisTaskPage.prototype.render): Don't display the charts or the stacking table for custom tasks.
1640         (AnalysisTaskPage.prototype._renderTaskNameAndStatus): Don't try to show the full test name for custom tasks
1641         since it's not associated with exactly one pair.
1642
1643         * public/v3/pages/chart-pane-status-view.js:
1644         (ChartPaneStatusView.prototype._renderBuildRevisionTable):
1645         (ChartPaneStatusView.prototype._formatTime): Moved to Metric.formatTime.
1646
1647         * public/v3/pages/chart-pane.js:
1648         (ChartPane.prototype._analyzeRange): Set inProgress to true to hide CustomAnalysisTaskConfigurator in
1649         CreateAnalysisTaskPage when creating a non-custom analysis task for a specific range.
1650
1651         * public/v3/pages/create-analysis-task-page.js:
1652         (CreateAnalysisTaskPage): This page now shows CustomAnalysisTaskConfigurator by default, and lets a user create
1653         a custom analysis task by picking a test, a platform, and a set of revisions and custom darwinup roots.
1654         (CreateAnalysisTaskPage.prototype.updateFromSerializedState): Show a message when inProgress is set. This is
1655         the old behavior of this page.
1656         (CreateAnalysisTaskPage.prototype.didConstructShadowTree): Added.
1657         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup): Added.
1658         (CreateAnalysisTaskPage.prototype.render):
1659         (CreateAnalysisTaskPage.prototype._renderMessage): Added. Hides CustomAnalysisTaskConfigurator and the select
1660         element to specify the numebr of iterations when a message is set.
1661         (CreateAnalysisTaskPage.htmlTemplate):
1662         (CreateAnalysisTaskPage.cssTemplate):
1663
1664         * public/v3/pages/page-router.js:
1665         (PageRouter.prototype.route): Always enqueue the page to re-render when the route has changed.
1666
1667         * server-tests/api-build-requests-tests.js: Updated test cases now that the response contains a list of
1668         uploaded files associated with build requests.
1669         *server-tests/api-commits-tests.js: Added a test case for /api/commits/<repository-name>/latest?platform=X.
1670         * server-tests/privileged-api-create-test-group-tests.js: Added test cases for creating a custom analysis task
1671         and a test group with custom roots. 
1672         * server-tests/resources/mock-data.js:
1673         (MockData.addMockData): Updated the mock data to satisfy new constraint on analysis-tasks table. Also inserted
1674         more commits, builds, and build_commits rows for testing /api/commits/<repository-name>/latest?platform=X.
1675
1676         * tools/js/remote.js: Include global.FormData from form-data.js.
1677
1678         * unit-tests/analysis-task-tests.js: Added a test for calling findByPlatformAndMetric when there is a custom
1679         analysis task.
1680         (sampleAnalysisTask): Removed the category since /api/analysis-tasks/ no longer generate this property.
1681         (sampleCustomAnalysisTask): Added.
1682         * unit-tests/build-request-tests.js:
1683         (sampleBuildRequestData): Updated the mock response. Added a test case for fetcing custom roots.
1684         * unit-tests/buildbot-syncer-tests.js:
1685         (createSampleBuildRequest): Ditto.
1686         * unit-tests/test-groups-tests.js:
1687         (sampleTestGroup): Ditto.
1688
1689 2017-04-07  Ryosuke Niwa  <rniwa@webkit.org>
1690
1691         Make cycler page scroll down when a dashboard is too tall for the current viewport size
1692         https://bugs.webkit.org/show_bug.cgi?id=170588
1693
1694         Rubber-stamped by Chris Dumez.
1695
1696         Updated the cycler page to scroll down smoothly over 500ms and scroll up again before moving to the next page
1697         when a dashboard page is too tall to be shown at once. For now, we assume that each dashboard's height is no
1698         more than 2x the height of the viewport.
1699
1700         * public/cycler.html:
1701
1702 2017-04-06  Ryosuke Niwa  <rniwa@webkit.org>
1703
1704         Each build request should be associated with a repository group
1705         https://bugs.webkit.org/show_bug.cgi?id=170528
1706
1707         Rubber-stamped by Chris Dumez.
1708
1709         Make the buildbot syncing script use the concept of repository groups so that each repository group can post
1710         a different set of properties to buildbot. In order to do this, we associate each build request with
1711         a repository group to use. Each triggerable's repository groups is now updated by the syncing scripts via
1712         /api/update-triggerable just the same way the set of the supported platform, test pairs are updated.
1713
1714         Each repository group specifies the list of repositories, a dictionary that maps the buildbot property name
1715         to either a string value or a repository name enclosed in < and >:
1716
1717         ```js
1718         "repositoryGroups": {
1719             "webkit-svn": {
1720                 "repositories": ["WebKit", "macOS"],
1721                 "properties": {"os": "<macOS>", "wk": "<WebKit>"}
1722             }
1723         }
1724         ```
1725
1726         With this, removed the support for specifying a repository to use in generic dictionary of properties via
1727         a dictionary with a single key of "root", "rootOptions", and "rootsExcluding". We now validate that the list of
1728         repositories in each repository group matches exactly the ones used in buildbot properties as well as ones in
1729         build requests.
1730
1731         After this patch, sync-with-buildbot.js will no longer schedule a build request without a repository group.
1732         Run the appropriate database queries to set the repository group on each build request. Because of this change,
1733         this patch also makes BuildbotTriggerable.prototype.syncOnce more robust against invalid build requests.
1734         Instead of throwing an exception and exiting early, it simply skips all build requests that belong to the same
1735         test group if the next build request to be scheduled does not specify a repository group.
1736
1737         * init-database.sql: Add request_repository_group column to build_requests table, and a unique constraint for
1738         repository and group pair in triggerable_repositories table.
1739
1740         * public/api/update-triggerable.php:
1741         (main): Validate and insert repository groups.
1742         (validate_configurations): Extracted from main.
1743         (validate_repository_groups): Added.
1744
1745         * public/v3/models/repository.js:
1746         (Repository.findTopLevelByName): Added.
1747
1748         * public/include/build-requests-fetcher.php:
1749         (BuildRequestsFetcher::results_internal): Include the repository group of each request in the JSON response.
1750
1751         * public/include/repository-group-finder.php: Added. A helper class to find the repository group for a given
1752         triggerable for a list of repositories.
1753         (RepositoryGroupFinder): Added. 
1754         (RepositoryGroupFinder::__construct): Added.
1755         (RepositoryGroupFinder::find_by_repositories): Added.
1756         (RepositoryGroupFinder::populate_map): Added.
1757
1758         * public/privileged-api/create-test-group.php:
1759         (main): Each element in an array returned by ensure_commit_sets and commit_sets_from_revision_sets now contains
1760         "set", the list of commit IDs, and "repository_group", the repository group identified for each commit set.
1761         Use that to set the repository group in each new build request. 
1762         (commit_sets_from_revision_sets): Use RepositoryGroupFinder to find the right repository group.
1763         (ensure_commit_sets): Ditto. There is no need to find a repository group for each commit set here since its
1764         argument is keyed by the repository name. e.g. {"WebKit": [123, 456], "macOS": ["16A323", "16A323"]}
1765
1766         * public/v3/models/build-request.js:
1767         (BuildRequest):
1768         (BuildRequest.prototype.triggerable): Added.
1769         (BuildRequest.prototype.repositoryGroup): Added.
1770         (BuildRequest.constructBuildRequestsFromData): Resolve the triggerable and the repository group.
1771
1772         * public/v3/models/triggerable.js:
1773         (Triggerable.prototype.name): Added.
1774         (Triggerable.prototype.acceptedRepositories): Deleted.
1775         (TriggerableRepositoryGroup):
1776         (TriggerableRepositoryGroup.prototype.accepts): Added. Retruns true if the repository group
1777
1778         * server-tests/api-build-requests-tests.js: Added a test for getting the repository group of a build request.
1779         * server-tests/api-manifest-tests.js: Added assertions for the repository groups.
1780         * server-tests/api-report-tests.js:
1781         (.emptyReport):
1782         (.reportWithTwoLevelsOfAggregations):
1783         * server-tests/api-update-triggerable.js: Added test cases for updating the repository groups associated with
1784         a triggerable.
1785         (.updateWithOSXRepositoryGroup):
1786         (.mapRepositoriesByGroup):
1787         * server-tests/privileged-api-create-test-group-tests.js:
1788         (addTriggerableAndCreateTask): Add two repository groups for testing. Added assertions for repository groups
1789         in existing test cases, and added a test case for creating a test group with two different repository groups.
1790
1791         * server-tests/resources/mock-data.js:
1792         (MockData.resetV3Models): Reset TriggerableRepositoryGroup's static maps.
1793         (MockData.emptyTriggeragbleId): Added.
1794         (MockData.macosRepositoryId): Added.
1795         (MockData.webkitRepositoryId): Added.
1796         (MockData.gitWebkitRepositoryId): Added.
1797         (MockData.addMockData): Create repository groups as needed. Renamed the "OS X" repository to "macOS" since some
1798         tests were using the latter, and now we need mock data to be consistent across tests due to stricter checks.
1799         (MockData.addEmptyTriggerable): Added. Used in api-update-triggerable.js.
1800         (MockData.addMockTestGroupWithGitWebKit): Added. Used in api-build-requests-tests.js.
1801         (MockData.addAnotherMockTestGroup): Cleanup.
1802         (MockData.mockTestSyncConfigWithSingleBuilder): Updated the mock configuration per code changes.
1803         (MockData.mockTestSyncConfigWithTwoBuilders): Ditto.
1804
1805         * server-tests/tools-buildbot-triggerable-tests.js: Updated a test case testing /api/update-triggerable to test
1806         updating the set of repository groups in addition to the set of test, platform pairs.
1807         (.refetchManifest): Added.
1808
1809         * tools/js/buildbot-syncer.js:
1810         (BuildbotSyncer): Now takes a set of configurations shared across syncers: repositoryGroups, slaveArgument,
1811         and buildRequestArgument as the third argument.
1812         (BuildbotSyncer.prototype.repositoryGroups): Added.
1813         (BuildbotSyncer.prototype._testGroupMapForBuildRequests): Cleaned up the code to use Array.prototype.find.
1814         Also added an assertion that the build request is associated with a repository group.
1815         (BuildbotSyncer.prototype._propertiesForBuildRequest): Removed the support for using an arbitary property to
1816         specify a revision in favor of explicity listing each property and repository name in a repository group.
1817         (BuildbotSyncer._loadConfig): Removed the support for "shared", which specified the set of buildbot properties
1818         shared across syncers, the name of properties which specifies the build slave name and build request ID. These
1819         values are not stored as top-level properties and superseded by the concept of repository groups.
1820         (BuildbotSyncer._parseRepositoryGroup): Parses and validates repository groups.
1821         (BuildbotSyncer._createTestConfiguration): We no longer expect each configuration to specify a dictionary of
1822         properties or buildRequestArgument (often inherited from shared).
1823         (BuildbotSyncer._validateAndMergeConfig): Removed "slaveArgument" and "buildRequestArgument" from the list of
1824         allowed proeprties in each configuration now that they're specified as top-level properties.
1825
1826         * tools/js/buildbot-triggerable.js:
1827         (BuildbotTriggerable.prototype.updateTriggerable): Update the associated repository groups.
1828         (BuildbotTriggerable.prototype.syncOnce): Skip test groups for which the next build request to be scheduled is
1829         not included in the list of valid build requests.
1830         (BuildbotTriggerable.prototype._validateRequests): Now returns the list of valid build requests, which excludes
1831         those that lack a repository group set.
1832         (BuildbotTriggerable.prototype._nextRequestInGroup): Extracted from _scheduleRequestIfSlaveIsAvailable. Finds
1833         the next build request to be scheduled for the test group.
1834         (BuildbotTriggerable.prototype._scheduleRequestIfSlaveIsAvailable): Renamed from
1835         _scheduleNextRequestInGroupIfSlaveIsAvailable. Now takes the syncer and the slave name as arguments instead of
1836         a test group information since syncOnce now calls _nextRequestInGroup to find the next build request.
1837
1838         * tools/js/v3-models.js:
1839
1840         * unit-tests/build-request-tests.js: Fixed the test name.
1841
1842         * unit-tests/buildbot-syncer-tests.js: Removed tests for "rootOptions" and "rootsExcluding", and added tests
1843         for parsing repository groups.
1844         (sampleiOSConfig): Updated the mock configuration per code changes.
1845         (sampleiOSConfigWithExpansions): Ditto.
1846         (smallConfiguration): Ditto. Now returns the entire configuration instead of a single builder configuration.
1847         Various test cases have been updated to reflect this.
1848         (createSampleBuildRequest): Removed the git hash of WebKit to match the repository groups listed in the mock
1849         configurations. The git hash was there to test "rootOptions", which this patch removed.
1850         (samplePendingBuild): Removed "root_dict" from the list of properties. This was used to test "rootsExcluding"
1851         which, again, this patch removed.
1852         (sampleInProgressBuild): Ditto.
1853         (sampleFinishedBuild): Ditto.
1854
1855         * unit-tests/resources/mock-v3-models.js:
1856         (MockModels.inject): Added ock repository groups so that existing tests will continue to function.
1857
1858 2017-04-05  Ryosuke Niwa  <rniwa@webkit.org>
1859
1860         Introduce the notion of repository groups to triggerables
1861         https://bugs.webkit.org/show_bug.cgi?id=170228
1862
1863         Reviewed by Chris Dumez.
1864
1865         On some triggerable, it's desirable to specify multiple sets of repositories that are accepted.
1866
1867         For example, if a repository X transitioned from Subversion to Git, and if a triggerable accepted X and
1868         some other repository Y, then it's desirable to two sets: (X-Subversion, Y) and (X-Git, Y) since neither
1869         (X-Subversion, X-Git) nor (X-Subversion, X-Git, Y) makes sense as a set.
1870
1871         This patch introduces triggerable_repository_groups table to represent a set of repositories accepted by
1872         a triggerable. It has many to one relationship to build_triggerables and triggerable_repositories in turn
1873         now has many to one relationship to triggerable_repository_groups instead of build_triggerables.
1874
1875         Also make it possible to disable a triggerable e.g. a set of tests and platforms are no longer supported.
1876         We don't want to delete the triggerable completely from the database since it would result in the associated
1877         A/B testing results being purged, which is not desirale.
1878
1879         To migrate an existing database, run the following transaction:
1880         ```sql
1881         BEGIN;
1882         ALTER TABLE build_triggerables ADD COLUMN triggerable_disabled boolean NOT NULL DEFAULT FALSE;
1883
1884         CREATE TABLE triggerable_repository_groups (
1885             repositorygroup_id serial PRIMARY KEY,
1886             repositorygroup_triggerable integer REFERENCES build_triggerables NOT NULL,
1887             repositorygroup_name varchar(256) NOT NULL,
1888             repositorygroup_description varchar(256),
1889             repositorygroup_accepts_roots boolean NOT NULL DEFAULT FALSE,
1890             CONSTRAINT repository_group_name_must_be_unique_for_triggerable
1891                 UNIQUE(repositorygroup_triggerable, repositorygroup_name));
1892         INSERT INTO triggerable_repository_groups (repositorygroup_triggerable, repositorygroup_name)
1893             SELECT triggerable_id, 'default' FROM build_triggerables;
1894
1895         ALTER TABLE triggerable_repositories ADD COLUMN trigrepo_group integer REFERENCES triggerable_repository_groups;
1896         UPDATE triggerable_repositories SET trigrepo_group = repositorygroup_id FROM triggerable_repository_groups
1897             WHERE trigrepo_triggerable = repositorygroup_triggerable;
1898         ALTER TABLE triggerable_repositories ALTER COLUMN trigrepo_group SET NOT NULL;
1899
1900         ALTER TABLE triggerable_repositories DROP COLUMN trigrepo_triggerable;
1901         ALTER TABLE triggerable_repositories DROP COLUMN trigrepo_sub_roots;
1902         END;
1903         ```
1904
1905         * init-database.sql:
1906         * public/admin/triggerables.php: Use a custom column to make forms to add and configure repository groups.
1907         (insert_triggerable_repositories): Added.
1908         (generate_repository_list): Added.
1909         (generate_repository_form): Added.
1910         (generate_repository_checkboxes): Now generates checkboxes for a repository group instead of a triggerable.
1911
1912         * public/include/manifest-generator.php:
1913         (fetch_triggerables): Fixed the bug that we were not filtering results with query in /api/triggerable.
1914         Rewrote it to include an array of repository groups, which in turn contains an array of repositories along
1915         with its name and a description, and a boolean indicating whether it accepts a custom root file or not.
1916         The boolean will be used when we're adding the support for perf try bots. We will keep acceptedRepositories
1917         since it's still used by detect-changes.js.
1918
1919         * public/v3/models/manifest.js:
1920         (Manifest._didFetchManifest): Resolve repositoriy, test, and platform IDs to their respective objects.
1921
1922         * public/v3/models/triggerable.js:
1923         (Triggerable):
1924         (Triggerable.prototype.isDisabled): Added.
1925         (Triggerable.prototype.repositoryGroups): Added.
1926         (Triggerable.prototype.acceptsTest): Added.
1927         (TriggerableRepositoryGroup): Added.
1928         (TriggerableRepositoryGroup.prototype.description): Added.
1929         (TriggerableRepositoryGroup.prototype.acceptsCustomRoots): Added.
1930         (TriggerableRepositoryGroup.prototype.repositories): Added.
1931
1932         * public/v3/pages/analysis-task-page.js:
1933         (AnalysisTaskPage.prototype._didFetchTask): Don't use a disabled triggerable.
1934
1935         * server-tests/api-manifest-tests.js: Updated a test case to test repository groups.
1936
1937         * tools/js/database.js:
1938         (tableToPrefixMap): Added triggerable_repository_groups.
1939
1940         * tools/js/v3-models.js: Imported TriggerableRepositoryGroup from triggerable.js.
1941
1942 2017-03-31  Ryosuke Niwa  <rniwa@webkit.org>
1943
1944         Build fix. For OS versions, we can end up with non-alphanumeric revision.
1945         Delete the code path only used by the v2 UI since nobody uses that now.
1946
1947         * public/api/commits.php:
1948         (main):
1949
1950 2017-03-30  Ryosuke Niwa  <rniwa@webkit.org>
1951
1952         sync-buildbot.js can schedule more than one build per builder
1953         https://bugs.webkit.org/show_bug.cgi?id=170318
1954
1955         Reviewed by Saam Barati.
1956
1957         The bug was caused by _scheduleNextRequestInGroupIfSlaveIsAvailable not returning a promise when
1958         scheduling the first build request of a test group. This resulted in _pullBuildbotOnAllSyncers
1959         to prematurely resolve before POST'ing new build had finished. That in turn could result in the
1960         next cycle of syncing to occur before POST'ing has actually taken place.
1961
1962         More precisely, when the nextRequest was the first request or its associated syncer object could
1963         not be identified, we were supposed to find the first available syncer, schedule the request,
1964         and then return the promise returned by scheduleRequestInGroupIfAvailable. However, the for loop
1965         which called scheduleRequestInGroupIfAvailable on every syncer was declaring its own variable
1966         named "promise" thereby shadowing the outer variable, which is returned to the caller.
1967
1968         Fixed the bug by not declaring a shadowing variable, and refactored the code. Namely, the only
1969         reason we had such a complicated logic with two local variables, promise and syncer, was so that
1970         we could log that we're scheduling a build. Extracted this code as _scheduleRequestWithLog.
1971
1972         _scheduleNextRequestInGroupIfSlaveIsAvailable can now simply exit early with a call to
1973         _scheduleRequestWithLog when the syncer is readily identified. When looping over syncers, it can
1974         simply return the first non-null result of _scheduleNextRequestInGroupIfSlaveIsAvailable.
1975
1976         * server-tests/tools-buildbot-triggerable-tests.js: Added a test case where we wait 10ms after
1977         receiving the request to POST a build. There should be no new network request until we resolve
1978         this request.
1979
1980         * tools/js/buildbot-triggerable.js:
1981         (BuildbotTriggerable.prototype._scheduleNextRequestInGroupIfSlaveIsAvailable): Fixed the bug.
1982         (BuildbotTriggerable.prototype._scheduleRequestWithLog): Extracted.
1983
1984 2017-03-30  Ryosuke Niwa  <rniwa@webkit.org>
1985
1986         Modernize BuildbotSyncer and BuildbotTriggerable
1987         https://bugs.webkit.org/show_bug.cgi?id=170310
1988
1989         Reviewed by Chris Dumez.
1990
1991         Modernized the code to use arrow functions and other modern idoms in ES2016.
1992
1993         * ReadMe.md: Added instructions on how to run tests, and moved the steps to configure postgres
1994         above the steps to configure Apache since only the former is needed to run tests.
1995         * tools/js/buildbot-syncer.js:
1996         * tools/js/buildbot-triggerable.js:
1997
1998 2017-03-30  Ryosuke Niwa  <rniwa@webkit.org>
1999
2000         Yet another build fix after r214502. Workaround webkit.org/b/169907 for now.
2001
2002         * public/v3/pages/analysis-task-page.js:
2003         (AnalysisTaskPage.cssTemplate):
2004
2005 2017-03-30  Ryosuke Niwa  <rniwa@webkit.org>
2006
2007         Revert an erronously change in the previous commit.
2008
2009         * public/v3/components/base.js:
2010
2011 2017-03-30  Ryosuke Niwa  <rniwa@webkit.org>
2012
2013         Build fix after r214280. Don't render components until its element is inserted into a document.
2014
2015         * public/v3/components/base.js:
2016         (ComponentBase):
2017
2018 2017-03-29  Ryosuke Niwa  <rniwa@webkit.org>
2019
2020         Another build fix after r214502.
2021
2022         * public/v3/components/analysis-results-viewer.js:
2023         (AnalysisResultsViewer.prototype.render): this._groupToCellMap.get may not contain the cell when startPoint
2024         or metric had not been fetched yet even if currentTestGroup is set.
2025
2026 2017-03-29  Ryosuke Niwa  <rniwa@webkit.org>
2027
2028         Build fix after r214502. Analysis tasks without any test groups are throwing exceptions.
2029
2030         * public/v3/components/results-table.js:
2031         (ResultsTable.prototype.renderTable): Don't show the header row when there are no content to show. 
2032         (ResultsTable.prototype._computeRepositoryList): Return a pair of arrays. The caller expects the repository
2033         list to be an array, not undefined.
2034
2035 2017-03-28  Ryosuke Niwa  <rniwa@webkit.org>
2036
2037         Modernize AnalysisTaskPage
2038         https://bugs.webkit.org/show_bug.cgi?id=170165
2039
2040         Reviewed by Antti Koivisto.
2041
2042         Modernized AnalysisTaskPage and related components. The main refactoring happened in AnalysisTaskPage
2043         from which AnalysisTaskResultsPane and AnalysisTaskTestGroupPane have been extracted.
2044
2045         Decoupled BuildRequest from its results. AnalysisResultsViewer and TestGroupResultsTable now stores
2046         a reference to AnalysisResultsView and Metric to find the results for each build request.
2047         This refactoring is necessary in order to view results of an arbitrary metric in the future.
2048
2049         Also refactored ResultsTable and its subclasses extensively. Instead of making its render() to invoke
2050         subclass' methods such as buildRowGroups, heading, and additionalHeading, rely on each subclass call
2051         to invoke renderTable(), renamed from render(), with callbacks to add extra headers and columns.
2052
2053         This patch also fixes a number of usability issues found by the user such as changing the test name
2054         resets the customized revisions by the virtue of the modern code being naturally more correct.
2055
2056         * public/v3/components/analysis-results-viewer.js:
2057         (AnalysisResultsViewer):
2058         (AnalysisResultsViewer.prototype.setTestGroupCallback): Deleted. Replaced by "testGroupClick" action.
2059         (AnalysisResultsViewer.prototype.setRangeSelectorLabels): Moved here from ResultsTable since it's
2060         never used in ResultsTable or TestGroupResultsTable.
2061         (AnalysisResultsViewer.prototype.selectedRange): Ditto.
2062         (AnalysisResultsViewer.prototype.setPoints): Now takes metric as the third argument.
2063         (AnalysisResultsViewer.prototype.setTestGroups): Now takes the current test group.
2064         (AnalysisResultsViewer.prototype.didUpdateResults): Deleted.
2065         (AnalysisResultsViewer.prototype.setAnalysisResultsView): Added.
2066         (AnalysisResultsViewer.prototype.render): Invoke _renderTestGroups lazily. Also simplified the logic
2067         to find the selected list item. Since we always use a shadow DOM now, we can simply look for an element
2068         with ".seleted" instead of crafting a unique class name.
2069         (AnalysisResultsViewer.prototype.renderTestGroups): Renamed from buildRowGroups. Specify callbacks to
2070         insert headers for A/B radio buttons, which has been moved from ResultsTable.prototype.render, and the
2071         stacked blocks of testing results.
2072         (AnalysisResultsViewer.prototype._classForTestGroup): Deleted.
2073         (AnalysisResultsViewer.prototype._openStackingBlock): Deleted.
2074         (AnalysisResultsViewer.prototype._expandBetween): Create a new set for expandedPoints to make
2075         _renderTestGroupsLazily.evaluate do the work.
2076         (AnalysisResultsViewer._layoutBlocks): Moved from TestGroupStackingGrid.layout.
2077         (AnalysisResultsViewer._sortBlocksByRow): Moved from AnalysisResultsViewer.TestGroupStackingGrid.
2078         (AnalysisResultsViewer._insertAfterBlockWithSameRange): Ditto.
2079         (AnalysisResultsViewer._insertBlockInFirstAvailableColumn): Ditto.
2080         (AnalysisResultsViewer._createCellsForRow): Ditto.
2081
2082         (AnalysisResultsViewer.TestGroupStackingBlock):
2083         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex):
2084         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.createStackingCell): No longer creates a unique
2085         class name here. See the inline comment for AnalysisResultsViewer.prototype.render.
2086         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isThin): Deleted. We used to collapse "failed"
2087         test groups as a thin vertical line, and we wanted to show them next to each other in _layoutBlock but
2088         we don't do that anymore.
2089         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForCommitSet): Added. Uses
2090         this._analysisResultsView to extract the results for the current metrics.
2091         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
2092
2093         * public/v3/components/analysis-task-bug-list.js: Added.
2094         (AnalysisTaskBugList): Added. Extracted from AnalysisTaskChartPane.
2095         (AnalysisTaskBugList.prototype.setTask): Added.
2096         (AnalysisTaskBugList.prototype.didConstructShadowTree): Added.
2097         (AnalysisTaskBugList.prototype.render): Added.
2098         (AnalysisTaskBugList.prototype._associateBug): Added.
2099         (AnalysisTaskBugList.prototype._dissociateBug): Added.
2100         (AnalysisTaskBugList.htmlTemplate): Added.
2101
2102         * public/v3/components/chart-pane-base.js:
2103         (ChartPaneBase.htmlTemplate): Added a hook to insert more content at the end in AnalysisTaskChartPane.
2104         (ChartPaneBase.paneFooterTemplate): Added.
2105
2106         * public/v3/components/customizable-test-group-form.js:
2107         (CustomizableTestGroupForm):
2108         (CustomizableTestGroupForm.prototype.setCommitSetMap):
2109         (CustomizableTestGroupForm.prototype.startTesting): Renamed from _submitted. Now dispatches an action
2110         by the name of "startTesting" instead of calling this._startCallback.
2111         (CustomizableTestGroupForm.prototype.didConstructShadowTree): Added. Moved the logic to attach event
2112         handlers here to avoid eagerly creating the shadow tree in the constructor.
2113         (CustomizableTestGroupForm.prototype._computeCommitSetMap): Use the newly added this._revisionEditorMap
2114         to find the relevant input element instead of running a querySelector.
2115         (CustomizableTestGroupForm.prototype.render): Lazily invoke _renderCustomRevisionTable. This avoids
2116         overriding the customized revisions when the user finally types in the test group name.
2117         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable): Extracted from render.
2118         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons): Made this a non-static method
2119         since it needs to update this._revisionEditorMap now. Merged _constructRevisionRadioButtons.
2120         (CustomizableTestGroupForm.prototype._createRadioButton): Deleted. See above.
2121         (CustomizableTestGroupForm.cssTemplate):
2122         (CustomizableTestGroupForm.formContent): Use IDs instead of classes to make this.content(ID) work.
2123
2124         * public/v3/components/mutable-list-view.js:
2125         (MutableListView.prototype.setList):
2126         (MutableListView.prototype.setKindList):
2127         (MutableListView.prototype.setAddCallback): Deleted. Replaced by "addItem" action.
2128         (MutableListView.prototype.render):
2129         (MutableListItem.prototype.content):
2130
2131         * public/v3/components/results-table.js:
2132         (ResultsTable): Removed this._rangeSelectorLabels, this._rangeSelectorCallback, and this._selectedRange
2133         as they are only used by AnalysisResultsViewer. Also replaced this._valueFormatter by
2134         this._analysisResultsView which knows a metric.
2135         (ResultsTable.prototype.setValueFormatter): Deleted.
2136         (ResultsTable.prototype.setRangeSelectorLabels): Deleted.
2137         (ResultsTable.prototype.setRangeSelectorCallback): Deleted.
2138         (ResultsTable.prototype.selectedRange): Deleted.
2139         (ResultsTable.prototype._rangeSelectorClicked): Deleted.
2140         (ResultsTable.prototype.setAnalysisResultsView): Added.
2141         (ResultsTable.prototype.renderTable): Added. Removed the logic to add _rangeSelectorLabels since it has
2142         been moved to AnalysisResultsViewer.prototype.render inside buildColumns, which also inserts additional
2143         columns which used to be stored on each ResultsTableRow. Use the same technique to insert additional
2144         headers. Also take the name (thead tr th) of row header (tbody tr td) as an argument and automatically
2145         create a table cell of an appropriate colspan.
2146         (ResultsTable.prototype._createRevisionListCells):
2147         (ResultsTable.prototype.heading): Deleted. Superseded by buildHeaders callback.
2148         (ResultsTable.prototype.additionalHeading): Ditto.
2149         (ResultsTable.prototype.buildRowGroups): Deleted. It is now the responsibility of each subclass to call
2150         ResultsTable's renderTable() in the subclass' render() function.
2151         (ResultsTable.prototype._computeRepositoryList): No longer takes extraRepositories as an argument.
2152         Instead, this function now returns a pair of the repository list and the list of constant commits.
2153         (ResultsTable.htmlTemplate):
2154         (ResultsTable.cssTemplate):
2155
2156         * public/v3/components/test-group-form.js:
2157         (TestGroupForm): Avoid eagerly creating the shadow tree. Also removed the removed the dead code.
2158         (TestGroupForm.prototype.setRepetitionCount): Simply override the value of the select element.
2159         (TestGroupForm.prototype.didConstructShadowTree): Added. Attach event handlers here to avoid eagerly
2160         creating the shadow tree in the constructor.
2161         (TestGroupForm.prototype.startTesting): Renamed from _submitted. Dispatch "startTesting" action instead
2162         of invoking _startCallback which has been removed.
2163         (TestGroupForm.htmlTemplate):
2164         (TestGroupForm.formContent):
2165
2166         * public/v3/components/test-group-results-table.js:
2167         (TestGroupResultsTable):
2168         (TestGroupResultsTable.prototype.didUpdateResults): Deleted. No longer neeed per setAnalysisResultsView
2169         in ResultsTable.
2170         (TestGroupResultsTable.prototype.setTestGroup):
2171         (TestGroupResultsTable.prototype.heading): Deleted.
2172         (TestGroupResultsTable.prototype.render):
2173         (TestGroupResultsTable.prototype._renderTestGroup): Extracted from render.
2174         (TestGroupResultsTable.prototype._buildRowGroups): Renamed from buildRowGroups.
2175         (TestGroupResultsTable.prototype._buildRowGroupForCommitSet): Extracted from buildRowGroups.
2176         (TestGroupResultsTable.prototype._buildComparisonRow): Extracted from buildRowGroups.buildRowGroups
2177
2178         * public/v3/index.html: Include analysis-task-bug-list.js.
2179
2180         * public/v3/models/analysis-results.js:
2181         (AnalysisResults): Inverted the map so that we can easily create a view based on metric.
2182         (AnalysisResults.prototype.find): Ditto.
2183         (AnalysisResults.prototype.add): Ditto.
2184         (AnalysisResults.prototype.viewForMetric): Added.
2185         (AnalysisResults.fetch):
2186         (AnalysisResultsView): Added.
2187         (AnalysisResultsView.prototype.metric): Added.
2188         (AnalysisResultsView.prototype.resultForBuildId): Added.
2189
2190         * public/v3/models/build-request.js:
2191         (BuildRequest.result): Deleted.
2192         (BuildRequest.setResult): Deleted.
2193
2194         * public/v3/models/test-group.js:
2195         (TestGroup): Removed this._allCommitSets since it was never used.
2196         (TestGroup.prototype.didSetResult): Deleted since it was never used.
2197         (TestGroup.prototype.compareTestResults): Now takes an array of measurement set values.
2198         (TestGroup.prototype._valuesForCommitSet): Deleted.
2199
2200         * public/v3/pages/analysis-task-page.js:
2201         (AnalysisTaskChartPane): This class now includes the form to cutomize the revisions.
2202         (AnalysisTaskChartPane.prototype.setShowForm): Added.
2203         (AnalysisTaskChartPane.prototype._mainSelectionDidChange):
2204         (AnalysisTaskChartPane.prototype.didConstructShadowTree): Added. Dispatches "newTestGroup" action when
2205         the user presses the button to start a new A/B testing from the chart.
2206         (AnalysisTaskChartPane.prototype.render): Added.
2207         (AnalysisTaskChartPane.prototype.paneFooterTemplate): Added.
2208         (AnalysisTaskChartPane.cssTemplate):
2209
2210         (AnalysisTaskResultsPane): Added. Encapsulates AnalysisResultsViewer and CustomizableTestGroupForm.
2211         (AnalysisTaskResultsPane.prototype.setPoints): Added.
2212         (AnalysisTaskResultsPane.prototype.setTestGroups): Added.
2213         (AnalysisTaskResultsPane.prototype.setAnalysisResultsView): Added.
2214         (AnalysisTaskResultsPane.prototype.setShowForm): Added.
2215         (AnalysisTaskResultsPane.prototype.didConstructShadowTree): Added. Dispatches "newTestGroup" action
2216         when the user presses the button to start a new A/B testing from the chart.
2217         (AnalysisTaskResultsPane.prototype.render): Added.
2218         (AnalysisTaskResultsPane.htmlTemplate): Added.
2219         (AnalysisTaskResultsPane.cssTemplate): Added.
2220
2221         (AnalysisTaskTestGroupPane): Added. Encapsulates TestGroupResultsTable and CustomizableTestGroupForm.
2222         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree): Added.
2223         (AnalysisTaskTestGroupPane.prototype.setTestGroups): Added.
2224         (AnalysisTaskTestGroupPane.prototype.setAnalysisResultsView): Added.
2225         (AnalysisTaskTestGroupPane.prototype.render): Added.
2226         (AnalysisTaskTestGroupPane.prototype._renderTestGroups): Added. Updates the list of test groups. Hide
2227         the hidden groups unless showHiddenGroups is set. Updates this._testGroupMap so that the visibility of
2228         groups and their names can be updated without having to re-render the entire list.
2229         (AnalysisTaskTestGroupPane.prototype._renderTestGroupVisibility): Added.
2230         (AnalysisTaskTestGroupPane.prototype._renderTestGroupNames): Added.
2231         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup): Added. Update TestGroupResultsTable with
2232         the selected test group. Also highlight the list view, and update the hide-unhide toggle button's label
2233         as needed.
2234         (AnalysisTaskTestGroupPane.htmlTemplate): Added.
2235         (AnalysisTaskTestGroupPane.cssTemplate): Added.
2236
2237         (AnalysisTaskPage): Deleted a massive number of instance variables. They are now manged by newly added
2238         AnalysisTaskChartPane, AnalysisTaskResultsPane, and AnalysisTaskTestGroupPane
2239         (AnalysisTaskPage.prototype.didConstructShadowTree): Added. Attach various event handlers here to avoid
2240         eagerly creating the shadow tree in the constructor.
2241         (AnalysisTaskPage.prototype._fetchRelatedInfoForTaskId):
2242         (AnalysisTaskPage.prototype._didFetchTask): No longer sets the value formatter to the results viewer
2243         and the results table as they now recieve AnalysisResultsView later in _assignTestResultsIfPossible.
2244         (AnalysisTaskPage.prototype._didFetchMeasurement): Set the metric to the results viewer.
2245         (AnalysisTaskPage.prototype._didUpdateTestGroupHiddenState):
2246         (AnalysisTaskPage.prototype._assignTestResultsIfPossible): Create AnalysisResultsView from the newly
2247         retrieved AnalysisResults and pass it to AnalysisTaskResultsPane and AnalysisTaskTestGroupPane.
2248         (AnalysisTaskPage.prototype.render): Dramatically simplified.
2249         (AnalysisTaskPage.prototype._renderTaskNameAndStatus): Extracted from render.
2250         (AnalysisTaskPage.prototype._renderRelatedTasks): Ditto.
2251         (AnalysisTaskPage.prototype._renderCauseAndFixes): Ditto.
2252         (AnalysisTaskPage.prototype._showTestGroup):
2253         (AnalysisTaskPage.prototype._updateTaskName): Now takes the new name as an argument.
2254         (AnalysisTaskPage.prototype._updateTestGroupName): Now takes the new name as the second argument.
2255         (AnalysisTaskPage.prototype._hideCurrentTestGroup): Now takes the test group to hide.
2256         (AnalysisTaskPage.prototype._associateCommit): Moved to AnalysisTaskBugList.
2257         (AnalysisTaskPage.prototype._dissociateCommit): Ditto.
2258         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Now takes the test group as the first argument.
2259         (AnalysisTaskPage.prototype._chartSelectionDidChange): Deleted.
2260         (AnalysisTaskPage.prototype._createNewTestGroupFromChart): Deleted.
2261         (AnalysisTaskPage.prototype._selectedRowInAnalysisResultsViewer): Deleted.
2262         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer): Deleted.
2263         (AnalysisTaskPage.htmlTemplate):
2264         (AnalysisTaskPage.cssTemplate):
2265
2266         * unit-tests/test-groups-tests.js: Updated a test case which was expecting BuildReqeust's result, which
2267         has been removed, to exist.
2268
2269 2017-03-23  Ryosuke Niwa  <rniwa@webkit.org>
2270
2271         Share more code between ManifestGenerator and /api/triggerables
2272         https://bugs.webkit.org/show_bug.cgi?id=169993
2273
2274         Reviewed by Chris Dumez.
2275
2276         Shared the code to fetch the list of triggerables from the database between ManifestGenerator
2277         and /api/triggerables.
2278
2279         * public/api/triggerables.php:
2280         (main):
2281         * public/include/manifest-generator.php:
2282         (ManifestGenerator::fetch_triggerables): Extracted as a static function. Also include the ID
2283         in the triggerable data.
2284
2285 2017-03-23  Ryosuke Niwa  <rniwa@webkit.org>
2286
2287         create-test-group should allow a different set of repositories to be used in each configuration
2288         https://bugs.webkit.org/show_bug.cgi?id=169992
2289
2290         Rubber-stamped by Antti Koivisto.
2291
2292         Added the support for new POST parameter, revisionSets, to /privileged-api/create-test-group.
2293         This new parameter now specifies an array of repository id to revision dictionaries, and allows
2294         different set of repositories' revisions to be specified in each dictionary.
2295
2296         We keep the old API for v2 UI and detect-changes.js compatibility for now.
2297
2298         * public/privileged-api/create-test-group.php:
2299         (main):
2300         (commit_sets_from_revision_sets): Added.
2301         (ensure_commit_sets): Only fetch the top-level repository per r213788 and r213976.
2302
2303         * public/v3/models/test-group.js:
2304         (TestGroup.createAndRefetchTestGroups): Use the newly added revisionSets parameter instead of
2305         the now depreacted commitSets parameter.
2306
2307         * public/v3/pages/analysis-task-page.js:
2308         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList): Simplified this code
2309         by simply verifying the consistency of commit sets now that createAndRefetchTestGroups takes
2310         an array of commit sets instead of a dictionary of repository name to a list of revisions.
2311
2312         * server-tests/privileged-api-create-test-group-tests.js: Added test cases for new parameter.
2313
2314 2017-03-22  Ryosuke Niwa  <rniwa@webkit.org>
2315
2316         /api/uploaded-file should return createdAt as a POSIX timestamp
2317         https://bugs.webkit.org/show_bug.cgi?id=169980
2318
2319         Rubber-stamped by Antti Koivisto.
2320
2321         Call Database::to_js_time on createdAt to return it as a POSIX timestamp.
2322
2323         * public/include/uploaded-file-helpers.php:
2324         (format_uploaded_file): Fixed the bug.
2325         * server-tests/api-manifest-tests.js: Renamed from api-manifest.js.
2326         * server-tests/api-uploaded-file-tests.js: Renamed from api-uploaded-file.js. Added a test case.
2327
2328 2017-03-22  Ryosuke Niwa  <rniwa@webkit.org>
2329
2330         UploadedFile should support a callback for upload progress
2331         https://bugs.webkit.org/show_bug.cgi?id=169977
2332
2333         Reviewed by Andreas Kling.
2334
2335         Added a new option dictionary to CommonRemoteAPI.sendHttpRequest with uploadProgressCallback
2336
2337         Moved request headers and responseHandler callback in NodeRemoteAPI to this dictionary,
2338         and updated the tests which relied on this code.
2339
2340         * public/shared/common-remote.js:
2341         (CommonRemoteAPI.prototype.postJSON):
2342         (CommonRemoteAPI.prototype.postJSONWithStatus):
2343         (CommonRemoteAPI.prototype.postFormData):
2344         (CommonRemoteAPI.prototype.postFormDataWithStatus):
2345         * public/v3/privileged-api.js:
2346         (PrivilegedAPI.prototype.sendRequest):
2347         * public/v3/remote.js:
2348         (BrowserRemoteAPI.prototype.sendHttpRequest):
2349         (BrowserRemoteAPI.prototype.sendHttpRequestWithFormData):
2350         (BrowserRemoteAPI):
2351         * server-tests/api-uploaded-file.js:
2352         * tools/js/remote.js:
2353         (NodeRemoteAPI.prototype.sendHttpRequest):
2354         (NodeRemoteAPI.prototype.sendHttpRequestWithFormData):
2355         (NodeRemoteAPI):
2356
2357 2017-03-22  Ryosuke Niwa  <rniwa@webkit.org>
2358
2359         ComponentBase should enqueue itself to render when it becomes connected
2360         https://bugs.webkit.org/show_bug.cgi?id=169905
2361
2362         Reviewed by Antti Koivisto.
2363
2364         When a component becomes connected to a document, enqueue itself to render automatically.
2365         Also added the support for boolean attribute to ComponentBase.createElement.
2366
2367         * ReadMe.md: Added an instruction to raise the upload limit per r214065.
2368         * browser-tests/component-base-tests.js: Added tests for the new behavior and createElement. Also moved
2369         the tests related to enqueueToRenderOnResize out of defineElement tests.
2370
2371         * browser-tests/index.html:
2372         (BrowsingContext.prototype.constructor): Override requestAnimationFrame so that the callback would be
2373         involved immediately durign testing.
2374
2375         * public/v3/components/base.js:
2376         (ComponentBase): Enqueue itself to render during construction if custom elements is not available.
2377         (ComponentBase.defineElement):
2378         (ComponentBase.defineElement.elementClass.prototype.connectedCallback): Enqueue itself to render when
2379         the component's element became connected.
2380         (ComponentBase.createElement): Use Array.isArray instead of instanceof to make it work with arrays made
2381         in other realms (global objects) during testing. Added the support for boolean attributes. Setting an
2382         attribute value to true would set the attribute, and setting it to false would not set the attribute.
2383         (ComponentBase.useNativeCustomElements): Added. True iff window.customElements is defined.
2384
2385         * public/v3/components/chart-pane-base.js:
2386         (ChartPaneBase.prototype.render): No longer need to call enqueueToRender on the commit log viewer.
2387
2388         * public/v3/components/commit-log-viewer.js:
2389         (CommitLogViewer.prototype.render): No longer need to call enqueueToRender on the spinner icon.
2390
2391         * public/v3/models/time-series.js:
2392         (TimeSeries): Made this a proper class declaration now that we don't include data.js after r213300.
2393
2394         * public/v3/pages/chart-pane.js:
2395         (ChartPane.prototype._renderActionToolbar): No longer need to call enqueueToRender on the close icon.
2396
2397         * public/v3/pages/summary-page.js:
2398         (SummaryPage.prototype._renderCell): No longer need to call enqueueToRender on the spinner icon.
2399
2400 2017-03-20  Ryosuke Niwa  <rniwa@webkit.org>
2401
2402         Delete another function that was supposed to be removed in the previous commit.
2403
2404         * public/v3/models/build-request.js:
2405         (BuildRequest.cachedRequestsForTriggerableID): Deleted.
2406
2407 2017-03-20  Ryosuke Niwa  <rniwa@webkit.org>
2408
2409         Modernize BuildRequestQueuePage
2410         https://bugs.webkit.org/show_bug.cgi?id=169903
2411
2412         Reviewed by Antti Koivisto.
2413
2414         Modernized the code for /v3/#/analysis/queue.
2415
2416         * public/v3/models/build-request.js:
2417         (BuildRequest.fetchTriggerables): Deleted since the manifest JSON now contains all the triggerables.
2418
2419         * public/v3/pages/build-request-queue-page.js:
2420         (BuildRequestQueuePage): Deleted this._triggerables. Added this._buildRequestsByTriggerable.
2421         (BuildRequestQueuePage.prototype.open): Modernized the code.
2422         (BuildRequestQueuePage.prototype.render): Ditto.
2423         (BuildRequestQueuePage.prototype._constructBuildRequestTable): Ditto.
2424
2425 2017-03-19  Ryosuke Niwa  <rniwa@webkit.org>
2426
2427         Charts page show an inconsistent list of revisions for Git and Subversion
2428         https://bugs.webkit.org/show_bug.cgi?id=169888
2429
2430         Reviewed by Andreas Kling.
2431
2432         With Git, CommitLogViewer was showing the list of revisions including the starting hash,
2433         which was the last data point's revision instead of all revisions after the last data point.
2434
2435         Fixed the bug by always specifying the revision at the last data point in both Subversion
2436         and Git and then making /api/commits/<repository>/?from=X&to=Y exclude the first revision.
2437         For clarity, "from" and "to" query parameters have been renamed to "precedingRevision" and
2438         "lastRevision" respectively.
2439
2440         We also no longer adds 1 to the starting revision of Subversion-like starting revisions. e.g.
2441         when the last data point was at r1234, new data point is at r1250, the label is now "r1234-r1250"
2442         instead of "r1235-r1250".
2443
2444         * browser-tests/chart-revision-range-tests.js: Fixed the tests since revisionList no longer
2445         specifies from/to revisions.
2446         * browser-tests/commit-log-viewer-tests.js: Added. Added tests for CommitLogViewer.
2447         * browser-tests/index.html: Include the new test. Also use a local copy of mocha.js/css.
2448
2449         * public/api/commits.php:
2450         (main): Renamed "from" and "to" query parameters.
2451
2452         * public/include/commit-log-fetcher.php:
2453         (CommitLogFetcher::fetch_between): Added a check that commit time should either be specified
2454         in both rows or not specified in either. Also reject when before_first_revision is identical
2455         or after last_revision instead of re-ordering them since it no longer makes sense to do so with
2456         new query parameter names.
2457
2458         * public/v3/components/base.js:
2459         (ComponentBase._addContentToElement): Use Array.isArray instead of instanceof. It's resilient
2460         againt realm (global object) differences.
2461
2462         * public/v3/components/chart-pane-base.js:
2463         (ChartPaneBase.prototype._updateCommitLogViewer): No longer calls enqueueToRender on this since
2464         CommitLogViewer does that on its own now.
2465         (ChartPaneBase.prototype.render): Juse use this._openRepository instead of relying on CommitLogViewer
2466         to remember which repository is current. This was the only use of currentRepository.
2467
2468         * public/v3/components/commit-log-viewer.js:
2469         (CommitLogViewer):
2470         (CommitLogViewer.prototype.currentRepository): Deleted.
2471         (CommitLogViewer.prototype.view):
2472         (CommitLogViewer.prototype._fetchCommitLogs): Modernized and extracted from view to make it lazy.
2473         Call fetchForSingleRevision when precedingRevision is not specified or it's identical to lastRevision
2474         since the generic JSON API no longer supports being called with the identical revisions.
2475         (CommitLogViewer.prototype.render): Modernized & simplified the code.
2476         (CommitLogViewer.prototype._renderCommitList): Extracted from render to make it lazy.
2477         (CommitLogViewer.htmlTemplate): Add ID on caption & tbody so that they're more easily addressable.
2478         (CommitLogViewer.cssTemplate):
2479
2480         * public/v3/models/commit-log.js:
2481         (CommitLog.prototype.diff): No longer includes from/to revisions in the result. Also avoid adding
2482         1 to a Subversion-like starting revision for creating the label. See above. But we still do this
2483         for forming URLs due to the way tools like Trac work with Subversion revisions.
2484         (CommitLog.fetchBetweenRevisions): Rewritten using DataModel.prototype.cachedFetch with FIXME for
2485         what this function is supposed to be doing.
2486         (CommitLog._cachedCommitLogs): Deleted.
2487         (CommitLog.fetchForSingleRevision): Added.
2488         (CommitLog._constructFromRawData): Added.
2489
2490         * public/v3/models/data-model.js:
2491         (DataModelObject.cachedFetch): Don't parse query values as an integer. Just URL-escape them.
2492
2493         * public/v3/remote.js:
2494         (BrowserRemoteAPI.prototype.sendHttpRequest): Fixed a typo.
2495
2496         * server-tests/api-commits-tests.js: Renamed from api-commits.js. Updated the existing tests to
2497         use new query parameters and added more test cases.
2498
2499         * unit-tests/commit-log-tests.js: Updated the test cases now that CommitLog.prototype.diff no longer
2500         includes from/to values. They're computed in ChartRevisionRange instead.
2501
2502 2017-03-20  Ryosuke Niwa  <rniwa@webkit.org>
2503
2504         Fix os-build-fetcher.js and subprocess.js to make them work
2505         https://bugs.webkit.org/show_bug.cgi?id=169844
2506
2507         Reviewed by Antti Koivisto.
2508
2509         The script added in r213976 has a bug that it can execute commands to fetch subcommits in parallel.
2510         Some commands to poll the lsit of system components is not desirable to be ran in parallel.
2511
2512         * server-tests/resources/mock-subprocess.js:
2513         (MockSubprocess): Use const declaration.
2514         (MockSubprocess.resetAndWaitForInvocation): Added.
2515         (MockSubprocess.waitForInvocation): Renamed from waitingForInvocation. A function name must be a verb.
2516         See https://webkit.org/code-style-guidelines/#names-verb
2517         (MockSubprocess.reset): Set invocations.length to 0 so that tests can store a reference to the array
2518         regardless of whether reset is called or when it's called.
2519
2520         * server-tests/tools-os-build-fetcher-tests.js: Updated tests per the code change. Most of codes now
2521         expect each command to be ran seprately. e.g. if there were two commands to run, instead of expecting
2522         them to be both ran, and resolving invocation promises, we'd wait for one command to run, resolve,
2523         its subcommand to run, and then move onto the second top-level command. Also use a local reference
2524         to MockSubprocess.invocations instead of using the fully qualified name.
2525
2526         * tools/js/os-build-fetcher.js:
2527         (mapInSerialPromiseChain): Added. Calling a closure that returns a promise on each item in an array
2528         in serial (not asynchronous) is a very common pattern in this class.
2529         (OSBuildFetcher.fetchAndReportAllInOrder): Added.
2530         (OSBuildFetcher.prototype.fetchAndReportNewBuilds): Log what the number of builds being submitted.
2531         (OSBuildFetcher.prototype._fetchAvailableBuilds): Fixed the main bug. Using Promise.all would result
2532         in each top-level command to be execued in parallel. Since each subcommand is executed as soon as
2533         its parent command is executed, this results in commands to be executed in parallel.
2534         Added a whole bunch of logging so that we can at least detect a bug like this in the future.
2535         (OSBuildFetcher.prototype._commitsForAvailableBuilds): Cleanup the coding style.
2536         (OSBuildFetcher.prototype._addSubCommitsForBuild): Use mapInSerialPromiseChain. Tightened the assertion
2537         about the content returned by a subcommand.
2538
2539         * tools/js/subprocess.js: Fixed the bug that we were importing require('child_process').ChildProcess.
2540         execFile is defined on require('child_process') itself.
2541         (Subprocess.prototype.execute): Fixed a typo. this._childProcess doesn't exist.
2542         (Subprocess):
2543
2544         * tools/sync-os-versions.js: Renamed from tools/pull-os-versions.js.
2545         (syncLoop): Cleaned up the coding style a little. Also added logging about how long we're about to sleep.
2546
2547 2017-03-16  Ryosuke Niwa  <rniwa@webkit.org>
2548
2549         Add the file uploading capability to the perf dashboard.
2550         https://bugs.webkit.org/show_bug.cgi?id=169737
2551
2552         Reviewed by Chris Dumez.
2553
2554         Added /privileged-api/upload-file to upload a file, and /api/uploaded-file/ to download the file
2555         and retrieve its meta data based on its SHA256. We treat two files with the identical SHA256 as
2556         identical since anyone who can upload a file using this mechanism can execute arbitrary code in
2557         our bots anyway. This is important for avoiding uploading a large darwinup roots multiple times
2558         to the server, saving both user's time/bandwidth and server's disk space.
2559
2560         * config.json: Added uploadDirectory, uploadFileLimitInMB, and uploadUserQuotaInMB as options.
2561         * init-database.sql: Added uploaded_files table.
2562
2563         * public/api/uploaded-file.php: Added.
2564         (main): /api/uploaded-file/N would download uploaded_file with id=N. /api/uploaded-file/?sha256=X
2565         would return the meta data for uploaded_file with sha256=X.
2566         (stream_file_content): Streams the file content in 64KB chunks. We support Range & If-Range HTTP
2567         request headers so that browsers can pause and resume downloading of a large root file.
2568         (parse_range_header): Parses Range HTTP request header.
2569
2570         * public/include/json-header.php:
2571         (remote_user_name): Use the default argument of NULL.
2572
2573         * public/include/manifest-generator.php:
2574         (ManifestGenerator::generate): Include the maximum upload size in the manifest file to let the
2575         frontend code preemptively check the file size before attempting to submit a file.
2576
2577         * public/include/uploaded-file-helpers.php: Added.
2578         (format_uploaded_file):
2579         (uploaded_file_path_for_row):
2580
2581         * public/privileged-api/upload-file-form.html: Added. For debugging purposes.
2582         (fetchCSRFfToken):
2583         (upload):
2584
2585         * public/privileged-api/upload-file.php: Added.
2586         (main):
2587         (query_total_file_size):
2588         (create_uploaded_file_from_form_data):
2589
2590         * public/shared/common-remote.js:
2591         (CommonRemoteAPI.prototype.postFormData): Added.
2592         (CommonRemoteAPI.prototype.postFormDataWithStatus): Added.
2593         (CommonRemoteAPI.prototype.sendHttpRequestWithFormData): Added.
2594         (CommonRemoteAPI.prototype._asJSON): Throw an exception instead of calling a non-existent reject.
2595
2596         * public/v3/models/uploaded-file.js: Added.
2597         (UploadedFile): Added.
2598         (UploadedFile.uploadFile): Added.
2599         (UploadedFile.fetchUnloadedFileWithIdenticalHash): Added. Finds the file with the same SHA256 in
2600         the server to avoid uploading a large custom root multiple times.
2601         (UploadedFile._computeSHA256Hash): Added.
2602
2603         * public/v3/privileged-api.js:
2604         (PrivilegedAPI.prototype.sendRequest): Added the options dictionary as a third argument. For now,
2605         only support useFormData boolean.
2606
2607         * public/v3/remote.js:
2608         (BrowserRemoteAPI.prototype.sendHttpRequestWithFormData): Added.
2609
2610         * server-tests/api-manifest.js: Updated per the inclusion of fileUploadSizeLimit in the manifest.
2611         * server-tests/api-uploaded-file.js: Added.
2612         * server-tests/privileged-api-upload-file-tests.js: Added.
2613
2614         * server-tests/resources/temporary-file.js: Added.
2615         (TemporaryFile): Added. A helper class for creating a temporary file to upload.
2616         (TemporaryFile.makeTemporaryFileOfSizeInMB):
2617         (TemporaryFile.makeTemporaryFile):
2618         (TemporaryFile.inject):
2619
2620         * server-tests/resources/test-server.conf: Set upload_max_filesize and post_max_size for testing.
2621         * server-tests/resources/test-server.js:
2622         (TestServer.prototype.testConfig): Use uploadFileLimitInMB and uploadUserQuotaInMB of 2MB and 5MB.
2623         (TestServer.prototype._ensureDataDirectory): Create a directory to store uploaded files inside
2624         the data directory. In a production server, we can place it outside ServerRoot / DocumentRoot.
2625         (TestServer.prototype.cleanDataDirectory): Delete the aforementioned directory as needed.
2626
2627         * tools/js/database.js:
2628         (tableToPrefixMap): Added uploaded_files.
2629
2630         * tools/js/remote.js:
2631         (NodeRemoteAPI.prototype.sendHttpRequest): Added a dictionary to specify request headers and
2632         a callback to process the response as arguments. Fixed the bug that any 2xx code other than 200
2633         was resulting in a rejected promise. Also include the response headers in the result for tests.
2634         Finally, when content is a function, call that instead of writing the content since FormData
2635         requires a custom logic.
2636         (NodeRemoteAPI.prototype.sendHttpRequestWithFormData): Added.
2637
2638         * tools/js/v3-models.js: Include uploaded-file.js.
2639
2640         * tools/run-tests.py:
2641         (main): Add form-data as a new dependency.
2642
2643 2017-03-15  Dewei Zhu  <dewei_zhu@apple.com>
2644
2645         Fix unit test and bug fix for 'pull-os-versions.js' script.
2646         https://bugs.webkit.org/show_bug.cgi?id=169701
2647
2648         Reviewed by Ryosuke Niwa.
2649
2650         Fix unit tests warnings on node-6.10.0.
2651         Fix 'pull-os-versions.js' does not fetch new builds and report.
2652
2653         * server-tests/tools-os-build-fetcher-tests.js:
2654         (then):
2655         (beforeEach):
2656         (afterEach):
2657         * tools/pull-os-versions.js:
2658         (syncLoop):
2659
2660 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
2661
2662         In-browser and node.js implementations of RemoteAPI should share some code
2663         https://bugs.webkit.org/show_bug.cgi?id=169695
2664
2665         Rubber-stamped by Antti Koivisto.
2666
2667         Extracted CommonRemoteAPI out of RemoteAPI implementations for node.js and browser. 
2668
2669         * public/shared/common-remote.js: Added.
2670         (CommonRemoteAPI): Added.
2671         (CommonRemoteAPI.prototype.postJSON): Extracted from RemoteAPI.
2672         (CommonRemoteAPI.prototype.postJSONWithStatus): Ditto.
2673         (CommonRemoteAPI.prototype.getJSON): Ditto.
2674         (CommonRemoteAPI.prototype.getJSONWithStatus): Ditto.
2675         (CommonRemoteAPI.prototype.sendHttpRequest): Added. Needs to implemented by a subclass.
2676         (CommonRemoteAPI.prototype._asJSON): Added.
2677         (CommonRemoteAPI.prototype._checkStatus): Added.
2678
2679         * public/v3/index.html: Include common-remote.js.
2680
2681         * public/v3/privileged-api.js:
2682         (PrivilegedAPI): Use class now that we don't include data.js.
2683         (PrivilegedAPI.sendRequest): Modernized the code.
2684         (PrivilegedAPI.requestCSRFToken): Ditto.
2685
2686         * public/v3/remote.js:
2687         (BrowserRemoteAPI): Renamed from RemoteAPI. window.RemoteAPI is now an instance of this class.
2688         (BrowserRemoteAPI.prototype.sendHttpRequest): Moved from RemoteAPI.sendHttpRequest.
2689         (BrowserRemoteAPI.prototype.sendHttpRequest):
2690
2691         * server-tests/privileged-api-create-analysis-task-tests.js: Updated tests since NodeJSRemoteAPI
2692         now throws the JSON status as an error to be consistent with BrowserRemoteAPI.
2693         * server-tests/privileged-api-create-test-group-tests.js: Ditto.
2694         * server-tests/privileged-api-upate-run-status.js: Ditto.
2695
2696         * tools/js/buildbot-triggerable.js:
2697         (BuildbotTriggerable.prototype.syncOnce): Just use postJSONWithStatus instead of manually
2698         checking the status.
2699
2700         * tools/js/remote.js:
2701         (NodeRemoteAPI): Renamed from RemoteAPI. Still exported as RemoteAPI.
2702         (NodeRemoteAPI.prototype.constructor):
2703         (NodeRemoteAPI.prototype.sendHttpRequest): Modernized the code.
2704
2705 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
2706
2707         Fix server tests after r213998 and r213969
2708         https://bugs.webkit.org/show_bug.cgi?id=169690
2709
2710         Reviewed by Antti Koivisto.
2711
2712         Fixed the existing server tests.
2713
2714         * public/v3/models/analysis-task.js:
2715         (AnalysisTask.prototype._updateRemoteState): Use the relative path from the root so that it works inside tests.
2716         (AnalysisTask.prototype.associateBug): Ditto.
2717         (AnalysisTask.prototype.dissociateBug): Ditto.
2718         (AnalysisTask.prototype.associateCommit): Ditto.
2719         (AnalysisTask.prototype.dissociateCommit): Ditto.
2720         (AnalysisTask._fetchSubset): Ditto.
2721         (AnalysisTask.fetchAll): Ditto.
2722         * public/v3/models/test-group.js:
2723         (TestGroup.prototype.updateName): Ditto.
2724         (TestGroup.prototype.updateHiddenFlag): Ditto.
2725         (TestGroup.createAndRefetchTestGroups): Ditto.
2726         (TestGroup.cachedFetch): Ditto.
2727         * server-tests/api-manifest.js: Reverted an inadvertant change in r213969.
2728         * tools/js/database.js:
2729         (tableToPrefixMap): Added analysis_strategies.
2730         * unit-tests/analysis-task-tests.js: Updated expectations per changes to AnalysisTask.
2731
2732 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
2733
2734         Add tests for privileged-api/create-analysis-task and privileged-api/create-test-group
2735         https://bugs.webkit.org/show_bug.cgi?id=169688
2736
2737         Rubber-stamped by Antti Koivisto.
2738
2739         Added tests for privileged-api/create-analysis-task and privileged-api/create-test-group, and fixed newly found bugs.
2740
2741         * public/privileged-api/create-analysis-task.php:
2742         (main): Fixed the bug that we were not explicitly checking whether start_run and end_run were integers or not.
2743         Also return InvalidTimeRange when start and end times are identical as that makes no sense for an analysis task.
2744
2745         * public/privileged-api/create-test-group.php:
2746         (main): Fixed a bug that we were not explicitly checking task and repetitionCount to be an integer.
2747         (ensure_commit_sets): Fixed the bug that the number of commit sets weren't checked. 
2748
2749         * server-tests/privileged-api-create-analysis-task-tests.js: Added.
2750         * server-tests/privileged-api-create-test-group-tests.js: Added.
2751
2752         * server-tests/resources/common-operations.js:
2753         (prepareServerTest): Increase the timeout from 1s to 5s.
2754
2755         * server-tests/resources/mock-data.js:
2756         (MockData.addMockData): Use a higher database ID of 20 for a mock build_slave to avoid a conflict with auto-generated IDs.
2757
2758 2017-03-15  Ryosuke Niwa  <rniwa@webkit.org>
2759
2760         Make unit tests return a promise instead of manually calling done
2761         https://bugs.webkit.org/show_bug.cgi?id=169663
2762
2763         Reviewed by Antti Koivisto.
2764
2765         Make the existing unit tests always reutrn a promise instead of manually calling "done" callback as done
2766         in r213969. The promise tests are a lot more stable and less error prone.
2767
2768         Also use MockRemoteAPI.waitForRequest() instead of chaining two resolved promises where appropriate.
2769
2770         * unit-tests/analysis-task-tests.js:
2771         * unit-tests/buildbot-syncer-tests.js:
2772         * unit-tests/checkconfig.js:
2773         * unit-tests/privileged-api-tests.js:
2774
2775 2017-03-15  Dewei Zhu  <dewei_zhu@apple.com>
2776
2777         Rewrite 'pull-os-versions' script in Javascript to add support for reporting os revisions with sub commits.
2778         https://bugs.webkit.org/show_bug.cgi?id=169542
2779
2780         Reviewed by Ryosuke Niwa.
2781
2782         Extend '/api/commits/<repository>/last-reported' to accept a range and return last reported commits in given range.
2783         Rewrite 'pull-os-versions' in JavaScript and add unit tests for it.
2784         Instead of writing query manually while searching criteria contains null columns, use the methods provided in 'db.php'.
2785         Add '.gitignore' file to ommit files generated by while running tests/instances locally.
2786
2787         * .gitignore: Added.
2788         * public/api/commits.php:
2789         * public/api/report-commits.php:
2790         * public/include/commit-log-fetcher.php:
2791         * public/include/db.php: 'null_columns' of prepare_params should be a reference.
2792         * public/include/report-processor.php:
2793         * server-tests/api-commits.js:
2794         (then):
2795         * server-tests/api-report-commits-tests.js:
2796         * server-tests/resources/mock-logger.js: Added.
2797         (MockLogger):
2798         (MockLogger.prototype.log):
2799         (MockLogger.prototype.error):
2800         * server-tests/resources/mock-subprocess.js: Added.
2801         (MockSubprocess.call):
2802         (MockSubprocess.waitingForInvocation):
2803         (MockSubprocess.inject):
2804         (MockSubprocess.reset):
2805         * server-tests/tools-buildbot-triggerable-tests.js:
2806         (MockLogger): Deleted.
2807         (MockLogger.prototype.log): Deleted.
2808         (MockLogger.prototype.error): Deleted.
2809         * server-tests/tools-os-build-fetcher-tests.js: Added.
2810         (beforeEach):
2811         (return.waitingForInvocationPromise.then):
2812         (then):
2813         (string_appeared_here.return.waitingForInvocationPromise.then):
2814         (return.addSlaveForReport.emptyReport.then):
2815         * tools/js/os-build-fetcher.js: Added.
2816         (OSBuildFetcher):
2817         (OSBuildFetcher.prototype._fetchAvailableBuilds):
2818         (OSBuildFetcher.prototype._computeOrder):
2819         (OSBuildFetcher.prototype._commitsForAvailableBuilds.return.this._subprocess.call.then.):
2820         (OSBuildFetcher.prototype._commitsForAvailableBuilds):
2821         (OSBuildFetcher.prototype._addSubCommitsForBuild):
2822         (OSBuildFetcher.prototype._submitCommits):
2823         (OSBuildFetcher.prototype.fetchAndReportNewBuilds):
2824         * tools/js/subprocess.js: Added.
2825         (const.childProcess.require.string_appeared_here.Subprocess.prototype.call):
2826         (const.childProcess.require.string_appeared_here.Subprocess):
2827         * tools/pull-os-versions.js: Added.
2828         (main):
2829         (syncLoop):
2830         * tools/sync-commits.py:
2831         (Repository.fetch_commits_and_submit):
2832
2833 2017-03-14  Ryosuke Niwa  <rniwa@webkit.org>
2834
2835         Make server tests return a promise instead of manually calling done
2836         https://bugs.webkit.org/show_bug.cgi?id=169648
2837
2838         Rubber-stamped by Chris Dumez.
2839
2840         Make the existing server tests always reutrn a promise instead of manually calling "done" callback.
2841         The promise tests are a lot more stable and less error prone.
2842
2843         Also use arrow functions everywhere and use prepareServerTest, renamed from connectToDatabaseInEveryTest,
2844         in more tests instead of manually connecting to database in every test, and reset v3 models.
2845
2846         * server-tests/admin-platforms-tests.js:
2847         * server-tests/admin-reprocess-report-tests.js:
2848         * server-tests/api-build-requests-tests.js:
2849         * server-tests/api-manifest.js:
2850         * server-tests/api-measurement-set-tests.js:
2851         (.postReports): Deleted. Not used in any test.
2852         * server-tests/api-report-commits-tests.js:
2853         * server-tests/api-report-tests.js:
2854         * server-tests/api-update-triggerable.js:
2855         * server-tests/privileged-api-upate-run-status.js:
2856         * server-tests/resources/common-operations.js:
2857         (prepareServerTest): Renamed from connectToDatabaseInEveryTest. Increase the timeout and reset v3 models.
2858         * server-tests/tools-buildbot-triggerable-tests.js:
2859
2860 2017-03-12  Ryosuke Niwa  <rniwa@webkit.org>
2861
2862         Rename RootSet to CommitSet
2863         https://bugs.webkit.org/show_bug.cgi?id=169580
2864
2865         Rubber-stamped by Chris Dumez.
2866
2867         Renamed root_sets to commit_sets and roots to commit_set_relationships in the database schema, and renamed
2868         related classes in public/v3/ and tools accordingly.
2869
2870         RootSet, MeasurementRootSet, and CustomRootSet are respectively renamed to CommitSet, MeasurementCommitSet,
2871         and CustomCommitSet.
2872
2873         In order to migrate the database, run:
2874         ```
2875         BEGIN;
2876         ALTER TABLE root_sets RENAME TO commit_sets;
2877         ALTER TABLE commit_sets RENAME COLUMN rootset_id TO commitset_id;
2878         ALTER TABLE roots RENAME TO commit_set_relationships;
2879         ALTER TABLE commit_set_relationships RENAME COLUMN root_set TO commitset_set;
2880         ALTER TABLE commit_set_relationships RENAME COLUMN root_commit TO commitset_commit;
2881         ALTER TABLE build_requests RENAME COLUMN request_root_set TO request_commit_set;
2882         END;
2883         ```
2884
2885         * browser-tests/index.html:
2886         * init-database.sql:
2887         * public/api/build-requests.php:
2888         (main):
2889         * public/api/test-groups.php:
2890         (main):
2891         (format_test_group):
2892         * public/include/build-requests-fetcher.php:
2893         (BuildRequestsFetcher::__construct):
2894         (BuildRequestsFetcher::results_internal):
2895         (BuildRequestsFetcher::commit_sets): Renamed from root_sets.
2896         (BuildRequestsFetcher::commits): Renamed from roots.
2897         (BuildRequestsFetcher::fetch_commits_for_set_if_needed): Renamed from fetch_roots_for_set_if_needed.
2898         * public/privileged-api/create-test-group.php:
2899         (main):
2900         (ensure_commit_sets): Renamed from commit_sets_from_root_sets.
2901         * public/v3/components/analysis-results-viewer.js:
2902         (AnalysisResultsViewer.prototype.buildRowGroups):
2903         (AnalysisResultsViewer.prototype._collectCommitSetsInTestGroups): Renamed from _collectRootSetsInTestGroups.
2904         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
2905         (AnalysisResultsViewer.prototype._buildRowsForPointsAndTestGroups):
2906         (AnalysisResultsViewer.CommitSetInTestGroup): Renamed from RootSetInTestGroup.
2907         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.constructor):
2908         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.commitSet): Renamed from rootSet.
2909         (AnalysisResultsViewer.CommitSetInTestGroup.prototype.succeedingCommitSet): Renamed from succeedingRootSet.
2910         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.constructor):
2911         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.addRowIndex):
2912         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.isComplete):
2913         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.startRowIndex):
2914         (AnalysisResultsViewer.TestGroupStackingBlock.prototype.endRowIndex):
2915         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
2916         * public/v3/components/chart-revision-range.js:
2917         (ChartRevisionRange.prototype._revisionForPoint):
2918         (ChartRevisionRange.prototype._computeRevisionList):
2919         * public/v3/components/customizable-test-group-form.js:
2920         (CustomizableTestGroupForm.prototype.constructor):
2921         (CustomizableTestGroupForm.prototype.setCommitSetMap): Renamed from setRootSetMap.
2922         (CustomizableTestGroupForm.prototype._submitted):
2923         (CustomizableTestGroupForm.prototype._computeCommitSetMap): Renamed from _computeRootSetMap.
2924         (CustomizableTestGroupForm.prototype.render): Renamed from render.
2925         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
2926         * public/v3/components/results-table.js:
2927         (ResultsTable.prototype.render):
2928         (ResultsTable.prototype._createRevisionListCells):
2929         (ResultsTable.prototype._computeRepositoryList):
2930         (ResultsTableRow.prototype.constructor):
2931         (ResultsTableRow.prototype.commitSet): Renamed from rootSet.
2932         * public/v3/components/test-group-results-table.js:
2933         (TestGroupResultsTable.prototype.buildRowGroups):
2934         * public/v3/index.html:
2935         * public/v3/models/build-request.js:
2936         (BuildRequest.prototype.constructor):
2937         (BuildRequest.prototype.updateSingleton):
2938         (BuildRequest.prototype.commitSet): Renamed from rootSet.
2939         (BuildRequest.constructBuildRequestsFromData):
2940         * public/v3/models/commit-set.js: Renamed from public/v3/models/root-set.js.
2941         (CommitSet): Renamed from RootSet.
2942         (CommitSet.containsMultipleCommitsForRepository):
2943         (MeasurementCommitSet): Renamed from MeasurementRootSet.
2944         (MeasurementCommitSet.prototype.namedStaticMap):
2945         (MeasurementCommitSet.prototype.ensureNamedStaticMap):
2946         (MeasurementCommitSet.namedStaticMap):
2947         (MeasurementCommitSet.ensureNamedStaticMap):
2948         (MeasurementCommitSet.ensureSingleton):
2949         (CustomCommitSet): Renamed from CustomRootSet.
2950         * public/v3/models/measurement-adaptor.js:
2951         (MeasurementAdaptor.prototype.applyTo):
2952         * public/v3/models/test-group.js:
2953         (TestGroup.prototype.constructor):
2954         (TestGroup.prototype.addBuildRequest):
2955         (TestGroup.prototype.repetitionCount):
2956         (TestGroup.prototype.requestedCommitSets): Renamed from requestedRootSets.
2957         (TestGroup.prototype.requestsForCommitSet): Renamed from requestsForRootSet.
2958         (TestGroup.prototype.labelForCommitSet): Renamed from labelForRootSet.
2959         (TestGroup.prototype.didSetResult):
2960         (TestGroup.prototype.compareTestResults):
2961         (TestGroup.prototype._valuesForCommitSet): Renamed from _valuesForRootSet.
2962         (TestGroup.prototype.createAndRefetchTestGroups):
2963         * public/v3/pages/analysis-task-page.js:
2964         (AnalysisTaskPage.prototype.render):
2965         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
2966         (AnalysisTaskPage.prototype._createNewTestGroupFromChart):
2967         (AnalysisTaskPage.prototype._createNewTestGroupFromViewer):
2968         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
2969         * server-tests/api-build-requests-tests.js:
2970         * server-tests/resources/mock-data.js:
2971         (MockData.resetV3Models):
2972         (MockData.addMockData):
2973         (MockData.addAnotherMockTestGroup):
2974         * tools/detect-changes.js:
2975         (createAnalysisTaskAndNotify):
2976         * tools/js/buildbot-syncer.js:
2977         (BuildbotSyncer.prototype._propertiesForBuildRequest):
2978         (BuildbotSyncer.prototype._revisionSetFromCommitSetWithExclusionList):
2979         * tools/js/database.js:
2980         (tableToPrefixMap):
2981         * tools/js/v3-models.js:
2982         * tools/sync-buildbot.js:
2983         (syncLoop):
2984         * tools/sync-with-buildbot.py: Deleted. No longer used.
2985         * unit-tests/analysis-task-tests.js:
2986         * unit-tests/build-request-tests.js:
2987         (sampleBuildRequestData):
2988         * unit-tests/buildbot-syncer-tests.js:
2989         (sampleCommitSetData):
2990         * unit-tests/measurement-adaptor-tests.js:
2991         * unit-tests/measurement-set-tests.js:
2992         * unit-tests/resources/mock-v3-models.js:
2993         (MockModels.inject):
2994         * unit-tests/test-groups-tests.js:
2995         (sampleTestGroup):
2996
2997 2017-03-13  Ryosuke Niwa  <rniwa@webkit.org>
2998
2999         Database's query functions should support querying for a row with NULL value
3000         https://bugs.webkit.org/show_bug.cgi?id=169504
3001
3002         Reviewed by Antti Koivisto.
3003
3004         Add the support for calling select_* with one of column values set to NULL.
3005         This feature is useful in webkit.org/b/146374 and webkit.org/b/168962.
3006
3007         * public/include/db.php:
3008         (Database::prepare_params): Added $null_columns as an optional argument.
3009         (Database::select_conditions_with_null_columns): Added. Builds up a query string by appending AND x is NULL
3010         to match columns whose value must be NULL.
3011         (Database::_select_update_or_insert_row):
3012         (Database::select_rows):
3013
3014 2017-03-13  Dewei Zhu  <dewei_zhu@apple.com>
3015
3016         Add the ability to report a commit with sub-commits.
3017         https://bugs.webkit.org/show_bug.cgi?id=168962
3018
3019         Reviewed by Ryosuke Niwa.
3020
3021         Introduce 'commit_ownerships' which records ownership between commits.
3022         On existing production server, run ```
3023             CREATE TABLE commit_ownerships (
3024                 commit_owner integer NOT NULL REFERENCES commits ON DELETE CASCADE,
3025                 commit_ownee integer NOT NULL REFERENCES commits ON DELETE CASCADE,
3026                 PRIMARY KEY (commit_owner, commit_ownee)
3027             );
3028             ALTER TABLE repositories RENAME repository_parent TO repository_owner;
3029             ALTER TABLE repositories DROP repository_name_must_be_unique;
3030             CREATE UNIQUE INDEX repository_name_owner_unique_index ON repositories (repository_owner, repository_name) WHERE repository_owner IS NOT NULL;
3031             CREATE UNIQUE INDEX repository_name_unique_index ON repositories (repository_name) WHERE repository_owner IS NULL;
3032         ``` to update database.
3033         Add unit-tests to cover this change.
3034
3035         * init-database.sql:
3036         * public/api/report-commits.php:
3037         * public/include/commit-log-fetcher.php:
3038         * public/include/db.php:
3039         * public/include/manifest-generator.php:
3040         * public/include/report-processor.php:
3041         * public/v3/models/repository.js:
3042         (Repository):
3043         (Repository.prototype.owner):
3044         * server-tests/admin-reprocess-report-tests.js:
3045         (addBuilderForReport.simpleReportWithRevisions.0.then):
3046         (then):
3047         * server-tests/api-manifest.js:
3048         (then):
3049         * server-tests/api-report-commits-tests.js:
3050         (addSlaveForReport.sameRepositoryNameInSubCommitAndMajorCommit.then):
3051         (then):
3052         (addSlaveForReport.systemVersionCommitWithSubcommits.then):
3053         (addSlaveForReport.multipleSystemVersionCommitsWithSubcommits.then):
3054         (addSlaveForReport.systemVersionCommitWithEmptySubcommits.then):
3055         (addSlaveForReport.systemVersionCommitAndSubcommitWithTimestamp.then):
3056         * tools/js/database.js:
3057
3058 2017-03-07  Ryosuke Niwa  <rniwa@webkit.org>
3059
3060         Update ReadMe.md to use directory format for backing up & restoring the database
3061         https://bugs.webkit.org/show_bug.cgi?id=169263
3062
3063         Reviewed by Joseph Pecoraro.
3064
3065         Update ReadMe.md's instruction to backup and restore the database to use directory format instead of
3066         piping it to gzip. The new command will backup and restore the database with multiple concurrent processes
3067         with a custom compression level.
3068
3069         * ReadMe.md:
3070
3071 2017-03-02  Ryosuke Niwa  <rniwa@webkit.org>
3072
3073         Make baseline data points selectable
3074         https://bugs.webkit.org/show_bug.cgi?id=169069
3075         <rdar://problem/29209427>
3076