5ab03d38e396c2b732b509f87dd73c30830fba6d
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2019-02-26  Dewei Zhu  <dewei_zhu@apple.com>
2
3         The table head of test freshness page should not scroll with the page.
4         https://bugs.webkit.org/show_bug.cgi?id=195092
5
6         Reviewed by Ryosuke Niwa.
7
8         Fix the location of the freshness table head to make it easier to corelate cell with test.
9
10         * public/v3/pages/test-freshness-page.js: Changed some style rules to make the table head fixed.
11         (TestFreshnessPage.prototype._renderTable):
12         (TestFreshnessPage.cssTemplate):
13
14 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
15
16         Analyzing a chart that does not exist should not halt whole run-analysis script.
17         https://bugs.webkit.org/show_bug.cgi?id=193563
18
19         Reviewed by Ryosuke Niwa.
20
21         Halting whole run-analysis script while there is any invalid chart specified in Manifest makes the script fragile.
22         Run-analysis is also responsible for adding retry and sending notification which should not be block by this error.
23         Skipping analyzing the corresponding configuration seems reasonable.
24
25         * public/v3/models/measurement-set.js:
26         (MeasurementSet.prototype._ensureClusterPromise): Only add callback when callback is specified.
27         This will help to fix 'UnhandledPromiseRejectionWarning' while running the test.
28         * tools/js/measurement-set-analyzer.js:
29         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Catch the exception while failing to fetch a measurement set and skip the analysis for this config.
30         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for this.
31
32 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
33
34         Updating commit in OSBuildFetcher should respect revision range in config.
35         https://bugs.webkit.org/show_bug.cgi?id=193558
36
37         Reviewed by Ryosuke Niwa.
38
39         OSBuildFetcher._fetchAvailableBuilds should filter out commits those are not in
40         revision range specified by cofnig.
41
42         * server-tests/tools-os-build-fetcher-tests.js: Added a unit test for this change.
43         * tools/js/os-build-fetcher.js:
44         (prototype.async._fetchAvailableBuilds): Filter out commits from update list if commit
45         revision is out of range.
46
47 2018-12-31  Dewei Zhu  <dewei_zhu@apple.com>
48
49         Test group results notification should not say a build request to build had failed even when it had successfully completed.
50         https://bugs.webkit.org/show_bug.cgi?id=193064
51
52         Reviewed by Ryosuke Niwa.
53
54         Should show 'Build completed' or 'Build failed' for build type build requests.
55
56         * browser-tests/test-group-result-page-tests.js: Added a unit test to guard this bug.
57         * tools/js/test-group-result-page.js: Show 'Build completed' or 'Build failed' for build type build requests.
58
59 2018-12-21  Dewei Zhu  <dewei_zhu@apple.com>
60
61         Add UI in analysis task page to show commit testability information.
62         https://bugs.webkit.org/show_bug.cgi?id=192972
63
64         Reviewed by Ryosuke Niwa.
65
66         Add UI in custom analysis task configuration and customizable test group form to show testability information.
67         Fix a bug in 'CustomAnalysisTaskConfigurator._updateCommitSetMap' that 'currentComparison' is incorrectly set.
68         SQL to update existing database:
69             ALTER TABLE commits ADD COLUMN IF NOT EXISTS commit_testability varchar(128) DEFAULT NULL;
70
71         * browser-tests/custom-analysis-task-configurator-tests.js: Added a unit test for the bug in
72         'CustomAnalysisTaskConfigurator._updateCommitSetMap'.
73         Added a unit test to make sure 'CustomAnalysisTaskConfigurator' still works when commit fetching never returns.
74         * browser-tests/index.html: Imported ''custom-analysis-task-configurator-tests.js'.
75         * init-database.sql: Increase 'commit_testability' field length from 64 characters to 128.
76         * public/v3/components/custom-analysis-task-configurator.js: Added UI to show testability information.
77         (CustomAnalysisTaskConfigurator):
78         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Should reset related field for corresponding
79         repositories that user does not specify revision.
80         (CustomAnalysisTaskConfigurator.prototype._updateMapFromSpecifiedRevisionsForConfiguration): A helper function
81         to update '_specifiedCommits' and '_invalidRevisionsByConfiguration' per '_specifiedRevisions'.
82         (CustomAnalysisTaskConfigurator.prototype.render):
83         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Fixed a bug that 'currentComparison' is incorrectly set.
84         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet):
85         (CustomAnalysisTaskConfigurator.prototype.async._fetchCommitsForConfiguration):
86         (CustomAnalysisTaskConfigurator.prototype.async._resolveRevision):
87         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable):
88         (CustomAnalysisTaskConfigurator.prototype._buildTestabilityList):
89         (CustomAnalysisTaskConfigurator.prototype._selectRepositoryGroup):
90         (CustomAnalysisTaskConfigurator.prototype._buildRevisionInput):
91         (CustomAnalysisTaskConfigurator.cssTemplate):
92         * public/v3/components/customizable-test-group-form.js: Added UI to show testability information.
93         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
94         (CustomizableTestGroupForm.prototype._constructTestabilityRows.):
95         (CustomizableTestGroupForm.prototype._constructTestabilityRows):
96         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
97         Changing either revision editor or radio button should trigger a re-render as testability
98         information for updated revision may change.
99         (CustomizableTestGroupForm.cssTemplate):
100         * public/v3/models/commit-set.js:
101         (IntermediateCommitSet.prototype.commitsWithTestability): Renamed from 'commitsWithTestabilityWarnings'.
102         (IntermediateCommitSet.prototype.commitsWithTestabilityWarnings): Deleted.
103
104 2018-12-14  Dewei Zhu  <dewei_zhu@apple.com>
105
106         Extend commits table to contain testability information.
107         https://bugs.webkit.org/show_bug.cgi?id=191557
108
109         Reviewed by Ryosuke Niwa.
110
111         Added the ability to store testability message in commits table.
112         Refactored '/api/report-commits' to support updating commit only.
113         Updated os version syncing script to be able to update testability information.
114
115         * init-database.sql: Added 'commit_testability' field to 'commits' table.
116         * public/api/report-commits.php: Refactor this api to allow only update existing commits.
117         * public/include/commit-log-fetcher.php: Expose testability warning information in this API.
118         * public/include/commit-updater.php: Added 'CommitUpdater' to manage commit insert and update.
119         * public/v3/models/commit-log.js: CommitLog object should expose testability warning information.
120         (CommitLog.prototype.updateSingleton):
121         (CommitLog.prototype.testability):
122         * public/v3/models/commit-set.js: Added 'commitsWithTestability' and 'commits' to CommitSet and
123         IntermediateCommitSet instances.
124         (CommitSet.prototype.commitsWithTestability):
125         (CommitSet.prototype.commits):
126         (IntermediateCommitSet.prototype.commitsWithTestability):
127         (IntermediateCommitSet.prototype.commits):
128         * server-tests/api-report-commits-tests.js: Added unit tests for '/api/report-commits' when `insert=false`.
129         * server-tests/tools-os-build-fetcher-tests.js: Added and updated unit tests.
130         * tools/js/os-build-fetcher.js: Added the ability to update commit testability warnings.
131         (async.fetchReportAndUpdateCommits):
132         (prototype.async.fetchReportAndUpdateBuilds):
133         (prototype.async._fetchAvailableBuilds):
134         (prototype.async._commitsForAvailableBuilds):
135         (prototype._commitsWithinRange):
136         (prototype.async._reportCommits):
137         (fetchAndReportAllInOrder): Deleted.
138         (prototype.fetchAndReportNewBuilds): Deleted.
139         (prototype._fetchAvailableBuilds): Deleted.
140         (prototype._commitsForAvailableBuilds): Deleted.
141         (prototype._submitCommits): Deleted.
142         * tools/sync-os-versions.js:
143         * unit-tests/commit-log-tests.js: Added a unit test for 'testability'.
144         * unit-tests/commit-set-tests.js: Added unit tests for 'commitsWithTestability'.
145
146 2018-11-16  Ryosuke Niwa  <rniwa@webkit.org>
147
148         Manifest file can contain a test metric which references a non-existent test
149         https://bugs.webkit.org/show_bug.cgi?id=191796
150
151         Reviewed by Dewei Zhu.
152
153         The bug was caused by a race condition between the manifest file fetching the list of tests and test metrics
154         and new tests and test metrics being added. Because we would fetch tests before test metrics, it was possible
155         for new test metrics which references a test not included in the fetched tests to be present in the test metrics.
156
157         Fixed the bug by changing the order of the queries so that test metrics are fetched before tests. This guarantees
158         that any test referenced by a test metric always exists and thefore included in the manifest file.
159
160         Unfortunately no new tests beucase this involes a race condition.
161
162         * public/include/manifest-generator.php:
163
164 2018-11-13  Dewei Zhu  <dewei_zhu@apple.com>
165
166         Add cache for CommitLog objects to avoid refetching same commit.
167         https://bugs.webkit.org/show_bug.cgi?id=191621
168
169         Reviewed by Ryosuke Niwa.
170
171         Added a cache for fully fetched commit log objects to avoid refetching.
172
173         * public/v3/models/commit-log.js:
174         (CommitLog): Added assertion for id.
175         Removed unused 'remoteId' as it has been removed since r198479.
176         (CommitLog.async.fetchBetweenRevisions): Turned it into async function.
177         (CommitLog.async.fetchForSingleRevision): Added the logic to check cache before fetching.
178         (CommitLog._constructFromRawData): Added logic to add entries to cache.
179         * public/v3/models/repository.js: Added the ability to track fetched commit for certain repository.
180         (Repository.commitForRevision): Fixed measurement set not passing commit id while constructing a
181         commit log object.
182         (Repository.setCommitForRevision): Sets commit for a given revision.
183         * public/v3/models/commit-set.js: Fixed unit tests.
184         * unit-tests/commit-log-tests.js: Added unit tests for this change.
185         Fixed existing tests.
186         * unit-tests/commit-set-range-bisector-tests.js: Fixed unit tests.
187         * unit-tests/commit-set-tests.js: Fixed unit tests.
188
189 2018-11-08  Dewei Zhu  <dewei_zhu@apple.com>
190
191         commit time returned by '/api/measurement-set' should match the one returned by '/api/commits'.
192         https://bugs.webkit.org/show_bug.cgi?id=191457
193
194         Reviewed by Dean Jackson and Ryosuke Niwa.
195
196         Commit time returned by '/api/measurement-set' sometimes is calculated by 'epoch from ..'.
197         This function may return a floating number with 5 or 6 decimal digits due to double precision limitations.
198         However, some commits may be reported with 6 decimal decimal.
199         So the commit time for those commits will sometime be rounded to 5 decimal digits.
200         In order to avoid front end assertion failure in CommitLog, Database::to_js_time need to round to 5 digits.
201
202         * public/include/db.php: Change the behavior to match that of postgres.
203         Added logic to avoid losing precision in php.
204         * server-tests/api-measurement-set-tests.js: Added unit tests for this bug.
205         (queryPlatformAndMetric): Fix a bug that arguments are not used at all.
206
207 2018-11-07  Dewei Zhu  <dewei_zhu@apple.com>
208
209         "/api/report" does not check commit time correctly.
210         https://bugs.webkit.org/show_bug.cgi?id=191351
211
212         Reviewed by Ryosuke Niwa.
213
214         Test result report API does not convert formated time string to timestamp correctly
215         which result in not checking commit time correctly.
216
217         * public/include/report-processor.php: Use 'strtotime' instead of 'floatval'.
218         Accepts the time delta within 1 seconds.
219         * server-tests/api-report-tests.js: Added unit tests.
220         (reportWitMismatchingCommitTime):
221         (reportWithOneSecondCommitTimeDifference):
222
223 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
224
225         Custom test group form should use commit set map before customization as the behavior of radio buttons.
226         https://bugs.webkit.org/show_bug.cgi?id=191347
227
228         Reviewed by Ryosuke Niwa.
229
230         The radio button behavior should always set the same revision while editing the revision input.
231         That means we should not use the intermediate commit set map but use the commit set map before
232         "Customize" link is clicked.
233
234         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
235         * public/v3/components/customizable-test-group-form.js: Pass uncustomized commit set so that the radio button
236         behavoir preserves.
237         (CustomizableTestGroupForm):
238         (CustomizableTestGroupForm.prototype.setCommitSetMap):
239         (CustomizableTestGroupForm.prototype.didConstructShadowTree):
240         (CustomizableTestGroupForm.prototype.render):
241         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
242         (CustomizableTestGroupForm.prototype._constructTableBodyList):
243         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
244         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
245         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
246
247 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
248
249         Customizable test group form should not reset manually edited commit value sometimes.
250         https://bugs.webkit.org/show_bug.cgi?id=190863
251
252         Reviewed by Ryosuke Niwa.
253
254         After changing the radio button and manually editing the commit value, commit value should not be reset
255         while changing the name of the test group.
256         Add the logic to prompt warning when manually typed commit does not exist.
257
258         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
259         * browser-tests/index.html:
260         * public/v3/components/customizable-test-group-form.js: Should always update commit set as long as
261         the repository of that row does not have a owner repository.
262         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
263         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
264         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
265
266 2018-10-16  Dewei Zhu  <dewei_zhu@apple.com>
267
268         Unreviewed, rolling out r236996.
269
270         Temporarily rollout to fix a manifest generation bug.
271         "lastModified" field for certain platform & metric configurations may be missing.
272
273         Reverted changeset:
274
275         "ManifestGenerator shouldn't need more than 1GB of memory or
276         run for 30 seconds"
277         https://bugs.webkit.org/show_bug.cgi?id=190393
278         https://trac.webkit.org/changeset/236996
279
280 2018-10-12  Ryosuke Niwa  <rniwa@webkit.org>
281
282         Perf dashboard: add a test for aggregating subtests without a matching metric in /api/report
283         https://bugs.webkit.org/show_bug.cgi?id=190544
284
285         Rubber-stamped by Keith Miller and unofficially reviewed by Dewei Zhu.
286
287         Added tests for reporting results to /api/report where a test with aggregated metrics has a subtest
288         without a matching metric type. The aggregation should simply skip such a subtest instead of returning
289         an error or aggregating with a mismatching metric type.
290
291         * server-tests/api-report-tests.js:
292         (.makeReport): Extracted out of a test case.
293
294 2018-10-11  Ryosuke Niwa  <rniwa@webkit.org>
295
296         Build fix after r236956. Use array_get to avoid warnings.
297
298         * public/include/report-processor.php:
299
300 2018-10-09  Dewei Zhu  <dewei_zhu@apple.com>
301
302         Performance dashboard should show added iterations due failed build requests.
303         https://bugs.webkit.org/show_bug.cgi?id=190419
304
305         Reviewed by Ryosuke Niwa.
306
307         Added UI to show added build requests due to previous failed build requests.
308         Updated the retry/bisect button to default to initial repetition count when test group is created.
309
310         * public/v3/pages/analysis-task-page.js: Added a div to show added build requests.
311         Retry and bisect button should default to initial repetion count.
312         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup):
313         (AnalysisTaskTestGroupPane.cssTemplate):
314
315 2018-10-09  Ryosuke Niwa  <rniwa@webkit.org>
316
317         ManifestGenerator shouldn't need more than 1GB of memory or run for 30 seconds
318         https://bugs.webkit.org/show_bug.cgi?id=190393
319
320         Reviewed by Antti Koivisto and unofficially reviewed by Dewei Zhu.
321
322         This patch reduces the runtime of /api/manifest from 13s to 7s and reduces the memory requirement from
323         1GB to 400MB for the internal dashboard in my local testing.
324
325         The biggest perf win comes from avoid running a complex query over test_configurations to compute
326         the latest modified date across different test configuration types ("current" vs. "baseline").
327         Instead, we now fetch the entire table row by row and compute the latest modified date in memory.
328
329         Also call intval in many more places to avoid generating double quotes, which is a pretty significant
330         proportion of the JSON file size at this point.
331
332         Finally, use references in more places to avoid deep copying of arrays.
333
334         * public/include/manifest-generator.php:
335         (ManifestGenerator::generate): Skip the generation of "dashboard" since it's only used by v1 UI.
336         (ManifestGenerator::tests): Don't copy each row.
337         (ManifestGenerator::metrics): Ditto.
338         (ManifestGenerator::platforms): Implement the aforementioned optimization. Instead of grouping
339         test configurations for a given metric and platform together, fetch them all and do in-memory
340         processing in PHP. Avoid more copying as well.
341         (ManifestGenerator::repositories): Avoid more copying.
342         (ManifestGenerator::bug_trackers): Ditto.
343         (ManifestGenerator::fetch_triggerables): Ditto.
344
345 2018-10-08  Ryosuke Niwa  <rniwa@webkit.org>
346
347         /api/report takes 15+ minutes submitting some test results
348         https://bugs.webkit.org/show_bug.cgi?id=190382
349
350         Rubber-stamped by Alexey Proskuryakov and unofficially reviewed by Dewei Zhu.
351
352         The issue was that recursively_ensure_tests would issue thousands of dependent queries.
353
354         Since most reporting of results would be happening after all the tests and test metrics had been created,
355         simply fetch the list of all tests and test metrics upfront in memory.
356
357         This would slow-down the reporting of other test results but in practice doesn't matter (an extra few seconds
358         of overhead) but for slow reporting, it can significantly reduce the runtime from ~10 minutes to ~10 seconds.
359
360         * public/include/report-processor.php:
361         (ReportProcessor::process): Call fetch_tests before recursively_ensure_tests.
362         (ReportProcessor::fetch_tests): Added. This builds up a mapping of tests based on a parent test ID as well as
363         a mapping of metrics per test based on its name and then its aggregator's name.
364         (ReportProcessor::recursively_ensure_tests): Added. Use the in-memory maps built in fetch_tests when possible.
365         (ReportProcessor::aggregator_list_if_exists): Take a reference instead of passing it by value.
366         (TestRunsGenerator::add_aggregated_metric): Now takes metric ID. The code to add the test metric had been moved
367         to recursively_ensure_tests.
368
369 2018-10-01  Dewei Zhu  <dewei_zhu@apple.com>
370
371         Add retry for test groups with failed build requests.
372         https://bugs.webkit.org/show_bug.cgi?id=190188
373
374         Reviewed by Ryosuke Niwa.
375
376         Added retry logic in run-analysis script.
377         Current retry logic will only be triggered when there is at least one successful build request for each commit set
378         in a test group.
379
380         * init-database.sql: Added 'testgroup_initial_repetition_count' and 'testgroup_may_need_more_requests'.
381         SQL to update existing database:
382         '''
383         BEGIN;
384             ALTER TABLE analysis_test_groups
385                 ADD COLUMN testgroup_initial_repetition_count integer DEFAULT NULL,
386                 ADD COLUMN testgroup_may_need_more_requests boolean DEFAULT FALSE;
387             UPDATE analysis_test_groups SET testgroup_initial_repetition_count = (
388                 SELECT DISTINCT(COUNT(*)) FROM build_requests WHERE request_group = testgroup_id AND request_order >= 0 GROUP BY request_commit_set
389             );
390             ALTER TABLE analysis_test_groups ALTER COLUMN testgroup_initial_repetition_count DROP DEFAULT, ALTER COLUMN testgroup_may_need_more_requests SET NOT NULL;
391         END;
392         '''
393         'testgroup_initial_repetition_count' represents the number of successful build request for each commit set when
394         test group is created.
395         'testgroup_may_need_more_requests' will be set when any build request in test group is set to 'failed'.
396         * public/api/build-requests.php: Added the logic to set 'testgroup_may_need_more_requests'.
397         * public/api/test-groups.php: Updated 'ready-for-notification' to 'ready-for-further-processing' so that it returns finished test
398         groups those either have 'needs_notification' or  'may_need_more_requests' set.
399         * public/include/commit-sets-helpers.php: Set 'initial_repetition_count' to repetition count.
400         * public/privileged-api/update-test-group.php: Added APIs to add build request for a test group and
401         update 'may_need_more_requests' flag.
402         * public/v3/models/test-group.js:
403         (TestGroup): Added '_mayNeedMoreRequests' and '_initialRepetitionCount' field.
404         Refactored code that interacts with '/api/update-test-group'.
405         (TestGroup.prototype.updateSingleton):
406         (TestGroup.prototype.mayNeedMoreRequests):
407         (TestGroup.prototype.initialRepetitionCount):
408         (TestGroup.prototype.async._updateBuildRequest):
409         (TestGroup.prototype.updateName):
410         (TestGroup.prototype.updateHiddenFlag):
411         (TestGroup.prototype.async.didSendNotification):
412         (TestGroup.prototype.async.addMoreBuildRequests):
413         (TestGroup.prototype.async.clearMayNeedMoreBuildRequests): Added API to clear 'may_need_more_requests' flag.
414         (TestGroup.fetchAllReadyForFurtherProcessing): Refactored 'TestGroup.fetchAllWithNotificationReady' to return test groups either
415         have 'needs_notification' or  'may_need_more_requests' set.
416         (TestGroup.fetchAllThatMayNeedMoreRequests): Fetches test groups those may need more build requests.
417         * server-tests/api-test-groups.js: Added unit tests.
418         * server-tests/privileged-api-add-build-requests-tests.js: Added unit tests for 'add-build-requests' API.
419         * server-tests/privileged-api-update-test-group-tests.js: Added unit tests.
420         * server-tests/resources/mock-data.js:
421         (MockData.addMockData):
422         * server-tests/resources/test-server.js:
423         (TestServer.prototype._determinePgsqlDirectory): Fixed a bug that 'childProcess.execFileSync' may return a buffer.
424         * tools/run-analysis.js: Added logic to add extra build request before sennding notification.
425         * tools/js/retry-failed-build-requests.js:
426         (async.createAdditionalBuildRequestsForTestGroupsWithFailedRequests): Module that add extra build requests.
427         * unit-tests/retry-failed-build-requests-tests.js: Added.
428         * unit-tests/test-groups-tests.js: Added unit tests.
429
430 2018-09-21  Dewei Zhu  <dewei_zhu@apple.com>
431
432         Apache can return a corrupt manifest file while ManifestGenerator::store is running
433         https://bugs.webkit.org/show_bug.cgi?id=189822
434
435         Reviewed by Ryosuke Niwa.
436
437         Updating a file on performance dashboard should be transactional between php and apache.
438         Otherwise, partial content may be served.
439
440         * public/api/measurement-set.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
441         * public/api/runs.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
442         * public/include/db.php: Make creating file transactionaly by taking advantage of
443         'move/rename' operation is atomic in OS.
444         Added logic to avoid overwriting file if all content except specified filed are identical.
445         * public/include/json-header.php: Added a helper function that added 'status' but does not
446         convert content to json.
447         * public/include/manifest-generator.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
448         * public/shared/statistics.js: Removed unnecessary logging.
449         (Statistics.new.sampleMeanAndVarianceFromMultipleSamples):
450         * server-tests/api-manifest-tests.js: Updated one unit test.
451
452 2018-08-22  Dewei Zhu  <dewei_zhu@apple.com>
453
454         Show t-test results based on individual measurements to analysis task page.
455         https://bugs.webkit.org/show_bug.cgi?id=188425
456
457         Reviewed by Ryosuke Niwa.
458
459         Added comparison for individual iterations in analysis task page.
460         Added comparison for individual iterations for notification on A/B tests completion.
461         Refactored t-distribution inverse lookup to any degree of freedom with 5 significant figures.
462
463         * public/shared/statistics.js: Refactored t-distribution inverse lookup function and adapted this
464         change to all invocations.
465         (Statistics.new.this.supportedConfidenceIntervalProbabilities):
466         (Statistics.new.this.supportedOneSideTTestProbabilities):
467         (Statistics.new.this.confidenceIntervalDelta):
468         (Statistics.new.sampleMeanAndVarianceForMultipleSamples):
469         (Statistics.new.this.probabilityRangeForWelchsT):
470         (Statistics.new.this.probabilityRangeForWelchsTFromTwoSampleSets):
471         (Statistics.new.this._determinetwoSidedProbabilityBoundaryForWelchsT):
472         (Statistics.new.this.computeWelchsT):
473         (Statistics.new.this._computeWelchsTFromStatistics):
474         (Statistics.new.this.minimumTForOneSidedProbability): Function that does t-distribution inverse lookup.
475         * public/v3/components/analysis-results-viewer.js: Adapted TestGroup.compareTestResults change.
476         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._measurementsForCommitSet):
477         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
478         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForCommitSet): Deleted.
479         * public/v3/components/test-group-results-viewer.js: Show both comparisions for both individual and mean.
480         (TestGroupResultsViewer.prototype._renderResultsTable):
481         (TestGroupResultsViewer.prototype._buildRowForMetric.):
482         (TestGroupResultsViewer.prototype._buildValueMap):
483         * public/v3/models/test-group.js:
484         (TestGroup.compareTestResults): Added comparison for individual iterations.
485         * tools/js/test-group-result-page.js:
486         (TestGroupResultPage.prototype._constructTableForMetric):
487         (TestGroupResultPage.prototype.get styleTemplate):
488         (TestGroupResultPage):
489         (TestGroupResultPage.prototype._URLForAnalysisTask): Renamed to '_resultsForTestGroup'
490         * unit-tests/statistics-tests.js: Updated and added unit tests.
491
492 2018-07-13  Dewei Zhu  <dewei_zhu@apple.com>
493
494         CustomConfigurationTestGroupForm should dispatch different arguments based on whether analysis task is created.
495         https://bugs.webkit.org/show_bug.cgi?id=187675
496
497         Reviewed by Ryosuke Niwa.
498
499         This change will fix the bug that no notification will be sent for any test groups except the
500         first one in any custom perf-try A/B task.
501
502         * public/v3/components/custom-configuration-test-group-form.js:
503         (CustomConfigurationTestGroupForm.prototype.startTesting): Conditionally includes taskName based on
504         whether or not analysis task is created.
505
506 2018-07-03  Dewei Zhu  <dewei_zhu@apple.com>
507
508         MeasurementSet should merge last four segments into two if values are identical.
509         https://bugs.webkit.org/show_bug.cgi?id=187311
510
511         Reviewed by Ryosuke Niwa.
512
513         If last four segments has the same value, MeasurmentSet should merge them.
514
515         * public/v3/models/measurement-set.js: Added the logic to conditionally merge last segments.
516         (MeasurementSet.prototype.fetchSegmentation):
517         * unit-tests/measurement-set-tests.js: Added a unit test for this change.
518
519 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
520
521         Manifest.reset should clear static map for BugTracker and Bug objects.
522         https://bugs.webkit.org/show_bug.cgi?id=187186
523
524         Reviewed by Ryosuke Niwa.
525
526         If static maps of BugTracker and Bug objects are not cleared up, updating singleton
527         of Bug object will fail assertion.
528
529         * public/v3/models/manifest.js: Clear static map for BugTracker and Bug.
530         (Manifest.reset):
531         * server-tests/api-manifest-tests.js: Added a unit test for this change.
532
533 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
534
535         Fix a bug in range bisector that start commit may be counted twice.
536         https://bugs.webkit.org/show_bug.cgi?id=187205
537
538         Reviewed by Darin Adler.
539
540         Range bisector counted start commit twice if start commit is the same as end commit.
541
542         * public/v3/commit-set-range-bisector.js:
543         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
544         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this change.
545
546 2018-06-28  Dewei Zhu  <dewei_zhu@apple.com>
547
548         Fix a bug ComponentBase that wrong content template may be used.
549         https://bugs.webkit.org/show_bug.cgi?id=187159
550
551         Reviewed by Ryosuke Niwa.
552
553         ComponentBase uses '_parsed' to mark whether content and style templates of a class
554         is parsed. However, derived class parsing will be skipped as 'Derive._parsed' is available
555         via prototype chain whenever the base class is parsed.
556
557         * browser-tests/component-base-tests.js: Added unit tests.
558         * public/v3/components/base.js: Added 'hasOwnProperty' to make sure current class is parsed.
559         (ComponentBase.prototype._ensureShadowTree):
560
561 2018-06-25  Dewei Zhu  <dewei_zhu@apple.com>
562
563         MeasurementSetAnalyzer should check triggerable availability before creating confirming A/B tests.
564         https://bugs.webkit.org/show_bug.cgi?id=187028
565
566         Reviewed by Ryosuke Niwa.
567
568         If the triggerable is not available, MeasurmentSetAnalyzer should only create analysis task without
569         confirming A/B tests.
570
571         * tools/js/measurement-set-analyzer.js: Added logic to check triggerable availability.
572         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
573         (MeasurementSetAnalyzer):
574         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests and added a new unit test for this change.
575
576 2018-06-11  Dewei Zhu  <dewei_zhu@apple.com>
577
578         Extend test group rule to support 'userInitiated' field.
579         https://bugs.webkit.org/show_bug.cgi?id=186544
580
581         Reviewed by Ryosuke Niwa.
582
583         Added support for rule specifying whether or not test group is user initiated.
584
585         * tools/js/analysis-results-notifier.js: Rule now support 'userInitiated' field.
586         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
587         (AnalysisResultsNotifier.prototype._applyRules):
588         (AnalysisResultsNotifier._matchesRule):
589         * unit-tests/analysis-results-notifier-tests.js: Added unit tests for this change.
590
591 2018-05-29  Dewei Zhu  <dewei_zhu@apple.com>
592
593         CommitSet range bisector should use commits occur in commit sets which specify the range as valid commits for commits without ordering.
594         https://bugs.webkit.org/show_bug.cgi?id=186062
595
596         Reviewed by Ryosuke Niwa.
597
598         For commits without ordering, we should use the commits occurs in the commit sets which specify the range as valid commits.
599         Commit sets in range should only contain those valid commits for corresponding repositories.
600
601         * public/v3/commit-set-range-bisector.js: Updated logic to add check on commits without ordering.
602         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
603         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this case.
604
605 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
606
607         Related task may not have a metric or platform.
608         https://bugs.webkit.org/show_bug.cgi?id=186426
609
610         Reviewed by Ryosuke Niwa.
611
612         Related task in the related task list can be a custom analysis task which
613         may not have platform or metric.
614
615         * public/v3/pages/analysis-task-page.js: Added null checks for platform and metric.
616         (AnalysisTaskPage.prototype._renderRelatedTasks):
617
618 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
619
620         Fix browser test failed assertions and a bug in 'common-component-base'
621         https://bugs.webkit.org/show_bug.cgi?id=186423
622
623         Reviewed by Ryosuke Niwa.
624
625         Fixed serveral assertion failures in browser tests.
626         Fixed a bug in common-component-base that null/undefined as attribute value is not allowed.
627
628         * browser-tests/chart-revision-range-tests.js: Should not import 'lazily-evaluated-function.js' twice.
629         * browser-tests/chart-status-evaluator-tests.js: Should not import 'lazily-evaluated-function.js' twice.
630         * browser-tests/component-base-tests.js: Added a unit test for element attributes being null or undefined.
631         * browser-tests/index.html: Make mocked data from makeSampleCluster also contains commit_order.
632         * public/shared/common-component-base.js: Make it allow to take null as attribute value.
633         (CommonComponentBase.createElement):
634
635 2018-05-24  Dewei Zhu  <dewei_zhu@apple.com>
636
637         Added sending notification feature when test group finishes.
638         https://bugs.webkit.org/show_bug.cgi?id=184340
639
640         Reviewed by Ryosuke Niwa.
641
642         Added 'testgroup_needs_notification' filed to 'analysis_test_group' table to indicate whether a test group
643         has a pending notification.
644         Added 'testgroup_notification_sent_at' to record the last notification sent time.
645         SQL queries to update existing database are:
646             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_needs_notification boolean NOT NULL DEFAULT FALSE;'
647             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_notification_sent_at timestamp DEFAULT NULL;'
648         Updated 'run-analysis' script to be able to send notification when test group finishes.
649         Added 'Notify on completion' checkbox while creating/retrying/bisecting a test group.
650
651         * browser-tests/test-group-form-tests.js: Updated existing tests and added a new test.
652         * browser-tests/test-group-result-page-tests.js: Added unit tests for TestGroupResultPage.
653         * init-database.sql: Added 'testgroup_needs_notification' filed to 'analysis_test_group' table.
654         * public/api/test-groups.php: Added '/api/test-groups/ready-for-notification' API to 'test-group' to show all
655         test groups that need to send notification. Only the ones with 'completed', 'failed' or 'cancelled' status and its
656         'testgroup_needs_notification' is true will be returned by this API.
657         * public/include/build-requests-fetcher.php: Added 'fetch_requests_for_groups' to return test groups with given ids.
658         * public/include/commit-sets-helpers.php: Updated the logic to support setting 'testgroup_needs_notification'
659         while create an analysis_test_groups.
660         * public/privileged-api/create-analysis-task.php: Updated the logic to support setting 'testgroup_needs_notification'.
661         * public/privileged-api/create-test-group.php: Updated the logic to support setting 'testgroup_needs_notification'.
662         * public/privileged-api/update-test-group.php: Updated the logic to support updating 'testgroup_needs_notification'.
663         Extended this API to allow authentication both from CSRF token and slave.
664         * public/v3/components/custom-configuration-test-group-form.js:
665         (CustomConfigurationTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
666         'testgroup_needs_notification' from API perspective.
667         * public/v3/components/customizable-test-group-form.js:
668         (CustomizableTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
669         'testgroup_needs_notification' from API perspective.
670         (CustomizableTestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
671         * public/v3/components/test-group-form.js:
672         (TestGroupForm): Added '_notifyOnCompletion' instance variable.
673         (TestGroupForm.prototype.didConstructShadowTree): Added 'onchange' event for notify on completion checkbox.
674         (TestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
675         'testgroup_needs_notification' from API perspective.
676         (TestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
677         * public/v3/models/analysis-results.js: Export 'AnalysisResults'.
678         (AnalysisResults.fetch): Update API path to use absolute url.
679         (AnalysisResults):
680         * public/v3/models/analysis-task.js:
681         (AnalysisTask.async.create): Extend this function to take notifyOnCompletion as argument which will be used as
682         'needsNotification' to send to server.
683         (AnalysisTask):
684         * public/v3/models/test-group.js:
685         (TestGroup): Added '_needsNotification' field.
686         (TestGroup.prototype.updateSingleton): Added logic to update '_needsNotification' field.
687         (TestGroup.prototype.needsNotification): Returns '_needsNotification' field.
688         (TestGroup.prototype.author): Returns author information.
689         (TestGroup.prototype.async.didSendNotification): API that updates 'testgroup_needs_notification' to true.
690         (TestGroup.prototype.async.fetchTask): API to fetch the task when it has not been fetched.
691         (TestGroup.createWithTask): Updated this function to accept 'notifyOnCompletion' which will be used as
692         'needsNotification' to send to server.
693         (TestGroup.createWithCustomConfiguration): Updated this function to accept 'notifyOnCompletion' which will be used as
694         'needsNotification' to send to server.
695         (TestGroup.createAndRefetchTestGroups): Updated this function to accept 'notifyOnCompletion' which will be used as
696         'needsNotification' to send to server.
697         (TestGroup.fetchAllWithNotificationReady): New function that invokes '/api/test-groups/ready-for-notification'.
698         * public/v3/pages/analysis-task-page.js: Update logic to 'notifyOnCompletion' around
699         (AnalysisTaskChartPane.prototype.didConstructShadowTree):
700         (AnalysisTaskResultsPane.prototype.didConstructShadowTree):
701         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
702         (AnalysisTaskPage.prototype.didConstructShadowTree):
703         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
704         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup):
705         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList.set const):
706         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
707         (AnalysisTaskPage.prototype._createCustomTestGroup):
708         * public/v3/pages/chart-pane.js: Added 'Notify on completion' checkbox.
709         (ChartPane.prototype.didConstructShadowTree):
710         (ChartPane.prototype.async._analyzeRange):
711         * public/v3/pages/create-analysis-task-page.js: Adapted API change.
712         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup):
713         * server-tests/api-test-groups.js: Added tests for '/api/test-groups/ready-for-notification'.
714         * server-tests/privileged-api-create-analysis-task-tests.js: Updated tests to adapt this change.
715         Added new tests.
716         * server-tests/privileged-api-create-test-group-tests.js: Added new tests.
717         * server-tests/privileged-api-update-test-group-tests.js: Added unit test for 'update-test-group' API.
718         * server-tests/resources/mock-data.js: addMockData should set 'testgroup_needs_notification' to be true.
719         * server-tests/tools-sync-buildbot-integration-tests.js: Updated tests to adapt this change.
720         (async.createTestGroupWihPatch):
721         (createTestGroupWihOwnedCommit):
722         * tools/js/analysis-results-notifier.js: Added notifier to send notification for completed test groups.
723         (AnalysisResultsNotifier):
724         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
725         (AnalysisResultsNotifier.prototype._sendNotification): Invoke remote API to send notification.
726         (AnalysisResultsNotifier.prototype._constructMessageByRules):
727         (AnalysisResultsNotifier._matchesRule):
728         (AnalysisResultsNotifier._applyUpdate):
729         (AnalysisResultsNotifier.async._messageForTestGroup): Build html as message body for a test group.
730         (AnalysisResultsNotifier._URLForAnalysisTask): Returns URL for an analysis task.
731         (AnalysisResultsNotifier._instantiateNotificationTemplate):
732         * tools/js/test-group-result-page.js: Added 'TestGroupResultPage' and 'BarGraph' to show test group result.
733         (TestGroupResultPage):
734         (TestGroupResultPage.prototype.async.setTestGroup):
735         (TestGroupResultPage._urlForAnalysisTask):
736         (TestGroupResultPage.prototype._URLForAnalysisTask):
737         (TestGroupResultPage.prototype.constructTables):
738         (TestGroupResultPage.prototype._constructTableForMetric):
739         (TestGroupResultPage.):
740         (TestGroupResultPage.prototype.get pageContent):
741         (TestGroupResultPage.prototype.get styleTemplate):
742         (BarGraph):
743         (BarGraph.prototype.setWidth):
744         (BarGraph.prototype._constructBarGraph):
745         (BarGraph.prototype.get pageContent):
746         (BarGraph.prototype.get styleTemplate):
747         * tools/js/measurement-set-analyzer.js: Adapted 'AnalysisTask.create' change.
748         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
749         (MeasurementSetAnalyzer):
750         * tools/js/v3-models.js:
751         * tools/run-analysis.js: Added the logic that sends notification for completed test groups.
752         (main):
753         (async.analysisLoop):
754         * unit-tests/analysis-task-tests.js:
755         * unit-tests/analysis-results-notifier-tests.js: Added a unit test for 'AnalysisResultsNotifier' and 'NotificationService'.
756         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests per this change.
757         * unit-tests/test-groups-tests.js: Added unit tests for 'TestGroup.needsNotification'.
758         * unit-tests/resources/mock-remote-api.js: Only set 'privilegedAPI' when it exits.
759
760 2018-06-07  Ryosuke Niwa  <rniwa@webkit.org>
761
762         Add the basic support for writing components in node.js
763         https://bugs.webkit.org/show_bug.cgi?id=186299
764
765         Reviewed by Antti Koivisto.
766
767         Add the basic support for writing components in node.js for generating rich email notifications.
768
769         To do this, this patch introduces MarkupComponentBase and MarkupPage which implement similar API
770         to ComponentBase and Page classes of v3 UI code. This enables us to share code between frontend
771         and the backend in the future. Because there is no support for declarative custom elements or
772         shadow root in HTML, MarkupComponentBase uses a similar but distinct concept of "content" tree
773         to represent the "DOM" tree for a component. When generating the HTML, MarkupComponentBase and
774         MarkupPage collectively transforms stylesheets and flattens the tree into a single HTML. In order
775         to keep this flatteneing logic simple, MarkupComponentBase only supports a very small subset of
776         CSS selectors to select elements by their local names and class names.
777
778         Specifically, each class name and element name based selectors are replaced by a globally unique
779         class name based selector, and each element which matches the selector is applied of the same
780         globally unique class name. The transformation is applied when constructing the "content" tree
781         as well as calls to renderReplace.
782
783         Because much of v3 frontend code relies on DOM API, this patch also implements the simplest form
784         of a fake DOM API as MarkupNode, MarkupParentNode, MarkupElement, and MarkupText. In order to avoid
785         reimplementing HTML & CSS parsers, this patch introduces the concept of content and style templates
786         to ComponentBase which are JSON alternatives to HTML & CSS template strings which can be used in
787         both frontend & backend.
788
789         * browser-tests/close-button-tests.js: Include CommonComponentBase.
790         * browser-tests/commit-log-viewer-tests.js: Ditto.
791         * browser-tests/component-base-tests.js: Ditto. Added a test cases for content & style templates.
792         (async.importComponentBase): Added.
793         * browser-tests/editable-text-tests.js: Include CommonComponentBase.
794         * browser-tests/index.html:
795         * browser-tests/markup-page-tests.js: Added.
796         * browser-tests/page-router-tests.js: Include CommonComponentBase.
797         * browser-tests/page-tests.js: Ditto.
798         * browser-tests/test-group-form-tests.js: Ditto.
799         * public/shared/common-component-base.js: Added.
800         (CommonComponentBase): Extracted out of ComponentBase.
801         (CommonComponentBase.prototype.renderReplace): Added.
802         (CommonComponentBase.renderReplace): Moved from ComponentBase.
803         (CommonComponentBase.prototype._recursivelyUpgradeUnknownElements): Moved and renamed from
804         ComponentBase's _recursivelyReplaceUnknownElementsByComponents.
805         (CommonComponentBase.prototype._upgradeUnknownElement): Extracted out of the same function.
806         (CommonComponentBase._constructStylesheetFromTemplate): Added.
807         (CommonComponentBase._constructNodeTreeFromTemplate): Added.
808         (CommonComponentBase.prototype.createElement): Added.
809         (CommonComponentBase.createElement): Moved from ComponentBase.
810         (CommonComponentBase._addContentToElement): Moved from ComponentBase.
811         (CommonComponentBase.prototype.createLink): Added.
812         (CommonComponentBase.createLink): Moved from ComponentBase.
813         (CommonComponentBase._context): Added. Set to document in a browser and MarkupDocument in node.js.
814         (CommonComponentBase._isNode): Added. Set to a function which does instanceof Node/MarkupNode check.
815         (CommonComponentBase._baseClass): Added. Set to ComponentBase or MarkupComponentBase.
816         * public/v3/components/base.js:
817         (ComponentBase):
818         (ComponentBase.prototype._ensureShadowTree): Added the support for the content and style templates.
819         Also avoid parsing the html template each time a component is instantiated by caching the result.
820         * public/v3/index.html:
821         * tools/js/markup-component.js: Added.
822         (MarkupDocument): Added. A fake Document.
823         (MarkupDocument.prototype.createContentRoot): A substitude for attachShadow.
824         (MarkupDocument.prototype.createElement):
825         (MarkupDocument.prototype.createTextNode):
826         (MarkupDocument.prototype._idForClone):
827         (MarkupDocument.prototype.reset):
828         (MarkupDocument.prototype.markup):
829         (MarkupDocument.prototype.escapeAttributeValue):
830         (MarkupDocument.prototype.escapeNodeData):
831         (MarkupNode): Added. A fake Node. Each node gets an unique ID.
832         (MarkupNode.prototype._markup):
833         (MarkupNode.prototype.clone): Implemented by the leave class.
834         (MarkupNode.prototype._cloneNodeData):
835         (MarkupNode.prototype.remove):
836         (MarkupParentNode): Added. An equivalent of ContainerNode in WebCore.
837         (MarkupParentNode.prototype.get childNodes):
838         (MarkupParentNode.prototype._cloneNodeData):
839         (MarkupParentNode.prototype.appendChild):
840         (MarkupParentNode.prototype.removeChild):
841         (MarkupParentNode.prototype.removeAllChildren):
842         (MarkupParentNode.prototype.replaceChild):
843         (MarkupContentRoot): Added. Used like a shadow tree.
844         (MarkupContentRoot.prototype._markup): Added.
845         (MarkupElement): Added. A fake Element. It also implements a subset of IDL attributes implemented by
846         subclasses such as HTMLInputElement for simplicity.
847         (MarkupElement.prototype.get id): Added.
848         (MarkupElement.prototype.get localName): Added.
849         (MarkupElement.prototype.clone): Added.
850         (MarkupElement.prototype.appendChild): Added.
851         (MarkupElement.prototype.addEventListener): Added.
852         (MarkupElement.prototype.setAttribute): Added.
853         (MarkupElement.prototype.getAttribute): Added.
854         (MarkupElement.prototype.get attributes): Added.
855         (MarkupElement.prototype.get textContent): Added.
856         (MarkupElement.prototype.set textContent): Added.
857         (MarkupElement.prototype._serializeStyle): Added.
858         (MarkupElement.prototype._markup): Added. Flattens the tree with content tree like copy & paste so
859         this can't be used to implement innerHTML.
860         (MarkupElement.prototype.get value): Added.
861         (MarkupElement.prototype.set value): Added.
862         (MarkupElement.prototype.get style): Added. Returns a fake writeonly CSSStyleDeclaration.
863         (MarkupElement.prototype.set style): Added.
864         (MarkupElement.get selfClosingNames): Added. A small list of self-closing tags for the HTML generation.
865         (MarkupText): Added.
866         (MarkupText.prototype.clone): Added.
867         (MarkupText.prototype._markup): Added.
868         (MarkupText.prototype.get data): Added.
869         (MarkupText.prototype.set data): Added.
870         (MarkupComponentBase): Added.
871         (MarkupComponentBase.prototype.element): Added. Like ComponentBase's element.
872         (MarkupComponentBase.prototype.content): Added. Like ComponentBase's content.
873         (MarkupComponentBase.prototype._findElementRecursivelyById): Added. A fake getElementById.
874         (MarkupComponentBase.prototype.render): Added. Like ComponentBase's render.
875         (MarkupComponentBase.prototype.runRenderLoop): Added. In ComponentBase, we use requestAnimationFrame.
876         In MarkupComponentBase, we keep rendering until the queue drains empty.
877         (MarkupComponentBase.prototype.renderReplace): Added. Like ComponentBase's renderReplace but applies
878         the transformation of classes to workaround the lack of shadow tree support in scriptless HTML.
879         (MarkupComponentBase.prototype._applyStyleOverrides): Added. Recursively applies the transformation.
880         (MarkupComponentBase.prototype._ensureContentTree): Added. Like ComponentBase's _ensureShadowTree.
881         (MarkupComponentBase.reset): Added.
882         (MarkupComponentBase._parseTemplates): Added. Parses the content & style templates, and generates the
883         transformed fake DOM tree and stylesheet text whereby selectors in each component is modified to be
884         unique across all components. The function to apply the necessary changes to an element is saved in
885         the global map of components, and later used in renderReplace via _applyStyleOverrides.
886         (MarkupComponentBase.defineElement): Added. Like ComponentBase's defineElement.
887         (MarkupComponentBase.prototype.createEventHandler): Added.
888         (MarkupComponentBase.createEventHandler): Added.
889         (MarkupPage): Added. The top-level component responsible for generating a DOCTYPE, head, and body.
890         (MarkupPage.prototype.pageTitle): Added.
891         (MarkupPage.prototype.content): Added. Overrides the one in MarkupComponentBase to return what would
892         be the content of the body element as opposed to the html element for the connivance of subclasses,
893         and to match the behavior of the frontend Page class.
894         (MarkupPage.prototype.render): Added.
895         (MarkupPage.prototype._updateComponentsStylesheet): Added. Concatenates the transformed stylesheet of
896         all components used.
897         (MarkupPage.get contentTemplate): Added.
898         (MarkupPage.prototype.generateMarkup): Added. Enqueues the page to render, spin the render loop, and
899         generates the HTML. We enqueue the page twice in order to invoke _updateComponentsStylesheet after
900         all subcomponent had finished rendering.
901         * unit-tests/markup-component-base-tests.js: Added.
902         * unit-tests/markup-element-tests.js: Added.
903         (.createElement): Added.
904         * unit-tests/markup-page-tests.js: Added.
905
906 2018-05-23  Dewei Zhu  <dewei_zhu@apple.com>
907
908         OSBuildFetcher should respect maxRevision while finding OS builds to report.
909         https://bugs.webkit.org/show_bug.cgi?id=185925
910
911         Reviewed by Ryosuke Niwa.
912
913         * server-tests/tools-os-build-fetcher-tests.js: Fix a typo in the unit tests.
914         Added unit tests for this change. Aslo convert an existing test using async.
915         * tools/js/os-build-fetcher.js:
916         (prototype._fetchAvailableBuilds): It should also use 'maxRevision' to filter builds to be reported.
917         It should use 'minRevisionOrder' when no commit has ever been submitted.
918         (prototype._commitsForAvailableBuilds): Takes 'maxOrder' as fifth argument.
919         'minOrder' and 'maxOrder' should be inclusive.
920
921 2018-05-11  Dewei Zhu  <dewei_zhu@apple.com>
922
923         Update ChartPane per change r231087.
924         https://bugs.webkit.org/show_bug.cgi?id=185570
925
926         Reviewed by Ryosuke Niwa.
927
928         On r231087 we change the return type of AnalysisTask.create, ChartPane needs to adapt
929         this change.
930
931         * public/v3/pages/chart-pane.js: Adapted the change that AnalysisTask.create now returns
932         an AnalysisTask object.
933         (ChartPane.prototype.async._analyzeRange):
934
935 2018-05-10  Dewei Zhu  <dewei_zhu@apple.com>
936
937         CommitLogViewer._preceedingCommit should not always be null
938         https://bugs.webkit.org/show_bug.cgi?id=185540
939
940         Reviewed by Ryosuke Niwa.
941
942         Fix the bug introduced in r227746 that CommitLogViewer._preceedingCommit is always null.
943
944         * browser-tests/index.html: Fix expected measurement-set url.
945         * public/v3/components/commit-log-viewer.js:
946         (CommitLogViewer.prototype._fetchCommitLogs): CommitLogViewer._preceedingCommit should be set
947          when fetching for preceeding revision succeeds.
948
949 2018-05-03  Dewei Zhu  <dewei_zhu@apple.com>
950
951         Range bisector should check the commits for repositories without change in specified range.
952         https://bugs.webkit.org/show_bug.cgi?id=185269
953
954         Reviewed by Ryosuke Niwa.
955
956         For repositories without a change in the specified range, we still need to use them to filter commit
957         sets. Before this change, code does not apply filtering by those repositories against commit set. As
958         a result, commit sets with different commits for those repositories may be chosen as bisecting commit set.
959
960         * public/v3/commit-set-range-bisector.js: Updated the logic to verify range for repositories without
961         change in range.
962         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
963         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test to guard against this change.
964
965 2018-05-02  Dewei Zhu  <dewei_zhu@apple.com>
966
967         Create analysis task should sync analysis task status after creation.
968         https://bugs.webkit.org/show_bug.cgi?id=185222
969
970         Reviewed by Ryosuke Niwa.
971
972         * public/v3/models/analysis-task.js:
973         (AnalysisTask.async.create): Fetch newly-created analysis task right about its creation.
974         (AnalysisTask):
975         * tools/js/measurement-set-analyzer.js:
976         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Adjust as 'AnalysisTask.create' now
977         returns an anlysis task instance.
978         (MeasurementSetAnalyzer):
979         * unit-tests/analysis-task-tests.js: Added a unit test for this change.
980         (async):
981         * unit-tests/measurement-set-analyzer-tests.js: Update unit tests accordingly.
982         Fix a typo in one previous unit test.
983         (async):
984
985 2018-05-01  Dewei Zhu  <dewei_zhu@apple.com>
986
987         Write a script that detects chart changes by using v3 API.
988         https://bugs.webkit.org/show_bug.cgi?id=184419
989
990         Reviewed by Ryosuke Niwa.
991
992         Added a script that detects chart changes and schedule confirming analysis task.
993
994         * browser-tests/async-task-tests.js: Added a unit test for 'AsyncTask'.
995         * browser-tests/index.html: Added import for 'AsyncTask' for testing.
996         * public/shared/statistics.js: Make 'findRangesForChangeDetectionsWithWelchsTTest' defaults to 0.99 one sided possibility.
997         (Statistics.new.this.findRangesForChangeDetectionsWithWelchsTTest):
998         * public/v3/async-task.js:
999         (AsyncTask.isAvailable): Helper function to determine whether AsyncTask is available or not as 'Worker' is
1000         not available in nodejs.
1001         (AsyncTask):
1002         * public/v3/models/bug.js: Export as a module.
1003         * public/v3/models/measurement-set.js:
1004         (MeasurementSet.prototype._invokeSegmentationAlgorithm): Added a check to avoid using AsyncTask when running in NodeJs.
1005         (MeasurementSet):
1006         * server-tests/resources/common-operations.js: Added a helper function to assert certain exception is thrown.
1007         (async.assertThrows):
1008         * tools/js/measurement-set-analyzer.js: Added 'MeasurementSetAnalyzer' module for analyzing measurement set.
1009         (MeasurementSetAnalyzer):
1010         (MeasurementSetAnalyzer.prototype.async.analyzeOnce):
1011         (MeasurementSetAnalyzer.measurementSetListForAnalysis):
1012         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1013         * tools/js/v3-models.js: Added import for 'Bug' object.
1014         * tools/run-analysis.js: Added this script to detect measurement set changes.
1015         (main):
1016         (async.analysisLoop):
1017         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for 'MeasurementSetAnalyzer'.
1018         * unit-tests/resources/mock-v3-models.js: Reset 'MeasurementSet._set' every time.
1019         Update mock platform to include lastModifiedByMetric information.
1020         (MockModels.inject):
1021
1022 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1023
1024         Creating a custom analysis task after fetching all analysis tasks fail
1025         https://bugs.webkit.org/show_bug.cgi?id=184641
1026
1027         Reviewed by Saam Barati.
1028
1029         The bug was caused by AnalysisTask._fetchSubset not fetching the analysis task when all analysis tasks
1030         had previously been fetched (AnlaysisTask._fetchAllPromise is set) even when noCache is set to true.
1031         Fixed it by ignornig _fetchAllPromise when noCache is set to true.
1032
1033         This patch also adds noCache argument to AnalysisTask.fetchById and reverts the inadvertent change in
1034         r226836 to always set noCache to true in this function.
1035
1036         * public/v3/models/analysis-task.js:
1037         (AnalysisTask.fetchById): Added noCache argument instead of always specifying true, and modernized the code.
1038         (AnalysisTask._fetchSubset): Fixed the bug. See above description.
1039         * public/v3/models/test-group.js:
1040         (TestGroup.createWithTask): Set noCache to true when calling AnalysisTask.fetchById here.
1041         * unit-tests/analysis-task-tests.js: Added test cases for AnalysisTask.fetchById, including a test
1042         to make sure it doesn't fetch the specified analysis task when noCache is set to false and all analysis
1043         tasks had previously been fetched for the aforementioned revert of the inadvertent change in r226836.
1044         (sampleAnalysisTasks): Renamed from sampleAnalysisTasks as the result contains multiple analysis tasks.
1045         * unit-tests/test-groups-tests.js: Added a test case for TestGroup.createWithTask
1046
1047 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1048
1049         REGRESSION(r230960): Browser tests under TimeSeriesChart fetchMeasurementSets all fail
1050         https://bugs.webkit.org/show_bug.cgi?id=185125
1051
1052         Reviewed by Saam Barati.
1053
1054         The bug was caused by mock-remote-api.js always loading PrivilegedAPI using require, which doesn't work in a browser.
1055         Fixed the bug by explicitly requiring the right kind of PrivilegedAPI in each unit test instead.
1056
1057         * unit-tests/analysis-task-tests.js:
1058         * unit-tests/buildbot-syncer-tests.js:
1059         * unit-tests/commit-log-tests.js:
1060         * unit-tests/commit-set-range-bisector-tests.js:
1061         * unit-tests/commit-set-tests.js:
1062         * unit-tests/measurement-set-tests.js:
1063         * unit-tests/privileged-api-tests.js:
1064         * unit-tests/resources/mock-remote-api.js:
1065         (MockRemoteAPI.inject): Take PrivilegedAPI instead of the type string. Also fixed a bug that _token wasn't unset
1066         after each unit test, and superfluous initializations of originalRemoteAPI and originalPrivilegedAPI.
1067         * unit-tests/test-groups-tests.js:
1068
1069 2018-04-30  Dewei Zhu  <dewei_zhu@apple.com>
1070
1071         MeasurementSet._constructUrl should construct absolute url.
1072         https://bugs.webkit.org/show_bug.cgi?id=185137
1073
1074         Reviewed by Ryosuke Niwa.
1075
1076         MeasurementSet._constructUrl should not construct an url with relative path.
1077
1078         * public/v3/models/measurement-set.js: Should use '/api/measurement-set...' and '/data/measurement-set-...'
1079         for uncached and cached fetching.
1080         * unit-tests/measurement-set-tests.js: Updated unit tests.
1081         (const.set MeasurementSet):
1082
1083 2018-04-26  Dewei Zhu  <dewei_zhu@apple.com>
1084
1085         Extend create-analysis-test API to be able to create with confirming test group.
1086         https://bugs.webkit.org/show_bug.cgi?id=184958
1087
1088         Reviewed by Ryosuke Niwa.
1089
1090         Extend create-analysis-test API to be able to create an analysis task with confirming test group.
1091         Update create analysis task UI in chart pane to adapt this new API.
1092         Refactored '/privileged-api/create-test-group' API to share some creating test group logic with '/privileged-api/create-analysis-task' API.
1093         Moved the shared logic to commit-sets-helpers.php.
1094
1095         * public/api/analysis-tasks.php: Use 'require_once' instead of 'require'.
1096         * public/include/commit-sets-helpers.php: Added.
1097         (create_test_group_and_build_requests): A helper function that creates test group and build requests for a analysis
1098         task. In long term, this should be a class to avoid passing long argument list around.
1099         (insert_commit_sets_and_construct_configuration_list): Based on commit sets returns build and test configurations.
1100         (insert_build_request_for_configuration): Insert build requests based on configuration.
1101         (commit_sets_from_revision_sets): Returns commit sets from given revision set list.
1102         * public/privileged-api/create-analysis-task.php: Added the ability to create analysis task with confirming test
1103         groups when repetition count is specified.
1104         * public/privileged-api/create-test-group.php: Moved shared function to commit-sets-helpers.php.
1105         * public/v3/models/analysis-task.js:
1106         (AnalysisTask.create): Instead of accepting run ids, it now accepts points and test group name and confirming iterations.
1107         It will conditionally add test group information into parameter when confirming iterations is a positive number.
1108         (AnalysisTask):
1109         * public/v3/models/commit-set.js:
1110         (CommitSet.revisionSetsFromCommitSets): Move 'TestGroup._revisionSetsFromCommitSets' since CommitSet class is more
1111         appropriate place and it will be shared by both TestGroup and AnalysisTask
1112         (CommitSet):
1113         * public/v3/models/test-group.js:
1114         (TestGroup.createWithTask): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1115         (TestGroup.createWithCustomConfiguration): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1116         (TestGroup.createAndRefetchTestGroups): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1117         (TestGroup._revisionSetsFromCommitSets): Deleted and moved to 'CommitSet.revisionSetsFromCommitSets'.
1118         * public/v3/pages/chart-pane.js:
1119         (ChartPane.prototype.didConstructShadowTree): Added the logic to disable options when checkbox for creating confirming
1120         test group is unchecked.
1121         (ChartPane.prototype._analyzeRange): Conditionally create confirming test group from UI.
1122         (ChartPane.cssTemplate):
1123         * server-tests/privileged-api-create-analysis-task-tests.js: Added unit tests. Added a unit test for 'NodePrivilegedAPI'.
1124         * unit-tests/analysis-task-tests.js: Added unit tests.
1125         * unit-tests/commit-set-tests.js: Added unit test for 'CommitSet.revisionSetsFromCommitSets'.
1126         * unit-tests/resources/mock-remote-api.js: Reset csrf token when BrowserPrivilegedAPI is used.
1127         (MockRemoteAPI.inject):
1128
1129 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1130
1131         Tool scripts should not use PrivilegedAPI from 'public/v3/privileged-api.js'.
1132         https://bugs.webkit.org/show_bug.cgi?id=184766
1133
1134         Reviewed by Ryosuke Niwa.
1135
1136         For tools, we should not use PrivilegedAPI for tools as current PrivilegedAPI
1137         is used by UI and it is unnecessary to generate CSRF token for tools.
1138         Will post a followup patch that creates a PrivilegedAPI used by tools.
1139         Make a change on TestServer.inject and MockRemoteAPI.inject to allow specifying
1140         BrowserPrivilegedAPI or NodePrivilegedAPI in the test. Currently defaults to
1141         BrowserPrivilegedAPI as this is the test behavior before this change.
1142
1143         * server-tests/resources/common-operations.js: Allow passing type of privileged api
1144         information to TestServer.inject.
1145         * server-tests/resources/test-server.js: Conditionally inject PrivilegedAPI based on
1146         type of privileged api.
1147         (TestServer.prototype.inject):
1148         (TestServer):
1149         * server-tests/tools-buildbot-triggerable-tests.js: Updated 'prepareServerTest' invocation.
1150         * server-tests/tools-os-build-fetcher-tests.js: Updated 'prepareServerTest' invocation.
1151         * server-tests/tools-sync-buildbot-integration-tests.js: Temporarily injecting
1152         BrowserPrivilegedAPI for mocking UploadedFile. The actual script does not rely on
1153         BrowserPrivilegedAPI at all.
1154         (async.createTestGroupWihPatch):
1155         (beforeEach):
1156         * tools/js/privileged-api.js: Added NodePrivilegedAPI
1157         (NodePrivilegedAPI.prototype.sendRequest):
1158         (NodePrivilegedAPI.configure): Configure the slave name and password.
1159         (NodePrivilegedAPI):
1160         * tools/js/v3-models.js: Removed the import of PrivilegedAPI.
1161         * unit-tests/privileged-api-tests.js:. Added unit tests for NodePrivilegedAPI.
1162         * unit-tests/resources/mock-remote-api.js: Conditionally inject PrivilegedAPI based on
1163         the type of privileged api.
1164         (MockRemoteAPI.inject):
1165
1166 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1167
1168         Revision information returned by querying measurement set api with analysis task id should contain commit order.
1169         https://bugs.webkit.org/show_bug.cgi?id=184902
1170
1171         Reviewed by Ryosuke Niwa.
1172
1173         This is a bug fix for r230719 which does not cover the case while querying `measurement-set.php?analysisTask=$task_id`
1174
1175         * public/api/measurement-set.php: AnalysisResultsFetcher.fetch_commits results should contains commit order.
1176         * server-tests/api-measurement-set-tests.js: Added unit test for this change.
1177
1178 2018-04-19  Dewei Zhu  <dewei_zhu@apple.com>
1179
1180         Add a bisect button to automatically schedule bisecting A/B tasks.
1181         https://bugs.webkit.org/show_bug.cgi?id=183888
1182
1183         Reviewed by Ryosuke Niwa.
1184
1185         Extended AnalysisTask's ability to figure out bisecting A/B tasks based on existing data points and test groups.
1186         Updated analysis page UI to show bisect button which will only appear when the middle commit set of the range in
1187         test group can be found.
1188
1189         Finding middle commit set algorithm is described as follows:
1190         1. Find all commits from multiple repositories among the ranges specified by two commit sets in test group. In
1191         the meanwhile, merge all commits that have commit time into a single list. For commits only have commit order,
1192         put those commits into separate lists.
1193         2. Filter all the available commit sets in current analysis task by keeping the ones have exact repositories
1194         as the two commit sets in specified test group, and every commit of a commit set is in side the commit range.
1195         After filtering the commit sets, sort the remaining ones and only keep one commit set if multiple commit sets
1196         are equal to each other.
1197         3. Among commits processed by step 2, find the commit sets that have the commit which is closest to the middle of
1198         all commits that have commit time created from step 1.
1199         4. Among commits processed by step 3, find the commit sets that have the commit which is closest to the middle of
1200         commits that only have commit order and categorized by repository. We have to iterate through repository as commit
1201         order is not granted to be comparable between different repositories.
1202         5. If more than one commit sets are found, choose the middle commit set.
1203
1204         * public/v3/commit-set-range-bisector.js: Added.
1205         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits): Instead of naively returning the middle of
1206         existing commit set array, this function selects a bisect bisection points that is closest to actually middle of
1207         the revision range based on all revisions reported to performance dashboard.
1208         (CommitSetRangeBisector._findCommitSetsWithinRange): Helper function to find commit sets those are in specified range.
1209         (CommitSetRangeBisector._orderCommitSetsByTimeAndOrderThenDeduplicate): Helper function to sort and deduplicate commit sets.
1210         (CommitSetRangeBisector._closestCommitSetsToBisectingCommitByTime): Helper function to find the commit sets those
1211         are closest to the middle of among all the commits in the range that have commit time.
1212         (CommitSetRangeBisector._findCommitSetsClosestToMiddleOfCommitsWithOrder): Helper function which goes through all
1213         repositories the commit of which has commit order, and find the commit sets those are closest to the middle of
1214         commits for each repository.
1215         (CommitSetRangeBisector._buildCommitToCommitSetMap): Helper function to builder mapping from a commit to commit
1216         sets those contain this commit.
1217         (CommitSetRangeBisector._findCommitClosestToMiddleIndex): Helper function to find closest commit to the middle of index.
1218         (CommitSetRangeBisector):
1219         * public/v3/index.html: Imports 'public/v3/commit-set-range-bisector.js'.
1220         * public/v3/models/analysis-task.js:
1221         (AnalysisTask.prototype.async.commitSetsFromTestGroupsAndMeasurementSet): Aggregates all existing commit sets in
1222         test groups of current analysis tasks.
1223         * public/v3/models/commit-log.js:
1224         (CommitLog.prototype.hasCommitTime): A helper function determine whether a commit has a commit time. For commit
1225         that does not have time, server will return commit time as zero. As it is unrealistic for a commit has commit time
1226         0, it would be safe to assume a valid commit time is greater than 0.
1227         (CommitLog.prototype.hasCommitOrder): Returns whether a commit has a commit oder.
1228         (CommitLog.hasOrdering): Determine whether we can order two commits by commit time or commit order.
1229         (CommitLog.orderTwoCommits): Order two commits incrementally.
1230         * public/v3/models/commit-set.js:
1231         (CommitSet.prototype.hasSameRepositories): A helper function to determine whether a commit set has same repositories
1232         as current repository.
1233         (CommitSet.containsRootOrPatchOrOwnedCommit): A helper function to determine whether current commit set has root,
1234         patch or owned commit.
1235         (CommitSet.commitForRepository): This function defined twice identically, remove one of them.
1236         * public/v3/models/test-group.js: Make '_computeRequestedCommitSets' a static function as it does not use any
1237         instance variables.
1238         * public/v3/pages/analysis-task-page.js: Added bisect button.
1239         (AnalysisTaskTestGroupPane):
1240         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
1241         (AnalysisTaskTestGroupPane.prototype.setTestGroups): Update 'setTestGroups' to update _bisectingCommitSetByTestGroup
1242         when the test groups changes.
1243         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup): Added code to conditionally show bisect button.
1244         Bisect button will only show when there is a middle commit set for that test group.
1245         (AnalysisTaskTestGroupPane.htmlTemplate):
1246         (AnalysisTaskTestGroupPane.cssTemplate):
1247         (AnalysisTaskPage.prototype.didConstructShadowTree):
1248         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
1249         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup): A callback when bisect button is clicked.
1250         * tools/js/v3-models.js:
1251         * unit-tests/commit-log-tests.js: Added unit tests for 'CommitLog.hasCommitTime', 'CommitLog.hasCommitOrder',
1252         'CommitLog.orderTwoCommits', 'CommitLog.hasOrdering'.
1253         * unit-tests/commit-set-range-bisector-tests.js: Unit tests for 'CommitSetRangeBisector.commitSetClosestToMiddleOfAllCommits'.
1254         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.hasSameRepositories' and 'CommitSet.containsRootOrPatchOrOwnedCommit'.
1255
1256 2018-04-16  Dewei Zhu  <dewei_zhu@apple.com>
1257
1258         Commit order should always be returned by api.
1259         https://bugs.webkit.org/show_bug.cgi?id=184674
1260
1261         Reviewed by Ryosuke Niwa.
1262
1263         Commit order sometimes missing in CommitLog object before this change.
1264         This makes ordering commits logic become unnecessarily complicate.
1265         This change will ensure commit order is always fetched for a CommitLog object.
1266         Change measurement-set API to contain commit order information.
1267         Change commits API to contain commit order information.
1268
1269         * public/api/measurement-set.php: Includes commit order information.
1270         * public/include/commit-log-fetcher.php:
1271         * public/v3/models/commit-log.js: Added a function to return order information.
1272         (CommitLog.prototype.updateSingleton): This function should update commit order.
1273         (CommitLog.prototype.order): Returns the order of commit.
1274         * public/v3/models/commit-set.js:
1275         (MeasurementCommitSet): Update MeasurementCommitSet to contain commit order information when creating CommitLog object.
1276         * server-tests/api-measurement-set-tests.js: Updated unit tests.
1277         * unit-tests/analysis-task-tests.js: Update unit tests to contain commit order information in mock data.
1278         (measurementCluster):
1279         * unit-tests/commit-log-tests.js: Added unit tests for CommitLog.order.
1280         * unit-tests/commit-set-tests.js: Added commit order in MeasurementCommitSet.
1281         * unit-tests/measurement-adaptor-tests.js: Updated unit tests to contain commit order information in mock data.
1282         * unit-tests/measurement-set-tests.js: Updated unit tests to contain commit order information in mock data.
1283
1284 2018-04-15  Ryosuke Niwa  <rniwa@webkit.org>
1285
1286         Make it possible to hide some repository groups
1287         https://bugs.webkit.org/show_bug.cgi?id=184632
1288
1289         Reviewed by Saam Barati.
1290
1291         Added the ability to hide repository groups in the custom analysis task configurator from the admin page.
1292         Hidden repositroy groups will continue to function for existing test groups. This is purely an UI change.
1293
1294         * init-database.sql: Added repositorygroup_hidden as a new column to triggerable_repository_groups.
1295         * public/admin/triggerables.php: Added a form field to hide a repository group.
1296         * public/include/manifest-generator.php: Include hidden state in the manifest file.
1297         * public/v3/components/custom-analysis-task-configurator.js:
1298         (CustomAnalysisTaskConfigurator.prototype._renderRepositoryPanes): Filter out hidden repository groups.
1299         * public/v3/models/triggerable.js:
1300         (prototype.isHidden): Added.
1301         * server-tests/api-manifest-tests.js: Updated an existing test case to test a hidden repository group.
1302
1303 2018-04-06  Dewei Zhu  <dewei_zhu@apple.com>
1304
1305         Added 'CommitSet.diff' which will be shared between multiple independent incoming changes.
1306         https://bugs.webkit.org/show_bug.cgi?id=184368
1307
1308         Reviewed by Ryosuke Niwa.
1309
1310         'CommitSet.diff' will be used in multiple independent incoming changes.
1311         It would be easier to make this a separate change to parallelize the changes depends on this API.
1312
1313         * public/v3/models/commit-set.js:
1314         (CommitSet.prototype.createNameWithoutCollision): Moved from 'AnalysisTaskPage' and make it more generic.
1315         (CommitSet.prototype.diff): Describe differences between 2 commit sets including commit, root and patch differences.
1316         * public/v3/pages/analysis-task-page.js: Move 'AnalysisTaskPage._createRetryNameForTestGroup' to CommitSet in a more generic form.
1317         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Use 'CommitSet.withoutRootPatchOrOwnedCommit' instead.
1318         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Moved to CommitSet in a more generic form.
1319         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.diff'.
1320
1321 2018-04-05  Dewei Zhu  <dewei_zhu@apple.com>
1322
1323         Fix a bug introduced in r230295 that A/B test result is not shown.
1324         https://bugs.webkit.org/show_bug.cgi?id=184350
1325
1326         Reviewed by Ryosuke Niwa.
1327
1328         result.label should be assigned in `TestGroup._computeRequestedCommitSets`.
1329
1330         * public/v3/models/test-group.js:
1331         (TestGroup.prototype._computeRequestedCommitSets):
1332
1333 2018-03-29  Dewei Zhu  <dewei_zhu@apple.com>
1334
1335         Added UI to show potential regressions in chart with t-testing against segmentations.
1336         https://bugs.webkit.org/show_bug.cgi?id=184131
1337
1338         Reviewed by Ryosuke Niwa.
1339
1340         Added UI in the chart-pane so that user can use new option in trendline which not only
1341         shows the segmentation, but also t-test against potential changes indicated by segmentation.
1342
1343         Fix a bug in AnalysisTaskPage that chart is not updated when change type of task changes.
1344
1345         * browser-tests/interactive-time-series-chart-tests.js: Fix a unit tests.
1346         * browser-tests/time-series-chart-tests.js: Fix a unit tests.
1347         * public/shared/statistics.js: Added a function to t-test certain range based on segmentation results.
1348         (Statistics.supportedOneSideTTestProbabilities):
1349         (Statistics.findRangesForChangeDetectionsWithWelchsTTest): The argument `segmentations`, every 2 items in the list defines 
1350         segmentation, that is why the index incremental is 2 in this funcion.
1351         * public/v3/components/chart-pane-base.js: Will select the range if user clicks on a suggested annotation.
1352         (ChartPaneBase.prototype.configure):
1353         (ChartPaneBase.prototype._didClickAnnotation):
1354         * public/v3/components/chart-styles.js:
1355         (ChartStyles.annotationFillStyleForTask): Added 'annotationFillStyleForTask' to determine the fillStyle for annotation based on change type of a analysis task.
1356         * public/v3/components/interactive-time-series-chart.js:
1357         (InteractiveTimeSeriesChart.prototype._findAnnotation): Also need to search among suggested annotaions.
1358         * public/v3/components/time-series-chart.js: Introduced 'suggested annotaion' which does not have an existing task and is suggested by t-test based on segmentation.
1359         (TimeSeriesChart):
1360         (TimeSeriesChart.prototype.setSuggestedAnnotations):
1361         (TimeSeriesChart.prototype.allAnnotations): Returns both annotations with and without analysis task.
1362         (TimeSeriesChart.prototype._layoutAnnotationBars): Should take all annotations in the calculation.
1363         * public/v3/models/measurement-set.js:
1364         (MeasurementSet.prototype.metricId): Returns metric id.
1365         * public/v3/models/metric.js:
1366         (Metric.prototype.summarizeForValues): Added helper function to summarize a given value
1367         * public/v3/models/test-group.js:
1368         (TestGroup.prototype.compareTestResults): Adapted to use 'Metric.summarizeForValues'.
1369         * public/v3/pages/chart-pane.js: Added 'Segmentation with t-test analysis' to 'ChartTrendLineTypes'.
1370         (ChartPane.prototype._renderTrendLinePopover):
1371         (ChartPane.prototype.async._updateTrendLine): make it an async function.
1372         * unit-tests/statistics-tests.js: Added unit tests for 'findRangesForChangeDetectionsWithWelchsTTest'.
1373
1374 2018-04-02  Aakash Jain  <aakash_jain@apple.com>
1375
1376         Remove deprecated Buildbot 0.8 code from Perf syncing scripts
1377         https://bugs.webkit.org/show_bug.cgi?id=183915
1378
1379         Reviewed by Ryosuke Niwa.
1380
1381         * server-tests/resources/mock-data.js:
1382         (MockData.buildbotBuildersURLDeprecated): Deleted.
1383         (MockData.mockBuildbotBuildersDeprecated): Deleted.
1384         (MockData.pendingBuildDeprecated): Deleted.
1385         (MockData.runningBuildDeprecated): Deleted.
1386         (MockData.finishedBuildDeprecated): Deleted.
1387         * tools/js/buildbot-syncer.js:
1388         (BuildbotBuildEntryDeprecated): Deleted.
1389         (BuildbotBuildEntryDeprecated.prototype.initialize): Deleted.
1390         (BuildbotBuildEntryDeprecated.prototype.url): Deleted.
1391         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Deleted.
1392         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Deleted.
1393         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Deleted.
1394         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Deleted.
1395         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Deleted.
1396         (BuildbotSyncer.prototype.url): Deleted.
1397         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deleted.
1398         * tools/js/buildbot-triggerable.js:
1399         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Deleted.
1400         * unit-tests/buildbot-syncer-tests.js:
1401         (smallPendingBuildDeprecated): Deleted.
1402         (smallInProgressBuildDeprecated): Deleted.
1403         (smallFinishedBuildDeprecated): Deleted.
1404         (samplePendingBuildRequestDeprecated): Deleted.
1405         (sampleInProgressBuildDeprecated): Deleted.
1406         (sampleFinishedBuildDeprecated): Deleted.
1407
1408 2018-03-19  Aakash Jain  <aakash_jain@apple.com>
1409
1410         Update Perf buildbot syncing scripts for Buildbot 0.9
1411         https://bugs.webkit.org/show_bug.cgi?id=175969
1412
1413         Reviewed by Ryosuke Niwa.
1414
1415         * tools/js/buildbot-triggerable.js:
1416         (BuildbotTriggerable.prototype.initSyncers): Switch from Deprecated version to new version of getBuilderNameToIDMap.
1417         * tools/js/buildbot-syncer.js:
1418         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Switch from Deprecated version to new version of scheduleRequest.
1419         (BuildbotSyncer.prototype.pullBuildbot): Switch from Deprecated version to new version of pathForPendingBuilds, _pullRecentBuilds 
1420         and BuildbotBuildEntry. Parse the pending build-requests data in Buildbot 0.9 format.
1421         * unit-tests/buildbot-syncer-tests.js: Updated as per Buildbot 0.9 code.
1422         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
1423         * server-tests/tools-buildbot-triggerable-tests.js: Ditto.
1424         * server-tests/resources/mock-data.js: Ditto.
1425         (MockData.pendingBuildsUrl): Method to construct pendingBuildsUrl in Buildbot 0.9 format.
1426         (MockData.recentBuildsUrl): Ditto for recent builds url.
1427         (MockData.statusUrl): Ditto for status url.
1428         (MockData.builderIDForName): Method to get builder ID from builder name.
1429
1430 2018-03-15  Aakash Jain  <aakash_jain@apple.com>
1431
1432         BuildbotBuildEntry creates an incorrect url for pending builds
1433         https://bugs.webkit.org/show_bug.cgi?id=183670
1434
1435         Reviewed by Ryosuke Niwa.
1436
1437         * tools/js/buildbot-syncer.js:
1438         (BuildbotBuildEntry.prototype.initialize): Fetch buildrequestid from Buildbot.
1439         (BuildbotBuildEntry.prototype.url): Construct url for pending build using buildrequestid from Buildbot.
1440         * unit-tests/buildbot-syncer-tests.js: Updated unit-test.
1441
1442 2018-03-14  Aakash Jain  <aakash_jain@apple.com>
1443
1444         Add support for boolean properties in BuildbotSyncer while submitting build request to Buildbot 0.9 server
1445         https://bugs.webkit.org/show_bug.cgi?id=183638
1446
1447         Reviewed by Ryosuke Niwa.
1448
1449         * tools/js/buildbot-syncer.js:
1450         (BuildbotSyncer._parseRepositoryGroupPropertyTemplate): Allow boolean properties.
1451         * server-tests/tools-sync-buildbot-integration-tests.js: Tests for boolean properties.
1452         * unit-tests/buildbot-syncer-tests.js: Ditto.
1453
1454 2018-03-04  Dewei Zhu  <dewei_zhu@apple.com>
1455
1456         Create analysis task should use build time as fallback when commit time is not available.
1457         https://bugs.webkit.org/show_bug.cgi?id=183309
1458
1459         Reviewed by Ryosuke Niwa.
1460
1461         Added the ability to schedule analysis task for the range without commit time.
1462
1463         * public/privileged-api/create-analysis-task.php: Use build time as fallback.
1464         * server-tests/privileged-api-create-analysis-task-tests.js: Added a unit test for this change.
1465
1466 2018-03-04  Aakash Jain  <aakash_jain@apple.com>
1467
1468         BuildbotBuildEntry for buildbot 0.9 uses incorrect buildrequestid
1469         https://bugs.webkit.org/show_bug.cgi?id=183194
1470
1471         Reviewed by Ryosuke Niwa.
1472
1473         * tools/js/buildbot-syncer.js:
1474         (BuildbotBuildEntry.prototype.initialize): Updated _buildRequestId to use correct build-request-id, as set in syncer._buildRequestPropertyName.
1475         (BuildbotSyncer.prototype.pathForPendingBuilds): Updated url to fetch properties for build-requests.
1476         * unit-tests/buildbot-syncer-tests.js:
1477         (sampleBuildData): Updated sampleBuildData with correct build-request-id in properties. Added
1478         properties to samplePendingBuildRequestData.
1479
1480 2018-02-28  Aakash Jain  <aakash_jain@apple.com>
1481
1482         Rename samplePendingBuild to samplePendingBuildRequest
1483         https://bugs.webkit.org/show_bug.cgi?id=183171
1484
1485         Reviewed by Ryosuke Niwa.
1486
1487         * unit-tests/buildbot-syncer-tests.js:
1488         (samplePendingBuildRequests): Renamed from samplePendingBuild.
1489         (samplePendingBuildRequestDeprecated): Renamed from samplePendingBuildDeprecated.
1490         (samplePendingBuild): Deleted.
1491         (samplePendingBuildDeprecated): Deleted.
1492
1493 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
1494
1495         Add support for submitting build request to Buildbot 0.9 server in BuildbotSyncer
1496         https://bugs.webkit.org/show_bug.cgi?id=182218
1497
1498         Reviewed by Ryosuke Niwa.
1499
1500         * tools/js/buildbot-syncer.js:
1501         (BuildbotSyncer.prototype.scheduleRequest): Added assert to ensure forcescheduler property is always defined. Builds can not
1502         be scheduled on Buildbot without this property. Updated unit-tests and server-tests accordingly.
1503         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Method to schedule build request on Buildbot 0.8 server.
1504         (BuildbotSyncer.prototype.scheduleBuildOnBuildbot): Method to schedule build request on Buildbot 0.9 server.
1505         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Path for scheudling build on Buildbot 0.8 server.
1506         (BuildbotSyncer.prototype.pathForForceBuild): Path for scheudling build on Buildbot 0.9 server.
1507         * unit-tests/buildbot-syncer-tests.js:
1508         (smallConfiguration): Added test-case for scheduleBuildOnBuildbot. Also added forcescheduler property in sample data.
1509         * server-tests/resources/mock-data.js: Added forcescheduler property in sample data.
1510         * server-tests/tools-buildbot-triggerable-tests.js: Updated server-tests to take care of added forcescheduler property.
1511
1512 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
1513
1514         Add support for fetching recent builds in Buildbot 0.9 format in BuildbotSyncer
1515         https://bugs.webkit.org/show_bug.cgi?id=179743
1516
1517         Reviewed by Ryosuke Niwa.
1518
1519         * tools/js/buildbot-syncer.js:
1520         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Renamed from _pullRecentBuilds. This method fetch
1521         from Buildbot 0.8 server.
1522         (BuildbotSyncer.prototype._pullRecentBuilds): Method to fetch recent builds from Buildbot 0.9 server.
1523         (BuildbotSyncer.prototype.pathForRecentBuilds): URL for fetching recent builds from Buildbot 0.9 server.
1524         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Renamed from pathForBuildJSON.
1525         * unit-tests/buildbot-syncer-tests.js:
1526         (_pullRecentBuilds.it): unit-test - should not fetch recent builds when count is zero.
1527         (_pullRecentBuilds.it): unit-test - should pull the right number of recent builds.
1528         (_pullRecentBuilds.it): unit-test - should handle unexpected error while fetching recent builds.
1529         (_pullRecentBuilds.it): unit-test - should create BuildbotBuildEntry after fetching recent builds.
1530
1531 2018-02-01  Aakash Jain  <aakash_jain@apple.com>
1532
1533         Create BuildbotBuildEntry in Buildbot syncer in Buildbot 0.9 format
1534         https://bugs.webkit.org/show_bug.cgi?id=182036
1535
1536         Reviewed by Ryosuke Niwa.
1537
1538         * tools/js/buildbot-syncer.js:
1539         (BuildbotBuildEntry): Class for Buildbot entry in Buildbot 0.9 data format.
1540         (BuildbotBuildEntryDeprecated): Renamed from BuildbotBuildEntry, sub-classed from BuildBotEntry. Handles Buildbot 0.8 data format.
1541         (BuildbotBuildEntryDeprecated.prototype.url): URL in buildbot 0.8 format.
1542         (BuildbotSyncer.prototype.builderID): Added.
1543         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Renamed from BuildbotSyncer.prototype.pathForPendingBuildsJSON.
1544         (BuildbotSyncer.prototype.pathForPendingBuilds): Path for pending builds in Buildbot 0.9 format.
1545         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deprecated. Renamed from urlForBuildNumber.
1546         (BuildbotSyncer.prototype.urlForBuildNumber): Updated in Buildbot 0.9 format.
1547         (BuildbotSyncer.prototype.urlForPendingBuild): Buildbot 0.9 has individual webpage for pending buildrequests as well. URL to that page.
1548         * unit-tests/buildbot-syncer-tests.js: Renamed BuildbotBuildEntry to BuildbotBuildEntryDeprecated.
1549         (sampleBuildData): Sample build data. Common method for in-progress and finished build data.
1550         (samplePendingBuildData): Sample data for a pending build. Separate method so that we can easily create sample data with multiple builds.
1551         (sampleInProgressBuildData): Ditto for in-progress build.
1552         (sampleFinishedBuildData): Ditto for finished build.
1553         (samplePendingBuild): Sample data for single pending build.
1554         (sampleInProgressBuild): Ditto for in-progress build.
1555         (sampleFinishedBuild): Ditto for finished build.
1556         (samplePendingBuildDeprecated): Renamed from samplePendingBuild.
1557         (sampleInProgressBuildDeprecated): Renamed from sampleInProgressBuild.
1558         (sampleFinishedBuildDeprecated): Renamed from sampleFinishedBuild.
1559         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for pending build.
1560         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for in-progress build.
1561         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for finished build.
1562         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for mix of in-progress and finished build.
1563
1564 2018-01-31  Dewei Zhu  <dewei_zhu@apple.com>
1565
1566         Should chose the best match during 'route' if there are multiple matches.
1567         https://bugs.webkit.org/show_bug.cgi?id=182326
1568
1569         Reviewed by Ryosuke Niwa.
1570
1571         r227749 made a change that 'analysisCategoryPage' will be added before 'analysisTaskPage'.
1572         As route names for both pages starts with 'analysis', whichever added first will be chosen.
1573         For a route like 'analysis/task/1'. As a result, 'analysisCategoryPage' will be chosen and
1574         this is not expected behavior. Adding the logic on the cases when route name does not extact
1575         match the route name, always choose the longest mathcing route name.
1576
1577         Also modernized the code of 'page-router.js' to use const & let instead of var.
1578
1579         Added a browser test to guard against this bug.
1580
1581         * browser-tests/index.html: Import 'page-router-tests.js'.
1582         * browser-tests/page-router-tests.js: Added unit test to guard against this bug.
1583         * public/v3/pages/page-router.js:
1584         (PageRouter.prototype.route): Added logic to find best matching in the case of inexact match.
1585         (PageRouter.prototype.pageDidOpen):
1586         (PageRouter.prototype._updateURLState):
1587         (PageRouter.prototype._serializeToHash):
1588         (PageRouter.prototype._deserializeFromHash):
1589         (PageRouter.prototype._serializeHashQueryValue):
1590         (PageRouter.prototype._deserializeHashQueryValue):
1591         (PageRouter.prototype._countOccurrences):
1592         (PageRouter):
1593
1594 2018-01-29  Dewei Zhu  <dewei_zhu@apple.com>
1595
1596         Should fetch owner commits in build-requests-fetcher.
1597         https://bugs.webkit.org/show_bug.cgi?id=182266
1598
1599         Reviewed by Ryosuke Niwa.
1600
1601         In a build request, owner commit of a commit is not always one of a commit in the commit set.
1602         Build request api should contain owner commits in the 'commits' field of the return value.
1603
1604         * public/include/build-requests-fetcher.php: Added logic to fetch owner commits and added them into 'commits'.
1605         * server-tests/api-build-requests-tests.js: Added a unit test.
1606         * server-tests/resources/mock-data.js:
1607         (MockData.set addTestGroupWithOwnerCommitNotInCommitSet): Added a test group with a build request, the commit set of which does
1608         not contain owner commit of one commit.
1609
1610 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1611
1612         Add the support for reporting Speedometer 2.0 results to perf dashboard
1613         https://bugs.webkit.org/show_bug.cgi?id=182089
1614         <rdar://problem/36172346>
1615
1616         Rubber-stamped by Chris Dumez.
1617
1618         Apparently, this has always worked since the very first version of the perf dashboard added in r163688.
1619         The relevant code is at the line 313 of report-processor.php now.
1620
1621         Added regression tests for this feature since we didn't have any tests four years ago.
1622
1623         * server-tests/api-report-tests.js:
1624
1625 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1626
1627         REGRESSION(r225898): The perf dashboard fails to open when there are no summary pages
1628         https://bugs.webkit.org/show_bug.cgi?id=182210
1629
1630         Rubber-stamped by Chris Dumez.
1631
1632         The bug was caused by TestFreshnessPage unconditionally assuming that summaryPageConfiguration is set.
1633         Fixed it by not creating TestFreshnessPage when there are no summary pages specified.
1634
1635         Also modernized the code to use const & let instead of var.
1636
1637         * public/v3/main.js:
1638         (main):
1639
1640 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1641
1642         Perf dashboard's page title can be set to a previously visited page
1643         https://bugs.webkit.org/show_bug.cgi?id=182209
1644
1645         Rubber-stamped by Chris Dumez.
1646
1647         Before this patch, opening a page and navigating away from it could result in the page title
1648         getting set to that of the previously visited page after the new page had been opened.
1649
1650         This bug was caused by Page.render keep setting document.title even though the page is no longer
1651         the currently open page of the router. Fixed it by exiting early in Page.enqueueToRender when
1652         this page is not the currently open page of the router.
1653
1654         Also added basic tests for Page.
1655
1656         * browser-tests/index.html:
1657         * browser-tests/page-tests.js: Added.
1658         * public/v3/pages/page.js:
1659         (Page): Removed the unused second constructor argument.
1660         (Page.prototype.enqueueToRender): Fixed the bug.
1661         (Page.prototype.render): Use const instead of var.
1662
1663 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1664
1665         CommitLogViewer should not fetch commits in serial
1666         https://bugs.webkit.org/show_bug.cgi?id=182207
1667
1668         Rubber-stamped by Chris Dumez.
1669
1670         Fetch both the commits in the range as well as the preceding commit at once instead of
1671         fetching the preceding commit only after the commits in the range had been fetched.
1672
1673         * browser-tests/commit-log-viewer-tests.js: Fixed the tcoest case after r224227.
1674         * public/v3/components/commit-log-viewer.js:
1675         (CommitLogViewer.prototype._fetchCommitLogs): Fetch commits in parallel.
1676
1677 2018-01-24  Dewei Zhu  <dewei_zhu@apple.com>
1678
1679         Check existence of 'node_modules_dir' before creating it.
1680         https://bugs.webkit.org/show_bug.cgi?id=182040
1681
1682         Reviewed by Aakash Jain.
1683
1684         Fix the bug introduced in r227395.
1685
1686         * tools/run-tests.py: Added directory existence check.
1687
1688 2018-01-22  Dewei Zhu  <dewei_zhu@apple.com>
1689
1690         Fix the bug that 'TestGroupResultsViewer' creates unnecessary rows.
1691         https://bugs.webkit.org/show_bug.cgi?id=181967
1692
1693         Reviewed by Ryosuke Niwa.
1694
1695         Fixed a bug caused by a typo in CommitSet.equals, which makes it returns incorrect results for most
1696         comparison between a CommitSet and a MeasurementCommitSet.
1697
1698         MeasurementCommitSet does not have full information for the commits, thus, it cannot build mappings
1699         between root/patch/owner commit/requires build to repository. When querying whether a given repository
1700         needs to be built, MeasurementCommitSet will return undefined. Due to 'undefined != false', this
1701         equality check will fail. Making 'CommitSet.requiresBuildForRepository' defaults to 'false' would fix
1702         this bug.
1703
1704         * public/v3/models/commit-set.js:
1705         (CommitSet.prototype.requiresBuildForRepository): Make it return false when key does not exist
1706         instead of 'undefined'.
1707         (CommitSet.prototype.equals): Fixed the typo that causes the bug.
1708         Use wrapped functions instead of querying the mapping directly.
1709         * unit-tests/commit-set-tests.js: Added unit tests.
1710
1711 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
1712
1713         'run-test.py' script should make sure 'node_modules' directory exists before installing node packages.
1714         https://bugs.webkit.org/show_bug.cgi?id=181808
1715
1716         Reviewed by Ryosuke Niwa.
1717
1718         'run-test.py' will fail if 'node_modules' does not exist before running this script.
1719         Instead of calling 'os.chdir' to change directory, use 'cwd' in subprocess instead.
1720
1721         * tools/run-tests.py: Added the logic to ensure 'node_modules' exists.
1722         Also use 'cwd' in subprocess.call instead of calling 'os.chdir' ahead.
1723
1724 2018-01-20  Dewei Zhu  <dewei_zhu@apple.com>
1725
1726         Extend 'ifBuilt' config key to set property based on whether certain repositories are built or not.
1727         https://bugs.webkit.org/show_bug.cgi?id=181906
1728
1729         Reviewed by Ryosuke Niwa.
1730
1731         Before this change, 'ifBuilt' will always set specified property for test properties as long as there
1732         is a build type build in the same build request group. However, this is no longer valid as we don't
1733         want to set specified property for testing when only owned commit is built in previous build.
1734         'ifBuilt' needs to conditionally set property based on whether certain required repositories are built.
1735         Empty required repository list means no requirement on repository to set property.
1736
1737         * tools/js/buildbot-syncer.js:
1738         (BuildbotSyncer.prototype._propertiesForBuildRequest):In the case of 'built', only set property when
1739         repository requirment is meet and there is a 'build' root request in the same build request group.
1740         (BuildbotSyncer._parseRepositoryGroup): Extend 'ifBuild' to pass information based on contition.
1741         * unit-tests/buildbot-syncer-tests.js: Added unit tests.
1742
1743 2018-01-19  Dewei Zhu  <dewei_zhu@apple.com>
1744
1745         Should reject updating a build request which has an associated build.
1746         https://bugs.webkit.org/show_bug.cgi?id=181893
1747
1748         Reviewed by Ryosuke Niwa.
1749
1750         Current code does not prevent submitting to same build request multiple times.
1751         This could lead to a build losing its associated build request.
1752         As a result, this build will be visible in charts which is not right.
1753         Added a check when a build request is reported.
1754         Addressed a 'FIXME' for the race condition inside ReportProcessor->resolve_build_id by surrounding
1755         it with a database transaction.
1756
1757         * public/include/report-processor.php:
1758         Wrap adding platform and resolve_build_id with a database transaction.
1759         Add a check to make sure only a build request has no associated build can be updated.
1760         * server-tests/api-report-tests.js: Added unit tests accordingly.
1761
1762 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
1763
1764         Should allow updating a build-request to 'canceled'.
1765         https://bugs.webkit.org/show_bug.cgi?id=181819
1766
1767         Reviewed by Ryosuke Niwa.
1768
1769         It's possible syncing script update a build-request to 'canceled' state.
1770
1771         * public/api/build-requests.php: Added 'canceled' as an acceptable update state.
1772         * server-tests/api-build-requests-tests.js: Added a unit test to update a build-request to 'canceled'.
1773
1774 2018-01-18  Aakash Jain  <aakash_jain@apple.com>
1775
1776         Add support for builderNameToIDMap in BuildbotSyncer
1777         https://bugs.webkit.org/show_bug.cgi?id=176526
1778
1779         Reviewed by Ryosuke Niwa.
1780
1781         * tools/js/buildbot-syncer.js:
1782         (BuildbotSyncer._loadConfig): Added builderNameToIDMap parameter. It would be used later on.
1783         (BuildbotSyncer._resolveBuildersWithPlatforms): Ditto.
1784         (BuildbotSyncer._validateAndMergeConfig): Added builderID as a valid config parameter.
1785         * tools/js/buildbot-triggerable.js:
1786         (BuildbotTriggerable.prototype.getBuilderNameToIDMap): Method to fetch BuilderNameToIDMap from Buildbot 0.9.
1787         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Method to fetch BuilderNameToIDMap from Buildbot 0.8.
1788         (BuildbotTriggerable.prototype.initSyncers): Updated to use getBuilderNameToIDMap.
1789         * unit-tests/buildbot-syncer-tests.js: Updated unit-tests.
1790         * server-tests/resources/mock-data.js:
1791         (MockData.buildbotBuildersURLDeprecated): URL for fetching Builders list.
1792         (MockData.buildbotBuildersURL): Ditto for Buildbot 0.9
1793         (MockData.mockBuildbotBuildersDeprecated): Sample builders data for Buildbot 0.8
1794         (MockData.mockBuildbotBuilders): Ditto for Buildbot 0.9
1795         * server-tests/tools-buildbot-triggerable-tests.js: Added test for getBuilderNameToIDMap. Updated tests to handle
1796         newly added promise for fetching builders list from Buildbot.
1797         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
1798
1799 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
1800
1801         Charts can be empty when values are all identical
1802         https://bugs.webkit.org/show_bug.cgi?id=181828
1803
1804         Reviewed by Alexey Proskuryakov.
1805
1806         Fixed the bug that when SampleVarianceUpperTriangularMatrix can store -Infinity as the initial cost
1807         of some entries when the sample standard deviation between two points turns out to be 0,
1808         and cause splitIntoSegmentsUntilGoodEnough to return undefiend because no segmentation has a finite cost.
1809
1810         Also fixed the bug that the time series chart fails to show any data points when all data points have
1811         identical values as the entire y-coordinate gets collapsed to an empty value range by adjusting the max value
1812         when min & max values are identical.
1813
1814         * public/v3/components/time-series-chart.js:
1815         (TimeSeriesChart.prototype._ensureValueRangeCache): Raise the max slightly when min & max are identical
1816         to avoid the chart becoming empty. Otherwise valueDiff in _computeVerticalRenderingMetrics becomes 0
1817         and value-to-y-coordinate conversion always results in NaN.
1818         * public/shared/statistics.js:
1819         (Statistics..SampleVarianceUpperTriangularMatrix):
1820         * unit-tests/statistics-tests.js: Added a test case.
1821
1822 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
1823
1824         Don't fetch more than two builds to check duplicity of builds in ReportProcessor
1825         https://bugs.webkit.org/show_bug.cgi?id=181786
1826
1827         Reviewed by Wenson Hsieh.
1828
1829         Limit the number of builds to check to avoid using a lot of memory with a long delay.
1830
1831         * public/include/report-processor.php:
1832         (ReportProcessor::resolve_build_id): 
1833
1834 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
1835
1836         Rename config.json to config.json.sample
1837         https://bugs.webkit.org/show_bug.cgi?id=181785
1838
1839         Reviewed by Wenson Hsieh.
1840
1841         * .gitignore: Added config.json.
1842         * ReadMe.md: Updated the instruction.
1843         * config.json.sample: Renamed from config.json.
1844
1845 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
1846
1847         Unreviewed build fixes in TestGroupResultsViewer.
1848
1849         * public/v3/components/test-group-results-viewer.js:
1850         (TestGroupResultsViewer.prototype.render): _renderCurrentMetricsLazily was never called.
1851         (TestGroupResultsViewer.prototype._buildRowForMetric): Don't try to render null or NaN.
1852
1853 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
1854
1855         Fix perf dashboard tests for node v8
1856         https://bugs.webkit.org/show_bug.cgi?id=181782
1857
1858         Reviewed by Wenson Hsieh.
1859
1860         Fixed the various tests for node.js v8, which is the latest LTS version.
1861
1862         * server-tests/api-manifest-tests.js: Replaced the missing Triggerable.acceptsTest by Triggerable.acceptedTests
1863         after r226836.
1864         * server-tests/api-measurement-set-tests.js: Added "Z" to the end timestamps to force UTF timezone now that Date
1865         in node.js parses using the local timezone by default.
1866         * server-tests/resources/test-server.js:
1867         (TestServer.prototype._restoreDataDirectory): Fixed the bug that this function was erroneously using the async
1868         function to rename a directory per new warnings. This code was racy, and it used to cause a test error occasionally.
1869         * server-tests/tools-os-build-fetcher-tests.js: Fixed the assertions to make it work in the latest node.js.
1870         * unit-tests/measurement-set-tests.js:
1871         (waitForMeasurementSet): Wait for setTimeout to cycle through all microtasks instead of just two microtask cycles.
1872
1873 2018-01-11  Ryosuke Niwa  <rniwa@webkit.org>
1874
1875         Cannot trigger Dromaeo tests on internal perf try bots
1876         https://bugs.webkit.org/show_bug.cgi?id=179712
1877
1878         Reviewed by Chris Dumez.
1879
1880         The bug was caused by CustomAnalysisTaskConfigurator only showing the top-level tests that are triggerable
1881         instead of the list of highest level tests that are triggerable.
1882
1883         * public/v3/components/custom-analysis-task-configurator.js:
1884         (CustomAnalysisTaskConfigurator.prototype.selectTests): Update the test group name when a new test is picked.
1885         (CustomAnalysisTaskConfigurator.prototype.selectPlatform):
1886         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Extracted from selectPlatform.
1887         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Include the list of all highest-level tests
1888         which are triggerable.
1889         (CustomAnalysisTaskConfigurator.prototype._renderRadioButtonList): Added labelForObject which returns the label
1890         to be used in the list items. For tests, we want to use the full name, not just its label.
1891         * public/v3/models/analysis-task.js:
1892         (AnalysisTask.fetchById):
1893         * public/v3/models/triggerable.js:
1894         (Triggerable.prototype.acceptedTests): Added.
1895         (Triggerable.prototype.acceptsTest): Deleted.
1896
1897 == Rolled over to ChangeLog-2018-01-01 ==