Analysis task page should show build request author and creation time.
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2019-07-30  Dewei Zhu  <dewei_zhu@apple.com>
2
3         Analysis task page should show build request author and creation time.
4         https://bugs.webkit.org/show_bug.cgi?id=200274
5
6         Reviewed by Ryosuke Niwa.
7
8         Author and creation time of a build request should be visible in analysis task page.
9
10         * public/v3/pages/analysis-task-page.js: Added UI to show build request creation time and author.
11         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup):
12
13 2019-07-29  Dewei Zhu  <dewei_zhu@apple.com>
14
15         Should not render latest build information if there is no data points for a config.
16         https://bugs.webkit.org/show_bug.cgi?id=200250
17
18         Reviewed by Ryosuke Niwa.
19
20         Fix a bug test freshness page that tooltip cannot be rendered when a cell does not have
21         a data point.
22
23         * public/v3/pages/test-freshness-page.js: Added a null check on commit set before rendering
24         latest build informaiton.
25         (TestFreshnessPage.prototype._renderTooltip):
26
27 2019-07-25  Dewei Zhu  <dewei_zhu@apple.com>
28
29         Fix a bug that cannot update builder password on builders administrative page.
30         https://bugs.webkit.org/show_bug.cgi?id=200154
31
32         Reviewed by Ryosuke Niwa.
33
34         'builders' administrative page should be able to update password for a builder.
35
36         * public/admin/builders.php: Should be able to update builder password.
37
38 2019-07-23  Dewei Zhu  <dewei_zhu@apple.com>
39
40         Use 12 digits to show a git commit.
41         https://bugs.webkit.org/show_bug.cgi?id=200067
42
43         Reviewed by Ryosuke Niwa.
44
45         Use 12 digits to show a git commit to reasonably descrease commit prefix collision probability
46         for repository with large amount of commits.
47
48         * public/v3/models/commit-log.js: Increase digits from 8 to 12 for git SHA.
49         (CommitLog.prototype.label):
50         (CommitLog.prototype.diff):
51         * unit-tests/commit-log-tests.js: Updated unit tests.
52         * unit-tests/commit-set-tests.js: Updated unit tests.
53
54 2019-07-03  Dewei Zhu  <dewei_zhu@apple.com>
55
56         Test freshness page should expose revision information for latest build on tooltip.
57         https://bugs.webkit.org/show_bug.cgi?id=199483
58
59         Reviewed by Ryosuke Niwa.
60
61         Added latest build revision information on test freshness page tooltip.
62
63         * public/v3/pages/test-freshness-page.js: Add build revision information on tooltip.
64         (TestFreshnessPage.prototype.didConstructShadowTree):
65         (TestFreshnessPage.prototype._fetchTestResults):
66         (TestFreshnessPage.prototype.render):
67         (TestFreshnessPage.prototype._renderTooltip):
68         (TestFreshnessPage.cssTemplate):
69
70 2019-06-26  Dewei Zhu  <dewei_zhu@apple.com>
71
72         commit api should not return 'AmbiguousRevisionPrefix' if there is an exact revision match
73         https://bugs.webkit.org/show_bug.cgi?id=199227
74
75         Reviewed by Ryosuke Niwa.
76
77         When prefix match is specified, api should check whether there is an exact match when multiple commits
78         match the prefix.
79
80         * public/include/commit-log-fetcher.php: Added the logic to check if there is an exact match when multiple matches are found.
81         * server-tests/api-commits-tests.js: Added an unit test.
82
83 2019-06-24  Dean Johnson  <dean_johnson@apple.com>
84
85         [perf.webkit.org] Update summary page calculations to use mean instead of median
86         https://bugs.webkit.org/show_bug.cgi?id=199050
87
88         Reviewed by Dewei Zhu.
89
90         * public/v3/pages/summary-page.js:
91         (SummaryPageConfigurationGroup): Updated 'median' references to 'mean'.
92         (SummaryPageConfigurationGroup.set _startAndEndPointForTimeRange): Factored out logic for finding data
93         points in a timeSeries, within a specified timeRange.
94         (SummaryPageConfigurationGroup.set _meanForTimeRange): New. Returns the mean of a timeSeries across a
95         given timeRange.
96
97 2019-06-20  Dewei Zhu  <dewei_zhu@apple.com>
98
99         Fix a bug that 'test_metrics' and 'tests' tables are not joined correctly in CommitLogFetcher.fetch_latest_for_platform
100         https://bugs.webkit.org/show_bug.cgi?id=199062
101
102         Reviewed by Ryosuke Niwa.
103
104         'test_metrics' and 'tests' should be joined based on 'metric_test' and 'test_id'.
105
106         * public/include/commit-log-fetcher.php: Fix the typo in the query.
107         * server-tests/api-commits-tests.js: Added a unit test for this change.
108
109 2019-06-17  Dewei Zhu  <dewei_zhu@apple.com>
110
111         Customizable test group form should allow user to supply a revision prefix of a commit and revision starts with 'r'.
112         https://bugs.webkit.org/show_bug.cgi?id=198940
113
114         Reviewed by Ryosuke Niwa.
115
116         Customizable test group form should adapt prefix matching when fetching for a commit.
117
118         * browser-tests/customizable-test-group-form-tests.js: Updated and added unit tests.
119         * public/v3/components/customizable-test-group-form.js: Removed loggings those a unintentionally committed.
120         * public/v3/models/commit-set.js: Adapted prefix matching API when fetching a commit.
121         (IntermediateCommitSet.prototype._fetchCommitLogAndOwnedCommits):
122         * unit-tests/commit-set-tests.js: Updated unit tests accordingly.
123
124 2019-06-13  Dewei Zhu  <dewei_zhu@apple.com>
125
126         Custom analysis task configurator should allow supplying commit prefix and revision starts 'r'.
127         https://bugs.webkit.org/show_bug.cgi?id=198847
128
129         Reviewed by Ryosuke Niwa.
130
131         Custom analysis task configurator should not require full SHA to start an A/B test.
132         Custom analysis task configurator should accept svn revision starts with 'r'.
133
134         * browser-tests/custom-analysis-task-configurator-tests.js: Added a unit test for this change.
135         * public/api/commits.php: Extend this API to allow prefix matching when fethcing a single commit.
136         * public/include/commit-log-fetcher.php: Added a function to fetch a commit with prefix.
137         * public/v3/components/custom-analysis-task-configurator.js: Add UI support for accepting partial revision.
138         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet):
139         (CustomAnalysisTaskConfigurator.prototype.async._resolveRevision):
140         (CustomAnalysisTaskConfigurator.prototype._buildTestabilityList):
141         * public/v3/models/commit-log.js:
142         (CommitLog.async.fetchForSingleRevision): Added third argument to specify prefix matching which defaults to false.
143         * server-tests/api-commits-tests.js: Added unit tests.
144         * unit-tests/commit-log-tests.js: Added a unit test.
145
146 2019-05-15  Dewei Zhu  <dewei_zhu@apple.com>
147
148         Perf dashboard erroneously rejects a build request to build owned components when there are no patches.
149         https://bugs.webkit.org/show_bug.cgi?id=197928
150
151         Reviewed by Ryosuke Niwa.
152
153         Fix a bug that build type build request that only builds owned components failed to pass sanity check when there
154         is no repository accepts patch in triggerable repository group.
155         Add a sanity check to throw an error when build request type is build but there is no repository group template.
156
157         * tools/js/buildbot-syncer.js:
158         (BuildbotSyncer.prototype._propertiesForBuildRequest): Changed sanity check the always requires repository accepts patch when there is a build to make it also works for build request only builds owned components.
159         (BuildbotSyncer._parseRepositoryGroup): Added check for repository group templates not null  when build requiest type is build.
160         * unit-tests/buildbot-syncer-tests.js: Added unit tests for this change.
161         * unit-tests/resources/mock-v3-models.js: Added mock date for unit tests.
162
163 2019-05-14  Dewei Zhu  <dewei_zhu@apple.com>
164
165         Pruning old file logic should not stop after removing 10 files if there are more files to be removed.
166         https://bugs.webkit.org/show_bug.cgi?id=197870
167
168         Reviewed by Ryosuke Niwa.
169
170         Pruning old file logic should keep removing removable files to make enough space for a new file upload.
171         It should only attempt to remve the files that have not been removed.
172
173         * public/include/uploaded-file-helpers.php: Modified 'prune_old_files' to allow to remove more than 10 files.
174         Fixed a bug that a removed file keep getting removed but never free up new space.
175         * server-tests/privileged-api-upload-file-tests.js:
176         (makeRandomAlnumStringForLength): Helper function to generate random content for a given length.
177         * server-tests/resources/test-server.js: Update total file size limit for this change.
178         (TestServer.prototype.testConfig):
179
180 2019-03-25  Dewei Zhu  <dewei_zhu@apple.com>
181
182         Primary cluster of measurement set should always contain latest point.
183         https://bugs.webkit.org/show_bug.cgi?id=196243
184
185         Reviewed by Ryosuke Niwa.
186
187         Fix a bug in measurement-set api that primary cluster may not contain latest data point as
188         'carry_over' row may not be updated.
189
190         * public/api/measurement-set.php: Should always keep 'carry_over' data points up to date.
191         * server-tests/api-measurement-set-tests.js: Added an unit test for this change.
192         Fixed a typo.
193
194 2019-03-21  Dewei Zhu  <dewei_zhu@apple.com>
195
196         'custom-configuration-test-group-form' should update test name when selected test or platform changes.
197         https://bugs.webkit.org/show_bug.cgi?id=196114
198
199         Reviewed by Ryosuke Niwa.
200
201         r240104 fixes commit sets unnecessarily get updated even there is no change.
202         However, this made changing test or platform no longer triggers 'commitSetChange' action.
203         Test name should change not only when 'commitSet' gets change, but also platform or test changes.
204         Renaming the action name from 'commitSetChange' to a more accurate description 'testConfigChange'.
205         Dispatch 'testConfigChange' when platform or test changes.
206
207         * browser-tests/custom-analysis-task-configurator-tests.js: Changed action name to 'commitSetChange'.
208         * public/v3/components/custom-analysis-task-configurator.js:
209         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Should dispatch 'commitSetChange' action.
210         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Changed action name to 'commitSetChange'.
211         * public/v3/components/custom-configuration-test-group-form.js: Added a unit test for this change.
212         (CustomConfigurationTestGroupForm.prototype.didConstructShadowTree):
213
214 2019-03-18  Dewei Zhu  <dewei_zhu@apple.com>
215
216         Fix a bug from r226303 that latest build time is not correctly calculated.
217         https://bugs.webkit.org/show_bug.cgi?id=195912
218
219         Reviewed by Ryosuke Niwa.
220
221         Time series is ordered by revision time which does not grantee the build time is
222         monotonically increasing.
223
224         * public/v3/pages/test-freshness-page.js: Use the latest build time instead of the build time of
225         last point on the chart.
226
227 2019-03-13  Dewei Zhu  <dewei_zhu@apple.com>
228
229         Test freshness page should improve the ability to correlating issues from same builder.
230         https://bugs.webkit.org/show_bug.cgi?id=195242
231
232         Reviewed by Ryosuke Niwa.
233
234         Added the ability to highlight indicators with same builder when mouse is hovering over one indicator.
235         This is a very useful visualization for correlating issues specific to a builder.
236         Added tooltip with latest build link when hovering over an indicator.
237
238         * public/v3/components/freshness-indicator.js:
239         (FreshnessIndicator): Removed 'summary' field as it's no longer needed.
240         Added 'highlighted' field.
241         (FreshnessIndicator.prototype.update): Added 'highlighted' argument.
242         (FreshnessIndicator.prototype.didConstructShadowTree): Make indicator to dispatch mouse enter and leave
243         messages so that UI can highlight corresponding cells.
244         (FreshnessIndicator.prototype.render):
245         (FreshnessIndicator.cssTemplate):
246         * public/v3/pages/test-freshness-page.js: Added tooltip to show latest build time and build link.
247         Added logic to manually compute table body height.
248         (TestFreshnessPage):
249         (TestFreshnessPage.prototype.didConstructShadowTree):
250         (TestFreshnessPage.prototype._fetchTestResults):
251         (TestFreshnessPage.prototype.render):
252         (TestFreshnessPage.prototype._renderTooltip):
253         (TestFreshnessPage.prototype._constructTableCell):
254         (TestFreshnessPage.cssTemplate):
255
256 2019-02-26  Dewei Zhu  <dewei_zhu@apple.com>
257
258         The table head of test freshness page should not scroll with the page.
259         https://bugs.webkit.org/show_bug.cgi?id=195092
260
261         Reviewed by Ryosuke Niwa.
262
263         Fix the location of the freshness table head to make it easier to corelate cell with test.
264
265         * public/v3/pages/test-freshness-page.js: Changed some style rules to make the table head fixed.
266         (TestFreshnessPage.prototype._renderTable):
267         (TestFreshnessPage.cssTemplate):
268
269 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
270
271         Analyzing a chart that does not exist should not halt whole run-analysis script.
272         https://bugs.webkit.org/show_bug.cgi?id=193563
273
274         Reviewed by Ryosuke Niwa.
275
276         Halting whole run-analysis script while there is any invalid chart specified in Manifest makes the script fragile.
277         Run-analysis is also responsible for adding retry and sending notification which should not be block by this error.
278         Skipping analyzing the corresponding configuration seems reasonable.
279
280         * public/v3/models/measurement-set.js:
281         (MeasurementSet.prototype._ensureClusterPromise): Only add callback when callback is specified.
282         This will help to fix 'UnhandledPromiseRejectionWarning' while running the test.
283         * tools/js/measurement-set-analyzer.js:
284         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Catch the exception while failing to fetch a measurement set and skip the analysis for this config.
285         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for this.
286
287 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
288
289         Updating commit in OSBuildFetcher should respect revision range in config.
290         https://bugs.webkit.org/show_bug.cgi?id=193558
291
292         Reviewed by Ryosuke Niwa.
293
294         OSBuildFetcher._fetchAvailableBuilds should filter out commits those are not in
295         revision range specified by cofnig.
296
297         * server-tests/tools-os-build-fetcher-tests.js: Added a unit test for this change.
298         * tools/js/os-build-fetcher.js:
299         (prototype.async._fetchAvailableBuilds): Filter out commits from update list if commit
300         revision is out of range.
301
302 2018-12-31  Dewei Zhu  <dewei_zhu@apple.com>
303
304         Test group results notification should not say a build request to build had failed even when it had successfully completed.
305         https://bugs.webkit.org/show_bug.cgi?id=193064
306
307         Reviewed by Ryosuke Niwa.
308
309         Should show 'Build completed' or 'Build failed' for build type build requests.
310
311         * browser-tests/test-group-result-page-tests.js: Added a unit test to guard this bug.
312         * tools/js/test-group-result-page.js: Show 'Build completed' or 'Build failed' for build type build requests.
313
314 2018-12-21  Dewei Zhu  <dewei_zhu@apple.com>
315
316         Add UI in analysis task page to show commit testability information.
317         https://bugs.webkit.org/show_bug.cgi?id=192972
318
319         Reviewed by Ryosuke Niwa.
320
321         Add UI in custom analysis task configuration and customizable test group form to show testability information.
322         Fix a bug in 'CustomAnalysisTaskConfigurator._updateCommitSetMap' that 'currentComparison' is incorrectly set.
323         SQL to update existing database:
324             ALTER TABLE commits ADD COLUMN IF NOT EXISTS commit_testability varchar(128) DEFAULT NULL;
325
326         * browser-tests/custom-analysis-task-configurator-tests.js: Added a unit test for the bug in
327         'CustomAnalysisTaskConfigurator._updateCommitSetMap'.
328         Added a unit test to make sure 'CustomAnalysisTaskConfigurator' still works when commit fetching never returns.
329         * browser-tests/index.html: Imported ''custom-analysis-task-configurator-tests.js'.
330         * init-database.sql: Increase 'commit_testability' field length from 64 characters to 128.
331         * public/v3/components/custom-analysis-task-configurator.js: Added UI to show testability information.
332         (CustomAnalysisTaskConfigurator):
333         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Should reset related field for corresponding
334         repositories that user does not specify revision.
335         (CustomAnalysisTaskConfigurator.prototype._updateMapFromSpecifiedRevisionsForConfiguration): A helper function
336         to update '_specifiedCommits' and '_invalidRevisionsByConfiguration' per '_specifiedRevisions'.
337         (CustomAnalysisTaskConfigurator.prototype.render):
338         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Fixed a bug that 'currentComparison' is incorrectly set.
339         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet):
340         (CustomAnalysisTaskConfigurator.prototype.async._fetchCommitsForConfiguration):
341         (CustomAnalysisTaskConfigurator.prototype.async._resolveRevision):
342         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable):
343         (CustomAnalysisTaskConfigurator.prototype._buildTestabilityList):
344         (CustomAnalysisTaskConfigurator.prototype._selectRepositoryGroup):
345         (CustomAnalysisTaskConfigurator.prototype._buildRevisionInput):
346         (CustomAnalysisTaskConfigurator.cssTemplate):
347         * public/v3/components/customizable-test-group-form.js: Added UI to show testability information.
348         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
349         (CustomizableTestGroupForm.prototype._constructTestabilityRows.):
350         (CustomizableTestGroupForm.prototype._constructTestabilityRows):
351         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
352         Changing either revision editor or radio button should trigger a re-render as testability
353         information for updated revision may change.
354         (CustomizableTestGroupForm.cssTemplate):
355         * public/v3/models/commit-set.js:
356         (IntermediateCommitSet.prototype.commitsWithTestability): Renamed from 'commitsWithTestabilityWarnings'.
357         (IntermediateCommitSet.prototype.commitsWithTestabilityWarnings): Deleted.
358
359 2018-12-14  Dewei Zhu  <dewei_zhu@apple.com>
360
361         Extend commits table to contain testability information.
362         https://bugs.webkit.org/show_bug.cgi?id=191557
363
364         Reviewed by Ryosuke Niwa.
365
366         Added the ability to store testability message in commits table.
367         Refactored '/api/report-commits' to support updating commit only.
368         Updated os version syncing script to be able to update testability information.
369
370         * init-database.sql: Added 'commit_testability' field to 'commits' table.
371         * public/api/report-commits.php: Refactor this api to allow only update existing commits.
372         * public/include/commit-log-fetcher.php: Expose testability warning information in this API.
373         * public/include/commit-updater.php: Added 'CommitUpdater' to manage commit insert and update.
374         * public/v3/models/commit-log.js: CommitLog object should expose testability warning information.
375         (CommitLog.prototype.updateSingleton):
376         (CommitLog.prototype.testability):
377         * public/v3/models/commit-set.js: Added 'commitsWithTestability' and 'commits' to CommitSet and
378         IntermediateCommitSet instances.
379         (CommitSet.prototype.commitsWithTestability):
380         (CommitSet.prototype.commits):
381         (IntermediateCommitSet.prototype.commitsWithTestability):
382         (IntermediateCommitSet.prototype.commits):
383         * server-tests/api-report-commits-tests.js: Added unit tests for '/api/report-commits' when `insert=false`.
384         * server-tests/tools-os-build-fetcher-tests.js: Added and updated unit tests.
385         * tools/js/os-build-fetcher.js: Added the ability to update commit testability warnings.
386         (async.fetchReportAndUpdateCommits):
387         (prototype.async.fetchReportAndUpdateBuilds):
388         (prototype.async._fetchAvailableBuilds):
389         (prototype.async._commitsForAvailableBuilds):
390         (prototype._commitsWithinRange):
391         (prototype.async._reportCommits):
392         (fetchAndReportAllInOrder): Deleted.
393         (prototype.fetchAndReportNewBuilds): Deleted.
394         (prototype._fetchAvailableBuilds): Deleted.
395         (prototype._commitsForAvailableBuilds): Deleted.
396         (prototype._submitCommits): Deleted.
397         * tools/sync-os-versions.js:
398         * unit-tests/commit-log-tests.js: Added a unit test for 'testability'.
399         * unit-tests/commit-set-tests.js: Added unit tests for 'commitsWithTestability'.
400
401 2018-11-16  Ryosuke Niwa  <rniwa@webkit.org>
402
403         Manifest file can contain a test metric which references a non-existent test
404         https://bugs.webkit.org/show_bug.cgi?id=191796
405
406         Reviewed by Dewei Zhu.
407
408         The bug was caused by a race condition between the manifest file fetching the list of tests and test metrics
409         and new tests and test metrics being added. Because we would fetch tests before test metrics, it was possible
410         for new test metrics which references a test not included in the fetched tests to be present in the test metrics.
411
412         Fixed the bug by changing the order of the queries so that test metrics are fetched before tests. This guarantees
413         that any test referenced by a test metric always exists and thefore included in the manifest file.
414
415         Unfortunately no new tests beucase this involes a race condition.
416
417         * public/include/manifest-generator.php:
418
419 2018-11-13  Dewei Zhu  <dewei_zhu@apple.com>
420
421         Add cache for CommitLog objects to avoid refetching same commit.
422         https://bugs.webkit.org/show_bug.cgi?id=191621
423
424         Reviewed by Ryosuke Niwa.
425
426         Added a cache for fully fetched commit log objects to avoid refetching.
427
428         * public/v3/models/commit-log.js:
429         (CommitLog): Added assertion for id.
430         Removed unused 'remoteId' as it has been removed since r198479.
431         (CommitLog.async.fetchBetweenRevisions): Turned it into async function.
432         (CommitLog.async.fetchForSingleRevision): Added the logic to check cache before fetching.
433         (CommitLog._constructFromRawData): Added logic to add entries to cache.
434         * public/v3/models/repository.js: Added the ability to track fetched commit for certain repository.
435         (Repository.commitForRevision): Fixed measurement set not passing commit id while constructing a
436         commit log object.
437         (Repository.setCommitForRevision): Sets commit for a given revision.
438         * public/v3/models/commit-set.js: Fixed unit tests.
439         * unit-tests/commit-log-tests.js: Added unit tests for this change.
440         Fixed existing tests.
441         * unit-tests/commit-set-range-bisector-tests.js: Fixed unit tests.
442         * unit-tests/commit-set-tests.js: Fixed unit tests.
443
444 2018-11-08  Dewei Zhu  <dewei_zhu@apple.com>
445
446         commit time returned by '/api/measurement-set' should match the one returned by '/api/commits'.
447         https://bugs.webkit.org/show_bug.cgi?id=191457
448
449         Reviewed by Dean Jackson and Ryosuke Niwa.
450
451         Commit time returned by '/api/measurement-set' sometimes is calculated by 'epoch from ..'.
452         This function may return a floating number with 5 or 6 decimal digits due to double precision limitations.
453         However, some commits may be reported with 6 decimal decimal.
454         So the commit time for those commits will sometime be rounded to 5 decimal digits.
455         In order to avoid front end assertion failure in CommitLog, Database::to_js_time need to round to 5 digits.
456
457         * public/include/db.php: Change the behavior to match that of postgres.
458         Added logic to avoid losing precision in php.
459         * server-tests/api-measurement-set-tests.js: Added unit tests for this bug.
460         (queryPlatformAndMetric): Fix a bug that arguments are not used at all.
461
462 2018-11-07  Dewei Zhu  <dewei_zhu@apple.com>
463
464         "/api/report" does not check commit time correctly.
465         https://bugs.webkit.org/show_bug.cgi?id=191351
466
467         Reviewed by Ryosuke Niwa.
468
469         Test result report API does not convert formated time string to timestamp correctly
470         which result in not checking commit time correctly.
471
472         * public/include/report-processor.php: Use 'strtotime' instead of 'floatval'.
473         Accepts the time delta within 1 seconds.
474         * server-tests/api-report-tests.js: Added unit tests.
475         (reportWitMismatchingCommitTime):
476         (reportWithOneSecondCommitTimeDifference):
477
478 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
479
480         Custom test group form should use commit set map before customization as the behavior of radio buttons.
481         https://bugs.webkit.org/show_bug.cgi?id=191347
482
483         Reviewed by Ryosuke Niwa.
484
485         The radio button behavior should always set the same revision while editing the revision input.
486         That means we should not use the intermediate commit set map but use the commit set map before
487         "Customize" link is clicked.
488
489         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
490         * public/v3/components/customizable-test-group-form.js: Pass uncustomized commit set so that the radio button
491         behavoir preserves.
492         (CustomizableTestGroupForm):
493         (CustomizableTestGroupForm.prototype.setCommitSetMap):
494         (CustomizableTestGroupForm.prototype.didConstructShadowTree):
495         (CustomizableTestGroupForm.prototype.render):
496         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
497         (CustomizableTestGroupForm.prototype._constructTableBodyList):
498         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
499         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
500         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
501
502 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
503
504         Customizable test group form should not reset manually edited commit value sometimes.
505         https://bugs.webkit.org/show_bug.cgi?id=190863
506
507         Reviewed by Ryosuke Niwa.
508
509         After changing the radio button and manually editing the commit value, commit value should not be reset
510         while changing the name of the test group.
511         Add the logic to prompt warning when manually typed commit does not exist.
512
513         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
514         * browser-tests/index.html:
515         * public/v3/components/customizable-test-group-form.js: Should always update commit set as long as
516         the repository of that row does not have a owner repository.
517         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
518         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
519         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
520
521 2018-10-16  Dewei Zhu  <dewei_zhu@apple.com>
522
523         Unreviewed, rolling out r236996.
524
525         Temporarily rollout to fix a manifest generation bug.
526         "lastModified" field for certain platform & metric configurations may be missing.
527
528         Reverted changeset:
529
530         "ManifestGenerator shouldn't need more than 1GB of memory or
531         run for 30 seconds"
532         https://bugs.webkit.org/show_bug.cgi?id=190393
533         https://trac.webkit.org/changeset/236996
534
535 2018-10-12  Ryosuke Niwa  <rniwa@webkit.org>
536
537         Perf dashboard: add a test for aggregating subtests without a matching metric in /api/report
538         https://bugs.webkit.org/show_bug.cgi?id=190544
539
540         Rubber-stamped by Keith Miller and unofficially reviewed by Dewei Zhu.
541
542         Added tests for reporting results to /api/report where a test with aggregated metrics has a subtest
543         without a matching metric type. The aggregation should simply skip such a subtest instead of returning
544         an error or aggregating with a mismatching metric type.
545
546         * server-tests/api-report-tests.js:
547         (.makeReport): Extracted out of a test case.
548
549 2018-10-11  Ryosuke Niwa  <rniwa@webkit.org>
550
551         Build fix after r236956. Use array_get to avoid warnings.
552
553         * public/include/report-processor.php:
554
555 2018-10-09  Dewei Zhu  <dewei_zhu@apple.com>
556
557         Performance dashboard should show added iterations due failed build requests.
558         https://bugs.webkit.org/show_bug.cgi?id=190419
559
560         Reviewed by Ryosuke Niwa.
561
562         Added UI to show added build requests due to previous failed build requests.
563         Updated the retry/bisect button to default to initial repetition count when test group is created.
564
565         * public/v3/pages/analysis-task-page.js: Added a div to show added build requests.
566         Retry and bisect button should default to initial repetion count.
567         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup):
568         (AnalysisTaskTestGroupPane.cssTemplate):
569
570 2018-10-09  Ryosuke Niwa  <rniwa@webkit.org>
571
572         ManifestGenerator shouldn't need more than 1GB of memory or run for 30 seconds
573         https://bugs.webkit.org/show_bug.cgi?id=190393
574
575         Reviewed by Antti Koivisto and unofficially reviewed by Dewei Zhu.
576
577         This patch reduces the runtime of /api/manifest from 13s to 7s and reduces the memory requirement from
578         1GB to 400MB for the internal dashboard in my local testing.
579
580         The biggest perf win comes from avoid running a complex query over test_configurations to compute
581         the latest modified date across different test configuration types ("current" vs. "baseline").
582         Instead, we now fetch the entire table row by row and compute the latest modified date in memory.
583
584         Also call intval in many more places to avoid generating double quotes, which is a pretty significant
585         proportion of the JSON file size at this point.
586
587         Finally, use references in more places to avoid deep copying of arrays.
588
589         * public/include/manifest-generator.php:
590         (ManifestGenerator::generate): Skip the generation of "dashboard" since it's only used by v1 UI.
591         (ManifestGenerator::tests): Don't copy each row.
592         (ManifestGenerator::metrics): Ditto.
593         (ManifestGenerator::platforms): Implement the aforementioned optimization. Instead of grouping
594         test configurations for a given metric and platform together, fetch them all and do in-memory
595         processing in PHP. Avoid more copying as well.
596         (ManifestGenerator::repositories): Avoid more copying.
597         (ManifestGenerator::bug_trackers): Ditto.
598         (ManifestGenerator::fetch_triggerables): Ditto.
599
600 2018-10-08  Ryosuke Niwa  <rniwa@webkit.org>
601
602         /api/report takes 15+ minutes submitting some test results
603         https://bugs.webkit.org/show_bug.cgi?id=190382
604
605         Rubber-stamped by Alexey Proskuryakov and unofficially reviewed by Dewei Zhu.
606
607         The issue was that recursively_ensure_tests would issue thousands of dependent queries.
608
609         Since most reporting of results would be happening after all the tests and test metrics had been created,
610         simply fetch the list of all tests and test metrics upfront in memory.
611
612         This would slow-down the reporting of other test results but in practice doesn't matter (an extra few seconds
613         of overhead) but for slow reporting, it can significantly reduce the runtime from ~10 minutes to ~10 seconds.
614
615         * public/include/report-processor.php:
616         (ReportProcessor::process): Call fetch_tests before recursively_ensure_tests.
617         (ReportProcessor::fetch_tests): Added. This builds up a mapping of tests based on a parent test ID as well as
618         a mapping of metrics per test based on its name and then its aggregator's name.
619         (ReportProcessor::recursively_ensure_tests): Added. Use the in-memory maps built in fetch_tests when possible.
620         (ReportProcessor::aggregator_list_if_exists): Take a reference instead of passing it by value.
621         (TestRunsGenerator::add_aggregated_metric): Now takes metric ID. The code to add the test metric had been moved
622         to recursively_ensure_tests.
623
624 2018-10-01  Dewei Zhu  <dewei_zhu@apple.com>
625
626         Add retry for test groups with failed build requests.
627         https://bugs.webkit.org/show_bug.cgi?id=190188
628
629         Reviewed by Ryosuke Niwa.
630
631         Added retry logic in run-analysis script.
632         Current retry logic will only be triggered when there is at least one successful build request for each commit set
633         in a test group.
634
635         * init-database.sql: Added 'testgroup_initial_repetition_count' and 'testgroup_may_need_more_requests'.
636         SQL to update existing database:
637         '''
638         BEGIN;
639             ALTER TABLE analysis_test_groups
640                 ADD COLUMN testgroup_initial_repetition_count integer DEFAULT NULL,
641                 ADD COLUMN testgroup_may_need_more_requests boolean DEFAULT FALSE;
642             UPDATE analysis_test_groups SET testgroup_initial_repetition_count = (
643                 SELECT DISTINCT(COUNT(*)) FROM build_requests WHERE request_group = testgroup_id AND request_order >= 0 GROUP BY request_commit_set
644             );
645             ALTER TABLE analysis_test_groups ALTER COLUMN testgroup_initial_repetition_count DROP DEFAULT, ALTER COLUMN testgroup_may_need_more_requests SET NOT NULL;
646         END;
647         '''
648         'testgroup_initial_repetition_count' represents the number of successful build request for each commit set when
649         test group is created.
650         'testgroup_may_need_more_requests' will be set when any build request in test group is set to 'failed'.
651         * public/api/build-requests.php: Added the logic to set 'testgroup_may_need_more_requests'.
652         * public/api/test-groups.php: Updated 'ready-for-notification' to 'ready-for-further-processing' so that it returns finished test
653         groups those either have 'needs_notification' or  'may_need_more_requests' set.
654         * public/include/commit-sets-helpers.php: Set 'initial_repetition_count' to repetition count.
655         * public/privileged-api/update-test-group.php: Added APIs to add build request for a test group and
656         update 'may_need_more_requests' flag.
657         * public/v3/models/test-group.js:
658         (TestGroup): Added '_mayNeedMoreRequests' and '_initialRepetitionCount' field.
659         Refactored code that interacts with '/api/update-test-group'.
660         (TestGroup.prototype.updateSingleton):
661         (TestGroup.prototype.mayNeedMoreRequests):
662         (TestGroup.prototype.initialRepetitionCount):
663         (TestGroup.prototype.async._updateBuildRequest):
664         (TestGroup.prototype.updateName):
665         (TestGroup.prototype.updateHiddenFlag):
666         (TestGroup.prototype.async.didSendNotification):
667         (TestGroup.prototype.async.addMoreBuildRequests):
668         (TestGroup.prototype.async.clearMayNeedMoreBuildRequests): Added API to clear 'may_need_more_requests' flag.
669         (TestGroup.fetchAllReadyForFurtherProcessing): Refactored 'TestGroup.fetchAllWithNotificationReady' to return test groups either
670         have 'needs_notification' or  'may_need_more_requests' set.
671         (TestGroup.fetchAllThatMayNeedMoreRequests): Fetches test groups those may need more build requests.
672         * server-tests/api-test-groups.js: Added unit tests.
673         * server-tests/privileged-api-add-build-requests-tests.js: Added unit tests for 'add-build-requests' API.
674         * server-tests/privileged-api-update-test-group-tests.js: Added unit tests.
675         * server-tests/resources/mock-data.js:
676         (MockData.addMockData):
677         * server-tests/resources/test-server.js:
678         (TestServer.prototype._determinePgsqlDirectory): Fixed a bug that 'childProcess.execFileSync' may return a buffer.
679         * tools/run-analysis.js: Added logic to add extra build request before sennding notification.
680         * tools/js/retry-failed-build-requests.js:
681         (async.createAdditionalBuildRequestsForTestGroupsWithFailedRequests): Module that add extra build requests.
682         * unit-tests/retry-failed-build-requests-tests.js: Added.
683         * unit-tests/test-groups-tests.js: Added unit tests.
684
685 2018-09-21  Dewei Zhu  <dewei_zhu@apple.com>
686
687         Apache can return a corrupt manifest file while ManifestGenerator::store is running
688         https://bugs.webkit.org/show_bug.cgi?id=189822
689
690         Reviewed by Ryosuke Niwa.
691
692         Updating a file on performance dashboard should be transactional between php and apache.
693         Otherwise, partial content may be served.
694
695         * public/api/measurement-set.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
696         * public/api/runs.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
697         * public/include/db.php: Make creating file transactionaly by taking advantage of
698         'move/rename' operation is atomic in OS.
699         Added logic to avoid overwriting file if all content except specified filed are identical.
700         * public/include/json-header.php: Added a helper function that added 'status' but does not
701         convert content to json.
702         * public/include/manifest-generator.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
703         * public/shared/statistics.js: Removed unnecessary logging.
704         (Statistics.new.sampleMeanAndVarianceFromMultipleSamples):
705         * server-tests/api-manifest-tests.js: Updated one unit test.
706
707 2018-08-22  Dewei Zhu  <dewei_zhu@apple.com>
708
709         Show t-test results based on individual measurements to analysis task page.
710         https://bugs.webkit.org/show_bug.cgi?id=188425
711
712         Reviewed by Ryosuke Niwa.
713
714         Added comparison for individual iterations in analysis task page.
715         Added comparison for individual iterations for notification on A/B tests completion.
716         Refactored t-distribution inverse lookup to any degree of freedom with 5 significant figures.
717
718         * public/shared/statistics.js: Refactored t-distribution inverse lookup function and adapted this
719         change to all invocations.
720         (Statistics.new.this.supportedConfidenceIntervalProbabilities):
721         (Statistics.new.this.supportedOneSideTTestProbabilities):
722         (Statistics.new.this.confidenceIntervalDelta):
723         (Statistics.new.sampleMeanAndVarianceForMultipleSamples):
724         (Statistics.new.this.probabilityRangeForWelchsT):
725         (Statistics.new.this.probabilityRangeForWelchsTFromTwoSampleSets):
726         (Statistics.new.this._determinetwoSidedProbabilityBoundaryForWelchsT):
727         (Statistics.new.this.computeWelchsT):
728         (Statistics.new.this._computeWelchsTFromStatistics):
729         (Statistics.new.this.minimumTForOneSidedProbability): Function that does t-distribution inverse lookup.
730         * public/v3/components/analysis-results-viewer.js: Adapted TestGroup.compareTestResults change.
731         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._measurementsForCommitSet):
732         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
733         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForCommitSet): Deleted.
734         * public/v3/components/test-group-results-viewer.js: Show both comparisions for both individual and mean.
735         (TestGroupResultsViewer.prototype._renderResultsTable):
736         (TestGroupResultsViewer.prototype._buildRowForMetric.):
737         (TestGroupResultsViewer.prototype._buildValueMap):
738         * public/v3/models/test-group.js:
739         (TestGroup.compareTestResults): Added comparison for individual iterations.
740         * tools/js/test-group-result-page.js:
741         (TestGroupResultPage.prototype._constructTableForMetric):
742         (TestGroupResultPage.prototype.get styleTemplate):
743         (TestGroupResultPage):
744         (TestGroupResultPage.prototype._URLForAnalysisTask): Renamed to '_resultsForTestGroup'
745         * unit-tests/statistics-tests.js: Updated and added unit tests.
746
747 2018-07-13  Dewei Zhu  <dewei_zhu@apple.com>
748
749         CustomConfigurationTestGroupForm should dispatch different arguments based on whether analysis task is created.
750         https://bugs.webkit.org/show_bug.cgi?id=187675
751
752         Reviewed by Ryosuke Niwa.
753
754         This change will fix the bug that no notification will be sent for any test groups except the
755         first one in any custom perf-try A/B task.
756
757         * public/v3/components/custom-configuration-test-group-form.js:
758         (CustomConfigurationTestGroupForm.prototype.startTesting): Conditionally includes taskName based on
759         whether or not analysis task is created.
760
761 2018-07-03  Dewei Zhu  <dewei_zhu@apple.com>
762
763         MeasurementSet should merge last four segments into two if values are identical.
764         https://bugs.webkit.org/show_bug.cgi?id=187311
765
766         Reviewed by Ryosuke Niwa.
767
768         If last four segments has the same value, MeasurmentSet should merge them.
769
770         * public/v3/models/measurement-set.js: Added the logic to conditionally merge last segments.
771         (MeasurementSet.prototype.fetchSegmentation):
772         * unit-tests/measurement-set-tests.js: Added a unit test for this change.
773
774 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
775
776         Manifest.reset should clear static map for BugTracker and Bug objects.
777         https://bugs.webkit.org/show_bug.cgi?id=187186
778
779         Reviewed by Ryosuke Niwa.
780
781         If static maps of BugTracker and Bug objects are not cleared up, updating singleton
782         of Bug object will fail assertion.
783
784         * public/v3/models/manifest.js: Clear static map for BugTracker and Bug.
785         (Manifest.reset):
786         * server-tests/api-manifest-tests.js: Added a unit test for this change.
787
788 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
789
790         Fix a bug in range bisector that start commit may be counted twice.
791         https://bugs.webkit.org/show_bug.cgi?id=187205
792
793         Reviewed by Darin Adler.
794
795         Range bisector counted start commit twice if start commit is the same as end commit.
796
797         * public/v3/commit-set-range-bisector.js:
798         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
799         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this change.
800
801 2018-06-28  Dewei Zhu  <dewei_zhu@apple.com>
802
803         Fix a bug ComponentBase that wrong content template may be used.
804         https://bugs.webkit.org/show_bug.cgi?id=187159
805
806         Reviewed by Ryosuke Niwa.
807
808         ComponentBase uses '_parsed' to mark whether content and style templates of a class
809         is parsed. However, derived class parsing will be skipped as 'Derive._parsed' is available
810         via prototype chain whenever the base class is parsed.
811
812         * browser-tests/component-base-tests.js: Added unit tests.
813         * public/v3/components/base.js: Added 'hasOwnProperty' to make sure current class is parsed.
814         (ComponentBase.prototype._ensureShadowTree):
815
816 2018-06-25  Dewei Zhu  <dewei_zhu@apple.com>
817
818         MeasurementSetAnalyzer should check triggerable availability before creating confirming A/B tests.
819         https://bugs.webkit.org/show_bug.cgi?id=187028
820
821         Reviewed by Ryosuke Niwa.
822
823         If the triggerable is not available, MeasurmentSetAnalyzer should only create analysis task without
824         confirming A/B tests.
825
826         * tools/js/measurement-set-analyzer.js: Added logic to check triggerable availability.
827         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
828         (MeasurementSetAnalyzer):
829         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests and added a new unit test for this change.
830
831 2018-06-11  Dewei Zhu  <dewei_zhu@apple.com>
832
833         Extend test group rule to support 'userInitiated' field.
834         https://bugs.webkit.org/show_bug.cgi?id=186544
835
836         Reviewed by Ryosuke Niwa.
837
838         Added support for rule specifying whether or not test group is user initiated.
839
840         * tools/js/analysis-results-notifier.js: Rule now support 'userInitiated' field.
841         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
842         (AnalysisResultsNotifier.prototype._applyRules):
843         (AnalysisResultsNotifier._matchesRule):
844         * unit-tests/analysis-results-notifier-tests.js: Added unit tests for this change.
845
846 2018-05-29  Dewei Zhu  <dewei_zhu@apple.com>
847
848         CommitSet range bisector should use commits occur in commit sets which specify the range as valid commits for commits without ordering.
849         https://bugs.webkit.org/show_bug.cgi?id=186062
850
851         Reviewed by Ryosuke Niwa.
852
853         For commits without ordering, we should use the commits occurs in the commit sets which specify the range as valid commits.
854         Commit sets in range should only contain those valid commits for corresponding repositories.
855
856         * public/v3/commit-set-range-bisector.js: Updated logic to add check on commits without ordering.
857         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
858         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this case.
859
860 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
861
862         Related task may not have a metric or platform.
863         https://bugs.webkit.org/show_bug.cgi?id=186426
864
865         Reviewed by Ryosuke Niwa.
866
867         Related task in the related task list can be a custom analysis task which
868         may not have platform or metric.
869
870         * public/v3/pages/analysis-task-page.js: Added null checks for platform and metric.
871         (AnalysisTaskPage.prototype._renderRelatedTasks):
872
873 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
874
875         Fix browser test failed assertions and a bug in 'common-component-base'
876         https://bugs.webkit.org/show_bug.cgi?id=186423
877
878         Reviewed by Ryosuke Niwa.
879
880         Fixed serveral assertion failures in browser tests.
881         Fixed a bug in common-component-base that null/undefined as attribute value is not allowed.
882
883         * browser-tests/chart-revision-range-tests.js: Should not import 'lazily-evaluated-function.js' twice.
884         * browser-tests/chart-status-evaluator-tests.js: Should not import 'lazily-evaluated-function.js' twice.
885         * browser-tests/component-base-tests.js: Added a unit test for element attributes being null or undefined.
886         * browser-tests/index.html: Make mocked data from makeSampleCluster also contains commit_order.
887         * public/shared/common-component-base.js: Make it allow to take null as attribute value.
888         (CommonComponentBase.createElement):
889
890 2018-05-24  Dewei Zhu  <dewei_zhu@apple.com>
891
892         Added sending notification feature when test group finishes.
893         https://bugs.webkit.org/show_bug.cgi?id=184340
894
895         Reviewed by Ryosuke Niwa.
896
897         Added 'testgroup_needs_notification' filed to 'analysis_test_group' table to indicate whether a test group
898         has a pending notification.
899         Added 'testgroup_notification_sent_at' to record the last notification sent time.
900         SQL queries to update existing database are:
901             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_needs_notification boolean NOT NULL DEFAULT FALSE;'
902             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_notification_sent_at timestamp DEFAULT NULL;'
903         Updated 'run-analysis' script to be able to send notification when test group finishes.
904         Added 'Notify on completion' checkbox while creating/retrying/bisecting a test group.
905
906         * browser-tests/test-group-form-tests.js: Updated existing tests and added a new test.
907         * browser-tests/test-group-result-page-tests.js: Added unit tests for TestGroupResultPage.
908         * init-database.sql: Added 'testgroup_needs_notification' filed to 'analysis_test_group' table.
909         * public/api/test-groups.php: Added '/api/test-groups/ready-for-notification' API to 'test-group' to show all
910         test groups that need to send notification. Only the ones with 'completed', 'failed' or 'cancelled' status and its
911         'testgroup_needs_notification' is true will be returned by this API.
912         * public/include/build-requests-fetcher.php: Added 'fetch_requests_for_groups' to return test groups with given ids.
913         * public/include/commit-sets-helpers.php: Updated the logic to support setting 'testgroup_needs_notification'
914         while create an analysis_test_groups.
915         * public/privileged-api/create-analysis-task.php: Updated the logic to support setting 'testgroup_needs_notification'.
916         * public/privileged-api/create-test-group.php: Updated the logic to support setting 'testgroup_needs_notification'.
917         * public/privileged-api/update-test-group.php: Updated the logic to support updating 'testgroup_needs_notification'.
918         Extended this API to allow authentication both from CSRF token and slave.
919         * public/v3/components/custom-configuration-test-group-form.js:
920         (CustomConfigurationTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
921         'testgroup_needs_notification' from API perspective.
922         * public/v3/components/customizable-test-group-form.js:
923         (CustomizableTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
924         'testgroup_needs_notification' from API perspective.
925         (CustomizableTestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
926         * public/v3/components/test-group-form.js:
927         (TestGroupForm): Added '_notifyOnCompletion' instance variable.
928         (TestGroupForm.prototype.didConstructShadowTree): Added 'onchange' event for notify on completion checkbox.
929         (TestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
930         'testgroup_needs_notification' from API perspective.
931         (TestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
932         * public/v3/models/analysis-results.js: Export 'AnalysisResults'.
933         (AnalysisResults.fetch): Update API path to use absolute url.
934         (AnalysisResults):
935         * public/v3/models/analysis-task.js:
936         (AnalysisTask.async.create): Extend this function to take notifyOnCompletion as argument which will be used as
937         'needsNotification' to send to server.
938         (AnalysisTask):
939         * public/v3/models/test-group.js:
940         (TestGroup): Added '_needsNotification' field.
941         (TestGroup.prototype.updateSingleton): Added logic to update '_needsNotification' field.
942         (TestGroup.prototype.needsNotification): Returns '_needsNotification' field.
943         (TestGroup.prototype.author): Returns author information.
944         (TestGroup.prototype.async.didSendNotification): API that updates 'testgroup_needs_notification' to true.
945         (TestGroup.prototype.async.fetchTask): API to fetch the task when it has not been fetched.
946         (TestGroup.createWithTask): Updated this function to accept 'notifyOnCompletion' which will be used as
947         'needsNotification' to send to server.
948         (TestGroup.createWithCustomConfiguration): Updated this function to accept 'notifyOnCompletion' which will be used as
949         'needsNotification' to send to server.
950         (TestGroup.createAndRefetchTestGroups): Updated this function to accept 'notifyOnCompletion' which will be used as
951         'needsNotification' to send to server.
952         (TestGroup.fetchAllWithNotificationReady): New function that invokes '/api/test-groups/ready-for-notification'.
953         * public/v3/pages/analysis-task-page.js: Update logic to 'notifyOnCompletion' around
954         (AnalysisTaskChartPane.prototype.didConstructShadowTree):
955         (AnalysisTaskResultsPane.prototype.didConstructShadowTree):
956         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
957         (AnalysisTaskPage.prototype.didConstructShadowTree):
958         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
959         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup):
960         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList.set const):
961         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
962         (AnalysisTaskPage.prototype._createCustomTestGroup):
963         * public/v3/pages/chart-pane.js: Added 'Notify on completion' checkbox.
964         (ChartPane.prototype.didConstructShadowTree):
965         (ChartPane.prototype.async._analyzeRange):
966         * public/v3/pages/create-analysis-task-page.js: Adapted API change.
967         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup):
968         * server-tests/api-test-groups.js: Added tests for '/api/test-groups/ready-for-notification'.
969         * server-tests/privileged-api-create-analysis-task-tests.js: Updated tests to adapt this change.
970         Added new tests.
971         * server-tests/privileged-api-create-test-group-tests.js: Added new tests.
972         * server-tests/privileged-api-update-test-group-tests.js: Added unit test for 'update-test-group' API.
973         * server-tests/resources/mock-data.js: addMockData should set 'testgroup_needs_notification' to be true.
974         * server-tests/tools-sync-buildbot-integration-tests.js: Updated tests to adapt this change.
975         (async.createTestGroupWihPatch):
976         (createTestGroupWihOwnedCommit):
977         * tools/js/analysis-results-notifier.js: Added notifier to send notification for completed test groups.
978         (AnalysisResultsNotifier):
979         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
980         (AnalysisResultsNotifier.prototype._sendNotification): Invoke remote API to send notification.
981         (AnalysisResultsNotifier.prototype._constructMessageByRules):
982         (AnalysisResultsNotifier._matchesRule):
983         (AnalysisResultsNotifier._applyUpdate):
984         (AnalysisResultsNotifier.async._messageForTestGroup): Build html as message body for a test group.
985         (AnalysisResultsNotifier._URLForAnalysisTask): Returns URL for an analysis task.
986         (AnalysisResultsNotifier._instantiateNotificationTemplate):
987         * tools/js/test-group-result-page.js: Added 'TestGroupResultPage' and 'BarGraph' to show test group result.
988         (TestGroupResultPage):
989         (TestGroupResultPage.prototype.async.setTestGroup):
990         (TestGroupResultPage._urlForAnalysisTask):
991         (TestGroupResultPage.prototype._URLForAnalysisTask):
992         (TestGroupResultPage.prototype.constructTables):
993         (TestGroupResultPage.prototype._constructTableForMetric):
994         (TestGroupResultPage.):
995         (TestGroupResultPage.prototype.get pageContent):
996         (TestGroupResultPage.prototype.get styleTemplate):
997         (BarGraph):
998         (BarGraph.prototype.setWidth):
999         (BarGraph.prototype._constructBarGraph):
1000         (BarGraph.prototype.get pageContent):
1001         (BarGraph.prototype.get styleTemplate):
1002         * tools/js/measurement-set-analyzer.js: Adapted 'AnalysisTask.create' change.
1003         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1004         (MeasurementSetAnalyzer):
1005         * tools/js/v3-models.js:
1006         * tools/run-analysis.js: Added the logic that sends notification for completed test groups.
1007         (main):
1008         (async.analysisLoop):
1009         * unit-tests/analysis-task-tests.js:
1010         * unit-tests/analysis-results-notifier-tests.js: Added a unit test for 'AnalysisResultsNotifier' and 'NotificationService'.
1011         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests per this change.
1012         * unit-tests/test-groups-tests.js: Added unit tests for 'TestGroup.needsNotification'.
1013         * unit-tests/resources/mock-remote-api.js: Only set 'privilegedAPI' when it exits.
1014
1015 2018-06-07  Ryosuke Niwa  <rniwa@webkit.org>
1016
1017         Add the basic support for writing components in node.js
1018         https://bugs.webkit.org/show_bug.cgi?id=186299
1019
1020         Reviewed by Antti Koivisto.
1021
1022         Add the basic support for writing components in node.js for generating rich email notifications.
1023
1024         To do this, this patch introduces MarkupComponentBase and MarkupPage which implement similar API
1025         to ComponentBase and Page classes of v3 UI code. This enables us to share code between frontend
1026         and the backend in the future. Because there is no support for declarative custom elements or
1027         shadow root in HTML, MarkupComponentBase uses a similar but distinct concept of "content" tree
1028         to represent the "DOM" tree for a component. When generating the HTML, MarkupComponentBase and
1029         MarkupPage collectively transforms stylesheets and flattens the tree into a single HTML. In order
1030         to keep this flatteneing logic simple, MarkupComponentBase only supports a very small subset of
1031         CSS selectors to select elements by their local names and class names.
1032
1033         Specifically, each class name and element name based selectors are replaced by a globally unique
1034         class name based selector, and each element which matches the selector is applied of the same
1035         globally unique class name. The transformation is applied when constructing the "content" tree
1036         as well as calls to renderReplace.
1037
1038         Because much of v3 frontend code relies on DOM API, this patch also implements the simplest form
1039         of a fake DOM API as MarkupNode, MarkupParentNode, MarkupElement, and MarkupText. In order to avoid
1040         reimplementing HTML & CSS parsers, this patch introduces the concept of content and style templates
1041         to ComponentBase which are JSON alternatives to HTML & CSS template strings which can be used in
1042         both frontend & backend.
1043
1044         * browser-tests/close-button-tests.js: Include CommonComponentBase.
1045         * browser-tests/commit-log-viewer-tests.js: Ditto.
1046         * browser-tests/component-base-tests.js: Ditto. Added a test cases for content & style templates.
1047         (async.importComponentBase): Added.
1048         * browser-tests/editable-text-tests.js: Include CommonComponentBase.
1049         * browser-tests/index.html:
1050         * browser-tests/markup-page-tests.js: Added.
1051         * browser-tests/page-router-tests.js: Include CommonComponentBase.
1052         * browser-tests/page-tests.js: Ditto.
1053         * browser-tests/test-group-form-tests.js: Ditto.
1054         * public/shared/common-component-base.js: Added.
1055         (CommonComponentBase): Extracted out of ComponentBase.
1056         (CommonComponentBase.prototype.renderReplace): Added.
1057         (CommonComponentBase.renderReplace): Moved from ComponentBase.
1058         (CommonComponentBase.prototype._recursivelyUpgradeUnknownElements): Moved and renamed from
1059         ComponentBase's _recursivelyReplaceUnknownElementsByComponents.
1060         (CommonComponentBase.prototype._upgradeUnknownElement): Extracted out of the same function.
1061         (CommonComponentBase._constructStylesheetFromTemplate): Added.
1062         (CommonComponentBase._constructNodeTreeFromTemplate): Added.
1063         (CommonComponentBase.prototype.createElement): Added.
1064         (CommonComponentBase.createElement): Moved from ComponentBase.
1065         (CommonComponentBase._addContentToElement): Moved from ComponentBase.
1066         (CommonComponentBase.prototype.createLink): Added.
1067         (CommonComponentBase.createLink): Moved from ComponentBase.
1068         (CommonComponentBase._context): Added. Set to document in a browser and MarkupDocument in node.js.
1069         (CommonComponentBase._isNode): Added. Set to a function which does instanceof Node/MarkupNode check.
1070         (CommonComponentBase._baseClass): Added. Set to ComponentBase or MarkupComponentBase.
1071         * public/v3/components/base.js:
1072         (ComponentBase):
1073         (ComponentBase.prototype._ensureShadowTree): Added the support for the content and style templates.
1074         Also avoid parsing the html template each time a component is instantiated by caching the result.
1075         * public/v3/index.html:
1076         * tools/js/markup-component.js: Added.
1077         (MarkupDocument): Added. A fake Document.
1078         (MarkupDocument.prototype.createContentRoot): A substitude for attachShadow.
1079         (MarkupDocument.prototype.createElement):
1080         (MarkupDocument.prototype.createTextNode):
1081         (MarkupDocument.prototype._idForClone):
1082         (MarkupDocument.prototype.reset):
1083         (MarkupDocument.prototype.markup):
1084         (MarkupDocument.prototype.escapeAttributeValue):
1085         (MarkupDocument.prototype.escapeNodeData):
1086         (MarkupNode): Added. A fake Node. Each node gets an unique ID.
1087         (MarkupNode.prototype._markup):
1088         (MarkupNode.prototype.clone): Implemented by the leave class.
1089         (MarkupNode.prototype._cloneNodeData):
1090         (MarkupNode.prototype.remove):
1091         (MarkupParentNode): Added. An equivalent of ContainerNode in WebCore.
1092         (MarkupParentNode.prototype.get childNodes):
1093         (MarkupParentNode.prototype._cloneNodeData):
1094         (MarkupParentNode.prototype.appendChild):
1095         (MarkupParentNode.prototype.removeChild):
1096         (MarkupParentNode.prototype.removeAllChildren):
1097         (MarkupParentNode.prototype.replaceChild):
1098         (MarkupContentRoot): Added. Used like a shadow tree.
1099         (MarkupContentRoot.prototype._markup): Added.
1100         (MarkupElement): Added. A fake Element. It also implements a subset of IDL attributes implemented by
1101         subclasses such as HTMLInputElement for simplicity.
1102         (MarkupElement.prototype.get id): Added.
1103         (MarkupElement.prototype.get localName): Added.
1104         (MarkupElement.prototype.clone): Added.
1105         (MarkupElement.prototype.appendChild): Added.
1106         (MarkupElement.prototype.addEventListener): Added.
1107         (MarkupElement.prototype.setAttribute): Added.
1108         (MarkupElement.prototype.getAttribute): Added.
1109         (MarkupElement.prototype.get attributes): Added.
1110         (MarkupElement.prototype.get textContent): Added.
1111         (MarkupElement.prototype.set textContent): Added.
1112         (MarkupElement.prototype._serializeStyle): Added.
1113         (MarkupElement.prototype._markup): Added. Flattens the tree with content tree like copy & paste so
1114         this can't be used to implement innerHTML.
1115         (MarkupElement.prototype.get value): Added.
1116         (MarkupElement.prototype.set value): Added.
1117         (MarkupElement.prototype.get style): Added. Returns a fake writeonly CSSStyleDeclaration.
1118         (MarkupElement.prototype.set style): Added.
1119         (MarkupElement.get selfClosingNames): Added. A small list of self-closing tags for the HTML generation.
1120         (MarkupText): Added.
1121         (MarkupText.prototype.clone): Added.
1122         (MarkupText.prototype._markup): Added.
1123         (MarkupText.prototype.get data): Added.
1124         (MarkupText.prototype.set data): Added.
1125         (MarkupComponentBase): Added.
1126         (MarkupComponentBase.prototype.element): Added. Like ComponentBase's element.
1127         (MarkupComponentBase.prototype.content): Added. Like ComponentBase's content.
1128         (MarkupComponentBase.prototype._findElementRecursivelyById): Added. A fake getElementById.
1129         (MarkupComponentBase.prototype.render): Added. Like ComponentBase's render.
1130         (MarkupComponentBase.prototype.runRenderLoop): Added. In ComponentBase, we use requestAnimationFrame.
1131         In MarkupComponentBase, we keep rendering until the queue drains empty.
1132         (MarkupComponentBase.prototype.renderReplace): Added. Like ComponentBase's renderReplace but applies
1133         the transformation of classes to workaround the lack of shadow tree support in scriptless HTML.
1134         (MarkupComponentBase.prototype._applyStyleOverrides): Added. Recursively applies the transformation.
1135         (MarkupComponentBase.prototype._ensureContentTree): Added. Like ComponentBase's _ensureShadowTree.
1136         (MarkupComponentBase.reset): Added.
1137         (MarkupComponentBase._parseTemplates): Added. Parses the content & style templates, and generates the
1138         transformed fake DOM tree and stylesheet text whereby selectors in each component is modified to be
1139         unique across all components. The function to apply the necessary changes to an element is saved in
1140         the global map of components, and later used in renderReplace via _applyStyleOverrides.
1141         (MarkupComponentBase.defineElement): Added. Like ComponentBase's defineElement.
1142         (MarkupComponentBase.prototype.createEventHandler): Added.
1143         (MarkupComponentBase.createEventHandler): Added.
1144         (MarkupPage): Added. The top-level component responsible for generating a DOCTYPE, head, and body.
1145         (MarkupPage.prototype.pageTitle): Added.
1146         (MarkupPage.prototype.content): Added. Overrides the one in MarkupComponentBase to return what would
1147         be the content of the body element as opposed to the html element for the connivance of subclasses,
1148         and to match the behavior of the frontend Page class.
1149         (MarkupPage.prototype.render): Added.
1150         (MarkupPage.prototype._updateComponentsStylesheet): Added. Concatenates the transformed stylesheet of
1151         all components used.
1152         (MarkupPage.get contentTemplate): Added.
1153         (MarkupPage.prototype.generateMarkup): Added. Enqueues the page to render, spin the render loop, and
1154         generates the HTML. We enqueue the page twice in order to invoke _updateComponentsStylesheet after
1155         all subcomponent had finished rendering.
1156         * unit-tests/markup-component-base-tests.js: Added.
1157         * unit-tests/markup-element-tests.js: Added.
1158         (.createElement): Added.
1159         * unit-tests/markup-page-tests.js: Added.
1160
1161 2018-05-23  Dewei Zhu  <dewei_zhu@apple.com>
1162
1163         OSBuildFetcher should respect maxRevision while finding OS builds to report.
1164         https://bugs.webkit.org/show_bug.cgi?id=185925
1165
1166         Reviewed by Ryosuke Niwa.
1167
1168         * server-tests/tools-os-build-fetcher-tests.js: Fix a typo in the unit tests.
1169         Added unit tests for this change. Aslo convert an existing test using async.
1170         * tools/js/os-build-fetcher.js:
1171         (prototype._fetchAvailableBuilds): It should also use 'maxRevision' to filter builds to be reported.
1172         It should use 'minRevisionOrder' when no commit has ever been submitted.
1173         (prototype._commitsForAvailableBuilds): Takes 'maxOrder' as fifth argument.
1174         'minOrder' and 'maxOrder' should be inclusive.
1175
1176 2018-05-11  Dewei Zhu  <dewei_zhu@apple.com>
1177
1178         Update ChartPane per change r231087.
1179         https://bugs.webkit.org/show_bug.cgi?id=185570
1180
1181         Reviewed by Ryosuke Niwa.
1182
1183         On r231087 we change the return type of AnalysisTask.create, ChartPane needs to adapt
1184         this change.
1185
1186         * public/v3/pages/chart-pane.js: Adapted the change that AnalysisTask.create now returns
1187         an AnalysisTask object.
1188         (ChartPane.prototype.async._analyzeRange):
1189
1190 2018-05-10  Dewei Zhu  <dewei_zhu@apple.com>
1191
1192         CommitLogViewer._preceedingCommit should not always be null
1193         https://bugs.webkit.org/show_bug.cgi?id=185540
1194
1195         Reviewed by Ryosuke Niwa.
1196
1197         Fix the bug introduced in r227746 that CommitLogViewer._preceedingCommit is always null.
1198
1199         * browser-tests/index.html: Fix expected measurement-set url.
1200         * public/v3/components/commit-log-viewer.js:
1201         (CommitLogViewer.prototype._fetchCommitLogs): CommitLogViewer._preceedingCommit should be set
1202          when fetching for preceeding revision succeeds.
1203
1204 2018-05-03  Dewei Zhu  <dewei_zhu@apple.com>
1205
1206         Range bisector should check the commits for repositories without change in specified range.
1207         https://bugs.webkit.org/show_bug.cgi?id=185269
1208
1209         Reviewed by Ryosuke Niwa.
1210
1211         For repositories without a change in the specified range, we still need to use them to filter commit
1212         sets. Before this change, code does not apply filtering by those repositories against commit set. As
1213         a result, commit sets with different commits for those repositories may be chosen as bisecting commit set.
1214
1215         * public/v3/commit-set-range-bisector.js: Updated the logic to verify range for repositories without
1216         change in range.
1217         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
1218         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test to guard against this change.
1219
1220 2018-05-02  Dewei Zhu  <dewei_zhu@apple.com>
1221
1222         Create analysis task should sync analysis task status after creation.
1223         https://bugs.webkit.org/show_bug.cgi?id=185222
1224
1225         Reviewed by Ryosuke Niwa.
1226
1227         * public/v3/models/analysis-task.js:
1228         (AnalysisTask.async.create): Fetch newly-created analysis task right about its creation.
1229         (AnalysisTask):
1230         * tools/js/measurement-set-analyzer.js:
1231         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Adjust as 'AnalysisTask.create' now
1232         returns an anlysis task instance.
1233         (MeasurementSetAnalyzer):
1234         * unit-tests/analysis-task-tests.js: Added a unit test for this change.
1235         (async):
1236         * unit-tests/measurement-set-analyzer-tests.js: Update unit tests accordingly.
1237         Fix a typo in one previous unit test.
1238         (async):
1239
1240 2018-05-01  Dewei Zhu  <dewei_zhu@apple.com>
1241
1242         Write a script that detects chart changes by using v3 API.
1243         https://bugs.webkit.org/show_bug.cgi?id=184419
1244
1245         Reviewed by Ryosuke Niwa.
1246
1247         Added a script that detects chart changes and schedule confirming analysis task.
1248
1249         * browser-tests/async-task-tests.js: Added a unit test for 'AsyncTask'.
1250         * browser-tests/index.html: Added import for 'AsyncTask' for testing.
1251         * public/shared/statistics.js: Make 'findRangesForChangeDetectionsWithWelchsTTest' defaults to 0.99 one sided possibility.
1252         (Statistics.new.this.findRangesForChangeDetectionsWithWelchsTTest):
1253         * public/v3/async-task.js:
1254         (AsyncTask.isAvailable): Helper function to determine whether AsyncTask is available or not as 'Worker' is
1255         not available in nodejs.
1256         (AsyncTask):
1257         * public/v3/models/bug.js: Export as a module.
1258         * public/v3/models/measurement-set.js:
1259         (MeasurementSet.prototype._invokeSegmentationAlgorithm): Added a check to avoid using AsyncTask when running in NodeJs.
1260         (MeasurementSet):
1261         * server-tests/resources/common-operations.js: Added a helper function to assert certain exception is thrown.
1262         (async.assertThrows):
1263         * tools/js/measurement-set-analyzer.js: Added 'MeasurementSetAnalyzer' module for analyzing measurement set.
1264         (MeasurementSetAnalyzer):
1265         (MeasurementSetAnalyzer.prototype.async.analyzeOnce):
1266         (MeasurementSetAnalyzer.measurementSetListForAnalysis):
1267         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1268         * tools/js/v3-models.js: Added import for 'Bug' object.
1269         * tools/run-analysis.js: Added this script to detect measurement set changes.
1270         (main):
1271         (async.analysisLoop):
1272         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for 'MeasurementSetAnalyzer'.
1273         * unit-tests/resources/mock-v3-models.js: Reset 'MeasurementSet._set' every time.
1274         Update mock platform to include lastModifiedByMetric information.
1275         (MockModels.inject):
1276
1277 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1278
1279         Creating a custom analysis task after fetching all analysis tasks fail
1280         https://bugs.webkit.org/show_bug.cgi?id=184641
1281
1282         Reviewed by Saam Barati.
1283
1284         The bug was caused by AnalysisTask._fetchSubset not fetching the analysis task when all analysis tasks
1285         had previously been fetched (AnlaysisTask._fetchAllPromise is set) even when noCache is set to true.
1286         Fixed it by ignornig _fetchAllPromise when noCache is set to true.
1287
1288         This patch also adds noCache argument to AnalysisTask.fetchById and reverts the inadvertent change in
1289         r226836 to always set noCache to true in this function.
1290
1291         * public/v3/models/analysis-task.js:
1292         (AnalysisTask.fetchById): Added noCache argument instead of always specifying true, and modernized the code.
1293         (AnalysisTask._fetchSubset): Fixed the bug. See above description.
1294         * public/v3/models/test-group.js:
1295         (TestGroup.createWithTask): Set noCache to true when calling AnalysisTask.fetchById here.
1296         * unit-tests/analysis-task-tests.js: Added test cases for AnalysisTask.fetchById, including a test
1297         to make sure it doesn't fetch the specified analysis task when noCache is set to false and all analysis
1298         tasks had previously been fetched for the aforementioned revert of the inadvertent change in r226836.
1299         (sampleAnalysisTasks): Renamed from sampleAnalysisTasks as the result contains multiple analysis tasks.
1300         * unit-tests/test-groups-tests.js: Added a test case for TestGroup.createWithTask
1301
1302 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1303
1304         REGRESSION(r230960): Browser tests under TimeSeriesChart fetchMeasurementSets all fail
1305         https://bugs.webkit.org/show_bug.cgi?id=185125
1306
1307         Reviewed by Saam Barati.
1308
1309         The bug was caused by mock-remote-api.js always loading PrivilegedAPI using require, which doesn't work in a browser.
1310         Fixed the bug by explicitly requiring the right kind of PrivilegedAPI in each unit test instead.
1311
1312         * unit-tests/analysis-task-tests.js:
1313         * unit-tests/buildbot-syncer-tests.js:
1314         * unit-tests/commit-log-tests.js:
1315         * unit-tests/commit-set-range-bisector-tests.js:
1316         * unit-tests/commit-set-tests.js:
1317         * unit-tests/measurement-set-tests.js:
1318         * unit-tests/privileged-api-tests.js:
1319         * unit-tests/resources/mock-remote-api.js:
1320         (MockRemoteAPI.inject): Take PrivilegedAPI instead of the type string. Also fixed a bug that _token wasn't unset
1321         after each unit test, and superfluous initializations of originalRemoteAPI and originalPrivilegedAPI.
1322         * unit-tests/test-groups-tests.js:
1323
1324 2018-04-30  Dewei Zhu  <dewei_zhu@apple.com>
1325
1326         MeasurementSet._constructUrl should construct absolute url.
1327         https://bugs.webkit.org/show_bug.cgi?id=185137
1328
1329         Reviewed by Ryosuke Niwa.
1330
1331         MeasurementSet._constructUrl should not construct an url with relative path.
1332
1333         * public/v3/models/measurement-set.js: Should use '/api/measurement-set...' and '/data/measurement-set-...'
1334         for uncached and cached fetching.
1335         * unit-tests/measurement-set-tests.js: Updated unit tests.
1336         (const.set MeasurementSet):
1337
1338 2018-04-26  Dewei Zhu  <dewei_zhu@apple.com>
1339
1340         Extend create-analysis-test API to be able to create with confirming test group.
1341         https://bugs.webkit.org/show_bug.cgi?id=184958
1342
1343         Reviewed by Ryosuke Niwa.
1344
1345         Extend create-analysis-test API to be able to create an analysis task with confirming test group.
1346         Update create analysis task UI in chart pane to adapt this new API.
1347         Refactored '/privileged-api/create-test-group' API to share some creating test group logic with '/privileged-api/create-analysis-task' API.
1348         Moved the shared logic to commit-sets-helpers.php.
1349
1350         * public/api/analysis-tasks.php: Use 'require_once' instead of 'require'.
1351         * public/include/commit-sets-helpers.php: Added.
1352         (create_test_group_and_build_requests): A helper function that creates test group and build requests for a analysis
1353         task. In long term, this should be a class to avoid passing long argument list around.
1354         (insert_commit_sets_and_construct_configuration_list): Based on commit sets returns build and test configurations.
1355         (insert_build_request_for_configuration): Insert build requests based on configuration.
1356         (commit_sets_from_revision_sets): Returns commit sets from given revision set list.
1357         * public/privileged-api/create-analysis-task.php: Added the ability to create analysis task with confirming test
1358         groups when repetition count is specified.
1359         * public/privileged-api/create-test-group.php: Moved shared function to commit-sets-helpers.php.
1360         * public/v3/models/analysis-task.js:
1361         (AnalysisTask.create): Instead of accepting run ids, it now accepts points and test group name and confirming iterations.
1362         It will conditionally add test group information into parameter when confirming iterations is a positive number.
1363         (AnalysisTask):
1364         * public/v3/models/commit-set.js:
1365         (CommitSet.revisionSetsFromCommitSets): Move 'TestGroup._revisionSetsFromCommitSets' since CommitSet class is more
1366         appropriate place and it will be shared by both TestGroup and AnalysisTask
1367         (CommitSet):
1368         * public/v3/models/test-group.js:
1369         (TestGroup.createWithTask): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1370         (TestGroup.createWithCustomConfiguration): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1371         (TestGroup.createAndRefetchTestGroups): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1372         (TestGroup._revisionSetsFromCommitSets): Deleted and moved to 'CommitSet.revisionSetsFromCommitSets'.
1373         * public/v3/pages/chart-pane.js:
1374         (ChartPane.prototype.didConstructShadowTree): Added the logic to disable options when checkbox for creating confirming
1375         test group is unchecked.
1376         (ChartPane.prototype._analyzeRange): Conditionally create confirming test group from UI.
1377         (ChartPane.cssTemplate):
1378         * server-tests/privileged-api-create-analysis-task-tests.js: Added unit tests. Added a unit test for 'NodePrivilegedAPI'.
1379         * unit-tests/analysis-task-tests.js: Added unit tests.
1380         * unit-tests/commit-set-tests.js: Added unit test for 'CommitSet.revisionSetsFromCommitSets'.
1381         * unit-tests/resources/mock-remote-api.js: Reset csrf token when BrowserPrivilegedAPI is used.
1382         (MockRemoteAPI.inject):
1383
1384 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1385
1386         Tool scripts should not use PrivilegedAPI from 'public/v3/privileged-api.js'.
1387         https://bugs.webkit.org/show_bug.cgi?id=184766
1388
1389         Reviewed by Ryosuke Niwa.
1390
1391         For tools, we should not use PrivilegedAPI for tools as current PrivilegedAPI
1392         is used by UI and it is unnecessary to generate CSRF token for tools.
1393         Will post a followup patch that creates a PrivilegedAPI used by tools.
1394         Make a change on TestServer.inject and MockRemoteAPI.inject to allow specifying
1395         BrowserPrivilegedAPI or NodePrivilegedAPI in the test. Currently defaults to
1396         BrowserPrivilegedAPI as this is the test behavior before this change.
1397
1398         * server-tests/resources/common-operations.js: Allow passing type of privileged api
1399         information to TestServer.inject.
1400         * server-tests/resources/test-server.js: Conditionally inject PrivilegedAPI based on
1401         type of privileged api.
1402         (TestServer.prototype.inject):
1403         (TestServer):
1404         * server-tests/tools-buildbot-triggerable-tests.js: Updated 'prepareServerTest' invocation.
1405         * server-tests/tools-os-build-fetcher-tests.js: Updated 'prepareServerTest' invocation.
1406         * server-tests/tools-sync-buildbot-integration-tests.js: Temporarily injecting
1407         BrowserPrivilegedAPI for mocking UploadedFile. The actual script does not rely on
1408         BrowserPrivilegedAPI at all.
1409         (async.createTestGroupWihPatch):
1410         (beforeEach):
1411         * tools/js/privileged-api.js: Added NodePrivilegedAPI
1412         (NodePrivilegedAPI.prototype.sendRequest):
1413         (NodePrivilegedAPI.configure): Configure the slave name and password.
1414         (NodePrivilegedAPI):
1415         * tools/js/v3-models.js: Removed the import of PrivilegedAPI.
1416         * unit-tests/privileged-api-tests.js:. Added unit tests for NodePrivilegedAPI.
1417         * unit-tests/resources/mock-remote-api.js: Conditionally inject PrivilegedAPI based on
1418         the type of privileged api.
1419         (MockRemoteAPI.inject):
1420
1421 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1422
1423         Revision information returned by querying measurement set api with analysis task id should contain commit order.
1424         https://bugs.webkit.org/show_bug.cgi?id=184902
1425
1426         Reviewed by Ryosuke Niwa.
1427
1428         This is a bug fix for r230719 which does not cover the case while querying `measurement-set.php?analysisTask=$task_id`
1429
1430         * public/api/measurement-set.php: AnalysisResultsFetcher.fetch_commits results should contains commit order.
1431         * server-tests/api-measurement-set-tests.js: Added unit test for this change.
1432
1433 2018-04-19  Dewei Zhu  <dewei_zhu@apple.com>
1434
1435         Add a bisect button to automatically schedule bisecting A/B tasks.
1436         https://bugs.webkit.org/show_bug.cgi?id=183888
1437
1438         Reviewed by Ryosuke Niwa.
1439
1440         Extended AnalysisTask's ability to figure out bisecting A/B tasks based on existing data points and test groups.
1441         Updated analysis page UI to show bisect button which will only appear when the middle commit set of the range in
1442         test group can be found.
1443
1444         Finding middle commit set algorithm is described as follows:
1445         1. Find all commits from multiple repositories among the ranges specified by two commit sets in test group. In
1446         the meanwhile, merge all commits that have commit time into a single list. For commits only have commit order,
1447         put those commits into separate lists.
1448         2. Filter all the available commit sets in current analysis task by keeping the ones have exact repositories
1449         as the two commit sets in specified test group, and every commit of a commit set is in side the commit range.
1450         After filtering the commit sets, sort the remaining ones and only keep one commit set if multiple commit sets
1451         are equal to each other.
1452         3. Among commits processed by step 2, find the commit sets that have the commit which is closest to the middle of
1453         all commits that have commit time created from step 1.
1454         4. Among commits processed by step 3, find the commit sets that have the commit which is closest to the middle of
1455         commits that only have commit order and categorized by repository. We have to iterate through repository as commit
1456         order is not granted to be comparable between different repositories.
1457         5. If more than one commit sets are found, choose the middle commit set.
1458
1459         * public/v3/commit-set-range-bisector.js: Added.
1460         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits): Instead of naively returning the middle of
1461         existing commit set array, this function selects a bisect bisection points that is closest to actually middle of
1462         the revision range based on all revisions reported to performance dashboard.
1463         (CommitSetRangeBisector._findCommitSetsWithinRange): Helper function to find commit sets those are in specified range.
1464         (CommitSetRangeBisector._orderCommitSetsByTimeAndOrderThenDeduplicate): Helper function to sort and deduplicate commit sets.
1465         (CommitSetRangeBisector._closestCommitSetsToBisectingCommitByTime): Helper function to find the commit sets those
1466         are closest to the middle of among all the commits in the range that have commit time.
1467         (CommitSetRangeBisector._findCommitSetsClosestToMiddleOfCommitsWithOrder): Helper function which goes through all
1468         repositories the commit of which has commit order, and find the commit sets those are closest to the middle of
1469         commits for each repository.
1470         (CommitSetRangeBisector._buildCommitToCommitSetMap): Helper function to builder mapping from a commit to commit
1471         sets those contain this commit.
1472         (CommitSetRangeBisector._findCommitClosestToMiddleIndex): Helper function to find closest commit to the middle of index.
1473         (CommitSetRangeBisector):
1474         * public/v3/index.html: Imports 'public/v3/commit-set-range-bisector.js'.
1475         * public/v3/models/analysis-task.js:
1476         (AnalysisTask.prototype.async.commitSetsFromTestGroupsAndMeasurementSet): Aggregates all existing commit sets in
1477         test groups of current analysis tasks.
1478         * public/v3/models/commit-log.js:
1479         (CommitLog.prototype.hasCommitTime): A helper function determine whether a commit has a commit time. For commit
1480         that does not have time, server will return commit time as zero. As it is unrealistic for a commit has commit time
1481         0, it would be safe to assume a valid commit time is greater than 0.
1482         (CommitLog.prototype.hasCommitOrder): Returns whether a commit has a commit oder.
1483         (CommitLog.hasOrdering): Determine whether we can order two commits by commit time or commit order.
1484         (CommitLog.orderTwoCommits): Order two commits incrementally.
1485         * public/v3/models/commit-set.js:
1486         (CommitSet.prototype.hasSameRepositories): A helper function to determine whether a commit set has same repositories
1487         as current repository.
1488         (CommitSet.containsRootOrPatchOrOwnedCommit): A helper function to determine whether current commit set has root,
1489         patch or owned commit.
1490         (CommitSet.commitForRepository): This function defined twice identically, remove one of them.
1491         * public/v3/models/test-group.js: Make '_computeRequestedCommitSets' a static function as it does not use any
1492         instance variables.
1493         * public/v3/pages/analysis-task-page.js: Added bisect button.
1494         (AnalysisTaskTestGroupPane):
1495         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
1496         (AnalysisTaskTestGroupPane.prototype.setTestGroups): Update 'setTestGroups' to update _bisectingCommitSetByTestGroup
1497         when the test groups changes.
1498         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup): Added code to conditionally show bisect button.
1499         Bisect button will only show when there is a middle commit set for that test group.
1500         (AnalysisTaskTestGroupPane.htmlTemplate):
1501         (AnalysisTaskTestGroupPane.cssTemplate):
1502         (AnalysisTaskPage.prototype.didConstructShadowTree):
1503         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
1504         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup): A callback when bisect button is clicked.
1505         * tools/js/v3-models.js:
1506         * unit-tests/commit-log-tests.js: Added unit tests for 'CommitLog.hasCommitTime', 'CommitLog.hasCommitOrder',
1507         'CommitLog.orderTwoCommits', 'CommitLog.hasOrdering'.
1508         * unit-tests/commit-set-range-bisector-tests.js: Unit tests for 'CommitSetRangeBisector.commitSetClosestToMiddleOfAllCommits'.
1509         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.hasSameRepositories' and 'CommitSet.containsRootOrPatchOrOwnedCommit'.
1510
1511 2018-04-16  Dewei Zhu  <dewei_zhu@apple.com>
1512
1513         Commit order should always be returned by api.
1514         https://bugs.webkit.org/show_bug.cgi?id=184674
1515
1516         Reviewed by Ryosuke Niwa.
1517
1518         Commit order sometimes missing in CommitLog object before this change.
1519         This makes ordering commits logic become unnecessarily complicate.
1520         This change will ensure commit order is always fetched for a CommitLog object.
1521         Change measurement-set API to contain commit order information.
1522         Change commits API to contain commit order information.
1523
1524         * public/api/measurement-set.php: Includes commit order information.
1525         * public/include/commit-log-fetcher.php:
1526         * public/v3/models/commit-log.js: Added a function to return order information.
1527         (CommitLog.prototype.updateSingleton): This function should update commit order.
1528         (CommitLog.prototype.order): Returns the order of commit.
1529         * public/v3/models/commit-set.js:
1530         (MeasurementCommitSet): Update MeasurementCommitSet to contain commit order information when creating CommitLog object.
1531         * server-tests/api-measurement-set-tests.js: Updated unit tests.
1532         * unit-tests/analysis-task-tests.js: Update unit tests to contain commit order information in mock data.
1533         (measurementCluster):
1534         * unit-tests/commit-log-tests.js: Added unit tests for CommitLog.order.
1535         * unit-tests/commit-set-tests.js: Added commit order in MeasurementCommitSet.
1536         * unit-tests/measurement-adaptor-tests.js: Updated unit tests to contain commit order information in mock data.
1537         * unit-tests/measurement-set-tests.js: Updated unit tests to contain commit order information in mock data.
1538
1539 2018-04-15  Ryosuke Niwa  <rniwa@webkit.org>
1540
1541         Make it possible to hide some repository groups
1542         https://bugs.webkit.org/show_bug.cgi?id=184632
1543
1544         Reviewed by Saam Barati.
1545
1546         Added the ability to hide repository groups in the custom analysis task configurator from the admin page.
1547         Hidden repositroy groups will continue to function for existing test groups. This is purely an UI change.
1548
1549         * init-database.sql: Added repositorygroup_hidden as a new column to triggerable_repository_groups.
1550         * public/admin/triggerables.php: Added a form field to hide a repository group.
1551         * public/include/manifest-generator.php: Include hidden state in the manifest file.
1552         * public/v3/components/custom-analysis-task-configurator.js:
1553         (CustomAnalysisTaskConfigurator.prototype._renderRepositoryPanes): Filter out hidden repository groups.
1554         * public/v3/models/triggerable.js:
1555         (prototype.isHidden): Added.
1556         * server-tests/api-manifest-tests.js: Updated an existing test case to test a hidden repository group.
1557
1558 2018-04-06  Dewei Zhu  <dewei_zhu@apple.com>
1559
1560         Added 'CommitSet.diff' which will be shared between multiple independent incoming changes.
1561         https://bugs.webkit.org/show_bug.cgi?id=184368
1562
1563         Reviewed by Ryosuke Niwa.
1564
1565         'CommitSet.diff' will be used in multiple independent incoming changes.
1566         It would be easier to make this a separate change to parallelize the changes depends on this API.
1567
1568         * public/v3/models/commit-set.js:
1569         (CommitSet.prototype.createNameWithoutCollision): Moved from 'AnalysisTaskPage' and make it more generic.
1570         (CommitSet.prototype.diff): Describe differences between 2 commit sets including commit, root and patch differences.
1571         * public/v3/pages/analysis-task-page.js: Move 'AnalysisTaskPage._createRetryNameForTestGroup' to CommitSet in a more generic form.
1572         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Use 'CommitSet.withoutRootPatchOrOwnedCommit' instead.
1573         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Moved to CommitSet in a more generic form.
1574         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.diff'.
1575
1576 2018-04-05  Dewei Zhu  <dewei_zhu@apple.com>
1577
1578         Fix a bug introduced in r230295 that A/B test result is not shown.
1579         https://bugs.webkit.org/show_bug.cgi?id=184350
1580
1581         Reviewed by Ryosuke Niwa.
1582
1583         result.label should be assigned in `TestGroup._computeRequestedCommitSets`.
1584
1585         * public/v3/models/test-group.js:
1586         (TestGroup.prototype._computeRequestedCommitSets):
1587
1588 2018-03-29  Dewei Zhu  <dewei_zhu@apple.com>
1589
1590         Added UI to show potential regressions in chart with t-testing against segmentations.
1591         https://bugs.webkit.org/show_bug.cgi?id=184131
1592
1593         Reviewed by Ryosuke Niwa.
1594
1595         Added UI in the chart-pane so that user can use new option in trendline which not only
1596         shows the segmentation, but also t-test against potential changes indicated by segmentation.
1597
1598         Fix a bug in AnalysisTaskPage that chart is not updated when change type of task changes.
1599
1600         * browser-tests/interactive-time-series-chart-tests.js: Fix a unit tests.
1601         * browser-tests/time-series-chart-tests.js: Fix a unit tests.
1602         * public/shared/statistics.js: Added a function to t-test certain range based on segmentation results.
1603         (Statistics.supportedOneSideTTestProbabilities):
1604         (Statistics.findRangesForChangeDetectionsWithWelchsTTest): The argument `segmentations`, every 2 items in the list defines 
1605         segmentation, that is why the index incremental is 2 in this funcion.
1606         * public/v3/components/chart-pane-base.js: Will select the range if user clicks on a suggested annotation.
1607         (ChartPaneBase.prototype.configure):
1608         (ChartPaneBase.prototype._didClickAnnotation):
1609         * public/v3/components/chart-styles.js:
1610         (ChartStyles.annotationFillStyleForTask): Added 'annotationFillStyleForTask' to determine the fillStyle for annotation based on change type of a analysis task.
1611         * public/v3/components/interactive-time-series-chart.js:
1612         (InteractiveTimeSeriesChart.prototype._findAnnotation): Also need to search among suggested annotaions.
1613         * public/v3/components/time-series-chart.js: Introduced 'suggested annotaion' which does not have an existing task and is suggested by t-test based on segmentation.
1614         (TimeSeriesChart):
1615         (TimeSeriesChart.prototype.setSuggestedAnnotations):
1616         (TimeSeriesChart.prototype.allAnnotations): Returns both annotations with and without analysis task.
1617         (TimeSeriesChart.prototype._layoutAnnotationBars): Should take all annotations in the calculation.
1618         * public/v3/models/measurement-set.js:
1619         (MeasurementSet.prototype.metricId): Returns metric id.
1620         * public/v3/models/metric.js:
1621         (Metric.prototype.summarizeForValues): Added helper function to summarize a given value
1622         * public/v3/models/test-group.js:
1623         (TestGroup.prototype.compareTestResults): Adapted to use 'Metric.summarizeForValues'.
1624         * public/v3/pages/chart-pane.js: Added 'Segmentation with t-test analysis' to 'ChartTrendLineTypes'.
1625         (ChartPane.prototype._renderTrendLinePopover):
1626         (ChartPane.prototype.async._updateTrendLine): make it an async function.
1627         * unit-tests/statistics-tests.js: Added unit tests for 'findRangesForChangeDetectionsWithWelchsTTest'.
1628
1629 2018-04-02  Aakash Jain  <aakash_jain@apple.com>
1630
1631         Remove deprecated Buildbot 0.8 code from Perf syncing scripts
1632         https://bugs.webkit.org/show_bug.cgi?id=183915
1633
1634         Reviewed by Ryosuke Niwa.
1635
1636         * server-tests/resources/mock-data.js:
1637         (MockData.buildbotBuildersURLDeprecated): Deleted.
1638         (MockData.mockBuildbotBuildersDeprecated): Deleted.
1639         (MockData.pendingBuildDeprecated): Deleted.
1640         (MockData.runningBuildDeprecated): Deleted.
1641         (MockData.finishedBuildDeprecated): Deleted.
1642         * tools/js/buildbot-syncer.js:
1643         (BuildbotBuildEntryDeprecated): Deleted.
1644         (BuildbotBuildEntryDeprecated.prototype.initialize): Deleted.
1645         (BuildbotBuildEntryDeprecated.prototype.url): Deleted.
1646         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Deleted.
1647         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Deleted.
1648         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Deleted.
1649         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Deleted.
1650         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Deleted.
1651         (BuildbotSyncer.prototype.url): Deleted.
1652         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deleted.
1653         * tools/js/buildbot-triggerable.js:
1654         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Deleted.
1655         * unit-tests/buildbot-syncer-tests.js:
1656         (smallPendingBuildDeprecated): Deleted.
1657         (smallInProgressBuildDeprecated): Deleted.
1658         (smallFinishedBuildDeprecated): Deleted.
1659         (samplePendingBuildRequestDeprecated): Deleted.
1660         (sampleInProgressBuildDeprecated): Deleted.
1661         (sampleFinishedBuildDeprecated): Deleted.
1662
1663 2018-03-19  Aakash Jain  <aakash_jain@apple.com>
1664
1665         Update Perf buildbot syncing scripts for Buildbot 0.9
1666         https://bugs.webkit.org/show_bug.cgi?id=175969
1667
1668         Reviewed by Ryosuke Niwa.
1669
1670         * tools/js/buildbot-triggerable.js:
1671         (BuildbotTriggerable.prototype.initSyncers): Switch from Deprecated version to new version of getBuilderNameToIDMap.
1672         * tools/js/buildbot-syncer.js:
1673         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Switch from Deprecated version to new version of scheduleRequest.
1674         (BuildbotSyncer.prototype.pullBuildbot): Switch from Deprecated version to new version of pathForPendingBuilds, _pullRecentBuilds 
1675         and BuildbotBuildEntry. Parse the pending build-requests data in Buildbot 0.9 format.
1676         * unit-tests/buildbot-syncer-tests.js: Updated as per Buildbot 0.9 code.
1677         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
1678         * server-tests/tools-buildbot-triggerable-tests.js: Ditto.
1679         * server-tests/resources/mock-data.js: Ditto.
1680         (MockData.pendingBuildsUrl): Method to construct pendingBuildsUrl in Buildbot 0.9 format.
1681         (MockData.recentBuildsUrl): Ditto for recent builds url.
1682         (MockData.statusUrl): Ditto for status url.
1683         (MockData.builderIDForName): Method to get builder ID from builder name.
1684
1685 2018-03-15  Aakash Jain  <aakash_jain@apple.com>
1686
1687         BuildbotBuildEntry creates an incorrect url for pending builds
1688         https://bugs.webkit.org/show_bug.cgi?id=183670
1689
1690         Reviewed by Ryosuke Niwa.
1691
1692         * tools/js/buildbot-syncer.js:
1693         (BuildbotBuildEntry.prototype.initialize): Fetch buildrequestid from Buildbot.
1694         (BuildbotBuildEntry.prototype.url): Construct url for pending build using buildrequestid from Buildbot.
1695         * unit-tests/buildbot-syncer-tests.js: Updated unit-test.
1696
1697 2018-03-14  Aakash Jain  <aakash_jain@apple.com>
1698
1699         Add support for boolean properties in BuildbotSyncer while submitting build request to Buildbot 0.9 server
1700         https://bugs.webkit.org/show_bug.cgi?id=183638
1701
1702         Reviewed by Ryosuke Niwa.
1703
1704         * tools/js/buildbot-syncer.js:
1705         (BuildbotSyncer._parseRepositoryGroupPropertyTemplate): Allow boolean properties.
1706         * server-tests/tools-sync-buildbot-integration-tests.js: Tests for boolean properties.
1707         * unit-tests/buildbot-syncer-tests.js: Ditto.
1708
1709 2018-03-04  Dewei Zhu  <dewei_zhu@apple.com>
1710
1711         Create analysis task should use build time as fallback when commit time is not available.
1712         https://bugs.webkit.org/show_bug.cgi?id=183309
1713
1714         Reviewed by Ryosuke Niwa.
1715
1716         Added the ability to schedule analysis task for the range without commit time.
1717
1718         * public/privileged-api/create-analysis-task.php: Use build time as fallback.
1719         * server-tests/privileged-api-create-analysis-task-tests.js: Added a unit test for this change.
1720
1721 2018-03-04  Aakash Jain  <aakash_jain@apple.com>
1722
1723         BuildbotBuildEntry for buildbot 0.9 uses incorrect buildrequestid
1724         https://bugs.webkit.org/show_bug.cgi?id=183194
1725
1726         Reviewed by Ryosuke Niwa.
1727
1728         * tools/js/buildbot-syncer.js:
1729         (BuildbotBuildEntry.prototype.initialize): Updated _buildRequestId to use correct build-request-id, as set in syncer._buildRequestPropertyName.
1730         (BuildbotSyncer.prototype.pathForPendingBuilds): Updated url to fetch properties for build-requests.
1731         * unit-tests/buildbot-syncer-tests.js:
1732         (sampleBuildData): Updated sampleBuildData with correct build-request-id in properties. Added
1733         properties to samplePendingBuildRequestData.
1734
1735 2018-02-28  Aakash Jain  <aakash_jain@apple.com>
1736
1737         Rename samplePendingBuild to samplePendingBuildRequest
1738         https://bugs.webkit.org/show_bug.cgi?id=183171
1739
1740         Reviewed by Ryosuke Niwa.
1741
1742         * unit-tests/buildbot-syncer-tests.js:
1743         (samplePendingBuildRequests): Renamed from samplePendingBuild.
1744         (samplePendingBuildRequestDeprecated): Renamed from samplePendingBuildDeprecated.
1745         (samplePendingBuild): Deleted.
1746         (samplePendingBuildDeprecated): Deleted.
1747
1748 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
1749
1750         Add support for submitting build request to Buildbot 0.9 server in BuildbotSyncer
1751         https://bugs.webkit.org/show_bug.cgi?id=182218
1752
1753         Reviewed by Ryosuke Niwa.
1754
1755         * tools/js/buildbot-syncer.js:
1756         (BuildbotSyncer.prototype.scheduleRequest): Added assert to ensure forcescheduler property is always defined. Builds can not
1757         be scheduled on Buildbot without this property. Updated unit-tests and server-tests accordingly.
1758         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Method to schedule build request on Buildbot 0.8 server.
1759         (BuildbotSyncer.prototype.scheduleBuildOnBuildbot): Method to schedule build request on Buildbot 0.9 server.
1760         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Path for scheudling build on Buildbot 0.8 server.
1761         (BuildbotSyncer.prototype.pathForForceBuild): Path for scheudling build on Buildbot 0.9 server.
1762         * unit-tests/buildbot-syncer-tests.js:
1763         (smallConfiguration): Added test-case for scheduleBuildOnBuildbot. Also added forcescheduler property in sample data.
1764         * server-tests/resources/mock-data.js: Added forcescheduler property in sample data.
1765         * server-tests/tools-buildbot-triggerable-tests.js: Updated server-tests to take care of added forcescheduler property.
1766
1767 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
1768
1769         Add support for fetching recent builds in Buildbot 0.9 format in BuildbotSyncer
1770         https://bugs.webkit.org/show_bug.cgi?id=179743
1771
1772         Reviewed by Ryosuke Niwa.
1773
1774         * tools/js/buildbot-syncer.js:
1775         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Renamed from _pullRecentBuilds. This method fetch
1776         from Buildbot 0.8 server.
1777         (BuildbotSyncer.prototype._pullRecentBuilds): Method to fetch recent builds from Buildbot 0.9 server.
1778         (BuildbotSyncer.prototype.pathForRecentBuilds): URL for fetching recent builds from Buildbot 0.9 server.
1779         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Renamed from pathForBuildJSON.
1780         * unit-tests/buildbot-syncer-tests.js:
1781         (_pullRecentBuilds.it): unit-test - should not fetch recent builds when count is zero.
1782         (_pullRecentBuilds.it): unit-test - should pull the right number of recent builds.
1783         (_pullRecentBuilds.it): unit-test - should handle unexpected error while fetching recent builds.
1784         (_pullRecentBuilds.it): unit-test - should create BuildbotBuildEntry after fetching recent builds.
1785
1786 2018-02-01  Aakash Jain  <aakash_jain@apple.com>
1787
1788         Create BuildbotBuildEntry in Buildbot syncer in Buildbot 0.9 format
1789         https://bugs.webkit.org/show_bug.cgi?id=182036
1790
1791         Reviewed by Ryosuke Niwa.
1792
1793         * tools/js/buildbot-syncer.js:
1794         (BuildbotBuildEntry): Class for Buildbot entry in Buildbot 0.9 data format.
1795         (BuildbotBuildEntryDeprecated): Renamed from BuildbotBuildEntry, sub-classed from BuildBotEntry. Handles Buildbot 0.8 data format.
1796         (BuildbotBuildEntryDeprecated.prototype.url): URL in buildbot 0.8 format.
1797         (BuildbotSyncer.prototype.builderID): Added.
1798         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Renamed from BuildbotSyncer.prototype.pathForPendingBuildsJSON.
1799         (BuildbotSyncer.prototype.pathForPendingBuilds): Path for pending builds in Buildbot 0.9 format.
1800         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deprecated. Renamed from urlForBuildNumber.
1801         (BuildbotSyncer.prototype.urlForBuildNumber): Updated in Buildbot 0.9 format.
1802         (BuildbotSyncer.prototype.urlForPendingBuild): Buildbot 0.9 has individual webpage for pending buildrequests as well. URL to that page.
1803         * unit-tests/buildbot-syncer-tests.js: Renamed BuildbotBuildEntry to BuildbotBuildEntryDeprecated.
1804         (sampleBuildData): Sample build data. Common method for in-progress and finished build data.
1805         (samplePendingBuildData): Sample data for a pending build. Separate method so that we can easily create sample data with multiple builds.
1806         (sampleInProgressBuildData): Ditto for in-progress build.
1807         (sampleFinishedBuildData): Ditto for finished build.
1808         (samplePendingBuild): Sample data for single pending build.
1809         (sampleInProgressBuild): Ditto for in-progress build.
1810         (sampleFinishedBuild): Ditto for finished build.
1811         (samplePendingBuildDeprecated): Renamed from samplePendingBuild.
1812         (sampleInProgressBuildDeprecated): Renamed from sampleInProgressBuild.
1813         (sampleFinishedBuildDeprecated): Renamed from sampleFinishedBuild.
1814         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for pending build.
1815         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for in-progress build.
1816         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for finished build.
1817         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for mix of in-progress and finished build.
1818
1819 2018-01-31  Dewei Zhu  <dewei_zhu@apple.com>
1820
1821         Should chose the best match during 'route' if there are multiple matches.
1822         https://bugs.webkit.org/show_bug.cgi?id=182326
1823
1824         Reviewed by Ryosuke Niwa.
1825
1826         r227749 made a change that 'analysisCategoryPage' will be added before 'analysisTaskPage'.
1827         As route names for both pages starts with 'analysis', whichever added first will be chosen.
1828         For a route like 'analysis/task/1'. As a result, 'analysisCategoryPage' will be chosen and
1829         this is not expected behavior. Adding the logic on the cases when route name does not extact
1830         match the route name, always choose the longest mathcing route name.
1831
1832         Also modernized the code of 'page-router.js' to use const & let instead of var.
1833
1834         Added a browser test to guard against this bug.
1835
1836         * browser-tests/index.html: Import 'page-router-tests.js'.
1837         * browser-tests/page-router-tests.js: Added unit test to guard against this bug.
1838         * public/v3/pages/page-router.js:
1839         (PageRouter.prototype.route): Added logic to find best matching in the case of inexact match.
1840         (PageRouter.prototype.pageDidOpen):
1841         (PageRouter.prototype._updateURLState):
1842         (PageRouter.prototype._serializeToHash):
1843         (PageRouter.prototype._deserializeFromHash):
1844         (PageRouter.prototype._serializeHashQueryValue):
1845         (PageRouter.prototype._deserializeHashQueryValue):
1846         (PageRouter.prototype._countOccurrences):
1847         (PageRouter):
1848
1849 2018-01-29  Dewei Zhu  <dewei_zhu@apple.com>
1850
1851         Should fetch owner commits in build-requests-fetcher.
1852         https://bugs.webkit.org/show_bug.cgi?id=182266
1853
1854         Reviewed by Ryosuke Niwa.
1855
1856         In a build request, owner commit of a commit is not always one of a commit in the commit set.
1857         Build request api should contain owner commits in the 'commits' field of the return value.
1858
1859         * public/include/build-requests-fetcher.php: Added logic to fetch owner commits and added them into 'commits'.
1860         * server-tests/api-build-requests-tests.js: Added a unit test.
1861         * server-tests/resources/mock-data.js:
1862         (MockData.set addTestGroupWithOwnerCommitNotInCommitSet): Added a test group with a build request, the commit set of which does
1863         not contain owner commit of one commit.
1864
1865 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1866
1867         Add the support for reporting Speedometer 2.0 results to perf dashboard
1868         https://bugs.webkit.org/show_bug.cgi?id=182089
1869         <rdar://problem/36172346>
1870
1871         Rubber-stamped by Chris Dumez.
1872
1873         Apparently, this has always worked since the very first version of the perf dashboard added in r163688.
1874         The relevant code is at the line 313 of report-processor.php now.
1875
1876         Added regression tests for this feature since we didn't have any tests four years ago.
1877
1878         * server-tests/api-report-tests.js:
1879
1880 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1881
1882         REGRESSION(r225898): The perf dashboard fails to open when there are no summary pages
1883         https://bugs.webkit.org/show_bug.cgi?id=182210
1884
1885         Rubber-stamped by Chris Dumez.
1886
1887         The bug was caused by TestFreshnessPage unconditionally assuming that summaryPageConfiguration is set.
1888         Fixed it by not creating TestFreshnessPage when there are no summary pages specified.
1889
1890         Also modernized the code to use const & let instead of var.
1891
1892         * public/v3/main.js:
1893         (main):
1894
1895 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1896
1897         Perf dashboard's page title can be set to a previously visited page
1898         https://bugs.webkit.org/show_bug.cgi?id=182209
1899
1900         Rubber-stamped by Chris Dumez.
1901
1902         Before this patch, opening a page and navigating away from it could result in the page title
1903         getting set to that of the previously visited page after the new page had been opened.
1904
1905         This bug was caused by Page.render keep setting document.title even though the page is no longer
1906         the currently open page of the router. Fixed it by exiting early in Page.enqueueToRender when
1907         this page is not the currently open page of the router.
1908
1909         Also added basic tests for Page.
1910
1911         * browser-tests/index.html:
1912         * browser-tests/page-tests.js: Added.
1913         * public/v3/pages/page.js:
1914         (Page): Removed the unused second constructor argument.
1915         (Page.prototype.enqueueToRender): Fixed the bug.
1916         (Page.prototype.render): Use const instead of var.
1917
1918 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
1919
1920         CommitLogViewer should not fetch commits in serial
1921         https://bugs.webkit.org/show_bug.cgi?id=182207
1922
1923         Rubber-stamped by Chris Dumez.
1924
1925         Fetch both the commits in the range as well as the preceding commit at once instead of
1926         fetching the preceding commit only after the commits in the range had been fetched.
1927
1928         * browser-tests/commit-log-viewer-tests.js: Fixed the tcoest case after r224227.
1929         * public/v3/components/commit-log-viewer.js:
1930         (CommitLogViewer.prototype._fetchCommitLogs): Fetch commits in parallel.
1931
1932 2018-01-24  Dewei Zhu  <dewei_zhu@apple.com>
1933
1934         Check existence of 'node_modules_dir' before creating it.
1935         https://bugs.webkit.org/show_bug.cgi?id=182040
1936
1937         Reviewed by Aakash Jain.
1938
1939         Fix the bug introduced in r227395.
1940
1941         * tools/run-tests.py: Added directory existence check.
1942
1943 2018-01-22  Dewei Zhu  <dewei_zhu@apple.com>
1944
1945         Fix the bug that 'TestGroupResultsViewer' creates unnecessary rows.
1946         https://bugs.webkit.org/show_bug.cgi?id=181967
1947
1948         Reviewed by Ryosuke Niwa.
1949
1950         Fixed a bug caused by a typo in CommitSet.equals, which makes it returns incorrect results for most
1951         comparison between a CommitSet and a MeasurementCommitSet.
1952
1953         MeasurementCommitSet does not have full information for the commits, thus, it cannot build mappings
1954         between root/patch/owner commit/requires build to repository. When querying whether a given repository
1955         needs to be built, MeasurementCommitSet will return undefined. Due to 'undefined != false', this
1956         equality check will fail. Making 'CommitSet.requiresBuildForRepository' defaults to 'false' would fix
1957         this bug.
1958
1959         * public/v3/models/commit-set.js:
1960         (CommitSet.prototype.requiresBuildForRepository): Make it return false when key does not exist
1961         instead of 'undefined'.
1962         (CommitSet.prototype.equals): Fixed the typo that causes the bug.
1963         Use wrapped functions instead of querying the mapping directly.
1964         * unit-tests/commit-set-tests.js: Added unit tests.
1965
1966 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
1967
1968         'run-test.py' script should make sure 'node_modules' directory exists before installing node packages.
1969         https://bugs.webkit.org/show_bug.cgi?id=181808
1970
1971         Reviewed by Ryosuke Niwa.
1972
1973         'run-test.py' will fail if 'node_modules' does not exist before running this script.
1974         Instead of calling 'os.chdir' to change directory, use 'cwd' in subprocess instead.
1975
1976         * tools/run-tests.py: Added the logic to ensure 'node_modules' exists.
1977         Also use 'cwd' in subprocess.call instead of calling 'os.chdir' ahead.
1978
1979 2018-01-20  Dewei Zhu  <dewei_zhu@apple.com>
1980
1981         Extend 'ifBuilt' config key to set property based on whether certain repositories are built or not.
1982         https://bugs.webkit.org/show_bug.cgi?id=181906
1983
1984         Reviewed by Ryosuke Niwa.
1985
1986         Before this change, 'ifBuilt' will always set specified property for test properties as long as there
1987         is a build type build in the same build request group. However, this is no longer valid as we don't
1988         want to set specified property for testing when only owned commit is built in previous build.
1989         'ifBuilt' needs to conditionally set property based on whether certain required repositories are built.
1990         Empty required repository list means no requirement on repository to set property.
1991
1992         * tools/js/buildbot-syncer.js:
1993         (BuildbotSyncer.prototype._propertiesForBuildRequest):In the case of 'built', only set property when
1994         repository requirment is meet and there is a 'build' root request in the same build request group.
1995         (BuildbotSyncer._parseRepositoryGroup): Extend 'ifBuild' to pass information based on contition.
1996         * unit-tests/buildbot-syncer-tests.js: Added unit tests.
1997
1998 2018-01-19  Dewei Zhu  <dewei_zhu@apple.com>
1999
2000         Should reject updating a build request which has an associated build.
2001         https://bugs.webkit.org/show_bug.cgi?id=181893
2002
2003         Reviewed by Ryosuke Niwa.
2004
2005         Current code does not prevent submitting to same build request multiple times.
2006         This could lead to a build losing its associated build request.
2007         As a result, this build will be visible in charts which is not right.
2008         Added a check when a build request is reported.
2009         Addressed a 'FIXME' for the race condition inside ReportProcessor->resolve_build_id by surrounding
2010         it with a database transaction.
2011
2012         * public/include/report-processor.php:
2013         Wrap adding platform and resolve_build_id with a database transaction.
2014         Add a check to make sure only a build request has no associated build can be updated.
2015         * server-tests/api-report-tests.js: Added unit tests accordingly.
2016
2017 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
2018
2019         Should allow updating a build-request to 'canceled'.
2020         https://bugs.webkit.org/show_bug.cgi?id=181819
2021
2022         Reviewed by Ryosuke Niwa.
2023
2024         It's possible syncing script update a build-request to 'canceled' state.
2025
2026         * public/api/build-requests.php: Added 'canceled' as an acceptable update state.
2027         * server-tests/api-build-requests-tests.js: Added a unit test to update a build-request to 'canceled'.
2028
2029 2018-01-18  Aakash Jain  <aakash_jain@apple.com>
2030
2031         Add support for builderNameToIDMap in BuildbotSyncer
2032         https://bugs.webkit.org/show_bug.cgi?id=176526
2033
2034         Reviewed by Ryosuke Niwa.
2035
2036         * tools/js/buildbot-syncer.js:
2037         (BuildbotSyncer._loadConfig): Added builderNameToIDMap parameter. It would be used later on.
2038         (BuildbotSyncer._resolveBuildersWithPlatforms): Ditto.
2039         (BuildbotSyncer._validateAndMergeConfig): Added builderID as a valid config parameter.
2040         * tools/js/buildbot-triggerable.js:
2041         (BuildbotTriggerable.prototype.getBuilderNameToIDMap): Method to fetch BuilderNameToIDMap from Buildbot 0.9.
2042         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Method to fetch BuilderNameToIDMap from Buildbot 0.8.
2043         (BuildbotTriggerable.prototype.initSyncers): Updated to use getBuilderNameToIDMap.
2044         * unit-tests/buildbot-syncer-tests.js: Updated unit-tests.
2045         * server-tests/resources/mock-data.js:
2046         (MockData.buildbotBuildersURLDeprecated): URL for fetching Builders list.
2047         (MockData.buildbotBuildersURL): Ditto for Buildbot 0.9
2048         (MockData.mockBuildbotBuildersDeprecated): Sample builders data for Buildbot 0.8
2049         (MockData.mockBuildbotBuilders): Ditto for Buildbot 0.9
2050         * server-tests/tools-buildbot-triggerable-tests.js: Added test for getBuilderNameToIDMap. Updated tests to handle
2051         newly added promise for fetching builders list from Buildbot.
2052         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
2053
2054 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
2055
2056         Charts can be empty when values are all identical
2057         https://bugs.webkit.org/show_bug.cgi?id=181828
2058
2059         Reviewed by Alexey Proskuryakov.
2060
2061         Fixed the bug that when SampleVarianceUpperTriangularMatrix can store -Infinity as the initial cost
2062         of some entries when the sample standard deviation between two points turns out to be 0,
2063         and cause splitIntoSegmentsUntilGoodEnough to return undefiend because no segmentation has a finite cost.
2064
2065         Also fixed the bug that the time series chart fails to show any data points when all data points have
2066         identical values as the entire y-coordinate gets collapsed to an empty value range by adjusting the max value
2067         when min & max values are identical.
2068
2069         * public/v3/components/time-series-chart.js:
2070         (TimeSeriesChart.prototype._ensureValueRangeCache): Raise the max slightly when min & max are identical
2071         to avoid the chart becoming empty. Otherwise valueDiff in _computeVerticalRenderingMetrics becomes 0
2072         and value-to-y-coordinate conversion always results in NaN.
2073         * public/shared/statistics.js:
2074         (Statistics..SampleVarianceUpperTriangularMatrix):
2075         * unit-tests/statistics-tests.js: Added a test case.
2076
2077 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
2078
2079         Don't fetch more than two builds to check duplicity of builds in ReportProcessor
2080         https://bugs.webkit.org/show_bug.cgi?id=181786
2081
2082         Reviewed by Wenson Hsieh.
2083
2084         Limit the number of builds to check to avoid using a lot of memory with a long delay.
2085
2086         * public/include/report-processor.php:
2087         (ReportProcessor::resolve_build_id): 
2088
2089 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2090
2091         Rename config.json to config.json.sample
2092         https://bugs.webkit.org/show_bug.cgi?id=181785
2093
2094         Reviewed by Wenson Hsieh.
2095
2096         * .gitignore: Added config.json.
2097         * ReadMe.md: Updated the instruction.
2098         * config.json.sample: Renamed from config.json.
2099
2100 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2101
2102         Unreviewed build fixes in TestGroupResultsViewer.
2103
2104         * public/v3/components/test-group-results-viewer.js:
2105         (TestGroupResultsViewer.prototype.render): _renderCurrentMetricsLazily was never called.
2106         (TestGroupResultsViewer.prototype._buildRowForMetric): Don't try to render null or NaN.
2107
2108 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2109
2110         Fix perf dashboard tests for node v8
2111         https://bugs.webkit.org/show_bug.cgi?id=181782
2112
2113         Reviewed by Wenson Hsieh.
2114
2115         Fixed the various tests for node.js v8, which is the latest LTS version.
2116
2117         * server-tests/api-manifest-tests.js: Replaced the missing Triggerable.acceptsTest by Triggerable.acceptedTests
2118         after r226836.
2119         * server-tests/api-measurement-set-tests.js: Added "Z" to the end timestamps to force UTF timezone now that Date
2120         in node.js parses using the local timezone by default.
2121         * server-tests/resources/test-server.js:
2122         (TestServer.prototype._restoreDataDirectory): Fixed the bug that this function was erroneously using the async
2123         function to rename a directory per new warnings. This code was racy, and it used to cause a test error occasionally.
2124         * server-tests/tools-os-build-fetcher-tests.js: Fixed the assertions to make it work in the latest node.js.
2125         * unit-tests/measurement-set-tests.js:
2126         (waitForMeasurementSet): Wait for setTimeout to cycle through all microtasks instead of just two microtask cycles.
2127
2128 2018-01-11  Ryosuke Niwa  <rniwa@webkit.org>
2129
2130         Cannot trigger Dromaeo tests on internal perf try bots
2131         https://bugs.webkit.org/show_bug.cgi?id=179712
2132
2133         Reviewed by Chris Dumez.
2134
2135         The bug was caused by CustomAnalysisTaskConfigurator only showing the top-level tests that are triggerable
2136         instead of the list of highest level tests that are triggerable.
2137
2138         * public/v3/components/custom-analysis-task-configurator.js:
2139         (CustomAnalysisTaskConfigurator.prototype.selectTests): Update the test group name when a new test is picked.
2140         (CustomAnalysisTaskConfigurator.prototype.selectPlatform):
2141         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Extracted from selectPlatform.
2142         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Include the list of all highest-level tests
2143         which are triggerable.
2144         (CustomAnalysisTaskConfigurator.prototype._renderRadioButtonList): Added labelForObject which returns the label
2145         to be used in the list items. For tests, we want to use the full name, not just its label.
2146         * public/v3/models/analysis-task.js:
2147         (AnalysisTask.fetchById):
2148         * public/v3/models/triggerable.js:
2149         (Triggerable.prototype.acceptedTests): Added.
2150         (Triggerable.prototype.acceptsTest): Deleted.
2151
2152 == Rolled over to ChangeLog-2018-01-01 ==