3dccc810d15df4d36440e279ff264f6da3c9bd59
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2019-10-28  Dewei Zhu  <dewei_zhu@apple.com>
2
3         Fix a bug that cannot unhide a platform.
4         https://bugs.webkit.org/show_bug.cgi?id=203521
5
6         Reviewed by Ryosuke Niwa.
7
8         Before this change, the there is no value in POST when 'hidden' checkbox is unchecked.
9         Then the update will fail because platform_hidden cannot be NULL.
10
11         * public/admin/platforms.php: Adapted 'update_boolean_field'.
12         * public/admin/triggerables.php: Adapted 'update_boolean_field'.
13         * public/include/admin-header.php: Added 'update_boolean_field' helper function to set explict
14         boolean value for update.
15
16 2019-10-25  Dewei Zhu  <dewei_zhu@apple.com>
17
18         Add SSL support for peformance dashboard database connection.
19         https://bugs.webkit.org/show_bug.cgi?id=203426
20
21         Reviewed by Ryosuke Niwa.
22
23         Performance dashboard should allow connecting Postgres database with SSL.
24
25         * public/include/db.php: Add SSL configuration to connection string if specified.
26         * tools/js/database.js: Add SSL configuration to connection string if specified.
27         (Database.prototype._prepareSSLConfig):
28         (Database.prototype.connect):
29         * unit-tests/checkconfig.js: Added unit tests for optional ssl fields.
30
31 2019-10-22  Dewei Zhu  <dewei_zhu@apple.com>
32
33         Refactor "builds" table "build_number" row to "build_tag" to fit more generic use cases.
34         https://bugs.webkit.org/show_bug.cgi?id=203270
35
36         Reviewed by Ryosuke Niwa.
37
38         Rename "build_number" to "build_tag" to fit more generic use cases.
39         Add support to be backward compatible to accept reports contain either
40         "buildNumber" or "buildTag".
41
42         * browser-tests/index.html:
43         * init-database.sql:
44         * migrate-database.sql: Updated migration sql for this change.
45         * public/admin/test-configurations.php:
46         * public/api/measurement-set.php:
47         * public/api/runs.php:
48         * public/api/upload-root.php: Added support for both "buildNumber" and "buildTag".
49         * public/include/report-processor.php: Added support for both "buildNumber" and "buildTag".
50         * public/v3/models/builder.js:
51         (Builder.prototype.urlForBuild):
52         (Builder):
53         (Build):
54         (Build.prototype.buildTag):
55         (Build.prototype.label):
56         (Build.prototype.url):
57         (Build.prototype.buildNumber): Deleted.
58         * public/v3/models/measurement-adaptor.js:
59         (MeasurementAdaptor):
60         (MeasurementAdaptor.prototype.applyTo.return.build):
61         * public/v3/pages/chart-pane-status-view.js:
62         * public/v3/pages/test-freshness-page.js:
63         (TestFreshnessPage.prototype._renderTooltip):
64         * server-tests/admin-platforms-tests.js:
65         (reportsForDifferentPlatforms):
66         * server-tests/admin-reprocess-report-tests.js:
67         * server-tests/api-commits-tests.js:
68         * server-tests/api-manifest-tests.js:
69         * server-tests/api-measurement-set-tests.js:
70         * server-tests/api-report-tests.js: Added unit tests for testing "buildNumber" and "buildTag".
71         (emptyReport):
72         (reportWitMismatchingCommitTime):
73         (reportWithOneSecondCommitTimeDifference):
74         (emptySlaveReport):
75         (makeReport):
76         (reportWithSameSubtestName):
77         * server-tests/api-upload-root-tests.js: Added unit tests for testing "buildNumber" and "buildTag".
78         * server-tests/privileged-api-add-build-requests-tests.js:
79         * server-tests/privileged-api-create-analysis-task-tests.js:
80         * server-tests/privileged-api-create-test-group-tests.js:
81         (createAnalysisTask):
82         * server-tests/privileged-api-upate-run-status.js:
83         * server-tests/privileged-api-update-test-group-tests.js:
84         (async.createAnalysisTask):
85         * server-tests/resources/mock-data.js:
86         (MockData.addMockConfiguration):
87         (MockData.sampleBuildData):
88         (MockData.finishedBuildData):
89         * server-tests/tools-sync-buildbot-integration-tests.js:
90         * tools/js/buildbot-syncer.js:
91         (BuildbotBuildEntry.prototype.initialize):
92         (BuildbotBuildEntry.prototype.buildTag):
93         (BuildbotBuildEntry.prototype.url):
94         (BuildbotSyncer.prototype.urlForBuildTag):
95         (BuildbotBuildEntry.prototype.buildNumber): Deleted.
96         (BuildbotSyncer.prototype.urlForBuildNumber): Deleted.
97         * unit-tests/analysis-task-tests.js:
98         (measurementCluster):
99         * unit-tests/buildbot-syncer-tests.js:
100         * unit-tests/measurement-adaptor-tests.js:
101         * unit-tests/measurement-set-analyzer-tests.js:
102         * unit-tests/measurement-set-tests.js:
103         * unit-tests/resources/mock-v3-models.js:
104
105 2019-10-11  Dewei Zhu  <dewei_zhu@apple.com>
106
107         Improve test freshness page interaction experience.
108         https://bugs.webkit.org/show_bug.cgi?id=202684
109
110         Reviewed by Ryosuke Niwa.
111
112         Change test freshness page show tooltip on click instead of popuping on mouse hover.
113         And clicking anywhere in 'page-with-heading' section except the tooltip can dismiss tooltip.
114         Add keyboard support to move focus around including 'Tab' key support.
115         Add support to use 'Enter' key to show or dismiss tooltip.
116         Add support to use 'Escape' key to dismiss tooltip.
117
118         * public/shared/common-component-base.js: Added support for link to specify 'tabindex'.
119         (CommonComponentBase.prototype.createLink):
120         (CommonComponentBase.createLink):
121         (CommonComponentBase):
122         * public/v3/components/base.js: Added support for customizing whether or not prevent default and stop propagation
123         while creating event handler.
124         (ComponentBase.prototype.createEventHandler):
125         (ComponentBase.createEventHandler):
126         (ComponentBase):
127         * public/v3/components/freshness-indicator.js:
128         (FreshnessIndicator): Removed 'url' property and removed customization for mouse event.
129         (FreshnessIndicator.prototype.update):
130         (FreshnessIndicator.prototype.didConstructShadowTree): Deleted.
131         * public/v3/pages/test-freshness-page.js:
132         (TestFreshnessPage): Changed to show tooltip on click and added key board event.
133         (TestFreshnessPage.prototype.didConstructShadowTree): Added key event support.
134         (TestFreshnessPage.prototype._findClosestIndicatorAnchorForCoordinate):
135         (TestFreshnessPage.prototype.render):
136         (TestFreshnessPage.prototype._renderTooltip):
137         (TestFreshnessPage.prototype._constructTableCell): Added tabIndex for each cell that contains freshness indicator.
138         (TestFreshnessPage.prototype._configureAnchorForIndicator):
139         (TestFreshnessPage.prototype._clearIndicatorState): Changed the color of links in tooltip to a more readable color.
140         Added styles when anchor for status cell and links on tooltip are focused.
141         (TestFreshnessPage.cssTemplate):
142
143 2019-10-04  Zhifei Fang  <zhifei_fang@apple.com>
144
145         [perf dashboard] Test fressness popover sometimes point to wrong place
146         https://bugs.webkit.org/show_bug.cgi?id=202606
147
148         Reviewed by Ryosuke Niwa.
149
150         * public/v3/pages/test-freshness-page.js: Use a invisable tooltip anchor to cacluate tooltip position. It also helps to get rid of caculation for determine the tooltip table position. 
151         (TestFreshnessPage.prototype._renderTooltip):
152         (TestFreshnessPage.cssTemplate):
153
154 2019-10-04  Zhifei Fang  <zhifei_fang@apple.com>
155
156         [perf dashboard] Make test fressness head and indicator perfect centered
157         https://bugs.webkit.org/show_bug.cgi?id=202602
158
159         Reviewed by Ryosuke Niwa.
160
161         * public/v3/components/freshness-indicator.js: make indicator margin auto, it will then horizontally centered in the container
162         (FreshnessIndicator.cssTemplate):
163         (FreshnessIndicator):
164         * public/v3/pages/test-freshness-page.js: make the table head transform based on the center left
165         (TestFreshnessPage.cssTemplate):
166
167 2019-10-02  Dewei Zhu  <dewei_zhu@apple.com>
168
169         Fix a bug that warning icon causes infinite rendering when it has warning message.
170         https://bugs.webkit.org/show_bug.cgi?id=202502
171
172         Reviewed by Ryosuke Niwa.
173
174         Fix the problem that a warning icon with a warning message will result in infinite rendering.
175
176         * public/v3/components/button-base.js:
177         (ButtonBase):
178         (ButtonBase.prototype.setButtonTitle): Fixed a typo in function name and moved the title update to
179         render function.
180         (ButtonBase.prototype.render): Added the logic to render title.
181         * public/v3/components/test-group-revision-table.js: Set warning message by invoking setButtonTitle.
182         * public/v3/components/warning-icon.js: Removed the warning messge related code and leave the responsibility
183         to ButtonBase.
184         (WarningIcon):
185         (WarningIcon.prototype.render):
186
187 2019-07-30  Dewei Zhu  <dewei_zhu@apple.com>
188
189         Provide build request status description information on dashboard.
190         https://bugs.webkit.org/show_bug.cgi?id=199810
191
192         Reviewed by Ryosuke Niwa.
193
194         Add build request status description to show detailed information for a build and show it in dashboard.
195         Update SQL for existing instance:
196             ALTER TABLE build_requests ADD COLUMN IF NOT EXISTS request_status_description varchar(1024) DEFAULT NULL;
197
198         * ReadMe.md: Updated instructions for initializing a database to include running 'migrate-database.sql'.
199         * init-database.sql: Added request_status_description column.
200         * migrate-database.sql: A file stores migration SQL for existing instance.
201         * public/api/build-requests.php: Added support for updating request_status_description.
202         * public/include/build-requests-fetcher.php: Exposed `statusDescription` to API.
203         * public/v3/components/test-group-revision-table.js: Added UI for showing build request status detail.
204         (TestGroupRevisionTable.prototype._renderTable):
205         (TestGroupRevisionTable.prototype._buildDescriptionCell):
206         (TestGroupRevisionTable.cssTemplate):
207         * public/v3/components/warning-icon.js: Extended warning icon to be able to customize information on hover.
208         (WarningIcon):
209         (WarningIcon.prototype.render):
210         * public/v3/components/button-base.js: Added a instance method to set button title.
211         (ButtonBase.prototype.setButtonTitle):
212         * public/v3/models/build-request.js: Added 'statusDescription' field.
213         (BuildRequest):
214         (BuildRequest.prototype.updateSingleton):
215         (BuildRequest.prototype.statusDescription):
216         * server-tests/api-build-requests-tests.js: Fixed unit tests.
217         * server-tests/resources/mock-data.js:
218         (MockData.set mockTestSyncConfigWithSingleBuilder): Added 'status_description' in buildbot mock data.
219         (MockData.sampleBuildData):
220         * server-tests/resources/test-server.js:
221         (TestServer.prototype.initDatabase): Added code to execute 'migrate-database.sql' on initialization.
222         * server-tests/tools-sync-buildbot-integration-tests.js: Added unit tests.
223         * tools/js/buildbot-syncer.js: Added 'statusDescription' field to 'BuildbotBuildEntry'.
224         (BuildbotBuildEntry.prototype.initialize):
225         (BuildbotBuildEntry.prototype.statusDescription):
226         * tools/js/buildbot-triggerable.js:
227         (BuildbotTriggerable.prototype._pullBuildbotOnAllSyncers):
228         * unit-tests/buildbot-syncer-tests.js: Added test code for BuildbotBuildEntry.statusDescription.
229
230 2019-07-26  Dewei Zhu  <dewei_zhu@apple.com>
231
232         Dashboard should defaults to first dashboard page when summary page is not available.
233         https://bugs.webkit.org/show_bug.cgi?id=200180
234
235         Reviewed by Ryosuke Niwa.
236
237         Fix a bug that charts page will become the default when there is no summary page but there
238         is at least one dashboard page.
239
240         * public/v3/main.js: Charts page and analysis category page should not be considered as summay pages.
241         (main):
242
243 2019-07-30  Dewei Zhu  <dewei_zhu@apple.com>
244
245         Analysis task page should show build request author and creation time.
246         https://bugs.webkit.org/show_bug.cgi?id=200274
247
248         Reviewed by Ryosuke Niwa.
249
250         Author and creation time of a build request should be visible in analysis task page.
251
252         * public/v3/pages/analysis-task-page.js: Added UI to show build request creation time and author.
253         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup):
254
255 2019-07-29  Dewei Zhu  <dewei_zhu@apple.com>
256
257         Should not render latest build information if there is no data points for a config.
258         https://bugs.webkit.org/show_bug.cgi?id=200250
259
260         Reviewed by Ryosuke Niwa.
261
262         Fix a bug test freshness page that tooltip cannot be rendered when a cell does not have
263         a data point.
264
265         * public/v3/pages/test-freshness-page.js: Added a null check on commit set before rendering
266         latest build informaiton.
267         (TestFreshnessPage.prototype._renderTooltip):
268
269 2019-07-25  Dewei Zhu  <dewei_zhu@apple.com>
270
271         Fix a bug that cannot update builder password on builders administrative page.
272         https://bugs.webkit.org/show_bug.cgi?id=200154
273
274         Reviewed by Ryosuke Niwa.
275
276         'builders' administrative page should be able to update password for a builder.
277
278         * public/admin/builders.php: Should be able to update builder password.
279
280 2019-07-23  Dewei Zhu  <dewei_zhu@apple.com>
281
282         Use 12 digits to show a git commit.
283         https://bugs.webkit.org/show_bug.cgi?id=200067
284
285         Reviewed by Ryosuke Niwa.
286
287         Use 12 digits to show a git commit to reasonably descrease commit prefix collision probability
288         for repository with large amount of commits.
289
290         * public/v3/models/commit-log.js: Increase digits from 8 to 12 for git SHA.
291         (CommitLog.prototype.label):
292         (CommitLog.prototype.diff):
293         * unit-tests/commit-log-tests.js: Updated unit tests.
294         * unit-tests/commit-set-tests.js: Updated unit tests.
295
296 2019-07-03  Dewei Zhu  <dewei_zhu@apple.com>
297
298         Test freshness page should expose revision information for latest build on tooltip.
299         https://bugs.webkit.org/show_bug.cgi?id=199483
300
301         Reviewed by Ryosuke Niwa.
302
303         Added latest build revision information on test freshness page tooltip.
304
305         * public/v3/pages/test-freshness-page.js: Add build revision information on tooltip.
306         (TestFreshnessPage.prototype.didConstructShadowTree):
307         (TestFreshnessPage.prototype._fetchTestResults):
308         (TestFreshnessPage.prototype.render):
309         (TestFreshnessPage.prototype._renderTooltip):
310         (TestFreshnessPage.cssTemplate):
311
312 2019-06-26  Dewei Zhu  <dewei_zhu@apple.com>
313
314         commit api should not return 'AmbiguousRevisionPrefix' if there is an exact revision match
315         https://bugs.webkit.org/show_bug.cgi?id=199227
316
317         Reviewed by Ryosuke Niwa.
318
319         When prefix match is specified, api should check whether there is an exact match when multiple commits
320         match the prefix.
321
322         * public/include/commit-log-fetcher.php: Added the logic to check if there is an exact match when multiple matches are found.
323         * server-tests/api-commits-tests.js: Added an unit test.
324
325 2019-06-24  Dean Johnson  <dean_johnson@apple.com>
326
327         [perf.webkit.org] Update summary page calculations to use mean instead of median
328         https://bugs.webkit.org/show_bug.cgi?id=199050
329
330         Reviewed by Dewei Zhu.
331
332         * public/v3/pages/summary-page.js:
333         (SummaryPageConfigurationGroup): Updated 'median' references to 'mean'.
334         (SummaryPageConfigurationGroup.set _startAndEndPointForTimeRange): Factored out logic for finding data
335         points in a timeSeries, within a specified timeRange.
336         (SummaryPageConfigurationGroup.set _meanForTimeRange): New. Returns the mean of a timeSeries across a
337         given timeRange.
338
339 2019-06-20  Dewei Zhu  <dewei_zhu@apple.com>
340
341         Fix a bug that 'test_metrics' and 'tests' tables are not joined correctly in CommitLogFetcher.fetch_latest_for_platform
342         https://bugs.webkit.org/show_bug.cgi?id=199062
343
344         Reviewed by Ryosuke Niwa.
345
346         'test_metrics' and 'tests' should be joined based on 'metric_test' and 'test_id'.
347
348         * public/include/commit-log-fetcher.php: Fix the typo in the query.
349         * server-tests/api-commits-tests.js: Added a unit test for this change.
350
351 2019-06-17  Dewei Zhu  <dewei_zhu@apple.com>
352
353         Customizable test group form should allow user to supply a revision prefix of a commit and revision starts with 'r'.
354         https://bugs.webkit.org/show_bug.cgi?id=198940
355
356         Reviewed by Ryosuke Niwa.
357
358         Customizable test group form should adapt prefix matching when fetching for a commit.
359
360         * browser-tests/customizable-test-group-form-tests.js: Updated and added unit tests.
361         * public/v3/components/customizable-test-group-form.js: Removed loggings those a unintentionally committed.
362         * public/v3/models/commit-set.js: Adapted prefix matching API when fetching a commit.
363         (IntermediateCommitSet.prototype._fetchCommitLogAndOwnedCommits):
364         * unit-tests/commit-set-tests.js: Updated unit tests accordingly.
365
366 2019-06-13  Dewei Zhu  <dewei_zhu@apple.com>
367
368         Custom analysis task configurator should allow supplying commit prefix and revision starts 'r'.
369         https://bugs.webkit.org/show_bug.cgi?id=198847
370
371         Reviewed by Ryosuke Niwa.
372
373         Custom analysis task configurator should not require full SHA to start an A/B test.
374         Custom analysis task configurator should accept svn revision starts with 'r'.
375
376         * browser-tests/custom-analysis-task-configurator-tests.js: Added a unit test for this change.
377         * public/api/commits.php: Extend this API to allow prefix matching when fethcing a single commit.
378         * public/include/commit-log-fetcher.php: Added a function to fetch a commit with prefix.
379         * public/v3/components/custom-analysis-task-configurator.js: Add UI support for accepting partial revision.
380         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet):
381         (CustomAnalysisTaskConfigurator.prototype.async._resolveRevision):
382         (CustomAnalysisTaskConfigurator.prototype._buildTestabilityList):
383         * public/v3/models/commit-log.js:
384         (CommitLog.async.fetchForSingleRevision): Added third argument to specify prefix matching which defaults to false.
385         * server-tests/api-commits-tests.js: Added unit tests.
386         * unit-tests/commit-log-tests.js: Added a unit test.
387
388 2019-05-15  Dewei Zhu  <dewei_zhu@apple.com>
389
390         Perf dashboard erroneously rejects a build request to build owned components when there are no patches.
391         https://bugs.webkit.org/show_bug.cgi?id=197928
392
393         Reviewed by Ryosuke Niwa.
394
395         Fix a bug that build type build request that only builds owned components failed to pass sanity check when there
396         is no repository accepts patch in triggerable repository group.
397         Add a sanity check to throw an error when build request type is build but there is no repository group template.
398
399         * tools/js/buildbot-syncer.js:
400         (BuildbotSyncer.prototype._propertiesForBuildRequest): Changed sanity check the always requires repository accepts patch when there is a build to make it also works for build request only builds owned components.
401         (BuildbotSyncer._parseRepositoryGroup): Added check for repository group templates not null  when build requiest type is build.
402         * unit-tests/buildbot-syncer-tests.js: Added unit tests for this change.
403         * unit-tests/resources/mock-v3-models.js: Added mock date for unit tests.
404
405 2019-05-14  Dewei Zhu  <dewei_zhu@apple.com>
406
407         Pruning old file logic should not stop after removing 10 files if there are more files to be removed.
408         https://bugs.webkit.org/show_bug.cgi?id=197870
409
410         Reviewed by Ryosuke Niwa.
411
412         Pruning old file logic should keep removing removable files to make enough space for a new file upload.
413         It should only attempt to remve the files that have not been removed.
414
415         * public/include/uploaded-file-helpers.php: Modified 'prune_old_files' to allow to remove more than 10 files.
416         Fixed a bug that a removed file keep getting removed but never free up new space.
417         * server-tests/privileged-api-upload-file-tests.js:
418         (makeRandomAlnumStringForLength): Helper function to generate random content for a given length.
419         * server-tests/resources/test-server.js: Update total file size limit for this change.
420         (TestServer.prototype.testConfig):
421
422 2019-03-25  Dewei Zhu  <dewei_zhu@apple.com>
423
424         Primary cluster of measurement set should always contain latest point.
425         https://bugs.webkit.org/show_bug.cgi?id=196243
426
427         Reviewed by Ryosuke Niwa.
428
429         Fix a bug in measurement-set api that primary cluster may not contain latest data point as
430         'carry_over' row may not be updated.
431
432         * public/api/measurement-set.php: Should always keep 'carry_over' data points up to date.
433         * server-tests/api-measurement-set-tests.js: Added an unit test for this change.
434         Fixed a typo.
435
436 2019-03-21  Dewei Zhu  <dewei_zhu@apple.com>
437
438         'custom-configuration-test-group-form' should update test name when selected test or platform changes.
439         https://bugs.webkit.org/show_bug.cgi?id=196114
440
441         Reviewed by Ryosuke Niwa.
442
443         r240104 fixes commit sets unnecessarily get updated even there is no change.
444         However, this made changing test or platform no longer triggers 'commitSetChange' action.
445         Test name should change not only when 'commitSet' gets change, but also platform or test changes.
446         Renaming the action name from 'commitSetChange' to a more accurate description 'testConfigChange'.
447         Dispatch 'testConfigChange' when platform or test changes.
448
449         * browser-tests/custom-analysis-task-configurator-tests.js: Changed action name to 'commitSetChange'.
450         * public/v3/components/custom-analysis-task-configurator.js:
451         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Should dispatch 'commitSetChange' action.
452         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Changed action name to 'commitSetChange'.
453         * public/v3/components/custom-configuration-test-group-form.js: Added a unit test for this change.
454         (CustomConfigurationTestGroupForm.prototype.didConstructShadowTree):
455
456 2019-03-18  Dewei Zhu  <dewei_zhu@apple.com>
457
458         Fix a bug from r226303 that latest build time is not correctly calculated.
459         https://bugs.webkit.org/show_bug.cgi?id=195912
460
461         Reviewed by Ryosuke Niwa.
462
463         Time series is ordered by revision time which does not grantee the build time is
464         monotonically increasing.
465
466         * public/v3/pages/test-freshness-page.js: Use the latest build time instead of the build time of
467         last point on the chart.
468
469 2019-03-13  Dewei Zhu  <dewei_zhu@apple.com>
470
471         Test freshness page should improve the ability to correlating issues from same builder.
472         https://bugs.webkit.org/show_bug.cgi?id=195242
473
474         Reviewed by Ryosuke Niwa.
475
476         Added the ability to highlight indicators with same builder when mouse is hovering over one indicator.
477         This is a very useful visualization for correlating issues specific to a builder.
478         Added tooltip with latest build link when hovering over an indicator.
479
480         * public/v3/components/freshness-indicator.js:
481         (FreshnessIndicator): Removed 'summary' field as it's no longer needed.
482         Added 'highlighted' field.
483         (FreshnessIndicator.prototype.update): Added 'highlighted' argument.
484         (FreshnessIndicator.prototype.didConstructShadowTree): Make indicator to dispatch mouse enter and leave
485         messages so that UI can highlight corresponding cells.
486         (FreshnessIndicator.prototype.render):
487         (FreshnessIndicator.cssTemplate):
488         * public/v3/pages/test-freshness-page.js: Added tooltip to show latest build time and build link.
489         Added logic to manually compute table body height.
490         (TestFreshnessPage):
491         (TestFreshnessPage.prototype.didConstructShadowTree):
492         (TestFreshnessPage.prototype._fetchTestResults):
493         (TestFreshnessPage.prototype.render):
494         (TestFreshnessPage.prototype._renderTooltip):
495         (TestFreshnessPage.prototype._constructTableCell):
496         (TestFreshnessPage.cssTemplate):
497
498 2019-02-26  Dewei Zhu  <dewei_zhu@apple.com>
499
500         The table head of test freshness page should not scroll with the page.
501         https://bugs.webkit.org/show_bug.cgi?id=195092
502
503         Reviewed by Ryosuke Niwa.
504
505         Fix the location of the freshness table head to make it easier to corelate cell with test.
506
507         * public/v3/pages/test-freshness-page.js: Changed some style rules to make the table head fixed.
508         (TestFreshnessPage.prototype._renderTable):
509         (TestFreshnessPage.cssTemplate):
510
511 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
512
513         Analyzing a chart that does not exist should not halt whole run-analysis script.
514         https://bugs.webkit.org/show_bug.cgi?id=193563
515
516         Reviewed by Ryosuke Niwa.
517
518         Halting whole run-analysis script while there is any invalid chart specified in Manifest makes the script fragile.
519         Run-analysis is also responsible for adding retry and sending notification which should not be block by this error.
520         Skipping analyzing the corresponding configuration seems reasonable.
521
522         * public/v3/models/measurement-set.js:
523         (MeasurementSet.prototype._ensureClusterPromise): Only add callback when callback is specified.
524         This will help to fix 'UnhandledPromiseRejectionWarning' while running the test.
525         * tools/js/measurement-set-analyzer.js:
526         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Catch the exception while failing to fetch a measurement set and skip the analysis for this config.
527         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for this.
528
529 2019-01-17  Dewei Zhu  <dewei_zhu@apple.com>
530
531         Updating commit in OSBuildFetcher should respect revision range in config.
532         https://bugs.webkit.org/show_bug.cgi?id=193558
533
534         Reviewed by Ryosuke Niwa.
535
536         OSBuildFetcher._fetchAvailableBuilds should filter out commits those are not in
537         revision range specified by cofnig.
538
539         * server-tests/tools-os-build-fetcher-tests.js: Added a unit test for this change.
540         * tools/js/os-build-fetcher.js:
541         (prototype.async._fetchAvailableBuilds): Filter out commits from update list if commit
542         revision is out of range.
543
544 2018-12-31  Dewei Zhu  <dewei_zhu@apple.com>
545
546         Test group results notification should not say a build request to build had failed even when it had successfully completed.
547         https://bugs.webkit.org/show_bug.cgi?id=193064
548
549         Reviewed by Ryosuke Niwa.
550
551         Should show 'Build completed' or 'Build failed' for build type build requests.
552
553         * browser-tests/test-group-result-page-tests.js: Added a unit test to guard this bug.
554         * tools/js/test-group-result-page.js: Show 'Build completed' or 'Build failed' for build type build requests.
555
556 2018-12-21  Dewei Zhu  <dewei_zhu@apple.com>
557
558         Add UI in analysis task page to show commit testability information.
559         https://bugs.webkit.org/show_bug.cgi?id=192972
560
561         Reviewed by Ryosuke Niwa.
562
563         Add UI in custom analysis task configuration and customizable test group form to show testability information.
564         Fix a bug in 'CustomAnalysisTaskConfigurator._updateCommitSetMap' that 'currentComparison' is incorrectly set.
565         SQL to update existing database:
566             ALTER TABLE commits ADD COLUMN IF NOT EXISTS commit_testability varchar(128) DEFAULT NULL;
567
568         * browser-tests/custom-analysis-task-configurator-tests.js: Added a unit test for the bug in
569         'CustomAnalysisTaskConfigurator._updateCommitSetMap'.
570         Added a unit test to make sure 'CustomAnalysisTaskConfigurator' still works when commit fetching never returns.
571         * browser-tests/index.html: Imported ''custom-analysis-task-configurator-tests.js'.
572         * init-database.sql: Increase 'commit_testability' field length from 64 characters to 128.
573         * public/v3/components/custom-analysis-task-configurator.js: Added UI to show testability information.
574         (CustomAnalysisTaskConfigurator):
575         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Should reset related field for corresponding
576         repositories that user does not specify revision.
577         (CustomAnalysisTaskConfigurator.prototype._updateMapFromSpecifiedRevisionsForConfiguration): A helper function
578         to update '_specifiedCommits' and '_invalidRevisionsByConfiguration' per '_specifiedRevisions'.
579         (CustomAnalysisTaskConfigurator.prototype.render):
580         (CustomAnalysisTaskConfigurator.prototype._updateCommitSetMap): Fixed a bug that 'currentComparison' is incorrectly set.
581         (CustomAnalysisTaskConfigurator.prototype._computeCommitSet):
582         (CustomAnalysisTaskConfigurator.prototype.async._fetchCommitsForConfiguration):
583         (CustomAnalysisTaskConfigurator.prototype.async._resolveRevision):
584         (CustomAnalysisTaskConfigurator.prototype._buildRevisionTable):
585         (CustomAnalysisTaskConfigurator.prototype._buildTestabilityList):
586         (CustomAnalysisTaskConfigurator.prototype._selectRepositoryGroup):
587         (CustomAnalysisTaskConfigurator.prototype._buildRevisionInput):
588         (CustomAnalysisTaskConfigurator.cssTemplate):
589         * public/v3/components/customizable-test-group-form.js: Added UI to show testability information.
590         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
591         (CustomizableTestGroupForm.prototype._constructTestabilityRows.):
592         (CustomizableTestGroupForm.prototype._constructTestabilityRows):
593         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
594         Changing either revision editor or radio button should trigger a re-render as testability
595         information for updated revision may change.
596         (CustomizableTestGroupForm.cssTemplate):
597         * public/v3/models/commit-set.js:
598         (IntermediateCommitSet.prototype.commitsWithTestability): Renamed from 'commitsWithTestabilityWarnings'.
599         (IntermediateCommitSet.prototype.commitsWithTestabilityWarnings): Deleted.
600
601 2018-12-14  Dewei Zhu  <dewei_zhu@apple.com>
602
603         Extend commits table to contain testability information.
604         https://bugs.webkit.org/show_bug.cgi?id=191557
605
606         Reviewed by Ryosuke Niwa.
607
608         Added the ability to store testability message in commits table.
609         Refactored '/api/report-commits' to support updating commit only.
610         Updated os version syncing script to be able to update testability information.
611
612         * init-database.sql: Added 'commit_testability' field to 'commits' table.
613         * public/api/report-commits.php: Refactor this api to allow only update existing commits.
614         * public/include/commit-log-fetcher.php: Expose testability warning information in this API.
615         * public/include/commit-updater.php: Added 'CommitUpdater' to manage commit insert and update.
616         * public/v3/models/commit-log.js: CommitLog object should expose testability warning information.
617         (CommitLog.prototype.updateSingleton):
618         (CommitLog.prototype.testability):
619         * public/v3/models/commit-set.js: Added 'commitsWithTestability' and 'commits' to CommitSet and
620         IntermediateCommitSet instances.
621         (CommitSet.prototype.commitsWithTestability):
622         (CommitSet.prototype.commits):
623         (IntermediateCommitSet.prototype.commitsWithTestability):
624         (IntermediateCommitSet.prototype.commits):
625         * server-tests/api-report-commits-tests.js: Added unit tests for '/api/report-commits' when `insert=false`.
626         * server-tests/tools-os-build-fetcher-tests.js: Added and updated unit tests.
627         * tools/js/os-build-fetcher.js: Added the ability to update commit testability warnings.
628         (async.fetchReportAndUpdateCommits):
629         (prototype.async.fetchReportAndUpdateBuilds):
630         (prototype.async._fetchAvailableBuilds):
631         (prototype.async._commitsForAvailableBuilds):
632         (prototype._commitsWithinRange):
633         (prototype.async._reportCommits):
634         (fetchAndReportAllInOrder): Deleted.
635         (prototype.fetchAndReportNewBuilds): Deleted.
636         (prototype._fetchAvailableBuilds): Deleted.
637         (prototype._commitsForAvailableBuilds): Deleted.
638         (prototype._submitCommits): Deleted.
639         * tools/sync-os-versions.js:
640         * unit-tests/commit-log-tests.js: Added a unit test for 'testability'.
641         * unit-tests/commit-set-tests.js: Added unit tests for 'commitsWithTestability'.
642
643 2018-11-16  Ryosuke Niwa  <rniwa@webkit.org>
644
645         Manifest file can contain a test metric which references a non-existent test
646         https://bugs.webkit.org/show_bug.cgi?id=191796
647
648         Reviewed by Dewei Zhu.
649
650         The bug was caused by a race condition between the manifest file fetching the list of tests and test metrics
651         and new tests and test metrics being added. Because we would fetch tests before test metrics, it was possible
652         for new test metrics which references a test not included in the fetched tests to be present in the test metrics.
653
654         Fixed the bug by changing the order of the queries so that test metrics are fetched before tests. This guarantees
655         that any test referenced by a test metric always exists and thefore included in the manifest file.
656
657         Unfortunately no new tests beucase this involes a race condition.
658
659         * public/include/manifest-generator.php:
660
661 2018-11-13  Dewei Zhu  <dewei_zhu@apple.com>
662
663         Add cache for CommitLog objects to avoid refetching same commit.
664         https://bugs.webkit.org/show_bug.cgi?id=191621
665
666         Reviewed by Ryosuke Niwa.
667
668         Added a cache for fully fetched commit log objects to avoid refetching.
669
670         * public/v3/models/commit-log.js:
671         (CommitLog): Added assertion for id.
672         Removed unused 'remoteId' as it has been removed since r198479.
673         (CommitLog.async.fetchBetweenRevisions): Turned it into async function.
674         (CommitLog.async.fetchForSingleRevision): Added the logic to check cache before fetching.
675         (CommitLog._constructFromRawData): Added logic to add entries to cache.
676         * public/v3/models/repository.js: Added the ability to track fetched commit for certain repository.
677         (Repository.commitForRevision): Fixed measurement set not passing commit id while constructing a
678         commit log object.
679         (Repository.setCommitForRevision): Sets commit for a given revision.
680         * public/v3/models/commit-set.js: Fixed unit tests.
681         * unit-tests/commit-log-tests.js: Added unit tests for this change.
682         Fixed existing tests.
683         * unit-tests/commit-set-range-bisector-tests.js: Fixed unit tests.
684         * unit-tests/commit-set-tests.js: Fixed unit tests.
685
686 2018-11-08  Dewei Zhu  <dewei_zhu@apple.com>
687
688         commit time returned by '/api/measurement-set' should match the one returned by '/api/commits'.
689         https://bugs.webkit.org/show_bug.cgi?id=191457
690
691         Reviewed by Dean Jackson and Ryosuke Niwa.
692
693         Commit time returned by '/api/measurement-set' sometimes is calculated by 'epoch from ..'.
694         This function may return a floating number with 5 or 6 decimal digits due to double precision limitations.
695         However, some commits may be reported with 6 decimal decimal.
696         So the commit time for those commits will sometime be rounded to 5 decimal digits.
697         In order to avoid front end assertion failure in CommitLog, Database::to_js_time need to round to 5 digits.
698
699         * public/include/db.php: Change the behavior to match that of postgres.
700         Added logic to avoid losing precision in php.
701         * server-tests/api-measurement-set-tests.js: Added unit tests for this bug.
702         (queryPlatformAndMetric): Fix a bug that arguments are not used at all.
703
704 2018-11-07  Dewei Zhu  <dewei_zhu@apple.com>
705
706         "/api/report" does not check commit time correctly.
707         https://bugs.webkit.org/show_bug.cgi?id=191351
708
709         Reviewed by Ryosuke Niwa.
710
711         Test result report API does not convert formated time string to timestamp correctly
712         which result in not checking commit time correctly.
713
714         * public/include/report-processor.php: Use 'strtotime' instead of 'floatval'.
715         Accepts the time delta within 1 seconds.
716         * server-tests/api-report-tests.js: Added unit tests.
717         (reportWitMismatchingCommitTime):
718         (reportWithOneSecondCommitTimeDifference):
719
720 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
721
722         Custom test group form should use commit set map before customization as the behavior of radio buttons.
723         https://bugs.webkit.org/show_bug.cgi?id=191347
724
725         Reviewed by Ryosuke Niwa.
726
727         The radio button behavior should always set the same revision while editing the revision input.
728         That means we should not use the intermediate commit set map but use the commit set map before
729         "Customize" link is clicked.
730
731         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
732         * public/v3/components/customizable-test-group-form.js: Pass uncustomized commit set so that the radio button
733         behavoir preserves.
734         (CustomizableTestGroupForm):
735         (CustomizableTestGroupForm.prototype.setCommitSetMap):
736         (CustomizableTestGroupForm.prototype.didConstructShadowTree):
737         (CustomizableTestGroupForm.prototype.render):
738         (CustomizableTestGroupForm.prototype._renderCustomRevisionTable):
739         (CustomizableTestGroupForm.prototype._constructTableBodyList):
740         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
741         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
742         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
743
744 2018-11-06  Dewei Zhu  <dewei_zhu@apple.com>
745
746         Customizable test group form should not reset manually edited commit value sometimes.
747         https://bugs.webkit.org/show_bug.cgi?id=190863
748
749         Reviewed by Ryosuke Niwa.
750
751         After changing the radio button and manually editing the commit value, commit value should not be reset
752         while changing the name of the test group.
753         Add the logic to prompt warning when manually typed commit does not exist.
754
755         * browser-tests/customizable-test-group-form-tests.js: Added a unit test for this bug.
756         * browser-tests/index.html:
757         * public/v3/components/customizable-test-group-form.js: Should always update commit set as long as
758         the repository of that row does not have a owner repository.
759         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithoutOwner):
760         (CustomizableTestGroupForm.prototype._constructTableRowForCommitsWithOwner):
761         (CustomizableTestGroupForm.prototype._constructRevisionRadioButtons):
762
763 2018-10-16  Dewei Zhu  <dewei_zhu@apple.com>
764
765         Unreviewed, rolling out r236996.
766
767         Temporarily rollout to fix a manifest generation bug.
768         "lastModified" field for certain platform & metric configurations may be missing.
769
770         Reverted changeset:
771
772         "ManifestGenerator shouldn't need more than 1GB of memory or
773         run for 30 seconds"
774         https://bugs.webkit.org/show_bug.cgi?id=190393
775         https://trac.webkit.org/changeset/236996
776
777 2018-10-12  Ryosuke Niwa  <rniwa@webkit.org>
778
779         Perf dashboard: add a test for aggregating subtests without a matching metric in /api/report
780         https://bugs.webkit.org/show_bug.cgi?id=190544
781
782         Rubber-stamped by Keith Miller and unofficially reviewed by Dewei Zhu.
783
784         Added tests for reporting results to /api/report where a test with aggregated metrics has a subtest
785         without a matching metric type. The aggregation should simply skip such a subtest instead of returning
786         an error or aggregating with a mismatching metric type.
787
788         * server-tests/api-report-tests.js:
789         (.makeReport): Extracted out of a test case.
790
791 2018-10-11  Ryosuke Niwa  <rniwa@webkit.org>
792
793         Build fix after r236956. Use array_get to avoid warnings.
794
795         * public/include/report-processor.php:
796
797 2018-10-09  Dewei Zhu  <dewei_zhu@apple.com>
798
799         Performance dashboard should show added iterations due failed build requests.
800         https://bugs.webkit.org/show_bug.cgi?id=190419
801
802         Reviewed by Ryosuke Niwa.
803
804         Added UI to show added build requests due to previous failed build requests.
805         Updated the retry/bisect button to default to initial repetition count when test group is created.
806
807         * public/v3/pages/analysis-task-page.js: Added a div to show added build requests.
808         Retry and bisect button should default to initial repetion count.
809         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup):
810         (AnalysisTaskTestGroupPane.cssTemplate):
811
812 2018-10-09  Ryosuke Niwa  <rniwa@webkit.org>
813
814         ManifestGenerator shouldn't need more than 1GB of memory or run for 30 seconds
815         https://bugs.webkit.org/show_bug.cgi?id=190393
816
817         Reviewed by Antti Koivisto and unofficially reviewed by Dewei Zhu.
818
819         This patch reduces the runtime of /api/manifest from 13s to 7s and reduces the memory requirement from
820         1GB to 400MB for the internal dashboard in my local testing.
821
822         The biggest perf win comes from avoid running a complex query over test_configurations to compute
823         the latest modified date across different test configuration types ("current" vs. "baseline").
824         Instead, we now fetch the entire table row by row and compute the latest modified date in memory.
825
826         Also call intval in many more places to avoid generating double quotes, which is a pretty significant
827         proportion of the JSON file size at this point.
828
829         Finally, use references in more places to avoid deep copying of arrays.
830
831         * public/include/manifest-generator.php:
832         (ManifestGenerator::generate): Skip the generation of "dashboard" since it's only used by v1 UI.
833         (ManifestGenerator::tests): Don't copy each row.
834         (ManifestGenerator::metrics): Ditto.
835         (ManifestGenerator::platforms): Implement the aforementioned optimization. Instead of grouping
836         test configurations for a given metric and platform together, fetch them all and do in-memory
837         processing in PHP. Avoid more copying as well.
838         (ManifestGenerator::repositories): Avoid more copying.
839         (ManifestGenerator::bug_trackers): Ditto.
840         (ManifestGenerator::fetch_triggerables): Ditto.
841
842 2018-10-08  Ryosuke Niwa  <rniwa@webkit.org>
843
844         /api/report takes 15+ minutes submitting some test results
845         https://bugs.webkit.org/show_bug.cgi?id=190382
846
847         Rubber-stamped by Alexey Proskuryakov and unofficially reviewed by Dewei Zhu.
848
849         The issue was that recursively_ensure_tests would issue thousands of dependent queries.
850
851         Since most reporting of results would be happening after all the tests and test metrics had been created,
852         simply fetch the list of all tests and test metrics upfront in memory.
853
854         This would slow-down the reporting of other test results but in practice doesn't matter (an extra few seconds
855         of overhead) but for slow reporting, it can significantly reduce the runtime from ~10 minutes to ~10 seconds.
856
857         * public/include/report-processor.php:
858         (ReportProcessor::process): Call fetch_tests before recursively_ensure_tests.
859         (ReportProcessor::fetch_tests): Added. This builds up a mapping of tests based on a parent test ID as well as
860         a mapping of metrics per test based on its name and then its aggregator's name.
861         (ReportProcessor::recursively_ensure_tests): Added. Use the in-memory maps built in fetch_tests when possible.
862         (ReportProcessor::aggregator_list_if_exists): Take a reference instead of passing it by value.
863         (TestRunsGenerator::add_aggregated_metric): Now takes metric ID. The code to add the test metric had been moved
864         to recursively_ensure_tests.
865
866 2018-10-01  Dewei Zhu  <dewei_zhu@apple.com>
867
868         Add retry for test groups with failed build requests.
869         https://bugs.webkit.org/show_bug.cgi?id=190188
870
871         Reviewed by Ryosuke Niwa.
872
873         Added retry logic in run-analysis script.
874         Current retry logic will only be triggered when there is at least one successful build request for each commit set
875         in a test group.
876
877         * init-database.sql: Added 'testgroup_initial_repetition_count' and 'testgroup_may_need_more_requests'.
878         SQL to update existing database:
879         '''
880         BEGIN;
881             ALTER TABLE analysis_test_groups
882                 ADD COLUMN testgroup_initial_repetition_count integer DEFAULT NULL,
883                 ADD COLUMN testgroup_may_need_more_requests boolean DEFAULT FALSE;
884             UPDATE analysis_test_groups SET testgroup_initial_repetition_count = (
885                 SELECT DISTINCT(COUNT(*)) FROM build_requests WHERE request_group = testgroup_id AND request_order >= 0 GROUP BY request_commit_set
886             );
887             ALTER TABLE analysis_test_groups ALTER COLUMN testgroup_initial_repetition_count DROP DEFAULT, ALTER COLUMN testgroup_may_need_more_requests SET NOT NULL;
888         END;
889         '''
890         'testgroup_initial_repetition_count' represents the number of successful build request for each commit set when
891         test group is created.
892         'testgroup_may_need_more_requests' will be set when any build request in test group is set to 'failed'.
893         * public/api/build-requests.php: Added the logic to set 'testgroup_may_need_more_requests'.
894         * public/api/test-groups.php: Updated 'ready-for-notification' to 'ready-for-further-processing' so that it returns finished test
895         groups those either have 'needs_notification' or  'may_need_more_requests' set.
896         * public/include/commit-sets-helpers.php: Set 'initial_repetition_count' to repetition count.
897         * public/privileged-api/update-test-group.php: Added APIs to add build request for a test group and
898         update 'may_need_more_requests' flag.
899         * public/v3/models/test-group.js:
900         (TestGroup): Added '_mayNeedMoreRequests' and '_initialRepetitionCount' field.
901         Refactored code that interacts with '/api/update-test-group'.
902         (TestGroup.prototype.updateSingleton):
903         (TestGroup.prototype.mayNeedMoreRequests):
904         (TestGroup.prototype.initialRepetitionCount):
905         (TestGroup.prototype.async._updateBuildRequest):
906         (TestGroup.prototype.updateName):
907         (TestGroup.prototype.updateHiddenFlag):
908         (TestGroup.prototype.async.didSendNotification):
909         (TestGroup.prototype.async.addMoreBuildRequests):
910         (TestGroup.prototype.async.clearMayNeedMoreBuildRequests): Added API to clear 'may_need_more_requests' flag.
911         (TestGroup.fetchAllReadyForFurtherProcessing): Refactored 'TestGroup.fetchAllWithNotificationReady' to return test groups either
912         have 'needs_notification' or  'may_need_more_requests' set.
913         (TestGroup.fetchAllThatMayNeedMoreRequests): Fetches test groups those may need more build requests.
914         * server-tests/api-test-groups.js: Added unit tests.
915         * server-tests/privileged-api-add-build-requests-tests.js: Added unit tests for 'add-build-requests' API.
916         * server-tests/privileged-api-update-test-group-tests.js: Added unit tests.
917         * server-tests/resources/mock-data.js:
918         (MockData.addMockData):
919         * server-tests/resources/test-server.js:
920         (TestServer.prototype._determinePgsqlDirectory): Fixed a bug that 'childProcess.execFileSync' may return a buffer.
921         * tools/run-analysis.js: Added logic to add extra build request before sennding notification.
922         * tools/js/retry-failed-build-requests.js:
923         (async.createAdditionalBuildRequestsForTestGroupsWithFailedRequests): Module that add extra build requests.
924         * unit-tests/retry-failed-build-requests-tests.js: Added.
925         * unit-tests/test-groups-tests.js: Added unit tests.
926
927 2018-09-21  Dewei Zhu  <dewei_zhu@apple.com>
928
929         Apache can return a corrupt manifest file while ManifestGenerator::store is running
930         https://bugs.webkit.org/show_bug.cgi?id=189822
931
932         Reviewed by Ryosuke Niwa.
933
934         Updating a file on performance dashboard should be transactional between php and apache.
935         Otherwise, partial content may be served.
936
937         * public/api/measurement-set.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
938         * public/api/runs.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
939         * public/include/db.php: Make creating file transactionaly by taking advantage of
940         'move/rename' operation is atomic in OS.
941         Added logic to avoid overwriting file if all content except specified filed are identical.
942         * public/include/json-header.php: Added a helper function that added 'status' but does not
943         convert content to json.
944         * public/include/manifest-generator.php: Adapted invocation of 'generate_json_date_with_elapsed_time_if_needed'.
945         * public/shared/statistics.js: Removed unnecessary logging.
946         (Statistics.new.sampleMeanAndVarianceFromMultipleSamples):
947         * server-tests/api-manifest-tests.js: Updated one unit test.
948
949 2018-08-22  Dewei Zhu  <dewei_zhu@apple.com>
950
951         Show t-test results based on individual measurements to analysis task page.
952         https://bugs.webkit.org/show_bug.cgi?id=188425
953
954         Reviewed by Ryosuke Niwa.
955
956         Added comparison for individual iterations in analysis task page.
957         Added comparison for individual iterations for notification on A/B tests completion.
958         Refactored t-distribution inverse lookup to any degree of freedom with 5 significant figures.
959
960         * public/shared/statistics.js: Refactored t-distribution inverse lookup function and adapted this
961         change to all invocations.
962         (Statistics.new.this.supportedConfidenceIntervalProbabilities):
963         (Statistics.new.this.supportedOneSideTTestProbabilities):
964         (Statistics.new.this.confidenceIntervalDelta):
965         (Statistics.new.sampleMeanAndVarianceForMultipleSamples):
966         (Statistics.new.this.probabilityRangeForWelchsT):
967         (Statistics.new.this.probabilityRangeForWelchsTFromTwoSampleSets):
968         (Statistics.new.this._determinetwoSidedProbabilityBoundaryForWelchsT):
969         (Statistics.new.this.computeWelchsT):
970         (Statistics.new.this._computeWelchsTFromStatistics):
971         (Statistics.new.this.minimumTForOneSidedProbability): Function that does t-distribution inverse lookup.
972         * public/v3/components/analysis-results-viewer.js: Adapted TestGroup.compareTestResults change.
973         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._measurementsForCommitSet):
974         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._computeTestGroupStatus):
975         (AnalysisResultsViewer.TestGroupStackingBlock.prototype._valuesForCommitSet): Deleted.
976         * public/v3/components/test-group-results-viewer.js: Show both comparisions for both individual and mean.
977         (TestGroupResultsViewer.prototype._renderResultsTable):
978         (TestGroupResultsViewer.prototype._buildRowForMetric.):
979         (TestGroupResultsViewer.prototype._buildValueMap):
980         * public/v3/models/test-group.js:
981         (TestGroup.compareTestResults): Added comparison for individual iterations.
982         * tools/js/test-group-result-page.js:
983         (TestGroupResultPage.prototype._constructTableForMetric):
984         (TestGroupResultPage.prototype.get styleTemplate):
985         (TestGroupResultPage):
986         (TestGroupResultPage.prototype._URLForAnalysisTask): Renamed to '_resultsForTestGroup'
987         * unit-tests/statistics-tests.js: Updated and added unit tests.
988
989 2018-07-13  Dewei Zhu  <dewei_zhu@apple.com>
990
991         CustomConfigurationTestGroupForm should dispatch different arguments based on whether analysis task is created.
992         https://bugs.webkit.org/show_bug.cgi?id=187675
993
994         Reviewed by Ryosuke Niwa.
995
996         This change will fix the bug that no notification will be sent for any test groups except the
997         first one in any custom perf-try A/B task.
998
999         * public/v3/components/custom-configuration-test-group-form.js:
1000         (CustomConfigurationTestGroupForm.prototype.startTesting): Conditionally includes taskName based on
1001         whether or not analysis task is created.
1002
1003 2018-07-03  Dewei Zhu  <dewei_zhu@apple.com>
1004
1005         MeasurementSet should merge last four segments into two if values are identical.
1006         https://bugs.webkit.org/show_bug.cgi?id=187311
1007
1008         Reviewed by Ryosuke Niwa.
1009
1010         If last four segments has the same value, MeasurmentSet should merge them.
1011
1012         * public/v3/models/measurement-set.js: Added the logic to conditionally merge last segments.
1013         (MeasurementSet.prototype.fetchSegmentation):
1014         * unit-tests/measurement-set-tests.js: Added a unit test for this change.
1015
1016 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
1017
1018         Manifest.reset should clear static map for BugTracker and Bug objects.
1019         https://bugs.webkit.org/show_bug.cgi?id=187186
1020
1021         Reviewed by Ryosuke Niwa.
1022
1023         If static maps of BugTracker and Bug objects are not cleared up, updating singleton
1024         of Bug object will fail assertion.
1025
1026         * public/v3/models/manifest.js: Clear static map for BugTracker and Bug.
1027         (Manifest.reset):
1028         * server-tests/api-manifest-tests.js: Added a unit test for this change.
1029
1030 2018-06-29  Dewei Zhu  <dewei_zhu@apple.com>
1031
1032         Fix a bug in range bisector that start commit may be counted twice.
1033         https://bugs.webkit.org/show_bug.cgi?id=187205
1034
1035         Reviewed by Darin Adler.
1036
1037         Range bisector counted start commit twice if start commit is the same as end commit.
1038
1039         * public/v3/commit-set-range-bisector.js:
1040         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
1041         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this change.
1042
1043 2018-06-28  Dewei Zhu  <dewei_zhu@apple.com>
1044
1045         Fix a bug ComponentBase that wrong content template may be used.
1046         https://bugs.webkit.org/show_bug.cgi?id=187159
1047
1048         Reviewed by Ryosuke Niwa.
1049
1050         ComponentBase uses '_parsed' to mark whether content and style templates of a class
1051         is parsed. However, derived class parsing will be skipped as 'Derive._parsed' is available
1052         via prototype chain whenever the base class is parsed.
1053
1054         * browser-tests/component-base-tests.js: Added unit tests.
1055         * public/v3/components/base.js: Added 'hasOwnProperty' to make sure current class is parsed.
1056         (ComponentBase.prototype._ensureShadowTree):
1057
1058 2018-06-25  Dewei Zhu  <dewei_zhu@apple.com>
1059
1060         MeasurementSetAnalyzer should check triggerable availability before creating confirming A/B tests.
1061         https://bugs.webkit.org/show_bug.cgi?id=187028
1062
1063         Reviewed by Ryosuke Niwa.
1064
1065         If the triggerable is not available, MeasurmentSetAnalyzer should only create analysis task without
1066         confirming A/B tests.
1067
1068         * tools/js/measurement-set-analyzer.js: Added logic to check triggerable availability.
1069         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1070         (MeasurementSetAnalyzer):
1071         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests and added a new unit test for this change.
1072
1073 2018-06-11  Dewei Zhu  <dewei_zhu@apple.com>
1074
1075         Extend test group rule to support 'userInitiated' field.
1076         https://bugs.webkit.org/show_bug.cgi?id=186544
1077
1078         Reviewed by Ryosuke Niwa.
1079
1080         Added support for rule specifying whether or not test group is user initiated.
1081
1082         * tools/js/analysis-results-notifier.js: Rule now support 'userInitiated' field.
1083         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
1084         (AnalysisResultsNotifier.prototype._applyRules):
1085         (AnalysisResultsNotifier._matchesRule):
1086         * unit-tests/analysis-results-notifier-tests.js: Added unit tests for this change.
1087
1088 2018-05-29  Dewei Zhu  <dewei_zhu@apple.com>
1089
1090         CommitSet range bisector should use commits occur in commit sets which specify the range as valid commits for commits without ordering.
1091         https://bugs.webkit.org/show_bug.cgi?id=186062
1092
1093         Reviewed by Ryosuke Niwa.
1094
1095         For commits without ordering, we should use the commits occurs in the commit sets which specify the range as valid commits.
1096         Commit sets in range should only contain those valid commits for corresponding repositories.
1097
1098         * public/v3/commit-set-range-bisector.js: Updated logic to add check on commits without ordering.
1099         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
1100         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test for this case.
1101
1102 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
1103
1104         Related task may not have a metric or platform.
1105         https://bugs.webkit.org/show_bug.cgi?id=186426
1106
1107         Reviewed by Ryosuke Niwa.
1108
1109         Related task in the related task list can be a custom analysis task which
1110         may not have platform or metric.
1111
1112         * public/v3/pages/analysis-task-page.js: Added null checks for platform and metric.
1113         (AnalysisTaskPage.prototype._renderRelatedTasks):
1114
1115 2018-06-07  Dewei Zhu  <dewei_zhu@apple.com>
1116
1117         Fix browser test failed assertions and a bug in 'common-component-base'
1118         https://bugs.webkit.org/show_bug.cgi?id=186423
1119
1120         Reviewed by Ryosuke Niwa.
1121
1122         Fixed serveral assertion failures in browser tests.
1123         Fixed a bug in common-component-base that null/undefined as attribute value is not allowed.
1124
1125         * browser-tests/chart-revision-range-tests.js: Should not import 'lazily-evaluated-function.js' twice.
1126         * browser-tests/chart-status-evaluator-tests.js: Should not import 'lazily-evaluated-function.js' twice.
1127         * browser-tests/component-base-tests.js: Added a unit test for element attributes being null or undefined.
1128         * browser-tests/index.html: Make mocked data from makeSampleCluster also contains commit_order.
1129         * public/shared/common-component-base.js: Make it allow to take null as attribute value.
1130         (CommonComponentBase.createElement):
1131
1132 2018-05-24  Dewei Zhu  <dewei_zhu@apple.com>
1133
1134         Added sending notification feature when test group finishes.
1135         https://bugs.webkit.org/show_bug.cgi?id=184340
1136
1137         Reviewed by Ryosuke Niwa.
1138
1139         Added 'testgroup_needs_notification' filed to 'analysis_test_group' table to indicate whether a test group
1140         has a pending notification.
1141         Added 'testgroup_notification_sent_at' to record the last notification sent time.
1142         SQL queries to update existing database are:
1143             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_needs_notification boolean NOT NULL DEFAULT FALSE;'
1144             'ALTER TABLE analysis_test_groups ADD COLUMN testgroup_notification_sent_at timestamp DEFAULT NULL;'
1145         Updated 'run-analysis' script to be able to send notification when test group finishes.
1146         Added 'Notify on completion' checkbox while creating/retrying/bisecting a test group.
1147
1148         * browser-tests/test-group-form-tests.js: Updated existing tests and added a new test.
1149         * browser-tests/test-group-result-page-tests.js: Added unit tests for TestGroupResultPage.
1150         * init-database.sql: Added 'testgroup_needs_notification' filed to 'analysis_test_group' table.
1151         * public/api/test-groups.php: Added '/api/test-groups/ready-for-notification' API to 'test-group' to show all
1152         test groups that need to send notification. Only the ones with 'completed', 'failed' or 'cancelled' status and its
1153         'testgroup_needs_notification' is true will be returned by this API.
1154         * public/include/build-requests-fetcher.php: Added 'fetch_requests_for_groups' to return test groups with given ids.
1155         * public/include/commit-sets-helpers.php: Updated the logic to support setting 'testgroup_needs_notification'
1156         while create an analysis_test_groups.
1157         * public/privileged-api/create-analysis-task.php: Updated the logic to support setting 'testgroup_needs_notification'.
1158         * public/privileged-api/create-test-group.php: Updated the logic to support setting 'testgroup_needs_notification'.
1159         * public/privileged-api/update-test-group.php: Updated the logic to support updating 'testgroup_needs_notification'.
1160         Extended this API to allow authentication both from CSRF token and slave.
1161         * public/v3/components/custom-configuration-test-group-form.js:
1162         (CustomConfigurationTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
1163         'testgroup_needs_notification' from API perspective.
1164         * public/v3/components/customizable-test-group-form.js:
1165         (CustomizableTestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
1166         'testgroup_needs_notification' from API perspective.
1167         (CustomizableTestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
1168         * public/v3/components/test-group-form.js:
1169         (TestGroupForm): Added '_notifyOnCompletion' instance variable.
1170         (TestGroupForm.prototype.didConstructShadowTree): Added 'onchange' event for notify on completion checkbox.
1171         (TestGroupForm.prototype.startTesting): Pass 'notifyOnCompletion' information which represents
1172         'testgroup_needs_notification' from API perspective.
1173         (TestGroupForm.cssTemplate): Added space between 'Notify on completion' checkbox and test group iteration selection list.
1174         * public/v3/models/analysis-results.js: Export 'AnalysisResults'.
1175         (AnalysisResults.fetch): Update API path to use absolute url.
1176         (AnalysisResults):
1177         * public/v3/models/analysis-task.js:
1178         (AnalysisTask.async.create): Extend this function to take notifyOnCompletion as argument which will be used as
1179         'needsNotification' to send to server.
1180         (AnalysisTask):
1181         * public/v3/models/test-group.js:
1182         (TestGroup): Added '_needsNotification' field.
1183         (TestGroup.prototype.updateSingleton): Added logic to update '_needsNotification' field.
1184         (TestGroup.prototype.needsNotification): Returns '_needsNotification' field.
1185         (TestGroup.prototype.author): Returns author information.
1186         (TestGroup.prototype.async.didSendNotification): API that updates 'testgroup_needs_notification' to true.
1187         (TestGroup.prototype.async.fetchTask): API to fetch the task when it has not been fetched.
1188         (TestGroup.createWithTask): Updated this function to accept 'notifyOnCompletion' which will be used as
1189         'needsNotification' to send to server.
1190         (TestGroup.createWithCustomConfiguration): Updated this function to accept 'notifyOnCompletion' which will be used as
1191         'needsNotification' to send to server.
1192         (TestGroup.createAndRefetchTestGroups): Updated this function to accept 'notifyOnCompletion' which will be used as
1193         'needsNotification' to send to server.
1194         (TestGroup.fetchAllWithNotificationReady): New function that invokes '/api/test-groups/ready-for-notification'.
1195         * public/v3/pages/analysis-task-page.js: Update logic to 'notifyOnCompletion' around
1196         (AnalysisTaskChartPane.prototype.didConstructShadowTree):
1197         (AnalysisTaskResultsPane.prototype.didConstructShadowTree):
1198         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
1199         (AnalysisTaskPage.prototype.didConstructShadowTree):
1200         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
1201         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup):
1202         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList.set const):
1203         (AnalysisTaskPage.prototype._createTestGroupAfterVerifyingCommitSetList):
1204         (AnalysisTaskPage.prototype._createCustomTestGroup):
1205         * public/v3/pages/chart-pane.js: Added 'Notify on completion' checkbox.
1206         (ChartPane.prototype.didConstructShadowTree):
1207         (ChartPane.prototype.async._analyzeRange):
1208         * public/v3/pages/create-analysis-task-page.js: Adapted API change.
1209         (CreateAnalysisTaskPage.prototype._createAnalysisTaskWithGroup):
1210         * server-tests/api-test-groups.js: Added tests for '/api/test-groups/ready-for-notification'.
1211         * server-tests/privileged-api-create-analysis-task-tests.js: Updated tests to adapt this change.
1212         Added new tests.
1213         * server-tests/privileged-api-create-test-group-tests.js: Added new tests.
1214         * server-tests/privileged-api-update-test-group-tests.js: Added unit test for 'update-test-group' API.
1215         * server-tests/resources/mock-data.js: addMockData should set 'testgroup_needs_notification' to be true.
1216         * server-tests/tools-sync-buildbot-integration-tests.js: Updated tests to adapt this change.
1217         (async.createTestGroupWihPatch):
1218         (createTestGroupWihOwnedCommit):
1219         * tools/js/analysis-results-notifier.js: Added notifier to send notification for completed test groups.
1220         (AnalysisResultsNotifier):
1221         (AnalysisResultsNotifier.prototype.async.sendNotificationsForTestGroups):
1222         (AnalysisResultsNotifier.prototype._sendNotification): Invoke remote API to send notification.
1223         (AnalysisResultsNotifier.prototype._constructMessageByRules):
1224         (AnalysisResultsNotifier._matchesRule):
1225         (AnalysisResultsNotifier._applyUpdate):
1226         (AnalysisResultsNotifier.async._messageForTestGroup): Build html as message body for a test group.
1227         (AnalysisResultsNotifier._URLForAnalysisTask): Returns URL for an analysis task.
1228         (AnalysisResultsNotifier._instantiateNotificationTemplate):
1229         * tools/js/test-group-result-page.js: Added 'TestGroupResultPage' and 'BarGraph' to show test group result.
1230         (TestGroupResultPage):
1231         (TestGroupResultPage.prototype.async.setTestGroup):
1232         (TestGroupResultPage._urlForAnalysisTask):
1233         (TestGroupResultPage.prototype._URLForAnalysisTask):
1234         (TestGroupResultPage.prototype.constructTables):
1235         (TestGroupResultPage.prototype._constructTableForMetric):
1236         (TestGroupResultPage.):
1237         (TestGroupResultPage.prototype.get pageContent):
1238         (TestGroupResultPage.prototype.get styleTemplate):
1239         (BarGraph):
1240         (BarGraph.prototype.setWidth):
1241         (BarGraph.prototype._constructBarGraph):
1242         (BarGraph.prototype.get pageContent):
1243         (BarGraph.prototype.get styleTemplate):
1244         * tools/js/measurement-set-analyzer.js: Adapted 'AnalysisTask.create' change.
1245         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1246         (MeasurementSetAnalyzer):
1247         * tools/js/v3-models.js:
1248         * tools/run-analysis.js: Added the logic that sends notification for completed test groups.
1249         (main):
1250         (async.analysisLoop):
1251         * unit-tests/analysis-task-tests.js:
1252         * unit-tests/analysis-results-notifier-tests.js: Added a unit test for 'AnalysisResultsNotifier' and 'NotificationService'.
1253         * unit-tests/measurement-set-analyzer-tests.js: Updated unit tests per this change.
1254         * unit-tests/test-groups-tests.js: Added unit tests for 'TestGroup.needsNotification'.
1255         * unit-tests/resources/mock-remote-api.js: Only set 'privilegedAPI' when it exits.
1256
1257 2018-06-07  Ryosuke Niwa  <rniwa@webkit.org>
1258
1259         Add the basic support for writing components in node.js
1260         https://bugs.webkit.org/show_bug.cgi?id=186299
1261
1262         Reviewed by Antti Koivisto.
1263
1264         Add the basic support for writing components in node.js for generating rich email notifications.
1265
1266         To do this, this patch introduces MarkupComponentBase and MarkupPage which implement similar API
1267         to ComponentBase and Page classes of v3 UI code. This enables us to share code between frontend
1268         and the backend in the future. Because there is no support for declarative custom elements or
1269         shadow root in HTML, MarkupComponentBase uses a similar but distinct concept of "content" tree
1270         to represent the "DOM" tree for a component. When generating the HTML, MarkupComponentBase and
1271         MarkupPage collectively transforms stylesheets and flattens the tree into a single HTML. In order
1272         to keep this flatteneing logic simple, MarkupComponentBase only supports a very small subset of
1273         CSS selectors to select elements by their local names and class names.
1274
1275         Specifically, each class name and element name based selectors are replaced by a globally unique
1276         class name based selector, and each element which matches the selector is applied of the same
1277         globally unique class name. The transformation is applied when constructing the "content" tree
1278         as well as calls to renderReplace.
1279
1280         Because much of v3 frontend code relies on DOM API, this patch also implements the simplest form
1281         of a fake DOM API as MarkupNode, MarkupParentNode, MarkupElement, and MarkupText. In order to avoid
1282         reimplementing HTML & CSS parsers, this patch introduces the concept of content and style templates
1283         to ComponentBase which are JSON alternatives to HTML & CSS template strings which can be used in
1284         both frontend & backend.
1285
1286         * browser-tests/close-button-tests.js: Include CommonComponentBase.
1287         * browser-tests/commit-log-viewer-tests.js: Ditto.
1288         * browser-tests/component-base-tests.js: Ditto. Added a test cases for content & style templates.
1289         (async.importComponentBase): Added.
1290         * browser-tests/editable-text-tests.js: Include CommonComponentBase.
1291         * browser-tests/index.html:
1292         * browser-tests/markup-page-tests.js: Added.
1293         * browser-tests/page-router-tests.js: Include CommonComponentBase.
1294         * browser-tests/page-tests.js: Ditto.
1295         * browser-tests/test-group-form-tests.js: Ditto.
1296         * public/shared/common-component-base.js: Added.
1297         (CommonComponentBase): Extracted out of ComponentBase.
1298         (CommonComponentBase.prototype.renderReplace): Added.
1299         (CommonComponentBase.renderReplace): Moved from ComponentBase.
1300         (CommonComponentBase.prototype._recursivelyUpgradeUnknownElements): Moved and renamed from
1301         ComponentBase's _recursivelyReplaceUnknownElementsByComponents.
1302         (CommonComponentBase.prototype._upgradeUnknownElement): Extracted out of the same function.
1303         (CommonComponentBase._constructStylesheetFromTemplate): Added.
1304         (CommonComponentBase._constructNodeTreeFromTemplate): Added.
1305         (CommonComponentBase.prototype.createElement): Added.
1306         (CommonComponentBase.createElement): Moved from ComponentBase.
1307         (CommonComponentBase._addContentToElement): Moved from ComponentBase.
1308         (CommonComponentBase.prototype.createLink): Added.
1309         (CommonComponentBase.createLink): Moved from ComponentBase.
1310         (CommonComponentBase._context): Added. Set to document in a browser and MarkupDocument in node.js.
1311         (CommonComponentBase._isNode): Added. Set to a function which does instanceof Node/MarkupNode check.
1312         (CommonComponentBase._baseClass): Added. Set to ComponentBase or MarkupComponentBase.
1313         * public/v3/components/base.js:
1314         (ComponentBase):
1315         (ComponentBase.prototype._ensureShadowTree): Added the support for the content and style templates.
1316         Also avoid parsing the html template each time a component is instantiated by caching the result.
1317         * public/v3/index.html:
1318         * tools/js/markup-component.js: Added.
1319         (MarkupDocument): Added. A fake Document.
1320         (MarkupDocument.prototype.createContentRoot): A substitude for attachShadow.
1321         (MarkupDocument.prototype.createElement):
1322         (MarkupDocument.prototype.createTextNode):
1323         (MarkupDocument.prototype._idForClone):
1324         (MarkupDocument.prototype.reset):
1325         (MarkupDocument.prototype.markup):
1326         (MarkupDocument.prototype.escapeAttributeValue):
1327         (MarkupDocument.prototype.escapeNodeData):
1328         (MarkupNode): Added. A fake Node. Each node gets an unique ID.
1329         (MarkupNode.prototype._markup):
1330         (MarkupNode.prototype.clone): Implemented by the leave class.
1331         (MarkupNode.prototype._cloneNodeData):
1332         (MarkupNode.prototype.remove):
1333         (MarkupParentNode): Added. An equivalent of ContainerNode in WebCore.
1334         (MarkupParentNode.prototype.get childNodes):
1335         (MarkupParentNode.prototype._cloneNodeData):
1336         (MarkupParentNode.prototype.appendChild):
1337         (MarkupParentNode.prototype.removeChild):
1338         (MarkupParentNode.prototype.removeAllChildren):
1339         (MarkupParentNode.prototype.replaceChild):
1340         (MarkupContentRoot): Added. Used like a shadow tree.
1341         (MarkupContentRoot.prototype._markup): Added.
1342         (MarkupElement): Added. A fake Element. It also implements a subset of IDL attributes implemented by
1343         subclasses such as HTMLInputElement for simplicity.
1344         (MarkupElement.prototype.get id): Added.
1345         (MarkupElement.prototype.get localName): Added.
1346         (MarkupElement.prototype.clone): Added.
1347         (MarkupElement.prototype.appendChild): Added.
1348         (MarkupElement.prototype.addEventListener): Added.
1349         (MarkupElement.prototype.setAttribute): Added.
1350         (MarkupElement.prototype.getAttribute): Added.
1351         (MarkupElement.prototype.get attributes): Added.
1352         (MarkupElement.prototype.get textContent): Added.
1353         (MarkupElement.prototype.set textContent): Added.
1354         (MarkupElement.prototype._serializeStyle): Added.
1355         (MarkupElement.prototype._markup): Added. Flattens the tree with content tree like copy & paste so
1356         this can't be used to implement innerHTML.
1357         (MarkupElement.prototype.get value): Added.
1358         (MarkupElement.prototype.set value): Added.
1359         (MarkupElement.prototype.get style): Added. Returns a fake writeonly CSSStyleDeclaration.
1360         (MarkupElement.prototype.set style): Added.
1361         (MarkupElement.get selfClosingNames): Added. A small list of self-closing tags for the HTML generation.
1362         (MarkupText): Added.
1363         (MarkupText.prototype.clone): Added.
1364         (MarkupText.prototype._markup): Added.
1365         (MarkupText.prototype.get data): Added.
1366         (MarkupText.prototype.set data): Added.
1367         (MarkupComponentBase): Added.
1368         (MarkupComponentBase.prototype.element): Added. Like ComponentBase's element.
1369         (MarkupComponentBase.prototype.content): Added. Like ComponentBase's content.
1370         (MarkupComponentBase.prototype._findElementRecursivelyById): Added. A fake getElementById.
1371         (MarkupComponentBase.prototype.render): Added. Like ComponentBase's render.
1372         (MarkupComponentBase.prototype.runRenderLoop): Added. In ComponentBase, we use requestAnimationFrame.
1373         In MarkupComponentBase, we keep rendering until the queue drains empty.
1374         (MarkupComponentBase.prototype.renderReplace): Added. Like ComponentBase's renderReplace but applies
1375         the transformation of classes to workaround the lack of shadow tree support in scriptless HTML.
1376         (MarkupComponentBase.prototype._applyStyleOverrides): Added. Recursively applies the transformation.
1377         (MarkupComponentBase.prototype._ensureContentTree): Added. Like ComponentBase's _ensureShadowTree.
1378         (MarkupComponentBase.reset): Added.
1379         (MarkupComponentBase._parseTemplates): Added. Parses the content & style templates, and generates the
1380         transformed fake DOM tree and stylesheet text whereby selectors in each component is modified to be
1381         unique across all components. The function to apply the necessary changes to an element is saved in
1382         the global map of components, and later used in renderReplace via _applyStyleOverrides.
1383         (MarkupComponentBase.defineElement): Added. Like ComponentBase's defineElement.
1384         (MarkupComponentBase.prototype.createEventHandler): Added.
1385         (MarkupComponentBase.createEventHandler): Added.
1386         (MarkupPage): Added. The top-level component responsible for generating a DOCTYPE, head, and body.
1387         (MarkupPage.prototype.pageTitle): Added.
1388         (MarkupPage.prototype.content): Added. Overrides the one in MarkupComponentBase to return what would
1389         be the content of the body element as opposed to the html element for the connivance of subclasses,
1390         and to match the behavior of the frontend Page class.
1391         (MarkupPage.prototype.render): Added.
1392         (MarkupPage.prototype._updateComponentsStylesheet): Added. Concatenates the transformed stylesheet of
1393         all components used.
1394         (MarkupPage.get contentTemplate): Added.
1395         (MarkupPage.prototype.generateMarkup): Added. Enqueues the page to render, spin the render loop, and
1396         generates the HTML. We enqueue the page twice in order to invoke _updateComponentsStylesheet after
1397         all subcomponent had finished rendering.
1398         * unit-tests/markup-component-base-tests.js: Added.
1399         * unit-tests/markup-element-tests.js: Added.
1400         (.createElement): Added.
1401         * unit-tests/markup-page-tests.js: Added.
1402
1403 2018-05-23  Dewei Zhu  <dewei_zhu@apple.com>
1404
1405         OSBuildFetcher should respect maxRevision while finding OS builds to report.
1406         https://bugs.webkit.org/show_bug.cgi?id=185925
1407
1408         Reviewed by Ryosuke Niwa.
1409
1410         * server-tests/tools-os-build-fetcher-tests.js: Fix a typo in the unit tests.
1411         Added unit tests for this change. Aslo convert an existing test using async.
1412         * tools/js/os-build-fetcher.js:
1413         (prototype._fetchAvailableBuilds): It should also use 'maxRevision' to filter builds to be reported.
1414         It should use 'minRevisionOrder' when no commit has ever been submitted.
1415         (prototype._commitsForAvailableBuilds): Takes 'maxOrder' as fifth argument.
1416         'minOrder' and 'maxOrder' should be inclusive.
1417
1418 2018-05-11  Dewei Zhu  <dewei_zhu@apple.com>
1419
1420         Update ChartPane per change r231087.
1421         https://bugs.webkit.org/show_bug.cgi?id=185570
1422
1423         Reviewed by Ryosuke Niwa.
1424
1425         On r231087 we change the return type of AnalysisTask.create, ChartPane needs to adapt
1426         this change.
1427
1428         * public/v3/pages/chart-pane.js: Adapted the change that AnalysisTask.create now returns
1429         an AnalysisTask object.
1430         (ChartPane.prototype.async._analyzeRange):
1431
1432 2018-05-10  Dewei Zhu  <dewei_zhu@apple.com>
1433
1434         CommitLogViewer._preceedingCommit should not always be null
1435         https://bugs.webkit.org/show_bug.cgi?id=185540
1436
1437         Reviewed by Ryosuke Niwa.
1438
1439         Fix the bug introduced in r227746 that CommitLogViewer._preceedingCommit is always null.
1440
1441         * browser-tests/index.html: Fix expected measurement-set url.
1442         * public/v3/components/commit-log-viewer.js:
1443         (CommitLogViewer.prototype._fetchCommitLogs): CommitLogViewer._preceedingCommit should be set
1444          when fetching for preceeding revision succeeds.
1445
1446 2018-05-03  Dewei Zhu  <dewei_zhu@apple.com>
1447
1448         Range bisector should check the commits for repositories without change in specified range.
1449         https://bugs.webkit.org/show_bug.cgi?id=185269
1450
1451         Reviewed by Ryosuke Niwa.
1452
1453         For repositories without a change in the specified range, we still need to use them to filter commit
1454         sets. Before this change, code does not apply filtering by those repositories against commit set. As
1455         a result, commit sets with different commits for those repositories may be chosen as bisecting commit set.
1456
1457         * public/v3/commit-set-range-bisector.js: Updated the logic to verify range for repositories without
1458         change in range.
1459         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits):
1460         * unit-tests/commit-set-range-bisector-tests.js: Added a unit test to guard against this change.
1461
1462 2018-05-02  Dewei Zhu  <dewei_zhu@apple.com>
1463
1464         Create analysis task should sync analysis task status after creation.
1465         https://bugs.webkit.org/show_bug.cgi?id=185222
1466
1467         Reviewed by Ryosuke Niwa.
1468
1469         * public/v3/models/analysis-task.js:
1470         (AnalysisTask.async.create): Fetch newly-created analysis task right about its creation.
1471         (AnalysisTask):
1472         * tools/js/measurement-set-analyzer.js:
1473         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet): Adjust as 'AnalysisTask.create' now
1474         returns an anlysis task instance.
1475         (MeasurementSetAnalyzer):
1476         * unit-tests/analysis-task-tests.js: Added a unit test for this change.
1477         (async):
1478         * unit-tests/measurement-set-analyzer-tests.js: Update unit tests accordingly.
1479         Fix a typo in one previous unit test.
1480         (async):
1481
1482 2018-05-01  Dewei Zhu  <dewei_zhu@apple.com>
1483
1484         Write a script that detects chart changes by using v3 API.
1485         https://bugs.webkit.org/show_bug.cgi?id=184419
1486
1487         Reviewed by Ryosuke Niwa.
1488
1489         Added a script that detects chart changes and schedule confirming analysis task.
1490
1491         * browser-tests/async-task-tests.js: Added a unit test for 'AsyncTask'.
1492         * browser-tests/index.html: Added import for 'AsyncTask' for testing.
1493         * public/shared/statistics.js: Make 'findRangesForChangeDetectionsWithWelchsTTest' defaults to 0.99 one sided possibility.
1494         (Statistics.new.this.findRangesForChangeDetectionsWithWelchsTTest):
1495         * public/v3/async-task.js:
1496         (AsyncTask.isAvailable): Helper function to determine whether AsyncTask is available or not as 'Worker' is
1497         not available in nodejs.
1498         (AsyncTask):
1499         * public/v3/models/bug.js: Export as a module.
1500         * public/v3/models/measurement-set.js:
1501         (MeasurementSet.prototype._invokeSegmentationAlgorithm): Added a check to avoid using AsyncTask when running in NodeJs.
1502         (MeasurementSet):
1503         * server-tests/resources/common-operations.js: Added a helper function to assert certain exception is thrown.
1504         (async.assertThrows):
1505         * tools/js/measurement-set-analyzer.js: Added 'MeasurementSetAnalyzer' module for analyzing measurement set.
1506         (MeasurementSetAnalyzer):
1507         (MeasurementSetAnalyzer.prototype.async.analyzeOnce):
1508         (MeasurementSetAnalyzer.measurementSetListForAnalysis):
1509         (MeasurementSetAnalyzer.prototype.async._analyzeMeasurementSet):
1510         * tools/js/v3-models.js: Added import for 'Bug' object.
1511         * tools/run-analysis.js: Added this script to detect measurement set changes.
1512         (main):
1513         (async.analysisLoop):
1514         * unit-tests/measurement-set-analyzer-tests.js: Added unit tests for 'MeasurementSetAnalyzer'.
1515         * unit-tests/resources/mock-v3-models.js: Reset 'MeasurementSet._set' every time.
1516         Update mock platform to include lastModifiedByMetric information.
1517         (MockModels.inject):
1518
1519 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1520
1521         Creating a custom analysis task after fetching all analysis tasks fail
1522         https://bugs.webkit.org/show_bug.cgi?id=184641
1523
1524         Reviewed by Saam Barati.
1525
1526         The bug was caused by AnalysisTask._fetchSubset not fetching the analysis task when all analysis tasks
1527         had previously been fetched (AnlaysisTask._fetchAllPromise is set) even when noCache is set to true.
1528         Fixed it by ignornig _fetchAllPromise when noCache is set to true.
1529
1530         This patch also adds noCache argument to AnalysisTask.fetchById and reverts the inadvertent change in
1531         r226836 to always set noCache to true in this function.
1532
1533         * public/v3/models/analysis-task.js:
1534         (AnalysisTask.fetchById): Added noCache argument instead of always specifying true, and modernized the code.
1535         (AnalysisTask._fetchSubset): Fixed the bug. See above description.
1536         * public/v3/models/test-group.js:
1537         (TestGroup.createWithTask): Set noCache to true when calling AnalysisTask.fetchById here.
1538         * unit-tests/analysis-task-tests.js: Added test cases for AnalysisTask.fetchById, including a test
1539         to make sure it doesn't fetch the specified analysis task when noCache is set to false and all analysis
1540         tasks had previously been fetched for the aforementioned revert of the inadvertent change in r226836.
1541         (sampleAnalysisTasks): Renamed from sampleAnalysisTasks as the result contains multiple analysis tasks.
1542         * unit-tests/test-groups-tests.js: Added a test case for TestGroup.createWithTask
1543
1544 2018-04-30  Ryosuke Niwa  <rniwa@webkit.org>
1545
1546         REGRESSION(r230960): Browser tests under TimeSeriesChart fetchMeasurementSets all fail
1547         https://bugs.webkit.org/show_bug.cgi?id=185125
1548
1549         Reviewed by Saam Barati.
1550
1551         The bug was caused by mock-remote-api.js always loading PrivilegedAPI using require, which doesn't work in a browser.
1552         Fixed the bug by explicitly requiring the right kind of PrivilegedAPI in each unit test instead.
1553
1554         * unit-tests/analysis-task-tests.js:
1555         * unit-tests/buildbot-syncer-tests.js:
1556         * unit-tests/commit-log-tests.js:
1557         * unit-tests/commit-set-range-bisector-tests.js:
1558         * unit-tests/commit-set-tests.js:
1559         * unit-tests/measurement-set-tests.js:
1560         * unit-tests/privileged-api-tests.js:
1561         * unit-tests/resources/mock-remote-api.js:
1562         (MockRemoteAPI.inject): Take PrivilegedAPI instead of the type string. Also fixed a bug that _token wasn't unset
1563         after each unit test, and superfluous initializations of originalRemoteAPI and originalPrivilegedAPI.
1564         * unit-tests/test-groups-tests.js:
1565
1566 2018-04-30  Dewei Zhu  <dewei_zhu@apple.com>
1567
1568         MeasurementSet._constructUrl should construct absolute url.
1569         https://bugs.webkit.org/show_bug.cgi?id=185137
1570
1571         Reviewed by Ryosuke Niwa.
1572
1573         MeasurementSet._constructUrl should not construct an url with relative path.
1574
1575         * public/v3/models/measurement-set.js: Should use '/api/measurement-set...' and '/data/measurement-set-...'
1576         for uncached and cached fetching.
1577         * unit-tests/measurement-set-tests.js: Updated unit tests.
1578         (const.set MeasurementSet):
1579
1580 2018-04-26  Dewei Zhu  <dewei_zhu@apple.com>
1581
1582         Extend create-analysis-test API to be able to create with confirming test group.
1583         https://bugs.webkit.org/show_bug.cgi?id=184958
1584
1585         Reviewed by Ryosuke Niwa.
1586
1587         Extend create-analysis-test API to be able to create an analysis task with confirming test group.
1588         Update create analysis task UI in chart pane to adapt this new API.
1589         Refactored '/privileged-api/create-test-group' API to share some creating test group logic with '/privileged-api/create-analysis-task' API.
1590         Moved the shared logic to commit-sets-helpers.php.
1591
1592         * public/api/analysis-tasks.php: Use 'require_once' instead of 'require'.
1593         * public/include/commit-sets-helpers.php: Added.
1594         (create_test_group_and_build_requests): A helper function that creates test group and build requests for a analysis
1595         task. In long term, this should be a class to avoid passing long argument list around.
1596         (insert_commit_sets_and_construct_configuration_list): Based on commit sets returns build and test configurations.
1597         (insert_build_request_for_configuration): Insert build requests based on configuration.
1598         (commit_sets_from_revision_sets): Returns commit sets from given revision set list.
1599         * public/privileged-api/create-analysis-task.php: Added the ability to create analysis task with confirming test
1600         groups when repetition count is specified.
1601         * public/privileged-api/create-test-group.php: Moved shared function to commit-sets-helpers.php.
1602         * public/v3/models/analysis-task.js:
1603         (AnalysisTask.create): Instead of accepting run ids, it now accepts points and test group name and confirming iterations.
1604         It will conditionally add test group information into parameter when confirming iterations is a positive number.
1605         (AnalysisTask):
1606         * public/v3/models/commit-set.js:
1607         (CommitSet.revisionSetsFromCommitSets): Move 'TestGroup._revisionSetsFromCommitSets' since CommitSet class is more
1608         appropriate place and it will be shared by both TestGroup and AnalysisTask
1609         (CommitSet):
1610         * public/v3/models/test-group.js:
1611         (TestGroup.createWithTask): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1612         (TestGroup.createWithCustomConfiguration): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1613         (TestGroup.createAndRefetchTestGroups): Adapt 'CommitSet.revisionSetsFromCommitSets'.
1614         (TestGroup._revisionSetsFromCommitSets): Deleted and moved to 'CommitSet.revisionSetsFromCommitSets'.
1615         * public/v3/pages/chart-pane.js:
1616         (ChartPane.prototype.didConstructShadowTree): Added the logic to disable options when checkbox for creating confirming
1617         test group is unchecked.
1618         (ChartPane.prototype._analyzeRange): Conditionally create confirming test group from UI.
1619         (ChartPane.cssTemplate):
1620         * server-tests/privileged-api-create-analysis-task-tests.js: Added unit tests. Added a unit test for 'NodePrivilegedAPI'.
1621         * unit-tests/analysis-task-tests.js: Added unit tests.
1622         * unit-tests/commit-set-tests.js: Added unit test for 'CommitSet.revisionSetsFromCommitSets'.
1623         * unit-tests/resources/mock-remote-api.js: Reset csrf token when BrowserPrivilegedAPI is used.
1624         (MockRemoteAPI.inject):
1625
1626 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1627
1628         Tool scripts should not use PrivilegedAPI from 'public/v3/privileged-api.js'.
1629         https://bugs.webkit.org/show_bug.cgi?id=184766
1630
1631         Reviewed by Ryosuke Niwa.
1632
1633         For tools, we should not use PrivilegedAPI for tools as current PrivilegedAPI
1634         is used by UI and it is unnecessary to generate CSRF token for tools.
1635         Will post a followup patch that creates a PrivilegedAPI used by tools.
1636         Make a change on TestServer.inject and MockRemoteAPI.inject to allow specifying
1637         BrowserPrivilegedAPI or NodePrivilegedAPI in the test. Currently defaults to
1638         BrowserPrivilegedAPI as this is the test behavior before this change.
1639
1640         * server-tests/resources/common-operations.js: Allow passing type of privileged api
1641         information to TestServer.inject.
1642         * server-tests/resources/test-server.js: Conditionally inject PrivilegedAPI based on
1643         type of privileged api.
1644         (TestServer.prototype.inject):
1645         (TestServer):
1646         * server-tests/tools-buildbot-triggerable-tests.js: Updated 'prepareServerTest' invocation.
1647         * server-tests/tools-os-build-fetcher-tests.js: Updated 'prepareServerTest' invocation.
1648         * server-tests/tools-sync-buildbot-integration-tests.js: Temporarily injecting
1649         BrowserPrivilegedAPI for mocking UploadedFile. The actual script does not rely on
1650         BrowserPrivilegedAPI at all.
1651         (async.createTestGroupWihPatch):
1652         (beforeEach):
1653         * tools/js/privileged-api.js: Added NodePrivilegedAPI
1654         (NodePrivilegedAPI.prototype.sendRequest):
1655         (NodePrivilegedAPI.configure): Configure the slave name and password.
1656         (NodePrivilegedAPI):
1657         * tools/js/v3-models.js: Removed the import of PrivilegedAPI.
1658         * unit-tests/privileged-api-tests.js:. Added unit tests for NodePrivilegedAPI.
1659         * unit-tests/resources/mock-remote-api.js: Conditionally inject PrivilegedAPI based on
1660         the type of privileged api.
1661         (MockRemoteAPI.inject):
1662
1663 2018-04-23  Dewei Zhu  <dewei_zhu@apple.com>
1664
1665         Revision information returned by querying measurement set api with analysis task id should contain commit order.
1666         https://bugs.webkit.org/show_bug.cgi?id=184902
1667
1668         Reviewed by Ryosuke Niwa.
1669
1670         This is a bug fix for r230719 which does not cover the case while querying `measurement-set.php?analysisTask=$task_id`
1671
1672         * public/api/measurement-set.php: AnalysisResultsFetcher.fetch_commits results should contains commit order.
1673         * server-tests/api-measurement-set-tests.js: Added unit test for this change.
1674
1675 2018-04-19  Dewei Zhu  <dewei_zhu@apple.com>
1676
1677         Add a bisect button to automatically schedule bisecting A/B tasks.
1678         https://bugs.webkit.org/show_bug.cgi?id=183888
1679
1680         Reviewed by Ryosuke Niwa.
1681
1682         Extended AnalysisTask's ability to figure out bisecting A/B tasks based on existing data points and test groups.
1683         Updated analysis page UI to show bisect button which will only appear when the middle commit set of the range in
1684         test group can be found.
1685
1686         Finding middle commit set algorithm is described as follows:
1687         1. Find all commits from multiple repositories among the ranges specified by two commit sets in test group. In
1688         the meanwhile, merge all commits that have commit time into a single list. For commits only have commit order,
1689         put those commits into separate lists.
1690         2. Filter all the available commit sets in current analysis task by keeping the ones have exact repositories
1691         as the two commit sets in specified test group, and every commit of a commit set is in side the commit range.
1692         After filtering the commit sets, sort the remaining ones and only keep one commit set if multiple commit sets
1693         are equal to each other.
1694         3. Among commits processed by step 2, find the commit sets that have the commit which is closest to the middle of
1695         all commits that have commit time created from step 1.
1696         4. Among commits processed by step 3, find the commit sets that have the commit which is closest to the middle of
1697         commits that only have commit order and categorized by repository. We have to iterate through repository as commit
1698         order is not granted to be comparable between different repositories.
1699         5. If more than one commit sets are found, choose the middle commit set.
1700
1701         * public/v3/commit-set-range-bisector.js: Added.
1702         (CommitSetRangeBisector.async.commitSetClosestToMiddleOfAllCommits): Instead of naively returning the middle of
1703         existing commit set array, this function selects a bisect bisection points that is closest to actually middle of
1704         the revision range based on all revisions reported to performance dashboard.
1705         (CommitSetRangeBisector._findCommitSetsWithinRange): Helper function to find commit sets those are in specified range.
1706         (CommitSetRangeBisector._orderCommitSetsByTimeAndOrderThenDeduplicate): Helper function to sort and deduplicate commit sets.
1707         (CommitSetRangeBisector._closestCommitSetsToBisectingCommitByTime): Helper function to find the commit sets those
1708         are closest to the middle of among all the commits in the range that have commit time.
1709         (CommitSetRangeBisector._findCommitSetsClosestToMiddleOfCommitsWithOrder): Helper function which goes through all
1710         repositories the commit of which has commit order, and find the commit sets those are closest to the middle of
1711         commits for each repository.
1712         (CommitSetRangeBisector._buildCommitToCommitSetMap): Helper function to builder mapping from a commit to commit
1713         sets those contain this commit.
1714         (CommitSetRangeBisector._findCommitClosestToMiddleIndex): Helper function to find closest commit to the middle of index.
1715         (CommitSetRangeBisector):
1716         * public/v3/index.html: Imports 'public/v3/commit-set-range-bisector.js'.
1717         * public/v3/models/analysis-task.js:
1718         (AnalysisTask.prototype.async.commitSetsFromTestGroupsAndMeasurementSet): Aggregates all existing commit sets in
1719         test groups of current analysis tasks.
1720         * public/v3/models/commit-log.js:
1721         (CommitLog.prototype.hasCommitTime): A helper function determine whether a commit has a commit time. For commit
1722         that does not have time, server will return commit time as zero. As it is unrealistic for a commit has commit time
1723         0, it would be safe to assume a valid commit time is greater than 0.
1724         (CommitLog.prototype.hasCommitOrder): Returns whether a commit has a commit oder.
1725         (CommitLog.hasOrdering): Determine whether we can order two commits by commit time or commit order.
1726         (CommitLog.orderTwoCommits): Order two commits incrementally.
1727         * public/v3/models/commit-set.js:
1728         (CommitSet.prototype.hasSameRepositories): A helper function to determine whether a commit set has same repositories
1729         as current repository.
1730         (CommitSet.containsRootOrPatchOrOwnedCommit): A helper function to determine whether current commit set has root,
1731         patch or owned commit.
1732         (CommitSet.commitForRepository): This function defined twice identically, remove one of them.
1733         * public/v3/models/test-group.js: Make '_computeRequestedCommitSets' a static function as it does not use any
1734         instance variables.
1735         * public/v3/pages/analysis-task-page.js: Added bisect button.
1736         (AnalysisTaskTestGroupPane):
1737         (AnalysisTaskTestGroupPane.prototype.didConstructShadowTree):
1738         (AnalysisTaskTestGroupPane.prototype.setTestGroups): Update 'setTestGroups' to update _bisectingCommitSetByTestGroup
1739         when the test groups changes.
1740         (AnalysisTaskTestGroupPane.prototype._renderCurrentTestGroup): Added code to conditionally show bisect button.
1741         Bisect button will only show when there is a middle commit set for that test group.
1742         (AnalysisTaskTestGroupPane.htmlTemplate):
1743         (AnalysisTaskTestGroupPane.cssTemplate):
1744         (AnalysisTaskPage.prototype.didConstructShadowTree):
1745         (AnalysisTaskPage.prototype._retryCurrentTestGroup):
1746         (AnalysisTaskPage.prototype.async._bisectCurrentTestGroup): A callback when bisect button is clicked.
1747         * tools/js/v3-models.js:
1748         * unit-tests/commit-log-tests.js: Added unit tests for 'CommitLog.hasCommitTime', 'CommitLog.hasCommitOrder',
1749         'CommitLog.orderTwoCommits', 'CommitLog.hasOrdering'.
1750         * unit-tests/commit-set-range-bisector-tests.js: Unit tests for 'CommitSetRangeBisector.commitSetClosestToMiddleOfAllCommits'.
1751         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.hasSameRepositories' and 'CommitSet.containsRootOrPatchOrOwnedCommit'.
1752
1753 2018-04-16  Dewei Zhu  <dewei_zhu@apple.com>
1754
1755         Commit order should always be returned by api.
1756         https://bugs.webkit.org/show_bug.cgi?id=184674
1757
1758         Reviewed by Ryosuke Niwa.
1759
1760         Commit order sometimes missing in CommitLog object before this change.
1761         This makes ordering commits logic become unnecessarily complicate.
1762         This change will ensure commit order is always fetched for a CommitLog object.
1763         Change measurement-set API to contain commit order information.
1764         Change commits API to contain commit order information.
1765
1766         * public/api/measurement-set.php: Includes commit order information.
1767         * public/include/commit-log-fetcher.php:
1768         * public/v3/models/commit-log.js: Added a function to return order information.
1769         (CommitLog.prototype.updateSingleton): This function should update commit order.
1770         (CommitLog.prototype.order): Returns the order of commit.
1771         * public/v3/models/commit-set.js:
1772         (MeasurementCommitSet): Update MeasurementCommitSet to contain commit order information when creating CommitLog object.
1773         * server-tests/api-measurement-set-tests.js: Updated unit tests.
1774         * unit-tests/analysis-task-tests.js: Update unit tests to contain commit order information in mock data.
1775         (measurementCluster):
1776         * unit-tests/commit-log-tests.js: Added unit tests for CommitLog.order.
1777         * unit-tests/commit-set-tests.js: Added commit order in MeasurementCommitSet.
1778         * unit-tests/measurement-adaptor-tests.js: Updated unit tests to contain commit order information in mock data.
1779         * unit-tests/measurement-set-tests.js: Updated unit tests to contain commit order information in mock data.
1780
1781 2018-04-15  Ryosuke Niwa  <rniwa@webkit.org>
1782
1783         Make it possible to hide some repository groups
1784         https://bugs.webkit.org/show_bug.cgi?id=184632
1785
1786         Reviewed by Saam Barati.
1787
1788         Added the ability to hide repository groups in the custom analysis task configurator from the admin page.
1789         Hidden repositroy groups will continue to function for existing test groups. This is purely an UI change.
1790
1791         * init-database.sql: Added repositorygroup_hidden as a new column to triggerable_repository_groups.
1792         * public/admin/triggerables.php: Added a form field to hide a repository group.
1793         * public/include/manifest-generator.php: Include hidden state in the manifest file.
1794         * public/v3/components/custom-analysis-task-configurator.js:
1795         (CustomAnalysisTaskConfigurator.prototype._renderRepositoryPanes): Filter out hidden repository groups.
1796         * public/v3/models/triggerable.js:
1797         (prototype.isHidden): Added.
1798         * server-tests/api-manifest-tests.js: Updated an existing test case to test a hidden repository group.
1799
1800 2018-04-06  Dewei Zhu  <dewei_zhu@apple.com>
1801
1802         Added 'CommitSet.diff' which will be shared between multiple independent incoming changes.
1803         https://bugs.webkit.org/show_bug.cgi?id=184368
1804
1805         Reviewed by Ryosuke Niwa.
1806
1807         'CommitSet.diff' will be used in multiple independent incoming changes.
1808         It would be easier to make this a separate change to parallelize the changes depends on this API.
1809
1810         * public/v3/models/commit-set.js:
1811         (CommitSet.prototype.createNameWithoutCollision): Moved from 'AnalysisTaskPage' and make it more generic.
1812         (CommitSet.prototype.diff): Describe differences between 2 commit sets including commit, root and patch differences.
1813         * public/v3/pages/analysis-task-page.js: Move 'AnalysisTaskPage._createRetryNameForTestGroup' to CommitSet in a more generic form.
1814         (AnalysisTaskPage.prototype._retryCurrentTestGroup): Use 'CommitSet.withoutRootPatchOrOwnedCommit' instead.
1815         (AnalysisTaskPage.prototype._createRetryNameForTestGroup): Moved to CommitSet in a more generic form.
1816         * unit-tests/commit-set-tests.js: Added unit tests for 'CommitSet.diff'.
1817
1818 2018-04-05  Dewei Zhu  <dewei_zhu@apple.com>
1819
1820         Fix a bug introduced in r230295 that A/B test result is not shown.
1821         https://bugs.webkit.org/show_bug.cgi?id=184350
1822
1823         Reviewed by Ryosuke Niwa.
1824
1825         result.label should be assigned in `TestGroup._computeRequestedCommitSets`.
1826
1827         * public/v3/models/test-group.js:
1828         (TestGroup.prototype._computeRequestedCommitSets):
1829
1830 2018-03-29  Dewei Zhu  <dewei_zhu@apple.com>
1831
1832         Added UI to show potential regressions in chart with t-testing against segmentations.
1833         https://bugs.webkit.org/show_bug.cgi?id=184131
1834
1835         Reviewed by Ryosuke Niwa.
1836
1837         Added UI in the chart-pane so that user can use new option in trendline which not only
1838         shows the segmentation, but also t-test against potential changes indicated by segmentation.
1839
1840         Fix a bug in AnalysisTaskPage that chart is not updated when change type of task changes.
1841
1842         * browser-tests/interactive-time-series-chart-tests.js: Fix a unit tests.
1843         * browser-tests/time-series-chart-tests.js: Fix a unit tests.
1844         * public/shared/statistics.js: Added a function to t-test certain range based on segmentation results.
1845         (Statistics.supportedOneSideTTestProbabilities):
1846         (Statistics.findRangesForChangeDetectionsWithWelchsTTest): The argument `segmentations`, every 2 items in the list defines 
1847         segmentation, that is why the index incremental is 2 in this funcion.
1848         * public/v3/components/chart-pane-base.js: Will select the range if user clicks on a suggested annotation.
1849         (ChartPaneBase.prototype.configure):
1850         (ChartPaneBase.prototype._didClickAnnotation):
1851         * public/v3/components/chart-styles.js:
1852         (ChartStyles.annotationFillStyleForTask): Added 'annotationFillStyleForTask' to determine the fillStyle for annotation based on change type of a analysis task.
1853         * public/v3/components/interactive-time-series-chart.js:
1854         (InteractiveTimeSeriesChart.prototype._findAnnotation): Also need to search among suggested annotaions.
1855         * public/v3/components/time-series-chart.js: Introduced 'suggested annotaion' which does not have an existing task and is suggested by t-test based on segmentation.
1856         (TimeSeriesChart):
1857         (TimeSeriesChart.prototype.setSuggestedAnnotations):
1858         (TimeSeriesChart.prototype.allAnnotations): Returns both annotations with and without analysis task.
1859         (TimeSeriesChart.prototype._layoutAnnotationBars): Should take all annotations in the calculation.
1860         * public/v3/models/measurement-set.js:
1861         (MeasurementSet.prototype.metricId): Returns metric id.
1862         * public/v3/models/metric.js:
1863         (Metric.prototype.summarizeForValues): Added helper function to summarize a given value
1864         * public/v3/models/test-group.js:
1865         (TestGroup.prototype.compareTestResults): Adapted to use 'Metric.summarizeForValues'.
1866         * public/v3/pages/chart-pane.js: Added 'Segmentation with t-test analysis' to 'ChartTrendLineTypes'.
1867         (ChartPane.prototype._renderTrendLinePopover):
1868         (ChartPane.prototype.async._updateTrendLine): make it an async function.
1869         * unit-tests/statistics-tests.js: Added unit tests for 'findRangesForChangeDetectionsWithWelchsTTest'.
1870
1871 2018-04-02  Aakash Jain  <aakash_jain@apple.com>
1872
1873         Remove deprecated Buildbot 0.8 code from Perf syncing scripts
1874         https://bugs.webkit.org/show_bug.cgi?id=183915
1875
1876         Reviewed by Ryosuke Niwa.
1877
1878         * server-tests/resources/mock-data.js:
1879         (MockData.buildbotBuildersURLDeprecated): Deleted.
1880         (MockData.mockBuildbotBuildersDeprecated): Deleted.
1881         (MockData.pendingBuildDeprecated): Deleted.
1882         (MockData.runningBuildDeprecated): Deleted.
1883         (MockData.finishedBuildDeprecated): Deleted.
1884         * tools/js/buildbot-syncer.js:
1885         (BuildbotBuildEntryDeprecated): Deleted.
1886         (BuildbotBuildEntryDeprecated.prototype.initialize): Deleted.
1887         (BuildbotBuildEntryDeprecated.prototype.url): Deleted.
1888         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Deleted.
1889         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Deleted.
1890         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Deleted.
1891         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Deleted.
1892         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Deleted.
1893         (BuildbotSyncer.prototype.url): Deleted.
1894         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deleted.
1895         * tools/js/buildbot-triggerable.js:
1896         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Deleted.
1897         * unit-tests/buildbot-syncer-tests.js:
1898         (smallPendingBuildDeprecated): Deleted.
1899         (smallInProgressBuildDeprecated): Deleted.
1900         (smallFinishedBuildDeprecated): Deleted.
1901         (samplePendingBuildRequestDeprecated): Deleted.
1902         (sampleInProgressBuildDeprecated): Deleted.
1903         (sampleFinishedBuildDeprecated): Deleted.
1904
1905 2018-03-19  Aakash Jain  <aakash_jain@apple.com>
1906
1907         Update Perf buildbot syncing scripts for Buildbot 0.9
1908         https://bugs.webkit.org/show_bug.cgi?id=175969
1909
1910         Reviewed by Ryosuke Niwa.
1911
1912         * tools/js/buildbot-triggerable.js:
1913         (BuildbotTriggerable.prototype.initSyncers): Switch from Deprecated version to new version of getBuilderNameToIDMap.
1914         * tools/js/buildbot-syncer.js:
1915         (BuildbotSyncer.prototype.scheduleRequestInGroupIfAvailable): Switch from Deprecated version to new version of scheduleRequest.
1916         (BuildbotSyncer.prototype.pullBuildbot): Switch from Deprecated version to new version of pathForPendingBuilds, _pullRecentBuilds 
1917         and BuildbotBuildEntry. Parse the pending build-requests data in Buildbot 0.9 format.
1918         * unit-tests/buildbot-syncer-tests.js: Updated as per Buildbot 0.9 code.
1919         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
1920         * server-tests/tools-buildbot-triggerable-tests.js: Ditto.
1921         * server-tests/resources/mock-data.js: Ditto.
1922         (MockData.pendingBuildsUrl): Method to construct pendingBuildsUrl in Buildbot 0.9 format.
1923         (MockData.recentBuildsUrl): Ditto for recent builds url.
1924         (MockData.statusUrl): Ditto for status url.
1925         (MockData.builderIDForName): Method to get builder ID from builder name.
1926
1927 2018-03-15  Aakash Jain  <aakash_jain@apple.com>
1928
1929         BuildbotBuildEntry creates an incorrect url for pending builds
1930         https://bugs.webkit.org/show_bug.cgi?id=183670
1931
1932         Reviewed by Ryosuke Niwa.
1933
1934         * tools/js/buildbot-syncer.js:
1935         (BuildbotBuildEntry.prototype.initialize): Fetch buildrequestid from Buildbot.
1936         (BuildbotBuildEntry.prototype.url): Construct url for pending build using buildrequestid from Buildbot.
1937         * unit-tests/buildbot-syncer-tests.js: Updated unit-test.
1938
1939 2018-03-14  Aakash Jain  <aakash_jain@apple.com>
1940
1941         Add support for boolean properties in BuildbotSyncer while submitting build request to Buildbot 0.9 server
1942         https://bugs.webkit.org/show_bug.cgi?id=183638
1943
1944         Reviewed by Ryosuke Niwa.
1945
1946         * tools/js/buildbot-syncer.js:
1947         (BuildbotSyncer._parseRepositoryGroupPropertyTemplate): Allow boolean properties.
1948         * server-tests/tools-sync-buildbot-integration-tests.js: Tests for boolean properties.
1949         * unit-tests/buildbot-syncer-tests.js: Ditto.
1950
1951 2018-03-04  Dewei Zhu  <dewei_zhu@apple.com>
1952
1953         Create analysis task should use build time as fallback when commit time is not available.
1954         https://bugs.webkit.org/show_bug.cgi?id=183309
1955
1956         Reviewed by Ryosuke Niwa.
1957
1958         Added the ability to schedule analysis task for the range without commit time.
1959
1960         * public/privileged-api/create-analysis-task.php: Use build time as fallback.
1961         * server-tests/privileged-api-create-analysis-task-tests.js: Added a unit test for this change.
1962
1963 2018-03-04  Aakash Jain  <aakash_jain@apple.com>
1964
1965         BuildbotBuildEntry for buildbot 0.9 uses incorrect buildrequestid
1966         https://bugs.webkit.org/show_bug.cgi?id=183194
1967
1968         Reviewed by Ryosuke Niwa.
1969
1970         * tools/js/buildbot-syncer.js:
1971         (BuildbotBuildEntry.prototype.initialize): Updated _buildRequestId to use correct build-request-id, as set in syncer._buildRequestPropertyName.
1972         (BuildbotSyncer.prototype.pathForPendingBuilds): Updated url to fetch properties for build-requests.
1973         * unit-tests/buildbot-syncer-tests.js:
1974         (sampleBuildData): Updated sampleBuildData with correct build-request-id in properties. Added
1975         properties to samplePendingBuildRequestData.
1976
1977 2018-02-28  Aakash Jain  <aakash_jain@apple.com>
1978
1979         Rename samplePendingBuild to samplePendingBuildRequest
1980         https://bugs.webkit.org/show_bug.cgi?id=183171
1981
1982         Reviewed by Ryosuke Niwa.
1983
1984         * unit-tests/buildbot-syncer-tests.js:
1985         (samplePendingBuildRequests): Renamed from samplePendingBuild.
1986         (samplePendingBuildRequestDeprecated): Renamed from samplePendingBuildDeprecated.
1987         (samplePendingBuild): Deleted.
1988         (samplePendingBuildDeprecated): Deleted.
1989
1990 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
1991
1992         Add support for submitting build request to Buildbot 0.9 server in BuildbotSyncer
1993         https://bugs.webkit.org/show_bug.cgi?id=182218
1994
1995         Reviewed by Ryosuke Niwa.
1996
1997         * tools/js/buildbot-syncer.js:
1998         (BuildbotSyncer.prototype.scheduleRequest): Added assert to ensure forcescheduler property is always defined. Builds can not
1999         be scheduled on Buildbot without this property. Updated unit-tests and server-tests accordingly.
2000         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Method to schedule build request on Buildbot 0.8 server.
2001         (BuildbotSyncer.prototype.scheduleBuildOnBuildbot): Method to schedule build request on Buildbot 0.9 server.
2002         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Path for scheudling build on Buildbot 0.8 server.
2003         (BuildbotSyncer.prototype.pathForForceBuild): Path for scheudling build on Buildbot 0.9 server.
2004         * unit-tests/buildbot-syncer-tests.js:
2005         (smallConfiguration): Added test-case for scheduleBuildOnBuildbot. Also added forcescheduler property in sample data.
2006         * server-tests/resources/mock-data.js: Added forcescheduler property in sample data.
2007         * server-tests/tools-buildbot-triggerable-tests.js: Updated server-tests to take care of added forcescheduler property.
2008
2009 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
2010
2011         Add support for fetching recent builds in Buildbot 0.9 format in BuildbotSyncer
2012         https://bugs.webkit.org/show_bug.cgi?id=179743
2013
2014         Reviewed by Ryosuke Niwa.
2015
2016         * tools/js/buildbot-syncer.js:
2017         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Renamed from _pullRecentBuilds. This method fetch
2018         from Buildbot 0.8 server.
2019         (BuildbotSyncer.prototype._pullRecentBuilds): Method to fetch recent builds from Buildbot 0.9 server.
2020         (BuildbotSyncer.prototype.pathForRecentBuilds): URL for fetching recent builds from Buildbot 0.9 server.
2021         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Renamed from pathForBuildJSON.
2022         * unit-tests/buildbot-syncer-tests.js:
2023         (_pullRecentBuilds.it): unit-test - should not fetch recent builds when count is zero.
2024         (_pullRecentBuilds.it): unit-test - should pull the right number of recent builds.
2025         (_pullRecentBuilds.it): unit-test - should handle unexpected error while fetching recent builds.
2026         (_pullRecentBuilds.it): unit-test - should create BuildbotBuildEntry after fetching recent builds.
2027
2028 2018-02-01  Aakash Jain  <aakash_jain@apple.com>
2029
2030         Create BuildbotBuildEntry in Buildbot syncer in Buildbot 0.9 format
2031         https://bugs.webkit.org/show_bug.cgi?id=182036
2032
2033         Reviewed by Ryosuke Niwa.
2034
2035         * tools/js/buildbot-syncer.js:
2036         (BuildbotBuildEntry): Class for Buildbot entry in Buildbot 0.9 data format.
2037         (BuildbotBuildEntryDeprecated): Renamed from BuildbotBuildEntry, sub-classed from BuildBotEntry. Handles Buildbot 0.8 data format.
2038         (BuildbotBuildEntryDeprecated.prototype.url): URL in buildbot 0.8 format.
2039         (BuildbotSyncer.prototype.builderID): Added.
2040         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Renamed from BuildbotSyncer.prototype.pathForPendingBuildsJSON.
2041         (BuildbotSyncer.prototype.pathForPendingBuilds): Path for pending builds in Buildbot 0.9 format.
2042         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deprecated. Renamed from urlForBuildNumber.
2043         (BuildbotSyncer.prototype.urlForBuildNumber): Updated in Buildbot 0.9 format.
2044         (BuildbotSyncer.prototype.urlForPendingBuild): Buildbot 0.9 has individual webpage for pending buildrequests as well. URL to that page.
2045         * unit-tests/buildbot-syncer-tests.js: Renamed BuildbotBuildEntry to BuildbotBuildEntryDeprecated.
2046         (sampleBuildData): Sample build data. Common method for in-progress and finished build data.
2047         (samplePendingBuildData): Sample data for a pending build. Separate method so that we can easily create sample data with multiple builds.
2048         (sampleInProgressBuildData): Ditto for in-progress build.
2049         (sampleFinishedBuildData): Ditto for finished build.
2050         (samplePendingBuild): Sample data for single pending build.
2051         (sampleInProgressBuild): Ditto for in-progress build.
2052         (sampleFinishedBuild): Ditto for finished build.
2053         (samplePendingBuildDeprecated): Renamed from samplePendingBuild.
2054         (sampleInProgressBuildDeprecated): Renamed from sampleInProgressBuild.
2055         (sampleFinishedBuildDeprecated): Renamed from sampleFinishedBuild.
2056         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for pending build.
2057         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for in-progress build.
2058         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for finished build.
2059         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for mix of in-progress and finished build.
2060
2061 2018-01-31  Dewei Zhu  <dewei_zhu@apple.com>
2062
2063         Should chose the best match during 'route' if there are multiple matches.
2064         https://bugs.webkit.org/show_bug.cgi?id=182326
2065
2066         Reviewed by Ryosuke Niwa.
2067
2068         r227749 made a change that 'analysisCategoryPage' will be added before 'analysisTaskPage'.
2069         As route names for both pages starts with 'analysis', whichever added first will be chosen.
2070         For a route like 'analysis/task/1'. As a result, 'analysisCategoryPage' will be chosen and
2071         this is not expected behavior. Adding the logic on the cases when route name does not extact
2072         match the route name, always choose the longest mathcing route name.
2073
2074         Also modernized the code of 'page-router.js' to use const & let instead of var.
2075
2076         Added a browser test to guard against this bug.
2077
2078         * browser-tests/index.html: Import 'page-router-tests.js'.
2079         * browser-tests/page-router-tests.js: Added unit test to guard against this bug.
2080         * public/v3/pages/page-router.js:
2081         (PageRouter.prototype.route): Added logic to find best matching in the case of inexact match.
2082         (PageRouter.prototype.pageDidOpen):
2083         (PageRouter.prototype._updateURLState):
2084         (PageRouter.prototype._serializeToHash):
2085         (PageRouter.prototype._deserializeFromHash):
2086         (PageRouter.prototype._serializeHashQueryValue):
2087         (PageRouter.prototype._deserializeHashQueryValue):
2088         (PageRouter.prototype._countOccurrences):
2089         (PageRouter):
2090
2091 2018-01-29  Dewei Zhu  <dewei_zhu@apple.com>
2092
2093         Should fetch owner commits in build-requests-fetcher.
2094         https://bugs.webkit.org/show_bug.cgi?id=182266
2095
2096         Reviewed by Ryosuke Niwa.
2097
2098         In a build request, owner commit of a commit is not always one of a commit in the commit set.
2099         Build request api should contain owner commits in the 'commits' field of the return value.
2100
2101         * public/include/build-requests-fetcher.php: Added logic to fetch owner commits and added them into 'commits'.
2102         * server-tests/api-build-requests-tests.js: Added a unit test.
2103         * server-tests/resources/mock-data.js:
2104         (MockData.set addTestGroupWithOwnerCommitNotInCommitSet): Added a test group with a build request, the commit set of which does
2105         not contain owner commit of one commit.
2106
2107 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
2108
2109         Add the support for reporting Speedometer 2.0 results to perf dashboard
2110         https://bugs.webkit.org/show_bug.cgi?id=182089
2111         <rdar://problem/36172346>
2112
2113         Rubber-stamped by Chris Dumez.
2114
2115         Apparently, this has always worked since the very first version of the perf dashboard added in r163688.
2116         The relevant code is at the line 313 of report-processor.php now.
2117
2118         Added regression tests for this feature since we didn't have any tests four years ago.
2119
2120         * server-tests/api-report-tests.js:
2121
2122 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
2123
2124         REGRESSION(r225898): The perf dashboard fails to open when there are no summary pages
2125         https://bugs.webkit.org/show_bug.cgi?id=182210
2126
2127         Rubber-stamped by Chris Dumez.
2128
2129         The bug was caused by TestFreshnessPage unconditionally assuming that summaryPageConfiguration is set.
2130         Fixed it by not creating TestFreshnessPage when there are no summary pages specified.
2131
2132         Also modernized the code to use const & let instead of var.
2133
2134         * public/v3/main.js:
2135         (main):
2136
2137 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
2138
2139         Perf dashboard's page title can be set to a previously visited page
2140         https://bugs.webkit.org/show_bug.cgi?id=182209
2141
2142         Rubber-stamped by Chris Dumez.
2143
2144         Before this patch, opening a page and navigating away from it could result in the page title
2145         getting set to that of the previously visited page after the new page had been opened.
2146
2147         This bug was caused by Page.render keep setting document.title even though the page is no longer
2148         the currently open page of the router. Fixed it by exiting early in Page.enqueueToRender when
2149         this page is not the currently open page of the router.
2150
2151         Also added basic tests for Page.
2152
2153         * browser-tests/index.html:
2154         * browser-tests/page-tests.js: Added.
2155         * public/v3/pages/page.js:
2156         (Page): Removed the unused second constructor argument.
2157         (Page.prototype.enqueueToRender): Fixed the bug.
2158         (Page.prototype.render): Use const instead of var.
2159
2160 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
2161
2162         CommitLogViewer should not fetch commits in serial
2163         https://bugs.webkit.org/show_bug.cgi?id=182207
2164
2165         Rubber-stamped by Chris Dumez.
2166
2167         Fetch both the commits in the range as well as the preceding commit at once instead of
2168         fetching the preceding commit only after the commits in the range had been fetched.
2169
2170         * browser-tests/commit-log-viewer-tests.js: Fixed the tcoest case after r224227.
2171         * public/v3/components/commit-log-viewer.js:
2172         (CommitLogViewer.prototype._fetchCommitLogs): Fetch commits in parallel.
2173
2174 2018-01-24  Dewei Zhu  <dewei_zhu@apple.com>
2175
2176         Check existence of 'node_modules_dir' before creating it.
2177         https://bugs.webkit.org/show_bug.cgi?id=182040
2178
2179         Reviewed by Aakash Jain.
2180
2181         Fix the bug introduced in r227395.
2182
2183         * tools/run-tests.py: Added directory existence check.
2184
2185 2018-01-22  Dewei Zhu  <dewei_zhu@apple.com>
2186
2187         Fix the bug that 'TestGroupResultsViewer' creates unnecessary rows.
2188         https://bugs.webkit.org/show_bug.cgi?id=181967
2189
2190         Reviewed by Ryosuke Niwa.
2191
2192         Fixed a bug caused by a typo in CommitSet.equals, which makes it returns incorrect results for most
2193         comparison between a CommitSet and a MeasurementCommitSet.
2194
2195         MeasurementCommitSet does not have full information for the commits, thus, it cannot build mappings
2196         between root/patch/owner commit/requires build to repository. When querying whether a given repository
2197         needs to be built, MeasurementCommitSet will return undefined. Due to 'undefined != false', this
2198         equality check will fail. Making 'CommitSet.requiresBuildForRepository' defaults to 'false' would fix
2199         this bug.
2200
2201         * public/v3/models/commit-set.js:
2202         (CommitSet.prototype.requiresBuildForRepository): Make it return false when key does not exist
2203         instead of 'undefined'.
2204         (CommitSet.prototype.equals): Fixed the typo that causes the bug.
2205         Use wrapped functions instead of querying the mapping directly.
2206         * unit-tests/commit-set-tests.js: Added unit tests.
2207
2208 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
2209
2210         'run-test.py' script should make sure 'node_modules' directory exists before installing node packages.
2211         https://bugs.webkit.org/show_bug.cgi?id=181808
2212
2213         Reviewed by Ryosuke Niwa.
2214
2215         'run-test.py' will fail if 'node_modules' does not exist before running this script.
2216         Instead of calling 'os.chdir' to change directory, use 'cwd' in subprocess instead.
2217
2218         * tools/run-tests.py: Added the logic to ensure 'node_modules' exists.
2219         Also use 'cwd' in subprocess.call instead of calling 'os.chdir' ahead.
2220
2221 2018-01-20  Dewei Zhu  <dewei_zhu@apple.com>
2222
2223         Extend 'ifBuilt' config key to set property based on whether certain repositories are built or not.
2224         https://bugs.webkit.org/show_bug.cgi?id=181906
2225
2226         Reviewed by Ryosuke Niwa.
2227
2228         Before this change, 'ifBuilt' will always set specified property for test properties as long as there
2229         is a build type build in the same build request group. However, this is no longer valid as we don't
2230         want to set specified property for testing when only owned commit is built in previous build.
2231         'ifBuilt' needs to conditionally set property based on whether certain required repositories are built.
2232         Empty required repository list means no requirement on repository to set property.
2233
2234         * tools/js/buildbot-syncer.js:
2235         (BuildbotSyncer.prototype._propertiesForBuildRequest):In the case of 'built', only set property when
2236         repository requirment is meet and there is a 'build' root request in the same build request group.
2237         (BuildbotSyncer._parseRepositoryGroup): Extend 'ifBuild' to pass information based on contition.
2238         * unit-tests/buildbot-syncer-tests.js: Added unit tests.
2239
2240 2018-01-19  Dewei Zhu  <dewei_zhu@apple.com>
2241
2242         Should reject updating a build request which has an associated build.
2243         https://bugs.webkit.org/show_bug.cgi?id=181893
2244
2245         Reviewed by Ryosuke Niwa.
2246
2247         Current code does not prevent submitting to same build request multiple times.
2248         This could lead to a build losing its associated build request.
2249         As a result, this build will be visible in charts which is not right.
2250         Added a check when a build request is reported.
2251         Addressed a 'FIXME' for the race condition inside ReportProcessor->resolve_build_id by surrounding
2252         it with a database transaction.
2253
2254         * public/include/report-processor.php:
2255         Wrap adding platform and resolve_build_id with a database transaction.
2256         Add a check to make sure only a build request has no associated build can be updated.
2257         * server-tests/api-report-tests.js: Added unit tests accordingly.
2258
2259 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
2260
2261         Should allow updating a build-request to 'canceled'.
2262         https://bugs.webkit.org/show_bug.cgi?id=181819
2263
2264         Reviewed by Ryosuke Niwa.
2265
2266         It's possible syncing script update a build-request to 'canceled' state.
2267
2268         * public/api/build-requests.php: Added 'canceled' as an acceptable update state.
2269         * server-tests/api-build-requests-tests.js: Added a unit test to update a build-request to 'canceled'.
2270
2271 2018-01-18  Aakash Jain  <aakash_jain@apple.com>
2272
2273         Add support for builderNameToIDMap in BuildbotSyncer
2274         https://bugs.webkit.org/show_bug.cgi?id=176526
2275
2276         Reviewed by Ryosuke Niwa.
2277
2278         * tools/js/buildbot-syncer.js:
2279         (BuildbotSyncer._loadConfig): Added builderNameToIDMap parameter. It would be used later on.
2280         (BuildbotSyncer._resolveBuildersWithPlatforms): Ditto.
2281         (BuildbotSyncer._validateAndMergeConfig): Added builderID as a valid config parameter.
2282         * tools/js/buildbot-triggerable.js:
2283         (BuildbotTriggerable.prototype.getBuilderNameToIDMap): Method to fetch BuilderNameToIDMap from Buildbot 0.9.
2284         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Method to fetch BuilderNameToIDMap from Buildbot 0.8.
2285         (BuildbotTriggerable.prototype.initSyncers): Updated to use getBuilderNameToIDMap.
2286         * unit-tests/buildbot-syncer-tests.js: Updated unit-tests.
2287         * server-tests/resources/mock-data.js:
2288         (MockData.buildbotBuildersURLDeprecated): URL for fetching Builders list.
2289         (MockData.buildbotBuildersURL): Ditto for Buildbot 0.9
2290         (MockData.mockBuildbotBuildersDeprecated): Sample builders data for Buildbot 0.8
2291         (MockData.mockBuildbotBuilders): Ditto for Buildbot 0.9
2292         * server-tests/tools-buildbot-triggerable-tests.js: Added test for getBuilderNameToIDMap. Updated tests to handle
2293         newly added promise for fetching builders list from Buildbot.
2294         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
2295
2296 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
2297
2298         Charts can be empty when values are all identical
2299         https://bugs.webkit.org/show_bug.cgi?id=181828
2300
2301         Reviewed by Alexey Proskuryakov.
2302
2303         Fixed the bug that when SampleVarianceUpperTriangularMatrix can store -Infinity as the initial cost
2304         of some entries when the sample standard deviation between two points turns out to be 0,
2305         and cause splitIntoSegmentsUntilGoodEnough to return undefiend because no segmentation has a finite cost.
2306
2307         Also fixed the bug that the time series chart fails to show any data points when all data points have
2308         identical values as the entire y-coordinate gets collapsed to an empty value range by adjusting the max value
2309         when min & max values are identical.
2310
2311         * public/v3/components/time-series-chart.js:
2312         (TimeSeriesChart.prototype._ensureValueRangeCache): Raise the max slightly when min & max are identical
2313         to avoid the chart becoming empty. Otherwise valueDiff in _computeVerticalRenderingMetrics becomes 0
2314         and value-to-y-coordinate conversion always results in NaN.
2315         * public/shared/statistics.js:
2316         (Statistics..SampleVarianceUpperTriangularMatrix):
2317         * unit-tests/statistics-tests.js: Added a test case.
2318
2319 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
2320
2321         Don't fetch more than two builds to check duplicity of builds in ReportProcessor
2322         https://bugs.webkit.org/show_bug.cgi?id=181786
2323
2324         Reviewed by Wenson Hsieh.
2325
2326         Limit the number of builds to check to avoid using a lot of memory with a long delay.
2327
2328         * public/include/report-processor.php:
2329         (ReportProcessor::resolve_build_id): 
2330
2331 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2332
2333         Rename config.json to config.json.sample
2334         https://bugs.webkit.org/show_bug.cgi?id=181785
2335
2336         Reviewed by Wenson Hsieh.
2337
2338         * .gitignore: Added config.json.
2339         * ReadMe.md: Updated the instruction.
2340         * config.json.sample: Renamed from config.json.
2341
2342 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2343
2344         Unreviewed build fixes in TestGroupResultsViewer.
2345
2346         * public/v3/components/test-group-results-viewer.js:
2347         (TestGroupResultsViewer.prototype.render): _renderCurrentMetricsLazily was never called.
2348         (TestGroupResultsViewer.prototype._buildRowForMetric): Don't try to render null or NaN.
2349
2350 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
2351
2352         Fix perf dashboard tests for node v8
2353         https://bugs.webkit.org/show_bug.cgi?id=181782
2354
2355         Reviewed by Wenson Hsieh.
2356
2357         Fixed the various tests for node.js v8, which is the latest LTS version.
2358
2359         * server-tests/api-manifest-tests.js: Replaced the missing Triggerable.acceptsTest by Triggerable.acceptedTests
2360         after r226836.
2361         * server-tests/api-measurement-set-tests.js: Added "Z" to the end timestamps to force UTF timezone now that Date
2362         in node.js parses using the local timezone by default.
2363         * server-tests/resources/test-server.js:
2364         (TestServer.prototype._restoreDataDirectory): Fixed the bug that this function was erroneously using the async
2365         function to rename a directory per new warnings. This code was racy, and it used to cause a test error occasionally.
2366         * server-tests/tools-os-build-fetcher-tests.js: Fixed the assertions to make it work in the latest node.js.
2367         * unit-tests/measurement-set-tests.js:
2368         (waitForMeasurementSet): Wait for setTimeout to cycle through all microtasks instead of just two microtask cycles.
2369
2370 2018-01-11  Ryosuke Niwa  <rniwa@webkit.org>
2371
2372         Cannot trigger Dromaeo tests on internal perf try bots
2373         https://bugs.webkit.org/show_bug.cgi?id=179712
2374
2375         Reviewed by Chris Dumez.
2376
2377         The bug was caused by CustomAnalysisTaskConfigurator only showing the top-level tests that are triggerable
2378         instead of the list of highest level tests that are triggerable.
2379
2380         * public/v3/components/custom-analysis-task-configurator.js:
2381         (CustomAnalysisTaskConfigurator.prototype.selectTests): Update the test group name when a new test is picked.
2382         (CustomAnalysisTaskConfigurator.prototype.selectPlatform):
2383         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Extracted from selectPlatform.
2384         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Include the list of all highest-level tests
2385         which are triggerable.
2386         (CustomAnalysisTaskConfigurator.prototype._renderRadioButtonList): Added labelForObject which returns the label
2387         to be used in the list items. For tests, we want to use the full name, not just its label.
2388         * public/v3/models/analysis-task.js:
2389         (AnalysisTask.fetchById):
2390         * public/v3/models/triggerable.js:
2391         (Triggerable.prototype.acceptedTests): Added.
2392         (Triggerable.prototype.acceptsTest): Deleted.
2393
2394 == Rolled over to ChangeLog-2018-01-01 ==