45d7248f1d2464418e9766cfca8b3f4667a7b470
[WebKit.git] / Websites / perf.webkit.org / ChangeLog
1 2018-03-04  Aakash Jain  <aakash_jain@apple.com>
2
3         BuildbotBuildEntry for buildbot 0.9 uses incorrect buildrequestid
4         https://bugs.webkit.org/show_bug.cgi?id=183194
5
6         Reviewed by Ryosuke Niwa.
7
8         * tools/js/buildbot-syncer.js:
9         (BuildbotBuildEntry.prototype.initialize): Updated _buildRequestId to use correct build-request-id, as set in syncer._buildRequestPropertyName.
10         (BuildbotSyncer.prototype.pathForPendingBuilds): Updated url to fetch properties for build-requests.
11         * unit-tests/buildbot-syncer-tests.js:
12         (sampleBuildData): Updated sampleBuildData with correct build-request-id in properties. Added
13         properties to samplePendingBuildRequestData.
14
15 2018-02-28  Aakash Jain  <aakash_jain@apple.com>
16
17         Rename samplePendingBuild to samplePendingBuildRequest
18         https://bugs.webkit.org/show_bug.cgi?id=183171
19
20         Reviewed by Ryosuke Niwa.
21
22         * unit-tests/buildbot-syncer-tests.js:
23         (samplePendingBuildRequests): Renamed from samplePendingBuild.
24         (samplePendingBuildRequestDeprecated): Renamed from samplePendingBuildDeprecated.
25         (samplePendingBuild): Deleted.
26         (samplePendingBuildDeprecated): Deleted.
27
28 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
29
30         Add support for submitting build request to Buildbot 0.9 server in BuildbotSyncer
31         https://bugs.webkit.org/show_bug.cgi?id=182218
32
33         Reviewed by Ryosuke Niwa.
34
35         * tools/js/buildbot-syncer.js:
36         (BuildbotSyncer.prototype.scheduleRequest): Added assert to ensure forcescheduler property is always defined. Builds can not
37         be scheduled on Buildbot without this property. Updated unit-tests and server-tests accordingly.
38         (BuildbotSyncer.prototype.scheduleBuildOnBuildbotDeprecated): Method to schedule build request on Buildbot 0.8 server.
39         (BuildbotSyncer.prototype.scheduleBuildOnBuildbot): Method to schedule build request on Buildbot 0.9 server.
40         (BuildbotSyncer.prototype.pathForForceBuildDeprecated): Path for scheudling build on Buildbot 0.8 server.
41         (BuildbotSyncer.prototype.pathForForceBuild): Path for scheudling build on Buildbot 0.9 server.
42         * unit-tests/buildbot-syncer-tests.js:
43         (smallConfiguration): Added test-case for scheduleBuildOnBuildbot. Also added forcescheduler property in sample data.
44         * server-tests/resources/mock-data.js: Added forcescheduler property in sample data.
45         * server-tests/tools-buildbot-triggerable-tests.js: Updated server-tests to take care of added forcescheduler property.
46
47 2018-02-02  Aakash Jain  <aakash_jain@apple.com>
48
49         Add support for fetching recent builds in Buildbot 0.9 format in BuildbotSyncer
50         https://bugs.webkit.org/show_bug.cgi?id=179743
51
52         Reviewed by Ryosuke Niwa.
53
54         * tools/js/buildbot-syncer.js:
55         (BuildbotSyncer.prototype._pullRecentBuildsDeprecated): Renamed from _pullRecentBuilds. This method fetch
56         from Buildbot 0.8 server.
57         (BuildbotSyncer.prototype._pullRecentBuilds): Method to fetch recent builds from Buildbot 0.9 server.
58         (BuildbotSyncer.prototype.pathForRecentBuilds): URL for fetching recent builds from Buildbot 0.9 server.
59         (BuildbotSyncer.prototype.pathForBuildJSONDeprecated): Renamed from pathForBuildJSON.
60         * unit-tests/buildbot-syncer-tests.js:
61         (_pullRecentBuilds.it): unit-test - should not fetch recent builds when count is zero.
62         (_pullRecentBuilds.it): unit-test - should pull the right number of recent builds.
63         (_pullRecentBuilds.it): unit-test - should handle unexpected error while fetching recent builds.
64         (_pullRecentBuilds.it): unit-test - should create BuildbotBuildEntry after fetching recent builds.
65
66 2018-02-01  Aakash Jain  <aakash_jain@apple.com>
67
68         Create BuildbotBuildEntry in Buildbot syncer in Buildbot 0.9 format
69         https://bugs.webkit.org/show_bug.cgi?id=182036
70
71         Reviewed by Ryosuke Niwa.
72
73         * tools/js/buildbot-syncer.js:
74         (BuildbotBuildEntry): Class for Buildbot entry in Buildbot 0.9 data format.
75         (BuildbotBuildEntryDeprecated): Renamed from BuildbotBuildEntry, sub-classed from BuildBotEntry. Handles Buildbot 0.8 data format.
76         (BuildbotBuildEntryDeprecated.prototype.url): URL in buildbot 0.8 format.
77         (BuildbotSyncer.prototype.builderID): Added.
78         (BuildbotSyncer.prototype.pathForPendingBuildsJSONDeprecated): Renamed from BuildbotSyncer.prototype.pathForPendingBuildsJSON.
79         (BuildbotSyncer.prototype.pathForPendingBuilds): Path for pending builds in Buildbot 0.9 format.
80         (BuildbotSyncer.prototype.urlForBuildNumberDeprecated): Deprecated. Renamed from urlForBuildNumber.
81         (BuildbotSyncer.prototype.urlForBuildNumber): Updated in Buildbot 0.9 format.
82         (BuildbotSyncer.prototype.urlForPendingBuild): Buildbot 0.9 has individual webpage for pending buildrequests as well. URL to that page.
83         * unit-tests/buildbot-syncer-tests.js: Renamed BuildbotBuildEntry to BuildbotBuildEntryDeprecated.
84         (sampleBuildData): Sample build data. Common method for in-progress and finished build data.
85         (samplePendingBuildData): Sample data for a pending build. Separate method so that we can easily create sample data with multiple builds.
86         (sampleInProgressBuildData): Ditto for in-progress build.
87         (sampleFinishedBuildData): Ditto for finished build.
88         (samplePendingBuild): Sample data for single pending build.
89         (sampleInProgressBuild): Ditto for in-progress build.
90         (sampleFinishedBuild): Ditto for finished build.
91         (samplePendingBuildDeprecated): Renamed from samplePendingBuild.
92         (sampleInProgressBuildDeprecated): Renamed from sampleInProgressBuild.
93         (sampleFinishedBuildDeprecated): Renamed from sampleFinishedBuild.
94         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for pending build.
95         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for in-progress build.
96         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for finished build.
97         (BuildbotBuildEntry.it: Added unit-test for creating BuildbotBuildEntry for mix of in-progress and finished build.
98
99 2018-01-31  Dewei Zhu  <dewei_zhu@apple.com>
100
101         Should chose the best match during 'route' if there are multiple matches.
102         https://bugs.webkit.org/show_bug.cgi?id=182326
103
104         Reviewed by Ryosuke Niwa.
105
106         r227749 made a change that 'analysisCategoryPage' will be added before 'analysisTaskPage'.
107         As route names for both pages starts with 'analysis', whichever added first will be chosen.
108         For a route like 'analysis/task/1'. As a result, 'analysisCategoryPage' will be chosen and
109         this is not expected behavior. Adding the logic on the cases when route name does not extact
110         match the route name, always choose the longest mathcing route name.
111
112         Also modernized the code of 'page-router.js' to use const & let instead of var.
113
114         Added a browser test to guard against this bug.
115
116         * browser-tests/index.html: Import 'page-router-tests.js'.
117         * browser-tests/page-router-tests.js: Added unit test to guard against this bug.
118         * public/v3/pages/page-router.js:
119         (PageRouter.prototype.route): Added logic to find best matching in the case of inexact match.
120         (PageRouter.prototype.pageDidOpen):
121         (PageRouter.prototype._updateURLState):
122         (PageRouter.prototype._serializeToHash):
123         (PageRouter.prototype._deserializeFromHash):
124         (PageRouter.prototype._serializeHashQueryValue):
125         (PageRouter.prototype._deserializeHashQueryValue):
126         (PageRouter.prototype._countOccurrences):
127         (PageRouter):
128
129 2018-01-29  Dewei Zhu  <dewei_zhu@apple.com>
130
131         Should fetch owner commits in build-requests-fetcher.
132         https://bugs.webkit.org/show_bug.cgi?id=182266
133
134         Reviewed by Ryosuke Niwa.
135
136         In a build request, owner commit of a commit is not always one of a commit in the commit set.
137         Build request api should contain owner commits in the 'commits' field of the return value.
138
139         * public/include/build-requests-fetcher.php: Added logic to fetch owner commits and added them into 'commits'.
140         * server-tests/api-build-requests-tests.js: Added a unit test.
141         * server-tests/resources/mock-data.js:
142         (MockData.set addTestGroupWithOwnerCommitNotInCommitSet): Added a test group with a build request, the commit set of which does
143         not contain owner commit of one commit.
144
145 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
146
147         Add the support for reporting Speedometer 2.0 results to perf dashboard
148         https://bugs.webkit.org/show_bug.cgi?id=182089
149         <rdar://problem/36172346>
150
151         Rubber-stamped by Chris Dumez.
152
153         Apparently, this has always worked since the very first version of the perf dashboard added in r163688.
154         The relevant code is at the line 313 of report-processor.php now.
155
156         Added regression tests for this feature since we didn't have any tests four years ago.
157
158         * server-tests/api-report-tests.js:
159
160 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
161
162         REGRESSION(r225898): The perf dashboard fails to open when there are no summary pages
163         https://bugs.webkit.org/show_bug.cgi?id=182210
164
165         Rubber-stamped by Chris Dumez.
166
167         The bug was caused by TestFreshnessPage unconditionally assuming that summaryPageConfiguration is set.
168         Fixed it by not creating TestFreshnessPage when there are no summary pages specified.
169
170         Also modernized the code to use const & let instead of var.
171
172         * public/v3/main.js:
173         (main):
174
175 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
176
177         Perf dashboard's page title can be set to a previously visited page
178         https://bugs.webkit.org/show_bug.cgi?id=182209
179
180         Rubber-stamped by Chris Dumez.
181
182         Before this patch, opening a page and navigating away from it could result in the page title
183         getting set to that of the previously visited page after the new page had been opened.
184
185         This bug was caused by Page.render keep setting document.title even though the page is no longer
186         the currently open page of the router. Fixed it by exiting early in Page.enqueueToRender when
187         this page is not the currently open page of the router.
188
189         Also added basic tests for Page.
190
191         * browser-tests/index.html:
192         * browser-tests/page-tests.js: Added.
193         * public/v3/pages/page.js:
194         (Page): Removed the unused second constructor argument.
195         (Page.prototype.enqueueToRender): Fixed the bug.
196         (Page.prototype.render): Use const instead of var.
197
198 2018-01-29  Ryosuke Niwa  <rniwa@webkit.org>
199
200         CommitLogViewer should not fetch commits in serial
201         https://bugs.webkit.org/show_bug.cgi?id=182207
202
203         Rubber-stamped by Chris Dumez.
204
205         Fetch both the commits in the range as well as the preceding commit at once instead of
206         fetching the preceding commit only after the commits in the range had been fetched.
207
208         * browser-tests/commit-log-viewer-tests.js: Fixed the tcoest case after r224227.
209         * public/v3/components/commit-log-viewer.js:
210         (CommitLogViewer.prototype._fetchCommitLogs): Fetch commits in parallel.
211
212 2018-01-24  Dewei Zhu  <dewei_zhu@apple.com>
213
214         Check existence of 'node_modules_dir' before creating it.
215         https://bugs.webkit.org/show_bug.cgi?id=182040
216
217         Reviewed by Aakash Jain.
218
219         Fix the bug introduced in r227395.
220
221         * tools/run-tests.py: Added directory existence check.
222
223 2018-01-22  Dewei Zhu  <dewei_zhu@apple.com>
224
225         Fix the bug that 'TestGroupResultsViewer' creates unnecessary rows.
226         https://bugs.webkit.org/show_bug.cgi?id=181967
227
228         Reviewed by Ryosuke Niwa.
229
230         Fixed a bug caused by a typo in CommitSet.equals, which makes it returns incorrect results for most
231         comparison between a CommitSet and a MeasurementCommitSet.
232
233         MeasurementCommitSet does not have full information for the commits, thus, it cannot build mappings
234         between root/patch/owner commit/requires build to repository. When querying whether a given repository
235         needs to be built, MeasurementCommitSet will return undefined. Due to 'undefined != false', this
236         equality check will fail. Making 'CommitSet.requiresBuildForRepository' defaults to 'false' would fix
237         this bug.
238
239         * public/v3/models/commit-set.js:
240         (CommitSet.prototype.requiresBuildForRepository): Make it return false when key does not exist
241         instead of 'undefined'.
242         (CommitSet.prototype.equals): Fixed the typo that causes the bug.
243         Use wrapped functions instead of querying the mapping directly.
244         * unit-tests/commit-set-tests.js: Added unit tests.
245
246 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
247
248         'run-test.py' script should make sure 'node_modules' directory exists before installing node packages.
249         https://bugs.webkit.org/show_bug.cgi?id=181808
250
251         Reviewed by Ryosuke Niwa.
252
253         'run-test.py' will fail if 'node_modules' does not exist before running this script.
254         Instead of calling 'os.chdir' to change directory, use 'cwd' in subprocess instead.
255
256         * tools/run-tests.py: Added the logic to ensure 'node_modules' exists.
257         Also use 'cwd' in subprocess.call instead of calling 'os.chdir' ahead.
258
259 2018-01-20  Dewei Zhu  <dewei_zhu@apple.com>
260
261         Extend 'ifBuilt' config key to set property based on whether certain repositories are built or not.
262         https://bugs.webkit.org/show_bug.cgi?id=181906
263
264         Reviewed by Ryosuke Niwa.
265
266         Before this change, 'ifBuilt' will always set specified property for test properties as long as there
267         is a build type build in the same build request group. However, this is no longer valid as we don't
268         want to set specified property for testing when only owned commit is built in previous build.
269         'ifBuilt' needs to conditionally set property based on whether certain required repositories are built.
270         Empty required repository list means no requirement on repository to set property.
271
272         * tools/js/buildbot-syncer.js:
273         (BuildbotSyncer.prototype._propertiesForBuildRequest):In the case of 'built', only set property when
274         repository requirment is meet and there is a 'build' root request in the same build request group.
275         (BuildbotSyncer._parseRepositoryGroup): Extend 'ifBuild' to pass information based on contition.
276         * unit-tests/buildbot-syncer-tests.js: Added unit tests.
277
278 2018-01-19  Dewei Zhu  <dewei_zhu@apple.com>
279
280         Should reject updating a build request which has an associated build.
281         https://bugs.webkit.org/show_bug.cgi?id=181893
282
283         Reviewed by Ryosuke Niwa.
284
285         Current code does not prevent submitting to same build request multiple times.
286         This could lead to a build losing its associated build request.
287         As a result, this build will be visible in charts which is not right.
288         Added a check when a build request is reported.
289         Addressed a 'FIXME' for the race condition inside ReportProcessor->resolve_build_id by surrounding
290         it with a database transaction.
291
292         * public/include/report-processor.php:
293         Wrap adding platform and resolve_build_id with a database transaction.
294         Add a check to make sure only a build request has no associated build can be updated.
295         * server-tests/api-report-tests.js: Added unit tests accordingly.
296
297 2018-01-18  Dewei Zhu  <dewei_zhu@apple.com>
298
299         Should allow updating a build-request to 'canceled'.
300         https://bugs.webkit.org/show_bug.cgi?id=181819
301
302         Reviewed by Ryosuke Niwa.
303
304         It's possible syncing script update a build-request to 'canceled' state.
305
306         * public/api/build-requests.php: Added 'canceled' as an acceptable update state.
307         * server-tests/api-build-requests-tests.js: Added a unit test to update a build-request to 'canceled'.
308
309 2018-01-18  Aakash Jain  <aakash_jain@apple.com>
310
311         Add support for builderNameToIDMap in BuildbotSyncer
312         https://bugs.webkit.org/show_bug.cgi?id=176526
313
314         Reviewed by Ryosuke Niwa.
315
316         * tools/js/buildbot-syncer.js:
317         (BuildbotSyncer._loadConfig): Added builderNameToIDMap parameter. It would be used later on.
318         (BuildbotSyncer._resolveBuildersWithPlatforms): Ditto.
319         (BuildbotSyncer._validateAndMergeConfig): Added builderID as a valid config parameter.
320         * tools/js/buildbot-triggerable.js:
321         (BuildbotTriggerable.prototype.getBuilderNameToIDMap): Method to fetch BuilderNameToIDMap from Buildbot 0.9.
322         (BuildbotTriggerable.prototype.getBuilderNameToIDMapDeprecated): Method to fetch BuilderNameToIDMap from Buildbot 0.8.
323         (BuildbotTriggerable.prototype.initSyncers): Updated to use getBuilderNameToIDMap.
324         * unit-tests/buildbot-syncer-tests.js: Updated unit-tests.
325         * server-tests/resources/mock-data.js:
326         (MockData.buildbotBuildersURLDeprecated): URL for fetching Builders list.
327         (MockData.buildbotBuildersURL): Ditto for Buildbot 0.9
328         (MockData.mockBuildbotBuildersDeprecated): Sample builders data for Buildbot 0.8
329         (MockData.mockBuildbotBuilders): Ditto for Buildbot 0.9
330         * server-tests/tools-buildbot-triggerable-tests.js: Added test for getBuilderNameToIDMap. Updated tests to handle
331         newly added promise for fetching builders list from Buildbot.
332         * server-tests/tools-sync-buildbot-integration-tests.js: Ditto.
333
334 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
335
336         Charts can be empty when values are all identical
337         https://bugs.webkit.org/show_bug.cgi?id=181828
338
339         Reviewed by Alexey Proskuryakov.
340
341         Fixed the bug that when SampleVarianceUpperTriangularMatrix can store -Infinity as the initial cost
342         of some entries when the sample standard deviation between two points turns out to be 0,
343         and cause splitIntoSegmentsUntilGoodEnough to return undefiend because no segmentation has a finite cost.
344
345         Also fixed the bug that the time series chart fails to show any data points when all data points have
346         identical values as the entire y-coordinate gets collapsed to an empty value range by adjusting the max value
347         when min & max values are identical.
348
349         * public/v3/components/time-series-chart.js:
350         (TimeSeriesChart.prototype._ensureValueRangeCache): Raise the max slightly when min & max are identical
351         to avoid the chart becoming empty. Otherwise valueDiff in _computeVerticalRenderingMetrics becomes 0
352         and value-to-y-coordinate conversion always results in NaN.
353         * public/shared/statistics.js:
354         (Statistics..SampleVarianceUpperTriangularMatrix):
355         * unit-tests/statistics-tests.js: Added a test case.
356
357 2018-01-18  Ryosuke Niwa  <rniwa@webkit.org>
358
359         Don't fetch more than two builds to check duplicity of builds in ReportProcessor
360         https://bugs.webkit.org/show_bug.cgi?id=181786
361
362         Reviewed by Wenson Hsieh.
363
364         Limit the number of builds to check to avoid using a lot of memory with a long delay.
365
366         * public/include/report-processor.php:
367         (ReportProcessor::resolve_build_id): 
368
369 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
370
371         Rename config.json to config.json.sample
372         https://bugs.webkit.org/show_bug.cgi?id=181785
373
374         Reviewed by Wenson Hsieh.
375
376         * .gitignore: Added config.json.
377         * ReadMe.md: Updated the instruction.
378         * config.json.sample: Renamed from config.json.
379
380 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
381
382         Unreviewed build fixes in TestGroupResultsViewer.
383
384         * public/v3/components/test-group-results-viewer.js:
385         (TestGroupResultsViewer.prototype.render): _renderCurrentMetricsLazily was never called.
386         (TestGroupResultsViewer.prototype._buildRowForMetric): Don't try to render null or NaN.
387
388 2018-01-17  Ryosuke Niwa  <rniwa@webkit.org>
389
390         Fix perf dashboard tests for node v8
391         https://bugs.webkit.org/show_bug.cgi?id=181782
392
393         Reviewed by Wenson Hsieh.
394
395         Fixed the various tests for node.js v8, which is the latest LTS version.
396
397         * server-tests/api-manifest-tests.js: Replaced the missing Triggerable.acceptsTest by Triggerable.acceptedTests
398         after r226836.
399         * server-tests/api-measurement-set-tests.js: Added "Z" to the end timestamps to force UTF timezone now that Date
400         in node.js parses using the local timezone by default.
401         * server-tests/resources/test-server.js:
402         (TestServer.prototype._restoreDataDirectory): Fixed the bug that this function was erroneously using the async
403         function to rename a directory per new warnings. This code was racy, and it used to cause a test error occasionally.
404         * server-tests/tools-os-build-fetcher-tests.js: Fixed the assertions to make it work in the latest node.js.
405         * unit-tests/measurement-set-tests.js:
406         (waitForMeasurementSet): Wait for setTimeout to cycle through all microtasks instead of just two microtask cycles.
407
408 2018-01-11  Ryosuke Niwa  <rniwa@webkit.org>
409
410         Cannot trigger Dromaeo tests on internal perf try bots
411         https://bugs.webkit.org/show_bug.cgi?id=179712
412
413         Reviewed by Chris Dumez.
414
415         The bug was caused by CustomAnalysisTaskConfigurator only showing the top-level tests that are triggerable
416         instead of the list of highest level tests that are triggerable.
417
418         * public/v3/components/custom-analysis-task-configurator.js:
419         (CustomAnalysisTaskConfigurator.prototype.selectTests): Update the test group name when a new test is picked.
420         (CustomAnalysisTaskConfigurator.prototype.selectPlatform):
421         (CustomAnalysisTaskConfigurator.prototype._didUpdateSelectedPlatforms): Extracted from selectPlatform.
422         (CustomAnalysisTaskConfigurator.prototype._renderTriggerableTests): Include the list of all highest-level tests
423         which are triggerable.
424         (CustomAnalysisTaskConfigurator.prototype._renderRadioButtonList): Added labelForObject which returns the label
425         to be used in the list items. For tests, we want to use the full name, not just its label.
426         * public/v3/models/analysis-task.js:
427         (AnalysisTask.fetchById):
428         * public/v3/models/triggerable.js:
429         (Triggerable.prototype.acceptedTests): Added.
430         (Triggerable.prototype.acceptsTest): Deleted.
431
432 == Rolled over to ChangeLog-2018-01-01 ==