[BigSur wk1] svg/canvas/canvas-global-alpha-svg.html is flakey failing
[WebKit-https.git] / Tools / Scripts / webkitpy / layout_tests / lint_test_expectations_unittest.py
1 # Copyright (C) 2012 Google Inc. All rights reserved.
2 #
3 # Redistribution and use in source and binary forms, with or without
4 # modification, are permitted provided that the following conditions are
5 # met:
6 #
7 #     * Redistributions of source code must retain the above copyright
8 # notice, this list of conditions and the following disclaimer.
9 #     * Redistributions in binary form must reproduce the above
10 # copyright notice, this list of conditions and the following disclaimer
11 # in the documentation and/or other materials provided with the
12 # distribution.
13 #     * Neither the name of Google Inc. nor the names of its
14 # contributors may be used to endorse or promote products derived from
15 # this software without specific prior written permission.
16 #
17 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
18 # "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
19 # LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
20 # A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
21 # OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
22 # SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
23 # LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
24 # DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
25 # THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
27 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28
29 import optparse
30 import unittest
31
32 from webkitcorepy import StringIO
33
34 from webkitpy.common.host_mock import MockHost
35 from webkitpy.layout_tests import lint_test_expectations
36
37
38 class FakePort(object):
39     def __init__(self, host, name, path):
40         self.host = host
41         self.name = name
42         self.path = path
43
44     def test_configuration(self):
45         return None
46
47     def expectations_dict(self):
48         self.host.ports_parsed.append(self.name)
49         return {self.path: ''}
50
51     def skipped_layout_tests(self, _, **kwargs):
52         return set([])
53
54     def all_test_configurations(self):
55         return []
56
57     def configuration_specifier_macros(self):
58         return []
59
60     def get_option(self, _, val):
61         return val
62
63     def path_to_generic_test_expectations_file(self):
64         return ''
65
66
67 class FakeFactory(object):
68     def __init__(self, host, ports):
69         self.host = host
70         self.ports = {}
71         for port in ports:
72             self.ports[port.name] = port
73
74     def get(self, port_name, *args, **kwargs):  # pylint: disable=W0613,E0202
75         return self.ports[port_name]
76
77     def all_port_names(self, platform=None):  # pylint: disable=W0613,E0202
78         return sorted(self.ports.keys())
79
80
81 class LintTest(unittest.TestCase):
82     def test_all_configurations(self):
83         host = MockHost()
84         host.ports_parsed = []
85         host.port_factory = FakeFactory(host, (FakePort(host, 'a', 'path-to-a'),
86                                                FakePort(host, 'b', 'path-to-b'),
87                                                FakePort(host, 'b-win', 'path-to-b')))
88
89         logging_stream = StringIO()
90         options = optparse.Values({'platform': None})
91         res = lint_test_expectations.lint(host, options, logging_stream)
92         self.assertEqual(res, 0)
93         self.assertEqual(host.ports_parsed, ['a', 'b', 'b-win'])
94
95     def test_lint_test_files(self):
96         logging_stream = StringIO()
97         options = optparse.Values({'platform': 'test-mac-leopard'})
98         host = MockHost()
99
100         # pylint appears to complain incorrectly about the method overrides pylint: disable=E0202,C0322
101         # FIXME: incorrect complaints about spacing pylint: disable=C0322
102         host.port_factory.all_port_names = lambda platform=None: [platform]
103
104         res = lint_test_expectations.lint(host, options, logging_stream)
105
106         self.assertEqual(res, 0)
107         self.assertIn('Lint succeeded', logging_stream.getvalue())
108
109     def test_lint_test_files__errors(self):
110         options = optparse.Values({'platform': 'test', 'debug_rwt_logging': False})
111         host = MockHost()
112
113         # FIXME: incorrect complaints about spacing pylint: disable=C0322
114         port = host.port_factory.get(options.platform, options=options)
115         port.expectations_dict = lambda: {'foo': '-- syntax error1', 'bar': '-- syntax error2'}
116
117         host.port_factory.get = lambda platform, options=None: port
118         host.port_factory.all_port_names = lambda platform=None: [port.name()]
119
120         logging_stream = StringIO()
121
122         res = lint_test_expectations.lint(host, options, logging_stream)
123
124         self.assertEqual(res, -1)
125         self.assertIn('Lint failed', logging_stream.getvalue())
126         self.assertIn('foo:1', logging_stream.getvalue())
127         self.assertIn('bar:1', logging_stream.getvalue())
128
129
130 class MainTest(unittest.TestCase):
131     def test_success(self):
132         orig_lint_fn = lint_test_expectations.lint
133
134         # unused args pylint: disable=W0613
135         def interrupting_lint(host, options, logging_stream):
136             raise KeyboardInterrupt
137
138         def successful_lint(host, options, logging_stream):
139             return 0
140
141         def exception_raising_lint(host, options, logging_stream):
142             assert False
143
144         stdout = StringIO()
145         stderr = StringIO()
146         try:
147             lint_test_expectations.lint = interrupting_lint
148             res = lint_test_expectations.main([], stdout, stderr)
149             self.assertEqual(res, lint_test_expectations.INTERRUPTED_EXIT_STATUS)
150
151             lint_test_expectations.lint = successful_lint
152             res = lint_test_expectations.main(['--platform', 'test'], stdout, stderr)
153             self.assertEqual(res, 0)
154
155             lint_test_expectations.lint = exception_raising_lint
156             res = lint_test_expectations.main([], stdout, stderr)
157             self.assertEqual(res, lint_test_expectations.EXCEPTIONAL_EXIT_STATUS)
158         finally:
159             lint_test_expectations.lint = orig_lint_fn