9a954e6890fcf43c835273724f22dbf4bfe8491f
[WebKit-https.git] / SunSpider / sunspider
1 #!/usr/bin/perl -w
2
3 # Copyright (C) 2007 Apple Inc. All rights reserved.
4 # Copyright (C) 2007 Eric Seidel <eric@webkit.org>
5 #
6 # Redistribution and use in source and binary forms, with or without
7 # modification, are permitted provided that the following conditions
8 # are met:
9 # 1. Redistributions of source code must retain the above copyright
10 #    notice, this list of conditions and the following disclaimer.
11 # 2. Redistributions in binary form must reproduce the above copyright
12 #    notice, this list of conditions and the following disclaimer in the
13 #    documentation and/or other materials provided with the distribution.
14 #
15 # THIS SOFTWARE IS PROVIDED BY APPLE COMPUTER, INC. ``AS IS'' AND ANY
16 # EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
17 # IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
18 # PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
19 # CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
20 # EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
21 # PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
22 # PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
23 # OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
25 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
26
27 use strict;
28 use Getopt::Long;
29 use File::Basename;
30 use Cwd;
31
32 my $showHelp = 0;
33 my $runShark = 0;
34 my $jsShellPath;
35 my $testsPattern;
36 my $testRuns = 5; # This number may be different from what ./sunspider defaults to (that's OK)
37
38 my $programName = basename($0);
39 my $usage = <<EOF;
40 Usage: $programName --shell=[path] [options]
41   --help        Show this help message
42   --shell       Path to javascript shell
43   --runs        Number of times to run tests (default: $testRuns)
44   --tests       Only run tests matching provided pattern
45   --shark       Sample with the Mac OS X "Shark" performance testing tool (implies --runs=1)
46 EOF
47
48 GetOptions('runs=i' => \$testRuns,
49            'shell=s' => \$jsShellPath,
50            'shark' => \$runShark,
51            'tests=s' => \$testsPattern,
52            'help' => \$showHelp);
53
54 $testRuns = 1  if $runShark;
55
56 if (!$jsShellPath || $showHelp) {
57    print STDERR $usage;
58    exit 1;
59 }
60
61 sub dumpToFile($$)
62 {
63     my ($contents, $path) = @_;
64     open FILE, ">", $path or die;
65     print FILE $contents;
66     close FILE;
67 }
68
69 # FIXME: these globals are rather poor abstraction
70 my @tests = ();
71 my @categories = ();
72 my %uniqueCategories = ();
73
74 sub loadTestsList()
75 {
76     open TESTLIST, "<", "tests/LIST" or die;
77     while (<TESTLIST>) {
78         chomp;
79         next unless !$testsPattern || /$testsPattern/;
80         
81         push @tests, $_;
82         my $category = $_;
83         $category =~ s/-.*//;
84         if (!$uniqueCategories{$category}) {
85             push @categories, $category;
86             $uniqueCategories{$category} = $category;
87         }
88     }
89     close TESTLIST;
90 }
91
92 sub writePrefixFile()
93 {
94     my $prefix = "var tests = [ " . join(", ", map { '"' . $_ . '"' } @tests) . " ];\n";
95     $prefix .= "var categories = [ " . join(", ", map { '"' . $_ . '"' } @categories) . " ];\n";
96
97     mkdir "tmp";
98     dumpToFile($prefix, "tmp/sunspider-test-prefix.js");
99 }
100
101 sub runTestsOnce($)
102 {
103     my ($useShark) = @_;
104     my $shellArgs = "-f tmp/sunspider-test-prefix.js -f resources/sunspider-standalone-driver.js 2> /dev/null";
105     my $output;
106     if ($useShark) {
107         $output = `shark -i -1 -q "$jsShellPath" $shellArgs`;
108     } else {
109         $output = `"$jsShellPath" $shellArgs | grep -v break`;
110     }
111     return $output;
112 }
113
114 loadTestsList();
115 if ($testsPattern) {
116     print STDERR "Found " . scalar(@tests) . " tests matching '" . $testsPattern . "'\n";
117 } else {
118     print STDERR "Found " . scalar(@tests) . " tests\n";
119 }
120 die "No tests to run"  unless scalar(@tests);
121 print STDERR "Running SunSpider once for warmup, then $testRuns time" . ($testRuns == 1 ? "" : "s") . ($runShark ? " under Shark" : "") . "\n";
122 writePrefixFile();
123
124 runTestsOnce(0);
125 print "Discarded first run.\n";
126
127 my $result;
128 my $count = 0;
129 my @results = ();
130 my $total = 0;
131 print "[";
132 while ($count++ < $testRuns) {
133     $result = runTestsOnce($runShark);
134     $result =~ s/\r\n/\n/g;
135     chomp $result;
136     push @results, $result;
137     print $result;
138     print ",\n" unless ($count == $testRuns);
139 }
140 print "]\n";
141
142 my $output = "var output = [\n" . join(",\n", @results) . "\n];\n";
143 dumpToFile($output, "tmp/sunspider-results.js");
144
145 system("$jsShellPath", "-f", "tmp/sunspider-test-prefix.js", "-f", "tmp/sunspider-results.js", "-f", "resources/sunspider-analyze-results.js");
146
147 if ($runShark) {
148     my $newestAge = 0;
149     my $newestMShark = 0;
150     opendir DIR, "." or die;
151     for my $file (readdir DIR) {
152         if ($file =~ /\.mshark$/) {
153             my $age = -M $file;
154             if ($age < $newestAge) {
155                 $newestMShark = $file;
156                 $newestAge = $age;
157             }
158         }
159     }
160     closedir DIR;
161     exec "/usr/bin/open", $newestMShark if $newestMShark;
162 }