bd6436efc5a892cbda3a661495a4ab503957861a
[WebKit-https.git] / SunSpider / sunspider
1 #!/usr/bin/perl -w
2
3 # Copyright (C) 2007 Apple Inc. All rights reserved.
4 # Copyright (C) 2007 Eric Seidel <eric@webkit.org>
5 #
6 # Redistribution and use in source and binary forms, with or without
7 # modification, are permitted provided that the following conditions
8 # are met:
9 # 1. Redistributions of source code must retain the above copyright
10 #    notice, this list of conditions and the following disclaimer.
11 # 2. Redistributions in binary form must reproduce the above copyright
12 #    notice, this list of conditions and the following disclaimer in the
13 #    documentation and/or other materials provided with the distribution.
14 #
15 # THIS SOFTWARE IS PROVIDED BY APPLE COMPUTER, INC. ``AS IS'' AND ANY
16 # EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
17 # IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
18 # PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
19 # CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
20 # EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
21 # PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
22 # PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
23 # OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
25 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
26
27 use strict;
28 use Getopt::Long;
29 use File::Basename;
30 use File::Spec;
31 use Cwd;
32 use POSIX qw(strftime);
33
34 my $showHelp = 0;
35 my $runShark = 0;
36 my $runShark20 = 0;
37 my $jsShellPath;
38 my $setBaseline = 0;
39 my $testsPattern;
40 my $testRuns = 5; # This number may be different from what ./sunspider defaults to (that's OK)
41
42 my $programName = basename($0);
43 my $usage = <<EOF;
44 Usage: $programName --shell=[path] [options]
45   --help            Show this help message
46   --set-baseline    Set baseline for future comparisons
47   --shell           Path to JavaScript shell
48   --runs            Number of times to run tests (default: $testRuns)
49   --tests           Only run tests matching provided pattern
50   --shark           Sample with the Mac OS X "Shark" performance testing tool (implies --runs=1)
51   --shark20         Like --shark, but with a 20 microsecond sampling interval
52 EOF
53
54 GetOptions('runs=i' => \$testRuns,
55            'set-baseline' => \$setBaseline,
56            'shell=s' => \$jsShellPath,
57            'shark' => \$runShark,
58            'shark20' => \$runShark20,
59            'tests=s' => \$testsPattern,
60            'help' => \$showHelp);
61
62 $runShark = 20 if $runShark20;
63 $testRuns = 1 if $runShark;
64 if ($runShark && ! -x "/usr/bin/shark") {
65     die "Please install CHUD tools from http://developer.apple.com/tools/download/\n";
66 }
67
68 if (!$jsShellPath || $showHelp) {
69    print STDERR $usage;
70    exit 1;
71 }
72
73 sub dumpToFile($$)
74 {
75     my ($contents, $path) = @_;
76     open FILE, ">", $path or die "Failed to open $path";
77     print FILE $contents;
78     close FILE;
79 }
80
81 my @tests = ();
82 my @categories = ();
83 my %uniqueCategories = ();
84
85 sub loadTestsList()
86 {
87     open TESTLIST, "<", "tests/LIST" or die;
88     while (<TESTLIST>) {
89         chomp;
90         next unless !$testsPattern || /$testsPattern/;
91         
92         push @tests, $_;
93         my $category = $_;
94         $category =~ s/-.*//;
95         if (!$uniqueCategories{$category}) {
96             push @categories, $category;
97             $uniqueCategories{$category} = $category;
98         }
99     }
100     close TESTLIST;
101 }
102
103 my $timeString = strftime "%Y-%m-%d-%H.%M.%S", localtime $^T;
104 my $prefixFile = "tmp/sunspider-test-prefix.js";
105 my $resultsFile = "tmp/sunspider-results-$timeString.js";
106
107 sub writePrefixFile()
108 {
109     my $prefix = "var tests = [ " . join(", ", map { '"' . $_ . '"' } @tests) . " ];\n";
110     $prefix .= "var categories = [ " . join(", ", map { '"' . $_ . '"' } @categories) . " ];\n";
111
112     mkdir "tmp";
113     dumpToFile($prefix, $prefixFile);
114 }
115
116 sub runTestsOnce($)
117 {
118     my ($useShark) = @_;
119     my $shellArgs = "-f $prefixFile -f resources/sunspider-standalone-driver.js 2> /dev/null";
120     my $output;
121     if ($useShark) {
122         my $intervalArg = $useShark == 20 ? "-I 20u" : "";
123         $output = `shark $intervalArg -i -1-q "$jsShellPath" $shellArgs`;
124     } else {
125         $output = `"$jsShellPath" $shellArgs | grep -v break`;
126     }
127     return $output;
128 }
129
130 sub newestFile($$)
131 {
132     my ($dir, $pattern) = @_;
133
134     my $newestAge;
135     my $newestFile = "";
136     opendir DIR, $dir or die;
137     for my $file (readdir DIR) {
138         if ($file =~ $pattern) {
139             my $age = -M "$dir/$file";
140             if (!defined $newestAge || $age < $newestAge) {
141                 $newestFile = $file;
142                 $newestAge = $age;
143             }
144         }
145     }
146     closedir DIR;
147
148     return "$dir/$newestFile";
149 }
150
151 loadTestsList();
152 if ($testsPattern) {
153     print STDERR "Found " . scalar(@tests) . " tests matching '" . $testsPattern . "'\n";
154 } else {
155     print STDERR "Found " . scalar(@tests) . " tests\n";
156 }
157 die "No tests to run"  unless scalar(@tests);
158 print STDERR "Running SunSpider once for warmup, then " . ($runShark ? "under Shark" : "$testRuns time" . ($testRuns == 1 ? "" : "s")) . "\n";
159 writePrefixFile();
160
161 runTestsOnce(0);
162 print "Discarded first run.\n";
163
164 my $result;
165 my $count = 0;
166 my @results = ();
167 my $total = 0;
168 print "[";
169 while ($count++ < $testRuns) {
170     $result = runTestsOnce($runShark);
171     $result =~ s/\r\n/\n/g;
172     chomp $result;
173     push @results, $result;
174     print $result;
175     print ",\n" unless ($count == $testRuns);
176 }
177 print "]\n";
178
179 my $output = "var output = [\n" . join(",\n", @results) . "\n];\n";
180 dumpToFile($output, $resultsFile);
181 dumpToFile(File::Spec->rel2abs($resultsFile), "tmp/baseline-filename.txt") if $setBaseline;
182
183 system("$jsShellPath", "-f", $prefixFile, "-f", $resultsFile, "-f", "resources/sunspider-analyze-results.js");
184
185 if ($runShark) {
186     my $newestMShark = newestFile(".", qr/\.mshark$/);
187     if ($newestMShark) {
188         my $profileFile = "tmp/sunspider-profile-$timeString.mshark";
189         rename $newestMShark, $profileFile or die;
190         exec "/usr/bin/open", $profileFile;
191     }
192 }