SunSpider/sunspider

   1 #!/usr/bin/perl -w
   2
   3 # Copyright (C) 2007 Apple Inc. All rights reserved.
   4 # Copyright (C) 2007 Eric Seidel <eric@webkit.org>
   5 #
   6 # Redistribution and use in source and binary forms, with or without
   7 # modification, are permitted provided that the following conditions
   8 # are met:
   9 # 1. Redistributions of source code must retain the above copyright
  10 #    notice, this list of conditions and the following disclaimer.
  11 # 2. Redistributions in binary form must reproduce the above copyright
  12 #    notice, this list of conditions and the following disclaimer in the
  13 #    documentation and/or other materials provided with the distribution.
  14 #
  15 # THIS SOFTWARE IS PROVIDED BY APPLE COMPUTER, INC. ``AS IS'' AND ANY
  16 # EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  17 # IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  18 # PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
  19 # CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
  20 # EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  21 # PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
  22 # PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
  23 # OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  24 # (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  25 # OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  26
  27 use strict;
  28 use Getopt::Long;
  29 use File::Basename;
  30 use Cwd;
  31
  32 my $showHelp = 0;
  33 my $runShark = 0;
  34 my $jsShellPath;
  35 my $testsPattern;
  36 my $testRuns = 5; # This number may be different from what ./sunspider defaults to (that's OK)
  37
  38 my $programName = basename($0);
  39 my $usage = <<EOF;
  40 Usage: $programName --shell=[path] [options]
  41   --help        Show this help message
  42   --shell       Path to javascript shell
  43   --runs        Number of times to run tests (default: $testRuns)
  44   --tests       Only run tests matching provided pattern
  45   --shark       Sample with the Mac OS X "Shark" performance testing tool (implies --runs=1)
  46 EOF
  47
  48 GetOptions('runs=i' => \$testRuns,
  49            'shell=s' => \$jsShellPath,
  50            'shark' => \$runShark,
  51            'tests=s' => \$testsPattern,
  52            'help' => \$showHelp);
  53
  54 $testRuns = 1  if $runShark;
  55
  56 if (!$jsShellPath || $showHelp) {
  57    print STDERR $usage;
  58    exit 1;
  59 }
  60
  61 sub dumpToFile($$)
  62 {
  63     my ($contents, $path) = @_;
  64     open FILE, ">", $path or die;
  65     print FILE $contents;
  66     close FILE;
  67 }
  68
  69 # FIXME: these globals are rather poor abstraction
  70 my @tests = ();
  71 my @categories = ();
  72 my %uniqueCategories = ();
  73
  74 sub loadTestsList()
  75 {
  76     open TESTLIST, "<", "tests/LIST" or die;
  77     while (<TESTLIST>) {
  78         chomp;
  79         next unless !$testsPattern || /$testsPattern/;
  80
  81         push @tests, $_;
  82         my $category = $_;
  83         $category =~ s/-.*//;
  84         if (!$uniqueCategories{$category}) {
  85             push @categories, $category;
  86             $uniqueCategories{$category} = $category;
  87         }
  88     }
  89     close TESTLIST;
  90 }
  91
  92 sub writePrefixFile()
  93 {
  94     my $prefix = "var tests = [ " . join(", ", map { '"' . $_ . '"' } @tests) . " ];\n";
  95     $prefix .= "var categories = [ " . join(", ", map { '"' . $_ . '"' } @categories) . " ];\n";
  96
  97     mkdir "tmp";
  98     dumpToFile($prefix, "tmp/sunspider-test-prefix.js");
  99 }
 100
 101 sub runTestsOnce($)
 102 {
 103     my ($useShark) = @_;
 104     my $shellArgs = "-f tmp/sunspider-test-prefix.js -f resources/sunspider-standalone-driver.js 2> /dev/null";
 105     my $output;
 106     if ($useShark) {
 107         $output = `shark -i -1 -q "$jsShellPath" $shellArgs`;
 108     } else {
 109         $output = `"$jsShellPath" $shellArgs | grep -v break`;
 110     }
 111     return $output;
 112 }
 113
 114 loadTestsList();
 115 if ($testsPattern) {
 116     print STDERR "Found " . scalar(@tests) . " tests matching '" . $testsPattern . "'\n";
 117 } else {
 118     print STDERR "Found " . scalar(@tests) . " tests\n";
 119 }
 120 die "No tests to run"  unless scalar(@tests);
 121 print STDERR "Running SunSpider once for warmup, then $testRuns time" . ($testRuns == 1 ? "" : "s") . ($runShark ? " under Shark" : "") . "\n";
 122 writePrefixFile();
 123
 124 runTestsOnce(0);
 125 print "Discarded first run.\n";
 126
 127 my $result;
 128 my $count = 0;
 129 my @results = ();
 130 my $total = 0;
 131 print "[";
 132 while ($count++ < $testRuns) {
 133     $result = runTestsOnce($runShark);
 134     chomp $result;
 135     push @results, $result;
 136     print $result;
 137     print ",\n" unless ($count == $testRuns);
 138 }
 139 print "]\n";
 140
 141 my $output = "var output = [\n" . join(",\n", @results) . "\n];\n";
 142 dumpToFile($output, "tmp/sunspider-results.js");
 143
 144 system("$jsShellPath", "-f", "tmp/sunspider-test-prefix.js", "-f", "tmp/sunspider-results.js", "-f", "resources/sunspider-analyze-results.js");
 145
 146 if ($runShark) {
 147     my $newestAge = 0;
 148     my $newestMShark = 0;
 149     opendir DIR, "." or die;
 150     for my $file (readdir DIR) {
 151         if ($file =~ /\.mshark$/) {
 152             my $age = -M $file;
 153             if ($age < $newestAge) {
 154                 $newestMShark = $file;
 155                 $newestAge = $age;
 156             }
 157         }
 158     }
 159     closedir DIR;
 160     exec "/usr/bin/open", $newestMShark if $newestMShark;
 161 }