Spread operator has a bad time when applied to call function
[WebKit-https.git] / Source / JavaScriptCore / runtime / JSArray.cpp
1 /*
2  *  Copyright (C) 1999-2000 Harri Porten (porten@kde.org)
3  *  Copyright (C) 2003, 2007, 2008, 2009, 2012, 2013 Apple Inc. All rights reserved.
4  *  Copyright (C) 2003 Peter Kelly (pmk@post.com)
5  *  Copyright (C) 2006 Alexey Proskuryakov (ap@nypop.com)
6  *
7  *  This library is free software; you can redistribute it and/or
8  *  modify it under the terms of the GNU Lesser General Public
9  *  License as published by the Free Software Foundation; either
10  *  version 2 of the License, or (at your option) any later version.
11  *
12  *  This library is distributed in the hope that it will be useful,
13  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
14  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  *  Lesser General Public License for more details.
16  *
17  *  You should have received a copy of the GNU Lesser General Public
18  *  License along with this library; if not, write to the Free Software
19  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA
20  *
21  */
22
23 #include "config.h"
24 #include "JSArray.h"
25
26 #include "ArrayPrototype.h"
27 #include "ButterflyInlines.h"
28 #include "CachedCall.h"
29 #include "CopiedSpace.h"
30 #include "Error.h"
31 #include "Executable.h"
32 #include "GetterSetter.h"
33 #include "IndexingHeaderInlines.h"
34 #include "JSCInlines.h"
35 #include "PropertyNameArray.h"
36 #include "Reject.h"
37 #include <wtf/AVLTree.h>
38 #include <wtf/Assertions.h>
39 #include <wtf/OwnPtr.h>
40
41 using namespace std;
42 using namespace WTF;
43
44 namespace JSC {
45
46 STATIC_ASSERT_IS_TRIVIALLY_DESTRUCTIBLE(JSArray);
47
48 const ClassInfo JSArray::s_info = {"Array", &JSNonFinalObject::s_info, 0, 0, CREATE_METHOD_TABLE(JSArray)};
49
50 Butterfly* createArrayButterflyInDictionaryIndexingMode(
51     VM& vm, JSCell* intendedOwner, unsigned initialLength)
52 {
53     Butterfly* butterfly = Butterfly::create(
54         vm, intendedOwner, 0, 0, true, IndexingHeader(), ArrayStorage::sizeFor(0));
55     ArrayStorage* storage = butterfly->arrayStorage();
56     storage->setLength(initialLength);
57     storage->setVectorLength(0);
58     storage->m_indexBias = 0;
59     storage->m_sparseMap.clear();
60     storage->m_numValuesInVector = 0;
61     return butterfly;
62 }
63
64 void JSArray::setLengthWritable(ExecState* exec, bool writable)
65 {
66     ASSERT(isLengthWritable() || !writable);
67     if (!isLengthWritable() || writable)
68         return;
69
70     enterDictionaryIndexingMode(exec->vm());
71
72     SparseArrayValueMap* map = arrayStorage()->m_sparseMap.get();
73     ASSERT(map);
74     map->setLengthIsReadOnly();
75 }
76
77 // Defined in ES5.1 15.4.5.1
78 bool JSArray::defineOwnProperty(JSObject* object, ExecState* exec, PropertyName propertyName, const PropertyDescriptor& descriptor, bool throwException)
79 {
80     JSArray* array = jsCast<JSArray*>(object);
81
82     // 3. If P is "length", then
83     if (propertyName == exec->propertyNames().length) {
84         // All paths through length definition call the default [[DefineOwnProperty]], hence:
85         // from ES5.1 8.12.9 7.a.
86         if (descriptor.configurablePresent() && descriptor.configurable())
87             return reject(exec, throwException, "Attempting to change configurable attribute of unconfigurable property.");
88         // from ES5.1 8.12.9 7.b.
89         if (descriptor.enumerablePresent() && descriptor.enumerable())
90             return reject(exec, throwException, "Attempting to change enumerable attribute of unconfigurable property.");
91
92         // a. If the [[Value]] field of Desc is absent, then
93         // a.i. Return the result of calling the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length", Desc, and Throw as arguments.
94         if (descriptor.isAccessorDescriptor())
95             return reject(exec, throwException, "Attempting to change access mechanism for an unconfigurable property.");
96         // from ES5.1 8.12.9 10.a.
97         if (!array->isLengthWritable() && descriptor.writablePresent() && descriptor.writable())
98             return reject(exec, throwException, "Attempting to change writable attribute of unconfigurable property.");
99         // This descriptor is either just making length read-only, or changing nothing!
100         if (!descriptor.value()) {
101             if (descriptor.writablePresent())
102                 array->setLengthWritable(exec, descriptor.writable());
103             return true;
104         }
105         
106         // b. Let newLenDesc be a copy of Desc.
107         // c. Let newLen be ToUint32(Desc.[[Value]]).
108         unsigned newLen = descriptor.value().toUInt32(exec);
109         // d. If newLen is not equal to ToNumber( Desc.[[Value]]), throw a RangeError exception.
110         if (newLen != descriptor.value().toNumber(exec)) {
111             exec->vm().throwException(exec, createRangeError(exec, "Invalid array length"));
112             return false;
113         }
114
115         // Based on SameValue check in 8.12.9, this is always okay.
116         if (newLen == array->length()) {
117             if (descriptor.writablePresent())
118                 array->setLengthWritable(exec, descriptor.writable());
119             return true;
120         }
121
122         // e. Set newLenDesc.[[Value] to newLen.
123         // f. If newLen >= oldLen, then
124         // f.i. Return the result of calling the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length", newLenDesc, and Throw as arguments.
125         // g. Reject if oldLenDesc.[[Writable]] is false.
126         if (!array->isLengthWritable())
127             return reject(exec, throwException, "Attempting to change value of a readonly property.");
128         
129         // h. If newLenDesc.[[Writable]] is absent or has the value true, let newWritable be true.
130         // i. Else,
131         // i.i. Need to defer setting the [[Writable]] attribute to false in case any elements cannot be deleted.
132         // i.ii. Let newWritable be false.
133         // i.iii. Set newLenDesc.[[Writable] to true.
134         // j. Let succeeded be the result of calling the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length", newLenDesc, and Throw as arguments.
135         // k. If succeeded is false, return false.
136         // l. While newLen < oldLen repeat,
137         // l.i. Set oldLen to oldLen – 1.
138         // l.ii. Let deleteSucceeded be the result of calling the [[Delete]] internal method of A passing ToString(oldLen) and false as arguments.
139         // l.iii. If deleteSucceeded is false, then
140         if (!array->setLength(exec, newLen, throwException)) {
141             // 1. Set newLenDesc.[[Value] to oldLen+1.
142             // 2. If newWritable is false, set newLenDesc.[[Writable] to false.
143             // 3. Call the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length", newLenDesc, and false as arguments.
144             // 4. Reject.
145             if (descriptor.writablePresent())
146                 array->setLengthWritable(exec, descriptor.writable());
147             return false;
148         }
149
150         // m. If newWritable is false, then
151         // i. Call the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length",
152         //    Property Descriptor{[[Writable]]: false}, and false as arguments. This call will always
153         //    return true.
154         if (descriptor.writablePresent())
155             array->setLengthWritable(exec, descriptor.writable());
156         // n. Return true.
157         return true;
158     }
159
160     // 4. Else if P is an array index (15.4), then
161     // a. Let index be ToUint32(P).
162     unsigned index = propertyName.asIndex();
163     if (index != PropertyName::NotAnIndex) {
164         // b. Reject if index >= oldLen and oldLenDesc.[[Writable]] is false.
165         if (index >= array->length() && !array->isLengthWritable())
166             return reject(exec, throwException, "Attempting to define numeric property on array with non-writable length property.");
167         // c. Let succeeded be the result of calling the default [[DefineOwnProperty]] internal method (8.12.9) on A passing P, Desc, and false as arguments.
168         // d. Reject if succeeded is false.
169         // e. If index >= oldLen
170         // e.i. Set oldLenDesc.[[Value]] to index + 1.
171         // e.ii. Call the default [[DefineOwnProperty]] internal method (8.12.9) on A passing "length", oldLenDesc, and false as arguments. This call will always return true.
172         // f. Return true.
173         return array->defineOwnIndexedProperty(exec, index, descriptor, throwException);
174     }
175
176     return array->JSObject::defineOwnNonIndexProperty(exec, propertyName, descriptor, throwException);
177 }
178
179 bool JSArray::getOwnPropertySlot(JSObject* object, ExecState* exec, PropertyName propertyName, PropertySlot& slot)
180 {
181     JSArray* thisObject = jsCast<JSArray*>(object);
182     if (propertyName == exec->propertyNames().length) {
183         unsigned attributes = thisObject->isLengthWritable() ? DontDelete | DontEnum : DontDelete | DontEnum | ReadOnly;
184         slot.setValue(thisObject, attributes, jsNumber(thisObject->length()));
185         return true;
186     }
187
188     return JSObject::getOwnPropertySlot(thisObject, exec, propertyName, slot);
189 }
190
191 // ECMA 15.4.5.1
192 void JSArray::put(JSCell* cell, ExecState* exec, PropertyName propertyName, JSValue value, PutPropertySlot& slot)
193 {
194     JSArray* thisObject = jsCast<JSArray*>(cell);
195
196     if (propertyName == exec->propertyNames().length) {
197         unsigned newLength = value.toUInt32(exec);
198         if (value.toNumber(exec) != static_cast<double>(newLength)) {
199             exec->vm().throwException(exec, createRangeError(exec, ASCIILiteral("Invalid array length")));
200             return;
201         }
202         thisObject->setLength(exec, newLength, slot.isStrictMode());
203         return;
204     }
205
206     JSObject::put(thisObject, exec, propertyName, value, slot);
207 }
208
209 bool JSArray::deleteProperty(JSCell* cell, ExecState* exec, PropertyName propertyName)
210 {
211     JSArray* thisObject = jsCast<JSArray*>(cell);
212
213     if (propertyName == exec->propertyNames().length)
214         return false;
215
216     return JSObject::deleteProperty(thisObject, exec, propertyName);
217 }
218
219 static int compareKeysForQSort(const void* a, const void* b)
220 {
221     unsigned da = *static_cast<const unsigned*>(a);
222     unsigned db = *static_cast<const unsigned*>(b);
223     return (da > db) - (da < db);
224 }
225
226 void JSArray::getOwnNonIndexPropertyNames(JSObject* object, ExecState* exec, PropertyNameArray& propertyNames, EnumerationMode mode)
227 {
228     JSArray* thisObject = jsCast<JSArray*>(object);
229
230     if (mode == IncludeDontEnumProperties)
231         propertyNames.add(exec->propertyNames().length);
232
233     JSObject::getOwnNonIndexPropertyNames(thisObject, exec, propertyNames, mode);
234 }
235
236 // This method makes room in the vector, but leaves the new space for count slots uncleared.
237 bool JSArray::unshiftCountSlowCase(VM& vm, bool addToFront, unsigned count)
238 {
239     ArrayStorage* storage = ensureArrayStorage(vm);
240     Butterfly* butterfly = storage->butterfly();
241     unsigned propertyCapacity = structure()->outOfLineCapacity();
242     unsigned propertySize = structure()->outOfLineSize();
243
244     // If not, we should have handled this on the fast path.
245     ASSERT(!addToFront || count > storage->m_indexBias);
246
247     // Step 1:
248     // Gather 4 key metrics:
249     //  * usedVectorLength - how many entries are currently in the vector (conservative estimate - fewer may be in use in sparse vectors).
250     //  * requiredVectorLength - how many entries are will there be in the vector, after allocating space for 'count' more.
251     //  * currentCapacity - what is the current size of the vector, including any pre-capacity.
252     //  * desiredCapacity - how large should we like to grow the vector to - based on 2x requiredVectorLength.
253
254     unsigned length = storage->length();
255     unsigned usedVectorLength = min(storage->vectorLength(), length);
256     ASSERT(usedVectorLength <= MAX_STORAGE_VECTOR_LENGTH);
257     // Check that required vector length is possible, in an overflow-safe fashion.
258     if (count > MAX_STORAGE_VECTOR_LENGTH - usedVectorLength)
259         return false;
260     unsigned requiredVectorLength = usedVectorLength + count;
261     ASSERT(requiredVectorLength <= MAX_STORAGE_VECTOR_LENGTH);
262     // The sum of m_vectorLength and m_indexBias will never exceed MAX_STORAGE_VECTOR_LENGTH.
263     ASSERT(storage->vectorLength() <= MAX_STORAGE_VECTOR_LENGTH && (MAX_STORAGE_VECTOR_LENGTH - storage->vectorLength()) >= storage->m_indexBias);
264     unsigned currentCapacity = storage->vectorLength() + storage->m_indexBias;
265     // The calculation of desiredCapacity won't overflow, due to the range of MAX_STORAGE_VECTOR_LENGTH.
266     unsigned desiredCapacity = min(MAX_STORAGE_VECTOR_LENGTH, max(BASE_VECTOR_LEN, requiredVectorLength) << 1);
267
268     // Step 2:
269     // We're either going to choose to allocate a new ArrayStorage, or we're going to reuse the existing one.
270
271     DeferGC deferGC(vm.heap);
272     void* newAllocBase = 0;
273     unsigned newStorageCapacity;
274     // If the current storage array is sufficiently large (but not too large!) then just keep using it.
275     if (currentCapacity > desiredCapacity && isDenseEnoughForVector(currentCapacity, requiredVectorLength)) {
276         newAllocBase = butterfly->base(structure());
277         newStorageCapacity = currentCapacity;
278     } else {
279         size_t newSize = Butterfly::totalSize(0, propertyCapacity, true, ArrayStorage::sizeFor(desiredCapacity));
280         if (!vm.heap.tryAllocateStorage(this, newSize, &newAllocBase))
281             return false;
282         newStorageCapacity = desiredCapacity;
283     }
284
285     // Step 3:
286     // Work out where we're going to move things to.
287
288     // Determine how much of the vector to use as pre-capacity, and how much as post-capacity.
289     // If we're adding to the end, we'll add all the new space to the end.
290     // If the vector had no free post-capacity (length >= m_vectorLength), don't give it any.
291     // If it did, we calculate the amount that will remain based on an atomic decay - leave the
292     // vector with half the post-capacity it had previously.
293     unsigned postCapacity = 0;
294     if (!addToFront)
295         postCapacity = max(newStorageCapacity - requiredVectorLength, count);
296     else if (length < storage->vectorLength()) {
297         // Atomic decay, + the post-capacity cannot be greater than what is available.
298         postCapacity = min((storage->vectorLength() - length) >> 1, newStorageCapacity - requiredVectorLength);
299         // If we're moving contents within the same allocation, the post-capacity is being reduced.
300         ASSERT(newAllocBase != butterfly->base(structure()) || postCapacity < storage->vectorLength() - length);
301     }
302
303     unsigned newVectorLength = requiredVectorLength + postCapacity;
304     unsigned newIndexBias = newStorageCapacity - newVectorLength;
305
306     Butterfly* newButterfly = Butterfly::fromBase(newAllocBase, newIndexBias, propertyCapacity);
307
308     if (addToFront) {
309         ASSERT(count + usedVectorLength <= newVectorLength);
310         memmove(newButterfly->arrayStorage()->m_vector + count, storage->m_vector, sizeof(JSValue) * usedVectorLength);
311         memmove(newButterfly->propertyStorage() - propertySize, butterfly->propertyStorage() - propertySize, sizeof(JSValue) * propertySize + sizeof(IndexingHeader) + ArrayStorage::sizeFor(0));
312     } else if ((newAllocBase != butterfly->base(structure())) || (newIndexBias != storage->m_indexBias)) {
313         memmove(newButterfly->propertyStorage() - propertySize, butterfly->propertyStorage() - propertySize, sizeof(JSValue) * propertySize + sizeof(IndexingHeader) + ArrayStorage::sizeFor(0));
314         memmove(newButterfly->arrayStorage()->m_vector, storage->m_vector, sizeof(JSValue) * usedVectorLength);
315
316         WriteBarrier<Unknown>* newVector = newButterfly->arrayStorage()->m_vector;
317         for (unsigned i = requiredVectorLength; i < newVectorLength; i++)
318             newVector[i].clear();
319     }
320
321     newButterfly->arrayStorage()->setVectorLength(newVectorLength);
322     newButterfly->arrayStorage()->m_indexBias = newIndexBias;
323     setButterflyWithoutChangingStructure(vm, newButterfly);
324
325     return true;
326 }
327
328 bool JSArray::setLengthWithArrayStorage(ExecState* exec, unsigned newLength, bool throwException, ArrayStorage* storage)
329 {
330     unsigned length = storage->length();
331
332     // If the length is read only then we enter sparse mode, so should enter the following 'if'.
333     ASSERT(isLengthWritable() || storage->m_sparseMap);
334
335     if (SparseArrayValueMap* map = storage->m_sparseMap.get()) {
336         // Fail if the length is not writable.
337         if (map->lengthIsReadOnly())
338             return reject(exec, throwException, StrictModeReadonlyPropertyWriteError);
339
340         if (newLength < length) {
341             // Copy any keys we might be interested in into a vector.
342             Vector<unsigned, 0, UnsafeVectorOverflow> keys;
343             keys.reserveInitialCapacity(min(map->size(), static_cast<size_t>(length - newLength)));
344             SparseArrayValueMap::const_iterator end = map->end();
345             for (SparseArrayValueMap::const_iterator it = map->begin(); it != end; ++it) {
346                 unsigned index = static_cast<unsigned>(it->key);
347                 if (index < length && index >= newLength)
348                     keys.append(index);
349             }
350
351             // Check if the array is in sparse mode. If so there may be non-configurable
352             // properties, so we have to perform deletion with caution, if not we can
353             // delete values in any order.
354             if (map->sparseMode()) {
355                 qsort(keys.begin(), keys.size(), sizeof(unsigned), compareKeysForQSort);
356                 unsigned i = keys.size();
357                 while (i) {
358                     unsigned index = keys[--i];
359                     SparseArrayValueMap::iterator it = map->find(index);
360                     ASSERT(it != map->notFound());
361                     if (it->value.attributes & DontDelete) {
362                         storage->setLength(index + 1);
363                         return reject(exec, throwException, "Unable to delete property.");
364                     }
365                     map->remove(it);
366                 }
367             } else {
368                 for (unsigned i = 0; i < keys.size(); ++i)
369                     map->remove(keys[i]);
370                 if (map->isEmpty())
371                     deallocateSparseIndexMap();
372             }
373         }
374     }
375
376     if (newLength < length) {
377         // Delete properties from the vector.
378         unsigned usedVectorLength = min(length, storage->vectorLength());
379         for (unsigned i = newLength; i < usedVectorLength; ++i) {
380             WriteBarrier<Unknown>& valueSlot = storage->m_vector[i];
381             bool hadValue = valueSlot;
382             valueSlot.clear();
383             storage->m_numValuesInVector -= hadValue;
384         }
385     }
386
387     storage->setLength(newLength);
388
389     return true;
390 }
391
392 bool JSArray::setLength(ExecState* exec, unsigned newLength, bool throwException)
393 {
394     switch (structure()->indexingType()) {
395     case ArrayClass:
396         if (!newLength)
397             return true;
398         if (newLength >= MIN_SPARSE_ARRAY_INDEX) {
399             return setLengthWithArrayStorage(
400                 exec, newLength, throwException,
401                 convertContiguousToArrayStorage(exec->vm()));
402         }
403         createInitialUndecided(exec->vm(), newLength);
404         return true;
405         
406     case ArrayWithUndecided:
407     case ArrayWithInt32:
408     case ArrayWithDouble:
409     case ArrayWithContiguous:
410         if (newLength == m_butterfly->publicLength())
411             return true;
412         if (newLength >= MAX_ARRAY_INDEX // This case ensures that we can do fast push.
413             || (newLength >= MIN_SPARSE_ARRAY_INDEX
414                 && !isDenseEnoughForVector(newLength, countElements()))) {
415             return setLengthWithArrayStorage(
416                 exec, newLength, throwException,
417                 ensureArrayStorage(exec->vm()));
418         }
419         if (newLength > m_butterfly->publicLength()) {
420             ensureLength(exec->vm(), newLength);
421             return true;
422         }
423         if (structure()->indexingType() == ArrayWithDouble) {
424             for (unsigned i = m_butterfly->publicLength(); i-- > newLength;)
425                 m_butterfly->contiguousDouble()[i] = QNaN;
426         } else {
427             for (unsigned i = m_butterfly->publicLength(); i-- > newLength;)
428                 m_butterfly->contiguous()[i].clear();
429         }
430         m_butterfly->setPublicLength(newLength);
431         return true;
432         
433     case ArrayWithArrayStorage:
434     case ArrayWithSlowPutArrayStorage:
435         return setLengthWithArrayStorage(exec, newLength, throwException, arrayStorage());
436         
437     default:
438         CRASH();
439         return false;
440     }
441 }
442
443 JSValue JSArray::pop(ExecState* exec)
444 {
445     switch (structure()->indexingType()) {
446     case ArrayClass:
447         return jsUndefined();
448         
449     case ArrayWithUndecided:
450         if (!m_butterfly->publicLength())
451             return jsUndefined();
452         // We have nothing but holes. So, drop down to the slow version.
453         break;
454         
455     case ArrayWithInt32:
456     case ArrayWithContiguous: {
457         unsigned length = m_butterfly->publicLength();
458         
459         if (!length--)
460             return jsUndefined();
461         
462         RELEASE_ASSERT(length < m_butterfly->vectorLength());
463         JSValue value = m_butterfly->contiguous()[length].get();
464         if (value) {
465             m_butterfly->contiguous()[length].clear();
466             m_butterfly->setPublicLength(length);
467             return value;
468         }
469         break;
470     }
471         
472     case ArrayWithDouble: {
473         unsigned length = m_butterfly->publicLength();
474         
475         if (!length--)
476             return jsUndefined();
477         
478         RELEASE_ASSERT(length < m_butterfly->vectorLength());
479         double value = m_butterfly->contiguousDouble()[length];
480         if (value == value) {
481             m_butterfly->contiguousDouble()[length] = QNaN;
482             m_butterfly->setPublicLength(length);
483             return JSValue(JSValue::EncodeAsDouble, value);
484         }
485         break;
486     }
487         
488     case ARRAY_WITH_ARRAY_STORAGE_INDEXING_TYPES: {
489         ArrayStorage* storage = m_butterfly->arrayStorage();
490     
491         unsigned length = storage->length();
492         if (!length) {
493             if (!isLengthWritable())
494                 throwTypeError(exec, StrictModeReadonlyPropertyWriteError);
495             return jsUndefined();
496         }
497
498         unsigned index = length - 1;
499         if (index < storage->vectorLength()) {
500             WriteBarrier<Unknown>& valueSlot = storage->m_vector[index];
501             if (valueSlot) {
502                 --storage->m_numValuesInVector;
503                 JSValue element = valueSlot.get();
504                 valueSlot.clear();
505             
506                 RELEASE_ASSERT(isLengthWritable());
507                 storage->setLength(index);
508                 return element;
509             }
510         }
511         break;
512     }
513         
514     default:
515         CRASH();
516         return JSValue();
517     }
518     
519     unsigned index = getArrayLength() - 1;
520     // Let element be the result of calling the [[Get]] internal method of O with argument indx.
521     JSValue element = get(exec, index);
522     if (exec->hadException())
523         return jsUndefined();
524     // Call the [[Delete]] internal method of O with arguments indx and true.
525     if (!deletePropertyByIndex(this, exec, index)) {
526         throwTypeError(exec, "Unable to delete property.");
527         return jsUndefined();
528     }
529     // Call the [[Put]] internal method of O with arguments "length", indx, and true.
530     setLength(exec, index, true);
531     // Return element.
532     return element;
533 }
534
535 // Push & putIndex are almost identical, with two small differences.
536 //  - we always are writing beyond the current array bounds, so it is always necessary to update m_length & m_numValuesInVector.
537 //  - pushing to an array of length 2^32-1 stores the property, but throws a range error.
538 void JSArray::push(ExecState* exec, JSValue value)
539 {
540     switch (structure()->indexingType()) {
541     case ArrayClass: {
542         createInitialUndecided(exec->vm(), 0);
543         FALLTHROUGH;
544     }
545         
546     case ArrayWithUndecided: {
547         convertUndecidedForValue(exec->vm(), value);
548         push(exec, value);
549         return;
550     }
551         
552     case ArrayWithInt32: {
553         if (!value.isInt32()) {
554             convertInt32ForValue(exec->vm(), value);
555             push(exec, value);
556             return;
557         }
558
559         unsigned length = m_butterfly->publicLength();
560         ASSERT(length <= m_butterfly->vectorLength());
561         if (length < m_butterfly->vectorLength()) {
562             m_butterfly->contiguousInt32()[length].setWithoutWriteBarrier(value);
563             m_butterfly->setPublicLength(length + 1);
564             return;
565         }
566         
567         if (length > MAX_ARRAY_INDEX) {
568             methodTable()->putByIndex(this, exec, length, value, true);
569             if (!exec->hadException())
570                 exec->vm().throwException(exec, createRangeError(exec, "Invalid array length"));
571             return;
572         }
573         
574         putByIndexBeyondVectorLengthWithoutAttributes<Int32Shape>(exec, length, value);
575         return;
576     }
577
578     case ArrayWithContiguous: {
579         unsigned length = m_butterfly->publicLength();
580         ASSERT(length <= m_butterfly->vectorLength());
581         if (length < m_butterfly->vectorLength()) {
582             m_butterfly->contiguous()[length].set(exec->vm(), this, value);
583             m_butterfly->setPublicLength(length + 1);
584             return;
585         }
586         
587         if (length > MAX_ARRAY_INDEX) {
588             methodTable()->putByIndex(this, exec, length, value, true);
589             if (!exec->hadException())
590                 exec->vm().throwException(exec, createRangeError(exec, "Invalid array length"));
591             return;
592         }
593         
594         putByIndexBeyondVectorLengthWithoutAttributes<ContiguousShape>(exec, length, value);
595         return;
596     }
597         
598     case ArrayWithDouble: {
599         if (!value.isNumber()) {
600             convertDoubleToContiguous(exec->vm());
601             push(exec, value);
602             return;
603         }
604         double valueAsDouble = value.asNumber();
605         if (valueAsDouble != valueAsDouble) {
606             convertDoubleToContiguous(exec->vm());
607             push(exec, value);
608             return;
609         }
610
611         unsigned length = m_butterfly->publicLength();
612         ASSERT(length <= m_butterfly->vectorLength());
613         if (length < m_butterfly->vectorLength()) {
614             m_butterfly->contiguousDouble()[length] = valueAsDouble;
615             m_butterfly->setPublicLength(length + 1);
616             return;
617         }
618         
619         if (length > MAX_ARRAY_INDEX) {
620             methodTable()->putByIndex(this, exec, length, value, true);
621             if (!exec->hadException())
622                 exec->vm().throwException(exec, createRangeError(exec, "Invalid array length"));
623             return;
624         }
625         
626         putByIndexBeyondVectorLengthWithoutAttributes<DoubleShape>(exec, length, value);
627         break;
628     }
629         
630     case ArrayWithSlowPutArrayStorage: {
631         unsigned oldLength = length();
632         if (attemptToInterceptPutByIndexOnHole(exec, oldLength, value, true)) {
633             if (!exec->hadException() && oldLength < 0xFFFFFFFFu)
634                 setLength(exec, oldLength + 1, true);
635             return;
636         }
637         FALLTHROUGH;
638     }
639         
640     case ArrayWithArrayStorage: {
641         ArrayStorage* storage = m_butterfly->arrayStorage();
642
643         // Fast case - push within vector, always update m_length & m_numValuesInVector.
644         unsigned length = storage->length();
645         if (length < storage->vectorLength()) {
646             storage->m_vector[length].set(exec->vm(), this, value);
647             storage->setLength(length + 1);
648             ++storage->m_numValuesInVector;
649             return;
650         }
651
652         // Pushing to an array of invalid length (2^31-1) stores the property, but throws a range error.
653         if (storage->length() > MAX_ARRAY_INDEX) {
654             methodTable()->putByIndex(this, exec, storage->length(), value, true);
655             // Per ES5.1 15.4.4.7 step 6 & 15.4.5.1 step 3.d.
656             if (!exec->hadException())
657                 exec->vm().throwException(exec, createRangeError(exec, "Invalid array length"));
658             return;
659         }
660
661         // Handled the same as putIndex.
662         putByIndexBeyondVectorLengthWithArrayStorage(exec, storage->length(), value, true, storage);
663         break;
664     }
665         
666     default:
667         RELEASE_ASSERT_NOT_REACHED();
668     }
669 }
670
671 bool JSArray::shiftCountWithArrayStorage(unsigned startIndex, unsigned count, ArrayStorage* storage)
672 {
673     unsigned oldLength = storage->length();
674     RELEASE_ASSERT(count <= oldLength);
675     
676     // If the array contains holes or is otherwise in an abnormal state,
677     // use the generic algorithm in ArrayPrototype.
678     if (oldLength != storage->m_numValuesInVector || inSparseIndexingMode() || shouldUseSlowPut(structure()->indexingType()))
679         return false;
680
681     if (!oldLength)
682         return true;
683     
684     unsigned length = oldLength - count;
685     
686     storage->m_numValuesInVector -= count;
687     storage->setLength(length);
688     
689     unsigned vectorLength = storage->vectorLength();
690     if (!vectorLength)
691         return true;
692     
693     if (startIndex >= vectorLength)
694         return true;
695     
696     if (startIndex + count > vectorLength)
697         count = vectorLength - startIndex;
698     
699     unsigned usedVectorLength = min(vectorLength, oldLength);
700     
701     unsigned numElementsBeforeShiftRegion = startIndex;
702     unsigned firstIndexAfterShiftRegion = startIndex + count;
703     unsigned numElementsAfterShiftRegion = usedVectorLength - firstIndexAfterShiftRegion;
704     ASSERT(numElementsBeforeShiftRegion + count + numElementsAfterShiftRegion == usedVectorLength);
705
706     // The point of this comparison seems to be to minimize the amount of elements that have to 
707     // be moved during a shift operation.
708     if (numElementsBeforeShiftRegion < numElementsAfterShiftRegion) {
709         // The number of elements before the shift region is less than the number of elements
710         // after the shift region, so we move the elements before to the right.
711         if (numElementsBeforeShiftRegion) {
712             RELEASE_ASSERT(count + startIndex <= vectorLength);
713             memmove(
714                 storage->m_vector + count,
715                 storage->m_vector,
716                 sizeof(JSValue) * startIndex);
717         }
718         // Adjust the Butterfly and the index bias. We only need to do this here because we're changing
719         // the start of the Butterfly, which needs to point at the first indexed property in the used
720         // portion of the vector.
721         m_butterfly.setWithoutWriteBarrier(m_butterfly->shift(structure(), count));
722         storage = m_butterfly->arrayStorage();
723         storage->m_indexBias += count;
724
725         // Since we're consuming part of the vector by moving its beginning to the left,
726         // we need to modify the vector length appropriately.
727         storage->setVectorLength(vectorLength - count);
728     } else {
729         // The number of elements before the shift region is greater than or equal to the number 
730         // of elements after the shift region, so we move the elements after the shift region to the left.
731         memmove(
732             storage->m_vector + startIndex,
733             storage->m_vector + firstIndexAfterShiftRegion,
734             sizeof(JSValue) * numElementsAfterShiftRegion);
735         // Clear the slots of the elements we just moved.
736         unsigned startOfEmptyVectorTail = usedVectorLength - count;
737         for (unsigned i = startOfEmptyVectorTail; i < usedVectorLength; ++i)
738             storage->m_vector[i].clear();
739         // We don't modify the index bias or the Butterfly pointer in this case because we're not changing 
740         // the start of the Butterfly, which needs to point at the first indexed property in the used 
741         // portion of the vector. We also don't modify the vector length because we're not actually changing
742         // its length; we're just using less of it.
743     }
744     
745     return true;
746 }
747
748 bool JSArray::shiftCountWithAnyIndexingType(ExecState* exec, unsigned startIndex, unsigned count)
749 {
750     RELEASE_ASSERT(count > 0);
751     
752     switch (structure()->indexingType()) {
753     case ArrayClass:
754         return true;
755         
756     case ArrayWithUndecided:
757         // Don't handle this because it's confusing and it shouldn't come up.
758         return false;
759         
760     case ArrayWithInt32:
761     case ArrayWithContiguous: {
762         unsigned oldLength = m_butterfly->publicLength();
763         RELEASE_ASSERT(count <= oldLength);
764         
765         // We may have to walk the entire array to do the shift. We're willing to do
766         // so only if it's not horribly slow.
767         if (oldLength - (startIndex + count) >= MIN_SPARSE_ARRAY_INDEX)
768             return shiftCountWithArrayStorage(startIndex, count, ensureArrayStorage(exec->vm()));
769
770         // Storing to a hole is fine since we're still having a good time. But reading from a hole 
771         // is totally not fine, since we might have to read from the proto chain.
772         // We have to check for holes before we start moving things around so that we don't get halfway 
773         // through shifting and then realize we should have been in ArrayStorage mode.
774         unsigned end = oldLength - count;
775         for (unsigned i = startIndex; i < end; ++i) {
776             JSValue v = m_butterfly->contiguous()[i + count].get();
777             if (UNLIKELY(!v))
778                 return shiftCountWithArrayStorage(startIndex, count, ensureArrayStorage(exec->vm()));
779         }
780
781         for (unsigned i = startIndex; i < end; ++i) {
782             JSValue v = m_butterfly->contiguous()[i + count].get();
783             ASSERT(v);
784             // No need for a barrier since we're just moving data around in the same vector.
785             // This is in line with our standing assumption that we won't have a deletion
786             // barrier.
787             m_butterfly->contiguous()[i].setWithoutWriteBarrier(v);
788         }
789         for (unsigned i = end; i < oldLength; ++i)
790             m_butterfly->contiguous()[i].clear();
791         
792         m_butterfly->setPublicLength(oldLength - count);
793         return true;
794     }
795         
796     case ArrayWithDouble: {
797         unsigned oldLength = m_butterfly->publicLength();
798         RELEASE_ASSERT(count <= oldLength);
799         
800         // We may have to walk the entire array to do the shift. We're willing to do
801         // so only if it's not horribly slow.
802         if (oldLength - (startIndex + count) >= MIN_SPARSE_ARRAY_INDEX)
803             return shiftCountWithArrayStorage(startIndex, count, ensureArrayStorage(exec->vm()));
804
805         // Storing to a hole is fine since we're still having a good time. But reading from a hole 
806         // is totally not fine, since we might have to read from the proto chain.
807         // We have to check for holes before we start moving things around so that we don't get halfway 
808         // through shifting and then realize we should have been in ArrayStorage mode.
809         unsigned end = oldLength - count;
810         for (unsigned i = startIndex; i < end; ++i) {
811             double v = m_butterfly->contiguousDouble()[i + count];
812             if (UNLIKELY(v != v))
813                 return shiftCountWithArrayStorage(startIndex, count, ensureArrayStorage(exec->vm()));
814         }
815             
816         for (unsigned i = startIndex; i < end; ++i) {
817             double v = m_butterfly->contiguousDouble()[i + count];
818             ASSERT(v == v);
819             // No need for a barrier since we're just moving data around in the same vector.
820             // This is in line with our standing assumption that we won't have a deletion
821             // barrier.
822             m_butterfly->contiguousDouble()[i] = v;
823         }
824         for (unsigned i = end; i < oldLength; ++i)
825             m_butterfly->contiguousDouble()[i] = QNaN;
826         
827         m_butterfly->setPublicLength(oldLength - count);
828         return true;
829     }
830         
831     case ArrayWithArrayStorage:
832     case ArrayWithSlowPutArrayStorage:
833         return shiftCountWithArrayStorage(startIndex, count, arrayStorage());
834         
835     default:
836         CRASH();
837         return false;
838     }
839 }
840
841 // Returns true if the unshift can be handled, false to fallback.    
842 bool JSArray::unshiftCountWithArrayStorage(ExecState* exec, unsigned startIndex, unsigned count, ArrayStorage* storage)
843 {
844     unsigned length = storage->length();
845
846     RELEASE_ASSERT(startIndex <= length);
847
848     // If the array contains holes or is otherwise in an abnormal state,
849     // use the generic algorithm in ArrayPrototype.
850     if (length != storage->m_numValuesInVector || storage->inSparseMode() || shouldUseSlowPut(structure()->indexingType()))
851         return false;
852
853     bool moveFront = !startIndex || startIndex < length / 2;
854
855     unsigned vectorLength = storage->vectorLength();
856
857     if (moveFront && storage->m_indexBias >= count) {
858         Butterfly* newButterfly = storage->butterfly()->unshift(structure(), count);
859         storage = newButterfly->arrayStorage();
860         storage->m_indexBias -= count;
861         storage->setVectorLength(vectorLength + count);
862         setButterflyWithoutChangingStructure(exec->vm(), newButterfly);
863     } else if (!moveFront && vectorLength - length >= count)
864         storage = storage->butterfly()->arrayStorage();
865     else if (unshiftCountSlowCase(exec->vm(), moveFront, count))
866         storage = arrayStorage();
867     else {
868         throwOutOfMemoryError(exec);
869         return true;
870     }
871
872     WriteBarrier<Unknown>* vector = storage->m_vector;
873
874     if (startIndex) {
875         if (moveFront)
876             memmove(vector, vector + count, startIndex * sizeof(JSValue));
877         else if (length - startIndex)
878             memmove(vector + startIndex + count, vector + startIndex, (length - startIndex) * sizeof(JSValue));
879     }
880
881     for (unsigned i = 0; i < count; i++)
882         vector[i + startIndex].clear();
883     return true;
884 }
885
886 bool JSArray::unshiftCountWithAnyIndexingType(ExecState* exec, unsigned startIndex, unsigned count)
887 {
888     switch (structure()->indexingType()) {
889     case ArrayClass:
890     case ArrayWithUndecided:
891         // We could handle this. But it shouldn't ever come up, so we won't.
892         return false;
893
894     case ArrayWithInt32:
895     case ArrayWithContiguous: {
896         unsigned oldLength = m_butterfly->publicLength();
897         
898         // We may have to walk the entire array to do the unshift. We're willing to do so
899         // only if it's not horribly slow.
900         if (oldLength - startIndex >= MIN_SPARSE_ARRAY_INDEX)
901             return unshiftCountWithArrayStorage(exec, startIndex, count, ensureArrayStorage(exec->vm()));
902         
903         ensureLength(exec->vm(), oldLength + count);
904
905         // We have to check for holes before we start moving things around so that we don't get halfway 
906         // through shifting and then realize we should have been in ArrayStorage mode.
907         for (unsigned i = oldLength; i-- > startIndex;) {
908             JSValue v = m_butterfly->contiguous()[i].get();
909             if (UNLIKELY(!v))
910                 return unshiftCountWithArrayStorage(exec, startIndex, count, ensureArrayStorage(exec->vm()));
911         }
912
913         for (unsigned i = oldLength; i-- > startIndex;) {
914             JSValue v = m_butterfly->contiguous()[i].get();
915             ASSERT(v);
916             m_butterfly->contiguous()[i + count].setWithoutWriteBarrier(v);
917         }
918         
919         // NOTE: we're leaving being garbage in the part of the array that we shifted out
920         // of. This is fine because the caller is required to store over that area, and
921         // in contiguous mode storing into a hole is guaranteed to behave exactly the same
922         // as storing over an existing element.
923         
924         return true;
925     }
926         
927     case ArrayWithDouble: {
928         unsigned oldLength = m_butterfly->publicLength();
929         
930         // We may have to walk the entire array to do the unshift. We're willing to do so
931         // only if it's not horribly slow.
932         if (oldLength - startIndex >= MIN_SPARSE_ARRAY_INDEX)
933             return unshiftCountWithArrayStorage(exec, startIndex, count, ensureArrayStorage(exec->vm()));
934         
935         ensureLength(exec->vm(), oldLength + count);
936         
937         // We have to check for holes before we start moving things around so that we don't get halfway 
938         // through shifting and then realize we should have been in ArrayStorage mode.
939         for (unsigned i = oldLength; i-- > startIndex;) {
940             double v = m_butterfly->contiguousDouble()[i];
941             if (UNLIKELY(v != v))
942                 return unshiftCountWithArrayStorage(exec, startIndex, count, ensureArrayStorage(exec->vm()));
943         }
944
945         for (unsigned i = oldLength; i-- > startIndex;) {
946             double v = m_butterfly->contiguousDouble()[i];
947             ASSERT(v == v);
948             m_butterfly->contiguousDouble()[i + count] = v;
949         }
950         
951         // NOTE: we're leaving being garbage in the part of the array that we shifted out
952         // of. This is fine because the caller is required to store over that area, and
953         // in contiguous mode storing into a hole is guaranteed to behave exactly the same
954         // as storing over an existing element.
955         
956         return true;
957     }
958         
959     case ArrayWithArrayStorage:
960     case ArrayWithSlowPutArrayStorage:
961         return unshiftCountWithArrayStorage(exec, startIndex, count, arrayStorage());
962         
963     default:
964         CRASH();
965         return false;
966     }
967 }
968
969 static int compareNumbersForQSortWithInt32(const void* a, const void* b)
970 {
971     int32_t ia = static_cast<const JSValue*>(a)->asInt32();
972     int32_t ib = static_cast<const JSValue*>(b)->asInt32();
973     return ia - ib;
974 }
975
976 static int compareNumbersForQSortWithDouble(const void* a, const void* b)
977 {
978     double da = *static_cast<const double*>(a);
979     double db = *static_cast<const double*>(b);
980     return (da > db) - (da < db);
981 }
982
983 static int compareNumbersForQSort(const void* a, const void* b)
984 {
985     double da = static_cast<const JSValue*>(a)->asNumber();
986     double db = static_cast<const JSValue*>(b)->asNumber();
987     return (da > db) - (da < db);
988 }
989
990 static int compareByStringPairForQSort(const void* a, const void* b)
991 {
992     const ValueStringPair* va = static_cast<const ValueStringPair*>(a);
993     const ValueStringPair* vb = static_cast<const ValueStringPair*>(b);
994     return codePointCompare(va->second, vb->second);
995 }
996
997 template<IndexingType indexingType>
998 void JSArray::sortNumericVector(ExecState* exec, JSValue compareFunction, CallType callType, const CallData& callData)
999 {
1000     ASSERT(indexingType == ArrayWithInt32 || indexingType == ArrayWithDouble || indexingType == ArrayWithContiguous || indexingType == ArrayWithArrayStorage);
1001     
1002     unsigned lengthNotIncludingUndefined;
1003     unsigned newRelevantLength;
1004     compactForSorting<indexingType>(
1005         lengthNotIncludingUndefined,
1006         newRelevantLength);
1007     
1008     ContiguousJSValues data = indexingData<indexingType>();
1009     
1010     if (indexingType == ArrayWithArrayStorage && arrayStorage()->m_sparseMap.get()) {
1011         throwOutOfMemoryError(exec);
1012         return;
1013     }
1014     
1015     if (!lengthNotIncludingUndefined)
1016         return;
1017     
1018     bool allValuesAreNumbers = true;
1019     switch (indexingType) {
1020     case ArrayWithInt32:
1021     case ArrayWithDouble:
1022         break;
1023         
1024     default:
1025         for (size_t i = 0; i < newRelevantLength; ++i) {
1026             if (!data[i].isNumber()) {
1027                 allValuesAreNumbers = false;
1028                 break;
1029             }
1030         }
1031         break;
1032     }
1033     
1034     if (!allValuesAreNumbers)
1035         return sort(exec, compareFunction, callType, callData);
1036     
1037     // For numeric comparison, which is fast, qsort is faster than mergesort. We
1038     // also don't require mergesort's stability, since there's no user visible
1039     // side-effect from swapping the order of equal primitive values.
1040     int (*compare)(const void*, const void*);
1041     switch (indexingType) {
1042     case ArrayWithInt32:
1043         compare = compareNumbersForQSortWithInt32;
1044         break;
1045         
1046     case ArrayWithDouble:
1047         compare = compareNumbersForQSortWithDouble;
1048         ASSERT(sizeof(WriteBarrier<Unknown>) == sizeof(double));
1049         break;
1050         
1051     default:
1052         compare = compareNumbersForQSort;
1053         break;
1054     }
1055     ASSERT(data.length() >= newRelevantLength);
1056     qsort(data.data(), newRelevantLength, sizeof(WriteBarrier<Unknown>), compare);
1057     return;
1058 }
1059
1060 void JSArray::sortNumeric(ExecState* exec, JSValue compareFunction, CallType callType, const CallData& callData)
1061 {
1062     ASSERT(!inSparseIndexingMode());
1063
1064     switch (structure()->indexingType()) {
1065     case ArrayClass:
1066         return;
1067         
1068     case ArrayWithInt32:
1069         sortNumericVector<ArrayWithInt32>(exec, compareFunction, callType, callData);
1070         break;
1071         
1072     case ArrayWithDouble:
1073         sortNumericVector<ArrayWithDouble>(exec, compareFunction, callType, callData);
1074         break;
1075         
1076     case ArrayWithContiguous:
1077         sortNumericVector<ArrayWithContiguous>(exec, compareFunction, callType, callData);
1078         return;
1079
1080     case ArrayWithArrayStorage:
1081         sortNumericVector<ArrayWithArrayStorage>(exec, compareFunction, callType, callData);
1082         return;
1083         
1084     default:
1085         CRASH();
1086         return;
1087     }
1088 }
1089
1090 template <IndexingType> struct ContiguousTypeAccessor {
1091     typedef WriteBarrier<Unknown> Type;
1092     static JSValue getAsValue(ContiguousData<Type> data, size_t i) { return data[i].get(); }
1093     static void setWithValue(VM& vm, JSArray* thisValue, ContiguousData<Type> data, size_t i, JSValue value)
1094     {
1095         data[i].set(vm, thisValue, value);
1096     }
1097     static void replaceDataReference(ContiguousData<Type>* outData, ContiguousJSValues inData)
1098     {
1099         *outData = inData;
1100     }
1101 };
1102
1103 template <> struct ContiguousTypeAccessor<ArrayWithDouble> {
1104     typedef double Type;
1105     static JSValue getAsValue(ContiguousData<Type> data, size_t i) { ASSERT(data[i] == data[i]); return JSValue(JSValue::EncodeAsDouble, data[i]); }
1106     static void setWithValue(VM&, JSArray*, ContiguousData<Type> data, size_t i, JSValue value)
1107     {
1108         data[i] = value.asNumber();
1109     }
1110     static NO_RETURN_DUE_TO_CRASH void replaceDataReference(ContiguousData<Type>*, ContiguousJSValues)
1111     {
1112         RELEASE_ASSERT_WITH_MESSAGE(0, "Inconsistent indexing types during compact array sort.");
1113     }
1114 };
1115
1116
1117 template<IndexingType indexingType, typename StorageType>
1118 void JSArray::sortCompactedVector(ExecState* exec, ContiguousData<StorageType> data, unsigned relevantLength)
1119 {
1120     if (!relevantLength)
1121         return;
1122     
1123     VM& vm = exec->vm();
1124
1125     // Converting JavaScript values to strings can be expensive, so we do it once up front and sort based on that.
1126     // This is a considerable improvement over doing it twice per comparison, though it requires a large temporary
1127     // buffer. Besides, this protects us from crashing if some objects have custom toString methods that return
1128     // random or otherwise changing results, effectively making compare function inconsistent.
1129         
1130     Vector<ValueStringPair, 0, UnsafeVectorOverflow> values(relevantLength);
1131     if (!values.begin()) {
1132         throwOutOfMemoryError(exec);
1133         return;
1134     }
1135         
1136     Heap::heap(this)->pushTempSortVector(&values);
1137         
1138     bool isSortingPrimitiveValues = true;
1139
1140     for (size_t i = 0; i < relevantLength; i++) {
1141         JSValue value = ContiguousTypeAccessor<indexingType>::getAsValue(data, i);
1142         ASSERT(indexingType != ArrayWithInt32 || value.isInt32());
1143         ASSERT(!value.isUndefined());
1144         values[i].first = value;
1145         if (indexingType != ArrayWithDouble && indexingType != ArrayWithInt32)
1146             isSortingPrimitiveValues = isSortingPrimitiveValues && value.isPrimitive();
1147     }
1148         
1149     // FIXME: The following loop continues to call toString on subsequent values even after
1150     // a toString call raises an exception.
1151         
1152     for (size_t i = 0; i < relevantLength; i++)
1153         values[i].second = values[i].first.toWTFStringInline(exec);
1154         
1155     if (exec->hadException()) {
1156         Heap::heap(this)->popTempSortVector(&values);
1157         return;
1158     }
1159         
1160     // FIXME: Since we sort by string value, a fast algorithm might be to use a radix sort. That would be O(N) rather
1161     // than O(N log N).
1162         
1163 #if HAVE(MERGESORT)
1164     if (isSortingPrimitiveValues)
1165         qsort(values.begin(), values.size(), sizeof(ValueStringPair), compareByStringPairForQSort);
1166     else
1167         mergesort(values.begin(), values.size(), sizeof(ValueStringPair), compareByStringPairForQSort);
1168 #else
1169     // FIXME: The qsort library function is likely to not be a stable sort.
1170     // ECMAScript-262 does not specify a stable sort, but in practice, browsers perform a stable sort.
1171     qsort(values.begin(), values.size(), sizeof(ValueStringPair), compareByStringPairForQSort);
1172 #endif
1173     
1174     // If the toString function changed the length of the array or vector storage,
1175     // increase the length to handle the orignal number of actual values.
1176     switch (indexingType) {
1177     case ArrayWithInt32:
1178     case ArrayWithDouble:
1179     case ArrayWithContiguous:
1180         ensureLength(vm, relevantLength);
1181         break;
1182         
1183     case ArrayWithArrayStorage:
1184         if (arrayStorage()->vectorLength() < relevantLength) {
1185             increaseVectorLength(exec->vm(), relevantLength);
1186             ContiguousTypeAccessor<indexingType>::replaceDataReference(&data, arrayStorage()->vector());
1187         }
1188         if (arrayStorage()->length() < relevantLength)
1189             arrayStorage()->setLength(relevantLength);
1190         break;
1191         
1192     default:
1193         CRASH();
1194     }
1195
1196     for (size_t i = 0; i < relevantLength; i++)
1197         ContiguousTypeAccessor<indexingType>::setWithValue(vm, this, data, i, values[i].first);
1198     
1199     Heap::heap(this)->popTempSortVector(&values);
1200 }
1201
1202 void JSArray::sort(ExecState* exec)
1203 {
1204     ASSERT(!inSparseIndexingMode());
1205     
1206     switch (structure()->indexingType()) {
1207     case ArrayClass:
1208     case ArrayWithUndecided:
1209         return;
1210         
1211     case ArrayWithInt32: {
1212         unsigned lengthNotIncludingUndefined;
1213         unsigned newRelevantLength;
1214         compactForSorting<ArrayWithInt32>(
1215             lengthNotIncludingUndefined, newRelevantLength);
1216         
1217         sortCompactedVector<ArrayWithInt32>(
1218             exec, m_butterfly->contiguousInt32(), lengthNotIncludingUndefined);
1219         return;
1220     }
1221         
1222     case ArrayWithDouble: {
1223         unsigned lengthNotIncludingUndefined;
1224         unsigned newRelevantLength;
1225         compactForSorting<ArrayWithDouble>(
1226             lengthNotIncludingUndefined, newRelevantLength);
1227         
1228         sortCompactedVector<ArrayWithDouble>(
1229             exec, m_butterfly->contiguousDouble(), lengthNotIncludingUndefined);
1230         return;
1231     }
1232         
1233     case ArrayWithContiguous: {
1234         unsigned lengthNotIncludingUndefined;
1235         unsigned newRelevantLength;
1236         compactForSorting<ArrayWithContiguous>(
1237             lengthNotIncludingUndefined, newRelevantLength);
1238         
1239         sortCompactedVector<ArrayWithContiguous>(
1240             exec, m_butterfly->contiguous(), lengthNotIncludingUndefined);
1241         return;
1242     }
1243         
1244     case ArrayWithArrayStorage: {
1245         unsigned lengthNotIncludingUndefined;
1246         unsigned newRelevantLength;
1247         compactForSorting<ArrayWithArrayStorage>(
1248             lengthNotIncludingUndefined, newRelevantLength);
1249         ArrayStorage* storage = m_butterfly->arrayStorage();
1250         ASSERT(!storage->m_sparseMap);
1251         
1252         sortCompactedVector<ArrayWithArrayStorage>(exec, storage->vector(), lengthNotIncludingUndefined);
1253         return;
1254     }
1255         
1256     default:
1257         RELEASE_ASSERT_NOT_REACHED();
1258     }
1259 }
1260
1261 struct AVLTreeNodeForArrayCompare {
1262     JSValue value;
1263
1264     // Child pointers.  The high bit of gt is robbed and used as the
1265     // balance factor sign.  The high bit of lt is robbed and used as
1266     // the magnitude of the balance factor.
1267     int32_t gt;
1268     int32_t lt;
1269 };
1270
1271 struct AVLTreeAbstractorForArrayCompare {
1272     typedef int32_t handle; // Handle is an index into m_nodes vector.
1273     typedef JSValue key;
1274     typedef int32_t size;
1275
1276     Vector<AVLTreeNodeForArrayCompare, 0, UnsafeVectorOverflow> m_nodes;
1277     ExecState* m_exec;
1278     JSValue m_compareFunction;
1279     CallType m_compareCallType;
1280     const CallData* m_compareCallData;
1281     OwnPtr<CachedCall> m_cachedCall;
1282
1283     handle get_less(handle h) { return m_nodes[h].lt & 0x7FFFFFFF; }
1284     void set_less(handle h, handle lh) { m_nodes[h].lt &= 0x80000000; m_nodes[h].lt |= lh; }
1285     handle get_greater(handle h) { return m_nodes[h].gt & 0x7FFFFFFF; }
1286     void set_greater(handle h, handle gh) { m_nodes[h].gt &= 0x80000000; m_nodes[h].gt |= gh; }
1287
1288     int get_balance_factor(handle h)
1289     {
1290         if (m_nodes[h].gt & 0x80000000)
1291             return -1;
1292         return static_cast<unsigned>(m_nodes[h].lt) >> 31;
1293     }
1294
1295     void set_balance_factor(handle h, int bf)
1296     {
1297         if (bf == 0) {
1298             m_nodes[h].lt &= 0x7FFFFFFF;
1299             m_nodes[h].gt &= 0x7FFFFFFF;
1300         } else {
1301             m_nodes[h].lt |= 0x80000000;
1302             if (bf < 0)
1303                 m_nodes[h].gt |= 0x80000000;
1304             else
1305                 m_nodes[h].gt &= 0x7FFFFFFF;
1306         }
1307     }
1308
1309     int compare_key_key(key va, key vb)
1310     {
1311         ASSERT(!va.isUndefined());
1312         ASSERT(!vb.isUndefined());
1313
1314         if (m_exec->hadException())
1315             return 1;
1316
1317         double compareResult;
1318         if (m_cachedCall) {
1319             m_cachedCall->setThis(jsUndefined());
1320             m_cachedCall->setArgument(0, va);
1321             m_cachedCall->setArgument(1, vb);
1322             compareResult = m_cachedCall->call().toNumber(m_exec);
1323         } else {
1324             MarkedArgumentBuffer arguments;
1325             arguments.append(va);
1326             arguments.append(vb);
1327             compareResult = call(m_exec, m_compareFunction, m_compareCallType, *m_compareCallData, jsUndefined(), arguments).toNumber(m_exec);
1328         }
1329         return (compareResult < 0) ? -1 : 1; // Not passing equality through, because we need to store all values, even if equivalent.
1330     }
1331
1332     int compare_key_node(key k, handle h) { return compare_key_key(k, m_nodes[h].value); }
1333     int compare_node_node(handle h1, handle h2) { return compare_key_key(m_nodes[h1].value, m_nodes[h2].value); }
1334
1335     static handle null() { return 0x7FFFFFFF; }
1336 };
1337
1338 template<IndexingType indexingType>
1339 void JSArray::sortVector(ExecState* exec, JSValue compareFunction, CallType callType, const CallData& callData)
1340 {
1341     ASSERT(!inSparseIndexingMode());
1342     ASSERT(indexingType == structure()->indexingType());
1343     
1344     // FIXME: This ignores exceptions raised in the compare function or in toNumber.
1345         
1346     // The maximum tree depth is compiled in - but the caller is clearly up to no good
1347     // if a larger array is passed.
1348     ASSERT(m_butterfly->publicLength() <= static_cast<unsigned>(std::numeric_limits<int>::max()));
1349     if (m_butterfly->publicLength() > static_cast<unsigned>(std::numeric_limits<int>::max()))
1350         return;
1351         
1352     unsigned usedVectorLength = relevantLength<indexingType>();
1353     unsigned nodeCount = usedVectorLength;
1354         
1355     if (!nodeCount)
1356         return;
1357         
1358     AVLTree<AVLTreeAbstractorForArrayCompare, 44> tree; // Depth 44 is enough for 2^31 items
1359     tree.abstractor().m_exec = exec;
1360     tree.abstractor().m_compareFunction = compareFunction;
1361     tree.abstractor().m_compareCallType = callType;
1362     tree.abstractor().m_compareCallData = &callData;
1363     tree.abstractor().m_nodes.grow(nodeCount);
1364         
1365     if (callType == CallTypeJS)
1366         tree.abstractor().m_cachedCall = adoptPtr(new CachedCall(exec, jsCast<JSFunction*>(compareFunction), 2));
1367         
1368     if (!tree.abstractor().m_nodes.begin()) {
1369         throwOutOfMemoryError(exec);
1370         return;
1371     }
1372         
1373     // FIXME: If the compare function modifies the array, the vector, map, etc. could be modified
1374     // right out from under us while we're building the tree here.
1375         
1376     unsigned numDefined = 0;
1377     unsigned numUndefined = 0;
1378     
1379     // Iterate over the array, ignoring missing values, counting undefined ones, and inserting all other ones into the tree.
1380     for (; numDefined < usedVectorLength; ++numDefined) {
1381         if (numDefined >= m_butterfly->vectorLength())
1382             break;
1383         JSValue v = getHolyIndexQuickly(numDefined);
1384         if (!v || v.isUndefined())
1385             break;
1386         tree.abstractor().m_nodes[numDefined].value = v;
1387         tree.insert(numDefined);
1388     }
1389     for (unsigned i = numDefined; i < usedVectorLength; ++i) {
1390         if (i >= m_butterfly->vectorLength())
1391             break;
1392         JSValue v = getHolyIndexQuickly(i);
1393         if (v) {
1394             if (v.isUndefined())
1395                 ++numUndefined;
1396             else {
1397                 tree.abstractor().m_nodes[numDefined].value = v;
1398                 tree.insert(numDefined);
1399                 ++numDefined;
1400             }
1401         }
1402     }
1403     
1404     unsigned newUsedVectorLength = numDefined + numUndefined;
1405         
1406     // The array size may have changed. Figure out the new bounds.
1407     unsigned newestUsedVectorLength = currentRelevantLength();
1408         
1409     unsigned elementsToExtractThreshold = min(min(newestUsedVectorLength, numDefined), static_cast<unsigned>(tree.abstractor().m_nodes.size()));
1410     unsigned undefinedElementsThreshold = min(newestUsedVectorLength, newUsedVectorLength);
1411     unsigned clearElementsThreshold = min(newestUsedVectorLength, usedVectorLength);
1412         
1413     // Copy the values back into m_storage.
1414     AVLTree<AVLTreeAbstractorForArrayCompare, 44>::Iterator iter;
1415     iter.start_iter_least(tree);
1416     VM& vm = exec->vm();
1417     for (unsigned i = 0; i < elementsToExtractThreshold; ++i) {
1418         ASSERT(i < butterfly()->vectorLength());
1419         if (structure()->indexingType() == ArrayWithDouble)
1420             butterfly()->contiguousDouble()[i] = tree.abstractor().m_nodes[*iter].value.asNumber();
1421         else
1422             currentIndexingData()[i].set(vm, this, tree.abstractor().m_nodes[*iter].value);
1423         ++iter;
1424     }
1425     // Put undefined values back in.
1426     switch (structure()->indexingType()) {
1427     case ArrayWithInt32:
1428     case ArrayWithDouble:
1429         ASSERT(elementsToExtractThreshold == undefinedElementsThreshold);
1430         break;
1431         
1432     default:
1433         for (unsigned i = elementsToExtractThreshold; i < undefinedElementsThreshold; ++i) {
1434             ASSERT(i < butterfly()->vectorLength());
1435             currentIndexingData()[i].setUndefined();
1436         }
1437     }
1438
1439     // Ensure that unused values in the vector are zeroed out.
1440     for (unsigned i = undefinedElementsThreshold; i < clearElementsThreshold; ++i) {
1441         ASSERT(i < butterfly()->vectorLength());
1442         if (structure()->indexingType() == ArrayWithDouble)
1443             butterfly()->contiguousDouble()[i] = QNaN;
1444         else
1445             currentIndexingData()[i].clear();
1446     }
1447     
1448     if (hasArrayStorage(structure()->indexingType()))
1449         arrayStorage()->m_numValuesInVector = newUsedVectorLength;
1450 }
1451
1452 void JSArray::sort(ExecState* exec, JSValue compareFunction, CallType callType, const CallData& callData)
1453 {
1454     ASSERT(!inSparseIndexingMode());
1455     
1456     switch (structure()->indexingType()) {
1457     case ArrayClass:
1458     case ArrayWithUndecided:
1459         return;
1460         
1461     case ArrayWithInt32:
1462         sortVector<ArrayWithInt32>(exec, compareFunction, callType, callData);
1463         return;
1464
1465     case ArrayWithDouble:
1466         sortVector<ArrayWithDouble>(exec, compareFunction, callType, callData);
1467         return;
1468
1469     case ArrayWithContiguous:
1470         sortVector<ArrayWithContiguous>(exec, compareFunction, callType, callData);
1471         return;
1472
1473     case ArrayWithArrayStorage:
1474         sortVector<ArrayWithArrayStorage>(exec, compareFunction, callType, callData);
1475         return;
1476         
1477     default:
1478         RELEASE_ASSERT_NOT_REACHED();
1479     }
1480 }
1481
1482 void JSArray::fillArgList(ExecState* exec, MarkedArgumentBuffer& args)
1483 {
1484     unsigned i = 0;
1485     unsigned vectorEnd;
1486     WriteBarrier<Unknown>* vector;
1487     
1488     switch (structure()->indexingType()) {
1489     case ArrayClass:
1490         return;
1491         
1492     case ArrayWithUndecided: {
1493         vector = 0;
1494         vectorEnd = 0;
1495         break;
1496     }
1497         
1498     case ArrayWithInt32:
1499     case ArrayWithContiguous: {
1500         vectorEnd = m_butterfly->publicLength();
1501         vector = m_butterfly->contiguous().data();
1502         break;
1503     }
1504         
1505     case ArrayWithDouble: {
1506         vector = 0;
1507         vectorEnd = 0;
1508         for (; i < m_butterfly->publicLength(); ++i) {
1509             double v = butterfly()->contiguousDouble()[i];
1510             if (v != v)
1511                 break;
1512             args.append(JSValue(JSValue::EncodeAsDouble, v));
1513         }
1514         break;
1515     }
1516     
1517     case ARRAY_WITH_ARRAY_STORAGE_INDEXING_TYPES: {
1518         ArrayStorage* storage = m_butterfly->arrayStorage();
1519         
1520         vector = storage->m_vector;
1521         vectorEnd = min(storage->length(), storage->vectorLength());
1522         break;
1523     }
1524         
1525     default:
1526         CRASH();
1527         vector = 0;
1528         vectorEnd = 0;
1529         break;
1530     }
1531     
1532     for (; i < vectorEnd; ++i) {
1533         WriteBarrier<Unknown>& v = vector[i];
1534         if (!v)
1535             break;
1536         args.append(v.get());
1537     }
1538     
1539     for (; i < length(); ++i)
1540         args.append(get(exec, i));
1541 }
1542
1543 void JSArray::copyToArguments(ExecState* exec, CallFrame* callFrame, uint32_t copyLength, int32_t firstVarArgOffset)
1544 {
1545     unsigned i = firstVarArgOffset;
1546     WriteBarrier<Unknown>* vector;
1547     unsigned vectorEnd;
1548     unsigned length = copyLength + firstVarArgOffset;
1549     ASSERT(length == this->length());
1550     switch (structure()->indexingType()) {
1551     case ArrayClass:
1552         return;
1553         
1554     case ArrayWithUndecided: {
1555         vector = 0;
1556         vectorEnd = 0;
1557         break;
1558     }
1559         
1560     case ArrayWithInt32:
1561     case ArrayWithContiguous: {
1562         vector = m_butterfly->contiguous().data();
1563         vectorEnd = m_butterfly->publicLength();
1564         break;
1565     }
1566         
1567     case ArrayWithDouble: {
1568         vector = 0;
1569         vectorEnd = 0;
1570         for (; i < m_butterfly->publicLength(); ++i) {
1571             ASSERT(i < butterfly()->vectorLength());
1572             double v = m_butterfly->contiguousDouble()[i];
1573             if (v != v)
1574                 break;
1575             callFrame->setArgument(i - firstVarArgOffset, JSValue(JSValue::EncodeAsDouble, v));
1576         }
1577         break;
1578     }
1579         
1580     case ARRAY_WITH_ARRAY_STORAGE_INDEXING_TYPES: {
1581         ArrayStorage* storage = m_butterfly->arrayStorage();
1582         vector = storage->m_vector;
1583         vectorEnd = min(length, storage->vectorLength());
1584         break;
1585     }
1586         
1587     default:
1588         CRASH();
1589         vector = 0;
1590         vectorEnd = 0;
1591         break;
1592     }
1593     
1594     for (; i < vectorEnd; ++i) {
1595         WriteBarrier<Unknown>& v = vector[i];
1596         if (!v)
1597             break;
1598         callFrame->setArgument(i - firstVarArgOffset, v.get());
1599     }
1600     
1601     for (; i < length; ++i)
1602         callFrame->setArgument(i - firstVarArgOffset, get(exec, i));
1603 }
1604
1605 template<IndexingType indexingType>
1606 void JSArray::compactForSorting(unsigned& numDefined, unsigned& newRelevantLength)
1607 {
1608     ASSERT(!inSparseIndexingMode());
1609     ASSERT(indexingType == structure()->indexingType());
1610
1611     unsigned myRelevantLength = relevantLength<indexingType>();
1612     
1613     numDefined = 0;
1614     unsigned numUndefined = 0;
1615         
1616     for (; numDefined < myRelevantLength; ++numDefined) {
1617         ASSERT(numDefined < m_butterfly->vectorLength());
1618         if (indexingType == ArrayWithInt32) {
1619             JSValue v = m_butterfly->contiguousInt32()[numDefined].get();
1620             if (!v)
1621                 break;
1622             ASSERT(v.isInt32());
1623             continue;
1624         }
1625         if (indexingType == ArrayWithDouble) {
1626             double v = m_butterfly->contiguousDouble()[numDefined];
1627             if (v != v)
1628                 break;
1629             continue;
1630         }
1631         JSValue v = indexingData<indexingType>()[numDefined].get();
1632         if (!v || v.isUndefined())
1633             break;
1634     }
1635         
1636     for (unsigned i = numDefined; i < myRelevantLength; ++i) {
1637         ASSERT(i < m_butterfly->vectorLength());
1638         if (indexingType == ArrayWithInt32) {
1639             JSValue v = m_butterfly->contiguousInt32()[i].get();
1640             if (!v)
1641                 continue;
1642             ASSERT(v.isInt32());
1643             ASSERT(numDefined < m_butterfly->vectorLength());
1644             m_butterfly->contiguousInt32()[numDefined++].setWithoutWriteBarrier(v);
1645             continue;
1646         }
1647         if (indexingType == ArrayWithDouble) {
1648             double v = m_butterfly->contiguousDouble()[i];
1649             if (v != v)
1650                 continue;
1651             ASSERT(numDefined < m_butterfly->vectorLength());
1652             m_butterfly->contiguousDouble()[numDefined++] = v;
1653             continue;
1654         }
1655         JSValue v = indexingData<indexingType>()[i].get();
1656         if (v) {
1657             if (v.isUndefined())
1658                 ++numUndefined;
1659             else {
1660                 ASSERT(numDefined < m_butterfly->vectorLength());
1661                 indexingData<indexingType>()[numDefined++].setWithoutWriteBarrier(v);
1662             }
1663         }
1664     }
1665         
1666     newRelevantLength = numDefined + numUndefined;
1667     
1668     if (hasArrayStorage(indexingType))
1669         RELEASE_ASSERT(!arrayStorage()->m_sparseMap);
1670     
1671     switch (indexingType) {
1672     case ArrayWithInt32:
1673     case ArrayWithDouble:
1674         RELEASE_ASSERT(numDefined == newRelevantLength);
1675         break;
1676         
1677     default:
1678         for (unsigned i = numDefined; i < newRelevantLength; ++i) {
1679             ASSERT(i < m_butterfly->vectorLength());
1680             indexingData<indexingType>()[i].setUndefined();
1681         }
1682         break;
1683     }
1684     for (unsigned i = newRelevantLength; i < myRelevantLength; ++i) {
1685         ASSERT(i < m_butterfly->vectorLength());
1686         if (indexingType == ArrayWithDouble)
1687             m_butterfly->contiguousDouble()[i] = QNaN;
1688         else
1689             indexingData<indexingType>()[i].clear();
1690     }
1691
1692     if (hasArrayStorage(indexingType))
1693         arrayStorage()->m_numValuesInVector = newRelevantLength;
1694 }
1695
1696 } // namespace JSC