Unreviewed, rolling out r154804.
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008, 2009, 2010, 2011, 2012, 2013 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Computer, Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #ifndef CodeBlock_h
31 #define CodeBlock_h
32
33 #include "ArrayProfile.h"
34 #include "ByValInfo.h"
35 #include "BytecodeConventions.h"
36 #include "CallLinkInfo.h"
37 #include "CallReturnOffsetToBytecodeOffset.h"
38 #include "CodeBlockHash.h"
39 #include "ConcurrentJITLock.h"
40 #include "CodeOrigin.h"
41 #include "CodeType.h"
42 #include "CompactJITCodeMap.h"
43 #include "DFGCodeBlocks.h"
44 #include "DFGCommon.h"
45 #include "DFGCommonData.h"
46 #include "DFGExitProfile.h"
47 #include "DFGMinifiedGraph.h"
48 #include "DFGOSREntry.h"
49 #include "DFGOSRExit.h"
50 #include "DFGVariableEventStream.h"
51 #include "EvalCodeCache.h"
52 #include "ExecutionCounter.h"
53 #include "ExpressionRangeInfo.h"
54 #include "HandlerInfo.h"
55 #include "ObjectAllocationProfile.h"
56 #include "Options.h"
57 #include "Operations.h"
58 #include "PutPropertySlot.h"
59 #include "Instruction.h"
60 #include "JITCode.h"
61 #include "JITWriteBarrier.h"
62 #include "JSGlobalObject.h"
63 #include "JumpReplacementWatchpoint.h"
64 #include "JumpTable.h"
65 #include "LLIntCallLinkInfo.h"
66 #include "LazyOperandValueProfile.h"
67 #include "LineInfo.h"
68 #include "ProfilerCompilation.h"
69 #include "RegExpObject.h"
70 #include "StructureStubInfo.h"
71 #include "UnconditionalFinalizer.h"
72 #include "ValueProfile.h"
73 #include "Watchpoint.h"
74 #include <wtf/RefCountedArray.h>
75 #include <wtf/FastAllocBase.h>
76 #include <wtf/PassOwnPtr.h>
77 #include <wtf/Platform.h>
78 #include <wtf/RefPtr.h>
79 #include <wtf/SegmentedVector.h>
80 #include <wtf/Vector.h>
81 #include <wtf/text/WTFString.h>
82
83 namespace JSC {
84
85 class DFGCodeBlocks;
86 class ExecState;
87 class LLIntOffsetsExtractor;
88 class RepatchBuffer;
89
90 inline int unmodifiedArgumentsRegister(int argumentsRegister) { return argumentsRegister - 1; }
91
92 static ALWAYS_INLINE int missingThisObjectMarker() { return std::numeric_limits<int>::max(); }
93
94 class CodeBlock : public ThreadSafeRefCounted<CodeBlock>, public UnconditionalFinalizer, public WeakReferenceHarvester {
95     WTF_MAKE_FAST_ALLOCATED;
96     friend class JIT;
97     friend class LLIntOffsetsExtractor;
98 public:
99     enum CopyParsedBlockTag { CopyParsedBlock };
100 protected:
101     CodeBlock(CopyParsedBlockTag, CodeBlock& other);
102         
103     CodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, PassRefPtr<SourceProvider>, unsigned sourceOffset, unsigned firstLineColumnOffset);
104
105     WriteBarrier<JSGlobalObject> m_globalObject;
106     Heap* m_heap;
107
108 public:
109     JS_EXPORT_PRIVATE virtual ~CodeBlock();
110
111     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
112
113     CString inferredName() const;
114     CodeBlockHash hash() const;
115     bool hasHash() const;
116     bool isSafeToComputeHash() const;
117     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
118     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
119     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
120     void dump(PrintStream&) const;
121
122     int numParameters() const { return m_numParameters; }
123     void setNumParameters(int newValue);
124
125     int* addressOfNumParameters() { return &m_numParameters; }
126     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
127
128     CodeBlock* alternative() { return m_alternative.get(); }
129     PassRefPtr<CodeBlock> releaseAlternative() { return m_alternative.release(); }
130     void setAlternative(PassRefPtr<CodeBlock> alternative) { m_alternative = alternative; }
131     
132     CodeSpecializationKind specializationKind() const
133     {
134         return specializationFromIsConstruct(m_isConstructor);
135     }
136     
137     CodeBlock* baselineVersion();
138
139     void visitAggregate(SlotVisitor&);
140
141     static void dumpStatistics();
142
143     void dumpBytecode(PrintStream& = WTF::dataFile());
144     void dumpBytecode(PrintStream&, unsigned bytecodeOffset);
145     void printStructures(PrintStream&, const Instruction*);
146     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
147
148     bool isStrictMode() const { return m_isStrictMode; }
149
150     inline bool isKnownNotImmediate(int index)
151     {
152         if (index == m_thisRegister && !m_isStrictMode)
153             return true;
154
155         if (isConstantRegisterIndex(index))
156             return getConstant(index).isCell();
157
158         return false;
159     }
160
161     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
162     {
163         return index >= m_numVars;
164     }
165
166     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset);
167     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
168     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
169     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
170                                           int& startOffset, int& endOffset, unsigned& line, unsigned& column);
171
172 #if ENABLE(JIT)
173
174     StructureStubInfo& getStubInfo(ReturnAddressPtr returnAddress)
175     {
176         return *(binarySearch<StructureStubInfo, void*>(m_structureStubInfos, m_structureStubInfos.size(), returnAddress.value(), getStructureStubInfoReturnLocation));
177     }
178
179     StructureStubInfo& getStubInfo(unsigned bytecodeIndex)
180     {
181         return *(binarySearch<StructureStubInfo, unsigned>(m_structureStubInfos, m_structureStubInfos.size(), bytecodeIndex, getStructureStubInfoBytecodeIndex));
182     }
183
184     void resetStub(StructureStubInfo&);
185
186     ByValInfo& getByValInfo(unsigned bytecodeIndex)
187     {
188         return *(binarySearch<ByValInfo, unsigned>(m_byValInfos, m_byValInfos.size(), bytecodeIndex, getByValInfoBytecodeIndex));
189     }
190
191     CallLinkInfo& getCallLinkInfo(ReturnAddressPtr returnAddress)
192     {
193         return *(binarySearch<CallLinkInfo, void*>(m_callLinkInfos, m_callLinkInfos.size(), returnAddress.value(), getCallLinkInfoReturnLocation));
194     }
195
196     CallLinkInfo& getCallLinkInfo(unsigned bytecodeIndex)
197     {
198         ASSERT(JITCode::isBaselineCode(jitType()));
199         return *(binarySearch<CallLinkInfo, unsigned>(m_callLinkInfos, m_callLinkInfos.size(), bytecodeIndex, getCallLinkInfoBytecodeIndex));
200     }
201 #endif // ENABLE(JIT)
202
203     unsigned bytecodeOffset(ExecState*, ReturnAddressPtr);
204
205 #if ENABLE(JIT)
206     unsigned bytecodeOffsetForCallAtIndex(unsigned index)
207     {
208         if (!m_rareData)
209             return 1;
210         Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow>& callIndices = m_rareData->m_callReturnIndexVector;
211         if (!callIndices.size())
212             return 1;
213         // FIXME: Fix places in DFG that call out to C that don't set the CodeOrigin. https://bugs.webkit.org/show_bug.cgi?id=118315
214         ASSERT(index < m_rareData->m_callReturnIndexVector.size());
215         if (index >= m_rareData->m_callReturnIndexVector.size())
216             return 1;
217         return m_rareData->m_callReturnIndexVector[index].bytecodeOffset;
218     }
219
220     void unlinkCalls();
221         
222     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
223         
224     bool isIncomingCallAlreadyLinked(CallLinkInfo* incoming)
225     {
226         return m_incomingCalls.isOnList(incoming);
227     }
228 #endif // ENABLE(JIT)
229
230 #if ENABLE(LLINT)
231     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
232 #endif // ENABLE(LLINT)
233
234     void unlinkIncomingCalls();
235
236 #if ENABLE(DFG_JIT) || ENABLE(LLINT)
237     void setJITCodeMap(PassOwnPtr<CompactJITCodeMap> jitCodeMap)
238     {
239         m_jitCodeMap = jitCodeMap;
240     }
241     CompactJITCodeMap* jitCodeMap()
242     {
243         return m_jitCodeMap.get();
244     }
245 #endif
246     
247     unsigned bytecodeOffset(Instruction* returnAddress)
248     {
249         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
250         return static_cast<Instruction*>(returnAddress) - instructions().begin();
251     }
252
253     bool isNumericCompareFunction() { return m_unlinkedCode->isNumericCompareFunction(); }
254
255     unsigned numberOfInstructions() const { return m_instructions.size(); }
256     RefCountedArray<Instruction>& instructions() { return m_instructions; }
257     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
258
259     size_t predictedMachineCodeSize();
260
261     bool usesOpcode(OpcodeID);
262
263     unsigned instructionCount() { return m_instructions.size(); }
264
265     int argumentIndexAfterCapture(size_t argument);
266
267 #if ENABLE(JIT)
268     void setJITCode(PassRefPtr<JITCode> code, MacroAssemblerCodePtr codeWithArityCheck)
269     {
270         ConcurrentJITLocker locker(m_lock);
271         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
272         m_jitCode = code;
273         m_jitCodeWithArityCheck = codeWithArityCheck;
274 #if ENABLE(DFG_JIT)
275         if (JITCode::isOptimizingJIT(JITCode::jitTypeFor(m_jitCode)))
276             m_vm->heap.m_dfgCodeBlocks.m_set.add(this);
277 #endif
278     }
279     PassRefPtr<JITCode> jitCode() { return m_jitCode; }
280     MacroAssemblerCodePtr jitCodeWithArityCheck() { return m_jitCodeWithArityCheck; }
281     JITCode::JITType jitType() const
282     {
283         JITCode* jitCode = m_jitCode.get();
284         WTF::loadLoadFence();
285         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
286         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
287         return result;
288     }
289     bool hasBaselineJITProfiling() const
290     {
291         return jitType() == JITCode::BaselineJIT;
292     }
293 #if ENABLE(DFG_JIT)
294     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex) = 0;
295     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>) = 0;
296 #endif // ENABLE(DFG_JIT)
297     void jettison();
298     CompilationResult jitCompile(ExecState* exec)
299     {
300         if (jitType() != JITCode::InterpreterThunk) {
301             ASSERT(jitType() == JITCode::BaselineJIT);
302             return CompilationNotNeeded;
303         }
304         return jitCompileImpl(exec);
305     }
306     virtual CodeBlock* replacement() = 0;
307
308     virtual DFG::CapabilityLevel capabilityLevelInternal() = 0;
309     DFG::CapabilityLevel capabilityLevel()
310     {
311         DFG::CapabilityLevel result = capabilityLevelInternal();
312         m_capabilityLevelState = result;
313         return result;
314     }
315     DFG::CapabilityLevel capabilityLevelState() { return m_capabilityLevelState; }
316
317     bool hasOptimizedReplacement();
318 #else
319     JITCode::JITType jitType() const { return JITCode::InterpreterThunk; }
320 #endif
321
322     ScriptExecutable* ownerExecutable() const { return m_ownerExecutable.get(); }
323
324     void setVM(VM* vm) { m_vm = vm; }
325     VM* vm() { return m_vm; }
326
327     void setThisRegister(int thisRegister) { m_thisRegister = thisRegister; }
328     int thisRegister() const { return m_thisRegister; }
329
330     bool needsFullScopeChain() const { return m_unlinkedCode->needsFullScopeChain(); }
331     bool usesEval() const { return m_unlinkedCode->usesEval(); }
332
333     void setArgumentsRegister(int argumentsRegister)
334     {
335         ASSERT(argumentsRegister != -1);
336         m_argumentsRegister = argumentsRegister;
337         ASSERT(usesArguments());
338     }
339     int argumentsRegister() const
340     {
341         ASSERT(usesArguments());
342         return m_argumentsRegister;
343     }
344     int uncheckedArgumentsRegister()
345     {
346         if (!usesArguments())
347             return InvalidVirtualRegister;
348         return argumentsRegister();
349     }
350     void setActivationRegister(int activationRegister)
351     {
352         m_activationRegister = activationRegister;
353     }
354     int activationRegister() const
355     {
356         ASSERT(needsFullScopeChain());
357         return m_activationRegister;
358     }
359     int uncheckedActivationRegister()
360     {
361         if (!needsFullScopeChain())
362             return InvalidVirtualRegister;
363         return activationRegister();
364     }
365     bool usesArguments() const { return m_argumentsRegister != -1; }
366
367     bool needsActivation() const
368     {
369         return m_needsActivation;
370     }
371
372     bool isCaptured(int operand, InlineCallFrame* inlineCallFrame = 0) const
373     {
374         if (operandIsArgument(operand))
375             return operandToArgument(operand) && usesArguments();
376
377         if (inlineCallFrame)
378             return inlineCallFrame->capturedVars.get(operand);
379
380         // The activation object isn't in the captured region, but it's "captured"
381         // in the sense that stores to its location can be observed indirectly.
382         if (needsActivation() && operand == activationRegister())
383             return true;
384
385         // Ditto for the arguments object.
386         if (usesArguments() && operand == argumentsRegister())
387             return true;
388
389         // Ditto for the arguments object.
390         if (usesArguments() && operand == unmodifiedArgumentsRegister(argumentsRegister()))
391             return true;
392
393         // We're in global code so there are no locals to capture
394         if (!symbolTable())
395             return false;
396
397         return operand >= symbolTable()->captureStart()
398         && operand < symbolTable()->captureEnd();
399     }
400
401     CodeType codeType() const { return m_unlinkedCode->codeType(); }
402     PutPropertySlot::Context putByIdContext() const
403     {
404         if (codeType() == EvalCode)
405             return PutPropertySlot::PutByIdEval;
406         return PutPropertySlot::PutById;
407     }
408
409     SourceProvider* source() const { return m_source.get(); }
410     unsigned sourceOffset() const { return m_sourceOffset; }
411     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
412
413     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
414     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
415
416     void createActivation(CallFrame*);
417
418     void clearEvalCache();
419
420     String nameForRegister(int registerNumber);
421
422 #if ENABLE(JIT)
423     void setNumberOfStructureStubInfos(size_t size) { m_structureStubInfos.grow(size); }
424     void sortStructureStubInfos();
425     size_t numberOfStructureStubInfos() const { return m_structureStubInfos.size(); }
426     StructureStubInfo& structureStubInfo(int index) { return m_structureStubInfos[index]; }
427
428     void setNumberOfByValInfos(size_t size) { m_byValInfos.grow(size); }
429     size_t numberOfByValInfos() const { return m_byValInfos.size(); }
430     ByValInfo& byValInfo(size_t index) { return m_byValInfos[index]; }
431
432     void setNumberOfCallLinkInfos(size_t size) { m_callLinkInfos.grow(size); }
433     size_t numberOfCallLinkInfos() const { return m_callLinkInfos.size(); }
434     CallLinkInfo& callLinkInfo(int index) { return m_callLinkInfos[index]; }
435 #endif
436
437 #if ENABLE(VALUE_PROFILER)
438     unsigned numberOfArgumentValueProfiles()
439     {
440         ASSERT(m_numParameters >= 0);
441         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
442         return m_argumentValueProfiles.size();
443     }
444     ValueProfile* valueProfileForArgument(unsigned argumentIndex)
445     {
446         ValueProfile* result = &m_argumentValueProfiles[argumentIndex];
447         ASSERT(result->m_bytecodeOffset == -1);
448         return result;
449     }
450
451     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
452     ValueProfile* valueProfile(int index) { return &m_valueProfiles[index]; }
453     ValueProfile* valueProfileForBytecodeOffset(int bytecodeOffset)
454     {
455         ValueProfile* result = binarySearch<ValueProfile, int>(
456                                                                m_valueProfiles, m_valueProfiles.size(), bytecodeOffset,
457                                                                getValueProfileBytecodeOffset<ValueProfile>);
458         ASSERT(result->m_bytecodeOffset != -1);
459         ASSERT(instructions()[bytecodeOffset + opcodeLength(
460                                                             m_vm->interpreter->getOpcodeID(
461                                                                                            instructions()[
462                                                                                                           bytecodeOffset].u.opcode)) - 1].u.profile == result);
463         return result;
464     }
465     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJITLocker& locker, int bytecodeOffset)
466     {
467         return valueProfileForBytecodeOffset(bytecodeOffset)->computeUpdatedPrediction(locker);
468     }
469
470     unsigned totalNumberOfValueProfiles()
471     {
472         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
473     }
474     ValueProfile* getFromAllValueProfiles(unsigned index)
475     {
476         if (index < numberOfArgumentValueProfiles())
477             return valueProfileForArgument(index);
478         return valueProfile(index - numberOfArgumentValueProfiles());
479     }
480
481     RareCaseProfile* addRareCaseProfile(int bytecodeOffset)
482     {
483         m_rareCaseProfiles.append(RareCaseProfile(bytecodeOffset));
484         return &m_rareCaseProfiles.last();
485     }
486     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
487     RareCaseProfile* rareCaseProfile(int index) { return &m_rareCaseProfiles[index]; }
488     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset)
489     {
490         return tryBinarySearch<RareCaseProfile, int>(
491                                                      m_rareCaseProfiles, m_rareCaseProfiles.size(), bytecodeOffset,
492                                                      getRareCaseProfileBytecodeOffset);
493     }
494
495     bool likelyToTakeSlowCase(int bytecodeOffset)
496     {
497         if (!hasBaselineJITProfiling())
498             return false;
499         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
500         return value >= Options::likelyToTakeSlowCaseMinimumCount();
501     }
502
503     bool couldTakeSlowCase(int bytecodeOffset)
504     {
505         if (!hasBaselineJITProfiling())
506             return false;
507         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
508         return value >= Options::couldTakeSlowCaseMinimumCount();
509     }
510
511     RareCaseProfile* addSpecialFastCaseProfile(int bytecodeOffset)
512     {
513         m_specialFastCaseProfiles.append(RareCaseProfile(bytecodeOffset));
514         return &m_specialFastCaseProfiles.last();
515     }
516     unsigned numberOfSpecialFastCaseProfiles() { return m_specialFastCaseProfiles.size(); }
517     RareCaseProfile* specialFastCaseProfile(int index) { return &m_specialFastCaseProfiles[index]; }
518     RareCaseProfile* specialFastCaseProfileForBytecodeOffset(int bytecodeOffset)
519     {
520         return tryBinarySearch<RareCaseProfile, int>(
521                                                      m_specialFastCaseProfiles, m_specialFastCaseProfiles.size(), bytecodeOffset,
522                                                      getRareCaseProfileBytecodeOffset);
523     }
524
525     bool likelyToTakeSpecialFastCase(int bytecodeOffset)
526     {
527         if (!hasBaselineJITProfiling())
528             return false;
529         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
530         return specialFastCaseCount >= Options::likelyToTakeSlowCaseMinimumCount();
531     }
532
533     bool couldTakeSpecialFastCase(int bytecodeOffset)
534     {
535         if (!hasBaselineJITProfiling())
536             return false;
537         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
538         return specialFastCaseCount >= Options::couldTakeSlowCaseMinimumCount();
539     }
540
541     bool likelyToTakeDeepestSlowCase(int bytecodeOffset)
542     {
543         if (!hasBaselineJITProfiling())
544             return false;
545         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
546         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
547         unsigned value = slowCaseCount - specialFastCaseCount;
548         return value >= Options::likelyToTakeSlowCaseMinimumCount();
549     }
550
551     bool likelyToTakeAnySlowCase(int bytecodeOffset)
552     {
553         if (!hasBaselineJITProfiling())
554             return false;
555         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
556         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
557         unsigned value = slowCaseCount + specialFastCaseCount;
558         return value >= Options::likelyToTakeSlowCaseMinimumCount();
559     }
560
561     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
562     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
563     ArrayProfile* addArrayProfile(unsigned bytecodeOffset)
564     {
565         m_arrayProfiles.append(ArrayProfile(bytecodeOffset));
566         return &m_arrayProfiles.last();
567     }
568     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
569     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
570 #endif
571
572     // Exception handling support
573
574     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
575     void allocateHandlers(const Vector<UnlinkedHandlerInfo>& unlinkedHandlers)
576     {
577         size_t count = unlinkedHandlers.size();
578         if (!count)
579             return;
580         createRareDataIfNecessary();
581         m_rareData->m_exceptionHandlers.resize(count);
582         for (size_t i = 0; i < count; ++i) {
583             m_rareData->m_exceptionHandlers[i].start = unlinkedHandlers[i].start;
584             m_rareData->m_exceptionHandlers[i].end = unlinkedHandlers[i].end;
585             m_rareData->m_exceptionHandlers[i].target = unlinkedHandlers[i].target;
586             m_rareData->m_exceptionHandlers[i].scopeDepth = unlinkedHandlers[i].scopeDepth;
587         }
588
589     }
590     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
591
592     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
593
594 #if ENABLE(JIT)
595     Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow>& callReturnIndexVector()
596     {
597         createRareDataIfNecessary();
598         return m_rareData->m_callReturnIndexVector;
599     }
600 #endif
601
602 #if ENABLE(DFG_JIT)
603     SegmentedVector<InlineCallFrame, 4>& inlineCallFrames()
604     {
605         createRareDataIfNecessary();
606         return m_rareData->m_inlineCallFrames;
607     }
608         
609     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins()
610     {
611         createRareDataIfNecessary();
612         return m_rareData->m_codeOrigins;
613     }
614     
615     unsigned addCodeOrigin(CodeOrigin codeOrigin)
616     {
617         createRareDataIfNecessary();
618         unsigned result = m_rareData->m_codeOrigins.size();
619         m_rareData->m_codeOrigins.append(codeOrigin);
620         return result;
621     }
622         
623     // Having code origins implies that there has been some inlining.
624     bool hasCodeOrigins()
625     {
626         return m_rareData && !!m_rareData->m_codeOrigins.size();
627     }
628         
629     bool canGetCodeOrigin(unsigned index)
630     {
631         if (!m_rareData)
632             return false;
633         return m_rareData->m_codeOrigins.size() > index;
634     }
635
636     CodeOrigin codeOrigin(unsigned index)
637     {
638         RELEASE_ASSERT(m_rareData);
639         return m_rareData->m_codeOrigins[index];
640     }
641
642     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
643     {
644         ASSERT(JITCode::isBaselineCode(jitType()));
645         ConcurrentJITLocker locker(m_lock);
646         return m_exitProfile.add(locker, site);
647     }
648         
649     bool hasExitSite(const DFG::FrequentExitSite& site) const
650     {
651         ConcurrentJITLocker locker(m_lock);
652         return m_exitProfile.hasExitSite(locker, site);
653     }
654
655     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
656
657     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
658     {
659         return m_lazyOperandValueProfiles;
660     }
661 #endif
662
663     // Constant Pool
664 #if ENABLE(DFG_JIT)
665     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
666     size_t numberOfDFGIdentifiers() const
667     {
668         if (!JITCode::isOptimizingJIT(jitType()))
669             return 0;
670
671         return m_jitCode->dfgCommon()->dfgIdentifiers.size();
672     }
673
674     const Identifier& identifier(int index) const
675     {
676         size_t unlinkedIdentifiers = m_unlinkedCode->numberOfIdentifiers();
677         if (static_cast<unsigned>(index) < unlinkedIdentifiers)
678             return m_unlinkedCode->identifier(index);
679         ASSERT(JITCode::isOptimizingJIT(jitType()));
680         return m_jitCode->dfgCommon()->dfgIdentifiers[index - unlinkedIdentifiers];
681     }
682 #else
683     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
684     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
685 #endif
686
687     Vector<WriteBarrier<Unknown> >& constants() { return m_constantRegisters; }
688     size_t numberOfConstantRegisters() const { return m_constantRegisters.size(); }
689     unsigned addConstant(JSValue v)
690     {
691         unsigned result = m_constantRegisters.size();
692         m_constantRegisters.append(WriteBarrier<Unknown>());
693         m_constantRegisters.last().set(m_globalObject->vm(), m_ownerExecutable.get(), v);
694         return result;
695     }
696
697     unsigned addConstantLazily()
698     {
699         unsigned result = m_constantRegisters.size();
700         m_constantRegisters.append(WriteBarrier<Unknown>());
701         return result;
702     }
703
704     bool findConstant(JSValue, unsigned& result);
705     unsigned addOrFindConstant(JSValue);
706     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
707     ALWAYS_INLINE bool isConstantRegisterIndex(int index) const { return index >= FirstConstantRegisterIndex; }
708     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
709
710     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
711     int numberOfFunctionDecls() { return m_functionDecls.size(); }
712     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
713
714     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
715
716     unsigned numberOfConstantBuffers() const
717     {
718         if (!m_rareData)
719             return 0;
720         return m_rareData->m_constantBuffers.size();
721     }
722     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
723     {
724         createRareDataIfNecessary();
725         unsigned size = m_rareData->m_constantBuffers.size();
726         m_rareData->m_constantBuffers.append(buffer);
727         return size;
728     }
729
730     Vector<JSValue>& constantBufferAsVector(unsigned index)
731     {
732         ASSERT(m_rareData);
733         return m_rareData->m_constantBuffers[index];
734     }
735     JSValue* constantBuffer(unsigned index)
736     {
737         return constantBufferAsVector(index).data();
738     }
739
740     JSGlobalObject* globalObject() { return m_globalObject.get(); }
741
742     JSGlobalObject* globalObjectFor(CodeOrigin);
743
744     // Jump Tables
745
746     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
747     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
748     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
749     void clearSwitchJumpTables()
750     {
751         if (!m_rareData)
752             return;
753         m_rareData->m_switchJumpTables.clear();
754     }
755
756     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
757     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
758     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
759
760
761     SharedSymbolTable* symbolTable() const { return m_unlinkedCode->symbolTable(); }
762
763     EvalCodeCache& evalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_evalCodeCache; }
764
765     enum ShrinkMode {
766         // Shrink prior to generating machine code that may point directly into vectors.
767         EarlyShrink,
768
769         // Shrink after generating machine code, and after possibly creating new vectors
770         // and appending to others. At this time it is not safe to shrink certain vectors
771         // because we would have generated machine code that references them directly.
772         LateShrink
773     };
774     void shrinkToFit(ShrinkMode);
775
776     void copyPostParseDataFrom(CodeBlock* alternative);
777     void copyPostParseDataFromAlternative();
778
779     // Functions for controlling when JITting kicks in, in a mixed mode
780     // execution world.
781
782     bool checkIfJITThresholdReached()
783     {
784         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
785     }
786
787     void dontJITAnytimeSoon()
788     {
789         m_llintExecuteCounter.deferIndefinitely();
790     }
791
792     void jitAfterWarmUp()
793     {
794         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITAfterWarmUp(), this);
795     }
796
797     void jitSoon()
798     {
799         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITSoon(), this);
800     }
801
802     const ExecutionCounter& llintExecuteCounter() const
803     {
804         return m_llintExecuteCounter;
805     }
806
807     // Functions for controlling when tiered compilation kicks in. This
808     // controls both when the optimizing compiler is invoked and when OSR
809     // entry happens. Two triggers exist: the loop trigger and the return
810     // trigger. In either case, when an addition to m_jitExecuteCounter
811     // causes it to become non-negative, the optimizing compiler is
812     // invoked. This includes a fast check to see if this CodeBlock has
813     // already been optimized (i.e. replacement() returns a CodeBlock
814     // that was optimized with a higher tier JIT than this one). In the
815     // case of the loop trigger, if the optimized compilation succeeds
816     // (or has already succeeded in the past) then OSR is attempted to
817     // redirect program flow into the optimized code.
818
819     // These functions are called from within the optimization triggers,
820     // and are used as a single point at which we define the heuristics
821     // for how much warm-up is mandated before the next optimization
822     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
823     // as this is called from the CodeBlock constructor.
824
825     // When we observe a lot of speculation failures, we trigger a
826     // reoptimization. But each time, we increase the optimization trigger
827     // to avoid thrashing.
828     unsigned reoptimizationRetryCounter() const;
829     void countReoptimization();
830 #if ENABLE(JIT)
831     unsigned numberOfDFGCompiles();
832
833     int32_t codeTypeThresholdMultiplier() const;
834
835     int32_t counterValueForOptimizeAfterWarmUp();
836     int32_t counterValueForOptimizeAfterLongWarmUp();
837     int32_t counterValueForOptimizeSoon();
838
839     int32_t* addressOfJITExecuteCounter()
840     {
841         return &m_jitExecuteCounter.m_counter;
842     }
843
844     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_counter); }
845     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_activeThreshold); }
846     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_totalCount); }
847
848     const ExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
849
850     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
851
852     // Check if the optimization threshold has been reached, and if not,
853     // adjust the heuristics accordingly. Returns true if the threshold has
854     // been reached.
855     bool checkIfOptimizationThresholdReached();
856
857     // Call this to force the next optimization trigger to fire. This is
858     // rarely wise, since optimization triggers are typically more
859     // expensive than executing baseline code.
860     void optimizeNextInvocation();
861
862     // Call this to prevent optimization from happening again. Note that
863     // optimization will still happen after roughly 2^29 invocations,
864     // so this is really meant to delay that as much as possible. This
865     // is called if optimization failed, and we expect it to fail in
866     // the future as well.
867     void dontOptimizeAnytimeSoon();
868
869     // Call this to reinitialize the counter to its starting state,
870     // forcing a warm-up to happen before the next optimization trigger
871     // fires. This is called in the CodeBlock constructor. It also
872     // makes sense to call this if an OSR exit occurred. Note that
873     // OSR exit code is code generated, so the value of the execute
874     // counter that this corresponds to is also available directly.
875     void optimizeAfterWarmUp();
876
877     // Call this to force an optimization trigger to fire only after
878     // a lot of warm-up.
879     void optimizeAfterLongWarmUp();
880
881     // Call this to cause an optimization trigger to fire soon, but
882     // not necessarily the next one. This makes sense if optimization
883     // succeeds. Successfuly optimization means that all calls are
884     // relinked to the optimized code, so this only affects call
885     // frames that are still executing this CodeBlock. The value here
886     // is tuned to strike a balance between the cost of OSR entry
887     // (which is too high to warrant making every loop back edge to
888     // trigger OSR immediately) and the cost of executing baseline
889     // code (which is high enough that we don't necessarily want to
890     // have a full warm-up). The intuition for calling this instead of
891     // optimizeNextInvocation() is for the case of recursive functions
892     // with loops. Consider that there may be N call frames of some
893     // recursive function, for a reasonably large value of N. The top
894     // one triggers optimization, and then returns, and then all of
895     // the others return. We don't want optimization to be triggered on
896     // each return, as that would be superfluous. It only makes sense
897     // to trigger optimization if one of those functions becomes hot
898     // in the baseline code.
899     void optimizeSoon();
900
901     void forceOptimizationSlowPathConcurrently();
902
903     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
904     
905     uint32_t osrExitCounter() const { return m_osrExitCounter; }
906
907     void countOSRExit() { m_osrExitCounter++; }
908
909     uint32_t* addressOfOSRExitCounter() { return &m_osrExitCounter; }
910
911     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
912
913     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
914     uint32_t exitCountThresholdForReoptimization();
915     uint32_t exitCountThresholdForReoptimizationFromLoop();
916     bool shouldReoptimizeNow();
917     bool shouldReoptimizeFromLoopNow();
918 #else // No JIT
919     void optimizeAfterWarmUp() { }
920     unsigned numberOfDFGCompiles() { return 0; }
921 #endif
922
923 #if ENABLE(VALUE_PROFILER)
924     bool shouldOptimizeNow();
925     void updateAllValueProfilePredictions(OperationInProgress = NoOperation);
926     void updateAllArrayPredictions();
927     void updateAllPredictions(OperationInProgress = NoOperation);
928 #else
929     bool updateAllPredictionsAndCheckIfShouldOptimizeNow() { return false; }
930     void updateAllValueProfilePredictions(OperationInProgress = NoOperation) { }
931     void updateAllArrayPredictions() { }
932     void updateAllPredictions(OperationInProgress = NoOperation) { }
933 #endif
934
935 #if ENABLE(JIT)
936     void reoptimize();
937 #endif
938
939 #if ENABLE(VERBOSE_VALUE_PROFILE)
940     void dumpValueProfiles();
941 #endif
942
943     // FIXME: Make these remaining members private.
944
945     int m_numCalleeRegisters;
946     int m_numVars;
947     bool m_isConstructor;
948     
949     // This is intentionally public; it's the responsibility of anyone doing any
950     // of the following to hold the lock:
951     //
952     // - Modifying any inline cache in this code block.
953     //
954     // - Quering any inline cache in this code block, from a thread other than
955     //   the main thread.
956     //
957     // Additionally, it's only legal to modify the inline cache on the main
958     // thread. This means that the main thread can query the inline cache without
959     // locking. This is crucial since executing the inline cache is effectively
960     // "querying" it.
961     //
962     // Another exception to the rules is that the GC can do whatever it wants
963     // without holding any locks, because the GC is guaranteed to wait until any
964     // concurrent compilation threads finish what they're doing.
965     mutable ConcurrentJITLock m_lock;
966     
967     bool m_shouldAlwaysBeInlined;
968     bool m_allTransitionsHaveBeenMarked; // Initialized and used on every GC.
969     
970 protected:
971 #if ENABLE(JIT)
972     virtual CompilationResult jitCompileImpl(ExecState*) = 0;
973     virtual void jettisonImpl() = 0;
974 #endif
975     virtual void visitWeakReferences(SlotVisitor&);
976     virtual void finalizeUnconditionally();
977
978 #if ENABLE(DFG_JIT)
979     void tallyFrequentExitSites();
980 #else
981     void tallyFrequentExitSites() { }
982 #endif
983
984 private:
985     friend class DFGCodeBlocks;
986     
987     void noticeIncomingCall(ExecState* callerFrame);
988     
989     double optimizationThresholdScalingFactor();
990
991 #if ENABLE(JIT)
992     ClosureCallStubRoutine* findClosureCallForReturnPC(ReturnAddressPtr);
993 #endif
994         
995 #if ENABLE(VALUE_PROFILER)
996     void updateAllPredictionsAndCountLiveness(OperationInProgress, unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
997 #endif
998
999     void setConstantRegisters(const Vector<WriteBarrier<Unknown> >& constants)
1000     {
1001         size_t count = constants.size();
1002         m_constantRegisters.resize(count);
1003         for (size_t i = 0; i < count; i++)
1004             m_constantRegisters[i].set(*m_vm, ownerExecutable(), constants[i].get());
1005     }
1006
1007     void dumpBytecode(PrintStream&, ExecState*, const Instruction* begin, const Instruction*&);
1008
1009     CString registerName(int r) const;
1010     void printUnaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1011     void printBinaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1012     void printConditionalJump(PrintStream&, ExecState*, const Instruction*, const Instruction*&, int location, const char* op);
1013     void printGetByIdOp(PrintStream&, ExecState*, int location, const Instruction*&);
1014     void printGetByIdCacheStatus(PrintStream&, ExecState*, int location);
1015     enum CacheDumpMode { DumpCaches, DontDumpCaches };
1016     void printCallOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op, CacheDumpMode, bool& hasPrintedProfiling);
1017     void printPutByIdOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1018     void beginDumpProfiling(PrintStream&, bool& hasPrintedProfiling);
1019     void dumpValueProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1020     void dumpArrayProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1021 #if ENABLE(VALUE_PROFILER)
1022     void dumpRareCaseProfile(PrintStream&, const char* name, RareCaseProfile*, bool& hasPrintedProfiling);
1023 #endif
1024         
1025 #if ENABLE(DFG_JIT)
1026     bool shouldImmediatelyAssumeLivenessDuringScan()
1027     {
1028         // Null m_dfgData means that this is a baseline JIT CodeBlock. Baseline JIT
1029         // CodeBlocks don't need to be jettisoned when their weak references go
1030         // stale. So if a basline JIT CodeBlock gets scanned, we can assume that
1031         // this means that it's live.
1032         if (!JITCode::isOptimizingJIT(jitType()))
1033             return true;
1034
1035         // For simplicity, we don't attempt to jettison code blocks during GC if
1036         // they are executing. Instead we strongly mark their weak references to
1037         // allow them to continue to execute soundly.
1038         if (m_jitCode->dfgCommon()->mayBeExecuting)
1039             return true;
1040
1041         if (Options::forceDFGCodeBlockLiveness())
1042             return true;
1043
1044         return false;
1045     }
1046 #else
1047     bool shouldImmediatelyAssumeLivenessDuringScan() { return true; }
1048 #endif
1049     
1050     void propagateTransitions(SlotVisitor&);
1051     void determineLiveness(SlotVisitor&);
1052         
1053     void stronglyVisitStrongReferences(SlotVisitor&);
1054     void stronglyVisitWeakReferences(SlotVisitor&);
1055
1056     void createRareDataIfNecessary()
1057     {
1058         if (!m_rareData)
1059             m_rareData = adoptPtr(new RareData);
1060     }
1061
1062 #if ENABLE(JIT)
1063     void resetStubInternal(RepatchBuffer&, StructureStubInfo&);
1064     void resetStubDuringGCInternal(RepatchBuffer&, StructureStubInfo&);
1065 #endif
1066     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
1067     int m_numParameters;
1068     WriteBarrier<ScriptExecutable> m_ownerExecutable;
1069     VM* m_vm;
1070
1071     RefCountedArray<Instruction> m_instructions;
1072     int m_thisRegister;
1073     int m_argumentsRegister;
1074     int m_activationRegister;
1075
1076     bool m_isStrictMode;
1077     bool m_needsActivation;
1078
1079     RefPtr<SourceProvider> m_source;
1080     unsigned m_sourceOffset;
1081     unsigned m_firstLineColumnOffset;
1082     unsigned m_codeType;
1083
1084 #if ENABLE(LLINT)
1085     SegmentedVector<LLIntCallLinkInfo, 8> m_llintCallLinkInfos;
1086     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo> > m_incomingLLIntCalls;
1087 #endif
1088 #if ENABLE(JIT)
1089     Vector<StructureStubInfo> m_structureStubInfos;
1090     Vector<ByValInfo> m_byValInfos;
1091     Vector<CallLinkInfo> m_callLinkInfos;
1092     RefPtr<JITCode> m_jitCode;
1093     MacroAssemblerCodePtr m_jitCodeWithArityCheck;
1094     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo> > m_incomingCalls;
1095 #endif
1096 #if ENABLE(DFG_JIT) || ENABLE(LLINT)
1097     OwnPtr<CompactJITCodeMap> m_jitCodeMap;
1098 #endif
1099 #if ENABLE(DFG_JIT)
1100     // This is relevant to non-DFG code blocks that serve as the profiled code block
1101     // for DFG code blocks.
1102     DFG::ExitProfile m_exitProfile;
1103     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1104 #endif
1105 #if ENABLE(VALUE_PROFILER)
1106     Vector<ValueProfile> m_argumentValueProfiles;
1107     SegmentedVector<ValueProfile, 8> m_valueProfiles;
1108     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1109     SegmentedVector<RareCaseProfile, 8> m_specialFastCaseProfiles;
1110     SegmentedVector<ArrayAllocationProfile, 8> m_arrayAllocationProfiles;
1111     ArrayProfileVector m_arrayProfiles;
1112 #endif
1113     SegmentedVector<ObjectAllocationProfile, 8> m_objectAllocationProfiles;
1114
1115     // Constant Pool
1116     Vector<Identifier> m_additionalIdentifiers;
1117     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1118     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1119     // it, so we're stuck with it for now.
1120     Vector<WriteBarrier<Unknown> > m_constantRegisters;
1121     Vector<WriteBarrier<FunctionExecutable> > m_functionDecls;
1122     Vector<WriteBarrier<FunctionExecutable> > m_functionExprs;
1123
1124     RefPtr<CodeBlock> m_alternative;
1125     
1126     ExecutionCounter m_llintExecuteCounter;
1127
1128     ExecutionCounter m_jitExecuteCounter;
1129     int32_t m_totalJITExecutions;
1130     uint32_t m_osrExitCounter;
1131     uint16_t m_optimizationDelayCounter;
1132     uint16_t m_reoptimizationRetryCounter;
1133     
1134     mutable CodeBlockHash m_hash;
1135
1136     struct RareData {
1137         WTF_MAKE_FAST_ALLOCATED;
1138     public:
1139         Vector<HandlerInfo> m_exceptionHandlers;
1140
1141         // Buffers used for large array literals
1142         Vector<Vector<JSValue> > m_constantBuffers;
1143
1144         // Jump Tables
1145         Vector<SimpleJumpTable> m_switchJumpTables;
1146         Vector<StringJumpTable> m_stringSwitchJumpTables;
1147
1148         EvalCodeCache m_evalCodeCache;
1149
1150 #if ENABLE(JIT)
1151         Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow> m_callReturnIndexVector;
1152 #endif
1153 #if ENABLE(DFG_JIT)
1154         SegmentedVector<InlineCallFrame, 4> m_inlineCallFrames;
1155         Vector<CodeOrigin, 0, UnsafeVectorOverflow> m_codeOrigins;
1156 #endif
1157     };
1158 #if COMPILER(MSVC)
1159     friend void WTF::deleteOwnedPtr<RareData>(RareData*);
1160 #endif
1161     OwnPtr<RareData> m_rareData;
1162 #if ENABLE(JIT)
1163     DFG::CapabilityLevel m_capabilityLevelState;
1164 #endif
1165 };
1166
1167 // Program code is not marked by any function, so we make the global object
1168 // responsible for marking it.
1169
1170 class GlobalCodeBlock : public CodeBlock {
1171 protected:
1172     GlobalCodeBlock(CopyParsedBlockTag, GlobalCodeBlock& other)
1173     : CodeBlock(CopyParsedBlock, other)
1174     {
1175     }
1176         
1177     GlobalCodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1178         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1179     {
1180     }
1181 };
1182
1183 class ProgramCodeBlock : public GlobalCodeBlock {
1184 public:
1185     ProgramCodeBlock(CopyParsedBlockTag, ProgramCodeBlock& other)
1186     : GlobalCodeBlock(CopyParsedBlock, other)
1187     {
1188     }
1189
1190     ProgramCodeBlock(ProgramExecutable* ownerExecutable, UnlinkedProgramCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned firstLineColumnOffset)
1191         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, firstLineColumnOffset)
1192     {
1193     }
1194
1195 #if ENABLE(JIT)
1196 protected:
1197 #if ENABLE(DFG_JIT)
1198     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1199     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1200 #endif // ENABLE(DFG_JIT)
1201
1202     virtual void jettisonImpl();
1203     virtual CompilationResult jitCompileImpl(ExecState*);
1204     virtual CodeBlock* replacement();
1205     virtual DFG::CapabilityLevel capabilityLevelInternal();
1206 #endif
1207 };
1208
1209 class EvalCodeBlock : public GlobalCodeBlock {
1210 public:
1211     EvalCodeBlock(CopyParsedBlockTag, EvalCodeBlock& other)
1212     : GlobalCodeBlock(CopyParsedBlock, other)
1213     {
1214     }
1215         
1216     EvalCodeBlock(EvalExecutable* ownerExecutable, UnlinkedEvalCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider)
1217         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, 1)
1218     {
1219     }
1220     
1221     const Identifier& variable(unsigned index) { return unlinkedEvalCodeBlock()->variable(index); }
1222     unsigned numVariables() { return unlinkedEvalCodeBlock()->numVariables(); }
1223     
1224 #if ENABLE(JIT)
1225 protected:
1226 #if ENABLE(DFG_JIT)
1227     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1228     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1229 #endif // ENABLE(DFG_JIT)
1230
1231     virtual void jettisonImpl();
1232     virtual CompilationResult jitCompileImpl(ExecState*);
1233     virtual CodeBlock* replacement();
1234     virtual DFG::CapabilityLevel capabilityLevelInternal();
1235 #endif
1236     
1237 private:
1238     UnlinkedEvalCodeBlock* unlinkedEvalCodeBlock() const { return jsCast<UnlinkedEvalCodeBlock*>(unlinkedCodeBlock()); }
1239 };
1240
1241 class FunctionCodeBlock : public CodeBlock {
1242 public:
1243     FunctionCodeBlock(CopyParsedBlockTag, FunctionCodeBlock& other)
1244     : CodeBlock(CopyParsedBlock, other)
1245     {
1246     }
1247
1248     FunctionCodeBlock(FunctionExecutable* ownerExecutable, UnlinkedFunctionCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1249         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1250     {
1251     }
1252     
1253 #if ENABLE(JIT)
1254 protected:
1255 #if ENABLE(DFG_JIT)
1256     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1257     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1258 #endif // ENABLE(DFG_JIT)
1259
1260     virtual void jettisonImpl();
1261     virtual CompilationResult jitCompileImpl(ExecState*);
1262     virtual CodeBlock* replacement();
1263     virtual DFG::CapabilityLevel capabilityLevelInternal();
1264 #endif
1265 };
1266
1267 inline CodeBlock* baselineCodeBlockForInlineCallFrame(InlineCallFrame* inlineCallFrame)
1268 {
1269     RELEASE_ASSERT(inlineCallFrame);
1270     ExecutableBase* executable = inlineCallFrame->executable.get();
1271     RELEASE_ASSERT(executable->structure()->classInfo() == FunctionExecutable::info());
1272     return static_cast<FunctionExecutable*>(executable)->baselineCodeBlockFor(inlineCallFrame->isCall ? CodeForCall : CodeForConstruct);
1273 }
1274
1275 inline CodeBlock* baselineCodeBlockForOriginAndBaselineCodeBlock(const CodeOrigin& codeOrigin, CodeBlock* baselineCodeBlock)
1276 {
1277     if (codeOrigin.inlineCallFrame)
1278         return baselineCodeBlockForInlineCallFrame(codeOrigin.inlineCallFrame);
1279     return baselineCodeBlock;
1280 }
1281
1282 inline int CodeBlock::argumentIndexAfterCapture(size_t argument)
1283 {
1284     if (argument >= static_cast<size_t>(symbolTable()->parameterCount()))
1285         return CallFrame::argumentOffset(argument);
1286     
1287     const SlowArgument* slowArguments = symbolTable()->slowArguments();
1288     if (!slowArguments || slowArguments[argument].status == SlowArgument::Normal)
1289         return CallFrame::argumentOffset(argument);
1290     
1291     ASSERT(slowArguments[argument].status == SlowArgument::Captured);
1292     return slowArguments[argument].index;
1293 }
1294
1295 inline Register& ExecState::r(int index)
1296 {
1297     CodeBlock* codeBlock = this->codeBlock();
1298     if (codeBlock->isConstantRegisterIndex(index))
1299         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1300     return this[index];
1301 }
1302
1303 inline Register& ExecState::uncheckedR(int index)
1304 {
1305     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1306     return this[index];
1307 }
1308
1309 inline JSValue ExecState::argumentAfterCapture(size_t argument)
1310 {
1311     if (argument >= argumentCount())
1312         return jsUndefined();
1313     
1314     if (!codeBlock())
1315         return this[argumentOffset(argument)].jsValue();
1316     
1317     return this[codeBlock()->argumentIndexAfterCapture(argument)].jsValue();
1318 }
1319
1320 #if ENABLE(DFG_JIT)
1321 inline void DFGCodeBlocks::mark(void* candidateCodeBlock)
1322 {
1323     // We have to check for 0 and -1 because those are used by the HashMap as markers.
1324     uintptr_t value = reinterpret_cast<uintptr_t>(candidateCodeBlock);
1325     
1326     // This checks for both of those nasty cases in one go.
1327     // 0 + 1 = 1
1328     // -1 + 1 = 0
1329     if (value + 1 <= 1)
1330         return;
1331     
1332     HashSet<CodeBlock*>::iterator iter = m_set.find(static_cast<CodeBlock*>(candidateCodeBlock));
1333     if (iter == m_set.end())
1334         return;
1335     
1336     (*iter)->m_jitCode->dfgCommon()->mayBeExecuting = true;
1337 }
1338 #endif
1339
1340 } // namespace JSC
1341
1342 #endif // CodeBlock_h