a050e046b4fec3c1856b63a13086a7382552def0
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008, 2009, 2010, 2011, 2012, 2013 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Computer, Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #ifndef CodeBlock_h
31 #define CodeBlock_h
32
33 #include "ArrayProfile.h"
34 #include "ByValInfo.h"
35 #include "BytecodeConventions.h"
36 #include "CallLinkInfo.h"
37 #include "CallReturnOffsetToBytecodeOffset.h"
38 #include "CodeBlockHash.h"
39 #include "ConcurrentJITLock.h"
40 #include "CodeOrigin.h"
41 #include "CodeType.h"
42 #include "CompactJITCodeMap.h"
43 #include "DFGCodeBlocks.h"
44 #include "DFGCommon.h"
45 #include "DFGCommonData.h"
46 #include "DFGExitProfile.h"
47 #include "DFGMinifiedGraph.h"
48 #include "DFGOSREntry.h"
49 #include "DFGOSRExit.h"
50 #include "DFGVariableEventStream.h"
51 #include "EvalCodeCache.h"
52 #include "ExecutionCounter.h"
53 #include "ExpressionRangeInfo.h"
54 #include "HandlerInfo.h"
55 #include "ObjectAllocationProfile.h"
56 #include "Options.h"
57 #include "Operations.h"
58 #include "Instruction.h"
59 #include "JITCode.h"
60 #include "JITWriteBarrier.h"
61 #include "JSGlobalObject.h"
62 #include "JumpReplacementWatchpoint.h"
63 #include "JumpTable.h"
64 #include "LLIntCallLinkInfo.h"
65 #include "LazyOperandValueProfile.h"
66 #include "LineInfo.h"
67 #include "ProfilerCompilation.h"
68 #include "RegExpObject.h"
69 #include "StructureStubInfo.h"
70 #include "UnconditionalFinalizer.h"
71 #include "ValueProfile.h"
72 #include "Watchpoint.h"
73 #include <wtf/RefCountedArray.h>
74 #include <wtf/FastAllocBase.h>
75 #include <wtf/PassOwnPtr.h>
76 #include <wtf/Platform.h>
77 #include <wtf/RefPtr.h>
78 #include <wtf/SegmentedVector.h>
79 #include <wtf/Vector.h>
80 #include <wtf/text/WTFString.h>
81
82 namespace JSC {
83
84 class DFGCodeBlocks;
85 class ExecState;
86 class LLIntOffsetsExtractor;
87 class RepatchBuffer;
88
89 inline int unmodifiedArgumentsRegister(int argumentsRegister) { return argumentsRegister - 1; }
90
91 static ALWAYS_INLINE int missingThisObjectMarker() { return std::numeric_limits<int>::max(); }
92
93 class CodeBlock : public ThreadSafeRefCounted<CodeBlock>, public UnconditionalFinalizer, public WeakReferenceHarvester {
94     WTF_MAKE_FAST_ALLOCATED;
95     friend class JIT;
96     friend class LLIntOffsetsExtractor;
97 public:
98     enum CopyParsedBlockTag { CopyParsedBlock };
99 protected:
100     CodeBlock(CopyParsedBlockTag, CodeBlock& other);
101         
102     CodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, PassRefPtr<SourceProvider>, unsigned sourceOffset, unsigned firstLineColumnOffset);
103
104     WriteBarrier<JSGlobalObject> m_globalObject;
105     Heap* m_heap;
106
107 public:
108     JS_EXPORT_PRIVATE virtual ~CodeBlock();
109
110     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
111
112     CString inferredName() const;
113     CodeBlockHash hash() const;
114     bool hasHash() const;
115     bool isSafeToComputeHash() const;
116     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
117     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
118     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
119     void dump(PrintStream&) const;
120
121     int numParameters() const { return m_numParameters; }
122     void setNumParameters(int newValue);
123
124     int* addressOfNumParameters() { return &m_numParameters; }
125     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
126
127     CodeBlock* alternative() { return m_alternative.get(); }
128     PassRefPtr<CodeBlock> releaseAlternative() { return m_alternative.release(); }
129     void setAlternative(PassRefPtr<CodeBlock> alternative) { m_alternative = alternative; }
130     
131     CodeSpecializationKind specializationKind() const
132     {
133         return specializationFromIsConstruct(m_isConstructor);
134     }
135     
136     CodeBlock* baselineVersion();
137
138     void visitAggregate(SlotVisitor&);
139
140     static void dumpStatistics();
141
142     void dumpBytecode(PrintStream& = WTF::dataFile());
143     void dumpBytecode(PrintStream&, unsigned bytecodeOffset);
144     void printStructures(PrintStream&, const Instruction*);
145     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
146
147     bool isStrictMode() const { return m_isStrictMode; }
148
149     inline bool isKnownNotImmediate(int index)
150     {
151         if (index == m_thisRegister && !m_isStrictMode)
152             return true;
153
154         if (isConstantRegisterIndex(index))
155             return getConstant(index).isCell();
156
157         return false;
158     }
159
160     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
161     {
162         return index >= m_numVars;
163     }
164
165     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset);
166     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
167     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
168     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
169                                           int& startOffset, int& endOffset, unsigned& line, unsigned& column);
170
171 #if ENABLE(JIT)
172
173     StructureStubInfo& getStubInfo(ReturnAddressPtr returnAddress)
174     {
175         return *(binarySearch<StructureStubInfo, void*>(m_structureStubInfos, m_structureStubInfos.size(), returnAddress.value(), getStructureStubInfoReturnLocation));
176     }
177
178     StructureStubInfo& getStubInfo(unsigned bytecodeIndex)
179     {
180         return *(binarySearch<StructureStubInfo, unsigned>(m_structureStubInfos, m_structureStubInfos.size(), bytecodeIndex, getStructureStubInfoBytecodeIndex));
181     }
182
183     void resetStub(StructureStubInfo&);
184
185     ByValInfo& getByValInfo(unsigned bytecodeIndex)
186     {
187         return *(binarySearch<ByValInfo, unsigned>(m_byValInfos, m_byValInfos.size(), bytecodeIndex, getByValInfoBytecodeIndex));
188     }
189
190     CallLinkInfo& getCallLinkInfo(ReturnAddressPtr returnAddress)
191     {
192         return *(binarySearch<CallLinkInfo, void*>(m_callLinkInfos, m_callLinkInfos.size(), returnAddress.value(), getCallLinkInfoReturnLocation));
193     }
194
195     CallLinkInfo& getCallLinkInfo(unsigned bytecodeIndex)
196     {
197         ASSERT(JITCode::isBaselineCode(jitType()));
198         return *(binarySearch<CallLinkInfo, unsigned>(m_callLinkInfos, m_callLinkInfos.size(), bytecodeIndex, getCallLinkInfoBytecodeIndex));
199     }
200 #endif // ENABLE(JIT)
201
202     unsigned bytecodeOffset(ExecState*, ReturnAddressPtr);
203
204 #if ENABLE(JIT)
205     unsigned bytecodeOffsetForCallAtIndex(unsigned index)
206     {
207         if (!m_rareData)
208             return 1;
209         Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow>& callIndices = m_rareData->m_callReturnIndexVector;
210         if (!callIndices.size())
211             return 1;
212         // FIXME: Fix places in DFG that call out to C that don't set the CodeOrigin. https://bugs.webkit.org/show_bug.cgi?id=118315
213         ASSERT(index < m_rareData->m_callReturnIndexVector.size());
214         if (index >= m_rareData->m_callReturnIndexVector.size())
215             return 1;
216         return m_rareData->m_callReturnIndexVector[index].bytecodeOffset;
217     }
218
219     void unlinkCalls();
220         
221     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
222         
223     bool isIncomingCallAlreadyLinked(CallLinkInfo* incoming)
224     {
225         return m_incomingCalls.isOnList(incoming);
226     }
227 #endif // ENABLE(JIT)
228
229 #if ENABLE(LLINT)
230     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
231 #endif // ENABLE(LLINT)
232
233     void unlinkIncomingCalls();
234
235 #if ENABLE(DFG_JIT) || ENABLE(LLINT)
236     void setJITCodeMap(PassOwnPtr<CompactJITCodeMap> jitCodeMap)
237     {
238         m_jitCodeMap = jitCodeMap;
239     }
240     CompactJITCodeMap* jitCodeMap()
241     {
242         return m_jitCodeMap.get();
243     }
244 #endif
245     
246     unsigned bytecodeOffset(Instruction* returnAddress)
247     {
248         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
249         return static_cast<Instruction*>(returnAddress) - instructions().begin();
250     }
251
252     bool isNumericCompareFunction() { return m_unlinkedCode->isNumericCompareFunction(); }
253
254     unsigned numberOfInstructions() const { return m_instructions.size(); }
255     RefCountedArray<Instruction>& instructions() { return m_instructions; }
256     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
257
258     size_t predictedMachineCodeSize();
259
260     bool usesOpcode(OpcodeID);
261
262     unsigned instructionCount() { return m_instructions.size(); }
263
264     int argumentIndexAfterCapture(size_t argument);
265
266 #if ENABLE(JIT)
267     void setJITCode(PassRefPtr<JITCode> code, MacroAssemblerCodePtr codeWithArityCheck)
268     {
269         ConcurrentJITLocker locker(m_lock);
270         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
271         m_jitCode = code;
272         m_jitCodeWithArityCheck = codeWithArityCheck;
273 #if ENABLE(DFG_JIT)
274         if (JITCode::isOptimizingJIT(JITCode::jitTypeFor(m_jitCode)))
275             m_vm->heap.m_dfgCodeBlocks.m_set.add(this);
276 #endif
277     }
278     PassRefPtr<JITCode> jitCode() { return m_jitCode; }
279     MacroAssemblerCodePtr jitCodeWithArityCheck() { return m_jitCodeWithArityCheck; }
280     JITCode::JITType jitType() const
281     {
282         JITCode* jitCode = m_jitCode.get();
283         WTF::loadLoadFence();
284         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
285         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
286         return result;
287     }
288     bool hasBaselineJITProfiling() const
289     {
290         return jitType() == JITCode::BaselineJIT;
291     }
292 #if ENABLE(DFG_JIT)
293     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex) = 0;
294     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>) = 0;
295 #endif // ENABLE(DFG_JIT)
296     void jettison();
297     CompilationResult jitCompile(ExecState* exec)
298     {
299         if (jitType() != JITCode::InterpreterThunk) {
300             ASSERT(jitType() == JITCode::BaselineJIT);
301             return CompilationNotNeeded;
302         }
303         return jitCompileImpl(exec);
304     }
305     virtual CodeBlock* replacement() = 0;
306
307     virtual DFG::CapabilityLevel capabilityLevelInternal() = 0;
308     DFG::CapabilityLevel capabilityLevel()
309     {
310         DFG::CapabilityLevel result = capabilityLevelInternal();
311         m_capabilityLevelState = result;
312         return result;
313     }
314     DFG::CapabilityLevel capabilityLevelState() { return m_capabilityLevelState; }
315
316     bool hasOptimizedReplacement();
317 #else
318     JITCode::JITType jitType() const { return JITCode::InterpreterThunk; }
319 #endif
320
321     ScriptExecutable* ownerExecutable() const { return m_ownerExecutable.get(); }
322
323     void setVM(VM* vm) { m_vm = vm; }
324     VM* vm() { return m_vm; }
325
326     void setThisRegister(int thisRegister) { m_thisRegister = thisRegister; }
327     int thisRegister() const { return m_thisRegister; }
328
329     bool needsFullScopeChain() const { return m_unlinkedCode->needsFullScopeChain(); }
330     bool usesEval() const { return m_unlinkedCode->usesEval(); }
331
332     void setArgumentsRegister(int argumentsRegister)
333     {
334         ASSERT(argumentsRegister != -1);
335         m_argumentsRegister = argumentsRegister;
336         ASSERT(usesArguments());
337     }
338     int argumentsRegister() const
339     {
340         ASSERT(usesArguments());
341         return m_argumentsRegister;
342     }
343     int uncheckedArgumentsRegister()
344     {
345         if (!usesArguments())
346             return InvalidVirtualRegister;
347         return argumentsRegister();
348     }
349     void setActivationRegister(int activationRegister)
350     {
351         m_activationRegister = activationRegister;
352     }
353     int activationRegister() const
354     {
355         ASSERT(needsFullScopeChain());
356         return m_activationRegister;
357     }
358     int uncheckedActivationRegister()
359     {
360         if (!needsFullScopeChain())
361             return InvalidVirtualRegister;
362         return activationRegister();
363     }
364     bool usesArguments() const { return m_argumentsRegister != -1; }
365
366     bool needsActivation() const
367     {
368         return m_needsActivation;
369     }
370
371     bool isCaptured(int operand, InlineCallFrame* inlineCallFrame = 0) const
372     {
373         if (operandIsArgument(operand))
374             return operandToArgument(operand) && usesArguments();
375
376         if (inlineCallFrame)
377             return inlineCallFrame->capturedVars.get(operand);
378
379         // The activation object isn't in the captured region, but it's "captured"
380         // in the sense that stores to its location can be observed indirectly.
381         if (needsActivation() && operand == activationRegister())
382             return true;
383
384         // Ditto for the arguments object.
385         if (usesArguments() && operand == argumentsRegister())
386             return true;
387
388         // Ditto for the arguments object.
389         if (usesArguments() && operand == unmodifiedArgumentsRegister(argumentsRegister()))
390             return true;
391
392         // We're in global code so there are no locals to capture
393         if (!symbolTable())
394             return false;
395
396         return operand >= symbolTable()->captureStart()
397         && operand < symbolTable()->captureEnd();
398     }
399
400     CodeType codeType() const { return m_unlinkedCode->codeType(); }
401
402     SourceProvider* source() const { return m_source.get(); }
403     unsigned sourceOffset() const { return m_sourceOffset; }
404     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
405
406     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
407     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
408
409     void createActivation(CallFrame*);
410
411     void clearEvalCache();
412
413     String nameForRegister(int registerNumber);
414
415 #if ENABLE(JIT)
416     void setNumberOfStructureStubInfos(size_t size) { m_structureStubInfos.grow(size); }
417     void sortStructureStubInfos();
418     size_t numberOfStructureStubInfos() const { return m_structureStubInfos.size(); }
419     StructureStubInfo& structureStubInfo(int index) { return m_structureStubInfos[index]; }
420
421     void setNumberOfByValInfos(size_t size) { m_byValInfos.grow(size); }
422     size_t numberOfByValInfos() const { return m_byValInfos.size(); }
423     ByValInfo& byValInfo(size_t index) { return m_byValInfos[index]; }
424
425     void setNumberOfCallLinkInfos(size_t size) { m_callLinkInfos.grow(size); }
426     size_t numberOfCallLinkInfos() const { return m_callLinkInfos.size(); }
427     CallLinkInfo& callLinkInfo(int index) { return m_callLinkInfos[index]; }
428 #endif
429
430 #if ENABLE(VALUE_PROFILER)
431     unsigned numberOfArgumentValueProfiles()
432     {
433         ASSERT(m_numParameters >= 0);
434         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
435         return m_argumentValueProfiles.size();
436     }
437     ValueProfile* valueProfileForArgument(unsigned argumentIndex)
438     {
439         ValueProfile* result = &m_argumentValueProfiles[argumentIndex];
440         ASSERT(result->m_bytecodeOffset == -1);
441         return result;
442     }
443
444     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
445     ValueProfile* valueProfile(int index) { return &m_valueProfiles[index]; }
446     ValueProfile* valueProfileForBytecodeOffset(int bytecodeOffset)
447     {
448         ValueProfile* result = binarySearch<ValueProfile, int>(
449                                                                m_valueProfiles, m_valueProfiles.size(), bytecodeOffset,
450                                                                getValueProfileBytecodeOffset<ValueProfile>);
451         ASSERT(result->m_bytecodeOffset != -1);
452         ASSERT(instructions()[bytecodeOffset + opcodeLength(
453                                                             m_vm->interpreter->getOpcodeID(
454                                                                                            instructions()[
455                                                                                                           bytecodeOffset].u.opcode)) - 1].u.profile == result);
456         return result;
457     }
458     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJITLocker& locker, int bytecodeOffset)
459     {
460         return valueProfileForBytecodeOffset(bytecodeOffset)->computeUpdatedPrediction(locker);
461     }
462
463     unsigned totalNumberOfValueProfiles()
464     {
465         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
466     }
467     ValueProfile* getFromAllValueProfiles(unsigned index)
468     {
469         if (index < numberOfArgumentValueProfiles())
470             return valueProfileForArgument(index);
471         return valueProfile(index - numberOfArgumentValueProfiles());
472     }
473
474     RareCaseProfile* addRareCaseProfile(int bytecodeOffset)
475     {
476         m_rareCaseProfiles.append(RareCaseProfile(bytecodeOffset));
477         return &m_rareCaseProfiles.last();
478     }
479     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
480     RareCaseProfile* rareCaseProfile(int index) { return &m_rareCaseProfiles[index]; }
481     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset)
482     {
483         return tryBinarySearch<RareCaseProfile, int>(
484                                                      m_rareCaseProfiles, m_rareCaseProfiles.size(), bytecodeOffset,
485                                                      getRareCaseProfileBytecodeOffset);
486     }
487
488     bool likelyToTakeSlowCase(int bytecodeOffset)
489     {
490         if (!hasBaselineJITProfiling())
491             return false;
492         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
493         return value >= Options::likelyToTakeSlowCaseMinimumCount();
494     }
495
496     bool couldTakeSlowCase(int bytecodeOffset)
497     {
498         if (!hasBaselineJITProfiling())
499             return false;
500         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
501         return value >= Options::couldTakeSlowCaseMinimumCount();
502     }
503
504     RareCaseProfile* addSpecialFastCaseProfile(int bytecodeOffset)
505     {
506         m_specialFastCaseProfiles.append(RareCaseProfile(bytecodeOffset));
507         return &m_specialFastCaseProfiles.last();
508     }
509     unsigned numberOfSpecialFastCaseProfiles() { return m_specialFastCaseProfiles.size(); }
510     RareCaseProfile* specialFastCaseProfile(int index) { return &m_specialFastCaseProfiles[index]; }
511     RareCaseProfile* specialFastCaseProfileForBytecodeOffset(int bytecodeOffset)
512     {
513         return tryBinarySearch<RareCaseProfile, int>(
514                                                      m_specialFastCaseProfiles, m_specialFastCaseProfiles.size(), bytecodeOffset,
515                                                      getRareCaseProfileBytecodeOffset);
516     }
517
518     bool likelyToTakeSpecialFastCase(int bytecodeOffset)
519     {
520         if (!hasBaselineJITProfiling())
521             return false;
522         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
523         return specialFastCaseCount >= Options::likelyToTakeSlowCaseMinimumCount();
524     }
525
526     bool couldTakeSpecialFastCase(int bytecodeOffset)
527     {
528         if (!hasBaselineJITProfiling())
529             return false;
530         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
531         return specialFastCaseCount >= Options::couldTakeSlowCaseMinimumCount();
532     }
533
534     bool likelyToTakeDeepestSlowCase(int bytecodeOffset)
535     {
536         if (!hasBaselineJITProfiling())
537             return false;
538         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
539         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
540         unsigned value = slowCaseCount - specialFastCaseCount;
541         return value >= Options::likelyToTakeSlowCaseMinimumCount();
542     }
543
544     bool likelyToTakeAnySlowCase(int bytecodeOffset)
545     {
546         if (!hasBaselineJITProfiling())
547             return false;
548         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
549         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
550         unsigned value = slowCaseCount + specialFastCaseCount;
551         return value >= Options::likelyToTakeSlowCaseMinimumCount();
552     }
553
554     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
555     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
556     ArrayProfile* addArrayProfile(unsigned bytecodeOffset)
557     {
558         m_arrayProfiles.append(ArrayProfile(bytecodeOffset));
559         return &m_arrayProfiles.last();
560     }
561     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
562     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
563 #endif
564
565     // Exception handling support
566
567     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
568     void allocateHandlers(const Vector<UnlinkedHandlerInfo>& unlinkedHandlers)
569     {
570         size_t count = unlinkedHandlers.size();
571         if (!count)
572             return;
573         createRareDataIfNecessary();
574         m_rareData->m_exceptionHandlers.resize(count);
575         for (size_t i = 0; i < count; ++i) {
576             m_rareData->m_exceptionHandlers[i].start = unlinkedHandlers[i].start;
577             m_rareData->m_exceptionHandlers[i].end = unlinkedHandlers[i].end;
578             m_rareData->m_exceptionHandlers[i].target = unlinkedHandlers[i].target;
579             m_rareData->m_exceptionHandlers[i].scopeDepth = unlinkedHandlers[i].scopeDepth;
580         }
581
582     }
583     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
584
585     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
586
587 #if ENABLE(JIT)
588     Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow>& callReturnIndexVector()
589     {
590         createRareDataIfNecessary();
591         return m_rareData->m_callReturnIndexVector;
592     }
593 #endif
594
595 #if ENABLE(DFG_JIT)
596     SegmentedVector<InlineCallFrame, 4>& inlineCallFrames()
597     {
598         createRareDataIfNecessary();
599         return m_rareData->m_inlineCallFrames;
600     }
601         
602     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins()
603     {
604         createRareDataIfNecessary();
605         return m_rareData->m_codeOrigins;
606     }
607     
608     unsigned addCodeOrigin(CodeOrigin codeOrigin)
609     {
610         createRareDataIfNecessary();
611         unsigned result = m_rareData->m_codeOrigins.size();
612         m_rareData->m_codeOrigins.append(codeOrigin);
613         return result;
614     }
615         
616     // Having code origins implies that there has been some inlining.
617     bool hasCodeOrigins()
618     {
619         return m_rareData && !!m_rareData->m_codeOrigins.size();
620     }
621         
622     bool canGetCodeOrigin(unsigned index)
623     {
624         if (!m_rareData)
625             return false;
626         return m_rareData->m_codeOrigins.size() > index;
627     }
628
629     CodeOrigin codeOrigin(unsigned index)
630     {
631         RELEASE_ASSERT(m_rareData);
632         return m_rareData->m_codeOrigins[index];
633     }
634
635     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
636     {
637         ASSERT(JITCode::isBaselineCode(jitType()));
638         ConcurrentJITLocker locker(m_lock);
639         return m_exitProfile.add(locker, site);
640     }
641         
642     bool hasExitSite(const DFG::FrequentExitSite& site) const
643     {
644         ConcurrentJITLocker locker(m_lock);
645         return m_exitProfile.hasExitSite(locker, site);
646     }
647
648     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
649
650     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
651     {
652         return m_lazyOperandValueProfiles;
653     }
654 #endif
655
656     // Constant Pool
657 #if ENABLE(DFG_JIT)
658     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
659     size_t numberOfDFGIdentifiers() const
660     {
661         if (!JITCode::isOptimizingJIT(jitType()))
662             return 0;
663
664         return m_jitCode->dfgCommon()->dfgIdentifiers.size();
665     }
666
667     const Identifier& identifier(int index) const
668     {
669         size_t unlinkedIdentifiers = m_unlinkedCode->numberOfIdentifiers();
670         if (static_cast<unsigned>(index) < unlinkedIdentifiers)
671             return m_unlinkedCode->identifier(index);
672         ASSERT(JITCode::isOptimizingJIT(jitType()));
673         return m_jitCode->dfgCommon()->dfgIdentifiers[index - unlinkedIdentifiers];
674     }
675 #else
676     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
677     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
678 #endif
679
680     size_t numberOfConstantRegisters() const { return m_constantRegisters.size(); }
681     unsigned addConstant(JSValue v)
682     {
683         unsigned result = m_constantRegisters.size();
684         m_constantRegisters.append(WriteBarrier<Unknown>());
685         m_constantRegisters.last().set(m_globalObject->vm(), m_ownerExecutable.get(), v);
686         return result;
687     }
688
689
690     unsigned addOrFindConstant(JSValue);
691     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
692     ALWAYS_INLINE bool isConstantRegisterIndex(int index) const { return index >= FirstConstantRegisterIndex; }
693     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
694
695     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
696     int numberOfFunctionDecls() { return m_functionDecls.size(); }
697     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
698
699     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
700
701     unsigned numberOfConstantBuffers() const
702     {
703         if (!m_rareData)
704             return 0;
705         return m_rareData->m_constantBuffers.size();
706     }
707     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
708     {
709         createRareDataIfNecessary();
710         unsigned size = m_rareData->m_constantBuffers.size();
711         m_rareData->m_constantBuffers.append(buffer);
712         return size;
713     }
714
715     Vector<JSValue>& constantBufferAsVector(unsigned index)
716     {
717         ASSERT(m_rareData);
718         return m_rareData->m_constantBuffers[index];
719     }
720     JSValue* constantBuffer(unsigned index)
721     {
722         return constantBufferAsVector(index).data();
723     }
724
725     JSGlobalObject* globalObject() { return m_globalObject.get(); }
726
727     JSGlobalObject* globalObjectFor(CodeOrigin);
728
729     // Jump Tables
730
731     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
732     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
733     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
734     void clearSwitchJumpTables()
735     {
736         if (!m_rareData)
737             return;
738         m_rareData->m_switchJumpTables.clear();
739     }
740
741     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
742     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
743     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
744
745
746     SharedSymbolTable* symbolTable() const { return m_unlinkedCode->symbolTable(); }
747
748     EvalCodeCache& evalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_evalCodeCache; }
749
750     enum ShrinkMode {
751         // Shrink prior to generating machine code that may point directly into vectors.
752         EarlyShrink,
753
754         // Shrink after generating machine code, and after possibly creating new vectors
755         // and appending to others. At this time it is not safe to shrink certain vectors
756         // because we would have generated machine code that references them directly.
757         LateShrink
758     };
759     void shrinkToFit(ShrinkMode);
760
761     void copyPostParseDataFrom(CodeBlock* alternative);
762     void copyPostParseDataFromAlternative();
763
764     // Functions for controlling when JITting kicks in, in a mixed mode
765     // execution world.
766
767     bool checkIfJITThresholdReached()
768     {
769         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
770     }
771
772     void dontJITAnytimeSoon()
773     {
774         m_llintExecuteCounter.deferIndefinitely();
775     }
776
777     void jitAfterWarmUp()
778     {
779         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITAfterWarmUp(), this);
780     }
781
782     void jitSoon()
783     {
784         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITSoon(), this);
785     }
786
787     const ExecutionCounter& llintExecuteCounter() const
788     {
789         return m_llintExecuteCounter;
790     }
791
792     // Functions for controlling when tiered compilation kicks in. This
793     // controls both when the optimizing compiler is invoked and when OSR
794     // entry happens. Two triggers exist: the loop trigger and the return
795     // trigger. In either case, when an addition to m_jitExecuteCounter
796     // causes it to become non-negative, the optimizing compiler is
797     // invoked. This includes a fast check to see if this CodeBlock has
798     // already been optimized (i.e. replacement() returns a CodeBlock
799     // that was optimized with a higher tier JIT than this one). In the
800     // case of the loop trigger, if the optimized compilation succeeds
801     // (or has already succeeded in the past) then OSR is attempted to
802     // redirect program flow into the optimized code.
803
804     // These functions are called from within the optimization triggers,
805     // and are used as a single point at which we define the heuristics
806     // for how much warm-up is mandated before the next optimization
807     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
808     // as this is called from the CodeBlock constructor.
809
810     // When we observe a lot of speculation failures, we trigger a
811     // reoptimization. But each time, we increase the optimization trigger
812     // to avoid thrashing.
813     unsigned reoptimizationRetryCounter() const;
814     void countReoptimization();
815 #if ENABLE(JIT)
816     unsigned numberOfDFGCompiles();
817
818     int32_t codeTypeThresholdMultiplier() const;
819
820     int32_t counterValueForOptimizeAfterWarmUp();
821     int32_t counterValueForOptimizeAfterLongWarmUp();
822     int32_t counterValueForOptimizeSoon();
823
824     int32_t* addressOfJITExecuteCounter()
825     {
826         return &m_jitExecuteCounter.m_counter;
827     }
828
829     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_counter); }
830     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_activeThreshold); }
831     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(ExecutionCounter, m_totalCount); }
832
833     const ExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
834
835     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
836
837     // Check if the optimization threshold has been reached, and if not,
838     // adjust the heuristics accordingly. Returns true if the threshold has
839     // been reached.
840     bool checkIfOptimizationThresholdReached();
841
842     // Call this to force the next optimization trigger to fire. This is
843     // rarely wise, since optimization triggers are typically more
844     // expensive than executing baseline code.
845     void optimizeNextInvocation();
846
847     // Call this to prevent optimization from happening again. Note that
848     // optimization will still happen after roughly 2^29 invocations,
849     // so this is really meant to delay that as much as possible. This
850     // is called if optimization failed, and we expect it to fail in
851     // the future as well.
852     void dontOptimizeAnytimeSoon();
853
854     // Call this to reinitialize the counter to its starting state,
855     // forcing a warm-up to happen before the next optimization trigger
856     // fires. This is called in the CodeBlock constructor. It also
857     // makes sense to call this if an OSR exit occurred. Note that
858     // OSR exit code is code generated, so the value of the execute
859     // counter that this corresponds to is also available directly.
860     void optimizeAfterWarmUp();
861
862     // Call this to force an optimization trigger to fire only after
863     // a lot of warm-up.
864     void optimizeAfterLongWarmUp();
865
866     // Call this to cause an optimization trigger to fire soon, but
867     // not necessarily the next one. This makes sense if optimization
868     // succeeds. Successfuly optimization means that all calls are
869     // relinked to the optimized code, so this only affects call
870     // frames that are still executing this CodeBlock. The value here
871     // is tuned to strike a balance between the cost of OSR entry
872     // (which is too high to warrant making every loop back edge to
873     // trigger OSR immediately) and the cost of executing baseline
874     // code (which is high enough that we don't necessarily want to
875     // have a full warm-up). The intuition for calling this instead of
876     // optimizeNextInvocation() is for the case of recursive functions
877     // with loops. Consider that there may be N call frames of some
878     // recursive function, for a reasonably large value of N. The top
879     // one triggers optimization, and then returns, and then all of
880     // the others return. We don't want optimization to be triggered on
881     // each return, as that would be superfluous. It only makes sense
882     // to trigger optimization if one of those functions becomes hot
883     // in the baseline code.
884     void optimizeSoon();
885
886     void forceOptimizationSlowPathConcurrently();
887
888     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
889     
890     uint32_t osrExitCounter() const { return m_osrExitCounter; }
891
892     void countOSRExit() { m_osrExitCounter++; }
893
894     uint32_t* addressOfOSRExitCounter() { return &m_osrExitCounter; }
895
896     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
897
898     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
899     uint32_t exitCountThresholdForReoptimization();
900     uint32_t exitCountThresholdForReoptimizationFromLoop();
901     bool shouldReoptimizeNow();
902     bool shouldReoptimizeFromLoopNow();
903 #else // No JIT
904     void optimizeAfterWarmUp() { }
905     unsigned numberOfDFGCompiles() { return 0; }
906 #endif
907
908 #if ENABLE(VALUE_PROFILER)
909     bool shouldOptimizeNow();
910     void updateAllValueProfilePredictions(OperationInProgress = NoOperation);
911     void updateAllArrayPredictions();
912     void updateAllPredictions(OperationInProgress = NoOperation);
913 #else
914     bool updateAllPredictionsAndCheckIfShouldOptimizeNow() { return false; }
915     void updateAllValueProfilePredictions(OperationInProgress = NoOperation) { }
916     void updateAllArrayPredictions() { }
917     void updateAllPredictions(OperationInProgress = NoOperation) { }
918 #endif
919
920 #if ENABLE(JIT)
921     void reoptimize();
922 #endif
923
924 #if ENABLE(VERBOSE_VALUE_PROFILE)
925     void dumpValueProfiles();
926 #endif
927
928     // FIXME: Make these remaining members private.
929
930     int m_numCalleeRegisters;
931     int m_numVars;
932     bool m_isConstructor;
933     
934     // This is intentionally public; it's the responsibility of anyone doing any
935     // of the following to hold the lock:
936     //
937     // - Modifying any inline cache in this code block.
938     //
939     // - Quering any inline cache in this code block, from a thread other than
940     //   the main thread.
941     //
942     // Additionally, it's only legal to modify the inline cache on the main
943     // thread. This means that the main thread can query the inline cache without
944     // locking. This is crucial since executing the inline cache is effectively
945     // "querying" it.
946     //
947     // Another exception to the rules is that the GC can do whatever it wants
948     // without holding any locks, because the GC is guaranteed to wait until any
949     // concurrent compilation threads finish what they're doing.
950     mutable ConcurrentJITLock m_lock;
951     
952     bool m_shouldAlwaysBeInlined;
953     bool m_allTransitionsHaveBeenMarked; // Initialized and used on every GC.
954     
955 protected:
956 #if ENABLE(JIT)
957     virtual CompilationResult jitCompileImpl(ExecState*) = 0;
958     virtual void jettisonImpl() = 0;
959 #endif
960     virtual void visitWeakReferences(SlotVisitor&);
961     virtual void finalizeUnconditionally();
962
963 #if ENABLE(DFG_JIT)
964     void tallyFrequentExitSites();
965 #else
966     void tallyFrequentExitSites() { }
967 #endif
968
969 private:
970     friend class DFGCodeBlocks;
971     
972     void noticeIncomingCall(ExecState* callerFrame);
973     
974     double optimizationThresholdScalingFactor();
975
976 #if ENABLE(JIT)
977     ClosureCallStubRoutine* findClosureCallForReturnPC(ReturnAddressPtr);
978 #endif
979         
980 #if ENABLE(VALUE_PROFILER)
981     void updateAllPredictionsAndCountLiveness(OperationInProgress, unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
982 #endif
983
984     void setConstantRegisters(const Vector<WriteBarrier<Unknown> >& constants)
985     {
986         size_t count = constants.size();
987         m_constantRegisters.resize(count);
988         for (size_t i = 0; i < count; i++)
989             m_constantRegisters[i].set(*m_vm, ownerExecutable(), constants[i].get());
990     }
991
992     void dumpBytecode(PrintStream&, ExecState*, const Instruction* begin, const Instruction*&);
993
994     CString registerName(int r) const;
995     void printUnaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
996     void printBinaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
997     void printConditionalJump(PrintStream&, ExecState*, const Instruction*, const Instruction*&, int location, const char* op);
998     void printGetByIdOp(PrintStream&, ExecState*, int location, const Instruction*&);
999     void printGetByIdCacheStatus(PrintStream&, ExecState*, int location);
1000     enum CacheDumpMode { DumpCaches, DontDumpCaches };
1001     void printCallOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op, CacheDumpMode, bool& hasPrintedProfiling);
1002     void printPutByIdOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1003     void beginDumpProfiling(PrintStream&, bool& hasPrintedProfiling);
1004     void dumpValueProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1005     void dumpArrayProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1006 #if ENABLE(VALUE_PROFILER)
1007     void dumpRareCaseProfile(PrintStream&, const char* name, RareCaseProfile*, bool& hasPrintedProfiling);
1008 #endif
1009         
1010 #if ENABLE(DFG_JIT)
1011     bool shouldImmediatelyAssumeLivenessDuringScan()
1012     {
1013         // Null m_dfgData means that this is a baseline JIT CodeBlock. Baseline JIT
1014         // CodeBlocks don't need to be jettisoned when their weak references go
1015         // stale. So if a basline JIT CodeBlock gets scanned, we can assume that
1016         // this means that it's live.
1017         if (!JITCode::isOptimizingJIT(jitType()))
1018             return true;
1019
1020         // For simplicity, we don't attempt to jettison code blocks during GC if
1021         // they are executing. Instead we strongly mark their weak references to
1022         // allow them to continue to execute soundly.
1023         if (m_jitCode->dfgCommon()->mayBeExecuting)
1024             return true;
1025
1026         if (Options::forceDFGCodeBlockLiveness())
1027             return true;
1028
1029         return false;
1030     }
1031 #else
1032     bool shouldImmediatelyAssumeLivenessDuringScan() { return true; }
1033 #endif
1034     
1035     void propagateTransitions(SlotVisitor&);
1036     void determineLiveness(SlotVisitor&);
1037         
1038     void stronglyVisitStrongReferences(SlotVisitor&);
1039     void stronglyVisitWeakReferences(SlotVisitor&);
1040
1041     void createRareDataIfNecessary()
1042     {
1043         if (!m_rareData)
1044             m_rareData = adoptPtr(new RareData);
1045     }
1046
1047 #if ENABLE(JIT)
1048     void resetStubInternal(RepatchBuffer&, StructureStubInfo&);
1049     void resetStubDuringGCInternal(RepatchBuffer&, StructureStubInfo&);
1050 #endif
1051     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
1052     int m_numParameters;
1053     WriteBarrier<ScriptExecutable> m_ownerExecutable;
1054     VM* m_vm;
1055
1056     RefCountedArray<Instruction> m_instructions;
1057     int m_thisRegister;
1058     int m_argumentsRegister;
1059     int m_activationRegister;
1060
1061     bool m_isStrictMode;
1062     bool m_needsActivation;
1063
1064     RefPtr<SourceProvider> m_source;
1065     unsigned m_sourceOffset;
1066     unsigned m_firstLineColumnOffset;
1067     unsigned m_codeType;
1068
1069 #if ENABLE(LLINT)
1070     SegmentedVector<LLIntCallLinkInfo, 8> m_llintCallLinkInfos;
1071     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo> > m_incomingLLIntCalls;
1072 #endif
1073 #if ENABLE(JIT)
1074     Vector<StructureStubInfo> m_structureStubInfos;
1075     Vector<ByValInfo> m_byValInfos;
1076     Vector<CallLinkInfo> m_callLinkInfos;
1077     RefPtr<JITCode> m_jitCode;
1078     MacroAssemblerCodePtr m_jitCodeWithArityCheck;
1079     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo> > m_incomingCalls;
1080 #endif
1081 #if ENABLE(DFG_JIT) || ENABLE(LLINT)
1082     OwnPtr<CompactJITCodeMap> m_jitCodeMap;
1083 #endif
1084 #if ENABLE(DFG_JIT)
1085     // This is relevant to non-DFG code blocks that serve as the profiled code block
1086     // for DFG code blocks.
1087     DFG::ExitProfile m_exitProfile;
1088     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1089 #endif
1090 #if ENABLE(VALUE_PROFILER)
1091     Vector<ValueProfile> m_argumentValueProfiles;
1092     SegmentedVector<ValueProfile, 8> m_valueProfiles;
1093     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1094     SegmentedVector<RareCaseProfile, 8> m_specialFastCaseProfiles;
1095     SegmentedVector<ArrayAllocationProfile, 8> m_arrayAllocationProfiles;
1096     ArrayProfileVector m_arrayProfiles;
1097 #endif
1098     SegmentedVector<ObjectAllocationProfile, 8> m_objectAllocationProfiles;
1099
1100     // Constant Pool
1101     Vector<Identifier> m_additionalIdentifiers;
1102     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1103     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1104     // it, so we're stuck with it for now.
1105     Vector<WriteBarrier<Unknown> > m_constantRegisters;
1106     Vector<WriteBarrier<FunctionExecutable> > m_functionDecls;
1107     Vector<WriteBarrier<FunctionExecutable> > m_functionExprs;
1108
1109     RefPtr<CodeBlock> m_alternative;
1110     
1111     ExecutionCounter m_llintExecuteCounter;
1112
1113     ExecutionCounter m_jitExecuteCounter;
1114     int32_t m_totalJITExecutions;
1115     uint32_t m_osrExitCounter;
1116     uint16_t m_optimizationDelayCounter;
1117     uint16_t m_reoptimizationRetryCounter;
1118     
1119     mutable CodeBlockHash m_hash;
1120
1121     struct RareData {
1122         WTF_MAKE_FAST_ALLOCATED;
1123     public:
1124         Vector<HandlerInfo> m_exceptionHandlers;
1125
1126         // Buffers used for large array literals
1127         Vector<Vector<JSValue> > m_constantBuffers;
1128
1129         // Jump Tables
1130         Vector<SimpleJumpTable> m_switchJumpTables;
1131         Vector<StringJumpTable> m_stringSwitchJumpTables;
1132
1133         EvalCodeCache m_evalCodeCache;
1134
1135 #if ENABLE(JIT)
1136         Vector<CallReturnOffsetToBytecodeOffset, 0, UnsafeVectorOverflow> m_callReturnIndexVector;
1137 #endif
1138 #if ENABLE(DFG_JIT)
1139         SegmentedVector<InlineCallFrame, 4> m_inlineCallFrames;
1140         Vector<CodeOrigin, 0, UnsafeVectorOverflow> m_codeOrigins;
1141 #endif
1142     };
1143 #if COMPILER(MSVC)
1144     friend void WTF::deleteOwnedPtr<RareData>(RareData*);
1145 #endif
1146     OwnPtr<RareData> m_rareData;
1147 #if ENABLE(JIT)
1148     DFG::CapabilityLevel m_capabilityLevelState;
1149 #endif
1150 };
1151
1152 // Program code is not marked by any function, so we make the global object
1153 // responsible for marking it.
1154
1155 class GlobalCodeBlock : public CodeBlock {
1156 protected:
1157     GlobalCodeBlock(CopyParsedBlockTag, GlobalCodeBlock& other)
1158     : CodeBlock(CopyParsedBlock, other)
1159     {
1160     }
1161         
1162     GlobalCodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1163         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1164     {
1165     }
1166 };
1167
1168 class ProgramCodeBlock : public GlobalCodeBlock {
1169 public:
1170     ProgramCodeBlock(CopyParsedBlockTag, ProgramCodeBlock& other)
1171     : GlobalCodeBlock(CopyParsedBlock, other)
1172     {
1173     }
1174
1175     ProgramCodeBlock(ProgramExecutable* ownerExecutable, UnlinkedProgramCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned firstLineColumnOffset)
1176         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, firstLineColumnOffset)
1177     {
1178     }
1179
1180 #if ENABLE(JIT)
1181 protected:
1182 #if ENABLE(DFG_JIT)
1183     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1184     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1185 #endif // ENABLE(DFG_JIT)
1186
1187     virtual void jettisonImpl();
1188     virtual CompilationResult jitCompileImpl(ExecState*);
1189     virtual CodeBlock* replacement();
1190     virtual DFG::CapabilityLevel capabilityLevelInternal();
1191 #endif
1192 };
1193
1194 class EvalCodeBlock : public GlobalCodeBlock {
1195 public:
1196     EvalCodeBlock(CopyParsedBlockTag, EvalCodeBlock& other)
1197     : GlobalCodeBlock(CopyParsedBlock, other)
1198     {
1199     }
1200         
1201     EvalCodeBlock(EvalExecutable* ownerExecutable, UnlinkedEvalCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider)
1202         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, 1)
1203     {
1204     }
1205     
1206     const Identifier& variable(unsigned index) { return unlinkedEvalCodeBlock()->variable(index); }
1207     unsigned numVariables() { return unlinkedEvalCodeBlock()->numVariables(); }
1208     
1209 #if ENABLE(JIT)
1210 protected:
1211 #if ENABLE(DFG_JIT)
1212     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1213     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1214 #endif // ENABLE(DFG_JIT)
1215
1216     virtual void jettisonImpl();
1217     virtual CompilationResult jitCompileImpl(ExecState*);
1218     virtual CodeBlock* replacement();
1219     virtual DFG::CapabilityLevel capabilityLevelInternal();
1220 #endif
1221     
1222 private:
1223     UnlinkedEvalCodeBlock* unlinkedEvalCodeBlock() const { return jsCast<UnlinkedEvalCodeBlock*>(unlinkedCodeBlock()); }
1224 };
1225
1226 class FunctionCodeBlock : public CodeBlock {
1227 public:
1228     FunctionCodeBlock(CopyParsedBlockTag, FunctionCodeBlock& other)
1229     : CodeBlock(CopyParsedBlock, other)
1230     {
1231     }
1232
1233     FunctionCodeBlock(FunctionExecutable* ownerExecutable, UnlinkedFunctionCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1234         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1235     {
1236     }
1237     
1238 #if ENABLE(JIT)
1239 protected:
1240 #if ENABLE(DFG_JIT)
1241     virtual JSObject* compileOptimized(ExecState*, JSScope*, CompilationResult&, unsigned bytecodeIndex);
1242     virtual CompilationResult replaceWithDeferredOptimizedCode(PassRefPtr<DFG::Plan>);
1243 #endif // ENABLE(DFG_JIT)
1244
1245     virtual void jettisonImpl();
1246     virtual CompilationResult jitCompileImpl(ExecState*);
1247     virtual CodeBlock* replacement();
1248     virtual DFG::CapabilityLevel capabilityLevelInternal();
1249 #endif
1250 };
1251
1252 inline CodeBlock* baselineCodeBlockForInlineCallFrame(InlineCallFrame* inlineCallFrame)
1253 {
1254     RELEASE_ASSERT(inlineCallFrame);
1255     ExecutableBase* executable = inlineCallFrame->executable.get();
1256     RELEASE_ASSERT(executable->structure()->classInfo() == &FunctionExecutable::s_info);
1257     return static_cast<FunctionExecutable*>(executable)->baselineCodeBlockFor(inlineCallFrame->isCall ? CodeForCall : CodeForConstruct);
1258 }
1259
1260 inline CodeBlock* baselineCodeBlockForOriginAndBaselineCodeBlock(const CodeOrigin& codeOrigin, CodeBlock* baselineCodeBlock)
1261 {
1262     if (codeOrigin.inlineCallFrame)
1263         return baselineCodeBlockForInlineCallFrame(codeOrigin.inlineCallFrame);
1264     return baselineCodeBlock;
1265 }
1266
1267 inline int CodeBlock::argumentIndexAfterCapture(size_t argument)
1268 {
1269     if (argument >= static_cast<size_t>(symbolTable()->parameterCount()))
1270         return CallFrame::argumentOffset(argument);
1271     
1272     const SlowArgument* slowArguments = symbolTable()->slowArguments();
1273     if (!slowArguments || slowArguments[argument].status == SlowArgument::Normal)
1274         return CallFrame::argumentOffset(argument);
1275     
1276     ASSERT(slowArguments[argument].status == SlowArgument::Captured);
1277     return slowArguments[argument].index;
1278 }
1279
1280 inline Register& ExecState::r(int index)
1281 {
1282     CodeBlock* codeBlock = this->codeBlock();
1283     if (codeBlock->isConstantRegisterIndex(index))
1284         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1285     return this[index];
1286 }
1287
1288 inline Register& ExecState::uncheckedR(int index)
1289 {
1290     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1291     return this[index];
1292 }
1293
1294 inline JSValue ExecState::argumentAfterCapture(size_t argument)
1295 {
1296     if (argument >= argumentCount())
1297         return jsUndefined();
1298     
1299     if (!codeBlock())
1300         return this[argumentOffset(argument)].jsValue();
1301     
1302     return this[codeBlock()->argumentIndexAfterCapture(argument)].jsValue();
1303 }
1304
1305 #if ENABLE(DFG_JIT)
1306 inline void DFGCodeBlocks::mark(void* candidateCodeBlock)
1307 {
1308     // We have to check for 0 and -1 because those are used by the HashMap as markers.
1309     uintptr_t value = reinterpret_cast<uintptr_t>(candidateCodeBlock);
1310     
1311     // This checks for both of those nasty cases in one go.
1312     // 0 + 1 = 1
1313     // -1 + 1 = 0
1314     if (value + 1 <= 1)
1315         return;
1316     
1317     HashSet<CodeBlock*>::iterator iter = m_set.find(static_cast<CodeBlock*>(candidateCodeBlock));
1318     if (iter == m_set.end())
1319         return;
1320     
1321     (*iter)->m_jitCode->dfgCommon()->mayBeExecuting = true;
1322 }
1323 #endif
1324
1325 } // namespace JSC
1326
1327 #endif // CodeBlock_h