Refactored the JSC::Heap extra cost API for clarity and to make some known bugs more...
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008-2015 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #ifndef CodeBlock_h
31 #define CodeBlock_h
32
33 #include "ArrayProfile.h"
34 #include "ByValInfo.h"
35 #include "BytecodeConventions.h"
36 #include "BytecodeLivenessAnalysis.h"
37 #include "CallLinkInfo.h"
38 #include "CallReturnOffsetToBytecodeOffset.h"
39 #include "CodeBlockHash.h"
40 #include "CodeBlockSet.h"
41 #include "ConcurrentJITLock.h"
42 #include "CodeOrigin.h"
43 #include "CodeType.h"
44 #include "CompactJITCodeMap.h"
45 #include "DFGCommon.h"
46 #include "DFGCommonData.h"
47 #include "DFGExitProfile.h"
48 #include "DeferredCompilationCallback.h"
49 #include "EvalCodeCache.h"
50 #include "ExecutionCounter.h"
51 #include "ExpressionRangeInfo.h"
52 #include "HandlerInfo.h"
53 #include "ObjectAllocationProfile.h"
54 #include "Options.h"
55 #include "PutPropertySlot.h"
56 #include "Instruction.h"
57 #include "JITCode.h"
58 #include "JITWriteBarrier.h"
59 #include "JSGlobalObject.h"
60 #include "JumpTable.h"
61 #include "LLIntCallLinkInfo.h"
62 #include "LazyOperandValueProfile.h"
63 #include "ProfilerCompilation.h"
64 #include "ProfilerJettisonReason.h"
65 #include "RegExpObject.h"
66 #include "StructureStubInfo.h"
67 #include "UnconditionalFinalizer.h"
68 #include "ValueProfile.h"
69 #include "VirtualRegister.h"
70 #include "Watchpoint.h"
71 #include <wtf/Bag.h>
72 #include <wtf/FastMalloc.h>
73 #include <wtf/RefCountedArray.h>
74 #include <wtf/RefPtr.h>
75 #include <wtf/SegmentedVector.h>
76 #include <wtf/Vector.h>
77 #include <wtf/text/WTFString.h>
78
79 namespace JSC {
80
81 class ExecState;
82 class LLIntOffsetsExtractor;
83 class RepatchBuffer;
84 class TypeLocation;
85
86 inline VirtualRegister unmodifiedArgumentsRegister(VirtualRegister argumentsRegister) { return VirtualRegister(argumentsRegister.offset() + 1); }
87
88 enum ReoptimizationMode { DontCountReoptimization, CountReoptimization };
89
90 class CodeBlock : public ThreadSafeRefCounted<CodeBlock>, public UnconditionalFinalizer, public WeakReferenceHarvester {
91     WTF_MAKE_FAST_ALLOCATED;
92     friend class BytecodeLivenessAnalysis;
93     friend class JIT;
94     friend class LLIntOffsetsExtractor;
95 public:
96     enum CopyParsedBlockTag { CopyParsedBlock };
97 protected:
98     CodeBlock(CopyParsedBlockTag, CodeBlock& other);
99         
100     CodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, PassRefPtr<SourceProvider>, unsigned sourceOffset, unsigned firstLineColumnOffset);
101
102     WriteBarrier<JSGlobalObject> m_globalObject;
103     Heap* m_heap;
104
105 public:
106     JS_EXPORT_PRIVATE virtual ~CodeBlock();
107
108     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
109
110     CString inferredName() const;
111     CodeBlockHash hash() const;
112     bool hasHash() const;
113     bool isSafeToComputeHash() const;
114     CString hashAsStringIfPossible() const;
115     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
116     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
117     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
118     void dump(PrintStream&) const;
119
120     int numParameters() const { return m_numParameters; }
121     void setNumParameters(int newValue);
122
123     int* addressOfNumParameters() { return &m_numParameters; }
124     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
125
126     CodeBlock* alternative() { return m_alternative.get(); }
127     PassRefPtr<CodeBlock> releaseAlternative() { return m_alternative.release(); }
128     void setAlternative(PassRefPtr<CodeBlock> alternative) { m_alternative = alternative; }
129
130     template <typename Functor> void forEachRelatedCodeBlock(Functor&& functor)
131     {
132         Functor f(std::forward<Functor>(functor));
133         Vector<CodeBlock*, 4> codeBlocks;
134         codeBlocks.append(this);
135
136         while (!codeBlocks.isEmpty()) {
137             CodeBlock* currentCodeBlock = codeBlocks.takeLast();
138             f(currentCodeBlock);
139
140             if (CodeBlock* alternative = currentCodeBlock->alternative())
141                 codeBlocks.append(alternative);
142             if (CodeBlock* osrEntryBlock = currentCodeBlock->specialOSREntryBlockOrNull())
143                 codeBlocks.append(osrEntryBlock);
144         }
145     }
146     
147     CodeSpecializationKind specializationKind() const
148     {
149         return specializationFromIsConstruct(m_isConstructor);
150     }
151     
152     CodeBlock* baselineAlternative();
153     
154     // FIXME: Get rid of this.
155     // https://bugs.webkit.org/show_bug.cgi?id=123677
156     CodeBlock* baselineVersion();
157
158     void visitAggregate(SlotVisitor&);
159
160     void dumpBytecode(PrintStream& = WTF::dataFile());
161     void dumpBytecode(
162         PrintStream&, unsigned bytecodeOffset,
163         const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
164     void printStructures(PrintStream&, const Instruction*);
165     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
166
167     bool isStrictMode() const { return m_isStrictMode; }
168     ECMAMode ecmaMode() const { return isStrictMode() ? StrictMode : NotStrictMode; }
169
170     inline bool isKnownNotImmediate(int index)
171     {
172         if (index == m_thisRegister.offset() && !m_isStrictMode)
173             return true;
174
175         if (isConstantRegisterIndex(index))
176             return getConstant(index).isCell();
177
178         return false;
179     }
180
181     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
182     {
183         return index >= m_numVars;
184     }
185
186     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset);
187     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
188     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
189     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
190                                           int& startOffset, int& endOffset, unsigned& line, unsigned& column);
191
192     void getStubInfoMap(const ConcurrentJITLocker&, StubInfoMap& result);
193     void getStubInfoMap(StubInfoMap& result);
194     
195     void getCallLinkInfoMap(const ConcurrentJITLocker&, CallLinkInfoMap& result);
196     void getCallLinkInfoMap(CallLinkInfoMap& result);
197     
198 #if ENABLE(JIT)
199     StructureStubInfo* addStubInfo();
200     Bag<StructureStubInfo>::iterator stubInfoBegin() { return m_stubInfos.begin(); }
201     Bag<StructureStubInfo>::iterator stubInfoEnd() { return m_stubInfos.end(); }
202     
203     // O(n) operation. Use getStubInfoMap() unless you really only intend to get one
204     // stub info.
205     StructureStubInfo* findStubInfo(CodeOrigin);
206
207     void resetStub(StructureStubInfo&);
208     
209     ByValInfo& getByValInfo(unsigned bytecodeIndex)
210     {
211         return *(binarySearch<ByValInfo, unsigned>(m_byValInfos, m_byValInfos.size(), bytecodeIndex, getByValInfoBytecodeIndex));
212     }
213
214     CallLinkInfo* addCallLinkInfo();
215     Bag<CallLinkInfo>::iterator callLinkInfosBegin() { return m_callLinkInfos.begin(); }
216     Bag<CallLinkInfo>::iterator callLinkInfosEnd() { return m_callLinkInfos.end(); }
217
218     // This is a slow function call used primarily for compiling OSR exits in the case
219     // that there had been inlining. Chances are if you want to use this, you're really
220     // looking for a CallLinkInfoMap to amortize the cost of calling this.
221     CallLinkInfo* getCallLinkInfoForBytecodeIndex(unsigned bytecodeIndex);
222 #endif // ENABLE(JIT)
223
224     void unlinkIncomingCalls();
225
226 #if ENABLE(JIT)
227     void unlinkCalls();
228         
229     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
230     void linkIncomingPolymorphicCall(ExecState* callerFrame, PolymorphicCallNode*);
231 #endif // ENABLE(JIT)
232
233     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
234
235     void setJITCodeMap(std::unique_ptr<CompactJITCodeMap> jitCodeMap)
236     {
237         m_jitCodeMap = WTF::move(jitCodeMap);
238     }
239     CompactJITCodeMap* jitCodeMap()
240     {
241         return m_jitCodeMap.get();
242     }
243     
244     unsigned bytecodeOffset(Instruction* returnAddress)
245     {
246         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
247         return static_cast<Instruction*>(returnAddress) - instructions().begin();
248     }
249
250     bool isNumericCompareFunction() { return m_unlinkedCode->isNumericCompareFunction(); }
251
252     unsigned numberOfInstructions() const { return m_instructions.size(); }
253     RefCountedArray<Instruction>& instructions() { return m_instructions; }
254     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
255
256     size_t predictedMachineCodeSize();
257
258     bool usesOpcode(OpcodeID);
259
260     unsigned instructionCount() const { return m_instructions.size(); }
261
262     int argumentIndexAfterCapture(size_t argument);
263     
264     bool hasSlowArguments();
265     const SlowArgument* machineSlowArguments();
266
267     // Exactly equivalent to codeBlock->ownerExecutable()->installCode(codeBlock);
268     void install();
269     
270     // Exactly equivalent to codeBlock->ownerExecutable()->newReplacementCodeBlockFor(codeBlock->specializationKind())
271     PassRefPtr<CodeBlock> newReplacement();
272     
273     void setJITCode(PassRefPtr<JITCode> code)
274     {
275         ASSERT(m_heap->isDeferred());
276         m_heap->reportExtraMemoryAllocated(code->size());
277         ConcurrentJITLocker locker(m_lock);
278         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
279         m_jitCode = code;
280     }
281     PassRefPtr<JITCode> jitCode() { return m_jitCode; }
282     JITCode::JITType jitType() const
283     {
284         JITCode* jitCode = m_jitCode.get();
285         WTF::loadLoadFence();
286         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
287         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
288         return result;
289     }
290
291     bool hasBaselineJITProfiling() const
292     {
293         return jitType() == JITCode::BaselineJIT;
294     }
295     
296 #if ENABLE(JIT)
297     virtual CodeBlock* replacement() = 0;
298
299     virtual DFG::CapabilityLevel capabilityLevelInternal() = 0;
300     DFG::CapabilityLevel capabilityLevel();
301     DFG::CapabilityLevel capabilityLevelState() { return m_capabilityLevelState; }
302
303     bool hasOptimizedReplacement(JITCode::JITType typeToReplace);
304     bool hasOptimizedReplacement(); // the typeToReplace is my JITType
305 #endif
306
307     void jettison(Profiler::JettisonReason, ReoptimizationMode = DontCountReoptimization, const FireDetail* = nullptr);
308     
309     ScriptExecutable* ownerExecutable() const { return m_ownerExecutable.get(); }
310
311     void setVM(VM* vm) { m_vm = vm; }
312     VM* vm() { return m_vm; }
313
314     void setThisRegister(VirtualRegister thisRegister) { m_thisRegister = thisRegister; }
315     VirtualRegister thisRegister() const { return m_thisRegister; }
316
317     bool usesEval() const { return m_unlinkedCode->usesEval(); }
318
319     void setScopeRegister(VirtualRegister scopeRegister)
320     {
321         ASSERT(scopeRegister.isLocal() || !scopeRegister.isValid());
322         m_scopeRegister = scopeRegister;
323     }
324
325     VirtualRegister scopeRegister() const
326     {
327         return m_scopeRegister;
328     }
329
330     void setArgumentsRegister(VirtualRegister argumentsRegister)
331     {
332         ASSERT(argumentsRegister.isValid());
333         m_argumentsRegister = argumentsRegister;
334         ASSERT(usesArguments());
335     }
336     VirtualRegister argumentsRegister() const
337     {
338         ASSERT(usesArguments());
339         return m_argumentsRegister;
340     }
341     VirtualRegister uncheckedArgumentsRegister()
342     {
343         if (!usesArguments())
344             return VirtualRegister();
345         return argumentsRegister();
346     }
347
348     void setActivationRegister(VirtualRegister activationRegister)
349     {
350         m_lexicalEnvironmentRegister = activationRegister;
351     }
352
353     VirtualRegister activationRegister() const
354     {
355         ASSERT(m_lexicalEnvironmentRegister.isValid());
356         return m_lexicalEnvironmentRegister;
357     }
358
359     VirtualRegister uncheckedActivationRegister()
360     {
361         return m_lexicalEnvironmentRegister;
362     }
363
364     bool usesArguments() const { return m_argumentsRegister.isValid(); }
365
366     bool needsActivation() const
367     {
368         ASSERT(m_lexicalEnvironmentRegister.isValid() == m_needsActivation);
369         return m_needsActivation;
370     }
371     
372     unsigned captureCount() const
373     {
374         if (!symbolTable())
375             return 0;
376         return symbolTable()->captureCount();
377     }
378     
379     int captureStart() const
380     {
381         if (!symbolTable())
382             return 0;
383         return symbolTable()->captureStart();
384     }
385     
386     int captureEnd() const
387     {
388         if (!symbolTable())
389             return 0;
390         return symbolTable()->captureEnd();
391     }
392     
393     bool isCaptured(VirtualRegister operand, InlineCallFrame* = 0) const;
394     
395     int framePointerOffsetToGetActivationRegisters(int machineCaptureStart);
396     int framePointerOffsetToGetActivationRegisters();
397
398     CodeType codeType() const { return m_unlinkedCode->codeType(); }
399     PutPropertySlot::Context putByIdContext() const
400     {
401         if (codeType() == EvalCode)
402             return PutPropertySlot::PutByIdEval;
403         return PutPropertySlot::PutById;
404     }
405
406     SourceProvider* source() const { return m_source.get(); }
407     unsigned sourceOffset() const { return m_sourceOffset; }
408     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
409
410     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
411     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
412
413     void clearEvalCache();
414
415     String nameForRegister(VirtualRegister);
416
417 #if ENABLE(JIT)
418     void setNumberOfByValInfos(size_t size) { m_byValInfos.resizeToFit(size); }
419     size_t numberOfByValInfos() const { return m_byValInfos.size(); }
420     ByValInfo& byValInfo(size_t index) { return m_byValInfos[index]; }
421 #endif
422
423     unsigned numberOfArgumentValueProfiles()
424     {
425         ASSERT(m_numParameters >= 0);
426         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
427         return m_argumentValueProfiles.size();
428     }
429     ValueProfile* valueProfileForArgument(unsigned argumentIndex)
430     {
431         ValueProfile* result = &m_argumentValueProfiles[argumentIndex];
432         ASSERT(result->m_bytecodeOffset == -1);
433         return result;
434     }
435
436     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
437     ValueProfile* valueProfile(int index) { return &m_valueProfiles[index]; }
438     ValueProfile* valueProfileForBytecodeOffset(int bytecodeOffset)
439     {
440         ValueProfile* result = binarySearch<ValueProfile, int>(
441             m_valueProfiles, m_valueProfiles.size(), bytecodeOffset,
442             getValueProfileBytecodeOffset<ValueProfile>);
443         ASSERT(result->m_bytecodeOffset != -1);
444         ASSERT(instructions()[bytecodeOffset + opcodeLength(
445             m_vm->interpreter->getOpcodeID(
446                 instructions()[bytecodeOffset].u.opcode)) - 1].u.profile == result);
447         return result;
448     }
449     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJITLocker& locker, int bytecodeOffset)
450     {
451         return valueProfileForBytecodeOffset(bytecodeOffset)->computeUpdatedPrediction(locker);
452     }
453
454     unsigned totalNumberOfValueProfiles()
455     {
456         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
457     }
458     ValueProfile* getFromAllValueProfiles(unsigned index)
459     {
460         if (index < numberOfArgumentValueProfiles())
461             return valueProfileForArgument(index);
462         return valueProfile(index - numberOfArgumentValueProfiles());
463     }
464
465     RareCaseProfile* addRareCaseProfile(int bytecodeOffset)
466     {
467         m_rareCaseProfiles.append(RareCaseProfile(bytecodeOffset));
468         return &m_rareCaseProfiles.last();
469     }
470     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
471     RareCaseProfile* rareCaseProfile(int index) { return &m_rareCaseProfiles[index]; }
472     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset);
473
474     bool likelyToTakeSlowCase(int bytecodeOffset)
475     {
476         if (!hasBaselineJITProfiling())
477             return false;
478         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
479         return value >= Options::likelyToTakeSlowCaseMinimumCount();
480     }
481
482     bool couldTakeSlowCase(int bytecodeOffset)
483     {
484         if (!hasBaselineJITProfiling())
485             return false;
486         unsigned value = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
487         return value >= Options::couldTakeSlowCaseMinimumCount();
488     }
489
490     RareCaseProfile* addSpecialFastCaseProfile(int bytecodeOffset)
491     {
492         m_specialFastCaseProfiles.append(RareCaseProfile(bytecodeOffset));
493         return &m_specialFastCaseProfiles.last();
494     }
495     unsigned numberOfSpecialFastCaseProfiles() { return m_specialFastCaseProfiles.size(); }
496     RareCaseProfile* specialFastCaseProfile(int index) { return &m_specialFastCaseProfiles[index]; }
497     RareCaseProfile* specialFastCaseProfileForBytecodeOffset(int bytecodeOffset)
498     {
499         return tryBinarySearch<RareCaseProfile, int>(
500             m_specialFastCaseProfiles, m_specialFastCaseProfiles.size(), bytecodeOffset,
501             getRareCaseProfileBytecodeOffset);
502     }
503
504     bool likelyToTakeSpecialFastCase(int bytecodeOffset)
505     {
506         if (!hasBaselineJITProfiling())
507             return false;
508         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
509         return specialFastCaseCount >= Options::likelyToTakeSlowCaseMinimumCount();
510     }
511
512     bool couldTakeSpecialFastCase(int bytecodeOffset)
513     {
514         if (!hasBaselineJITProfiling())
515             return false;
516         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
517         return specialFastCaseCount >= Options::couldTakeSlowCaseMinimumCount();
518     }
519
520     bool likelyToTakeDeepestSlowCase(int bytecodeOffset)
521     {
522         if (!hasBaselineJITProfiling())
523             return false;
524         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
525         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
526         unsigned value = slowCaseCount - specialFastCaseCount;
527         return value >= Options::likelyToTakeSlowCaseMinimumCount();
528     }
529
530     bool likelyToTakeAnySlowCase(int bytecodeOffset)
531     {
532         if (!hasBaselineJITProfiling())
533             return false;
534         unsigned slowCaseCount = rareCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
535         unsigned specialFastCaseCount = specialFastCaseProfileForBytecodeOffset(bytecodeOffset)->m_counter;
536         unsigned value = slowCaseCount + specialFastCaseCount;
537         return value >= Options::likelyToTakeSlowCaseMinimumCount();
538     }
539
540     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
541     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
542     ArrayProfile* addArrayProfile(unsigned bytecodeOffset)
543     {
544         m_arrayProfiles.append(ArrayProfile(bytecodeOffset));
545         return &m_arrayProfiles.last();
546     }
547     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
548     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
549
550     // Exception handling support
551
552     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
553     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
554
555     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
556
557 #if ENABLE(DFG_JIT)
558     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins()
559     {
560         return m_jitCode->dfgCommon()->codeOrigins;
561     }
562     
563     // Having code origins implies that there has been some inlining.
564     bool hasCodeOrigins()
565     {
566         return JITCode::isOptimizingJIT(jitType());
567     }
568         
569     bool canGetCodeOrigin(unsigned index)
570     {
571         if (!hasCodeOrigins())
572             return false;
573         return index < codeOrigins().size();
574     }
575
576     CodeOrigin codeOrigin(unsigned index)
577     {
578         return codeOrigins()[index];
579     }
580
581     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
582     {
583         ASSERT(JITCode::isBaselineCode(jitType()));
584         ConcurrentJITLocker locker(m_lock);
585         return m_exitProfile.add(locker, site);
586     }
587
588     bool hasExitSite(const ConcurrentJITLocker& locker, const DFG::FrequentExitSite& site) const
589     {
590         return m_exitProfile.hasExitSite(locker, site);
591     }
592     bool hasExitSite(const DFG::FrequentExitSite& site) const
593     {
594         ConcurrentJITLocker locker(m_lock);
595         return hasExitSite(locker, site);
596     }
597
598     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
599
600     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
601     {
602         return m_lazyOperandValueProfiles;
603     }
604 #endif // ENABLE(DFG_JIT)
605
606     // Constant Pool
607 #if ENABLE(DFG_JIT)
608     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
609     size_t numberOfDFGIdentifiers() const
610     {
611         if (!JITCode::isOptimizingJIT(jitType()))
612             return 0;
613
614         return m_jitCode->dfgCommon()->dfgIdentifiers.size();
615     }
616
617     const Identifier& identifier(int index) const
618     {
619         size_t unlinkedIdentifiers = m_unlinkedCode->numberOfIdentifiers();
620         if (static_cast<unsigned>(index) < unlinkedIdentifiers)
621             return m_unlinkedCode->identifier(index);
622         ASSERT(JITCode::isOptimizingJIT(jitType()));
623         return m_jitCode->dfgCommon()->dfgIdentifiers[index - unlinkedIdentifiers];
624     }
625 #else
626     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
627     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
628 #endif
629
630     Vector<WriteBarrier<Unknown>>& constants() { return m_constantRegisters; }
631     Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation() { return m_constantsSourceCodeRepresentation; }
632     size_t numberOfConstantRegisters() const { return m_constantRegisters.size(); }
633     unsigned addConstant(JSValue v)
634     {
635         unsigned result = m_constantRegisters.size();
636         m_constantRegisters.append(WriteBarrier<Unknown>());
637         m_constantRegisters.last().set(m_globalObject->vm(), m_ownerExecutable.get(), v);
638         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
639         return result;
640     }
641
642     unsigned addConstantLazily()
643     {
644         unsigned result = m_constantRegisters.size();
645         m_constantRegisters.append(WriteBarrier<Unknown>());
646         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
647         return result;
648     }
649
650     bool findConstant(JSValue, unsigned& result);
651     unsigned addOrFindConstant(JSValue);
652     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
653     ALWAYS_INLINE bool isConstantRegisterIndex(int index) const { return index >= FirstConstantRegisterIndex; }
654     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
655     ALWAYS_INLINE SourceCodeRepresentation constantSourceCodeRepresentation(int index) const { return m_constantsSourceCodeRepresentation[index - FirstConstantRegisterIndex]; }
656
657     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
658     int numberOfFunctionDecls() { return m_functionDecls.size(); }
659     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
660     
661     void jettisonFunctionDeclsAndExprs();
662
663     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
664
665     unsigned numberOfConstantBuffers() const
666     {
667         if (!m_rareData)
668             return 0;
669         return m_rareData->m_constantBuffers.size();
670     }
671     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
672     {
673         createRareDataIfNecessary();
674         unsigned size = m_rareData->m_constantBuffers.size();
675         m_rareData->m_constantBuffers.append(buffer);
676         return size;
677     }
678
679     Vector<JSValue>& constantBufferAsVector(unsigned index)
680     {
681         ASSERT(m_rareData);
682         return m_rareData->m_constantBuffers[index];
683     }
684     JSValue* constantBuffer(unsigned index)
685     {
686         return constantBufferAsVector(index).data();
687     }
688
689     Heap* heap() const { return m_heap; }
690     JSGlobalObject* globalObject() { return m_globalObject.get(); }
691
692     JSGlobalObject* globalObjectFor(CodeOrigin);
693
694     BytecodeLivenessAnalysis& livenessAnalysis()
695     {
696         {
697             ConcurrentJITLocker locker(m_lock);
698             if (!!m_livenessAnalysis)
699                 return *m_livenessAnalysis;
700         }
701         std::unique_ptr<BytecodeLivenessAnalysis> analysis =
702             std::make_unique<BytecodeLivenessAnalysis>(this);
703         {
704             ConcurrentJITLocker locker(m_lock);
705             if (!m_livenessAnalysis)
706                 m_livenessAnalysis = WTF::move(analysis);
707             return *m_livenessAnalysis;
708         }
709     }
710     
711     void validate();
712
713     // Jump Tables
714
715     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
716     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
717     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
718     void clearSwitchJumpTables()
719     {
720         if (!m_rareData)
721             return;
722         m_rareData->m_switchJumpTables.clear();
723     }
724
725     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
726     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
727     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
728
729
730     SymbolTable* symbolTable() const { return m_symbolTable.get(); }
731
732     EvalCodeCache& evalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_evalCodeCache; }
733
734     enum ShrinkMode {
735         // Shrink prior to generating machine code that may point directly into vectors.
736         EarlyShrink,
737
738         // Shrink after generating machine code, and after possibly creating new vectors
739         // and appending to others. At this time it is not safe to shrink certain vectors
740         // because we would have generated machine code that references them directly.
741         LateShrink
742     };
743     void shrinkToFit(ShrinkMode);
744
745     // Functions for controlling when JITting kicks in, in a mixed mode
746     // execution world.
747
748     bool checkIfJITThresholdReached()
749     {
750         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
751     }
752
753     void dontJITAnytimeSoon()
754     {
755         m_llintExecuteCounter.deferIndefinitely();
756     }
757
758     void jitAfterWarmUp()
759     {
760         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITAfterWarmUp(), this);
761     }
762
763     void jitSoon()
764     {
765         m_llintExecuteCounter.setNewThreshold(Options::thresholdForJITSoon(), this);
766     }
767
768     const BaselineExecutionCounter& llintExecuteCounter() const
769     {
770         return m_llintExecuteCounter;
771     }
772
773     // Functions for controlling when tiered compilation kicks in. This
774     // controls both when the optimizing compiler is invoked and when OSR
775     // entry happens. Two triggers exist: the loop trigger and the return
776     // trigger. In either case, when an addition to m_jitExecuteCounter
777     // causes it to become non-negative, the optimizing compiler is
778     // invoked. This includes a fast check to see if this CodeBlock has
779     // already been optimized (i.e. replacement() returns a CodeBlock
780     // that was optimized with a higher tier JIT than this one). In the
781     // case of the loop trigger, if the optimized compilation succeeds
782     // (or has already succeeded in the past) then OSR is attempted to
783     // redirect program flow into the optimized code.
784
785     // These functions are called from within the optimization triggers,
786     // and are used as a single point at which we define the heuristics
787     // for how much warm-up is mandated before the next optimization
788     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
789     // as this is called from the CodeBlock constructor.
790
791     // When we observe a lot of speculation failures, we trigger a
792     // reoptimization. But each time, we increase the optimization trigger
793     // to avoid thrashing.
794     JS_EXPORT_PRIVATE unsigned reoptimizationRetryCounter() const;
795     void countReoptimization();
796 #if ENABLE(JIT)
797     unsigned numberOfDFGCompiles();
798
799     int32_t codeTypeThresholdMultiplier() const;
800
801     int32_t adjustedCounterValue(int32_t desiredThreshold);
802
803     int32_t* addressOfJITExecuteCounter()
804     {
805         return &m_jitExecuteCounter.m_counter;
806     }
807
808     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_counter); }
809     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_activeThreshold); }
810     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_totalCount); }
811
812     const BaselineExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
813
814     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
815
816     // Check if the optimization threshold has been reached, and if not,
817     // adjust the heuristics accordingly. Returns true if the threshold has
818     // been reached.
819     bool checkIfOptimizationThresholdReached();
820
821     // Call this to force the next optimization trigger to fire. This is
822     // rarely wise, since optimization triggers are typically more
823     // expensive than executing baseline code.
824     void optimizeNextInvocation();
825
826     // Call this to prevent optimization from happening again. Note that
827     // optimization will still happen after roughly 2^29 invocations,
828     // so this is really meant to delay that as much as possible. This
829     // is called if optimization failed, and we expect it to fail in
830     // the future as well.
831     void dontOptimizeAnytimeSoon();
832
833     // Call this to reinitialize the counter to its starting state,
834     // forcing a warm-up to happen before the next optimization trigger
835     // fires. This is called in the CodeBlock constructor. It also
836     // makes sense to call this if an OSR exit occurred. Note that
837     // OSR exit code is code generated, so the value of the execute
838     // counter that this corresponds to is also available directly.
839     void optimizeAfterWarmUp();
840
841     // Call this to force an optimization trigger to fire only after
842     // a lot of warm-up.
843     void optimizeAfterLongWarmUp();
844
845     // Call this to cause an optimization trigger to fire soon, but
846     // not necessarily the next one. This makes sense if optimization
847     // succeeds. Successfuly optimization means that all calls are
848     // relinked to the optimized code, so this only affects call
849     // frames that are still executing this CodeBlock. The value here
850     // is tuned to strike a balance between the cost of OSR entry
851     // (which is too high to warrant making every loop back edge to
852     // trigger OSR immediately) and the cost of executing baseline
853     // code (which is high enough that we don't necessarily want to
854     // have a full warm-up). The intuition for calling this instead of
855     // optimizeNextInvocation() is for the case of recursive functions
856     // with loops. Consider that there may be N call frames of some
857     // recursive function, for a reasonably large value of N. The top
858     // one triggers optimization, and then returns, and then all of
859     // the others return. We don't want optimization to be triggered on
860     // each return, as that would be superfluous. It only makes sense
861     // to trigger optimization if one of those functions becomes hot
862     // in the baseline code.
863     void optimizeSoon();
864
865     void forceOptimizationSlowPathConcurrently();
866
867     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
868     
869     uint32_t osrExitCounter() const { return m_osrExitCounter; }
870
871     void countOSRExit() { m_osrExitCounter++; }
872
873     uint32_t* addressOfOSRExitCounter() { return &m_osrExitCounter; }
874
875     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
876
877     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
878     uint32_t exitCountThresholdForReoptimization();
879     uint32_t exitCountThresholdForReoptimizationFromLoop();
880     bool shouldReoptimizeNow();
881     bool shouldReoptimizeFromLoopNow();
882 #else // No JIT
883     void optimizeAfterWarmUp() { }
884     unsigned numberOfDFGCompiles() { return 0; }
885 #endif
886
887     bool shouldOptimizeNow();
888     void updateAllValueProfilePredictions();
889     void updateAllArrayPredictions();
890     void updateAllPredictions();
891
892     unsigned frameRegisterCount();
893     int stackPointerOffset();
894
895     bool hasOpDebugForLineAndColumn(unsigned line, unsigned column);
896
897     bool hasDebuggerRequests() const { return m_debuggerRequests; }
898     void* debuggerRequestsAddress() { return &m_debuggerRequests; }
899
900     void addBreakpoint(unsigned numBreakpoints);
901     void removeBreakpoint(unsigned numBreakpoints)
902     {
903         ASSERT(m_numBreakpoints >= numBreakpoints);
904         m_numBreakpoints -= numBreakpoints;
905     }
906
907     enum SteppingMode {
908         SteppingModeDisabled,
909         SteppingModeEnabled
910     };
911     void setSteppingMode(SteppingMode);
912
913     void clearDebuggerRequests()
914     {
915         m_steppingMode = SteppingModeDisabled;
916         m_numBreakpoints = 0;
917     }
918     
919     // FIXME: Make these remaining members private.
920
921     int m_numCalleeRegisters;
922     int m_numVars;
923     bool m_isConstructor : 1;
924     
925     // This is intentionally public; it's the responsibility of anyone doing any
926     // of the following to hold the lock:
927     //
928     // - Modifying any inline cache in this code block.
929     //
930     // - Quering any inline cache in this code block, from a thread other than
931     //   the main thread.
932     //
933     // Additionally, it's only legal to modify the inline cache on the main
934     // thread. This means that the main thread can query the inline cache without
935     // locking. This is crucial since executing the inline cache is effectively
936     // "querying" it.
937     //
938     // Another exception to the rules is that the GC can do whatever it wants
939     // without holding any locks, because the GC is guaranteed to wait until any
940     // concurrent compilation threads finish what they're doing.
941     mutable ConcurrentJITLock m_lock;
942     
943     bool m_shouldAlwaysBeInlined; // Not a bitfield because the JIT wants to store to it.
944     bool m_allTransitionsHaveBeenMarked : 1; // Initialized and used on every GC.
945     
946     bool m_didFailFTLCompilation : 1;
947     bool m_hasBeenCompiledWithFTL : 1;
948
949     // Internal methods for use by validation code. It would be private if it wasn't
950     // for the fact that we use it from anonymous namespaces.
951     void beginValidationDidFail();
952     NO_RETURN_DUE_TO_CRASH void endValidationDidFail();
953
954     bool isKnownToBeLiveDuringGC(); // Will only return valid results when called during GC. Assumes that you've already established that the owner executable is live.
955
956     struct RareData {
957         WTF_MAKE_FAST_ALLOCATED;
958     public:
959         Vector<HandlerInfo> m_exceptionHandlers;
960
961         // Buffers used for large array literals
962         Vector<Vector<JSValue>> m_constantBuffers;
963
964         // Jump Tables
965         Vector<SimpleJumpTable> m_switchJumpTables;
966         Vector<StringJumpTable> m_stringSwitchJumpTables;
967
968         EvalCodeCache m_evalCodeCache;
969     };
970
971 protected:
972     virtual void visitWeakReferences(SlotVisitor&) override;
973     virtual void finalizeUnconditionally() override;
974
975 #if ENABLE(DFG_JIT)
976     void tallyFrequentExitSites();
977 #else
978     void tallyFrequentExitSites() { }
979 #endif
980
981 private:
982     friend class CodeBlockSet;
983     
984     CodeBlock* specialOSREntryBlockOrNull();
985     
986     void noticeIncomingCall(ExecState* callerFrame);
987     
988     double optimizationThresholdScalingFactor();
989
990     void updateAllPredictionsAndCountLiveness(unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
991
992     void setConstantRegisters(const Vector<WriteBarrier<Unknown>>& constants, const Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation)
993     {
994         ASSERT(constants.size() == constantsSourceCodeRepresentation.size());
995         size_t count = constants.size();
996         m_constantRegisters.resize(count);
997         for (size_t i = 0; i < count; i++)
998             m_constantRegisters[i].set(*m_vm, ownerExecutable(), constants[i].get());
999         m_constantsSourceCodeRepresentation = constantsSourceCodeRepresentation;
1000     }
1001
1002     void dumpBytecode(
1003         PrintStream&, ExecState*, const Instruction* begin, const Instruction*&,
1004         const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
1005
1006     CString registerName(int r) const;
1007     CString constantName(int index) const;
1008     void printUnaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1009     void printBinaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1010     void printConditionalJump(PrintStream&, ExecState*, const Instruction*, const Instruction*&, int location, const char* op);
1011     void printGetByIdOp(PrintStream&, ExecState*, int location, const Instruction*&);
1012     void printGetByIdCacheStatus(PrintStream&, ExecState*, int location, const StubInfoMap&);
1013     enum CacheDumpMode { DumpCaches, DontDumpCaches };
1014     void printCallOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op, CacheDumpMode, bool& hasPrintedProfiling, const CallLinkInfoMap&);
1015     void printPutByIdOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1016     void printPutByIdCacheStatus(PrintStream&, ExecState*, int location, const StubInfoMap&);
1017     void printLocationAndOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
1018     void printLocationOpAndRegisterOperand(PrintStream&, ExecState*, int location, const Instruction*& it, const char* op, int operand);
1019
1020     void beginDumpProfiling(PrintStream&, bool& hasPrintedProfiling);
1021     void dumpValueProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1022     void dumpArrayProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
1023     void dumpRareCaseProfile(PrintStream&, const char* name, RareCaseProfile*, bool& hasPrintedProfiling);
1024         
1025     bool shouldImmediatelyAssumeLivenessDuringScan();
1026     
1027     void propagateTransitions(SlotVisitor&);
1028     void determineLiveness(SlotVisitor&);
1029         
1030     void stronglyVisitStrongReferences(SlotVisitor&);
1031     void stronglyVisitWeakReferences(SlotVisitor&);
1032
1033     void createRareDataIfNecessary()
1034     {
1035         if (!m_rareData)
1036             m_rareData = std::make_unique<RareData>();
1037     }
1038
1039     void insertBasicBlockBoundariesForControlFlowProfiler(Vector<Instruction, 0, UnsafeVectorOverflow>&);
1040
1041 #if ENABLE(JIT)
1042     void resetStubInternal(RepatchBuffer&, StructureStubInfo&);
1043     void resetStubDuringGCInternal(RepatchBuffer&, StructureStubInfo&);
1044 #endif
1045     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
1046     int m_numParameters;
1047     union {
1048         unsigned m_debuggerRequests;
1049         struct {
1050             unsigned m_hasDebuggerStatement : 1;
1051             unsigned m_steppingMode : 1;
1052             unsigned m_numBreakpoints : 30;
1053         };
1054     };
1055     WriteBarrier<ScriptExecutable> m_ownerExecutable;
1056     VM* m_vm;
1057
1058     RefCountedArray<Instruction> m_instructions;
1059     WriteBarrier<SymbolTable> m_symbolTable;
1060     VirtualRegister m_thisRegister;
1061     VirtualRegister m_scopeRegister;
1062     VirtualRegister m_argumentsRegister;
1063     VirtualRegister m_lexicalEnvironmentRegister;
1064
1065     bool m_isStrictMode;
1066     bool m_needsActivation;
1067     bool m_mayBeExecuting;
1068     uint8_t m_visitAggregateHasBeenCalled;
1069
1070     RefPtr<SourceProvider> m_source;
1071     unsigned m_sourceOffset;
1072     unsigned m_firstLineColumnOffset;
1073     unsigned m_codeType;
1074
1075     Vector<LLIntCallLinkInfo> m_llintCallLinkInfos;
1076     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo>> m_incomingLLIntCalls;
1077     RefPtr<JITCode> m_jitCode;
1078 #if ENABLE(JIT)
1079     Bag<StructureStubInfo> m_stubInfos;
1080     Vector<ByValInfo> m_byValInfos;
1081     Bag<CallLinkInfo> m_callLinkInfos;
1082     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo>> m_incomingCalls;
1083     SentinelLinkedList<PolymorphicCallNode, BasicRawSentinelNode<PolymorphicCallNode>> m_incomingPolymorphicCalls;
1084 #endif
1085     std::unique_ptr<CompactJITCodeMap> m_jitCodeMap;
1086 #if ENABLE(DFG_JIT)
1087     // This is relevant to non-DFG code blocks that serve as the profiled code block
1088     // for DFG code blocks.
1089     DFG::ExitProfile m_exitProfile;
1090     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1091 #endif
1092     Vector<ValueProfile> m_argumentValueProfiles;
1093     Vector<ValueProfile> m_valueProfiles;
1094     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1095     SegmentedVector<RareCaseProfile, 8> m_specialFastCaseProfiles;
1096     Vector<ArrayAllocationProfile> m_arrayAllocationProfiles;
1097     ArrayProfileVector m_arrayProfiles;
1098     Vector<ObjectAllocationProfile> m_objectAllocationProfiles;
1099
1100     // Constant Pool
1101     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1102     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1103     // it, so we're stuck with it for now.
1104     Vector<WriteBarrier<Unknown>> m_constantRegisters;
1105     Vector<SourceCodeRepresentation> m_constantsSourceCodeRepresentation;
1106     Vector<WriteBarrier<FunctionExecutable>> m_functionDecls;
1107     Vector<WriteBarrier<FunctionExecutable>> m_functionExprs;
1108
1109     RefPtr<CodeBlock> m_alternative;
1110     
1111     BaselineExecutionCounter m_llintExecuteCounter;
1112
1113     BaselineExecutionCounter m_jitExecuteCounter;
1114     int32_t m_totalJITExecutions;
1115     uint32_t m_osrExitCounter;
1116     uint16_t m_optimizationDelayCounter;
1117     uint16_t m_reoptimizationRetryCounter;
1118     
1119     mutable CodeBlockHash m_hash;
1120
1121     std::unique_ptr<BytecodeLivenessAnalysis> m_livenessAnalysis;
1122
1123     std::unique_ptr<RareData> m_rareData;
1124 #if ENABLE(JIT)
1125     DFG::CapabilityLevel m_capabilityLevelState;
1126 #endif
1127 };
1128
1129 // Program code is not marked by any function, so we make the global object
1130 // responsible for marking it.
1131
1132 class GlobalCodeBlock : public CodeBlock {
1133 protected:
1134     GlobalCodeBlock(CopyParsedBlockTag, GlobalCodeBlock& other)
1135     : CodeBlock(CopyParsedBlock, other)
1136     {
1137     }
1138         
1139     GlobalCodeBlock(ScriptExecutable* ownerExecutable, UnlinkedCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1140         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1141     {
1142     }
1143 };
1144
1145 class ProgramCodeBlock : public GlobalCodeBlock {
1146 public:
1147     ProgramCodeBlock(CopyParsedBlockTag, ProgramCodeBlock& other)
1148     : GlobalCodeBlock(CopyParsedBlock, other)
1149     {
1150     }
1151
1152     ProgramCodeBlock(ProgramExecutable* ownerExecutable, UnlinkedProgramCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned firstLineColumnOffset)
1153         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, firstLineColumnOffset)
1154     {
1155     }
1156
1157 #if ENABLE(JIT)
1158 protected:
1159     virtual CodeBlock* replacement() override;
1160     virtual DFG::CapabilityLevel capabilityLevelInternal() override;
1161 #endif
1162 };
1163
1164 class EvalCodeBlock : public GlobalCodeBlock {
1165 public:
1166     EvalCodeBlock(CopyParsedBlockTag, EvalCodeBlock& other)
1167     : GlobalCodeBlock(CopyParsedBlock, other)
1168     {
1169     }
1170         
1171     EvalCodeBlock(EvalExecutable* ownerExecutable, UnlinkedEvalCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider)
1172         : GlobalCodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, 0, 1)
1173     {
1174     }
1175     
1176     const Identifier& variable(unsigned index) { return unlinkedEvalCodeBlock()->variable(index); }
1177     unsigned numVariables() { return unlinkedEvalCodeBlock()->numVariables(); }
1178     
1179 #if ENABLE(JIT)
1180 protected:
1181     virtual CodeBlock* replacement() override;
1182     virtual DFG::CapabilityLevel capabilityLevelInternal() override;
1183 #endif
1184     
1185 private:
1186     UnlinkedEvalCodeBlock* unlinkedEvalCodeBlock() const { return jsCast<UnlinkedEvalCodeBlock*>(unlinkedCodeBlock()); }
1187 };
1188
1189 class FunctionCodeBlock : public CodeBlock {
1190 public:
1191     FunctionCodeBlock(CopyParsedBlockTag, FunctionCodeBlock& other)
1192     : CodeBlock(CopyParsedBlock, other)
1193     {
1194     }
1195
1196     FunctionCodeBlock(FunctionExecutable* ownerExecutable, UnlinkedFunctionCodeBlock* unlinkedCodeBlock, JSScope* scope, PassRefPtr<SourceProvider> sourceProvider, unsigned sourceOffset, unsigned firstLineColumnOffset)
1197         : CodeBlock(ownerExecutable, unlinkedCodeBlock, scope, sourceProvider, sourceOffset, firstLineColumnOffset)
1198     {
1199     }
1200     
1201 #if ENABLE(JIT)
1202 protected:
1203     virtual CodeBlock* replacement() override;
1204     virtual DFG::CapabilityLevel capabilityLevelInternal() override;
1205 #endif
1206 };
1207
1208 inline CodeBlock* baselineCodeBlockForInlineCallFrame(InlineCallFrame* inlineCallFrame)
1209 {
1210     RELEASE_ASSERT(inlineCallFrame);
1211     ExecutableBase* executable = inlineCallFrame->executable.get();
1212     RELEASE_ASSERT(executable->structure()->classInfo() == FunctionExecutable::info());
1213     return static_cast<FunctionExecutable*>(executable)->baselineCodeBlockFor(inlineCallFrame->specializationKind());
1214 }
1215
1216 inline CodeBlock* baselineCodeBlockForOriginAndBaselineCodeBlock(const CodeOrigin& codeOrigin, CodeBlock* baselineCodeBlock)
1217 {
1218     if (codeOrigin.inlineCallFrame)
1219         return baselineCodeBlockForInlineCallFrame(codeOrigin.inlineCallFrame);
1220     return baselineCodeBlock;
1221 }
1222
1223 inline int CodeBlock::argumentIndexAfterCapture(size_t argument)
1224 {
1225     if (argument >= static_cast<size_t>(symbolTable()->parameterCount()))
1226         return CallFrame::argumentOffset(argument);
1227     
1228     const SlowArgument* slowArguments = symbolTable()->slowArguments();
1229     if (!slowArguments || slowArguments[argument].status == SlowArgument::Normal)
1230         return CallFrame::argumentOffset(argument);
1231     
1232     ASSERT(slowArguments[argument].status == SlowArgument::Captured);
1233     return slowArguments[argument].index;
1234 }
1235
1236 inline bool CodeBlock::hasSlowArguments()
1237 {
1238     return !!symbolTable()->slowArguments();
1239 }
1240
1241 inline Register& ExecState::r(int index)
1242 {
1243     CodeBlock* codeBlock = this->codeBlock();
1244     if (codeBlock->isConstantRegisterIndex(index))
1245         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1246     return this[index];
1247 }
1248
1249 inline Register& ExecState::r(VirtualRegister reg)
1250 {
1251     return r(reg.offset());
1252 }
1253
1254 inline Register& ExecState::uncheckedR(int index)
1255 {
1256     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1257     return this[index];
1258 }
1259
1260 inline Register& ExecState::uncheckedR(VirtualRegister reg)
1261 {
1262     return uncheckedR(reg.offset());
1263 }
1264
1265 inline JSValue ExecState::argumentAfterCapture(size_t argument)
1266 {
1267     if (argument >= argumentCount())
1268         return jsUndefined();
1269     
1270     if (!codeBlock())
1271         return this[argumentOffset(argument)].jsValue();
1272     
1273     return this[codeBlock()->argumentIndexAfterCapture(argument)].jsValue();
1274 }
1275
1276 inline void CodeBlockSet::mark(void* candidateCodeBlock)
1277 {
1278     // We have to check for 0 and -1 because those are used by the HashMap as markers.
1279     uintptr_t value = reinterpret_cast<uintptr_t>(candidateCodeBlock);
1280     
1281     // This checks for both of those nasty cases in one go.
1282     // 0 + 1 = 1
1283     // -1 + 1 = 0
1284     if (value + 1 <= 1)
1285         return;
1286
1287     CodeBlock* codeBlock = static_cast<CodeBlock*>(candidateCodeBlock); 
1288     if (!m_oldCodeBlocks.contains(codeBlock) && !m_newCodeBlocks.contains(codeBlock))
1289         return;
1290
1291     mark(codeBlock);
1292 }
1293
1294 inline void CodeBlockSet::mark(CodeBlock* codeBlock)
1295 {
1296     if (!codeBlock)
1297         return;
1298     
1299     if (codeBlock->m_mayBeExecuting)
1300         return;
1301     
1302     codeBlock->m_mayBeExecuting = true;
1303     // We might not have cleared the marks for this CodeBlock, but we need to visit it.
1304     codeBlock->m_visitAggregateHasBeenCalled = false;
1305 #if ENABLE(GGC)
1306     m_currentlyExecuting.append(codeBlock);
1307 #endif
1308 }
1309
1310 template <typename Functor> inline void ScriptExecutable::forEachCodeBlock(Functor&& functor)
1311 {
1312     switch (type()) {
1313     case ProgramExecutableType: {
1314         if (CodeBlock* codeBlock = jsCast<ProgramExecutable*>(this)->m_programCodeBlock.get())
1315             codeBlock->forEachRelatedCodeBlock(std::forward<Functor>(functor));
1316         break;
1317     }
1318         
1319     case EvalExecutableType: {
1320         if (CodeBlock* codeBlock = jsCast<EvalExecutable*>(this)->m_evalCodeBlock.get())
1321             codeBlock->forEachRelatedCodeBlock(std::forward<Functor>(functor));
1322         break;
1323     }
1324         
1325     case FunctionExecutableType: {
1326         Functor f(std::forward<Functor>(functor));
1327         FunctionExecutable* executable = jsCast<FunctionExecutable*>(this);
1328         if (CodeBlock* codeBlock = executable->m_codeBlockForCall.get())
1329             codeBlock->forEachRelatedCodeBlock(f);
1330         if (CodeBlock* codeBlock = executable->m_codeBlockForConstruct.get())
1331             codeBlock->forEachRelatedCodeBlock(f);
1332         break;
1333     }
1334     default:
1335         RELEASE_ASSERT_NOT_REACHED();
1336     }
1337 }
1338
1339 } // namespace JSC
1340
1341 #endif // CodeBlock_h