JITMathIC code in the FTL is wrong when code gets duplicated
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008-2018 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #pragma once
31
32 #include "ArrayProfile.h"
33 #include "ByValInfo.h"
34 #include "BytecodeConventions.h"
35 #include "CallLinkInfo.h"
36 #include "CodeBlockHash.h"
37 #include "CodeOrigin.h"
38 #include "CodeType.h"
39 #include "CompactJITCodeMap.h"
40 #include "CompilationResult.h"
41 #include "ConcurrentJSLock.h"
42 #include "DFGCommon.h"
43 #include "DFGExitProfile.h"
44 #include "DirectEvalCodeCache.h"
45 #include "EvalExecutable.h"
46 #include "ExecutionCounter.h"
47 #include "ExpressionRangeInfo.h"
48 #include "FunctionExecutable.h"
49 #include "HandlerInfo.h"
50 #include "Instruction.h"
51 #include "JITCode.h"
52 #include "JITMathICForwards.h"
53 #include "JSCPoison.h"
54 #include "JSCell.h"
55 #include "JSGlobalObject.h"
56 #include "JumpTable.h"
57 #include "LLIntCallLinkInfo.h"
58 #include "LLIntPrototypeLoadAdaptiveStructureWatchpoint.h"
59 #include "LazyOperandValueProfile.h"
60 #include "ModuleProgramExecutable.h"
61 #include "ObjectAllocationProfile.h"
62 #include "Options.h"
63 #include "Printer.h"
64 #include "ProfilerJettisonReason.h"
65 #include "ProgramExecutable.h"
66 #include "PutPropertySlot.h"
67 #include "UnconditionalFinalizer.h"
68 #include "ValueProfile.h"
69 #include "VirtualRegister.h"
70 #include "Watchpoint.h"
71 #include <wtf/Bag.h>
72 #include <wtf/FastMalloc.h>
73 #include <wtf/RefCountedArray.h>
74 #include <wtf/RefPtr.h>
75 #include <wtf/SegmentedVector.h>
76 #include <wtf/Vector.h>
77 #include <wtf/text/WTFString.h>
78
79 namespace JSC {
80
81 #if ENABLE(DFG_JIT)
82 namespace DFG {
83 struct OSRExitState;
84 } // namespace DFG
85 #endif
86
87 class BytecodeLivenessAnalysis;
88 class CodeBlockSet;
89 class ExecState;
90 class ExecutableToCodeBlockEdge;
91 class JSModuleEnvironment;
92 class LLIntOffsetsExtractor;
93 class PCToCodeOriginMap;
94 class RegisterAtOffsetList;
95 class StructureStubInfo;
96
97 enum class AccessType : int8_t;
98
99 struct ArithProfile;
100
101 typedef HashMap<CodeOrigin, StructureStubInfo*, CodeOriginApproximateHash> StubInfoMap;
102
103 enum ReoptimizationMode { DontCountReoptimization, CountReoptimization };
104
105 class CodeBlock : public JSCell {
106     typedef JSCell Base;
107     friend class BytecodeLivenessAnalysis;
108     friend class JIT;
109     friend class LLIntOffsetsExtractor;
110
111 public:
112
113     enum CopyParsedBlockTag { CopyParsedBlock };
114
115     static const unsigned StructureFlags = Base::StructureFlags | StructureIsImmortal;
116     static const bool needsDestruction = true;
117
118     template<typename>
119     static void subspaceFor(VM&) { }
120
121     DECLARE_INFO;
122
123 protected:
124     CodeBlock(VM*, Structure*, CopyParsedBlockTag, CodeBlock& other);
125     CodeBlock(VM*, Structure*, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, RefPtr<SourceProvider>&&, unsigned sourceOffset, unsigned firstLineColumnOffset);
126
127     void finishCreation(VM&, CopyParsedBlockTag, CodeBlock& other);
128     bool finishCreation(VM&, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*);
129     
130     void finishCreationCommon(VM&);
131
132     WriteBarrier<JSGlobalObject> m_globalObject;
133
134 public:
135     JS_EXPORT_PRIVATE ~CodeBlock();
136
137     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
138
139     CString inferredName() const;
140     CodeBlockHash hash() const;
141     bool hasHash() const;
142     bool isSafeToComputeHash() const;
143     CString hashAsStringIfPossible() const;
144     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
145     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
146     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
147     JS_EXPORT_PRIVATE void dump(PrintStream&) const;
148
149     int numParameters() const { return m_numParameters; }
150     void setNumParameters(int newValue);
151
152     int numberOfArgumentsToSkip() const { return m_numberOfArgumentsToSkip; }
153
154     int numCalleeLocals() const { return m_numCalleeLocals; }
155
156     int* addressOfNumParameters() { return &m_numParameters; }
157     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
158
159     CodeBlock* alternative() const { return static_cast<CodeBlock*>(m_alternative.get()); }
160     void setAlternative(VM&, CodeBlock*);
161
162     template <typename Functor> void forEachRelatedCodeBlock(Functor&& functor)
163     {
164         Functor f(std::forward<Functor>(functor));
165         Vector<CodeBlock*, 4> codeBlocks;
166         codeBlocks.append(this);
167
168         while (!codeBlocks.isEmpty()) {
169             CodeBlock* currentCodeBlock = codeBlocks.takeLast();
170             f(currentCodeBlock);
171
172             if (CodeBlock* alternative = currentCodeBlock->alternative())
173                 codeBlocks.append(alternative);
174             if (CodeBlock* osrEntryBlock = currentCodeBlock->specialOSREntryBlockOrNull())
175                 codeBlocks.append(osrEntryBlock);
176         }
177     }
178     
179     CodeSpecializationKind specializationKind() const
180     {
181         return specializationFromIsConstruct(m_isConstructor);
182     }
183
184     CodeBlock* alternativeForJettison();    
185     JS_EXPORT_PRIVATE CodeBlock* baselineAlternative();
186     
187     // FIXME: Get rid of this.
188     // https://bugs.webkit.org/show_bug.cgi?id=123677
189     CodeBlock* baselineVersion();
190
191     static size_t estimatedSize(JSCell*);
192     static void visitChildren(JSCell*, SlotVisitor&);
193     void visitChildren(SlotVisitor&);
194     void finalizeUnconditionally(VM&);
195
196     void dumpSource();
197     void dumpSource(PrintStream&);
198
199     void dumpBytecode();
200     void dumpBytecode(PrintStream&);
201     void dumpBytecode(PrintStream& out, const Instruction* begin, const Instruction*& it, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
202     void dumpBytecode(PrintStream& out, unsigned bytecodeOffset, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
203
204     void dumpExceptionHandlers(PrintStream&);
205     void printStructures(PrintStream&, const Instruction*);
206     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
207
208     void dumpMathICStats();
209
210     bool isStrictMode() const { return m_isStrictMode; }
211     ECMAMode ecmaMode() const { return isStrictMode() ? StrictMode : NotStrictMode; }
212
213     bool hasInstalledVMTrapBreakpoints() const;
214     bool installVMTrapBreakpoints();
215
216     inline bool isKnownNotImmediate(int index)
217     {
218         if (index == m_thisRegister.offset() && !m_isStrictMode)
219             return true;
220
221         if (isConstantRegisterIndex(index))
222             return getConstant(index).isCell();
223
224         return false;
225     }
226
227     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
228     {
229         return index >= m_numVars;
230     }
231
232     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset, RequiredHandler = RequiredHandler::AnyHandler);
233     HandlerInfo* handlerForIndex(unsigned, RequiredHandler = RequiredHandler::AnyHandler);
234     void removeExceptionHandlerForCallSite(CallSiteIndex);
235     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
236     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
237     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
238         int& startOffset, int& endOffset, unsigned& line, unsigned& column) const;
239
240     std::optional<unsigned> bytecodeOffsetFromCallSiteIndex(CallSiteIndex);
241
242     void getStubInfoMap(const ConcurrentJSLocker&, StubInfoMap& result);
243     void getStubInfoMap(StubInfoMap& result);
244     
245     void getCallLinkInfoMap(const ConcurrentJSLocker&, CallLinkInfoMap& result);
246     void getCallLinkInfoMap(CallLinkInfoMap& result);
247
248     void getByValInfoMap(const ConcurrentJSLocker&, ByValInfoMap& result);
249     void getByValInfoMap(ByValInfoMap& result);
250     
251 #if ENABLE(JIT)
252     JITAddIC* addJITAddIC(ArithProfile*);
253     JITMulIC* addJITMulIC(ArithProfile*);
254     JITNegIC* addJITNegIC(ArithProfile*);
255     JITSubIC* addJITSubIC(ArithProfile*);
256
257     template <typename Generator, typename = typename std::enable_if<std::is_same<Generator, JITAddGenerator>::value>::type>
258     JITAddIC* addMathIC(ArithProfile* profile) { return addJITAddIC(profile); }
259
260     template <typename Generator, typename = typename std::enable_if<std::is_same<Generator, JITMulGenerator>::value>::type>
261     JITMulIC* addMathIC(ArithProfile* profile) { return addJITMulIC(profile); }
262
263     template <typename Generator, typename = typename std::enable_if<std::is_same<Generator, JITNegGenerator>::value>::type>
264     JITNegIC* addMathIC(ArithProfile* profile) { return addJITNegIC(profile); }
265
266     template <typename Generator, typename = typename std::enable_if<std::is_same<Generator, JITSubGenerator>::value>::type>
267     JITSubIC* addMathIC(ArithProfile* profile) { return addJITSubIC(profile); }
268
269     StructureStubInfo* addStubInfo(AccessType);
270     auto stubInfoBegin() { return m_stubInfos.begin(); }
271     auto stubInfoEnd() { return m_stubInfos.end(); }
272
273     // O(n) operation. Use getStubInfoMap() unless you really only intend to get one
274     // stub info.
275     StructureStubInfo* findStubInfo(CodeOrigin);
276
277     ByValInfo* addByValInfo();
278
279     CallLinkInfo* addCallLinkInfo();
280     auto callLinkInfosBegin() { return m_callLinkInfos.begin(); }
281     auto callLinkInfosEnd() { return m_callLinkInfos.end(); }
282
283     // This is a slow function call used primarily for compiling OSR exits in the case
284     // that there had been inlining. Chances are if you want to use this, you're really
285     // looking for a CallLinkInfoMap to amortize the cost of calling this.
286     CallLinkInfo* getCallLinkInfoForBytecodeIndex(unsigned bytecodeIndex);
287     
288     // We call this when we want to reattempt compiling something with the baseline JIT. Ideally
289     // the baseline JIT would not add data to CodeBlock, but instead it would put its data into
290     // a newly created JITCode, which could be thrown away if we bail on JIT compilation. Then we
291     // would be able to get rid of this silly function.
292     // FIXME: https://bugs.webkit.org/show_bug.cgi?id=159061
293     void resetJITData();
294 #endif // ENABLE(JIT)
295
296     void unlinkIncomingCalls();
297
298 #if ENABLE(JIT)
299     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
300     void linkIncomingPolymorphicCall(ExecState* callerFrame, PolymorphicCallNode*);
301 #endif // ENABLE(JIT)
302
303     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
304
305     void setJITCodeMap(std::unique_ptr<CompactJITCodeMap> jitCodeMap)
306     {
307         m_jitCodeMap = WTFMove(jitCodeMap);
308     }
309     CompactJITCodeMap* jitCodeMap()
310     {
311         return m_jitCodeMap.get();
312     }
313     
314     static void clearLLIntGetByIdCache(Instruction*);
315
316     unsigned bytecodeOffset(Instruction* returnAddress)
317     {
318         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
319         return static_cast<Instruction*>(returnAddress) - instructions().begin();
320     }
321
322     typedef JSC::Instruction Instruction;
323     typedef PoisonedRefCountedArray<CodeBlockPoison, Instruction>& UnpackedInstructions;
324
325     unsigned numberOfInstructions() const { return m_instructions.size(); }
326     PoisonedRefCountedArray<CodeBlockPoison, Instruction>& instructions() { return m_instructions; }
327     const PoisonedRefCountedArray<CodeBlockPoison, Instruction>& instructions() const { return m_instructions; }
328
329     size_t predictedMachineCodeSize();
330
331     unsigned instructionCount() const { return m_instructions.size(); }
332
333     // Exactly equivalent to codeBlock->ownerExecutable()->newReplacementCodeBlockFor(codeBlock->specializationKind())
334     CodeBlock* newReplacement();
335     
336     void setJITCode(Ref<JITCode>&& code)
337     {
338         ASSERT(heap()->isDeferred());
339         heap()->reportExtraMemoryAllocated(code->size());
340         ConcurrentJSLocker locker(m_lock);
341         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
342         m_jitCode = WTFMove(code);
343     }
344     RefPtr<JITCode> jitCode() { return m_jitCode; }
345     static ptrdiff_t jitCodeOffset() { return OBJECT_OFFSETOF(CodeBlock, m_jitCode); }
346     JITCode::JITType jitType() const
347     {
348         JITCode* jitCode = m_jitCode.get();
349         WTF::loadLoadFence();
350         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
351         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
352         return result;
353     }
354
355     bool hasBaselineJITProfiling() const
356     {
357         return jitType() == JITCode::BaselineJIT;
358     }
359     
360 #if ENABLE(JIT)
361     CodeBlock* replacement();
362
363     DFG::CapabilityLevel computeCapabilityLevel();
364     DFG::CapabilityLevel capabilityLevel();
365     DFG::CapabilityLevel capabilityLevelState() { return static_cast<DFG::CapabilityLevel>(m_capabilityLevelState); }
366
367     bool hasOptimizedReplacement(JITCode::JITType typeToReplace);
368     bool hasOptimizedReplacement(); // the typeToReplace is my JITType
369 #endif
370
371     void jettison(Profiler::JettisonReason, ReoptimizationMode = DontCountReoptimization, const FireDetail* = nullptr);
372     
373     ExecutableBase* ownerExecutable() const { return m_ownerExecutable.get(); }
374     ScriptExecutable* ownerScriptExecutable() const { return jsCast<ScriptExecutable*>(m_ownerExecutable.get()); }
375     
376     ExecutableToCodeBlockEdge* ownerEdge() const { return m_ownerEdge.get(); }
377
378     VM* vm() const { return m_poisonedVM.unpoisoned(); }
379
380     void setThisRegister(VirtualRegister thisRegister) { m_thisRegister = thisRegister; }
381     VirtualRegister thisRegister() const { return m_thisRegister; }
382
383     bool usesEval() const { return m_unlinkedCode->usesEval(); }
384
385     void setScopeRegister(VirtualRegister scopeRegister)
386     {
387         ASSERT(scopeRegister.isLocal() || !scopeRegister.isValid());
388         m_scopeRegister = scopeRegister;
389     }
390
391     VirtualRegister scopeRegister() const
392     {
393         return m_scopeRegister;
394     }
395     
396     CodeType codeType() const
397     {
398         return static_cast<CodeType>(m_codeType);
399     }
400
401     PutPropertySlot::Context putByIdContext() const
402     {
403         if (codeType() == EvalCode)
404             return PutPropertySlot::PutByIdEval;
405         return PutPropertySlot::PutById;
406     }
407
408     SourceProvider* source() const { return m_source.get(); }
409     unsigned sourceOffset() const { return m_sourceOffset; }
410     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
411
412     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
413     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
414
415     String nameForRegister(VirtualRegister);
416
417     unsigned numberOfArgumentValueProfiles()
418     {
419         ASSERT(m_numParameters >= 0);
420         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
421         return m_argumentValueProfiles.size();
422     }
423     ValueProfile& valueProfileForArgument(unsigned argumentIndex)
424     {
425         ValueProfile& result = m_argumentValueProfiles[argumentIndex];
426         ASSERT(result.m_bytecodeOffset == -1);
427         return result;
428     }
429
430     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
431     ValueProfile& valueProfile(int index) { return m_valueProfiles[index]; }
432     ValueProfile& valueProfileForBytecodeOffset(int bytecodeOffset);
433     ValueProfile* tryGetValueProfileForBytecodeOffset(int bytecodeOffset);
434     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJSLocker& locker, int bytecodeOffset)
435     {
436         if (ValueProfile* valueProfile = tryGetValueProfileForBytecodeOffset(bytecodeOffset))
437             return valueProfile->computeUpdatedPrediction(locker);
438         return SpecNone;
439     }
440
441     unsigned totalNumberOfValueProfiles()
442     {
443         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
444     }
445     ValueProfile& getFromAllValueProfiles(unsigned index)
446     {
447         if (index < numberOfArgumentValueProfiles())
448             return valueProfileForArgument(index);
449         return valueProfile(index - numberOfArgumentValueProfiles());
450     }
451
452     RareCaseProfile* addRareCaseProfile(int bytecodeOffset);
453     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
454     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset);
455     unsigned rareCaseProfileCountForBytecodeOffset(int bytecodeOffset);
456
457     bool likelyToTakeSlowCase(int bytecodeOffset)
458     {
459         if (!hasBaselineJITProfiling())
460             return false;
461         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
462         return value >= Options::likelyToTakeSlowCaseMinimumCount();
463     }
464
465     bool couldTakeSlowCase(int bytecodeOffset)
466     {
467         if (!hasBaselineJITProfiling())
468             return false;
469         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
470         return value >= Options::couldTakeSlowCaseMinimumCount();
471     }
472
473     ArithProfile* arithProfileForBytecodeOffset(int bytecodeOffset);
474     ArithProfile* arithProfileForPC(Instruction*);
475
476     bool couldTakeSpecialFastCase(int bytecodeOffset);
477
478     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
479     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
480     ArrayProfile* addArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
481     ArrayProfile* addArrayProfile(unsigned bytecodeOffset);
482     ArrayProfile* getArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
483     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
484     ArrayProfile* getOrAddArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
485     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
486
487     // Exception handling support
488
489     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
490     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
491
492     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
493
494 #if ENABLE(DFG_JIT)
495     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins();
496     
497     // Having code origins implies that there has been some inlining.
498     bool hasCodeOrigins()
499     {
500         return JITCode::isOptimizingJIT(jitType());
501     }
502         
503     bool canGetCodeOrigin(CallSiteIndex index)
504     {
505         if (!hasCodeOrigins())
506             return false;
507         return index.bits() < codeOrigins().size();
508     }
509
510     CodeOrigin codeOrigin(CallSiteIndex index)
511     {
512         return codeOrigins()[index.bits()];
513     }
514
515     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
516     {
517         ASSERT(JITCode::isBaselineCode(jitType()));
518         ConcurrentJSLocker locker(m_lock);
519         return m_exitProfile.add(locker, this, site);
520     }
521
522     bool hasExitSite(const ConcurrentJSLocker& locker, const DFG::FrequentExitSite& site) const
523     {
524         return m_exitProfile.hasExitSite(locker, site);
525     }
526     bool hasExitSite(const DFG::FrequentExitSite& site) const
527     {
528         ConcurrentJSLocker locker(m_lock);
529         return hasExitSite(locker, site);
530     }
531
532     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
533
534     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
535     {
536         return m_lazyOperandValueProfiles;
537     }
538 #endif // ENABLE(DFG_JIT)
539
540     // Constant Pool
541 #if ENABLE(DFG_JIT)
542     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
543     size_t numberOfDFGIdentifiers() const;
544     const Identifier& identifier(int index) const;
545 #else
546     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
547     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
548 #endif
549
550     Vector<WriteBarrier<Unknown>>& constants() { return m_constantRegisters; }
551     Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation() { return m_constantsSourceCodeRepresentation; }
552     unsigned addConstant(JSValue v)
553     {
554         unsigned result = m_constantRegisters.size();
555         m_constantRegisters.append(WriteBarrier<Unknown>());
556         m_constantRegisters.last().set(*m_poisonedVM, this, v);
557         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
558         return result;
559     }
560
561     unsigned addConstantLazily()
562     {
563         unsigned result = m_constantRegisters.size();
564         m_constantRegisters.append(WriteBarrier<Unknown>());
565         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
566         return result;
567     }
568
569     const Vector<WriteBarrier<Unknown>>& constantRegisters() { return m_constantRegisters; }
570     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
571     static ALWAYS_INLINE bool isConstantRegisterIndex(int index) { return index >= FirstConstantRegisterIndex; }
572     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
573     ALWAYS_INLINE SourceCodeRepresentation constantSourceCodeRepresentation(int index) const { return m_constantsSourceCodeRepresentation[index - FirstConstantRegisterIndex]; }
574
575     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
576     int numberOfFunctionDecls() { return m_functionDecls.size(); }
577     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
578     
579     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
580     unsigned numberOfRegExps() const { return m_unlinkedCode->numberOfRegExps(); }
581
582     const Vector<BitVector>& bitVectors() const { return m_unlinkedCode->bitVectors(); }
583     const BitVector& bitVector(size_t i) { return m_unlinkedCode->bitVector(i); }
584
585     Heap* heap() const { return &m_poisonedVM->heap; }
586     JSGlobalObject* globalObject() { return m_globalObject.get(); }
587
588     JSGlobalObject* globalObjectFor(CodeOrigin);
589
590     BytecodeLivenessAnalysis& livenessAnalysis()
591     {
592         return m_unlinkedCode->livenessAnalysis(this);
593     }
594     
595     void validate();
596
597     // Jump Tables
598
599     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
600     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
601     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
602     void clearSwitchJumpTables()
603     {
604         if (!m_rareData)
605             return;
606         m_rareData->m_switchJumpTables.clear();
607     }
608
609     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
610     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
611     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
612
613     DirectEvalCodeCache& directEvalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_directEvalCodeCache; }
614
615     enum ShrinkMode {
616         // Shrink prior to generating machine code that may point directly into vectors.
617         EarlyShrink,
618
619         // Shrink after generating machine code, and after possibly creating new vectors
620         // and appending to others. At this time it is not safe to shrink certain vectors
621         // because we would have generated machine code that references them directly.
622         LateShrink
623     };
624     void shrinkToFit(ShrinkMode);
625
626     // Functions for controlling when JITting kicks in, in a mixed mode
627     // execution world.
628
629     bool checkIfJITThresholdReached()
630     {
631         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
632     }
633
634     void dontJITAnytimeSoon()
635     {
636         m_llintExecuteCounter.deferIndefinitely();
637     }
638
639     int32_t thresholdForJIT(int32_t threshold);
640     void jitAfterWarmUp();
641     void jitSoon();
642
643     const BaselineExecutionCounter& llintExecuteCounter() const
644     {
645         return m_llintExecuteCounter;
646     }
647
648     typedef HashMap<Structure*, Bag<LLIntPrototypeLoadAdaptiveStructureWatchpoint>> StructureWatchpointMap;
649     StructureWatchpointMap& llintGetByIdWatchpointMap() { return m_llintGetByIdWatchpointMap; }
650
651     // Functions for controlling when tiered compilation kicks in. This
652     // controls both when the optimizing compiler is invoked and when OSR
653     // entry happens. Two triggers exist: the loop trigger and the return
654     // trigger. In either case, when an addition to m_jitExecuteCounter
655     // causes it to become non-negative, the optimizing compiler is
656     // invoked. This includes a fast check to see if this CodeBlock has
657     // already been optimized (i.e. replacement() returns a CodeBlock
658     // that was optimized with a higher tier JIT than this one). In the
659     // case of the loop trigger, if the optimized compilation succeeds
660     // (or has already succeeded in the past) then OSR is attempted to
661     // redirect program flow into the optimized code.
662
663     // These functions are called from within the optimization triggers,
664     // and are used as a single point at which we define the heuristics
665     // for how much warm-up is mandated before the next optimization
666     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
667     // as this is called from the CodeBlock constructor.
668
669     // When we observe a lot of speculation failures, we trigger a
670     // reoptimization. But each time, we increase the optimization trigger
671     // to avoid thrashing.
672     JS_EXPORT_PRIVATE unsigned reoptimizationRetryCounter() const;
673     void countReoptimization();
674 #if ENABLE(JIT)
675     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return RegisterSet::llintBaselineCalleeSaveRegisters().numberOfSetRegisters(); }
676     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters();
677     size_t calleeSaveSpaceAsVirtualRegisters();
678
679     unsigned numberOfDFGCompiles();
680
681     int32_t codeTypeThresholdMultiplier() const;
682
683     int32_t adjustedCounterValue(int32_t desiredThreshold);
684
685     int32_t* addressOfJITExecuteCounter()
686     {
687         return &m_jitExecuteCounter.m_counter;
688     }
689
690     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_counter); }
691     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_activeThreshold); }
692     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_totalCount); }
693
694     const BaselineExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
695
696     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
697
698     // Check if the optimization threshold has been reached, and if not,
699     // adjust the heuristics accordingly. Returns true if the threshold has
700     // been reached.
701     bool checkIfOptimizationThresholdReached();
702
703     // Call this to force the next optimization trigger to fire. This is
704     // rarely wise, since optimization triggers are typically more
705     // expensive than executing baseline code.
706     void optimizeNextInvocation();
707
708     // Call this to prevent optimization from happening again. Note that
709     // optimization will still happen after roughly 2^29 invocations,
710     // so this is really meant to delay that as much as possible. This
711     // is called if optimization failed, and we expect it to fail in
712     // the future as well.
713     void dontOptimizeAnytimeSoon();
714
715     // Call this to reinitialize the counter to its starting state,
716     // forcing a warm-up to happen before the next optimization trigger
717     // fires. This is called in the CodeBlock constructor. It also
718     // makes sense to call this if an OSR exit occurred. Note that
719     // OSR exit code is code generated, so the value of the execute
720     // counter that this corresponds to is also available directly.
721     void optimizeAfterWarmUp();
722
723     // Call this to force an optimization trigger to fire only after
724     // a lot of warm-up.
725     void optimizeAfterLongWarmUp();
726
727     // Call this to cause an optimization trigger to fire soon, but
728     // not necessarily the next one. This makes sense if optimization
729     // succeeds. Successful optimization means that all calls are
730     // relinked to the optimized code, so this only affects call
731     // frames that are still executing this CodeBlock. The value here
732     // is tuned to strike a balance between the cost of OSR entry
733     // (which is too high to warrant making every loop back edge to
734     // trigger OSR immediately) and the cost of executing baseline
735     // code (which is high enough that we don't necessarily want to
736     // have a full warm-up). The intuition for calling this instead of
737     // optimizeNextInvocation() is for the case of recursive functions
738     // with loops. Consider that there may be N call frames of some
739     // recursive function, for a reasonably large value of N. The top
740     // one triggers optimization, and then returns, and then all of
741     // the others return. We don't want optimization to be triggered on
742     // each return, as that would be superfluous. It only makes sense
743     // to trigger optimization if one of those functions becomes hot
744     // in the baseline code.
745     void optimizeSoon();
746
747     void forceOptimizationSlowPathConcurrently();
748
749     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
750     
751     uint32_t osrExitCounter() const { return m_osrExitCounter; }
752
753     void countOSRExit() { m_osrExitCounter++; }
754
755     enum class OptimizeAction { None, ReoptimizeNow };
756 #if ENABLE(DFG_JIT)
757     OptimizeAction updateOSRExitCounterAndCheckIfNeedToReoptimize(DFG::OSRExitState&);
758 #endif
759
760     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
761
762     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
763     uint32_t exitCountThresholdForReoptimization();
764     uint32_t exitCountThresholdForReoptimizationFromLoop();
765     bool shouldReoptimizeNow();
766     bool shouldReoptimizeFromLoopNow();
767
768     void setCalleeSaveRegisters(RegisterSet);
769     void setCalleeSaveRegisters(std::unique_ptr<RegisterAtOffsetList>);
770     
771     RegisterAtOffsetList* calleeSaveRegisters() const { return m_calleeSaveRegisters.get(); }
772 #else // No JIT
773     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return 0; }
774     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters() { return 0; };
775     size_t calleeSaveSpaceAsVirtualRegisters() { return 0; }
776     void optimizeAfterWarmUp() { }
777     unsigned numberOfDFGCompiles() { return 0; }
778 #endif
779
780     bool shouldOptimizeNow();
781     void updateAllValueProfilePredictions();
782     void updateAllArrayPredictions();
783     void updateAllPredictions();
784
785     unsigned frameRegisterCount();
786     int stackPointerOffset();
787
788     bool hasOpDebugForLineAndColumn(unsigned line, unsigned column);
789
790     bool hasDebuggerRequests() const { return m_debuggerRequests; }
791     void* debuggerRequestsAddress() { return &m_debuggerRequests; }
792
793     void addBreakpoint(unsigned numBreakpoints);
794     void removeBreakpoint(unsigned numBreakpoints)
795     {
796         ASSERT(m_numBreakpoints >= numBreakpoints);
797         m_numBreakpoints -= numBreakpoints;
798     }
799
800     enum SteppingMode {
801         SteppingModeDisabled,
802         SteppingModeEnabled
803     };
804     void setSteppingMode(SteppingMode);
805
806     void clearDebuggerRequests()
807     {
808         m_steppingMode = SteppingModeDisabled;
809         m_numBreakpoints = 0;
810     }
811
812     bool wasCompiledWithDebuggingOpcodes() const { return m_unlinkedCode->wasCompiledWithDebuggingOpcodes(); }
813     
814     // FIXME: Make these remaining members private.
815
816     int m_numCalleeLocals;
817     int m_numVars;
818     
819     // This is intentionally public; it's the responsibility of anyone doing any
820     // of the following to hold the lock:
821     //
822     // - Modifying any inline cache in this code block.
823     //
824     // - Quering any inline cache in this code block, from a thread other than
825     //   the main thread.
826     //
827     // Additionally, it's only legal to modify the inline cache on the main
828     // thread. This means that the main thread can query the inline cache without
829     // locking. This is crucial since executing the inline cache is effectively
830     // "querying" it.
831     //
832     // Another exception to the rules is that the GC can do whatever it wants
833     // without holding any locks, because the GC is guaranteed to wait until any
834     // concurrent compilation threads finish what they're doing.
835     mutable ConcurrentJSLock m_lock;
836
837     bool m_shouldAlwaysBeInlined; // Not a bitfield because the JIT wants to store to it.
838
839 #if ENABLE(JIT)
840     unsigned m_capabilityLevelState : 2; // DFG::CapabilityLevel
841 #endif
842
843     bool m_allTransitionsHaveBeenMarked : 1; // Initialized and used on every GC.
844
845     bool m_didFailJITCompilation : 1;
846     bool m_didFailFTLCompilation : 1;
847     bool m_hasBeenCompiledWithFTL : 1;
848     bool m_isConstructor : 1;
849     bool m_isStrictMode : 1;
850     unsigned m_codeType : 2; // CodeType
851
852     // Internal methods for use by validation code. It would be private if it wasn't
853     // for the fact that we use it from anonymous namespaces.
854     void beginValidationDidFail();
855     NO_RETURN_DUE_TO_CRASH void endValidationDidFail();
856
857     struct RareData {
858         WTF_MAKE_FAST_ALLOCATED;
859     public:
860         Vector<HandlerInfo> m_exceptionHandlers;
861
862         // Jump Tables
863         Vector<SimpleJumpTable> m_switchJumpTables;
864         Vector<StringJumpTable> m_stringSwitchJumpTables;
865
866         DirectEvalCodeCache m_directEvalCodeCache;
867     };
868
869     void clearExceptionHandlers()
870     {
871         if (m_rareData)
872             m_rareData->m_exceptionHandlers.clear();
873     }
874
875     void appendExceptionHandler(const HandlerInfo& handler)
876     {
877         createRareDataIfNecessary(); // We may be handling the exception of an inlined call frame.
878         m_rareData->m_exceptionHandlers.append(handler);
879     }
880
881     CallSiteIndex newExceptionHandlingCallSiteIndex(CallSiteIndex originalCallSite);
882
883     void ensureCatchLivenessIsComputedForBytecodeOffset(unsigned bytecodeOffset)
884     {
885         if (!!m_instructions[bytecodeOffset + 3].u.pointer) {
886 #if !ASSERT_DISABLED
887             ConcurrentJSLocker locker(m_lock);
888             bool found = false;
889             for (auto& profile : m_catchProfiles) {
890                 if (profile.get() == m_instructions[bytecodeOffset + 3].u.pointer) {
891                     found = true;
892                     break;
893                 }
894             }
895             ASSERT(found);
896 #endif
897             return;
898         }
899
900         ensureCatchLivenessIsComputedForBytecodeOffsetSlow(bytecodeOffset);
901     }
902
903 #if ENABLE(JIT)
904     void setPCToCodeOriginMap(std::unique_ptr<PCToCodeOriginMap>&&);
905     std::optional<CodeOrigin> findPC(void* pc);
906 #endif
907
908     bool hasTailCalls() const { return m_unlinkedCode->hasTailCalls(); }
909
910     static constexpr uintptr_t s_poison = makeConstExprPoison(CodeBlockPoison);
911
912 protected:
913     void finalizeLLIntInlineCaches();
914     void finalizeBaselineJITInlineCaches();
915
916 #if ENABLE(DFG_JIT)
917     void tallyFrequentExitSites();
918 #else
919     void tallyFrequentExitSites() { }
920 #endif
921
922 private:
923     friend class CodeBlockSet;
924     friend class ExecutableToCodeBlockEdge;
925
926     BytecodeLivenessAnalysis& livenessAnalysisSlow();
927     
928     CodeBlock* specialOSREntryBlockOrNull();
929     
930     void noticeIncomingCall(ExecState* callerFrame);
931     
932     double optimizationThresholdScalingFactor();
933
934     void updateAllPredictionsAndCountLiveness(unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
935
936     void setConstantIdentifierSetRegisters(VM&, const Vector<ConstantIndentifierSetEntry>& constants);
937
938     void setConstantRegisters(const Vector<WriteBarrier<Unknown>>& constants, const Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation);
939
940     void replaceConstant(int index, JSValue value)
941     {
942         ASSERT(isConstantRegisterIndex(index) && static_cast<size_t>(index - FirstConstantRegisterIndex) < m_constantRegisters.size());
943         m_constantRegisters[index - FirstConstantRegisterIndex].set(*m_poisonedVM, this, value);
944     }
945
946     bool shouldVisitStrongly(const ConcurrentJSLocker&);
947     bool shouldJettisonDueToWeakReference();
948     bool shouldJettisonDueToOldAge(const ConcurrentJSLocker&);
949     
950     void propagateTransitions(const ConcurrentJSLocker&, SlotVisitor&);
951     void determineLiveness(const ConcurrentJSLocker&, SlotVisitor&);
952         
953     void stronglyVisitStrongReferences(const ConcurrentJSLocker&, SlotVisitor&);
954     void stronglyVisitWeakReferences(const ConcurrentJSLocker&, SlotVisitor&);
955     void visitOSRExitTargets(const ConcurrentJSLocker&, SlotVisitor&);
956
957     Seconds timeSinceCreation()
958     {
959         return MonotonicTime::now() - m_creationTime;
960     }
961
962     void createRareDataIfNecessary()
963     {
964         if (!m_rareData)
965             m_rareData = std::make_unique<RareData>();
966     }
967
968     void insertBasicBlockBoundariesForControlFlowProfiler(RefCountedArray<Instruction>&);
969     void ensureCatchLivenessIsComputedForBytecodeOffsetSlow(unsigned);
970
971     template<typename T, typename... Arguments, typename Enable = void>
972     static PoisonedUniquePtr<CodeBlockPoison, T> makePoisonedUnique(Arguments&&... arguments)
973     {
974         return WTF::makePoisonedUnique<CodeBlockPoison, T>(std::forward<Arguments>(arguments)...);
975     }
976
977     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
978     int m_numParameters;
979     int m_numberOfArgumentsToSkip { 0 };
980     union {
981         unsigned m_debuggerRequests;
982         struct {
983             unsigned m_hasDebuggerStatement : 1;
984             unsigned m_steppingMode : 1;
985             unsigned m_numBreakpoints : 30;
986         };
987     };
988     WriteBarrier<ExecutableBase> m_ownerExecutable;
989     WriteBarrier<ExecutableToCodeBlockEdge> m_ownerEdge;
990     ConstExprPoisoned<CodeBlockPoison, VM*> m_poisonedVM;
991
992     PoisonedRefCountedArray<CodeBlockPoison, Instruction> m_instructions;
993     VirtualRegister m_thisRegister;
994     VirtualRegister m_scopeRegister;
995     mutable CodeBlockHash m_hash;
996
997     PoisonedRefPtr<CodeBlockPoison, SourceProvider> m_source;
998     unsigned m_sourceOffset;
999     unsigned m_firstLineColumnOffset;
1000
1001     RefCountedArray<LLIntCallLinkInfo> m_llintCallLinkInfos;
1002     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo>> m_incomingLLIntCalls;
1003     StructureWatchpointMap m_llintGetByIdWatchpointMap;
1004     PoisonedRefPtr<CodeBlockPoison, JITCode> m_jitCode;
1005 #if ENABLE(JIT)
1006     std::unique_ptr<RegisterAtOffsetList> m_calleeSaveRegisters;
1007     PoisonedBag<CodeBlockPoison, StructureStubInfo> m_stubInfos;
1008     PoisonedBag<CodeBlockPoison, JITAddIC> m_addICs;
1009     PoisonedBag<CodeBlockPoison, JITMulIC> m_mulICs;
1010     PoisonedBag<CodeBlockPoison, JITNegIC> m_negICs;
1011     PoisonedBag<CodeBlockPoison, JITSubIC> m_subICs;
1012     PoisonedBag<CodeBlockPoison, ByValInfo> m_byValInfos;
1013     PoisonedBag<CodeBlockPoison, CallLinkInfo> m_callLinkInfos;
1014     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo>> m_incomingCalls;
1015     SentinelLinkedList<PolymorphicCallNode, BasicRawSentinelNode<PolymorphicCallNode>> m_incomingPolymorphicCalls;
1016     std::unique_ptr<PCToCodeOriginMap> m_pcToCodeOriginMap;
1017 #endif
1018     std::unique_ptr<CompactJITCodeMap> m_jitCodeMap;
1019 #if ENABLE(DFG_JIT)
1020     // This is relevant to non-DFG code blocks that serve as the profiled code block
1021     // for DFG code blocks.
1022     DFG::ExitProfile m_exitProfile;
1023     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1024 #endif
1025     RefCountedArray<ValueProfile> m_argumentValueProfiles;
1026     RefCountedArray<ValueProfile> m_valueProfiles;
1027     Vector<std::unique_ptr<ValueProfileAndOperandBuffer>> m_catchProfiles;
1028     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1029     RefCountedArray<ArrayAllocationProfile> m_arrayAllocationProfiles;
1030     ArrayProfileVector m_arrayProfiles;
1031     RefCountedArray<ObjectAllocationProfile> m_objectAllocationProfiles;
1032
1033     // Constant Pool
1034     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1035     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1036     // it, so we're stuck with it for now.
1037     Vector<WriteBarrier<Unknown>> m_constantRegisters;
1038     Vector<SourceCodeRepresentation> m_constantsSourceCodeRepresentation;
1039     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionDecls;
1040     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionExprs;
1041
1042     WriteBarrier<CodeBlock> m_alternative;
1043     
1044     BaselineExecutionCounter m_llintExecuteCounter;
1045
1046     BaselineExecutionCounter m_jitExecuteCounter;
1047     uint32_t m_osrExitCounter;
1048     uint16_t m_optimizationDelayCounter;
1049     uint16_t m_reoptimizationRetryCounter;
1050
1051     MonotonicTime m_creationTime;
1052
1053     std::unique_ptr<RareData> m_rareData;
1054 };
1055
1056 inline Register& ExecState::r(int index)
1057 {
1058     CodeBlock* codeBlock = this->codeBlock();
1059     if (codeBlock->isConstantRegisterIndex(index))
1060         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1061     return this[index];
1062 }
1063
1064 inline Register& ExecState::r(VirtualRegister reg)
1065 {
1066     return r(reg.offset());
1067 }
1068
1069 inline Register& ExecState::uncheckedR(int index)
1070 {
1071     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1072     return this[index];
1073 }
1074
1075 inline Register& ExecState::uncheckedR(VirtualRegister reg)
1076 {
1077     return uncheckedR(reg.offset());
1078 }
1079
1080 template <typename ExecutableType>
1081 JSObject* ScriptExecutable::prepareForExecution(VM& vm, JSFunction* function, JSScope* scope, CodeSpecializationKind kind, CodeBlock*& resultCodeBlock)
1082 {
1083     if (hasJITCodeFor(kind)) {
1084         if (std::is_same<ExecutableType, EvalExecutable>::value)
1085             resultCodeBlock = jsCast<CodeBlock*>(jsCast<EvalExecutable*>(this)->codeBlock());
1086         else if (std::is_same<ExecutableType, ProgramExecutable>::value)
1087             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ProgramExecutable*>(this)->codeBlock());
1088         else if (std::is_same<ExecutableType, ModuleProgramExecutable>::value)
1089             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ModuleProgramExecutable*>(this)->codeBlock());
1090         else if (std::is_same<ExecutableType, FunctionExecutable>::value)
1091             resultCodeBlock = jsCast<CodeBlock*>(jsCast<FunctionExecutable*>(this)->codeBlockFor(kind));
1092         else
1093             RELEASE_ASSERT_NOT_REACHED();
1094         return nullptr;
1095     }
1096     return prepareForExecutionImpl(vm, function, scope, kind, resultCodeBlock);
1097 }
1098
1099 #define CODEBLOCK_LOG_EVENT(codeBlock, summary, details) \
1100     (codeBlock->vm()->logEvent(codeBlock, summary, [&] () { return toCString details; }))
1101
1102
1103 void setPrinter(Printer::PrintRecord&, CodeBlock*);
1104
1105 } // namespace JSC
1106
1107 namespace WTF {
1108     
1109 JS_EXPORT_PRIVATE void printInternal(PrintStream&, JSC::CodeBlock*);
1110
1111 } // namespace WTF