Add support for using Probe DFG OSR Exit behind a runtime flag.
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008-2017 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #pragma once
31
32 #include "ArrayProfile.h"
33 #include "ByValInfo.h"
34 #include "BytecodeConventions.h"
35 #include "CallLinkInfo.h"
36 #include "CodeBlockHash.h"
37 #include "CodeOrigin.h"
38 #include "CodeType.h"
39 #include "CompactJITCodeMap.h"
40 #include "CompilationResult.h"
41 #include "ConcurrentJSLock.h"
42 #include "DFGCommon.h"
43 #include "DFGExitProfile.h"
44 #include "DirectEvalCodeCache.h"
45 #include "EvalExecutable.h"
46 #include "ExecutionCounter.h"
47 #include "ExpressionRangeInfo.h"
48 #include "FunctionExecutable.h"
49 #include "HandlerInfo.h"
50 #include "Instruction.h"
51 #include "JITCode.h"
52 #include "JITMathICForwards.h"
53 #include "JSCell.h"
54 #include "JSGlobalObject.h"
55 #include "JumpTable.h"
56 #include "LLIntCallLinkInfo.h"
57 #include "LLIntPrototypeLoadAdaptiveStructureWatchpoint.h"
58 #include "LazyOperandValueProfile.h"
59 #include "ModuleProgramExecutable.h"
60 #include "ObjectAllocationProfile.h"
61 #include "Options.h"
62 #include "Printer.h"
63 #include "ProfilerJettisonReason.h"
64 #include "ProgramExecutable.h"
65 #include "PutPropertySlot.h"
66 #include "UnconditionalFinalizer.h"
67 #include "ValueProfile.h"
68 #include "VirtualRegister.h"
69 #include "Watchpoint.h"
70 #include <wtf/Bag.h>
71 #include <wtf/FastMalloc.h>
72 #include <wtf/RefCountedArray.h>
73 #include <wtf/RefPtr.h>
74 #include <wtf/SegmentedVector.h>
75 #include <wtf/Vector.h>
76 #include <wtf/text/WTFString.h>
77
78 namespace JSC {
79
80 namespace DFG {
81 struct OSRExitState;
82 } // namespace DFG
83
84 class BytecodeLivenessAnalysis;
85 class CodeBlockSet;
86 class ExecState;
87 class JSModuleEnvironment;
88 class LLIntOffsetsExtractor;
89 class PCToCodeOriginMap;
90 class RegisterAtOffsetList;
91 class StructureStubInfo;
92
93 enum class AccessType : int8_t;
94
95 struct ArithProfile;
96
97 typedef HashMap<CodeOrigin, StructureStubInfo*, CodeOriginApproximateHash> StubInfoMap;
98
99 enum ReoptimizationMode { DontCountReoptimization, CountReoptimization };
100
101 class CodeBlock : public JSCell {
102     typedef JSCell Base;
103     friend class BytecodeLivenessAnalysis;
104     friend class JIT;
105     friend class LLIntOffsetsExtractor;
106
107     class UnconditionalFinalizer : public JSC::UnconditionalFinalizer { 
108         void finalizeUnconditionally() override;
109     };
110
111     class WeakReferenceHarvester : public JSC::WeakReferenceHarvester {
112         void visitWeakReferences(SlotVisitor&) override;
113     };
114
115 public:
116     enum CopyParsedBlockTag { CopyParsedBlock };
117
118     static const unsigned StructureFlags = Base::StructureFlags | StructureIsImmortal;
119
120     DECLARE_INFO;
121
122 protected:
123     CodeBlock(VM*, Structure*, CopyParsedBlockTag, CodeBlock& other);
124     CodeBlock(VM*, Structure*, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, RefPtr<SourceProvider>&&, unsigned sourceOffset, unsigned firstLineColumnOffset);
125
126     void finishCreation(VM&, CopyParsedBlockTag, CodeBlock& other);
127     bool finishCreation(VM&, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*);
128
129     WriteBarrier<JSGlobalObject> m_globalObject;
130
131 public:
132     JS_EXPORT_PRIVATE ~CodeBlock();
133
134     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
135
136     CString inferredName() const;
137     CodeBlockHash hash() const;
138     bool hasHash() const;
139     bool isSafeToComputeHash() const;
140     CString hashAsStringIfPossible() const;
141     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
142     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
143     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
144     JS_EXPORT_PRIVATE void dump(PrintStream&) const;
145
146     int numParameters() const { return m_numParameters; }
147     void setNumParameters(int newValue);
148
149     int numberOfArgumentsToSkip() const { return m_numberOfArgumentsToSkip; }
150
151     int numCalleeLocals() const { return m_numCalleeLocals; }
152
153     int* addressOfNumParameters() { return &m_numParameters; }
154     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
155
156     CodeBlock* alternative() const { return static_cast<CodeBlock*>(m_alternative.get()); }
157     void setAlternative(VM&, CodeBlock*);
158
159     template <typename Functor> void forEachRelatedCodeBlock(Functor&& functor)
160     {
161         Functor f(std::forward<Functor>(functor));
162         Vector<CodeBlock*, 4> codeBlocks;
163         codeBlocks.append(this);
164
165         while (!codeBlocks.isEmpty()) {
166             CodeBlock* currentCodeBlock = codeBlocks.takeLast();
167             f(currentCodeBlock);
168
169             if (CodeBlock* alternative = currentCodeBlock->alternative())
170                 codeBlocks.append(alternative);
171             if (CodeBlock* osrEntryBlock = currentCodeBlock->specialOSREntryBlockOrNull())
172                 codeBlocks.append(osrEntryBlock);
173         }
174     }
175     
176     CodeSpecializationKind specializationKind() const
177     {
178         return specializationFromIsConstruct(m_isConstructor);
179     }
180
181     CodeBlock* alternativeForJettison();    
182     JS_EXPORT_PRIVATE CodeBlock* baselineAlternative();
183     
184     // FIXME: Get rid of this.
185     // https://bugs.webkit.org/show_bug.cgi?id=123677
186     CodeBlock* baselineVersion();
187
188     static size_t estimatedSize(JSCell*);
189     static void visitChildren(JSCell*, SlotVisitor&);
190     void visitChildren(SlotVisitor&);
191     void visitWeakly(SlotVisitor&);
192     void clearVisitWeaklyHasBeenCalled();
193
194     void dumpSource();
195     void dumpSource(PrintStream&);
196
197     void dumpBytecode();
198     void dumpBytecode(PrintStream&);
199     void dumpBytecode(PrintStream& out, const Instruction* begin, const Instruction*& it, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
200     void dumpBytecode(PrintStream& out, unsigned bytecodeOffset, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
201
202     void dumpExceptionHandlers(PrintStream&);
203     void printStructures(PrintStream&, const Instruction*);
204     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
205
206     void dumpMathICStats();
207
208     bool isStrictMode() const { return m_isStrictMode; }
209     ECMAMode ecmaMode() const { return isStrictMode() ? StrictMode : NotStrictMode; }
210
211     bool hasInstalledVMTrapBreakpoints() const;
212     bool installVMTrapBreakpoints();
213
214     inline bool isKnownNotImmediate(int index)
215     {
216         if (index == m_thisRegister.offset() && !m_isStrictMode)
217             return true;
218
219         if (isConstantRegisterIndex(index))
220             return getConstant(index).isCell();
221
222         return false;
223     }
224
225     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
226     {
227         return index >= m_numVars;
228     }
229
230     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset, RequiredHandler = RequiredHandler::AnyHandler);
231     HandlerInfo* handlerForIndex(unsigned, RequiredHandler = RequiredHandler::AnyHandler);
232     void removeExceptionHandlerForCallSite(CallSiteIndex);
233     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
234     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
235     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
236         int& startOffset, int& endOffset, unsigned& line, unsigned& column) const;
237
238     std::optional<unsigned> bytecodeOffsetFromCallSiteIndex(CallSiteIndex);
239
240     void getStubInfoMap(const ConcurrentJSLocker&, StubInfoMap& result);
241     void getStubInfoMap(StubInfoMap& result);
242     
243     void getCallLinkInfoMap(const ConcurrentJSLocker&, CallLinkInfoMap& result);
244     void getCallLinkInfoMap(CallLinkInfoMap& result);
245
246     void getByValInfoMap(const ConcurrentJSLocker&, ByValInfoMap& result);
247     void getByValInfoMap(ByValInfoMap& result);
248     
249 #if ENABLE(JIT)
250     StructureStubInfo* addStubInfo(AccessType);
251     JITAddIC* addJITAddIC(ArithProfile*);
252     JITMulIC* addJITMulIC(ArithProfile*);
253     JITNegIC* addJITNegIC(ArithProfile*);
254     JITSubIC* addJITSubIC(ArithProfile*);
255     Bag<StructureStubInfo>::iterator stubInfoBegin() { return m_stubInfos.begin(); }
256     Bag<StructureStubInfo>::iterator stubInfoEnd() { return m_stubInfos.end(); }
257     
258     // O(n) operation. Use getStubInfoMap() unless you really only intend to get one
259     // stub info.
260     StructureStubInfo* findStubInfo(CodeOrigin);
261
262     ByValInfo* addByValInfo();
263
264     CallLinkInfo* addCallLinkInfo();
265     Bag<CallLinkInfo>::iterator callLinkInfosBegin() { return m_callLinkInfos.begin(); }
266     Bag<CallLinkInfo>::iterator callLinkInfosEnd() { return m_callLinkInfos.end(); }
267
268     // This is a slow function call used primarily for compiling OSR exits in the case
269     // that there had been inlining. Chances are if you want to use this, you're really
270     // looking for a CallLinkInfoMap to amortize the cost of calling this.
271     CallLinkInfo* getCallLinkInfoForBytecodeIndex(unsigned bytecodeIndex);
272     
273     // We call this when we want to reattempt compiling something with the baseline JIT. Ideally
274     // the baseline JIT would not add data to CodeBlock, but instead it would put its data into
275     // a newly created JITCode, which could be thrown away if we bail on JIT compilation. Then we
276     // would be able to get rid of this silly function.
277     // FIXME: https://bugs.webkit.org/show_bug.cgi?id=159061
278     void resetJITData();
279 #endif // ENABLE(JIT)
280
281     void unlinkIncomingCalls();
282
283 #if ENABLE(JIT)
284     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
285     void linkIncomingPolymorphicCall(ExecState* callerFrame, PolymorphicCallNode*);
286 #endif // ENABLE(JIT)
287
288     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
289
290     void setJITCodeMap(std::unique_ptr<CompactJITCodeMap> jitCodeMap)
291     {
292         m_jitCodeMap = WTFMove(jitCodeMap);
293     }
294     CompactJITCodeMap* jitCodeMap()
295     {
296         return m_jitCodeMap.get();
297     }
298     
299     static void clearLLIntGetByIdCache(Instruction*);
300
301     unsigned bytecodeOffset(Instruction* returnAddress)
302     {
303         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
304         return static_cast<Instruction*>(returnAddress) - instructions().begin();
305     }
306
307     typedef JSC::Instruction Instruction;
308     typedef RefCountedArray<Instruction>& UnpackedInstructions;
309
310     unsigned numberOfInstructions() const { return m_instructions.size(); }
311     RefCountedArray<Instruction>& instructions() { return m_instructions; }
312     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
313
314     size_t predictedMachineCodeSize();
315
316     bool usesOpcode(OpcodeID);
317
318     unsigned instructionCount() const { return m_instructions.size(); }
319
320     // Exactly equivalent to codeBlock->ownerExecutable()->newReplacementCodeBlockFor(codeBlock->specializationKind())
321     CodeBlock* newReplacement();
322     
323     void setJITCode(Ref<JITCode>&& code)
324     {
325         ASSERT(heap()->isDeferred());
326         heap()->reportExtraMemoryAllocated(code->size());
327         ConcurrentJSLocker locker(m_lock);
328         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
329         m_jitCode = WTFMove(code);
330     }
331     RefPtr<JITCode> jitCode() { return m_jitCode; }
332     static ptrdiff_t jitCodeOffset() { return OBJECT_OFFSETOF(CodeBlock, m_jitCode); }
333     JITCode::JITType jitType() const
334     {
335         JITCode* jitCode = m_jitCode.get();
336         WTF::loadLoadFence();
337         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
338         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
339         return result;
340     }
341
342     bool hasBaselineJITProfiling() const
343     {
344         return jitType() == JITCode::BaselineJIT;
345     }
346     
347 #if ENABLE(JIT)
348     CodeBlock* replacement();
349
350     DFG::CapabilityLevel computeCapabilityLevel();
351     DFG::CapabilityLevel capabilityLevel();
352     DFG::CapabilityLevel capabilityLevelState() { return static_cast<DFG::CapabilityLevel>(m_capabilityLevelState); }
353
354     bool hasOptimizedReplacement(JITCode::JITType typeToReplace);
355     bool hasOptimizedReplacement(); // the typeToReplace is my JITType
356 #endif
357
358     void jettison(Profiler::JettisonReason, ReoptimizationMode = DontCountReoptimization, const FireDetail* = nullptr);
359     
360     ExecutableBase* ownerExecutable() const { return m_ownerExecutable.get(); }
361     ScriptExecutable* ownerScriptExecutable() const { return jsCast<ScriptExecutable*>(m_ownerExecutable.get()); }
362
363     VM* vm() const { return m_vm; }
364
365     void setThisRegister(VirtualRegister thisRegister) { m_thisRegister = thisRegister; }
366     VirtualRegister thisRegister() const { return m_thisRegister; }
367
368     bool usesEval() const { return m_unlinkedCode->usesEval(); }
369
370     void setScopeRegister(VirtualRegister scopeRegister)
371     {
372         ASSERT(scopeRegister.isLocal() || !scopeRegister.isValid());
373         m_scopeRegister = scopeRegister;
374     }
375
376     VirtualRegister scopeRegister() const
377     {
378         return m_scopeRegister;
379     }
380     
381     CodeType codeType() const
382     {
383         return static_cast<CodeType>(m_codeType);
384     }
385
386     PutPropertySlot::Context putByIdContext() const
387     {
388         if (codeType() == EvalCode)
389             return PutPropertySlot::PutByIdEval;
390         return PutPropertySlot::PutById;
391     }
392
393     SourceProvider* source() const { return m_source.get(); }
394     unsigned sourceOffset() const { return m_sourceOffset; }
395     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
396
397     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
398     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
399
400     String nameForRegister(VirtualRegister);
401
402     unsigned numberOfArgumentValueProfiles()
403     {
404         ASSERT(m_numParameters >= 0);
405         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
406         return m_argumentValueProfiles.size();
407     }
408     ValueProfile& valueProfileForArgument(unsigned argumentIndex)
409     {
410         ValueProfile& result = m_argumentValueProfiles[argumentIndex];
411         ASSERT(result.m_bytecodeOffset == -1);
412         return result;
413     }
414
415     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
416     ValueProfile& valueProfile(int index) { return m_valueProfiles[index]; }
417     ValueProfile& valueProfileForBytecodeOffset(int bytecodeOffset);
418     ValueProfile* tryGetValueProfileForBytecodeOffset(int bytecodeOffset);
419     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJSLocker& locker, int bytecodeOffset)
420     {
421         if (ValueProfile* valueProfile = tryGetValueProfileForBytecodeOffset(bytecodeOffset))
422             return valueProfile->computeUpdatedPrediction(locker);
423         return SpecNone;
424     }
425
426     unsigned totalNumberOfValueProfiles()
427     {
428         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
429     }
430     ValueProfile& getFromAllValueProfiles(unsigned index)
431     {
432         if (index < numberOfArgumentValueProfiles())
433             return valueProfileForArgument(index);
434         return valueProfile(index - numberOfArgumentValueProfiles());
435     }
436
437     RareCaseProfile* addRareCaseProfile(int bytecodeOffset);
438     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
439     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset);
440     unsigned rareCaseProfileCountForBytecodeOffset(int bytecodeOffset);
441
442     bool likelyToTakeSlowCase(int bytecodeOffset)
443     {
444         if (!hasBaselineJITProfiling())
445             return false;
446         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
447         return value >= Options::likelyToTakeSlowCaseMinimumCount();
448     }
449
450     bool couldTakeSlowCase(int bytecodeOffset)
451     {
452         if (!hasBaselineJITProfiling())
453             return false;
454         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
455         return value >= Options::couldTakeSlowCaseMinimumCount();
456     }
457
458     ArithProfile* arithProfileForBytecodeOffset(int bytecodeOffset);
459     ArithProfile* arithProfileForPC(Instruction*);
460
461     bool couldTakeSpecialFastCase(int bytecodeOffset);
462
463     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
464     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
465     ArrayProfile* addArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
466     ArrayProfile* addArrayProfile(unsigned bytecodeOffset);
467     ArrayProfile* getArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
468     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
469     ArrayProfile* getOrAddArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
470     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
471
472     // Exception handling support
473
474     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
475     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
476
477     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
478
479 #if ENABLE(DFG_JIT)
480     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins();
481     
482     // Having code origins implies that there has been some inlining.
483     bool hasCodeOrigins()
484     {
485         return JITCode::isOptimizingJIT(jitType());
486     }
487         
488     bool canGetCodeOrigin(CallSiteIndex index)
489     {
490         if (!hasCodeOrigins())
491             return false;
492         return index.bits() < codeOrigins().size();
493     }
494
495     CodeOrigin codeOrigin(CallSiteIndex index)
496     {
497         return codeOrigins()[index.bits()];
498     }
499
500     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
501     {
502         ASSERT(JITCode::isBaselineCode(jitType()));
503         ConcurrentJSLocker locker(m_lock);
504         return m_exitProfile.add(locker, this, site);
505     }
506
507     bool hasExitSite(const ConcurrentJSLocker& locker, const DFG::FrequentExitSite& site) const
508     {
509         return m_exitProfile.hasExitSite(locker, site);
510     }
511     bool hasExitSite(const DFG::FrequentExitSite& site) const
512     {
513         ConcurrentJSLocker locker(m_lock);
514         return hasExitSite(locker, site);
515     }
516
517     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
518
519     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
520     {
521         return m_lazyOperandValueProfiles;
522     }
523 #endif // ENABLE(DFG_JIT)
524
525     // Constant Pool
526 #if ENABLE(DFG_JIT)
527     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
528     size_t numberOfDFGIdentifiers() const;
529     const Identifier& identifier(int index) const;
530 #else
531     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
532     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
533 #endif
534
535     Vector<WriteBarrier<Unknown>>& constants() { return m_constantRegisters; }
536     Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation() { return m_constantsSourceCodeRepresentation; }
537     unsigned addConstant(JSValue v)
538     {
539         unsigned result = m_constantRegisters.size();
540         m_constantRegisters.append(WriteBarrier<Unknown>());
541         m_constantRegisters.last().set(*m_vm, this, v);
542         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
543         return result;
544     }
545
546     unsigned addConstantLazily()
547     {
548         unsigned result = m_constantRegisters.size();
549         m_constantRegisters.append(WriteBarrier<Unknown>());
550         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
551         return result;
552     }
553
554     const Vector<WriteBarrier<Unknown>>& constantRegisters() { return m_constantRegisters; }
555     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
556     static ALWAYS_INLINE bool isConstantRegisterIndex(int index) { return index >= FirstConstantRegisterIndex; }
557     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
558     ALWAYS_INLINE SourceCodeRepresentation constantSourceCodeRepresentation(int index) const { return m_constantsSourceCodeRepresentation[index - FirstConstantRegisterIndex]; }
559
560     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
561     int numberOfFunctionDecls() { return m_functionDecls.size(); }
562     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
563     
564     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
565     unsigned numberOfRegExps() const { return m_unlinkedCode->numberOfRegExps(); }
566
567     const Vector<BitVector>& bitVectors() const { return m_unlinkedCode->bitVectors(); }
568     const BitVector& bitVector(size_t i) { return m_unlinkedCode->bitVector(i); }
569
570     unsigned numberOfConstantBuffers() const
571     {
572         if (!m_rareData)
573             return 0;
574         return m_rareData->m_constantBuffers.size();
575     }
576     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
577     {
578         createRareDataIfNecessary();
579         unsigned size = m_rareData->m_constantBuffers.size();
580         m_rareData->m_constantBuffers.append(buffer);
581         return size;
582     }
583
584     Vector<JSValue>& constantBufferAsVector(unsigned index)
585     {
586         ASSERT(m_rareData);
587         return m_rareData->m_constantBuffers[index];
588     }
589     JSValue* constantBuffer(unsigned index)
590     {
591         return constantBufferAsVector(index).data();
592     }
593
594     Heap* heap() const { return &m_vm->heap; }
595     JSGlobalObject* globalObject() { return m_globalObject.get(); }
596
597     JSGlobalObject* globalObjectFor(CodeOrigin);
598
599     BytecodeLivenessAnalysis& livenessAnalysis()
600     {
601         {
602             ConcurrentJSLocker locker(m_lock);
603             if (!!m_livenessAnalysis)
604                 return *m_livenessAnalysis;
605         }
606         return livenessAnalysisSlow();
607     }
608     
609     void validate();
610
611     // Jump Tables
612
613     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
614     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
615     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
616     void clearSwitchJumpTables()
617     {
618         if (!m_rareData)
619             return;
620         m_rareData->m_switchJumpTables.clear();
621     }
622
623     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
624     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
625     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
626
627     DirectEvalCodeCache& directEvalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_directEvalCodeCache; }
628
629     enum ShrinkMode {
630         // Shrink prior to generating machine code that may point directly into vectors.
631         EarlyShrink,
632
633         // Shrink after generating machine code, and after possibly creating new vectors
634         // and appending to others. At this time it is not safe to shrink certain vectors
635         // because we would have generated machine code that references them directly.
636         LateShrink
637     };
638     void shrinkToFit(ShrinkMode);
639
640     // Functions for controlling when JITting kicks in, in a mixed mode
641     // execution world.
642
643     bool checkIfJITThresholdReached()
644     {
645         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
646     }
647
648     void dontJITAnytimeSoon()
649     {
650         m_llintExecuteCounter.deferIndefinitely();
651     }
652
653     int32_t thresholdForJIT(int32_t threshold);
654     void jitAfterWarmUp();
655     void jitSoon();
656
657     const BaselineExecutionCounter& llintExecuteCounter() const
658     {
659         return m_llintExecuteCounter;
660     }
661
662     typedef HashMap<Structure*, Bag<LLIntPrototypeLoadAdaptiveStructureWatchpoint>> StructureWatchpointMap;
663     StructureWatchpointMap& llintGetByIdWatchpointMap() { return m_llintGetByIdWatchpointMap; }
664
665     // Functions for controlling when tiered compilation kicks in. This
666     // controls both when the optimizing compiler is invoked and when OSR
667     // entry happens. Two triggers exist: the loop trigger and the return
668     // trigger. In either case, when an addition to m_jitExecuteCounter
669     // causes it to become non-negative, the optimizing compiler is
670     // invoked. This includes a fast check to see if this CodeBlock has
671     // already been optimized (i.e. replacement() returns a CodeBlock
672     // that was optimized with a higher tier JIT than this one). In the
673     // case of the loop trigger, if the optimized compilation succeeds
674     // (or has already succeeded in the past) then OSR is attempted to
675     // redirect program flow into the optimized code.
676
677     // These functions are called from within the optimization triggers,
678     // and are used as a single point at which we define the heuristics
679     // for how much warm-up is mandated before the next optimization
680     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
681     // as this is called from the CodeBlock constructor.
682
683     // When we observe a lot of speculation failures, we trigger a
684     // reoptimization. But each time, we increase the optimization trigger
685     // to avoid thrashing.
686     JS_EXPORT_PRIVATE unsigned reoptimizationRetryCounter() const;
687     void countReoptimization();
688 #if ENABLE(JIT)
689     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return RegisterSet::llintBaselineCalleeSaveRegisters().numberOfSetRegisters(); }
690     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters();
691     size_t calleeSaveSpaceAsVirtualRegisters();
692
693     unsigned numberOfDFGCompiles();
694
695     int32_t codeTypeThresholdMultiplier() const;
696
697     int32_t adjustedCounterValue(int32_t desiredThreshold);
698
699     int32_t* addressOfJITExecuteCounter()
700     {
701         return &m_jitExecuteCounter.m_counter;
702     }
703
704     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_counter); }
705     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_activeThreshold); }
706     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_totalCount); }
707
708     const BaselineExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
709
710     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
711
712     // Check if the optimization threshold has been reached, and if not,
713     // adjust the heuristics accordingly. Returns true if the threshold has
714     // been reached.
715     bool checkIfOptimizationThresholdReached();
716
717     // Call this to force the next optimization trigger to fire. This is
718     // rarely wise, since optimization triggers are typically more
719     // expensive than executing baseline code.
720     void optimizeNextInvocation();
721
722     // Call this to prevent optimization from happening again. Note that
723     // optimization will still happen after roughly 2^29 invocations,
724     // so this is really meant to delay that as much as possible. This
725     // is called if optimization failed, and we expect it to fail in
726     // the future as well.
727     void dontOptimizeAnytimeSoon();
728
729     // Call this to reinitialize the counter to its starting state,
730     // forcing a warm-up to happen before the next optimization trigger
731     // fires. This is called in the CodeBlock constructor. It also
732     // makes sense to call this if an OSR exit occurred. Note that
733     // OSR exit code is code generated, so the value of the execute
734     // counter that this corresponds to is also available directly.
735     void optimizeAfterWarmUp();
736
737     // Call this to force an optimization trigger to fire only after
738     // a lot of warm-up.
739     void optimizeAfterLongWarmUp();
740
741     // Call this to cause an optimization trigger to fire soon, but
742     // not necessarily the next one. This makes sense if optimization
743     // succeeds. Successfuly optimization means that all calls are
744     // relinked to the optimized code, so this only affects call
745     // frames that are still executing this CodeBlock. The value here
746     // is tuned to strike a balance between the cost of OSR entry
747     // (which is too high to warrant making every loop back edge to
748     // trigger OSR immediately) and the cost of executing baseline
749     // code (which is high enough that we don't necessarily want to
750     // have a full warm-up). The intuition for calling this instead of
751     // optimizeNextInvocation() is for the case of recursive functions
752     // with loops. Consider that there may be N call frames of some
753     // recursive function, for a reasonably large value of N. The top
754     // one triggers optimization, and then returns, and then all of
755     // the others return. We don't want optimization to be triggered on
756     // each return, as that would be superfluous. It only makes sense
757     // to trigger optimization if one of those functions becomes hot
758     // in the baseline code.
759     void optimizeSoon();
760
761     void forceOptimizationSlowPathConcurrently();
762
763     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
764     
765     uint32_t osrExitCounter() const { return m_osrExitCounter; }
766
767     void countOSRExit() { m_osrExitCounter++; }
768
769     enum class OptimizeAction { None, ReoptimizeNow };
770     OptimizeAction updateOSRExitCounterAndCheckIfNeedToReoptimize(DFG::OSRExitState&);
771
772     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
773
774     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
775     uint32_t exitCountThresholdForReoptimization();
776     uint32_t exitCountThresholdForReoptimizationFromLoop();
777     bool shouldReoptimizeNow();
778     bool shouldReoptimizeFromLoopNow();
779
780     void setCalleeSaveRegisters(RegisterSet);
781     void setCalleeSaveRegisters(std::unique_ptr<RegisterAtOffsetList>);
782     
783     RegisterAtOffsetList* calleeSaveRegisters() const { return m_calleeSaveRegisters.get(); }
784 #else // No JIT
785     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return 0; }
786     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters() { return 0; };
787     void optimizeAfterWarmUp() { }
788     unsigned numberOfDFGCompiles() { return 0; }
789 #endif
790
791     bool shouldOptimizeNow();
792     void updateAllValueProfilePredictions();
793     void updateAllArrayPredictions();
794     void updateAllPredictions();
795
796     unsigned frameRegisterCount();
797     int stackPointerOffset();
798
799     bool hasOpDebugForLineAndColumn(unsigned line, unsigned column);
800
801     bool hasDebuggerRequests() const { return m_debuggerRequests; }
802     void* debuggerRequestsAddress() { return &m_debuggerRequests; }
803
804     void addBreakpoint(unsigned numBreakpoints);
805     void removeBreakpoint(unsigned numBreakpoints)
806     {
807         ASSERT(m_numBreakpoints >= numBreakpoints);
808         m_numBreakpoints -= numBreakpoints;
809     }
810
811     enum SteppingMode {
812         SteppingModeDisabled,
813         SteppingModeEnabled
814     };
815     void setSteppingMode(SteppingMode);
816
817     void clearDebuggerRequests()
818     {
819         m_steppingMode = SteppingModeDisabled;
820         m_numBreakpoints = 0;
821     }
822
823     bool wasCompiledWithDebuggingOpcodes() const { return m_unlinkedCode->wasCompiledWithDebuggingOpcodes(); }
824     
825     // FIXME: Make these remaining members private.
826
827     int m_numCalleeLocals;
828     int m_numVars;
829     
830     // This is intentionally public; it's the responsibility of anyone doing any
831     // of the following to hold the lock:
832     //
833     // - Modifying any inline cache in this code block.
834     //
835     // - Quering any inline cache in this code block, from a thread other than
836     //   the main thread.
837     //
838     // Additionally, it's only legal to modify the inline cache on the main
839     // thread. This means that the main thread can query the inline cache without
840     // locking. This is crucial since executing the inline cache is effectively
841     // "querying" it.
842     //
843     // Another exception to the rules is that the GC can do whatever it wants
844     // without holding any locks, because the GC is guaranteed to wait until any
845     // concurrent compilation threads finish what they're doing.
846     mutable ConcurrentJSLock m_lock;
847
848     bool m_visitWeaklyHasBeenCalled;
849
850     bool m_shouldAlwaysBeInlined; // Not a bitfield because the JIT wants to store to it.
851
852 #if ENABLE(JIT)
853     unsigned m_capabilityLevelState : 2; // DFG::CapabilityLevel
854 #endif
855
856     bool m_allTransitionsHaveBeenMarked : 1; // Initialized and used on every GC.
857
858     bool m_didFailJITCompilation : 1;
859     bool m_didFailFTLCompilation : 1;
860     bool m_hasBeenCompiledWithFTL : 1;
861     bool m_isConstructor : 1;
862     bool m_isStrictMode : 1;
863     unsigned m_codeType : 2; // CodeType
864
865     // Internal methods for use by validation code. It would be private if it wasn't
866     // for the fact that we use it from anonymous namespaces.
867     void beginValidationDidFail();
868     NO_RETURN_DUE_TO_CRASH void endValidationDidFail();
869
870     struct RareData {
871         WTF_MAKE_FAST_ALLOCATED;
872     public:
873         Vector<HandlerInfo> m_exceptionHandlers;
874
875         // Buffers used for large array literals
876         Vector<Vector<JSValue>> m_constantBuffers;
877
878         // Jump Tables
879         Vector<SimpleJumpTable> m_switchJumpTables;
880         Vector<StringJumpTable> m_stringSwitchJumpTables;
881
882         DirectEvalCodeCache m_directEvalCodeCache;
883     };
884
885     void clearExceptionHandlers()
886     {
887         if (m_rareData)
888             m_rareData->m_exceptionHandlers.clear();
889     }
890
891     void appendExceptionHandler(const HandlerInfo& handler)
892     {
893         createRareDataIfNecessary(); // We may be handling the exception of an inlined call frame.
894         m_rareData->m_exceptionHandlers.append(handler);
895     }
896
897     CallSiteIndex newExceptionHandlingCallSiteIndex(CallSiteIndex originalCallSite);
898
899     void ensureCatchLivenessIsComputedForBytecodeOffset(unsigned bytecodeOffset)
900     {
901         if (!!m_instructions[bytecodeOffset + 3].u.pointer) {
902 #if !ASSERT_DISABLED
903             ConcurrentJSLocker locker(m_lock);
904             bool found = false;
905             for (auto& profile : m_catchProfiles) {
906                 if (profile.get() == m_instructions[bytecodeOffset + 3].u.pointer) {
907                     found = true;
908                     break;
909                 }
910             }
911             ASSERT(found);
912 #endif
913             return;
914         }
915
916         ensureCatchLivenessIsComputedForBytecodeOffsetSlow(bytecodeOffset);
917     }
918
919 #if ENABLE(JIT)
920     void setPCToCodeOriginMap(std::unique_ptr<PCToCodeOriginMap>&&);
921     std::optional<CodeOrigin> findPC(void* pc);
922 #endif
923
924 protected:
925     void finalizeLLIntInlineCaches();
926     void finalizeBaselineJITInlineCaches();
927
928 #if ENABLE(DFG_JIT)
929     void tallyFrequentExitSites();
930 #else
931     void tallyFrequentExitSites() { }
932 #endif
933
934 private:
935     friend class CodeBlockSet;
936
937     BytecodeLivenessAnalysis& livenessAnalysisSlow();
938     
939     CodeBlock* specialOSREntryBlockOrNull();
940     
941     void noticeIncomingCall(ExecState* callerFrame);
942     
943     double optimizationThresholdScalingFactor();
944
945     void updateAllPredictionsAndCountLiveness(unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
946
947     void setConstantIdentifierSetRegisters(VM&, const Vector<ConstantIndentifierSetEntry>& constants);
948
949     void setConstantRegisters(const Vector<WriteBarrier<Unknown>>& constants, const Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation);
950
951     void replaceConstant(int index, JSValue value)
952     {
953         ASSERT(isConstantRegisterIndex(index) && static_cast<size_t>(index - FirstConstantRegisterIndex) < m_constantRegisters.size());
954         m_constantRegisters[index - FirstConstantRegisterIndex].set(*m_vm, this, value);
955     }
956
957     bool shouldVisitStrongly(const ConcurrentJSLocker&);
958     bool shouldJettisonDueToWeakReference();
959     bool shouldJettisonDueToOldAge(const ConcurrentJSLocker&);
960     
961     void propagateTransitions(const ConcurrentJSLocker&, SlotVisitor&);
962     void determineLiveness(const ConcurrentJSLocker&, SlotVisitor&);
963         
964     void stronglyVisitStrongReferences(const ConcurrentJSLocker&, SlotVisitor&);
965     void stronglyVisitWeakReferences(const ConcurrentJSLocker&, SlotVisitor&);
966     void visitOSRExitTargets(const ConcurrentJSLocker&, SlotVisitor&);
967
968     std::chrono::milliseconds timeSinceCreation()
969     {
970         return std::chrono::duration_cast<std::chrono::milliseconds>(
971             std::chrono::steady_clock::now() - m_creationTime);
972     }
973
974     void createRareDataIfNecessary()
975     {
976         if (!m_rareData)
977             m_rareData = std::make_unique<RareData>();
978     }
979
980     void insertBasicBlockBoundariesForControlFlowProfiler(RefCountedArray<Instruction>&);
981     void ensureCatchLivenessIsComputedForBytecodeOffsetSlow(unsigned);
982
983     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
984     int m_numParameters;
985     int m_numberOfArgumentsToSkip { 0 };
986     union {
987         unsigned m_debuggerRequests;
988         struct {
989             unsigned m_hasDebuggerStatement : 1;
990             unsigned m_steppingMode : 1;
991             unsigned m_numBreakpoints : 30;
992         };
993     };
994     WriteBarrier<ExecutableBase> m_ownerExecutable;
995     VM* m_vm;
996
997     RefCountedArray<Instruction> m_instructions;
998     VirtualRegister m_thisRegister;
999     VirtualRegister m_scopeRegister;
1000     mutable CodeBlockHash m_hash;
1001
1002     RefPtr<SourceProvider> m_source;
1003     unsigned m_sourceOffset;
1004     unsigned m_firstLineColumnOffset;
1005
1006     RefCountedArray<LLIntCallLinkInfo> m_llintCallLinkInfos;
1007     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo>> m_incomingLLIntCalls;
1008     StructureWatchpointMap m_llintGetByIdWatchpointMap;
1009     RefPtr<JITCode> m_jitCode;
1010 #if ENABLE(JIT)
1011     std::unique_ptr<RegisterAtOffsetList> m_calleeSaveRegisters;
1012     Bag<StructureStubInfo> m_stubInfos;
1013     Bag<JITAddIC> m_addICs;
1014     Bag<JITMulIC> m_mulICs;
1015     Bag<JITNegIC> m_negICs;
1016     Bag<JITSubIC> m_subICs;
1017     Bag<ByValInfo> m_byValInfos;
1018     Bag<CallLinkInfo> m_callLinkInfos;
1019     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo>> m_incomingCalls;
1020     SentinelLinkedList<PolymorphicCallNode, BasicRawSentinelNode<PolymorphicCallNode>> m_incomingPolymorphicCalls;
1021     std::unique_ptr<PCToCodeOriginMap> m_pcToCodeOriginMap;
1022 #endif
1023     std::unique_ptr<CompactJITCodeMap> m_jitCodeMap;
1024 #if ENABLE(DFG_JIT)
1025     // This is relevant to non-DFG code blocks that serve as the profiled code block
1026     // for DFG code blocks.
1027     DFG::ExitProfile m_exitProfile;
1028     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1029 #endif
1030     RefCountedArray<ValueProfile> m_argumentValueProfiles;
1031     RefCountedArray<ValueProfile> m_valueProfiles;
1032     Vector<std::unique_ptr<ValueProfileAndOperandBuffer>> m_catchProfiles;
1033     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1034     RefCountedArray<ArrayAllocationProfile> m_arrayAllocationProfiles;
1035     ArrayProfileVector m_arrayProfiles;
1036     RefCountedArray<ObjectAllocationProfile> m_objectAllocationProfiles;
1037
1038     // Constant Pool
1039     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1040     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1041     // it, so we're stuck with it for now.
1042     Vector<WriteBarrier<Unknown>> m_constantRegisters;
1043     Vector<SourceCodeRepresentation> m_constantsSourceCodeRepresentation;
1044     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionDecls;
1045     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionExprs;
1046
1047     WriteBarrier<CodeBlock> m_alternative;
1048     
1049     BaselineExecutionCounter m_llintExecuteCounter;
1050
1051     BaselineExecutionCounter m_jitExecuteCounter;
1052     uint32_t m_osrExitCounter;
1053     uint16_t m_optimizationDelayCounter;
1054     uint16_t m_reoptimizationRetryCounter;
1055
1056     std::chrono::steady_clock::time_point m_creationTime;
1057
1058     std::unique_ptr<BytecodeLivenessAnalysis> m_livenessAnalysis;
1059
1060     std::unique_ptr<RareData> m_rareData;
1061
1062     UnconditionalFinalizer m_unconditionalFinalizer;
1063     WeakReferenceHarvester m_weakReferenceHarvester;
1064 };
1065
1066 inline Register& ExecState::r(int index)
1067 {
1068     CodeBlock* codeBlock = this->codeBlock();
1069     if (codeBlock->isConstantRegisterIndex(index))
1070         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1071     return this[index];
1072 }
1073
1074 inline Register& ExecState::r(VirtualRegister reg)
1075 {
1076     return r(reg.offset());
1077 }
1078
1079 inline Register& ExecState::uncheckedR(int index)
1080 {
1081     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1082     return this[index];
1083 }
1084
1085 inline Register& ExecState::uncheckedR(VirtualRegister reg)
1086 {
1087     return uncheckedR(reg.offset());
1088 }
1089
1090 inline void CodeBlock::clearVisitWeaklyHasBeenCalled()
1091 {
1092     m_visitWeaklyHasBeenCalled = false;
1093 }
1094
1095 template <typename ExecutableType>
1096 JSObject* ScriptExecutable::prepareForExecution(VM& vm, JSFunction* function, JSScope* scope, CodeSpecializationKind kind, CodeBlock*& resultCodeBlock)
1097 {
1098     if (hasJITCodeFor(kind)) {
1099         if (std::is_same<ExecutableType, EvalExecutable>::value)
1100             resultCodeBlock = jsCast<CodeBlock*>(jsCast<EvalExecutable*>(this)->codeBlock());
1101         else if (std::is_same<ExecutableType, ProgramExecutable>::value)
1102             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ProgramExecutable*>(this)->codeBlock());
1103         else if (std::is_same<ExecutableType, ModuleProgramExecutable>::value)
1104             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ModuleProgramExecutable*>(this)->codeBlock());
1105         else if (std::is_same<ExecutableType, FunctionExecutable>::value)
1106             resultCodeBlock = jsCast<CodeBlock*>(jsCast<FunctionExecutable*>(this)->codeBlockFor(kind));
1107         else
1108             RELEASE_ASSERT_NOT_REACHED();
1109         return nullptr;
1110     }
1111     return prepareForExecutionImpl(vm, function, scope, kind, resultCodeBlock);
1112 }
1113
1114 #define CODEBLOCK_LOG_EVENT(codeBlock, summary, details) \
1115     (codeBlock->vm()->logEvent(codeBlock, summary, [&] () { return toCString details; }))
1116
1117
1118 void setPrinter(Printer::PrintRecord&, CodeBlock*);
1119
1120 } // namespace JSC
1121
1122 namespace WTF {
1123     
1124 JS_EXPORT_PRIVATE void printInternal(PrintStream&, JSC::CodeBlock*);
1125
1126 } // namespace WTF