Source/JavaScriptCore/bytecode/CodeBlock.h

   1 /*
   2  * Copyright (C) 2008-2017 Apple Inc. All rights reserved.
   3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  *
   9  * 1.  Redistributions of source code must retain the above copyright
  10  *     notice, this list of conditions and the following disclaimer.
  11  * 2.  Redistributions in binary form must reproduce the above copyright
  12  *     notice, this list of conditions and the following disclaimer in the
  13  *     documentation and/or other materials provided with the distribution.
  14  * 3.  Neither the name of Apple Inc. ("Apple") nor the names of
  15  *     its contributors may be used to endorse or promote products derived
  16  *     from this software without specific prior written permission.
  17  *
  18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
  19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
  20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
  21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
  22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
  23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
  25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  28  */
  29
  30 #pragma once
  31
  32 #include "ArrayProfile.h"
  33 #include "ByValInfo.h"
  34 #include "BytecodeConventions.h"
  35 #include "CallLinkInfo.h"
  36 #include "CallReturnOffsetToBytecodeOffset.h"
  37 #include "CodeBlockHash.h"
  38 #include "CodeOrigin.h"
  39 #include "CodeType.h"
  40 #include "CompactJITCodeMap.h"
  41 #include "ConcurrentJSLock.h"
  42 #include "DFGCommon.h"
  43 #include "DFGExitProfile.h"
  44 #include "DeferredCompilationCallback.h"
  45 #include "DirectEvalCodeCache.h"
  46 #include "EvalExecutable.h"
  47 #include "ExecutionCounter.h"
  48 #include "ExpressionRangeInfo.h"
  49 #include "FunctionExecutable.h"
  50 #include "HandlerInfo.h"
  51 #include "Instruction.h"
  52 #include "JITCode.h"
  53 #include "JITMathICForwards.h"
  54 #include "JSCell.h"
  55 #include "JSGlobalObject.h"
  56 #include "JumpTable.h"
  57 #include "LLIntCallLinkInfo.h"
  58 #include "LLIntPrototypeLoadAdaptiveStructureWatchpoint.h"
  59 #include "LazyOperandValueProfile.h"
  60 #include "ModuleProgramExecutable.h"
  61 #include "ObjectAllocationProfile.h"
  62 #include "Options.h"
  63 #include "ProfilerJettisonReason.h"
  64 #include "ProgramExecutable.h"
  65 #include "PutPropertySlot.h"
  66 #include "UnconditionalFinalizer.h"
  67 #include "ValueProfile.h"
  68 #include "VirtualRegister.h"
  69 #include "Watchpoint.h"
  70 #include <wtf/Bag.h>
  71 #include <wtf/FastBitVector.h>
  72 #include <wtf/FastMalloc.h>
  73 #include <wtf/RefCountedArray.h>
  74 #include <wtf/RefPtr.h>
  75 #include <wtf/SegmentedVector.h>
  76 #include <wtf/Vector.h>
  77 #include <wtf/text/WTFString.h>
  78
  79 namespace JSC {
  80
  81 class BytecodeLivenessAnalysis;
  82 class CodeBlockSet;
  83 class ExecState;
  84 class JSModuleEnvironment;
  85 class LLIntOffsetsExtractor;
  86 class PCToCodeOriginMap;
  87 class RegisterAtOffsetList;
  88 class StructureStubInfo;
  89
  90 enum class AccessType : int8_t;
  91
  92 struct ArithProfile;
  93
  94 typedef HashMap<CodeOrigin, StructureStubInfo*, CodeOriginApproximateHash> StubInfoMap;
  95
  96 enum ReoptimizationMode { DontCountReoptimization, CountReoptimization };
  97
  98 class CodeBlock : public JSCell {
  99     typedef JSCell Base;
 100     friend class BytecodeLivenessAnalysis;
 101     friend class JIT;
 102     friend class LLIntOffsetsExtractor;
 103
 104     class UnconditionalFinalizer : public JSC::UnconditionalFinalizer {
 105         void finalizeUnconditionally() override;
 106     };
 107
 108     class WeakReferenceHarvester : public JSC::WeakReferenceHarvester {
 109         void visitWeakReferences(SlotVisitor&) override;
 110     };
 111
 112 public:
 113     enum CopyParsedBlockTag { CopyParsedBlock };
 114
 115     static const unsigned StructureFlags = Base::StructureFlags | StructureIsImmortal;
 116
 117     DECLARE_INFO;
 118
 119 protected:
 120     CodeBlock(VM*, Structure*, CopyParsedBlockTag, CodeBlock& other);
 121     CodeBlock(VM*, Structure*, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, RefPtr<SourceProvider>&&, unsigned sourceOffset, unsigned firstLineColumnOffset);
 122
 123     void finishCreation(VM&, CopyParsedBlockTag, CodeBlock& other);
 124     bool finishCreation(VM&, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*);
 125
 126     WriteBarrier<JSGlobalObject> m_globalObject;
 127
 128 public:
 129     JS_EXPORT_PRIVATE ~CodeBlock();
 130
 131     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
 132
 133     CString inferredName() const;
 134     CodeBlockHash hash() const;
 135     bool hasHash() const;
 136     bool isSafeToComputeHash() const;
 137     CString hashAsStringIfPossible() const;
 138     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
 139     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
 140     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
 141     JS_EXPORT_PRIVATE void dump(PrintStream&) const;
 142
 143     int numParameters() const { return m_numParameters; }
 144     void setNumParameters(int newValue);
 145
 146     int numberOfArgumentsToSkip() const { return m_numberOfArgumentsToSkip; }
 147
 148     int numCalleeLocals() const { return m_numCalleeLocals; }
 149
 150     int* addressOfNumParameters() { return &m_numParameters; }
 151     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
 152
 153     CodeBlock* alternative() const { return static_cast<CodeBlock*>(m_alternative.get()); }
 154     void setAlternative(VM&, CodeBlock*);
 155
 156     template <typename Functor> void forEachRelatedCodeBlock(Functor&& functor)
 157     {
 158         Functor f(std::forward<Functor>(functor));
 159         Vector<CodeBlock*, 4> codeBlocks;
 160         codeBlocks.append(this);
 161
 162         while (!codeBlocks.isEmpty()) {
 163             CodeBlock* currentCodeBlock = codeBlocks.takeLast();
 164             f(currentCodeBlock);
 165
 166             if (CodeBlock* alternative = currentCodeBlock->alternative())
 167                 codeBlocks.append(alternative);
 168             if (CodeBlock* osrEntryBlock = currentCodeBlock->specialOSREntryBlockOrNull())
 169                 codeBlocks.append(osrEntryBlock);
 170         }
 171     }
 172
 173     CodeSpecializationKind specializationKind() const
 174     {
 175         return specializationFromIsConstruct(m_isConstructor);
 176     }
 177
 178     CodeBlock* alternativeForJettison();
 179     JS_EXPORT_PRIVATE CodeBlock* baselineAlternative();
 180
 181     // FIXME: Get rid of this.
 182     // https://bugs.webkit.org/show_bug.cgi?id=123677
 183     CodeBlock* baselineVersion();
 184
 185     static size_t estimatedSize(JSCell*);
 186     static void visitChildren(JSCell*, SlotVisitor&);
 187     void visitChildren(SlotVisitor&);
 188     void visitWeakly(SlotVisitor&);
 189     void clearVisitWeaklyHasBeenCalled();
 190
 191     void dumpSource();
 192     void dumpSource(PrintStream&);
 193
 194     void dumpBytecode();
 195     void dumpBytecode(PrintStream&);
 196     void dumpBytecode(PrintStream& out, const Instruction* begin, const Instruction*& it, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
 197     void dumpBytecode(PrintStream& out, unsigned bytecodeOffset, const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
 198
 199     void dumpExceptionHandlers(PrintStream&);
 200     void printStructures(PrintStream&, const Instruction*);
 201     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
 202
 203     void dumpMathICStats();
 204
 205     bool isStrictMode() const { return m_isStrictMode; }
 206     ECMAMode ecmaMode() const { return isStrictMode() ? StrictMode : NotStrictMode; }
 207
 208     bool hasInstalledVMTrapBreakpoints() const;
 209     bool installVMTrapBreakpoints();
 210
 211     inline bool isKnownNotImmediate(int index)
 212     {
 213         if (index == m_thisRegister.offset() && !m_isStrictMode)
 214             return true;
 215
 216         if (isConstantRegisterIndex(index))
 217             return getConstant(index).isCell();
 218
 219         return false;
 220     }
 221
 222     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
 223     {
 224         return index >= m_numVars;
 225     }
 226
 227     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset, RequiredHandler = RequiredHandler::AnyHandler);
 228     HandlerInfo* handlerForIndex(unsigned, RequiredHandler = RequiredHandler::AnyHandler);
 229     void removeExceptionHandlerForCallSite(CallSiteIndex);
 230     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
 231     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
 232     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
 233         int& startOffset, int& endOffset, unsigned& line, unsigned& column) const;
 234
 235     std::optional<unsigned> bytecodeOffsetFromCallSiteIndex(CallSiteIndex);
 236
 237     void getStubInfoMap(const ConcurrentJSLocker&, StubInfoMap& result);
 238     void getStubInfoMap(StubInfoMap& result);
 239
 240     void getCallLinkInfoMap(const ConcurrentJSLocker&, CallLinkInfoMap& result);
 241     void getCallLinkInfoMap(CallLinkInfoMap& result);
 242
 243     void getByValInfoMap(const ConcurrentJSLocker&, ByValInfoMap& result);
 244     void getByValInfoMap(ByValInfoMap& result);
 245
 246 #if ENABLE(JIT)
 247     StructureStubInfo* addStubInfo(AccessType);
 248     JITAddIC* addJITAddIC(ArithProfile*);
 249     JITMulIC* addJITMulIC(ArithProfile*);
 250     JITNegIC* addJITNegIC(ArithProfile*);
 251     JITSubIC* addJITSubIC(ArithProfile*);
 252     Bag<StructureStubInfo>::iterator stubInfoBegin() { return m_stubInfos.begin(); }
 253     Bag<StructureStubInfo>::iterator stubInfoEnd() { return m_stubInfos.end(); }
 254
 255     // O(n) operation. Use getStubInfoMap() unless you really only intend to get one
 256     // stub info.
 257     StructureStubInfo* findStubInfo(CodeOrigin);
 258
 259     ByValInfo* addByValInfo();
 260
 261     CallLinkInfo* addCallLinkInfo();
 262     Bag<CallLinkInfo>::iterator callLinkInfosBegin() { return m_callLinkInfos.begin(); }
 263     Bag<CallLinkInfo>::iterator callLinkInfosEnd() { return m_callLinkInfos.end(); }
 264
 265     // This is a slow function call used primarily for compiling OSR exits in the case
 266     // that there had been inlining. Chances are if you want to use this, you're really
 267     // looking for a CallLinkInfoMap to amortize the cost of calling this.
 268     CallLinkInfo* getCallLinkInfoForBytecodeIndex(unsigned bytecodeIndex);
 269
 270     // We call this when we want to reattempt compiling something with the baseline JIT. Ideally
 271     // the baseline JIT would not add data to CodeBlock, but instead it would put its data into
 272     // a newly created JITCode, which could be thrown away if we bail on JIT compilation. Then we
 273     // would be able to get rid of this silly function.
 274     // FIXME: https://bugs.webkit.org/show_bug.cgi?id=159061
 275     void resetJITData();
 276 #endif // ENABLE(JIT)
 277
 278     void unlinkIncomingCalls();
 279
 280 #if ENABLE(JIT)
 281     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
 282     void linkIncomingPolymorphicCall(ExecState* callerFrame, PolymorphicCallNode*);
 283 #endif // ENABLE(JIT)
 284
 285     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
 286
 287     void setJITCodeMap(std::unique_ptr<CompactJITCodeMap> jitCodeMap)
 288     {
 289         m_jitCodeMap = WTFMove(jitCodeMap);
 290     }
 291     CompactJITCodeMap* jitCodeMap()
 292     {
 293         return m_jitCodeMap.get();
 294     }
 295
 296     static void clearLLIntGetByIdCache(Instruction*);
 297
 298     unsigned bytecodeOffset(Instruction* returnAddress)
 299     {
 300         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
 301         return static_cast<Instruction*>(returnAddress) - instructions().begin();
 302     }
 303
 304     typedef JSC::Instruction Instruction;
 305     typedef RefCountedArray<Instruction>& UnpackedInstructions;
 306
 307     unsigned numberOfInstructions() const { return m_instructions.size(); }
 308     RefCountedArray<Instruction>& instructions() { return m_instructions; }
 309     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
 310
 311     size_t predictedMachineCodeSize();
 312
 313     bool usesOpcode(OpcodeID);
 314
 315     unsigned instructionCount() const { return m_instructions.size(); }
 316
 317     // Exactly equivalent to codeBlock->ownerExecutable()->newReplacementCodeBlockFor(codeBlock->specializationKind())
 318     CodeBlock* newReplacement();
 319
 320     void setJITCode(Ref<JITCode>&& code)
 321     {
 322         ASSERT(heap()->isDeferred());
 323         heap()->reportExtraMemoryAllocated(code->size());
 324         ConcurrentJSLocker locker(m_lock);
 325         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
 326         m_jitCode = WTFMove(code);
 327     }
 328     RefPtr<JITCode> jitCode() { return m_jitCode; }
 329     static ptrdiff_t jitCodeOffset() { return OBJECT_OFFSETOF(CodeBlock, m_jitCode); }
 330     JITCode::JITType jitType() const
 331     {
 332         JITCode* jitCode = m_jitCode.get();
 333         WTF::loadLoadFence();
 334         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
 335         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
 336         return result;
 337     }
 338
 339     bool hasBaselineJITProfiling() const
 340     {
 341         return jitType() == JITCode::BaselineJIT;
 342     }
 343
 344 #if ENABLE(JIT)
 345     CodeBlock* replacement();
 346
 347     DFG::CapabilityLevel computeCapabilityLevel();
 348     DFG::CapabilityLevel capabilityLevel();
 349     DFG::CapabilityLevel capabilityLevelState() { return static_cast<DFG::CapabilityLevel>(m_capabilityLevelState); }
 350
 351     bool hasOptimizedReplacement(JITCode::JITType typeToReplace);
 352     bool hasOptimizedReplacement(); // the typeToReplace is my JITType
 353 #endif
 354
 355     void jettison(Profiler::JettisonReason, ReoptimizationMode = DontCountReoptimization, const FireDetail* = nullptr);
 356
 357     ExecutableBase* ownerExecutable() const { return m_ownerExecutable.get(); }
 358     ScriptExecutable* ownerScriptExecutable() const { return jsCast<ScriptExecutable*>(m_ownerExecutable.get()); }
 359
 360     VM* vm() const { return m_vm; }
 361
 362     void setThisRegister(VirtualRegister thisRegister) { m_thisRegister = thisRegister; }
 363     VirtualRegister thisRegister() const { return m_thisRegister; }
 364
 365     bool usesEval() const { return m_unlinkedCode->usesEval(); }
 366
 367     void setScopeRegister(VirtualRegister scopeRegister)
 368     {
 369         ASSERT(scopeRegister.isLocal() || !scopeRegister.isValid());
 370         m_scopeRegister = scopeRegister;
 371     }
 372
 373     VirtualRegister scopeRegister() const
 374     {
 375         return m_scopeRegister;
 376     }
 377
 378     CodeType codeType() const
 379     {
 380         return static_cast<CodeType>(m_codeType);
 381     }
 382
 383     PutPropertySlot::Context putByIdContext() const
 384     {
 385         if (codeType() == EvalCode)
 386             return PutPropertySlot::PutByIdEval;
 387         return PutPropertySlot::PutById;
 388     }
 389
 390     SourceProvider* source() const { return m_source.get(); }
 391     unsigned sourceOffset() const { return m_sourceOffset; }
 392     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
 393
 394     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
 395     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
 396
 397     String nameForRegister(VirtualRegister);
 398
 399     unsigned numberOfArgumentValueProfiles()
 400     {
 401         ASSERT(m_numParameters >= 0);
 402         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
 403         return m_argumentValueProfiles.size();
 404     }
 405     ValueProfile* valueProfileForArgument(unsigned argumentIndex)
 406     {
 407         ValueProfile* result = &m_argumentValueProfiles[argumentIndex];
 408         ASSERT(result->m_bytecodeOffset == -1);
 409         return result;
 410     }
 411
 412     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
 413     ValueProfile* valueProfile(int index) { return &m_valueProfiles[index]; }
 414     ValueProfile* valueProfileForBytecodeOffset(int bytecodeOffset);
 415     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJSLocker& locker, int bytecodeOffset)
 416     {
 417         if (ValueProfile* valueProfile = valueProfileForBytecodeOffset(bytecodeOffset))
 418             return valueProfile->computeUpdatedPrediction(locker);
 419         return SpecNone;
 420     }
 421
 422     unsigned totalNumberOfValueProfiles()
 423     {
 424         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
 425     }
 426     ValueProfile* getFromAllValueProfiles(unsigned index)
 427     {
 428         if (index < numberOfArgumentValueProfiles())
 429             return valueProfileForArgument(index);
 430         return valueProfile(index - numberOfArgumentValueProfiles());
 431     }
 432
 433     RareCaseProfile* addRareCaseProfile(int bytecodeOffset);
 434     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
 435     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset);
 436     unsigned rareCaseProfileCountForBytecodeOffset(int bytecodeOffset);
 437
 438     bool likelyToTakeSlowCase(int bytecodeOffset)
 439     {
 440         if (!hasBaselineJITProfiling())
 441             return false;
 442         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
 443         return value >= Options::likelyToTakeSlowCaseMinimumCount();
 444     }
 445
 446     bool couldTakeSlowCase(int bytecodeOffset)
 447     {
 448         if (!hasBaselineJITProfiling())
 449             return false;
 450         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
 451         return value >= Options::couldTakeSlowCaseMinimumCount();
 452     }
 453
 454     ArithProfile* arithProfileForBytecodeOffset(int bytecodeOffset);
 455     ArithProfile* arithProfileForPC(Instruction*);
 456
 457     bool couldTakeSpecialFastCase(int bytecodeOffset);
 458
 459     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
 460     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
 461     ArrayProfile* addArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
 462     ArrayProfile* addArrayProfile(unsigned bytecodeOffset);
 463     ArrayProfile* getArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
 464     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
 465     ArrayProfile* getOrAddArrayProfile(const ConcurrentJSLocker&, unsigned bytecodeOffset);
 466     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
 467
 468     // Exception handling support
 469
 470     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
 471     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
 472
 473     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
 474
 475 #if ENABLE(DFG_JIT)
 476     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins();
 477
 478     // Having code origins implies that there has been some inlining.
 479     bool hasCodeOrigins()
 480     {
 481         return JITCode::isOptimizingJIT(jitType());
 482     }
 483
 484     bool canGetCodeOrigin(CallSiteIndex index)
 485     {
 486         if (!hasCodeOrigins())
 487             return false;
 488         return index.bits() < codeOrigins().size();
 489     }
 490
 491     CodeOrigin codeOrigin(CallSiteIndex index)
 492     {
 493         return codeOrigins()[index.bits()];
 494     }
 495
 496     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
 497     {
 498         ASSERT(JITCode::isBaselineCode(jitType()));
 499         ConcurrentJSLocker locker(m_lock);
 500         return m_exitProfile.add(locker, this, site);
 501     }
 502
 503     bool hasExitSite(const ConcurrentJSLocker& locker, const DFG::FrequentExitSite& site) const
 504     {
 505         return m_exitProfile.hasExitSite(locker, site);
 506     }
 507     bool hasExitSite(const DFG::FrequentExitSite& site) const
 508     {
 509         ConcurrentJSLocker locker(m_lock);
 510         return hasExitSite(locker, site);
 511     }
 512
 513     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
 514
 515     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
 516     {
 517         return m_lazyOperandValueProfiles;
 518     }
 519 #endif // ENABLE(DFG_JIT)
 520
 521     // Constant Pool
 522 #if ENABLE(DFG_JIT)
 523     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
 524     size_t numberOfDFGIdentifiers() const;
 525     const Identifier& identifier(int index) const;
 526 #else
 527     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
 528     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
 529 #endif
 530
 531     Vector<WriteBarrier<Unknown>>& constants() { return m_constantRegisters; }
 532     Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation() { return m_constantsSourceCodeRepresentation; }
 533     unsigned addConstant(JSValue v)
 534     {
 535         unsigned result = m_constantRegisters.size();
 536         m_constantRegisters.append(WriteBarrier<Unknown>());
 537         m_constantRegisters.last().set(m_globalObject->vm(), this, v);
 538         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
 539         return result;
 540     }
 541
 542     unsigned addConstantLazily()
 543     {
 544         unsigned result = m_constantRegisters.size();
 545         m_constantRegisters.append(WriteBarrier<Unknown>());
 546         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
 547         return result;
 548     }
 549
 550     const Vector<WriteBarrier<Unknown>>& constantRegisters() { return m_constantRegisters; }
 551     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
 552     static ALWAYS_INLINE bool isConstantRegisterIndex(int index) { return index >= FirstConstantRegisterIndex; }
 553     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
 554     ALWAYS_INLINE SourceCodeRepresentation constantSourceCodeRepresentation(int index) const { return m_constantsSourceCodeRepresentation[index - FirstConstantRegisterIndex]; }
 555
 556     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
 557     int numberOfFunctionDecls() { return m_functionDecls.size(); }
 558     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
 559
 560     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
 561     unsigned numberOfRegExps() const { return m_unlinkedCode->numberOfRegExps(); }
 562
 563     const Vector<BitVector>& bitVectors() const { return m_unlinkedCode->bitVectors(); }
 564     const BitVector& bitVector(size_t i) { return m_unlinkedCode->bitVector(i); }
 565
 566     unsigned numberOfConstantBuffers() const
 567     {
 568         if (!m_rareData)
 569             return 0;
 570         return m_rareData->m_constantBuffers.size();
 571     }
 572     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
 573     {
 574         createRareDataIfNecessary();
 575         unsigned size = m_rareData->m_constantBuffers.size();
 576         m_rareData->m_constantBuffers.append(buffer);
 577         return size;
 578     }
 579
 580     Vector<JSValue>& constantBufferAsVector(unsigned index)
 581     {
 582         ASSERT(m_rareData);
 583         return m_rareData->m_constantBuffers[index];
 584     }
 585     JSValue* constantBuffer(unsigned index)
 586     {
 587         return constantBufferAsVector(index).data();
 588     }
 589
 590     Heap* heap() const { return &m_vm->heap; }
 591     JSGlobalObject* globalObject() { return m_globalObject.get(); }
 592
 593     JSGlobalObject* globalObjectFor(CodeOrigin);
 594
 595     BytecodeLivenessAnalysis& livenessAnalysis()
 596     {
 597         {
 598             ConcurrentJSLocker locker(m_lock);
 599             if (!!m_livenessAnalysis)
 600                 return *m_livenessAnalysis;
 601         }
 602         return livenessAnalysisSlow();
 603     }
 604
 605     void validate();
 606
 607     // Jump Tables
 608
 609     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
 610     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
 611     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
 612     void clearSwitchJumpTables()
 613     {
 614         if (!m_rareData)
 615             return;
 616         m_rareData->m_switchJumpTables.clear();
 617     }
 618
 619     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
 620     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
 621     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
 622
 623     DirectEvalCodeCache& directEvalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_directEvalCodeCache; }
 624
 625     enum ShrinkMode {
 626         // Shrink prior to generating machine code that may point directly into vectors.
 627         EarlyShrink,
 628
 629         // Shrink after generating machine code, and after possibly creating new vectors
 630         // and appending to others. At this time it is not safe to shrink certain vectors
 631         // because we would have generated machine code that references them directly.
 632         LateShrink
 633     };
 634     void shrinkToFit(ShrinkMode);
 635
 636     // Functions for controlling when JITting kicks in, in a mixed mode
 637     // execution world.
 638
 639     bool checkIfJITThresholdReached()
 640     {
 641         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
 642     }
 643
 644     void dontJITAnytimeSoon()
 645     {
 646         m_llintExecuteCounter.deferIndefinitely();
 647     }
 648
 649     int32_t thresholdForJIT(int32_t threshold);
 650     void jitAfterWarmUp();
 651     void jitSoon();
 652
 653     const BaselineExecutionCounter& llintExecuteCounter() const
 654     {
 655         return m_llintExecuteCounter;
 656     }
 657
 658     typedef HashMap<Structure*, Bag<LLIntPrototypeLoadAdaptiveStructureWatchpoint>> StructureWatchpointMap;
 659     StructureWatchpointMap& llintGetByIdWatchpointMap() { return m_llintGetByIdWatchpointMap; }
 660
 661     // Functions for controlling when tiered compilation kicks in. This
 662     // controls both when the optimizing compiler is invoked and when OSR
 663     // entry happens. Two triggers exist: the loop trigger and the return
 664     // trigger. In either case, when an addition to m_jitExecuteCounter
 665     // causes it to become non-negative, the optimizing compiler is
 666     // invoked. This includes a fast check to see if this CodeBlock has
 667     // already been optimized (i.e. replacement() returns a CodeBlock
 668     // that was optimized with a higher tier JIT than this one). In the
 669     // case of the loop trigger, if the optimized compilation succeeds
 670     // (or has already succeeded in the past) then OSR is attempted to
 671     // redirect program flow into the optimized code.
 672
 673     // These functions are called from within the optimization triggers,
 674     // and are used as a single point at which we define the heuristics
 675     // for how much warm-up is mandated before the next optimization
 676     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
 677     // as this is called from the CodeBlock constructor.
 678
 679     // When we observe a lot of speculation failures, we trigger a
 680     // reoptimization. But each time, we increase the optimization trigger
 681     // to avoid thrashing.
 682     JS_EXPORT_PRIVATE unsigned reoptimizationRetryCounter() const;
 683     void countReoptimization();
 684 #if ENABLE(JIT)
 685     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return RegisterSet::llintBaselineCalleeSaveRegisters().numberOfSetRegisters(); }
 686     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters();
 687     size_t calleeSaveSpaceAsVirtualRegisters();
 688
 689     unsigned numberOfDFGCompiles();
 690
 691     int32_t codeTypeThresholdMultiplier() const;
 692
 693     int32_t adjustedCounterValue(int32_t desiredThreshold);
 694
 695     int32_t* addressOfJITExecuteCounter()
 696     {
 697         return &m_jitExecuteCounter.m_counter;
 698     }
 699
 700     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_counter); }
 701     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_activeThreshold); }
 702     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_totalCount); }
 703
 704     const BaselineExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
 705
 706     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
 707
 708     // Check if the optimization threshold has been reached, and if not,
 709     // adjust the heuristics accordingly. Returns true if the threshold has
 710     // been reached.
 711     bool checkIfOptimizationThresholdReached();
 712
 713     // Call this to force the next optimization trigger to fire. This is
 714     // rarely wise, since optimization triggers are typically more
 715     // expensive than executing baseline code.
 716     void optimizeNextInvocation();
 717
 718     // Call this to prevent optimization from happening again. Note that
 719     // optimization will still happen after roughly 2^29 invocations,
 720     // so this is really meant to delay that as much as possible. This
 721     // is called if optimization failed, and we expect it to fail in
 722     // the future as well.
 723     void dontOptimizeAnytimeSoon();
 724
 725     // Call this to reinitialize the counter to its starting state,
 726     // forcing a warm-up to happen before the next optimization trigger
 727     // fires. This is called in the CodeBlock constructor. It also
 728     // makes sense to call this if an OSR exit occurred. Note that
 729     // OSR exit code is code generated, so the value of the execute
 730     // counter that this corresponds to is also available directly.
 731     void optimizeAfterWarmUp();
 732
 733     // Call this to force an optimization trigger to fire only after
 734     // a lot of warm-up.
 735     void optimizeAfterLongWarmUp();
 736
 737     // Call this to cause an optimization trigger to fire soon, but
 738     // not necessarily the next one. This makes sense if optimization
 739     // succeeds. Successfuly optimization means that all calls are
 740     // relinked to the optimized code, so this only affects call
 741     // frames that are still executing this CodeBlock. The value here
 742     // is tuned to strike a balance between the cost of OSR entry
 743     // (which is too high to warrant making every loop back edge to
 744     // trigger OSR immediately) and the cost of executing baseline
 745     // code (which is high enough that we don't necessarily want to
 746     // have a full warm-up). The intuition for calling this instead of
 747     // optimizeNextInvocation() is for the case of recursive functions
 748     // with loops. Consider that there may be N call frames of some
 749     // recursive function, for a reasonably large value of N. The top
 750     // one triggers optimization, and then returns, and then all of
 751     // the others return. We don't want optimization to be triggered on
 752     // each return, as that would be superfluous. It only makes sense
 753     // to trigger optimization if one of those functions becomes hot
 754     // in the baseline code.
 755     void optimizeSoon();
 756
 757     void forceOptimizationSlowPathConcurrently();
 758
 759     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
 760
 761     uint32_t osrExitCounter() const { return m_osrExitCounter; }
 762
 763     void countOSRExit() { m_osrExitCounter++; }
 764
 765     uint32_t* addressOfOSRExitCounter() { return &m_osrExitCounter; }
 766
 767     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
 768
 769     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
 770     uint32_t exitCountThresholdForReoptimization();
 771     uint32_t exitCountThresholdForReoptimizationFromLoop();
 772     bool shouldReoptimizeNow();
 773     bool shouldReoptimizeFromLoopNow();
 774
 775     void setCalleeSaveRegisters(RegisterSet);
 776     void setCalleeSaveRegisters(std::unique_ptr<RegisterAtOffsetList>);
 777
 778     RegisterAtOffsetList* calleeSaveRegisters() const { return m_calleeSaveRegisters.get(); }
 779 #else // No JIT
 780     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return 0; }
 781     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters() { return 0; };
 782     void optimizeAfterWarmUp() { }
 783     unsigned numberOfDFGCompiles() { return 0; }
 784 #endif
 785
 786     bool shouldOptimizeNow();
 787     void updateAllValueProfilePredictions();
 788     void updateAllArrayPredictions();
 789     void updateAllPredictions();
 790
 791     unsigned frameRegisterCount();
 792     int stackPointerOffset();
 793
 794     bool hasOpDebugForLineAndColumn(unsigned line, unsigned column);
 795
 796     bool hasDebuggerRequests() const { return m_debuggerRequests; }
 797     void* debuggerRequestsAddress() { return &m_debuggerRequests; }
 798
 799     void addBreakpoint(unsigned numBreakpoints);
 800     void removeBreakpoint(unsigned numBreakpoints)
 801     {
 802         ASSERT(m_numBreakpoints >= numBreakpoints);
 803         m_numBreakpoints -= numBreakpoints;
 804     }
 805
 806     enum SteppingMode {
 807         SteppingModeDisabled,
 808         SteppingModeEnabled
 809     };
 810     void setSteppingMode(SteppingMode);
 811
 812     void clearDebuggerRequests()
 813     {
 814         m_steppingMode = SteppingModeDisabled;
 815         m_numBreakpoints = 0;
 816     }
 817
 818     bool wasCompiledWithDebuggingOpcodes() const { return m_unlinkedCode->wasCompiledWithDebuggingOpcodes(); }
 819
 820     // FIXME: Make these remaining members private.
 821
 822     int m_numCalleeLocals;
 823     int m_numVars;
 824
 825     // This is intentionally public; it's the responsibility of anyone doing any
 826     // of the following to hold the lock:
 827     //
 828     // - Modifying any inline cache in this code block.
 829     //
 830     // - Quering any inline cache in this code block, from a thread other than
 831     //   the main thread.
 832     //
 833     // Additionally, it's only legal to modify the inline cache on the main
 834     // thread. This means that the main thread can query the inline cache without
 835     // locking. This is crucial since executing the inline cache is effectively
 836     // "querying" it.
 837     //
 838     // Another exception to the rules is that the GC can do whatever it wants
 839     // without holding any locks, because the GC is guaranteed to wait until any
 840     // concurrent compilation threads finish what they're doing.
 841     mutable ConcurrentJSLock m_lock;
 842
 843     bool m_visitWeaklyHasBeenCalled;
 844
 845     bool m_shouldAlwaysBeInlined; // Not a bitfield because the JIT wants to store to it.
 846
 847 #if ENABLE(JIT)
 848     unsigned m_capabilityLevelState : 2; // DFG::CapabilityLevel
 849 #endif
 850
 851     bool m_allTransitionsHaveBeenMarked : 1; // Initialized and used on every GC.
 852
 853     bool m_didFailJITCompilation : 1;
 854     bool m_didFailFTLCompilation : 1;
 855     bool m_hasBeenCompiledWithFTL : 1;
 856     bool m_isConstructor : 1;
 857     bool m_isStrictMode : 1;
 858     unsigned m_codeType : 2; // CodeType
 859
 860     // Internal methods for use by validation code. It would be private if it wasn't
 861     // for the fact that we use it from anonymous namespaces.
 862     void beginValidationDidFail();
 863     NO_RETURN_DUE_TO_CRASH void endValidationDidFail();
 864
 865     struct RareData {
 866         WTF_MAKE_FAST_ALLOCATED;
 867     public:
 868         Vector<HandlerInfo> m_exceptionHandlers;
 869
 870         // Buffers used for large array literals
 871         Vector<Vector<JSValue>> m_constantBuffers;
 872
 873         // Jump Tables
 874         Vector<SimpleJumpTable> m_switchJumpTables;
 875         Vector<StringJumpTable> m_stringSwitchJumpTables;
 876
 877         DirectEvalCodeCache m_directEvalCodeCache;
 878     };
 879
 880     void clearExceptionHandlers()
 881     {
 882         if (m_rareData)
 883             m_rareData->m_exceptionHandlers.clear();
 884     }
 885
 886     void appendExceptionHandler(const HandlerInfo& handler)
 887     {
 888         createRareDataIfNecessary(); // We may be handling the exception of an inlined call frame.
 889         m_rareData->m_exceptionHandlers.append(handler);
 890     }
 891
 892     CallSiteIndex newExceptionHandlingCallSiteIndex(CallSiteIndex originalCallSite);
 893
 894 #if ENABLE(JIT)
 895     void setPCToCodeOriginMap(std::unique_ptr<PCToCodeOriginMap>&&);
 896     std::optional<CodeOrigin> findPC(void* pc);
 897 #endif
 898
 899 protected:
 900     void finalizeLLIntInlineCaches();
 901     void finalizeBaselineJITInlineCaches();
 902
 903 #if ENABLE(DFG_JIT)
 904     void tallyFrequentExitSites();
 905 #else
 906     void tallyFrequentExitSites() { }
 907 #endif
 908
 909 private:
 910     friend class CodeBlockSet;
 911
 912     BytecodeLivenessAnalysis& livenessAnalysisSlow();
 913
 914     CodeBlock* specialOSREntryBlockOrNull();
 915
 916     void noticeIncomingCall(ExecState* callerFrame);
 917
 918     double optimizationThresholdScalingFactor();
 919
 920     void updateAllPredictionsAndCountLiveness(unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
 921
 922     bool setConstantIdentifierSetRegisters(VM&, const Vector<ConstantIndentifierSetEntry>& constants);
 923
 924     void setConstantRegisters(const Vector<WriteBarrier<Unknown>>& constants, const Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation);
 925
 926     void replaceConstant(int index, JSValue value)
 927     {
 928         ASSERT(isConstantRegisterIndex(index) && static_cast<size_t>(index - FirstConstantRegisterIndex) < m_constantRegisters.size());
 929         m_constantRegisters[index - FirstConstantRegisterIndex].set(m_globalObject->vm(), this, value);
 930     }
 931
 932     bool shouldVisitStrongly(const ConcurrentJSLocker&);
 933     bool shouldJettisonDueToWeakReference();
 934     bool shouldJettisonDueToOldAge(const ConcurrentJSLocker&);
 935
 936     void propagateTransitions(const ConcurrentJSLocker&, SlotVisitor&);
 937     void determineLiveness(const ConcurrentJSLocker&, SlotVisitor&);
 938
 939     void stronglyVisitStrongReferences(const ConcurrentJSLocker&, SlotVisitor&);
 940     void stronglyVisitWeakReferences(const ConcurrentJSLocker&, SlotVisitor&);
 941     void visitOSRExitTargets(const ConcurrentJSLocker&, SlotVisitor&);
 942
 943     std::chrono::milliseconds timeSinceCreation()
 944     {
 945         return std::chrono::duration_cast<std::chrono::milliseconds>(
 946             std::chrono::steady_clock::now() - m_creationTime);
 947     }
 948
 949     void createRareDataIfNecessary()
 950     {
 951         if (!m_rareData)
 952             m_rareData = std::make_unique<RareData>();
 953     }
 954
 955     void insertBasicBlockBoundariesForControlFlowProfiler(RefCountedArray<Instruction>&);
 956
 957     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
 958     int m_numParameters;
 959     int m_numberOfArgumentsToSkip { 0 };
 960     union {
 961         unsigned m_debuggerRequests;
 962         struct {
 963             unsigned m_hasDebuggerStatement : 1;
 964             unsigned m_steppingMode : 1;
 965             unsigned m_numBreakpoints : 30;
 966         };
 967     };
 968     WriteBarrier<ExecutableBase> m_ownerExecutable;
 969     VM* m_vm;
 970
 971     RefCountedArray<Instruction> m_instructions;
 972     VirtualRegister m_thisRegister;
 973     VirtualRegister m_scopeRegister;
 974     mutable CodeBlockHash m_hash;
 975
 976     RefPtr<SourceProvider> m_source;
 977     unsigned m_sourceOffset;
 978     unsigned m_firstLineColumnOffset;
 979
 980     RefCountedArray<LLIntCallLinkInfo> m_llintCallLinkInfos;
 981     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo>> m_incomingLLIntCalls;
 982     StructureWatchpointMap m_llintGetByIdWatchpointMap;
 983     RefPtr<JITCode> m_jitCode;
 984 #if ENABLE(JIT)
 985     std::unique_ptr<RegisterAtOffsetList> m_calleeSaveRegisters;
 986     Bag<StructureStubInfo> m_stubInfos;
 987     Bag<JITAddIC> m_addICs;
 988     Bag<JITMulIC> m_mulICs;
 989     Bag<JITNegIC> m_negICs;
 990     Bag<JITSubIC> m_subICs;
 991     Bag<ByValInfo> m_byValInfos;
 992     Bag<CallLinkInfo> m_callLinkInfos;
 993     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo>> m_incomingCalls;
 994     SentinelLinkedList<PolymorphicCallNode, BasicRawSentinelNode<PolymorphicCallNode>> m_incomingPolymorphicCalls;
 995     std::unique_ptr<PCToCodeOriginMap> m_pcToCodeOriginMap;
 996 #endif
 997     std::unique_ptr<CompactJITCodeMap> m_jitCodeMap;
 998 #if ENABLE(DFG_JIT)
 999     // This is relevant to non-DFG code blocks that serve as the profiled code block
1000     // for DFG code blocks.
1001     DFG::ExitProfile m_exitProfile;
1002     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1003 #endif
1004     RefCountedArray<ValueProfile> m_argumentValueProfiles;
1005     RefCountedArray<ValueProfile> m_valueProfiles;
1006     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1007     RefCountedArray<ArrayAllocationProfile> m_arrayAllocationProfiles;
1008     ArrayProfileVector m_arrayProfiles;
1009     RefCountedArray<ObjectAllocationProfile> m_objectAllocationProfiles;
1010
1011     // Constant Pool
1012     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1013     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1014     // it, so we're stuck with it for now.
1015     Vector<WriteBarrier<Unknown>> m_constantRegisters;
1016     Vector<SourceCodeRepresentation> m_constantsSourceCodeRepresentation;
1017     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionDecls;
1018     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionExprs;
1019
1020     WriteBarrier<CodeBlock> m_alternative;
1021
1022     BaselineExecutionCounter m_llintExecuteCounter;
1023
1024     BaselineExecutionCounter m_jitExecuteCounter;
1025     uint32_t m_osrExitCounter;
1026     uint16_t m_optimizationDelayCounter;
1027     uint16_t m_reoptimizationRetryCounter;
1028
1029     std::chrono::steady_clock::time_point m_creationTime;
1030
1031     std::unique_ptr<BytecodeLivenessAnalysis> m_livenessAnalysis;
1032
1033     std::unique_ptr<RareData> m_rareData;
1034
1035     UnconditionalFinalizer m_unconditionalFinalizer;
1036     WeakReferenceHarvester m_weakReferenceHarvester;
1037 };
1038
1039 inline Register& ExecState::r(int index)
1040 {
1041     CodeBlock* codeBlock = this->codeBlock();
1042     if (codeBlock->isConstantRegisterIndex(index))
1043         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1044     return this[index];
1045 }
1046
1047 inline Register& ExecState::r(VirtualRegister reg)
1048 {
1049     return r(reg.offset());
1050 }
1051
1052 inline Register& ExecState::uncheckedR(int index)
1053 {
1054     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1055     return this[index];
1056 }
1057
1058 inline Register& ExecState::uncheckedR(VirtualRegister reg)
1059 {
1060     return uncheckedR(reg.offset());
1061 }
1062
1063 inline void CodeBlock::clearVisitWeaklyHasBeenCalled()
1064 {
1065     m_visitWeaklyHasBeenCalled = false;
1066 }
1067
1068 template <typename ExecutableType>
1069 JSObject* ScriptExecutable::prepareForExecution(VM& vm, JSFunction* function, JSScope* scope, CodeSpecializationKind kind, CodeBlock*& resultCodeBlock)
1070 {
1071     if (hasJITCodeFor(kind)) {
1072         if (std::is_same<ExecutableType, EvalExecutable>::value)
1073             resultCodeBlock = jsCast<CodeBlock*>(jsCast<EvalExecutable*>(this)->codeBlock());
1074         else if (std::is_same<ExecutableType, ProgramExecutable>::value)
1075             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ProgramExecutable*>(this)->codeBlock());
1076         else if (std::is_same<ExecutableType, ModuleProgramExecutable>::value)
1077             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ModuleProgramExecutable*>(this)->codeBlock());
1078         else if (std::is_same<ExecutableType, FunctionExecutable>::value)
1079             resultCodeBlock = jsCast<CodeBlock*>(jsCast<FunctionExecutable*>(this)->codeBlockFor(kind));
1080         else
1081             RELEASE_ASSERT_NOT_REACHED();
1082         return nullptr;
1083     }
1084     return prepareForExecutionImpl(vm, function, scope, kind, resultCodeBlock);
1085 }
1086
1087 #define CODEBLOCK_LOG_EVENT(codeBlock, summary, details) \
1088     (codeBlock->vm()->logEvent(codeBlock, summary, [&] () { return toCString details; }))
1089
1090 } // namespace JSC