Asking for a value profile prediction should be defensive against not finding a value...
[WebKit-https.git] / Source / JavaScriptCore / bytecode / CodeBlock.h
1 /*
2  * Copyright (C) 2008-2016 Apple Inc. All rights reserved.
3  * Copyright (C) 2008 Cameron Zwarich <cwzwarich@uwaterloo.ca>
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1.  Redistributions of source code must retain the above copyright
10  *     notice, this list of conditions and the following disclaimer.
11  * 2.  Redistributions in binary form must reproduce the above copyright
12  *     notice, this list of conditions and the following disclaimer in the
13  *     documentation and/or other materials provided with the distribution.
14  * 3.  Neither the name of Apple Inc. ("Apple") nor the names of
15  *     its contributors may be used to endorse or promote products derived
16  *     from this software without specific prior written permission.
17  *
18  * THIS SOFTWARE IS PROVIDED BY APPLE AND ITS CONTRIBUTORS "AS IS" AND ANY
19  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
20  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
21  * DISCLAIMED. IN NO EVENT SHALL APPLE OR ITS CONTRIBUTORS BE LIABLE FOR ANY
22  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
23  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
24  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
25  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
26  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
27  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29
30 #pragma once
31
32 #include "ArrayProfile.h"
33 #include "ByValInfo.h"
34 #include "BytecodeConventions.h"
35 #include "CallLinkInfo.h"
36 #include "CallReturnOffsetToBytecodeOffset.h"
37 #include "CodeBlockHash.h"
38 #include "CodeOrigin.h"
39 #include "CodeType.h"
40 #include "CompactJITCodeMap.h"
41 #include "ConcurrentJITLock.h"
42 #include "DFGCommon.h"
43 #include "DFGExitProfile.h"
44 #include "DeferredCompilationCallback.h"
45 #include "EvalCodeCache.h"
46 #include "ExecutionCounter.h"
47 #include "ExpressionRangeInfo.h"
48 #include "FunctionExecutable.h"
49 #include "HandlerInfo.h"
50 #include "Instruction.h"
51 #include "JITCode.h"
52 #include "JITMathICForwards.h"
53 #include "JSCell.h"
54 #include "JSGlobalObject.h"
55 #include "JumpTable.h"
56 #include "LLIntCallLinkInfo.h"
57 #include "LLIntPrototypeLoadAdaptiveStructureWatchpoint.h"
58 #include "LazyOperandValueProfile.h"
59 #include "ModuleProgramExecutable.h"
60 #include "ObjectAllocationProfile.h"
61 #include "Options.h"
62 #include "ProfilerJettisonReason.h"
63 #include "ProgramExecutable.h"
64 #include "PutPropertySlot.h"
65 #include "UnconditionalFinalizer.h"
66 #include "ValueProfile.h"
67 #include "VirtualRegister.h"
68 #include "Watchpoint.h"
69 #include <wtf/Bag.h>
70 #include <wtf/FastBitVector.h>
71 #include <wtf/FastMalloc.h>
72 #include <wtf/RefCountedArray.h>
73 #include <wtf/RefPtr.h>
74 #include <wtf/SegmentedVector.h>
75 #include <wtf/Vector.h>
76 #include <wtf/text/WTFString.h>
77
78 namespace JSC {
79
80 class BytecodeLivenessAnalysis;
81 class CodeBlockSet;
82 class ExecState;
83 class JSModuleEnvironment;
84 class LLIntOffsetsExtractor;
85 class PCToCodeOriginMap;
86 class RegisterAtOffsetList;
87 class StructureStubInfo;
88
89 enum class AccessType : int8_t;
90
91 struct ArithProfile;
92
93 typedef HashMap<CodeOrigin, StructureStubInfo*, CodeOriginApproximateHash> StubInfoMap;
94
95 enum ReoptimizationMode { DontCountReoptimization, CountReoptimization };
96
97 class CodeBlock : public JSCell {
98     typedef JSCell Base;
99     friend class BytecodeLivenessAnalysis;
100     friend class JIT;
101     friend class LLIntOffsetsExtractor;
102
103     class UnconditionalFinalizer : public JSC::UnconditionalFinalizer { 
104         void finalizeUnconditionally() override;
105     };
106
107     class WeakReferenceHarvester : public JSC::WeakReferenceHarvester {
108         void visitWeakReferences(SlotVisitor&) override;
109     };
110
111 public:
112     enum CopyParsedBlockTag { CopyParsedBlock };
113
114     static const unsigned StructureFlags = Base::StructureFlags | StructureIsImmortal;
115
116     DECLARE_INFO;
117
118 protected:
119     CodeBlock(VM*, Structure*, CopyParsedBlockTag, CodeBlock& other);
120     CodeBlock(VM*, Structure*, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*, PassRefPtr<SourceProvider>, unsigned sourceOffset, unsigned firstLineColumnOffset);
121 #if ENABLE(WEBASSEMBLY)
122     CodeBlock(VM*, Structure*, WebAssemblyExecutable* ownerExecutable, JSGlobalObject*);
123 #endif
124
125     void finishCreation(VM&, CopyParsedBlockTag, CodeBlock& other);
126     void finishCreation(VM&, ScriptExecutable* ownerExecutable, UnlinkedCodeBlock*, JSScope*);
127 #if ENABLE(WEBASSEMBLY)
128     void finishCreation(VM&, WebAssemblyExecutable* ownerExecutable, JSGlobalObject*);
129 #endif
130
131     WriteBarrier<JSGlobalObject> m_globalObject;
132
133 public:
134     JS_EXPORT_PRIVATE ~CodeBlock();
135
136     UnlinkedCodeBlock* unlinkedCodeBlock() const { return m_unlinkedCode.get(); }
137
138     CString inferredName() const;
139     CodeBlockHash hash() const;
140     bool hasHash() const;
141     bool isSafeToComputeHash() const;
142     CString hashAsStringIfPossible() const;
143     CString sourceCodeForTools() const; // Not quite the actual source we parsed; this will do things like prefix the source for a function with a reified signature.
144     CString sourceCodeOnOneLine() const; // As sourceCodeForTools(), but replaces all whitespace runs with a single space.
145     void dumpAssumingJITType(PrintStream&, JITCode::JITType) const;
146     JS_EXPORT_PRIVATE void dump(PrintStream&) const;
147
148     int numParameters() const { return m_numParameters; }
149     void setNumParameters(int newValue);
150
151     int numCalleeLocals() const { return m_numCalleeLocals; }
152
153     int* addressOfNumParameters() { return &m_numParameters; }
154     static ptrdiff_t offsetOfNumParameters() { return OBJECT_OFFSETOF(CodeBlock, m_numParameters); }
155
156     CodeBlock* alternative() const { return static_cast<CodeBlock*>(m_alternative.get()); }
157     void setAlternative(VM&, CodeBlock*);
158
159     template <typename Functor> void forEachRelatedCodeBlock(Functor&& functor)
160     {
161         Functor f(std::forward<Functor>(functor));
162         Vector<CodeBlock*, 4> codeBlocks;
163         codeBlocks.append(this);
164
165         while (!codeBlocks.isEmpty()) {
166             CodeBlock* currentCodeBlock = codeBlocks.takeLast();
167             f(currentCodeBlock);
168
169             if (CodeBlock* alternative = currentCodeBlock->alternative())
170                 codeBlocks.append(alternative);
171             if (CodeBlock* osrEntryBlock = currentCodeBlock->specialOSREntryBlockOrNull())
172                 codeBlocks.append(osrEntryBlock);
173         }
174     }
175     
176     CodeSpecializationKind specializationKind() const
177     {
178         return specializationFromIsConstruct(m_isConstructor);
179     }
180
181     CodeBlock* alternativeForJettison();    
182     JS_EXPORT_PRIVATE CodeBlock* baselineAlternative();
183     
184     // FIXME: Get rid of this.
185     // https://bugs.webkit.org/show_bug.cgi?id=123677
186     CodeBlock* baselineVersion();
187
188     static size_t estimatedSize(JSCell*);
189     static void visitChildren(JSCell*, SlotVisitor&);
190     void visitChildren(SlotVisitor&);
191     void visitWeakly(SlotVisitor&);
192     void clearVisitWeaklyHasBeenCalled();
193
194     void dumpSource();
195     void dumpSource(PrintStream&);
196
197     void dumpBytecode();
198     void dumpBytecode(PrintStream&);
199     void dumpBytecode(
200         PrintStream&, unsigned bytecodeOffset,
201         const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
202     void dumpExceptionHandlers(PrintStream&);
203     void printStructures(PrintStream&, const Instruction*);
204     void printStructure(PrintStream&, const char* name, const Instruction*, int operand);
205
206     void dumpMathICStats();
207
208     bool isStrictMode() const { return m_isStrictMode; }
209     ECMAMode ecmaMode() const { return isStrictMode() ? StrictMode : NotStrictMode; }
210
211     inline bool isKnownNotImmediate(int index)
212     {
213         if (index == m_thisRegister.offset() && !m_isStrictMode)
214             return true;
215
216         if (isConstantRegisterIndex(index))
217             return getConstant(index).isCell();
218
219         return false;
220     }
221
222     ALWAYS_INLINE bool isTemporaryRegisterIndex(int index)
223     {
224         return index >= m_numVars;
225     }
226
227     HandlerInfo* handlerForBytecodeOffset(unsigned bytecodeOffset, RequiredHandler = RequiredHandler::AnyHandler);
228     HandlerInfo* handlerForIndex(unsigned, RequiredHandler = RequiredHandler::AnyHandler);
229     void removeExceptionHandlerForCallSite(CallSiteIndex);
230     unsigned lineNumberForBytecodeOffset(unsigned bytecodeOffset);
231     unsigned columnNumberForBytecodeOffset(unsigned bytecodeOffset);
232     void expressionRangeForBytecodeOffset(unsigned bytecodeOffset, int& divot,
233         int& startOffset, int& endOffset, unsigned& line, unsigned& column) const;
234
235     Optional<unsigned> bytecodeOffsetFromCallSiteIndex(CallSiteIndex);
236
237     void getStubInfoMap(const ConcurrentJITLocker&, StubInfoMap& result);
238     void getStubInfoMap(StubInfoMap& result);
239     
240     void getCallLinkInfoMap(const ConcurrentJITLocker&, CallLinkInfoMap& result);
241     void getCallLinkInfoMap(CallLinkInfoMap& result);
242
243     void getByValInfoMap(const ConcurrentJITLocker&, ByValInfoMap& result);
244     void getByValInfoMap(ByValInfoMap& result);
245     
246 #if ENABLE(JIT)
247     StructureStubInfo* addStubInfo(AccessType);
248     JITAddIC* addJITAddIC(ArithProfile*);
249     JITMulIC* addJITMulIC(ArithProfile*);
250     JITNegIC* addJITNegIC(ArithProfile*);
251     JITSubIC* addJITSubIC(ArithProfile*);
252     Bag<StructureStubInfo>::iterator stubInfoBegin() { return m_stubInfos.begin(); }
253     Bag<StructureStubInfo>::iterator stubInfoEnd() { return m_stubInfos.end(); }
254     
255     // O(n) operation. Use getStubInfoMap() unless you really only intend to get one
256     // stub info.
257     StructureStubInfo* findStubInfo(CodeOrigin);
258
259     ByValInfo* addByValInfo();
260
261     CallLinkInfo* addCallLinkInfo();
262     Bag<CallLinkInfo>::iterator callLinkInfosBegin() { return m_callLinkInfos.begin(); }
263     Bag<CallLinkInfo>::iterator callLinkInfosEnd() { return m_callLinkInfos.end(); }
264
265     // This is a slow function call used primarily for compiling OSR exits in the case
266     // that there had been inlining. Chances are if you want to use this, you're really
267     // looking for a CallLinkInfoMap to amortize the cost of calling this.
268     CallLinkInfo* getCallLinkInfoForBytecodeIndex(unsigned bytecodeIndex);
269     
270     // We call this when we want to reattempt compiling something with the baseline JIT. Ideally
271     // the baseline JIT would not add data to CodeBlock, but instead it would put its data into
272     // a newly created JITCode, which could be thrown away if we bail on JIT compilation. Then we
273     // would be able to get rid of this silly function.
274     // FIXME: https://bugs.webkit.org/show_bug.cgi?id=159061
275     void resetJITData();
276 #endif // ENABLE(JIT)
277
278     void unlinkIncomingCalls();
279
280 #if ENABLE(JIT)
281     void linkIncomingCall(ExecState* callerFrame, CallLinkInfo*);
282     void linkIncomingPolymorphicCall(ExecState* callerFrame, PolymorphicCallNode*);
283 #endif // ENABLE(JIT)
284
285     void linkIncomingCall(ExecState* callerFrame, LLIntCallLinkInfo*);
286
287     void setJITCodeMap(std::unique_ptr<CompactJITCodeMap> jitCodeMap)
288     {
289         m_jitCodeMap = WTFMove(jitCodeMap);
290     }
291     CompactJITCodeMap* jitCodeMap()
292     {
293         return m_jitCodeMap.get();
294     }
295     
296     static void clearLLIntGetByIdCache(Instruction*);
297
298     unsigned bytecodeOffset(Instruction* returnAddress)
299     {
300         RELEASE_ASSERT(returnAddress >= instructions().begin() && returnAddress < instructions().end());
301         return static_cast<Instruction*>(returnAddress) - instructions().begin();
302     }
303
304     typedef JSC::Instruction Instruction;
305     typedef RefCountedArray<Instruction>& UnpackedInstructions;
306
307     unsigned numberOfInstructions() const { return m_instructions.size(); }
308     RefCountedArray<Instruction>& instructions() { return m_instructions; }
309     const RefCountedArray<Instruction>& instructions() const { return m_instructions; }
310
311     size_t predictedMachineCodeSize();
312
313     bool usesOpcode(OpcodeID);
314
315     unsigned instructionCount() const { return m_instructions.size(); }
316
317     // Exactly equivalent to codeBlock->ownerExecutable()->newReplacementCodeBlockFor(codeBlock->specializationKind())
318     CodeBlock* newReplacement();
319     
320     void setJITCode(PassRefPtr<JITCode> code)
321     {
322         ASSERT(heap()->isDeferred());
323         heap()->reportExtraMemoryAllocated(code->size());
324         ConcurrentJITLocker locker(m_lock);
325         WTF::storeStoreFence(); // This is probably not needed because the lock will also do something similar, but it's good to be paranoid.
326         m_jitCode = code;
327     }
328     PassRefPtr<JITCode> jitCode() { return m_jitCode; }
329     static ptrdiff_t jitCodeOffset() { return OBJECT_OFFSETOF(CodeBlock, m_jitCode); }
330     JITCode::JITType jitType() const
331     {
332         JITCode* jitCode = m_jitCode.get();
333         WTF::loadLoadFence();
334         JITCode::JITType result = JITCode::jitTypeFor(jitCode);
335         WTF::loadLoadFence(); // This probably isn't needed. Oh well, paranoia is good.
336         return result;
337     }
338
339     bool hasBaselineJITProfiling() const
340     {
341         return jitType() == JITCode::BaselineJIT;
342     }
343     
344 #if ENABLE(JIT)
345     CodeBlock* replacement();
346
347     DFG::CapabilityLevel computeCapabilityLevel();
348     DFG::CapabilityLevel capabilityLevel();
349     DFG::CapabilityLevel capabilityLevelState() { return static_cast<DFG::CapabilityLevel>(m_capabilityLevelState); }
350
351     bool hasOptimizedReplacement(JITCode::JITType typeToReplace);
352     bool hasOptimizedReplacement(); // the typeToReplace is my JITType
353 #endif
354
355     void jettison(Profiler::JettisonReason, ReoptimizationMode = DontCountReoptimization, const FireDetail* = nullptr);
356     
357     ExecutableBase* ownerExecutable() const { return m_ownerExecutable.get(); }
358     ScriptExecutable* ownerScriptExecutable() const { return jsCast<ScriptExecutable*>(m_ownerExecutable.get()); }
359
360     VM* vm() const { return m_vm; }
361
362     void setThisRegister(VirtualRegister thisRegister) { m_thisRegister = thisRegister; }
363     VirtualRegister thisRegister() const { return m_thisRegister; }
364
365     bool usesEval() const { return m_unlinkedCode->usesEval(); }
366
367     void setScopeRegister(VirtualRegister scopeRegister)
368     {
369         ASSERT(scopeRegister.isLocal() || !scopeRegister.isValid());
370         m_scopeRegister = scopeRegister;
371     }
372
373     VirtualRegister scopeRegister() const
374     {
375         return m_scopeRegister;
376     }
377     
378     CodeType codeType() const
379     {
380         return static_cast<CodeType>(m_codeType);
381     }
382
383     PutPropertySlot::Context putByIdContext() const
384     {
385         if (codeType() == EvalCode)
386             return PutPropertySlot::PutByIdEval;
387         return PutPropertySlot::PutById;
388     }
389
390     SourceProvider* source() const { return m_source.get(); }
391     unsigned sourceOffset() const { return m_sourceOffset; }
392     unsigned firstLineColumnOffset() const { return m_firstLineColumnOffset; }
393
394     size_t numberOfJumpTargets() const { return m_unlinkedCode->numberOfJumpTargets(); }
395     unsigned jumpTarget(int index) const { return m_unlinkedCode->jumpTarget(index); }
396
397     String nameForRegister(VirtualRegister);
398
399     unsigned numberOfArgumentValueProfiles()
400     {
401         ASSERT(m_numParameters >= 0);
402         ASSERT(m_argumentValueProfiles.size() == static_cast<unsigned>(m_numParameters));
403         return m_argumentValueProfiles.size();
404     }
405     ValueProfile* valueProfileForArgument(unsigned argumentIndex)
406     {
407         ValueProfile* result = &m_argumentValueProfiles[argumentIndex];
408         ASSERT(result->m_bytecodeOffset == -1);
409         return result;
410     }
411
412     unsigned numberOfValueProfiles() { return m_valueProfiles.size(); }
413     ValueProfile* valueProfile(int index) { return &m_valueProfiles[index]; }
414     ValueProfile* valueProfileForBytecodeOffset(int bytecodeOffset);
415     SpeculatedType valueProfilePredictionForBytecodeOffset(const ConcurrentJITLocker& locker, int bytecodeOffset)
416     {
417         if (ValueProfile* valueProfile = valueProfileForBytecodeOffset(bytecodeOffset))
418             return valueProfile->computeUpdatedPrediction(locker);
419         return SpecNone;
420     }
421
422     unsigned totalNumberOfValueProfiles()
423     {
424         return numberOfArgumentValueProfiles() + numberOfValueProfiles();
425     }
426     ValueProfile* getFromAllValueProfiles(unsigned index)
427     {
428         if (index < numberOfArgumentValueProfiles())
429             return valueProfileForArgument(index);
430         return valueProfile(index - numberOfArgumentValueProfiles());
431     }
432
433     RareCaseProfile* addRareCaseProfile(int bytecodeOffset);
434     unsigned numberOfRareCaseProfiles() { return m_rareCaseProfiles.size(); }
435     RareCaseProfile* rareCaseProfileForBytecodeOffset(int bytecodeOffset);
436     unsigned rareCaseProfileCountForBytecodeOffset(int bytecodeOffset);
437
438     bool likelyToTakeSlowCase(int bytecodeOffset)
439     {
440         if (!hasBaselineJITProfiling())
441             return false;
442         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
443         return value >= Options::likelyToTakeSlowCaseMinimumCount();
444     }
445
446     bool couldTakeSlowCase(int bytecodeOffset)
447     {
448         if (!hasBaselineJITProfiling())
449             return false;
450         unsigned value = rareCaseProfileCountForBytecodeOffset(bytecodeOffset);
451         return value >= Options::couldTakeSlowCaseMinimumCount();
452     }
453
454     ArithProfile* arithProfileForBytecodeOffset(int bytecodeOffset);
455     ArithProfile* arithProfileForPC(Instruction*);
456
457     bool couldTakeSpecialFastCase(int bytecodeOffset);
458
459     unsigned numberOfArrayProfiles() const { return m_arrayProfiles.size(); }
460     const ArrayProfileVector& arrayProfiles() { return m_arrayProfiles; }
461     ArrayProfile* addArrayProfile(const ConcurrentJITLocker&, unsigned bytecodeOffset);
462     ArrayProfile* addArrayProfile(unsigned bytecodeOffset);
463     ArrayProfile* getArrayProfile(const ConcurrentJITLocker&, unsigned bytecodeOffset);
464     ArrayProfile* getArrayProfile(unsigned bytecodeOffset);
465     ArrayProfile* getOrAddArrayProfile(const ConcurrentJITLocker&, unsigned bytecodeOffset);
466     ArrayProfile* getOrAddArrayProfile(unsigned bytecodeOffset);
467
468     // Exception handling support
469
470     size_t numberOfExceptionHandlers() const { return m_rareData ? m_rareData->m_exceptionHandlers.size() : 0; }
471     HandlerInfo& exceptionHandler(int index) { RELEASE_ASSERT(m_rareData); return m_rareData->m_exceptionHandlers[index]; }
472
473     bool hasExpressionInfo() { return m_unlinkedCode->hasExpressionInfo(); }
474
475 #if ENABLE(DFG_JIT)
476     Vector<CodeOrigin, 0, UnsafeVectorOverflow>& codeOrigins();
477     
478     // Having code origins implies that there has been some inlining.
479     bool hasCodeOrigins()
480     {
481         return JITCode::isOptimizingJIT(jitType());
482     }
483         
484     bool canGetCodeOrigin(CallSiteIndex index)
485     {
486         if (!hasCodeOrigins())
487             return false;
488         return index.bits() < codeOrigins().size();
489     }
490
491     CodeOrigin codeOrigin(CallSiteIndex index)
492     {
493         return codeOrigins()[index.bits()];
494     }
495
496     bool addFrequentExitSite(const DFG::FrequentExitSite& site)
497     {
498         ASSERT(JITCode::isBaselineCode(jitType()));
499         ConcurrentJITLocker locker(m_lock);
500         return m_exitProfile.add(locker, this, site);
501     }
502
503     bool hasExitSite(const ConcurrentJITLocker& locker, const DFG::FrequentExitSite& site) const
504     {
505         return m_exitProfile.hasExitSite(locker, site);
506     }
507     bool hasExitSite(const DFG::FrequentExitSite& site) const
508     {
509         ConcurrentJITLocker locker(m_lock);
510         return hasExitSite(locker, site);
511     }
512
513     DFG::ExitProfile& exitProfile() { return m_exitProfile; }
514
515     CompressedLazyOperandValueProfileHolder& lazyOperandValueProfiles()
516     {
517         return m_lazyOperandValueProfiles;
518     }
519 #endif // ENABLE(DFG_JIT)
520
521     // Constant Pool
522 #if ENABLE(DFG_JIT)
523     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers() + numberOfDFGIdentifiers(); }
524     size_t numberOfDFGIdentifiers() const;
525     const Identifier& identifier(int index) const;
526 #else
527     size_t numberOfIdentifiers() const { return m_unlinkedCode->numberOfIdentifiers(); }
528     const Identifier& identifier(int index) const { return m_unlinkedCode->identifier(index); }
529 #endif
530
531     Vector<WriteBarrier<Unknown>>& constants() { return m_constantRegisters; }
532     Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation() { return m_constantsSourceCodeRepresentation; }
533     unsigned addConstant(JSValue v)
534     {
535         unsigned result = m_constantRegisters.size();
536         m_constantRegisters.append(WriteBarrier<Unknown>());
537         m_constantRegisters.last().set(m_globalObject->vm(), this, v);
538         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
539         return result;
540     }
541
542     unsigned addConstantLazily()
543     {
544         unsigned result = m_constantRegisters.size();
545         m_constantRegisters.append(WriteBarrier<Unknown>());
546         m_constantsSourceCodeRepresentation.append(SourceCodeRepresentation::Other);
547         return result;
548     }
549
550     WriteBarrier<Unknown>& constantRegister(int index) { return m_constantRegisters[index - FirstConstantRegisterIndex]; }
551     static ALWAYS_INLINE bool isConstantRegisterIndex(int index) { return index >= FirstConstantRegisterIndex; }
552     ALWAYS_INLINE JSValue getConstant(int index) const { return m_constantRegisters[index - FirstConstantRegisterIndex].get(); }
553     ALWAYS_INLINE SourceCodeRepresentation constantSourceCodeRepresentation(int index) const { return m_constantsSourceCodeRepresentation[index - FirstConstantRegisterIndex]; }
554
555     FunctionExecutable* functionDecl(int index) { return m_functionDecls[index].get(); }
556     int numberOfFunctionDecls() { return m_functionDecls.size(); }
557     FunctionExecutable* functionExpr(int index) { return m_functionExprs[index].get(); }
558     
559     RegExp* regexp(int index) const { return m_unlinkedCode->regexp(index); }
560
561     unsigned numberOfConstantBuffers() const
562     {
563         if (!m_rareData)
564             return 0;
565         return m_rareData->m_constantBuffers.size();
566     }
567     unsigned addConstantBuffer(const Vector<JSValue>& buffer)
568     {
569         createRareDataIfNecessary();
570         unsigned size = m_rareData->m_constantBuffers.size();
571         m_rareData->m_constantBuffers.append(buffer);
572         return size;
573     }
574
575     Vector<JSValue>& constantBufferAsVector(unsigned index)
576     {
577         ASSERT(m_rareData);
578         return m_rareData->m_constantBuffers[index];
579     }
580     JSValue* constantBuffer(unsigned index)
581     {
582         return constantBufferAsVector(index).data();
583     }
584
585     Heap* heap() const { return &m_vm->heap; }
586     JSGlobalObject* globalObject() { return m_globalObject.get(); }
587
588     JSGlobalObject* globalObjectFor(CodeOrigin);
589
590     BytecodeLivenessAnalysis& livenessAnalysis()
591     {
592         {
593             ConcurrentJITLocker locker(m_lock);
594             if (!!m_livenessAnalysis)
595                 return *m_livenessAnalysis;
596         }
597         return livenessAnalysisSlow();
598     }
599     
600     void validate();
601
602     // Jump Tables
603
604     size_t numberOfSwitchJumpTables() const { return m_rareData ? m_rareData->m_switchJumpTables.size() : 0; }
605     SimpleJumpTable& addSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_switchJumpTables.append(SimpleJumpTable()); return m_rareData->m_switchJumpTables.last(); }
606     SimpleJumpTable& switchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_switchJumpTables[tableIndex]; }
607     void clearSwitchJumpTables()
608     {
609         if (!m_rareData)
610             return;
611         m_rareData->m_switchJumpTables.clear();
612     }
613
614     size_t numberOfStringSwitchJumpTables() const { return m_rareData ? m_rareData->m_stringSwitchJumpTables.size() : 0; }
615     StringJumpTable& addStringSwitchJumpTable() { createRareDataIfNecessary(); m_rareData->m_stringSwitchJumpTables.append(StringJumpTable()); return m_rareData->m_stringSwitchJumpTables.last(); }
616     StringJumpTable& stringSwitchJumpTable(int tableIndex) { RELEASE_ASSERT(m_rareData); return m_rareData->m_stringSwitchJumpTables[tableIndex]; }
617
618     EvalCodeCache& evalCodeCache() { createRareDataIfNecessary(); return m_rareData->m_evalCodeCache; }
619
620     enum ShrinkMode {
621         // Shrink prior to generating machine code that may point directly into vectors.
622         EarlyShrink,
623
624         // Shrink after generating machine code, and after possibly creating new vectors
625         // and appending to others. At this time it is not safe to shrink certain vectors
626         // because we would have generated machine code that references them directly.
627         LateShrink
628     };
629     void shrinkToFit(ShrinkMode);
630
631     // Functions for controlling when JITting kicks in, in a mixed mode
632     // execution world.
633
634     bool checkIfJITThresholdReached()
635     {
636         return m_llintExecuteCounter.checkIfThresholdCrossedAndSet(this);
637     }
638
639     void dontJITAnytimeSoon()
640     {
641         m_llintExecuteCounter.deferIndefinitely();
642     }
643
644     int32_t thresholdForJIT(int32_t threshold);
645     void jitAfterWarmUp();
646     void jitSoon();
647
648     const BaselineExecutionCounter& llintExecuteCounter() const
649     {
650         return m_llintExecuteCounter;
651     }
652
653     typedef HashMap<Structure*, Bag<LLIntPrototypeLoadAdaptiveStructureWatchpoint>> StructureWatchpointMap;
654     StructureWatchpointMap& llintGetByIdWatchpointMap() { return m_llintGetByIdWatchpointMap; }
655
656     // Functions for controlling when tiered compilation kicks in. This
657     // controls both when the optimizing compiler is invoked and when OSR
658     // entry happens. Two triggers exist: the loop trigger and the return
659     // trigger. In either case, when an addition to m_jitExecuteCounter
660     // causes it to become non-negative, the optimizing compiler is
661     // invoked. This includes a fast check to see if this CodeBlock has
662     // already been optimized (i.e. replacement() returns a CodeBlock
663     // that was optimized with a higher tier JIT than this one). In the
664     // case of the loop trigger, if the optimized compilation succeeds
665     // (or has already succeeded in the past) then OSR is attempted to
666     // redirect program flow into the optimized code.
667
668     // These functions are called from within the optimization triggers,
669     // and are used as a single point at which we define the heuristics
670     // for how much warm-up is mandated before the next optimization
671     // trigger files. All CodeBlocks start out with optimizeAfterWarmUp(),
672     // as this is called from the CodeBlock constructor.
673
674     // When we observe a lot of speculation failures, we trigger a
675     // reoptimization. But each time, we increase the optimization trigger
676     // to avoid thrashing.
677     JS_EXPORT_PRIVATE unsigned reoptimizationRetryCounter() const;
678     void countReoptimization();
679 #if ENABLE(JIT)
680     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return RegisterSet::llintBaselineCalleeSaveRegisters().numberOfSetRegisters(); }
681     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters();
682     size_t calleeSaveSpaceAsVirtualRegisters();
683
684     unsigned numberOfDFGCompiles();
685
686     int32_t codeTypeThresholdMultiplier() const;
687
688     int32_t adjustedCounterValue(int32_t desiredThreshold);
689
690     int32_t* addressOfJITExecuteCounter()
691     {
692         return &m_jitExecuteCounter.m_counter;
693     }
694
695     static ptrdiff_t offsetOfJITExecuteCounter() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_counter); }
696     static ptrdiff_t offsetOfJITExecutionActiveThreshold() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_activeThreshold); }
697     static ptrdiff_t offsetOfJITExecutionTotalCount() { return OBJECT_OFFSETOF(CodeBlock, m_jitExecuteCounter) + OBJECT_OFFSETOF(BaselineExecutionCounter, m_totalCount); }
698
699     const BaselineExecutionCounter& jitExecuteCounter() const { return m_jitExecuteCounter; }
700
701     unsigned optimizationDelayCounter() const { return m_optimizationDelayCounter; }
702
703     // Check if the optimization threshold has been reached, and if not,
704     // adjust the heuristics accordingly. Returns true if the threshold has
705     // been reached.
706     bool checkIfOptimizationThresholdReached();
707
708     // Call this to force the next optimization trigger to fire. This is
709     // rarely wise, since optimization triggers are typically more
710     // expensive than executing baseline code.
711     void optimizeNextInvocation();
712
713     // Call this to prevent optimization from happening again. Note that
714     // optimization will still happen after roughly 2^29 invocations,
715     // so this is really meant to delay that as much as possible. This
716     // is called if optimization failed, and we expect it to fail in
717     // the future as well.
718     void dontOptimizeAnytimeSoon();
719
720     // Call this to reinitialize the counter to its starting state,
721     // forcing a warm-up to happen before the next optimization trigger
722     // fires. This is called in the CodeBlock constructor. It also
723     // makes sense to call this if an OSR exit occurred. Note that
724     // OSR exit code is code generated, so the value of the execute
725     // counter that this corresponds to is also available directly.
726     void optimizeAfterWarmUp();
727
728     // Call this to force an optimization trigger to fire only after
729     // a lot of warm-up.
730     void optimizeAfterLongWarmUp();
731
732     // Call this to cause an optimization trigger to fire soon, but
733     // not necessarily the next one. This makes sense if optimization
734     // succeeds. Successfuly optimization means that all calls are
735     // relinked to the optimized code, so this only affects call
736     // frames that are still executing this CodeBlock. The value here
737     // is tuned to strike a balance between the cost of OSR entry
738     // (which is too high to warrant making every loop back edge to
739     // trigger OSR immediately) and the cost of executing baseline
740     // code (which is high enough that we don't necessarily want to
741     // have a full warm-up). The intuition for calling this instead of
742     // optimizeNextInvocation() is for the case of recursive functions
743     // with loops. Consider that there may be N call frames of some
744     // recursive function, for a reasonably large value of N. The top
745     // one triggers optimization, and then returns, and then all of
746     // the others return. We don't want optimization to be triggered on
747     // each return, as that would be superfluous. It only makes sense
748     // to trigger optimization if one of those functions becomes hot
749     // in the baseline code.
750     void optimizeSoon();
751
752     void forceOptimizationSlowPathConcurrently();
753
754     void setOptimizationThresholdBasedOnCompilationResult(CompilationResult);
755     
756     uint32_t osrExitCounter() const { return m_osrExitCounter; }
757
758     void countOSRExit() { m_osrExitCounter++; }
759
760     uint32_t* addressOfOSRExitCounter() { return &m_osrExitCounter; }
761
762     static ptrdiff_t offsetOfOSRExitCounter() { return OBJECT_OFFSETOF(CodeBlock, m_osrExitCounter); }
763
764     uint32_t adjustedExitCountThreshold(uint32_t desiredThreshold);
765     uint32_t exitCountThresholdForReoptimization();
766     uint32_t exitCountThresholdForReoptimizationFromLoop();
767     bool shouldReoptimizeNow();
768     bool shouldReoptimizeFromLoopNow();
769
770     void setCalleeSaveRegisters(RegisterSet);
771     void setCalleeSaveRegisters(std::unique_ptr<RegisterAtOffsetList>);
772     
773     RegisterAtOffsetList* calleeSaveRegisters() const { return m_calleeSaveRegisters.get(); }
774 #else // No JIT
775     static unsigned numberOfLLIntBaselineCalleeSaveRegisters() { return 0; }
776     static size_t llintBaselineCalleeSaveSpaceAsVirtualRegisters() { return 0; };
777     void optimizeAfterWarmUp() { }
778     unsigned numberOfDFGCompiles() { return 0; }
779 #endif
780
781     bool shouldOptimizeNow();
782     void updateAllValueProfilePredictions();
783     void updateAllArrayPredictions();
784     void updateAllPredictions();
785
786     unsigned frameRegisterCount();
787     int stackPointerOffset();
788
789     bool hasOpDebugForLineAndColumn(unsigned line, unsigned column);
790
791     bool hasDebuggerRequests() const { return m_debuggerRequests; }
792     void* debuggerRequestsAddress() { return &m_debuggerRequests; }
793
794     void addBreakpoint(unsigned numBreakpoints);
795     void removeBreakpoint(unsigned numBreakpoints)
796     {
797         ASSERT(m_numBreakpoints >= numBreakpoints);
798         m_numBreakpoints -= numBreakpoints;
799     }
800
801     enum SteppingMode {
802         SteppingModeDisabled,
803         SteppingModeEnabled
804     };
805     void setSteppingMode(SteppingMode);
806
807     void clearDebuggerRequests()
808     {
809         m_steppingMode = SteppingModeDisabled;
810         m_numBreakpoints = 0;
811     }
812
813     bool wasCompiledWithDebuggingOpcodes() const { return m_unlinkedCode->wasCompiledWithDebuggingOpcodes(); }
814     
815     // FIXME: Make these remaining members private.
816
817     int m_numCalleeLocals;
818     int m_numVars;
819     
820     // This is intentionally public; it's the responsibility of anyone doing any
821     // of the following to hold the lock:
822     //
823     // - Modifying any inline cache in this code block.
824     //
825     // - Quering any inline cache in this code block, from a thread other than
826     //   the main thread.
827     //
828     // Additionally, it's only legal to modify the inline cache on the main
829     // thread. This means that the main thread can query the inline cache without
830     // locking. This is crucial since executing the inline cache is effectively
831     // "querying" it.
832     //
833     // Another exception to the rules is that the GC can do whatever it wants
834     // without holding any locks, because the GC is guaranteed to wait until any
835     // concurrent compilation threads finish what they're doing.
836     mutable ConcurrentJITLock m_lock;
837
838     Atomic<bool> m_visitWeaklyHasBeenCalled;
839
840     bool m_shouldAlwaysBeInlined; // Not a bitfield because the JIT wants to store to it.
841
842 #if ENABLE(JIT)
843     unsigned m_capabilityLevelState : 2; // DFG::CapabilityLevel
844 #endif
845
846     bool m_allTransitionsHaveBeenMarked : 1; // Initialized and used on every GC.
847
848     bool m_didFailJITCompilation : 1;
849     bool m_didFailFTLCompilation : 1;
850     bool m_hasBeenCompiledWithFTL : 1;
851     bool m_isConstructor : 1;
852     bool m_isStrictMode : 1;
853     unsigned m_codeType : 2; // CodeType
854
855     // Internal methods for use by validation code. It would be private if it wasn't
856     // for the fact that we use it from anonymous namespaces.
857     void beginValidationDidFail();
858     NO_RETURN_DUE_TO_CRASH void endValidationDidFail();
859
860     struct RareData {
861         WTF_MAKE_FAST_ALLOCATED;
862     public:
863         Vector<HandlerInfo> m_exceptionHandlers;
864
865         // Buffers used for large array literals
866         Vector<Vector<JSValue>> m_constantBuffers;
867
868         // Jump Tables
869         Vector<SimpleJumpTable> m_switchJumpTables;
870         Vector<StringJumpTable> m_stringSwitchJumpTables;
871
872         EvalCodeCache m_evalCodeCache;
873     };
874
875     void clearExceptionHandlers()
876     {
877         if (m_rareData)
878             m_rareData->m_exceptionHandlers.clear();
879     }
880
881     void appendExceptionHandler(const HandlerInfo& handler)
882     {
883         createRareDataIfNecessary(); // We may be handling the exception of an inlined call frame.
884         m_rareData->m_exceptionHandlers.append(handler);
885     }
886
887     CallSiteIndex newExceptionHandlingCallSiteIndex(CallSiteIndex originalCallSite);
888
889 #if ENABLE(JIT)
890     void setPCToCodeOriginMap(std::unique_ptr<PCToCodeOriginMap>&&);
891     Optional<CodeOrigin> findPC(void* pc);
892 #endif
893
894 protected:
895     void finalizeLLIntInlineCaches();
896     void finalizeBaselineJITInlineCaches();
897
898 #if ENABLE(DFG_JIT)
899     void tallyFrequentExitSites();
900 #else
901     void tallyFrequentExitSites() { }
902 #endif
903
904 private:
905     friend class CodeBlockSet;
906
907     BytecodeLivenessAnalysis& livenessAnalysisSlow();
908     
909     CodeBlock* specialOSREntryBlockOrNull();
910     
911     void noticeIncomingCall(ExecState* callerFrame);
912     
913     double optimizationThresholdScalingFactor();
914
915     void updateAllPredictionsAndCountLiveness(unsigned& numberOfLiveNonArgumentValueProfiles, unsigned& numberOfSamplesInProfiles);
916
917     void setConstantRegisters(const Vector<WriteBarrier<Unknown>>& constants, const Vector<SourceCodeRepresentation>& constantsSourceCodeRepresentation);
918
919     void replaceConstant(int index, JSValue value)
920     {
921         ASSERT(isConstantRegisterIndex(index) && static_cast<size_t>(index - FirstConstantRegisterIndex) < m_constantRegisters.size());
922         m_constantRegisters[index - FirstConstantRegisterIndex].set(m_globalObject->vm(), this, value);
923     }
924
925     void dumpBytecode(
926         PrintStream&, ExecState*, const Instruction* begin, const Instruction*&,
927         const StubInfoMap& = StubInfoMap(), const CallLinkInfoMap& = CallLinkInfoMap());
928
929     CString registerName(int r) const;
930     CString constantName(int index) const;
931     void printUnaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
932     void printBinaryOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
933     void printConditionalJump(PrintStream&, ExecState*, const Instruction*, const Instruction*&, int location, const char* op);
934     void printGetByIdOp(PrintStream&, ExecState*, int location, const Instruction*&);
935     void printGetByIdCacheStatus(PrintStream&, ExecState*, int location, const StubInfoMap&);
936     enum CacheDumpMode { DumpCaches, DontDumpCaches };
937     void printCallOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op, CacheDumpMode, bool& hasPrintedProfiling, const CallLinkInfoMap&);
938     void printPutByIdOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
939     void printPutByIdCacheStatus(PrintStream&, int location, const StubInfoMap&);
940     void printLocationAndOp(PrintStream&, ExecState*, int location, const Instruction*&, const char* op);
941     void printLocationOpAndRegisterOperand(PrintStream&, ExecState*, int location, const Instruction*& it, const char* op, int operand);
942
943     void beginDumpProfiling(PrintStream&, bool& hasPrintedProfiling);
944     void dumpValueProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
945     void dumpArrayProfiling(PrintStream&, const Instruction*&, bool& hasPrintedProfiling);
946     void dumpRareCaseProfile(PrintStream&, const char* name, RareCaseProfile*, bool& hasPrintedProfiling);
947     void dumpArithProfile(PrintStream&, ArithProfile*, bool& hasPrintedProfiling);
948
949     bool shouldVisitStrongly();
950     bool shouldJettisonDueToWeakReference();
951     bool shouldJettisonDueToOldAge();
952     
953     void propagateTransitions(SlotVisitor&);
954     void determineLiveness(SlotVisitor&);
955         
956     void stronglyVisitStrongReferences(SlotVisitor&);
957     void stronglyVisitWeakReferences(SlotVisitor&);
958     void visitOSRExitTargets(SlotVisitor&);
959
960     std::chrono::milliseconds timeSinceCreation()
961     {
962         return std::chrono::duration_cast<std::chrono::milliseconds>(
963             std::chrono::steady_clock::now() - m_creationTime);
964     }
965
966     void createRareDataIfNecessary()
967     {
968         if (!m_rareData)
969             m_rareData = std::make_unique<RareData>();
970     }
971
972     void insertBasicBlockBoundariesForControlFlowProfiler(RefCountedArray<Instruction>&);
973
974     WriteBarrier<UnlinkedCodeBlock> m_unlinkedCode;
975     int m_numParameters;
976     union {
977         unsigned m_debuggerRequests;
978         struct {
979             unsigned m_hasDebuggerStatement : 1;
980             unsigned m_steppingMode : 1;
981             unsigned m_numBreakpoints : 30;
982         };
983     };
984     WriteBarrier<ExecutableBase> m_ownerExecutable;
985     VM* m_vm;
986
987     RefCountedArray<Instruction> m_instructions;
988     VirtualRegister m_thisRegister;
989     VirtualRegister m_scopeRegister;
990     mutable CodeBlockHash m_hash;
991
992     RefPtr<SourceProvider> m_source;
993     unsigned m_sourceOffset;
994     unsigned m_firstLineColumnOffset;
995
996     RefCountedArray<LLIntCallLinkInfo> m_llintCallLinkInfos;
997     SentinelLinkedList<LLIntCallLinkInfo, BasicRawSentinelNode<LLIntCallLinkInfo>> m_incomingLLIntCalls;
998     StructureWatchpointMap m_llintGetByIdWatchpointMap;
999     RefPtr<JITCode> m_jitCode;
1000 #if ENABLE(JIT)
1001     std::unique_ptr<RegisterAtOffsetList> m_calleeSaveRegisters;
1002     Bag<StructureStubInfo> m_stubInfos;
1003     Bag<JITAddIC> m_addICs;
1004     Bag<JITMulIC> m_mulICs;
1005     Bag<JITNegIC> m_negICs;
1006     Bag<JITSubIC> m_subICs;
1007     Bag<ByValInfo> m_byValInfos;
1008     Bag<CallLinkInfo> m_callLinkInfos;
1009     SentinelLinkedList<CallLinkInfo, BasicRawSentinelNode<CallLinkInfo>> m_incomingCalls;
1010     SentinelLinkedList<PolymorphicCallNode, BasicRawSentinelNode<PolymorphicCallNode>> m_incomingPolymorphicCalls;
1011     std::unique_ptr<PCToCodeOriginMap> m_pcToCodeOriginMap;
1012 #endif
1013     std::unique_ptr<CompactJITCodeMap> m_jitCodeMap;
1014 #if ENABLE(DFG_JIT)
1015     // This is relevant to non-DFG code blocks that serve as the profiled code block
1016     // for DFG code blocks.
1017     DFG::ExitProfile m_exitProfile;
1018     CompressedLazyOperandValueProfileHolder m_lazyOperandValueProfiles;
1019 #endif
1020     RefCountedArray<ValueProfile> m_argumentValueProfiles;
1021     RefCountedArray<ValueProfile> m_valueProfiles;
1022     SegmentedVector<RareCaseProfile, 8> m_rareCaseProfiles;
1023     RefCountedArray<ArrayAllocationProfile> m_arrayAllocationProfiles;
1024     ArrayProfileVector m_arrayProfiles;
1025     RefCountedArray<ObjectAllocationProfile> m_objectAllocationProfiles;
1026
1027     // Constant Pool
1028     COMPILE_ASSERT(sizeof(Register) == sizeof(WriteBarrier<Unknown>), Register_must_be_same_size_as_WriteBarrier_Unknown);
1029     // TODO: This could just be a pointer to m_unlinkedCodeBlock's data, but the DFG mutates
1030     // it, so we're stuck with it for now.
1031     Vector<WriteBarrier<Unknown>> m_constantRegisters;
1032     Vector<SourceCodeRepresentation> m_constantsSourceCodeRepresentation;
1033     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionDecls;
1034     RefCountedArray<WriteBarrier<FunctionExecutable>> m_functionExprs;
1035
1036     WriteBarrier<CodeBlock> m_alternative;
1037     
1038     BaselineExecutionCounter m_llintExecuteCounter;
1039
1040     BaselineExecutionCounter m_jitExecuteCounter;
1041     uint32_t m_osrExitCounter;
1042     uint16_t m_optimizationDelayCounter;
1043     uint16_t m_reoptimizationRetryCounter;
1044
1045     std::chrono::steady_clock::time_point m_creationTime;
1046
1047     std::unique_ptr<BytecodeLivenessAnalysis> m_livenessAnalysis;
1048
1049     std::unique_ptr<RareData> m_rareData;
1050
1051     UnconditionalFinalizer m_unconditionalFinalizer;
1052     WeakReferenceHarvester m_weakReferenceHarvester;
1053 };
1054
1055 inline Register& ExecState::r(int index)
1056 {
1057     CodeBlock* codeBlock = this->codeBlock();
1058     if (codeBlock->isConstantRegisterIndex(index))
1059         return *reinterpret_cast<Register*>(&codeBlock->constantRegister(index));
1060     return this[index];
1061 }
1062
1063 inline Register& ExecState::r(VirtualRegister reg)
1064 {
1065     return r(reg.offset());
1066 }
1067
1068 inline Register& ExecState::uncheckedR(int index)
1069 {
1070     RELEASE_ASSERT(index < FirstConstantRegisterIndex);
1071     return this[index];
1072 }
1073
1074 inline Register& ExecState::uncheckedR(VirtualRegister reg)
1075 {
1076     return uncheckedR(reg.offset());
1077 }
1078
1079 inline void CodeBlock::clearVisitWeaklyHasBeenCalled()
1080 {
1081     m_visitWeaklyHasBeenCalled.store(false, std::memory_order_relaxed);
1082 }
1083
1084 template <typename ExecutableType>
1085 JSObject* ScriptExecutable::prepareForExecution(VM& vm, JSFunction* function, JSScope* scope, CodeSpecializationKind kind, CodeBlock*& resultCodeBlock)
1086 {
1087     if (hasJITCodeFor(kind)) {
1088         if (std::is_same<ExecutableType, EvalExecutable>::value)
1089             resultCodeBlock = jsCast<CodeBlock*>(jsCast<EvalExecutable*>(this)->codeBlock());
1090         else if (std::is_same<ExecutableType, ProgramExecutable>::value)
1091             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ProgramExecutable*>(this)->codeBlock());
1092         else if (std::is_same<ExecutableType, ModuleProgramExecutable>::value)
1093             resultCodeBlock = jsCast<CodeBlock*>(jsCast<ModuleProgramExecutable*>(this)->codeBlock());
1094         else if (std::is_same<ExecutableType, FunctionExecutable>::value)
1095             resultCodeBlock = jsCast<CodeBlock*>(jsCast<FunctionExecutable*>(this)->codeBlockFor(kind));
1096         else
1097             RELEASE_ASSERT_NOT_REACHED();
1098         return nullptr;
1099     }
1100     return prepareForExecutionImpl(vm, function, scope, kind, resultCodeBlock);
1101 }
1102
1103 #define CODEBLOCK_LOG_EVENT(codeBlock, summary, details) \
1104     (codeBlock->vm()->logEvent(codeBlock, summary, [&] () { return toCString details; }))
1105
1106 } // namespace JSC