Renamed
[WebKit-https.git] / Source / JavaScriptCore / heap / Heap.h
1 /*
2  *  Copyright (C) 1999-2000 Harri Porten (porten@kde.org)
3  *  Copyright (C) 2001 Peter Kelly (pmk@post.com)
4  *  Copyright (C) 2003, 2004, 2005, 2006, 2007, 2008, 2009 Apple Inc. All rights reserved.
5  *
6  *  This library is free software; you can redistribute it and/or
7  *  modify it under the terms of the GNU Lesser General Public
8  *  License as published by the Free Software Foundation; either
9  *  version 2 of the License, or (at your option) any later version.
10  *
11  *  This library is distributed in the hope that it will be useful,
12  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  *  Lesser General Public License for more details.
15  *
16  *  You should have received a copy of the GNU Lesser General Public
17  *  License along with this library; if not, write to the Free Software
18  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA
19  *
20  */
21
22 #ifndef Heap_h
23 #define Heap_h
24
25 #include "DFGCodeBlocks.h"
26 #include "HandleSet.h"
27 #include "HandleStack.h"
28 #include "MarkedAllocator.h"
29 #include "MarkedBlock.h"
30 #include "MarkedBlockSet.h"
31 #include "MarkedSpace.h"
32 #include "SlotVisitor.h"
33 #include "WeakHandleOwner.h"
34 #include "WeakSet.h"
35 #include "WriteBarrierSupport.h"
36 #include <wtf/DoublyLinkedList.h>
37 #include <wtf/Forward.h>
38 #include <wtf/HashCountedSet.h>
39 #include <wtf/HashSet.h>
40
41 #define COLLECT_ON_EVERY_ALLOCATION 0
42
43 namespace JSC {
44
45     class CopiedSpace;
46     class CodeBlock;
47     class FunctionExecutable;
48     class GCActivityCallback;
49     class GlobalCodeBlock;
50     class Heap;
51     class HeapRootVisitor;
52     class JSCell;
53     class JSGlobalData;
54     class JSValue;
55     class LiveObjectIterator;
56     class LLIntOffsetsExtractor;
57     class MarkedArgumentBuffer;
58     class RegisterFile;
59     class UString;
60     class WeakGCHandlePool;
61     class SlotVisitor;
62
63     typedef std::pair<JSValue, UString> ValueStringPair;
64     typedef HashCountedSet<JSCell*> ProtectCountSet;
65     typedef HashCountedSet<const char*> TypeCountSet;
66
67     enum OperationInProgress { NoOperation, Allocation, Collection };
68
69     // Heap size hint.
70     enum HeapSize { SmallHeap, LargeHeap };
71
72     class Heap {
73         WTF_MAKE_NONCOPYABLE(Heap);
74     public:
75         friend class JIT;
76         friend class MarkStackThreadSharedData;
77         static Heap* heap(JSValue); // 0 for immediate values
78         static Heap* heap(JSCell*);
79
80         static bool isMarked(const void*);
81         static bool testAndSetMarked(const void*);
82         static void setMarked(const void*);
83
84         static void writeBarrier(const JSCell*, JSValue);
85         static void writeBarrier(const JSCell*, JSCell*);
86         static uint8_t* addressOfCardFor(JSCell*);
87
88         Heap(JSGlobalData*, HeapSize);
89         ~Heap();
90         JS_EXPORT_PRIVATE void destroy(); // JSGlobalData must call destroy() before ~Heap().
91
92         JSGlobalData* globalData() const { return m_globalData; }
93         MarkedSpace& objectSpace() { return m_objectSpace; }
94         MachineThreads& machineThreads() { return m_machineThreads; }
95
96         JS_EXPORT_PRIVATE GCActivityCallback* activityCallback();
97         JS_EXPORT_PRIVATE void setActivityCallback(PassOwnPtr<GCActivityCallback>);
98
99         // true if an allocation or collection is in progress
100         inline bool isBusy();
101         
102         MarkedAllocator& firstAllocatorWithoutDestructors() { return m_objectSpace.firstAllocator(); }
103         MarkedAllocator& allocatorForObjectWithoutDestructor(size_t bytes) { return m_objectSpace.allocatorFor(bytes); }
104         MarkedAllocator& allocatorForObjectWithDestructor(size_t bytes) { return m_objectSpace.destructorAllocatorFor(bytes); }
105         CopiedAllocator& storageAllocator() { return m_storageSpace.allocator(); }
106         CheckedBoolean tryAllocateStorage(size_t, void**);
107         CheckedBoolean tryReallocateStorage(void**, size_t, size_t);
108
109         typedef void (*Finalizer)(JSCell*);
110         JS_EXPORT_PRIVATE void addFinalizer(JSCell*, Finalizer);
111         void addFunctionExecutable(FunctionExecutable*);
112         void removeFunctionExecutable(FunctionExecutable*);
113
114         void notifyIsSafeToCollect() { m_isSafeToCollect = true; }
115         JS_EXPORT_PRIVATE void collectAllGarbage();
116
117         void reportExtraMemoryCost(size_t cost);
118
119         JS_EXPORT_PRIVATE void protect(JSValue);
120         JS_EXPORT_PRIVATE bool unprotect(JSValue); // True when the protect count drops to 0.
121         
122         void jettisonDFGCodeBlock(PassOwnPtr<CodeBlock>);
123
124         JS_EXPORT_PRIVATE size_t size();
125         JS_EXPORT_PRIVATE size_t capacity();
126         JS_EXPORT_PRIVATE size_t objectCount();
127         JS_EXPORT_PRIVATE size_t globalObjectCount();
128         JS_EXPORT_PRIVATE size_t protectedObjectCount();
129         JS_EXPORT_PRIVATE size_t protectedGlobalObjectCount();
130         JS_EXPORT_PRIVATE PassOwnPtr<TypeCountSet> protectedObjectTypeCounts();
131         JS_EXPORT_PRIVATE PassOwnPtr<TypeCountSet> objectTypeCounts();
132
133         void pushTempSortVector(Vector<ValueStringPair>*);
134         void popTempSortVector(Vector<ValueStringPair>*);
135     
136         HashSet<MarkedArgumentBuffer*>& markListSet() { if (!m_markListSet) m_markListSet = new HashSet<MarkedArgumentBuffer*>; return *m_markListSet; }
137         
138         template<typename Functor> typename Functor::ReturnType forEachProtectedCell(Functor&);
139         template<typename Functor> typename Functor::ReturnType forEachProtectedCell();
140
141         WeakSet* weakSet() { return &m_weakSet; }
142         HandleSet* handleSet() { return &m_handleSet; }
143         HandleStack* handleStack() { return &m_handleStack; }
144
145         void getConservativeRegisterRoots(HashSet<JSCell*>& roots);
146
147         void addToWaterMark(size_t);
148
149         double lastGCLength() { return m_lastGCLength; }
150
151         JS_EXPORT_PRIVATE void discardAllCompiledCode();
152
153     private:
154         friend class CodeBlock;
155         friend class LLIntOffsetsExtractor;
156         friend class MarkedSpace;
157         friend class MarkedAllocator;
158         friend class MarkedBlock;
159         friend class CopiedSpace;
160         friend class SlotVisitor;
161         template<typename T> friend void* allocateCell(Heap&);
162
163         void* allocateWithDestructor(size_t);
164         void* allocateWithoutDestructor(size_t);
165
166         size_t waterMark();
167         size_t highWaterMark();
168         bool shouldCollect();
169
170         static const size_t minExtraCost = 256;
171         static const size_t maxExtraCost = 1024 * 1024;
172         
173         class FinalizerOwner : public WeakHandleOwner {
174             virtual void finalize(Handle<Unknown>, void* context);
175         };
176
177         JS_EXPORT_PRIVATE bool isValidAllocation(size_t);
178         JS_EXPORT_PRIVATE void reportExtraMemoryCostSlowCase(size_t);
179
180         // Call this function before any operation that needs to know which cells
181         // in the heap are live. (For example, call this function before
182         // conservative marking, eager sweeping, or iterating the cells in a MarkedBlock.)
183         void canonicalizeCellLivenessData();
184
185         void resetAllocators();
186         void freeBlocks(MarkedBlock*);
187
188         void clearMarks();
189         void markRoots(bool fullGC);
190         void markProtectedObjects(HeapRootVisitor&);
191         void markTempSortVectors(HeapRootVisitor&);
192         void harvestWeakReferences();
193         void finalizeUnconditionalFinalizers();
194         
195         enum SweepToggle { DoNotSweep, DoSweep };
196         void collect(SweepToggle);
197         void shrink();
198         void releaseFreeBlocks();
199         void sweep();
200
201         RegisterFile& registerFile();
202
203         void waitForRelativeTimeWhileHoldingLock(double relative);
204         void waitForRelativeTime(double relative);
205         void blockFreeingThreadMain();
206         static void blockFreeingThreadStartFunc(void* heap);
207         
208         const HeapSize m_heapSize;
209         const size_t m_minBytesPerCycle;
210         size_t m_lastFullGCSize;
211         size_t m_highWaterMark;
212         
213         OperationInProgress m_operationInProgress;
214         MarkedSpace m_objectSpace;
215         CopiedSpace m_storageSpace;
216
217         DoublyLinkedList<HeapBlock> m_freeBlocks;
218         size_t m_numberOfFreeBlocks;
219         
220         ThreadIdentifier m_blockFreeingThread;
221         Mutex m_freeBlockLock;
222         ThreadCondition m_freeBlockCondition;
223         bool m_blockFreeingThreadShouldQuit;
224
225 #if ENABLE(SIMPLE_HEAP_PROFILING)
226         VTableSpectrum m_destroyedTypeCounts;
227 #endif
228
229         ProtectCountSet m_protectedValues;
230         Vector<Vector<ValueStringPair>* > m_tempSortingVectors;
231         HashSet<MarkedArgumentBuffer*>* m_markListSet;
232
233         OwnPtr<GCActivityCallback> m_activityCallback;
234         
235         MachineThreads m_machineThreads;
236         
237         MarkStackThreadSharedData m_sharedData;
238         SlotVisitor m_slotVisitor;
239
240         WeakSet m_weakSet;
241         HandleSet m_handleSet;
242         HandleStack m_handleStack;
243         DFGCodeBlocks m_dfgCodeBlocks;
244         FinalizerOwner m_finalizerOwner;
245         
246         bool m_isSafeToCollect;
247
248         JSGlobalData* m_globalData;
249         double m_lastGCLength;
250
251         DoublyLinkedList<FunctionExecutable> m_functions;
252     };
253
254     inline bool Heap::shouldCollect()
255     {
256 #if ENABLE(GGC)
257         return m_objectSpace.nurseryWaterMark() >= m_minBytesPerCycle && m_isSafeToCollect;
258 #else
259         return waterMark() >= highWaterMark() && m_isSafeToCollect;
260 #endif
261     }
262
263     bool Heap::isBusy()
264     {
265         return m_operationInProgress != NoOperation;
266     }
267
268     inline Heap* Heap::heap(JSCell* cell)
269     {
270         return MarkedBlock::blockFor(cell)->heap();
271     }
272
273     inline Heap* Heap::heap(JSValue v)
274     {
275         if (!v.isCell())
276             return 0;
277         return heap(v.asCell());
278     }
279
280     inline bool Heap::isMarked(const void* cell)
281     {
282         return MarkedBlock::blockFor(cell)->isMarked(cell);
283     }
284
285     inline bool Heap::testAndSetMarked(const void* cell)
286     {
287         return MarkedBlock::blockFor(cell)->testAndSetMarked(cell);
288     }
289
290     inline void Heap::setMarked(const void* cell)
291     {
292         MarkedBlock::blockFor(cell)->setMarked(cell);
293     }
294
295     inline size_t Heap::waterMark()
296     {
297         return m_objectSpace.waterMark() + m_storageSpace.waterMark();
298     }
299
300     inline size_t Heap::highWaterMark()
301     {
302         return m_highWaterMark;
303     }
304
305     inline void Heap::addToWaterMark(size_t size)
306     {
307         m_objectSpace.addToWaterMark(size);
308         if (waterMark() > highWaterMark())
309             collect(DoNotSweep);
310     }
311
312 #if ENABLE(GGC)
313     inline uint8_t* Heap::addressOfCardFor(JSCell* cell)
314     {
315         return MarkedBlock::blockFor(cell)->addressOfCardFor(cell);
316     }
317
318     inline void Heap::writeBarrier(const JSCell* owner, JSCell*)
319     {
320         WriteBarrierCounters::countWriteBarrier();
321         MarkedBlock* block = MarkedBlock::blockFor(owner);
322         if (block->isMarked(owner))
323             block->setDirtyObject(owner);
324     }
325
326     inline void Heap::writeBarrier(const JSCell* owner, JSValue value)
327     {
328         if (!value)
329             return;
330         if (!value.isCell())
331             return;
332         writeBarrier(owner, value.asCell());
333     }
334 #else
335
336     inline void Heap::writeBarrier(const JSCell*, JSCell*)
337     {
338         WriteBarrierCounters::countWriteBarrier();
339     }
340
341     inline void Heap::writeBarrier(const JSCell*, JSValue)
342     {
343         WriteBarrierCounters::countWriteBarrier();
344     }
345 #endif
346
347     inline void Heap::reportExtraMemoryCost(size_t cost)
348     {
349         if (cost > minExtraCost) 
350             reportExtraMemoryCostSlowCase(cost);
351     }
352
353     template<typename Functor> inline typename Functor::ReturnType Heap::forEachProtectedCell(Functor& functor)
354     {
355         ProtectCountSet::iterator end = m_protectedValues.end();
356         for (ProtectCountSet::iterator it = m_protectedValues.begin(); it != end; ++it)
357             functor(it->first);
358         m_handleSet.forEachStrongHandle(functor, m_protectedValues);
359
360         return functor.returnValue();
361     }
362
363     template<typename Functor> inline typename Functor::ReturnType Heap::forEachProtectedCell()
364     {
365         Functor functor;
366         return forEachProtectedCell(functor);
367     }
368
369     inline void* Heap::allocateWithDestructor(size_t bytes)
370     {
371         ASSERT(isValidAllocation(bytes));
372         return m_objectSpace.allocateWithDestructor(bytes);
373     }
374     
375     inline void* Heap::allocateWithoutDestructor(size_t bytes)
376     {
377         ASSERT(isValidAllocation(bytes));
378         return m_objectSpace.allocateWithoutDestructor(bytes);
379     }
380     
381     inline CheckedBoolean Heap::tryAllocateStorage(size_t bytes, void** outPtr)
382     {
383         return m_storageSpace.tryAllocate(bytes, outPtr);
384     }
385     
386     inline CheckedBoolean Heap::tryReallocateStorage(void** ptr, size_t oldSize, size_t newSize)
387     {
388         return m_storageSpace.tryReallocate(ptr, oldSize, newSize);
389     }
390
391 } // namespace JSC
392
393 #endif // Heap_h