1aa8acad77fd6e0666f1564bcc21a1d35d04052d
[WebKit-https.git] / Source / JavaScriptCore / heap / SubspaceInlines.h
1 /*
2  * Copyright (C) 2017 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. ``AS IS'' AND ANY
14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE INC. OR
17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
24  */
25
26 #pragma once
27
28 #include "JSCell.h"
29 #include "MarkedAllocatorInlines.h"
30 #include "MarkedBlock.h"
31 #include "MarkedSpace.h"
32 #include "Subspace.h"
33
34 namespace JSC {
35
36 template<typename Func>
37 void Subspace::forEachAllocator(const Func& func)
38 {
39     for (MarkedAllocator* allocator = m_firstAllocator; allocator; allocator = allocator->nextAllocatorInSubspace())
40         func(*allocator);
41 }
42
43 template<typename Func>
44 void Subspace::forEachMarkedBlock(const Func& func)
45 {
46     forEachAllocator(
47         [&] (MarkedAllocator& allocator) {
48             allocator.forEachBlock(func);
49         });
50 }
51
52 template<typename Func>
53 void Subspace::forEachNotEmptyMarkedBlock(const Func& func)
54 {
55     forEachAllocator(
56         [&] (MarkedAllocator& allocator) {
57             allocator.forEachNotEmptyBlock(func);
58         });
59 }
60
61 template<typename Func>
62 void Subspace::forEachLargeAllocation(const Func& func)
63 {
64     for (LargeAllocation* allocation = m_largeAllocations.begin(); allocation != m_largeAllocations.end(); allocation = allocation->next())
65         func(allocation);
66 }
67
68 template<typename Func>
69 void Subspace::forEachMarkedCell(const Func& func)
70 {
71     forEachNotEmptyMarkedBlock(
72         [&] (MarkedBlock::Handle* handle) {
73             handle->forEachMarkedCell(
74                 [&] (size_t, HeapCell* cell, HeapCell::Kind kind) -> IterationStatus {
75                     func(cell, kind);
76                     return IterationStatus::Continue;
77                 });
78         });
79     forEachLargeAllocation(
80         [&] (LargeAllocation* allocation) {
81             if (allocation->isMarked())
82                 func(allocation->cell(), m_attributes.cellKind);
83         });
84 }
85
86 template<typename Func>
87 RefPtr<SharedTask<void(SlotVisitor&)>> Subspace::forEachMarkedCellInParallel(const Func& func)
88 {
89     class Task : public SharedTask<void(SlotVisitor&)> {
90     public:
91         Task(Subspace& subspace, const Func& func)
92             : m_subspace(subspace)
93             , m_blockSource(subspace.parallelNotEmptyMarkedBlockSource())
94             , m_func(func)
95         {
96         }
97         
98         void run(SlotVisitor& visitor) override
99         {
100             while (MarkedBlock::Handle* handle = m_blockSource->run()) {
101                 handle->forEachMarkedCell(
102                     [&] (size_t, HeapCell* cell, HeapCell::Kind kind) -> IterationStatus {
103                         m_func(visitor, cell, kind);
104                         return IterationStatus::Continue;
105                     });
106             }
107             
108             {
109                 auto locker = holdLock(m_lock);
110                 if (!m_needToVisitLargeAllocations)
111                     return;
112                 m_needToVisitLargeAllocations = false;
113             }
114             
115             m_subspace.forEachLargeAllocation(
116                 [&] (LargeAllocation* allocation) {
117                     if (allocation->isMarked())
118                         m_func(visitor, allocation->cell(), m_subspace.m_attributes.cellKind);
119                 });
120         }
121         
122     private:
123         Subspace& m_subspace;
124         RefPtr<SharedTask<MarkedBlock::Handle*()>> m_blockSource;
125         Func m_func;
126         Lock m_lock;
127         bool m_needToVisitLargeAllocations { true };
128     };
129     
130     return adoptRef(new Task(*this, func));
131 }
132
133 template<typename Func>
134 void Subspace::forEachLiveCell(const Func& func)
135 {
136     forEachMarkedBlock(
137         [&] (MarkedBlock::Handle* handle) {
138             handle->forEachLiveCell(
139                 [&] (HeapCell* cell, HeapCell::Kind kind) -> IterationStatus { 
140                     func(cell, kind);
141                     return IterationStatus::Continue;
142                 });
143         });
144     forEachLargeAllocation(
145         [&] (LargeAllocation* allocation) {
146             if (allocation->isLive())
147                 func(allocation->cell(), m_attributes.cellKind);
148         });
149 }
150
151 } // namespace JSC
152