bmalloc StaticMutex's constructor should be constexpr
[WebKit-https.git] / Source / bmalloc / bmalloc / IsoTLSInlines.h
1 /*
2  * Copyright (C) 2017-2018 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. ``AS IS'' AND ANY
14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE INC. OR
17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
24  */
25
26 #pragma once
27
28 #include "IsoHeapImpl.h"
29 #include "IsoTLS.h"
30 #include "bmalloc.h"
31
32 namespace bmalloc {
33
34 template<typename Type>
35 void* IsoTLS::allocate(api::IsoHeap<Type>& handle, bool abortOnFailure)
36 {
37     return allocateImpl<typename api::IsoHeap<Type>::Config>(handle, abortOnFailure);
38 }
39
40 template<typename Type>
41 void IsoTLS::deallocate(api::IsoHeap<Type>& handle, void* p)
42 {
43     if (!p)
44         return;
45     deallocateImpl<typename api::IsoHeap<Type>::Config>(handle, p);
46 }
47
48 template<typename Type>
49 void IsoTLS::scavenge(api::IsoHeap<Type>& handle)
50 {
51     IsoTLS* tls = get();
52     if (!tls)
53         return;
54     if (!handle.isInitialized())
55         return;
56     unsigned offset = handle.allocatorOffset();
57     if (offset < tls->m_extent)
58         reinterpret_cast<IsoAllocator<typename api::IsoHeap<Type>::Config>*>(tls->m_data + offset)->scavenge();
59     offset = handle.deallocatorOffset();
60     if (offset < tls->m_extent)
61         reinterpret_cast<IsoDeallocator<typename api::IsoHeap<Type>::Config>*>(tls->m_data + offset)->scavenge();
62     handle.impl().scavengeNow();
63 }
64
65 template<typename Config, typename Type>
66 void* IsoTLS::allocateImpl(api::IsoHeap<Type>& handle, bool abortOnFailure)
67 {
68     unsigned offset = handle.allocatorOffset();
69     IsoTLS* tls = get();
70     if (!tls || offset >= tls->m_extent)
71         return allocateSlow<Config>(handle, abortOnFailure);
72     return tls->allocateFast<Config>(offset, abortOnFailure);
73 }
74
75 template<typename Config>
76 void* IsoTLS::allocateFast(unsigned offset, bool abortOnFailure)
77 {
78     return reinterpret_cast<IsoAllocator<Config>*>(m_data + offset)->allocate(abortOnFailure);
79 }
80
81 template<typename Config, typename Type>
82 BNO_INLINE void* IsoTLS::allocateSlow(api::IsoHeap<Type>& handle, bool abortOnFailure)
83 {
84     for (;;) {
85         switch (s_mallocFallbackState) {
86         case MallocFallbackState::Undecided:
87             determineMallocFallbackState();
88             continue;
89         case MallocFallbackState::FallBackToMalloc:
90             return api::tryMalloc(Config::objectSize);
91         case MallocFallbackState::DoNotFallBack:
92             break;
93         }
94         break;
95     }
96     
97     auto debugMallocResult = debugMalloc(Config::objectSize);
98     if (debugMallocResult.usingDebugHeap)
99         return debugMallocResult.ptr;
100     
101     IsoTLS* tls = ensureHeapAndEntries(handle);
102     
103     return tls->allocateFast<Config>(handle.allocatorOffset(), abortOnFailure);
104 }
105
106 template<typename Config, typename Type>
107 void IsoTLS::deallocateImpl(api::IsoHeap<Type>& handle, void* p)
108 {
109     unsigned offset = handle.deallocatorOffset();
110     IsoTLS* tls = get();
111     // Note that this bounds check would be here even if we didn't have to support DebugHeap,
112     // since we don't want unpredictable behavior if offset or m_extent ever got corrupted.
113     if (!tls || offset >= tls->m_extent)
114         deallocateSlow<Config>(handle, p);
115     else
116         tls->deallocateFast<Config>(offset, p);
117 }
118
119 template<typename Config>
120 void IsoTLS::deallocateFast(unsigned offset, void* p)
121 {
122     reinterpret_cast<IsoDeallocator<Config>*>(m_data + offset)->deallocate(p);
123 }
124
125 template<typename Config, typename Type>
126 BNO_INLINE void IsoTLS::deallocateSlow(api::IsoHeap<Type>& handle, void* p)
127 {
128     for (;;) {
129         switch (s_mallocFallbackState) {
130         case MallocFallbackState::Undecided:
131             determineMallocFallbackState();
132             continue;
133         case MallocFallbackState::FallBackToMalloc:
134             return api::free(p);
135         case MallocFallbackState::DoNotFallBack:
136             break;
137         }
138         break;
139     }
140     
141     if (debugFree(p))
142         return;
143     
144     RELEASE_BASSERT(handle.isInitialized());
145     
146     IsoTLS* tls = ensureEntries(std::max(handle.allocatorOffset(), handle.deallocatorOffset()));
147     
148     tls->deallocateFast<Config>(handle.deallocatorOffset(), p);
149 }
150
151 inline IsoTLS* IsoTLS::get()
152 {
153 #if HAVE_PTHREAD_MACHDEP_H
154     return static_cast<IsoTLS*>(_pthread_getspecific_direct(tlsKey));
155 #else
156     if (!s_didInitialize)
157         return nullptr;
158     return static_cast<IsoTLS*>(pthread_getspecific(s_tlsKey));
159 #endif
160 }
161
162 inline void IsoTLS::set(IsoTLS* tls)
163 {
164 #if HAVE_PTHREAD_MACHDEP_H
165     _pthread_setspecific_direct(tlsKey, tls);
166 #else
167     pthread_setspecific(s_tlsKey, tls);
168 #endif
169 }
170
171 template<typename Type>
172 void IsoTLS::ensureHeap(api::IsoHeap<Type>& handle)
173 {
174     if (!handle.isInitialized()) {
175         std::lock_guard<Mutex> locker(handle.m_initializationLock);
176         if (!handle.isInitialized()) {
177             auto* heap = new IsoHeapImpl<typename api::IsoHeap<Type>::Config>();
178             std::atomic_thread_fence(std::memory_order_seq_cst);
179             handle.setAllocatorOffset(heap->allocatorOffset());
180             handle.setDeallocatorOffset(heap->deallocatorOffset());
181             handle.m_impl = heap;
182         }
183     }
184 }
185
186 template<typename Type>
187 BNO_INLINE IsoTLS* IsoTLS::ensureHeapAndEntries(api::IsoHeap<Type>& handle)
188 {
189     RELEASE_BASSERT(
190         !get()
191         || handle.allocatorOffset() >= get()->m_extent
192         || handle.deallocatorOffset() >= get()->m_extent);
193     ensureHeap(handle);
194     return ensureEntries(std::max(handle.allocatorOffset(), handle.deallocatorOffset()));
195 }
196
197 } // namespace bmalloc
198