bmalloc: allocate small and medium objects using the same bump pointer class
[WebKit-https.git] / Source / bmalloc / bmalloc / Allocator.cpp
1 /*
2  * Copyright (C) 2014 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. ``AS IS'' AND ANY
14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE INC. OR
17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
24  */
25
26 #include "Allocator.h"
27 #include "BAssert.h"
28 #include "Deallocator.h"
29 #include "Heap.h"
30 #include "PerProcess.h"
31 #include "Sizes.h"
32 #include <algorithm>
33
34 using namespace std;
35
36 namespace bmalloc {
37
38 Allocator::Allocator(Deallocator& deallocator)
39     : m_deallocator(deallocator)
40 {
41     for (unsigned short i = alignment; i <= smallMax; i += alignment)
42         m_smallAllocators[smallSizeClassFor(i)].init<SmallLine>(i);
43
44     for (unsigned short i = smallMax + alignment; i <= mediumMax; i += alignment)
45         m_mediumAllocators[mediumSizeClassFor(i)].init<MediumLine>(i);
46 }
47
48 Allocator::~Allocator()
49 {
50     scavenge();
51 }
52
53 void Allocator::scavenge()
54 {
55     for (auto& allocator : m_smallAllocators) {
56         while (allocator.canAllocate())
57             m_deallocator.deallocate(allocator.allocate());
58         allocator.clear();
59     }
60
61     for (auto& allocator : m_mediumAllocators) {
62         while (allocator.canAllocate())
63             m_deallocator.deallocate(allocator.allocate());
64         allocator.clear();
65     }
66 }
67
68 void* Allocator::allocateLarge(size_t size)
69 {
70     size = roundUpToMultipleOf<largeAlignment>(size);
71     std::lock_guard<StaticMutex> lock(PerProcess<Heap>::mutex());
72     return PerProcess<Heap>::getFastCase()->allocateLarge(lock, size);
73 }
74
75 void* Allocator::allocateXLarge(size_t size)
76 {
77     size = roundUpToMultipleOf<largeAlignment>(size);
78     std::lock_guard<StaticMutex> lock(PerProcess<Heap>::mutex());
79     return PerProcess<Heap>::getFastCase()->allocateXLarge(lock, size);
80 }
81
82 void* Allocator::allocateMedium(size_t size)
83 {
84     BumpAllocator& allocator = m_mediumAllocators[mediumSizeClassFor(size)];
85
86     if (!allocator.canAllocate())
87         allocator.refill(m_deallocator.allocateMediumLine());
88     return allocator.allocate();
89 }
90
91 void* Allocator::allocateSlowCase(size_t size)
92 {
93 IF_DEBUG(
94     void* dummy;
95     BASSERT(!allocateFastCase(size, dummy));
96 )
97     if (size <= smallMax) {
98         size_t smallSizeClass = smallSizeClassFor(size);
99         BumpAllocator& allocator = m_smallAllocators[smallSizeClass];
100         allocator.refill(m_deallocator.allocateSmallLine(smallSizeClass));
101         return allocator.allocate();
102     }
103
104     if (size <= mediumMax)
105         return allocateMedium(size);
106     
107     if (size <= largeMax)
108         return allocateLarge(size);
109
110     return allocateXLarge(size);
111 }
112
113 } // namespace bmalloc