4d83180a5bdf9be125236c10eb573df20b48db6b
[WebKit-https.git] / Source / WebCore / crypto / CryptoAlgorithmRSASSA_PKCS1_v1_5Mac.cpp
1 /*
2  * Copyright (C) 2013 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. AND ITS CONTRIBUTORS ``AS IS''
14  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO,
15  * THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL APPLE INC. OR ITS CONTRIBUTORS
17  * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
18  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
19  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
20  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
21  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
22  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
23  * THE POSSIBILITY OF SUCH DAMAGE.
24  */
25
26 #include "config.h"
27 #include "CryptoAlgorithmRSASSA_PKCS1_v1_5.h"
28
29 #if ENABLE(SUBTLE_CRYPTO)
30
31 #include "CryptoAlgorithmRsaSsaParams.h"
32 #include "CryptoDigest.h"
33 #include "CryptoKeyRSA.h"
34 #include "ExceptionCode.h"
35 #include "JSDOMPromise.h"
36 #include <CommonCrypto/CommonCryptor.h>
37
38 #if defined(__has_include)
39 #if __has_include(<CommonCrypto/CommonRSACryptor.h>)
40 #include <CommonCrypto/CommonRSACryptor.h>
41 #endif
42 #endif
43
44 #ifndef _CC_RSACRYPTOR_H_
45 enum {
46     ccPKCS1Padding = 1001
47 };
48 typedef uint32_t CCAsymmetricPadding;
49
50 enum {
51     kCCDigestSHA1 = 8,
52     kCCDigestSHA224 = 9,
53     kCCDigestSHA256 = 10,
54     kCCDigestSHA384 = 11,
55     kCCDigestSHA512 = 12,
56 };
57 typedef uint32_t CCDigestAlgorithm;
58
59 enum {
60     kCCNotVerified    = -4306
61 };
62 #endif
63
64 extern "C" CCCryptorStatus CCRSACryptorSign(CCRSACryptorRef privateKey, CCAsymmetricPadding padding, const void *hashToSign, size_t hashSignLen, CCDigestAlgorithm digestType, size_t saltLen, void *signedData, size_t *signedDataLen);
65 extern "C" CCCryptorStatus CCRSACryptorVerify(CCRSACryptorRef publicKey, CCAsymmetricPadding padding, const void *hash, size_t hashLen, CCDigestAlgorithm digestType, size_t saltLen, const void *signedData, size_t signedDataLen);
66
67 namespace WebCore {
68
69 static bool getCommonCryptoDigestAlgorithm(CryptoAlgorithmIdentifier hashFunction, CCDigestAlgorithm& algorithm)
70 {
71     switch (hashFunction) {
72     case CryptoAlgorithmIdentifier::SHA_1:
73         algorithm = kCCDigestSHA1;
74         return true;
75     case CryptoAlgorithmIdentifier::SHA_224:
76         algorithm = kCCDigestSHA224;
77         return true;
78     case CryptoAlgorithmIdentifier::SHA_256:
79         algorithm = kCCDigestSHA256;
80         return true;
81     case CryptoAlgorithmIdentifier::SHA_384:
82         algorithm = kCCDigestSHA384;
83         return true;
84     case CryptoAlgorithmIdentifier::SHA_512:
85         algorithm = kCCDigestSHA512;
86         return true;
87     default:
88         return false;
89     }
90 }
91
92 void CryptoAlgorithmRSASSA_PKCS1_v1_5::sign(const CryptoAlgorithmParameters& parameters, const CryptoKey& key, const Vector<CryptoOperationData>& data, std::unique_ptr<PromiseWrapper> promise, ExceptionCode& ec)
93 {
94     const CryptoAlgorithmRsaSsaParams& rsaSSAParameters = toCryptoAlgorithmRsaSsaParams(parameters);
95
96     if (!isCryptoKeyRSA(key)) {
97         ec = NOT_SUPPORTED_ERR;
98         return;
99     }
100     const CryptoKeyRSA& rsaKey = toCryptoKeyRSA(key);
101
102     CCDigestAlgorithm digestAlgorithm;
103     if (!getCommonCryptoDigestAlgorithm(rsaSSAParameters.hash, digestAlgorithm)) {
104         ec = NOT_SUPPORTED_ERR;
105         return;
106     }
107
108     std::unique_ptr<CryptoDigest> digest = CryptoDigest::create(rsaSSAParameters.hash);
109     if (!digest) {
110         ec = NOT_SUPPORTED_ERR;
111         return;
112     }
113
114     for (size_t i = 0; i != data.size(); ++i)
115         digest->addBytes(data[i].first, data[i].second);
116
117     Vector<unsigned char> digestData = digest->computeHash();
118
119     Vector<unsigned char> signature(512);
120     size_t signatureSize = signature.size();
121
122     CCCryptorStatus status = CCRSACryptorSign(rsaKey.platformKey(), ccPKCS1Padding, digestData.data(), digestData.size(), digestAlgorithm, 0, signature.data(), &signatureSize);
123     if (status) {
124         promise->reject(nullptr);
125         return;
126     }
127
128     signature.resize(signatureSize);
129     promise->fulfill(signature);
130 }
131
132 void CryptoAlgorithmRSASSA_PKCS1_v1_5::verify(const CryptoAlgorithmParameters& parameters, const CryptoKey& key, const CryptoOperationData& signature, const Vector<CryptoOperationData>& data, std::unique_ptr<PromiseWrapper> promise, ExceptionCode& ec)
133 {
134     const CryptoAlgorithmRsaSsaParams& rsaSSAParameters = toCryptoAlgorithmRsaSsaParams(parameters);
135
136     if (!isCryptoKeyRSA(key)) {
137         ec = NOT_SUPPORTED_ERR;
138         return;
139     }
140     const CryptoKeyRSA& rsaKey = toCryptoKeyRSA(key);
141
142     CCDigestAlgorithm digestAlgorithm;
143     if (!getCommonCryptoDigestAlgorithm(rsaSSAParameters.hash, digestAlgorithm)) {
144         ec = NOT_SUPPORTED_ERR;
145         return;
146     }
147
148     std::unique_ptr<CryptoDigest> digest = CryptoDigest::create(rsaSSAParameters.hash);
149     if (!digest) {
150         ec = NOT_SUPPORTED_ERR;
151         return;
152     }
153
154     for (size_t i = 0; i != data.size(); ++i)
155         digest->addBytes(data[i].first, data[i].second);
156
157     Vector<unsigned char> digestData = digest->computeHash();
158
159     CCCryptorStatus status = CCRSACryptorVerify(rsaKey.platformKey(), ccPKCS1Padding, digestData.data(), digestData.size(), digestAlgorithm, 0, signature.first, signature.second);
160     if (!status)
161         promise->fulfill(true);
162     else if (status == kCCNotVerified || kCCDecodeError) // <rdar://problem/15464982> CCRSACryptorVerify returns kCCDecodeError instead of kCCNotVerified sometimes
163         promise->fulfill(false);
164     else
165         promise->reject(nullptr);
166 }
167
168 } // namespace WebCore
169
170 #endif // ENABLE(SUBTLE_CRYPTO)