WebCrypto no longer uses sequences of ArrayBuffers
[WebKit-https.git] / Source / WebCore / crypto / CryptoAlgorithmRSASSA_PKCS1_v1_5Mac.cpp
1 /*
2  * Copyright (C) 2013 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. AND ITS CONTRIBUTORS ``AS IS''
14  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO,
15  * THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL APPLE INC. OR ITS CONTRIBUTORS
17  * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
18  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
19  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
20  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
21  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
22  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
23  * THE POSSIBILITY OF SUCH DAMAGE.
24  */
25
26 #include "config.h"
27 #include "CryptoAlgorithmRSASSA_PKCS1_v1_5.h"
28
29 #if ENABLE(SUBTLE_CRYPTO)
30
31 #include "CryptoAlgorithmRsaSsaParams.h"
32 #include "CryptoDigest.h"
33 #include "CryptoKeyRSA.h"
34 #include "ExceptionCode.h"
35 #include "JSDOMPromise.h"
36 #include <CommonCrypto/CommonCryptor.h>
37
38 #if defined(__has_include)
39 #if __has_include(<CommonCrypto/CommonRSACryptor.h>)
40 #include <CommonCrypto/CommonRSACryptor.h>
41 #endif
42 #endif
43
44 #ifndef _CC_RSACRYPTOR_H_
45 enum {
46     ccPKCS1Padding = 1001
47 };
48 typedef uint32_t CCAsymmetricPadding;
49
50 enum {
51     kCCDigestSHA1 = 8,
52     kCCDigestSHA224 = 9,
53     kCCDigestSHA256 = 10,
54     kCCDigestSHA384 = 11,
55     kCCDigestSHA512 = 12,
56 };
57 typedef uint32_t CCDigestAlgorithm;
58
59 enum {
60     kCCNotVerified    = -4306
61 };
62 #endif
63
64 extern "C" CCCryptorStatus CCRSACryptorSign(CCRSACryptorRef privateKey, CCAsymmetricPadding padding, const void *hashToSign, size_t hashSignLen, CCDigestAlgorithm digestType, size_t saltLen, void *signedData, size_t *signedDataLen);
65 extern "C" CCCryptorStatus CCRSACryptorVerify(CCRSACryptorRef publicKey, CCAsymmetricPadding padding, const void *hash, size_t hashLen, CCDigestAlgorithm digestType, size_t saltLen, const void *signedData, size_t signedDataLen);
66
67 namespace WebCore {
68
69 static bool getCommonCryptoDigestAlgorithm(CryptoAlgorithmIdentifier hashFunction, CCDigestAlgorithm& algorithm)
70 {
71     switch (hashFunction) {
72     case CryptoAlgorithmIdentifier::SHA_1:
73         algorithm = kCCDigestSHA1;
74         return true;
75     case CryptoAlgorithmIdentifier::SHA_224:
76         algorithm = kCCDigestSHA224;
77         return true;
78     case CryptoAlgorithmIdentifier::SHA_256:
79         algorithm = kCCDigestSHA256;
80         return true;
81     case CryptoAlgorithmIdentifier::SHA_384:
82         algorithm = kCCDigestSHA384;
83         return true;
84     case CryptoAlgorithmIdentifier::SHA_512:
85         algorithm = kCCDigestSHA512;
86         return true;
87     default:
88         return false;
89     }
90 }
91
92 void CryptoAlgorithmRSASSA_PKCS1_v1_5::sign(const CryptoAlgorithmParameters& parameters, const CryptoKey& key, const CryptoOperationData& data, std::unique_ptr<PromiseWrapper> promise, ExceptionCode& ec)
93 {
94     const CryptoAlgorithmRsaSsaParams& rsaSSAParameters = toCryptoAlgorithmRsaSsaParams(parameters);
95
96     if (!isCryptoKeyRSA(key)) {
97         ec = NOT_SUPPORTED_ERR;
98         return;
99     }
100     const CryptoKeyRSA& rsaKey = toCryptoKeyRSA(key);
101
102     CCDigestAlgorithm digestAlgorithm;
103     if (!getCommonCryptoDigestAlgorithm(rsaSSAParameters.hash, digestAlgorithm)) {
104         ec = NOT_SUPPORTED_ERR;
105         return;
106     }
107
108     std::unique_ptr<CryptoDigest> digest = CryptoDigest::create(rsaSSAParameters.hash);
109     if (!digest) {
110         ec = NOT_SUPPORTED_ERR;
111         return;
112     }
113
114     digest->addBytes(data.first, data.second);
115
116     Vector<unsigned char> digestData = digest->computeHash();
117
118     Vector<unsigned char> signature(512);
119     size_t signatureSize = signature.size();
120
121     CCCryptorStatus status = CCRSACryptorSign(rsaKey.platformKey(), ccPKCS1Padding, digestData.data(), digestData.size(), digestAlgorithm, 0, signature.data(), &signatureSize);
122     if (status) {
123         promise->reject(nullptr);
124         return;
125     }
126
127     signature.resize(signatureSize);
128     promise->fulfill(signature);
129 }
130
131 void CryptoAlgorithmRSASSA_PKCS1_v1_5::verify(const CryptoAlgorithmParameters& parameters, const CryptoKey& key, const CryptoOperationData& signature, const CryptoOperationData& data, std::unique_ptr<PromiseWrapper> promise, ExceptionCode& ec)
132 {
133     const CryptoAlgorithmRsaSsaParams& rsaSSAParameters = toCryptoAlgorithmRsaSsaParams(parameters);
134
135     if (!isCryptoKeyRSA(key)) {
136         ec = NOT_SUPPORTED_ERR;
137         return;
138     }
139     const CryptoKeyRSA& rsaKey = toCryptoKeyRSA(key);
140
141     CCDigestAlgorithm digestAlgorithm;
142     if (!getCommonCryptoDigestAlgorithm(rsaSSAParameters.hash, digestAlgorithm)) {
143         ec = NOT_SUPPORTED_ERR;
144         return;
145     }
146
147     std::unique_ptr<CryptoDigest> digest = CryptoDigest::create(rsaSSAParameters.hash);
148     if (!digest) {
149         ec = NOT_SUPPORTED_ERR;
150         return;
151     }
152
153     digest->addBytes(data.first, data.second);
154
155     Vector<unsigned char> digestData = digest->computeHash();
156
157     CCCryptorStatus status = CCRSACryptorVerify(rsaKey.platformKey(), ccPKCS1Padding, digestData.data(), digestData.size(), digestAlgorithm, 0, signature.first, signature.second);
158     if (!status)
159         promise->fulfill(true);
160     else if (status == kCCNotVerified || kCCDecodeError) // <rdar://problem/15464982> CCRSACryptorVerify returns kCCDecodeError instead of kCCNotVerified sometimes
161         promise->fulfill(false);
162     else
163         promise->reject(nullptr);
164 }
165
166 } // namespace WebCore
167
168 #endif // ENABLE(SUBTLE_CRYPTO)