lib/mpi: added missing NULL check
[linux-2.6.git] / lib / digsig.c
1 /*
2  * Copyright (C) 2011 Nokia Corporation
3  * Copyright (C) 2011 Intel Corporation
4  *
5  * Author:
6  * Dmitry Kasatkin <dmitry.kasatkin@nokia.com>
7  *                 <dmitry.kasatkin@intel.com>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation, version 2 of the License.
12  *
13  * File: sign.c
14  *      implements signature (RSA) verification
15  *      pkcs decoding is based on LibTomCrypt code
16  */
17
18 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
19
20 #include <linux/err.h>
21 #include <linux/module.h>
22 #include <linux/slab.h>
23 #include <linux/key.h>
24 #include <linux/crypto.h>
25 #include <crypto/hash.h>
26 #include <crypto/sha.h>
27 #include <keys/user-type.h>
28 #include <linux/mpi.h>
29 #include <linux/digsig.h>
30
31 static struct crypto_shash *shash;
32
33 static int pkcs_1_v1_5_decode_emsa(const unsigned char *msg,
34                         unsigned long  msglen,
35                         unsigned long  modulus_bitlen,
36                         unsigned char *out,
37                         unsigned long *outlen)
38 {
39         unsigned long modulus_len, ps_len, i;
40
41         modulus_len = (modulus_bitlen >> 3) + (modulus_bitlen & 7 ? 1 : 0);
42
43         /* test message size */
44         if ((msglen > modulus_len) || (modulus_len < 11))
45                 return -EINVAL;
46
47         /* separate encoded message */
48         if ((msg[0] != 0x00) || (msg[1] != (unsigned char)1))
49                 return -EINVAL;
50
51         for (i = 2; i < modulus_len - 1; i++)
52                 if (msg[i] != 0xFF)
53                         break;
54
55         /* separator check */
56         if (msg[i] != 0)
57                 /* There was no octet with hexadecimal value 0x00
58                 to separate ps from m. */
59                 return -EINVAL;
60
61         ps_len = i - 2;
62
63         if (*outlen < (msglen - (2 + ps_len + 1))) {
64                 *outlen = msglen - (2 + ps_len + 1);
65                 return -EOVERFLOW;
66         }
67
68         *outlen = (msglen - (2 + ps_len + 1));
69         memcpy(out, &msg[2 + ps_len + 1], *outlen);
70
71         return 0;
72 }
73
74 /*
75  * RSA Signature verification with public key
76  */
77 static int digsig_verify_rsa(struct key *key,
78                     const char *sig, int siglen,
79                        const char *h, int hlen)
80 {
81         int err = -EINVAL;
82         unsigned long len;
83         unsigned long mlen, mblen;
84         unsigned nret, l;
85         int head, i;
86         unsigned char *out1 = NULL, *out2 = NULL;
87         MPI in = NULL, res = NULL, pkey[2];
88         uint8_t *p, *datap, *endp;
89         struct user_key_payload *ukp;
90         struct pubkey_hdr *pkh;
91
92         down_read(&key->sem);
93         ukp = key->payload.data;
94
95         if (ukp->datalen < sizeof(*pkh))
96                 goto err1;
97
98         pkh = (struct pubkey_hdr *)ukp->data;
99
100         if (pkh->version != 1)
101                 goto err1;
102
103         if (pkh->algo != PUBKEY_ALGO_RSA)
104                 goto err1;
105
106         if (pkh->nmpi != 2)
107                 goto err1;
108
109         datap = pkh->mpi;
110         endp = ukp->data + ukp->datalen;
111
112         for (i = 0; i < pkh->nmpi; i++) {
113                 unsigned int remaining = endp - datap;
114                 pkey[i] = mpi_read_from_buffer(datap, &remaining);
115                 datap += remaining;
116         }
117
118         mblen = mpi_get_nbits(pkey[0]);
119         mlen = (mblen + 7)/8;
120
121         if (mlen == 0)
122                 goto err;
123
124         out1 = kzalloc(mlen, GFP_KERNEL);
125         if (!out1)
126                 goto err;
127
128         out2 = kzalloc(mlen, GFP_KERNEL);
129         if (!out2)
130                 goto err;
131
132         nret = siglen;
133         in = mpi_read_from_buffer(sig, &nret);
134         if (!in)
135                 goto err;
136
137         res = mpi_alloc(mpi_get_nlimbs(in) * 2);
138         if (!res)
139                 goto err;
140
141         err = mpi_powm(res, in, pkey[1], pkey[0]);
142         if (err)
143                 goto err;
144
145         if (mpi_get_nlimbs(res) * BYTES_PER_MPI_LIMB > mlen) {
146                 err = -EINVAL;
147                 goto err;
148         }
149
150         p = mpi_get_buffer(res, &l, NULL);
151         if (!p) {
152                 err = -EINVAL;
153                 goto err;
154         }
155
156         len = mlen;
157         head = len - l;
158         memset(out1, 0, head);
159         memcpy(out1 + head, p, l);
160
161         err = pkcs_1_v1_5_decode_emsa(out1, len, mblen, out2, &len);
162
163         if (!err && len == hlen)
164                 err = memcmp(out2, h, hlen);
165
166 err:
167         mpi_free(in);
168         mpi_free(res);
169         kfree(out1);
170         kfree(out2);
171         mpi_free(pkey[0]);
172         mpi_free(pkey[1]);
173 err1:
174         up_read(&key->sem);
175
176         return err;
177 }
178
179 /**
180  * digsig_verify() - digital signature verification with public key
181  * @keyring:    keyring to search key in
182  * @sig:        digital signature
183  * @sigen:      length of the signature
184  * @data:       data
185  * @datalen:    length of the data
186  * @return:     0 on success, -EINVAL otherwise
187  *
188  * Verifies data integrity against digital signature.
189  * Currently only RSA is supported.
190  * Normally hash of the content is used as a data for this function.
191  *
192  */
193 int digsig_verify(struct key *keyring, const char *sig, int siglen,
194                                                 const char *data, int datalen)
195 {
196         int err = -ENOMEM;
197         struct signature_hdr *sh = (struct signature_hdr *)sig;
198         struct shash_desc *desc = NULL;
199         unsigned char hash[SHA1_DIGEST_SIZE];
200         struct key *key;
201         char name[20];
202
203         if (siglen < sizeof(*sh) + 2)
204                 return -EINVAL;
205
206         if (sh->algo != PUBKEY_ALGO_RSA)
207                 return -ENOTSUPP;
208
209         sprintf(name, "%llX", __be64_to_cpup((uint64_t *)sh->keyid));
210
211         if (keyring) {
212                 /* search in specific keyring */
213                 key_ref_t kref;
214                 kref = keyring_search(make_key_ref(keyring, 1UL),
215                                                 &key_type_user, name);
216                 if (IS_ERR(kref))
217                         key = ERR_PTR(PTR_ERR(kref));
218                 else
219                         key = key_ref_to_ptr(kref);
220         } else {
221                 key = request_key(&key_type_user, name, NULL);
222         }
223         if (IS_ERR(key)) {
224                 pr_err("key not found, id: %s\n", name);
225                 return PTR_ERR(key);
226         }
227
228         desc = kzalloc(sizeof(*desc) + crypto_shash_descsize(shash),
229                        GFP_KERNEL);
230         if (!desc)
231                 goto err;
232
233         desc->tfm = shash;
234         desc->flags = CRYPTO_TFM_REQ_MAY_SLEEP;
235
236         crypto_shash_init(desc);
237         crypto_shash_update(desc, data, datalen);
238         crypto_shash_update(desc, sig, sizeof(*sh));
239         crypto_shash_final(desc, hash);
240
241         kfree(desc);
242
243         /* pass signature mpis address */
244         err = digsig_verify_rsa(key, sig + sizeof(*sh), siglen - sizeof(*sh),
245                              hash, sizeof(hash));
246
247 err:
248         key_put(key);
249
250         return err ? -EINVAL : 0;
251 }
252 EXPORT_SYMBOL_GPL(digsig_verify);
253
254 static int __init digsig_init(void)
255 {
256         shash = crypto_alloc_shash("sha1", 0, 0);
257         if (IS_ERR(shash)) {
258                 pr_err("shash allocation failed\n");
259                 return  PTR_ERR(shash);
260         }
261
262         return 0;
263
264 }
265
266 static void __exit digsig_cleanup(void)
267 {
268         crypto_free_shash(shash);
269 }
270
271 module_init(digsig_init);
272 module_exit(digsig_cleanup);
273
274 MODULE_LICENSE("GPL");