crypto: hash - Fix digest size check for digest type
[linux-2.6.git] / crypto / rmd160.c
1 /*
2  * Cryptographic API.
3  *
4  * RIPEMD-160 - RACE Integrity Primitives Evaluation Message Digest.
5  *
6  * Based on the reference implementation by Antoon Bosselaers, ESAT-COSIC
7  *
8  * Copyright (c) 2008 Adrian-Ken Rueegsegger <rueegsegger (at) swiss-it.ch>
9  *
10  * This program is free software; you can redistribute it and/or modify it
11  * under the terms of the GNU General Public License as published by the Free
12  * Software Foundation; either version 2 of the License, or (at your option)
13  * any later version.
14  *
15  */
16 #include <linux/init.h>
17 #include <linux/module.h>
18 #include <linux/mm.h>
19 #include <linux/crypto.h>
20 #include <linux/cryptohash.h>
21 #include <linux/types.h>
22 #include <asm/byteorder.h>
23
24 #include "ripemd.h"
25
26 struct rmd160_ctx {
27         u64 byte_count;
28         u32 state[5];
29         __le32 buffer[16];
30 };
31
32 #define K1  RMD_K1
33 #define K2  RMD_K2
34 #define K3  RMD_K3
35 #define K4  RMD_K4
36 #define K5  RMD_K5
37 #define KK1 RMD_K6
38 #define KK2 RMD_K7
39 #define KK3 RMD_K8
40 #define KK4 RMD_K9
41 #define KK5 RMD_K1
42
43 #define F1(x, y, z) (x ^ y ^ z)         /* XOR */
44 #define F2(x, y, z) (z ^ (x & (y ^ z))) /* x ? y : z */
45 #define F3(x, y, z) ((x | ~y) ^ z)
46 #define F4(x, y, z) (y ^ (z & (x ^ y))) /* z ? x : y */
47 #define F5(x, y, z) (x ^ (y | ~z))
48
49 #define ROUND(a, b, c, d, e, f, k, x, s)  { \
50         (a) += f((b), (c), (d)) + le32_to_cpup(&(x)) + (k); \
51         (a) = rol32((a), (s)) + (e); \
52         (c) = rol32((c), 10); \
53 }
54
55 static void rmd160_transform(u32 *state, const __le32 *in)
56 {
57         u32 aa, bb, cc, dd, ee, aaa, bbb, ccc, ddd, eee;
58
59         /* Initialize left lane */
60         aa = state[0];
61         bb = state[1];
62         cc = state[2];
63         dd = state[3];
64         ee = state[4];
65
66         /* Initialize right lane */
67         aaa = state[0];
68         bbb = state[1];
69         ccc = state[2];
70         ddd = state[3];
71         eee = state[4];
72
73         /* round 1: left lane */
74         ROUND(aa, bb, cc, dd, ee, F1, K1, in[0],  11);
75         ROUND(ee, aa, bb, cc, dd, F1, K1, in[1],  14);
76         ROUND(dd, ee, aa, bb, cc, F1, K1, in[2],  15);
77         ROUND(cc, dd, ee, aa, bb, F1, K1, in[3],  12);
78         ROUND(bb, cc, dd, ee, aa, F1, K1, in[4],   5);
79         ROUND(aa, bb, cc, dd, ee, F1, K1, in[5],   8);
80         ROUND(ee, aa, bb, cc, dd, F1, K1, in[6],   7);
81         ROUND(dd, ee, aa, bb, cc, F1, K1, in[7],   9);
82         ROUND(cc, dd, ee, aa, bb, F1, K1, in[8],  11);
83         ROUND(bb, cc, dd, ee, aa, F1, K1, in[9],  13);
84         ROUND(aa, bb, cc, dd, ee, F1, K1, in[10], 14);
85         ROUND(ee, aa, bb, cc, dd, F1, K1, in[11], 15);
86         ROUND(dd, ee, aa, bb, cc, F1, K1, in[12],  6);
87         ROUND(cc, dd, ee, aa, bb, F1, K1, in[13],  7);
88         ROUND(bb, cc, dd, ee, aa, F1, K1, in[14],  9);
89         ROUND(aa, bb, cc, dd, ee, F1, K1, in[15],  8);
90
91         /* round 2: left lane" */
92         ROUND(ee, aa, bb, cc, dd, F2, K2, in[7],   7);
93         ROUND(dd, ee, aa, bb, cc, F2, K2, in[4],   6);
94         ROUND(cc, dd, ee, aa, bb, F2, K2, in[13],  8);
95         ROUND(bb, cc, dd, ee, aa, F2, K2, in[1],  13);
96         ROUND(aa, bb, cc, dd, ee, F2, K2, in[10], 11);
97         ROUND(ee, aa, bb, cc, dd, F2, K2, in[6],   9);
98         ROUND(dd, ee, aa, bb, cc, F2, K2, in[15],  7);
99         ROUND(cc, dd, ee, aa, bb, F2, K2, in[3],  15);
100         ROUND(bb, cc, dd, ee, aa, F2, K2, in[12],  7);
101         ROUND(aa, bb, cc, dd, ee, F2, K2, in[0],  12);
102         ROUND(ee, aa, bb, cc, dd, F2, K2, in[9],  15);
103         ROUND(dd, ee, aa, bb, cc, F2, K2, in[5],   9);
104         ROUND(cc, dd, ee, aa, bb, F2, K2, in[2],  11);
105         ROUND(bb, cc, dd, ee, aa, F2, K2, in[14],  7);
106         ROUND(aa, bb, cc, dd, ee, F2, K2, in[11], 13);
107         ROUND(ee, aa, bb, cc, dd, F2, K2, in[8],  12);
108
109         /* round 3: left lane" */
110         ROUND(dd, ee, aa, bb, cc, F3, K3, in[3],  11);
111         ROUND(cc, dd, ee, aa, bb, F3, K3, in[10], 13);
112         ROUND(bb, cc, dd, ee, aa, F3, K3, in[14],  6);
113         ROUND(aa, bb, cc, dd, ee, F3, K3, in[4],   7);
114         ROUND(ee, aa, bb, cc, dd, F3, K3, in[9],  14);
115         ROUND(dd, ee, aa, bb, cc, F3, K3, in[15],  9);
116         ROUND(cc, dd, ee, aa, bb, F3, K3, in[8],  13);
117         ROUND(bb, cc, dd, ee, aa, F3, K3, in[1],  15);
118         ROUND(aa, bb, cc, dd, ee, F3, K3, in[2],  14);
119         ROUND(ee, aa, bb, cc, dd, F3, K3, in[7],   8);
120         ROUND(dd, ee, aa, bb, cc, F3, K3, in[0],  13);
121         ROUND(cc, dd, ee, aa, bb, F3, K3, in[6],   6);
122         ROUND(bb, cc, dd, ee, aa, F3, K3, in[13],  5);
123         ROUND(aa, bb, cc, dd, ee, F3, K3, in[11], 12);
124         ROUND(ee, aa, bb, cc, dd, F3, K3, in[5],   7);
125         ROUND(dd, ee, aa, bb, cc, F3, K3, in[12],  5);
126
127         /* round 4: left lane" */
128         ROUND(cc, dd, ee, aa, bb, F4, K4, in[1],  11);
129         ROUND(bb, cc, dd, ee, aa, F4, K4, in[9],  12);
130         ROUND(aa, bb, cc, dd, ee, F4, K4, in[11], 14);
131         ROUND(ee, aa, bb, cc, dd, F4, K4, in[10], 15);
132         ROUND(dd, ee, aa, bb, cc, F4, K4, in[0],  14);
133         ROUND(cc, dd, ee, aa, bb, F4, K4, in[8],  15);
134         ROUND(bb, cc, dd, ee, aa, F4, K4, in[12],  9);
135         ROUND(aa, bb, cc, dd, ee, F4, K4, in[4],   8);
136         ROUND(ee, aa, bb, cc, dd, F4, K4, in[13],  9);
137         ROUND(dd, ee, aa, bb, cc, F4, K4, in[3],  14);
138         ROUND(cc, dd, ee, aa, bb, F4, K4, in[7],   5);
139         ROUND(bb, cc, dd, ee, aa, F4, K4, in[15],  6);
140         ROUND(aa, bb, cc, dd, ee, F4, K4, in[14],  8);
141         ROUND(ee, aa, bb, cc, dd, F4, K4, in[5],   6);
142         ROUND(dd, ee, aa, bb, cc, F4, K4, in[6],   5);
143         ROUND(cc, dd, ee, aa, bb, F4, K4, in[2],  12);
144
145         /* round 5: left lane" */
146         ROUND(bb, cc, dd, ee, aa, F5, K5, in[4],   9);
147         ROUND(aa, bb, cc, dd, ee, F5, K5, in[0],  15);
148         ROUND(ee, aa, bb, cc, dd, F5, K5, in[5],   5);
149         ROUND(dd, ee, aa, bb, cc, F5, K5, in[9],  11);
150         ROUND(cc, dd, ee, aa, bb, F5, K5, in[7],   6);
151         ROUND(bb, cc, dd, ee, aa, F5, K5, in[12],  8);
152         ROUND(aa, bb, cc, dd, ee, F5, K5, in[2],  13);
153         ROUND(ee, aa, bb, cc, dd, F5, K5, in[10], 12);
154         ROUND(dd, ee, aa, bb, cc, F5, K5, in[14],  5);
155         ROUND(cc, dd, ee, aa, bb, F5, K5, in[1],  12);
156         ROUND(bb, cc, dd, ee, aa, F5, K5, in[3],  13);
157         ROUND(aa, bb, cc, dd, ee, F5, K5, in[8],  14);
158         ROUND(ee, aa, bb, cc, dd, F5, K5, in[11], 11);
159         ROUND(dd, ee, aa, bb, cc, F5, K5, in[6],   8);
160         ROUND(cc, dd, ee, aa, bb, F5, K5, in[15],  5);
161         ROUND(bb, cc, dd, ee, aa, F5, K5, in[13],  6);
162
163         /* round 1: right lane */
164         ROUND(aaa, bbb, ccc, ddd, eee, F5, KK1, in[5],   8);
165         ROUND(eee, aaa, bbb, ccc, ddd, F5, KK1, in[14],  9);
166         ROUND(ddd, eee, aaa, bbb, ccc, F5, KK1, in[7],   9);
167         ROUND(ccc, ddd, eee, aaa, bbb, F5, KK1, in[0],  11);
168         ROUND(bbb, ccc, ddd, eee, aaa, F5, KK1, in[9],  13);
169         ROUND(aaa, bbb, ccc, ddd, eee, F5, KK1, in[2],  15);
170         ROUND(eee, aaa, bbb, ccc, ddd, F5, KK1, in[11], 15);
171         ROUND(ddd, eee, aaa, bbb, ccc, F5, KK1, in[4],   5);
172         ROUND(ccc, ddd, eee, aaa, bbb, F5, KK1, in[13],  7);
173         ROUND(bbb, ccc, ddd, eee, aaa, F5, KK1, in[6],   7);
174         ROUND(aaa, bbb, ccc, ddd, eee, F5, KK1, in[15],  8);
175         ROUND(eee, aaa, bbb, ccc, ddd, F5, KK1, in[8],  11);
176         ROUND(ddd, eee, aaa, bbb, ccc, F5, KK1, in[1],  14);
177         ROUND(ccc, ddd, eee, aaa, bbb, F5, KK1, in[10], 14);
178         ROUND(bbb, ccc, ddd, eee, aaa, F5, KK1, in[3],  12);
179         ROUND(aaa, bbb, ccc, ddd, eee, F5, KK1, in[12],  6);
180
181         /* round 2: right lane */
182         ROUND(eee, aaa, bbb, ccc, ddd, F4, KK2, in[6],   9);
183         ROUND(ddd, eee, aaa, bbb, ccc, F4, KK2, in[11], 13);
184         ROUND(ccc, ddd, eee, aaa, bbb, F4, KK2, in[3],  15);
185         ROUND(bbb, ccc, ddd, eee, aaa, F4, KK2, in[7],   7);
186         ROUND(aaa, bbb, ccc, ddd, eee, F4, KK2, in[0],  12);
187         ROUND(eee, aaa, bbb, ccc, ddd, F4, KK2, in[13],  8);
188         ROUND(ddd, eee, aaa, bbb, ccc, F4, KK2, in[5],   9);
189         ROUND(ccc, ddd, eee, aaa, bbb, F4, KK2, in[10], 11);
190         ROUND(bbb, ccc, ddd, eee, aaa, F4, KK2, in[14],  7);
191         ROUND(aaa, bbb, ccc, ddd, eee, F4, KK2, in[15],  7);
192         ROUND(eee, aaa, bbb, ccc, ddd, F4, KK2, in[8],  12);
193         ROUND(ddd, eee, aaa, bbb, ccc, F4, KK2, in[12],  7);
194         ROUND(ccc, ddd, eee, aaa, bbb, F4, KK2, in[4],   6);
195         ROUND(bbb, ccc, ddd, eee, aaa, F4, KK2, in[9],  15);
196         ROUND(aaa, bbb, ccc, ddd, eee, F4, KK2, in[1],  13);
197         ROUND(eee, aaa, bbb, ccc, ddd, F4, KK2, in[2],  11);
198
199         /* round 3: right lane */
200         ROUND(ddd, eee, aaa, bbb, ccc, F3, KK3, in[15],  9);
201         ROUND(ccc, ddd, eee, aaa, bbb, F3, KK3, in[5],   7);
202         ROUND(bbb, ccc, ddd, eee, aaa, F3, KK3, in[1],  15);
203         ROUND(aaa, bbb, ccc, ddd, eee, F3, KK3, in[3],  11);
204         ROUND(eee, aaa, bbb, ccc, ddd, F3, KK3, in[7],   8);
205         ROUND(ddd, eee, aaa, bbb, ccc, F3, KK3, in[14],  6);
206         ROUND(ccc, ddd, eee, aaa, bbb, F3, KK3, in[6],   6);
207         ROUND(bbb, ccc, ddd, eee, aaa, F3, KK3, in[9],  14);
208         ROUND(aaa, bbb, ccc, ddd, eee, F3, KK3, in[11], 12);
209         ROUND(eee, aaa, bbb, ccc, ddd, F3, KK3, in[8],  13);
210         ROUND(ddd, eee, aaa, bbb, ccc, F3, KK3, in[12],  5);
211         ROUND(ccc, ddd, eee, aaa, bbb, F3, KK3, in[2],  14);
212         ROUND(bbb, ccc, ddd, eee, aaa, F3, KK3, in[10], 13);
213         ROUND(aaa, bbb, ccc, ddd, eee, F3, KK3, in[0],  13);
214         ROUND(eee, aaa, bbb, ccc, ddd, F3, KK3, in[4],   7);
215         ROUND(ddd, eee, aaa, bbb, ccc, F3, KK3, in[13],  5);
216
217         /* round 4: right lane */
218         ROUND(ccc, ddd, eee, aaa, bbb, F2, KK4, in[8],  15);
219         ROUND(bbb, ccc, ddd, eee, aaa, F2, KK4, in[6],   5);
220         ROUND(aaa, bbb, ccc, ddd, eee, F2, KK4, in[4],   8);
221         ROUND(eee, aaa, bbb, ccc, ddd, F2, KK4, in[1],  11);
222         ROUND(ddd, eee, aaa, bbb, ccc, F2, KK4, in[3],  14);
223         ROUND(ccc, ddd, eee, aaa, bbb, F2, KK4, in[11], 14);
224         ROUND(bbb, ccc, ddd, eee, aaa, F2, KK4, in[15],  6);
225         ROUND(aaa, bbb, ccc, ddd, eee, F2, KK4, in[0],  14);
226         ROUND(eee, aaa, bbb, ccc, ddd, F2, KK4, in[5],   6);
227         ROUND(ddd, eee, aaa, bbb, ccc, F2, KK4, in[12],  9);
228         ROUND(ccc, ddd, eee, aaa, bbb, F2, KK4, in[2],  12);
229         ROUND(bbb, ccc, ddd, eee, aaa, F2, KK4, in[13],  9);
230         ROUND(aaa, bbb, ccc, ddd, eee, F2, KK4, in[9],  12);
231         ROUND(eee, aaa, bbb, ccc, ddd, F2, KK4, in[7],   5);
232         ROUND(ddd, eee, aaa, bbb, ccc, F2, KK4, in[10], 15);
233         ROUND(ccc, ddd, eee, aaa, bbb, F2, KK4, in[14],  8);
234
235         /* round 5: right lane */
236         ROUND(bbb, ccc, ddd, eee, aaa, F1, KK5, in[12],  8);
237         ROUND(aaa, bbb, ccc, ddd, eee, F1, KK5, in[15],  5);
238         ROUND(eee, aaa, bbb, ccc, ddd, F1, KK5, in[10], 12);
239         ROUND(ddd, eee, aaa, bbb, ccc, F1, KK5, in[4],   9);
240         ROUND(ccc, ddd, eee, aaa, bbb, F1, KK5, in[1],  12);
241         ROUND(bbb, ccc, ddd, eee, aaa, F1, KK5, in[5],   5);
242         ROUND(aaa, bbb, ccc, ddd, eee, F1, KK5, in[8],  14);
243         ROUND(eee, aaa, bbb, ccc, ddd, F1, KK5, in[7],   6);
244         ROUND(ddd, eee, aaa, bbb, ccc, F1, KK5, in[6],   8);
245         ROUND(ccc, ddd, eee, aaa, bbb, F1, KK5, in[2],  13);
246         ROUND(bbb, ccc, ddd, eee, aaa, F1, KK5, in[13],  6);
247         ROUND(aaa, bbb, ccc, ddd, eee, F1, KK5, in[14],  5);
248         ROUND(eee, aaa, bbb, ccc, ddd, F1, KK5, in[0],  15);
249         ROUND(ddd, eee, aaa, bbb, ccc, F1, KK5, in[3],  13);
250         ROUND(ccc, ddd, eee, aaa, bbb, F1, KK5, in[9],  11);
251         ROUND(bbb, ccc, ddd, eee, aaa, F1, KK5, in[11], 11);
252
253         /* combine results */
254         ddd += cc + state[1];           /* final result for state[0] */
255         state[1] = state[2] + dd + eee;
256         state[2] = state[3] + ee + aaa;
257         state[3] = state[4] + aa + bbb;
258         state[4] = state[0] + bb + ccc;
259         state[0] = ddd;
260
261         return;
262 }
263
264 static void rmd160_init(struct crypto_tfm *tfm)
265 {
266         struct rmd160_ctx *rctx = crypto_tfm_ctx(tfm);
267
268         rctx->byte_count = 0;
269
270         rctx->state[0] = RMD_H0;
271         rctx->state[1] = RMD_H1;
272         rctx->state[2] = RMD_H2;
273         rctx->state[3] = RMD_H3;
274         rctx->state[4] = RMD_H4;
275
276         memset(rctx->buffer, 0, sizeof(rctx->buffer));
277 }
278
279 static void rmd160_update(struct crypto_tfm *tfm, const u8 *data,
280                           unsigned int len)
281 {
282         struct rmd160_ctx *rctx = crypto_tfm_ctx(tfm);
283         const u32 avail = sizeof(rctx->buffer) - (rctx->byte_count & 0x3f);
284
285         rctx->byte_count += len;
286
287         /* Enough space in buffer? If so copy and we're done */
288         if (avail > len) {
289                 memcpy((char *)rctx->buffer + (sizeof(rctx->buffer) - avail),
290                        data, len);
291                 return;
292         }
293
294         memcpy((char *)rctx->buffer + (sizeof(rctx->buffer) - avail),
295                data, avail);
296
297         rmd160_transform(rctx->state, rctx->buffer);
298         data += avail;
299         len -= avail;
300
301         while (len >= sizeof(rctx->buffer)) {
302                 memcpy(rctx->buffer, data, sizeof(rctx->buffer));
303                 rmd160_transform(rctx->state, rctx->buffer);
304                 data += sizeof(rctx->buffer);
305                 len -= sizeof(rctx->buffer);
306         }
307
308         memcpy(rctx->buffer, data, len);
309 }
310
311 /* Add padding and return the message digest. */
312 static void rmd160_final(struct crypto_tfm *tfm, u8 *out)
313 {
314         struct rmd160_ctx *rctx = crypto_tfm_ctx(tfm);
315         u32 i, index, padlen;
316         __le64 bits;
317         __le32 *dst = (__le32 *)out;
318         static const u8 padding[64] = { 0x80, };
319
320         bits = cpu_to_le64(rctx->byte_count << 3);
321
322         /* Pad out to 56 mod 64 */
323         index = rctx->byte_count & 0x3f;
324         padlen = (index < 56) ? (56 - index) : ((64+56) - index);
325         rmd160_update(tfm, padding, padlen);
326
327         /* Append length */
328         rmd160_update(tfm, (const u8 *)&bits, sizeof(bits));
329
330         /* Store state in digest */
331         for (i = 0; i < 5; i++)
332                 dst[i] = cpu_to_le32p(&rctx->state[i]);
333
334         /* Wipe context */
335         memset(rctx, 0, sizeof(*rctx));
336 }
337
338 static struct crypto_alg alg = {
339         .cra_name        =      "rmd160",
340         .cra_driver_name =      "rmd160",
341         .cra_flags       =      CRYPTO_ALG_TYPE_DIGEST,
342         .cra_blocksize   =      RMD160_BLOCK_SIZE,
343         .cra_ctxsize     =      sizeof(struct rmd160_ctx),
344         .cra_module      =      THIS_MODULE,
345         .cra_list        =      LIST_HEAD_INIT(alg.cra_list),
346         .cra_u           =      { .digest = {
347         .dia_digestsize  =      RMD160_DIGEST_SIZE,
348         .dia_init        =      rmd160_init,
349         .dia_update      =      rmd160_update,
350         .dia_final       =      rmd160_final } }
351 };
352
353 static int __init rmd160_mod_init(void)
354 {
355         return crypto_register_alg(&alg);
356 }
357
358 static void __exit rmd160_mod_fini(void)
359 {
360         crypto_unregister_alg(&alg);
361 }
362
363 module_init(rmd160_mod_init);
364 module_exit(rmd160_mod_fini);
365
366 MODULE_LICENSE("GPL");
367 MODULE_DESCRIPTION("RIPEMD-160 Message Digest");
368
369 MODULE_ALIAS("rmd160");