[CRYPTO] skcipher: Add skcipher_geniv_alloc/skcipher_geniv_free
[linux-2.6.git] / include / linux / crypto.h
1 /*
2  * Scatterlist Cryptographic API.
3  *
4  * Copyright (c) 2002 James Morris <jmorris@intercode.com.au>
5  * Copyright (c) 2002 David S. Miller (davem@redhat.com)
6  * Copyright (c) 2005 Herbert Xu <herbert@gondor.apana.org.au>
7  *
8  * Portions derived from Cryptoapi, by Alexander Kjeldaas <astor@fast.no>
9  * and Nettle, by Niels Möller.
10  * 
11  * This program is free software; you can redistribute it and/or modify it
12  * under the terms of the GNU General Public License as published by the Free
13  * Software Foundation; either version 2 of the License, or (at your option) 
14  * any later version.
15  *
16  */
17 #ifndef _LINUX_CRYPTO_H
18 #define _LINUX_CRYPTO_H
19
20 #include <asm/atomic.h>
21 #include <linux/module.h>
22 #include <linux/kernel.h>
23 #include <linux/list.h>
24 #include <linux/slab.h>
25 #include <linux/string.h>
26 #include <linux/uaccess.h>
27
28 /*
29  * Algorithm masks and types.
30  */
31 #define CRYPTO_ALG_TYPE_MASK            0x0000000f
32 #define CRYPTO_ALG_TYPE_CIPHER          0x00000001
33 #define CRYPTO_ALG_TYPE_DIGEST          0x00000002
34 #define CRYPTO_ALG_TYPE_HASH            0x00000003
35 #define CRYPTO_ALG_TYPE_BLKCIPHER       0x00000004
36 #define CRYPTO_ALG_TYPE_ABLKCIPHER      0x00000005
37 #define CRYPTO_ALG_TYPE_GIVCIPHER       0x00000006
38 #define CRYPTO_ALG_TYPE_COMPRESS        0x00000008
39 #define CRYPTO_ALG_TYPE_AEAD            0x00000009
40
41 #define CRYPTO_ALG_TYPE_HASH_MASK       0x0000000e
42 #define CRYPTO_ALG_TYPE_BLKCIPHER_MASK  0x0000000c
43
44 #define CRYPTO_ALG_LARVAL               0x00000010
45 #define CRYPTO_ALG_DEAD                 0x00000020
46 #define CRYPTO_ALG_DYING                0x00000040
47 #define CRYPTO_ALG_ASYNC                0x00000080
48
49 /*
50  * Set this bit if and only if the algorithm requires another algorithm of
51  * the same type to handle corner cases.
52  */
53 #define CRYPTO_ALG_NEED_FALLBACK        0x00000100
54
55 /*
56  * This bit is set for symmetric key ciphers that have already been wrapped
57  * with a generic IV generator to prevent them from being wrapped again.
58  */
59 #define CRYPTO_ALG_GENIV                0x00000200
60
61 /*
62  * Transform masks and values (for crt_flags).
63  */
64 #define CRYPTO_TFM_REQ_MASK             0x000fff00
65 #define CRYPTO_TFM_RES_MASK             0xfff00000
66
67 #define CRYPTO_TFM_REQ_WEAK_KEY         0x00000100
68 #define CRYPTO_TFM_REQ_MAY_SLEEP        0x00000200
69 #define CRYPTO_TFM_REQ_MAY_BACKLOG      0x00000400
70 #define CRYPTO_TFM_RES_WEAK_KEY         0x00100000
71 #define CRYPTO_TFM_RES_BAD_KEY_LEN      0x00200000
72 #define CRYPTO_TFM_RES_BAD_KEY_SCHED    0x00400000
73 #define CRYPTO_TFM_RES_BAD_BLOCK_LEN    0x00800000
74 #define CRYPTO_TFM_RES_BAD_FLAGS        0x01000000
75
76 /*
77  * Miscellaneous stuff.
78  */
79 #define CRYPTO_MAX_ALG_NAME             64
80
81 /*
82  * The macro CRYPTO_MINALIGN_ATTR (along with the void * type in the actual
83  * declaration) is used to ensure that the crypto_tfm context structure is
84  * aligned correctly for the given architecture so that there are no alignment
85  * faults for C data types.  In particular, this is required on platforms such
86  * as arm where pointers are 32-bit aligned but there are data types such as
87  * u64 which require 64-bit alignment.
88  */
89 #if defined(ARCH_KMALLOC_MINALIGN)
90 #define CRYPTO_MINALIGN ARCH_KMALLOC_MINALIGN
91 #elif defined(ARCH_SLAB_MINALIGN)
92 #define CRYPTO_MINALIGN ARCH_SLAB_MINALIGN
93 #endif
94
95 #ifdef CRYPTO_MINALIGN
96 #define CRYPTO_MINALIGN_ATTR __attribute__ ((__aligned__(CRYPTO_MINALIGN)))
97 #else
98 #define CRYPTO_MINALIGN_ATTR
99 #endif
100
101 struct scatterlist;
102 struct crypto_ablkcipher;
103 struct crypto_async_request;
104 struct crypto_aead;
105 struct crypto_blkcipher;
106 struct crypto_hash;
107 struct crypto_tfm;
108 struct crypto_type;
109 struct skcipher_givcrypt_request;
110
111 typedef void (*crypto_completion_t)(struct crypto_async_request *req, int err);
112
113 struct crypto_async_request {
114         struct list_head list;
115         crypto_completion_t complete;
116         void *data;
117         struct crypto_tfm *tfm;
118
119         u32 flags;
120 };
121
122 struct ablkcipher_request {
123         struct crypto_async_request base;
124
125         unsigned int nbytes;
126
127         void *info;
128
129         struct scatterlist *src;
130         struct scatterlist *dst;
131
132         void *__ctx[] CRYPTO_MINALIGN_ATTR;
133 };
134
135 /**
136  *      struct aead_request - AEAD request
137  *      @base: Common attributes for async crypto requests
138  *      @assoclen: Length in bytes of associated data for authentication
139  *      @cryptlen: Length of data to be encrypted or decrypted
140  *      @iv: Initialisation vector
141  *      @assoc: Associated data
142  *      @src: Source data
143  *      @dst: Destination data
144  *      @__ctx: Start of private context data
145  */
146 struct aead_request {
147         struct crypto_async_request base;
148
149         unsigned int assoclen;
150         unsigned int cryptlen;
151
152         u8 *iv;
153
154         struct scatterlist *assoc;
155         struct scatterlist *src;
156         struct scatterlist *dst;
157
158         void *__ctx[] CRYPTO_MINALIGN_ATTR;
159 };
160
161 struct blkcipher_desc {
162         struct crypto_blkcipher *tfm;
163         void *info;
164         u32 flags;
165 };
166
167 struct cipher_desc {
168         struct crypto_tfm *tfm;
169         void (*crfn)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
170         unsigned int (*prfn)(const struct cipher_desc *desc, u8 *dst,
171                              const u8 *src, unsigned int nbytes);
172         void *info;
173 };
174
175 struct hash_desc {
176         struct crypto_hash *tfm;
177         u32 flags;
178 };
179
180 /*
181  * Algorithms: modular crypto algorithm implementations, managed
182  * via crypto_register_alg() and crypto_unregister_alg().
183  */
184 struct ablkcipher_alg {
185         int (*setkey)(struct crypto_ablkcipher *tfm, const u8 *key,
186                       unsigned int keylen);
187         int (*encrypt)(struct ablkcipher_request *req);
188         int (*decrypt)(struct ablkcipher_request *req);
189         int (*givencrypt)(struct skcipher_givcrypt_request *req);
190         int (*givdecrypt)(struct skcipher_givcrypt_request *req);
191
192         const char *geniv;
193
194         unsigned int min_keysize;
195         unsigned int max_keysize;
196         unsigned int ivsize;
197 };
198
199 struct aead_alg {
200         int (*setkey)(struct crypto_aead *tfm, const u8 *key,
201                       unsigned int keylen);
202         int (*setauthsize)(struct crypto_aead *tfm, unsigned int authsize);
203         int (*encrypt)(struct aead_request *req);
204         int (*decrypt)(struct aead_request *req);
205
206         unsigned int ivsize;
207         unsigned int maxauthsize;
208 };
209
210 struct blkcipher_alg {
211         int (*setkey)(struct crypto_tfm *tfm, const u8 *key,
212                       unsigned int keylen);
213         int (*encrypt)(struct blkcipher_desc *desc,
214                        struct scatterlist *dst, struct scatterlist *src,
215                        unsigned int nbytes);
216         int (*decrypt)(struct blkcipher_desc *desc,
217                        struct scatterlist *dst, struct scatterlist *src,
218                        unsigned int nbytes);
219
220         const char *geniv;
221
222         unsigned int min_keysize;
223         unsigned int max_keysize;
224         unsigned int ivsize;
225 };
226
227 struct cipher_alg {
228         unsigned int cia_min_keysize;
229         unsigned int cia_max_keysize;
230         int (*cia_setkey)(struct crypto_tfm *tfm, const u8 *key,
231                           unsigned int keylen);
232         void (*cia_encrypt)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
233         void (*cia_decrypt)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
234 };
235
236 struct digest_alg {
237         unsigned int dia_digestsize;
238         void (*dia_init)(struct crypto_tfm *tfm);
239         void (*dia_update)(struct crypto_tfm *tfm, const u8 *data,
240                            unsigned int len);
241         void (*dia_final)(struct crypto_tfm *tfm, u8 *out);
242         int (*dia_setkey)(struct crypto_tfm *tfm, const u8 *key,
243                           unsigned int keylen);
244 };
245
246 struct hash_alg {
247         int (*init)(struct hash_desc *desc);
248         int (*update)(struct hash_desc *desc, struct scatterlist *sg,
249                       unsigned int nbytes);
250         int (*final)(struct hash_desc *desc, u8 *out);
251         int (*digest)(struct hash_desc *desc, struct scatterlist *sg,
252                       unsigned int nbytes, u8 *out);
253         int (*setkey)(struct crypto_hash *tfm, const u8 *key,
254                       unsigned int keylen);
255
256         unsigned int digestsize;
257 };
258
259 struct compress_alg {
260         int (*coa_compress)(struct crypto_tfm *tfm, const u8 *src,
261                             unsigned int slen, u8 *dst, unsigned int *dlen);
262         int (*coa_decompress)(struct crypto_tfm *tfm, const u8 *src,
263                               unsigned int slen, u8 *dst, unsigned int *dlen);
264 };
265
266 #define cra_ablkcipher  cra_u.ablkcipher
267 #define cra_aead        cra_u.aead
268 #define cra_blkcipher   cra_u.blkcipher
269 #define cra_cipher      cra_u.cipher
270 #define cra_digest      cra_u.digest
271 #define cra_hash        cra_u.hash
272 #define cra_compress    cra_u.compress
273
274 struct crypto_alg {
275         struct list_head cra_list;
276         struct list_head cra_users;
277
278         u32 cra_flags;
279         unsigned int cra_blocksize;
280         unsigned int cra_ctxsize;
281         unsigned int cra_alignmask;
282
283         int cra_priority;
284         atomic_t cra_refcnt;
285
286         char cra_name[CRYPTO_MAX_ALG_NAME];
287         char cra_driver_name[CRYPTO_MAX_ALG_NAME];
288
289         const struct crypto_type *cra_type;
290
291         union {
292                 struct ablkcipher_alg ablkcipher;
293                 struct aead_alg aead;
294                 struct blkcipher_alg blkcipher;
295                 struct cipher_alg cipher;
296                 struct digest_alg digest;
297                 struct hash_alg hash;
298                 struct compress_alg compress;
299         } cra_u;
300
301         int (*cra_init)(struct crypto_tfm *tfm);
302         void (*cra_exit)(struct crypto_tfm *tfm);
303         void (*cra_destroy)(struct crypto_alg *alg);
304         
305         struct module *cra_module;
306 };
307
308 /*
309  * Algorithm registration interface.
310  */
311 int crypto_register_alg(struct crypto_alg *alg);
312 int crypto_unregister_alg(struct crypto_alg *alg);
313
314 /*
315  * Algorithm query interface.
316  */
317 #ifdef CONFIG_CRYPTO
318 int crypto_has_alg(const char *name, u32 type, u32 mask);
319 #else
320 static inline int crypto_has_alg(const char *name, u32 type, u32 mask)
321 {
322         return 0;
323 }
324 #endif
325
326 /*
327  * Transforms: user-instantiated objects which encapsulate algorithms
328  * and core processing logic.  Managed via crypto_alloc_*() and
329  * crypto_free_*(), as well as the various helpers below.
330  */
331
332 struct ablkcipher_tfm {
333         int (*setkey)(struct crypto_ablkcipher *tfm, const u8 *key,
334                       unsigned int keylen);
335         int (*encrypt)(struct ablkcipher_request *req);
336         int (*decrypt)(struct ablkcipher_request *req);
337         int (*givencrypt)(struct skcipher_givcrypt_request *req);
338         int (*givdecrypt)(struct skcipher_givcrypt_request *req);
339
340         struct crypto_ablkcipher *base;
341
342         unsigned int ivsize;
343         unsigned int reqsize;
344 };
345
346 struct aead_tfm {
347         int (*setkey)(struct crypto_aead *tfm, const u8 *key,
348                       unsigned int keylen);
349         int (*encrypt)(struct aead_request *req);
350         int (*decrypt)(struct aead_request *req);
351         unsigned int ivsize;
352         unsigned int authsize;
353         unsigned int reqsize;
354 };
355
356 struct blkcipher_tfm {
357         void *iv;
358         int (*setkey)(struct crypto_tfm *tfm, const u8 *key,
359                       unsigned int keylen);
360         int (*encrypt)(struct blkcipher_desc *desc, struct scatterlist *dst,
361                        struct scatterlist *src, unsigned int nbytes);
362         int (*decrypt)(struct blkcipher_desc *desc, struct scatterlist *dst,
363                        struct scatterlist *src, unsigned int nbytes);
364 };
365
366 struct cipher_tfm {
367         int (*cit_setkey)(struct crypto_tfm *tfm,
368                           const u8 *key, unsigned int keylen);
369         void (*cit_encrypt_one)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
370         void (*cit_decrypt_one)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
371 };
372
373 struct hash_tfm {
374         int (*init)(struct hash_desc *desc);
375         int (*update)(struct hash_desc *desc,
376                       struct scatterlist *sg, unsigned int nsg);
377         int (*final)(struct hash_desc *desc, u8 *out);
378         int (*digest)(struct hash_desc *desc, struct scatterlist *sg,
379                       unsigned int nsg, u8 *out);
380         int (*setkey)(struct crypto_hash *tfm, const u8 *key,
381                       unsigned int keylen);
382         unsigned int digestsize;
383 };
384
385 struct compress_tfm {
386         int (*cot_compress)(struct crypto_tfm *tfm,
387                             const u8 *src, unsigned int slen,
388                             u8 *dst, unsigned int *dlen);
389         int (*cot_decompress)(struct crypto_tfm *tfm,
390                               const u8 *src, unsigned int slen,
391                               u8 *dst, unsigned int *dlen);
392 };
393
394 #define crt_ablkcipher  crt_u.ablkcipher
395 #define crt_aead        crt_u.aead
396 #define crt_blkcipher   crt_u.blkcipher
397 #define crt_cipher      crt_u.cipher
398 #define crt_hash        crt_u.hash
399 #define crt_compress    crt_u.compress
400
401 struct crypto_tfm {
402
403         u32 crt_flags;
404         
405         union {
406                 struct ablkcipher_tfm ablkcipher;
407                 struct aead_tfm aead;
408                 struct blkcipher_tfm blkcipher;
409                 struct cipher_tfm cipher;
410                 struct hash_tfm hash;
411                 struct compress_tfm compress;
412         } crt_u;
413         
414         struct crypto_alg *__crt_alg;
415
416         void *__crt_ctx[] CRYPTO_MINALIGN_ATTR;
417 };
418
419 struct crypto_ablkcipher {
420         struct crypto_tfm base;
421 };
422
423 struct crypto_aead {
424         struct crypto_tfm base;
425 };
426
427 struct crypto_blkcipher {
428         struct crypto_tfm base;
429 };
430
431 struct crypto_cipher {
432         struct crypto_tfm base;
433 };
434
435 struct crypto_comp {
436         struct crypto_tfm base;
437 };
438
439 struct crypto_hash {
440         struct crypto_tfm base;
441 };
442
443 enum {
444         CRYPTOA_UNSPEC,
445         CRYPTOA_ALG,
446         CRYPTOA_TYPE,
447         CRYPTOA_U32,
448         __CRYPTOA_MAX,
449 };
450
451 #define CRYPTOA_MAX (__CRYPTOA_MAX - 1)
452
453 /* Maximum number of (rtattr) parameters for each template. */
454 #define CRYPTO_MAX_ATTRS 32
455
456 struct crypto_attr_alg {
457         char name[CRYPTO_MAX_ALG_NAME];
458 };
459
460 struct crypto_attr_type {
461         u32 type;
462         u32 mask;
463 };
464
465 struct crypto_attr_u32 {
466         u32 num;
467 };
468
469 /* 
470  * Transform user interface.
471  */
472  
473 struct crypto_tfm *crypto_alloc_tfm(const char *alg_name, u32 tfm_flags);
474 struct crypto_tfm *crypto_alloc_base(const char *alg_name, u32 type, u32 mask);
475 void crypto_free_tfm(struct crypto_tfm *tfm);
476
477 /*
478  * Transform helpers which query the underlying algorithm.
479  */
480 static inline const char *crypto_tfm_alg_name(struct crypto_tfm *tfm)
481 {
482         return tfm->__crt_alg->cra_name;
483 }
484
485 static inline const char *crypto_tfm_alg_driver_name(struct crypto_tfm *tfm)
486 {
487         return tfm->__crt_alg->cra_driver_name;
488 }
489
490 static inline int crypto_tfm_alg_priority(struct crypto_tfm *tfm)
491 {
492         return tfm->__crt_alg->cra_priority;
493 }
494
495 static inline const char *crypto_tfm_alg_modname(struct crypto_tfm *tfm)
496 {
497         return module_name(tfm->__crt_alg->cra_module);
498 }
499
500 static inline u32 crypto_tfm_alg_type(struct crypto_tfm *tfm)
501 {
502         return tfm->__crt_alg->cra_flags & CRYPTO_ALG_TYPE_MASK;
503 }
504
505 static inline unsigned int crypto_tfm_alg_blocksize(struct crypto_tfm *tfm)
506 {
507         return tfm->__crt_alg->cra_blocksize;
508 }
509
510 static inline unsigned int crypto_tfm_alg_alignmask(struct crypto_tfm *tfm)
511 {
512         return tfm->__crt_alg->cra_alignmask;
513 }
514
515 static inline u32 crypto_tfm_get_flags(struct crypto_tfm *tfm)
516 {
517         return tfm->crt_flags;
518 }
519
520 static inline void crypto_tfm_set_flags(struct crypto_tfm *tfm, u32 flags)
521 {
522         tfm->crt_flags |= flags;
523 }
524
525 static inline void crypto_tfm_clear_flags(struct crypto_tfm *tfm, u32 flags)
526 {
527         tfm->crt_flags &= ~flags;
528 }
529
530 static inline void *crypto_tfm_ctx(struct crypto_tfm *tfm)
531 {
532         return tfm->__crt_ctx;
533 }
534
535 static inline unsigned int crypto_tfm_ctx_alignment(void)
536 {
537         struct crypto_tfm *tfm;
538         return __alignof__(tfm->__crt_ctx);
539 }
540
541 /*
542  * API wrappers.
543  */
544 static inline struct crypto_ablkcipher *__crypto_ablkcipher_cast(
545         struct crypto_tfm *tfm)
546 {
547         return (struct crypto_ablkcipher *)tfm;
548 }
549
550 static inline u32 crypto_skcipher_type(u32 type)
551 {
552         type &= ~(CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_GENIV);
553         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
554         return type;
555 }
556
557 static inline u32 crypto_skcipher_mask(u32 mask)
558 {
559         mask &= ~(CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_GENIV);
560         mask |= CRYPTO_ALG_TYPE_BLKCIPHER_MASK;
561         return mask;
562 }
563
564 static inline struct crypto_ablkcipher *crypto_alloc_ablkcipher(
565         const char *alg_name, u32 type, u32 mask)
566 {
567         return __crypto_ablkcipher_cast(
568                 crypto_alloc_base(alg_name, crypto_skcipher_type(type),
569                                   crypto_skcipher_mask(mask)));
570 }
571
572 static inline struct crypto_tfm *crypto_ablkcipher_tfm(
573         struct crypto_ablkcipher *tfm)
574 {
575         return &tfm->base;
576 }
577
578 static inline void crypto_free_ablkcipher(struct crypto_ablkcipher *tfm)
579 {
580         crypto_free_tfm(crypto_ablkcipher_tfm(tfm));
581 }
582
583 static inline int crypto_has_ablkcipher(const char *alg_name, u32 type,
584                                         u32 mask)
585 {
586         return crypto_has_alg(alg_name, crypto_skcipher_type(type),
587                               crypto_skcipher_mask(mask));
588 }
589
590 static inline struct ablkcipher_tfm *crypto_ablkcipher_crt(
591         struct crypto_ablkcipher *tfm)
592 {
593         return &crypto_ablkcipher_tfm(tfm)->crt_ablkcipher;
594 }
595
596 static inline unsigned int crypto_ablkcipher_ivsize(
597         struct crypto_ablkcipher *tfm)
598 {
599         return crypto_ablkcipher_crt(tfm)->ivsize;
600 }
601
602 static inline unsigned int crypto_ablkcipher_blocksize(
603         struct crypto_ablkcipher *tfm)
604 {
605         return crypto_tfm_alg_blocksize(crypto_ablkcipher_tfm(tfm));
606 }
607
608 static inline unsigned int crypto_ablkcipher_alignmask(
609         struct crypto_ablkcipher *tfm)
610 {
611         return crypto_tfm_alg_alignmask(crypto_ablkcipher_tfm(tfm));
612 }
613
614 static inline u32 crypto_ablkcipher_get_flags(struct crypto_ablkcipher *tfm)
615 {
616         return crypto_tfm_get_flags(crypto_ablkcipher_tfm(tfm));
617 }
618
619 static inline void crypto_ablkcipher_set_flags(struct crypto_ablkcipher *tfm,
620                                                u32 flags)
621 {
622         crypto_tfm_set_flags(crypto_ablkcipher_tfm(tfm), flags);
623 }
624
625 static inline void crypto_ablkcipher_clear_flags(struct crypto_ablkcipher *tfm,
626                                                  u32 flags)
627 {
628         crypto_tfm_clear_flags(crypto_ablkcipher_tfm(tfm), flags);
629 }
630
631 static inline int crypto_ablkcipher_setkey(struct crypto_ablkcipher *tfm,
632                                            const u8 *key, unsigned int keylen)
633 {
634         struct ablkcipher_tfm *crt = crypto_ablkcipher_crt(tfm);
635
636         return crt->setkey(crt->base, key, keylen);
637 }
638
639 static inline struct crypto_ablkcipher *crypto_ablkcipher_reqtfm(
640         struct ablkcipher_request *req)
641 {
642         return __crypto_ablkcipher_cast(req->base.tfm);
643 }
644
645 static inline int crypto_ablkcipher_encrypt(struct ablkcipher_request *req)
646 {
647         struct ablkcipher_tfm *crt =
648                 crypto_ablkcipher_crt(crypto_ablkcipher_reqtfm(req));
649         return crt->encrypt(req);
650 }
651
652 static inline int crypto_ablkcipher_decrypt(struct ablkcipher_request *req)
653 {
654         struct ablkcipher_tfm *crt =
655                 crypto_ablkcipher_crt(crypto_ablkcipher_reqtfm(req));
656         return crt->decrypt(req);
657 }
658
659 static inline unsigned int crypto_ablkcipher_reqsize(
660         struct crypto_ablkcipher *tfm)
661 {
662         return crypto_ablkcipher_crt(tfm)->reqsize;
663 }
664
665 static inline void ablkcipher_request_set_tfm(
666         struct ablkcipher_request *req, struct crypto_ablkcipher *tfm)
667 {
668         req->base.tfm = crypto_ablkcipher_tfm(crypto_ablkcipher_crt(tfm)->base);
669 }
670
671 static inline struct ablkcipher_request *ablkcipher_request_cast(
672         struct crypto_async_request *req)
673 {
674         return container_of(req, struct ablkcipher_request, base);
675 }
676
677 static inline struct ablkcipher_request *ablkcipher_request_alloc(
678         struct crypto_ablkcipher *tfm, gfp_t gfp)
679 {
680         struct ablkcipher_request *req;
681
682         req = kmalloc(sizeof(struct ablkcipher_request) +
683                       crypto_ablkcipher_reqsize(tfm), gfp);
684
685         if (likely(req))
686                 ablkcipher_request_set_tfm(req, tfm);
687
688         return req;
689 }
690
691 static inline void ablkcipher_request_free(struct ablkcipher_request *req)
692 {
693         kfree(req);
694 }
695
696 static inline void ablkcipher_request_set_callback(
697         struct ablkcipher_request *req,
698         u32 flags, crypto_completion_t complete, void *data)
699 {
700         req->base.complete = complete;
701         req->base.data = data;
702         req->base.flags = flags;
703 }
704
705 static inline void ablkcipher_request_set_crypt(
706         struct ablkcipher_request *req,
707         struct scatterlist *src, struct scatterlist *dst,
708         unsigned int nbytes, void *iv)
709 {
710         req->src = src;
711         req->dst = dst;
712         req->nbytes = nbytes;
713         req->info = iv;
714 }
715
716 static inline struct crypto_aead *__crypto_aead_cast(struct crypto_tfm *tfm)
717 {
718         return (struct crypto_aead *)tfm;
719 }
720
721 static inline struct crypto_aead *crypto_alloc_aead(const char *alg_name,
722                                                     u32 type, u32 mask)
723 {
724         type &= ~CRYPTO_ALG_TYPE_MASK;
725         type |= CRYPTO_ALG_TYPE_AEAD;
726         mask |= CRYPTO_ALG_TYPE_MASK;
727
728         return __crypto_aead_cast(crypto_alloc_base(alg_name, type, mask));
729 }
730
731 static inline struct crypto_tfm *crypto_aead_tfm(struct crypto_aead *tfm)
732 {
733         return &tfm->base;
734 }
735
736 static inline void crypto_free_aead(struct crypto_aead *tfm)
737 {
738         crypto_free_tfm(crypto_aead_tfm(tfm));
739 }
740
741 static inline struct aead_tfm *crypto_aead_crt(struct crypto_aead *tfm)
742 {
743         return &crypto_aead_tfm(tfm)->crt_aead;
744 }
745
746 static inline unsigned int crypto_aead_ivsize(struct crypto_aead *tfm)
747 {
748         return crypto_aead_crt(tfm)->ivsize;
749 }
750
751 static inline unsigned int crypto_aead_authsize(struct crypto_aead *tfm)
752 {
753         return crypto_aead_crt(tfm)->authsize;
754 }
755
756 static inline unsigned int crypto_aead_blocksize(struct crypto_aead *tfm)
757 {
758         return crypto_tfm_alg_blocksize(crypto_aead_tfm(tfm));
759 }
760
761 static inline unsigned int crypto_aead_alignmask(struct crypto_aead *tfm)
762 {
763         return crypto_tfm_alg_alignmask(crypto_aead_tfm(tfm));
764 }
765
766 static inline u32 crypto_aead_get_flags(struct crypto_aead *tfm)
767 {
768         return crypto_tfm_get_flags(crypto_aead_tfm(tfm));
769 }
770
771 static inline void crypto_aead_set_flags(struct crypto_aead *tfm, u32 flags)
772 {
773         crypto_tfm_set_flags(crypto_aead_tfm(tfm), flags);
774 }
775
776 static inline void crypto_aead_clear_flags(struct crypto_aead *tfm, u32 flags)
777 {
778         crypto_tfm_clear_flags(crypto_aead_tfm(tfm), flags);
779 }
780
781 static inline int crypto_aead_setkey(struct crypto_aead *tfm, const u8 *key,
782                                      unsigned int keylen)
783 {
784         return crypto_aead_crt(tfm)->setkey(tfm, key, keylen);
785 }
786
787 int crypto_aead_setauthsize(struct crypto_aead *tfm, unsigned int authsize);
788
789 static inline struct crypto_aead *crypto_aead_reqtfm(struct aead_request *req)
790 {
791         return __crypto_aead_cast(req->base.tfm);
792 }
793
794 static inline int crypto_aead_encrypt(struct aead_request *req)
795 {
796         return crypto_aead_crt(crypto_aead_reqtfm(req))->encrypt(req);
797 }
798
799 static inline int crypto_aead_decrypt(struct aead_request *req)
800 {
801         return crypto_aead_crt(crypto_aead_reqtfm(req))->decrypt(req);
802 }
803
804 static inline unsigned int crypto_aead_reqsize(struct crypto_aead *tfm)
805 {
806         return crypto_aead_crt(tfm)->reqsize;
807 }
808
809 static inline void aead_request_set_tfm(struct aead_request *req,
810                                         struct crypto_aead *tfm)
811 {
812         req->base.tfm = crypto_aead_tfm(tfm);
813 }
814
815 static inline struct aead_request *aead_request_alloc(struct crypto_aead *tfm,
816                                                       gfp_t gfp)
817 {
818         struct aead_request *req;
819
820         req = kmalloc(sizeof(*req) + crypto_aead_reqsize(tfm), gfp);
821
822         if (likely(req))
823                 aead_request_set_tfm(req, tfm);
824
825         return req;
826 }
827
828 static inline void aead_request_free(struct aead_request *req)
829 {
830         kfree(req);
831 }
832
833 static inline void aead_request_set_callback(struct aead_request *req,
834                                              u32 flags,
835                                              crypto_completion_t complete,
836                                              void *data)
837 {
838         req->base.complete = complete;
839         req->base.data = data;
840         req->base.flags = flags;
841 }
842
843 static inline void aead_request_set_crypt(struct aead_request *req,
844                                           struct scatterlist *src,
845                                           struct scatterlist *dst,
846                                           unsigned int cryptlen, u8 *iv)
847 {
848         req->src = src;
849         req->dst = dst;
850         req->cryptlen = cryptlen;
851         req->iv = iv;
852 }
853
854 static inline void aead_request_set_assoc(struct aead_request *req,
855                                           struct scatterlist *assoc,
856                                           unsigned int assoclen)
857 {
858         req->assoc = assoc;
859         req->assoclen = assoclen;
860 }
861
862 static inline struct crypto_blkcipher *__crypto_blkcipher_cast(
863         struct crypto_tfm *tfm)
864 {
865         return (struct crypto_blkcipher *)tfm;
866 }
867
868 static inline struct crypto_blkcipher *crypto_blkcipher_cast(
869         struct crypto_tfm *tfm)
870 {
871         BUG_ON(crypto_tfm_alg_type(tfm) != CRYPTO_ALG_TYPE_BLKCIPHER);
872         return __crypto_blkcipher_cast(tfm);
873 }
874
875 static inline struct crypto_blkcipher *crypto_alloc_blkcipher(
876         const char *alg_name, u32 type, u32 mask)
877 {
878         type &= ~CRYPTO_ALG_TYPE_MASK;
879         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
880         mask |= CRYPTO_ALG_TYPE_MASK;
881
882         return __crypto_blkcipher_cast(crypto_alloc_base(alg_name, type, mask));
883 }
884
885 static inline struct crypto_tfm *crypto_blkcipher_tfm(
886         struct crypto_blkcipher *tfm)
887 {
888         return &tfm->base;
889 }
890
891 static inline void crypto_free_blkcipher(struct crypto_blkcipher *tfm)
892 {
893         crypto_free_tfm(crypto_blkcipher_tfm(tfm));
894 }
895
896 static inline int crypto_has_blkcipher(const char *alg_name, u32 type, u32 mask)
897 {
898         type &= ~CRYPTO_ALG_TYPE_MASK;
899         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
900         mask |= CRYPTO_ALG_TYPE_MASK;
901
902         return crypto_has_alg(alg_name, type, mask);
903 }
904
905 static inline const char *crypto_blkcipher_name(struct crypto_blkcipher *tfm)
906 {
907         return crypto_tfm_alg_name(crypto_blkcipher_tfm(tfm));
908 }
909
910 static inline struct blkcipher_tfm *crypto_blkcipher_crt(
911         struct crypto_blkcipher *tfm)
912 {
913         return &crypto_blkcipher_tfm(tfm)->crt_blkcipher;
914 }
915
916 static inline struct blkcipher_alg *crypto_blkcipher_alg(
917         struct crypto_blkcipher *tfm)
918 {
919         return &crypto_blkcipher_tfm(tfm)->__crt_alg->cra_blkcipher;
920 }
921
922 static inline unsigned int crypto_blkcipher_ivsize(struct crypto_blkcipher *tfm)
923 {
924         return crypto_blkcipher_alg(tfm)->ivsize;
925 }
926
927 static inline unsigned int crypto_blkcipher_blocksize(
928         struct crypto_blkcipher *tfm)
929 {
930         return crypto_tfm_alg_blocksize(crypto_blkcipher_tfm(tfm));
931 }
932
933 static inline unsigned int crypto_blkcipher_alignmask(
934         struct crypto_blkcipher *tfm)
935 {
936         return crypto_tfm_alg_alignmask(crypto_blkcipher_tfm(tfm));
937 }
938
939 static inline u32 crypto_blkcipher_get_flags(struct crypto_blkcipher *tfm)
940 {
941         return crypto_tfm_get_flags(crypto_blkcipher_tfm(tfm));
942 }
943
944 static inline void crypto_blkcipher_set_flags(struct crypto_blkcipher *tfm,
945                                               u32 flags)
946 {
947         crypto_tfm_set_flags(crypto_blkcipher_tfm(tfm), flags);
948 }
949
950 static inline void crypto_blkcipher_clear_flags(struct crypto_blkcipher *tfm,
951                                                 u32 flags)
952 {
953         crypto_tfm_clear_flags(crypto_blkcipher_tfm(tfm), flags);
954 }
955
956 static inline int crypto_blkcipher_setkey(struct crypto_blkcipher *tfm,
957                                           const u8 *key, unsigned int keylen)
958 {
959         return crypto_blkcipher_crt(tfm)->setkey(crypto_blkcipher_tfm(tfm),
960                                                  key, keylen);
961 }
962
963 static inline int crypto_blkcipher_encrypt(struct blkcipher_desc *desc,
964                                            struct scatterlist *dst,
965                                            struct scatterlist *src,
966                                            unsigned int nbytes)
967 {
968         desc->info = crypto_blkcipher_crt(desc->tfm)->iv;
969         return crypto_blkcipher_crt(desc->tfm)->encrypt(desc, dst, src, nbytes);
970 }
971
972 static inline int crypto_blkcipher_encrypt_iv(struct blkcipher_desc *desc,
973                                               struct scatterlist *dst,
974                                               struct scatterlist *src,
975                                               unsigned int nbytes)
976 {
977         return crypto_blkcipher_crt(desc->tfm)->encrypt(desc, dst, src, nbytes);
978 }
979
980 static inline int crypto_blkcipher_decrypt(struct blkcipher_desc *desc,
981                                            struct scatterlist *dst,
982                                            struct scatterlist *src,
983                                            unsigned int nbytes)
984 {
985         desc->info = crypto_blkcipher_crt(desc->tfm)->iv;
986         return crypto_blkcipher_crt(desc->tfm)->decrypt(desc, dst, src, nbytes);
987 }
988
989 static inline int crypto_blkcipher_decrypt_iv(struct blkcipher_desc *desc,
990                                               struct scatterlist *dst,
991                                               struct scatterlist *src,
992                                               unsigned int nbytes)
993 {
994         return crypto_blkcipher_crt(desc->tfm)->decrypt(desc, dst, src, nbytes);
995 }
996
997 static inline void crypto_blkcipher_set_iv(struct crypto_blkcipher *tfm,
998                                            const u8 *src, unsigned int len)
999 {
1000         memcpy(crypto_blkcipher_crt(tfm)->iv, src, len);
1001 }
1002
1003 static inline void crypto_blkcipher_get_iv(struct crypto_blkcipher *tfm,
1004                                            u8 *dst, unsigned int len)
1005 {
1006         memcpy(dst, crypto_blkcipher_crt(tfm)->iv, len);
1007 }
1008
1009 static inline struct crypto_cipher *__crypto_cipher_cast(struct crypto_tfm *tfm)
1010 {
1011         return (struct crypto_cipher *)tfm;
1012 }
1013
1014 static inline struct crypto_cipher *crypto_cipher_cast(struct crypto_tfm *tfm)
1015 {
1016         BUG_ON(crypto_tfm_alg_type(tfm) != CRYPTO_ALG_TYPE_CIPHER);
1017         return __crypto_cipher_cast(tfm);
1018 }
1019
1020 static inline struct crypto_cipher *crypto_alloc_cipher(const char *alg_name,
1021                                                         u32 type, u32 mask)
1022 {
1023         type &= ~CRYPTO_ALG_TYPE_MASK;
1024         type |= CRYPTO_ALG_TYPE_CIPHER;
1025         mask |= CRYPTO_ALG_TYPE_MASK;
1026
1027         return __crypto_cipher_cast(crypto_alloc_base(alg_name, type, mask));
1028 }
1029
1030 static inline struct crypto_tfm *crypto_cipher_tfm(struct crypto_cipher *tfm)
1031 {
1032         return &tfm->base;
1033 }
1034
1035 static inline void crypto_free_cipher(struct crypto_cipher *tfm)
1036 {
1037         crypto_free_tfm(crypto_cipher_tfm(tfm));
1038 }
1039
1040 static inline int crypto_has_cipher(const char *alg_name, u32 type, u32 mask)
1041 {
1042         type &= ~CRYPTO_ALG_TYPE_MASK;
1043         type |= CRYPTO_ALG_TYPE_CIPHER;
1044         mask |= CRYPTO_ALG_TYPE_MASK;
1045
1046         return crypto_has_alg(alg_name, type, mask);
1047 }
1048
1049 static inline struct cipher_tfm *crypto_cipher_crt(struct crypto_cipher *tfm)
1050 {
1051         return &crypto_cipher_tfm(tfm)->crt_cipher;
1052 }
1053
1054 static inline unsigned int crypto_cipher_blocksize(struct crypto_cipher *tfm)
1055 {
1056         return crypto_tfm_alg_blocksize(crypto_cipher_tfm(tfm));
1057 }
1058
1059 static inline unsigned int crypto_cipher_alignmask(struct crypto_cipher *tfm)
1060 {
1061         return crypto_tfm_alg_alignmask(crypto_cipher_tfm(tfm));
1062 }
1063
1064 static inline u32 crypto_cipher_get_flags(struct crypto_cipher *tfm)
1065 {
1066         return crypto_tfm_get_flags(crypto_cipher_tfm(tfm));
1067 }
1068
1069 static inline void crypto_cipher_set_flags(struct crypto_cipher *tfm,
1070                                            u32 flags)
1071 {
1072         crypto_tfm_set_flags(crypto_cipher_tfm(tfm), flags);
1073 }
1074
1075 static inline void crypto_cipher_clear_flags(struct crypto_cipher *tfm,
1076                                              u32 flags)
1077 {
1078         crypto_tfm_clear_flags(crypto_cipher_tfm(tfm), flags);
1079 }
1080
1081 static inline int crypto_cipher_setkey(struct crypto_cipher *tfm,
1082                                        const u8 *key, unsigned int keylen)
1083 {
1084         return crypto_cipher_crt(tfm)->cit_setkey(crypto_cipher_tfm(tfm),
1085                                                   key, keylen);
1086 }
1087
1088 static inline void crypto_cipher_encrypt_one(struct crypto_cipher *tfm,
1089                                              u8 *dst, const u8 *src)
1090 {
1091         crypto_cipher_crt(tfm)->cit_encrypt_one(crypto_cipher_tfm(tfm),
1092                                                 dst, src);
1093 }
1094
1095 static inline void crypto_cipher_decrypt_one(struct crypto_cipher *tfm,
1096                                              u8 *dst, const u8 *src)
1097 {
1098         crypto_cipher_crt(tfm)->cit_decrypt_one(crypto_cipher_tfm(tfm),
1099                                                 dst, src);
1100 }
1101
1102 static inline struct crypto_hash *__crypto_hash_cast(struct crypto_tfm *tfm)
1103 {
1104         return (struct crypto_hash *)tfm;
1105 }
1106
1107 static inline struct crypto_hash *crypto_hash_cast(struct crypto_tfm *tfm)
1108 {
1109         BUG_ON((crypto_tfm_alg_type(tfm) ^ CRYPTO_ALG_TYPE_HASH) &
1110                CRYPTO_ALG_TYPE_HASH_MASK);
1111         return __crypto_hash_cast(tfm);
1112 }
1113
1114 static inline struct crypto_hash *crypto_alloc_hash(const char *alg_name,
1115                                                     u32 type, u32 mask)
1116 {
1117         type &= ~CRYPTO_ALG_TYPE_MASK;
1118         mask &= ~CRYPTO_ALG_TYPE_MASK;
1119         type |= CRYPTO_ALG_TYPE_HASH;
1120         mask |= CRYPTO_ALG_TYPE_HASH_MASK;
1121
1122         return __crypto_hash_cast(crypto_alloc_base(alg_name, type, mask));
1123 }
1124
1125 static inline struct crypto_tfm *crypto_hash_tfm(struct crypto_hash *tfm)
1126 {
1127         return &tfm->base;
1128 }
1129
1130 static inline void crypto_free_hash(struct crypto_hash *tfm)
1131 {
1132         crypto_free_tfm(crypto_hash_tfm(tfm));
1133 }
1134
1135 static inline int crypto_has_hash(const char *alg_name, u32 type, u32 mask)
1136 {
1137         type &= ~CRYPTO_ALG_TYPE_MASK;
1138         mask &= ~CRYPTO_ALG_TYPE_MASK;
1139         type |= CRYPTO_ALG_TYPE_HASH;
1140         mask |= CRYPTO_ALG_TYPE_HASH_MASK;
1141
1142         return crypto_has_alg(alg_name, type, mask);
1143 }
1144
1145 static inline struct hash_tfm *crypto_hash_crt(struct crypto_hash *tfm)
1146 {
1147         return &crypto_hash_tfm(tfm)->crt_hash;
1148 }
1149
1150 static inline unsigned int crypto_hash_blocksize(struct crypto_hash *tfm)
1151 {
1152         return crypto_tfm_alg_blocksize(crypto_hash_tfm(tfm));
1153 }
1154
1155 static inline unsigned int crypto_hash_alignmask(struct crypto_hash *tfm)
1156 {
1157         return crypto_tfm_alg_alignmask(crypto_hash_tfm(tfm));
1158 }
1159
1160 static inline unsigned int crypto_hash_digestsize(struct crypto_hash *tfm)
1161 {
1162         return crypto_hash_crt(tfm)->digestsize;
1163 }
1164
1165 static inline u32 crypto_hash_get_flags(struct crypto_hash *tfm)
1166 {
1167         return crypto_tfm_get_flags(crypto_hash_tfm(tfm));
1168 }
1169
1170 static inline void crypto_hash_set_flags(struct crypto_hash *tfm, u32 flags)
1171 {
1172         crypto_tfm_set_flags(crypto_hash_tfm(tfm), flags);
1173 }
1174
1175 static inline void crypto_hash_clear_flags(struct crypto_hash *tfm, u32 flags)
1176 {
1177         crypto_tfm_clear_flags(crypto_hash_tfm(tfm), flags);
1178 }
1179
1180 static inline int crypto_hash_init(struct hash_desc *desc)
1181 {
1182         return crypto_hash_crt(desc->tfm)->init(desc);
1183 }
1184
1185 static inline int crypto_hash_update(struct hash_desc *desc,
1186                                      struct scatterlist *sg,
1187                                      unsigned int nbytes)
1188 {
1189         return crypto_hash_crt(desc->tfm)->update(desc, sg, nbytes);
1190 }
1191
1192 static inline int crypto_hash_final(struct hash_desc *desc, u8 *out)
1193 {
1194         return crypto_hash_crt(desc->tfm)->final(desc, out);
1195 }
1196
1197 static inline int crypto_hash_digest(struct hash_desc *desc,
1198                                      struct scatterlist *sg,
1199                                      unsigned int nbytes, u8 *out)
1200 {
1201         return crypto_hash_crt(desc->tfm)->digest(desc, sg, nbytes, out);
1202 }
1203
1204 static inline int crypto_hash_setkey(struct crypto_hash *hash,
1205                                      const u8 *key, unsigned int keylen)
1206 {
1207         return crypto_hash_crt(hash)->setkey(hash, key, keylen);
1208 }
1209
1210 static inline struct crypto_comp *__crypto_comp_cast(struct crypto_tfm *tfm)
1211 {
1212         return (struct crypto_comp *)tfm;
1213 }
1214
1215 static inline struct crypto_comp *crypto_comp_cast(struct crypto_tfm *tfm)
1216 {
1217         BUG_ON((crypto_tfm_alg_type(tfm) ^ CRYPTO_ALG_TYPE_COMPRESS) &
1218                CRYPTO_ALG_TYPE_MASK);
1219         return __crypto_comp_cast(tfm);
1220 }
1221
1222 static inline struct crypto_comp *crypto_alloc_comp(const char *alg_name,
1223                                                     u32 type, u32 mask)
1224 {
1225         type &= ~CRYPTO_ALG_TYPE_MASK;
1226         type |= CRYPTO_ALG_TYPE_COMPRESS;
1227         mask |= CRYPTO_ALG_TYPE_MASK;
1228
1229         return __crypto_comp_cast(crypto_alloc_base(alg_name, type, mask));
1230 }
1231
1232 static inline struct crypto_tfm *crypto_comp_tfm(struct crypto_comp *tfm)
1233 {
1234         return &tfm->base;
1235 }
1236
1237 static inline void crypto_free_comp(struct crypto_comp *tfm)
1238 {
1239         crypto_free_tfm(crypto_comp_tfm(tfm));
1240 }
1241
1242 static inline int crypto_has_comp(const char *alg_name, u32 type, u32 mask)
1243 {
1244         type &= ~CRYPTO_ALG_TYPE_MASK;
1245         type |= CRYPTO_ALG_TYPE_COMPRESS;
1246         mask |= CRYPTO_ALG_TYPE_MASK;
1247
1248         return crypto_has_alg(alg_name, type, mask);
1249 }
1250
1251 static inline const char *crypto_comp_name(struct crypto_comp *tfm)
1252 {
1253         return crypto_tfm_alg_name(crypto_comp_tfm(tfm));
1254 }
1255
1256 static inline struct compress_tfm *crypto_comp_crt(struct crypto_comp *tfm)
1257 {
1258         return &crypto_comp_tfm(tfm)->crt_compress;
1259 }
1260
1261 static inline int crypto_comp_compress(struct crypto_comp *tfm,
1262                                        const u8 *src, unsigned int slen,
1263                                        u8 *dst, unsigned int *dlen)
1264 {
1265         return crypto_comp_crt(tfm)->cot_compress(crypto_comp_tfm(tfm),
1266                                                   src, slen, dst, dlen);
1267 }
1268
1269 static inline int crypto_comp_decompress(struct crypto_comp *tfm,
1270                                          const u8 *src, unsigned int slen,
1271                                          u8 *dst, unsigned int *dlen)
1272 {
1273         return crypto_comp_crt(tfm)->cot_decompress(crypto_comp_tfm(tfm),
1274                                                     src, slen, dst, dlen);
1275 }
1276
1277 #endif  /* _LINUX_CRYPTO_H */
1278