3205e5e4379fc366ba6fca026bca9463eaad3c44
[linux-3.10.git] / include / net / xfrm.h
1 #ifndef _NET_XFRM_H
2 #define _NET_XFRM_H
3
4 #include <linux/compiler.h>
5 #include <linux/xfrm.h>
6 #include <linux/spinlock.h>
7 #include <linux/list.h>
8 #include <linux/skbuff.h>
9 #include <linux/socket.h>
10 #include <linux/pfkeyv2.h>
11 #include <linux/ipsec.h>
12 #include <linux/in6.h>
13 #include <linux/mutex.h>
14 #include <linux/audit.h>
15 #include <linux/slab.h>
16
17 #include <net/sock.h>
18 #include <net/dst.h>
19 #include <net/ip.h>
20 #include <net/route.h>
21 #include <net/ipv6.h>
22 #include <net/ip6_fib.h>
23 #include <net/flow.h>
24
25 #include <linux/interrupt.h>
26
27 #ifdef CONFIG_XFRM_STATISTICS
28 #include <net/snmp.h>
29 #endif
30
31 #define XFRM_PROTO_ESP          50
32 #define XFRM_PROTO_AH           51
33 #define XFRM_PROTO_COMP         108
34 #define XFRM_PROTO_IPIP         4
35 #define XFRM_PROTO_IPV6         41
36 #define XFRM_PROTO_ROUTING      IPPROTO_ROUTING
37 #define XFRM_PROTO_DSTOPTS      IPPROTO_DSTOPTS
38
39 #define XFRM_ALIGN4(len)        (((len) + 3) & ~3)
40 #define XFRM_ALIGN8(len)        (((len) + 7) & ~7)
41 #define MODULE_ALIAS_XFRM_MODE(family, encap) \
42         MODULE_ALIAS("xfrm-mode-" __stringify(family) "-" __stringify(encap))
43 #define MODULE_ALIAS_XFRM_TYPE(family, proto) \
44         MODULE_ALIAS("xfrm-type-" __stringify(family) "-" __stringify(proto))
45
46 #ifdef CONFIG_XFRM_STATISTICS
47 #define XFRM_INC_STATS(net, field)      SNMP_INC_STATS((net)->mib.xfrm_statistics, field)
48 #define XFRM_INC_STATS_BH(net, field)   SNMP_INC_STATS_BH((net)->mib.xfrm_statistics, field)
49 #define XFRM_INC_STATS_USER(net, field) SNMP_INC_STATS_USER((net)-mib.xfrm_statistics, field)
50 #else
51 #define XFRM_INC_STATS(net, field)      ((void)(net))
52 #define XFRM_INC_STATS_BH(net, field)   ((void)(net))
53 #define XFRM_INC_STATS_USER(net, field) ((void)(net))
54 #endif
55
56 extern struct mutex xfrm_cfg_mutex;
57
58 /* Organization of SPD aka "XFRM rules"
59    ------------------------------------
60
61    Basic objects:
62    - policy rule, struct xfrm_policy (=SPD entry)
63    - bundle of transformations, struct dst_entry == struct xfrm_dst (=SA bundle)
64    - instance of a transformer, struct xfrm_state (=SA)
65    - template to clone xfrm_state, struct xfrm_tmpl
66
67    SPD is plain linear list of xfrm_policy rules, ordered by priority.
68    (To be compatible with existing pfkeyv2 implementations,
69    many rules with priority of 0x7fffffff are allowed to exist and
70    such rules are ordered in an unpredictable way, thanks to bsd folks.)
71
72    Lookup is plain linear search until the first match with selector.
73
74    If "action" is "block", then we prohibit the flow, otherwise:
75    if "xfrms_nr" is zero, the flow passes untransformed. Otherwise,
76    policy entry has list of up to XFRM_MAX_DEPTH transformations,
77    described by templates xfrm_tmpl. Each template is resolved
78    to a complete xfrm_state (see below) and we pack bundle of transformations
79    to a dst_entry returned to requestor.
80
81    dst -. xfrm  .-> xfrm_state #1
82     |---. child .-> dst -. xfrm .-> xfrm_state #2
83                      |---. child .-> dst -. xfrm .-> xfrm_state #3
84                                       |---. child .-> NULL
85
86    Bundles are cached at xrfm_policy struct (field ->bundles).
87
88
89    Resolution of xrfm_tmpl
90    -----------------------
91    Template contains:
92    1. ->mode            Mode: transport or tunnel
93    2. ->id.proto        Protocol: AH/ESP/IPCOMP
94    3. ->id.daddr        Remote tunnel endpoint, ignored for transport mode.
95       Q: allow to resolve security gateway?
96    4. ->id.spi          If not zero, static SPI.
97    5. ->saddr           Local tunnel endpoint, ignored for transport mode.
98    6. ->algos           List of allowed algos. Plain bitmask now.
99       Q: ealgos, aalgos, calgos. What a mess...
100    7. ->share           Sharing mode.
101       Q: how to implement private sharing mode? To add struct sock* to
102       flow id?
103
104    Having this template we search through SAD searching for entries
105    with appropriate mode/proto/algo, permitted by selector.
106    If no appropriate entry found, it is requested from key manager.
107
108    PROBLEMS:
109    Q: How to find all the bundles referring to a physical path for
110       PMTU discovery? Seems, dst should contain list of all parents...
111       and enter to infinite locking hierarchy disaster.
112       No! It is easier, we will not search for them, let them find us.
113       We add genid to each dst plus pointer to genid of raw IP route,
114       pmtu disc will update pmtu on raw IP route and increase its genid.
115       dst_check() will see this for top level and trigger resyncing
116       metrics. Plus, it will be made via sk->sk_dst_cache. Solved.
117  */
118
119 struct xfrm_state_walk {
120         struct list_head        all;
121         u8                      state;
122         union {
123                 u8              dying;
124                 u8              proto;
125         };
126         u32                     seq;
127 };
128
129 /* Full description of state of transformer. */
130 struct xfrm_state {
131 #ifdef CONFIG_NET_NS
132         struct net              *xs_net;
133 #endif
134         union {
135                 struct hlist_node       gclist;
136                 struct hlist_node       bydst;
137         };
138         struct hlist_node       bysrc;
139         struct hlist_node       byspi;
140
141         atomic_t                refcnt;
142         spinlock_t              lock;
143
144         struct xfrm_id          id;
145         struct xfrm_selector    sel;
146         struct xfrm_mark        mark;
147         u32                     tfcpad;
148
149         u32                     genid;
150
151         /* Key manager bits */
152         struct xfrm_state_walk  km;
153
154         /* Parameters of this state. */
155         struct {
156                 u32             reqid;
157                 u8              mode;
158                 u8              replay_window;
159                 u8              aalgo, ealgo, calgo;
160                 u8              flags;
161                 u16             family;
162                 xfrm_address_t  saddr;
163                 int             header_len;
164                 int             trailer_len;
165         } props;
166
167         struct xfrm_lifetime_cfg lft;
168
169         /* Data for transformer */
170         struct xfrm_algo_auth   *aalg;
171         struct xfrm_algo        *ealg;
172         struct xfrm_algo        *calg;
173         struct xfrm_algo_aead   *aead;
174
175         /* Data for encapsulator */
176         struct xfrm_encap_tmpl  *encap;
177
178         /* Data for care-of address */
179         xfrm_address_t  *coaddr;
180
181         /* IPComp needs an IPIP tunnel for handling uncompressed packets */
182         struct xfrm_state       *tunnel;
183
184         /* If a tunnel, number of users + 1 */
185         atomic_t                tunnel_users;
186
187         /* State for replay detection */
188         struct xfrm_replay_state replay;
189
190         /* Replay detection state at the time we sent the last notification */
191         struct xfrm_replay_state preplay;
192
193         /* internal flag that only holds state for delayed aevent at the
194          * moment
195         */
196         u32                     xflags;
197
198         /* Replay detection notification settings */
199         u32                     replay_maxage;
200         u32                     replay_maxdiff;
201
202         /* Replay detection notification timer */
203         struct timer_list       rtimer;
204
205         /* Statistics */
206         struct xfrm_stats       stats;
207
208         struct xfrm_lifetime_cur curlft;
209         struct tasklet_hrtimer  mtimer;
210
211         /* Last used time */
212         unsigned long           lastused;
213
214         /* Reference to data common to all the instances of this
215          * transformer. */
216         const struct xfrm_type  *type;
217         struct xfrm_mode        *inner_mode;
218         struct xfrm_mode        *inner_mode_iaf;
219         struct xfrm_mode        *outer_mode;
220
221         /* Security context */
222         struct xfrm_sec_ctx     *security;
223
224         /* Private data of this transformer, format is opaque,
225          * interpreted by xfrm_type methods. */
226         void                    *data;
227 };
228
229 static inline struct net *xs_net(struct xfrm_state *x)
230 {
231         return read_pnet(&x->xs_net);
232 }
233
234 /* xflags - make enum if more show up */
235 #define XFRM_TIME_DEFER 1
236
237 enum {
238         XFRM_STATE_VOID,
239         XFRM_STATE_ACQ,
240         XFRM_STATE_VALID,
241         XFRM_STATE_ERROR,
242         XFRM_STATE_EXPIRED,
243         XFRM_STATE_DEAD
244 };
245
246 /* callback structure passed from either netlink or pfkey */
247 struct km_event {
248         union {
249                 u32 hard;
250                 u32 proto;
251                 u32 byid;
252                 u32 aevent;
253                 u32 type;
254         } data;
255
256         u32     seq;
257         u32     pid;
258         u32     event;
259         struct net *net;
260 };
261
262 struct net_device;
263 struct xfrm_type;
264 struct xfrm_dst;
265 struct xfrm_policy_afinfo {
266         unsigned short          family;
267         struct dst_ops          *dst_ops;
268         void                    (*garbage_collect)(struct net *net);
269         struct dst_entry        *(*dst_lookup)(struct net *net, int tos,
270                                                const xfrm_address_t *saddr,
271                                                const xfrm_address_t *daddr);
272         int                     (*get_saddr)(struct net *net, xfrm_address_t *saddr, xfrm_address_t *daddr);
273         void                    (*decode_session)(struct sk_buff *skb,
274                                                   struct flowi *fl,
275                                                   int reverse);
276         int                     (*get_tos)(const struct flowi *fl);
277         int                     (*init_path)(struct xfrm_dst *path,
278                                              struct dst_entry *dst,
279                                              int nfheader_len);
280         int                     (*fill_dst)(struct xfrm_dst *xdst,
281                                             struct net_device *dev,
282                                             const struct flowi *fl);
283 };
284
285 extern int xfrm_policy_register_afinfo(struct xfrm_policy_afinfo *afinfo);
286 extern int xfrm_policy_unregister_afinfo(struct xfrm_policy_afinfo *afinfo);
287 extern void km_policy_notify(struct xfrm_policy *xp, int dir, const struct km_event *c);
288 extern void km_state_notify(struct xfrm_state *x, const struct km_event *c);
289
290 struct xfrm_tmpl;
291 extern int km_query(struct xfrm_state *x, struct xfrm_tmpl *t, struct xfrm_policy *pol);
292 extern void km_state_expired(struct xfrm_state *x, int hard, u32 pid);
293 extern int __xfrm_state_delete(struct xfrm_state *x);
294
295 struct xfrm_state_afinfo {
296         unsigned int            family;
297         unsigned int            proto;
298         __be16                  eth_proto;
299         struct module           *owner;
300         const struct xfrm_type  *type_map[IPPROTO_MAX];
301         struct xfrm_mode        *mode_map[XFRM_MODE_MAX];
302         int                     (*init_flags)(struct xfrm_state *x);
303         void                    (*init_tempsel)(struct xfrm_selector *sel,
304                                                 const struct flowi *fl);
305         void                    (*init_temprop)(struct xfrm_state *x,
306                                                 const struct xfrm_tmpl *tmpl,
307                                                 const xfrm_address_t *daddr,
308                                                 const xfrm_address_t *saddr);
309         int                     (*tmpl_sort)(struct xfrm_tmpl **dst, struct xfrm_tmpl **src, int n);
310         int                     (*state_sort)(struct xfrm_state **dst, struct xfrm_state **src, int n);
311         int                     (*output)(struct sk_buff *skb);
312         int                     (*extract_input)(struct xfrm_state *x,
313                                                  struct sk_buff *skb);
314         int                     (*extract_output)(struct xfrm_state *x,
315                                                   struct sk_buff *skb);
316         int                     (*transport_finish)(struct sk_buff *skb,
317                                                     int async);
318 };
319
320 extern int xfrm_state_register_afinfo(struct xfrm_state_afinfo *afinfo);
321 extern int xfrm_state_unregister_afinfo(struct xfrm_state_afinfo *afinfo);
322
323 extern void xfrm_state_delete_tunnel(struct xfrm_state *x);
324
325 struct xfrm_type {
326         char                    *description;
327         struct module           *owner;
328         u8                      proto;
329         u8                      flags;
330 #define XFRM_TYPE_NON_FRAGMENT  1
331 #define XFRM_TYPE_REPLAY_PROT   2
332 #define XFRM_TYPE_LOCAL_COADDR  4
333 #define XFRM_TYPE_REMOTE_COADDR 8
334
335         int                     (*init_state)(struct xfrm_state *x);
336         void                    (*destructor)(struct xfrm_state *);
337         int                     (*input)(struct xfrm_state *, struct sk_buff *skb);
338         int                     (*output)(struct xfrm_state *, struct sk_buff *pskb);
339         int                     (*reject)(struct xfrm_state *, struct sk_buff *,
340                                           const struct flowi *);
341         int                     (*hdr_offset)(struct xfrm_state *, struct sk_buff *, u8 **);
342         /* Estimate maximal size of result of transformation of a dgram */
343         u32                     (*get_mtu)(struct xfrm_state *, int size);
344 };
345
346 extern int xfrm_register_type(const struct xfrm_type *type, unsigned short family);
347 extern int xfrm_unregister_type(const struct xfrm_type *type, unsigned short family);
348
349 struct xfrm_mode {
350         /*
351          * Remove encapsulation header.
352          *
353          * The IP header will be moved over the top of the encapsulation
354          * header.
355          *
356          * On entry, the transport header shall point to where the IP header
357          * should be and the network header shall be set to where the IP
358          * header currently is.  skb->data shall point to the start of the
359          * payload.
360          */
361         int (*input2)(struct xfrm_state *x, struct sk_buff *skb);
362
363         /*
364          * This is the actual input entry point.
365          *
366          * For transport mode and equivalent this would be identical to
367          * input2 (which does not need to be set).  While tunnel mode
368          * and equivalent would set this to the tunnel encapsulation function
369          * xfrm4_prepare_input that would in turn call input2.
370          */
371         int (*input)(struct xfrm_state *x, struct sk_buff *skb);
372
373         /*
374          * Add encapsulation header.
375          *
376          * On exit, the transport header will be set to the start of the
377          * encapsulation header to be filled in by x->type->output and
378          * the mac header will be set to the nextheader (protocol for
379          * IPv4) field of the extension header directly preceding the
380          * encapsulation header, or in its absence, that of the top IP
381          * header.  The value of the network header will always point
382          * to the top IP header while skb->data will point to the payload.
383          */
384         int (*output2)(struct xfrm_state *x,struct sk_buff *skb);
385
386         /*
387          * This is the actual output entry point.
388          *
389          * For transport mode and equivalent this would be identical to
390          * output2 (which does not need to be set).  While tunnel mode
391          * and equivalent would set this to a tunnel encapsulation function
392          * (xfrm4_prepare_output or xfrm6_prepare_output) that would in turn
393          * call output2.
394          */
395         int (*output)(struct xfrm_state *x, struct sk_buff *skb);
396
397         struct xfrm_state_afinfo *afinfo;
398         struct module *owner;
399         unsigned int encap;
400         int flags;
401 };
402
403 /* Flags for xfrm_mode. */
404 enum {
405         XFRM_MODE_FLAG_TUNNEL = 1,
406 };
407
408 extern int xfrm_register_mode(struct xfrm_mode *mode, int family);
409 extern int xfrm_unregister_mode(struct xfrm_mode *mode, int family);
410
411 static inline int xfrm_af2proto(unsigned int family)
412 {
413         switch(family) {
414         case AF_INET:
415                 return IPPROTO_IPIP;
416         case AF_INET6:
417                 return IPPROTO_IPV6;
418         default:
419                 return 0;
420         }
421 }
422
423 static inline struct xfrm_mode *xfrm_ip2inner_mode(struct xfrm_state *x, int ipproto)
424 {
425         if ((ipproto == IPPROTO_IPIP && x->props.family == AF_INET) ||
426             (ipproto == IPPROTO_IPV6 && x->props.family == AF_INET6))
427                 return x->inner_mode;
428         else
429                 return x->inner_mode_iaf;
430 }
431
432 struct xfrm_tmpl {
433 /* id in template is interpreted as:
434  * daddr - destination of tunnel, may be zero for transport mode.
435  * spi   - zero to acquire spi. Not zero if spi is static, then
436  *         daddr must be fixed too.
437  * proto - AH/ESP/IPCOMP
438  */
439         struct xfrm_id          id;
440
441 /* Source address of tunnel. Ignored, if it is not a tunnel. */
442         xfrm_address_t          saddr;
443
444         unsigned short          encap_family;
445
446         u32                     reqid;
447
448 /* Mode: transport, tunnel etc. */
449         u8                      mode;
450
451 /* Sharing mode: unique, this session only, this user only etc. */
452         u8                      share;
453
454 /* May skip this transfomration if no SA is found */
455         u8                      optional;
456
457 /* Skip aalgos/ealgos/calgos checks. */
458         u8                      allalgs;
459
460 /* Bit mask of algos allowed for acquisition */
461         u32                     aalgos;
462         u32                     ealgos;
463         u32                     calgos;
464 };
465
466 #define XFRM_MAX_DEPTH          6
467
468 struct xfrm_policy_walk_entry {
469         struct list_head        all;
470         u8                      dead;
471 };
472
473 struct xfrm_policy_walk {
474         struct xfrm_policy_walk_entry walk;
475         u8 type;
476         u32 seq;
477 };
478
479 struct xfrm_policy {
480 #ifdef CONFIG_NET_NS
481         struct net              *xp_net;
482 #endif
483         struct hlist_node       bydst;
484         struct hlist_node       byidx;
485
486         /* This lock only affects elements except for entry. */
487         rwlock_t                lock;
488         atomic_t                refcnt;
489         struct timer_list       timer;
490
491         struct flow_cache_object flo;
492         atomic_t                genid;
493         u32                     priority;
494         u32                     index;
495         struct xfrm_mark        mark;
496         struct xfrm_selector    selector;
497         struct xfrm_lifetime_cfg lft;
498         struct xfrm_lifetime_cur curlft;
499         struct xfrm_policy_walk_entry walk;
500         u8                      type;
501         u8                      action;
502         u8                      flags;
503         u8                      xfrm_nr;
504         u16                     family;
505         struct xfrm_sec_ctx     *security;
506         struct xfrm_tmpl        xfrm_vec[XFRM_MAX_DEPTH];
507 };
508
509 static inline struct net *xp_net(const struct xfrm_policy *xp)
510 {
511         return read_pnet(&xp->xp_net);
512 }
513
514 struct xfrm_kmaddress {
515         xfrm_address_t          local;
516         xfrm_address_t          remote;
517         u32                     reserved;
518         u16                     family;
519 };
520
521 struct xfrm_migrate {
522         xfrm_address_t          old_daddr;
523         xfrm_address_t          old_saddr;
524         xfrm_address_t          new_daddr;
525         xfrm_address_t          new_saddr;
526         u8                      proto;
527         u8                      mode;
528         u16                     reserved;
529         u32                     reqid;
530         u16                     old_family;
531         u16                     new_family;
532 };
533
534 #define XFRM_KM_TIMEOUT                30
535 /* which seqno */
536 #define XFRM_REPLAY_SEQ         1
537 #define XFRM_REPLAY_OSEQ        2
538 #define XFRM_REPLAY_SEQ_MASK    3
539 /* what happened */
540 #define XFRM_REPLAY_UPDATE      XFRM_AE_CR
541 #define XFRM_REPLAY_TIMEOUT     XFRM_AE_CE
542
543 /* default aevent timeout in units of 100ms */
544 #define XFRM_AE_ETIME                   10
545 /* Async Event timer multiplier */
546 #define XFRM_AE_ETH_M                   10
547 /* default seq threshold size */
548 #define XFRM_AE_SEQT_SIZE               2
549
550 struct xfrm_mgr {
551         struct list_head        list;
552         char                    *id;
553         int                     (*notify)(struct xfrm_state *x, const struct km_event *c);
554         int                     (*acquire)(struct xfrm_state *x, struct xfrm_tmpl *, struct xfrm_policy *xp, int dir);
555         struct xfrm_policy      *(*compile_policy)(struct sock *sk, int opt, u8 *data, int len, int *dir);
556         int                     (*new_mapping)(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
557         int                     (*notify_policy)(struct xfrm_policy *x, int dir, const struct km_event *c);
558         int                     (*report)(struct net *net, u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
559         int                     (*migrate)(const struct xfrm_selector *sel,
560                                            u8 dir, u8 type,
561                                            const struct xfrm_migrate *m,
562                                            int num_bundles,
563                                            const struct xfrm_kmaddress *k);
564 };
565
566 extern int xfrm_register_km(struct xfrm_mgr *km);
567 extern int xfrm_unregister_km(struct xfrm_mgr *km);
568
569 /*
570  * This structure is used for the duration where packets are being
571  * transformed by IPsec.  As soon as the packet leaves IPsec the
572  * area beyond the generic IP part may be overwritten.
573  */
574 struct xfrm_skb_cb {
575         union {
576                 struct inet_skb_parm h4;
577                 struct inet6_skb_parm h6;
578         } header;
579
580         /* Sequence number for replay protection. */
581         union {
582                 u64 output;
583                 __be32 input;
584         } seq;
585 };
586
587 #define XFRM_SKB_CB(__skb) ((struct xfrm_skb_cb *)&((__skb)->cb[0]))
588
589 /*
590  * This structure is used by the afinfo prepare_input/prepare_output functions
591  * to transmit header information to the mode input/output functions.
592  */
593 struct xfrm_mode_skb_cb {
594         union {
595                 struct inet_skb_parm h4;
596                 struct inet6_skb_parm h6;
597         } header;
598
599         /* Copied from header for IPv4, always set to zero and DF for IPv6. */
600         __be16 id;
601         __be16 frag_off;
602
603         /* IP header length (excluding options or extension headers). */
604         u8 ihl;
605
606         /* TOS for IPv4, class for IPv6. */
607         u8 tos;
608
609         /* TTL for IPv4, hop limitfor IPv6. */
610         u8 ttl;
611
612         /* Protocol for IPv4, NH for IPv6. */
613         u8 protocol;
614
615         /* Option length for IPv4, zero for IPv6. */
616         u8 optlen;
617
618         /* Used by IPv6 only, zero for IPv4. */
619         u8 flow_lbl[3];
620 };
621
622 #define XFRM_MODE_SKB_CB(__skb) ((struct xfrm_mode_skb_cb *)&((__skb)->cb[0]))
623
624 /*
625  * This structure is used by the input processing to locate the SPI and
626  * related information.
627  */
628 struct xfrm_spi_skb_cb {
629         union {
630                 struct inet_skb_parm h4;
631                 struct inet6_skb_parm h6;
632         } header;
633
634         unsigned int daddroff;
635         unsigned int family;
636 };
637
638 #define XFRM_SPI_SKB_CB(__skb) ((struct xfrm_spi_skb_cb *)&((__skb)->cb[0]))
639
640 /* Audit Information */
641 struct xfrm_audit {
642         u32     secid;
643         uid_t   loginuid;
644         u32     sessionid;
645 };
646
647 #ifdef CONFIG_AUDITSYSCALL
648 static inline struct audit_buffer *xfrm_audit_start(const char *op)
649 {
650         struct audit_buffer *audit_buf = NULL;
651
652         if (audit_enabled == 0)
653                 return NULL;
654         audit_buf = audit_log_start(current->audit_context, GFP_ATOMIC,
655                                     AUDIT_MAC_IPSEC_EVENT);
656         if (audit_buf == NULL)
657                 return NULL;
658         audit_log_format(audit_buf, "op=%s", op);
659         return audit_buf;
660 }
661
662 static inline void xfrm_audit_helper_usrinfo(uid_t auid, u32 ses, u32 secid,
663                                              struct audit_buffer *audit_buf)
664 {
665         char *secctx;
666         u32 secctx_len;
667
668         audit_log_format(audit_buf, " auid=%u ses=%u", auid, ses);
669         if (secid != 0 &&
670             security_secid_to_secctx(secid, &secctx, &secctx_len) == 0) {
671                 audit_log_format(audit_buf, " subj=%s", secctx);
672                 security_release_secctx(secctx, secctx_len);
673         } else
674                 audit_log_task_context(audit_buf);
675 }
676
677 extern void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
678                                   u32 auid, u32 ses, u32 secid);
679 extern void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
680                                   u32 auid, u32 ses, u32 secid);
681 extern void xfrm_audit_state_add(struct xfrm_state *x, int result,
682                                  u32 auid, u32 ses, u32 secid);
683 extern void xfrm_audit_state_delete(struct xfrm_state *x, int result,
684                                     u32 auid, u32 ses, u32 secid);
685 extern void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
686                                              struct sk_buff *skb);
687 extern void xfrm_audit_state_notfound_simple(struct sk_buff *skb, u16 family);
688 extern void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
689                                       __be32 net_spi, __be32 net_seq);
690 extern void xfrm_audit_state_icvfail(struct xfrm_state *x,
691                                      struct sk_buff *skb, u8 proto);
692 #else
693
694 static inline void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
695                                   u32 auid, u32 ses, u32 secid)
696 {
697 }
698
699 static inline void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
700                                   u32 auid, u32 ses, u32 secid)
701 {
702 }
703
704 static inline void xfrm_audit_state_add(struct xfrm_state *x, int result,
705                                  u32 auid, u32 ses, u32 secid)
706 {
707 }
708
709 static inline void xfrm_audit_state_delete(struct xfrm_state *x, int result,
710                                     u32 auid, u32 ses, u32 secid)
711 {
712 }
713
714 static inline void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
715                                              struct sk_buff *skb)
716 {
717 }
718
719 static inline void xfrm_audit_state_notfound_simple(struct sk_buff *skb,
720                                       u16 family)
721 {
722 }
723
724 static inline void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
725                                       __be32 net_spi, __be32 net_seq)
726 {
727 }
728
729 static inline void xfrm_audit_state_icvfail(struct xfrm_state *x,
730                                      struct sk_buff *skb, u8 proto)
731 {
732 }
733 #endif /* CONFIG_AUDITSYSCALL */
734
735 static inline void xfrm_pol_hold(struct xfrm_policy *policy)
736 {
737         if (likely(policy != NULL))
738                 atomic_inc(&policy->refcnt);
739 }
740
741 extern void xfrm_policy_destroy(struct xfrm_policy *policy);
742
743 static inline void xfrm_pol_put(struct xfrm_policy *policy)
744 {
745         if (atomic_dec_and_test(&policy->refcnt))
746                 xfrm_policy_destroy(policy);
747 }
748
749 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
750 {
751         int i;
752         for (i = npols - 1; i >= 0; --i)
753                 xfrm_pol_put(pols[i]);
754 }
755
756 extern void __xfrm_state_destroy(struct xfrm_state *);
757
758 static inline void __xfrm_state_put(struct xfrm_state *x)
759 {
760         atomic_dec(&x->refcnt);
761 }
762
763 static inline void xfrm_state_put(struct xfrm_state *x)
764 {
765         if (atomic_dec_and_test(&x->refcnt))
766                 __xfrm_state_destroy(x);
767 }
768
769 static inline void xfrm_state_hold(struct xfrm_state *x)
770 {
771         atomic_inc(&x->refcnt);
772 }
773
774 static inline bool addr_match(const void *token1, const void *token2,
775                               int prefixlen)
776 {
777         const __be32 *a1 = token1;
778         const __be32 *a2 = token2;
779         int pdw;
780         int pbi;
781
782         pdw = prefixlen >> 5;     /* num of whole u32 in prefix */
783         pbi = prefixlen &  0x1f;  /* num of bits in incomplete u32 in prefix */
784
785         if (pdw)
786                 if (memcmp(a1, a2, pdw << 2))
787                         return false;
788
789         if (pbi) {
790                 __be32 mask;
791
792                 mask = htonl((0xffffffff) << (32 - pbi));
793
794                 if ((a1[pdw] ^ a2[pdw]) & mask)
795                         return false;
796         }
797
798         return true;
799 }
800
801 static __inline__
802 __be16 xfrm_flowi_sport(const struct flowi *fl)
803 {
804         __be16 port;
805         switch(fl->proto) {
806         case IPPROTO_TCP:
807         case IPPROTO_UDP:
808         case IPPROTO_UDPLITE:
809         case IPPROTO_SCTP:
810                 port = fl->fl_ip_sport;
811                 break;
812         case IPPROTO_ICMP:
813         case IPPROTO_ICMPV6:
814                 port = htons(fl->fl_icmp_type);
815                 break;
816         case IPPROTO_MH:
817                 port = htons(fl->fl_mh_type);
818                 break;
819         case IPPROTO_GRE:
820                 port = htons(ntohl(fl->fl_gre_key) >> 16);
821                 break;
822         default:
823                 port = 0;       /*XXX*/
824         }
825         return port;
826 }
827
828 static __inline__
829 __be16 xfrm_flowi_dport(const struct flowi *fl)
830 {
831         __be16 port;
832         switch(fl->proto) {
833         case IPPROTO_TCP:
834         case IPPROTO_UDP:
835         case IPPROTO_UDPLITE:
836         case IPPROTO_SCTP:
837                 port = fl->fl_ip_dport;
838                 break;
839         case IPPROTO_ICMP:
840         case IPPROTO_ICMPV6:
841                 port = htons(fl->fl_icmp_code);
842                 break;
843         case IPPROTO_GRE:
844                 port = htons(ntohl(fl->fl_gre_key) & 0xffff);
845                 break;
846         default:
847                 port = 0;       /*XXX*/
848         }
849         return port;
850 }
851
852 extern int xfrm_selector_match(const struct xfrm_selector *sel,
853                                const struct flowi *fl,
854                                unsigned short family);
855
856 #ifdef CONFIG_SECURITY_NETWORK_XFRM
857 /*      If neither has a context --> match
858  *      Otherwise, both must have a context and the sids, doi, alg must match
859  */
860 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
861 {
862         return ((!s1 && !s2) ||
863                 (s1 && s2 &&
864                  (s1->ctx_sid == s2->ctx_sid) &&
865                  (s1->ctx_doi == s2->ctx_doi) &&
866                  (s1->ctx_alg == s2->ctx_alg)));
867 }
868 #else
869 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
870 {
871         return 1;
872 }
873 #endif
874
875 /* A struct encoding bundle of transformations to apply to some set of flow.
876  *
877  * dst->child points to the next element of bundle.
878  * dst->xfrm  points to an instanse of transformer.
879  *
880  * Due to unfortunate limitations of current routing cache, which we
881  * have no time to fix, it mirrors struct rtable and bound to the same
882  * routing key, including saddr,daddr. However, we can have many of
883  * bundles differing by session id. All the bundles grow from a parent
884  * policy rule.
885  */
886 struct xfrm_dst {
887         union {
888                 struct dst_entry        dst;
889                 struct rtable           rt;
890                 struct rt6_info         rt6;
891         } u;
892         struct dst_entry *route;
893         struct flow_cache_object flo;
894         struct xfrm_policy *pols[XFRM_POLICY_TYPE_MAX];
895         int num_pols, num_xfrms;
896 #ifdef CONFIG_XFRM_SUB_POLICY
897         struct flowi *origin;
898         struct xfrm_selector *partner;
899 #endif
900         u32 xfrm_genid;
901         u32 policy_genid;
902         u32 route_mtu_cached;
903         u32 child_mtu_cached;
904         u32 route_cookie;
905         u32 path_cookie;
906 };
907
908 #ifdef CONFIG_XFRM
909 static inline void xfrm_dst_destroy(struct xfrm_dst *xdst)
910 {
911         xfrm_pols_put(xdst->pols, xdst->num_pols);
912         dst_release(xdst->route);
913         if (likely(xdst->u.dst.xfrm))
914                 xfrm_state_put(xdst->u.dst.xfrm);
915 #ifdef CONFIG_XFRM_SUB_POLICY
916         kfree(xdst->origin);
917         xdst->origin = NULL;
918         kfree(xdst->partner);
919         xdst->partner = NULL;
920 #endif
921 }
922 #endif
923
924 extern void xfrm_dst_ifdown(struct dst_entry *dst, struct net_device *dev);
925
926 struct sec_path {
927         atomic_t                refcnt;
928         int                     len;
929         struct xfrm_state       *xvec[XFRM_MAX_DEPTH];
930 };
931
932 static inline struct sec_path *
933 secpath_get(struct sec_path *sp)
934 {
935         if (sp)
936                 atomic_inc(&sp->refcnt);
937         return sp;
938 }
939
940 extern void __secpath_destroy(struct sec_path *sp);
941
942 static inline void
943 secpath_put(struct sec_path *sp)
944 {
945         if (sp && atomic_dec_and_test(&sp->refcnt))
946                 __secpath_destroy(sp);
947 }
948
949 extern struct sec_path *secpath_dup(struct sec_path *src);
950
951 static inline void
952 secpath_reset(struct sk_buff *skb)
953 {
954 #ifdef CONFIG_XFRM
955         secpath_put(skb->sp);
956         skb->sp = NULL;
957 #endif
958 }
959
960 static inline int
961 xfrm_addr_any(const xfrm_address_t *addr, unsigned short family)
962 {
963         switch (family) {
964         case AF_INET:
965                 return addr->a4 == 0;
966         case AF_INET6:
967                 return ipv6_addr_any((struct in6_addr *)&addr->a6);
968         }
969         return 0;
970 }
971
972 static inline int
973 __xfrm4_state_addr_cmp(const struct xfrm_tmpl *tmpl, const struct xfrm_state *x)
974 {
975         return  (tmpl->saddr.a4 &&
976                  tmpl->saddr.a4 != x->props.saddr.a4);
977 }
978
979 static inline int
980 __xfrm6_state_addr_cmp(const struct xfrm_tmpl *tmpl, const struct xfrm_state *x)
981 {
982         return  (!ipv6_addr_any((struct in6_addr*)&tmpl->saddr) &&
983                  ipv6_addr_cmp((struct in6_addr *)&tmpl->saddr, (struct in6_addr*)&x->props.saddr));
984 }
985
986 static inline int
987 xfrm_state_addr_cmp(const struct xfrm_tmpl *tmpl, const struct xfrm_state *x, unsigned short family)
988 {
989         switch (family) {
990         case AF_INET:
991                 return __xfrm4_state_addr_cmp(tmpl, x);
992         case AF_INET6:
993                 return __xfrm6_state_addr_cmp(tmpl, x);
994         }
995         return !0;
996 }
997
998 #ifdef CONFIG_XFRM
999 extern int __xfrm_policy_check(struct sock *, int dir, struct sk_buff *skb, unsigned short family);
1000
1001 static inline int __xfrm_policy_check2(struct sock *sk, int dir,
1002                                        struct sk_buff *skb,
1003                                        unsigned int family, int reverse)
1004 {
1005         struct net *net = dev_net(skb->dev);
1006         int ndir = dir | (reverse ? XFRM_POLICY_MASK + 1 : 0);
1007
1008         if (sk && sk->sk_policy[XFRM_POLICY_IN])
1009                 return __xfrm_policy_check(sk, ndir, skb, family);
1010
1011         return  (!net->xfrm.policy_count[dir] && !skb->sp) ||
1012                 (skb_dst(skb)->flags & DST_NOPOLICY) ||
1013                 __xfrm_policy_check(sk, ndir, skb, family);
1014 }
1015
1016 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1017 {
1018         return __xfrm_policy_check2(sk, dir, skb, family, 0);
1019 }
1020
1021 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1022 {
1023         return xfrm_policy_check(sk, dir, skb, AF_INET);
1024 }
1025
1026 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1027 {
1028         return xfrm_policy_check(sk, dir, skb, AF_INET6);
1029 }
1030
1031 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1032                                              struct sk_buff *skb)
1033 {
1034         return __xfrm_policy_check2(sk, dir, skb, AF_INET, 1);
1035 }
1036
1037 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1038                                              struct sk_buff *skb)
1039 {
1040         return __xfrm_policy_check2(sk, dir, skb, AF_INET6, 1);
1041 }
1042
1043 extern int __xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1044                                  unsigned int family, int reverse);
1045
1046 static inline int xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1047                                       unsigned int family)
1048 {
1049         return __xfrm_decode_session(skb, fl, family, 0);
1050 }
1051
1052 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1053                                               struct flowi *fl,
1054                                               unsigned int family)
1055 {
1056         return __xfrm_decode_session(skb, fl, family, 1);
1057 }
1058
1059 extern int __xfrm_route_forward(struct sk_buff *skb, unsigned short family);
1060
1061 static inline int xfrm_route_forward(struct sk_buff *skb, unsigned short family)
1062 {
1063         struct net *net = dev_net(skb->dev);
1064
1065         return  !net->xfrm.policy_count[XFRM_POLICY_OUT] ||
1066                 (skb_dst(skb)->flags & DST_NOXFRM) ||
1067                 __xfrm_route_forward(skb, family);
1068 }
1069
1070 static inline int xfrm4_route_forward(struct sk_buff *skb)
1071 {
1072         return xfrm_route_forward(skb, AF_INET);
1073 }
1074
1075 static inline int xfrm6_route_forward(struct sk_buff *skb)
1076 {
1077         return xfrm_route_forward(skb, AF_INET6);
1078 }
1079
1080 extern int __xfrm_sk_clone_policy(struct sock *sk);
1081
1082 static inline int xfrm_sk_clone_policy(struct sock *sk)
1083 {
1084         if (unlikely(sk->sk_policy[0] || sk->sk_policy[1]))
1085                 return __xfrm_sk_clone_policy(sk);
1086         return 0;
1087 }
1088
1089 extern int xfrm_policy_delete(struct xfrm_policy *pol, int dir);
1090
1091 static inline void xfrm_sk_free_policy(struct sock *sk)
1092 {
1093         if (unlikely(sk->sk_policy[0] != NULL)) {
1094                 xfrm_policy_delete(sk->sk_policy[0], XFRM_POLICY_MAX);
1095                 sk->sk_policy[0] = NULL;
1096         }
1097         if (unlikely(sk->sk_policy[1] != NULL)) {
1098                 xfrm_policy_delete(sk->sk_policy[1], XFRM_POLICY_MAX+1);
1099                 sk->sk_policy[1] = NULL;
1100         }
1101 }
1102
1103 #else
1104
1105 static inline void xfrm_sk_free_policy(struct sock *sk) {}
1106 static inline int xfrm_sk_clone_policy(struct sock *sk) { return 0; }
1107 static inline int xfrm6_route_forward(struct sk_buff *skb) { return 1; }  
1108 static inline int xfrm4_route_forward(struct sk_buff *skb) { return 1; } 
1109 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1110
1111         return 1; 
1112
1113 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1114 {
1115         return 1;
1116 }
1117 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1118 {
1119         return 1;
1120 }
1121 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1122                                               struct flowi *fl,
1123                                               unsigned int family)
1124 {
1125         return -ENOSYS;
1126 }
1127 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1128                                              struct sk_buff *skb)
1129 {
1130         return 1;
1131 }
1132 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1133                                              struct sk_buff *skb)
1134 {
1135         return 1;
1136 }
1137 #endif
1138
1139 static __inline__
1140 xfrm_address_t *xfrm_flowi_daddr(const struct flowi *fl, unsigned short family)
1141 {
1142         switch (family){
1143         case AF_INET:
1144                 return (xfrm_address_t *)&fl->fl4_dst;
1145         case AF_INET6:
1146                 return (xfrm_address_t *)&fl->fl6_dst;
1147         }
1148         return NULL;
1149 }
1150
1151 static __inline__
1152 xfrm_address_t *xfrm_flowi_saddr(const struct flowi *fl, unsigned short family)
1153 {
1154         switch (family){
1155         case AF_INET:
1156                 return (xfrm_address_t *)&fl->fl4_src;
1157         case AF_INET6:
1158                 return (xfrm_address_t *)&fl->fl6_src;
1159         }
1160         return NULL;
1161 }
1162
1163 static __inline__
1164 void xfrm_flowi_addr_get(const struct flowi *fl,
1165                          xfrm_address_t *saddr, xfrm_address_t *daddr,
1166                          unsigned short family)
1167 {
1168         switch(family) {
1169         case AF_INET:
1170                 memcpy(&saddr->a4, &fl->fl4_src, sizeof(saddr->a4));
1171                 memcpy(&daddr->a4, &fl->fl4_dst, sizeof(daddr->a4));
1172                 break;
1173         case AF_INET6:
1174                 ipv6_addr_copy((struct in6_addr *)&saddr->a6, &fl->fl6_src);
1175                 ipv6_addr_copy((struct in6_addr *)&daddr->a6, &fl->fl6_dst);
1176                 break;
1177         }
1178 }
1179
1180 static __inline__ int
1181 __xfrm4_state_addr_check(const struct xfrm_state *x,
1182                          const xfrm_address_t *daddr, const xfrm_address_t *saddr)
1183 {
1184         if (daddr->a4 == x->id.daddr.a4 &&
1185             (saddr->a4 == x->props.saddr.a4 || !saddr->a4 || !x->props.saddr.a4))
1186                 return 1;
1187         return 0;
1188 }
1189
1190 static __inline__ int
1191 __xfrm6_state_addr_check(const struct xfrm_state *x,
1192                          const xfrm_address_t *daddr, const xfrm_address_t *saddr)
1193 {
1194         if (!ipv6_addr_cmp((struct in6_addr *)daddr, (struct in6_addr *)&x->id.daddr) &&
1195             (!ipv6_addr_cmp((struct in6_addr *)saddr, (struct in6_addr *)&x->props.saddr)|| 
1196              ipv6_addr_any((struct in6_addr *)saddr) || 
1197              ipv6_addr_any((struct in6_addr *)&x->props.saddr)))
1198                 return 1;
1199         return 0;
1200 }
1201
1202 static __inline__ int
1203 xfrm_state_addr_check(const struct xfrm_state *x,
1204                       const xfrm_address_t *daddr, const xfrm_address_t *saddr,
1205                       unsigned short family)
1206 {
1207         switch (family) {
1208         case AF_INET:
1209                 return __xfrm4_state_addr_check(x, daddr, saddr);
1210         case AF_INET6:
1211                 return __xfrm6_state_addr_check(x, daddr, saddr);
1212         }
1213         return 0;
1214 }
1215
1216 static __inline__ int
1217 xfrm_state_addr_flow_check(const struct xfrm_state *x, const struct flowi *fl,
1218                            unsigned short family)
1219 {
1220         switch (family) {
1221         case AF_INET:
1222                 return __xfrm4_state_addr_check(x,
1223                                                 (const xfrm_address_t *)&fl->fl4_dst,
1224                                                 (const xfrm_address_t *)&fl->fl4_src);
1225         case AF_INET6:
1226                 return __xfrm6_state_addr_check(x,
1227                                                 (const xfrm_address_t *)&fl->fl6_dst,
1228                                                 (const xfrm_address_t *)&fl->fl6_src);
1229         }
1230         return 0;
1231 }
1232
1233 static inline int xfrm_state_kern(const struct xfrm_state *x)
1234 {
1235         return atomic_read(&x->tunnel_users);
1236 }
1237
1238 static inline int xfrm_id_proto_match(u8 proto, u8 userproto)
1239 {
1240         return (!userproto || proto == userproto ||
1241                 (userproto == IPSEC_PROTO_ANY && (proto == IPPROTO_AH ||
1242                                                   proto == IPPROTO_ESP ||
1243                                                   proto == IPPROTO_COMP)));
1244 }
1245
1246 /*
1247  * xfrm algorithm information
1248  */
1249 struct xfrm_algo_aead_info {
1250         u16 icv_truncbits;
1251 };
1252
1253 struct xfrm_algo_auth_info {
1254         u16 icv_truncbits;
1255         u16 icv_fullbits;
1256 };
1257
1258 struct xfrm_algo_encr_info {
1259         u16 blockbits;
1260         u16 defkeybits;
1261 };
1262
1263 struct xfrm_algo_comp_info {
1264         u16 threshold;
1265 };
1266
1267 struct xfrm_algo_desc {
1268         char *name;
1269         char *compat;
1270         u8 available:1;
1271         union {
1272                 struct xfrm_algo_aead_info aead;
1273                 struct xfrm_algo_auth_info auth;
1274                 struct xfrm_algo_encr_info encr;
1275                 struct xfrm_algo_comp_info comp;
1276         } uinfo;
1277         struct sadb_alg desc;
1278 };
1279
1280 /* XFRM tunnel handlers.  */
1281 struct xfrm_tunnel {
1282         int (*handler)(struct sk_buff *skb);
1283         int (*err_handler)(struct sk_buff *skb, u32 info);
1284
1285         struct xfrm_tunnel __rcu *next;
1286         int priority;
1287 };
1288
1289 struct xfrm6_tunnel {
1290         int (*handler)(struct sk_buff *skb);
1291         int (*err_handler)(struct sk_buff *skb, struct inet6_skb_parm *opt,
1292                            u8 type, u8 code, int offset, __be32 info);
1293         struct xfrm6_tunnel __rcu *next;
1294         int priority;
1295 };
1296
1297 extern void xfrm_init(void);
1298 extern void xfrm4_init(int rt_hash_size);
1299 extern int xfrm_state_init(struct net *net);
1300 extern void xfrm_state_fini(struct net *net);
1301 extern void xfrm4_state_init(void);
1302 #ifdef CONFIG_XFRM
1303 extern int xfrm6_init(void);
1304 extern void xfrm6_fini(void);
1305 extern int xfrm6_state_init(void);
1306 extern void xfrm6_state_fini(void);
1307 #else
1308 static inline int xfrm6_init(void)
1309 {
1310         return 0;
1311 }
1312 static inline void xfrm6_fini(void)
1313 {
1314         ;
1315 }
1316 #endif
1317
1318 #ifdef CONFIG_XFRM_STATISTICS
1319 extern int xfrm_proc_init(struct net *net);
1320 extern void xfrm_proc_fini(struct net *net);
1321 #endif
1322
1323 extern int xfrm_sysctl_init(struct net *net);
1324 #ifdef CONFIG_SYSCTL
1325 extern void xfrm_sysctl_fini(struct net *net);
1326 #else
1327 static inline void xfrm_sysctl_fini(struct net *net)
1328 {
1329 }
1330 #endif
1331
1332 extern void xfrm_state_walk_init(struct xfrm_state_walk *walk, u8 proto);
1333 extern int xfrm_state_walk(struct net *net, struct xfrm_state_walk *walk,
1334                            int (*func)(struct xfrm_state *, int, void*), void *);
1335 extern void xfrm_state_walk_done(struct xfrm_state_walk *walk);
1336 extern struct xfrm_state *xfrm_state_alloc(struct net *net);
1337 extern struct xfrm_state *xfrm_state_find(xfrm_address_t *daddr,
1338                                           xfrm_address_t *saddr, 
1339                                           const struct flowi *fl,
1340                                           struct xfrm_tmpl *tmpl,
1341                                           struct xfrm_policy *pol, int *err,
1342                                           unsigned short family);
1343 extern struct xfrm_state *xfrm_stateonly_find(struct net *net, u32 mark,
1344                                                xfrm_address_t *daddr,
1345                                                xfrm_address_t *saddr,
1346                                                unsigned short family,
1347                                                u8 mode, u8 proto, u32 reqid);
1348 extern int xfrm_state_check_expire(struct xfrm_state *x);
1349 extern void xfrm_state_insert(struct xfrm_state *x);
1350 extern int xfrm_state_add(struct xfrm_state *x);
1351 extern int xfrm_state_update(struct xfrm_state *x);
1352 extern struct xfrm_state *xfrm_state_lookup(struct net *net, u32 mark,
1353                                             xfrm_address_t *daddr, __be32 spi,
1354                                             u8 proto, unsigned short family);
1355 extern struct xfrm_state *xfrm_state_lookup_byaddr(struct net *net, u32 mark,
1356                                                    xfrm_address_t *daddr,
1357                                                    xfrm_address_t *saddr,
1358                                                    u8 proto,
1359                                                    unsigned short family);
1360 #ifdef CONFIG_XFRM_SUB_POLICY
1361 extern int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1362                           int n, unsigned short family);
1363 extern int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1364                            int n, unsigned short family);
1365 #else
1366 static inline int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1367                                  int n, unsigned short family)
1368 {
1369         return -ENOSYS;
1370 }
1371
1372 static inline int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1373                                   int n, unsigned short family)
1374 {
1375         return -ENOSYS;
1376 }
1377 #endif
1378
1379 struct xfrmk_sadinfo {
1380         u32 sadhcnt; /* current hash bkts */
1381         u32 sadhmcnt; /* max allowed hash bkts */
1382         u32 sadcnt; /* current running count */
1383 };
1384
1385 struct xfrmk_spdinfo {
1386         u32 incnt;
1387         u32 outcnt;
1388         u32 fwdcnt;
1389         u32 inscnt;
1390         u32 outscnt;
1391         u32 fwdscnt;
1392         u32 spdhcnt;
1393         u32 spdhmcnt;
1394 };
1395
1396 extern struct xfrm_state *xfrm_find_acq_byseq(struct net *net, u32 mark,
1397                                               u32 seq);
1398 extern int xfrm_state_delete(struct xfrm_state *x);
1399 extern int xfrm_state_flush(struct net *net, u8 proto, struct xfrm_audit *audit_info);
1400 extern void xfrm_sad_getinfo(struct net *net, struct xfrmk_sadinfo *si);
1401 extern void xfrm_spd_getinfo(struct net *net, struct xfrmk_spdinfo *si);
1402 extern int xfrm_replay_check(struct xfrm_state *x,
1403                              struct sk_buff *skb, __be32 seq);
1404 extern void xfrm_replay_advance(struct xfrm_state *x, __be32 seq);
1405 extern void xfrm_replay_notify(struct xfrm_state *x, int event);
1406 extern int xfrm_state_mtu(struct xfrm_state *x, int mtu);
1407 extern int xfrm_init_state(struct xfrm_state *x);
1408 extern int xfrm_prepare_input(struct xfrm_state *x, struct sk_buff *skb);
1409 extern int xfrm_input(struct sk_buff *skb, int nexthdr, __be32 spi,
1410                       int encap_type);
1411 extern int xfrm_input_resume(struct sk_buff *skb, int nexthdr);
1412 extern int xfrm_output_resume(struct sk_buff *skb, int err);
1413 extern int xfrm_output(struct sk_buff *skb);
1414 extern int xfrm_inner_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1415 extern int xfrm4_extract_header(struct sk_buff *skb);
1416 extern int xfrm4_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1417 extern int xfrm4_rcv_encap(struct sk_buff *skb, int nexthdr, __be32 spi,
1418                            int encap_type);
1419 extern int xfrm4_transport_finish(struct sk_buff *skb, int async);
1420 extern int xfrm4_rcv(struct sk_buff *skb);
1421
1422 static inline int xfrm4_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi)
1423 {
1424         return xfrm4_rcv_encap(skb, nexthdr, spi, 0);
1425 }
1426
1427 extern int xfrm4_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1428 extern int xfrm4_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1429 extern int xfrm4_output(struct sk_buff *skb);
1430 extern int xfrm4_tunnel_register(struct xfrm_tunnel *handler, unsigned short family);
1431 extern int xfrm4_tunnel_deregister(struct xfrm_tunnel *handler, unsigned short family);
1432 extern int xfrm6_extract_header(struct sk_buff *skb);
1433 extern int xfrm6_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1434 extern int xfrm6_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi);
1435 extern int xfrm6_transport_finish(struct sk_buff *skb, int async);
1436 extern int xfrm6_rcv(struct sk_buff *skb);
1437 extern int xfrm6_input_addr(struct sk_buff *skb, xfrm_address_t *daddr,
1438                             xfrm_address_t *saddr, u8 proto);
1439 extern int xfrm6_tunnel_register(struct xfrm6_tunnel *handler, unsigned short family);
1440 extern int xfrm6_tunnel_deregister(struct xfrm6_tunnel *handler, unsigned short family);
1441 extern __be32 xfrm6_tunnel_alloc_spi(struct net *net, xfrm_address_t *saddr);
1442 extern __be32 xfrm6_tunnel_spi_lookup(struct net *net, xfrm_address_t *saddr);
1443 extern int xfrm6_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1444 extern int xfrm6_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1445 extern int xfrm6_output(struct sk_buff *skb);
1446 extern int xfrm6_find_1stfragopt(struct xfrm_state *x, struct sk_buff *skb,
1447                                  u8 **prevhdr);
1448
1449 #ifdef CONFIG_XFRM
1450 extern int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb);
1451 extern int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen);
1452 #else
1453 static inline int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen)
1454 {
1455         return -ENOPROTOOPT;
1456
1457
1458 static inline int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb)
1459 {
1460         /* should not happen */
1461         kfree_skb(skb);
1462         return 0;
1463 }
1464 #endif
1465
1466 struct xfrm_policy *xfrm_policy_alloc(struct net *net, gfp_t gfp);
1467
1468 extern void xfrm_policy_walk_init(struct xfrm_policy_walk *walk, u8 type);
1469 extern int xfrm_policy_walk(struct net *net, struct xfrm_policy_walk *walk,
1470         int (*func)(struct xfrm_policy *, int, int, void*), void *);
1471 extern void xfrm_policy_walk_done(struct xfrm_policy_walk *walk);
1472 int xfrm_policy_insert(int dir, struct xfrm_policy *policy, int excl);
1473 struct xfrm_policy *xfrm_policy_bysel_ctx(struct net *net, u32 mark,
1474                                           u8 type, int dir,
1475                                           struct xfrm_selector *sel,
1476                                           struct xfrm_sec_ctx *ctx, int delete,
1477                                           int *err);
1478 struct xfrm_policy *xfrm_policy_byid(struct net *net, u32 mark, u8, int dir, u32 id, int delete, int *err);
1479 int xfrm_policy_flush(struct net *net, u8 type, struct xfrm_audit *audit_info);
1480 u32 xfrm_get_acqseq(void);
1481 extern int xfrm_alloc_spi(struct xfrm_state *x, u32 minspi, u32 maxspi);
1482 struct xfrm_state *xfrm_find_acq(struct net *net, struct xfrm_mark *mark,
1483                                  u8 mode, u32 reqid, u8 proto,
1484                                  xfrm_address_t *daddr,
1485                                  xfrm_address_t *saddr, int create,
1486                                  unsigned short family);
1487 extern int xfrm_sk_policy_insert(struct sock *sk, int dir, struct xfrm_policy *pol);
1488
1489 #ifdef CONFIG_XFRM_MIGRATE
1490 extern int km_migrate(const struct xfrm_selector *sel, u8 dir, u8 type,
1491                       const struct xfrm_migrate *m, int num_bundles,
1492                       const struct xfrm_kmaddress *k);
1493 extern struct xfrm_state * xfrm_migrate_state_find(struct xfrm_migrate *m);
1494 extern struct xfrm_state * xfrm_state_migrate(struct xfrm_state *x,
1495                                               struct xfrm_migrate *m);
1496 extern int xfrm_migrate(const struct xfrm_selector *sel, u8 dir, u8 type,
1497                         struct xfrm_migrate *m, int num_bundles,
1498                         struct xfrm_kmaddress *k);
1499 #endif
1500
1501 extern int km_new_mapping(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
1502 extern void km_policy_expired(struct xfrm_policy *pol, int dir, int hard, u32 pid);
1503 extern int km_report(struct net *net, u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
1504
1505 extern void xfrm_input_init(void);
1506 extern int xfrm_parse_spi(struct sk_buff *skb, u8 nexthdr, __be32 *spi, __be32 *seq);
1507
1508 extern void xfrm_probe_algs(void);
1509 extern int xfrm_count_auth_supported(void);
1510 extern int xfrm_count_enc_supported(void);
1511 extern struct xfrm_algo_desc *xfrm_aalg_get_byidx(unsigned int idx);
1512 extern struct xfrm_algo_desc *xfrm_ealg_get_byidx(unsigned int idx);
1513 extern struct xfrm_algo_desc *xfrm_aalg_get_byid(int alg_id);
1514 extern struct xfrm_algo_desc *xfrm_ealg_get_byid(int alg_id);
1515 extern struct xfrm_algo_desc *xfrm_calg_get_byid(int alg_id);
1516 extern struct xfrm_algo_desc *xfrm_aalg_get_byname(char *name, int probe);
1517 extern struct xfrm_algo_desc *xfrm_ealg_get_byname(char *name, int probe);
1518 extern struct xfrm_algo_desc *xfrm_calg_get_byname(char *name, int probe);
1519 extern struct xfrm_algo_desc *xfrm_aead_get_byname(char *name, int icv_len,
1520                                                    int probe);
1521
1522 struct hash_desc;
1523 struct scatterlist;
1524 typedef int (icv_update_fn_t)(struct hash_desc *, struct scatterlist *,
1525                               unsigned int);
1526
1527 static inline int xfrm_addr_cmp(const xfrm_address_t *a,
1528                                 const xfrm_address_t *b,
1529                                 int family)
1530 {
1531         switch (family) {
1532         default:
1533         case AF_INET:
1534                 return (__force u32)a->a4 - (__force u32)b->a4;
1535         case AF_INET6:
1536                 return ipv6_addr_cmp((struct in6_addr *)a,
1537                                      (struct in6_addr *)b);
1538         }
1539 }
1540
1541 static inline int xfrm_policy_id2dir(u32 index)
1542 {
1543         return index & 7;
1544 }
1545
1546 #ifdef CONFIG_XFRM
1547 static inline int xfrm_aevent_is_on(struct net *net)
1548 {
1549         struct sock *nlsk;
1550         int ret = 0;
1551
1552         rcu_read_lock();
1553         nlsk = rcu_dereference(net->xfrm.nlsk);
1554         if (nlsk)
1555                 ret = netlink_has_listeners(nlsk, XFRMNLGRP_AEVENTS);
1556         rcu_read_unlock();
1557         return ret;
1558 }
1559 #endif
1560
1561 static inline int xfrm_alg_len(struct xfrm_algo *alg)
1562 {
1563         return sizeof(*alg) + ((alg->alg_key_len + 7) / 8);
1564 }
1565
1566 static inline int xfrm_alg_auth_len(struct xfrm_algo_auth *alg)
1567 {
1568         return sizeof(*alg) + ((alg->alg_key_len + 7) / 8);
1569 }
1570
1571 #ifdef CONFIG_XFRM_MIGRATE
1572 static inline struct xfrm_algo *xfrm_algo_clone(struct xfrm_algo *orig)
1573 {
1574         return kmemdup(orig, xfrm_alg_len(orig), GFP_KERNEL);
1575 }
1576
1577 static inline struct xfrm_algo_auth *xfrm_algo_auth_clone(struct xfrm_algo_auth *orig)
1578 {
1579         return kmemdup(orig, xfrm_alg_auth_len(orig), GFP_KERNEL);
1580 }
1581
1582 static inline void xfrm_states_put(struct xfrm_state **states, int n)
1583 {
1584         int i;
1585         for (i = 0; i < n; i++)
1586                 xfrm_state_put(*(states + i));
1587 }
1588
1589 static inline void xfrm_states_delete(struct xfrm_state **states, int n)
1590 {
1591         int i;
1592         for (i = 0; i < n; i++)
1593                 xfrm_state_delete(*(states + i));
1594 }
1595 #endif
1596
1597 #ifdef CONFIG_XFRM
1598 static inline struct xfrm_state *xfrm_input_state(struct sk_buff *skb)
1599 {
1600         return skb->sp->xvec[skb->sp->len - 1];
1601 }
1602 #endif
1603
1604 static inline int xfrm_mark_get(struct nlattr **attrs, struct xfrm_mark *m)
1605 {
1606         if (attrs[XFRMA_MARK])
1607                 memcpy(m, nla_data(attrs[XFRMA_MARK]), sizeof(struct xfrm_mark));
1608         else
1609                 m->v = m->m = 0;
1610
1611         return m->v & m->m;
1612 }
1613
1614 static inline int xfrm_mark_put(struct sk_buff *skb, struct xfrm_mark *m)
1615 {
1616         if (m->m | m->v)
1617                 NLA_PUT(skb, XFRMA_MARK, sizeof(struct xfrm_mark), m);
1618         return 0;
1619
1620 nla_put_failure:
1621         return -1;
1622 }
1623
1624 #endif  /* _NET_XFRM_H */