IPVS: Add 'af' args to protocol handler functions
[linux-2.6.git] / include / net / ip_vs.h
1 /*
2  *      IP Virtual Server
3  *      data structure and functionality definitions
4  */
5
6 #ifndef _NET_IP_VS_H
7 #define _NET_IP_VS_H
8
9 #include <linux/ip_vs.h>                /* definitions shared with userland */
10
11 /* old ipvsadm versions still include this file directly */
12 #ifdef __KERNEL__
13
14 #include <asm/types.h>                  /* for __uXX types */
15
16 #include <linux/sysctl.h>               /* for ctl_path */
17 #include <linux/list.h>                 /* for struct list_head */
18 #include <linux/spinlock.h>             /* for struct rwlock_t */
19 #include <asm/atomic.h>                 /* for struct atomic_t */
20 #include <linux/compiler.h>
21 #include <linux/timer.h>
22
23 #include <net/checksum.h>
24 #include <linux/netfilter.h>            /* for union nf_inet_addr */
25 #include <linux/ipv6.h>                 /* for struct ipv6hdr */
26 #include <net/ipv6.h>                   /* for ipv6_addr_copy */
27
28 struct ip_vs_iphdr {
29         int len;
30         __u8 protocol;
31         union nf_inet_addr saddr;
32         union nf_inet_addr daddr;
33 };
34
35 static inline void
36 ip_vs_fill_iphdr(int af, const void *nh, struct ip_vs_iphdr *iphdr)
37 {
38 #ifdef CONFIG_IP_VS_IPV6
39         if (af == AF_INET6) {
40                 const struct ipv6hdr *iph = nh;
41                 iphdr->len = sizeof(struct ipv6hdr);
42                 iphdr->protocol = iph->nexthdr;
43                 ipv6_addr_copy(&iphdr->saddr.in6, &iph->saddr);
44                 ipv6_addr_copy(&iphdr->daddr.in6, &iph->daddr);
45         } else
46 #endif
47         {
48                 const struct iphdr *iph = nh;
49                 iphdr->len = iph->ihl * 4;
50                 iphdr->protocol = iph->protocol;
51                 iphdr->saddr.ip = iph->saddr;
52                 iphdr->daddr.ip = iph->daddr;
53         }
54 }
55
56 static inline void ip_vs_addr_copy(int af, union nf_inet_addr *dst,
57                                    const union nf_inet_addr *src)
58 {
59 #ifdef CONFIG_IP_VS_IPV6
60         if (af == AF_INET6)
61                 ipv6_addr_copy(&dst->in6, &src->in6);
62         else
63 #endif
64         dst->ip = src->ip;
65 }
66
67 static inline int ip_vs_addr_equal(int af, const union nf_inet_addr *a,
68                                    const union nf_inet_addr *b)
69 {
70 #ifdef CONFIG_IP_VS_IPV6
71         if (af == AF_INET6)
72                 return ipv6_addr_equal(&a->in6, &b->in6);
73 #endif
74         return a->ip == b->ip;
75 }
76
77 #ifdef CONFIG_IP_VS_DEBUG
78 #include <linux/net.h>
79
80 extern int ip_vs_get_debug_level(void);
81
82 static inline const char *ip_vs_dbg_addr(int af, char *buf, size_t buf_len,
83                                          const union nf_inet_addr *addr,
84                                          int *idx)
85 {
86         int len;
87 #ifdef CONFIG_IP_VS_IPV6
88         if (af == AF_INET6)
89                 len = snprintf(&buf[*idx], buf_len - *idx, "[" NIP6_FMT "]",
90                                NIP6(addr->in6)) + 1;
91         else
92 #endif
93                 len = snprintf(&buf[*idx], buf_len - *idx, NIPQUAD_FMT,
94                                NIPQUAD(addr->ip)) + 1;
95
96         *idx += len;
97         BUG_ON(*idx > buf_len + 1);
98         return &buf[*idx - len];
99 }
100
101 #define IP_VS_DBG_BUF(level, msg...)                    \
102     do {                                                \
103             char ip_vs_dbg_buf[160];                    \
104             int ip_vs_dbg_idx = 0;                      \
105             if (level <= ip_vs_get_debug_level())       \
106                     printk(KERN_DEBUG "IPVS: " msg);    \
107     } while (0)
108 #define IP_VS_ERR_BUF(msg...)                           \
109     do {                                                \
110             char ip_vs_dbg_buf[160];                    \
111             int ip_vs_dbg_idx = 0;                      \
112             printk(KERN_ERR "IPVS: " msg);              \
113     } while (0)
114
115 /* Only use from within IP_VS_DBG_BUF() or IP_VS_ERR_BUF macros */
116 #define IP_VS_DBG_ADDR(af, addr)                        \
117     ip_vs_dbg_addr(af, ip_vs_dbg_buf,                   \
118                    sizeof(ip_vs_dbg_buf), addr,         \
119                    &ip_vs_dbg_idx)
120
121 #define IP_VS_DBG(level, msg...)                        \
122     do {                                                \
123             if (level <= ip_vs_get_debug_level())       \
124                     printk(KERN_DEBUG "IPVS: " msg);    \
125     } while (0)
126 #define IP_VS_DBG_RL(msg...)                            \
127     do {                                                \
128             if (net_ratelimit())                        \
129                     printk(KERN_DEBUG "IPVS: " msg);    \
130     } while (0)
131 #define IP_VS_DBG_PKT(level, pp, skb, ofs, msg)         \
132     do {                                                \
133             if (level <= ip_vs_get_debug_level())       \
134                 pp->debug_packet(pp, skb, ofs, msg);    \
135     } while (0)
136 #define IP_VS_DBG_RL_PKT(level, pp, skb, ofs, msg)      \
137     do {                                                \
138             if (level <= ip_vs_get_debug_level() &&     \
139                 net_ratelimit())                        \
140                 pp->debug_packet(pp, skb, ofs, msg);    \
141     } while (0)
142 #else   /* NO DEBUGGING at ALL */
143 #define IP_VS_DBG_BUF(level, msg...)  do {} while (0)
144 #define IP_VS_ERR_BUF(msg...)  do {} while (0)
145 #define IP_VS_DBG(level, msg...)  do {} while (0)
146 #define IP_VS_DBG_RL(msg...)  do {} while (0)
147 #define IP_VS_DBG_PKT(level, pp, skb, ofs, msg)         do {} while (0)
148 #define IP_VS_DBG_RL_PKT(level, pp, skb, ofs, msg)      do {} while (0)
149 #endif
150
151 #define IP_VS_BUG() BUG()
152 #define IP_VS_ERR(msg...) printk(KERN_ERR "IPVS: " msg)
153 #define IP_VS_INFO(msg...) printk(KERN_INFO "IPVS: " msg)
154 #define IP_VS_WARNING(msg...) \
155         printk(KERN_WARNING "IPVS: " msg)
156 #define IP_VS_ERR_RL(msg...)                            \
157     do {                                                \
158             if (net_ratelimit())                        \
159                     printk(KERN_ERR "IPVS: " msg);      \
160     } while (0)
161
162 #ifdef CONFIG_IP_VS_DEBUG
163 #define EnterFunction(level)                                            \
164     do {                                                                \
165             if (level <= ip_vs_get_debug_level())                       \
166                     printk(KERN_DEBUG "Enter: %s, %s line %i\n",        \
167                            __FUNCTION__, __FILE__, __LINE__);           \
168     } while (0)
169 #define LeaveFunction(level)                                            \
170     do {                                                                \
171             if (level <= ip_vs_get_debug_level())                       \
172                         printk(KERN_DEBUG "Leave: %s, %s line %i\n",    \
173                                __FUNCTION__, __FILE__, __LINE__);       \
174     } while (0)
175 #else
176 #define EnterFunction(level)   do {} while (0)
177 #define LeaveFunction(level)   do {} while (0)
178 #endif
179
180 #define IP_VS_WAIT_WHILE(expr)  while (expr) { cpu_relax(); }
181
182
183 /*
184  *      The port number of FTP service (in network order).
185  */
186 #define FTPPORT  __constant_htons(21)
187 #define FTPDATA  __constant_htons(20)
188
189 /*
190  *      TCP State Values
191  */
192 enum {
193         IP_VS_TCP_S_NONE = 0,
194         IP_VS_TCP_S_ESTABLISHED,
195         IP_VS_TCP_S_SYN_SENT,
196         IP_VS_TCP_S_SYN_RECV,
197         IP_VS_TCP_S_FIN_WAIT,
198         IP_VS_TCP_S_TIME_WAIT,
199         IP_VS_TCP_S_CLOSE,
200         IP_VS_TCP_S_CLOSE_WAIT,
201         IP_VS_TCP_S_LAST_ACK,
202         IP_VS_TCP_S_LISTEN,
203         IP_VS_TCP_S_SYNACK,
204         IP_VS_TCP_S_LAST
205 };
206
207 /*
208  *      UDP State Values
209  */
210 enum {
211         IP_VS_UDP_S_NORMAL,
212         IP_VS_UDP_S_LAST,
213 };
214
215 /*
216  *      ICMP State Values
217  */
218 enum {
219         IP_VS_ICMP_S_NORMAL,
220         IP_VS_ICMP_S_LAST,
221 };
222
223 /*
224  *      Delta sequence info structure
225  *      Each ip_vs_conn has 2 (output AND input seq. changes).
226  *      Only used in the VS/NAT.
227  */
228 struct ip_vs_seq {
229         __u32                   init_seq;       /* Add delta from this seq */
230         __u32                   delta;          /* Delta in sequence numbers */
231         __u32                   previous_delta; /* Delta in sequence numbers
232                                                    before last resized pkt */
233 };
234
235
236 /*
237  *      IPVS statistics objects
238  */
239 struct ip_vs_estimator {
240         struct list_head        list;
241
242         u64                     last_inbytes;
243         u64                     last_outbytes;
244         u32                     last_conns;
245         u32                     last_inpkts;
246         u32                     last_outpkts;
247
248         u32                     cps;
249         u32                     inpps;
250         u32                     outpps;
251         u32                     inbps;
252         u32                     outbps;
253 };
254
255 struct ip_vs_stats
256 {
257         __u32                   conns;          /* connections scheduled */
258         __u32                   inpkts;         /* incoming packets */
259         __u32                   outpkts;        /* outgoing packets */
260         __u64                   inbytes;        /* incoming bytes */
261         __u64                   outbytes;       /* outgoing bytes */
262
263         __u32                   cps;            /* current connection rate */
264         __u32                   inpps;          /* current in packet rate */
265         __u32                   outpps;         /* current out packet rate */
266         __u32                   inbps;          /* current in byte rate */
267         __u32                   outbps;         /* current out byte rate */
268
269         /*
270          * Don't add anything before the lock, because we use memcpy() to copy
271          * the members before the lock to struct ip_vs_stats_user in
272          * ip_vs_ctl.c.
273          */
274
275         spinlock_t              lock;           /* spin lock */
276
277         struct ip_vs_estimator  est;            /* estimator */
278 };
279
280 struct dst_entry;
281 struct iphdr;
282 struct ip_vs_conn;
283 struct ip_vs_app;
284 struct sk_buff;
285
286 struct ip_vs_protocol {
287         struct ip_vs_protocol   *next;
288         char                    *name;
289         u16                     protocol;
290         u16                     num_states;
291         int                     dont_defrag;
292         atomic_t                appcnt;         /* counter of proto app incs */
293         int                     *timeout_table; /* protocol timeout table */
294
295         void (*init)(struct ip_vs_protocol *pp);
296
297         void (*exit)(struct ip_vs_protocol *pp);
298
299         int (*conn_schedule)(int af, struct sk_buff *skb,
300                              struct ip_vs_protocol *pp,
301                              int *verdict, struct ip_vs_conn **cpp);
302
303         struct ip_vs_conn *
304         (*conn_in_get)(int af,
305                        const struct sk_buff *skb,
306                        struct ip_vs_protocol *pp,
307                        const struct ip_vs_iphdr *iph,
308                        unsigned int proto_off,
309                        int inverse);
310
311         struct ip_vs_conn *
312         (*conn_out_get)(int af,
313                         const struct sk_buff *skb,
314                         struct ip_vs_protocol *pp,
315                         const struct ip_vs_iphdr *iph,
316                         unsigned int proto_off,
317                         int inverse);
318
319         int (*snat_handler)(struct sk_buff *skb,
320                             struct ip_vs_protocol *pp, struct ip_vs_conn *cp);
321
322         int (*dnat_handler)(struct sk_buff *skb,
323                             struct ip_vs_protocol *pp, struct ip_vs_conn *cp);
324
325         int (*csum_check)(int af, struct sk_buff *skb,
326                           struct ip_vs_protocol *pp);
327
328         const char *(*state_name)(int state);
329
330         int (*state_transition)(struct ip_vs_conn *cp, int direction,
331                                 const struct sk_buff *skb,
332                                 struct ip_vs_protocol *pp);
333
334         int (*register_app)(struct ip_vs_app *inc);
335
336         void (*unregister_app)(struct ip_vs_app *inc);
337
338         int (*app_conn_bind)(struct ip_vs_conn *cp);
339
340         void (*debug_packet)(struct ip_vs_protocol *pp,
341                              const struct sk_buff *skb,
342                              int offset,
343                              const char *msg);
344
345         void (*timeout_change)(struct ip_vs_protocol *pp, int flags);
346
347         int (*set_state_timeout)(struct ip_vs_protocol *pp, char *sname, int to);
348 };
349
350 extern struct ip_vs_protocol * ip_vs_proto_get(unsigned short proto);
351
352 /*
353  *      IP_VS structure allocated for each dynamically scheduled connection
354  */
355 struct ip_vs_conn {
356         struct list_head        c_list;         /* hashed list heads */
357
358         /* Protocol, addresses and port numbers */
359         u16                      af;            /* address family */
360         union nf_inet_addr       caddr;          /* client address */
361         union nf_inet_addr       vaddr;          /* virtual address */
362         union nf_inet_addr       daddr;          /* destination address */
363         __be16                   cport;
364         __be16                   vport;
365         __be16                   dport;
366         __u16                   protocol;       /* Which protocol (TCP/UDP) */
367
368         /* counter and timer */
369         atomic_t                refcnt;         /* reference count */
370         struct timer_list       timer;          /* Expiration timer */
371         volatile unsigned long  timeout;        /* timeout */
372
373         /* Flags and state transition */
374         spinlock_t              lock;           /* lock for state transition */
375         volatile __u16          flags;          /* status flags */
376         volatile __u16          state;          /* state info */
377         volatile __u16          old_state;      /* old state, to be used for
378                                                  * state transition triggerd
379                                                  * synchronization
380                                                  */
381
382         /* Control members */
383         struct ip_vs_conn       *control;       /* Master control connection */
384         atomic_t                n_control;      /* Number of controlled ones */
385         struct ip_vs_dest       *dest;          /* real server */
386         atomic_t                in_pkts;        /* incoming packet counter */
387
388         /* packet transmitter for different forwarding methods.  If it
389            mangles the packet, it must return NF_DROP or better NF_STOLEN,
390            otherwise this must be changed to a sk_buff **.
391          */
392         int (*packet_xmit)(struct sk_buff *skb, struct ip_vs_conn *cp,
393                            struct ip_vs_protocol *pp);
394
395         /* Note: we can group the following members into a structure,
396            in order to save more space, and the following members are
397            only used in VS/NAT anyway */
398         struct ip_vs_app        *app;           /* bound ip_vs_app object */
399         void                    *app_data;      /* Application private data */
400         struct ip_vs_seq        in_seq;         /* incoming seq. struct */
401         struct ip_vs_seq        out_seq;        /* outgoing seq. struct */
402 };
403
404
405 /*
406  *      Extended internal versions of struct ip_vs_service_user and
407  *      ip_vs_dest_user for IPv6 support.
408  *
409  *      We need these to conveniently pass around service and destination
410  *      options, but unfortunately, we also need to keep the old definitions to
411  *      maintain userspace backwards compatibility for the setsockopt interface.
412  */
413 struct ip_vs_service_user_kern {
414         /* virtual service addresses */
415         u16                     af;
416         u16                     protocol;
417         union nf_inet_addr      addr;           /* virtual ip address */
418         u16                     port;
419         u32                     fwmark;         /* firwall mark of service */
420
421         /* virtual service options */
422         char                    *sched_name;
423         unsigned                flags;          /* virtual service flags */
424         unsigned                timeout;        /* persistent timeout in sec */
425         u32                     netmask;        /* persistent netmask */
426 };
427
428
429 struct ip_vs_dest_user_kern {
430         /* destination server address */
431         union nf_inet_addr      addr;
432         u16                     port;
433
434         /* real server options */
435         unsigned                conn_flags;     /* connection flags */
436         int                     weight;         /* destination weight */
437
438         /* thresholds for active connections */
439         u32                     u_threshold;    /* upper threshold */
440         u32                     l_threshold;    /* lower threshold */
441 };
442
443
444 /*
445  *      The information about the virtual service offered to the net
446  *      and the forwarding entries
447  */
448 struct ip_vs_service {
449         struct list_head        s_list;   /* for normal service table */
450         struct list_head        f_list;   /* for fwmark-based service table */
451         atomic_t                refcnt;   /* reference counter */
452         atomic_t                usecnt;   /* use counter */
453
454         u16                     af;       /* address family */
455         __u16                   protocol; /* which protocol (TCP/UDP) */
456         union nf_inet_addr      addr;     /* IP address for virtual service */
457         __be16                  port;     /* port number for the service */
458         __u32                   fwmark;   /* firewall mark of the service */
459         unsigned                flags;    /* service status flags */
460         unsigned                timeout;  /* persistent timeout in ticks */
461         __be32                  netmask;  /* grouping granularity */
462
463         struct list_head        destinations;  /* real server d-linked list */
464         __u32                   num_dests;     /* number of servers */
465         struct ip_vs_stats      stats;         /* statistics for the service */
466         struct ip_vs_app        *inc;     /* bind conns to this app inc */
467
468         /* for scheduling */
469         struct ip_vs_scheduler  *scheduler;    /* bound scheduler object */
470         rwlock_t                sched_lock;    /* lock sched_data */
471         void                    *sched_data;   /* scheduler application data */
472 };
473
474
475 /*
476  *      The real server destination forwarding entry
477  *      with ip address, port number, and so on.
478  */
479 struct ip_vs_dest {
480         struct list_head        n_list;   /* for the dests in the service */
481         struct list_head        d_list;   /* for table with all the dests */
482
483         u16                     af;             /* address family */
484         union nf_inet_addr      addr;           /* IP address of the server */
485         __be16                  port;           /* port number of the server */
486         volatile unsigned       flags;          /* dest status flags */
487         atomic_t                conn_flags;     /* flags to copy to conn */
488         atomic_t                weight;         /* server weight */
489
490         atomic_t                refcnt;         /* reference counter */
491         struct ip_vs_stats      stats;          /* statistics */
492
493         /* connection counters and thresholds */
494         atomic_t                activeconns;    /* active connections */
495         atomic_t                inactconns;     /* inactive connections */
496         atomic_t                persistconns;   /* persistent connections */
497         __u32                   u_threshold;    /* upper threshold */
498         __u32                   l_threshold;    /* lower threshold */
499
500         /* for destination cache */
501         spinlock_t              dst_lock;       /* lock of dst_cache */
502         struct dst_entry        *dst_cache;     /* destination cache entry */
503         u32                     dst_rtos;       /* RT_TOS(tos) for dst */
504
505         /* for virtual service */
506         struct ip_vs_service    *svc;           /* service it belongs to */
507         __u16                   protocol;       /* which protocol (TCP/UDP) */
508         union nf_inet_addr      vaddr;          /* virtual IP address */
509         __be16                  vport;          /* virtual port number */
510         __u32                   vfwmark;        /* firewall mark of service */
511 };
512
513
514 /*
515  *      The scheduler object
516  */
517 struct ip_vs_scheduler {
518         struct list_head        n_list;         /* d-linked list head */
519         char                    *name;          /* scheduler name */
520         atomic_t                refcnt;         /* reference counter */
521         struct module           *module;        /* THIS_MODULE/NULL */
522 #ifdef CONFIG_IP_VS_IPV6
523         int                     supports_ipv6;  /* scheduler has IPv6 support */
524 #endif
525
526         /* scheduler initializing service */
527         int (*init_service)(struct ip_vs_service *svc);
528         /* scheduling service finish */
529         int (*done_service)(struct ip_vs_service *svc);
530         /* scheduler updating service */
531         int (*update_service)(struct ip_vs_service *svc);
532
533         /* selecting a server from the given service */
534         struct ip_vs_dest* (*schedule)(struct ip_vs_service *svc,
535                                        const struct sk_buff *skb);
536 };
537
538
539 /*
540  *      The application module object (a.k.a. app incarnation)
541  */
542 struct ip_vs_app
543 {
544         struct list_head        a_list;         /* member in app list */
545         int                     type;           /* IP_VS_APP_TYPE_xxx */
546         char                    *name;          /* application module name */
547         __u16                   protocol;
548         struct module           *module;        /* THIS_MODULE/NULL */
549         struct list_head        incs_list;      /* list of incarnations */
550
551         /* members for application incarnations */
552         struct list_head        p_list;         /* member in proto app list */
553         struct ip_vs_app        *app;           /* its real application */
554         __be16                  port;           /* port number in net order */
555         atomic_t                usecnt;         /* usage counter */
556
557         /* output hook: return false if can't linearize. diff set for TCP.  */
558         int (*pkt_out)(struct ip_vs_app *, struct ip_vs_conn *,
559                        struct sk_buff *, int *diff);
560
561         /* input hook: return false if can't linearize. diff set for TCP. */
562         int (*pkt_in)(struct ip_vs_app *, struct ip_vs_conn *,
563                       struct sk_buff *, int *diff);
564
565         /* ip_vs_app initializer */
566         int (*init_conn)(struct ip_vs_app *, struct ip_vs_conn *);
567
568         /* ip_vs_app finish */
569         int (*done_conn)(struct ip_vs_app *, struct ip_vs_conn *);
570
571
572         /* not used now */
573         int (*bind_conn)(struct ip_vs_app *, struct ip_vs_conn *,
574                          struct ip_vs_protocol *);
575
576         void (*unbind_conn)(struct ip_vs_app *, struct ip_vs_conn *);
577
578         int *                   timeout_table;
579         int *                   timeouts;
580         int                     timeouts_size;
581
582         int (*conn_schedule)(struct sk_buff *skb, struct ip_vs_app *app,
583                              int *verdict, struct ip_vs_conn **cpp);
584
585         struct ip_vs_conn *
586         (*conn_in_get)(const struct sk_buff *skb, struct ip_vs_app *app,
587                        const struct iphdr *iph, unsigned int proto_off,
588                        int inverse);
589
590         struct ip_vs_conn *
591         (*conn_out_get)(const struct sk_buff *skb, struct ip_vs_app *app,
592                         const struct iphdr *iph, unsigned int proto_off,
593                         int inverse);
594
595         int (*state_transition)(struct ip_vs_conn *cp, int direction,
596                                 const struct sk_buff *skb,
597                                 struct ip_vs_app *app);
598
599         void (*timeout_change)(struct ip_vs_app *app, int flags);
600 };
601
602
603 /*
604  *      IPVS core functions
605  *      (from ip_vs_core.c)
606  */
607 extern const char *ip_vs_proto_name(unsigned proto);
608 extern void ip_vs_init_hash_table(struct list_head *table, int rows);
609 #define IP_VS_INIT_HASH_TABLE(t) ip_vs_init_hash_table((t), ARRAY_SIZE((t)))
610
611 #define IP_VS_APP_TYPE_FTP      1
612
613 /*
614  *     ip_vs_conn handling functions
615  *     (from ip_vs_conn.c)
616  */
617
618 /*
619  *     IPVS connection entry hash table
620  */
621 #ifndef CONFIG_IP_VS_TAB_BITS
622 #define CONFIG_IP_VS_TAB_BITS   12
623 #endif
624 /* make sure that IP_VS_CONN_TAB_BITS is located in [8, 20] */
625 #if CONFIG_IP_VS_TAB_BITS < 8
626 #define IP_VS_CONN_TAB_BITS     8
627 #endif
628 #if CONFIG_IP_VS_TAB_BITS > 20
629 #define IP_VS_CONN_TAB_BITS     20
630 #endif
631 #if 8 <= CONFIG_IP_VS_TAB_BITS && CONFIG_IP_VS_TAB_BITS <= 20
632 #define IP_VS_CONN_TAB_BITS     CONFIG_IP_VS_TAB_BITS
633 #endif
634 #define IP_VS_CONN_TAB_SIZE     (1 << IP_VS_CONN_TAB_BITS)
635 #define IP_VS_CONN_TAB_MASK     (IP_VS_CONN_TAB_SIZE - 1)
636
637 enum {
638         IP_VS_DIR_INPUT = 0,
639         IP_VS_DIR_OUTPUT,
640         IP_VS_DIR_INPUT_ONLY,
641         IP_VS_DIR_LAST,
642 };
643
644 extern struct ip_vs_conn *ip_vs_conn_in_get
645 (int protocol, __be32 s_addr, __be16 s_port, __be32 d_addr, __be16 d_port);
646 extern struct ip_vs_conn *ip_vs_ct_in_get
647 (int protocol, __be32 s_addr, __be16 s_port, __be32 d_addr, __be16 d_port);
648 extern struct ip_vs_conn *ip_vs_conn_out_get
649 (int protocol, __be32 s_addr, __be16 s_port, __be32 d_addr, __be16 d_port);
650
651 /* put back the conn without restarting its timer */
652 static inline void __ip_vs_conn_put(struct ip_vs_conn *cp)
653 {
654         atomic_dec(&cp->refcnt);
655 }
656 extern void ip_vs_conn_put(struct ip_vs_conn *cp);
657 extern void ip_vs_conn_fill_cport(struct ip_vs_conn *cp, __be16 cport);
658
659 extern struct ip_vs_conn *
660 ip_vs_conn_new(int proto, __be32 caddr, __be16 cport, __be32 vaddr, __be16 vport,
661                __be32 daddr, __be16 dport, unsigned flags,
662                struct ip_vs_dest *dest);
663 extern void ip_vs_conn_expire_now(struct ip_vs_conn *cp);
664
665 extern const char * ip_vs_state_name(__u16 proto, int state);
666
667 extern void ip_vs_tcp_conn_listen(struct ip_vs_conn *cp);
668 extern int ip_vs_check_template(struct ip_vs_conn *ct);
669 extern void ip_vs_random_dropentry(void);
670 extern int ip_vs_conn_init(void);
671 extern void ip_vs_conn_cleanup(void);
672
673 static inline void ip_vs_control_del(struct ip_vs_conn *cp)
674 {
675         struct ip_vs_conn *ctl_cp = cp->control;
676         if (!ctl_cp) {
677                 IP_VS_ERR("request control DEL for uncontrolled: "
678                           "%d.%d.%d.%d:%d to %d.%d.%d.%d:%d\n",
679                           NIPQUAD(cp->caddr),ntohs(cp->cport),
680                           NIPQUAD(cp->vaddr),ntohs(cp->vport));
681                 return;
682         }
683
684         IP_VS_DBG(7, "DELeting control for: "
685                   "cp.dst=%d.%d.%d.%d:%d ctl_cp.dst=%d.%d.%d.%d:%d\n",
686                   NIPQUAD(cp->caddr),ntohs(cp->cport),
687                   NIPQUAD(ctl_cp->caddr),ntohs(ctl_cp->cport));
688
689         cp->control = NULL;
690         if (atomic_read(&ctl_cp->n_control) == 0) {
691                 IP_VS_ERR("BUG control DEL with n=0 : "
692                           "%d.%d.%d.%d:%d to %d.%d.%d.%d:%d\n",
693                           NIPQUAD(cp->caddr),ntohs(cp->cport),
694                           NIPQUAD(cp->vaddr),ntohs(cp->vport));
695                 return;
696         }
697         atomic_dec(&ctl_cp->n_control);
698 }
699
700 static inline void
701 ip_vs_control_add(struct ip_vs_conn *cp, struct ip_vs_conn *ctl_cp)
702 {
703         if (cp->control) {
704                 IP_VS_ERR("request control ADD for already controlled: "
705                           "%d.%d.%d.%d:%d to %d.%d.%d.%d:%d\n",
706                           NIPQUAD(cp->caddr),ntohs(cp->cport),
707                           NIPQUAD(cp->vaddr),ntohs(cp->vport));
708                 ip_vs_control_del(cp);
709         }
710
711         IP_VS_DBG(7, "ADDing control for: "
712                   "cp.dst=%d.%d.%d.%d:%d ctl_cp.dst=%d.%d.%d.%d:%d\n",
713                   NIPQUAD(cp->caddr),ntohs(cp->cport),
714                   NIPQUAD(ctl_cp->caddr),ntohs(ctl_cp->cport));
715
716         cp->control = ctl_cp;
717         atomic_inc(&ctl_cp->n_control);
718 }
719
720
721 /*
722  *      IPVS application functions
723  *      (from ip_vs_app.c)
724  */
725 #define IP_VS_APP_MAX_PORTS  8
726 extern int register_ip_vs_app(struct ip_vs_app *app);
727 extern void unregister_ip_vs_app(struct ip_vs_app *app);
728 extern int ip_vs_bind_app(struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
729 extern void ip_vs_unbind_app(struct ip_vs_conn *cp);
730 extern int
731 register_ip_vs_app_inc(struct ip_vs_app *app, __u16 proto, __u16 port);
732 extern int ip_vs_app_inc_get(struct ip_vs_app *inc);
733 extern void ip_vs_app_inc_put(struct ip_vs_app *inc);
734
735 extern int ip_vs_app_pkt_out(struct ip_vs_conn *, struct sk_buff *skb);
736 extern int ip_vs_app_pkt_in(struct ip_vs_conn *, struct sk_buff *skb);
737 extern int ip_vs_skb_replace(struct sk_buff *skb, gfp_t pri,
738                              char *o_buf, int o_len, char *n_buf, int n_len);
739 extern int ip_vs_app_init(void);
740 extern void ip_vs_app_cleanup(void);
741
742
743 /*
744  *      IPVS protocol functions (from ip_vs_proto.c)
745  */
746 extern int ip_vs_protocol_init(void);
747 extern void ip_vs_protocol_cleanup(void);
748 extern void ip_vs_protocol_timeout_change(int flags);
749 extern int *ip_vs_create_timeout_table(int *table, int size);
750 extern int
751 ip_vs_set_state_timeout(int *table, int num, char **names, char *name, int to);
752 extern void
753 ip_vs_tcpudp_debug_packet(struct ip_vs_protocol *pp, const struct sk_buff *skb,
754                           int offset, const char *msg);
755
756 extern struct ip_vs_protocol ip_vs_protocol_tcp;
757 extern struct ip_vs_protocol ip_vs_protocol_udp;
758 extern struct ip_vs_protocol ip_vs_protocol_icmp;
759 extern struct ip_vs_protocol ip_vs_protocol_esp;
760 extern struct ip_vs_protocol ip_vs_protocol_ah;
761
762
763 /*
764  *      Registering/unregistering scheduler functions
765  *      (from ip_vs_sched.c)
766  */
767 extern int register_ip_vs_scheduler(struct ip_vs_scheduler *scheduler);
768 extern int unregister_ip_vs_scheduler(struct ip_vs_scheduler *scheduler);
769 extern int ip_vs_bind_scheduler(struct ip_vs_service *svc,
770                                 struct ip_vs_scheduler *scheduler);
771 extern int ip_vs_unbind_scheduler(struct ip_vs_service *svc);
772 extern struct ip_vs_scheduler *ip_vs_scheduler_get(const char *sched_name);
773 extern void ip_vs_scheduler_put(struct ip_vs_scheduler *scheduler);
774 extern struct ip_vs_conn *
775 ip_vs_schedule(struct ip_vs_service *svc, const struct sk_buff *skb);
776 extern int ip_vs_leave(struct ip_vs_service *svc, struct sk_buff *skb,
777                         struct ip_vs_protocol *pp);
778
779
780 /*
781  *      IPVS control data and functions (from ip_vs_ctl.c)
782  */
783 extern int sysctl_ip_vs_cache_bypass;
784 extern int sysctl_ip_vs_expire_nodest_conn;
785 extern int sysctl_ip_vs_expire_quiescent_template;
786 extern int sysctl_ip_vs_sync_threshold[2];
787 extern int sysctl_ip_vs_nat_icmp_send;
788 extern struct ip_vs_stats ip_vs_stats;
789 extern const struct ctl_path net_vs_ctl_path[];
790
791 extern struct ip_vs_service *
792 ip_vs_service_get(int af, __u32 fwmark, __u16 protocol,
793                   const union nf_inet_addr *vaddr, __be16 vport);
794
795 static inline void ip_vs_service_put(struct ip_vs_service *svc)
796 {
797         atomic_dec(&svc->usecnt);
798 }
799
800 extern struct ip_vs_dest *
801 ip_vs_lookup_real_service(__u16 protocol, __be32 daddr, __be16 dport);
802 extern int ip_vs_use_count_inc(void);
803 extern void ip_vs_use_count_dec(void);
804 extern int ip_vs_control_init(void);
805 extern void ip_vs_control_cleanup(void);
806 extern struct ip_vs_dest *
807 ip_vs_find_dest(__be32 daddr, __be16 dport,
808                  __be32 vaddr, __be16 vport, __u16 protocol);
809 extern struct ip_vs_dest *ip_vs_try_bind_dest(struct ip_vs_conn *cp);
810
811
812 /*
813  *      IPVS sync daemon data and function prototypes
814  *      (from ip_vs_sync.c)
815  */
816 extern volatile int ip_vs_sync_state;
817 extern volatile int ip_vs_master_syncid;
818 extern volatile int ip_vs_backup_syncid;
819 extern char ip_vs_master_mcast_ifn[IP_VS_IFNAME_MAXLEN];
820 extern char ip_vs_backup_mcast_ifn[IP_VS_IFNAME_MAXLEN];
821 extern int start_sync_thread(int state, char *mcast_ifn, __u8 syncid);
822 extern int stop_sync_thread(int state);
823 extern void ip_vs_sync_conn(struct ip_vs_conn *cp);
824
825
826 /*
827  *      IPVS rate estimator prototypes (from ip_vs_est.c)
828  */
829 extern int ip_vs_estimator_init(void);
830 extern void ip_vs_estimator_cleanup(void);
831 extern void ip_vs_new_estimator(struct ip_vs_stats *stats);
832 extern void ip_vs_kill_estimator(struct ip_vs_stats *stats);
833 extern void ip_vs_zero_estimator(struct ip_vs_stats *stats);
834
835 /*
836  *      Various IPVS packet transmitters (from ip_vs_xmit.c)
837  */
838 extern int ip_vs_null_xmit
839 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
840 extern int ip_vs_bypass_xmit
841 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
842 extern int ip_vs_nat_xmit
843 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
844 extern int ip_vs_tunnel_xmit
845 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
846 extern int ip_vs_dr_xmit
847 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
848 extern int ip_vs_icmp_xmit
849 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp, int offset);
850 extern void ip_vs_dst_reset(struct ip_vs_dest *dest);
851
852
853 /*
854  *      This is a simple mechanism to ignore packets when
855  *      we are loaded. Just set ip_vs_drop_rate to 'n' and
856  *      we start to drop 1/rate of the packets
857  */
858 extern int ip_vs_drop_rate;
859 extern int ip_vs_drop_counter;
860
861 static __inline__ int ip_vs_todrop(void)
862 {
863         if (!ip_vs_drop_rate) return 0;
864         if (--ip_vs_drop_counter > 0) return 0;
865         ip_vs_drop_counter = ip_vs_drop_rate;
866         return 1;
867 }
868
869 /*
870  *      ip_vs_fwd_tag returns the forwarding tag of the connection
871  */
872 #define IP_VS_FWD_METHOD(cp)  (cp->flags & IP_VS_CONN_F_FWD_MASK)
873
874 static inline char ip_vs_fwd_tag(struct ip_vs_conn *cp)
875 {
876         char fwd;
877
878         switch (IP_VS_FWD_METHOD(cp)) {
879         case IP_VS_CONN_F_MASQ:
880                 fwd = 'M'; break;
881         case IP_VS_CONN_F_LOCALNODE:
882                 fwd = 'L'; break;
883         case IP_VS_CONN_F_TUNNEL:
884                 fwd = 'T'; break;
885         case IP_VS_CONN_F_DROUTE:
886                 fwd = 'R'; break;
887         case IP_VS_CONN_F_BYPASS:
888                 fwd = 'B'; break;
889         default:
890                 fwd = '?'; break;
891         }
892         return fwd;
893 }
894
895 extern void ip_vs_nat_icmp(struct sk_buff *skb, struct ip_vs_protocol *pp,
896                 struct ip_vs_conn *cp, int dir);
897
898 extern __sum16 ip_vs_checksum_complete(struct sk_buff *skb, int offset);
899
900 static inline __wsum ip_vs_check_diff4(__be32 old, __be32 new, __wsum oldsum)
901 {
902         __be32 diff[2] = { ~old, new };
903
904         return csum_partial((char *) diff, sizeof(diff), oldsum);
905 }
906
907 static inline __wsum ip_vs_check_diff2(__be16 old, __be16 new, __wsum oldsum)
908 {
909         __be16 diff[2] = { ~old, new };
910
911         return csum_partial((char *) diff, sizeof(diff), oldsum);
912 }
913
914 #endif /* __KERNEL__ */
915
916 #endif  /* _NET_IP_VS_H */