sh: Move arch/sh64/lib to arch/sh/lib64.
[linux-2.6.git] / arch / sh / lib64 / c-checksum.c
1 /*
2  * arch/sh64/lib/c-checksum.c
3  *
4  * This file contains network checksum routines that are better done
5  * in an architecture-specific manner due to speed..
6  */
7
8 #undef DEBUG
9
10 #include <linux/string.h>
11 #include <linux/errno.h>
12 #include <linux/kernel.h>
13 #include <linux/module.h>
14 #include <asm/byteorder.h>
15 #include <asm/uaccess.h>
16
17 static inline unsigned short from64to16(unsigned long long x)
18 {
19         /* add up 32-bit words for 33 bits */
20         x = (x & 0xffffffff) + (x >> 32);
21         /* add up 16-bit and 17-bit words for 17+c bits */
22         x = (x & 0xffff) + (x >> 16);
23         /* add up 16-bit and 2-bit for 16+c bit */
24         x = (x & 0xffff) + (x >> 16);
25         /* add up carry.. */
26         x = (x & 0xffff) + (x >> 16);
27         return x;
28 }
29
30 static inline unsigned short foldto16(unsigned long x)
31 {
32         /* add up 16-bit for 17 bits */
33         x = (x & 0xffff) + (x >> 16);
34         /* add up carry.. */
35         x = (x & 0xffff) + (x >> 16);
36         return x;
37 }
38
39 static inline unsigned short myfoldto16(unsigned long long x)
40 {
41         /* Fold down to 32-bits so we don't loose in the typedef-less
42            network stack.  */
43         /* 64 to 33 */
44         x = (x & 0xffffffff) + (x >> 32);
45         /* 33 to 32 */
46         x = (x & 0xffffffff) + (x >> 32);
47
48         /* add up 16-bit for 17 bits */
49         x = (x & 0xffff) + (x >> 16);
50         /* add up carry.. */
51         x = (x & 0xffff) + (x >> 16);
52         return x;
53 }
54
55 #define odd(x) ((x)&1)
56 #define U16(x) ntohs(x)
57
58 static unsigned long do_csum(const unsigned char *buff, int len)
59 {
60         int odd, count;
61         unsigned long result = 0;
62
63         pr_debug("do_csum buff %p, len %d (0x%x)\n", buff, len, len);
64 #ifdef DEBUG
65         for (i = 0; i < len; i++) {
66                 if ((i % 26) == 0)
67                         printk("\n");
68                 printk("%02X ", buff[i]);
69         }
70 #endif
71
72         if (len <= 0)
73                 goto out;
74
75         odd = 1 & (unsigned long) buff;
76         if (odd) {
77                 result = *buff << 8;
78                 len--;
79                 buff++;
80         }
81         count = len >> 1;       /* nr of 16-bit words.. */
82         if (count) {
83                 if (2 & (unsigned long) buff) {
84                         result += *(unsigned short *) buff;
85                         count--;
86                         len -= 2;
87                         buff += 2;
88                 }
89                 count >>= 1;    /* nr of 32-bit words.. */
90                 if (count) {
91                         unsigned long carry = 0;
92                         do {
93                                 unsigned long w = *(unsigned long *) buff;
94                                 buff += 4;
95                                 count--;
96                                 result += carry;
97                                 result += w;
98                                 carry = (w > result);
99                         } while (count);
100                         result += carry;
101                         result = (result & 0xffff) + (result >> 16);
102                 }
103                 if (len & 2) {
104                         result += *(unsigned short *) buff;
105                         buff += 2;
106                 }
107         }
108         if (len & 1)
109                 result += *buff;
110         result = foldto16(result);
111         if (odd)
112                 result = ((result >> 8) & 0xff) | ((result & 0xff) << 8);
113
114         pr_debug("\nCHECKSUM is 0x%lx\n", result);
115
116       out:
117         return result;
118 }
119
120 /* computes the checksum of a memory block at buff, length len,
121    and adds in "sum" (32-bit)  */
122 __wsum csum_partial(const void *buff, int len, __wsum sum)
123 {
124         unsigned long long result = do_csum(buff, len);
125
126         /* add in old sum, and carry.. */
127         result += (__force u32)sum;
128         /* 32+c bits -> 32 bits */
129         result = (result & 0xffffffff) + (result >> 32);
130
131         pr_debug("csum_partial, buff %p len %d sum 0x%x result=0x%016Lx\n",
132                 buff, len, sum, result);
133
134         return (__force __wsum)result;
135 }
136
137 /* Copy while checksumming, otherwise like csum_partial.  */
138 __wsum
139 csum_partial_copy_nocheck(const void *src, void *dst, int len, __wsum sum)
140 {
141         sum = csum_partial(src, len, sum);
142         memcpy(dst, src, len);
143
144         return sum;
145 }
146
147 /* Copy from userspace and compute checksum.  If we catch an exception
148    then zero the rest of the buffer.  */
149 __wsum
150 csum_partial_copy_from_user(const void __user *src, void *dst, int len,
151                             __wsum sum, int *err_ptr)
152 {
153         int missing;
154
155         pr_debug
156             ("csum_partial_copy_from_user src %p, dest %p, len %d, sum %08x, err_ptr %p\n",
157              src, dst, len, sum, err_ptr);
158         missing = copy_from_user(dst, src, len);
159         pr_debug("  access_ok %d\n", __access_ok((unsigned long) src, len));
160         pr_debug("  missing %d\n", missing);
161         if (missing) {
162                 memset(dst + len - missing, 0, missing);
163                 *err_ptr = -EFAULT;
164         }
165
166         return csum_partial(dst, len, sum);
167 }
168
169 /* Copy to userspace and compute checksum.  */
170 __wsum
171 csum_partial_copy_to_user(const unsigned char *src, unsigned char *dst, int len,
172                           __wsum sum, int *err_ptr)
173 {
174         sum = csum_partial(src, len, sum);
175
176         if (copy_to_user(dst, src, len))
177                 *err_ptr = -EFAULT;
178
179         return sum;
180 }
181
182 /*
183  *      This is a version of ip_compute_csum() optimized for IP headers,
184  *      which always checksum on 4 octet boundaries.
185  */
186 __sum16 ip_fast_csum(const void *iph, unsigned int ihl)
187 {
188         pr_debug("ip_fast_csum %p,%d\n", iph, ihl);
189
190         return (__force __sum16)~do_csum(iph, ihl * 4);
191 }
192
193 __wsum csum_tcpudp_nofold(__be32 saddr, __be32 daddr,
194                                 unsigned short len,
195                                 unsigned short proto, __wsum sum)
196 {
197         unsigned long long result;
198
199         pr_debug("ntohs(0x%x)=0x%x\n", 0xdead, ntohs(0xdead));
200         pr_debug("htons(0x%x)=0x%x\n", 0xdead, htons(0xdead));
201
202         result = (__force u64) saddr + (__force u64) daddr +
203                  (__force u64) sum + ((len + proto) << 8);
204
205         /* Fold down to 32-bits so we don't loose in the typedef-less
206            network stack.  */
207         /* 64 to 33 */
208         result = (result & 0xffffffff) + (result >> 32);
209         /* 33 to 32 */
210         result = (result & 0xffffffff) + (result >> 32);
211
212         pr_debug("%s saddr %x daddr %x len %x proto %x sum %x result %08Lx\n",
213                 __FUNCTION__, saddr, daddr, len, proto, sum, result);
214
215         return (__wsum)result;
216 }
217 EXPORT_SYMBOL(csum_tcpudp_nofold);