Spidernet RX skb mem leak
[linux-3.10.git] / drivers / net / spider_net.c
1 /*
2  * Network device driver for Cell Processor-Based Blade
3  *
4  * (C) Copyright IBM Corp. 2005
5  *
6  * Authors : Utz Bacher <utz.bacher@de.ibm.com>
7  *           Jens Osterkamp <Jens.Osterkamp@de.ibm.com>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2, or (at your option)
12  * any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
22  */
23
24 #include <linux/compiler.h>
25 #include <linux/crc32.h>
26 #include <linux/delay.h>
27 #include <linux/etherdevice.h>
28 #include <linux/ethtool.h>
29 #include <linux/firmware.h>
30 #include <linux/if_vlan.h>
31 #include <linux/in.h>
32 #include <linux/init.h>
33 #include <linux/ioport.h>
34 #include <linux/ip.h>
35 #include <linux/kernel.h>
36 #include <linux/mii.h>
37 #include <linux/module.h>
38 #include <linux/netdevice.h>
39 #include <linux/device.h>
40 #include <linux/pci.h>
41 #include <linux/skbuff.h>
42 #include <linux/slab.h>
43 #include <linux/tcp.h>
44 #include <linux/types.h>
45 #include <linux/vmalloc.h>
46 #include <linux/wait.h>
47 #include <linux/workqueue.h>
48 #include <asm/bitops.h>
49 #include <asm/pci-bridge.h>
50 #include <net/checksum.h>
51
52 #include "spider_net.h"
53
54 MODULE_AUTHOR("Utz Bacher <utz.bacher@de.ibm.com> and Jens Osterkamp " \
55               "<Jens.Osterkamp@de.ibm.com>");
56 MODULE_DESCRIPTION("Spider Southbridge Gigabit Ethernet driver");
57 MODULE_LICENSE("GPL");
58 MODULE_VERSION(VERSION);
59
60 static int rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_DEFAULT;
61 static int tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_DEFAULT;
62
63 module_param(rx_descriptors, int, 0444);
64 module_param(tx_descriptors, int, 0444);
65
66 MODULE_PARM_DESC(rx_descriptors, "number of descriptors used " \
67                  "in rx chains");
68 MODULE_PARM_DESC(tx_descriptors, "number of descriptors used " \
69                  "in tx chain");
70
71 char spider_net_driver_name[] = "spidernet";
72
73 static struct pci_device_id spider_net_pci_tbl[] = {
74         { PCI_VENDOR_ID_TOSHIBA_2, PCI_DEVICE_ID_TOSHIBA_SPIDER_NET,
75           PCI_ANY_ID, PCI_ANY_ID, 0, 0, 0UL },
76         { 0, }
77 };
78
79 MODULE_DEVICE_TABLE(pci, spider_net_pci_tbl);
80
81 /**
82  * spider_net_read_reg - reads an SMMIO register of a card
83  * @card: device structure
84  * @reg: register to read from
85  *
86  * returns the content of the specified SMMIO register.
87  */
88 static inline u32
89 spider_net_read_reg(struct spider_net_card *card, u32 reg)
90 {
91         /* We use the powerpc specific variants instead of readl_be() because
92          * we know spidernet is not a real PCI device and we can thus avoid the
93          * performance hit caused by the PCI workarounds.
94          */
95         return in_be32(card->regs + reg);
96 }
97
98 /**
99  * spider_net_write_reg - writes to an SMMIO register of a card
100  * @card: device structure
101  * @reg: register to write to
102  * @value: value to write into the specified SMMIO register
103  */
104 static inline void
105 spider_net_write_reg(struct spider_net_card *card, u32 reg, u32 value)
106 {
107         /* We use the powerpc specific variants instead of writel_be() because
108          * we know spidernet is not a real PCI device and we can thus avoid the
109          * performance hit caused by the PCI workarounds.
110          */
111         out_be32(card->regs + reg, value);
112 }
113
114 /** spider_net_write_phy - write to phy register
115  * @netdev: adapter to be written to
116  * @mii_id: id of MII
117  * @reg: PHY register
118  * @val: value to be written to phy register
119  *
120  * spider_net_write_phy_register writes to an arbitrary PHY
121  * register via the spider GPCWOPCMD register. We assume the queue does
122  * not run full (not more than 15 commands outstanding).
123  **/
124 static void
125 spider_net_write_phy(struct net_device *netdev, int mii_id,
126                      int reg, int val)
127 {
128         struct spider_net_card *card = netdev_priv(netdev);
129         u32 writevalue;
130
131         writevalue = ((u32)mii_id << 21) |
132                 ((u32)reg << 16) | ((u32)val);
133
134         spider_net_write_reg(card, SPIDER_NET_GPCWOPCMD, writevalue);
135 }
136
137 /** spider_net_read_phy - read from phy register
138  * @netdev: network device to be read from
139  * @mii_id: id of MII
140  * @reg: PHY register
141  *
142  * Returns value read from PHY register
143  *
144  * spider_net_write_phy reads from an arbitrary PHY
145  * register via the spider GPCROPCMD register
146  **/
147 static int
148 spider_net_read_phy(struct net_device *netdev, int mii_id, int reg)
149 {
150         struct spider_net_card *card = netdev_priv(netdev);
151         u32 readvalue;
152
153         readvalue = ((u32)mii_id << 21) | ((u32)reg << 16);
154         spider_net_write_reg(card, SPIDER_NET_GPCROPCMD, readvalue);
155
156         /* we don't use semaphores to wait for an SPIDER_NET_GPROPCMPINT
157          * interrupt, as we poll for the completion of the read operation
158          * in spider_net_read_phy. Should take about 50 us */
159         do {
160                 readvalue = spider_net_read_reg(card, SPIDER_NET_GPCROPCMD);
161         } while (readvalue & SPIDER_NET_GPREXEC);
162
163         readvalue &= SPIDER_NET_GPRDAT_MASK;
164
165         return readvalue;
166 }
167
168 /**
169  * spider_net_rx_irq_off - switch off rx irq on this spider card
170  * @card: device structure
171  *
172  * switches off rx irq by masking them out in the GHIINTnMSK register
173  */
174 static void
175 spider_net_rx_irq_off(struct spider_net_card *card)
176 {
177         u32 regvalue;
178
179         regvalue = SPIDER_NET_INT0_MASK_VALUE & (~SPIDER_NET_RXINT);
180         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
181 }
182
183 /**
184  * spider_net_rx_irq_on - switch on rx irq on this spider card
185  * @card: device structure
186  *
187  * switches on rx irq by enabling them in the GHIINTnMSK register
188  */
189 static void
190 spider_net_rx_irq_on(struct spider_net_card *card)
191 {
192         u32 regvalue;
193
194         regvalue = SPIDER_NET_INT0_MASK_VALUE | SPIDER_NET_RXINT;
195         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
196 }
197
198 /**
199  * spider_net_set_promisc - sets the unicast address or the promiscuous mode
200  * @card: card structure
201  *
202  * spider_net_set_promisc sets the unicast destination address filter and
203  * thus either allows for non-promisc mode or promisc mode
204  */
205 static void
206 spider_net_set_promisc(struct spider_net_card *card)
207 {
208         u32 macu, macl;
209         struct net_device *netdev = card->netdev;
210
211         if (netdev->flags & IFF_PROMISC) {
212                 /* clear destination entry 0 */
213                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, 0);
214                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, 0);
215                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
216                                      SPIDER_NET_PROMISC_VALUE);
217         } else {
218                 macu = netdev->dev_addr[0];
219                 macu <<= 8;
220                 macu |= netdev->dev_addr[1];
221                 memcpy(&macl, &netdev->dev_addr[2], sizeof(macl));
222
223                 macu |= SPIDER_NET_UA_DESCR_VALUE;
224                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, macu);
225                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, macl);
226                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
227                                      SPIDER_NET_NONPROMISC_VALUE);
228         }
229 }
230
231 /**
232  * spider_net_get_mac_address - read mac address from spider card
233  * @card: device structure
234  *
235  * reads MAC address from GMACUNIMACU and GMACUNIMACL registers
236  */
237 static int
238 spider_net_get_mac_address(struct net_device *netdev)
239 {
240         struct spider_net_card *card = netdev_priv(netdev);
241         u32 macl, macu;
242
243         macl = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACL);
244         macu = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACU);
245
246         netdev->dev_addr[0] = (macu >> 24) & 0xff;
247         netdev->dev_addr[1] = (macu >> 16) & 0xff;
248         netdev->dev_addr[2] = (macu >> 8) & 0xff;
249         netdev->dev_addr[3] = macu & 0xff;
250         netdev->dev_addr[4] = (macl >> 8) & 0xff;
251         netdev->dev_addr[5] = macl & 0xff;
252
253         if (!is_valid_ether_addr(&netdev->dev_addr[0]))
254                 return -EINVAL;
255
256         return 0;
257 }
258
259 /**
260  * spider_net_get_descr_status -- returns the status of a descriptor
261  * @descr: descriptor to look at
262  *
263  * returns the status as in the dmac_cmd_status field of the descriptor
264  */
265 static inline int
266 spider_net_get_descr_status(struct spider_net_descr *descr)
267 {
268         return descr->dmac_cmd_status & SPIDER_NET_DESCR_IND_PROC_MASK;
269 }
270
271 /**
272  * spider_net_free_chain - free descriptor chain
273  * @card: card structure
274  * @chain: address of chain
275  *
276  */
277 static void
278 spider_net_free_chain(struct spider_net_card *card,
279                       struct spider_net_descr_chain *chain)
280 {
281         struct spider_net_descr *descr;
282
283         descr = chain->ring;
284         do {
285                 descr->bus_addr = 0;
286                 descr->next_descr_addr = 0;
287                 descr = descr->next;
288         } while (descr != chain->ring);
289
290         dma_free_coherent(&card->pdev->dev, chain->num_desc,
291             chain->ring, chain->dma_addr);
292 }
293
294 /**
295  * spider_net_init_chain - alloc and link descriptor chain
296  * @card: card structure
297  * @chain: address of chain
298  *
299  * We manage a circular list that mirrors the hardware structure,
300  * except that the hardware uses bus addresses.
301  *
302  * Returns 0 on success, <0 on failure
303  */
304 static int
305 spider_net_init_chain(struct spider_net_card *card,
306                        struct spider_net_descr_chain *chain)
307 {
308         int i;
309         struct spider_net_descr *descr;
310         dma_addr_t buf;
311         size_t alloc_size;
312
313         alloc_size = chain->num_desc * sizeof (struct spider_net_descr);
314
315         chain->ring = dma_alloc_coherent(&card->pdev->dev, alloc_size,
316                 &chain->dma_addr, GFP_KERNEL);
317
318         if (!chain->ring)
319                 return -ENOMEM;
320
321         descr = chain->ring;
322         memset(descr, 0, alloc_size);
323
324         /* Set up the hardware pointers in each descriptor */
325         buf = chain->dma_addr;
326         for (i=0; i < chain->num_desc; i++, descr++) {
327                 descr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
328
329                 descr->bus_addr = buf;
330                 descr->next_descr_addr = 0;
331                 descr->next = descr + 1;
332                 descr->prev = descr - 1;
333
334                 buf += sizeof(struct spider_net_descr);
335         }
336         /* do actual circular list */
337         (descr-1)->next = chain->ring;
338         chain->ring->prev = descr-1;
339
340         spin_lock_init(&chain->lock);
341         chain->head = chain->ring;
342         chain->tail = chain->ring;
343         return 0;
344 }
345
346 /**
347  * spider_net_free_rx_chain_contents - frees descr contents in rx chain
348  * @card: card structure
349  *
350  * returns 0 on success, <0 on failure
351  */
352 static void
353 spider_net_free_rx_chain_contents(struct spider_net_card *card)
354 {
355         struct spider_net_descr *descr;
356
357         descr = card->rx_chain.head;
358         do {
359                 if (descr->skb) {
360                         dev_kfree_skb(descr->skb);
361                         pci_unmap_single(card->pdev, descr->buf_addr,
362                                          SPIDER_NET_MAX_FRAME,
363                                          PCI_DMA_BIDIRECTIONAL);
364                 }
365                 descr = descr->next;
366         } while (descr != card->rx_chain.head);
367 }
368
369 /**
370  * spider_net_prepare_rx_descr - reinitializes a rx descriptor
371  * @card: card structure
372  * @descr: descriptor to re-init
373  *
374  * return 0 on succes, <0 on failure
375  *
376  * allocates a new rx skb, iommu-maps it and attaches it to the descriptor.
377  * Activate the descriptor state-wise
378  */
379 static int
380 spider_net_prepare_rx_descr(struct spider_net_card *card,
381                             struct spider_net_descr *descr)
382 {
383         dma_addr_t buf;
384         int error = 0;
385         int offset;
386         int bufsize;
387
388         /* we need to round up the buffer size to a multiple of 128 */
389         bufsize = (SPIDER_NET_MAX_FRAME + SPIDER_NET_RXBUF_ALIGN - 1) &
390                 (~(SPIDER_NET_RXBUF_ALIGN - 1));
391
392         /* and we need to have it 128 byte aligned, therefore we allocate a
393          * bit more */
394         /* allocate an skb */
395         descr->skb = dev_alloc_skb(bufsize + SPIDER_NET_RXBUF_ALIGN - 1);
396         if (!descr->skb) {
397                 if (netif_msg_rx_err(card) && net_ratelimit())
398                         pr_err("Not enough memory to allocate rx buffer\n");
399                 card->spider_stats.alloc_rx_skb_error++;
400                 return -ENOMEM;
401         }
402         descr->buf_size = bufsize;
403         descr->result_size = 0;
404         descr->valid_size = 0;
405         descr->data_status = 0;
406         descr->data_error = 0;
407
408         offset = ((unsigned long)descr->skb->data) &
409                 (SPIDER_NET_RXBUF_ALIGN - 1);
410         if (offset)
411                 skb_reserve(descr->skb, SPIDER_NET_RXBUF_ALIGN - offset);
412         /* io-mmu-map the skb */
413         buf = pci_map_single(card->pdev, descr->skb->data,
414                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
415         descr->buf_addr = buf;
416         if (pci_dma_mapping_error(buf)) {
417                 dev_kfree_skb_any(descr->skb);
418                 if (netif_msg_rx_err(card) && net_ratelimit())
419                         pr_err("Could not iommu-map rx buffer\n");
420                 card->spider_stats.rx_iommu_map_error++;
421                 descr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
422         } else {
423                 descr->dmac_cmd_status = SPIDER_NET_DESCR_CARDOWNED |
424                                          SPIDER_NET_DMAC_NOINTR_COMPLETE;
425         }
426
427         return error;
428 }
429
430 /**
431  * spider_net_enable_rxchtails - sets RX dmac chain tail addresses
432  * @card: card structure
433  *
434  * spider_net_enable_rxchtails sets the RX DMAC chain tail adresses in the
435  * chip by writing to the appropriate register. DMA is enabled in
436  * spider_net_enable_rxdmac.
437  */
438 static inline void
439 spider_net_enable_rxchtails(struct spider_net_card *card)
440 {
441         /* assume chain is aligned correctly */
442         spider_net_write_reg(card, SPIDER_NET_GDADCHA ,
443                              card->rx_chain.tail->bus_addr);
444 }
445
446 /**
447  * spider_net_enable_rxdmac - enables a receive DMA controller
448  * @card: card structure
449  *
450  * spider_net_enable_rxdmac enables the DMA controller by setting RX_DMA_EN
451  * in the GDADMACCNTR register
452  */
453 static inline void
454 spider_net_enable_rxdmac(struct spider_net_card *card)
455 {
456         wmb();
457         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
458                              SPIDER_NET_DMA_RX_VALUE);
459 }
460
461 /**
462  * spider_net_refill_rx_chain - refills descriptors/skbs in the rx chains
463  * @card: card structure
464  *
465  * refills descriptors in the rx chain: allocates skbs and iommu-maps them.
466  */
467 static void
468 spider_net_refill_rx_chain(struct spider_net_card *card)
469 {
470         struct spider_net_descr_chain *chain = &card->rx_chain;
471         unsigned long flags;
472
473         /* one context doing the refill (and a second context seeing that
474          * and omitting it) is ok. If called by NAPI, we'll be called again
475          * as spider_net_decode_one_descr is called several times. If some
476          * interrupt calls us, the NAPI is about to clean up anyway. */
477         if (!spin_trylock_irqsave(&chain->lock, flags))
478                 return;
479
480         while (spider_net_get_descr_status(chain->head) ==
481                         SPIDER_NET_DESCR_NOT_IN_USE) {
482                 if (spider_net_prepare_rx_descr(card, chain->head))
483                         break;
484                 chain->head = chain->head->next;
485         }
486
487         spin_unlock_irqrestore(&chain->lock, flags);
488 }
489
490 /**
491  * spider_net_alloc_rx_skbs - allocates rx skbs in rx descriptor chains
492  * @card: card structure
493  *
494  * returns 0 on success, <0 on failure
495  */
496 static int
497 spider_net_alloc_rx_skbs(struct spider_net_card *card)
498 {
499         int result;
500         struct spider_net_descr_chain *chain;
501
502         result = -ENOMEM;
503
504         chain = &card->rx_chain;
505         /* put at least one buffer into the chain. if this fails,
506          * we've got a problem. if not, spider_net_refill_rx_chain
507          * will do the rest at the end of this function */
508         if (spider_net_prepare_rx_descr(card, chain->head))
509                 goto error;
510         else
511                 chain->head = chain->head->next;
512
513         /* this will allocate the rest of the rx buffers; if not, it's
514          * business as usual later on */
515         spider_net_refill_rx_chain(card);
516         spider_net_enable_rxdmac(card);
517         return 0;
518
519 error:
520         spider_net_free_rx_chain_contents(card);
521         return result;
522 }
523
524 /**
525  * spider_net_get_multicast_hash - generates hash for multicast filter table
526  * @addr: multicast address
527  *
528  * returns the hash value.
529  *
530  * spider_net_get_multicast_hash calculates a hash value for a given multicast
531  * address, that is used to set the multicast filter tables
532  */
533 static u8
534 spider_net_get_multicast_hash(struct net_device *netdev, __u8 *addr)
535 {
536         u32 crc;
537         u8 hash;
538         char addr_for_crc[ETH_ALEN] = { 0, };
539         int i, bit;
540
541         for (i = 0; i < ETH_ALEN * 8; i++) {
542                 bit = (addr[i / 8] >> (i % 8)) & 1;
543                 addr_for_crc[ETH_ALEN - 1 - i / 8] += bit << (7 - (i % 8));
544         }
545
546         crc = crc32_be(~0, addr_for_crc, netdev->addr_len);
547
548         hash = (crc >> 27);
549         hash <<= 3;
550         hash |= crc & 7;
551         hash &= 0xff;
552
553         return hash;
554 }
555
556 /**
557  * spider_net_set_multi - sets multicast addresses and promisc flags
558  * @netdev: interface device structure
559  *
560  * spider_net_set_multi configures multicast addresses as needed for the
561  * netdev interface. It also sets up multicast, allmulti and promisc
562  * flags appropriately
563  */
564 static void
565 spider_net_set_multi(struct net_device *netdev)
566 {
567         struct dev_mc_list *mc;
568         u8 hash;
569         int i;
570         u32 reg;
571         struct spider_net_card *card = netdev_priv(netdev);
572         unsigned long bitmask[SPIDER_NET_MULTICAST_HASHES / BITS_PER_LONG] =
573                 {0, };
574
575         spider_net_set_promisc(card);
576
577         if (netdev->flags & IFF_ALLMULTI) {
578                 for (i = 0; i < SPIDER_NET_MULTICAST_HASHES; i++) {
579                         set_bit(i, bitmask);
580                 }
581                 goto write_hash;
582         }
583
584         /* well, we know, what the broadcast hash value is: it's xfd
585         hash = spider_net_get_multicast_hash(netdev, netdev->broadcast); */
586         set_bit(0xfd, bitmask);
587
588         for (mc = netdev->mc_list; mc; mc = mc->next) {
589                 hash = spider_net_get_multicast_hash(netdev, mc->dmi_addr);
590                 set_bit(hash, bitmask);
591         }
592
593 write_hash:
594         for (i = 0; i < SPIDER_NET_MULTICAST_HASHES / 4; i++) {
595                 reg = 0;
596                 if (test_bit(i * 4, bitmask))
597                         reg += 0x08;
598                 reg <<= 8;
599                 if (test_bit(i * 4 + 1, bitmask))
600                         reg += 0x08;
601                 reg <<= 8;
602                 if (test_bit(i * 4 + 2, bitmask))
603                         reg += 0x08;
604                 reg <<= 8;
605                 if (test_bit(i * 4 + 3, bitmask))
606                         reg += 0x08;
607
608                 spider_net_write_reg(card, SPIDER_NET_GMRMHFILnR + i * 4, reg);
609         }
610 }
611
612 /**
613  * spider_net_disable_rxdmac - disables the receive DMA controller
614  * @card: card structure
615  *
616  * spider_net_disable_rxdmac terminates processing on the DMA controller by
617  * turing off DMA and issueing a force end
618  */
619 static void
620 spider_net_disable_rxdmac(struct spider_net_card *card)
621 {
622         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
623                              SPIDER_NET_DMA_RX_FEND_VALUE);
624 }
625
626 /**
627  * spider_net_prepare_tx_descr - fill tx descriptor with skb data
628  * @card: card structure
629  * @descr: descriptor structure to fill out
630  * @skb: packet to use
631  *
632  * returns 0 on success, <0 on failure.
633  *
634  * fills out the descriptor structure with skb data and len. Copies data,
635  * if needed (32bit DMA!)
636  */
637 static int
638 spider_net_prepare_tx_descr(struct spider_net_card *card,
639                             struct sk_buff *skb)
640 {
641         struct spider_net_descr *descr;
642         dma_addr_t buf;
643         unsigned long flags;
644
645         buf = pci_map_single(card->pdev, skb->data, skb->len, PCI_DMA_TODEVICE);
646         if (pci_dma_mapping_error(buf)) {
647                 if (netif_msg_tx_err(card) && net_ratelimit())
648                         pr_err("could not iommu-map packet (%p, %i). "
649                                   "Dropping packet\n", skb->data, skb->len);
650                 card->spider_stats.tx_iommu_map_error++;
651                 return -ENOMEM;
652         }
653
654         spin_lock_irqsave(&card->tx_chain.lock, flags);
655         descr = card->tx_chain.head;
656         card->tx_chain.head = descr->next;
657
658         descr->buf_addr = buf;
659         descr->buf_size = skb->len;
660         descr->next_descr_addr = 0;
661         descr->skb = skb;
662         descr->data_status = 0;
663
664         descr->dmac_cmd_status =
665                         SPIDER_NET_DESCR_CARDOWNED | SPIDER_NET_DMAC_NOCS;
666         spin_unlock_irqrestore(&card->tx_chain.lock, flags);
667
668         if (skb->protocol == htons(ETH_P_IP))
669                 switch (skb->nh.iph->protocol) {
670                 case IPPROTO_TCP:
671                         descr->dmac_cmd_status |= SPIDER_NET_DMAC_TCP;
672                         break;
673                 case IPPROTO_UDP:
674                         descr->dmac_cmd_status |= SPIDER_NET_DMAC_UDP;
675                         break;
676                 }
677
678         /* Chain the bus address, so that the DMA engine finds this descr. */
679         descr->prev->next_descr_addr = descr->bus_addr;
680
681         card->netdev->trans_start = jiffies; /* set netdev watchdog timer */
682         return 0;
683 }
684
685 static int
686 spider_net_set_low_watermark(struct spider_net_card *card)
687 {
688         unsigned long flags;
689         int status;
690         int cnt=0;
691         int i;
692         struct spider_net_descr *descr = card->tx_chain.tail;
693
694         /* Measure the length of the queue. Measurement does not
695          * need to be precise -- does not need a lock. */
696         while (descr != card->tx_chain.head) {
697                 status = descr->dmac_cmd_status & SPIDER_NET_DESCR_NOT_IN_USE;
698                 if (status == SPIDER_NET_DESCR_NOT_IN_USE)
699                         break;
700                 descr = descr->next;
701                 cnt++;
702         }
703
704         /* If TX queue is short, don't even bother with interrupts */
705         if (cnt < card->tx_chain.num_desc/4)
706                 return cnt;
707
708         /* Set low-watermark 3/4th's of the way into the queue. */
709         descr = card->tx_chain.tail;
710         cnt = (cnt*3)/4;
711         for (i=0;i<cnt; i++)
712                 descr = descr->next;
713
714         /* Set the new watermark, clear the old watermark */
715         spin_lock_irqsave(&card->tx_chain.lock, flags);
716         descr->dmac_cmd_status |= SPIDER_NET_DESCR_TXDESFLG;
717         if (card->low_watermark && card->low_watermark != descr)
718                 card->low_watermark->dmac_cmd_status =
719                      card->low_watermark->dmac_cmd_status & ~SPIDER_NET_DESCR_TXDESFLG;
720         card->low_watermark = descr;
721         spin_unlock_irqrestore(&card->tx_chain.lock, flags);
722         return cnt;
723 }
724
725 /**
726  * spider_net_release_tx_chain - processes sent tx descriptors
727  * @card: adapter structure
728  * @brutal: if set, don't care about whether descriptor seems to be in use
729  *
730  * returns 0 if the tx ring is empty, otherwise 1.
731  *
732  * spider_net_release_tx_chain releases the tx descriptors that spider has
733  * finished with (if non-brutal) or simply release tx descriptors (if brutal).
734  * If some other context is calling this function, we return 1 so that we're
735  * scheduled again (if we were scheduled) and will not loose initiative.
736  */
737 static int
738 spider_net_release_tx_chain(struct spider_net_card *card, int brutal)
739 {
740         struct spider_net_descr_chain *chain = &card->tx_chain;
741         struct spider_net_descr *descr;
742         struct sk_buff *skb;
743         u32 buf_addr;
744         unsigned long flags;
745         int status;
746
747         while (chain->tail != chain->head) {
748                 spin_lock_irqsave(&chain->lock, flags);
749                 descr = chain->tail;
750
751                 status = spider_net_get_descr_status(descr);
752                 switch (status) {
753                 case SPIDER_NET_DESCR_COMPLETE:
754                         card->netdev_stats.tx_packets++;
755                         card->netdev_stats.tx_bytes += descr->skb->len;
756                         break;
757
758                 case SPIDER_NET_DESCR_CARDOWNED:
759                         if (!brutal) {
760                                 spin_unlock_irqrestore(&chain->lock, flags);
761                                 return 1;
762                         }
763
764                         /* fallthrough, if we release the descriptors
765                          * brutally (then we don't care about
766                          * SPIDER_NET_DESCR_CARDOWNED) */
767
768                 case SPIDER_NET_DESCR_RESPONSE_ERROR:
769                 case SPIDER_NET_DESCR_PROTECTION_ERROR:
770                 case SPIDER_NET_DESCR_FORCE_END:
771                         if (netif_msg_tx_err(card))
772                                 pr_err("%s: forcing end of tx descriptor "
773                                        "with status x%02x\n",
774                                        card->netdev->name, status);
775                         card->netdev_stats.tx_errors++;
776                         break;
777
778                 default:
779                         card->netdev_stats.tx_dropped++;
780                         if (!brutal) {
781                                 spin_unlock_irqrestore(&chain->lock, flags);
782                                 return 1;
783                         }
784                 }
785
786                 chain->tail = descr->next;
787                 descr->dmac_cmd_status |= SPIDER_NET_DESCR_NOT_IN_USE;
788                 skb = descr->skb;
789                 buf_addr = descr->buf_addr;
790                 spin_unlock_irqrestore(&chain->lock, flags);
791
792                 /* unmap the skb */
793                 if (skb) {
794                         pci_unmap_single(card->pdev, buf_addr, skb->len,
795                                         PCI_DMA_TODEVICE);
796                         dev_kfree_skb(skb);
797                 }
798         }
799         return 0;
800 }
801
802 /**
803  * spider_net_kick_tx_dma - enables TX DMA processing
804  * @card: card structure
805  * @descr: descriptor address to enable TX processing at
806  *
807  * This routine will start the transmit DMA running if
808  * it is not already running. This routine ned only be
809  * called when queueing a new packet to an empty tx queue.
810  * Writes the current tx chain head as start address
811  * of the tx descriptor chain and enables the transmission
812  * DMA engine.
813  */
814 static inline void
815 spider_net_kick_tx_dma(struct spider_net_card *card)
816 {
817         struct spider_net_descr *descr;
818
819         if (spider_net_read_reg(card, SPIDER_NET_GDTDMACCNTR) &
820                         SPIDER_NET_TX_DMA_EN)
821                 goto out;
822
823         descr = card->tx_chain.tail;
824         for (;;) {
825                 if (spider_net_get_descr_status(descr) ==
826                                 SPIDER_NET_DESCR_CARDOWNED) {
827                         spider_net_write_reg(card, SPIDER_NET_GDTDCHA,
828                                         descr->bus_addr);
829                         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
830                                         SPIDER_NET_DMA_TX_VALUE);
831                         break;
832                 }
833                 if (descr == card->tx_chain.head)
834                         break;
835                 descr = descr->next;
836         }
837
838 out:
839         mod_timer(&card->tx_timer, jiffies + SPIDER_NET_TX_TIMER);
840 }
841
842 /**
843  * spider_net_xmit - transmits a frame over the device
844  * @skb: packet to send out
845  * @netdev: interface device structure
846  *
847  * returns 0 on success, !0 on failure
848  */
849 static int
850 spider_net_xmit(struct sk_buff *skb, struct net_device *netdev)
851 {
852         int cnt;
853         struct spider_net_card *card = netdev_priv(netdev);
854         struct spider_net_descr_chain *chain = &card->tx_chain;
855
856         spider_net_release_tx_chain(card, 0);
857
858         if ((chain->head->next == chain->tail->prev) ||
859            (spider_net_prepare_tx_descr(card, skb) != 0)) {
860
861                 card->netdev_stats.tx_dropped++;
862                 netif_stop_queue(netdev);
863                 return NETDEV_TX_BUSY;
864         }
865
866         cnt = spider_net_set_low_watermark(card);
867         if (cnt < 5)
868                 spider_net_kick_tx_dma(card);
869         return NETDEV_TX_OK;
870 }
871
872 /**
873  * spider_net_cleanup_tx_ring - cleans up the TX ring
874  * @card: card structure
875  *
876  * spider_net_cleanup_tx_ring is called by either the tx_timer
877  * or from the NAPI polling routine.
878  * This routine releases resources associted with transmitted
879  * packets, including updating the queue tail pointer.
880  */
881 static void
882 spider_net_cleanup_tx_ring(struct spider_net_card *card)
883 {
884         if ((spider_net_release_tx_chain(card, 0) != 0) &&
885             (card->netdev->flags & IFF_UP)) {
886                 spider_net_kick_tx_dma(card);
887                 netif_wake_queue(card->netdev);
888         }
889 }
890
891 /**
892  * spider_net_do_ioctl - called for device ioctls
893  * @netdev: interface device structure
894  * @ifr: request parameter structure for ioctl
895  * @cmd: command code for ioctl
896  *
897  * returns 0 on success, <0 on failure. Currently, we have no special ioctls.
898  * -EOPNOTSUPP is returned, if an unknown ioctl was requested
899  */
900 static int
901 spider_net_do_ioctl(struct net_device *netdev, struct ifreq *ifr, int cmd)
902 {
903         switch (cmd) {
904         default:
905                 return -EOPNOTSUPP;
906         }
907 }
908
909 /**
910  * spider_net_pass_skb_up - takes an skb from a descriptor and passes it on
911  * @descr: descriptor to process
912  * @card: card structure
913  *
914  * returns 1 on success, 0 if no packet was passed to the stack
915  *
916  * Fills out skb structure and passes the data to the stack.
917  * The descriptor state is not changed.
918  */
919 static int
920 spider_net_pass_skb_up(struct spider_net_descr *descr,
921                        struct spider_net_card *card)
922 {
923         struct sk_buff *skb;
924         struct net_device *netdev;
925         u32 data_status, data_error;
926
927         data_status = descr->data_status;
928         data_error = descr->data_error;
929
930         netdev = card->netdev;
931
932         /* the cases we'll throw away the packet immediately */
933         if (data_error & SPIDER_NET_DESTROY_RX_FLAGS) {
934                 if (netif_msg_rx_err(card))
935                         pr_err("error in received descriptor found, "
936                                "data_status=x%08x, data_error=x%08x\n",
937                                data_status, data_error);
938                 card->spider_stats.rx_desc_error++;
939                 return 0;
940         }
941
942         skb = descr->skb;
943         skb->dev = netdev;
944         skb_put(skb, descr->valid_size);
945
946         /* the card seems to add 2 bytes of junk in front
947          * of the ethernet frame */
948 #define SPIDER_MISALIGN         2
949         skb_pull(skb, SPIDER_MISALIGN);
950         skb->protocol = eth_type_trans(skb, netdev);
951
952         /* checksum offload */
953         if (card->options.rx_csum) {
954                 if ( ( (data_status & SPIDER_NET_DATA_STATUS_CKSUM_MASK) ==
955                        SPIDER_NET_DATA_STATUS_CKSUM_MASK) &&
956                      !(data_error & SPIDER_NET_DATA_ERR_CKSUM_MASK))
957                         skb->ip_summed = CHECKSUM_UNNECESSARY;
958                 else
959                         skb->ip_summed = CHECKSUM_NONE;
960         } else
961                 skb->ip_summed = CHECKSUM_NONE;
962
963         if (data_status & SPIDER_NET_VLAN_PACKET) {
964                 /* further enhancements: HW-accel VLAN
965                  * vlan_hwaccel_receive_skb
966                  */
967         }
968
969         /* pass skb up to stack */
970         netif_receive_skb(skb);
971
972         /* update netdevice statistics */
973         card->netdev_stats.rx_packets++;
974         card->netdev_stats.rx_bytes += skb->len;
975
976         return 1;
977 }
978
979 /**
980  * spider_net_decode_one_descr - processes an rx descriptor
981  * @card: card structure
982  *
983  * Returns 1 if a packet has been sent to the stack, otherwise 0
984  *
985  * Processes an rx descriptor by iommu-unmapping the data buffer and passing
986  * the packet up to the stack. This function is called in softirq
987  * context, e.g. either bottom half from interrupt or NAPI polling context
988  */
989 static int
990 spider_net_decode_one_descr(struct spider_net_card *card)
991 {
992         struct spider_net_descr_chain *chain = &card->rx_chain;
993         struct spider_net_descr *descr = chain->tail;
994         int status;
995         int result;
996
997         status = spider_net_get_descr_status(descr);
998
999         /* nothing in the descriptor yet */
1000         if (status == SPIDER_NET_DESCR_CARDOWNED)
1001                 return 0;
1002
1003         if (status == SPIDER_NET_DESCR_NOT_IN_USE) {
1004                 /* not initialized yet, the ring must be empty */
1005                 spider_net_refill_rx_chain(card);
1006                 spider_net_enable_rxdmac(card);
1007                 return 0;
1008         }
1009
1010         /* descriptor definitively used -- move on tail */
1011         chain->tail = descr->next;
1012
1013         result = 0;
1014
1015         /* unmap descriptor */
1016         pci_unmap_single(card->pdev, descr->buf_addr,
1017                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
1018
1019         if ( (status == SPIDER_NET_DESCR_RESPONSE_ERROR) ||
1020              (status == SPIDER_NET_DESCR_PROTECTION_ERROR) ||
1021              (status == SPIDER_NET_DESCR_FORCE_END) ) {
1022                 if (netif_msg_rx_err(card))
1023                         pr_err("%s: dropping RX descriptor with state %d\n",
1024                                card->netdev->name, status);
1025                 card->netdev_stats.rx_dropped++;
1026                 dev_kfree_skb_irq(descr->skb);
1027                 goto refill;
1028         }
1029
1030         if ( (status != SPIDER_NET_DESCR_COMPLETE) &&
1031              (status != SPIDER_NET_DESCR_FRAME_END) ) {
1032                 if (netif_msg_rx_err(card))
1033                         pr_err("%s: RX descriptor with unkown state %d\n",
1034                                card->netdev->name, status);
1035                 card->spider_stats.rx_desc_unk_state++;
1036                 dev_kfree_skb_irq(descr->skb);
1037                 goto refill;
1038         }
1039
1040         /* ok, we've got a packet in descr */
1041         result = spider_net_pass_skb_up(descr, card);
1042 refill:
1043         /* change the descriptor state: */
1044         descr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1045         return result;
1046 }
1047
1048 /**
1049  * spider_net_poll - NAPI poll function called by the stack to return packets
1050  * @netdev: interface device structure
1051  * @budget: number of packets we can pass to the stack at most
1052  *
1053  * returns 0 if no more packets available to the driver/stack. Returns 1,
1054  * if the quota is exceeded, but the driver has still packets.
1055  *
1056  * spider_net_poll returns all packets from the rx descriptors to the stack
1057  * (using netif_receive_skb). If all/enough packets are up, the driver
1058  * reenables interrupts and returns 0. If not, 1 is returned.
1059  */
1060 static int
1061 spider_net_poll(struct net_device *netdev, int *budget)
1062 {
1063         struct spider_net_card *card = netdev_priv(netdev);
1064         int packets_to_do, packets_done = 0;
1065         int no_more_packets = 0;
1066
1067         spider_net_cleanup_tx_ring(card);
1068         packets_to_do = min(*budget, netdev->quota);
1069
1070         while (packets_to_do) {
1071                 if (spider_net_decode_one_descr(card)) {
1072                         packets_done++;
1073                         packets_to_do--;
1074                 } else {
1075                         /* no more packets for the stack */
1076                         no_more_packets = 1;
1077                         break;
1078                 }
1079         }
1080
1081         netdev->quota -= packets_done;
1082         *budget -= packets_done;
1083         spider_net_refill_rx_chain(card);
1084
1085         /* if all packets are in the stack, enable interrupts and return 0 */
1086         /* if not, return 1 */
1087         if (no_more_packets) {
1088                 netif_rx_complete(netdev);
1089                 spider_net_rx_irq_on(card);
1090                 return 0;
1091         }
1092
1093         return 1;
1094 }
1095
1096 /**
1097  * spider_net_vlan_rx_reg - initializes VLAN structures in the driver and card
1098  * @netdev: interface device structure
1099  * @grp: vlan_group structure that is registered (NULL on destroying interface)
1100  */
1101 static void
1102 spider_net_vlan_rx_reg(struct net_device *netdev, struct vlan_group *grp)
1103 {
1104         /* further enhancement... yet to do */
1105         return;
1106 }
1107
1108 /**
1109  * spider_net_vlan_rx_add - adds VLAN id to the card filter
1110  * @netdev: interface device structure
1111  * @vid: VLAN id to add
1112  */
1113 static void
1114 spider_net_vlan_rx_add(struct net_device *netdev, uint16_t vid)
1115 {
1116         /* further enhancement... yet to do */
1117         /* add vid to card's VLAN filter table */
1118         return;
1119 }
1120
1121 /**
1122  * spider_net_vlan_rx_kill - removes VLAN id to the card filter
1123  * @netdev: interface device structure
1124  * @vid: VLAN id to remove
1125  */
1126 static void
1127 spider_net_vlan_rx_kill(struct net_device *netdev, uint16_t vid)
1128 {
1129         /* further enhancement... yet to do */
1130         /* remove vid from card's VLAN filter table */
1131 }
1132
1133 /**
1134  * spider_net_get_stats - get interface statistics
1135  * @netdev: interface device structure
1136  *
1137  * returns the interface statistics residing in the spider_net_card struct
1138  */
1139 static struct net_device_stats *
1140 spider_net_get_stats(struct net_device *netdev)
1141 {
1142         struct spider_net_card *card = netdev_priv(netdev);
1143         struct net_device_stats *stats = &card->netdev_stats;
1144         return stats;
1145 }
1146
1147 /**
1148  * spider_net_change_mtu - changes the MTU of an interface
1149  * @netdev: interface device structure
1150  * @new_mtu: new MTU value
1151  *
1152  * returns 0 on success, <0 on failure
1153  */
1154 static int
1155 spider_net_change_mtu(struct net_device *netdev, int new_mtu)
1156 {
1157         /* no need to re-alloc skbs or so -- the max mtu is about 2.3k
1158          * and mtu is outbound only anyway */
1159         if ( (new_mtu < SPIDER_NET_MIN_MTU ) ||
1160                 (new_mtu > SPIDER_NET_MAX_MTU) )
1161                 return -EINVAL;
1162         netdev->mtu = new_mtu;
1163         return 0;
1164 }
1165
1166 /**
1167  * spider_net_set_mac - sets the MAC of an interface
1168  * @netdev: interface device structure
1169  * @ptr: pointer to new MAC address
1170  *
1171  * Returns 0 on success, <0 on failure. Currently, we don't support this
1172  * and will always return EOPNOTSUPP.
1173  */
1174 static int
1175 spider_net_set_mac(struct net_device *netdev, void *p)
1176 {
1177         struct spider_net_card *card = netdev_priv(netdev);
1178         u32 macl, macu, regvalue;
1179         struct sockaddr *addr = p;
1180
1181         if (!is_valid_ether_addr(addr->sa_data))
1182                 return -EADDRNOTAVAIL;
1183
1184         /* switch off GMACTPE and GMACRPE */
1185         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1186         regvalue &= ~((1 << 5) | (1 << 6));
1187         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1188
1189         /* write mac */
1190         macu = (addr->sa_data[0]<<24) + (addr->sa_data[1]<<16) +
1191                 (addr->sa_data[2]<<8) + (addr->sa_data[3]);
1192         macl = (addr->sa_data[4]<<8) + (addr->sa_data[5]);
1193         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACU, macu);
1194         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACL, macl);
1195
1196         /* switch GMACTPE and GMACRPE back on */
1197         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1198         regvalue |= ((1 << 5) | (1 << 6));
1199         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1200
1201         spider_net_set_promisc(card);
1202
1203         /* look up, whether we have been successful */
1204         if (spider_net_get_mac_address(netdev))
1205                 return -EADDRNOTAVAIL;
1206         if (memcmp(netdev->dev_addr,addr->sa_data,netdev->addr_len))
1207                 return -EADDRNOTAVAIL;
1208
1209         return 0;
1210 }
1211
1212 /**
1213  * spider_net_handle_error_irq - handles errors raised by an interrupt
1214  * @card: card structure
1215  * @status_reg: interrupt status register 0 (GHIINT0STS)
1216  *
1217  * spider_net_handle_error_irq treats or ignores all error conditions
1218  * found when an interrupt is presented
1219  */
1220 static void
1221 spider_net_handle_error_irq(struct spider_net_card *card, u32 status_reg)
1222 {
1223         u32 error_reg1, error_reg2;
1224         u32 i;
1225         int show_error = 1;
1226
1227         error_reg1 = spider_net_read_reg(card, SPIDER_NET_GHIINT1STS);
1228         error_reg2 = spider_net_read_reg(card, SPIDER_NET_GHIINT2STS);
1229
1230         /* check GHIINT0STS ************************************/
1231         if (status_reg)
1232                 for (i = 0; i < 32; i++)
1233                         if (status_reg & (1<<i))
1234                                 switch (i)
1235         {
1236         /* let error_reg1 and error_reg2 evaluation decide, what to do
1237         case SPIDER_NET_PHYINT:
1238         case SPIDER_NET_GMAC2INT:
1239         case SPIDER_NET_GMAC1INT:
1240         case SPIDER_NET_GFIFOINT:
1241         case SPIDER_NET_DMACINT:
1242         case SPIDER_NET_GSYSINT:
1243                 break; */
1244
1245         case SPIDER_NET_GIPSINT:
1246                 show_error = 0;
1247                 break;
1248
1249         case SPIDER_NET_GPWOPCMPINT:
1250                 /* PHY write operation completed */
1251                 show_error = 0;
1252                 break;
1253         case SPIDER_NET_GPROPCMPINT:
1254                 /* PHY read operation completed */
1255                 /* we don't use semaphores, as we poll for the completion
1256                  * of the read operation in spider_net_read_phy. Should take
1257                  * about 50 us */
1258                 show_error = 0;
1259                 break;
1260         case SPIDER_NET_GPWFFINT:
1261                 /* PHY command queue full */
1262                 if (netif_msg_intr(card))
1263                         pr_err("PHY write queue full\n");
1264                 show_error = 0;
1265                 break;
1266
1267         /* case SPIDER_NET_GRMDADRINT: not used. print a message */
1268         /* case SPIDER_NET_GRMARPINT: not used. print a message */
1269         /* case SPIDER_NET_GRMMPINT: not used. print a message */
1270
1271         case SPIDER_NET_GDTDEN0INT:
1272                 /* someone has set TX_DMA_EN to 0 */
1273                 show_error = 0;
1274                 break;
1275
1276         case SPIDER_NET_GDDDEN0INT: /* fallthrough */
1277         case SPIDER_NET_GDCDEN0INT: /* fallthrough */
1278         case SPIDER_NET_GDBDEN0INT: /* fallthrough */
1279         case SPIDER_NET_GDADEN0INT:
1280                 /* someone has set RX_DMA_EN to 0 */
1281                 show_error = 0;
1282                 break;
1283
1284         /* RX interrupts */
1285         case SPIDER_NET_GDDFDCINT:
1286         case SPIDER_NET_GDCFDCINT:
1287         case SPIDER_NET_GDBFDCINT:
1288         case SPIDER_NET_GDAFDCINT:
1289         /* case SPIDER_NET_GDNMINT: not used. print a message */
1290         /* case SPIDER_NET_GCNMINT: not used. print a message */
1291         /* case SPIDER_NET_GBNMINT: not used. print a message */
1292         /* case SPIDER_NET_GANMINT: not used. print a message */
1293         /* case SPIDER_NET_GRFNMINT: not used. print a message */
1294                 show_error = 0;
1295                 break;
1296
1297         /* TX interrupts */
1298         case SPIDER_NET_GDTFDCINT:
1299                 show_error = 0;
1300                 break;
1301         case SPIDER_NET_GTTEDINT:
1302                 show_error = 0;
1303                 break;
1304         case SPIDER_NET_GDTDCEINT:
1305                 /* chain end. If a descriptor should be sent, kick off
1306                  * tx dma
1307                 if (card->tx_chain.tail != card->tx_chain.head)
1308                         spider_net_kick_tx_dma(card);
1309                 */
1310                 show_error = 0;
1311                 break;
1312
1313         /* case SPIDER_NET_G1TMCNTINT: not used. print a message */
1314         /* case SPIDER_NET_GFREECNTINT: not used. print a message */
1315         }
1316
1317         /* check GHIINT1STS ************************************/
1318         if (error_reg1)
1319                 for (i = 0; i < 32; i++)
1320                         if (error_reg1 & (1<<i))
1321                                 switch (i)
1322         {
1323         case SPIDER_NET_GTMFLLINT:
1324                 if (netif_msg_intr(card) && net_ratelimit())
1325                         pr_err("Spider TX RAM full\n");
1326                 show_error = 0;
1327                 break;
1328         case SPIDER_NET_GRFDFLLINT: /* fallthrough */
1329         case SPIDER_NET_GRFCFLLINT: /* fallthrough */
1330         case SPIDER_NET_GRFBFLLINT: /* fallthrough */
1331         case SPIDER_NET_GRFAFLLINT: /* fallthrough */
1332         case SPIDER_NET_GRMFLLINT:
1333                 if (netif_msg_intr(card) && net_ratelimit())
1334                         pr_err("Spider RX RAM full, incoming packets "
1335                                "might be discarded!\n");
1336                 spider_net_rx_irq_off(card);
1337                 netif_rx_schedule(card->netdev);
1338                 show_error = 0;
1339                 break;
1340
1341         /* case SPIDER_NET_GTMSHTINT: problem, print a message */
1342         case SPIDER_NET_GDTINVDINT:
1343                 /* allrighty. tx from previous descr ok */
1344                 show_error = 0;
1345                 break;
1346
1347         /* chain end */
1348         case SPIDER_NET_GDDDCEINT: /* fallthrough */
1349         case SPIDER_NET_GDCDCEINT: /* fallthrough */
1350         case SPIDER_NET_GDBDCEINT: /* fallthrough */
1351         case SPIDER_NET_GDADCEINT:
1352                 if (netif_msg_intr(card) && net_ratelimit())
1353                         pr_err("got descriptor chain end interrupt, "
1354                                "restarting DMAC %c.\n",
1355                                'D'-(i-SPIDER_NET_GDDDCEINT)/3);
1356                 spider_net_refill_rx_chain(card);
1357                 spider_net_enable_rxdmac(card);
1358                 show_error = 0;
1359                 break;
1360
1361         /* invalid descriptor */
1362         case SPIDER_NET_GDDINVDINT: /* fallthrough */
1363         case SPIDER_NET_GDCINVDINT: /* fallthrough */
1364         case SPIDER_NET_GDBINVDINT: /* fallthrough */
1365         case SPIDER_NET_GDAINVDINT:
1366                 /* could happen when rx chain is full */
1367                 spider_net_refill_rx_chain(card);
1368                 spider_net_enable_rxdmac(card);
1369                 show_error = 0;
1370                 break;
1371
1372         /* case SPIDER_NET_GDTRSERINT: problem, print a message */
1373         /* case SPIDER_NET_GDDRSERINT: problem, print a message */
1374         /* case SPIDER_NET_GDCRSERINT: problem, print a message */
1375         /* case SPIDER_NET_GDBRSERINT: problem, print a message */
1376         /* case SPIDER_NET_GDARSERINT: problem, print a message */
1377         /* case SPIDER_NET_GDSERINT: problem, print a message */
1378         /* case SPIDER_NET_GDTPTERINT: problem, print a message */
1379         /* case SPIDER_NET_GDDPTERINT: problem, print a message */
1380         /* case SPIDER_NET_GDCPTERINT: problem, print a message */
1381         /* case SPIDER_NET_GDBPTERINT: problem, print a message */
1382         /* case SPIDER_NET_GDAPTERINT: problem, print a message */
1383         default:
1384                 show_error = 1;
1385                 break;
1386         }
1387
1388         /* check GHIINT2STS ************************************/
1389         if (error_reg2)
1390                 for (i = 0; i < 32; i++)
1391                         if (error_reg2 & (1<<i))
1392                                 switch (i)
1393         {
1394         /* there is nothing we can (want  to) do at this time. Log a
1395          * message, we can switch on and off the specific values later on
1396         case SPIDER_NET_GPROPERINT:
1397         case SPIDER_NET_GMCTCRSNGINT:
1398         case SPIDER_NET_GMCTLCOLINT:
1399         case SPIDER_NET_GMCTTMOTINT:
1400         case SPIDER_NET_GMCRCAERINT:
1401         case SPIDER_NET_GMCRCALERINT:
1402         case SPIDER_NET_GMCRALNERINT:
1403         case SPIDER_NET_GMCROVRINT:
1404         case SPIDER_NET_GMCRRNTINT:
1405         case SPIDER_NET_GMCRRXERINT:
1406         case SPIDER_NET_GTITCSERINT:
1407         case SPIDER_NET_GTIFMTERINT:
1408         case SPIDER_NET_GTIPKTRVKINT:
1409         case SPIDER_NET_GTISPINGINT:
1410         case SPIDER_NET_GTISADNGINT:
1411         case SPIDER_NET_GTISPDNGINT:
1412         case SPIDER_NET_GRIFMTERINT:
1413         case SPIDER_NET_GRIPKTRVKINT:
1414         case SPIDER_NET_GRISPINGINT:
1415         case SPIDER_NET_GRISADNGINT:
1416         case SPIDER_NET_GRISPDNGINT:
1417                 break;
1418         */
1419                 default:
1420                         break;
1421         }
1422
1423         if ((show_error) && (netif_msg_intr(card)) && net_ratelimit())
1424                 pr_err("Got error interrupt on %s, GHIINT0STS = 0x%08x, "
1425                        "GHIINT1STS = 0x%08x, GHIINT2STS = 0x%08x\n",
1426                        card->netdev->name,
1427                        status_reg, error_reg1, error_reg2);
1428
1429         /* clear interrupt sources */
1430         spider_net_write_reg(card, SPIDER_NET_GHIINT1STS, error_reg1);
1431         spider_net_write_reg(card, SPIDER_NET_GHIINT2STS, error_reg2);
1432 }
1433
1434 /**
1435  * spider_net_interrupt - interrupt handler for spider_net
1436  * @irq: interupt number
1437  * @ptr: pointer to net_device
1438  * @regs: PU registers
1439  *
1440  * returns IRQ_HANDLED, if interrupt was for driver, or IRQ_NONE, if no
1441  * interrupt found raised by card.
1442  *
1443  * This is the interrupt handler, that turns off
1444  * interrupts for this device and makes the stack poll the driver
1445  */
1446 static irqreturn_t
1447 spider_net_interrupt(int irq, void *ptr)
1448 {
1449         struct net_device *netdev = ptr;
1450         struct spider_net_card *card = netdev_priv(netdev);
1451         u32 status_reg;
1452
1453         status_reg = spider_net_read_reg(card, SPIDER_NET_GHIINT0STS);
1454
1455         if (!status_reg)
1456                 return IRQ_NONE;
1457
1458         if (status_reg & SPIDER_NET_RXINT ) {
1459                 spider_net_rx_irq_off(card);
1460                 netif_rx_schedule(netdev);
1461         }
1462         if (status_reg & SPIDER_NET_TXINT)
1463                 netif_rx_schedule(netdev);
1464
1465         if (status_reg & SPIDER_NET_ERRINT )
1466                 spider_net_handle_error_irq(card, status_reg);
1467
1468         /* clear interrupt sources */
1469         spider_net_write_reg(card, SPIDER_NET_GHIINT0STS, status_reg);
1470
1471         return IRQ_HANDLED;
1472 }
1473
1474 #ifdef CONFIG_NET_POLL_CONTROLLER
1475 /**
1476  * spider_net_poll_controller - artificial interrupt for netconsole etc.
1477  * @netdev: interface device structure
1478  *
1479  * see Documentation/networking/netconsole.txt
1480  */
1481 static void
1482 spider_net_poll_controller(struct net_device *netdev)
1483 {
1484         disable_irq(netdev->irq);
1485         spider_net_interrupt(netdev->irq, netdev);
1486         enable_irq(netdev->irq);
1487 }
1488 #endif /* CONFIG_NET_POLL_CONTROLLER */
1489
1490 /**
1491  * spider_net_init_card - initializes the card
1492  * @card: card structure
1493  *
1494  * spider_net_init_card initializes the card so that other registers can
1495  * be used
1496  */
1497 static void
1498 spider_net_init_card(struct spider_net_card *card)
1499 {
1500         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1501                              SPIDER_NET_CKRCTRL_STOP_VALUE);
1502
1503         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1504                              SPIDER_NET_CKRCTRL_RUN_VALUE);
1505 }
1506
1507 /**
1508  * spider_net_enable_card - enables the card by setting all kinds of regs
1509  * @card: card structure
1510  *
1511  * spider_net_enable_card sets a lot of SMMIO registers to enable the device
1512  */
1513 static void
1514 spider_net_enable_card(struct spider_net_card *card)
1515 {
1516         int i;
1517         /* the following array consists of (register),(value) pairs
1518          * that are set in this function. A register of 0 ends the list */
1519         u32 regs[][2] = {
1520                 { SPIDER_NET_GRESUMINTNUM, 0 },
1521                 { SPIDER_NET_GREINTNUM, 0 },
1522
1523                 /* set interrupt frame number registers */
1524                 /* clear the single DMA engine registers first */
1525                 { SPIDER_NET_GFAFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1526                 { SPIDER_NET_GFBFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1527                 { SPIDER_NET_GFCFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1528                 { SPIDER_NET_GFDFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1529                 /* then set, what we really need */
1530                 { SPIDER_NET_GFFRMNUM, SPIDER_NET_FRAMENUM_VALUE },
1531
1532                 /* timer counter registers and stuff */
1533                 { SPIDER_NET_GFREECNNUM, 0 },
1534                 { SPIDER_NET_GONETIMENUM, 0 },
1535                 { SPIDER_NET_GTOUTFRMNUM, 0 },
1536
1537                 /* RX mode setting */
1538                 { SPIDER_NET_GRXMDSET, SPIDER_NET_RXMODE_VALUE },
1539                 /* TX mode setting */
1540                 { SPIDER_NET_GTXMDSET, SPIDER_NET_TXMODE_VALUE },
1541                 /* IPSEC mode setting */
1542                 { SPIDER_NET_GIPSECINIT, SPIDER_NET_IPSECINIT_VALUE },
1543
1544                 { SPIDER_NET_GFTRESTRT, SPIDER_NET_RESTART_VALUE },
1545
1546                 { SPIDER_NET_GMRWOLCTRL, 0 },
1547                 { SPIDER_NET_GTESTMD, 0x10000000 },
1548                 { SPIDER_NET_GTTQMSK, 0x00400040 },
1549
1550                 { SPIDER_NET_GMACINTEN, 0 },
1551
1552                 /* flow control stuff */
1553                 { SPIDER_NET_GMACAPAUSE, SPIDER_NET_MACAPAUSE_VALUE },
1554                 { SPIDER_NET_GMACTXPAUSE, SPIDER_NET_TXPAUSE_VALUE },
1555
1556                 { SPIDER_NET_GMACBSTLMT, SPIDER_NET_BURSTLMT_VALUE },
1557                 { 0, 0}
1558         };
1559
1560         i = 0;
1561         while (regs[i][0]) {
1562                 spider_net_write_reg(card, regs[i][0], regs[i][1]);
1563                 i++;
1564         }
1565
1566         /* clear unicast filter table entries 1 to 14 */
1567         for (i = 1; i <= 14; i++) {
1568                 spider_net_write_reg(card,
1569                                      SPIDER_NET_GMRUAFILnR + i * 8,
1570                                      0x00080000);
1571                 spider_net_write_reg(card,
1572                                      SPIDER_NET_GMRUAFILnR + i * 8 + 4,
1573                                      0x00000000);
1574         }
1575
1576         spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R, 0x08080000);
1577
1578         spider_net_write_reg(card, SPIDER_NET_ECMODE, SPIDER_NET_ECMODE_VALUE);
1579
1580         /* set chain tail adress for RX chains and
1581          * enable DMA */
1582         spider_net_enable_rxchtails(card);
1583         spider_net_enable_rxdmac(card);
1584
1585         spider_net_write_reg(card, SPIDER_NET_GRXDMAEN, SPIDER_NET_WOL_VALUE);
1586
1587         spider_net_write_reg(card, SPIDER_NET_GMACLENLMT,
1588                              SPIDER_NET_LENLMT_VALUE);
1589         spider_net_write_reg(card, SPIDER_NET_GMACMODE,
1590                              SPIDER_NET_MACMODE_VALUE);
1591         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1592                              SPIDER_NET_OPMODE_VALUE);
1593
1594         /* set interrupt mask registers */
1595         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK,
1596                              SPIDER_NET_INT0_MASK_VALUE);
1597         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK,
1598                              SPIDER_NET_INT1_MASK_VALUE);
1599         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK,
1600                              SPIDER_NET_INT2_MASK_VALUE);
1601
1602         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
1603                              SPIDER_NET_GDTBSTA);
1604 }
1605
1606 /**
1607  * spider_net_open - called upon ifonfig up
1608  * @netdev: interface device structure
1609  *
1610  * returns 0 on success, <0 on failure
1611  *
1612  * spider_net_open allocates all the descriptors and memory needed for
1613  * operation, sets up multicast list and enables interrupts
1614  */
1615 int
1616 spider_net_open(struct net_device *netdev)
1617 {
1618         struct spider_net_card *card = netdev_priv(netdev);
1619         struct spider_net_descr *descr;
1620         int result;
1621
1622         result = spider_net_init_chain(card, &card->tx_chain);
1623         if (result)
1624                 goto alloc_tx_failed;
1625         card->low_watermark = NULL;
1626
1627         result = spider_net_init_chain(card, &card->rx_chain);
1628         if (result)
1629                 goto alloc_rx_failed;
1630
1631         /* Make a ring of of bus addresses */
1632         descr = card->rx_chain.ring;
1633         do {
1634                 descr->next_descr_addr = descr->next->bus_addr;
1635                 descr = descr->next;
1636         } while (descr != card->rx_chain.ring);
1637
1638         /* Allocate rx skbs */
1639         if (spider_net_alloc_rx_skbs(card))
1640                 goto alloc_skbs_failed;
1641
1642         spider_net_set_multi(netdev);
1643
1644         /* further enhancement: setup hw vlan, if needed */
1645
1646         result = -EBUSY;
1647         if (request_irq(netdev->irq, spider_net_interrupt,
1648                              IRQF_SHARED, netdev->name, netdev))
1649                 goto register_int_failed;
1650
1651         spider_net_enable_card(card);
1652
1653         netif_start_queue(netdev);
1654         netif_carrier_on(netdev);
1655         netif_poll_enable(netdev);
1656
1657         return 0;
1658
1659 register_int_failed:
1660         spider_net_free_rx_chain_contents(card);
1661 alloc_skbs_failed:
1662         spider_net_free_chain(card, &card->rx_chain);
1663 alloc_rx_failed:
1664         spider_net_free_chain(card, &card->tx_chain);
1665 alloc_tx_failed:
1666         return result;
1667 }
1668
1669 /**
1670  * spider_net_setup_phy - setup PHY
1671  * @card: card structure
1672  *
1673  * returns 0 on success, <0 on failure
1674  *
1675  * spider_net_setup_phy is used as part of spider_net_probe. Sets
1676  * the PHY to 1000 Mbps
1677  **/
1678 static int
1679 spider_net_setup_phy(struct spider_net_card *card)
1680 {
1681         struct mii_phy *phy = &card->phy;
1682
1683         spider_net_write_reg(card, SPIDER_NET_GDTDMASEL,
1684                              SPIDER_NET_DMASEL_VALUE);
1685         spider_net_write_reg(card, SPIDER_NET_GPCCTRL,
1686                              SPIDER_NET_PHY_CTRL_VALUE);
1687         phy->mii_id = 1;
1688         phy->dev = card->netdev;
1689         phy->mdio_read = spider_net_read_phy;
1690         phy->mdio_write = spider_net_write_phy;
1691
1692         mii_phy_probe(phy, phy->mii_id);
1693
1694         if (phy->def->ops->setup_forced)
1695                 phy->def->ops->setup_forced(phy, SPEED_1000, DUPLEX_FULL);
1696
1697         phy->def->ops->enable_fiber(phy);
1698
1699         phy->def->ops->read_link(phy);
1700         pr_info("Found %s with %i Mbps, %s-duplex.\n", phy->def->name,
1701                 phy->speed, phy->duplex==1 ? "Full" : "Half");
1702
1703         return 0;
1704 }
1705
1706 /**
1707  * spider_net_download_firmware - loads firmware into the adapter
1708  * @card: card structure
1709  * @firmware_ptr: pointer to firmware data
1710  *
1711  * spider_net_download_firmware loads the firmware data into the
1712  * adapter. It assumes the length etc. to be allright.
1713  */
1714 static int
1715 spider_net_download_firmware(struct spider_net_card *card,
1716                              const void *firmware_ptr)
1717 {
1718         int sequencer, i;
1719         const u32 *fw_ptr = firmware_ptr;
1720
1721         /* stop sequencers */
1722         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1723                              SPIDER_NET_STOP_SEQ_VALUE);
1724
1725         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
1726              sequencer++) {
1727                 spider_net_write_reg(card,
1728                                      SPIDER_NET_GSnPRGADR + sequencer * 8, 0);
1729                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
1730                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
1731                                              sequencer * 8, *fw_ptr);
1732                         fw_ptr++;
1733                 }
1734         }
1735
1736         if (spider_net_read_reg(card, SPIDER_NET_GSINIT))
1737                 return -EIO;
1738
1739         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1740                              SPIDER_NET_RUN_SEQ_VALUE);
1741
1742         return 0;
1743 }
1744
1745 /**
1746  * spider_net_init_firmware - reads in firmware parts
1747  * @card: card structure
1748  *
1749  * Returns 0 on success, <0 on failure
1750  *
1751  * spider_net_init_firmware opens the sequencer firmware and does some basic
1752  * checks. This function opens and releases the firmware structure. A call
1753  * to download the firmware is performed before the release.
1754  *
1755  * Firmware format
1756  * ===============
1757  * spider_fw.bin is expected to be a file containing 6*1024*4 bytes, 4k being
1758  * the program for each sequencer. Use the command
1759  *    tail -q -n +2 Seq_code1_0x088.txt Seq_code2_0x090.txt              \
1760  *         Seq_code3_0x098.txt Seq_code4_0x0A0.txt Seq_code5_0x0A8.txt   \
1761  *         Seq_code6_0x0B0.txt | xxd -r -p -c4 > spider_fw.bin
1762  *
1763  * to generate spider_fw.bin, if you have sequencer programs with something
1764  * like the following contents for each sequencer:
1765  *    <ONE LINE COMMENT>
1766  *    <FIRST 4-BYTES-WORD FOR SEQUENCER>
1767  *    <SECOND 4-BYTES-WORD FOR SEQUENCER>
1768  *     ...
1769  *    <1024th 4-BYTES-WORD FOR SEQUENCER>
1770  */
1771 static int
1772 spider_net_init_firmware(struct spider_net_card *card)
1773 {
1774         struct firmware *firmware = NULL;
1775         struct device_node *dn;
1776         const u8 *fw_prop = NULL;
1777         int err = -ENOENT;
1778         int fw_size;
1779
1780         if (request_firmware((const struct firmware **)&firmware,
1781                              SPIDER_NET_FIRMWARE_NAME, &card->pdev->dev) == 0) {
1782                 if ( (firmware->size != SPIDER_NET_FIRMWARE_LEN) &&
1783                      netif_msg_probe(card) ) {
1784                         pr_err("Incorrect size of spidernet firmware in " \
1785                                "filesystem. Looking in host firmware...\n");
1786                         goto try_host_fw;
1787                 }
1788                 err = spider_net_download_firmware(card, firmware->data);
1789
1790                 release_firmware(firmware);
1791                 if (err)
1792                         goto try_host_fw;
1793
1794                 goto done;
1795         }
1796
1797 try_host_fw:
1798         dn = pci_device_to_OF_node(card->pdev);
1799         if (!dn)
1800                 goto out_err;
1801
1802         fw_prop = get_property(dn, "firmware", &fw_size);
1803         if (!fw_prop)
1804                 goto out_err;
1805
1806         if ( (fw_size != SPIDER_NET_FIRMWARE_LEN) &&
1807              netif_msg_probe(card) ) {
1808                 pr_err("Incorrect size of spidernet firmware in " \
1809                        "host firmware\n");
1810                 goto done;
1811         }
1812
1813         err = spider_net_download_firmware(card, fw_prop);
1814
1815 done:
1816         return err;
1817 out_err:
1818         if (netif_msg_probe(card))
1819                 pr_err("Couldn't find spidernet firmware in filesystem " \
1820                        "or host firmware\n");
1821         return err;
1822 }
1823
1824 /**
1825  * spider_net_workaround_rxramfull - work around firmware bug
1826  * @card: card structure
1827  *
1828  * no return value
1829  **/
1830 static void
1831 spider_net_workaround_rxramfull(struct spider_net_card *card)
1832 {
1833         int i, sequencer = 0;
1834
1835         /* cancel reset */
1836         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1837                              SPIDER_NET_CKRCTRL_RUN_VALUE);
1838
1839         /* empty sequencer data */
1840         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
1841              sequencer++) {
1842                 spider_net_write_reg(card, SPIDER_NET_GSnPRGADR +
1843                                      sequencer * 8, 0x0);
1844                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
1845                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
1846                                              sequencer * 8, 0x0);
1847                 }
1848         }
1849
1850         /* set sequencer operation */
1851         spider_net_write_reg(card, SPIDER_NET_GSINIT, 0x000000fe);
1852
1853         /* reset */
1854         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1855                              SPIDER_NET_CKRCTRL_STOP_VALUE);
1856 }
1857
1858 /**
1859  * spider_net_stop - called upon ifconfig down
1860  * @netdev: interface device structure
1861  *
1862  * always returns 0
1863  */
1864 int
1865 spider_net_stop(struct net_device *netdev)
1866 {
1867         struct spider_net_card *card = netdev_priv(netdev);
1868
1869         netif_poll_disable(netdev);
1870         netif_carrier_off(netdev);
1871         netif_stop_queue(netdev);
1872         del_timer_sync(&card->tx_timer);
1873
1874         /* disable/mask all interrupts */
1875         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, 0);
1876         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK, 0);
1877         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK, 0);
1878
1879         /* free_irq(netdev->irq, netdev);*/
1880         free_irq(to_pci_dev(netdev->class_dev.dev)->irq, netdev);
1881
1882         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
1883                              SPIDER_NET_DMA_TX_FEND_VALUE);
1884
1885         /* turn off DMA, force end */
1886         spider_net_disable_rxdmac(card);
1887
1888         /* release chains */
1889         spider_net_release_tx_chain(card, 1);
1890         spider_net_free_rx_chain_contents(card);
1891
1892         spider_net_free_rx_chain_contents(card);
1893
1894         spider_net_free_chain(card, &card->tx_chain);
1895         spider_net_free_chain(card, &card->rx_chain);
1896
1897         return 0;
1898 }
1899
1900 /**
1901  * spider_net_tx_timeout_task - task scheduled by the watchdog timeout
1902  * function (to be called not under interrupt status)
1903  * @data: data, is interface device structure
1904  *
1905  * called as task when tx hangs, resets interface (if interface is up)
1906  */
1907 static void
1908 spider_net_tx_timeout_task(struct work_struct *work)
1909 {
1910         struct spider_net_card *card =
1911                 container_of(work, struct spider_net_card, tx_timeout_task);
1912         struct net_device *netdev = card->netdev;
1913
1914         if (!(netdev->flags & IFF_UP))
1915                 goto out;
1916
1917         netif_device_detach(netdev);
1918         spider_net_stop(netdev);
1919
1920         spider_net_workaround_rxramfull(card);
1921         spider_net_init_card(card);
1922
1923         if (spider_net_setup_phy(card))
1924                 goto out;
1925         if (spider_net_init_firmware(card))
1926                 goto out;
1927
1928         spider_net_open(netdev);
1929         spider_net_kick_tx_dma(card);
1930         netif_device_attach(netdev);
1931
1932 out:
1933         atomic_dec(&card->tx_timeout_task_counter);
1934 }
1935
1936 /**
1937  * spider_net_tx_timeout - called when the tx timeout watchdog kicks in.
1938  * @netdev: interface device structure
1939  *
1940  * called, if tx hangs. Schedules a task that resets the interface
1941  */
1942 static void
1943 spider_net_tx_timeout(struct net_device *netdev)
1944 {
1945         struct spider_net_card *card;
1946
1947         card = netdev_priv(netdev);
1948         atomic_inc(&card->tx_timeout_task_counter);
1949         if (netdev->flags & IFF_UP)
1950                 schedule_work(&card->tx_timeout_task);
1951         else
1952                 atomic_dec(&card->tx_timeout_task_counter);
1953         card->spider_stats.tx_timeouts++;
1954 }
1955
1956 /**
1957  * spider_net_setup_netdev_ops - initialization of net_device operations
1958  * @netdev: net_device structure
1959  *
1960  * fills out function pointers in the net_device structure
1961  */
1962 static void
1963 spider_net_setup_netdev_ops(struct net_device *netdev)
1964 {
1965         netdev->open = &spider_net_open;
1966         netdev->stop = &spider_net_stop;
1967         netdev->hard_start_xmit = &spider_net_xmit;
1968         netdev->get_stats = &spider_net_get_stats;
1969         netdev->set_multicast_list = &spider_net_set_multi;
1970         netdev->set_mac_address = &spider_net_set_mac;
1971         netdev->change_mtu = &spider_net_change_mtu;
1972         netdev->do_ioctl = &spider_net_do_ioctl;
1973         /* tx watchdog */
1974         netdev->tx_timeout = &spider_net_tx_timeout;
1975         netdev->watchdog_timeo = SPIDER_NET_WATCHDOG_TIMEOUT;
1976         /* NAPI */
1977         netdev->poll = &spider_net_poll;
1978         netdev->weight = SPIDER_NET_NAPI_WEIGHT;
1979         /* HW VLAN */
1980         netdev->vlan_rx_register = &spider_net_vlan_rx_reg;
1981         netdev->vlan_rx_add_vid = &spider_net_vlan_rx_add;
1982         netdev->vlan_rx_kill_vid = &spider_net_vlan_rx_kill;
1983 #ifdef CONFIG_NET_POLL_CONTROLLER
1984         /* poll controller */
1985         netdev->poll_controller = &spider_net_poll_controller;
1986 #endif /* CONFIG_NET_POLL_CONTROLLER */
1987         /* ethtool ops */
1988         netdev->ethtool_ops = &spider_net_ethtool_ops;
1989 }
1990
1991 /**
1992  * spider_net_setup_netdev - initialization of net_device
1993  * @card: card structure
1994  *
1995  * Returns 0 on success or <0 on failure
1996  *
1997  * spider_net_setup_netdev initializes the net_device structure
1998  **/
1999 static int
2000 spider_net_setup_netdev(struct spider_net_card *card)
2001 {
2002         int result;
2003         struct net_device *netdev = card->netdev;
2004         struct device_node *dn;
2005         struct sockaddr addr;
2006         const u8 *mac;
2007
2008         SET_MODULE_OWNER(netdev);
2009         SET_NETDEV_DEV(netdev, &card->pdev->dev);
2010
2011         pci_set_drvdata(card->pdev, netdev);
2012
2013         init_timer(&card->tx_timer);
2014         card->tx_timer.function =
2015                 (void (*)(unsigned long)) spider_net_cleanup_tx_ring;
2016         card->tx_timer.data = (unsigned long) card;
2017         netdev->irq = card->pdev->irq;
2018
2019         card->options.rx_csum = SPIDER_NET_RX_CSUM_DEFAULT;
2020
2021         card->tx_chain.num_desc = tx_descriptors;
2022         card->rx_chain.num_desc = rx_descriptors;
2023
2024         spider_net_setup_netdev_ops(netdev);
2025
2026         netdev->features = NETIF_F_HW_CSUM | NETIF_F_LLTX;
2027         /* some time: NETIF_F_HW_VLAN_TX | NETIF_F_HW_VLAN_RX |
2028          *              NETIF_F_HW_VLAN_FILTER */
2029
2030         netdev->irq = card->pdev->irq;
2031
2032         dn = pci_device_to_OF_node(card->pdev);
2033         if (!dn)
2034                 return -EIO;
2035
2036         mac = get_property(dn, "local-mac-address", NULL);
2037         if (!mac)
2038                 return -EIO;
2039         memcpy(addr.sa_data, mac, ETH_ALEN);
2040
2041         result = spider_net_set_mac(netdev, &addr);
2042         if ((result) && (netif_msg_probe(card)))
2043                 pr_err("Failed to set MAC address: %i\n", result);
2044
2045         result = register_netdev(netdev);
2046         if (result) {
2047                 if (netif_msg_probe(card))
2048                         pr_err("Couldn't register net_device: %i\n",
2049                                   result);
2050                 return result;
2051         }
2052
2053         if (netif_msg_probe(card))
2054                 pr_info("Initialized device %s.\n", netdev->name);
2055
2056         return 0;
2057 }
2058
2059 /**
2060  * spider_net_alloc_card - allocates net_device and card structure
2061  *
2062  * returns the card structure or NULL in case of errors
2063  *
2064  * the card and net_device structures are linked to each other
2065  */
2066 static struct spider_net_card *
2067 spider_net_alloc_card(void)
2068 {
2069         struct net_device *netdev;
2070         struct spider_net_card *card;
2071
2072         netdev = alloc_etherdev(sizeof(struct spider_net_card));
2073         if (!netdev)
2074                 return NULL;
2075
2076         card = netdev_priv(netdev);
2077         card->netdev = netdev;
2078         card->msg_enable = SPIDER_NET_DEFAULT_MSG;
2079         INIT_WORK(&card->tx_timeout_task, spider_net_tx_timeout_task);
2080         init_waitqueue_head(&card->waitq);
2081         atomic_set(&card->tx_timeout_task_counter, 0);
2082
2083         return card;
2084 }
2085
2086 /**
2087  * spider_net_undo_pci_setup - releases PCI ressources
2088  * @card: card structure
2089  *
2090  * spider_net_undo_pci_setup releases the mapped regions
2091  */
2092 static void
2093 spider_net_undo_pci_setup(struct spider_net_card *card)
2094 {
2095         iounmap(card->regs);
2096         pci_release_regions(card->pdev);
2097 }
2098
2099 /**
2100  * spider_net_setup_pci_dev - sets up the device in terms of PCI operations
2101  * @card: card structure
2102  * @pdev: PCI device
2103  *
2104  * Returns the card structure or NULL if any errors occur
2105  *
2106  * spider_net_setup_pci_dev initializes pdev and together with the
2107  * functions called in spider_net_open configures the device so that
2108  * data can be transferred over it
2109  * The net_device structure is attached to the card structure, if the
2110  * function returns without error.
2111  **/
2112 static struct spider_net_card *
2113 spider_net_setup_pci_dev(struct pci_dev *pdev)
2114 {
2115         struct spider_net_card *card;
2116         unsigned long mmio_start, mmio_len;
2117
2118         if (pci_enable_device(pdev)) {
2119                 pr_err("Couldn't enable PCI device\n");
2120                 return NULL;
2121         }
2122
2123         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_MEM)) {
2124                 pr_err("Couldn't find proper PCI device base address.\n");
2125                 goto out_disable_dev;
2126         }
2127
2128         if (pci_request_regions(pdev, spider_net_driver_name)) {
2129                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2130                 goto out_disable_dev;
2131         }
2132
2133         pci_set_master(pdev);
2134
2135         card = spider_net_alloc_card();
2136         if (!card) {
2137                 pr_err("Couldn't allocate net_device structure, "
2138                           "aborting.\n");
2139                 goto out_release_regions;
2140         }
2141         card->pdev = pdev;
2142
2143         /* fetch base address and length of first resource */
2144         mmio_start = pci_resource_start(pdev, 0);
2145         mmio_len = pci_resource_len(pdev, 0);
2146
2147         card->netdev->mem_start = mmio_start;
2148         card->netdev->mem_end = mmio_start + mmio_len;
2149         card->regs = ioremap(mmio_start, mmio_len);
2150
2151         if (!card->regs) {
2152                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2153                 goto out_release_regions;
2154         }
2155
2156         return card;
2157
2158 out_release_regions:
2159         pci_release_regions(pdev);
2160 out_disable_dev:
2161         pci_disable_device(pdev);
2162         pci_set_drvdata(pdev, NULL);
2163         return NULL;
2164 }
2165
2166 /**
2167  * spider_net_probe - initialization of a device
2168  * @pdev: PCI device
2169  * @ent: entry in the device id list
2170  *
2171  * Returns 0 on success, <0 on failure
2172  *
2173  * spider_net_probe initializes pdev and registers a net_device
2174  * structure for it. After that, the device can be ifconfig'ed up
2175  **/
2176 static int __devinit
2177 spider_net_probe(struct pci_dev *pdev, const struct pci_device_id *ent)
2178 {
2179         int err = -EIO;
2180         struct spider_net_card *card;
2181
2182         card = spider_net_setup_pci_dev(pdev);
2183         if (!card)
2184                 goto out;
2185
2186         spider_net_workaround_rxramfull(card);
2187         spider_net_init_card(card);
2188
2189         err = spider_net_setup_phy(card);
2190         if (err)
2191                 goto out_undo_pci;
2192
2193         err = spider_net_init_firmware(card);
2194         if (err)
2195                 goto out_undo_pci;
2196
2197         err = spider_net_setup_netdev(card);
2198         if (err)
2199                 goto out_undo_pci;
2200
2201         return 0;
2202
2203 out_undo_pci:
2204         spider_net_undo_pci_setup(card);
2205         free_netdev(card->netdev);
2206 out:
2207         return err;
2208 }
2209
2210 /**
2211  * spider_net_remove - removal of a device
2212  * @pdev: PCI device
2213  *
2214  * Returns 0 on success, <0 on failure
2215  *
2216  * spider_net_remove is called to remove the device and unregisters the
2217  * net_device
2218  **/
2219 static void __devexit
2220 spider_net_remove(struct pci_dev *pdev)
2221 {
2222         struct net_device *netdev;
2223         struct spider_net_card *card;
2224
2225         netdev = pci_get_drvdata(pdev);
2226         card = netdev_priv(netdev);
2227
2228         wait_event(card->waitq,
2229                    atomic_read(&card->tx_timeout_task_counter) == 0);
2230
2231         unregister_netdev(netdev);
2232
2233         /* switch off card */
2234         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2235                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2236         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2237                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2238
2239         spider_net_undo_pci_setup(card);
2240         free_netdev(netdev);
2241 }
2242
2243 static struct pci_driver spider_net_driver = {
2244         .name           = spider_net_driver_name,
2245         .id_table       = spider_net_pci_tbl,
2246         .probe          = spider_net_probe,
2247         .remove         = __devexit_p(spider_net_remove)
2248 };
2249
2250 /**
2251  * spider_net_init - init function when the driver is loaded
2252  *
2253  * spider_net_init registers the device driver
2254  */
2255 static int __init spider_net_init(void)
2256 {
2257         printk(KERN_INFO "Spidernet version %s.\n", VERSION);
2258
2259         if (rx_descriptors < SPIDER_NET_RX_DESCRIPTORS_MIN) {
2260                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MIN;
2261                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2262         }
2263         if (rx_descriptors > SPIDER_NET_RX_DESCRIPTORS_MAX) {
2264                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MAX;
2265                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2266         }
2267         if (tx_descriptors < SPIDER_NET_TX_DESCRIPTORS_MIN) {
2268                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MIN;
2269                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2270         }
2271         if (tx_descriptors > SPIDER_NET_TX_DESCRIPTORS_MAX) {
2272                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MAX;
2273                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2274         }
2275
2276         return pci_register_driver(&spider_net_driver);
2277 }
2278
2279 /**
2280  * spider_net_cleanup - exit function when driver is unloaded
2281  *
2282  * spider_net_cleanup unregisters the device driver
2283  */
2284 static void __exit spider_net_cleanup(void)
2285 {
2286         pci_unregister_driver(&spider_net_driver);
2287 }
2288
2289 module_init(spider_net_init);
2290 module_exit(spider_net_cleanup);