f5ede5f6073c5e574053dab3fb4229bb98208ebb
[linux-2.6.git] / drivers / net / spider_net.c
1 /*
2  * Network device driver for Cell Processor-Based Blade and Celleb platform
3  *
4  * (C) Copyright IBM Corp. 2005
5  * (C) Copyright 2006 TOSHIBA CORPORATION
6  *
7  * Authors : Utz Bacher <utz.bacher@de.ibm.com>
8  *           Jens Osterkamp <Jens.Osterkamp@de.ibm.com>
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2, or (at your option)
13  * any later version.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  * You should have received a copy of the GNU General Public License
21  * along with this program; if not, write to the Free Software
22  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
23  */
24
25 #include <linux/compiler.h>
26 #include <linux/crc32.h>
27 #include <linux/delay.h>
28 #include <linux/etherdevice.h>
29 #include <linux/ethtool.h>
30 #include <linux/firmware.h>
31 #include <linux/if_vlan.h>
32 #include <linux/in.h>
33 #include <linux/init.h>
34 #include <linux/ioport.h>
35 #include <linux/ip.h>
36 #include <linux/kernel.h>
37 #include <linux/mii.h>
38 #include <linux/module.h>
39 #include <linux/netdevice.h>
40 #include <linux/device.h>
41 #include <linux/pci.h>
42 #include <linux/skbuff.h>
43 #include <linux/slab.h>
44 #include <linux/tcp.h>
45 #include <linux/types.h>
46 #include <linux/vmalloc.h>
47 #include <linux/wait.h>
48 #include <linux/workqueue.h>
49 #include <asm/bitops.h>
50 #include <asm/pci-bridge.h>
51 #include <net/checksum.h>
52
53 #include "spider_net.h"
54
55 MODULE_AUTHOR("Utz Bacher <utz.bacher@de.ibm.com> and Jens Osterkamp " \
56               "<Jens.Osterkamp@de.ibm.com>");
57 MODULE_DESCRIPTION("Spider Southbridge Gigabit Ethernet driver");
58 MODULE_LICENSE("GPL");
59 MODULE_VERSION(VERSION);
60
61 static int rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_DEFAULT;
62 static int tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_DEFAULT;
63
64 module_param(rx_descriptors, int, 0444);
65 module_param(tx_descriptors, int, 0444);
66
67 MODULE_PARM_DESC(rx_descriptors, "number of descriptors used " \
68                  "in rx chains");
69 MODULE_PARM_DESC(tx_descriptors, "number of descriptors used " \
70                  "in tx chain");
71
72 char spider_net_driver_name[] = "spidernet";
73
74 static struct pci_device_id spider_net_pci_tbl[] = {
75         { PCI_VENDOR_ID_TOSHIBA_2, PCI_DEVICE_ID_TOSHIBA_SPIDER_NET,
76           PCI_ANY_ID, PCI_ANY_ID, 0, 0, 0UL },
77         { 0, }
78 };
79
80 MODULE_DEVICE_TABLE(pci, spider_net_pci_tbl);
81
82 /**
83  * spider_net_read_reg - reads an SMMIO register of a card
84  * @card: device structure
85  * @reg: register to read from
86  *
87  * returns the content of the specified SMMIO register.
88  */
89 static inline u32
90 spider_net_read_reg(struct spider_net_card *card, u32 reg)
91 {
92         /* We use the powerpc specific variants instead of readl_be() because
93          * we know spidernet is not a real PCI device and we can thus avoid the
94          * performance hit caused by the PCI workarounds.
95          */
96         return in_be32(card->regs + reg);
97 }
98
99 /**
100  * spider_net_write_reg - writes to an SMMIO register of a card
101  * @card: device structure
102  * @reg: register to write to
103  * @value: value to write into the specified SMMIO register
104  */
105 static inline void
106 spider_net_write_reg(struct spider_net_card *card, u32 reg, u32 value)
107 {
108         /* We use the powerpc specific variants instead of writel_be() because
109          * we know spidernet is not a real PCI device and we can thus avoid the
110          * performance hit caused by the PCI workarounds.
111          */
112         out_be32(card->regs + reg, value);
113 }
114
115 /** spider_net_write_phy - write to phy register
116  * @netdev: adapter to be written to
117  * @mii_id: id of MII
118  * @reg: PHY register
119  * @val: value to be written to phy register
120  *
121  * spider_net_write_phy_register writes to an arbitrary PHY
122  * register via the spider GPCWOPCMD register. We assume the queue does
123  * not run full (not more than 15 commands outstanding).
124  **/
125 static void
126 spider_net_write_phy(struct net_device *netdev, int mii_id,
127                      int reg, int val)
128 {
129         struct spider_net_card *card = netdev_priv(netdev);
130         u32 writevalue;
131
132         writevalue = ((u32)mii_id << 21) |
133                 ((u32)reg << 16) | ((u32)val);
134
135         spider_net_write_reg(card, SPIDER_NET_GPCWOPCMD, writevalue);
136 }
137
138 /** spider_net_read_phy - read from phy register
139  * @netdev: network device to be read from
140  * @mii_id: id of MII
141  * @reg: PHY register
142  *
143  * Returns value read from PHY register
144  *
145  * spider_net_write_phy reads from an arbitrary PHY
146  * register via the spider GPCROPCMD register
147  **/
148 static int
149 spider_net_read_phy(struct net_device *netdev, int mii_id, int reg)
150 {
151         struct spider_net_card *card = netdev_priv(netdev);
152         u32 readvalue;
153
154         readvalue = ((u32)mii_id << 21) | ((u32)reg << 16);
155         spider_net_write_reg(card, SPIDER_NET_GPCROPCMD, readvalue);
156
157         /* we don't use semaphores to wait for an SPIDER_NET_GPROPCMPINT
158          * interrupt, as we poll for the completion of the read operation
159          * in spider_net_read_phy. Should take about 50 us */
160         do {
161                 readvalue = spider_net_read_reg(card, SPIDER_NET_GPCROPCMD);
162         } while (readvalue & SPIDER_NET_GPREXEC);
163
164         readvalue &= SPIDER_NET_GPRDAT_MASK;
165
166         return readvalue;
167 }
168
169 /**
170  * spider_net_setup_aneg - initial auto-negotiation setup
171  * @card: device structure
172  **/
173 static void
174 spider_net_setup_aneg(struct spider_net_card *card)
175 {
176         struct mii_phy *phy = &card->phy;
177         u32 advertise = 0;
178         u16 bmsr, estat;
179
180         bmsr  = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
181         estat = spider_net_read_phy(card->netdev, phy->mii_id, MII_ESTATUS);
182
183         if (bmsr & BMSR_10HALF)
184                 advertise |= ADVERTISED_10baseT_Half;
185         if (bmsr & BMSR_10FULL)
186                 advertise |= ADVERTISED_10baseT_Full;
187         if (bmsr & BMSR_100HALF)
188                 advertise |= ADVERTISED_100baseT_Half;
189         if (bmsr & BMSR_100FULL)
190                 advertise |= ADVERTISED_100baseT_Full;
191
192         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_TFULL))
193                 advertise |= SUPPORTED_1000baseT_Full;
194         if ((bmsr & BMSR_ESTATEN) && (estat & ESTATUS_1000_THALF))
195                 advertise |= SUPPORTED_1000baseT_Half;
196
197         mii_phy_probe(phy, phy->mii_id);
198         phy->def->ops->setup_aneg(phy, advertise);
199
200 }
201
202 /**
203  * spider_net_rx_irq_off - switch off rx irq on this spider card
204  * @card: device structure
205  *
206  * switches off rx irq by masking them out in the GHIINTnMSK register
207  */
208 static void
209 spider_net_rx_irq_off(struct spider_net_card *card)
210 {
211         u32 regvalue;
212
213         regvalue = SPIDER_NET_INT0_MASK_VALUE & (~SPIDER_NET_RXINT);
214         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
215 }
216
217 /**
218  * spider_net_rx_irq_on - switch on rx irq on this spider card
219  * @card: device structure
220  *
221  * switches on rx irq by enabling them in the GHIINTnMSK register
222  */
223 static void
224 spider_net_rx_irq_on(struct spider_net_card *card)
225 {
226         u32 regvalue;
227
228         regvalue = SPIDER_NET_INT0_MASK_VALUE | SPIDER_NET_RXINT;
229         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, regvalue);
230 }
231
232 /**
233  * spider_net_set_promisc - sets the unicast address or the promiscuous mode
234  * @card: card structure
235  *
236  * spider_net_set_promisc sets the unicast destination address filter and
237  * thus either allows for non-promisc mode or promisc mode
238  */
239 static void
240 spider_net_set_promisc(struct spider_net_card *card)
241 {
242         u32 macu, macl;
243         struct net_device *netdev = card->netdev;
244
245         if (netdev->flags & IFF_PROMISC) {
246                 /* clear destination entry 0 */
247                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, 0);
248                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, 0);
249                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
250                                      SPIDER_NET_PROMISC_VALUE);
251         } else {
252                 macu = netdev->dev_addr[0];
253                 macu <<= 8;
254                 macu |= netdev->dev_addr[1];
255                 memcpy(&macl, &netdev->dev_addr[2], sizeof(macl));
256
257                 macu |= SPIDER_NET_UA_DESCR_VALUE;
258                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR, macu);
259                 spider_net_write_reg(card, SPIDER_NET_GMRUAFILnR + 0x04, macl);
260                 spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R,
261                                      SPIDER_NET_NONPROMISC_VALUE);
262         }
263 }
264
265 /**
266  * spider_net_get_mac_address - read mac address from spider card
267  * @card: device structure
268  *
269  * reads MAC address from GMACUNIMACU and GMACUNIMACL registers
270  */
271 static int
272 spider_net_get_mac_address(struct net_device *netdev)
273 {
274         struct spider_net_card *card = netdev_priv(netdev);
275         u32 macl, macu;
276
277         macl = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACL);
278         macu = spider_net_read_reg(card, SPIDER_NET_GMACUNIMACU);
279
280         netdev->dev_addr[0] = (macu >> 24) & 0xff;
281         netdev->dev_addr[1] = (macu >> 16) & 0xff;
282         netdev->dev_addr[2] = (macu >> 8) & 0xff;
283         netdev->dev_addr[3] = macu & 0xff;
284         netdev->dev_addr[4] = (macl >> 8) & 0xff;
285         netdev->dev_addr[5] = macl & 0xff;
286
287         if (!is_valid_ether_addr(&netdev->dev_addr[0]))
288                 return -EINVAL;
289
290         return 0;
291 }
292
293 /**
294  * spider_net_get_descr_status -- returns the status of a descriptor
295  * @descr: descriptor to look at
296  *
297  * returns the status as in the dmac_cmd_status field of the descriptor
298  */
299 static inline int
300 spider_net_get_descr_status(struct spider_net_hw_descr *hwdescr)
301 {
302         return hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_IND_PROC_MASK;
303 }
304
305 /**
306  * spider_net_free_chain - free descriptor chain
307  * @card: card structure
308  * @chain: address of chain
309  *
310  */
311 static void
312 spider_net_free_chain(struct spider_net_card *card,
313                       struct spider_net_descr_chain *chain)
314 {
315         struct spider_net_descr *descr;
316
317         descr = chain->ring;
318         do {
319                 descr->bus_addr = 0;
320                 descr->hwdescr->next_descr_addr = 0;
321                 descr = descr->next;
322         } while (descr != chain->ring);
323
324         dma_free_coherent(&card->pdev->dev, chain->num_desc,
325             chain->hwring, chain->dma_addr);
326 }
327
328 /**
329  * spider_net_init_chain - alloc and link descriptor chain
330  * @card: card structure
331  * @chain: address of chain
332  *
333  * We manage a circular list that mirrors the hardware structure,
334  * except that the hardware uses bus addresses.
335  *
336  * Returns 0 on success, <0 on failure
337  */
338 static int
339 spider_net_init_chain(struct spider_net_card *card,
340                        struct spider_net_descr_chain *chain)
341 {
342         int i;
343         struct spider_net_descr *descr;
344         struct spider_net_hw_descr *hwdescr;
345         dma_addr_t buf;
346         size_t alloc_size;
347
348         alloc_size = chain->num_desc * sizeof(struct spider_net_hw_descr);
349
350         chain->hwring = dma_alloc_coherent(&card->pdev->dev, alloc_size,
351                 &chain->dma_addr, GFP_KERNEL);
352
353         if (!chain->hwring)
354                 return -ENOMEM;
355
356         memset(chain->ring, 0, chain->num_desc * sizeof(struct spider_net_descr));
357
358         /* Set up the hardware pointers in each descriptor */
359         descr = chain->ring;
360         hwdescr = chain->hwring;
361         buf = chain->dma_addr;
362         for (i=0; i < chain->num_desc; i++, descr++, hwdescr++) {
363                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
364                 hwdescr->next_descr_addr = 0;
365
366                 descr->hwdescr = hwdescr;
367                 descr->bus_addr = buf;
368                 descr->next = descr + 1;
369                 descr->prev = descr - 1;
370
371                 buf += sizeof(struct spider_net_hw_descr);
372         }
373         /* do actual circular list */
374         (descr-1)->next = chain->ring;
375         chain->ring->prev = descr-1;
376
377         spin_lock_init(&chain->lock);
378         chain->head = chain->ring;
379         chain->tail = chain->ring;
380         return 0;
381 }
382
383 /**
384  * spider_net_free_rx_chain_contents - frees descr contents in rx chain
385  * @card: card structure
386  *
387  * returns 0 on success, <0 on failure
388  */
389 static void
390 spider_net_free_rx_chain_contents(struct spider_net_card *card)
391 {
392         struct spider_net_descr *descr;
393
394         descr = card->rx_chain.head;
395         do {
396                 if (descr->skb) {
397                         pci_unmap_single(card->pdev, descr->hwdescr->buf_addr,
398                                          SPIDER_NET_MAX_FRAME,
399                                          PCI_DMA_BIDIRECTIONAL);
400                         dev_kfree_skb(descr->skb);
401                         descr->skb = NULL;
402                 }
403                 descr = descr->next;
404         } while (descr != card->rx_chain.head);
405 }
406
407 /**
408  * spider_net_prepare_rx_descr - Reinitialize RX descriptor
409  * @card: card structure
410  * @descr: descriptor to re-init
411  *
412  * Return 0 on succes, <0 on failure.
413  *
414  * Allocates a new rx skb, iommu-maps it and attaches it to the
415  * descriptor. Mark the descriptor as activated, ready-to-use.
416  */
417 static int
418 spider_net_prepare_rx_descr(struct spider_net_card *card,
419                             struct spider_net_descr *descr)
420 {
421         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
422         dma_addr_t buf;
423         int offset;
424         int bufsize;
425
426         /* we need to round up the buffer size to a multiple of 128 */
427         bufsize = (SPIDER_NET_MAX_FRAME + SPIDER_NET_RXBUF_ALIGN - 1) &
428                 (~(SPIDER_NET_RXBUF_ALIGN - 1));
429
430         /* and we need to have it 128 byte aligned, therefore we allocate a
431          * bit more */
432         /* allocate an skb */
433         descr->skb = netdev_alloc_skb(card->netdev,
434                                       bufsize + SPIDER_NET_RXBUF_ALIGN - 1);
435         if (!descr->skb) {
436                 if (netif_msg_rx_err(card) && net_ratelimit())
437                         pr_err("Not enough memory to allocate rx buffer\n");
438                 card->spider_stats.alloc_rx_skb_error++;
439                 return -ENOMEM;
440         }
441         hwdescr->buf_size = bufsize;
442         hwdescr->result_size = 0;
443         hwdescr->valid_size = 0;
444         hwdescr->data_status = 0;
445         hwdescr->data_error = 0;
446
447         offset = ((unsigned long)descr->skb->data) &
448                 (SPIDER_NET_RXBUF_ALIGN - 1);
449         if (offset)
450                 skb_reserve(descr->skb, SPIDER_NET_RXBUF_ALIGN - offset);
451         /* iommu-map the skb */
452         buf = pci_map_single(card->pdev, descr->skb->data,
453                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
454         if (pci_dma_mapping_error(buf)) {
455                 dev_kfree_skb_any(descr->skb);
456                 descr->skb = NULL;
457                 if (netif_msg_rx_err(card) && net_ratelimit())
458                         pr_err("Could not iommu-map rx buffer\n");
459                 card->spider_stats.rx_iommu_map_error++;
460                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
461         } else {
462                 hwdescr->buf_addr = buf;
463                 wmb();
464                 hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_CARDOWNED |
465                                          SPIDER_NET_DMAC_NOINTR_COMPLETE;
466         }
467
468         return 0;
469 }
470
471 /**
472  * spider_net_enable_rxchtails - sets RX dmac chain tail addresses
473  * @card: card structure
474  *
475  * spider_net_enable_rxchtails sets the RX DMAC chain tail adresses in the
476  * chip by writing to the appropriate register. DMA is enabled in
477  * spider_net_enable_rxdmac.
478  */
479 static inline void
480 spider_net_enable_rxchtails(struct spider_net_card *card)
481 {
482         /* assume chain is aligned correctly */
483         spider_net_write_reg(card, SPIDER_NET_GDADCHA ,
484                              card->rx_chain.tail->bus_addr);
485 }
486
487 /**
488  * spider_net_enable_rxdmac - enables a receive DMA controller
489  * @card: card structure
490  *
491  * spider_net_enable_rxdmac enables the DMA controller by setting RX_DMA_EN
492  * in the GDADMACCNTR register
493  */
494 static inline void
495 spider_net_enable_rxdmac(struct spider_net_card *card)
496 {
497         wmb();
498         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
499                              SPIDER_NET_DMA_RX_VALUE);
500 }
501
502 /**
503  * spider_net_refill_rx_chain - refills descriptors/skbs in the rx chains
504  * @card: card structure
505  *
506  * refills descriptors in the rx chain: allocates skbs and iommu-maps them.
507  */
508 static void
509 spider_net_refill_rx_chain(struct spider_net_card *card)
510 {
511         struct spider_net_descr_chain *chain = &card->rx_chain;
512         unsigned long flags;
513
514         /* one context doing the refill (and a second context seeing that
515          * and omitting it) is ok. If called by NAPI, we'll be called again
516          * as spider_net_decode_one_descr is called several times. If some
517          * interrupt calls us, the NAPI is about to clean up anyway. */
518         if (!spin_trylock_irqsave(&chain->lock, flags))
519                 return;
520
521         while (spider_net_get_descr_status(chain->head->hwdescr) ==
522                         SPIDER_NET_DESCR_NOT_IN_USE) {
523                 if (spider_net_prepare_rx_descr(card, chain->head))
524                         break;
525                 chain->head = chain->head->next;
526         }
527
528         spin_unlock_irqrestore(&chain->lock, flags);
529 }
530
531 /**
532  * spider_net_alloc_rx_skbs - Allocates rx skbs in rx descriptor chains
533  * @card: card structure
534  *
535  * Returns 0 on success, <0 on failure.
536  */
537 static int
538 spider_net_alloc_rx_skbs(struct spider_net_card *card)
539 {
540         struct spider_net_descr_chain *chain = &card->rx_chain;
541         struct spider_net_descr *start = chain->tail;
542         struct spider_net_descr *descr = start;
543
544         /* Link up the hardware chain pointers */
545         do {
546                 descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
547                 descr = descr->next;
548         } while (descr != start);
549
550         /* Put at least one buffer into the chain. if this fails,
551          * we've got a problem. If not, spider_net_refill_rx_chain
552          * will do the rest at the end of this function. */
553         if (spider_net_prepare_rx_descr(card, chain->head))
554                 goto error;
555         else
556                 chain->head = chain->head->next;
557
558         /* This will allocate the rest of the rx buffers;
559          * if not, it's business as usual later on. */
560         spider_net_refill_rx_chain(card);
561         spider_net_enable_rxdmac(card);
562         return 0;
563
564 error:
565         spider_net_free_rx_chain_contents(card);
566         return -ENOMEM;
567 }
568
569 /**
570  * spider_net_get_multicast_hash - generates hash for multicast filter table
571  * @addr: multicast address
572  *
573  * returns the hash value.
574  *
575  * spider_net_get_multicast_hash calculates a hash value for a given multicast
576  * address, that is used to set the multicast filter tables
577  */
578 static u8
579 spider_net_get_multicast_hash(struct net_device *netdev, __u8 *addr)
580 {
581         u32 crc;
582         u8 hash;
583         char addr_for_crc[ETH_ALEN] = { 0, };
584         int i, bit;
585
586         for (i = 0; i < ETH_ALEN * 8; i++) {
587                 bit = (addr[i / 8] >> (i % 8)) & 1;
588                 addr_for_crc[ETH_ALEN - 1 - i / 8] += bit << (7 - (i % 8));
589         }
590
591         crc = crc32_be(~0, addr_for_crc, netdev->addr_len);
592
593         hash = (crc >> 27);
594         hash <<= 3;
595         hash |= crc & 7;
596         hash &= 0xff;
597
598         return hash;
599 }
600
601 /**
602  * spider_net_set_multi - sets multicast addresses and promisc flags
603  * @netdev: interface device structure
604  *
605  * spider_net_set_multi configures multicast addresses as needed for the
606  * netdev interface. It also sets up multicast, allmulti and promisc
607  * flags appropriately
608  */
609 static void
610 spider_net_set_multi(struct net_device *netdev)
611 {
612         struct dev_mc_list *mc;
613         u8 hash;
614         int i;
615         u32 reg;
616         struct spider_net_card *card = netdev_priv(netdev);
617         unsigned long bitmask[SPIDER_NET_MULTICAST_HASHES / BITS_PER_LONG] =
618                 {0, };
619
620         spider_net_set_promisc(card);
621
622         if (netdev->flags & IFF_ALLMULTI) {
623                 for (i = 0; i < SPIDER_NET_MULTICAST_HASHES; i++) {
624                         set_bit(i, bitmask);
625                 }
626                 goto write_hash;
627         }
628
629         /* well, we know, what the broadcast hash value is: it's xfd
630         hash = spider_net_get_multicast_hash(netdev, netdev->broadcast); */
631         set_bit(0xfd, bitmask);
632
633         for (mc = netdev->mc_list; mc; mc = mc->next) {
634                 hash = spider_net_get_multicast_hash(netdev, mc->dmi_addr);
635                 set_bit(hash, bitmask);
636         }
637
638 write_hash:
639         for (i = 0; i < SPIDER_NET_MULTICAST_HASHES / 4; i++) {
640                 reg = 0;
641                 if (test_bit(i * 4, bitmask))
642                         reg += 0x08;
643                 reg <<= 8;
644                 if (test_bit(i * 4 + 1, bitmask))
645                         reg += 0x08;
646                 reg <<= 8;
647                 if (test_bit(i * 4 + 2, bitmask))
648                         reg += 0x08;
649                 reg <<= 8;
650                 if (test_bit(i * 4 + 3, bitmask))
651                         reg += 0x08;
652
653                 spider_net_write_reg(card, SPIDER_NET_GMRMHFILnR + i * 4, reg);
654         }
655 }
656
657 /**
658  * spider_net_disable_rxdmac - disables the receive DMA controller
659  * @card: card structure
660  *
661  * spider_net_disable_rxdmac terminates processing on the DMA controller by
662  * turing off DMA and issueing a force end
663  */
664 static void
665 spider_net_disable_rxdmac(struct spider_net_card *card)
666 {
667         spider_net_write_reg(card, SPIDER_NET_GDADMACCNTR,
668                              SPIDER_NET_DMA_RX_FEND_VALUE);
669 }
670
671 /**
672  * spider_net_prepare_tx_descr - fill tx descriptor with skb data
673  * @card: card structure
674  * @descr: descriptor structure to fill out
675  * @skb: packet to use
676  *
677  * returns 0 on success, <0 on failure.
678  *
679  * fills out the descriptor structure with skb data and len. Copies data,
680  * if needed (32bit DMA!)
681  */
682 static int
683 spider_net_prepare_tx_descr(struct spider_net_card *card,
684                             struct sk_buff *skb)
685 {
686         struct spider_net_descr_chain *chain = &card->tx_chain;
687         struct spider_net_descr *descr;
688         struct spider_net_hw_descr *hwdescr;
689         dma_addr_t buf;
690         unsigned long flags;
691
692         buf = pci_map_single(card->pdev, skb->data, skb->len, PCI_DMA_TODEVICE);
693         if (pci_dma_mapping_error(buf)) {
694                 if (netif_msg_tx_err(card) && net_ratelimit())
695                         pr_err("could not iommu-map packet (%p, %i). "
696                                   "Dropping packet\n", skb->data, skb->len);
697                 card->spider_stats.tx_iommu_map_error++;
698                 return -ENOMEM;
699         }
700
701         spin_lock_irqsave(&chain->lock, flags);
702         descr = card->tx_chain.head;
703         if (descr->next == chain->tail->prev) {
704                 spin_unlock_irqrestore(&chain->lock, flags);
705                 pci_unmap_single(card->pdev, buf, skb->len, PCI_DMA_TODEVICE);
706                 return -ENOMEM;
707         }
708         hwdescr = descr->hwdescr;
709         chain->head = descr->next;
710
711         descr->skb = skb;
712         hwdescr->buf_addr = buf;
713         hwdescr->buf_size = skb->len;
714         hwdescr->next_descr_addr = 0;
715         hwdescr->data_status = 0;
716
717         hwdescr->dmac_cmd_status =
718                         SPIDER_NET_DESCR_CARDOWNED | SPIDER_NET_DMAC_NOCS;
719         spin_unlock_irqrestore(&chain->lock, flags);
720
721         if (skb->protocol == htons(ETH_P_IP) && skb->ip_summed == CHECKSUM_PARTIAL)
722                 switch (ip_hdr(skb)->protocol) {
723                 case IPPROTO_TCP:
724                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_TCP;
725                         break;
726                 case IPPROTO_UDP:
727                         hwdescr->dmac_cmd_status |= SPIDER_NET_DMAC_UDP;
728                         break;
729                 }
730
731         /* Chain the bus address, so that the DMA engine finds this descr. */
732         wmb();
733         descr->prev->hwdescr->next_descr_addr = descr->bus_addr;
734
735         card->netdev->trans_start = jiffies; /* set netdev watchdog timer */
736         return 0;
737 }
738
739 static int
740 spider_net_set_low_watermark(struct spider_net_card *card)
741 {
742         struct spider_net_descr *descr = card->tx_chain.tail;
743         struct spider_net_hw_descr *hwdescr;
744         unsigned long flags;
745         int status;
746         int cnt=0;
747         int i;
748
749         /* Measure the length of the queue. Measurement does not
750          * need to be precise -- does not need a lock. */
751         while (descr != card->tx_chain.head) {
752                 status = descr->hwdescr->dmac_cmd_status & SPIDER_NET_DESCR_NOT_IN_USE;
753                 if (status == SPIDER_NET_DESCR_NOT_IN_USE)
754                         break;
755                 descr = descr->next;
756                 cnt++;
757         }
758
759         /* If TX queue is short, don't even bother with interrupts */
760         if (cnt < card->tx_chain.num_desc/4)
761                 return cnt;
762
763         /* Set low-watermark 3/4th's of the way into the queue. */
764         descr = card->tx_chain.tail;
765         cnt = (cnt*3)/4;
766         for (i=0;i<cnt; i++)
767                 descr = descr->next;
768
769         /* Set the new watermark, clear the old watermark */
770         spin_lock_irqsave(&card->tx_chain.lock, flags);
771         descr->hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_TXDESFLG;
772         if (card->low_watermark && card->low_watermark != descr) {
773                 hwdescr = card->low_watermark->hwdescr;
774                 hwdescr->dmac_cmd_status =
775                      hwdescr->dmac_cmd_status & ~SPIDER_NET_DESCR_TXDESFLG;
776         }
777         card->low_watermark = descr;
778         spin_unlock_irqrestore(&card->tx_chain.lock, flags);
779         return cnt;
780 }
781
782 /**
783  * spider_net_release_tx_chain - processes sent tx descriptors
784  * @card: adapter structure
785  * @brutal: if set, don't care about whether descriptor seems to be in use
786  *
787  * returns 0 if the tx ring is empty, otherwise 1.
788  *
789  * spider_net_release_tx_chain releases the tx descriptors that spider has
790  * finished with (if non-brutal) or simply release tx descriptors (if brutal).
791  * If some other context is calling this function, we return 1 so that we're
792  * scheduled again (if we were scheduled) and will not loose initiative.
793  */
794 static int
795 spider_net_release_tx_chain(struct spider_net_card *card, int brutal)
796 {
797         struct spider_net_descr_chain *chain = &card->tx_chain;
798         struct spider_net_descr *descr;
799         struct spider_net_hw_descr *hwdescr;
800         struct sk_buff *skb;
801         u32 buf_addr;
802         unsigned long flags;
803         int status;
804
805         while (1) {
806                 spin_lock_irqsave(&chain->lock, flags);
807                 if (chain->tail == chain->head) {
808                         spin_unlock_irqrestore(&chain->lock, flags);
809                         return 0;
810                 }
811                 descr = chain->tail;
812                 hwdescr = descr->hwdescr;
813
814                 status = spider_net_get_descr_status(hwdescr);
815                 switch (status) {
816                 case SPIDER_NET_DESCR_COMPLETE:
817                         card->netdev_stats.tx_packets++;
818                         card->netdev_stats.tx_bytes += descr->skb->len;
819                         break;
820
821                 case SPIDER_NET_DESCR_CARDOWNED:
822                         if (!brutal) {
823                                 spin_unlock_irqrestore(&chain->lock, flags);
824                                 return 1;
825                         }
826
827                         /* fallthrough, if we release the descriptors
828                          * brutally (then we don't care about
829                          * SPIDER_NET_DESCR_CARDOWNED) */
830
831                 case SPIDER_NET_DESCR_RESPONSE_ERROR:
832                 case SPIDER_NET_DESCR_PROTECTION_ERROR:
833                 case SPIDER_NET_DESCR_FORCE_END:
834                         if (netif_msg_tx_err(card))
835                                 pr_err("%s: forcing end of tx descriptor "
836                                        "with status x%02x\n",
837                                        card->netdev->name, status);
838                         card->netdev_stats.tx_errors++;
839                         break;
840
841                 default:
842                         card->netdev_stats.tx_dropped++;
843                         if (!brutal) {
844                                 spin_unlock_irqrestore(&chain->lock, flags);
845                                 return 1;
846                         }
847                 }
848
849                 chain->tail = descr->next;
850                 hwdescr->dmac_cmd_status |= SPIDER_NET_DESCR_NOT_IN_USE;
851                 skb = descr->skb;
852                 descr->skb = NULL;
853                 buf_addr = hwdescr->buf_addr;
854                 spin_unlock_irqrestore(&chain->lock, flags);
855
856                 /* unmap the skb */
857                 if (skb) {
858                         pci_unmap_single(card->pdev, buf_addr, skb->len,
859                                         PCI_DMA_TODEVICE);
860                         dev_kfree_skb(skb);
861                 }
862         }
863         return 0;
864 }
865
866 /**
867  * spider_net_kick_tx_dma - enables TX DMA processing
868  * @card: card structure
869  * @descr: descriptor address to enable TX processing at
870  *
871  * This routine will start the transmit DMA running if
872  * it is not already running. This routine ned only be
873  * called when queueing a new packet to an empty tx queue.
874  * Writes the current tx chain head as start address
875  * of the tx descriptor chain and enables the transmission
876  * DMA engine.
877  */
878 static inline void
879 spider_net_kick_tx_dma(struct spider_net_card *card)
880 {
881         struct spider_net_descr *descr;
882
883         if (spider_net_read_reg(card, SPIDER_NET_GDTDMACCNTR) &
884                         SPIDER_NET_TX_DMA_EN)
885                 goto out;
886
887         descr = card->tx_chain.tail;
888         for (;;) {
889                 if (spider_net_get_descr_status(descr->hwdescr) ==
890                                 SPIDER_NET_DESCR_CARDOWNED) {
891                         spider_net_write_reg(card, SPIDER_NET_GDTDCHA,
892                                         descr->bus_addr);
893                         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
894                                         SPIDER_NET_DMA_TX_VALUE);
895                         break;
896                 }
897                 if (descr == card->tx_chain.head)
898                         break;
899                 descr = descr->next;
900         }
901
902 out:
903         mod_timer(&card->tx_timer, jiffies + SPIDER_NET_TX_TIMER);
904 }
905
906 /**
907  * spider_net_xmit - transmits a frame over the device
908  * @skb: packet to send out
909  * @netdev: interface device structure
910  *
911  * returns 0 on success, !0 on failure
912  */
913 static int
914 spider_net_xmit(struct sk_buff *skb, struct net_device *netdev)
915 {
916         int cnt;
917         struct spider_net_card *card = netdev_priv(netdev);
918
919         spider_net_release_tx_chain(card, 0);
920
921         if (spider_net_prepare_tx_descr(card, skb) != 0) {
922                 card->netdev_stats.tx_dropped++;
923                 netif_stop_queue(netdev);
924                 return NETDEV_TX_BUSY;
925         }
926
927         cnt = spider_net_set_low_watermark(card);
928         if (cnt < 5)
929                 spider_net_kick_tx_dma(card);
930         return NETDEV_TX_OK;
931 }
932
933 /**
934  * spider_net_cleanup_tx_ring - cleans up the TX ring
935  * @card: card structure
936  *
937  * spider_net_cleanup_tx_ring is called by either the tx_timer
938  * or from the NAPI polling routine.
939  * This routine releases resources associted with transmitted
940  * packets, including updating the queue tail pointer.
941  */
942 static void
943 spider_net_cleanup_tx_ring(struct spider_net_card *card)
944 {
945         if ((spider_net_release_tx_chain(card, 0) != 0) &&
946             (card->netdev->flags & IFF_UP)) {
947                 spider_net_kick_tx_dma(card);
948                 netif_wake_queue(card->netdev);
949         }
950 }
951
952 /**
953  * spider_net_do_ioctl - called for device ioctls
954  * @netdev: interface device structure
955  * @ifr: request parameter structure for ioctl
956  * @cmd: command code for ioctl
957  *
958  * returns 0 on success, <0 on failure. Currently, we have no special ioctls.
959  * -EOPNOTSUPP is returned, if an unknown ioctl was requested
960  */
961 static int
962 spider_net_do_ioctl(struct net_device *netdev, struct ifreq *ifr, int cmd)
963 {
964         switch (cmd) {
965         default:
966                 return -EOPNOTSUPP;
967         }
968 }
969
970 /**
971  * spider_net_pass_skb_up - takes an skb from a descriptor and passes it on
972  * @descr: descriptor to process
973  * @card: card structure
974  *
975  * Fills out skb structure and passes the data to the stack.
976  * The descriptor state is not changed.
977  */
978 static void
979 spider_net_pass_skb_up(struct spider_net_descr *descr,
980                        struct spider_net_card *card)
981 {
982         struct spider_net_hw_descr *hwdescr= descr->hwdescr;
983         struct sk_buff *skb;
984         struct net_device *netdev;
985         u32 data_status, data_error;
986
987         data_status = hwdescr->data_status;
988         data_error = hwdescr->data_error;
989         netdev = card->netdev;
990
991         skb = descr->skb;
992         skb_put(skb, hwdescr->valid_size);
993
994         /* the card seems to add 2 bytes of junk in front
995          * of the ethernet frame */
996 #define SPIDER_MISALIGN         2
997         skb_pull(skb, SPIDER_MISALIGN);
998         skb->protocol = eth_type_trans(skb, netdev);
999
1000         /* checksum offload */
1001         if (card->options.rx_csum) {
1002                 if ( ( (data_status & SPIDER_NET_DATA_STATUS_CKSUM_MASK) ==
1003                        SPIDER_NET_DATA_STATUS_CKSUM_MASK) &&
1004                      !(data_error & SPIDER_NET_DATA_ERR_CKSUM_MASK))
1005                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1006                 else
1007                         skb->ip_summed = CHECKSUM_NONE;
1008         } else
1009                 skb->ip_summed = CHECKSUM_NONE;
1010
1011         if (data_status & SPIDER_NET_VLAN_PACKET) {
1012                 /* further enhancements: HW-accel VLAN
1013                  * vlan_hwaccel_receive_skb
1014                  */
1015         }
1016
1017         /* update netdevice statistics */
1018         card->netdev_stats.rx_packets++;
1019         card->netdev_stats.rx_bytes += skb->len;
1020
1021         /* pass skb up to stack */
1022         netif_receive_skb(skb);
1023 }
1024
1025 #ifdef DEBUG
1026 static void show_rx_chain(struct spider_net_card *card)
1027 {
1028         struct spider_net_descr_chain *chain = &card->rx_chain;
1029         struct spider_net_descr *start= chain->tail;
1030         struct spider_net_descr *descr= start;
1031         int status;
1032
1033         int cnt = 0;
1034         int cstat = spider_net_get_descr_status(descr);
1035         printk(KERN_INFO "RX chain tail at descr=%ld\n",
1036              (start - card->descr) - card->tx_chain.num_desc);
1037         status = cstat;
1038         do
1039         {
1040                 status = spider_net_get_descr_status(descr);
1041                 if (cstat != status) {
1042                         printk(KERN_INFO "Have %d descrs with stat=x%08x\n", cnt, cstat);
1043                         cstat = status;
1044                         cnt = 0;
1045                 }
1046                 cnt ++;
1047                 descr = descr->next;
1048         } while (descr != start);
1049         printk(KERN_INFO "Last %d descrs with stat=x%08x\n", cnt, cstat);
1050 }
1051 #endif
1052
1053 /**
1054  * spider_net_resync_head_ptr - Advance head ptr past empty descrs
1055  *
1056  * If the driver fails to keep up and empty the queue, then the
1057  * hardware wil run out of room to put incoming packets. This
1058  * will cause the hardware to skip descrs that are full (instead
1059  * of halting/retrying). Thus, once the driver runs, it wil need
1060  * to "catch up" to where the hardware chain pointer is at.
1061  */
1062 static void spider_net_resync_head_ptr(struct spider_net_card *card)
1063 {
1064         unsigned long flags;
1065         struct spider_net_descr_chain *chain = &card->rx_chain;
1066         struct spider_net_descr *descr;
1067         int i, status;
1068
1069         /* Advance head pointer past any empty descrs */
1070         descr = chain->head;
1071         status = spider_net_get_descr_status(descr->hwdescr);
1072
1073         if (status == SPIDER_NET_DESCR_NOT_IN_USE)
1074                 return;
1075
1076         spin_lock_irqsave(&chain->lock, flags);
1077
1078         descr = chain->head;
1079         status = spider_net_get_descr_status(descr->hwdescr);
1080         for (i=0; i<chain->num_desc; i++) {
1081                 if (status != SPIDER_NET_DESCR_CARDOWNED) break;
1082                 descr = descr->next;
1083                 status = spider_net_get_descr_status(descr->hwdescr);
1084         }
1085         chain->head = descr;
1086
1087         spin_unlock_irqrestore(&chain->lock, flags);
1088 }
1089
1090 static int spider_net_resync_tail_ptr(struct spider_net_card *card)
1091 {
1092         struct spider_net_descr_chain *chain = &card->rx_chain;
1093         struct spider_net_descr *descr;
1094         int i, status;
1095
1096         /* Advance tail pointer past any empty and reaped descrs */
1097         descr = chain->tail;
1098         status = spider_net_get_descr_status(descr->hwdescr);
1099
1100         for (i=0; i<chain->num_desc; i++) {
1101                 if ((status != SPIDER_NET_DESCR_CARDOWNED) &&
1102                     (status != SPIDER_NET_DESCR_NOT_IN_USE)) break;
1103                 descr = descr->next;
1104                 status = spider_net_get_descr_status(descr->hwdescr);
1105         }
1106         chain->tail = descr;
1107
1108         if ((i == chain->num_desc) || (i == 0))
1109                 return 1;
1110         return 0;
1111 }
1112
1113 /**
1114  * spider_net_decode_one_descr - processes an RX descriptor
1115  * @card: card structure
1116  *
1117  * Returns 1 if a packet has been sent to the stack, otherwise 0.
1118  *
1119  * Processes an RX descriptor by iommu-unmapping the data buffer
1120  * and passing the packet up to the stack. This function is called
1121  * in softirq context, e.g. either bottom half from interrupt or
1122  * NAPI polling context.
1123  */
1124 static int
1125 spider_net_decode_one_descr(struct spider_net_card *card)
1126 {
1127         struct spider_net_descr_chain *chain = &card->rx_chain;
1128         struct spider_net_descr *descr = chain->tail;
1129         struct spider_net_hw_descr *hwdescr = descr->hwdescr;
1130         int status;
1131
1132         status = spider_net_get_descr_status(hwdescr);
1133
1134         /* Nothing in the descriptor, or ring must be empty */
1135         if ((status == SPIDER_NET_DESCR_CARDOWNED) ||
1136             (status == SPIDER_NET_DESCR_NOT_IN_USE))
1137                 return 0;
1138
1139         /* descriptor definitively used -- move on tail */
1140         chain->tail = descr->next;
1141
1142         /* unmap descriptor */
1143         pci_unmap_single(card->pdev, hwdescr->buf_addr,
1144                         SPIDER_NET_MAX_FRAME, PCI_DMA_FROMDEVICE);
1145
1146         if ( (status == SPIDER_NET_DESCR_RESPONSE_ERROR) ||
1147              (status == SPIDER_NET_DESCR_PROTECTION_ERROR) ||
1148              (status == SPIDER_NET_DESCR_FORCE_END) ) {
1149                 if (netif_msg_rx_err(card))
1150                         pr_err("%s: dropping RX descriptor with state %d\n",
1151                                card->netdev->name, status);
1152                 card->netdev_stats.rx_dropped++;
1153                 goto bad_desc;
1154         }
1155
1156         if ( (status != SPIDER_NET_DESCR_COMPLETE) &&
1157              (status != SPIDER_NET_DESCR_FRAME_END) ) {
1158                 if (netif_msg_rx_err(card))
1159                         pr_err("%s: RX descriptor with unknown state %d\n",
1160                                card->netdev->name, status);
1161                 card->spider_stats.rx_desc_unk_state++;
1162                 goto bad_desc;
1163         }
1164
1165         /* The cases we'll throw away the packet immediately */
1166         if (hwdescr->data_error & SPIDER_NET_DESTROY_RX_FLAGS) {
1167                 if (netif_msg_rx_err(card))
1168                         pr_err("%s: error in received descriptor found, "
1169                                "data_status=x%08x, data_error=x%08x\n",
1170                                card->netdev->name,
1171                                hwdescr->data_status, hwdescr->data_error);
1172                 goto bad_desc;
1173         }
1174
1175         if (hwdescr->dmac_cmd_status & 0xfefe) {
1176                 pr_err("%s: bad status, cmd_status=x%08x\n",
1177                                card->netdev->name,
1178                                hwdescr->dmac_cmd_status);
1179                 pr_err("buf_addr=x%08x\n", hwdescr->buf_addr);
1180                 pr_err("buf_size=x%08x\n", hwdescr->buf_size);
1181                 pr_err("next_descr_addr=x%08x\n", hwdescr->next_descr_addr);
1182                 pr_err("result_size=x%08x\n", hwdescr->result_size);
1183                 pr_err("valid_size=x%08x\n", hwdescr->valid_size);
1184                 pr_err("data_status=x%08x\n", hwdescr->data_status);
1185                 pr_err("data_error=x%08x\n", hwdescr->data_error);
1186                 pr_err("which=%ld\n", descr - card->rx_chain.ring);
1187
1188                 card->spider_stats.rx_desc_error++;
1189                 goto bad_desc;
1190         }
1191
1192         /* Ok, we've got a packet in descr */
1193         spider_net_pass_skb_up(descr, card);
1194         descr->skb = NULL;
1195         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1196         return 1;
1197
1198 bad_desc:
1199         dev_kfree_skb_irq(descr->skb);
1200         descr->skb = NULL;
1201         hwdescr->dmac_cmd_status = SPIDER_NET_DESCR_NOT_IN_USE;
1202         return 0;
1203 }
1204
1205 /**
1206  * spider_net_poll - NAPI poll function called by the stack to return packets
1207  * @netdev: interface device structure
1208  * @budget: number of packets we can pass to the stack at most
1209  *
1210  * returns 0 if no more packets available to the driver/stack. Returns 1,
1211  * if the quota is exceeded, but the driver has still packets.
1212  *
1213  * spider_net_poll returns all packets from the rx descriptors to the stack
1214  * (using netif_receive_skb). If all/enough packets are up, the driver
1215  * reenables interrupts and returns 0. If not, 1 is returned.
1216  */
1217 static int
1218 spider_net_poll(struct net_device *netdev, int *budget)
1219 {
1220         struct spider_net_card *card = netdev_priv(netdev);
1221         int packets_to_do, packets_done = 0;
1222         int no_more_packets = 0;
1223
1224         spider_net_cleanup_tx_ring(card);
1225         packets_to_do = min(*budget, netdev->quota);
1226
1227         while (packets_to_do) {
1228                 if (spider_net_decode_one_descr(card)) {
1229                         packets_done++;
1230                         packets_to_do--;
1231                 } else {
1232                         /* no more packets for the stack */
1233                         no_more_packets = 1;
1234                         break;
1235                 }
1236         }
1237
1238         if ((packets_done == 0) && (card->num_rx_ints != 0)) {
1239                 no_more_packets = spider_net_resync_tail_ptr(card);
1240                 spider_net_resync_head_ptr(card);
1241         }
1242         card->num_rx_ints = 0;
1243
1244         netdev->quota -= packets_done;
1245         *budget -= packets_done;
1246         spider_net_refill_rx_chain(card);
1247         spider_net_enable_rxdmac(card);
1248
1249         /* if all packets are in the stack, enable interrupts and return 0 */
1250         /* if not, return 1 */
1251         if (no_more_packets) {
1252                 netif_rx_complete(netdev);
1253                 spider_net_rx_irq_on(card);
1254                 return 0;
1255         }
1256
1257         return 1;
1258 }
1259
1260 /**
1261  * spider_net_get_stats - get interface statistics
1262  * @netdev: interface device structure
1263  *
1264  * returns the interface statistics residing in the spider_net_card struct
1265  */
1266 static struct net_device_stats *
1267 spider_net_get_stats(struct net_device *netdev)
1268 {
1269         struct spider_net_card *card = netdev_priv(netdev);
1270         struct net_device_stats *stats = &card->netdev_stats;
1271         return stats;
1272 }
1273
1274 /**
1275  * spider_net_change_mtu - changes the MTU of an interface
1276  * @netdev: interface device structure
1277  * @new_mtu: new MTU value
1278  *
1279  * returns 0 on success, <0 on failure
1280  */
1281 static int
1282 spider_net_change_mtu(struct net_device *netdev, int new_mtu)
1283 {
1284         /* no need to re-alloc skbs or so -- the max mtu is about 2.3k
1285          * and mtu is outbound only anyway */
1286         if ( (new_mtu < SPIDER_NET_MIN_MTU ) ||
1287                 (new_mtu > SPIDER_NET_MAX_MTU) )
1288                 return -EINVAL;
1289         netdev->mtu = new_mtu;
1290         return 0;
1291 }
1292
1293 /**
1294  * spider_net_set_mac - sets the MAC of an interface
1295  * @netdev: interface device structure
1296  * @ptr: pointer to new MAC address
1297  *
1298  * Returns 0 on success, <0 on failure. Currently, we don't support this
1299  * and will always return EOPNOTSUPP.
1300  */
1301 static int
1302 spider_net_set_mac(struct net_device *netdev, void *p)
1303 {
1304         struct spider_net_card *card = netdev_priv(netdev);
1305         u32 macl, macu, regvalue;
1306         struct sockaddr *addr = p;
1307
1308         if (!is_valid_ether_addr(addr->sa_data))
1309                 return -EADDRNOTAVAIL;
1310
1311         /* switch off GMACTPE and GMACRPE */
1312         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1313         regvalue &= ~((1 << 5) | (1 << 6));
1314         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1315
1316         /* write mac */
1317         macu = (addr->sa_data[0]<<24) + (addr->sa_data[1]<<16) +
1318                 (addr->sa_data[2]<<8) + (addr->sa_data[3]);
1319         macl = (addr->sa_data[4]<<8) + (addr->sa_data[5]);
1320         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACU, macu);
1321         spider_net_write_reg(card, SPIDER_NET_GMACUNIMACL, macl);
1322
1323         /* switch GMACTPE and GMACRPE back on */
1324         regvalue = spider_net_read_reg(card, SPIDER_NET_GMACOPEMD);
1325         regvalue |= ((1 << 5) | (1 << 6));
1326         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD, regvalue);
1327
1328         spider_net_set_promisc(card);
1329
1330         /* look up, whether we have been successful */
1331         if (spider_net_get_mac_address(netdev))
1332                 return -EADDRNOTAVAIL;
1333         if (memcmp(netdev->dev_addr,addr->sa_data,netdev->addr_len))
1334                 return -EADDRNOTAVAIL;
1335
1336         return 0;
1337 }
1338
1339 /**
1340  * spider_net_link_reset
1341  * @netdev: net device structure
1342  *
1343  * This is called when the PHY_LINK signal is asserted. For the blade this is
1344  * not connected so we should never get here.
1345  *
1346  */
1347 static void
1348 spider_net_link_reset(struct net_device *netdev)
1349 {
1350
1351         struct spider_net_card *card = netdev_priv(netdev);
1352
1353         del_timer_sync(&card->aneg_timer);
1354
1355         /* clear interrupt, block further interrupts */
1356         spider_net_write_reg(card, SPIDER_NET_GMACST,
1357                              spider_net_read_reg(card, SPIDER_NET_GMACST));
1358         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
1359
1360         /* reset phy and setup aneg */
1361         spider_net_setup_aneg(card);
1362         mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1363
1364 }
1365
1366 /**
1367  * spider_net_handle_error_irq - handles errors raised by an interrupt
1368  * @card: card structure
1369  * @status_reg: interrupt status register 0 (GHIINT0STS)
1370  *
1371  * spider_net_handle_error_irq treats or ignores all error conditions
1372  * found when an interrupt is presented
1373  */
1374 static void
1375 spider_net_handle_error_irq(struct spider_net_card *card, u32 status_reg)
1376 {
1377         u32 error_reg1, error_reg2;
1378         u32 i;
1379         int show_error = 1;
1380
1381         error_reg1 = spider_net_read_reg(card, SPIDER_NET_GHIINT1STS);
1382         error_reg2 = spider_net_read_reg(card, SPIDER_NET_GHIINT2STS);
1383
1384         /* check GHIINT0STS ************************************/
1385         if (status_reg)
1386                 for (i = 0; i < 32; i++)
1387                         if (status_reg & (1<<i))
1388                                 switch (i)
1389         {
1390         /* let error_reg1 and error_reg2 evaluation decide, what to do
1391         case SPIDER_NET_PHYINT:
1392         case SPIDER_NET_GMAC2INT:
1393         case SPIDER_NET_GMAC1INT:
1394         case SPIDER_NET_GFIFOINT:
1395         case SPIDER_NET_DMACINT:
1396         case SPIDER_NET_GSYSINT:
1397                 break; */
1398
1399         case SPIDER_NET_GIPSINT:
1400                 show_error = 0;
1401                 break;
1402
1403         case SPIDER_NET_GPWOPCMPINT:
1404                 /* PHY write operation completed */
1405                 show_error = 0;
1406                 break;
1407         case SPIDER_NET_GPROPCMPINT:
1408                 /* PHY read operation completed */
1409                 /* we don't use semaphores, as we poll for the completion
1410                  * of the read operation in spider_net_read_phy. Should take
1411                  * about 50 us */
1412                 show_error = 0;
1413                 break;
1414         case SPIDER_NET_GPWFFINT:
1415                 /* PHY command queue full */
1416                 if (netif_msg_intr(card))
1417                         pr_err("PHY write queue full\n");
1418                 show_error = 0;
1419                 break;
1420
1421         /* case SPIDER_NET_GRMDADRINT: not used. print a message */
1422         /* case SPIDER_NET_GRMARPINT: not used. print a message */
1423         /* case SPIDER_NET_GRMMPINT: not used. print a message */
1424
1425         case SPIDER_NET_GDTDEN0INT:
1426                 /* someone has set TX_DMA_EN to 0 */
1427                 show_error = 0;
1428                 break;
1429
1430         case SPIDER_NET_GDDDEN0INT: /* fallthrough */
1431         case SPIDER_NET_GDCDEN0INT: /* fallthrough */
1432         case SPIDER_NET_GDBDEN0INT: /* fallthrough */
1433         case SPIDER_NET_GDADEN0INT:
1434                 /* someone has set RX_DMA_EN to 0 */
1435                 show_error = 0;
1436                 break;
1437
1438         /* RX interrupts */
1439         case SPIDER_NET_GDDFDCINT:
1440         case SPIDER_NET_GDCFDCINT:
1441         case SPIDER_NET_GDBFDCINT:
1442         case SPIDER_NET_GDAFDCINT:
1443         /* case SPIDER_NET_GDNMINT: not used. print a message */
1444         /* case SPIDER_NET_GCNMINT: not used. print a message */
1445         /* case SPIDER_NET_GBNMINT: not used. print a message */
1446         /* case SPIDER_NET_GANMINT: not used. print a message */
1447         /* case SPIDER_NET_GRFNMINT: not used. print a message */
1448                 show_error = 0;
1449                 break;
1450
1451         /* TX interrupts */
1452         case SPIDER_NET_GDTFDCINT:
1453                 show_error = 0;
1454                 break;
1455         case SPIDER_NET_GTTEDINT:
1456                 show_error = 0;
1457                 break;
1458         case SPIDER_NET_GDTDCEINT:
1459                 /* chain end. If a descriptor should be sent, kick off
1460                  * tx dma
1461                 if (card->tx_chain.tail != card->tx_chain.head)
1462                         spider_net_kick_tx_dma(card);
1463                 */
1464                 show_error = 0;
1465                 break;
1466
1467         /* case SPIDER_NET_G1TMCNTINT: not used. print a message */
1468         /* case SPIDER_NET_GFREECNTINT: not used. print a message */
1469         }
1470
1471         /* check GHIINT1STS ************************************/
1472         if (error_reg1)
1473                 for (i = 0; i < 32; i++)
1474                         if (error_reg1 & (1<<i))
1475                                 switch (i)
1476         {
1477         case SPIDER_NET_GTMFLLINT:
1478                 /* TX RAM full may happen on a usual case.
1479                  * Logging is not needed. */
1480                 show_error = 0;
1481                 break;
1482         case SPIDER_NET_GRFDFLLINT: /* fallthrough */
1483         case SPIDER_NET_GRFCFLLINT: /* fallthrough */
1484         case SPIDER_NET_GRFBFLLINT: /* fallthrough */
1485         case SPIDER_NET_GRFAFLLINT: /* fallthrough */
1486         case SPIDER_NET_GRMFLLINT:
1487                 if (netif_msg_intr(card) && net_ratelimit())
1488                         pr_err("Spider RX RAM full, incoming packets "
1489                                "might be discarded!\n");
1490                 /* Could happen when rx chain is full */
1491                 spider_net_resync_head_ptr(card);
1492                 spider_net_refill_rx_chain(card);
1493                 spider_net_enable_rxdmac(card);
1494                 card->num_rx_ints ++;
1495                 netif_rx_schedule(card->netdev);
1496                 show_error = 0;
1497                 break;
1498
1499         /* case SPIDER_NET_GTMSHTINT: problem, print a message */
1500         case SPIDER_NET_GDTINVDINT:
1501                 /* allrighty. tx from previous descr ok */
1502                 show_error = 0;
1503                 break;
1504
1505         /* chain end */
1506         case SPIDER_NET_GDDDCEINT: /* fallthrough */
1507         case SPIDER_NET_GDCDCEINT: /* fallthrough */
1508         case SPIDER_NET_GDBDCEINT: /* fallthrough */
1509         case SPIDER_NET_GDADCEINT:
1510                 spider_net_resync_head_ptr(card);
1511                 spider_net_refill_rx_chain(card);
1512                 spider_net_enable_rxdmac(card);
1513                 card->num_rx_ints ++;
1514                 netif_rx_schedule(card->netdev);
1515                 show_error = 0;
1516                 break;
1517
1518         /* invalid descriptor */
1519         case SPIDER_NET_GDDINVDINT: /* fallthrough */
1520         case SPIDER_NET_GDCINVDINT: /* fallthrough */
1521         case SPIDER_NET_GDBINVDINT: /* fallthrough */
1522         case SPIDER_NET_GDAINVDINT:
1523                 /* Could happen when rx chain is full */
1524                 spider_net_resync_head_ptr(card);
1525                 spider_net_refill_rx_chain(card);
1526                 spider_net_enable_rxdmac(card);
1527                 card->num_rx_ints ++;
1528                 netif_rx_schedule(card->netdev);
1529                 show_error = 0;
1530                 break;
1531
1532         /* case SPIDER_NET_GDTRSERINT: problem, print a message */
1533         /* case SPIDER_NET_GDDRSERINT: problem, print a message */
1534         /* case SPIDER_NET_GDCRSERINT: problem, print a message */
1535         /* case SPIDER_NET_GDBRSERINT: problem, print a message */
1536         /* case SPIDER_NET_GDARSERINT: problem, print a message */
1537         /* case SPIDER_NET_GDSERINT: problem, print a message */
1538         /* case SPIDER_NET_GDTPTERINT: problem, print a message */
1539         /* case SPIDER_NET_GDDPTERINT: problem, print a message */
1540         /* case SPIDER_NET_GDCPTERINT: problem, print a message */
1541         /* case SPIDER_NET_GDBPTERINT: problem, print a message */
1542         /* case SPIDER_NET_GDAPTERINT: problem, print a message */
1543         default:
1544                 show_error = 1;
1545                 break;
1546         }
1547
1548         /* check GHIINT2STS ************************************/
1549         if (error_reg2)
1550                 for (i = 0; i < 32; i++)
1551                         if (error_reg2 & (1<<i))
1552                                 switch (i)
1553         {
1554         /* there is nothing we can (want  to) do at this time. Log a
1555          * message, we can switch on and off the specific values later on
1556         case SPIDER_NET_GPROPERINT:
1557         case SPIDER_NET_GMCTCRSNGINT:
1558         case SPIDER_NET_GMCTLCOLINT:
1559         case SPIDER_NET_GMCTTMOTINT:
1560         case SPIDER_NET_GMCRCAERINT:
1561         case SPIDER_NET_GMCRCALERINT:
1562         case SPIDER_NET_GMCRALNERINT:
1563         case SPIDER_NET_GMCROVRINT:
1564         case SPIDER_NET_GMCRRNTINT:
1565         case SPIDER_NET_GMCRRXERINT:
1566         case SPIDER_NET_GTITCSERINT:
1567         case SPIDER_NET_GTIFMTERINT:
1568         case SPIDER_NET_GTIPKTRVKINT:
1569         case SPIDER_NET_GTISPINGINT:
1570         case SPIDER_NET_GTISADNGINT:
1571         case SPIDER_NET_GTISPDNGINT:
1572         case SPIDER_NET_GRIFMTERINT:
1573         case SPIDER_NET_GRIPKTRVKINT:
1574         case SPIDER_NET_GRISPINGINT:
1575         case SPIDER_NET_GRISADNGINT:
1576         case SPIDER_NET_GRISPDNGINT:
1577                 break;
1578         */
1579                 default:
1580                         break;
1581         }
1582
1583         if ((show_error) && (netif_msg_intr(card)) && net_ratelimit())
1584                 pr_err("Got error interrupt on %s, GHIINT0STS = 0x%08x, "
1585                        "GHIINT1STS = 0x%08x, GHIINT2STS = 0x%08x\n",
1586                        card->netdev->name,
1587                        status_reg, error_reg1, error_reg2);
1588
1589         /* clear interrupt sources */
1590         spider_net_write_reg(card, SPIDER_NET_GHIINT1STS, error_reg1);
1591         spider_net_write_reg(card, SPIDER_NET_GHIINT2STS, error_reg2);
1592 }
1593
1594 /**
1595  * spider_net_interrupt - interrupt handler for spider_net
1596  * @irq: interupt number
1597  * @ptr: pointer to net_device
1598  * @regs: PU registers
1599  *
1600  * returns IRQ_HANDLED, if interrupt was for driver, or IRQ_NONE, if no
1601  * interrupt found raised by card.
1602  *
1603  * This is the interrupt handler, that turns off
1604  * interrupts for this device and makes the stack poll the driver
1605  */
1606 static irqreturn_t
1607 spider_net_interrupt(int irq, void *ptr)
1608 {
1609         struct net_device *netdev = ptr;
1610         struct spider_net_card *card = netdev_priv(netdev);
1611         u32 status_reg;
1612
1613         status_reg = spider_net_read_reg(card, SPIDER_NET_GHIINT0STS);
1614
1615         if (!status_reg)
1616                 return IRQ_NONE;
1617
1618         if (status_reg & SPIDER_NET_RXINT ) {
1619                 spider_net_rx_irq_off(card);
1620                 netif_rx_schedule(netdev);
1621                 card->num_rx_ints ++;
1622         }
1623         if (status_reg & SPIDER_NET_TXINT)
1624                 netif_rx_schedule(netdev);
1625
1626         if (status_reg & SPIDER_NET_LINKINT)
1627                 spider_net_link_reset(netdev);
1628
1629         if (status_reg & SPIDER_NET_ERRINT )
1630                 spider_net_handle_error_irq(card, status_reg);
1631
1632         /* clear interrupt sources */
1633         spider_net_write_reg(card, SPIDER_NET_GHIINT0STS, status_reg);
1634
1635         return IRQ_HANDLED;
1636 }
1637
1638 #ifdef CONFIG_NET_POLL_CONTROLLER
1639 /**
1640  * spider_net_poll_controller - artificial interrupt for netconsole etc.
1641  * @netdev: interface device structure
1642  *
1643  * see Documentation/networking/netconsole.txt
1644  */
1645 static void
1646 spider_net_poll_controller(struct net_device *netdev)
1647 {
1648         disable_irq(netdev->irq);
1649         spider_net_interrupt(netdev->irq, netdev);
1650         enable_irq(netdev->irq);
1651 }
1652 #endif /* CONFIG_NET_POLL_CONTROLLER */
1653
1654 /**
1655  * spider_net_init_card - initializes the card
1656  * @card: card structure
1657  *
1658  * spider_net_init_card initializes the card so that other registers can
1659  * be used
1660  */
1661 static void
1662 spider_net_init_card(struct spider_net_card *card)
1663 {
1664         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1665                              SPIDER_NET_CKRCTRL_STOP_VALUE);
1666
1667         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
1668                              SPIDER_NET_CKRCTRL_RUN_VALUE);
1669
1670         /* trigger ETOMOD signal */
1671         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1672                 spider_net_read_reg(card, SPIDER_NET_GMACOPEMD) | 0x4);
1673
1674 }
1675
1676 /**
1677  * spider_net_enable_card - enables the card by setting all kinds of regs
1678  * @card: card structure
1679  *
1680  * spider_net_enable_card sets a lot of SMMIO registers to enable the device
1681  */
1682 static void
1683 spider_net_enable_card(struct spider_net_card *card)
1684 {
1685         int i;
1686         /* the following array consists of (register),(value) pairs
1687          * that are set in this function. A register of 0 ends the list */
1688         u32 regs[][2] = {
1689                 { SPIDER_NET_GRESUMINTNUM, 0 },
1690                 { SPIDER_NET_GREINTNUM, 0 },
1691
1692                 /* set interrupt frame number registers */
1693                 /* clear the single DMA engine registers first */
1694                 { SPIDER_NET_GFAFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1695                 { SPIDER_NET_GFBFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1696                 { SPIDER_NET_GFCFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1697                 { SPIDER_NET_GFDFRMNUM, SPIDER_NET_GFXFRAMES_VALUE },
1698                 /* then set, what we really need */
1699                 { SPIDER_NET_GFFRMNUM, SPIDER_NET_FRAMENUM_VALUE },
1700
1701                 /* timer counter registers and stuff */
1702                 { SPIDER_NET_GFREECNNUM, 0 },
1703                 { SPIDER_NET_GONETIMENUM, 0 },
1704                 { SPIDER_NET_GTOUTFRMNUM, 0 },
1705
1706                 /* RX mode setting */
1707                 { SPIDER_NET_GRXMDSET, SPIDER_NET_RXMODE_VALUE },
1708                 /* TX mode setting */
1709                 { SPIDER_NET_GTXMDSET, SPIDER_NET_TXMODE_VALUE },
1710                 /* IPSEC mode setting */
1711                 { SPIDER_NET_GIPSECINIT, SPIDER_NET_IPSECINIT_VALUE },
1712
1713                 { SPIDER_NET_GFTRESTRT, SPIDER_NET_RESTART_VALUE },
1714
1715                 { SPIDER_NET_GMRWOLCTRL, 0 },
1716                 { SPIDER_NET_GTESTMD, 0x10000000 },
1717                 { SPIDER_NET_GTTQMSK, 0x00400040 },
1718
1719                 { SPIDER_NET_GMACINTEN, 0 },
1720
1721                 /* flow control stuff */
1722                 { SPIDER_NET_GMACAPAUSE, SPIDER_NET_MACAPAUSE_VALUE },
1723                 { SPIDER_NET_GMACTXPAUSE, SPIDER_NET_TXPAUSE_VALUE },
1724
1725                 { SPIDER_NET_GMACBSTLMT, SPIDER_NET_BURSTLMT_VALUE },
1726                 { 0, 0}
1727         };
1728
1729         i = 0;
1730         while (regs[i][0]) {
1731                 spider_net_write_reg(card, regs[i][0], regs[i][1]);
1732                 i++;
1733         }
1734
1735         /* clear unicast filter table entries 1 to 14 */
1736         for (i = 1; i <= 14; i++) {
1737                 spider_net_write_reg(card,
1738                                      SPIDER_NET_GMRUAFILnR + i * 8,
1739                                      0x00080000);
1740                 spider_net_write_reg(card,
1741                                      SPIDER_NET_GMRUAFILnR + i * 8 + 4,
1742                                      0x00000000);
1743         }
1744
1745         spider_net_write_reg(card, SPIDER_NET_GMRUA0FIL15R, 0x08080000);
1746
1747         spider_net_write_reg(card, SPIDER_NET_ECMODE, SPIDER_NET_ECMODE_VALUE);
1748
1749         /* set chain tail adress for RX chains and
1750          * enable DMA */
1751         spider_net_enable_rxchtails(card);
1752         spider_net_enable_rxdmac(card);
1753
1754         spider_net_write_reg(card, SPIDER_NET_GRXDMAEN, SPIDER_NET_WOL_VALUE);
1755
1756         spider_net_write_reg(card, SPIDER_NET_GMACLENLMT,
1757                              SPIDER_NET_LENLMT_VALUE);
1758         spider_net_write_reg(card, SPIDER_NET_GMACOPEMD,
1759                              SPIDER_NET_OPMODE_VALUE);
1760
1761         /* set interrupt mask registers */
1762         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK,
1763                              SPIDER_NET_INT0_MASK_VALUE);
1764         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK,
1765                              SPIDER_NET_INT1_MASK_VALUE);
1766         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK,
1767                              SPIDER_NET_INT2_MASK_VALUE);
1768
1769         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
1770                              SPIDER_NET_GDTBSTA);
1771 }
1772
1773 /**
1774  * spider_net_download_firmware - loads firmware into the adapter
1775  * @card: card structure
1776  * @firmware_ptr: pointer to firmware data
1777  *
1778  * spider_net_download_firmware loads the firmware data into the
1779  * adapter. It assumes the length etc. to be allright.
1780  */
1781 static int
1782 spider_net_download_firmware(struct spider_net_card *card,
1783                              const void *firmware_ptr)
1784 {
1785         int sequencer, i;
1786         const u32 *fw_ptr = firmware_ptr;
1787
1788         /* stop sequencers */
1789         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1790                              SPIDER_NET_STOP_SEQ_VALUE);
1791
1792         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
1793              sequencer++) {
1794                 spider_net_write_reg(card,
1795                                      SPIDER_NET_GSnPRGADR + sequencer * 8, 0);
1796                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
1797                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
1798                                              sequencer * 8, *fw_ptr);
1799                         fw_ptr++;
1800                 }
1801         }
1802
1803         if (spider_net_read_reg(card, SPIDER_NET_GSINIT))
1804                 return -EIO;
1805
1806         spider_net_write_reg(card, SPIDER_NET_GSINIT,
1807                              SPIDER_NET_RUN_SEQ_VALUE);
1808
1809         return 0;
1810 }
1811
1812 /**
1813  * spider_net_init_firmware - reads in firmware parts
1814  * @card: card structure
1815  *
1816  * Returns 0 on success, <0 on failure
1817  *
1818  * spider_net_init_firmware opens the sequencer firmware and does some basic
1819  * checks. This function opens and releases the firmware structure. A call
1820  * to download the firmware is performed before the release.
1821  *
1822  * Firmware format
1823  * ===============
1824  * spider_fw.bin is expected to be a file containing 6*1024*4 bytes, 4k being
1825  * the program for each sequencer. Use the command
1826  *    tail -q -n +2 Seq_code1_0x088.txt Seq_code2_0x090.txt              \
1827  *         Seq_code3_0x098.txt Seq_code4_0x0A0.txt Seq_code5_0x0A8.txt   \
1828  *         Seq_code6_0x0B0.txt | xxd -r -p -c4 > spider_fw.bin
1829  *
1830  * to generate spider_fw.bin, if you have sequencer programs with something
1831  * like the following contents for each sequencer:
1832  *    <ONE LINE COMMENT>
1833  *    <FIRST 4-BYTES-WORD FOR SEQUENCER>
1834  *    <SECOND 4-BYTES-WORD FOR SEQUENCER>
1835  *     ...
1836  *    <1024th 4-BYTES-WORD FOR SEQUENCER>
1837  */
1838 static int
1839 spider_net_init_firmware(struct spider_net_card *card)
1840 {
1841         struct firmware *firmware = NULL;
1842         struct device_node *dn;
1843         const u8 *fw_prop = NULL;
1844         int err = -ENOENT;
1845         int fw_size;
1846
1847         if (request_firmware((const struct firmware **)&firmware,
1848                              SPIDER_NET_FIRMWARE_NAME, &card->pdev->dev) == 0) {
1849                 if ( (firmware->size != SPIDER_NET_FIRMWARE_LEN) &&
1850                      netif_msg_probe(card) ) {
1851                         pr_err("Incorrect size of spidernet firmware in " \
1852                                "filesystem. Looking in host firmware...\n");
1853                         goto try_host_fw;
1854                 }
1855                 err = spider_net_download_firmware(card, firmware->data);
1856
1857                 release_firmware(firmware);
1858                 if (err)
1859                         goto try_host_fw;
1860
1861                 goto done;
1862         }
1863
1864 try_host_fw:
1865         dn = pci_device_to_OF_node(card->pdev);
1866         if (!dn)
1867                 goto out_err;
1868
1869         fw_prop = of_get_property(dn, "firmware", &fw_size);
1870         if (!fw_prop)
1871                 goto out_err;
1872
1873         if ( (fw_size != SPIDER_NET_FIRMWARE_LEN) &&
1874              netif_msg_probe(card) ) {
1875                 pr_err("Incorrect size of spidernet firmware in " \
1876                        "host firmware\n");
1877                 goto done;
1878         }
1879
1880         err = spider_net_download_firmware(card, fw_prop);
1881
1882 done:
1883         return err;
1884 out_err:
1885         if (netif_msg_probe(card))
1886                 pr_err("Couldn't find spidernet firmware in filesystem " \
1887                        "or host firmware\n");
1888         return err;
1889 }
1890
1891 /**
1892  * spider_net_open - called upon ifonfig up
1893  * @netdev: interface device structure
1894  *
1895  * returns 0 on success, <0 on failure
1896  *
1897  * spider_net_open allocates all the descriptors and memory needed for
1898  * operation, sets up multicast list and enables interrupts
1899  */
1900 int
1901 spider_net_open(struct net_device *netdev)
1902 {
1903         struct spider_net_card *card = netdev_priv(netdev);
1904         int result;
1905
1906         result = spider_net_init_firmware(card);
1907         if (result)
1908                 goto init_firmware_failed;
1909
1910         /* start probing with copper */
1911         spider_net_setup_aneg(card);
1912         if (card->phy.def->phy_id)
1913                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1914
1915         result = spider_net_init_chain(card, &card->tx_chain);
1916         if (result)
1917                 goto alloc_tx_failed;
1918         card->low_watermark = NULL;
1919
1920         result = spider_net_init_chain(card, &card->rx_chain);
1921         if (result)
1922                 goto alloc_rx_failed;
1923
1924         /* Allocate rx skbs */
1925         if (spider_net_alloc_rx_skbs(card))
1926                 goto alloc_skbs_failed;
1927
1928         spider_net_set_multi(netdev);
1929
1930         /* further enhancement: setup hw vlan, if needed */
1931
1932         result = -EBUSY;
1933         if (request_irq(netdev->irq, spider_net_interrupt,
1934                              IRQF_SHARED, netdev->name, netdev))
1935                 goto register_int_failed;
1936
1937         spider_net_enable_card(card);
1938
1939         netif_start_queue(netdev);
1940         netif_carrier_on(netdev);
1941         netif_poll_enable(netdev);
1942
1943         return 0;
1944
1945 register_int_failed:
1946         spider_net_free_rx_chain_contents(card);
1947 alloc_skbs_failed:
1948         spider_net_free_chain(card, &card->rx_chain);
1949 alloc_rx_failed:
1950         spider_net_free_chain(card, &card->tx_chain);
1951 alloc_tx_failed:
1952         del_timer_sync(&card->aneg_timer);
1953 init_firmware_failed:
1954         return result;
1955 }
1956
1957 /**
1958  * spider_net_link_phy
1959  * @data: used for pointer to card structure
1960  *
1961  */
1962 static void spider_net_link_phy(unsigned long data)
1963 {
1964         struct spider_net_card *card = (struct spider_net_card *)data;
1965         struct mii_phy *phy = &card->phy;
1966
1967         /* if link didn't come up after SPIDER_NET_ANEG_TIMEOUT tries, setup phy again */
1968         if (card->aneg_count > SPIDER_NET_ANEG_TIMEOUT) {
1969
1970                 pr_info("%s: link is down trying to bring it up\n", card->netdev->name);
1971
1972                 switch (card->medium) {
1973                 case BCM54XX_COPPER:
1974                         /* enable fiber with autonegotiation first */
1975                         if (phy->def->ops->enable_fiber)
1976                                 phy->def->ops->enable_fiber(phy, 1);
1977                         card->medium = BCM54XX_FIBER;
1978                         break;
1979
1980                 case BCM54XX_FIBER:
1981                         /* fiber didn't come up, try to disable fiber autoneg */
1982                         if (phy->def->ops->enable_fiber)
1983                                 phy->def->ops->enable_fiber(phy, 0);
1984                         card->medium = BCM54XX_UNKNOWN;
1985                         break;
1986
1987                 case BCM54XX_UNKNOWN:
1988                         /* copper, fiber with and without failed,
1989                          * retry from beginning */
1990                         spider_net_setup_aneg(card);
1991                         card->medium = BCM54XX_COPPER;
1992                         break;
1993                 }
1994
1995                 card->aneg_count = 0;
1996                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
1997                 return;
1998         }
1999
2000         /* link still not up, try again later */
2001         if (!(phy->def->ops->poll_link(phy))) {
2002                 card->aneg_count++;
2003                 mod_timer(&card->aneg_timer, jiffies + SPIDER_NET_ANEG_TIMER);
2004                 return;
2005         }
2006
2007         /* link came up, get abilities */
2008         phy->def->ops->read_link(phy);
2009
2010         spider_net_write_reg(card, SPIDER_NET_GMACST,
2011                              spider_net_read_reg(card, SPIDER_NET_GMACST));
2012         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0x4);
2013
2014         if (phy->speed == 1000)
2015                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0x00000001);
2016         else
2017                 spider_net_write_reg(card, SPIDER_NET_GMACMODE, 0);
2018
2019         card->aneg_count = 0;
2020
2021         pr_debug("Found %s with %i Mbps, %s-duplex %sautoneg.\n",
2022                 phy->def->name, phy->speed, phy->duplex==1 ? "Full" : "Half",
2023                 phy->autoneg==1 ? "" : "no ");
2024
2025         return;
2026 }
2027
2028 /**
2029  * spider_net_setup_phy - setup PHY
2030  * @card: card structure
2031  *
2032  * returns 0 on success, <0 on failure
2033  *
2034  * spider_net_setup_phy is used as part of spider_net_probe.
2035  **/
2036 static int
2037 spider_net_setup_phy(struct spider_net_card *card)
2038 {
2039         struct mii_phy *phy = &card->phy;
2040
2041         spider_net_write_reg(card, SPIDER_NET_GDTDMASEL,
2042                              SPIDER_NET_DMASEL_VALUE);
2043         spider_net_write_reg(card, SPIDER_NET_GPCCTRL,
2044                              SPIDER_NET_PHY_CTRL_VALUE);
2045
2046         phy->dev = card->netdev;
2047         phy->mdio_read = spider_net_read_phy;
2048         phy->mdio_write = spider_net_write_phy;
2049
2050         for (phy->mii_id = 1; phy->mii_id <= 31; phy->mii_id++) {
2051                 unsigned short id;
2052                 id = spider_net_read_phy(card->netdev, phy->mii_id, MII_BMSR);
2053                 if (id != 0x0000 && id != 0xffff) {
2054                         if (!mii_phy_probe(phy, phy->mii_id)) {
2055                                 pr_info("Found %s.\n", phy->def->name);
2056                                 break;
2057                         }
2058                 }
2059         }
2060
2061         return 0;
2062 }
2063
2064 /**
2065  * spider_net_workaround_rxramfull - work around firmware bug
2066  * @card: card structure
2067  *
2068  * no return value
2069  **/
2070 static void
2071 spider_net_workaround_rxramfull(struct spider_net_card *card)
2072 {
2073         int i, sequencer = 0;
2074
2075         /* cancel reset */
2076         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2077                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2078
2079         /* empty sequencer data */
2080         for (sequencer = 0; sequencer < SPIDER_NET_FIRMWARE_SEQS;
2081              sequencer++) {
2082                 spider_net_write_reg(card, SPIDER_NET_GSnPRGADR +
2083                                      sequencer * 8, 0x0);
2084                 for (i = 0; i < SPIDER_NET_FIRMWARE_SEQWORDS; i++) {
2085                         spider_net_write_reg(card, SPIDER_NET_GSnPRGDAT +
2086                                              sequencer * 8, 0x0);
2087                 }
2088         }
2089
2090         /* set sequencer operation */
2091         spider_net_write_reg(card, SPIDER_NET_GSINIT, 0x000000fe);
2092
2093         /* reset */
2094         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2095                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2096 }
2097
2098 /**
2099  * spider_net_stop - called upon ifconfig down
2100  * @netdev: interface device structure
2101  *
2102  * always returns 0
2103  */
2104 int
2105 spider_net_stop(struct net_device *netdev)
2106 {
2107         struct spider_net_card *card = netdev_priv(netdev);
2108
2109         netif_poll_disable(netdev);
2110         netif_carrier_off(netdev);
2111         netif_stop_queue(netdev);
2112         del_timer_sync(&card->tx_timer);
2113         del_timer_sync(&card->aneg_timer);
2114
2115         /* disable/mask all interrupts */
2116         spider_net_write_reg(card, SPIDER_NET_GHIINT0MSK, 0);
2117         spider_net_write_reg(card, SPIDER_NET_GHIINT1MSK, 0);
2118         spider_net_write_reg(card, SPIDER_NET_GHIINT2MSK, 0);
2119         spider_net_write_reg(card, SPIDER_NET_GMACINTEN, 0);
2120
2121         free_irq(netdev->irq, netdev);
2122
2123         spider_net_write_reg(card, SPIDER_NET_GDTDMACCNTR,
2124                              SPIDER_NET_DMA_TX_FEND_VALUE);
2125
2126         /* turn off DMA, force end */
2127         spider_net_disable_rxdmac(card);
2128
2129         /* release chains */
2130         spider_net_release_tx_chain(card, 1);
2131         spider_net_free_rx_chain_contents(card);
2132
2133         spider_net_free_chain(card, &card->tx_chain);
2134         spider_net_free_chain(card, &card->rx_chain);
2135
2136         return 0;
2137 }
2138
2139 /**
2140  * spider_net_tx_timeout_task - task scheduled by the watchdog timeout
2141  * function (to be called not under interrupt status)
2142  * @data: data, is interface device structure
2143  *
2144  * called as task when tx hangs, resets interface (if interface is up)
2145  */
2146 static void
2147 spider_net_tx_timeout_task(struct work_struct *work)
2148 {
2149         struct spider_net_card *card =
2150                 container_of(work, struct spider_net_card, tx_timeout_task);
2151         struct net_device *netdev = card->netdev;
2152
2153         if (!(netdev->flags & IFF_UP))
2154                 goto out;
2155
2156         netif_device_detach(netdev);
2157         spider_net_stop(netdev);
2158
2159         spider_net_workaround_rxramfull(card);
2160         spider_net_init_card(card);
2161
2162         if (spider_net_setup_phy(card))
2163                 goto out;
2164
2165         spider_net_open(netdev);
2166         spider_net_kick_tx_dma(card);
2167         netif_device_attach(netdev);
2168
2169 out:
2170         atomic_dec(&card->tx_timeout_task_counter);
2171 }
2172
2173 /**
2174  * spider_net_tx_timeout - called when the tx timeout watchdog kicks in.
2175  * @netdev: interface device structure
2176  *
2177  * called, if tx hangs. Schedules a task that resets the interface
2178  */
2179 static void
2180 spider_net_tx_timeout(struct net_device *netdev)
2181 {
2182         struct spider_net_card *card;
2183
2184         card = netdev_priv(netdev);
2185         atomic_inc(&card->tx_timeout_task_counter);
2186         if (netdev->flags & IFF_UP)
2187                 schedule_work(&card->tx_timeout_task);
2188         else
2189                 atomic_dec(&card->tx_timeout_task_counter);
2190         card->spider_stats.tx_timeouts++;
2191 }
2192
2193 /**
2194  * spider_net_setup_netdev_ops - initialization of net_device operations
2195  * @netdev: net_device structure
2196  *
2197  * fills out function pointers in the net_device structure
2198  */
2199 static void
2200 spider_net_setup_netdev_ops(struct net_device *netdev)
2201 {
2202         netdev->open = &spider_net_open;
2203         netdev->stop = &spider_net_stop;
2204         netdev->hard_start_xmit = &spider_net_xmit;
2205         netdev->get_stats = &spider_net_get_stats;
2206         netdev->set_multicast_list = &spider_net_set_multi;
2207         netdev->set_mac_address = &spider_net_set_mac;
2208         netdev->change_mtu = &spider_net_change_mtu;
2209         netdev->do_ioctl = &spider_net_do_ioctl;
2210         /* tx watchdog */
2211         netdev->tx_timeout = &spider_net_tx_timeout;
2212         netdev->watchdog_timeo = SPIDER_NET_WATCHDOG_TIMEOUT;
2213         /* NAPI */
2214         netdev->poll = &spider_net_poll;
2215         netdev->weight = SPIDER_NET_NAPI_WEIGHT;
2216         /* HW VLAN */
2217 #ifdef CONFIG_NET_POLL_CONTROLLER
2218         /* poll controller */
2219         netdev->poll_controller = &spider_net_poll_controller;
2220 #endif /* CONFIG_NET_POLL_CONTROLLER */
2221         /* ethtool ops */
2222         netdev->ethtool_ops = &spider_net_ethtool_ops;
2223 }
2224
2225 /**
2226  * spider_net_setup_netdev - initialization of net_device
2227  * @card: card structure
2228  *
2229  * Returns 0 on success or <0 on failure
2230  *
2231  * spider_net_setup_netdev initializes the net_device structure
2232  **/
2233 static int
2234 spider_net_setup_netdev(struct spider_net_card *card)
2235 {
2236         int result;
2237         struct net_device *netdev = card->netdev;
2238         struct device_node *dn;
2239         struct sockaddr addr;
2240         const u8 *mac;
2241
2242         SET_MODULE_OWNER(netdev);
2243         SET_NETDEV_DEV(netdev, &card->pdev->dev);
2244
2245         pci_set_drvdata(card->pdev, netdev);
2246
2247         init_timer(&card->tx_timer);
2248         card->tx_timer.function =
2249                 (void (*)(unsigned long)) spider_net_cleanup_tx_ring;
2250         card->tx_timer.data = (unsigned long) card;
2251         netdev->irq = card->pdev->irq;
2252
2253         card->aneg_count = 0;
2254         init_timer(&card->aneg_timer);
2255         card->aneg_timer.function = spider_net_link_phy;
2256         card->aneg_timer.data = (unsigned long) card;
2257
2258         card->options.rx_csum = SPIDER_NET_RX_CSUM_DEFAULT;
2259
2260         spider_net_setup_netdev_ops(netdev);
2261
2262         netdev->features = NETIF_F_HW_CSUM | NETIF_F_LLTX;
2263         /* some time: NETIF_F_HW_VLAN_TX | NETIF_F_HW_VLAN_RX |
2264          *              NETIF_F_HW_VLAN_FILTER */
2265
2266         netdev->irq = card->pdev->irq;
2267         card->num_rx_ints = 0;
2268
2269         dn = pci_device_to_OF_node(card->pdev);
2270         if (!dn)
2271                 return -EIO;
2272
2273         mac = of_get_property(dn, "local-mac-address", NULL);
2274         if (!mac)
2275                 return -EIO;
2276         memcpy(addr.sa_data, mac, ETH_ALEN);
2277
2278         result = spider_net_set_mac(netdev, &addr);
2279         if ((result) && (netif_msg_probe(card)))
2280                 pr_err("Failed to set MAC address: %i\n", result);
2281
2282         result = register_netdev(netdev);
2283         if (result) {
2284                 if (netif_msg_probe(card))
2285                         pr_err("Couldn't register net_device: %i\n",
2286                                   result);
2287                 return result;
2288         }
2289
2290         if (netif_msg_probe(card))
2291                 pr_info("Initialized device %s.\n", netdev->name);
2292
2293         return 0;
2294 }
2295
2296 /**
2297  * spider_net_alloc_card - allocates net_device and card structure
2298  *
2299  * returns the card structure or NULL in case of errors
2300  *
2301  * the card and net_device structures are linked to each other
2302  */
2303 static struct spider_net_card *
2304 spider_net_alloc_card(void)
2305 {
2306         struct net_device *netdev;
2307         struct spider_net_card *card;
2308         size_t alloc_size;
2309
2310         alloc_size = sizeof(struct spider_net_card) +
2311            (tx_descriptors + rx_descriptors) * sizeof(struct spider_net_descr);
2312         netdev = alloc_etherdev(alloc_size);
2313         if (!netdev)
2314                 return NULL;
2315
2316         card = netdev_priv(netdev);
2317         card->netdev = netdev;
2318         card->msg_enable = SPIDER_NET_DEFAULT_MSG;
2319         INIT_WORK(&card->tx_timeout_task, spider_net_tx_timeout_task);
2320         init_waitqueue_head(&card->waitq);
2321         atomic_set(&card->tx_timeout_task_counter, 0);
2322
2323         card->rx_chain.num_desc = rx_descriptors;
2324         card->rx_chain.ring = card->darray;
2325         card->tx_chain.num_desc = tx_descriptors;
2326         card->tx_chain.ring = card->darray + rx_descriptors;
2327
2328         return card;
2329 }
2330
2331 /**
2332  * spider_net_undo_pci_setup - releases PCI ressources
2333  * @card: card structure
2334  *
2335  * spider_net_undo_pci_setup releases the mapped regions
2336  */
2337 static void
2338 spider_net_undo_pci_setup(struct spider_net_card *card)
2339 {
2340         iounmap(card->regs);
2341         pci_release_regions(card->pdev);
2342 }
2343
2344 /**
2345  * spider_net_setup_pci_dev - sets up the device in terms of PCI operations
2346  * @card: card structure
2347  * @pdev: PCI device
2348  *
2349  * Returns the card structure or NULL if any errors occur
2350  *
2351  * spider_net_setup_pci_dev initializes pdev and together with the
2352  * functions called in spider_net_open configures the device so that
2353  * data can be transferred over it
2354  * The net_device structure is attached to the card structure, if the
2355  * function returns without error.
2356  **/
2357 static struct spider_net_card *
2358 spider_net_setup_pci_dev(struct pci_dev *pdev)
2359 {
2360         struct spider_net_card *card;
2361         unsigned long mmio_start, mmio_len;
2362
2363         if (pci_enable_device(pdev)) {
2364                 pr_err("Couldn't enable PCI device\n");
2365                 return NULL;
2366         }
2367
2368         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_MEM)) {
2369                 pr_err("Couldn't find proper PCI device base address.\n");
2370                 goto out_disable_dev;
2371         }
2372
2373         if (pci_request_regions(pdev, spider_net_driver_name)) {
2374                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2375                 goto out_disable_dev;
2376         }
2377
2378         pci_set_master(pdev);
2379
2380         card = spider_net_alloc_card();
2381         if (!card) {
2382                 pr_err("Couldn't allocate net_device structure, "
2383                           "aborting.\n");
2384                 goto out_release_regions;
2385         }
2386         card->pdev = pdev;
2387
2388         /* fetch base address and length of first resource */
2389         mmio_start = pci_resource_start(pdev, 0);
2390         mmio_len = pci_resource_len(pdev, 0);
2391
2392         card->netdev->mem_start = mmio_start;
2393         card->netdev->mem_end = mmio_start + mmio_len;
2394         card->regs = ioremap(mmio_start, mmio_len);
2395
2396         if (!card->regs) {
2397                 pr_err("Couldn't obtain PCI resources, aborting.\n");
2398                 goto out_release_regions;
2399         }
2400
2401         return card;
2402
2403 out_release_regions:
2404         pci_release_regions(pdev);
2405 out_disable_dev:
2406         pci_disable_device(pdev);
2407         pci_set_drvdata(pdev, NULL);
2408         return NULL;
2409 }
2410
2411 /**
2412  * spider_net_probe - initialization of a device
2413  * @pdev: PCI device
2414  * @ent: entry in the device id list
2415  *
2416  * Returns 0 on success, <0 on failure
2417  *
2418  * spider_net_probe initializes pdev and registers a net_device
2419  * structure for it. After that, the device can be ifconfig'ed up
2420  **/
2421 static int __devinit
2422 spider_net_probe(struct pci_dev *pdev, const struct pci_device_id *ent)
2423 {
2424         int err = -EIO;
2425         struct spider_net_card *card;
2426
2427         card = spider_net_setup_pci_dev(pdev);
2428         if (!card)
2429                 goto out;
2430
2431         spider_net_workaround_rxramfull(card);
2432         spider_net_init_card(card);
2433
2434         err = spider_net_setup_phy(card);
2435         if (err)
2436                 goto out_undo_pci;
2437
2438         err = spider_net_setup_netdev(card);
2439         if (err)
2440                 goto out_undo_pci;
2441
2442         return 0;
2443
2444 out_undo_pci:
2445         spider_net_undo_pci_setup(card);
2446         free_netdev(card->netdev);
2447 out:
2448         return err;
2449 }
2450
2451 /**
2452  * spider_net_remove - removal of a device
2453  * @pdev: PCI device
2454  *
2455  * Returns 0 on success, <0 on failure
2456  *
2457  * spider_net_remove is called to remove the device and unregisters the
2458  * net_device
2459  **/
2460 static void __devexit
2461 spider_net_remove(struct pci_dev *pdev)
2462 {
2463         struct net_device *netdev;
2464         struct spider_net_card *card;
2465
2466         netdev = pci_get_drvdata(pdev);
2467         card = netdev_priv(netdev);
2468
2469         wait_event(card->waitq,
2470                    atomic_read(&card->tx_timeout_task_counter) == 0);
2471
2472         unregister_netdev(netdev);
2473
2474         /* switch off card */
2475         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2476                              SPIDER_NET_CKRCTRL_STOP_VALUE);
2477         spider_net_write_reg(card, SPIDER_NET_CKRCTRL,
2478                              SPIDER_NET_CKRCTRL_RUN_VALUE);
2479
2480         spider_net_undo_pci_setup(card);
2481         free_netdev(netdev);
2482 }
2483
2484 static struct pci_driver spider_net_driver = {
2485         .name           = spider_net_driver_name,
2486         .id_table       = spider_net_pci_tbl,
2487         .probe          = spider_net_probe,
2488         .remove         = __devexit_p(spider_net_remove)
2489 };
2490
2491 /**
2492  * spider_net_init - init function when the driver is loaded
2493  *
2494  * spider_net_init registers the device driver
2495  */
2496 static int __init spider_net_init(void)
2497 {
2498         printk(KERN_INFO "Spidernet version %s.\n", VERSION);
2499
2500         if (rx_descriptors < SPIDER_NET_RX_DESCRIPTORS_MIN) {
2501                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MIN;
2502                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2503         }
2504         if (rx_descriptors > SPIDER_NET_RX_DESCRIPTORS_MAX) {
2505                 rx_descriptors = SPIDER_NET_RX_DESCRIPTORS_MAX;
2506                 pr_info("adjusting rx descriptors to %i.\n", rx_descriptors);
2507         }
2508         if (tx_descriptors < SPIDER_NET_TX_DESCRIPTORS_MIN) {
2509                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MIN;
2510                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2511         }
2512         if (tx_descriptors > SPIDER_NET_TX_DESCRIPTORS_MAX) {
2513                 tx_descriptors = SPIDER_NET_TX_DESCRIPTORS_MAX;
2514                 pr_info("adjusting tx descriptors to %i.\n", tx_descriptors);
2515         }
2516
2517         return pci_register_driver(&spider_net_driver);
2518 }
2519
2520 /**
2521  * spider_net_cleanup - exit function when driver is unloaded
2522  *
2523  * spider_net_cleanup unregisters the device driver
2524  */
2525 static void __exit spider_net_cleanup(void)
2526 {
2527         pci_unregister_driver(&spider_net_driver);
2528 }
2529
2530 module_init(spider_net_init);
2531 module_exit(spider_net_cleanup);