libata: fix EH locking
[linux-3.10.git] / drivers / scsi / sata_promise.c
1 /*
2  *  sata_promise.c - Promise SATA
3  *
4  *  Maintained by:  Jeff Garzik <jgarzik@pobox.com>
5  *                  Please ALWAYS copy linux-ide@vger.kernel.org
6  *                  on emails.
7  *
8  *  Copyright 2003-2004 Red Hat, Inc.
9  *
10  *  The contents of this file are subject to the Open
11  *  Software License version 1.1 that can be found at
12  *  http://www.opensource.org/licenses/osl-1.1.txt and is included herein
13  *  by reference.
14  *
15  *  Alternatively, the contents of this file may be used under the terms
16  *  of the GNU General Public License version 2 (the "GPL") as distributed
17  *  in the kernel source COPYING file, in which case the provisions of
18  *  the GPL are applicable instead of the above.  If you wish to allow
19  *  the use of your version of this file only under the terms of the
20  *  GPL and not to allow others to use your version of this file under
21  *  the OSL, indicate your decision by deleting the provisions above and
22  *  replace them with the notice and other provisions required by the GPL.
23  *  If you do not delete the provisions above, a recipient may use your
24  *  version of this file under either the OSL or the GPL.
25  *
26  */
27
28 #include <linux/kernel.h>
29 #include <linux/module.h>
30 #include <linux/pci.h>
31 #include <linux/init.h>
32 #include <linux/blkdev.h>
33 #include <linux/delay.h>
34 #include <linux/interrupt.h>
35 #include <linux/sched.h>
36 #include "scsi.h"
37 #include <scsi/scsi_host.h>
38 #include <linux/libata.h>
39 #include <asm/io.h>
40 #include "sata_promise.h"
41
42 #define DRV_NAME        "sata_promise"
43 #define DRV_VERSION     "1.02"
44
45
46 enum {
47         PDC_PKT_SUBMIT          = 0x40, /* Command packet pointer addr */
48         PDC_INT_SEQMASK         = 0x40, /* Mask of asserted SEQ INTs */
49         PDC_TBG_MODE            = 0x41, /* TBG mode */
50         PDC_FLASH_CTL           = 0x44, /* Flash control register */
51         PDC_PCI_CTL             = 0x48, /* PCI control and status register */
52         PDC_GLOBAL_CTL          = 0x48, /* Global control/status (per port) */
53         PDC_CTLSTAT             = 0x60, /* IDE control and status (per port) */
54         PDC_SATA_PLUG_CSR       = 0x6C, /* SATA Plug control/status reg */
55         PDC_SLEW_CTL            = 0x470, /* slew rate control reg */
56
57         PDC_ERR_MASK            = (1<<19) | (1<<20) | (1<<21) | (1<<22) |
58                                   (1<<8) | (1<<9) | (1<<10),
59
60         board_2037x             = 0,    /* FastTrak S150 TX2plus */
61         board_20319             = 1,    /* FastTrak S150 TX4 */
62         board_20619             = 2,    /* FastTrak TX4000 */
63
64         PDC_HAS_PATA            = (1 << 1), /* PDC20375 has PATA */
65
66         PDC_RESET               = (1 << 11), /* HDMA reset */
67 };
68
69
70 struct pdc_port_priv {
71         u8                      *pkt;
72         dma_addr_t              pkt_dma;
73 };
74
75 static u32 pdc_sata_scr_read (struct ata_port *ap, unsigned int sc_reg);
76 static void pdc_sata_scr_write (struct ata_port *ap, unsigned int sc_reg, u32 val);
77 static int pdc_ata_init_one (struct pci_dev *pdev, const struct pci_device_id *ent);
78 static irqreturn_t pdc_interrupt (int irq, void *dev_instance, struct pt_regs *regs);
79 static void pdc_eng_timeout(struct ata_port *ap);
80 static int pdc_port_start(struct ata_port *ap);
81 static void pdc_port_stop(struct ata_port *ap);
82 static void pdc_phy_reset(struct ata_port *ap);
83 static void pdc_qc_prep(struct ata_queued_cmd *qc);
84 static void pdc_tf_load_mmio(struct ata_port *ap, struct ata_taskfile *tf);
85 static void pdc_exec_command_mmio(struct ata_port *ap, struct ata_taskfile *tf);
86 static void pdc_irq_clear(struct ata_port *ap);
87 static int pdc_qc_issue_prot(struct ata_queued_cmd *qc);
88
89 static Scsi_Host_Template pdc_ata_sht = {
90         .module                 = THIS_MODULE,
91         .name                   = DRV_NAME,
92         .ioctl                  = ata_scsi_ioctl,
93         .queuecommand           = ata_scsi_queuecmd,
94         .eh_strategy_handler    = ata_scsi_error,
95         .can_queue              = ATA_DEF_QUEUE,
96         .this_id                = ATA_SHT_THIS_ID,
97         .sg_tablesize           = LIBATA_MAX_PRD,
98         .max_sectors            = ATA_MAX_SECTORS,
99         .cmd_per_lun            = ATA_SHT_CMD_PER_LUN,
100         .emulated               = ATA_SHT_EMULATED,
101         .use_clustering         = ATA_SHT_USE_CLUSTERING,
102         .proc_name              = DRV_NAME,
103         .dma_boundary           = ATA_DMA_BOUNDARY,
104         .slave_configure        = ata_scsi_slave_config,
105         .bios_param             = ata_std_bios_param,
106         .ordered_flush          = 1,
107 };
108
109 static struct ata_port_operations pdc_ata_ops = {
110         .port_disable           = ata_port_disable,
111         .tf_load                = pdc_tf_load_mmio,
112         .tf_read                = ata_tf_read,
113         .check_status           = ata_check_status,
114         .exec_command           = pdc_exec_command_mmio,
115         .dev_select             = ata_std_dev_select,
116         .phy_reset              = pdc_phy_reset,
117         .qc_prep                = pdc_qc_prep,
118         .qc_issue               = pdc_qc_issue_prot,
119         .eng_timeout            = pdc_eng_timeout,
120         .irq_handler            = pdc_interrupt,
121         .irq_clear              = pdc_irq_clear,
122         .scr_read               = pdc_sata_scr_read,
123         .scr_write              = pdc_sata_scr_write,
124         .port_start             = pdc_port_start,
125         .port_stop              = pdc_port_stop,
126         .host_stop              = ata_host_stop,
127 };
128
129 static struct ata_port_info pdc_port_info[] = {
130         /* board_2037x */
131         {
132                 .sht            = &pdc_ata_sht,
133                 .host_flags     = ATA_FLAG_SATA | ATA_FLAG_NO_LEGACY |
134                                   ATA_FLAG_SRST | ATA_FLAG_MMIO,
135                 .pio_mask       = 0x1f, /* pio0-4 */
136                 .mwdma_mask     = 0x07, /* mwdma0-2 */
137                 .udma_mask      = 0x7f, /* udma0-6 ; FIXME */
138                 .port_ops       = &pdc_ata_ops,
139         },
140
141         /* board_20319 */
142         {
143                 .sht            = &pdc_ata_sht,
144                 .host_flags     = ATA_FLAG_SATA | ATA_FLAG_NO_LEGACY |
145                                   ATA_FLAG_SRST | ATA_FLAG_MMIO,
146                 .pio_mask       = 0x1f, /* pio0-4 */
147                 .mwdma_mask     = 0x07, /* mwdma0-2 */
148                 .udma_mask      = 0x7f, /* udma0-6 ; FIXME */
149                 .port_ops       = &pdc_ata_ops,
150         },
151
152         /* board_20619 */
153         {
154                 .sht            = &pdc_ata_sht,
155                 .host_flags     = ATA_FLAG_NO_LEGACY | ATA_FLAG_SRST |
156                                   ATA_FLAG_MMIO | ATA_FLAG_SLAVE_POSS,
157                 .pio_mask       = 0x1f, /* pio0-4 */
158                 .mwdma_mask     = 0x07, /* mwdma0-2 */
159                 .udma_mask      = 0x7f, /* udma0-6 ; FIXME */
160                 .port_ops       = &pdc_ata_ops,
161         },
162 };
163
164 static struct pci_device_id pdc_ata_pci_tbl[] = {
165         { PCI_VENDOR_ID_PROMISE, 0x3371, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
166           board_2037x },
167         { PCI_VENDOR_ID_PROMISE, 0x3571, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
168           board_2037x },
169         { PCI_VENDOR_ID_PROMISE, 0x3373, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
170           board_2037x },
171         { PCI_VENDOR_ID_PROMISE, 0x3375, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
172           board_2037x },
173         { PCI_VENDOR_ID_PROMISE, 0x3376, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
174           board_2037x },
175         { PCI_VENDOR_ID_PROMISE, 0x3574, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
176           board_2037x },
177         { PCI_VENDOR_ID_PROMISE, 0x3d75, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
178           board_2037x },
179
180         { PCI_VENDOR_ID_PROMISE, 0x3318, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
181           board_20319 },
182         { PCI_VENDOR_ID_PROMISE, 0x3319, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
183           board_20319 },
184         { PCI_VENDOR_ID_PROMISE, 0x3519, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
185           board_20319 },
186         { PCI_VENDOR_ID_PROMISE, 0x3d17, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
187           board_20319 },
188         { PCI_VENDOR_ID_PROMISE, 0x3d18, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
189           board_20319 },
190
191         { PCI_VENDOR_ID_PROMISE, 0x6629, PCI_ANY_ID, PCI_ANY_ID, 0, 0,
192           board_20619 },
193
194         { }     /* terminate list */
195 };
196
197
198 static struct pci_driver pdc_ata_pci_driver = {
199         .name                   = DRV_NAME,
200         .id_table               = pdc_ata_pci_tbl,
201         .probe                  = pdc_ata_init_one,
202         .remove                 = ata_pci_remove_one,
203 };
204
205
206 static int pdc_port_start(struct ata_port *ap)
207 {
208         struct device *dev = ap->host_set->dev;
209         struct pdc_port_priv *pp;
210         int rc;
211
212         rc = ata_port_start(ap);
213         if (rc)
214                 return rc;
215
216         pp = kmalloc(sizeof(*pp), GFP_KERNEL);
217         if (!pp) {
218                 rc = -ENOMEM;
219                 goto err_out;
220         }
221         memset(pp, 0, sizeof(*pp));
222
223         pp->pkt = dma_alloc_coherent(dev, 128, &pp->pkt_dma, GFP_KERNEL);
224         if (!pp->pkt) {
225                 rc = -ENOMEM;
226                 goto err_out_kfree;
227         }
228
229         ap->private_data = pp;
230
231         return 0;
232
233 err_out_kfree:
234         kfree(pp);
235 err_out:
236         ata_port_stop(ap);
237         return rc;
238 }
239
240
241 static void pdc_port_stop(struct ata_port *ap)
242 {
243         struct device *dev = ap->host_set->dev;
244         struct pdc_port_priv *pp = ap->private_data;
245
246         ap->private_data = NULL;
247         dma_free_coherent(dev, 128, pp->pkt, pp->pkt_dma);
248         kfree(pp);
249         ata_port_stop(ap);
250 }
251
252
253 static void pdc_reset_port(struct ata_port *ap)
254 {
255         void *mmio = (void *) ap->ioaddr.cmd_addr + PDC_CTLSTAT;
256         unsigned int i;
257         u32 tmp;
258
259         for (i = 11; i > 0; i--) {
260                 tmp = readl(mmio);
261                 if (tmp & PDC_RESET)
262                         break;
263
264                 udelay(100);
265
266                 tmp |= PDC_RESET;
267                 writel(tmp, mmio);
268         }
269
270         tmp &= ~PDC_RESET;
271         writel(tmp, mmio);
272         readl(mmio);    /* flush */
273 }
274
275 static void pdc_phy_reset(struct ata_port *ap)
276 {
277         pdc_reset_port(ap);
278         sata_phy_reset(ap);
279 }
280
281 static u32 pdc_sata_scr_read (struct ata_port *ap, unsigned int sc_reg)
282 {
283         if (sc_reg > SCR_CONTROL)
284                 return 0xffffffffU;
285         return readl((void *) ap->ioaddr.scr_addr + (sc_reg * 4));
286 }
287
288
289 static void pdc_sata_scr_write (struct ata_port *ap, unsigned int sc_reg,
290                                u32 val)
291 {
292         if (sc_reg > SCR_CONTROL)
293                 return;
294         writel(val, (void *) ap->ioaddr.scr_addr + (sc_reg * 4));
295 }
296
297 static void pdc_qc_prep(struct ata_queued_cmd *qc)
298 {
299         struct pdc_port_priv *pp = qc->ap->private_data;
300         unsigned int i;
301
302         VPRINTK("ENTER\n");
303
304         switch (qc->tf.protocol) {
305         case ATA_PROT_DMA:
306                 ata_qc_prep(qc);
307                 /* fall through */
308
309         case ATA_PROT_NODATA:
310                 i = pdc_pkt_header(&qc->tf, qc->ap->prd_dma,
311                                    qc->dev->devno, pp->pkt);
312
313                 if (qc->tf.flags & ATA_TFLAG_LBA48)
314                         i = pdc_prep_lba48(&qc->tf, pp->pkt, i);
315                 else
316                         i = pdc_prep_lba28(&qc->tf, pp->pkt, i);
317
318                 pdc_pkt_footer(&qc->tf, pp->pkt, i);
319                 break;
320
321         default:
322                 break;
323         }
324 }
325
326 static void pdc_eng_timeout(struct ata_port *ap)
327 {
328         struct ata_host_set *host_set = ap->host_set;
329         u8 drv_stat;
330         struct ata_queued_cmd *qc;
331         unsigned long flags;
332
333         DPRINTK("ENTER\n");
334
335         spin_lock_irqsave(&host_set->lock, flags);
336
337         qc = ata_qc_from_tag(ap, ap->active_tag);
338         if (!qc) {
339                 printk(KERN_ERR "ata%u: BUG: timeout without command\n",
340                        ap->id);
341                 goto out;
342         }
343
344         /* hack alert!  We cannot use the supplied completion
345          * function from inside the ->eh_strategy_handler() thread.
346          * libata is the only user of ->eh_strategy_handler() in
347          * any kernel, so the default scsi_done() assumes it is
348          * not being called from the SCSI EH.
349          */
350         qc->scsidone = scsi_finish_command;
351
352         switch (qc->tf.protocol) {
353         case ATA_PROT_DMA:
354         case ATA_PROT_NODATA:
355                 printk(KERN_ERR "ata%u: command timeout\n", ap->id);
356                 ata_qc_complete(qc, ata_wait_idle(ap) | ATA_ERR);
357                 break;
358
359         default:
360                 drv_stat = ata_busy_wait(ap, ATA_BUSY | ATA_DRQ, 1000);
361
362                 printk(KERN_ERR "ata%u: unknown timeout, cmd 0x%x stat 0x%x\n",
363                        ap->id, qc->tf.command, drv_stat);
364
365                 ata_qc_complete(qc, drv_stat);
366                 break;
367         }
368
369 out:
370         spin_unlock_irqrestore(&host_set->lock, flags);
371         DPRINTK("EXIT\n");
372 }
373
374 static inline unsigned int pdc_host_intr( struct ata_port *ap,
375                                           struct ata_queued_cmd *qc)
376 {
377         u8 status;
378         unsigned int handled = 0, have_err = 0;
379         u32 tmp;
380         void *mmio = (void *) ap->ioaddr.cmd_addr + PDC_GLOBAL_CTL;
381
382         tmp = readl(mmio);
383         if (tmp & PDC_ERR_MASK) {
384                 have_err = 1;
385                 pdc_reset_port(ap);
386         }
387
388         switch (qc->tf.protocol) {
389         case ATA_PROT_DMA:
390         case ATA_PROT_NODATA:
391                 status = ata_wait_idle(ap);
392                 if (have_err)
393                         status |= ATA_ERR;
394                 ata_qc_complete(qc, status);
395                 handled = 1;
396                 break;
397
398         default:
399                 ap->stats.idle_irq++;
400                 break;
401         }
402
403         return handled;
404 }
405
406 static void pdc_irq_clear(struct ata_port *ap)
407 {
408         struct ata_host_set *host_set = ap->host_set;
409         void *mmio = host_set->mmio_base;
410
411         readl(mmio + PDC_INT_SEQMASK);
412 }
413
414 static irqreturn_t pdc_interrupt (int irq, void *dev_instance, struct pt_regs *regs)
415 {
416         struct ata_host_set *host_set = dev_instance;
417         struct ata_port *ap;
418         u32 mask = 0;
419         unsigned int i, tmp;
420         unsigned int handled = 0;
421         void *mmio_base;
422
423         VPRINTK("ENTER\n");
424
425         if (!host_set || !host_set->mmio_base) {
426                 VPRINTK("QUICK EXIT\n");
427                 return IRQ_NONE;
428         }
429
430         mmio_base = host_set->mmio_base;
431
432         /* reading should also clear interrupts */
433         mask = readl(mmio_base + PDC_INT_SEQMASK);
434
435         if (mask == 0xffffffff) {
436                 VPRINTK("QUICK EXIT 2\n");
437                 return IRQ_NONE;
438         }
439         mask &= 0xffff;         /* only 16 tags possible */
440         if (!mask) {
441                 VPRINTK("QUICK EXIT 3\n");
442                 return IRQ_NONE;
443         }
444
445         spin_lock(&host_set->lock);
446
447         writel(mask, mmio_base + PDC_INT_SEQMASK);
448
449         for (i = 0; i < host_set->n_ports; i++) {
450                 VPRINTK("port %u\n", i);
451                 ap = host_set->ports[i];
452                 tmp = mask & (1 << (i + 1));
453                 if (tmp && ap &&
454                     !(ap->flags & (ATA_FLAG_PORT_DISABLED | ATA_FLAG_NOINTR))) {
455                         struct ata_queued_cmd *qc;
456
457                         qc = ata_qc_from_tag(ap, ap->active_tag);
458                         if (qc && (!(qc->tf.ctl & ATA_NIEN)))
459                                 handled += pdc_host_intr(ap, qc);
460                 }
461         }
462
463         spin_unlock(&host_set->lock);
464
465         VPRINTK("EXIT\n");
466
467         return IRQ_RETVAL(handled);
468 }
469
470 static inline void pdc_packet_start(struct ata_queued_cmd *qc)
471 {
472         struct ata_port *ap = qc->ap;
473         struct pdc_port_priv *pp = ap->private_data;
474         unsigned int port_no = ap->port_no;
475         u8 seq = (u8) (port_no + 1);
476
477         VPRINTK("ENTER, ap %p\n", ap);
478
479         writel(0x00000001, ap->host_set->mmio_base + (seq * 4));
480         readl(ap->host_set->mmio_base + (seq * 4));     /* flush */
481
482         pp->pkt[2] = seq;
483         wmb();                  /* flush PRD, pkt writes */
484         writel(pp->pkt_dma, (void *) ap->ioaddr.cmd_addr + PDC_PKT_SUBMIT);
485         readl((void *) ap->ioaddr.cmd_addr + PDC_PKT_SUBMIT); /* flush */
486 }
487
488 static int pdc_qc_issue_prot(struct ata_queued_cmd *qc)
489 {
490         switch (qc->tf.protocol) {
491         case ATA_PROT_DMA:
492         case ATA_PROT_NODATA:
493                 pdc_packet_start(qc);
494                 return 0;
495
496         case ATA_PROT_ATAPI_DMA:
497                 BUG();
498                 break;
499
500         default:
501                 break;
502         }
503
504         return ata_qc_issue_prot(qc);
505 }
506
507 static void pdc_tf_load_mmio(struct ata_port *ap, struct ata_taskfile *tf)
508 {
509         WARN_ON (tf->protocol == ATA_PROT_DMA ||
510                  tf->protocol == ATA_PROT_NODATA);
511         ata_tf_load(ap, tf);
512 }
513
514
515 static void pdc_exec_command_mmio(struct ata_port *ap, struct ata_taskfile *tf)
516 {
517         WARN_ON (tf->protocol == ATA_PROT_DMA ||
518                  tf->protocol == ATA_PROT_NODATA);
519         ata_exec_command(ap, tf);
520 }
521
522
523 static void pdc_ata_setup_port(struct ata_ioports *port, unsigned long base)
524 {
525         port->cmd_addr          = base;
526         port->data_addr         = base;
527         port->feature_addr      =
528         port->error_addr        = base + 0x4;
529         port->nsect_addr        = base + 0x8;
530         port->lbal_addr         = base + 0xc;
531         port->lbam_addr         = base + 0x10;
532         port->lbah_addr         = base + 0x14;
533         port->device_addr       = base + 0x18;
534         port->command_addr      =
535         port->status_addr       = base + 0x1c;
536         port->altstatus_addr    =
537         port->ctl_addr          = base + 0x38;
538 }
539
540
541 static void pdc_host_init(unsigned int chip_id, struct ata_probe_ent *pe)
542 {
543         void *mmio = pe->mmio_base;
544         u32 tmp;
545
546         /*
547          * Except for the hotplug stuff, this is voodoo from the
548          * Promise driver.  Label this entire section
549          * "TODO: figure out why we do this"
550          */
551
552         /* change FIFO_SHD to 8 dwords, enable BMR_BURST */
553         tmp = readl(mmio + PDC_FLASH_CTL);
554         tmp |= 0x12000; /* bit 16 (fifo 8 dw) and 13 (bmr burst?) */
555         writel(tmp, mmio + PDC_FLASH_CTL);
556
557         /* clear plug/unplug flags for all ports */
558         tmp = readl(mmio + PDC_SATA_PLUG_CSR);
559         writel(tmp | 0xff, mmio + PDC_SATA_PLUG_CSR);
560
561         /* mask plug/unplug ints */
562         tmp = readl(mmio + PDC_SATA_PLUG_CSR);
563         writel(tmp | 0xff0000, mmio + PDC_SATA_PLUG_CSR);
564
565         /* reduce TBG clock to 133 Mhz. */
566         tmp = readl(mmio + PDC_TBG_MODE);
567         tmp &= ~0x30000; /* clear bit 17, 16*/
568         tmp |= 0x10000;  /* set bit 17:16 = 0:1 */
569         writel(tmp, mmio + PDC_TBG_MODE);
570
571         readl(mmio + PDC_TBG_MODE);     /* flush */
572         msleep(10);
573
574         /* adjust slew rate control register. */
575         tmp = readl(mmio + PDC_SLEW_CTL);
576         tmp &= 0xFFFFF03F; /* clear bit 11 ~ 6 */
577         tmp  |= 0x00000900; /* set bit 11-9 = 100b , bit 8-6 = 100 */
578         writel(tmp, mmio + PDC_SLEW_CTL);
579 }
580
581 static int pdc_ata_init_one (struct pci_dev *pdev, const struct pci_device_id *ent)
582 {
583         static int printed_version;
584         struct ata_probe_ent *probe_ent = NULL;
585         unsigned long base;
586         void *mmio_base;
587         unsigned int board_idx = (unsigned int) ent->driver_data;
588         int pci_dev_busy = 0;
589         int rc;
590
591         if (!printed_version++)
592                 printk(KERN_DEBUG DRV_NAME " version " DRV_VERSION "\n");
593
594         /*
595          * If this driver happens to only be useful on Apple's K2, then
596          * we should check that here as it has a normal Serverworks ID
597          */
598         rc = pci_enable_device(pdev);
599         if (rc)
600                 return rc;
601
602         rc = pci_request_regions(pdev, DRV_NAME);
603         if (rc) {
604                 pci_dev_busy = 1;
605                 goto err_out;
606         }
607
608         rc = pci_set_dma_mask(pdev, ATA_DMA_MASK);
609         if (rc)
610                 goto err_out_regions;
611         rc = pci_set_consistent_dma_mask(pdev, ATA_DMA_MASK);
612         if (rc)
613                 goto err_out_regions;
614
615         probe_ent = kmalloc(sizeof(*probe_ent), GFP_KERNEL);
616         if (probe_ent == NULL) {
617                 rc = -ENOMEM;
618                 goto err_out_regions;
619         }
620
621         memset(probe_ent, 0, sizeof(*probe_ent));
622         probe_ent->dev = pci_dev_to_dev(pdev);
623         INIT_LIST_HEAD(&probe_ent->node);
624
625         mmio_base = ioremap(pci_resource_start(pdev, 3),
626                             pci_resource_len(pdev, 3));
627         if (mmio_base == NULL) {
628                 rc = -ENOMEM;
629                 goto err_out_free_ent;
630         }
631         base = (unsigned long) mmio_base;
632
633         probe_ent->sht          = pdc_port_info[board_idx].sht;
634         probe_ent->host_flags   = pdc_port_info[board_idx].host_flags;
635         probe_ent->pio_mask     = pdc_port_info[board_idx].pio_mask;
636         probe_ent->mwdma_mask   = pdc_port_info[board_idx].mwdma_mask;
637         probe_ent->udma_mask    = pdc_port_info[board_idx].udma_mask;
638         probe_ent->port_ops     = pdc_port_info[board_idx].port_ops;
639
640         probe_ent->irq = pdev->irq;
641         probe_ent->irq_flags = SA_SHIRQ;
642         probe_ent->mmio_base = mmio_base;
643
644         pdc_ata_setup_port(&probe_ent->port[0], base + 0x200);
645         pdc_ata_setup_port(&probe_ent->port[1], base + 0x280);
646
647         probe_ent->port[0].scr_addr = base + 0x400;
648         probe_ent->port[1].scr_addr = base + 0x500;
649
650         /* notice 4-port boards */
651         switch (board_idx) {
652         case board_20319:
653                 probe_ent->n_ports = 4;
654
655                 pdc_ata_setup_port(&probe_ent->port[2], base + 0x300);
656                 pdc_ata_setup_port(&probe_ent->port[3], base + 0x380);
657
658                 probe_ent->port[2].scr_addr = base + 0x600;
659                 probe_ent->port[3].scr_addr = base + 0x700;
660                 break;
661         case board_2037x:
662                 probe_ent->n_ports = 2;
663                 break;
664         case board_20619:
665                 probe_ent->n_ports = 4;
666
667                 pdc_ata_setup_port(&probe_ent->port[2], base + 0x300);
668                 pdc_ata_setup_port(&probe_ent->port[3], base + 0x380);
669
670                 probe_ent->port[2].scr_addr = base + 0x600;
671                 probe_ent->port[3].scr_addr = base + 0x700;
672                 break;
673         default:
674                 BUG();
675                 break;
676         }
677
678         pci_set_master(pdev);
679
680         /* initialize adapter */
681         pdc_host_init(board_idx, probe_ent);
682
683         /* FIXME: check ata_device_add return value */
684         ata_device_add(probe_ent);
685         kfree(probe_ent);
686
687         return 0;
688
689 err_out_free_ent:
690         kfree(probe_ent);
691 err_out_regions:
692         pci_release_regions(pdev);
693 err_out:
694         if (!pci_dev_busy)
695                 pci_disable_device(pdev);
696         return rc;
697 }
698
699
700 static int __init pdc_ata_init(void)
701 {
702         return pci_module_init(&pdc_ata_pci_driver);
703 }
704
705
706 static void __exit pdc_ata_exit(void)
707 {
708         pci_unregister_driver(&pdc_ata_pci_driver);
709 }
710
711
712 MODULE_AUTHOR("Jeff Garzik");
713 MODULE_DESCRIPTION("Promise ATA TX2/TX4/TX4000 low-level driver");
714 MODULE_LICENSE("GPL");
715 MODULE_DEVICE_TABLE(pci, pdc_ata_pci_tbl);
716 MODULE_VERSION(DRV_VERSION);
717
718 module_init(pdc_ata_init);
719 module_exit(pdc_ata_exit);