drivers/scsi/aic7xxx_old.c

   1 /*+M*************************************************************************
   2  * Adaptec AIC7xxx device driver for Linux.
   3  *
   4  * Copyright (c) 1994 John Aycock
   5  *   The University of Calgary Department of Computer Science.
   6  *
   7  * This program is free software; you can redistribute it and/or modify
   8  * it under the terms of the GNU General Public License as published by
   9  * the Free Software Foundation; either version 2, or (at your option)
  10  * any later version.
  11  *
  12  * This program is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  * GNU General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU General Public License
  18  * along with this program; see the file COPYING.  If not, write to
  19  * the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
  20  *
  21  * Sources include the Adaptec 1740 driver (aha1740.c), the Ultrastor 24F
  22  * driver (ultrastor.c), various Linux kernel source, the Adaptec EISA
  23  * config file (!adp7771.cfg), the Adaptec AHA-2740A Series User's Guide,
  24  * the Linux Kernel Hacker's Guide, Writing a SCSI Device Driver for Linux,
  25  * the Adaptec 1542 driver (aha1542.c), the Adaptec EISA overlay file
  26  * (adp7770.ovl), the Adaptec AHA-2740 Series Technical Reference Manual,
  27  * the Adaptec AIC-7770 Data Book, the ANSI SCSI specification, the
  28  * ANSI SCSI-2 specification (draft 10c), ...
  29  *
  30  * --------------------------------------------------------------------------
  31  *
  32  *  Modifications by Daniel M. Eischen (deischen@iworks.InterWorks.org):
  33  *
  34  *  Substantially modified to include support for wide and twin bus
  35  *  adapters, DMAing of SCBs, tagged queueing, IRQ sharing, bug fixes,
  36  *  SCB paging, and other rework of the code.
  37  *
  38  *  Parts of this driver were also based on the FreeBSD driver by
  39  *  Justin T. Gibbs.  His copyright follows:
  40  *
  41  * --------------------------------------------------------------------------
  42  * Copyright (c) 1994-1997 Justin Gibbs.
  43  * All rights reserved.
  44  *
  45  * Redistribution and use in source and binary forms, with or without
  46  * modification, are permitted provided that the following conditions
  47  * are met:
  48  * 1. Redistributions of source code must retain the above copyright
  49  *    notice, this list of conditions, and the following disclaimer,
  50  *    without modification, immediately at the beginning of the file.
  51  * 2. Redistributions in binary form must reproduce the above copyright
  52  *    notice, this list of conditions and the following disclaimer in the
  53  *    documentation and/or other materials provided with the distribution.
  54  * 3. The name of the author may not be used to endorse or promote products
  55  *    derived from this software without specific prior written permission.
  56  *
  57  * Where this Software is combined with software released under the terms of
  58  * the GNU General Public License ("GPL") and the terms of the GPL would require the
  59  * combined work to also be released under the terms of the GPL, the terms
  60  * and conditions of this License will apply in addition to those of the
  61  * GPL with the exception of any terms or conditions of this License that
  62  * conflict with, or are expressly prohibited by, the GPL.
  63  *
  64  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  65  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  66  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  67  * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR
  68  * ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  69  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  70  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  71  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  72  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  73  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  74  * SUCH DAMAGE.
  75  *
  76  *      $Id: aic7xxx.c,v 1.119 1997/06/27 19:39:18 gibbs Exp $
  77  *---------------------------------------------------------------------------
  78  *
  79  *  Thanks also go to (in alphabetical order) the following:
  80  *
  81  *    Rory Bolt     - Sequencer bug fixes
  82  *    Jay Estabrook - Initial DEC Alpha support
  83  *    Doug Ledford  - Much needed abort/reset bug fixes
  84  *    Kai Makisara  - DMAing of SCBs
  85  *
  86  *  A Boot time option was also added for not resetting the scsi bus.
  87  *
  88  *    Form:  aic7xxx=extended
  89  *           aic7xxx=no_reset
  90  *           aic7xxx=ultra
  91  *           aic7xxx=irq_trigger:[0,1]  # 0 edge, 1 level
  92  *           aic7xxx=verbose
  93  *
  94  *  Daniel M. Eischen, deischen@iworks.InterWorks.org, 1/23/97
  95  *
  96  *  $Id: aic7xxx.c,v 4.1 1997/06/12 08:23:42 deang Exp $
  97  *-M*************************************************************************/
  98
  99 /*+M**************************************************************************
 100  *
 101  * Further driver modifications made by Doug Ledford <dledford@redhat.com>
 102  *
 103  * Copyright (c) 1997-1999 Doug Ledford
 104  *
 105  * These changes are released under the same licensing terms as the FreeBSD
 106  * driver written by Justin Gibbs.  Please see his Copyright notice above
 107  * for the exact terms and conditions covering my changes as well as the
 108  * warranty statement.
 109  *
 110  * Modifications made to the aic7xxx.c,v 4.1 driver from Dan Eischen include
 111  * but are not limited to:
 112  *
 113  *  1: Import of the latest FreeBSD sequencer code for this driver
 114  *  2: Modification of kernel code to accommodate different sequencer semantics
 115  *  3: Extensive changes throughout kernel portion of driver to improve
 116  *     abort/reset processing and error hanndling
 117  *  4: Other work contributed by various people on the Internet
 118  *  5: Changes to printk information and verbosity selection code
 119  *  6: General reliability related changes, especially in IRQ management
 120  *  7: Modifications to the default probe/attach order for supported cards
 121  *  8: SMP friendliness has been improved
 122  *
 123  * Overall, this driver represents a significant departure from the official
 124  * aic7xxx driver released by Dan Eischen in two ways.  First, in the code
 125  * itself.  A diff between the two version of the driver is now a several
 126  * thousand line diff.  Second, in approach to solving the same problem.  The
 127  * problem is importing the FreeBSD aic7xxx driver code to linux can be a
 128  * difficult and time consuming process, that also can be error prone.  Dan
 129  * Eischen's official driver uses the approach that the linux and FreeBSD
 130  * drivers should be as identical as possible.  To that end, his next version
 131  * of this driver will be using a mid-layer code library that he is developing
 132  * to moderate communications between the linux mid-level SCSI code and the
 133  * low level FreeBSD driver.  He intends to be able to essentially drop the
 134  * FreeBSD driver into the linux kernel with only a few minor tweaks to some
 135  * include files and the like and get things working, making for fast easy
 136  * imports of the FreeBSD code into linux.
 137  *
 138  * I disagree with Dan's approach.  Not that I don't think his way of doing
 139  * things would be nice, easy to maintain, and create a more uniform driver
 140  * between FreeBSD and Linux.  I have no objection to those issues.  My
 141  * disagreement is on the needed functionality.  There simply are certain
 142  * things that are done differently in FreeBSD than linux that will cause
 143  * problems for this driver regardless of any middle ware Dan implements.
 144  * The biggest example of this at the moment is interrupt semantics.  Linux
 145  * doesn't provide the same protection techniques as FreeBSD does, nor can
 146  * they be easily implemented in any middle ware code since they would truly
 147  * belong in the kernel proper and would effect all drivers.  For the time
 148  * being, I see issues such as these as major stumbling blocks to the
 149  * reliability of code based upon such middle ware.  Therefore, I choose to
 150  * use a different approach to importing the FreeBSD code that doesn't
 151  * involve any middle ware type code.  My approach is to import the sequencer
 152  * code from FreeBSD wholesale.  Then, to only make changes in the kernel
 153  * portion of the driver as they are needed for the new sequencer semantics.
 154  * In this way, the portion of the driver that speaks to the rest of the
 155  * linux kernel is fairly static and can be changed/modified to solve
 156  * any problems one might encounter without concern for the FreeBSD driver.
 157  *
 158  * Note: If time and experience should prove me wrong that the middle ware
 159  * code Dan writes is reliable in its operation, then I'll retract my above
 160  * statements.  But, for those that don't know, I'm from Missouri (in the US)
 161  * and our state motto is "The Show-Me State".  Well, before I will put
 162  * faith into it, you'll have to show me that it works :)
 163  *
 164  *_M*************************************************************************/
 165
 166 /*
 167  * The next three defines are user configurable.  These should be the only
 168  * defines a user might need to get in here and change.  There are other
 169  * defines buried deeper in the code, but those really shouldn't need touched
 170  * under normal conditions.
 171  */
 172
 173 /*
 174  * AIC7XXX_STRICT_PCI_SETUP
 175  *   Should we assume the PCI config options on our controllers are set with
 176  *   sane and proper values, or should we be anal about our PCI config
 177  *   registers and force them to what we want?  The main advantage to
 178  *   defining this option is on non-Intel hardware where the BIOS may not
 179  *   have been run to set things up, or if you have one of the BIOSless
 180  *   Adaptec controllers, such as a 2910, that don't get set up by the
 181  *   BIOS.  However, keep in mind that we really do set the most important
 182  *   items in the driver regardless of this setting, this only controls some
 183  *   of the more esoteric PCI options on these cards.  In that sense, I
 184  *   would default to leaving this off.  However, if people wish to try
 185  *   things both ways, that would also help me to know if there are some
 186  *   machines where it works one way but not another.
 187  *
 188  *   -- July 7, 17:09
 189  *     OK...I need this on my machine for testing, so the default is to
 190  *     leave it defined.
 191  *
 192  *   -- July 7, 18:49
 193  *     I needed it for testing, but it didn't make any difference, so back
 194  *     off she goes.
 195  *
 196  *   -- July 16, 23:04
 197  *     I turned it back on to try and compensate for the 2.1.x PCI code
 198  *     which no longer relies solely on the BIOS and now tries to set
 199  *     things itself.
 200  */
 201
 202 #define AIC7XXX_STRICT_PCI_SETUP
 203
 204 /*
 205  * AIC7XXX_VERBOSE_DEBUGGING
 206  *   This option enables a lot of extra printk();s in the code, surrounded
 207  *   by if (aic7xxx_verbose ...) statements.  Executing all of those if
 208  *   statements and the extra checks can get to where it actually does have
 209  *   an impact on CPU usage and such, as well as code size.  Disabling this
 210  *   define will keep some of those from becoming part of the code.
 211  *
 212  *   NOTE:  Currently, this option has no real effect, I will be adding the
 213  *   various #ifdef's in the code later when I've decided a section is
 214  *   complete and no longer needs debugging.  OK...a lot of things are now
 215  *   surrounded by this define, so turning this off does have an impact.
 216  */
 217
 218 /*
 219  * #define AIC7XXX_VERBOSE_DEBUGGING
 220  */
 221
 222 #include <linux/module.h>
 223 #include <stdarg.h>
 224 #include <asm/io.h>
 225 #include <asm/irq.h>
 226 #include <asm/byteorder.h>
 227 #include <linux/string.h>
 228 #include <linux/errno.h>
 229 #include <linux/kernel.h>
 230 #include <linux/ioport.h>
 231 #include <linux/delay.h>
 232 #include <linux/pci.h>
 233 #include <linux/proc_fs.h>
 234 #include <linux/blkdev.h>
 235 #include <linux/init.h>
 236 #include <linux/spinlock.h>
 237 #include <linux/smp.h>
 238 #include <linux/interrupt.h>
 239 #include "scsi.h"
 240 #include <scsi/scsi_host.h>
 241 #include "aic7xxx_old/aic7xxx.h"
 242
 243 #include "aic7xxx_old/sequencer.h"
 244 #include "aic7xxx_old/scsi_message.h"
 245 #include "aic7xxx_old/aic7xxx_reg.h"
 246 #include <scsi/scsicam.h>
 247
 248 #include <linux/stat.h>
 249 #include <linux/slab.h>        /* for kmalloc() */
 250
 251 #define AIC7XXX_C_VERSION  "5.2.6"
 252
 253 #define ALL_TARGETS -1
 254 #define ALL_CHANNELS -1
 255 #define ALL_LUNS -1
 256 #define MAX_TARGETS  16
 257 #define MAX_LUNS     8
 258 #ifndef TRUE
 259 #  define TRUE 1
 260 #endif
 261 #ifndef FALSE
 262 #  define FALSE 0
 263 #endif
 264
 265 #if defined(__powerpc__) || defined(__i386__) || defined(__x86_64__)
 266 #  define MMAPIO
 267 #endif
 268
 269 /*
 270  * You can try raising me for better performance or lowering me if you have
 271  * flaky devices that go off the scsi bus when hit with too many tagged
 272  * commands (like some IBM SCSI-3 LVD drives).
 273  */
 274 #define AIC7XXX_CMDS_PER_DEVICE 32
 275
 276 typedef struct
 277 {
 278   unsigned char tag_commands[16];   /* Allow for wide/twin adapters. */
 279 } adapter_tag_info_t;
 280
 281 /*
 282  * Make a define that will tell the driver not to the default tag depth
 283  * everywhere.
 284  */
 285 #define DEFAULT_TAG_COMMANDS {0, 0, 0, 0, 0, 0, 0, 0,\
 286                               0, 0, 0, 0, 0, 0, 0, 0}
 287
 288 /*
 289  * Modify this as you see fit for your system.  By setting tag_commands
 290  * to 0, the driver will use it's own algorithm for determining the
 291  * number of commands to use (see above).  When 255, the driver will
 292  * not enable tagged queueing for that particular device.  When positive
 293  * (> 0) and (< 255) the values in the array are used for the queue_depth.
 294  * Note that the maximum value for an entry is 254, but you're insane if
 295  * you try to use that many commands on one device.
 296  *
 297  * In this example, the first line will disable tagged queueing for all
 298  * the devices on the first probed aic7xxx adapter.
 299  *
 300  * The second line enables tagged queueing with 4 commands/LUN for IDs
 301  * (1, 2-11, 13-15), disables tagged queueing for ID 12, and tells the
 302  * driver to use its own algorithm for ID 1.
 303  *
 304  * The third line is the same as the first line.
 305  *
 306  * The fourth line disables tagged queueing for devices 0 and 3.  It
 307  * enables tagged queueing for the other IDs, with 16 commands/LUN
 308  * for IDs 1 and 4, 127 commands/LUN for ID 8, and 4 commands/LUN for
 309  * IDs 2, 5-7, and 9-15.
 310  */
 311
 312 /*
 313  * NOTE: The below structure is for reference only, the actual structure
 314  *       to modify in order to change things is found after this fake one.
 315  *
 316 adapter_tag_info_t aic7xxx_tag_info[] =
 317 {
 318   {DEFAULT_TAG_COMMANDS},
 319   {{4, 0, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 255, 4, 4, 4}},
 320   {DEFAULT_TAG_COMMANDS},
 321   {{255, 16, 4, 255, 16, 4, 4, 4, 127, 4, 4, 4, 4, 4, 4, 4}}
 322 };
 323 */
 324
 325 static adapter_tag_info_t aic7xxx_tag_info[] =
 326 {
 327   {DEFAULT_TAG_COMMANDS},
 328   {DEFAULT_TAG_COMMANDS},
 329   {DEFAULT_TAG_COMMANDS},
 330   {DEFAULT_TAG_COMMANDS},
 331   {DEFAULT_TAG_COMMANDS},
 332   {DEFAULT_TAG_COMMANDS},
 333   {DEFAULT_TAG_COMMANDS},
 334   {DEFAULT_TAG_COMMANDS},
 335   {DEFAULT_TAG_COMMANDS},
 336   {DEFAULT_TAG_COMMANDS},
 337   {DEFAULT_TAG_COMMANDS},
 338   {DEFAULT_TAG_COMMANDS},
 339   {DEFAULT_TAG_COMMANDS},
 340   {DEFAULT_TAG_COMMANDS},
 341   {DEFAULT_TAG_COMMANDS},
 342   {DEFAULT_TAG_COMMANDS}
 343 };
 344
 345
 346 /*
 347  * Define an array of board names that can be indexed by aha_type.
 348  * Don't forget to change this when changing the types!
 349  */
 350 static const char *board_names[] = {
 351   "AIC-7xxx Unknown",                                   /* AIC_NONE */
 352   "Adaptec AIC-7810 Hardware RAID Controller",          /* AIC_7810 */
 353   "Adaptec AIC-7770 SCSI host adapter",                 /* AIC_7770 */
 354   "Adaptec AHA-274X SCSI host adapter",                 /* AIC_7771 */
 355   "Adaptec AHA-284X SCSI host adapter",                 /* AIC_284x */
 356   "Adaptec AIC-7850 SCSI host adapter",                 /* AIC_7850 */
 357   "Adaptec AIC-7855 SCSI host adapter",                 /* AIC_7855 */
 358   "Adaptec AIC-7860 Ultra SCSI host adapter",           /* AIC_7860 */
 359   "Adaptec AHA-2940A Ultra SCSI host adapter",          /* AIC_7861 */
 360   "Adaptec AIC-7870 SCSI host adapter",                 /* AIC_7870 */
 361   "Adaptec AHA-294X SCSI host adapter",                 /* AIC_7871 */
 362   "Adaptec AHA-394X SCSI host adapter",                 /* AIC_7872 */
 363   "Adaptec AHA-398X SCSI host adapter",                 /* AIC_7873 */
 364   "Adaptec AHA-2944 SCSI host adapter",                 /* AIC_7874 */
 365   "Adaptec AIC-7880 Ultra SCSI host adapter",           /* AIC_7880 */
 366   "Adaptec AHA-294X Ultra SCSI host adapter",           /* AIC_7881 */
 367   "Adaptec AHA-394X Ultra SCSI host adapter",           /* AIC_7882 */
 368   "Adaptec AHA-398X Ultra SCSI host adapter",           /* AIC_7883 */
 369   "Adaptec AHA-2944 Ultra SCSI host adapter",           /* AIC_7884 */
 370   "Adaptec AHA-2940UW Pro Ultra SCSI host adapter",     /* AIC_7887 */
 371   "Adaptec AIC-7895 Ultra SCSI host adapter",           /* AIC_7895 */
 372   "Adaptec AIC-7890/1 Ultra2 SCSI host adapter",        /* AIC_7890 */
 373   "Adaptec AHA-293X Ultra2 SCSI host adapter",          /* AIC_7890 */
 374   "Adaptec AHA-294X Ultra2 SCSI host adapter",          /* AIC_7890 */
 375   "Adaptec AIC-7896/7 Ultra2 SCSI host adapter",        /* AIC_7896 */
 376   "Adaptec AHA-394X Ultra2 SCSI host adapter",          /* AIC_7897 */
 377   "Adaptec AHA-395X Ultra2 SCSI host adapter",          /* AIC_7897 */
 378   "Adaptec PCMCIA SCSI controller",                     /* card bus stuff */
 379   "Adaptec AIC-7892 Ultra 160/m SCSI host adapter",     /* AIC_7892 */
 380   "Adaptec AIC-7899 Ultra 160/m SCSI host adapter",     /* AIC_7899 */
 381 };
 382
 383 /*
 384  * There should be a specific return value for this in scsi.h, but
 385  * it seems that most drivers ignore it.
 386  */
 387 #define DID_UNDERFLOW   DID_ERROR
 388
 389 /*
 390  *  What we want to do is have the higher level scsi driver requeue
 391  *  the command to us. There is no specific driver status for this
 392  *  condition, but the higher level scsi driver will requeue the
 393  *  command on a DID_BUS_BUSY error.
 394  *
 395  *  Upon further inspection and testing, it seems that DID_BUS_BUSY
 396  *  will *always* retry the command.  We can get into an infinite loop
 397  *  if this happens when we really want some sort of counter that
 398  *  will automatically abort/reset the command after so many retries.
 399  *  Using DID_ERROR will do just that.  (Made by a suggestion by
 400  *  Doug Ledford 8/1/96)
 401  */
 402 #define DID_RETRY_COMMAND DID_ERROR
 403
 404 #define HSCSIID        0x07
 405 #define SCSI_RESET     0x040
 406
 407 /*
 408  * EISA/VL-bus stuff
 409  */
 410 #define MINSLOT                1
 411 #define MAXSLOT                15
 412 #define SLOTBASE(x)        ((x) << 12)
 413 #define BASE_TO_SLOT(x) ((x) >> 12)
 414
 415 /*
 416  * Standard EISA Host ID regs  (Offset from slot base)
 417  */
 418 #define AHC_HID0              0x80   /* 0,1: msb of ID2, 2-7: ID1      */
 419 #define AHC_HID1              0x81   /* 0-4: ID3, 5-7: LSB ID2         */
 420 #define AHC_HID2              0x82   /* product                        */
 421 #define AHC_HID3              0x83   /* firmware revision              */
 422
 423 /*
 424  * AIC-7770 I/O range to reserve for a card
 425  */
 426 #define MINREG                0xC00
 427 #define MAXREG                0xCFF
 428
 429 #define INTDEF                0x5C      /* Interrupt Definition Register */
 430
 431 /*
 432  * AIC-78X0 PCI registers
 433  */
 434 #define        CLASS_PROGIF_REVID        0x08
 435 #define                DEVREVID        0x000000FFul
 436 #define                PROGINFC        0x0000FF00ul
 437 #define                SUBCLASS        0x00FF0000ul
 438 #define                BASECLASS        0xFF000000ul
 439
 440 #define        CSIZE_LATTIME                0x0C
 441 #define                CACHESIZE        0x0000003Ful        /* only 5 bits */
 442 #define                LATTIME                0x0000FF00ul
 443
 444 #define        DEVCONFIG                0x40
 445 #define                SCBSIZE32        0x00010000ul        /* aic789X only */
 446 #define                MPORTMODE        0x00000400ul        /* aic7870 only */
 447 #define                RAMPSM           0x00000200ul        /* aic7870 only */
 448 #define                RAMPSM_ULTRA2    0x00000004
 449 #define                VOLSENSE         0x00000100ul
 450 #define                SCBRAMSEL        0x00000080ul
 451 #define                SCBRAMSEL_ULTRA2 0x00000008
 452 #define                MRDCEN           0x00000040ul
 453 #define                EXTSCBTIME       0x00000020ul        /* aic7870 only */
 454 #define                EXTSCBPEN        0x00000010ul        /* aic7870 only */
 455 #define                BERREN           0x00000008ul
 456 #define                DACEN            0x00000004ul
 457 #define                STPWLEVEL        0x00000002ul
 458 #define                DIFACTNEGEN      0x00000001ul        /* aic7870 only */
 459
 460 #define        SCAMCTL                  0x1a                /* Ultra2 only  */
 461 #define        CCSCBBADDR               0xf0                /* aic7895/6/7  */
 462
 463 /*
 464  * Define the different types of SEEPROMs on aic7xxx adapters
 465  * and make it also represent the address size used in accessing
 466  * its registers.  The 93C46 chips have 1024 bits organized into
 467  * 64 16-bit words, while the 93C56 chips have 2048 bits organized
 468  * into 128 16-bit words.  The C46 chips use 6 bits to address
 469  * each word, while the C56 and C66 (4096 bits) use 8 bits to
 470  * address each word.
 471  */
 472 typedef enum {C46 = 6, C56_66 = 8} seeprom_chip_type;
 473
 474 /*
 475  *
 476  * Define the format of the SEEPROM registers (16 bits).
 477  *
 478  */
 479 struct seeprom_config {
 480
 481 /*
 482  * SCSI ID Configuration Flags
 483  */
 484 #define CFXFER                0x0007      /* synchronous transfer rate */
 485 #define CFSYNCH               0x0008      /* enable synchronous transfer */
 486 #define CFDISC                0x0010      /* enable disconnection */
 487 #define CFWIDEB               0x0020      /* wide bus device (wide card) */
 488 #define CFSYNCHISULTRA        0x0040      /* CFSYNC is an ultra offset */
 489 #define CFNEWULTRAFORMAT      0x0080      /* Use the Ultra2 SEEPROM format */
 490 #define CFSTART               0x0100      /* send start unit SCSI command */
 491 #define CFINCBIOS             0x0200      /* include in BIOS scan */
 492 #define CFRNFOUND             0x0400      /* report even if not found */
 493 #define CFMULTILUN            0x0800      /* probe mult luns in BIOS scan */
 494 #define CFWBCACHEYES          0x4000      /* Enable W-Behind Cache on drive */
 495 #define CFWBCACHENC           0xc000      /* Don't change W-Behind Cache */
 496 /* UNUSED                0x3000 */
 497   unsigned short device_flags[16];        /* words 0-15 */
 498
 499 /*
 500  * BIOS Control Bits
 501  */
 502 #define CFSUPREM        0x0001  /* support all removable drives */
 503 #define CFSUPREMB       0x0002  /* support removable drives for boot only */
 504 #define CFBIOSEN        0x0004  /* BIOS enabled */
 505 /* UNUSED                0x0008 */
 506 #define CFSM2DRV        0x0010  /* support more than two drives */
 507 #define CF284XEXTEND    0x0020  /* extended translation (284x cards) */
 508 /* UNUSED                0x0040 */
 509 #define CFEXTEND        0x0080  /* extended translation enabled */
 510 /* UNUSED                0xFF00 */
 511   unsigned short bios_control;  /* word 16 */
 512
 513 /*
 514  * Host Adapter Control Bits
 515  */
 516 #define CFAUTOTERM      0x0001  /* Perform Auto termination */
 517 #define CFULTRAEN       0x0002  /* Ultra SCSI speed enable (Ultra cards) */
 518 #define CF284XSELTO     0x0003  /* Selection timeout (284x cards) */
 519 #define CF284XFIFO      0x000C  /* FIFO Threshold (284x cards) */
 520 #define CFSTERM         0x0004  /* SCSI low byte termination */
 521 #define CFWSTERM        0x0008  /* SCSI high byte termination (wide card) */
 522 #define CFSPARITY       0x0010  /* SCSI parity */
 523 #define CF284XSTERM     0x0020  /* SCSI low byte termination (284x cards) */
 524 #define CFRESETB        0x0040  /* reset SCSI bus at boot */
 525 #define CFBPRIMARY      0x0100  /* Channel B primary on 7895 chipsets */
 526 #define CFSEAUTOTERM    0x0400  /* aic7890 Perform SE Auto Term */
 527 #define CFLVDSTERM      0x0800  /* aic7890 LVD Termination */
 528 /* UNUSED                0xF280 */
 529   unsigned short adapter_control;        /* word 17 */
 530
 531 /*
 532  * Bus Release, Host Adapter ID
 533  */
 534 #define CFSCSIID        0x000F                /* host adapter SCSI ID */
 535 /* UNUSED                0x00F0 */
 536 #define CFBRTIME        0xFF00                /* bus release time */
 537   unsigned short brtime_id;                /* word 18 */
 538
 539 /*
 540  * Maximum targets
 541  */
 542 #define CFMAXTARG        0x00FF        /* maximum targets */
 543 /* UNUSED                0xFF00 */
 544   unsigned short max_targets;                /* word 19 */
 545
 546   unsigned short res_1[11];                /* words 20-30 */
 547   unsigned short checksum;                /* word 31 */
 548 };
 549
 550 #define SELBUS_MASK                0x0a
 551 #define         SELNARROW        0x00
 552 #define         SELBUSB                0x08
 553 #define SINGLE_BUS                0x00
 554
 555 #define SCB_TARGET(scb)         \
 556        (((scb)->hscb->target_channel_lun & TID) >> 4)
 557 #define SCB_LUN(scb)            \
 558        ((scb)->hscb->target_channel_lun & LID)
 559 #define SCB_IS_SCSIBUS_B(scb)   \
 560        (((scb)->hscb->target_channel_lun & SELBUSB) != 0)
 561
 562 /*
 563  * If an error occurs during a data transfer phase, run the command
 564  * to completion - it's easier that way - making a note of the error
 565  * condition in this location. This then will modify a DID_OK status
 566  * into an appropriate error for the higher-level SCSI code.
 567  */
 568 #define aic7xxx_error(cmd)        ((cmd)->SCp.Status)
 569
 570 /*
 571  * Keep track of the targets returned status.
 572  */
 573 #define aic7xxx_status(cmd)        ((cmd)->SCp.sent_command)
 574
 575 /*
 576  * The position of the SCSI commands scb within the scb array.
 577  */
 578 #define aic7xxx_position(cmd)        ((cmd)->SCp.have_data_in)
 579
 580 /*
 581  * The stored DMA mapping for single-buffer data transfers.
 582  */
 583 #define aic7xxx_mapping(cmd)         ((cmd)->SCp.phase)
 584
 585 /*
 586  * Get out private data area from a scsi cmd pointer
 587  */
 588 #define AIC_DEV(cmd)    ((struct aic_dev_data *)(cmd)->device->hostdata)
 589
 590 /*
 591  * So we can keep track of our host structs
 592  */
 593 static struct aic7xxx_host *first_aic7xxx = NULL;
 594
 595 /*
 596  * As of Linux 2.1, the mid-level SCSI code uses virtual addresses
 597  * in the scatter-gather lists.  We need to convert the virtual
 598  * addresses to physical addresses.
 599  */
 600 struct hw_scatterlist {
 601   unsigned int address;
 602   unsigned int length;
 603 };
 604
 605 /*
 606  * Maximum number of SG segments these cards can support.
 607  */
 608 #define        AIC7XXX_MAX_SG 128
 609
 610 /*
 611  * The maximum number of SCBs we could have for ANY type
 612  * of card. DON'T FORGET TO CHANGE THE SCB MASK IN THE
 613  * SEQUENCER CODE IF THIS IS MODIFIED!
 614  */
 615 #define AIC7XXX_MAXSCB        255
 616
 617
 618 struct aic7xxx_hwscb {
 619 /* ------------    Begin hardware supported fields    ---------------- */
 620 /* 0*/  unsigned char control;
 621 /* 1*/  unsigned char target_channel_lun;       /* 4/1/3 bits */
 622 /* 2*/  unsigned char target_status;
 623 /* 3*/  unsigned char SG_segment_count;
 624 /* 4*/  unsigned int  SG_list_pointer;
 625 /* 8*/  unsigned char residual_SG_segment_count;
 626 /* 9*/  unsigned char residual_data_count[3];
 627 /*12*/  unsigned int  data_pointer;
 628 /*16*/  unsigned int  data_count;
 629 /*20*/  unsigned int  SCSI_cmd_pointer;
 630 /*24*/  unsigned char SCSI_cmd_length;
 631 /*25*/  unsigned char tag;          /* Index into our kernel SCB array.
 632                                      * Also used as the tag for tagged I/O
 633                                      */
 634 #define SCB_PIO_TRANSFER_SIZE  26   /* amount we need to upload/download
 635                                      * via PIO to initialize a transaction.
 636                                      */
 637 /*26*/  unsigned char next;         /* Used to thread SCBs awaiting selection
 638                                      * or disconnected down in the sequencer.
 639                                      */
 640 /*27*/  unsigned char prev;
 641 /*28*/  unsigned int pad;           /*
 642                                      * Unused by the kernel, but we require
 643                                      * the padding so that the array of
 644                                      * hardware SCBs is aligned on 32 byte
 645                                      * boundaries so the sequencer can index
 646                                      */
 647 };
 648
 649 typedef enum {
 650         SCB_FREE                = 0x0000,
 651         SCB_DTR_SCB             = 0x0001,
 652         SCB_WAITINGQ            = 0x0002,
 653         SCB_ACTIVE              = 0x0004,
 654         SCB_SENSE               = 0x0008,
 655         SCB_ABORT               = 0x0010,
 656         SCB_DEVICE_RESET        = 0x0020,
 657         SCB_RESET               = 0x0040,
 658         SCB_RECOVERY_SCB        = 0x0080,
 659         SCB_MSGOUT_PPR          = 0x0100,
 660         SCB_MSGOUT_SENT         = 0x0200,
 661         SCB_MSGOUT_SDTR         = 0x0400,
 662         SCB_MSGOUT_WDTR         = 0x0800,
 663         SCB_MSGOUT_BITS         = SCB_MSGOUT_PPR |
 664                                   SCB_MSGOUT_SENT |
 665                                   SCB_MSGOUT_SDTR |
 666                                   SCB_MSGOUT_WDTR,
 667         SCB_QUEUED_ABORT        = 0x1000,
 668         SCB_QUEUED_FOR_DONE     = 0x2000,
 669         SCB_WAS_BUSY            = 0x4000,
 670         SCB_QUEUE_FULL          = 0x8000
 671 } scb_flag_type;
 672
 673 typedef enum {
 674         AHC_FNONE                 = 0x00000000,
 675         AHC_PAGESCBS              = 0x00000001,
 676         AHC_CHANNEL_B_PRIMARY     = 0x00000002,
 677         AHC_USEDEFAULTS           = 0x00000004,
 678         AHC_INDIRECT_PAGING       = 0x00000008,
 679         AHC_CHNLB                 = 0x00000020,
 680         AHC_CHNLC                 = 0x00000040,
 681         AHC_EXTEND_TRANS_A        = 0x00000100,
 682         AHC_EXTEND_TRANS_B        = 0x00000200,
 683         AHC_TERM_ENB_A            = 0x00000400,
 684         AHC_TERM_ENB_SE_LOW       = 0x00000400,
 685         AHC_TERM_ENB_B            = 0x00000800,
 686         AHC_TERM_ENB_SE_HIGH      = 0x00000800,
 687         AHC_HANDLING_REQINITS     = 0x00001000,
 688         AHC_TARGETMODE            = 0x00002000,
 689         AHC_NEWEEPROM_FMT         = 0x00004000,
 690  /*
 691   *  Here ends the FreeBSD defined flags and here begins the linux defined
 692   *  flags.  NOTE: I did not preserve the old flag name during this change
 693   *  specifically to force me to evaluate what flags were being used properly
 694   *  and what flags weren't.  This way, I could clean up the flag usage on
 695   *  a use by use basis.  Doug Ledford
 696   */
 697         AHC_MOTHERBOARD           = 0x00020000,
 698         AHC_NO_STPWEN             = 0x00040000,
 699         AHC_RESET_DELAY           = 0x00080000,
 700         AHC_A_SCANNED             = 0x00100000,
 701         AHC_B_SCANNED             = 0x00200000,
 702         AHC_MULTI_CHANNEL         = 0x00400000,
 703         AHC_BIOS_ENABLED          = 0x00800000,
 704         AHC_SEEPROM_FOUND         = 0x01000000,
 705         AHC_TERM_ENB_LVD          = 0x02000000,
 706         AHC_ABORT_PENDING         = 0x04000000,
 707         AHC_RESET_PENDING         = 0x08000000,
 708 #define AHC_IN_ISR_BIT              28
 709         AHC_IN_ISR                = 0x10000000,
 710         AHC_IN_ABORT              = 0x20000000,
 711         AHC_IN_RESET              = 0x40000000,
 712         AHC_EXTERNAL_SRAM         = 0x80000000
 713 } ahc_flag_type;
 714
 715 typedef enum {
 716   AHC_NONE             = 0x0000,
 717   AHC_CHIPID_MASK      = 0x00ff,
 718   AHC_AIC7770          = 0x0001,
 719   AHC_AIC7850          = 0x0002,
 720   AHC_AIC7860          = 0x0003,
 721   AHC_AIC7870          = 0x0004,
 722   AHC_AIC7880          = 0x0005,
 723   AHC_AIC7890          = 0x0006,
 724   AHC_AIC7895          = 0x0007,
 725   AHC_AIC7896          = 0x0008,
 726   AHC_AIC7892          = 0x0009,
 727   AHC_AIC7899          = 0x000a,
 728   AHC_VL               = 0x0100,
 729   AHC_EISA             = 0x0200,
 730   AHC_PCI              = 0x0400,
 731 } ahc_chip;
 732
 733 typedef enum {
 734   AHC_FENONE           = 0x0000,
 735   AHC_ULTRA            = 0x0001,
 736   AHC_ULTRA2           = 0x0002,
 737   AHC_WIDE             = 0x0004,
 738   AHC_TWIN             = 0x0008,
 739   AHC_MORE_SRAM        = 0x0010,
 740   AHC_CMD_CHAN         = 0x0020,
 741   AHC_QUEUE_REGS       = 0x0040,
 742   AHC_SG_PRELOAD       = 0x0080,
 743   AHC_SPIOCAP          = 0x0100,
 744   AHC_ULTRA3           = 0x0200,
 745   AHC_NEW_AUTOTERM     = 0x0400,
 746   AHC_AIC7770_FE       = AHC_FENONE,
 747   AHC_AIC7850_FE       = AHC_SPIOCAP,
 748   AHC_AIC7860_FE       = AHC_ULTRA|AHC_SPIOCAP,
 749   AHC_AIC7870_FE       = AHC_FENONE,
 750   AHC_AIC7880_FE       = AHC_ULTRA,
 751   AHC_AIC7890_FE       = AHC_MORE_SRAM|AHC_CMD_CHAN|AHC_ULTRA2|
 752                          AHC_QUEUE_REGS|AHC_SG_PRELOAD|AHC_NEW_AUTOTERM,
 753   AHC_AIC7895_FE       = AHC_MORE_SRAM|AHC_CMD_CHAN|AHC_ULTRA,
 754   AHC_AIC7896_FE       = AHC_AIC7890_FE,
 755   AHC_AIC7892_FE       = AHC_AIC7890_FE|AHC_ULTRA3,
 756   AHC_AIC7899_FE       = AHC_AIC7890_FE|AHC_ULTRA3,
 757 } ahc_feature;
 758
 759 #define SCB_DMA_ADDR(scb, addr) ((unsigned long)(addr) + (scb)->scb_dma->dma_offset)
 760
 761 struct aic7xxx_scb_dma {
 762         unsigned long          dma_offset;    /* Correction you have to add
 763                                                * to virtual address to get
 764                                                * dma handle in this region */
 765         dma_addr_t             dma_address;   /* DMA handle of the start,
 766                                                * for unmap */
 767         unsigned int           dma_len;       /* DMA length */
 768 };
 769
 770 typedef enum {
 771   AHC_BUG_NONE            = 0x0000,
 772   AHC_BUG_TMODE_WIDEODD   = 0x0001,
 773   AHC_BUG_AUTOFLUSH       = 0x0002,
 774   AHC_BUG_CACHETHEN       = 0x0004,
 775   AHC_BUG_CACHETHEN_DIS   = 0x0008,
 776   AHC_BUG_PCI_2_1_RETRY   = 0x0010,
 777   AHC_BUG_PCI_MWI         = 0x0020,
 778   AHC_BUG_SCBCHAN_UPLOAD  = 0x0040,
 779 } ahc_bugs;
 780
 781 struct aic7xxx_scb {
 782         struct aic7xxx_hwscb    *hscb;          /* corresponding hardware scb */
 783         struct scsi_cmnd        *cmd;           /* scsi_cmnd for this scb */
 784         struct aic7xxx_scb      *q_next;        /* next scb in queue */
 785         volatile scb_flag_type  flags;          /* current state of scb */
 786         struct hw_scatterlist   *sg_list;       /* SG list in adapter format */
 787         unsigned char           tag_action;
 788         unsigned char           sg_count;
 789         unsigned char           *sense_cmd;     /*
 790                                                  * Allocate 6 characters for
 791                                                  * sense command.
 792                                                  */
 793         unsigned char           *cmnd;
 794         unsigned int            sg_length;      /*
 795                                                  * We init this during
 796                                                  * buildscb so we don't have
 797                                                  * to calculate anything during
 798                                                  * underflow/overflow/stat code
 799                                                  */
 800         void                    *kmalloc_ptr;
 801         struct aic7xxx_scb_dma  *scb_dma;
 802 };
 803
 804 /*
 805  * Define a linked list of SCBs.
 806  */
 807 typedef struct {
 808   struct aic7xxx_scb *head;
 809   struct aic7xxx_scb *tail;
 810 } scb_queue_type;
 811
 812 static struct {
 813   unsigned char errno;
 814   const char *errmesg;
 815 } hard_error[] = {
 816   { ILLHADDR,  "Illegal Host Access" },
 817   { ILLSADDR,  "Illegal Sequencer Address referenced" },
 818   { ILLOPCODE, "Illegal Opcode in sequencer program" },
 819   { SQPARERR,  "Sequencer Ram Parity Error" },
 820   { DPARERR,   "Data-Path Ram Parity Error" },
 821   { MPARERR,   "Scratch Ram/SCB Array Ram Parity Error" },
 822   { PCIERRSTAT,"PCI Error detected" },
 823   { CIOPARERR, "CIOBUS Parity Error" }
 824 };
 825
 826 static unsigned char
 827 generic_sense[] = { REQUEST_SENSE, 0, 0, 0, 255, 0 };
 828
 829 typedef struct {
 830   scb_queue_type free_scbs;        /*
 831                                     * SCBs assigned to free slot on
 832                                     * card (no paging required)
 833                                     */
 834   struct aic7xxx_scb   *scb_array[AIC7XXX_MAXSCB];
 835   struct aic7xxx_hwscb *hscbs;
 836   unsigned char  numscbs;          /* current number of scbs */
 837   unsigned char  maxhscbs;         /* hardware scbs */
 838   unsigned char  maxscbs;          /* max scbs including pageable scbs */
 839   dma_addr_t     hscbs_dma;        /* DMA handle to hscbs */
 840   unsigned int   hscbs_dma_len;    /* length of the above DMA area */
 841   void          *hscb_kmalloc_ptr;
 842 } scb_data_type;
 843
 844 struct target_cmd {
 845   unsigned char mesg_bytes[4];
 846   unsigned char command[28];
 847 };
 848
 849 #define AHC_TRANS_CUR    0x0001
 850 #define AHC_TRANS_ACTIVE 0x0002
 851 #define AHC_TRANS_GOAL   0x0004
 852 #define AHC_TRANS_USER   0x0008
 853 #define AHC_TRANS_QUITE  0x0010
 854 typedef struct {
 855   unsigned char width;
 856   unsigned char period;
 857   unsigned char offset;
 858   unsigned char options;
 859 } transinfo_type;
 860
 861 struct aic_dev_data {
 862   volatile scb_queue_type  delayed_scbs;
 863   volatile unsigned short  temp_q_depth;
 864   unsigned short           max_q_depth;
 865   volatile unsigned char   active_cmds;
 866   /*
 867    * Statistics Kept:
 868    *
 869    * Total Xfers (count for each command that has a data xfer),
 870    * broken down by reads && writes.
 871    *
 872    * Further sorted into a few bins for keeping tabs on how many commands
 873    * we get of various sizes.
 874    *
 875    */
 876   long w_total;                          /* total writes */
 877   long r_total;                          /* total reads */
 878   long barrier_total;                    /* total num of REQ_BARRIER commands */
 879   long ordered_total;                    /* How many REQ_BARRIER commands we
 880                                             used ordered tags to satisfy */
 881   long w_bins[6];                       /* binned write */
 882   long r_bins[6];                       /* binned reads */
 883   transinfo_type        cur;
 884   transinfo_type        goal;
 885 #define  BUS_DEVICE_RESET_PENDING       0x01
 886 #define  DEVICE_RESET_DELAY             0x02
 887 #define  DEVICE_PRINT_DTR               0x04
 888 #define  DEVICE_WAS_BUSY                0x08
 889 #define  DEVICE_DTR_SCANNED             0x10
 890 #define  DEVICE_SCSI_3                  0x20
 891   volatile unsigned char   flags;
 892   unsigned needppr:1;
 893   unsigned needppr_copy:1;
 894   unsigned needsdtr:1;
 895   unsigned needsdtr_copy:1;
 896   unsigned needwdtr:1;
 897   unsigned needwdtr_copy:1;
 898   unsigned dtr_pending:1;
 899   struct scsi_device *SDptr;
 900   struct list_head list;
 901 };
 902
 903 /*
 904  * Define a structure used for each host adapter.  Note, in order to avoid
 905  * problems with architectures I can't test on (because I don't have one,
 906  * such as the Alpha based systems) which happen to give faults for
 907  * non-aligned memory accesses, care was taken to align this structure
 908  * in a way that gauranteed all accesses larger than 8 bits were aligned
 909  * on the appropriate boundary.  It's also organized to try and be more
 910  * cache line efficient.  Be careful when changing this lest you might hurt
 911  * overall performance and bring down the wrath of the masses.
 912  */
 913 struct aic7xxx_host {
 914   /*
 915    *  This is the first 64 bytes in the host struct
 916    */
 917
 918   /*
 919    * We are grouping things here....first, items that get either read or
 920    * written with nearly every interrupt
 921    */
 922         volatile long   flags;
 923         ahc_feature     features;       /* chip features */
 924         unsigned long   base;           /* card base address */
 925         volatile unsigned char  __iomem *maddr; /* memory mapped address */
 926         unsigned long   isr_count;      /* Interrupt count */
 927         unsigned long   spurious_int;
 928         scb_data_type   *scb_data;
 929         struct aic7xxx_cmd_queue {
 930                 struct scsi_cmnd *head;
 931                 struct scsi_cmnd *tail;
 932         } completeq;
 933
 934         /*
 935         * Things read/written on nearly every entry into aic7xxx_queue()
 936         */
 937         volatile scb_queue_type waiting_scbs;
 938         unsigned char   unpause;        /* unpause value for HCNTRL */
 939         unsigned char   pause;          /* pause value for HCNTRL */
 940         volatile unsigned char  qoutfifonext;
 941         volatile unsigned char  activescbs;     /* active scbs */
 942         volatile unsigned char  max_activescbs;
 943         volatile unsigned char  qinfifonext;
 944         volatile unsigned char  *untagged_scbs;
 945         volatile unsigned char  *qoutfifo;
 946         volatile unsigned char  *qinfifo;
 947
 948         unsigned char   dev_last_queue_full[MAX_TARGETS];
 949         unsigned char   dev_last_queue_full_count[MAX_TARGETS];
 950         unsigned short  ultraenb; /* Gets downloaded to card as a bitmap */
 951         unsigned short  discenable; /* Gets downloaded to card as a bitmap */
 952         transinfo_type  user[MAX_TARGETS];
 953
 954         unsigned char   msg_buf[13];    /* The message for the target */
 955         unsigned char   msg_type;
 956 #define MSG_TYPE_NONE              0x00
 957 #define MSG_TYPE_INITIATOR_MSGOUT  0x01
 958 #define MSG_TYPE_INITIATOR_MSGIN   0x02
 959         unsigned char   msg_len;        /* Length of message */
 960         unsigned char   msg_index;      /* Index into msg_buf array */
 961
 962
 963         /*
 964          * We put the less frequently used host structure items
 965          * after the more frequently used items to try and ease
 966          * the burden on the cache subsystem.
 967          * These entries are not *commonly* accessed, whereas
 968          * the preceding entries are accessed very often.
 969          */
 970
 971         unsigned int    irq;            /* IRQ for this adapter */
 972         int             instance;       /* aic7xxx instance number */
 973         int             scsi_id;        /* host adapter SCSI ID */
 974         int             scsi_id_b;      /* channel B for twin adapters */
 975         unsigned int    bios_address;
 976         int             board_name_index;
 977         unsigned short  bios_control;           /* bios control - SEEPROM */
 978         unsigned short  adapter_control;        /* adapter control - SEEPROM */
 979         struct pci_dev  *pdev;
 980         unsigned char   pci_bus;
 981         unsigned char   pci_device_fn;
 982         struct seeprom_config   sc;
 983         unsigned short  sc_type;
 984         unsigned short  sc_size;
 985         struct aic7xxx_host     *next;  /* allow for multiple IRQs */
 986         struct Scsi_Host        *host;  /* pointer to scsi host */
 987         struct list_head         aic_devs; /* all aic_dev structs on host */
 988         int             host_no;        /* SCSI host number */
 989         unsigned long   mbase;          /* I/O memory address */
 990         ahc_chip        chip;           /* chip type */
 991         ahc_bugs        bugs;
 992         dma_addr_t      fifo_dma;       /* DMA handle for fifo arrays */
 993 };
 994
 995 /*
 996  * Valid SCSIRATE values. (p. 3-17)
 997  * Provides a mapping of transfer periods in ns/4 to the proper value to
 998  * stick in the SCSIRATE reg to use that transfer rate.
 999  */
1000 #define AHC_SYNCRATE_ULTRA3 0
1001 #define AHC_SYNCRATE_ULTRA2 1
1002 #define AHC_SYNCRATE_ULTRA  3
1003 #define AHC_SYNCRATE_FAST   6
1004 #define AHC_SYNCRATE_CRC 0x40
1005 #define AHC_SYNCRATE_SE  0x10
1006 static struct aic7xxx_syncrate {
1007   /* Rates in Ultra mode have bit 8 of sxfr set */
1008 #define                ULTRA_SXFR 0x100
1009   int sxfr_ultra2;
1010   int sxfr;
1011   unsigned char period;
1012   const char *rate[2];
1013 } aic7xxx_syncrates[] = {
1014   { 0x42,  0x000,   9,  {"80.0", "160.0"} },
1015   { 0x13,  0x000,  10,  {"40.0", "80.0"} },
1016   { 0x14,  0x000,  11,  {"33.0", "66.6"} },
1017   { 0x15,  0x100,  12,  {"20.0", "40.0"} },
1018   { 0x16,  0x110,  15,  {"16.0", "32.0"} },
1019   { 0x17,  0x120,  18,  {"13.4", "26.8"} },
1020   { 0x18,  0x000,  25,  {"10.0", "20.0"} },
1021   { 0x19,  0x010,  31,  {"8.0",  "16.0"} },
1022   { 0x1a,  0x020,  37,  {"6.67", "13.3"} },
1023   { 0x1b,  0x030,  43,  {"5.7",  "11.4"} },
1024   { 0x10,  0x040,  50,  {"5.0",  "10.0"} },
1025   { 0x00,  0x050,  56,  {"4.4",  "8.8" } },
1026   { 0x00,  0x060,  62,  {"4.0",  "8.0" } },
1027   { 0x00,  0x070,  68,  {"3.6",  "7.2" } },
1028   { 0x00,  0x000,  0,   {NULL, NULL}   },
1029 };
1030
1031 #define CTL_OF_SCB(scb) (((scb->hscb)->target_channel_lun >> 3) & 0x1),  \
1032                         (((scb->hscb)->target_channel_lun >> 4) & 0xf), \
1033                         ((scb->hscb)->target_channel_lun & 0x07)
1034
1035 #define CTL_OF_CMD(cmd) ((cmd->device->channel) & 0x01),  \
1036                         ((cmd->device->id) & 0x0f), \
1037                         ((cmd->device->lun) & 0x07)
1038
1039 #define TARGET_INDEX(cmd)  ((cmd)->device->id | ((cmd)->device->channel << 3))
1040
1041 /*
1042  * A nice little define to make doing our printks a little easier
1043  */
1044
1045 #define WARN_LEAD KERN_WARNING "(scsi%d:%d:%d:%d) "
1046 #define INFO_LEAD KERN_INFO "(scsi%d:%d:%d:%d) "
1047
1048 /*
1049  * XXX - these options apply unilaterally to _all_ 274x/284x/294x
1050  *       cards in the system.  This should be fixed.  Exceptions to this
1051  *       rule are noted in the comments.
1052  */
1053
1054 /*
1055  * Use this as the default queue depth when setting tagged queueing on.
1056  */
1057 static unsigned int aic7xxx_default_queue_depth = AIC7XXX_CMDS_PER_DEVICE;
1058
1059 /*
1060  * Skip the scsi bus reset.  Non 0 make us skip the reset at startup.  This
1061  * has no effect on any later resets that might occur due to things like
1062  * SCSI bus timeouts.
1063  */
1064 static unsigned int aic7xxx_no_reset = 0;
1065 /*
1066  * Certain PCI motherboards will scan PCI devices from highest to lowest,
1067  * others scan from lowest to highest, and they tend to do all kinds of
1068  * strange things when they come into contact with PCI bridge chips.  The
1069  * net result of all this is that the PCI card that is actually used to boot
1070  * the machine is very hard to detect.  Most motherboards go from lowest
1071  * PCI slot number to highest, and the first SCSI controller found is the
1072  * one you boot from.  The only exceptions to this are when a controller
1073  * has its BIOS disabled.  So, we by default sort all of our SCSI controllers
1074  * from lowest PCI slot number to highest PCI slot number.  We also force
1075  * all controllers with their BIOS disabled to the end of the list.  This
1076  * works on *almost* all computers.  Where it doesn't work, we have this
1077  * option.  Setting this option to non-0 will reverse the order of the sort
1078  * to highest first, then lowest, but will still leave cards with their BIOS
1079  * disabled at the very end.  That should fix everyone up unless there are
1080  * really strange cirumstances.
1081  */
1082 static int aic7xxx_reverse_scan = 0;
1083 /*
1084  * Should we force EXTENDED translation on a controller.
1085  *     0 == Use whatever is in the SEEPROM or default to off
1086  *     1 == Use whatever is in the SEEPROM or default to on
1087  */
1088 static unsigned int aic7xxx_extended = 0;
1089 /*
1090  * The IRQ trigger method used on EISA controllers. Does not effect PCI cards.
1091  *   -1 = Use detected settings.
1092  *    0 = Force Edge triggered mode.
1093  *    1 = Force Level triggered mode.
1094  */
1095 static int aic7xxx_irq_trigger = -1;
1096 /*
1097  * This variable is used to override the termination settings on a controller.
1098  * This should not be used under normal conditions.  However, in the case
1099  * that a controller does not have a readable SEEPROM (so that we can't
1100  * read the SEEPROM settings directly) and that a controller has a buggered
1101  * version of the cable detection logic, this can be used to force the
1102  * correct termination.  It is preferable to use the manual termination
1103  * settings in the BIOS if possible, but some motherboard controllers store
1104  * those settings in a format we can't read.  In other cases, auto term
1105  * should also work, but the chipset was put together with no auto term
1106  * logic (common on motherboard controllers).  In those cases, we have
1107  * 32 bits here to work with.  That's good for 8 controllers/channels.  The
1108  * bits are organized as 4 bits per channel, with scsi0 getting the lowest
1109  * 4 bits in the int.  A 1 in a bit position indicates the termination setting
1110  * that corresponds to that bit should be enabled, a 0 is disabled.
1111  * It looks something like this:
1112  *
1113  *    0x0f =  1111-Single Ended Low Byte Termination on/off
1114  *            ||\-Single Ended High Byte Termination on/off
1115  *            |\-LVD Low Byte Termination on/off
1116  *            \-LVD High Byte Termination on/off
1117  *
1118  * For non-Ultra2 controllers, the upper 2 bits are not important.  So, to
1119  * enable both high byte and low byte termination on scsi0, I would need to
1120  * make sure that the override_term variable was set to 0x03 (bits 0011).
1121  * To make sure that all termination is enabled on an Ultra2 controller at
1122  * scsi2 and only high byte termination on scsi1 and high and low byte
1123  * termination on scsi0, I would set override_term=0xf23 (bits 1111 0010 0011)
1124  *
1125  * For the most part, users should never have to use this, that's why I
1126  * left it fairly cryptic instead of easy to understand.  If you need it,
1127  * most likely someone will be telling you what your's needs to be set to.
1128  */
1129 static int aic7xxx_override_term = -1;
1130 /*
1131  * Certain motherboard chipset controllers tend to screw
1132  * up the polarity of the term enable output pin.  Use this variable
1133  * to force the correct polarity for your system.  This is a bitfield variable
1134  * similar to the previous one, but this one has one bit per channel instead
1135  * of four.
1136  *    0 = Force the setting to active low.
1137  *    1 = Force setting to active high.
1138  * Most Adaptec cards are active high, several motherboards are active low.
1139  * To force a 2940 card at SCSI 0 to active high and a motherboard 7895
1140  * controller at scsi1 and scsi2 to active low, and a 2910 card at scsi3
1141  * to active high, you would need to set stpwlev=0x9 (bits 1001).
1142  *
1143  * People shouldn't need to use this, but if you are experiencing lots of
1144  * SCSI timeout problems, this may help.  There is one sure way to test what
1145  * this option needs to be.  Using a boot floppy to boot the system, configure
1146  * your system to enable all SCSI termination (in the Adaptec SCSI BIOS) and
1147  * if needed then also pass a value to override_term to make sure that the
1148  * driver is enabling SCSI termination, then set this variable to either 0
1149  * or 1.  When the driver boots, make sure there are *NO* SCSI cables
1150  * connected to your controller.  If it finds and inits the controller
1151  * without problem, then the setting you passed to stpwlev was correct.  If
1152  * the driver goes into a reset loop and hangs the system, then you need the
1153  * other setting for this variable.  If neither setting lets the machine
1154  * boot then you have definite termination problems that may not be fixable.
1155  */
1156 static int aic7xxx_stpwlev = -1;
1157 /*
1158  * Set this to non-0 in order to force the driver to panic the kernel
1159  * and print out debugging info on a SCSI abort or reset cycle.
1160  */
1161 static int aic7xxx_panic_on_abort = 0;
1162 /*
1163  * PCI bus parity checking of the Adaptec controllers.  This is somewhat
1164  * dubious at best.  To my knowledge, this option has never actually
1165  * solved a PCI parity problem, but on certain machines with broken PCI
1166  * chipset configurations, it can generate tons of false error messages.
1167  * It's included in the driver for completeness.
1168  *   0 = Shut off PCI parity check
1169  *  -1 = Normal polarity pci parity checking
1170  *   1 = reverse polarity pci parity checking
1171  *
1172  * NOTE: you can't actually pass -1 on the lilo prompt.  So, to set this
1173  * variable to -1 you would actually want to simply pass the variable
1174  * name without a number.  That will invert the 0 which will result in
1175  * -1.
1176  */
1177 static int aic7xxx_pci_parity = 0;
1178 /*
1179  * Set this to any non-0 value to cause us to dump the contents of all
1180  * the card's registers in a hex dump format tailored to each model of
1181  * controller.
1182  *
1183  * NOTE: THE CONTROLLER IS LEFT IN AN UNUSEABLE STATE BY THIS OPTION.
1184  *       YOU CANNOT BOOT UP WITH THIS OPTION, IT IS FOR DEBUGGING PURPOSES
1185  *       ONLY
1186  */
1187 static int aic7xxx_dump_card = 0;
1188 /*
1189  * Set this to a non-0 value to make us dump out the 32 bit instruction
1190  * registers on the card after completing the sequencer download.  This
1191  * allows the actual sequencer download to be verified.  It is possible
1192  * to use this option and still boot up and run your system.  This is
1193  * only intended for debugging purposes.
1194  */
1195 static int aic7xxx_dump_sequencer = 0;
1196 /*
1197  * Certain newer motherboards have put new PCI based devices into the
1198  * IO spaces that used to typically be occupied by VLB or EISA cards.
1199  * This overlap can cause these newer motherboards to lock up when scanned
1200  * for older EISA and VLB devices.  Setting this option to non-0 will
1201  * cause the driver to skip scanning for any VLB or EISA controllers and
1202  * only support the PCI controllers.  NOTE: this means that if the kernel
1203  * os compiled with PCI support disabled, then setting this to non-0
1204  * would result in never finding any devices :)
1205  */
1206 static int aic7xxx_no_probe = 0;
1207 /*
1208  * On some machines, enabling the external SCB RAM isn't reliable yet.  I
1209  * haven't had time to make test patches for things like changing the
1210  * timing mode on that external RAM either.  Some of those changes may
1211  * fix the problem.  Until then though, we default to external SCB RAM
1212  * off and give a command line option to enable it.
1213  */
1214 static int aic7xxx_scbram = 0;
1215 /*
1216  * So that we can set how long each device is given as a selection timeout.
1217  * The table of values goes like this:
1218  *   0 - 256ms
1219  *   1 - 128ms
1220  *   2 - 64ms
1221  *   3 - 32ms
1222  * We default to 64ms because it's fast.  Some old SCSI-I devices need a
1223  * longer time.  The final value has to be left shifted by 3, hence 0x10
1224  * is the final value.
1225  */
1226 static int aic7xxx_seltime = 0x10;
1227 /*
1228  * So that insmod can find the variable and make it point to something
1229  */
1230 #ifdef MODULE
1231 static char * aic7xxx = NULL;
1232 module_param(aic7xxx, charp, 0);
1233 #endif
1234
1235 #define VERBOSE_NORMAL         0x0000
1236 #define VERBOSE_NEGOTIATION    0x0001
1237 #define VERBOSE_SEQINT         0x0002
1238 #define VERBOSE_SCSIINT        0x0004
1239 #define VERBOSE_PROBE          0x0008
1240 #define VERBOSE_PROBE2         0x0010
1241 #define VERBOSE_NEGOTIATION2   0x0020
1242 #define VERBOSE_MINOR_ERROR    0x0040
1243 #define VERBOSE_TRACING        0x0080
1244 #define VERBOSE_ABORT          0x0f00
1245 #define VERBOSE_ABORT_MID      0x0100
1246 #define VERBOSE_ABORT_FIND     0x0200
1247 #define VERBOSE_ABORT_PROCESS  0x0400
1248 #define VERBOSE_ABORT_RETURN   0x0800
1249 #define VERBOSE_RESET          0xf000
1250 #define VERBOSE_RESET_MID      0x1000
1251 #define VERBOSE_RESET_FIND     0x2000
1252 #define VERBOSE_RESET_PROCESS  0x4000
1253 #define VERBOSE_RESET_RETURN   0x8000
1254 static int aic7xxx_verbose = VERBOSE_NORMAL | VERBOSE_NEGOTIATION |
1255            VERBOSE_PROBE;                     /* verbose messages */
1256
1257
1258 /****************************************************************************
1259  *
1260  * We're going to start putting in function declarations so that order of
1261  * functions is no longer important.  As needed, they are added here.
1262  *
1263  ***************************************************************************/
1264
1265 static int aic7xxx_release(struct Scsi_Host *host);
1266 static void aic7xxx_set_syncrate(struct aic7xxx_host *p,
1267                 struct aic7xxx_syncrate *syncrate, int target, int channel,
1268                 unsigned int period, unsigned int offset, unsigned char options,
1269                 unsigned int type, struct aic_dev_data *aic_dev);
1270 static void aic7xxx_set_width(struct aic7xxx_host *p, int target, int channel,
1271                 int lun, unsigned int width, unsigned int type,
1272                 struct aic_dev_data *aic_dev);
1273 static void aic7xxx_panic_abort(struct aic7xxx_host *p, struct scsi_cmnd *cmd);
1274 static void aic7xxx_print_card(struct aic7xxx_host *p);
1275 static void aic7xxx_print_scratch_ram(struct aic7xxx_host *p);
1276 static void aic7xxx_print_sequencer(struct aic7xxx_host *p, int downloaded);
1277 #ifdef AIC7XXX_VERBOSE_DEBUGGING
1278 static void aic7xxx_check_scbs(struct aic7xxx_host *p, char *buffer);
1279 #endif
1280
1281 /****************************************************************************
1282  *
1283  * These functions are now used.  They happen to be wrapped in useless
1284  * inb/outb port read/writes around the real reads and writes because it
1285  * seems that certain very fast CPUs have a problem dealing with us when
1286  * going at full speed.
1287  *
1288  ***************************************************************************/
1289
1290 static unsigned char
1291 aic_inb(struct aic7xxx_host *p, long port)
1292 {
1293 #ifdef MMAPIO
1294   unsigned char x;
1295   if(p->maddr)
1296   {
1297     x = readb(p->maddr + port);
1298   }
1299   else
1300   {
1301     x = inb(p->base + port);
1302   }
1303   return(x);
1304 #else
1305   return(inb(p->base + port));
1306 #endif
1307 }
1308
1309 static void
1310 aic_outb(struct aic7xxx_host *p, unsigned char val, long port)
1311 {
1312 #ifdef MMAPIO
1313   if(p->maddr)
1314   {
1315     writeb(val, p->maddr + port);
1316     mb(); /* locked operation in order to force CPU ordering */
1317     readb(p->maddr + HCNTRL); /* dummy read to flush the PCI write */
1318   }
1319   else
1320   {
1321     outb(val, p->base + port);
1322     mb(); /* locked operation in order to force CPU ordering */
1323   }
1324 #else
1325   outb(val, p->base + port);
1326   mb(); /* locked operation in order to force CPU ordering */
1327 #endif
1328 }
1329
1330 /*+F*************************************************************************
1331  * Function:
1332  *   aic7xxx_setup
1333  *
1334  * Description:
1335  *   Handle Linux boot parameters. This routine allows for assigning a value
1336  *   to a parameter with a ':' between the parameter and the value.
1337  *   ie. aic7xxx=unpause:0x0A,extended
1338  *-F*************************************************************************/
1339 static int
1340 aic7xxx_setup(char *s)
1341 {
1342   int   i, n;
1343   char *p;
1344   char *end;
1345
1346   static struct {
1347     const char *name;
1348     unsigned int *flag;
1349   } options[] = {
1350     { "extended",    &aic7xxx_extended },
1351     { "no_reset",    &aic7xxx_no_reset },
1352     { "irq_trigger", &aic7xxx_irq_trigger },
1353     { "verbose",     &aic7xxx_verbose },
1354     { "reverse_scan",&aic7xxx_reverse_scan },
1355     { "override_term", &aic7xxx_override_term },
1356     { "stpwlev", &aic7xxx_stpwlev },
1357     { "no_probe", &aic7xxx_no_probe },
1358     { "panic_on_abort", &aic7xxx_panic_on_abort },
1359     { "pci_parity", &aic7xxx_pci_parity },
1360     { "dump_card", &aic7xxx_dump_card },
1361     { "dump_sequencer", &aic7xxx_dump_sequencer },
1362     { "default_queue_depth", &aic7xxx_default_queue_depth },
1363     { "scbram", &aic7xxx_scbram },
1364     { "seltime", &aic7xxx_seltime },
1365     { "tag_info",    NULL }
1366   };
1367
1368   end = strchr(s, '\0');
1369
1370   while ((p = strsep(&s, ",.")) != NULL)
1371   {
1372     for (i = 0; i < ARRAY_SIZE(options); i++)
1373     {
1374       n = strlen(options[i].name);
1375       if (!strncmp(options[i].name, p, n))
1376       {
1377         if (!strncmp(p, "tag_info", n))
1378         {
1379           if (p[n] == ':')
1380           {
1381             char *base;
1382             char *tok, *tok_end, *tok_end2;
1383             char tok_list[] = { '.', ',', '{', '}', '\0' };
1384             int i, instance = -1, device = -1;
1385             unsigned char done = FALSE;
1386
1387             base = p;
1388             tok = base + n + 1;  /* Forward us just past the ':' */
1389             tok_end = strchr(tok, '\0');
1390             if (tok_end < end)
1391               *tok_end = ',';
1392             while(!done)
1393             {
1394               switch(*tok)
1395               {
1396                 case '{':
1397                   if (instance == -1)
1398                     instance = 0;
1399                   else if (device == -1)
1400                     device = 0;
1401                   tok++;
1402                   break;
1403                 case '}':
1404                   if (device != -1)
1405                     device = -1;
1406                   else if (instance != -1)
1407                     instance = -1;
1408                   tok++;
1409                   break;
1410                 case ',':
1411                 case '.':
1412                   if (instance == -1)
1413                     done = TRUE;
1414                   else if (device >= 0)
1415                     device++;
1416                   else if (instance >= 0)
1417                     instance++;
1418                   if ( (device >= MAX_TARGETS) ||
1419                        (instance >= ARRAY_SIZE(aic7xxx_tag_info)) )
1420                     done = TRUE;
1421                   tok++;
1422                   if (!done)
1423                   {
1424                     base = tok;
1425                   }
1426                   break;
1427                 case '\0':
1428                   done = TRUE;
1429                   break;
1430                 default:
1431                   done = TRUE;
1432                   tok_end = strchr(tok, '\0');
1433                   for(i=0; tok_list[i]; i++)
1434                   {
1435                     tok_end2 = strchr(tok, tok_list[i]);
1436                     if ( (tok_end2) && (tok_end2 < tok_end) )
1437                     {
1438                       tok_end = tok_end2;
1439                       done = FALSE;
1440                     }
1441                   }
1442                   if ( (instance >= 0) && (device >= 0) &&
1443                        (instance < ARRAY_SIZE(aic7xxx_tag_info)) &&
1444                        (device < MAX_TARGETS) )
1445                     aic7xxx_tag_info[instance].tag_commands[device] =
1446                       simple_strtoul(tok, NULL, 0) & 0xff;
1447                   tok = tok_end;
1448                   break;
1449               }
1450             }
1451             while((p != base) && (p != NULL))
1452               p = strsep(&s, ",.");
1453           }
1454         }
1455         else if (p[n] == ':')
1456         {
1457           *(options[i].flag) = simple_strtoul(p + n + 1, NULL, 0);
1458           if(!strncmp(p, "seltime", n))
1459           {
1460             *(options[i].flag) = (*(options[i].flag) % 4) << 3;
1461           }
1462         }
1463         else if (!strncmp(p, "verbose", n))
1464         {
1465           *(options[i].flag) = 0xff29;
1466         }
1467         else
1468         {
1469           *(options[i].flag) = ~(*(options[i].flag));
1470           if(!strncmp(p, "seltime", n))
1471           {
1472             *(options[i].flag) = (*(options[i].flag) % 4) << 3;
1473           }
1474         }
1475       }
1476     }
1477   }
1478   return 1;
1479 }
1480
1481 __setup("aic7xxx=", aic7xxx_setup);
1482
1483 /*+F*************************************************************************
1484  * Function:
1485  *   pause_sequencer
1486  *
1487  * Description:
1488  *   Pause the sequencer and wait for it to actually stop - this
1489  *   is important since the sequencer can disable pausing for critical
1490  *   sections.
1491  *-F*************************************************************************/
1492 static void
1493 pause_sequencer(struct aic7xxx_host *p)
1494 {
1495   aic_outb(p, p->pause, HCNTRL);
1496   while ((aic_inb(p, HCNTRL) & PAUSE) == 0)
1497   {
1498     ;
1499   }
1500   if(p->features & AHC_ULTRA2)
1501   {
1502     aic_inb(p, CCSCBCTL);
1503   }
1504 }
1505
1506 /*+F*************************************************************************
1507  * Function:
1508  *   unpause_sequencer
1509  *
1510  * Description:
1511  *   Unpause the sequencer. Unremarkable, yet done often enough to
1512  *   warrant an easy way to do it.
1513  *-F*************************************************************************/
1514 static void
1515 unpause_sequencer(struct aic7xxx_host *p, int unpause_always)
1516 {
1517   if (unpause_always ||
1518       ( !(aic_inb(p, INTSTAT) & (SCSIINT | SEQINT | BRKADRINT)) &&
1519         !(p->flags & AHC_HANDLING_REQINITS) ) )
1520   {
1521     aic_outb(p, p->unpause, HCNTRL);
1522   }
1523 }
1524
1525 /*+F*************************************************************************
1526  * Function:
1527  *   restart_sequencer
1528  *
1529  * Description:
1530  *   Restart the sequencer program from address zero.  This assumes
1531  *   that the sequencer is already paused.
1532  *-F*************************************************************************/
1533 static void
1534 restart_sequencer(struct aic7xxx_host *p)
1535 {
1536   aic_outb(p, 0, SEQADDR0);
1537   aic_outb(p, 0, SEQADDR1);
1538   aic_outb(p, FASTMODE, SEQCTL);
1539 }
1540
1541 /*
1542  * We include the aic7xxx_seq.c file here so that the other defines have
1543  * already been made, and so that it comes before the code that actually
1544  * downloads the instructions (since we don't typically use function
1545  * prototype, our code has to be ordered that way, it's a left-over from
1546  * the original driver days.....I should fix it some time DL).
1547  */
1548 #include "aic7xxx_old/aic7xxx_seq.c"
1549
1550 /*+F*************************************************************************
1551  * Function:
1552  *   aic7xxx_check_patch
1553  *
1554  * Description:
1555  *   See if the next patch to download should be downloaded.
1556  *-F*************************************************************************/
1557 static int
1558 aic7xxx_check_patch(struct aic7xxx_host *p,
1559   struct sequencer_patch **start_patch, int start_instr, int *skip_addr)
1560 {
1561   struct sequencer_patch *cur_patch;
1562   struct sequencer_patch *last_patch;
1563   int num_patches;
1564
1565   num_patches = ARRAY_SIZE(sequencer_patches);
1566   last_patch = &sequencer_patches[num_patches];
1567   cur_patch = *start_patch;
1568
1569   while ((cur_patch < last_patch) && (start_instr == cur_patch->begin))
1570   {
1571     if (cur_patch->patch_func(p) == 0)
1572     {
1573       /*
1574        * Start rejecting code.
1575        */
1576       *skip_addr = start_instr + cur_patch->skip_instr;
1577       cur_patch += cur_patch->skip_patch;
1578     }
1579     else
1580     {
1581       /*
1582        * Found an OK patch.  Advance the patch pointer to the next patch
1583        * and wait for our instruction pointer to get here.
1584        */
1585       cur_patch++;
1586     }
1587   }
1588
1589   *start_patch = cur_patch;
1590   if (start_instr < *skip_addr)
1591     /*
1592      * Still skipping
1593      */
1594     return (0);
1595   return(1);
1596 }
1597
1598
1599 /*+F*************************************************************************
1600  * Function:
1601  *   aic7xxx_download_instr
1602  *
1603  * Description:
1604  *   Find the next patch to download.
1605  *-F*************************************************************************/
1606 static void
1607 aic7xxx_download_instr(struct aic7xxx_host *p, int instrptr,
1608   unsigned char *dconsts)
1609 {
1610   union ins_formats instr;
1611   struct ins_format1 *fmt1_ins;
1612   struct ins_format3 *fmt3_ins;
1613   unsigned char opcode;
1614
1615   instr = *(union ins_formats*) &seqprog[instrptr * 4];
1616
1617   instr.integer = le32_to_cpu(instr.integer);
1618
1619   fmt1_ins = &instr.format1;
1620   fmt3_ins = NULL;
1621
1622   /* Pull the opcode */
1623   opcode = instr.format1.opcode;
1624   switch (opcode)
1625   {
1626     case AIC_OP_JMP:
1627     case AIC_OP_JC:
1628     case AIC_OP_JNC:
1629     case AIC_OP_CALL:
1630     case AIC_OP_JNE:
1631     case AIC_OP_JNZ:
1632     case AIC_OP_JE:
1633     case AIC_OP_JZ:
1634     {
1635       struct sequencer_patch *cur_patch;
1636       int address_offset;
1637       unsigned int address;
1638       int skip_addr;
1639       int i;
1640
1641       fmt3_ins = &instr.format3;
1642       address_offset = 0;
1643       address = fmt3_ins->address;
1644       cur_patch = sequencer_patches;
1645       skip_addr = 0;
1646
1647       for (i = 0; i < address;)
1648       {
1649         aic7xxx_check_patch(p, &cur_patch, i, &skip_addr);
1650         if (skip_addr > i)
1651         {
1652           int end_addr;
1653
1654           end_addr = min_t(int, address, skip_addr);
1655           address_offset += end_addr - i;
1656           i = skip_addr;
1657         }
1658         else
1659         {
1660           i++;
1661         }
1662       }
1663       address -= address_offset;
1664       fmt3_ins->address = address;
1665       /* Fall Through to the next code section */
1666     }
1667     case AIC_OP_OR:
1668     case AIC_OP_AND:
1669     case AIC_OP_XOR:
1670     case AIC_OP_ADD:
1671     case AIC_OP_ADC:
1672     case AIC_OP_BMOV:
1673       if (fmt1_ins->parity != 0)
1674       {
1675         fmt1_ins->immediate = dconsts[fmt1_ins->immediate];
1676       }
1677       fmt1_ins->parity = 0;
1678       /* Fall Through to the next code section */
1679     case AIC_OP_ROL:
1680       if ((p->features & AHC_ULTRA2) != 0)
1681       {
1682         int i, count;
1683
1684         /* Calculate odd parity for the instruction */
1685         for ( i=0, count=0; i < 31; i++)
1686         {
1687           unsigned int mask;
1688
1689           mask = 0x01 << i;
1690           if ((instr.integer & mask) != 0)
1691             count++;
1692         }
1693         if (!(count & 0x01))
1694           instr.format1.parity = 1;
1695       }
1696       else
1697       {
1698         if (fmt3_ins != NULL)
1699         {
1700           instr.integer =  fmt3_ins->immediate |
1701                           (fmt3_ins->source << 8) |
1702                           (fmt3_ins->address << 16) |
1703                           (fmt3_ins->opcode << 25);
1704         }
1705         else
1706         {
1707           instr.integer =  fmt1_ins->immediate |
1708                           (fmt1_ins->source << 8) |
1709                           (fmt1_ins->destination << 16) |
1710                           (fmt1_ins->ret << 24) |
1711                           (fmt1_ins->opcode << 25);
1712         }
1713       }
1714       aic_outb(p, (instr.integer & 0xff), SEQRAM);
1715       aic_outb(p, ((instr.integer >> 8) & 0xff), SEQRAM);
1716       aic_outb(p, ((instr.integer >> 16) & 0xff), SEQRAM);
1717       aic_outb(p, ((instr.integer >> 24) & 0xff), SEQRAM);
1718       udelay(10);
1719       break;
1720
1721     default:
1722       panic("aic7xxx: Unknown opcode encountered in sequencer program.");
1723       break;
1724   }
1725 }
1726
1727
1728 /*+F*************************************************************************
1729  * Function:
1730  *   aic7xxx_loadseq
1731  *
1732  * Description:
1733  *   Load the sequencer code into the controller memory.
1734  *-F*************************************************************************/
1735 static void
1736 aic7xxx_loadseq(struct aic7xxx_host *p)
1737 {
1738   struct sequencer_patch *cur_patch;
1739   int i;
1740   int downloaded;
1741   int skip_addr;
1742   unsigned char download_consts[4] = {0, 0, 0, 0};
1743
1744   if (aic7xxx_verbose & VERBOSE_PROBE)
1745   {
1746     printk(KERN_INFO "(scsi%d) Downloading sequencer code...", p->host_no);
1747   }
1748 #if 0
1749   download_consts[TMODE_NUMCMDS] = p->num_targetcmds;
1750 #endif
1751   download_consts[TMODE_NUMCMDS] = 0;
1752   cur_patch = &sequencer_patches[0];
1753   downloaded = 0;
1754   skip_addr = 0;
1755
1756   aic_outb(p, PERRORDIS|LOADRAM|FAILDIS|FASTMODE, SEQCTL);
1757   aic_outb(p, 0, SEQADDR0);
1758   aic_outb(p, 0, SEQADDR1);
1759
1760   for (i = 0; i < sizeof(seqprog) / 4;  i++)
1761   {
1762     if (aic7xxx_check_patch(p, &cur_patch, i, &skip_addr) == 0)
1763     {
1764       /* Skip this instruction for this configuration. */
1765       continue;
1766     }
1767     aic7xxx_download_instr(p, i, &download_consts[0]);
1768     downloaded++;
1769   }
1770
1771   aic_outb(p, 0, SEQADDR0);
1772   aic_outb(p, 0, SEQADDR1);
1773   aic_outb(p, FASTMODE | FAILDIS, SEQCTL);
1774   unpause_sequencer(p, TRUE);
1775   mdelay(1);
1776   pause_sequencer(p);
1777   aic_outb(p, FASTMODE, SEQCTL);
1778   if (aic7xxx_verbose & VERBOSE_PROBE)
1779   {
1780     printk(" %d instructions downloaded\n", downloaded);
1781   }
1782   if (aic7xxx_dump_sequencer)
1783     aic7xxx_print_sequencer(p, downloaded);
1784 }
1785
1786 /*+F*************************************************************************
1787  * Function:
1788  *   aic7xxx_print_sequencer
1789  *
1790  * Description:
1791  *   Print the contents of the sequencer memory to the screen.
1792  *-F*************************************************************************/
1793 static void
1794 aic7xxx_print_sequencer(struct aic7xxx_host *p, int downloaded)
1795 {
1796   int i, k, temp;
1797
1798   aic_outb(p, PERRORDIS|LOADRAM|FAILDIS|FASTMODE, SEQCTL);
1799   aic_outb(p, 0, SEQADDR0);
1800   aic_outb(p, 0, SEQADDR1);
1801
1802   k = 0;
1803   for (i=0; i < downloaded; i++)
1804   {
1805     if ( k == 0 )
1806       printk("%03x: ", i);
1807     temp = aic_inb(p, SEQRAM);
1808     temp |= (aic_inb(p, SEQRAM) << 8);
1809     temp |= (aic_inb(p, SEQRAM) << 16);
1810     temp |= (aic_inb(p, SEQRAM) << 24);
1811     printk("%08x", temp);
1812     if ( ++k == 8 )
1813     {
1814       printk("\n");
1815       k = 0;
1816     }
1817     else
1818       printk(" ");
1819   }
1820   aic_outb(p, 0, SEQADDR0);
1821   aic_outb(p, 0, SEQADDR1);
1822   aic_outb(p, FASTMODE | FAILDIS, SEQCTL);
1823   unpause_sequencer(p, TRUE);
1824   mdelay(1);
1825   pause_sequencer(p);
1826   aic_outb(p, FASTMODE, SEQCTL);
1827   printk("\n");
1828 }
1829
1830 /*+F*************************************************************************
1831  * Function:
1832  *   aic7xxx_info
1833  *
1834  * Description:
1835  *   Return a string describing the driver.
1836  *-F*************************************************************************/
1837 static const char *
1838 aic7xxx_info(struct Scsi_Host *dooh)
1839 {
1840   static char buffer[256];
1841   char *bp;
1842   struct aic7xxx_host *p;
1843
1844   bp = &buffer[0];
1845   p = (struct aic7xxx_host *)dooh->hostdata;
1846   memset(bp, 0, sizeof(buffer));
1847   strcpy(bp, "Adaptec AHA274x/284x/294x (EISA/VLB/PCI-Fast SCSI) ");
1848   strcat(bp, AIC7XXX_C_VERSION);
1849   strcat(bp, "/");
1850   strcat(bp, AIC7XXX_H_VERSION);
1851   strcat(bp, "\n");
1852   strcat(bp, "       <");
1853   strcat(bp, board_names[p->board_name_index]);
1854   strcat(bp, ">");
1855
1856   return(bp);
1857 }
1858
1859 /*+F*************************************************************************
1860  * Function:
1861  *   aic7xxx_find_syncrate
1862  *
1863  * Description:
1864  *   Look up the valid period to SCSIRATE conversion in our table
1865  *-F*************************************************************************/
1866 static struct aic7xxx_syncrate *
1867 aic7xxx_find_syncrate(struct aic7xxx_host *p, unsigned int *period,
1868   unsigned int maxsync, unsigned char *options)
1869 {
1870   struct aic7xxx_syncrate *syncrate;
1871   int done = FALSE;
1872
1873   switch(*options)
1874   {
1875     case MSG_EXT_PPR_OPTION_DT_CRC:
1876     case MSG_EXT_PPR_OPTION_DT_UNITS:
1877       if(!(p->features & AHC_ULTRA3))
1878       {
1879         *options = 0;
1880         maxsync = max_t(unsigned int, maxsync, AHC_SYNCRATE_ULTRA2);
1881       }
1882       break;
1883     case MSG_EXT_PPR_OPTION_DT_CRC_QUICK:
1884     case MSG_EXT_PPR_OPTION_DT_UNITS_QUICK:
1885       if(!(p->features & AHC_ULTRA3))
1886       {
1887         *options = 0;
1888         maxsync = max_t(unsigned int, maxsync, AHC_SYNCRATE_ULTRA2);
1889       }
1890       else
1891       {
1892         /*
1893          * we don't support the Quick Arbitration variants of dual edge
1894          * clocking.  As it turns out, we want to send back the
1895          * same basic option, but without the QA attribute.
1896          * We know that we are responding because we would never set
1897          * these options ourself, we would only respond to them.
1898          */
1899         switch(*options)
1900         {
1901           case MSG_EXT_PPR_OPTION_DT_CRC_QUICK:
1902             *options = MSG_EXT_PPR_OPTION_DT_CRC;
1903             break;
1904           case MSG_EXT_PPR_OPTION_DT_UNITS_QUICK:
1905             *options = MSG_EXT_PPR_OPTION_DT_UNITS;
1906             break;
1907         }
1908       }
1909       break;
1910     default:
1911       *options = 0;
1912       maxsync = max_t(unsigned int, maxsync, AHC_SYNCRATE_ULTRA2);
1913       break;
1914   }
1915   syncrate = &aic7xxx_syncrates[maxsync];
1916   while ( (syncrate->rate[0] != NULL) &&
1917          (!(p->features & AHC_ULTRA2) || syncrate->sxfr_ultra2) )
1918   {
1919     if (*period <= syncrate->period)
1920     {
1921       switch(*options)
1922       {
1923         case MSG_EXT_PPR_OPTION_DT_CRC:
1924         case MSG_EXT_PPR_OPTION_DT_UNITS:
1925           if(!(syncrate->sxfr_ultra2 & AHC_SYNCRATE_CRC))
1926           {
1927             done = TRUE;
1928             /*
1929              * oops, we went too low for the CRC/DualEdge signalling, so
1930              * clear the options byte
1931              */
1932             *options = 0;
1933             /*
1934              * We'll be sending a reply to this packet to set the options
1935              * properly, so unilaterally set the period as well.
1936              */
1937             *period = syncrate->period;
1938           }
1939           else
1940           {
1941             done = TRUE;
1942             if(syncrate == &aic7xxx_syncrates[maxsync])
1943             {
1944               *period = syncrate->period;
1945             }
1946           }
1947           break;
1948         default:
1949           if(!(syncrate->sxfr_ultra2 & AHC_SYNCRATE_CRC))
1950           {
1951             done = TRUE;
1952             if(syncrate == &aic7xxx_syncrates[maxsync])
1953             {
1954               *period = syncrate->period;
1955             }
1956           }
1957           break;
1958       }
1959       if(done)
1960       {
1961         break;
1962       }
1963     }
1964     syncrate++;
1965   }
1966   if ( (*period == 0) || (syncrate->rate[0] == NULL) ||
1967        ((p->features & AHC_ULTRA2) && (syncrate->sxfr_ultra2 == 0)) )
1968   {
1969     /*
1970      * Use async transfers for this target
1971      */
1972     *options = 0;
1973     *period = 255;
1974     syncrate = NULL;
1975   }
1976   return (syncrate);
1977 }
1978
1979
1980 /*+F*************************************************************************
1981  * Function:
1982  *   aic7xxx_find_period
1983  *
1984  * Description:
1985  *   Look up the valid SCSIRATE to period conversion in our table
1986  *-F*************************************************************************/
1987 static unsigned int
1988 aic7xxx_find_period(struct aic7xxx_host *p, unsigned int scsirate,
1989   unsigned int maxsync)
1990 {
1991   struct aic7xxx_syncrate *syncrate;
1992
1993   if (p->features & AHC_ULTRA2)
1994   {
1995     scsirate &= SXFR_ULTRA2;
1996   }
1997   else
1998   {
1999     scsirate &= SXFR;
2000   }
2001
2002   syncrate = &aic7xxx_syncrates[maxsync];
2003   while (syncrate->rate[0] != NULL)
2004   {
2005     if (p->features & AHC_ULTRA2)
2006     {
2007       if (syncrate->sxfr_ultra2 == 0)
2008         break;
2009       else if (scsirate == syncrate->sxfr_ultra2)
2010         return (syncrate->period);
2011       else if (scsirate == (syncrate->sxfr_ultra2 & ~AHC_SYNCRATE_CRC))
2012         return (syncrate->period);
2013     }
2014     else if (scsirate == (syncrate->sxfr & ~ULTRA_SXFR))
2015     {
2016       return (syncrate->period);
2017     }
2018     syncrate++;
2019   }
2020   return (0); /* async */
2021 }
2022
2023 /*+F*************************************************************************
2024  * Function:
2025  *   aic7xxx_validate_offset
2026  *
2027  * Description:
2028  *   Set a valid offset value for a particular card in use and transfer
2029  *   settings in use.
2030  *-F*************************************************************************/
2031 static void
2032 aic7xxx_validate_offset(struct aic7xxx_host *p,
2033   struct aic7xxx_syncrate *syncrate, unsigned int *offset, int wide)
2034 {
2035   unsigned int maxoffset;
2036
2037   /* Limit offset to what the card (and device) can do */
2038   if (syncrate == NULL)
2039   {
2040     maxoffset = 0;
2041   }
2042   else if (p->features & AHC_ULTRA2)
2043   {
2044     maxoffset = MAX_OFFSET_ULTRA2;
2045   }
2046   else
2047   {
2048     if (wide)
2049       maxoffset = MAX_OFFSET_16BIT;
2050     else
2051       maxoffset = MAX_OFFSET_8BIT;
2052   }
2053   *offset = min(*offset, maxoffset);
2054 }
2055
2056 /*+F*************************************************************************
2057  * Function:
2058  *   aic7xxx_set_syncrate
2059  *
2060  * Description:
2061  *   Set the actual syncrate down in the card and in our host structs
2062  *-F*************************************************************************/
2063 static void
2064 aic7xxx_set_syncrate(struct aic7xxx_host *p, struct aic7xxx_syncrate *syncrate,
2065     int target, int channel, unsigned int period, unsigned int offset,
2066     unsigned char options, unsigned int type, struct aic_dev_data *aic_dev)
2067 {
2068   unsigned char tindex;
2069   unsigned short target_mask;
2070   unsigned char lun, old_options;
2071   unsigned int old_period, old_offset;
2072
2073   tindex = target | (channel << 3);
2074   target_mask = 0x01 << tindex;
2075   lun = aic_inb(p, SCB_TCL) & 0x07;
2076
2077   if (syncrate == NULL)
2078   {
2079     period = 0;
2080     offset = 0;
2081   }
2082
2083   old_period = aic_dev->cur.period;
2084   old_offset = aic_dev->cur.offset;
2085   old_options = aic_dev->cur.options;
2086
2087
2088   if (type & AHC_TRANS_CUR)
2089   {
2090     unsigned int scsirate;
2091
2092     scsirate = aic_inb(p, TARG_SCSIRATE + tindex);
2093     if (p->features & AHC_ULTRA2)
2094     {
2095       scsirate &= ~SXFR_ULTRA2;
2096       if (syncrate != NULL)
2097       {
2098         switch(options)
2099         {
2100           case MSG_EXT_PPR_OPTION_DT_UNITS:
2101             /*
2102              * mask off the CRC bit in the xfer settings
2103              */
2104             scsirate |= (syncrate->sxfr_ultra2 & ~AHC_SYNCRATE_CRC);
2105             break;
2106           default:
2107             scsirate |= syncrate->sxfr_ultra2;
2108             break;
2109         }
2110       }
2111       if (type & AHC_TRANS_ACTIVE)
2112       {
2113         aic_outb(p, offset, SCSIOFFSET);
2114       }
2115       aic_outb(p, offset, TARG_OFFSET + tindex);
2116     }
2117     else /* Not an Ultra2 controller */
2118     {
2119       scsirate &= ~(SXFR|SOFS);
2120       p->ultraenb &= ~target_mask;
2121       if (syncrate != NULL)
2122       {
2123         if (syncrate->sxfr & ULTRA_SXFR)
2124         {
2125           p->ultraenb |= target_mask;
2126         }
2127         scsirate |= (syncrate->sxfr & SXFR);
2128         scsirate |= (offset & SOFS);
2129       }
2130       if (type & AHC_TRANS_ACTIVE)
2131       {
2132         unsigned char sxfrctl0;
2133
2134         sxfrctl0 = aic_inb(p, SXFRCTL0);
2135         sxfrctl0 &= ~FAST20;
2136         if (p->ultraenb & target_mask)
2137           sxfrctl0 |= FAST20;
2138         aic_outb(p, sxfrctl0, SXFRCTL0);
2139       }
2140       aic_outb(p, p->ultraenb & 0xff, ULTRA_ENB);
2141       aic_outb(p, (p->ultraenb >> 8) & 0xff, ULTRA_ENB + 1 );
2142     }
2143     if (type & AHC_TRANS_ACTIVE)
2144     {
2145       aic_outb(p, scsirate, SCSIRATE);
2146     }
2147     aic_outb(p, scsirate, TARG_SCSIRATE + tindex);
2148     aic_dev->cur.period = period;
2149     aic_dev->cur.offset = offset;
2150     aic_dev->cur.options = options;
2151     if ( !(type & AHC_TRANS_QUITE) &&
2152          (aic7xxx_verbose & VERBOSE_NEGOTIATION) &&
2153          (aic_dev->flags & DEVICE_PRINT_DTR) )
2154     {
2155       if (offset)
2156       {
2157         int rate_mod = (scsirate & WIDEXFER) ? 1 : 0;
2158
2159         printk(INFO_LEAD "Synchronous at %s Mbyte/sec, "
2160                "offset %d.\n", p->host_no, channel, target, lun,
2161                syncrate->rate[rate_mod], offset);
2162       }
2163       else
2164       {
2165         printk(INFO_LEAD "Using asynchronous transfers.\n",
2166                p->host_no, channel, target, lun);
2167       }
2168       aic_dev->flags &= ~DEVICE_PRINT_DTR;
2169     }
2170   }
2171
2172   if (type & AHC_TRANS_GOAL)
2173   {
2174     aic_dev->goal.period = period;
2175     aic_dev->goal.offset = offset;
2176     aic_dev->goal.options = options;
2177   }
2178
2179   if (type & AHC_TRANS_USER)
2180   {
2181     p->user[tindex].period = period;
2182     p->user[tindex].offset = offset;
2183     p->user[tindex].options = options;
2184   }
2185 }
2186
2187 /*+F*************************************************************************
2188  * Function:
2189  *   aic7xxx_set_width
2190  *
2191  * Description:
2192  *   Set the actual width down in the card and in our host structs
2193  *-F*************************************************************************/
2194 static void
2195 aic7xxx_set_width(struct aic7xxx_host *p, int target, int channel, int lun,
2196     unsigned int width, unsigned int type, struct aic_dev_data *aic_dev)
2197 {
2198   unsigned char tindex;
2199   unsigned short target_mask;
2200   unsigned int old_width;
2201
2202   tindex = target | (channel << 3);
2203   target_mask = 1 << tindex;
2204
2205   old_width = aic_dev->cur.width;
2206
2207   if (type & AHC_TRANS_CUR)
2208   {
2209     unsigned char scsirate;
2210
2211     scsirate = aic_inb(p, TARG_SCSIRATE + tindex);
2212
2213     scsirate &= ~WIDEXFER;
2214     if (width == MSG_EXT_WDTR_BUS_16_BIT)
2215       scsirate |= WIDEXFER;
2216
2217     aic_outb(p, scsirate, TARG_SCSIRATE + tindex);
2218
2219     if (type & AHC_TRANS_ACTIVE)
2220       aic_outb(p, scsirate, SCSIRATE);
2221
2222     aic_dev->cur.width = width;
2223
2224     if ( !(type & AHC_TRANS_QUITE) &&
2225           (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
2226           (aic_dev->flags & DEVICE_PRINT_DTR) )
2227     {
2228       printk(INFO_LEAD "Using %s transfers\n", p->host_no, channel, target,
2229         lun, (scsirate & WIDEXFER) ? "Wide(16bit)" : "Narrow(8bit)" );
2230     }
2231   }
2232
2233   if (type & AHC_TRANS_GOAL)
2234     aic_dev->goal.width = width;
2235   if (type & AHC_TRANS_USER)
2236     p->user[tindex].width = width;
2237
2238   if (aic_dev->goal.offset)
2239   {
2240     if (p->features & AHC_ULTRA2)
2241     {
2242       aic_dev->goal.offset = MAX_OFFSET_ULTRA2;
2243     }
2244     else if (width == MSG_EXT_WDTR_BUS_16_BIT)
2245     {
2246       aic_dev->goal.offset = MAX_OFFSET_16BIT;
2247     }
2248     else
2249     {
2250       aic_dev->goal.offset = MAX_OFFSET_8BIT;
2251     }
2252   }
2253 }
2254
2255 /*+F*************************************************************************
2256  * Function:
2257  *   scbq_init
2258  *
2259  * Description:
2260  *   SCB queue initialization.
2261  *
2262  *-F*************************************************************************/
2263 static void
2264 scbq_init(volatile scb_queue_type *queue)
2265 {
2266   queue->head = NULL;
2267   queue->tail = NULL;
2268 }
2269
2270 /*+F*************************************************************************
2271  * Function:
2272  *   scbq_insert_head
2273  *
2274  * Description:
2275  *   Add an SCB to the head of the list.
2276  *
2277  *-F*************************************************************************/
2278 static inline void
2279 scbq_insert_head(volatile scb_queue_type *queue, struct aic7xxx_scb *scb)
2280 {
2281   scb->q_next = queue->head;
2282   queue->head = scb;
2283   if (queue->tail == NULL)       /* If list was empty, update tail. */
2284     queue->tail = queue->head;
2285 }
2286
2287 /*+F*************************************************************************
2288  * Function:
2289  *   scbq_remove_head
2290  *
2291  * Description:
2292  *   Remove an SCB from the head of the list.
2293  *
2294  *-F*************************************************************************/
2295 static inline struct aic7xxx_scb *
2296 scbq_remove_head(volatile scb_queue_type *queue)
2297 {
2298   struct aic7xxx_scb * scbp;
2299
2300   scbp = queue->head;
2301   if (queue->head != NULL)
2302     queue->head = queue->head->q_next;
2303   if (queue->head == NULL)       /* If list is now empty, update tail. */
2304     queue->tail = NULL;
2305   return(scbp);
2306 }
2307
2308 /*+F*************************************************************************
2309  * Function:
2310  *   scbq_remove
2311  *
2312  * Description:
2313  *   Removes an SCB from the list.
2314  *
2315  *-F*************************************************************************/
2316 static inline void
2317 scbq_remove(volatile scb_queue_type *queue, struct aic7xxx_scb *scb)
2318 {
2319   if (queue->head == scb)
2320   {
2321     /* At beginning of queue, remove from head. */
2322     scbq_remove_head(queue);
2323   }
2324   else
2325   {
2326     struct aic7xxx_scb *curscb = queue->head;
2327
2328     /*
2329      * Search until the next scb is the one we're looking for, or
2330      * we run out of queue.
2331      */
2332     while ((curscb != NULL) && (curscb->q_next != scb))
2333     {
2334       curscb = curscb->q_next;
2335     }
2336     if (curscb != NULL)
2337     {
2338       /* Found it. */
2339       curscb->q_next = scb->q_next;
2340       if (scb->q_next == NULL)
2341       {
2342         /* Update the tail when removing the tail. */
2343         queue->tail = curscb;
2344       }
2345     }
2346   }
2347 }
2348
2349 /*+F*************************************************************************
2350  * Function:
2351  *   scbq_insert_tail
2352  *
2353  * Description:
2354  *   Add an SCB at the tail of the list.
2355  *
2356  *-F*************************************************************************/
2357 static inline void
2358 scbq_insert_tail(volatile scb_queue_type *queue, struct aic7xxx_scb *scb)
2359 {
2360   scb->q_next = NULL;
2361   if (queue->tail != NULL)       /* Add the scb at the end of the list. */
2362     queue->tail->q_next = scb;
2363   queue->tail = scb;             /* Update the tail. */
2364   if (queue->head == NULL)       /* If list was empty, update head. */
2365     queue->head = queue->tail;
2366 }
2367
2368 /*+F*************************************************************************
2369  * Function:
2370  *   aic7xxx_match_scb
2371  *
2372  * Description:
2373  *   Checks to see if an scb matches the target/channel as specified.
2374  *   If target is ALL_TARGETS (-1), then we're looking for any device
2375  *   on the specified channel; this happens when a channel is going
2376  *   to be reset and all devices on that channel must be aborted.
2377  *-F*************************************************************************/
2378 static int
2379 aic7xxx_match_scb(struct aic7xxx_host *p, struct aic7xxx_scb *scb,
2380     int target, int channel, int lun, unsigned char tag)
2381 {
2382   int targ = (scb->hscb->target_channel_lun >> 4) & 0x0F;
2383   int chan = (scb->hscb->target_channel_lun >> 3) & 0x01;
2384   int slun = scb->hscb->target_channel_lun & 0x07;
2385   int match;
2386
2387   match = ((chan == channel) || (channel == ALL_CHANNELS));
2388   if (match != 0)
2389     match = ((targ == target) || (target == ALL_TARGETS));
2390   if (match != 0)
2391     match = ((lun == slun) || (lun == ALL_LUNS));
2392   if (match != 0)
2393     match = ((tag == scb->hscb->tag) || (tag == SCB_LIST_NULL));
2394
2395   return (match);
2396 }
2397
2398 /*+F*************************************************************************
2399  * Function:
2400  *   aic7xxx_add_curscb_to_free_list
2401  *
2402  * Description:
2403  *   Adds the current scb (in SCBPTR) to the list of free SCBs.
2404  *-F*************************************************************************/
2405 static void
2406 aic7xxx_add_curscb_to_free_list(struct aic7xxx_host *p)
2407 {
2408   /*
2409    * Invalidate the tag so that aic7xxx_find_scb doesn't think
2410    * it's active
2411    */
2412   aic_outb(p, SCB_LIST_NULL, SCB_TAG);
2413   aic_outb(p, 0, SCB_CONTROL);
2414
2415   aic_outb(p, aic_inb(p, FREE_SCBH), SCB_NEXT);
2416   aic_outb(p, aic_inb(p, SCBPTR), FREE_SCBH);
2417 }
2418
2419 /*+F*************************************************************************
2420  * Function:
2421  *   aic7xxx_rem_scb_from_disc_list
2422  *
2423  * Description:
2424  *   Removes the current SCB from the disconnected list and adds it
2425  *   to the free list.
2426  *-F*************************************************************************/
2427 static unsigned char
2428 aic7xxx_rem_scb_from_disc_list(struct aic7xxx_host *p, unsigned char scbptr,
2429                                unsigned char prev)
2430 {
2431   unsigned char next;
2432
2433   aic_outb(p, scbptr, SCBPTR);
2434   next = aic_inb(p, SCB_NEXT);
2435   aic7xxx_add_curscb_to_free_list(p);
2436
2437   if (prev != SCB_LIST_NULL)
2438   {
2439     aic_outb(p, prev, SCBPTR);
2440     aic_outb(p, next, SCB_NEXT);
2441   }
2442   else
2443   {
2444     aic_outb(p, next, DISCONNECTED_SCBH);
2445   }
2446
2447   return next;
2448 }
2449
2450 /*+F*************************************************************************
2451  * Function:
2452  *   aic7xxx_busy_target
2453  *
2454  * Description:
2455  *   Set the specified target busy.
2456  *-F*************************************************************************/
2457 static inline void
2458 aic7xxx_busy_target(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
2459 {
2460   p->untagged_scbs[scb->hscb->target_channel_lun] = scb->hscb->tag;
2461 }
2462
2463 /*+F*************************************************************************
2464  * Function:
2465  *   aic7xxx_index_busy_target
2466  *
2467  * Description:
2468  *   Returns the index of the busy target, and optionally sets the
2469  *   target inactive.
2470  *-F*************************************************************************/
2471 static inline unsigned char
2472 aic7xxx_index_busy_target(struct aic7xxx_host *p, unsigned char tcl,
2473     int unbusy)
2474 {
2475   unsigned char busy_scbid;
2476
2477   busy_scbid = p->untagged_scbs[tcl];
2478   if (unbusy)
2479   {
2480     p->untagged_scbs[tcl] = SCB_LIST_NULL;
2481   }
2482   return (busy_scbid);
2483 }
2484
2485 /*+F*************************************************************************
2486  * Function:
2487  *   aic7xxx_find_scb
2488  *
2489  * Description:
2490  *   Look through the SCB array of the card and attempt to find the
2491  *   hardware SCB that corresponds to the passed in SCB.  Return
2492  *   SCB_LIST_NULL if unsuccessful.  This routine assumes that the
2493  *   card is already paused.
2494  *-F*************************************************************************/
2495 static unsigned char
2496 aic7xxx_find_scb(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
2497 {
2498   unsigned char saved_scbptr;
2499   unsigned char curindex;
2500
2501   saved_scbptr = aic_inb(p, SCBPTR);
2502   curindex = 0;
2503   for (curindex = 0; curindex < p->scb_data->maxhscbs; curindex++)
2504   {
2505     aic_outb(p, curindex, SCBPTR);
2506     if (aic_inb(p, SCB_TAG) == scb->hscb->tag)
2507     {
2508       break;
2509     }
2510   }
2511   aic_outb(p, saved_scbptr, SCBPTR);
2512   if (curindex >= p->scb_data->maxhscbs)
2513   {
2514     curindex = SCB_LIST_NULL;
2515   }
2516
2517   return (curindex);
2518 }
2519
2520 /*+F*************************************************************************
2521  * Function:
2522  *   aic7xxx_allocate_scb
2523  *
2524  * Description:
2525  *   Get an SCB from the free list or by allocating a new one.
2526  *-F*************************************************************************/
2527 static int
2528 aic7xxx_allocate_scb(struct aic7xxx_host *p)
2529 {
2530   struct aic7xxx_scb   *scbp = NULL;
2531   int scb_size = (sizeof (struct hw_scatterlist) * AIC7XXX_MAX_SG) + 12 + 6;
2532   int i;
2533   int step = PAGE_SIZE / 1024;
2534   unsigned long scb_count = 0;
2535   struct hw_scatterlist *hsgp;
2536   struct aic7xxx_scb *scb_ap;
2537   struct aic7xxx_scb_dma *scb_dma;
2538   unsigned char *bufs;
2539
2540   if (p->scb_data->numscbs < p->scb_data->maxscbs)
2541   {
2542     /*
2543      * Calculate the optimal number of SCBs to allocate.
2544      *
2545      * NOTE: This formula works because the sizeof(sg_array) is always
2546      * 1024.  Therefore, scb_size * i would always be > PAGE_SIZE *
2547      * (i/step).  The (i-1) allows the left hand side of the equation
2548      * to grow into the right hand side to a point of near perfect
2549      * efficiency since scb_size * (i -1) is growing slightly faster
2550      * than the right hand side.  If the number of SG array elements
2551      * is changed, this function may not be near so efficient any more.
2552      *
2553      * Since the DMA'able buffers are now allocated in a separate
2554      * chunk this algorithm has been modified to match.  The '12'
2555      * and '6' factors in scb_size are for the DMA'able command byte
2556      * and sensebuffers respectively.  -DaveM
2557      */
2558     for ( i=step;; i *= 2 )
2559     {
2560       if ( (scb_size * (i-1)) >= ( (PAGE_SIZE * (i/step)) - 64 ) )
2561       {
2562         i /= 2;
2563         break;
2564       }
2565     }
2566     scb_count = min( (i-1), p->scb_data->maxscbs - p->scb_data->numscbs);
2567     scb_ap = kmalloc(sizeof (struct aic7xxx_scb) * scb_count
2568                                            + sizeof(struct aic7xxx_scb_dma), GFP_ATOMIC);
2569     if (scb_ap == NULL)
2570       return(0);
2571     scb_dma = (struct aic7xxx_scb_dma *)&scb_ap[scb_count];
2572     hsgp = (struct hw_scatterlist *)
2573       pci_alloc_consistent(p->pdev, scb_size * scb_count,
2574                            &scb_dma->dma_address);
2575     if (hsgp == NULL)
2576     {
2577       kfree(scb_ap);
2578       return(0);
2579     }
2580     bufs = (unsigned char *)&hsgp[scb_count * AIC7XXX_MAX_SG];
2581 #ifdef AIC7XXX_VERBOSE_DEBUGGING
2582     if (aic7xxx_verbose > 0xffff)
2583     {
2584       if (p->scb_data->numscbs == 0)
2585         printk(INFO_LEAD "Allocating initial %ld SCB structures.\n",
2586           p->host_no, -1, -1, -1, scb_count);
2587       else
2588         printk(INFO_LEAD "Allocating %ld additional SCB structures.\n",
2589           p->host_no, -1, -1, -1, scb_count);
2590     }
2591 #endif
2592     memset(scb_ap, 0, sizeof (struct aic7xxx_scb) * scb_count);
2593     scb_dma->dma_offset = (unsigned long)scb_dma->dma_address
2594                           - (unsigned long)hsgp;
2595     scb_dma->dma_len = scb_size * scb_count;
2596     for (i=0; i < scb_count; i++)
2597     {
2598       scbp = &scb_ap[i];
2599       scbp->hscb = &p->scb_data->hscbs[p->scb_data->numscbs];
2600       scbp->sg_list = &hsgp[i * AIC7XXX_MAX_SG];
2601       scbp->sense_cmd = bufs;
2602       scbp->cmnd = bufs + 6;
2603       bufs += 12 + 6;
2604       scbp->scb_dma = scb_dma;
2605       memset(scbp->hscb, 0, sizeof(struct aic7xxx_hwscb));
2606       scbp->hscb->tag = p->scb_data->numscbs;
2607       /*
2608        * Place in the scb array; never is removed
2609        */
2610       p->scb_data->scb_array[p->scb_data->numscbs++] = scbp;
2611       scbq_insert_tail(&p->scb_data->free_scbs, scbp);
2612     }
2613     scbp->kmalloc_ptr = scb_ap;
2614   }
2615   return(scb_count);
2616 }
2617
2618 /*+F*************************************************************************
2619  * Function:
2620  *   aic7xxx_queue_cmd_complete
2621  *
2622  * Description:
2623  *   Due to race conditions present in the SCSI subsystem, it is easier
2624  *   to queue completed commands, then call scsi_done() on them when
2625  *   we're finished.  This function queues the completed commands.
2626  *-F*************************************************************************/
2627 static void
2628 aic7xxx_queue_cmd_complete(struct aic7xxx_host *p, struct scsi_cmnd *cmd)
2629 {
2630   aic7xxx_position(cmd) = SCB_LIST_NULL;
2631   cmd->host_scribble = (char *)p->completeq.head;
2632   p->completeq.head = cmd;
2633 }
2634
2635 /*+F*************************************************************************
2636  * Function:
2637  *   aic7xxx_done_cmds_complete
2638  *
2639  * Description:
2640  *   Process the completed command queue.
2641  *-F*************************************************************************/
2642 static void aic7xxx_done_cmds_complete(struct aic7xxx_host *p)
2643 {
2644         struct scsi_cmnd *cmd;
2645
2646         while (p->completeq.head != NULL) {
2647                 cmd = p->completeq.head;
2648                 p->completeq.head = (struct scsi_cmnd *) cmd->host_scribble;
2649                 cmd->host_scribble = NULL;
2650                 cmd->scsi_done(cmd);
2651         }
2652 }
2653
2654 /*+F*************************************************************************
2655  * Function:
2656  *   aic7xxx_free_scb
2657  *
2658  * Description:
2659  *   Free the scb and insert into the free scb list.
2660  *-F*************************************************************************/
2661 static void
2662 aic7xxx_free_scb(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
2663 {
2664
2665   scb->flags = SCB_FREE;
2666   scb->cmd = NULL;
2667   scb->sg_count = 0;
2668   scb->sg_length = 0;
2669   scb->tag_action = 0;
2670   scb->hscb->control = 0;
2671   scb->hscb->target_status = 0;
2672   scb->hscb->target_channel_lun = SCB_LIST_NULL;
2673
2674   scbq_insert_head(&p->scb_data->free_scbs, scb);
2675 }
2676
2677 /*+F*************************************************************************
2678  * Function:
2679  *   aic7xxx_done
2680  *
2681  * Description:
2682  *   Calls the higher level scsi done function and frees the scb.
2683  *-F*************************************************************************/
2684 static void
2685 aic7xxx_done(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
2686 {
2687         struct scsi_cmnd *cmd = scb->cmd;
2688         struct aic_dev_data *aic_dev = cmd->device->hostdata;
2689         int tindex = TARGET_INDEX(cmd);
2690         struct aic7xxx_scb *scbp;
2691         unsigned char queue_depth;
2692
2693         scsi_dma_unmap(cmd);
2694
2695   if (scb->flags & SCB_SENSE)
2696   {
2697     pci_unmap_single(p->pdev,
2698                      le32_to_cpu(scb->sg_list[0].address),
2699                      SCSI_SENSE_BUFFERSIZE,
2700                      PCI_DMA_FROMDEVICE);
2701   }
2702   if (scb->flags & SCB_RECOVERY_SCB)
2703   {
2704     p->flags &= ~AHC_ABORT_PENDING;
2705   }
2706   if (scb->flags & (SCB_RESET|SCB_ABORT))
2707   {
2708     cmd->result |= (DID_RESET << 16);
2709   }
2710
2711   if ((scb->flags & SCB_MSGOUT_BITS) != 0)
2712   {
2713     unsigned short mask;
2714     int message_error = FALSE;
2715
2716     mask = 0x01 << tindex;
2717
2718     /*
2719      * Check to see if we get an invalid message or a message error
2720      * after failing to negotiate a wide or sync transfer message.
2721      */
2722     if ((scb->flags & SCB_SENSE) &&
2723           ((scb->cmd->sense_buffer[12] == 0x43) ||  /* INVALID_MESSAGE */
2724           (scb->cmd->sense_buffer[12] == 0x49))) /* MESSAGE_ERROR  */
2725     {
2726       message_error = TRUE;
2727     }
2728
2729     if (scb->flags & SCB_MSGOUT_WDTR)
2730     {
2731       if (message_error)
2732       {
2733         if ( (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
2734              (aic_dev->flags & DEVICE_PRINT_DTR) )
2735         {
2736           printk(INFO_LEAD "Device failed to complete Wide Negotiation "
2737             "processing and\n", p->host_no, CTL_OF_SCB(scb));
2738           printk(INFO_LEAD "returned a sense error code for invalid message, "
2739             "disabling future\n", p->host_no, CTL_OF_SCB(scb));
2740           printk(INFO_LEAD "Wide negotiation to this device.\n", p->host_no,
2741             CTL_OF_SCB(scb));
2742         }
2743         aic_dev->needwdtr = aic_dev->needwdtr_copy = 0;
2744       }
2745     }
2746     if (scb->flags & SCB_MSGOUT_SDTR)
2747     {
2748       if (message_error)
2749       {
2750         if ( (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
2751              (aic_dev->flags & DEVICE_PRINT_DTR) )
2752         {
2753           printk(INFO_LEAD "Device failed to complete Sync Negotiation "
2754             "processing and\n", p->host_no, CTL_OF_SCB(scb));
2755           printk(INFO_LEAD "returned a sense error code for invalid message, "
2756             "disabling future\n", p->host_no, CTL_OF_SCB(scb));
2757           printk(INFO_LEAD "Sync negotiation to this device.\n", p->host_no,
2758             CTL_OF_SCB(scb));
2759           aic_dev->flags &= ~DEVICE_PRINT_DTR;
2760         }
2761         aic_dev->needsdtr = aic_dev->needsdtr_copy = 0;
2762       }
2763     }
2764     if (scb->flags & SCB_MSGOUT_PPR)
2765     {
2766       if(message_error)
2767       {
2768         if ( (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
2769              (aic_dev->flags & DEVICE_PRINT_DTR) )
2770         {
2771           printk(INFO_LEAD "Device failed to complete Parallel Protocol "
2772             "Request processing and\n", p->host_no, CTL_OF_SCB(scb));
2773           printk(INFO_LEAD "returned a sense error code for invalid message, "
2774             "disabling future\n", p->host_no, CTL_OF_SCB(scb));
2775           printk(INFO_LEAD "Parallel Protocol Request negotiation to this "
2776             "device.\n", p->host_no, CTL_OF_SCB(scb));
2777         }
2778         /*
2779          * Disable PPR negotiation and revert back to WDTR and SDTR setup
2780          */
2781         aic_dev->needppr = aic_dev->needppr_copy = 0;
2782         aic_dev->needsdtr = aic_dev->needsdtr_copy = 1;
2783         aic_dev->needwdtr = aic_dev->needwdtr_copy = 1;
2784       }
2785     }
2786   }
2787
2788   queue_depth = aic_dev->temp_q_depth;
2789   if (queue_depth >= aic_dev->active_cmds)
2790   {
2791     scbp = scbq_remove_head(&aic_dev->delayed_scbs);
2792     if (scbp)
2793     {
2794       if (queue_depth == 1)
2795       {
2796         /*
2797          * Give extra preference to untagged devices, such as CD-R devices
2798          * This makes it more likely that a drive *won't* stuff up while
2799          * waiting on data at a critical time, such as CD-R writing and
2800          * audio CD ripping operations.  Should also benefit tape drives.
2801          */
2802         scbq_insert_head(&p->waiting_scbs, scbp);
2803       }
2804       else
2805       {
2806         scbq_insert_tail(&p->waiting_scbs, scbp);
2807       }
2808 #ifdef AIC7XXX_VERBOSE_DEBUGGING
2809       if (aic7xxx_verbose > 0xffff)
2810         printk(INFO_LEAD "Moving SCB from delayed to waiting queue.\n",
2811                p->host_no, CTL_OF_SCB(scbp));
2812 #endif
2813       if (queue_depth > aic_dev->active_cmds)
2814       {
2815         scbp = scbq_remove_head(&aic_dev->delayed_scbs);
2816         if (scbp)
2817           scbq_insert_tail(&p->waiting_scbs, scbp);
2818       }
2819     }
2820   }
2821   if (!(scb->tag_action))
2822   {
2823     aic7xxx_index_busy_target(p, scb->hscb->target_channel_lun,
2824                               /* unbusy */ TRUE);
2825     if (cmd->device->simple_tags)
2826     {
2827       aic_dev->temp_q_depth = aic_dev->max_q_depth;
2828     }
2829   }
2830   if(scb->flags & SCB_DTR_SCB)
2831   {
2832     aic_dev->dtr_pending = 0;
2833   }
2834   aic_dev->active_cmds--;
2835   p->activescbs--;
2836
2837   if ((scb->sg_length >= 512) && (((cmd->result >> 16) & 0xf) == DID_OK))
2838   {
2839     long *ptr;
2840     int x, i;
2841
2842
2843     if (rq_data_dir(cmd->request) == WRITE)
2844     {
2845       aic_dev->w_total++;
2846       ptr = aic_dev->w_bins;
2847     }
2848     else
2849     {
2850       aic_dev->r_total++;
2851       ptr = aic_dev->r_bins;
2852     }
2853     x = scb->sg_length;
2854     x >>= 10;
2855     for(i=0; i<6; i++)
2856     {
2857       x >>= 2;
2858       if(!x) {
2859         ptr[i]++;
2860         break;
2861       }
2862     }
2863     if(i == 6 && x)
2864       ptr[5]++;
2865   }
2866   aic7xxx_free_scb(p, scb);
2867   aic7xxx_queue_cmd_complete(p, cmd);
2868
2869 }
2870
2871 /*+F*************************************************************************
2872  * Function:
2873  *   aic7xxx_run_done_queue
2874  *
2875  * Description:
2876  *   Calls the aic7xxx_done() for the scsi_cmnd of each scb in the
2877  *   aborted list, and adds each scb to the free list.  If complete
2878  *   is TRUE, we also process the commands complete list.
2879  *-F*************************************************************************/
2880 static void
2881 aic7xxx_run_done_queue(struct aic7xxx_host *p, /*complete*/ int complete)
2882 {
2883   struct aic7xxx_scb *scb;
2884   int i, found = 0;
2885
2886   for (i = 0; i < p->scb_data->numscbs; i++)
2887   {
2888     scb = p->scb_data->scb_array[i];
2889     if (scb->flags & SCB_QUEUED_FOR_DONE)
2890     {
2891       if (scb->flags & SCB_QUEUE_FULL)
2892       {
2893         scb->cmd->result = QUEUE_FULL << 1;
2894       }
2895       else
2896       {
2897         if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
2898           printk(INFO_LEAD "Aborting scb %d\n",
2899                p->host_no, CTL_OF_SCB(scb), scb->hscb->tag);
2900         /*
2901          * Clear any residual information since the normal aic7xxx_done() path
2902          * doesn't touch the residuals.
2903          */
2904         scb->hscb->residual_SG_segment_count = 0;
2905         scb->hscb->residual_data_count[0] = 0;
2906         scb->hscb->residual_data_count[1] = 0;
2907         scb->hscb->residual_data_count[2] = 0;
2908       }
2909       found++;
2910       aic7xxx_done(p, scb);
2911     }
2912   }
2913   if (aic7xxx_verbose & (VERBOSE_ABORT_RETURN | VERBOSE_RESET_RETURN))
2914   {
2915     printk(INFO_LEAD "%d commands found and queued for "
2916         "completion.\n", p->host_no, -1, -1, -1, found);
2917   }
2918   if (complete)
2919   {
2920     aic7xxx_done_cmds_complete(p);
2921   }
2922 }
2923
2924 /*+F*************************************************************************
2925  * Function:
2926  *   aic7xxx_abort_waiting_scb
2927  *
2928  * Description:
2929  *   Manipulate the waiting for selection list and return the
2930  *   scb that follows the one that we remove.
2931  *-F*************************************************************************/
2932 static unsigned char
2933 aic7xxx_abort_waiting_scb(struct aic7xxx_host *p, struct aic7xxx_scb *scb,
2934     unsigned char scbpos, unsigned char prev)
2935 {
2936   unsigned char curscb, next;
2937
2938   /*
2939    * Select the SCB we want to abort and pull the next pointer out of it.
2940    */
2941   curscb = aic_inb(p, SCBPTR);
2942   aic_outb(p, scbpos, SCBPTR);
2943   next = aic_inb(p, SCB_NEXT);
2944
2945   aic7xxx_add_curscb_to_free_list(p);
2946
2947   /*
2948    * Update the waiting list
2949    */
2950   if (prev == SCB_LIST_NULL)
2951   {
2952     /*
2953      * First in the list
2954      */
2955     aic_outb(p, next, WAITING_SCBH);
2956   }
2957   else
2958   {
2959     /*
2960      * Select the scb that pointed to us and update its next pointer.
2961      */
2962     aic_outb(p, prev, SCBPTR);
2963     aic_outb(p, next, SCB_NEXT);
2964   }
2965   /*
2966    * Point us back at the original scb position and inform the SCSI
2967    * system that the command has been aborted.
2968    */
2969   aic_outb(p, curscb, SCBPTR);
2970   return (next);
2971 }
2972
2973 /*+F*************************************************************************
2974  * Function:
2975  *   aic7xxx_search_qinfifo
2976  *
2977  * Description:
2978  *   Search the queue-in FIFO for matching SCBs and conditionally
2979  *   requeue.  Returns the number of matching SCBs.
2980  *-F*************************************************************************/
2981 static int
2982 aic7xxx_search_qinfifo(struct aic7xxx_host *p, int target, int channel,
2983     int lun, unsigned char tag, int flags, int requeue,
2984     volatile scb_queue_type *queue)
2985 {
2986   int      found;
2987   unsigned char qinpos, qintail;
2988   struct aic7xxx_scb *scbp;
2989
2990   found = 0;
2991   qinpos = aic_inb(p, QINPOS);
2992   qintail = p->qinfifonext;
2993
2994   p->qinfifonext = qinpos;
2995
2996   while (qinpos != qintail)
2997   {
2998     scbp = p->scb_data->scb_array[p->qinfifo[qinpos++]];
2999     if (aic7xxx_match_scb(p, scbp, target, channel, lun, tag))
3000     {
3001        /*
3002         * We found an scb that needs to be removed.
3003         */
3004        if (requeue && (queue != NULL))
3005        {
3006          if (scbp->flags & SCB_WAITINGQ)
3007          {
3008            scbq_remove(queue, scbp);
3009            scbq_remove(&p->waiting_scbs, scbp);
3010            scbq_remove(&AIC_DEV(scbp->cmd)->delayed_scbs, scbp);
3011            AIC_DEV(scbp->cmd)->active_cmds++;
3012            p->activescbs++;
3013          }
3014          scbq_insert_tail(queue, scbp);
3015          AIC_DEV(scbp->cmd)->active_cmds--;
3016          p->activescbs--;
3017          scbp->flags |= SCB_WAITINGQ;
3018          if ( !(scbp->tag_action & TAG_ENB) )
3019          {
3020            aic7xxx_index_busy_target(p, scbp->hscb->target_channel_lun,
3021              TRUE);
3022          }
3023        }
3024        else if (requeue)
3025        {
3026          p->qinfifo[p->qinfifonext++] = scbp->hscb->tag;
3027        }
3028        else
3029        {
3030         /*
3031          * Preserve any SCB_RECOVERY_SCB flags on this scb then set the
3032          * flags we were called with, presumeably so aic7xxx_run_done_queue
3033          * can find this scb
3034          */
3035          scbp->flags = flags | (scbp->flags & SCB_RECOVERY_SCB);
3036          if (aic7xxx_index_busy_target(p, scbp->hscb->target_channel_lun,
3037                                        FALSE) == scbp->hscb->tag)
3038          {
3039            aic7xxx_index_busy_target(p, scbp->hscb->target_channel_lun,
3040              TRUE);
3041          }
3042        }
3043        found++;
3044     }
3045     else
3046     {
3047       p->qinfifo[p->qinfifonext++] = scbp->hscb->tag;
3048     }
3049   }
3050   /*
3051    * Now that we've done the work, clear out any left over commands in the
3052    * qinfifo and update the KERNEL_QINPOS down on the card.
3053    *
3054    *  NOTE: This routine expect the sequencer to already be paused when
3055    *        it is run....make sure it's that way!
3056    */
3057   qinpos = p->qinfifonext;
3058   while(qinpos != qintail)
3059   {
3060     p->qinfifo[qinpos++] = SCB_LIST_NULL;
3061   }
3062   if (p->features & AHC_QUEUE_REGS)
3063     aic_outb(p, p->qinfifonext, HNSCB_QOFF);
3064   else
3065     aic_outb(p, p->qinfifonext, KERNEL_QINPOS);
3066
3067   return (found);
3068 }
3069
3070 /*+F*************************************************************************
3071  * Function:
3072  *   aic7xxx_scb_on_qoutfifo
3073  *
3074  * Description:
3075  *   Is the scb that was passed to us currently on the qoutfifo?
3076  *-F*************************************************************************/
3077 static int
3078 aic7xxx_scb_on_qoutfifo(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
3079 {
3080   int i=0;
3081
3082   while(p->qoutfifo[(p->qoutfifonext + i) & 0xff ] != SCB_LIST_NULL)
3083   {
3084     if(p->qoutfifo[(p->qoutfifonext + i) & 0xff ] == scb->hscb->tag)
3085       return TRUE;
3086     else
3087       i++;
3088   }
3089   return FALSE;
3090 }
3091
3092
3093 /*+F*************************************************************************
3094  * Function:
3095  *   aic7xxx_reset_device
3096  *
3097  * Description:
3098  *   The device at the given target/channel has been reset.  Abort
3099  *   all active and queued scbs for that target/channel.  This function
3100  *   need not worry about linked next pointers because if was a MSG_ABORT_TAG
3101  *   then we had a tagged command (no linked next), if it was MSG_ABORT or
3102  *   MSG_BUS_DEV_RESET then the device won't know about any commands any more
3103  *   and no busy commands will exist, and if it was a bus reset, then nothing
3104  *   knows about any linked next commands any more.  In all cases, we don't
3105  *   need to worry about the linked next or busy scb, we just need to clear
3106  *   them.
3107  *-F*************************************************************************/
3108 static void
3109 aic7xxx_reset_device(struct aic7xxx_host *p, int target, int channel,
3110                      int lun, unsigned char tag)
3111 {
3112   struct aic7xxx_scb *scbp, *prev_scbp;
3113   struct scsi_device *sd;
3114   unsigned char active_scb, tcl, scb_tag;
3115   int i = 0, init_lists = FALSE;
3116   struct aic_dev_data *aic_dev;
3117
3118   /*
3119    * Restore this when we're done
3120    */
3121   active_scb = aic_inb(p, SCBPTR);
3122   scb_tag = aic_inb(p, SCB_TAG);
3123
3124   if (aic7xxx_verbose & (VERBOSE_RESET_PROCESS | VERBOSE_ABORT_PROCESS))
3125   {
3126     printk(INFO_LEAD "Reset device, hardware_scb %d,\n",
3127          p->host_no, channel, target, lun, active_scb);
3128     printk(INFO_LEAD "Current scb %d, SEQADDR 0x%x, LASTPHASE "
3129            "0x%x\n",
3130          p->host_no, channel, target, lun, scb_tag,
3131          aic_inb(p, SEQADDR0) | (aic_inb(p, SEQADDR1) << 8),
3132          aic_inb(p, LASTPHASE));
3133     printk(INFO_LEAD "SG_CACHEPTR 0x%x, SG_COUNT %d, SCSISIGI 0x%x\n",
3134          p->host_no, channel, target, lun,
3135          (p->features & AHC_ULTRA2) ?  aic_inb(p, SG_CACHEPTR) : 0,
3136          aic_inb(p, SG_COUNT), aic_inb(p, SCSISIGI));
3137     printk(INFO_LEAD "SSTAT0 0x%x, SSTAT1 0x%x, SSTAT2 0x%x\n",
3138          p->host_no, channel, target, lun, aic_inb(p, SSTAT0),
3139          aic_inb(p, SSTAT1), aic_inb(p, SSTAT2));
3140   }
3141
3142   /*
3143    * Deal with the busy target and linked next issues.
3144    */
3145   list_for_each_entry(aic_dev, &p->aic_devs, list)
3146   {
3147     if (aic7xxx_verbose & (VERBOSE_RESET_PROCESS | VERBOSE_ABORT_PROCESS))
3148       printk(INFO_LEAD "processing aic_dev %p\n", p->host_no, channel, target,
3149                     lun, aic_dev);
3150     sd = aic_dev->SDptr;
3151
3152     if((target != ALL_TARGETS && target != sd->id) ||
3153        (channel != ALL_CHANNELS && channel != sd->channel))
3154       continue;
3155     if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
3156         printk(INFO_LEAD "Cleaning up status information "
3157           "and delayed_scbs.\n", p->host_no, sd->channel, sd->id, sd->lun);
3158     aic_dev->flags &= ~BUS_DEVICE_RESET_PENDING;
3159     if ( tag == SCB_LIST_NULL )
3160     {
3161       aic_dev->dtr_pending = 0;
3162       aic_dev->needppr = aic_dev->needppr_copy;
3163       aic_dev->needsdtr = aic_dev->needsdtr_copy;
3164       aic_dev->needwdtr = aic_dev->needwdtr_copy;
3165       aic_dev->flags = DEVICE_PRINT_DTR;
3166       aic_dev->temp_q_depth = aic_dev->max_q_depth;
3167     }
3168     tcl = (sd->id << 4) | (sd->channel << 3) | sd->lun;
3169     if ( (aic7xxx_index_busy_target(p, tcl, FALSE) == tag) ||
3170          (tag == SCB_LIST_NULL) )
3171       aic7xxx_index_busy_target(p, tcl, /* unbusy */ TRUE);
3172     prev_scbp = NULL;
3173     scbp = aic_dev->delayed_scbs.head;
3174     while (scbp != NULL)
3175     {
3176       prev_scbp = scbp;
3177       scbp = scbp->q_next;
3178       if (aic7xxx_match_scb(p, prev_scbp, target, channel, lun, tag))
3179       {
3180         scbq_remove(&aic_dev->delayed_scbs, prev_scbp);
3181         if (prev_scbp->flags & SCB_WAITINGQ)
3182         {
3183           aic_dev->active_cmds++;
3184           p->activescbs++;
3185         }
3186         prev_scbp->flags &= ~(SCB_ACTIVE | SCB_WAITINGQ);
3187         prev_scbp->flags |= SCB_RESET | SCB_QUEUED_FOR_DONE;
3188       }
3189     }
3190   }
3191
3192   if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
3193     printk(INFO_LEAD "Cleaning QINFIFO.\n", p->host_no, channel, target, lun );
3194   aic7xxx_search_qinfifo(p, target, channel, lun, tag,
3195       SCB_RESET | SCB_QUEUED_FOR_DONE, /* requeue */ FALSE, NULL);
3196
3197 /*
3198  *  Search the waiting_scbs queue for matches, this catches any SCB_QUEUED
3199  *  ABORT/RESET commands.
3200  */
3201   if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
3202     printk(INFO_LEAD "Cleaning waiting_scbs.\n", p->host_no, channel,
3203       target, lun );
3204   {
3205     struct aic7xxx_scb *scbp, *prev_scbp;
3206
3207     prev_scbp = NULL;
3208     scbp = p->waiting_scbs.head;
3209     while (scbp != NULL)
3210     {
3211       prev_scbp = scbp;
3212       scbp = scbp->q_next;
3213       if (aic7xxx_match_scb(p, prev_scbp, target, channel, lun, tag))
3214       {
3215         scbq_remove(&p->waiting_scbs, prev_scbp);
3216         if (prev_scbp->flags & SCB_WAITINGQ)
3217         {
3218           AIC_DEV(prev_scbp->cmd)->active_cmds++;
3219           p->activescbs++;
3220         }
3221         prev_scbp->flags &= ~(SCB_ACTIVE | SCB_WAITINGQ);
3222         prev_scbp->flags |= SCB_RESET | SCB_QUEUED_FOR_DONE;
3223       }
3224     }
3225   }
3226
3227
3228   /*
3229    * Search waiting for selection list.
3230    */
3231   if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
3232     printk(INFO_LEAD "Cleaning waiting for selection "
3233       "list.\n", p->host_no, channel, target, lun);
3234   {
3235     unsigned char next, prev, scb_index;
3236
3237     next = aic_inb(p, WAITING_SCBH);  /* Start at head of list. */
3238     prev = SCB_LIST_NULL;
3239     while (next != SCB_LIST_NULL)
3240     {
3241       aic_outb(p, next, SCBPTR);
3242       scb_index = aic_inb(p, SCB_TAG);
3243       if (scb_index >= p->scb_data->numscbs)
3244       {
3245        /*
3246         * No aic7xxx_verbose check here.....we want to see this since it
3247         * means either the kernel driver or the sequencer screwed things up
3248         */
3249         printk(WARN_LEAD "Waiting List inconsistency; SCB index=%d, "
3250           "numscbs=%d\n", p->host_no, channel, target, lun, scb_index,
3251           p->scb_data->numscbs);
3252         next = aic_inb(p, SCB_NEXT);
3253         aic7xxx_add_curscb_to_free_list(p);
3254       }
3255       else
3256       {
3257         scbp = p->scb_data->scb_array[scb_index];
3258         if (aic7xxx_match_scb(p, scbp, target, channel, lun, tag))
3259         {
3260           next = aic7xxx_abort_waiting_scb(p, scbp, next, prev);
3261           if (scbp->flags & SCB_WAITINGQ)
3262           {
3263             AIC_DEV(scbp->cmd)->active_cmds++;
3264             p->activescbs++;
3265           }
3266           scbp->flags &= ~(SCB_ACTIVE | SCB_WAITINGQ);
3267           scbp->flags |= SCB_RESET | SCB_QUEUED_FOR_DONE;
3268           if (prev == SCB_LIST_NULL)
3269           {
3270             /*
3271              * This is either the first scb on the waiting list, or we
3272              * have already yanked the first and haven't left any behind.
3273              * Either way, we need to turn off the selection hardware if
3274              * it isn't already off.
3275              */
3276             aic_outb(p, aic_inb(p, SCSISEQ) & ~ENSELO, SCSISEQ);
3277             aic_outb(p, CLRSELTIMEO, CLRSINT1);
3278           }
3279         }
3280         else
3281         {
3282           prev = next;
3283           next = aic_inb(p, SCB_NEXT);
3284         }
3285       }
3286     }
3287   }
3288
3289   /*
3290    * Go through disconnected list and remove any entries we have queued
3291    * for completion, zeroing their control byte too.
3292    */
3293   if (aic7xxx_verbose & (VERBOSE_ABORT_PROCESS | VERBOSE_RESET_PROCESS))
3294     printk(INFO_LEAD "Cleaning disconnected scbs "
3295       "list.\n", p->host_no, channel, target, lun);
3296   if (p->flags & AHC_PAGESCBS)
3297   {
3298     unsigned char next, prev, scb_index;
3299
3300     next = aic_inb(p, DISCONNECTED_SCBH);
3301     prev = SCB_LIST_NULL;
3302     while (next != SCB_LIST_NULL)
3303     {
3304       aic_outb(p, next, SCBPTR);
3305       scb_index = aic_inb(p, SCB_TAG);
3306       if (scb_index > p->scb_data->numscbs)
3307       {
3308         printk(WARN_LEAD "Disconnected List inconsistency; SCB index=%d, "
3309           "numscbs=%d\n", p->host_no, channel, target, lun, scb_index,
3310           p->scb_data->numscbs);
3311         next = aic7xxx_rem_scb_from_disc_list(p, next, prev);
3312       }
3313       else
3314       {
3315         scbp = p->scb_data->scb_array[scb_index];
3316         if (aic7xxx_match_scb(p, scbp, target, channel, lun, tag))
3317         {
3318           next = aic7xxx_rem_scb_from_disc_list(p, next, prev);
3319           if (scbp->flags & SCB_WAITINGQ)
3320           {
3321             AIC_DEV(scbp->cmd)->active_cmds++;
3322             p->activescbs++;
3323           }
3324           scbp->flags &= ~(SCB_ACTIVE | SCB_WAITINGQ);
3325           scbp->flags |= SCB_RESET | SCB_QUEUED_FOR_DONE;
3326           scbp->hscb->control = 0;
3327         }
3328         else
3329         {
3330           prev = next;
3331           next = aic_inb(p, SCB_NEXT);
3332         }
3333       }
3334     }
3335   }
3336
3337   /*
3338    * Walk the free list making sure no entries on the free list have
3339    * a valid SCB_TAG value or SCB_CONTROL byte.
3340    */
3341   if (p->flags & AHC_PAGESCBS)
3342   {
3343     unsigned char next;
3344
3345     next = aic_inb(p, FREE_SCBH);
3346     while (next != SCB_LIST_NULL)
3347     {
3348       aic_outb(p, next, SCBPTR);
3349       if (aic_inb(p, SCB_TAG) < p->scb_data->numscbs)
3350       {
3351         printk(WARN_LEAD "Free list inconsistency!.\n", p->host_no, channel,
3352           target, lun);
3353         init_lists = TRUE;
3354         next = SCB_LIST_NULL;
3355       }
3356       else
3357       {
3358         aic_outb(p, SCB_LIST_NULL, SCB_TAG);
3359         aic_outb(p, 0, SCB_CONTROL);
3360         next = aic_inb(p, SCB_NEXT);
3361       }
3362     }
3363   }
3364
3365   /*
3366    * Go through the hardware SCB array looking for commands that
3367    * were active but not on any list.
3368    */
3369   if (init_lists)
3370   {
3371     aic_outb(p, SCB_LIST_NULL, FREE_SCBH);
3372     aic_outb(p, SCB_LIST_NULL, WAITING_SCBH);
3373     aic_outb(p, SCB_LIST_NULL, DISCONNECTED_SCBH);
3374   }
3375   for (i = p->scb_data->maxhscbs - 1; i >= 0; i--)
3376   {
3377     unsigned char scbid;
3378
3379     aic_outb(p, i, SCBPTR);
3380     if (init_lists)
3381     {
3382       aic_outb(p, SCB_LIST_NULL, SCB_TAG);
3383       aic_outb(p, SCB_LIST_NULL, SCB_NEXT);
3384       aic_outb(p, 0, SCB_CONTROL);
3385       aic7xxx_add_curscb_to_free_list(p);
3386     }
3387     else
3388     {
3389       scbid = aic_inb(p, SCB_TAG);
3390       if (scbid < p->scb_data->numscbs)
3391       {
3392         scbp = p->scb_data->scb_array[scbid];
3393         if (aic7xxx_match_scb(p, scbp, target, channel, lun, tag))
3394         {
3395           aic_outb(p, 0, SCB_CONTROL);
3396           aic_outb(p, SCB_LIST_NULL, SCB_TAG);
3397           aic7xxx_add_curscb_to_free_list(p);
3398         }
3399       }
3400     }
3401   }
3402
3403   /*
3404    * Go through the entire SCB array now and look for commands for
3405    * for this target that are stillactive.  These are other (most likely
3406    * tagged) commands that were disconnected when the reset occurred.
3407    * Any commands we find here we know this about, it wasn't on any queue,
3408    * it wasn't in the qinfifo, it wasn't in the disconnected or waiting
3409    * lists, so it really must have been a paged out SCB.  In that case,
3410    * we shouldn't need to bother with updating any counters, just mark
3411    * the correct flags and go on.
3412    */
3413   for (i = 0; i < p->scb_data->numscbs; i++)
3414   {
3415     scbp = p->scb_data->scb_array[i];
3416     if ((scbp->flags & SCB_ACTIVE) &&
3417         aic7xxx_match_scb(p, scbp, target, channel, lun, tag) &&
3418         !aic7xxx_scb_on_qoutfifo(p, scbp))
3419     {
3420       if (scbp->flags & SCB_WAITINGQ)
3421       {
3422         scbq_remove(&p->waiting_scbs, scbp);
3423         scbq_remove(&AIC_DEV(scbp->cmd)->delayed_scbs, scbp);
3424         AIC_DEV(scbp->cmd)->active_cmds++;
3425         p->activescbs++;
3426       }
3427       scbp->flags |= SCB_RESET | SCB_QUEUED_FOR_DONE;
3428       scbp->flags &= ~(SCB_ACTIVE | SCB_WAITINGQ);
3429     }
3430   }
3431
3432   aic_outb(p, active_scb, SCBPTR);
3433 }
3434
3435
3436 /*+F*************************************************************************
3437  * Function:
3438  *   aic7xxx_clear_intstat
3439  *
3440  * Description:
3441  *   Clears the interrupt status.
3442  *-F*************************************************************************/
3443 static void
3444 aic7xxx_clear_intstat(struct aic7xxx_host *p)
3445 {
3446   /* Clear any interrupt conditions this may have caused. */
3447   aic_outb(p, CLRSELDO | CLRSELDI | CLRSELINGO, CLRSINT0);
3448   aic_outb(p, CLRSELTIMEO | CLRATNO | CLRSCSIRSTI | CLRBUSFREE | CLRSCSIPERR |
3449        CLRPHASECHG | CLRREQINIT, CLRSINT1);
3450   aic_outb(p, CLRSCSIINT | CLRSEQINT | CLRBRKADRINT | CLRPARERR, CLRINT);
3451 }
3452
3453 /*+F*************************************************************************
3454  * Function:
3455  *   aic7xxx_reset_current_bus
3456  *
3457  * Description:
3458  *   Reset the current SCSI bus.
3459  *-F*************************************************************************/
3460 static void
3461 aic7xxx_reset_current_bus(struct aic7xxx_host *p)
3462 {
3463
3464   /* Disable reset interrupts. */
3465   aic_outb(p, aic_inb(p, SIMODE1) & ~ENSCSIRST, SIMODE1);
3466
3467   /* Turn off the bus' current operations, after all, we shouldn't have any
3468    * valid commands left to cause a RSELI and SELO once we've tossed the
3469    * bus away with this reset, so we might as well shut down the sequencer
3470    * until the bus is restarted as oppossed to saving the current settings
3471    * and restoring them (which makes no sense to me). */
3472
3473   /* Turn on the bus reset. */
3474   aic_outb(p, aic_inb(p, SCSISEQ) | SCSIRSTO, SCSISEQ);
3475   while ( (aic_inb(p, SCSISEQ) & SCSIRSTO) == 0)
3476     mdelay(5);
3477
3478   /*
3479    * Some of the new Ultra2 chipsets need a longer delay after a chip
3480    * reset than just the init setup creates, so we have to delay here
3481    * before we go into a reset in order to make the chips happy.
3482    */
3483   if (p->features & AHC_ULTRA2)
3484     mdelay(250);
3485   else
3486     mdelay(50);
3487
3488   /* Turn off the bus reset. */
3489   aic_outb(p, 0, SCSISEQ);
3490   mdelay(10);
3491
3492   aic7xxx_clear_intstat(p);
3493   /* Re-enable reset interrupts. */
3494   aic_outb(p, aic_inb(p, SIMODE1) | ENSCSIRST, SIMODE1);
3495
3496 }
3497
3498 /*+F*************************************************************************
3499  * Function:
3500  *   aic7xxx_reset_channel
3501  *
3502  * Description:
3503  *   Reset the channel.
3504  *-F*************************************************************************/
3505 static void
3506 aic7xxx_reset_channel(struct aic7xxx_host *p, int channel, int initiate_reset)
3507 {
3508   unsigned long offset_min, offset_max;
3509   unsigned char sblkctl;
3510   int cur_channel;
3511
3512   if (aic7xxx_verbose & VERBOSE_RESET_PROCESS)
3513     printk(INFO_LEAD "Reset channel called, %s initiate reset.\n",
3514       p->host_no, channel, -1, -1, (initiate_reset==TRUE) ? "will" : "won't" );
3515
3516
3517   if (channel == 1)
3518   {
3519     offset_min = 8;
3520     offset_max = 16;
3521   }
3522   else
3523   {
3524     if (p->features & AHC_TWIN)
3525     {
3526       /* Channel A */
3527       offset_min = 0;
3528       offset_max = 8;
3529     }
3530     else
3531     {
3532       offset_min = 0;
3533       if (p->features & AHC_WIDE)
3534       {
3535         offset_max = 16;
3536       }
3537       else
3538       {
3539         offset_max = 8;
3540       }
3541     }
3542   }
3543
3544   while (offset_min < offset_max)
3545   {
3546     /*
3547      * Revert to async/narrow transfers until we renegotiate.
3548      */
3549     aic_outb(p, 0, TARG_SCSIRATE + offset_min);
3550     if (p->features & AHC_ULTRA2)
3551     {
3552       aic_outb(p, 0, TARG_OFFSET + offset_min);
3553     }
3554     offset_min++;
3555   }
3556
3557   /*
3558    * Reset the bus and unpause/restart the controller
3559    */
3560   sblkctl = aic_inb(p, SBLKCTL);
3561   if ( (p->chip & AHC_CHIPID_MASK) == AHC_AIC7770 )
3562     cur_channel = (sblkctl & SELBUSB) >> 3;
3563   else
3564     cur_channel = 0;
3565   if ( (cur_channel != channel) && (p->features & AHC_TWIN) )
3566   {
3567     /*
3568      * Case 1: Command for another bus is active
3569      */
3570     if (aic7xxx_verbose & VERBOSE_RESET_PROCESS)
3571       printk(INFO_LEAD "Stealthily resetting idle channel.\n", p->host_no,
3572         channel, -1, -1);
3573     /*
3574      * Stealthily reset the other bus without upsetting the current bus.
3575      */
3576     aic_outb(p, sblkctl ^ SELBUSB, SBLKCTL);
3577     aic_outb(p, aic_inb(p, SIMODE1) & ~ENBUSFREE, SIMODE1);
3578     if (initiate_reset)
3579     {
3580       aic7xxx_reset_current_bus(p);
3581     }
3582     aic_outb(p, aic_inb(p, SCSISEQ) & (ENSELI|ENRSELI|ENAUTOATNP), SCSISEQ);
3583     aic7xxx_clear_intstat(p);
3584     aic_outb(p, sblkctl, SBLKCTL);
3585   }
3586   else
3587   {
3588     /*
3589      * Case 2: A command from this bus is active or we're idle.
3590      */
3591     if (aic7xxx_verbose & VERBOSE_RESET_PROCESS)
3592       printk(INFO_LEAD "Resetting currently active channel.\n", p->host_no,
3593         channel, -1, -1);
3594     aic_outb(p, aic_inb(p, SIMODE1) & ~(ENBUSFREE|ENREQINIT),
3595       SIMODE1);
3596     p->flags &= ~AHC_HANDLING_REQINITS;
3597     p->msg_type = MSG_TYPE_NONE;
3598     p->msg_len = 0;
3599     if (initiate_reset)
3600     {
3601       aic7xxx_reset_current_bus(p);
3602     }
3603     aic_outb(p, aic_inb(p, SCSISEQ) & (ENSELI|ENRSELI|ENAUTOATNP), SCSISEQ);
3604     aic7xxx_clear_intstat(p);
3605   }
3606   if (aic7xxx_verbose & VERBOSE_RESET_RETURN)
3607     printk(INFO_LEAD "Channel reset\n", p->host_no, channel, -1, -1);
3608   /*
3609    * Clean up all the state information for the pending transactions
3610    * on this bus.
3611    */
3612   aic7xxx_reset_device(p, ALL_TARGETS, channel, ALL_LUNS, SCB_LIST_NULL);
3613
3614   if ( !(p->features & AHC_TWIN) )
3615   {
3616     restart_sequencer(p);
3617   }
3618
3619   return;
3620 }
3621
3622 /*+F*************************************************************************
3623  * Function:
3624  *   aic7xxx_run_waiting_queues
3625  *
3626  * Description:
3627  *   Scan the awaiting_scbs queue downloading and starting as many
3628  *   scbs as we can.
3629  *-F*************************************************************************/
3630 static void
3631 aic7xxx_run_waiting_queues(struct aic7xxx_host *p)
3632 {
3633   struct aic7xxx_scb *scb;
3634   struct aic_dev_data *aic_dev;
3635   int sent;
3636
3637
3638   if (p->waiting_scbs.head == NULL)
3639     return;
3640
3641   sent = 0;
3642
3643   /*
3644    * First handle SCBs that are waiting but have been assigned a slot.
3645    */
3646   while ((scb = scbq_remove_head(&p->waiting_scbs)) != NULL)
3647   {
3648     aic_dev = scb->cmd->device->hostdata;
3649     if ( !scb->tag_action )
3650     {
3651       aic_dev->temp_q_depth = 1;
3652     }
3653     if ( aic_dev->active_cmds >= aic_dev->temp_q_depth)
3654     {
3655       scbq_insert_tail(&aic_dev->delayed_scbs, scb);
3656     }
3657     else
3658     {
3659         scb->flags &= ~SCB_WAITINGQ;
3660         aic_dev->active_cmds++;
3661         p->activescbs++;
3662         if ( !(scb->tag_action) )
3663         {
3664           aic7xxx_busy_target(p, scb);
3665         }
3666         p->qinfifo[p->qinfifonext++] = scb->hscb->tag;
3667         sent++;
3668     }
3669   }
3670   if (sent)
3671   {
3672     if (p->features & AHC_QUEUE_REGS)
3673       aic_outb(p, p->qinfifonext, HNSCB_QOFF);
3674     else
3675     {
3676       pause_sequencer(p);
3677       aic_outb(p, p->qinfifonext, KERNEL_QINPOS);
3678       unpause_sequencer(p, FALSE);
3679     }
3680     if (p->activescbs > p->max_activescbs)
3681       p->max_activescbs = p->activescbs;
3682   }
3683 }
3684
3685 #ifdef CONFIG_PCI
3686
3687 #define  DPE 0x80
3688 #define  SSE 0x40
3689 #define  RMA 0x20
3690 #define  RTA 0x10
3691 #define  STA 0x08
3692 #define  DPR 0x01
3693
3694 /*+F*************************************************************************
3695  * Function:
3696  *   aic7xxx_pci_intr
3697  *
3698  * Description:
3699  *   Check the scsi card for PCI errors and clear the interrupt
3700  *
3701  *   NOTE: If you don't have this function and a 2940 card encounters
3702  *         a PCI error condition, the machine will end up locked as the
3703  *         interrupt handler gets slammed with non-stop PCI error interrupts
3704  *-F*************************************************************************/
3705 static void
3706 aic7xxx_pci_intr(struct aic7xxx_host *p)
3707 {
3708   unsigned char status1;
3709
3710   pci_read_config_byte(p->pdev, PCI_STATUS + 1, &status1);
3711
3712   if ( (status1 & DPE) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3713     printk(WARN_LEAD "Data Parity Error during PCI address or PCI write"
3714       "phase.\n", p->host_no, -1, -1, -1);
3715   if ( (status1 & SSE) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3716     printk(WARN_LEAD "Signal System Error Detected\n", p->host_no,
3717       -1, -1, -1);
3718   if ( (status1 & RMA) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3719     printk(WARN_LEAD "Received a PCI Master Abort\n", p->host_no,
3720       -1, -1, -1);
3721   if ( (status1 & RTA) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3722     printk(WARN_LEAD "Received a PCI Target Abort\n", p->host_no,
3723       -1, -1, -1);
3724   if ( (status1 & STA) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3725     printk(WARN_LEAD "Signaled a PCI Target Abort\n", p->host_no,
3726       -1, -1, -1);
3727   if ( (status1 & DPR) && (aic7xxx_verbose & VERBOSE_MINOR_ERROR) )
3728     printk(WARN_LEAD "Data Parity Error has been reported via PCI pin "
3729       "PERR#\n", p->host_no, -1, -1, -1);
3730
3731   pci_write_config_byte(p->pdev, PCI_STATUS + 1, status1);
3732   if (status1 & (DPR|RMA|RTA))
3733     aic_outb(p,  CLRPARERR, CLRINT);
3734
3735   if ( (aic7xxx_panic_on_abort) && (p->spurious_int > 500) )
3736     aic7xxx_panic_abort(p, NULL);
3737
3738 }
3739 #endif /* CONFIG_PCI */
3740
3741 /*+F*************************************************************************
3742  * Function:
3743  *   aic7xxx_construct_ppr
3744  *
3745  * Description:
3746  *   Build up a Parallel Protocol Request message for use with SCSI-3
3747  *   devices.
3748  *-F*************************************************************************/
3749 static void
3750 aic7xxx_construct_ppr(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
3751 {
3752   p->msg_buf[p->msg_index++] = MSG_EXTENDED;
3753   p->msg_buf[p->msg_index++] = MSG_EXT_PPR_LEN;
3754   p->msg_buf[p->msg_index++] = MSG_EXT_PPR;
3755   p->msg_buf[p->msg_index++] = AIC_DEV(scb->cmd)->goal.period;
3756   p->msg_buf[p->msg_index++] = 0;
3757   p->msg_buf[p->msg_index++] = AIC_DEV(scb->cmd)->goal.offset;
3758   p->msg_buf[p->msg_index++] = AIC_DEV(scb->cmd)->goal.width;
3759   p->msg_buf[p->msg_index++] = AIC_DEV(scb->cmd)->goal.options;
3760   p->msg_len += 8;
3761 }
3762
3763 /*+F*************************************************************************
3764  * Function:
3765  *   aic7xxx_construct_sdtr
3766  *
3767  * Description:
3768  *   Constucts a synchronous data transfer message in the message
3769  *   buffer on the sequencer.
3770  *-F*************************************************************************/
3771 static void
3772 aic7xxx_construct_sdtr(struct aic7xxx_host *p, unsigned char period,
3773         unsigned char offset)
3774 {
3775   p->msg_buf[p->msg_index++] = MSG_EXTENDED;
3776   p->msg_buf[p->msg_index++] = MSG_EXT_SDTR_LEN;
3777   p->msg_buf[p->msg_index++] = MSG_EXT_SDTR;
3778   p->msg_buf[p->msg_index++] = period;
3779   p->msg_buf[p->msg_index++] = offset;
3780   p->msg_len += 5;
3781 }
3782
3783 /*+F*************************************************************************
3784  * Function:
3785  *   aic7xxx_construct_wdtr
3786  *
3787  * Description:
3788  *   Constucts a wide data transfer message in the message buffer
3789  *   on the sequencer.
3790  *-F*************************************************************************/
3791 static void
3792 aic7xxx_construct_wdtr(struct aic7xxx_host *p, unsigned char bus_width)
3793 {
3794   p->msg_buf[p->msg_index++] = MSG_EXTENDED;
3795   p->msg_buf[p->msg_index++] = MSG_EXT_WDTR_LEN;
3796   p->msg_buf[p->msg_index++] = MSG_EXT_WDTR;
3797   p->msg_buf[p->msg_index++] = bus_width;
3798   p->msg_len += 4;
3799 }
3800
3801 /*+F*************************************************************************
3802  * Function:
3803  *   aic7xxx_calc_residual
3804  *
3805  * Description:
3806  *   Calculate the residual data not yet transferred.
3807  *-F*************************************************************************/
3808 static void
3809 aic7xxx_calculate_residual (struct aic7xxx_host *p, struct aic7xxx_scb *scb)
3810 {
3811         struct aic7xxx_hwscb *hscb;
3812         struct scsi_cmnd *cmd;
3813         int actual, i;
3814
3815   cmd = scb->cmd;
3816   hscb = scb->hscb;
3817
3818   /*
3819    *  Don't destroy valid residual information with
3820    *  residual coming from a check sense operation.
3821    */
3822   if (((scb->hscb->control & DISCONNECTED) == 0) &&
3823       (scb->flags & SCB_SENSE) == 0)
3824   {
3825     /*
3826      *  We had an underflow. At this time, there's only
3827      *  one other driver that bothers to check for this,
3828      *  and cmd->underflow seems to be set rather half-
3829      *  heartedly in the higher-level SCSI code.
3830      */
3831     actual = scb->sg_length;
3832     for (i=1; i < hscb->residual_SG_segment_count; i++)
3833     {
3834       actual -= scb->sg_list[scb->sg_count - i].length;
3835     }
3836     actual -= (hscb->residual_data_count[2] << 16) |
3837               (hscb->residual_data_count[1] <<  8) |
3838               hscb->residual_data_count[0];
3839
3840     if (actual < cmd->underflow)
3841     {
3842       if (aic7xxx_verbose & VERBOSE_MINOR_ERROR)
3843       {
3844         printk(INFO_LEAD "Underflow - Wanted %u, %s %u, residual SG "
3845           "count %d.\n", p->host_no, CTL_OF_SCB(scb), cmd->underflow,
3846           (rq_data_dir(cmd->request) == WRITE) ? "wrote" : "read", actual,
3847           hscb->residual_SG_segment_count);
3848         printk(INFO_LEAD "status 0x%x.\n", p->host_no, CTL_OF_SCB(scb),
3849           hscb->target_status);
3850       }
3851       /*
3852        * In 2.4, only send back the residual information, don't flag this
3853        * as an error.  Before 2.4 we had to flag this as an error because
3854        * the mid layer didn't check residual data counts to see if the
3855        * command needs retried.
3856        */
3857       scsi_set_resid(cmd, scb->sg_length - actual);
3858       aic7xxx_status(cmd) = hscb->target_status;
3859     }
3860   }
3861
3862   /*
3863    * Clean out the residual information in the SCB for the
3864    * next consumer.
3865    */
3866   hscb->residual_data_count[2] = 0;
3867   hscb->residual_data_count[1] = 0;
3868   hscb->residual_data_count[0] = 0;
3869   hscb->residual_SG_segment_count = 0;
3870 }
3871
3872 /*+F*************************************************************************
3873  * Function:
3874  *   aic7xxx_handle_device_reset
3875  *
3876  * Description:
3877  *   Interrupt handler for sequencer interrupts (SEQINT).
3878  *-F*************************************************************************/
3879 static void
3880 aic7xxx_handle_device_reset(struct aic7xxx_host *p, int target, int channel)
3881 {
3882   unsigned char tindex = target;
3883
3884   tindex |= ((channel & 0x01) << 3);
3885
3886   /*
3887    * Go back to async/narrow transfers and renegotiate.
3888    */
3889   aic_outb(p, 0, TARG_SCSIRATE + tindex);
3890   if (p->features & AHC_ULTRA2)
3891     aic_outb(p, 0, TARG_OFFSET + tindex);
3892   aic7xxx_reset_device(p, target, channel, ALL_LUNS, SCB_LIST_NULL);
3893   if (aic7xxx_verbose & VERBOSE_RESET_PROCESS)
3894     printk(INFO_LEAD "Bus Device Reset delivered.\n", p->host_no, channel,
3895       target, -1);
3896   aic7xxx_run_done_queue(p, /*complete*/ TRUE);
3897 }
3898
3899 /*+F*************************************************************************
3900  * Function:
3901  *   aic7xxx_handle_seqint
3902  *
3903  * Description:
3904  *   Interrupt handler for sequencer interrupts (SEQINT).
3905  *-F*************************************************************************/
3906 static void
3907 aic7xxx_handle_seqint(struct aic7xxx_host *p, unsigned char intstat)
3908 {
3909   struct aic7xxx_scb *scb;
3910   struct aic_dev_data *aic_dev;
3911   unsigned short target_mask;
3912   unsigned char target, lun, tindex;
3913   unsigned char queue_flag = FALSE;
3914   char channel;
3915   int result;
3916
3917   target = ((aic_inb(p, SAVED_TCL) >> 4) & 0x0f);
3918   if ( (p->chip & AHC_CHIPID_MASK) == AHC_AIC7770 )
3919     channel = (aic_inb(p, SBLKCTL) & SELBUSB) >> 3;
3920   else
3921     channel = 0;
3922   tindex = target + (channel << 3);
3923   lun = aic_inb(p, SAVED_TCL) & 0x07;
3924   target_mask = (0x01 << tindex);
3925
3926   /*
3927    * Go ahead and clear the SEQINT now, that avoids any interrupt race
3928    * conditions later on in case we enable some other interrupt.
3929    */
3930   aic_outb(p, CLRSEQINT, CLRINT);
3931   switch (intstat & SEQINT_MASK)
3932   {
3933     case NO_MATCH:
3934       {
3935         aic_outb(p, aic_inb(p, SCSISEQ) & (ENSELI|ENRSELI|ENAUTOATNP),
3936                  SCSISEQ);
3937         printk(WARN_LEAD "No active SCB for reconnecting target - Issuing "
3938                "BUS DEVICE RESET.\n", p->host_no, channel, target, lun);
3939         printk(WARN_LEAD "      SAVED_TCL=0x%x, ARG_1=0x%x, SEQADDR=0x%x\n",
3940                p->host_no, channel, target, lun,
3941                aic_inb(p, SAVED_TCL), aic_inb(p, ARG_1),
3942                (aic_inb(p, SEQADDR1) << 8) | aic_inb(p, SEQADDR0));
3943         if (aic7xxx_panic_on_abort)
3944           aic7xxx_panic_abort(p, NULL);
3945       }
3946       break;
3947
3948     case SEND_REJECT:
3949       {
3950         if (aic7xxx_verbose & VERBOSE_MINOR_ERROR)
3951           printk(INFO_LEAD "Rejecting unknown message (0x%x) received from "
3952             "target, SEQ_FLAGS=0x%x\n", p->host_no, channel, target, lun,
3953             aic_inb(p, ACCUM), aic_inb(p, SEQ_FLAGS));
3954       }
3955       break;
3956
3957     case NO_IDENT:
3958       {
3959         /*
3960          * The reconnecting target either did not send an identify
3961          * message, or did, but we didn't find an SCB to match and
3962          * before it could respond to our ATN/abort, it hit a dataphase.
3963          * The only safe thing to do is to blow it away with a bus
3964          * reset.
3965          */
3966         if (aic7xxx_verbose & (VERBOSE_SEQINT | VERBOSE_RESET_MID))
3967           printk(INFO_LEAD "Target did not send an IDENTIFY message; "
3968             "LASTPHASE 0x%x, SAVED_TCL 0x%x\n", p->host_no, channel, target,
3969             lun, aic_inb(p, LASTPHASE), aic_inb(p, SAVED_TCL));
3970
3971         aic7xxx_reset_channel(p, channel, /*initiate reset*/ TRUE);
3972         aic7xxx_run_done_queue(p, TRUE);
3973
3974       }
3975       break;
3976
3977     case BAD_PHASE:
3978       if (aic_inb(p, LASTPHASE) == P_BUSFREE)
3979       {
3980         if (aic7xxx_verbose & VERBOSE_SEQINT)
3981           printk(INFO_LEAD "Missed busfree.\n", p->host_no, channel,
3982             target, lun);
3983         restart_sequencer(p);
3984       }
3985       else
3986       {
3987         if (aic7xxx_verbose & VERBOSE_SEQINT)
3988           printk(INFO_LEAD "Unknown scsi bus phase, continuing\n", p->host_no,
3989             channel, target, lun);
3990       }
3991       break;
3992
3993     case EXTENDED_MSG:
3994       {
3995         p->msg_type = MSG_TYPE_INITIATOR_MSGIN;
3996         p->msg_len = 0;
3997         p->msg_index = 0;
3998
3999 #ifdef AIC7XXX_VERBOSE_DEBUGGING
4000         if (aic7xxx_verbose > 0xffff)
4001           printk(INFO_LEAD "Enabling REQINITs for MSG_IN\n", p->host_no,
4002                  channel, target, lun);
4003 #endif
4004
4005        /*
4006         * To actually receive the message, simply turn on
4007         * REQINIT interrupts and let our interrupt handler
4008         * do the rest (REQINIT should already be true).
4009         */
4010         p->flags |= AHC_HANDLING_REQINITS;
4011         aic_outb(p, aic_inb(p, SIMODE1) | ENREQINIT, SIMODE1);
4012
4013        /*
4014         * We don't want the sequencer unpaused yet so we return early
4015         */
4016         return;
4017       }
4018
4019     case REJECT_MSG:
4020       {
4021         /*
4022          * What we care about here is if we had an outstanding SDTR
4023          * or WDTR message for this target. If we did, this is a
4024          * signal that the target is refusing negotiation.
4025          */
4026         unsigned char scb_index;
4027         unsigned char last_msg;
4028
4029         scb_index = aic_inb(p, SCB_TAG);
4030         scb = p->scb_data->scb_array[scb_index];
4031         aic_dev = AIC_DEV(scb->cmd);
4032         last_msg = aic_inb(p, LAST_MSG);
4033
4034         if ( (last_msg == MSG_IDENTIFYFLAG) &&
4035              (scb->tag_action) &&
4036             !(scb->flags & SCB_MSGOUT_BITS) )
4037         {
4038           if (scb->tag_action == MSG_ORDERED_Q_TAG)
4039           {
4040             /*
4041              * OK...the device seems able to accept tagged commands, but
4042              * not ordered tag commands, only simple tag commands.  So, we
4043              * disable ordered tag commands and go on with life just like
4044              * normal.
4045              */
4046             scsi_adjust_queue_depth(scb->cmd->device, MSG_SIMPLE_TAG,
4047                             scb->cmd->device->queue_depth);
4048             scb->tag_action = MSG_SIMPLE_Q_TAG;
4049             scb->hscb->control &= ~SCB_TAG_TYPE;
4050             scb->hscb->control |= MSG_SIMPLE_Q_TAG;
4051             aic_outb(p, scb->hscb->control, SCB_CONTROL);
4052             /*
4053              * OK..we set the tag type to simple tag command, now we re-assert
4054              * ATNO and hope this will take us into the identify phase again
4055              * so we can resend the tag type and info to the device.
4056              */
4057             aic_outb(p, MSG_IDENTIFYFLAG, MSG_OUT);
4058             aic_outb(p, aic_inb(p, SCSISIGI) | ATNO, SCSISIGO);
4059           }
4060           else if (scb->tag_action == MSG_SIMPLE_Q_TAG)
4061           {
4062             unsigned char i;
4063             struct aic7xxx_scb *scbp;
4064             int old_verbose;
4065             /*
4066              * Hmmmm....the device is flaking out on tagged commands.
4067              */
4068             scsi_adjust_queue_depth(scb->cmd->device, 0 /* untagged */,
4069                             p->host->cmd_per_lun);
4070             aic_dev->max_q_depth = aic_dev->temp_q_depth = 1;
4071             /*
4072              * We set this command up as a bus device reset.  However, we have
4073              * to clear the tag type as it's causing us problems.  We shouldnt
4074              * have to worry about any other commands being active, since if
4075              * the device is refusing tagged commands, this should be the
4076              * first tagged command sent to the device, however, we do have
4077              * to worry about any other tagged commands that may already be
4078              * in the qinfifo.  The easiest way to do this, is to issue a BDR,
4079              * send all the commands back to the mid level code, then let them
4080              * come back and get rebuilt as untagged commands.
4081              */
4082             scb->tag_action = 0;
4083             scb->hscb->control &= ~(TAG_ENB | SCB_TAG_TYPE);
4084             aic_outb(p,  scb->hscb->control, SCB_CONTROL);
4085
4086             old_verbose = aic7xxx_verbose;
4087             aic7xxx_verbose &= ~(VERBOSE_RESET|VERBOSE_ABORT);
4088             for (i=0; i < p->scb_data->numscbs; i++)
4089             {
4090               scbp = p->scb_data->scb_array[i];
4091               if ((scbp->flags & SCB_ACTIVE) && (scbp != scb))
4092               {
4093                 if (aic7xxx_match_scb(p, scbp, target, channel, lun, i))
4094                 {
4095                   aic7xxx_reset_device(p, target, channel, lun, i);
4096                 }
4097               }
4098             }
4099             aic7xxx_run_done_queue(p, TRUE);
4100             aic7xxx_verbose = old_verbose;
4101             /*
4102              * Wait until after the for loop to set the busy index since
4103              * aic7xxx_reset_device will clear the busy index during its
4104              * operation.
4105              */
4106             aic7xxx_busy_target(p, scb);
4107             printk(INFO_LEAD "Device is refusing tagged commands, using "
4108               "untagged I/O.\n", p->host_no, channel, target, lun);
4109             aic_outb(p, MSG_IDENTIFYFLAG, MSG_OUT);
4110             aic_outb(p, aic_inb(p, SCSISIGI) | ATNO, SCSISIGO);
4111           }
4112         }
4113         else if (scb->flags & SCB_MSGOUT_PPR)
4114         {
4115           /*
4116            * As per the draft specs, any device capable of supporting any of
4117            * the option values other than 0 are not allowed to reject the
4118            * PPR message.  Instead, they must negotiate out what they do
4119            * support instead of rejecting our offering or else they cause
4120            * a parity error during msg_out phase to signal that they don't
4121            * like our settings.
4122            */
4123           aic_dev->needppr = aic_dev->needppr_copy = 0;
4124           aic7xxx_set_width(p, target, channel, lun, MSG_EXT_WDTR_BUS_8_BIT,
4125             (AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE), aic_dev);
4126           aic7xxx_set_syncrate(p, NULL, target, channel, 0, 0, 0,
4127                                AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE,
4128                                aic_dev);
4129           aic_dev->goal.options = aic_dev->dtr_pending = 0;
4130           scb->flags &= ~SCB_MSGOUT_BITS;
4131           if(aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4132           {
4133             printk(INFO_LEAD "Device is rejecting PPR messages, falling "
4134               "back.\n", p->host_no, channel, target, lun);
4135           }
4136           if ( aic_dev->goal.width )
4137           {
4138             aic_dev->needwdtr = aic_dev->needwdtr_copy = 1;
4139             aic_dev->dtr_pending = 1;
4140             scb->flags |= SCB_MSGOUT_WDTR;
4141           }
4142           if ( aic_dev->goal.offset )
4143           {
4144             aic_dev->needsdtr = aic_dev->needsdtr_copy = 1;
4145             if( !aic_dev->dtr_pending )
4146             {
4147               aic_dev->dtr_pending = 1;
4148               scb->flags |= SCB_MSGOUT_SDTR;
4149             }
4150           }
4151           if ( aic_dev->dtr_pending )
4152           {
4153             aic_outb(p, HOST_MSG, MSG_OUT);
4154             aic_outb(p, aic_inb(p, SCSISIGI) | ATNO, SCSISIGO);
4155           }
4156         }
4157         else if (scb->flags & SCB_MSGOUT_WDTR)
4158         {
4159           /*
4160            * note 8bit xfers and clear flag
4161            */
4162           aic_dev->needwdtr = aic_dev->needwdtr_copy = 0;
4163           scb->flags &= ~SCB_MSGOUT_BITS;
4164           aic7xxx_set_width(p, target, channel, lun, MSG_EXT_WDTR_BUS_8_BIT,
4165             (AHC_TRANS_ACTIVE|AHC_TRANS_GOAL|AHC_TRANS_CUR), aic_dev);
4166           aic7xxx_set_syncrate(p, NULL, target, channel, 0, 0, 0,
4167                                AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE,
4168                                aic_dev);
4169           if(aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4170           {
4171             printk(INFO_LEAD "Device is rejecting WDTR messages, using "
4172               "narrow transfers.\n", p->host_no, channel, target, lun);
4173           }
4174           aic_dev->needsdtr = aic_dev->needsdtr_copy;
4175         }
4176         else if (scb->flags & SCB_MSGOUT_SDTR)
4177         {
4178          /*
4179           * note asynch xfers and clear flag
4180           */
4181           aic_dev->needsdtr = aic_dev->needsdtr_copy = 0;
4182           scb->flags &= ~SCB_MSGOUT_BITS;
4183           aic7xxx_set_syncrate(p, NULL, target, channel, 0, 0, 0,
4184             (AHC_TRANS_CUR|AHC_TRANS_ACTIVE|AHC_TRANS_GOAL), aic_dev);
4185           if(aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4186           {
4187             printk(INFO_LEAD "Device is rejecting SDTR messages, using "
4188               "async transfers.\n", p->host_no, channel, target, lun);
4189           }
4190         }
4191         else if (aic7xxx_verbose & VERBOSE_SEQINT)
4192         {
4193           /*
4194            * Otherwise, we ignore it.
4195            */
4196           printk(INFO_LEAD "Received MESSAGE_REJECT for unknown cause.  "
4197             "Ignoring.\n", p->host_no, channel, target, lun);
4198         }
4199       }
4200       break;
4201
4202     case BAD_STATUS:
4203       {
4204         unsigned char scb_index;
4205         struct aic7xxx_hwscb *hscb;
4206         struct scsi_cmnd *cmd;
4207
4208         /* The sequencer will notify us when a command has an error that
4209          * would be of interest to the kernel.  This allows us to leave
4210          * the sequencer running in the common case of command completes
4211          * without error.  The sequencer will have DMA'd the SCB back
4212          * up to us, so we can reference the drivers SCB array.
4213          *
4214          * Set the default return value to 0 indicating not to send
4215          * sense.  The sense code will change this if needed and this
4216          * reduces code duplication.
4217          */
4218         aic_outb(p, 0, RETURN_1);
4219         scb_index = aic_inb(p, SCB_TAG);
4220         if (scb_index > p->scb_data->numscbs)
4221         {
4222           printk(WARN_LEAD "Invalid SCB during SEQINT 0x%02x, SCB_TAG %d.\n",
4223             p->host_no, channel, target, lun, intstat, scb_index);
4224           break;
4225         }
4226         scb = p->scb_data->scb_array[scb_index];
4227         hscb = scb->hscb;
4228
4229         if (!(scb->flags & SCB_ACTIVE) || (scb->cmd == NULL))
4230         {
4231           printk(WARN_LEAD "Invalid SCB during SEQINT 0x%x, scb %d, flags 0x%x,"
4232             " cmd 0x%lx.\n", p->host_no, channel, target, lun, intstat,
4233             scb_index, scb->flags, (unsigned long) scb->cmd);
4234         }
4235         else
4236         {
4237           cmd = scb->cmd;
4238           aic_dev = AIC_DEV(scb->cmd);
4239           hscb->target_status = aic_inb(p, SCB_TARGET_STATUS);
4240           aic7xxx_status(cmd) = hscb->target_status;
4241
4242           cmd->result = hscb->target_status;
4243
4244           switch (status_byte(hscb->target_status))
4245           {
4246             case GOOD:
4247               if (aic7xxx_verbose & VERBOSE_SEQINT)
4248                 printk(INFO_LEAD "Interrupted for status of GOOD???\n",
4249                   p->host_no, CTL_OF_SCB(scb));
4250               break;
4251
4252             case COMMAND_TERMINATED:
4253             case CHECK_CONDITION:
4254               if ( !(scb->flags & SCB_SENSE) )
4255               {
4256                 /*
4257                  * Send a sense command to the requesting target.
4258                  * XXX - revisit this and get rid of the memcopys.
4259                  */
4260                 memcpy(scb->sense_cmd, &generic_sense[0],
4261                        sizeof(generic_sense));
4262
4263                 scb->sense_cmd[1] = (cmd->device->lun << 5);
4264                 scb->sense_cmd[4] = SCSI_SENSE_BUFFERSIZE;
4265
4266                 scb->sg_list[0].length =
4267                   cpu_to_le32(SCSI_SENSE_BUFFERSIZE);
4268                 scb->sg_list[0].address =
4269                         cpu_to_le32(pci_map_single(p->pdev, cmd->sense_buffer,
4270                                                    SCSI_SENSE_BUFFERSIZE,
4271                                                    PCI_DMA_FROMDEVICE));
4272
4273                 /*
4274                  * XXX - We should allow disconnection, but can't as it
4275                  * might allow overlapped tagged commands.
4276                  */
4277                 /* hscb->control &= DISCENB; */
4278                 hscb->control = 0;
4279                 hscb->target_status = 0;
4280                 hscb->SG_list_pointer =
4281                   cpu_to_le32(SCB_DMA_ADDR(scb, scb->sg_list));
4282                 hscb->SCSI_cmd_pointer =
4283                   cpu_to_le32(SCB_DMA_ADDR(scb, scb->sense_cmd));
4284                 hscb->data_count = scb->sg_list[0].length;
4285                 hscb->data_pointer = scb->sg_list[0].address;
4286                 hscb->SCSI_cmd_length = COMMAND_SIZE(scb->sense_cmd[0]);
4287                 hscb->residual_SG_segment_count = 0;
4288                 hscb->residual_data_count[0] = 0;
4289                 hscb->residual_data_count[1] = 0;
4290                 hscb->residual_data_count[2] = 0;
4291
4292                 scb->sg_count = hscb->SG_segment_count = 1;
4293                 scb->sg_length = SCSI_SENSE_BUFFERSIZE;
4294                 scb->tag_action = 0;
4295                 scb->flags |= SCB_SENSE;
4296                 /*
4297                  * Ensure the target is busy since this will be an
4298                  * an untagged request.
4299                  */
4300 #ifdef AIC7XXX_VERBOSE_DEBUGGING
4301                 if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4302                 {
4303                   if (scb->flags & SCB_MSGOUT_BITS)
4304                     printk(INFO_LEAD "Requesting SENSE with %s\n", p->host_no,
4305                            CTL_OF_SCB(scb), (scb->flags & SCB_MSGOUT_SDTR) ?
4306                            "SDTR" : "WDTR");
4307                   else
4308                     printk(INFO_LEAD "Requesting SENSE, no MSG\n", p->host_no,
4309                            CTL_OF_SCB(scb));
4310                 }
4311 #endif
4312                 aic7xxx_busy_target(p, scb);
4313                 aic_outb(p, SEND_SENSE, RETURN_1);
4314                 aic7xxx_error(cmd) = DID_OK;
4315                 break;
4316               }  /* first time sense, no errors */
4317               printk(INFO_LEAD "CHECK_CONDITION on REQUEST_SENSE, returning "
4318                      "an error.\n", p->host_no, CTL_OF_SCB(scb));
4319               aic7xxx_error(cmd) = DID_ERROR;
4320               scb->flags &= ~SCB_SENSE;
4321               break;
4322
4323             case QUEUE_FULL:
4324               queue_flag = TRUE;    /* Mark that this is a QUEUE_FULL and */
4325             case BUSY:              /* drop through to here */
4326             {
4327               struct aic7xxx_scb *next_scbp, *prev_scbp;
4328               unsigned char active_hscb, next_hscb, prev_hscb, scb_index;
4329               /*
4330                * We have to look three places for queued commands:
4331                *  1: p->waiting_scbs queue
4332                *  2: QINFIFO
4333                *  3: WAITING_SCBS list on card (for commands that are started
4334                *     but haven't yet made it to the device)
4335                *
4336                * Of special note here is that commands on 2 or 3 above will
4337                * have already been marked as active, while commands on 1 will
4338                * not.  The aic7xxx_done() function will want to unmark them
4339                * from active, so any commands we pull off of 1 need to
4340                * up the active count.
4341                */
4342               next_scbp = p->waiting_scbs.head;
4343               while ( next_scbp != NULL )
4344               {
4345                 prev_scbp = next_scbp;
4346                 next_scbp = next_scbp->q_next;
4347                 if ( aic7xxx_match_scb(p, prev_scbp, target, channel, lun,
4348                      SCB_LIST_NULL) )
4349                 {
4350                   scbq_remove(&p->waiting_scbs, prev_scbp);
4351                   scb->flags = SCB_QUEUED_FOR_DONE | SCB_QUEUE_FULL;
4352                   p->activescbs++;
4353                   aic_dev->active_cmds++;
4354                 }
4355               }
4356               aic7xxx_search_qinfifo(p, target, channel, lun,
4357                 SCB_LIST_NULL, SCB_QUEUED_FOR_DONE | SCB_QUEUE_FULL,
4358                 FALSE, NULL);
4359               next_scbp = NULL;
4360               active_hscb = aic_inb(p, SCBPTR);
4361               prev_hscb = next_hscb = scb_index = SCB_LIST_NULL;
4362               next_hscb = aic_inb(p, WAITING_SCBH);
4363               while (next_hscb != SCB_LIST_NULL)
4364               {
4365                 aic_outb(p, next_hscb, SCBPTR);
4366                 scb_index = aic_inb(p, SCB_TAG);
4367                 if (scb_index < p->scb_data->numscbs)
4368                 {
4369                   next_scbp = p->scb_data->scb_array[scb_index];
4370                   if (aic7xxx_match_scb(p, next_scbp, target, channel, lun,
4371                       SCB_LIST_NULL) )
4372                   {
4373                     next_scbp->flags = SCB_QUEUED_FOR_DONE | SCB_QUEUE_FULL;
4374                     next_hscb = aic_inb(p, SCB_NEXT);
4375                     aic_outb(p, 0, SCB_CONTROL);
4376                     aic_outb(p, SCB_LIST_NULL, SCB_TAG);
4377                     aic7xxx_add_curscb_to_free_list(p);
4378                     if (prev_hscb == SCB_LIST_NULL)
4379                     {
4380                       /* We were first on the list,
4381                        * so we kill the selection
4382                        * hardware.  Let the sequencer
4383                        * re-init the hardware itself
4384                        */
4385                       aic_outb(p, aic_inb(p, SCSISEQ) & ~ENSELO, SCSISEQ);
4386                       aic_outb(p, CLRSELTIMEO, CLRSINT1);
4387                       aic_outb(p, next_hscb, WAITING_SCBH);
4388                     }
4389                     else
4390                     {
4391                       aic_outb(p, prev_hscb, SCBPTR);
4392                       aic_outb(p, next_hscb, SCB_NEXT);
4393                     }
4394                   }
4395                   else
4396                   {
4397                     prev_hscb = next_hscb;
4398                     next_hscb = aic_inb(p, SCB_NEXT);
4399                   }
4400                 } /* scb_index >= p->scb_data->numscbs */
4401               }
4402               aic_outb(p, active_hscb, SCBPTR);
4403               aic7xxx_run_done_queue(p, FALSE);
4404
4405 #ifdef AIC7XXX_VERBOSE_DEBUGGING
4406               if( (aic7xxx_verbose & VERBOSE_MINOR_ERROR) ||
4407                   (aic7xxx_verbose > 0xffff) )
4408               {
4409                 if (queue_flag)
4410                   printk(INFO_LEAD "Queue full received; queue depth %d, "
4411                     "active %d\n", p->host_no, CTL_OF_SCB(scb),
4412                     aic_dev->max_q_depth, aic_dev->active_cmds);
4413                 else
4414                   printk(INFO_LEAD "Target busy\n", p->host_no, CTL_OF_SCB(scb));
4415               }
4416 #endif
4417               if (queue_flag)
4418               {
4419                 int diff;
4420                 result = scsi_track_queue_full(cmd->device,
4421                                 aic_dev->active_cmds);
4422                 if ( result < 0 )
4423                 {
4424                   if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4425                     printk(INFO_LEAD "Tagged Command Queueing disabled.\n",
4426                         p->host_no, CTL_OF_SCB(scb));
4427                   diff = aic_dev->max_q_depth - p->host->cmd_per_lun;
4428                   aic_dev->temp_q_depth = 1;
4429                   aic_dev->max_q_depth = 1;
4430                 }
4431                 else if ( result > 0 )
4432                 {
4433                   if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4434                     printk(INFO_LEAD "Queue depth reduced to %d\n", p->host_no,
4435                       CTL_OF_SCB(scb), result);
4436                   diff = aic_dev->max_q_depth - result;
4437                   aic_dev->max_q_depth = result;
4438                   /* temp_q_depth could have been dropped to 1 for an untagged
4439                    * command that might be coming up */
4440                   if(aic_dev->temp_q_depth > result)
4441                     aic_dev->temp_q_depth = result;
4442                 }
4443                 /* We should free up the no unused SCB entries.  But, that's
4444                  * a difficult thing to do because we use a direct indexed
4445                  * array, so we can't just take any entries and free them,
4446                  * we *have* to free the ones at the end of the array, and
4447                  * they very well could be in use right now, which means
4448                  * in order to do this right, we have to add a delayed
4449                  * freeing mechanism tied into the scb_free() code area.
4450                  * We'll add that later.
4451                  */
4452               }
4453               break;
4454             }
4455
4456             default:
4457               if (aic7xxx_verbose & VERBOSE_SEQINT)
4458                 printk(INFO_LEAD "Unexpected target status 0x%x.\n", p->host_no,
4459                      CTL_OF_SCB(scb), scb->hscb->target_status);
4460               if (!aic7xxx_error(cmd))
4461               {
4462                 aic7xxx_error(cmd) = DID_RETRY_COMMAND;
4463               }
4464               break;
4465           }  /* end switch */
4466         }  /* end else of */
4467       }
4468       break;
4469
4470     case AWAITING_MSG:
4471       {
4472         unsigned char scb_index, msg_out;
4473
4474         scb_index = aic_inb(p, SCB_TAG);
4475         msg_out = aic_inb(p, MSG_OUT);
4476         scb = p->scb_data->scb_array[scb_index];
4477         aic_dev = AIC_DEV(scb->cmd);
4478         p->msg_index = p->msg_len = 0;
4479         /*
4480          * This SCB had a MK_MESSAGE set in its control byte informing
4481          * the sequencer that we wanted to send a special message to
4482          * this target.
4483          */
4484
4485         if ( !(scb->flags & SCB_DEVICE_RESET) &&
4486               (msg_out == MSG_IDENTIFYFLAG) &&
4487               (scb->hscb->control & TAG_ENB) )
4488         {
4489           p->msg_buf[p->msg_index++] = scb->tag_action;
4490           p->msg_buf[p->msg_index++] = scb->hscb->tag;
4491           p->msg_len += 2;
4492         }
4493
4494         if (scb->flags & SCB_DEVICE_RESET)
4495         {
4496           p->msg_buf[p->msg_index++] = MSG_BUS_DEV_RESET;
4497           p->msg_len++;
4498           if (aic7xxx_verbose & VERBOSE_RESET_PROCESS)
4499             printk(INFO_LEAD "Bus device reset mailed.\n",
4500                  p->host_no, CTL_OF_SCB(scb));
4501         }
4502         else if (scb->flags & SCB_ABORT)
4503         {
4504           if (scb->tag_action)
4505           {
4506             p->msg_buf[p->msg_index++] = MSG_ABORT_TAG;
4507           }
4508           else
4509           {
4510             p->msg_buf[p->msg_index++] = MSG_ABORT;
4511           }
4512           p->msg_len++;
4513           if (aic7xxx_verbose & VERBOSE_ABORT_PROCESS)
4514             printk(INFO_LEAD "Abort message mailed.\n", p->host_no,
4515               CTL_OF_SCB(scb));
4516         }
4517         else if (scb->flags & SCB_MSGOUT_PPR)
4518         {
4519           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4520           {
4521             printk(INFO_LEAD "Sending PPR (%d/%d/%d/%d) message.\n",
4522                    p->host_no, CTL_OF_SCB(scb),
4523                    aic_dev->goal.period,
4524                    aic_dev->goal.offset,
4525                    aic_dev->goal.width,
4526                    aic_dev->goal.options);
4527           }
4528           aic7xxx_construct_ppr(p, scb);
4529         }
4530         else if (scb->flags & SCB_MSGOUT_WDTR)
4531         {
4532           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4533           {
4534             printk(INFO_LEAD "Sending WDTR message.\n", p->host_no,
4535                    CTL_OF_SCB(scb));
4536           }
4537           aic7xxx_construct_wdtr(p, aic_dev->goal.width);
4538         }
4539         else if (scb->flags & SCB_MSGOUT_SDTR)
4540         {
4541           unsigned int max_sync, period;
4542           unsigned char options = 0;
4543           /*
4544            * Now that the device is selected, use the bits in SBLKCTL and
4545            * SSTAT2 to determine the max sync rate for this device.
4546            */
4547           if (p->features & AHC_ULTRA2)
4548           {
4549             if ( (aic_inb(p, SBLKCTL) & ENAB40) &&
4550                 !(aic_inb(p, SSTAT2) & EXP_ACTIVE) )
4551             {
4552               max_sync = AHC_SYNCRATE_ULTRA2;
4553             }
4554             else
4555             {
4556               max_sync = AHC_SYNCRATE_ULTRA;
4557             }
4558           }
4559           else if (p->features & AHC_ULTRA)
4560           {
4561             max_sync = AHC_SYNCRATE_ULTRA;
4562           }
4563           else
4564           {
4565             max_sync = AHC_SYNCRATE_FAST;
4566           }
4567           period = aic_dev->goal.period;
4568           aic7xxx_find_syncrate(p, &period, max_sync, &options);
4569           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
4570           {
4571             printk(INFO_LEAD "Sending SDTR %d/%d message.\n", p->host_no,
4572                    CTL_OF_SCB(scb), period,
4573                    aic_dev->goal.offset);
4574           }
4575           aic7xxx_construct_sdtr(p, period, aic_dev->goal.offset);
4576         }
4577         else
4578         {
4579           panic("aic7xxx: AWAITING_MSG for an SCB that does "
4580                 "not have a waiting message.\n");
4581         }
4582         /*
4583          * We've set everything up to send our message, now to actually do
4584          * so we need to enable reqinit interrupts and let the interrupt
4585          * handler do the rest.  We don't want to unpause the sequencer yet
4586          * though so we'll return early.  We also have to make sure that
4587          * we clear the SEQINT *BEFORE* we set the REQINIT handler active
4588          * or else it's possible on VLB cards to lose the first REQINIT
4589          * interrupt.  Edge triggered EISA cards could also lose this
4590          * interrupt, although PCI and level triggered cards should not
4591          * have this problem since they continually interrupt the kernel
4592          * until we take care of the situation.
4593          */
4594         scb->flags |= SCB_MSGOUT_SENT;
4595         p->msg_index = 0;
4596         p->msg_type = MSG_TYPE_INITIATOR_MSGOUT;
4597         p->flags |= AHC_HANDLING_REQINITS;
4598         aic_outb(p, aic_inb(p, SIMODE1) | ENREQINIT, SIMODE1);
4599         return;
4600       }
4601       break;
4602
4603     case DATA_OVERRUN:
4604       {
4605         unsigned char scb_index = aic_inb(p, SCB_TAG);
4606         unsigned char lastphase = aic_inb(p, LASTPHASE);
4607         unsigned int i;
4608
4609         scb = (p->scb_data->scb_array[scb_index]);
4610         /*
4611          * XXX - What do we really want to do on an overrun?  The
4612          *       mid-level SCSI code should handle this, but for now,
4613          *       we'll just indicate that the command should retried.
4614          *    If we retrieved sense info on this target, then the
4615          *    base SENSE info should have been saved prior to the
4616          *    overrun error.  In that case, we return DID_OK and let
4617          *    the mid level code pick up on the sense info.  Otherwise
4618          *    we return DID_ERROR so the command will get retried.
4619          */
4620         if ( !(scb->flags & SCB_SENSE) )
4621         {
4622           printk(WARN_LEAD "Data overrun detected in %s phase, tag %d;\n",
4623             p->host_no, CTL_OF_SCB(scb),
4624             (lastphase == P_DATAIN) ? "Data-In" : "Data-Out", scb->hscb->tag);
4625           printk(KERN_WARNING "  %s seen Data Phase. Length=%d, NumSGs=%d.\n",
4626             (aic_inb(p, SEQ_FLAGS) & DPHASE) ? "Have" : "Haven't",
4627             scb->sg_length, scb->sg_count);
4628           printk(KERN_WARNING "  Raw SCSI Command: 0x");
4629           for (i = 0; i < scb->hscb->SCSI_cmd_length; i++)
4630           {
4631             printk("%02x ", scb->cmd->cmnd[i]);
4632           }
4633           printk("\n");
4634           if(aic7xxx_verbose > 0xffff)
4635           {
4636             for (i = 0; i < scb->sg_count; i++)
4637             {
4638               printk(KERN_WARNING "     sg[%d] - Addr 0x%x : Length %d\n",
4639                  i,
4640                  le32_to_cpu(scb->sg_list[i].address),
4641                  le32_to_cpu(scb->sg_list[i].length) );
4642             }
4643           }
4644           aic7xxx_error(scb->cmd) = DID_ERROR;
4645         }
4646         else
4647           printk(INFO_LEAD "Data Overrun during SEND_SENSE operation.\n",
4648             p->host_no, CTL_OF_SCB(scb));
4649       }
4650       break;
4651
4652     case WIDE_RESIDUE:
4653       {
4654         unsigned char resid_sgcnt, index;
4655         unsigned char scb_index = aic_inb(p, SCB_TAG);
4656         unsigned int cur_addr, resid_dcnt;
4657         unsigned int native_addr, native_length, sg_addr;
4658         int i;
4659
4660         if(scb_index > p->scb_data->numscbs)
4661         {
4662           printk(WARN_LEAD "invalid scb_index during WIDE_RESIDUE.\n",
4663             p->host_no, -1, -1, -1);
4664           /*
4665            * XXX: Add error handling here
4666            */
4667           break;
4668         }
4669         scb = p->scb_data->scb_array[scb_index];
4670         if(!(scb->flags & SCB_ACTIVE) || (scb->cmd == NULL))
4671         {
4672           printk(WARN_LEAD "invalid scb during WIDE_RESIDUE flags:0x%x "
4673                  "scb->cmd:0x%lx\n", p->host_no, CTL_OF_SCB(scb),
4674                  scb->flags, (unsigned long)scb->cmd);
4675           break;
4676         }
4677         if(aic7xxx_verbose & VERBOSE_MINOR_ERROR)
4678           printk(INFO_LEAD "Got WIDE_RESIDUE message, patching up data "
4679                  "pointer.\n", p->host_no, CTL_OF_SCB(scb));
4680
4681         /*
4682          * We have a valid scb to use on this WIDE_RESIDUE message, so
4683          * we need to walk the sg list looking for this particular sg
4684          * segment, then see if we happen to be at the very beginning of
4685          * the segment.  If we are, then we have to back things up to
4686          * the previous segment.  If not, then we simply need to remove
4687          * one byte from this segments address and add one to the byte
4688          * count.
4689          */
4690         cur_addr = aic_inb(p, SHADDR) | (aic_inb(p, SHADDR + 1) << 8) |
4691           (aic_inb(p, SHADDR + 2) << 16) | (aic_inb(p, SHADDR + 3) << 24);
4692         sg_addr = aic_inb(p, SG_COUNT + 1) | (aic_inb(p, SG_COUNT + 2) << 8) |
4693           (aic_inb(p, SG_COUNT + 3) << 16) | (aic_inb(p, SG_COUNT + 4) << 24);
4694         resid_sgcnt = aic_inb(p, SCB_RESID_SGCNT);
4695         resid_dcnt = aic_inb(p, SCB_RESID_DCNT) |
4696           (aic_inb(p, SCB_RESID_DCNT + 1) << 8) |
4697           (aic_inb(p, SCB_RESID_DCNT + 2) << 16);
4698         index = scb->sg_count - ((resid_sgcnt) ? resid_sgcnt : 1);
4699         native_addr = le32_to_cpu(scb->sg_list[index].address);
4700         native_length = le32_to_cpu(scb->sg_list[index].length);
4701         /*
4702          * If resid_dcnt == native_length, then we just loaded this SG
4703          * segment and we need to back it up one...
4704          */
4705         if(resid_dcnt == native_length)
4706         {
4707           if(index == 0)
4708           {
4709             /*
4710              * Oops, this isn't right, we can't back up to before the
4711              * beginning.  This must be a bogus message, ignore it.
4712              */
4713             break;
4714           }
4715           resid_dcnt = 1;
4716           resid_sgcnt += 1;
4717           native_addr = le32_to_cpu(scb->sg_list[index - 1].address);
4718           native_length = le32_to_cpu(scb->sg_list[index - 1].length);
4719           cur_addr = native_addr + (native_length - 1);
4720           sg_addr -= sizeof(struct hw_scatterlist);
4721         }
4722         else
4723         {
4724           /*
4725            * resid_dcnt != native_length, so we are in the middle of a SG
4726            * element.  Back it up one byte and leave the rest alone.
4727            */
4728           resid_dcnt += 1;
4729           cur_addr -= 1;
4730         }
4731
4732         /*
4733          * Output the new addresses and counts to the right places on the
4734          * card.
4735          */
4736         aic_outb(p, resid_sgcnt, SG_COUNT);
4737         aic_outb(p, resid_sgcnt, SCB_RESID_SGCNT);
4738         aic_outb(p, sg_addr & 0xff, SG_COUNT + 1);
4739         aic_outb(p, (sg_addr >> 8) & 0xff, SG_COUNT + 2);
4740         aic_outb(p, (sg_addr >> 16) & 0xff, SG_COUNT + 3);
4741         aic_outb(p, (sg_addr >> 24) & 0xff, SG_COUNT + 4);
4742         aic_outb(p, resid_dcnt & 0xff, SCB_RESID_DCNT);
4743         aic_outb(p, (resid_dcnt >> 8) & 0xff, SCB_RESID_DCNT + 1);
4744         aic_outb(p, (resid_dcnt >> 16) & 0xff, SCB_RESID_DCNT + 2);
4745
4746         /*
4747          * The sequencer actually wants to find the new address
4748          * in the SHADDR register set.  On the Ultra2 and later controllers
4749          * this register set is readonly.  In order to get the right number
4750          * into the register, you actually have to enter it in HADDR and then
4751          * use the PRELOADEN bit of DFCNTRL to drop it through from the
4752          * HADDR register to the SHADDR register.  On non-Ultra2 controllers,
4753          * we simply write it direct.
4754          */
4755         if(p->features & AHC_ULTRA2)
4756         {
4757           /*
4758            * We might as well be accurate and drop both the resid_dcnt and
4759            * cur_addr into HCNT and HADDR and have both of them drop
4760            * through to the shadow layer together.
4761            */
4762           aic_outb(p, resid_dcnt & 0xff, HCNT);
4763           aic_outb(p, (resid_dcnt >> 8) & 0xff, HCNT + 1);
4764           aic_outb(p, (resid_dcnt >> 16) & 0xff, HCNT + 2);
4765           aic_outb(p, cur_addr & 0xff, HADDR);
4766           aic_outb(p, (cur_addr >> 8) & 0xff, HADDR + 1);
4767           aic_outb(p, (cur_addr >> 16) & 0xff, HADDR + 2);
4768           aic_outb(p, (cur_addr >> 24) & 0xff, HADDR + 3);
4769           aic_outb(p, aic_inb(p, DMAPARAMS) | PRELOADEN, DFCNTRL);
4770           udelay(1);
4771           aic_outb(p, aic_inb(p, DMAPARAMS) & ~(SCSIEN|HDMAEN), DFCNTRL);
4772           i=0;
4773           while(((aic_inb(p, DFCNTRL) & (SCSIEN|HDMAEN)) != 0) && (i++ < 1000))
4774           {
4775             udelay(1);
4776           }
4777         }
4778         else
4779         {
4780           aic_outb(p, cur_addr & 0xff, SHADDR);
4781           aic_outb(p, (cur_addr >> 8) & 0xff, SHADDR + 1);
4782           aic_outb(p, (cur_addr >> 16) & 0xff, SHADDR + 2);
4783           aic_outb(p, (cur_addr >> 24) & 0xff, SHADDR + 3);
4784         }
4785       }
4786       break;
4787
4788     case SEQ_SG_FIXUP:
4789     {
4790       unsigned char scb_index, tmp;
4791       int sg_addr, sg_length;
4792
4793       scb_index = aic_inb(p, SCB_TAG);
4794
4795       if(scb_index > p->scb_data->numscbs)
4796       {
4797         printk(WARN_LEAD "invalid scb_index during SEQ_SG_FIXUP.\n",
4798           p->host_no, -1, -1, -1);
4799         printk(INFO_LEAD "SCSISIGI 0x%x, SEQADDR 0x%x, SSTAT0 0x%x, SSTAT1 "
4800            "0x%x\n", p->host_no, -1, -1, -1,
4801            aic_inb(p, SCSISIGI),
4802            aic_inb(p, SEQADDR0) | (aic_inb(p, SEQADDR1) << 8),
4803            aic_inb(p, SSTAT0), aic_inb(p, SSTAT1));
4804         printk(INFO_LEAD "SG_CACHEPTR 0x%x, SSTAT2 0x%x, STCNT 0x%x\n",
4805            p->host_no, -1, -1, -1, aic_inb(p, SG_CACHEPTR),
4806            aic_inb(p, SSTAT2), aic_inb(p, STCNT + 2) << 16 |
4807            aic_inb(p, STCNT + 1) << 8 | aic_inb(p, STCNT));
4808         /*
4809          * XXX: Add error handling here
4810          */
4811         break;
4812       }
4813       scb = p->scb_data->scb_array[scb_index];
4814       if(!(scb->flags & SCB_ACTIVE) || (scb->cmd == NULL))
4815       {
4816         printk(WARN_LEAD "invalid scb during SEQ_SG_FIXUP flags:0x%x "
4817                "scb->cmd:0x%p\n", p->host_no, CTL_OF_SCB(scb),
4818                scb->flags, scb->cmd);
4819         printk(INFO_LEAD "SCSISIGI 0x%x, SEQADDR 0x%x, SSTAT0 0x%x, SSTAT1 "
4820            "0x%x\n", p->host_no, CTL_OF_SCB(scb),
4821            aic_inb(p, SCSISIGI),
4822            aic_inb(p, SEQADDR0) | (aic_inb(p, SEQADDR1) << 8),
4823            aic_inb(p, SSTAT0), aic_inb(p, SSTAT1));
4824         printk(INFO_LEAD "SG_CACHEPTR 0x%x, SSTAT2 0x%x, STCNT 0x%x\n",
4825            p->host_no, CTL_OF_SCB(scb), aic_inb(p, SG_CACHEPTR),
4826            aic_inb(p, SSTAT2), aic_inb(p, STCNT + 2) << 16 |
4827            aic_inb(p, STCNT + 1) << 8 | aic_inb(p, STCNT));
4828         break;
4829       }
4830       if(aic7xxx_verbose & VERBOSE_MINOR_ERROR)
4831         printk(INFO_LEAD "Fixing up SG address for sequencer.\n", p->host_no,
4832                CTL_OF_SCB(scb));
4833       /*
4834        * Advance the SG pointer to the next element in the list
4835        */
4836       tmp = aic_inb(p, SG_NEXT);
4837       tmp += SG_SIZEOF;
4838       aic_outb(p, tmp, SG_NEXT);
4839       if( tmp < SG_SIZEOF )
4840         aic_outb(p, aic_inb(p, SG_NEXT + 1) + 1, SG_NEXT + 1);
4841       tmp = aic_inb(p, SG_COUNT) - 1;
4842       aic_outb(p, tmp, SG_COUNT);
4843       sg_addr = le32_to_cpu(scb->sg_list[scb->sg_count - tmp].address);
4844       sg_length = le32_to_cpu(scb->sg_list[scb->sg_count - tmp].length);
4845       /*
4846        * Now stuff the element we just advanced past down onto the
4847        * card so it can be stored in the residual area.
4848        */
4849       aic_outb(p, sg_addr & 0xff, HADDR);
4850       aic_outb(p, (sg_addr >> 8) & 0xff, HADDR + 1);
4851       aic_outb(p, (sg_addr >> 16) & 0xff, HADDR + 2);
4852       aic_outb(p, (sg_addr >> 24) & 0xff, HADDR + 3);
4853       aic_outb(p, sg_length & 0xff, HCNT);
4854       aic_outb(p, (sg_length >> 8) & 0xff, HCNT + 1);
4855       aic_outb(p, (sg_length >> 16) & 0xff, HCNT + 2);
4856       aic_outb(p, (tmp << 2) | ((tmp == 1) ? LAST_SEG : 0), SG_CACHEPTR);
4857       aic_outb(p, aic_inb(p, DMAPARAMS), DFCNTRL);
4858       while(aic_inb(p, SSTAT0) & SDONE) udelay(1);
4859       while(aic_inb(p, DFCNTRL) & (HDMAEN|SCSIEN)) aic_outb(p, 0, DFCNTRL);
4860     }
4861     break;
4862
4863 #ifdef AIC7XXX_NOT_YET
4864     case TRACEPOINT2:
4865       {
4866         printk(INFO_LEAD "Tracepoint #2 reached.\n", p->host_no,
4867                channel, target, lun);
4868       }
4869       break;
4870
4871     /* XXX Fill these in later */
4872     case MSG_BUFFER_BUSY:
4873       printk("aic7xxx: Message buffer busy.\n");
4874       break;
4875     case MSGIN_PHASEMIS:
4876       printk("aic7xxx: Message-in phasemis.\n");
4877       break;
4878 #endif
4879
4880     default:                   /* unknown */
4881       printk(WARN_LEAD "Unknown SEQINT, INTSTAT 0x%x, SCSISIGI 0x%x.\n",
4882              p->host_no, channel, target, lun, intstat,
4883              aic_inb(p, SCSISIGI));
4884       break;
4885   }
4886
4887   /*
4888    * Clear the sequencer interrupt and unpause the sequencer.
4889    */
4890   unpause_sequencer(p, /* unpause always */ TRUE);
4891 }
4892
4893 /*+F*************************************************************************
4894  * Function:
4895  *   aic7xxx_parse_msg
4896  *
4897  * Description:
4898  *   Parses incoming messages into actions on behalf of
4899  *   aic7xxx_handle_reqinit
4900  *_F*************************************************************************/
4901 static int
4902 aic7xxx_parse_msg(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
4903 {
4904   int reject, reply, done;
4905   unsigned char target_scsirate, tindex;
4906   unsigned short target_mask;
4907   unsigned char target, channel, lun;
4908   unsigned char bus_width, new_bus_width;
4909   unsigned char trans_options, new_trans_options;
4910   unsigned int period, new_period, offset, new_offset, maxsync;
4911   struct aic7xxx_syncrate *syncrate;
4912   struct aic_dev_data *aic_dev;
4913
4914   target = scb->cmd->device->id;
4915   channel = scb->cmd->device->channel;
4916   lun = scb->cmd->device->lun;
4917   reply = reject = done = FALSE;
4918   tindex = TARGET_INDEX(scb->cmd);
4919   aic_dev = AIC_DEV(scb->cmd);
4920   target_scsirate = aic_inb(p, TARG_SCSIRATE + tindex);
4921   target_mask = (0x01 << tindex);
4922
4923   /*
4924    * Parse as much of the message as is available,
4925    * rejecting it if we don't support it.  When
4926    * the entire message is available and has been
4927    * handled, return TRUE indicating that we have
4928    * parsed an entire message.
4929    */
4930
4931   if (p->msg_buf[0] != MSG_EXTENDED)
4932   {
4933     reject = TRUE;
4934   }
4935
4936   /*
4937    * Even if we are an Ultra3 card, don't allow Ultra3 sync rates when
4938    * using the SDTR messages.  We need the PPR messages to enable the
4939    * higher speeds that include things like Dual Edge clocking.
4940    */
4941   if (p->features & AHC_ULTRA2)
4942   {
4943     if ( (aic_inb(p, SBLKCTL) & ENAB40) &&
4944          !(aic_inb(p, SSTAT2) & EXP_ACTIVE) )
4945     {
4946       if (p->features & AHC_ULTRA3)
4947         maxsync = AHC_SYNCRATE_ULTRA3;
4948       else
4949         maxsync = AHC_SYNCRATE_ULTRA2;
4950     }
4951     else
4952     {
4953       maxsync = AHC_SYNCRATE_ULTRA;
4954     }
4955   }
4956   else if (p->features & AHC_ULTRA)
4957   {
4958     maxsync = AHC_SYNCRATE_ULTRA;
4959   }
4960   else
4961   {
4962     maxsync = AHC_SYNCRATE_FAST;
4963   }
4964
4965   /*
4966    * Just accept the length byte outright and perform
4967    * more checking once we know the message type.
4968    */
4969
4970   if ( !reject && (p->msg_len > 2) )
4971   {
4972     switch(p->msg_buf[2])
4973     {
4974       case MSG_EXT_SDTR:
4975       {
4976
4977         if (p->msg_buf[1] != MSG_EXT_SDTR_LEN)
4978         {
4979           reject = TRUE;
4980           break;
4981         }
4982
4983         if (p->msg_len < (MSG_EXT_SDTR_LEN + 2))
4984         {
4985           break;
4986         }
4987
4988         period = new_period = p->msg_buf[3];
4989         offset = new_offset = p->msg_buf[4];
4990         trans_options = new_trans_options = 0;
4991         bus_width = new_bus_width = target_scsirate & WIDEXFER;
4992
4993         /*
4994          * If our current max syncrate is in the Ultra3 range, bump it back
4995          * down to Ultra2 since we can't negotiate DT transfers using SDTR
4996          */
4997         if(maxsync == AHC_SYNCRATE_ULTRA3)
4998           maxsync = AHC_SYNCRATE_ULTRA2;
4999
5000         /*
5001          * We might have a device that is starting negotiation with us
5002          * before we can start up negotiation with it....be prepared to
5003          * have a device ask for a higher speed then we want to give it
5004          * in that case
5005          */
5006         if ( (scb->flags & (SCB_MSGOUT_SENT|SCB_MSGOUT_SDTR)) !=
5007              (SCB_MSGOUT_SENT|SCB_MSGOUT_SDTR) )
5008         {
5009           if (!(aic_dev->flags & DEVICE_DTR_SCANNED))
5010           {
5011             /*
5012              * We shouldn't get here unless this is a narrow drive, wide
5013              * devices should trigger this same section of code in the WDTR
5014              * handler first instead.
5015              */
5016             aic_dev->goal.width = MSG_EXT_WDTR_BUS_8_BIT;
5017             aic_dev->goal.options = 0;
5018             if(p->user[tindex].offset)
5019             {
5020               aic_dev->needsdtr_copy = 1;
5021               aic_dev->goal.period = max_t(unsigned char, 10,p->user[tindex].period);
5022               if(p->features & AHC_ULTRA2)
5023               {
5024                 aic_dev->goal.offset = MAX_OFFSET_ULTRA2;
5025               }
5026               else
5027               {
5028                 aic_dev->goal.offset = MAX_OFFSET_8BIT;
5029               }
5030             }
5031             else
5032             {
5033               aic_dev->needsdtr_copy = 0;
5034               aic_dev->goal.period = 255;
5035               aic_dev->goal.offset = 0;
5036             }
5037             aic_dev->flags |= DEVICE_DTR_SCANNED | DEVICE_PRINT_DTR;
5038           }
5039           else if (aic_dev->needsdtr_copy == 0)
5040           {
5041             /*
5042              * This is a preemptive message from the target, we've already
5043              * scanned this target and set our options for it, and we
5044              * don't need a SDTR with this target (for whatever reason),
5045              * so reject this incoming SDTR
5046              */
5047             reject = TRUE;
5048             break;
5049           }
5050
5051           /* The device is sending this message first and we have to reply */
5052           reply = TRUE;
5053
5054           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
5055           {
5056             printk(INFO_LEAD "Received pre-emptive SDTR message from "
5057                    "target.\n", p->host_no, CTL_OF_SCB(scb));
5058           }
5059           /*
5060            * Validate the values the device passed to us against our SEEPROM
5061            * settings.  We don't have to do this if we aren't replying since
5062            * the device isn't allowed to send values greater than the ones
5063            * we first sent to it.
5064            */
5065           new_period = max_t(unsigned int, period, aic_dev->goal.period);
5066           new_offset = min_t(unsigned int, offset, aic_dev->goal.offset);
5067         }
5068
5069         /*
5070          * Use our new_period, new_offset, bus_width, and card options
5071          * to determine the actual syncrate settings
5072          */
5073         syncrate = aic7xxx_find_syncrate(p, &new_period, maxsync,
5074                                          &trans_options);
5075         aic7xxx_validate_offset(p, syncrate, &new_offset, bus_width);
5076
5077         /*
5078          * Did we drop to async?  If so, send a reply regardless of whether
5079          * or not we initiated this negotiation.
5080          */
5081         if ((new_offset == 0) && (new_offset != offset))
5082         {
5083           aic_dev->needsdtr_copy = 0;
5084           reply = TRUE;
5085         }
5086
5087         /*
5088          * Did we start this, if not, or if we went too low and had to
5089          * go async, then send an SDTR back to the target
5090          */
5091         if(reply)
5092         {
5093           /* when sending a reply, make sure that the goal settings are
5094            * updated along with current and active since the code that
5095            * will actually build the message for the sequencer uses the
5096            * goal settings as its guidelines.
5097            */
5098           aic7xxx_set_syncrate(p, syncrate, target, channel, new_period,
5099                                new_offset, trans_options,
5100                                AHC_TRANS_GOAL|AHC_TRANS_ACTIVE|AHC_TRANS_CUR,
5101                                aic_dev);
5102           scb->flags &= ~SCB_MSGOUT_BITS;
5103           scb->flags |= SCB_MSGOUT_SDTR;
5104           aic_outb(p, HOST_MSG, MSG_OUT);
5105           aic_outb(p, aic_inb(p, SCSISIGO) | ATNO, SCSISIGO);
5106         }
5107         else
5108         {
5109           aic7xxx_set_syncrate(p, syncrate, target, channel, new_period,
5110                                new_offset, trans_options,
5111                                AHC_TRANS_ACTIVE|AHC_TRANS_CUR, aic_dev);
5112           aic_dev->needsdtr = 0;
5113         }
5114         done = TRUE;
5115         break;
5116       }
5117       case MSG_EXT_WDTR:
5118       {
5119
5120         if (p->msg_buf[1] != MSG_EXT_WDTR_LEN)
5121         {
5122           reject = TRUE;
5123           break;
5124         }
5125
5126         if (p->msg_len < (MSG_EXT_WDTR_LEN + 2))
5127         {
5128           break;
5129         }
5130
5131         bus_width = new_bus_width = p->msg_buf[3];
5132
5133         if ( (scb->flags & (SCB_MSGOUT_SENT|SCB_MSGOUT_WDTR)) ==
5134              (SCB_MSGOUT_SENT|SCB_MSGOUT_WDTR) )
5135         {
5136           switch(bus_width)
5137           {
5138             default:
5139             {
5140               reject = TRUE;
5141               if ( (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
5142                    ((aic_dev->flags & DEVICE_PRINT_DTR) ||
5143                     (aic7xxx_verbose > 0xffff)) )
5144               {
5145                 printk(INFO_LEAD "Requesting %d bit transfers, rejecting.\n",
5146                   p->host_no, CTL_OF_SCB(scb), 8 * (0x01 << bus_width));
5147               }
5148             } /* We fall through on purpose */
5149             case MSG_EXT_WDTR_BUS_8_BIT:
5150             {
5151               aic_dev->goal.width = MSG_EXT_WDTR_BUS_8_BIT;
5152               aic_dev->needwdtr_copy &= ~target_mask;
5153               break;
5154             }
5155             case MSG_EXT_WDTR_BUS_16_BIT:
5156             {
5157               break;
5158             }
5159           }
5160           aic_dev->needwdtr = 0;
5161           aic7xxx_set_width(p, target, channel, lun, new_bus_width,
5162                             AHC_TRANS_ACTIVE|AHC_TRANS_CUR, aic_dev);
5163         }
5164         else
5165         {
5166           if ( !(aic_dev->flags & DEVICE_DTR_SCANNED) )
5167           {
5168             /*
5169              * Well, we now know the WDTR and SYNC caps of this device since
5170              * it contacted us first, mark it as such and copy the user stuff
5171              * over to the goal stuff.
5172              */
5173             if( (p->features & AHC_WIDE) && p->user[tindex].width )
5174             {
5175               aic_dev->goal.width = MSG_EXT_WDTR_BUS_16_BIT;
5176               aic_dev->needwdtr_copy = 1;
5177             }
5178
5179             /*
5180              * Devices that support DT transfers don't start WDTR requests
5181              */
5182             aic_dev->goal.options = 0;
5183
5184             if(p->user[tindex].offset)
5185             {
5186               aic_dev->needsdtr_copy = 1;
5187               aic_dev->goal.period = max_t(unsigned char, 10, p->user[tindex].period);
5188               if(p->features & AHC_ULTRA2)
5189               {
5190                 aic_dev->goal.offset = MAX_OFFSET_ULTRA2;
5191               }
5192               else if( aic_dev->goal.width )
5193               {
5194                 aic_dev->goal.offset = MAX_OFFSET_16BIT;
5195               }
5196               else
5197               {
5198                 aic_dev->goal.offset = MAX_OFFSET_8BIT;
5199               }
5200             } else {
5201               aic_dev->needsdtr_copy = 0;
5202               aic_dev->goal.period = 255;
5203               aic_dev->goal.offset = 0;
5204             }
5205
5206             aic_dev->flags |= DEVICE_DTR_SCANNED | DEVICE_PRINT_DTR;
5207           }
5208           else if (aic_dev->needwdtr_copy == 0)
5209           {
5210             /*
5211              * This is a preemptive message from the target, we've already
5212              * scanned this target and set our options for it, and we
5213              * don't need a WDTR with this target (for whatever reason),
5214              * so reject this incoming WDTR
5215              */
5216             reject = TRUE;
5217             break;
5218           }
5219
5220           /* The device is sending this message first and we have to reply */
5221           reply = TRUE;
5222
5223           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
5224           {
5225             printk(INFO_LEAD "Received pre-emptive WDTR message from "
5226                    "target.\n", p->host_no, CTL_OF_SCB(scb));
5227           }
5228           switch(bus_width)
5229           {
5230             case MSG_EXT_WDTR_BUS_16_BIT:
5231             {
5232               if ( (p->features & AHC_WIDE) &&
5233                    (aic_dev->goal.width == MSG_EXT_WDTR_BUS_16_BIT) )
5234               {
5235                 new_bus_width = MSG_EXT_WDTR_BUS_16_BIT;
5236                 break;
5237               }
5238             } /* Fall through if we aren't a wide card */
5239             default:
5240             case MSG_EXT_WDTR_BUS_8_BIT:
5241             {
5242               aic_dev->needwdtr_copy = 0;
5243               new_bus_width = MSG_EXT_WDTR_BUS_8_BIT;
5244               break;
5245             }
5246           }
5247           scb->flags &= ~SCB_MSGOUT_BITS;
5248           scb->flags |= SCB_MSGOUT_WDTR;
5249           aic_dev->needwdtr = 0;
5250           if(aic_dev->dtr_pending == 0)
5251           {
5252             /* there is no other command with SCB_DTR_SCB already set that will
5253              * trigger the release of the dtr_pending bit.  Both set the bit
5254              * and set scb->flags |= SCB_DTR_SCB
5255              */
5256             aic_dev->dtr_pending = 1;
5257             scb->flags |= SCB_DTR_SCB;
5258           }
5259           aic_outb(p, HOST_MSG, MSG_OUT);
5260           aic_outb(p, aic_inb(p, SCSISIGO) | ATNO, SCSISIGO);
5261           /* when sending a reply, make sure that the goal settings are
5262            * updated along with current and active since the code that
5263            * will actually build the message for the sequencer uses the
5264            * goal settings as its guidelines.
5265            */
5266           aic7xxx_set_width(p, target, channel, lun, new_bus_width,
5267                           AHC_TRANS_GOAL|AHC_TRANS_ACTIVE|AHC_TRANS_CUR,
5268                           aic_dev);
5269         }
5270
5271         /*
5272          * By virtue of the SCSI spec, a WDTR message negates any existing
5273          * SDTR negotiations.  So, even if needsdtr isn't marked for this
5274          * device, we still have to do a new SDTR message if the device
5275          * supports SDTR at all.  Therefore, we check needsdtr_copy instead
5276          * of needstr.
5277          */
5278         aic7xxx_set_syncrate(p, NULL, target, channel, 0, 0, 0,
5279                              AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE,
5280                              aic_dev);
5281         aic_dev->needsdtr = aic_dev->needsdtr_copy;
5282         done = TRUE;
5283         break;
5284       }
5285       case MSG_EXT_PPR:
5286       {
5287
5288         if (p->msg_buf[1] != MSG_EXT_PPR_LEN)
5289         {
5290           reject = TRUE;
5291           break;
5292         }
5293
5294         if (p->msg_len < (MSG_EXT_PPR_LEN + 2))
5295         {
5296           break;
5297         }
5298
5299         period = new_period = p->msg_buf[3];
5300         offset = new_offset = p->msg_buf[5];
5301         bus_width = new_bus_width = p->msg_buf[6];
5302         trans_options = new_trans_options = p->msg_buf[7] & 0xf;
5303
5304         if(aic7xxx_verbose & VERBOSE_NEGOTIATION2)
5305         {
5306           printk(INFO_LEAD "Parsing PPR message (%d/%d/%d/%d)\n",
5307                  p->host_no, CTL_OF_SCB(scb), period, offset, bus_width,
5308                  trans_options);
5309         }
5310
5311         /*
5312          * We might have a device that is starting negotiation with us
5313          * before we can start up negotiation with it....be prepared to
5314          * have a device ask for a higher speed then we want to give it
5315          * in that case
5316          */
5317         if ( (scb->flags & (SCB_MSGOUT_SENT|SCB_MSGOUT_PPR)) !=
5318              (SCB_MSGOUT_SENT|SCB_MSGOUT_PPR) )
5319         {
5320           /* Have we scanned the device yet? */
5321           if (!(aic_dev->flags & DEVICE_DTR_SCANNED))
5322           {
5323             /* The device is electing to use PPR messages, so we will too until
5324              * we know better */
5325             aic_dev->needppr = aic_dev->needppr_copy = 1;
5326             aic_dev->needsdtr = aic_dev->needsdtr_copy = 0;
5327             aic_dev->needwdtr = aic_dev->needwdtr_copy = 0;
5328
5329             /* We know the device is SCSI-3 compliant due to PPR */
5330             aic_dev->flags |= DEVICE_SCSI_3;
5331
5332             /*
5333              * Not only is the device starting this up, but it also hasn't
5334              * been scanned yet, so this would likely be our TUR or our
5335              * INQUIRY command at scan time, so we need to use the
5336              * settings from the SEEPROM if they existed.  Of course, even
5337              * if we didn't find a SEEPROM, we stuffed default values into
5338              * the user settings anyway, so use those in all cases.
5339              */
5340             aic_dev->goal.width = p->user[tindex].width;
5341             if(p->user[tindex].offset)
5342             {
5343               aic_dev->goal.period = p->user[tindex].period;
5344               aic_dev->goal.options = p->user[tindex].options;
5345               if(p->features & AHC_ULTRA2)
5346               {
5347                 aic_dev->goal.offset = MAX_OFFSET_ULTRA2;
5348               }
5349               else if( aic_dev->goal.width &&
5350                        (bus_width == MSG_EXT_WDTR_BUS_16_BIT) &&
5351                        p->features & AHC_WIDE )
5352               {
5353                 aic_dev->goal.offset = MAX_OFFSET_16BIT;
5354               }
5355               else
5356               {
5357                 aic_dev->goal.offset = MAX_OFFSET_8BIT;
5358               }
5359             }
5360             else
5361             {
5362               aic_dev->goal.period = 255;
5363               aic_dev->goal.offset = 0;
5364               aic_dev->goal.options = 0;
5365             }
5366             aic_dev->flags |= DEVICE_DTR_SCANNED | DEVICE_PRINT_DTR;
5367           }
5368           else if (aic_dev->needppr_copy == 0)
5369           {
5370             /*
5371              * This is a preemptive message from the target, we've already
5372              * scanned this target and set our options for it, and we
5373              * don't need a PPR with this target (for whatever reason),
5374              * so reject this incoming PPR
5375              */
5376             reject = TRUE;
5377             break;
5378           }
5379
5380           /* The device is sending this message first and we have to reply */
5381           reply = TRUE;
5382
5383           if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
5384           {
5385             printk(INFO_LEAD "Received pre-emptive PPR message from "
5386                    "target.\n", p->host_no, CTL_OF_SCB(scb));
5387           }
5388
5389         }
5390
5391         switch(bus_width)
5392         {
5393           case MSG_EXT_WDTR_BUS_16_BIT:
5394           {
5395             if ( (aic_dev->goal.width == MSG_EXT_WDTR_BUS_16_BIT) &&
5396                             p->features & AHC_WIDE)
5397             {
5398               break;
5399             }
5400           }
5401           default:
5402           {
5403             if ( (aic7xxx_verbose & VERBOSE_NEGOTIATION2) &&
5404                  ((aic_dev->flags & DEVICE_PRINT_DTR) ||
5405                   (aic7xxx_verbose > 0xffff)) )
5406             {
5407               reply = TRUE;
5408               printk(INFO_LEAD "Requesting %d bit transfers, rejecting.\n",
5409                 p->host_no, CTL_OF_SCB(scb), 8 * (0x01 << bus_width));
5410             }
5411           } /* We fall through on purpose */
5412           case MSG_EXT_WDTR_BUS_8_BIT:
5413           {
5414             /*
5415              * According to the spec, if we aren't wide, we also can't be
5416              * Dual Edge so clear the options byte
5417              */
5418             new_trans_options = 0;
5419             new_bus_width = MSG_EXT_WDTR_BUS_8_BIT;
5420             break;
5421           }
5422         }
5423
5424         if(reply)
5425         {
5426           /* when sending a reply, make sure that the goal settings are
5427            * updated along with current and active since the code that
5428            * will actually build the message for the sequencer uses the
5429            * goal settings as its guidelines.
5430            */
5431           aic7xxx_set_width(p, target, channel, lun, new_bus_width,
5432                             AHC_TRANS_GOAL|AHC_TRANS_ACTIVE|AHC_TRANS_CUR,
5433                             aic_dev);
5434           syncrate = aic7xxx_find_syncrate(p, &new_period, maxsync,
5435                                            &new_trans_options);
5436           aic7xxx_validate_offset(p, syncrate, &new_offset, new_bus_width);
5437           aic7xxx_set_syncrate(p, syncrate, target, channel, new_period,
5438                                new_offset, new_trans_options,
5439                                AHC_TRANS_GOAL|AHC_TRANS_ACTIVE|AHC_TRANS_CUR,
5440                                aic_dev);
5441         }
5442         else
5443         {
5444           aic7xxx_set_width(p, target, channel, lun, new_bus_width,
5445                             AHC_TRANS_ACTIVE|AHC_TRANS_CUR, aic_dev);
5446           syncrate = aic7xxx_find_syncrate(p, &new_period, maxsync,
5447                                            &new_trans_options);
5448           aic7xxx_validate_offset(p, syncrate, &new_offset, new_bus_width);
5449           aic7xxx_set_syncrate(p, syncrate, target, channel, new_period,
5450                                new_offset, new_trans_options,
5451                                AHC_TRANS_ACTIVE|AHC_TRANS_CUR, aic_dev);
5452         }
5453
5454         /*
5455          * As it turns out, if we don't *have* to have PPR messages, then
5456          * configure ourselves not to use them since that makes some
5457          * external drive chassis work (those chassis can't parse PPR
5458          * messages and they mangle the SCSI bus until you send a WDTR
5459          * and SDTR that they can understand).
5460          */
5461         if(new_trans_options == 0)
5462         {
5463           aic_dev->needppr = aic_dev->needppr_copy = 0;
5464           if(new_offset)
5465           {
5466             aic_dev->needsdtr = aic_dev->needsdtr_copy = 1;
5467           }
5468           if (new_bus_width)
5469           {
5470             aic_dev->needwdtr = aic_dev->needwdtr_copy = 1;
5471           }
5472         }
5473
5474         if((new_offset == 0) && (offset != 0))
5475         {
5476           /*
5477            * Oops, the syncrate went to low for this card and we fell off
5478            * to async (should never happen with a device that uses PPR
5479            * messages, but have to be complete)
5480            */
5481           reply = TRUE;
5482         }
5483
5484         if(reply)
5485         {
5486           scb->flags &= ~SCB_MSGOUT_BITS;
5487           scb->flags |= SCB_MSGOUT_PPR;
5488           aic_outb(p, HOST_MSG, MSG_OUT);
5489           aic_outb(p, aic_inb(p, SCSISIGO) | ATNO, SCSISIGO);
5490         }
5491         else
5492         {
5493           aic_dev->needppr = 0;
5494         }
5495         done = TRUE;
5496         break;
5497       }
5498       default:
5499       {
5500         reject = TRUE;
5501         break;
5502       }
5503     } /* end of switch(p->msg_type) */
5504   } /* end of if (!reject && (p->msg_len > 2)) */
5505
5506   if (!reply && reject)
5507   {
5508     aic_outb(p, MSG_MESSAGE_REJECT, MSG_OUT);
5509     aic_outb(p, aic_inb(p, SCSISIGO) | ATNO, SCSISIGO);
5510     done = TRUE;
5511   }
5512   return(done);
5513 }
5514
5515
5516 /*+F*************************************************************************
5517  * Function:
5518  *   aic7xxx_handle_reqinit
5519  *
5520  * Description:
5521  *   Interrupt handler for REQINIT interrupts (used to transfer messages to
5522  *    and from devices).
5523  *_F*************************************************************************/
5524 static void
5525 aic7xxx_handle_reqinit(struct aic7xxx_host *p, struct aic7xxx_scb *scb)
5526 {
5527   unsigned char lastbyte;
5528   unsigned char phasemis;
5529   int done = FALSE;
5530
5531   switch(p->msg_type)
5532   {
5533     case MSG_TYPE_INITIATOR_MSGOUT:
5534       {
5535         if (p->msg_len == 0)
5536           panic("aic7xxx: REQINIT with no active message!\n");
5537
5538         lastbyte = (p->msg_index == (p->msg_len - 1));
5539         phasemis = ( aic_inb(p, SCSISIGI) & PHASE_MASK) != P_MESGOUT;
5540
5541         if (lastbyte || phasemis)
5542         {
5543           /* Time to end the message */
5544           p->msg_len = 0;
5545           p->msg_type = MSG_TYPE_NONE;
5546           /*
5547            * NOTE-TO-MYSELF: If you clear the REQINIT after you
5548            * disable REQINITs, then cases of REJECT_MSG stop working
5549            * and hang the bus
5550            */
5551           aic_outb(p, aic_inb(p, SIMODE1) & ~ENREQINIT, SIMODE1);
5552           aic_outb(p, CLRSCSIINT, CLRINT);
5553           p->flags &= ~AHC_HANDLING_REQINITS;
5554
5555           if (phasemis == 0)
5556           {
5557             aic_outb(p, p->msg_buf[p->msg_index], SINDEX);
5558             aic_outb(p, 0, RETURN_1);
5559 #ifdef AIC7XXX_VERBOSE_DEBUGGING
5560             if (aic7xxx_verbose > 0xffff)
5561               printk(INFO_LEAD "Completed sending of REQINIT message.\n",
5562                      p->host_no, CTL_OF_SCB(scb));
5563 #endif
5564           }
5565           else
5566           {
5567             aic_outb(p, MSGOUT_PHASEMIS, RETURN_1);
5568 #ifdef AIC7XXX_VERBOSE_DEBUGGING
5569             if (aic7xxx_verbose > 0xffff)
5570               printk(INFO_LEAD "PHASEMIS while sending REQINIT message.\n",
5571                      p->host_no, CTL_OF_SCB(scb));
5572 #endif
5573           }
5574           unpause_sequencer(p, TRUE);
5575         }
5576         else
5577         {
5578           /*
5579            * Present the byte on the bus (clearing REQINIT) but don't
5580            * unpause the sequencer.
5581            */
5582           aic_outb(p, CLRREQINIT, CLRSINT1);
5583           aic_outb(p, CLRSCSIINT, CLRINT);
5584           aic_outb(p,  p->msg_buf[p->msg_index++], SCSIDATL);
5585         }
5586         break;
5587       }
5588     case MSG_TYPE_INITIATOR_MSGIN:
5589       {
5590         phasemis = ( aic_inb(p, SCSISIGI) & PHASE_MASK ) != P_MESGIN;
5591
5592         if (phasemis == 0)
5593         {
5594           p->msg_len++;
5595           /* Pull the byte in without acking it */
5596           p->msg_buf[p->msg_index] = aic_inb(p, SCSIBUSL);
5597           done = aic7xxx_parse_msg(p, scb);
5598           /* Ack the byte */
5599           aic_outb(p, CLRREQINIT, CLRSINT1);
5600           aic_outb(p, CLRSCSIINT, CLRINT);
5601           aic_inb(p, SCSIDATL);
5602           p->msg_index++;
5603         }
5604         if (phasemis || done)
5605         {
5606 #ifdef AIC7XXX_VERBOSE_DEBUGGING
5607           if (aic7xxx_verbose > 0xffff)
5608           {
5609             if (phasemis)
5610               printk(INFO_LEAD "PHASEMIS while receiving REQINIT message.\n",
5611                      p->host_no, CTL_OF_SCB(scb));
5612             else
5613               printk(INFO_LEAD "Completed receipt of REQINIT message.\n",
5614                      p->host_no, CTL_OF_SCB(scb));
5615           }
5616 #endif
5617           /* Time to end our message session */
5618           p->msg_len = 0;
5619           p->msg_type = MSG_TYPE_NONE;
5620           aic_outb(p, aic_inb(p, SIMODE1) & ~ENREQINIT, SIMODE1);
5621           aic_outb(p, CLRSCSIINT, CLRINT);
5622           p->flags &= ~AHC_HANDLING_REQINITS;
5623           unpause_sequencer(p, TRUE);
5624         }
5625         break;
5626       }
5627     default:
5628       {
5629         panic("aic7xxx: Unknown REQINIT message type.\n");
5630         break;
5631       }
5632   } /* End of switch(p->msg_type) */
5633 }
5634
5635 /*+F*************************************************************************
5636  * Function:
5637  *   aic7xxx_handle_scsiint
5638  *
5639  * Description:
5640  *   Interrupt handler for SCSI interrupts (SCSIINT).
5641  *-F*************************************************************************/
5642 static void
5643 aic7xxx_handle_scsiint(struct aic7xxx_host *p, unsigned char intstat)
5644 {
5645   unsigned char scb_index;
5646   unsigned char status;
5647   struct aic7xxx_scb *scb;
5648   struct aic_dev_data *aic_dev;
5649
5650   scb_index = aic_inb(p, SCB_TAG);
5651   status = aic_inb(p, SSTAT1);
5652
5653   if (scb_index < p->scb_data->numscbs)
5654   {
5655     scb = p->scb_data->scb_array[scb_index];
5656     if ((scb->flags & SCB_ACTIVE) == 0)
5657     {
5658       scb = NULL;
5659     }
5660   }
5661   else
5662   {
5663     scb = NULL;
5664   }
5665
5666
5667   if ((status & SCSIRSTI) != 0)
5668   {
5669     int channel;
5670
5671     if ( (p->chip & AHC_CHIPID_MASK) == AHC_AIC7770 )
5672       channel = (aic_inb(p, SBLKCTL) & SELBUSB) >> 3;
5673     else
5674       channel = 0;
5675
5676     if (aic7xxx_verbose & VERBOSE_RESET)
5677       printk(WARN_LEAD "Someone else reset the channel!!\n",
5678            p->host_no, channel, -1, -1);
5679     if (aic7xxx_panic_on_abort)
5680       aic7xxx_panic_abort(p, NULL);
5681     /*
5682      * Go through and abort all commands for the channel, but do not
5683      * reset the channel again.
5684      */
5685     aic7xxx_reset_channel(p, channel, /* Initiate Reset */ FALSE);
5686     aic7xxx_run_done_queue(p, TRUE);
5687     scb = NULL;
5688   }
5689   else if ( ((status & BUSFREE) != 0) && ((status & SELTO) == 0) )
5690   {
5691     /*
5692      * First look at what phase we were last in.  If it's message-out,
5693      * chances are pretty good that the bus free was in response to
5694      * one of our abort requests.
5695      */
5696     unsigned char lastphase = aic_inb(p, LASTPHASE);
5697     unsigned char saved_tcl = aic_inb(p, SAVED_TCL);
5698     unsigned char target = (saved_tcl >> 4) & 0x0F;
5699     int channel;
5700     int printerror = TRUE;
5701
5702     if ( (p->chip & AHC_CHIPID_MASK) == AHC_AIC7770 )
5703       channel = (aic_inb(p, SBLKCTL) & SELBUSB) >> 3;
5704     else
5705       channel = 0;
5706
5707     aic_outb(p, aic_inb(p, SCSISEQ) & (ENSELI|ENRSELI|ENAUTOATNP),
5708              SCSISEQ);
5709     if (lastphase == P_MESGOUT)
5710     {
5711       unsigned char message;
5712
5713       message = aic_inb(p, SINDEX);
5714
5715       if ((message == MSG_ABORT) || (message == MSG_ABORT_TAG))
5716       {
5717         if (aic7xxx_verbose & VERBOSE_ABORT_PROCESS)
5718           printk(INFO_LEAD "SCB %d abort delivered.\n", p->host_no,
5719             CTL_OF_SCB(scb), scb->hscb->tag);
5720         aic7xxx_reset_device(p, target, channel, ALL_LUNS,
5721                 (message == MSG_ABORT) ? SCB_LIST_NULL : scb->hscb->tag );
5722         aic7xxx_run_done_queue(p, TRUE);
5723         scb = NULL;
5724         printerror = 0;
5725       }
5726       else if (message == MSG_BUS_DEV_RESET)
5727       {
5728         aic7xxx_handle_device_reset(p, target, channel);
5729         scb = NULL;
5730         printerror = 0;
5731       }
5732     }
5733     if ( (scb != NULL) && (scb->flags & SCB_DTR_SCB) )
5734     {
5735       /*
5736        * Hmmm...error during a negotiation command.  Either we have a
5737        * borken bus, or the device doesn't like our negotiation message.
5738        * Since we check the INQUIRY data of a device before sending it
5739        * negotiation messages, assume the bus is borken for whatever
5740        * reason.  Complete the command.
5741        */
5742       printerror = 0;
5743       aic7xxx_reset_device(p, target, channel, ALL_LUNS, scb->hscb->tag);
5744       aic7xxx_run_done_queue(p, TRUE);
5745       scb = NULL;
5746     }
5747     if (printerror != 0)
5748     {
5749       if (scb != NULL)
5750       {
5751         unsigned char tag;
5752
5753         if ((scb->hscb->control & TAG_ENB) != 0)
5754         {
5755           tag = scb->hscb->tag;
5756         }
5757         else
5758         {
5759           tag = SCB_LIST_NULL;
5760         }
5761         aic7xxx_reset_device(p, target, channel, ALL_LUNS, tag);
5762         aic7xxx_run_done_queue(p, TRUE);
5763       }
5764       else
5765       {
5766         aic7xxx_reset_device(p, target, channel, ALL_LUNS, SCB_LIST_NULL);
5767         aic7xxx_run_done_queue(p, TRUE);
5768       }
5769       printk(INFO_LEAD "Unexpected busfree, LASTPHASE = 0x%x, "
5770              "SEQADDR = 0x%x\n", p->host_no, channel, target, -1, lastphase,
5771              (aic_inb(p, SEQADDR1) << 8) | aic_inb(p, SEQADDR0));
5772       scb = NULL;
5773     }
5774     aic_outb(p, MSG_NOOP, MSG_OUT);
5775     aic_outb(p, aic_inb(p, SIMODE1) & ~(ENBUSFREE|ENREQINIT),
5776       SIMODE1);
5777     p->flags &= ~AHC_HANDLING_REQINITS;
5778     aic_outb(p, CLRBUSFREE, CLRSINT1);
5779     aic_outb(p, CLRSCSIINT, CLRINT);
5780     restart_sequencer(p);
5781     unpause_sequencer(p, TRUE);
5782   }
5783   else if ((status & SELTO) != 0)
5784   {
5785         unsigned char scbptr;
5786         unsigned char nextscb;
5787         struct scsi_cmnd *cmd;
5788
5789     scbptr = aic_inb(p, WAITING_SCBH);
5790     if (scbptr > p->scb_data->maxhscbs)
5791     {
5792       /*
5793        * I'm still trying to track down exactly how this happens, but until
5794        * I find it, this code will make sure we aren't passing bogus values
5795        * into the SCBPTR register, even if that register will just wrap
5796        * things around, we still don't like having out of range variables.
5797        *
5798        * NOTE: Don't check the aic7xxx_verbose variable, I want this message
5799        * to always be displayed.
5800        */
5801       printk(INFO_LEAD "Invalid WAITING_SCBH value %d, improvising.\n",
5802              p->host_no, -1, -1, -1, scbptr);
5803       if (p->scb_data->maxhscbs > 4)
5804         scbptr &= (p->scb_data->maxhscbs - 1);
5805       else
5806         scbptr &= 0x03;
5807     }
5808     aic_outb(p, scbptr, SCBPTR);
5809     scb_index = aic_inb(p, SCB_TAG);
5810
5811     scb = NULL;
5812     if (scb_index < p->scb_data->numscbs)
5813     {
5814       scb = p->scb_data->scb_array[scb_index];
5815       if ((scb->flags & SCB_ACTIVE) == 0)
5816       {
5817         scb = NULL;
5818       }
5819     }
5820     if (scb == NULL)
5821     {
5822       printk(WARN_LEAD "Referenced SCB %d not valid during SELTO.\n",
5823              p->host_no, -1, -1, -1, scb_index);
5824       printk(KERN_WARNING "        SCSISEQ = 0x%x SEQADDR = 0x%x SSTAT0 = 0x%x "
5825              "SSTAT1 = 0x%x\n", aic_inb(p, SCSISEQ),
5826              aic_inb(p, SEQADDR0) | (aic_inb(p, SEQADDR1) << 8),
5827              aic_inb(p, SSTAT0), aic_inb(p, SSTAT1));
5828       if (aic7xxx_panic_on_abort)
5829         aic7xxx_panic_abort(p, NULL);
5830     }
5831     else
5832     {
5833       cmd = scb->cmd;
5834       cmd->result = (DID_TIME_OUT << 16);
5835
5836       /*
5837        * Clear out this hardware SCB
5838        */
5839       aic_outb(p, 0, SCB_CONTROL);
5840
5841       /*
5842        * Clear out a few values in the card that are in an undetermined
5843        * state.
5844        */
5845       aic_outb(p, MSG_NOOP, MSG_OUT);
5846
5847       /*
5848        * Shift the waiting for selection queue forward
5849        */
5850       nextscb = aic_inb(p, SCB_NEXT);
5851       aic_outb(p, nextscb, WAITING_SCBH);
5852
5853       /*
5854        * Put this SCB back on the free list.
5855        */
5856       aic7xxx_add_curscb_to_free_list(p);
5857 #ifdef AIC7XXX_VERBOSE_DEBUGGING
5858       if (aic7xxx_verbose > 0xffff)
5859         printk(INFO_LEAD "Selection Timeout.\n", p->host_no, CTL_OF_SCB(scb));
5860 #endif
5861       if (scb->flags & SCB_QUEUED_ABORT)
5862       {
5863         /*
5864          * We know that this particular SCB had to be the queued abort since
5865          * the disconnected SCB would have gotten a reconnect instead.
5866          * What we need to do then is to let the command timeout again so
5867          * we get a reset since this abort just failed.
5868          */
5869         cmd->result = 0;
5870         scb = NULL;
5871       }
5872     }
5873     /*
5874      * Keep the sequencer from trying to restart any selections
5875      */
5876     aic_outb(p, aic_inb(p, SCSISEQ) & ~ENSELO, SCSISEQ);
5877     /*
5878      * Make sure the data bits on the bus are released
5879      * Don't do this on 7770 chipsets, it makes them give us
5880      * a BRKADDRINT and kills the card.
5881      */
5882     if( (p->chip & ~AHC_CHIPID_MASK) == AHC_PCI )
5883       aic_outb(p, 0, SCSIBUSL);
5884
5885     /*
5886      * Delay for the selection timeout delay period then stop the selection
5887      */
5888     udelay(301);
5889     aic_outb(p, CLRSELINGO, CLRSINT0);
5890     /*
5891      * Clear out all the interrupt status bits
5892      */
5893     aic_outb(p, aic_inb(p, SIMODE1) & ~(ENREQINIT|ENBUSFREE), SIMODE1);
5894     p->flags &= ~AHC_HANDLING_REQINITS;
5895     aic_outb(p, CLRSELTIMEO | CLRBUSFREE, CLRSINT1);
5896     aic_outb(p, CLRSCSIINT, CLRINT);
5897     /*
5898      * Restarting the sequencer will stop the selection and make sure devices
5899      * are allowed to reselect in.
5900      */
5901     restart_sequencer(p);
5902     unpause_sequencer(p, TRUE);
5903   }
5904   else if (scb == NULL)
5905   {
5906     printk(WARN_LEAD "aic7xxx_isr - referenced scb not valid "
5907            "during scsiint 0x%x scb(%d)\n"
5908            "      SIMODE0 0x%x, SIMODE1 0x%x, SSTAT0 0x%x, SEQADDR 0x%x\n",
5909            p->host_no, -1, -1, -1, status, scb_index, aic_inb(p, SIMODE0),
5910            aic_inb(p, SIMODE1), aic_inb(p, SSTAT0),
5911            (aic_inb(p, SEQADDR1) << 8) | aic_inb(p, SEQADDR0));
5912     /*
5913      * Turn off the interrupt and set status to zero, so that it
5914      * falls through the rest of the SCSIINT code.
5915      */
5916     aic_outb(p, status, CLRSINT1);
5917     aic_outb(p, CLRSCSIINT, CLRINT);
5918     unpause_sequencer(p, /* unpause always */ TRUE);
5919     scb = NULL;
5920   }
5921   else if (status & SCSIPERR)
5922   {
5923     /*
5924      * Determine the bus phase and queue an appropriate message.
5925      */
5926         char  *phase;
5927         struct scsi_cmnd *cmd;
5928         unsigned char mesg_out = MSG_NOOP;
5929         unsigned char lastphase = aic_inb(p, LASTPHASE);
5930         unsigned char sstat2 = aic_inb(p, SSTAT2);
5931
5932     cmd = scb->cmd;
5933     switch (lastphase)
5934     {
5935       case P_DATAOUT:
5936         phase = "Data-Out";
5937         break;
5938       case P_DATAIN:
5939         phase = "Data-In";
5940         mesg_out = MSG_INITIATOR_DET_ERR;
5941         break;
5942       case P_COMMAND:
5943         phase = "Command";
5944         break;
5945       case P_MESGOUT:
5946         phase = "Message-Out";
5947         break;
5948       case P_STATUS:
5949         phase = "Status";
5950         mesg_out = MSG_INITIATOR_DET_ERR;
5951         break;
5952       case P_MESGIN:
5953         phase = "Message-In";
5954         mesg_out = MSG_PARITY_ERROR;
5955         break;
5956       default:
5957         phase = "unknown";
5958         break;
5959     }
5960
5961     /*
5962      * A parity error has occurred during a data
5963      * transfer phase. Flag it and continue.
5964      */
5965     if( (p->features & AHC_ULTRA3) &&
5966         (aic_inb(p, SCSIRATE) & AHC_SYNCRATE_CRC) &&
5967         (lastphase == P_DATAIN) )
5968     {
5969       printk(WARN_LEAD "CRC error during %s phase.\n",
5970              p->host_no, CTL_OF_SCB(scb), phase);
5971       if(sstat2 & CRCVALERR)
5972       {
5973         printk(WARN_LEAD "  CRC error in intermediate CRC packet.\n",
5974                p->host_no, CTL_OF_SCB(scb));
5975       }
5976       if(sstat2 & CRCENDERR)
5977       {
5978         printk(WARN_LEAD "  CRC error in ending CRC packet.\n",
5979                p->host_no, CTL_OF_SCB(scb));
5980       }
5981       if(sstat2 & CRCREQERR)
5982       {
5983         printk(WARN_LEAD "  Target incorrectly requested a CRC packet.\n",
5984                p->host_no, CTL_OF_SCB(scb));
5985       }
5986       if(sstat2 & DUAL_EDGE_ERROR)
5987       {
5988         printk(WARN_LEAD "  Dual Edge transmission error.\n",
5989                p->host_no, CTL_OF_SCB(scb));
5990       }
5991     }
5992     else if( (lastphase == P_MESGOUT) &&
5993              (scb->flags & SCB_MSGOUT_PPR) )
5994     {
5995       /*
5996        * As per the draft specs, any device capable of supporting any of
5997        * the option values other than 0 are not allowed to reject the
5998        * PPR message.  Instead, they must negotiate out what they do
5999        * support instead of rejecting our offering or else they cause
6000        * a parity error during msg_out phase to signal that they don't
6001        * like our settings.
6002        */
6003       aic_dev = AIC_DEV(scb->cmd);
6004       aic_dev->needppr = aic_dev->needppr_copy = 0;
6005       aic7xxx_set_width(p, scb->cmd->device->id, scb->cmd->device->channel, scb->cmd->device->lun,
6006                         MSG_EXT_WDTR_BUS_8_BIT,
6007                         (AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE),
6008                         aic_dev);
6009       aic7xxx_set_syncrate(p, NULL, scb->cmd->device->id, scb->cmd->device->channel, 0, 0,
6010                            0, AHC_TRANS_ACTIVE|AHC_TRANS_CUR|AHC_TRANS_QUITE,
6011                            aic_dev);
6012       aic_dev->goal.options = 0;
6013       scb->flags &= ~SCB_MSGOUT_BITS;
6014       if(aic7xxx_verbose & VERBOSE_NEGOTIATION2)
6015       {
6016         printk(INFO_LEAD "parity error during PPR message, reverting "
6017                "to WDTR/SDTR\n", p->host_no, CTL_OF_SCB(scb));
6018       }
6019       if ( aic_dev->goal.width )
6020       {
6021         aic_dev->needwdtr = aic_dev->needwdtr_copy = 1;
6022       }
6023       if ( aic_dev->goal.offset )
6024       {
6025         if( aic_dev->goal.period <= 9 )
6026         {
6027           aic_dev->goal.period = 10;
6028         }
6029         aic_dev->needsdtr = aic_dev->needsdtr_copy = 1;
6030       }
6031       scb = NULL;
6032     }
6033
6034     /*
6035      * We've set the hardware to assert ATN if we get a parity
6036      * error on "in" phases, so all we need to do is stuff the
6037      * message buffer with the appropriate message.  "In" phases
6038      * have set mesg_out to something other than MSG_NOP.
6039      */
6040     if (mesg_out != MSG_NOOP)
6041     {
6042       aic_outb(p, mesg_out, MSG_OUT);
6043       aic_outb(p, aic_inb(p, SCSISIGI) | ATNO, SCSISIGO);
6044       scb = NULL;
6045     }
6046     aic_outb(p, CLRSCSIPERR, CLRSINT1);
6047     aic_outb(p, CLRSCSIINT, CLRINT);
6048     unpause_sequencer(p, /* unpause_always */ TRUE);
6049   }
6050   else if ( (status & REQINIT) &&
6051             (p->flags & AHC_HANDLING_REQINITS) )
6052   {
6053 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6054     if (aic7xxx_verbose > 0xffff)
6055       printk(INFO_LEAD "Handling REQINIT, SSTAT1=0x%x.\n", p->host_no,
6056              CTL_OF_SCB(scb), aic_inb(p, SSTAT1));
6057 #endif
6058     aic7xxx_handle_reqinit(p, scb);
6059     return;
6060   }
6061   else
6062   {
6063     /*
6064      * We don't know what's going on. Turn off the
6065      * interrupt source and try to continue.
6066      */
6067     if (aic7xxx_verbose & VERBOSE_SCSIINT)
6068       printk(INFO_LEAD "Unknown SCSIINT status, SSTAT1(0x%x).\n",
6069         p->host_no, -1, -1, -1, status);
6070     aic_outb(p, status, CLRSINT1);
6071     aic_outb(p, CLRSCSIINT, CLRINT);
6072     unpause_sequencer(p, /* unpause always */ TRUE);
6073     scb = NULL;
6074   }
6075   if (scb != NULL)
6076   {
6077     aic7xxx_done(p, scb);
6078   }
6079 }
6080
6081 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6082 static void
6083 aic7xxx_check_scbs(struct aic7xxx_host *p, char *buffer)
6084 {
6085   unsigned char saved_scbptr, free_scbh, dis_scbh, wait_scbh, temp;
6086   int i, bogus, lost;
6087   static unsigned char scb_status[AIC7XXX_MAXSCB];
6088
6089 #define SCB_NO_LIST 0
6090 #define SCB_FREE_LIST 1
6091 #define SCB_WAITING_LIST 2
6092 #define SCB_DISCONNECTED_LIST 4
6093 #define SCB_CURRENTLY_ACTIVE 8
6094
6095   /*
6096    * Note, these checks will fail on a regular basis once the machine moves
6097    * beyond the bus scan phase.  The problem is race conditions concerning
6098    * the scbs and where they are linked in.  When you have 30 or so commands
6099    * outstanding on the bus, and run this twice with every interrupt, the
6100    * chances get pretty good that you'll catch the sequencer with an SCB
6101    * only partially linked in.  Therefore, once we pass the scan phase
6102    * of the bus, we really should disable this function.
6103    */
6104   bogus = FALSE;
6105   memset(&scb_status[0], 0, sizeof(scb_status));
6106   pause_sequencer(p);
6107   saved_scbptr = aic_inb(p, SCBPTR);
6108   if (saved_scbptr >= p->scb_data->maxhscbs)
6109   {
6110     printk("Bogus SCBPTR %d\n", saved_scbptr);
6111     bogus = TRUE;
6112   }
6113   scb_status[saved_scbptr] = SCB_CURRENTLY_ACTIVE;
6114   free_scbh = aic_inb(p, FREE_SCBH);
6115   if ( (free_scbh != SCB_LIST_NULL) &&
6116        (free_scbh >= p->scb_data->maxhscbs) )
6117   {
6118     printk("Bogus FREE_SCBH %d\n", free_scbh);
6119     bogus = TRUE;
6120   }
6121   else
6122   {
6123     temp = free_scbh;
6124     while( (temp != SCB_LIST_NULL) && (temp < p->scb_data->maxhscbs) )
6125     {
6126       if(scb_status[temp] & 0x07)
6127       {
6128         printk("HSCB %d on multiple lists, status 0x%02x", temp,
6129                scb_status[temp] | SCB_FREE_LIST);
6130         bogus = TRUE;
6131       }
6132       scb_status[temp] |= SCB_FREE_LIST;
6133       aic_outb(p, temp, SCBPTR);
6134       temp = aic_inb(p, SCB_NEXT);
6135     }
6136   }
6137
6138   dis_scbh = aic_inb(p, DISCONNECTED_SCBH);
6139   if ( (dis_scbh != SCB_LIST_NULL) &&
6140        (dis_scbh >= p->scb_data->maxhscbs) )
6141   {
6142     printk("Bogus DISCONNECTED_SCBH %d\n", dis_scbh);
6143     bogus = TRUE;
6144   }
6145   else
6146   {
6147     temp = dis_scbh;
6148     while( (temp != SCB_LIST_NULL) && (temp < p->scb_data->maxhscbs) )
6149     {
6150       if(scb_status[temp] & 0x07)
6151       {
6152         printk("HSCB %d on multiple lists, status 0x%02x", temp,
6153                scb_status[temp] | SCB_DISCONNECTED_LIST);
6154         bogus = TRUE;
6155       }
6156       scb_status[temp] |= SCB_DISCONNECTED_LIST;
6157       aic_outb(p, temp, SCBPTR);
6158       temp = aic_inb(p, SCB_NEXT);
6159     }
6160   }
6161
6162   wait_scbh = aic_inb(p, WAITING_SCBH);
6163   if ( (wait_scbh != SCB_LIST_NULL) &&
6164        (wait_scbh >= p->scb_data->maxhscbs) )
6165   {
6166     printk("Bogus WAITING_SCBH %d\n", wait_scbh);
6167     bogus = TRUE;
6168   }
6169   else
6170   {
6171     temp = wait_scbh;
6172     while( (temp != SCB_LIST_NULL) && (temp < p->scb_data->maxhscbs) )
6173     {
6174       if(scb_status[temp] & 0x07)
6175       {
6176         printk("HSCB %d on multiple lists, status 0x%02x", temp,
6177                scb_status[temp] | SCB_WAITING_LIST);
6178         bogus = TRUE;
6179       }
6180       scb_status[temp] |= SCB_WAITING_LIST;
6181       aic_outb(p, temp, SCBPTR);
6182       temp = aic_inb(p, SCB_NEXT);
6183     }
6184   }
6185
6186   lost=0;
6187   for(i=0; i < p->scb_data->maxhscbs; i++)
6188   {
6189     aic_outb(p, i, SCBPTR);
6190     temp = aic_inb(p, SCB_NEXT);
6191     if ( ((temp != SCB_LIST_NULL) &&
6192           (temp >= p->scb_data->maxhscbs)) )
6193     {
6194       printk("HSCB %d bad, SCB_NEXT invalid(%d).\n", i, temp);
6195       bogus = TRUE;
6196     }
6197     if ( temp == i )
6198     {
6199       printk("HSCB %d bad, SCB_NEXT points to self.\n", i);
6200       bogus = TRUE;
6201     }
6202     if (scb_status[i] == 0)
6203       lost++;
6204     if (lost > 1)
6205     {
6206       printk("Too many lost scbs.\n");
6207       bogus=TRUE;
6208     }
6209   }
6210   aic_outb(p, saved_scbptr, SCBPTR);
6211   unpause_sequencer(p, FALSE);
6212   if (bogus)
6213   {
6214     printk("Bogus parameters found in card SCB array structures.\n");
6215     printk("%s\n", buffer);
6216     aic7xxx_panic_abort(p, NULL);
6217   }
6218   return;
6219 }
6220 #endif
6221
6222
6223 /*+F*************************************************************************
6224  * Function:
6225  *   aic7xxx_handle_command_completion_intr
6226  *
6227  * Description:
6228  *   SCSI command completion interrupt handler.
6229  *-F*************************************************************************/
6230 static void
6231 aic7xxx_handle_command_completion_intr(struct aic7xxx_host *p)
6232 {
6233         struct aic7xxx_scb *scb = NULL;
6234         struct aic_dev_data *aic_dev;
6235         struct scsi_cmnd *cmd;
6236         unsigned char scb_index, tindex;
6237
6238 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6239   if( (p->isr_count < 16) && (aic7xxx_verbose > 0xffff) )
6240     printk(INFO_LEAD "Command Complete Int.\n", p->host_no, -1, -1, -1);
6241 #endif
6242
6243   /*
6244    * Read the INTSTAT location after clearing the CMDINT bit.  This forces
6245    * any posted PCI writes to flush to memory.  Gerard Roudier suggested
6246    * this fix to the possible race of clearing the CMDINT bit but not
6247    * having all command bytes flushed onto the qoutfifo.
6248    */
6249   aic_outb(p, CLRCMDINT, CLRINT);
6250   aic_inb(p, INTSTAT);
6251   /*
6252    * The sequencer will continue running when it
6253    * issues this interrupt. There may be >1 commands
6254    * finished, so loop until we've processed them all.
6255    */
6256
6257   while (p->qoutfifo[p->qoutfifonext] != SCB_LIST_NULL)
6258   {
6259     scb_index = p->qoutfifo[p->qoutfifonext];
6260     p->qoutfifo[p->qoutfifonext++] = SCB_LIST_NULL;
6261     if ( scb_index >= p->scb_data->numscbs )
6262     {
6263       printk(WARN_LEAD "CMDCMPLT with invalid SCB index %d\n", p->host_no,
6264         -1, -1, -1, scb_index);
6265       continue;
6266     }
6267     scb = p->scb_data->scb_array[scb_index];
6268     if (!(scb->flags & SCB_ACTIVE) || (scb->cmd == NULL))
6269     {
6270       printk(WARN_LEAD "CMDCMPLT without command for SCB %d, SCB flags "
6271         "0x%x, cmd 0x%lx\n", p->host_no, -1, -1, -1, scb_index, scb->flags,
6272         (unsigned long) scb->cmd);
6273       continue;
6274     }
6275     tindex = TARGET_INDEX(scb->cmd);
6276     aic_dev = AIC_DEV(scb->cmd);
6277     if (scb->flags & SCB_QUEUED_ABORT)
6278     {
6279       pause_sequencer(p);
6280       if ( ((aic_inb(p, LASTPHASE) & PHASE_MASK) != P_BUSFREE) &&
6281            (aic_inb(p, SCB_TAG) == scb->hscb->tag) )
6282       {
6283         unpause_sequencer(p, FALSE);
6284         continue;
6285       }
6286       aic7xxx_reset_device(p, scb->cmd->device->id, scb->cmd->device->channel,
6287         scb->cmd->device->lun, scb->hscb->tag);
6288       scb->flags &= ~(SCB_QUEUED_FOR_DONE | SCB_RESET | SCB_ABORT |
6289         SCB_QUEUED_ABORT);
6290       unpause_sequencer(p, FALSE);
6291     }
6292     else if (scb->flags & SCB_ABORT)
6293     {
6294       /*
6295        * We started to abort this, but it completed on us, let it
6296        * through as successful
6297        */
6298       scb->flags &= ~(SCB_ABORT|SCB_RESET);
6299     }
6300     else if (scb->flags & SCB_SENSE)
6301     {
6302       char *buffer = &scb->cmd->sense_buffer[0];
6303
6304       if (buffer[12] == 0x47 || buffer[12] == 0x54)
6305       {
6306         /*
6307          * Signal that we need to re-negotiate things.
6308          */
6309         aic_dev->needppr = aic_dev->needppr_copy;
6310         aic_dev->needsdtr = aic_dev->needsdtr_copy;
6311         aic_dev->needwdtr = aic_dev->needwdtr_copy;
6312       }
6313     }
6314     cmd = scb->cmd;
6315     if (scb->hscb->residual_SG_segment_count != 0)
6316     {
6317       aic7xxx_calculate_residual(p, scb);
6318     }
6319     cmd->result |= (aic7xxx_error(cmd) << 16);
6320     aic7xxx_done(p, scb);
6321   }
6322 }
6323
6324 /*+F*************************************************************************
6325  * Function:
6326  *   aic7xxx_isr
6327  *
6328  * Description:
6329  *   SCSI controller interrupt handler.
6330  *-F*************************************************************************/
6331 static void
6332 aic7xxx_isr(void *dev_id)
6333 {
6334   struct aic7xxx_host *p;
6335   unsigned char intstat;
6336
6337   p = dev_id;
6338
6339   /*
6340    * Just a few sanity checks.  Make sure that we have an int pending.
6341    * Also, if PCI, then we are going to check for a PCI bus error status
6342    * should we get too many spurious interrupts.
6343    */
6344   if (!((intstat = aic_inb(p, INTSTAT)) & INT_PEND))
6345   {
6346 #ifdef CONFIG_PCI
6347     if ( (p->chip & AHC_PCI) && (p->spurious_int > 500) &&
6348         !(p->flags & AHC_HANDLING_REQINITS) )
6349     {
6350       if ( aic_inb(p, ERROR) & PCIERRSTAT )
6351       {
6352         aic7xxx_pci_intr(p);
6353       }
6354       p->spurious_int = 0;
6355     }
6356     else if ( !(p->flags & AHC_HANDLING_REQINITS) )
6357     {
6358       p->spurious_int++;
6359     }
6360 #endif
6361     return;
6362   }
6363
6364   p->spurious_int = 0;
6365
6366   /*
6367    * Keep track of interrupts for /proc/scsi
6368    */
6369   p->isr_count++;
6370
6371 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6372   if ( (p->isr_count < 16) && (aic7xxx_verbose > 0xffff) &&
6373        (aic7xxx_panic_on_abort) && (p->flags & AHC_PAGESCBS) )
6374     aic7xxx_check_scbs(p, "Bogus settings at start of interrupt.");
6375 #endif
6376
6377   /*
6378    * Handle all the interrupt sources - especially for SCSI
6379    * interrupts, we won't get a second chance at them.
6380    */
6381   if (intstat & CMDCMPLT)
6382   {
6383     aic7xxx_handle_command_completion_intr(p);
6384   }
6385
6386   if (intstat & BRKADRINT)
6387   {
6388     int i;
6389     unsigned char errno = aic_inb(p, ERROR);
6390
6391     printk(KERN_ERR "(scsi%d) BRKADRINT error(0x%x):\n", p->host_no, errno);
6392     for (i = 0; i < ARRAY_SIZE(hard_error); i++)
6393     {
6394       if (errno & hard_error[i].errno)
6395       {
6396         printk(KERN_ERR "  %s\n", hard_error[i].errmesg);
6397       }
6398     }
6399     printk(KERN_ERR "(scsi%d)   SEQADDR=0x%x\n", p->host_no,
6400       (((aic_inb(p, SEQADDR1) << 8) & 0x100) | aic_inb(p, SEQADDR0)));
6401     if (aic7xxx_panic_on_abort)
6402       aic7xxx_panic_abort(p, NULL);
6403 #ifdef CONFIG_PCI
6404     if (errno & PCIERRSTAT)
6405       aic7xxx_pci_intr(p);
6406 #endif
6407     if (errno & (SQPARERR | ILLOPCODE | ILLSADDR))
6408     {
6409       panic("aic7xxx: unrecoverable BRKADRINT.\n");
6410     }
6411     if (errno & ILLHADDR)
6412     {
6413       printk(KERN_ERR "(scsi%d) BUG! Driver accessed chip without first "
6414              "pausing controller!\n", p->host_no);
6415     }
6416 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6417     if (errno & DPARERR)
6418     {
6419       if (aic_inb(p, DMAPARAMS) & DIRECTION)
6420         printk("(scsi%d) while DMAing SCB from host to card.\n", p->host_no);
6421       else
6422         printk("(scsi%d) while DMAing SCB from card to host.\n", p->host_no);
6423     }
6424 #endif
6425     aic_outb(p, CLRPARERR | CLRBRKADRINT, CLRINT);
6426     unpause_sequencer(p, FALSE);
6427   }
6428
6429   if (intstat & SEQINT)
6430   {
6431     /*
6432      * Read the CCSCBCTL register to work around a bug in the Ultra2 cards
6433      */
6434     if(p->features & AHC_ULTRA2)
6435     {
6436       aic_inb(p, CCSCBCTL);
6437     }
6438     aic7xxx_handle_seqint(p, intstat);
6439   }
6440
6441   if (intstat & SCSIINT)
6442   {
6443     aic7xxx_handle_scsiint(p, intstat);
6444   }
6445
6446 #ifdef AIC7XXX_VERBOSE_DEBUGGING
6447   if ( (p->isr_count < 16) && (aic7xxx_verbose > 0xffff) &&
6448        (aic7xxx_panic_on_abort) && (p->flags & AHC_PAGESCBS) )
6449     aic7xxx_check_scbs(p, "Bogus settings at end of interrupt.");
6450 #endif
6451
6452 }
6453
6454 /*+F*************************************************************************
6455  * Function:
6456  *   do_aic7xxx_isr
6457  *
6458  * Description:
6459  *   This is a gross hack to solve a problem in linux kernels 2.1.85 and
6460  *   above.  Please, children, do not try this at home, and if you ever see
6461  *   anything like it, please inform the Gross Hack Police immediately
6462  *-F*************************************************************************/
6463 static irqreturn_t
6464 do_aic7xxx_isr(int irq, void *dev_id)
6465 {
6466   unsigned long cpu_flags;
6467   struct aic7xxx_host *p;
6468
6469   p = dev_id;
6470   if(!p)
6471     return IRQ_NONE;
6472   spin_lock_irqsave(p->host->host_lock, cpu_flags);
6473   p->flags |= AHC_IN_ISR;
6474   do
6475   {
6476     aic7xxx_isr(dev_id);
6477   } while ( (aic_inb(p, INTSTAT) & INT_PEND) );
6478   aic7xxx_done_cmds_complete(p);
6479   aic7xxx_run_waiting_queues(p);
6480   p->flags &= ~AHC_IN_ISR;
6481   spin_unlock_irqrestore(p->host->host_lock, cpu_flags);
6482
6483   return IRQ_HANDLED;
6484 }
6485
6486 /*+F*************************************************************************
6487  * Function:
6488  *   aic7xxx_init_transinfo
6489  *
6490  * Description:
6491  *   Set up the initial aic_dev values from the BIOS settings and from
6492  *   INQUIRY results
6493  *-F*************************************************************************/
6494 static void
6495 aic7xxx_init_transinfo(struct aic7xxx_host *p, struct aic_dev_data *aic_dev)
6496 {
6497   struct scsi_device *sdpnt = aic_dev->SDptr;
6498   unsigned char tindex;
6499
6500   tindex = sdpnt->id | (sdpnt->channel << 3);
6501   if (!(aic_dev->flags & DEVICE_DTR_SCANNED))
6502   {
6503     aic_dev->flags |= DEVICE_DTR_SCANNED;
6504
6505     if ( sdpnt->wdtr && (p->features & AHC_WIDE) )
6506     {
6507       aic_dev->needwdtr = aic_dev->needwdtr_copy = 1;
6508       aic_dev->goal.width = p->user[tindex].width;
6509     }
6510     else
6511     {
6512       aic_dev->needwdtr = aic_dev->needwdtr_copy = 0;
6513       pause_sequencer(p);
6514       aic7xxx_set_width(p, sdpnt->id, sdpnt->channel, sdpnt->lun,
6515                         MSG_EXT_WDTR_BUS_8_BIT, (AHC_TRANS_ACTIVE |
6516                                                  AHC_TRANS_GOAL |
6517                                                  AHC_TRANS_CUR), aic_dev );
6518       unpause_sequencer(p, FALSE);
6519     }
6520     if ( sdpnt->sdtr && p->user[tindex].offset )
6521     {
6522       aic_dev->goal.period = p->user[tindex].period;
6523       aic_dev->goal.options = p->user[tindex].options;
6524       if (p->features & AHC_ULTRA2)
6525         aic_dev->goal.offset = MAX_OFFSET_ULTRA2;
6526       else if (aic_dev->goal.width == MSG_EXT_WDTR_BUS_16_BIT)
6527         aic_dev->goal.offset = MAX_OFFSET_16BIT;
6528       else
6529         aic_dev->goal.offset = MAX_OFFSET_8BIT;
6530       if ( sdpnt->ppr && p->user[tindex].period <= 9 &&
6531              p->user[tindex].options )
6532       {
6533         aic_dev->needppr = aic_dev->needppr_copy = 1;
6534         aic_dev->needsdtr = aic_dev->needsdtr_copy = 0;
6535         aic_dev->needwdtr = aic_dev->needwdtr_copy = 0;
6536         aic_dev->flags |= DEVICE_SCSI_3;
6537       }
6538       else
6539       {
6540         aic_dev->needsdtr = aic_dev->needsdtr_copy = 1;
6541         aic_dev->goal.period = max_t(unsigned char, 10, aic_dev->goal.period);
6542         aic_dev->goal.options = 0;
6543       }
6544     }
6545     else
6546     {
6547       aic_dev->needsdtr = aic_dev->needsdtr_copy = 0;
6548       aic_dev->goal.period = 255;
6549       aic_dev->goal.offset = 0;
6550       aic_dev->goal.options = 0;
6551     }
6552     aic_dev->flags |= DEVICE_PRINT_DTR;
6553   }
6554 }
6555
6556 /*+F*************************************************************************
6557  * Function:
6558  *   aic7xxx_slave_alloc
6559  *
6560  * Description:
6561  *   Set up the initial aic_dev struct pointers
6562  *-F*************************************************************************/
6563 static int
6564 aic7xxx_slave_alloc(struct scsi_device *SDptr)
6565 {
6566   struct aic7xxx_host *p = (struct aic7xxx_host *)SDptr->host->hostdata;
6567   struct aic_dev_data *aic_dev;
6568
6569   aic_dev = kmalloc(sizeof(struct aic_dev_data), GFP_KERNEL);
6570   if(!aic_dev)
6571     return 1;
6572   /*
6573    * Check to see if channel was scanned.
6574    */
6575
6576   if (!(p->flags & AHC_A_SCANNED) && (SDptr->channel == 0))
6577   {
6578     if (aic7xxx_verbose & VERBOSE_PROBE2)
6579       printk(INFO_LEAD "Scanning channel for devices.\n",
6580         p->host_no, 0, -1, -1);
6581     p->flags |= AHC_A_SCANNED;
6582   }
6583   else
6584   {
6585     if (!(p->flags & AHC_B_SCANNED) && (SDptr->channel == 1))
6586     {
6587       if (aic7xxx_verbose & VERBOSE_PROBE2)
6588         printk(INFO_LEAD "Scanning channel for devices.\n",
6589           p->host_no, 1, -1, -1);
6590       p->flags |= AHC_B_SCANNED;
6591     }
6592   }
6593
6594   memset(aic_dev, 0, sizeof(struct aic_dev_data));
6595   SDptr->hostdata = aic_dev;
6596   aic_dev->SDptr = SDptr;
6597   aic_dev->max_q_depth = 1;
6598   aic_dev->temp_q_depth = 1;
6599   scbq_init(&aic_dev->delayed_scbs);
6600   INIT_LIST_HEAD(&aic_dev->list);
6601   list_add_tail(&aic_dev->list, &p->aic_devs);
6602   return 0;
6603 }
6604
6605 /*+F*************************************************************************
6606  * Function:
6607  *   aic7xxx_device_queue_depth
6608  *
6609  * Description:
6610  *   Determines the queue depth for a given device.  There are two ways
6611  *   a queue depth can be obtained for a tagged queueing device.  One
6612  *   way is the default queue depth which is determined by whether
6613  *   aic7xxx_default_queue_depth.  The other is by the aic7xxx_tag_info
6614  *   array.
6615  *
6616  *   If tagged queueing isn't supported on the device, then we set the
6617  *   depth to p->host->hostt->cmd_per_lun for internal driver queueing.
6618  *   as the default queue depth.  Otherwise, we use either 4 or 8 as the
6619  *   default queue depth (dependent on the number of hardware SCBs).
6620  *   The other way we determine queue depth is through the use of the
6621  *   aic7xxx_tag_info array which is enabled by defining
6622  *   AIC7XXX_TAGGED_QUEUEING_BY_DEVICE.  This array can be initialized
6623  *   with queue depths for individual devices.  It also allows tagged
6624  *   queueing to be [en|dis]abled for a specific adapter.
6625  *-F*************************************************************************/
6626 static void
6627 aic7xxx_device_queue_depth(struct aic7xxx_host *p, struct scsi_device *device)
6628 {
6629   int tag_enabled = FALSE;
6630   struct aic_dev_data *aic_dev = device->hostdata;
6631   unsigned char tindex;
6632
6633   tindex = device->id | (device->channel << 3);
6634
6635   if (device->simple_tags)
6636     return; // We've already enabled this device
6637
6638   if (device->tagged_supported)
6639   {
6640     tag_enabled = TRUE;
6641
6642     if (!(p->discenable & (1 << tindex)))
6643     {
6644       if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
6645         printk(INFO_LEAD "Disconnection disabled, unable to "
6646              "enable tagged queueing.\n",
6647              p->host_no, device->channel, device->id, device->lun);
6648       tag_enabled = FALSE;
6649     }
6650     else
6651     {
6652       if (p->instance >= ARRAY_SIZE(aic7xxx_tag_info))
6653       {
6654         static int print_warning = TRUE;
6655         if(print_warning)
6656         {
6657           printk(KERN_INFO "aic7xxx: WARNING, insufficient tag_info instances for"
6658                            " installed controllers.\n");
6659           printk(KERN_INFO "aic7xxx: Please update the aic7xxx_tag_info array in"
6660                            " the aic7xxx.c source file.\n");
6661           print_warning = FALSE;
6662         }
6663         aic_dev->max_q_depth = aic_dev->temp_q_depth =
6664                 aic7xxx_default_queue_depth;
6665       }
6666       else
6667       {
6668
6669         if (aic7xxx_tag_info[p->instance].tag_commands[tindex] == 255)
6670         {
6671           tag_enabled = FALSE;
6672         }
6673         else if (aic7xxx_tag_info[p->instance].tag_commands[tindex] == 0)
6674         {
6675           aic_dev->max_q_depth = aic_dev->temp_q_depth =
6676                   aic7xxx_default_queue_depth;
6677         }
6678         else
6679         {
6680           aic_dev->max_q_depth = aic_dev->temp_q_depth =
6681             aic7xxx_tag_info[p->instance].tag_commands[tindex];
6682         }
6683       }
6684     }
6685   }
6686   if (tag_enabled)
6687   {
6688     if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
6689     {
6690           printk(INFO_LEAD "Tagged queuing enabled, queue depth %d.\n",
6691             p->host_no, device->channel, device->id,
6692             device->lun, aic_dev->max_q_depth);
6693     }
6694     scsi_adjust_queue_depth(device, MSG_ORDERED_TAG, aic_dev->max_q_depth);
6695   }
6696   else
6697   {
6698     if (aic7xxx_verbose & VERBOSE_NEGOTIATION2)
6699     {
6700           printk(INFO_LEAD "Tagged queuing disabled, queue depth %d.\n",
6701             p->host_no, device->channel, device->id,
6702             device->lun, device->host->cmd_per_lun);
6703     }
6704     scsi_adjust_queue_depth(device, 0, device->host->cmd_per_lun);
6705   }
6706   return;
6707 }
6708
6709 /*+F*************************************************************************
6710  * Function:
6711  *   aic7xxx_slave_destroy
6712 &n