x86, ACPI: add support for x2apic ACPI extensions
[linux-2.6.git] / arch / x86 / kernel / acpi / boot.c
1 /*
2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
3  *
4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
6  *
7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
8  *
9  *  This program is free software; you can redistribute it and/or modify
10  *  it under the terms of the GNU General Public License as published by
11  *  the Free Software Foundation; either version 2 of the License, or
12  *  (at your option) any later version.
13  *
14  *  This program is distributed in the hope that it will be useful,
15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  *  GNU General Public License for more details.
18  *
19  *  You should have received a copy of the GNU General Public License
20  *  along with this program; if not, write to the Free Software
21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
22  *
23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
24  */
25
26 #include <linux/init.h>
27 #include <linux/acpi.h>
28 #include <linux/acpi_pmtmr.h>
29 #include <linux/efi.h>
30 #include <linux/cpumask.h>
31 #include <linux/module.h>
32 #include <linux/dmi.h>
33 #include <linux/irq.h>
34 #include <linux/bootmem.h>
35 #include <linux/ioport.h>
36
37 #include <asm/pgtable.h>
38 #include <asm/io_apic.h>
39 #include <asm/apic.h>
40 #include <asm/genapic.h>
41 #include <asm/io.h>
42 #include <asm/mpspec.h>
43 #include <asm/smp.h>
44
45 #ifdef CONFIG_X86_LOCAL_APIC
46 # include <mach_apic.h>
47 #endif
48
49 static int __initdata acpi_force = 0;
50 u32 acpi_rsdt_forced;
51 #ifdef  CONFIG_ACPI
52 int acpi_disabled = 0;
53 #else
54 int acpi_disabled = 1;
55 #endif
56 EXPORT_SYMBOL(acpi_disabled);
57
58 #ifdef  CONFIG_X86_64
59
60 #include <asm/proto.h>
61
62 #else                           /* X86 */
63
64 #ifdef  CONFIG_X86_LOCAL_APIC
65 #include <mach_apic.h>
66 #include <mach_mpparse.h>
67 #endif                          /* CONFIG_X86_LOCAL_APIC */
68
69 #endif                          /* X86 */
70
71 #define BAD_MADT_ENTRY(entry, end) (                                        \
72                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
73                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
74
75 #define PREFIX                  "ACPI: "
76
77 int acpi_noirq;                         /* skip ACPI IRQ initialization */
78 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
79 EXPORT_SYMBOL(acpi_pci_disabled);
80 int acpi_ht __initdata = 1;     /* enable HT */
81
82 int acpi_lapic;
83 int acpi_ioapic;
84 int acpi_strict;
85
86 u8 acpi_sci_flags __initdata;
87 int acpi_sci_override_gsi __initdata;
88 int acpi_skip_timer_override __initdata;
89 int acpi_use_timer_override __initdata;
90
91 #ifdef CONFIG_X86_LOCAL_APIC
92 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
93 #endif
94
95 #ifndef __HAVE_ARCH_CMPXCHG
96 #warning ACPI uses CMPXCHG, i486 and later hardware
97 #endif
98
99 /* --------------------------------------------------------------------------
100                               Boot-time Configuration
101    -------------------------------------------------------------------------- */
102
103 /*
104  * The default interrupt routing model is PIC (8259).  This gets
105  * overridden if IOAPICs are enumerated (below).
106  */
107 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
108
109
110 /*
111  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
112  * to map the target physical address. The problem is that set_fixmap()
113  * provides a single page, and it is possible that the page is not
114  * sufficient.
115  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
116  * i.e. until the next __va_range() call.
117  *
118  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
119  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
120  * count idx down while incrementing the phys address.
121  */
122 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
123 {
124         unsigned long base, offset, mapped_size;
125         int idx;
126
127         if (!phys || !size)
128                 return NULL;
129
130         if (phys+size <= (max_low_pfn_mapped << PAGE_SHIFT))
131                 return __va(phys);
132
133         offset = phys & (PAGE_SIZE - 1);
134         mapped_size = PAGE_SIZE - offset;
135         clear_fixmap(FIX_ACPI_END);
136         set_fixmap(FIX_ACPI_END, phys);
137         base = fix_to_virt(FIX_ACPI_END);
138
139         /*
140          * Most cases can be covered by the below.
141          */
142         idx = FIX_ACPI_END;
143         while (mapped_size < size) {
144                 if (--idx < FIX_ACPI_BEGIN)
145                         return NULL;    /* cannot handle this */
146                 phys += PAGE_SIZE;
147                 clear_fixmap(idx);
148                 set_fixmap(idx, phys);
149                 mapped_size += PAGE_SIZE;
150         }
151
152         return ((unsigned char *)base + offset);
153 }
154
155 #ifdef CONFIG_PCI_MMCONFIG
156
157 static int acpi_mcfg_64bit_base_addr __initdata = FALSE;
158
159 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
160 struct acpi_mcfg_allocation *pci_mmcfg_config;
161 int pci_mmcfg_config_num;
162
163 static int __init acpi_mcfg_oem_check(struct acpi_table_mcfg *mcfg)
164 {
165         if (!strcmp(mcfg->header.oem_id, "SGI"))
166                 acpi_mcfg_64bit_base_addr = TRUE;
167
168         return 0;
169 }
170
171 int __init acpi_parse_mcfg(struct acpi_table_header *header)
172 {
173         struct acpi_table_mcfg *mcfg;
174         unsigned long i;
175         int config_size;
176
177         if (!header)
178                 return -EINVAL;
179
180         mcfg = (struct acpi_table_mcfg *)header;
181
182         /* how many config structures do we have */
183         pci_mmcfg_config_num = 0;
184         i = header->length - sizeof(struct acpi_table_mcfg);
185         while (i >= sizeof(struct acpi_mcfg_allocation)) {
186                 ++pci_mmcfg_config_num;
187                 i -= sizeof(struct acpi_mcfg_allocation);
188         };
189         if (pci_mmcfg_config_num == 0) {
190                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
191                 return -ENODEV;
192         }
193
194         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
195         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
196         if (!pci_mmcfg_config) {
197                 printk(KERN_WARNING PREFIX
198                        "No memory for MCFG config tables\n");
199                 return -ENOMEM;
200         }
201
202         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
203
204         acpi_mcfg_oem_check(mcfg);
205
206         for (i = 0; i < pci_mmcfg_config_num; ++i) {
207                 if ((pci_mmcfg_config[i].address > 0xFFFFFFFF) &&
208                     !acpi_mcfg_64bit_base_addr) {
209                         printk(KERN_ERR PREFIX
210                                "MMCONFIG not in low 4GB of memory\n");
211                         kfree(pci_mmcfg_config);
212                         pci_mmcfg_config_num = 0;
213                         return -ENODEV;
214                 }
215         }
216
217         return 0;
218 }
219 #endif                          /* CONFIG_PCI_MMCONFIG */
220
221 #ifdef CONFIG_X86_LOCAL_APIC
222 static int __init acpi_parse_madt(struct acpi_table_header *table)
223 {
224         struct acpi_table_madt *madt = NULL;
225
226         if (!cpu_has_apic)
227                 return -EINVAL;
228
229         madt = (struct acpi_table_madt *)table;
230         if (!madt) {
231                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
232                 return -ENODEV;
233         }
234
235         if (madt->address) {
236                 acpi_lapic_addr = (u64) madt->address;
237
238                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
239                        madt->address);
240         }
241
242         acpi_madt_oem_check(madt->header.oem_id, madt->header.oem_table_id);
243
244         return 0;
245 }
246
247 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
248 {
249         unsigned int ver = 0;
250
251         if (!enabled) {
252                 ++disabled_cpus;
253                 return;
254         }
255
256         if (boot_cpu_physical_apicid != -1U)
257                 ver = apic_version[boot_cpu_physical_apicid];
258
259         generic_processor_info(id, ver);
260 }
261
262 static int __init
263 acpi_parse_x2apic(struct acpi_subtable_header *header, const unsigned long end)
264 {
265         struct acpi_madt_local_x2apic *processor = NULL;
266
267         processor = (struct acpi_madt_local_x2apic *)header;
268
269         if (BAD_MADT_ENTRY(processor, end))
270                 return -EINVAL;
271
272         acpi_table_print_madt_entry(header);
273
274 #ifdef CONFIG_X86_X2APIC
275         /*
276          * We need to register disabled CPU as well to permit
277          * counting disabled CPUs. This allows us to size
278          * cpus_possible_map more accurately, to permit
279          * to not preallocating memory for all NR_CPUS
280          * when we use CPU hotplug.
281          */
282         acpi_register_lapic(processor->local_apic_id,   /* APIC ID */
283                             processor->lapic_flags & ACPI_MADT_ENABLED);
284 #else
285         printk(KERN_WARNING PREFIX "x2apic entry ignored\n");
286 #endif
287
288         return 0;
289 }
290
291 static int __init
292 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
293 {
294         struct acpi_madt_local_apic *processor = NULL;
295
296         processor = (struct acpi_madt_local_apic *)header;
297
298         if (BAD_MADT_ENTRY(processor, end))
299                 return -EINVAL;
300
301         acpi_table_print_madt_entry(header);
302
303         /*
304          * We need to register disabled CPU as well to permit
305          * counting disabled CPUs. This allows us to size
306          * cpus_possible_map more accurately, to permit
307          * to not preallocating memory for all NR_CPUS
308          * when we use CPU hotplug.
309          */
310         acpi_register_lapic(processor->id,      /* APIC ID */
311                             processor->lapic_flags & ACPI_MADT_ENABLED);
312
313         return 0;
314 }
315
316 static int __init
317 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
318 {
319         struct acpi_madt_local_sapic *processor = NULL;
320
321         processor = (struct acpi_madt_local_sapic *)header;
322
323         if (BAD_MADT_ENTRY(processor, end))
324                 return -EINVAL;
325
326         acpi_table_print_madt_entry(header);
327
328         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
329                             processor->lapic_flags & ACPI_MADT_ENABLED);
330
331         return 0;
332 }
333
334 static int __init
335 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
336                           const unsigned long end)
337 {
338         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
339
340         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
341
342         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
343                 return -EINVAL;
344
345         acpi_lapic_addr = lapic_addr_ovr->address;
346
347         return 0;
348 }
349
350 static int __init
351 acpi_parse_x2apic_nmi(struct acpi_subtable_header *header,
352                       const unsigned long end)
353 {
354         struct acpi_madt_local_x2apic_nmi *x2apic_nmi = NULL;
355
356         x2apic_nmi = (struct acpi_madt_local_x2apic_nmi *)header;
357
358         if (BAD_MADT_ENTRY(x2apic_nmi, end))
359                 return -EINVAL;
360
361         acpi_table_print_madt_entry(header);
362
363         if (x2apic_nmi->lint != 1)
364                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
365
366         return 0;
367 }
368
369 static int __init
370 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
371 {
372         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
373
374         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
375
376         if (BAD_MADT_ENTRY(lapic_nmi, end))
377                 return -EINVAL;
378
379         acpi_table_print_madt_entry(header);
380
381         if (lapic_nmi->lint != 1)
382                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
383
384         return 0;
385 }
386
387 #endif                          /*CONFIG_X86_LOCAL_APIC */
388
389 #ifdef CONFIG_X86_IO_APIC
390
391 static int __init
392 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
393 {
394         struct acpi_madt_io_apic *ioapic = NULL;
395
396         ioapic = (struct acpi_madt_io_apic *)header;
397
398         if (BAD_MADT_ENTRY(ioapic, end))
399                 return -EINVAL;
400
401         acpi_table_print_madt_entry(header);
402
403         mp_register_ioapic(ioapic->id,
404                            ioapic->address, ioapic->global_irq_base);
405
406         return 0;
407 }
408
409 /*
410  * Parse Interrupt Source Override for the ACPI SCI
411  */
412 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
413 {
414         if (trigger == 0)       /* compatible SCI trigger is level */
415                 trigger = 3;
416
417         if (polarity == 0)      /* compatible SCI polarity is low */
418                 polarity = 3;
419
420         /* Command-line over-ride via acpi_sci= */
421         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
422                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
423
424         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
425                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
426
427         /*
428          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
429          * If GSI is < 16, this will update its flags,
430          * else it will create a new mp_irqs[] entry.
431          */
432         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
433
434         /*
435          * stash over-ride to indicate we've been here
436          * and for later update of acpi_gbl_FADT
437          */
438         acpi_sci_override_gsi = gsi;
439         return;
440 }
441
442 static int __init
443 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
444                        const unsigned long end)
445 {
446         struct acpi_madt_interrupt_override *intsrc = NULL;
447
448         intsrc = (struct acpi_madt_interrupt_override *)header;
449
450         if (BAD_MADT_ENTRY(intsrc, end))
451                 return -EINVAL;
452
453         acpi_table_print_madt_entry(header);
454
455         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
456                 acpi_sci_ioapic_setup(intsrc->global_irq,
457                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
458                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
459                 return 0;
460         }
461
462         if (acpi_skip_timer_override &&
463             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
464                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
465                 return 0;
466         }
467
468         mp_override_legacy_irq(intsrc->source_irq,
469                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
470                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
471                                 intsrc->global_irq);
472
473         return 0;
474 }
475
476 static int __init
477 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
478 {
479         struct acpi_madt_nmi_source *nmi_src = NULL;
480
481         nmi_src = (struct acpi_madt_nmi_source *)header;
482
483         if (BAD_MADT_ENTRY(nmi_src, end))
484                 return -EINVAL;
485
486         acpi_table_print_madt_entry(header);
487
488         /* TBD: Support nimsrc entries? */
489
490         return 0;
491 }
492
493 #endif                          /* CONFIG_X86_IO_APIC */
494
495 /*
496  * acpi_pic_sci_set_trigger()
497  *
498  * use ELCR to set PIC-mode trigger type for SCI
499  *
500  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
501  * it may require Edge Trigger -- use "acpi_sci=edge"
502  *
503  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
504  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
505  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
506  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
507  */
508
509 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
510 {
511         unsigned int mask = 1 << irq;
512         unsigned int old, new;
513
514         /* Real old ELCR mask */
515         old = inb(0x4d0) | (inb(0x4d1) << 8);
516
517         /*
518          * If we use ACPI to set PCI IRQs, then we should clear ELCR
519          * since we will set it correctly as we enable the PCI irq
520          * routing.
521          */
522         new = acpi_noirq ? old : 0;
523
524         /*
525          * Update SCI information in the ELCR, it isn't in the PCI
526          * routing tables..
527          */
528         switch (trigger) {
529         case 1:         /* Edge - clear */
530                 new &= ~mask;
531                 break;
532         case 3:         /* Level - set */
533                 new |= mask;
534                 break;
535         }
536
537         if (old == new)
538                 return;
539
540         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
541         outb(new, 0x4d0);
542         outb(new >> 8, 0x4d1);
543 }
544
545 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
546 {
547         *irq = gsi;
548         return 0;
549 }
550
551 /*
552  * success: return IRQ number (>=0)
553  * failure: return < 0
554  */
555 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
556 {
557         unsigned int irq;
558         unsigned int plat_gsi = gsi;
559
560 #ifdef CONFIG_PCI
561         /*
562          * Make sure all (legacy) PCI IRQs are set as level-triggered.
563          */
564         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
565                 if (triggering == ACPI_LEVEL_SENSITIVE)
566                         eisa_set_level_irq(gsi);
567         }
568 #endif
569
570 #ifdef CONFIG_X86_IO_APIC
571         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
572                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
573         }
574 #endif
575         acpi_gsi_to_irq(plat_gsi, &irq);
576         return irq;
577 }
578
579 /*
580  *  ACPI based hotplug support for CPU
581  */
582 #ifdef CONFIG_ACPI_HOTPLUG_CPU
583
584 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
585 {
586         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
587         union acpi_object *obj;
588         struct acpi_madt_local_apic *lapic;
589         cpumask_var_t tmp_map, new_map;
590         u8 physid;
591         int cpu;
592         int retval = -ENOMEM;
593
594         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
595                 return -EINVAL;
596
597         if (!buffer.length || !buffer.pointer)
598                 return -EINVAL;
599
600         obj = buffer.pointer;
601         if (obj->type != ACPI_TYPE_BUFFER ||
602             obj->buffer.length < sizeof(*lapic)) {
603                 kfree(buffer.pointer);
604                 return -EINVAL;
605         }
606
607         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
608
609         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
610             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
611                 kfree(buffer.pointer);
612                 return -EINVAL;
613         }
614
615         physid = lapic->id;
616
617         kfree(buffer.pointer);
618         buffer.length = ACPI_ALLOCATE_BUFFER;
619         buffer.pointer = NULL;
620
621         if (!alloc_cpumask_var(&tmp_map, GFP_KERNEL))
622                 goto out;
623
624         if (!alloc_cpumask_var(&new_map, GFP_KERNEL))
625                 goto free_tmp_map;
626
627         cpumask_copy(tmp_map, cpu_present_mask);
628         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
629
630         /*
631          * If mp_register_lapic successfully generates a new logical cpu
632          * number, then the following will get us exactly what was mapped
633          */
634         cpumask_andnot(new_map, cpu_present_mask, tmp_map);
635         if (cpumask_empty(new_map)) {
636                 printk ("Unable to map lapic to logical cpu number\n");
637                 retval = -EINVAL;
638                 goto free_new_map;
639         }
640
641         cpu = cpumask_first(new_map);
642
643         *pcpu = cpu;
644         retval = 0;
645
646 free_new_map:
647         free_cpumask_var(new_map);
648 free_tmp_map:
649         free_cpumask_var(tmp_map);
650 out:
651         return retval;
652 }
653
654 /* wrapper to silence section mismatch warning */
655 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
656 {
657         return _acpi_map_lsapic(handle, pcpu);
658 }
659 EXPORT_SYMBOL(acpi_map_lsapic);
660
661 int acpi_unmap_lsapic(int cpu)
662 {
663         per_cpu(x86_cpu_to_apicid, cpu) = -1;
664         set_cpu_present(cpu, false);
665         num_processors--;
666
667         return (0);
668 }
669
670 EXPORT_SYMBOL(acpi_unmap_lsapic);
671 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
672
673 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
674 {
675         /* TBD */
676         return -EINVAL;
677 }
678
679 EXPORT_SYMBOL(acpi_register_ioapic);
680
681 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
682 {
683         /* TBD */
684         return -EINVAL;
685 }
686
687 EXPORT_SYMBOL(acpi_unregister_ioapic);
688
689 static int __init acpi_parse_sbf(struct acpi_table_header *table)
690 {
691         struct acpi_table_boot *sb;
692
693         sb = (struct acpi_table_boot *)table;
694         if (!sb) {
695                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
696                 return -ENODEV;
697         }
698
699         sbf_port = sb->cmos_index;      /* Save CMOS port */
700
701         return 0;
702 }
703
704 #ifdef CONFIG_HPET_TIMER
705 #include <asm/hpet.h>
706
707 static struct __initdata resource *hpet_res;
708
709 static int __init acpi_parse_hpet(struct acpi_table_header *table)
710 {
711         struct acpi_table_hpet *hpet_tbl;
712
713         hpet_tbl = (struct acpi_table_hpet *)table;
714         if (!hpet_tbl) {
715                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
716                 return -ENODEV;
717         }
718
719         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
720                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
721                        "memory.\n");
722                 return -1;
723         }
724
725         hpet_address = hpet_tbl->address.address;
726
727         /*
728          * Some broken BIOSes advertise HPET at 0x0. We really do not
729          * want to allocate a resource there.
730          */
731         if (!hpet_address) {
732                 printk(KERN_WARNING PREFIX
733                        "HPET id: %#x base: %#lx is invalid\n",
734                        hpet_tbl->id, hpet_address);
735                 return 0;
736         }
737 #ifdef CONFIG_X86_64
738         /*
739          * Some even more broken BIOSes advertise HPET at
740          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
741          * some noise:
742          */
743         if (hpet_address == 0xfed0000000000000UL) {
744                 if (!hpet_force_user) {
745                         printk(KERN_WARNING PREFIX "HPET id: %#x "
746                                "base: 0xfed0000000000000 is bogus\n "
747                                "try hpet=force on the kernel command line to "
748                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
749                         hpet_address = 0;
750                         return 0;
751                 }
752                 printk(KERN_WARNING PREFIX
753                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
754                        "to 0xfed00000.\n", hpet_tbl->id);
755                 hpet_address >>= 32;
756         }
757 #endif
758         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
759                hpet_tbl->id, hpet_address);
760
761         /*
762          * Allocate and initialize the HPET firmware resource for adding into
763          * the resource tree during the lateinit timeframe.
764          */
765 #define HPET_RESOURCE_NAME_SIZE 9
766         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
767
768         hpet_res->name = (void *)&hpet_res[1];
769         hpet_res->flags = IORESOURCE_MEM;
770         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
771                  hpet_tbl->sequence);
772
773         hpet_res->start = hpet_address;
774         hpet_res->end = hpet_address + (1 * 1024) - 1;
775
776         return 0;
777 }
778
779 /*
780  * hpet_insert_resource inserts the HPET resources used into the resource
781  * tree.
782  */
783 static __init int hpet_insert_resource(void)
784 {
785         if (!hpet_res)
786                 return 1;
787
788         return insert_resource(&iomem_resource, hpet_res);
789 }
790
791 late_initcall(hpet_insert_resource);
792
793 #else
794 #define acpi_parse_hpet NULL
795 #endif
796
797 static int __init acpi_parse_fadt(struct acpi_table_header *table)
798 {
799
800 #ifdef CONFIG_X86_PM_TIMER
801         /* detect the location of the ACPI PM Timer */
802         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
803                 /* FADT rev. 2 */
804                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
805                     ACPI_ADR_SPACE_SYSTEM_IO)
806                         return 0;
807
808                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
809                 /*
810                  * "X" fields are optional extensions to the original V1.0
811                  * fields, so we must selectively expand V1.0 fields if the
812                  * corresponding X field is zero.
813                  */
814                 if (!pmtmr_ioport)
815                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
816         } else {
817                 /* FADT rev. 1 */
818                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
819         }
820         if (pmtmr_ioport)
821                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
822                        pmtmr_ioport);
823 #endif
824         return 0;
825 }
826
827 #ifdef  CONFIG_X86_LOCAL_APIC
828 /*
829  * Parse LAPIC entries in MADT
830  * returns 0 on success, < 0 on error
831  */
832
833 static void __init acpi_register_lapic_address(unsigned long address)
834 {
835         mp_lapic_addr = address;
836
837         set_fixmap_nocache(FIX_APIC_BASE, address);
838         if (boot_cpu_physical_apicid == -1U) {
839                 boot_cpu_physical_apicid  = read_apic_id();
840                 apic_version[boot_cpu_physical_apicid] =
841                          GET_APIC_VERSION(apic_read(APIC_LVR));
842         }
843 }
844
845 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
846 {
847         int count;
848
849         if (!cpu_has_apic)
850                 return -ENODEV;
851
852         /*
853          * Note that the LAPIC address is obtained from the MADT (32-bit value)
854          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
855          */
856
857         count =
858             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
859                                   acpi_parse_lapic_addr_ovr, 0);
860         if (count < 0) {
861                 printk(KERN_ERR PREFIX
862                        "Error parsing LAPIC address override entry\n");
863                 return count;
864         }
865
866         acpi_register_lapic_address(acpi_lapic_addr);
867
868         return count;
869 }
870
871 static int __init acpi_parse_madt_lapic_entries(void)
872 {
873         int count;
874         int x2count = 0;
875
876         if (!cpu_has_apic)
877                 return -ENODEV;
878
879         /*
880          * Note that the LAPIC address is obtained from the MADT (32-bit value)
881          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
882          */
883
884         count =
885             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
886                                   acpi_parse_lapic_addr_ovr, 0);
887         if (count < 0) {
888                 printk(KERN_ERR PREFIX
889                        "Error parsing LAPIC address override entry\n");
890                 return count;
891         }
892
893         acpi_register_lapic_address(acpi_lapic_addr);
894
895         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
896                                       acpi_parse_sapic, MAX_APICS);
897
898         if (!count) {
899                 x2count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_X2APIC,
900                                                 acpi_parse_x2apic, MAX_APICS);
901                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
902                                               acpi_parse_lapic, MAX_APICS);
903         }
904         if (!count && !x2count) {
905                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
906                 /* TBD: Cleanup to allow fallback to MPS */
907                 return -ENODEV;
908         } else if (count < 0 || x2count < 0) {
909                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
910                 /* TBD: Cleanup to allow fallback to MPS */
911                 return count;
912         }
913
914         x2count =
915             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_X2APIC_NMI,
916                                   acpi_parse_x2apic_nmi, 0);
917         count =
918             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
919         if (count < 0 || x2count < 0) {
920                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
921                 /* TBD: Cleanup to allow fallback to MPS */
922                 return count;
923         }
924         return 0;
925 }
926 #endif                          /* CONFIG_X86_LOCAL_APIC */
927
928 #ifdef  CONFIG_X86_IO_APIC
929 #define MP_ISA_BUS              0
930
931 #ifdef CONFIG_X86_ES7000
932 extern int es7000_plat;
933 #endif
934
935 static struct {
936         int apic_id;
937         int gsi_base;
938         int gsi_end;
939         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
940 } mp_ioapic_routing[MAX_IO_APICS];
941
942 static int mp_find_ioapic(int gsi)
943 {
944         int i = 0;
945
946         /* Find the IOAPIC that manages this GSI. */
947         for (i = 0; i < nr_ioapics; i++) {
948                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
949                     && (gsi <= mp_ioapic_routing[i].gsi_end))
950                         return i;
951         }
952
953         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
954         return -1;
955 }
956
957 static u8 __init uniq_ioapic_id(u8 id)
958 {
959 #ifdef CONFIG_X86_32
960         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
961             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
962                 return io_apic_get_unique_id(nr_ioapics, id);
963         else
964                 return id;
965 #else
966         int i;
967         DECLARE_BITMAP(used, 256);
968         bitmap_zero(used, 256);
969         for (i = 0; i < nr_ioapics; i++) {
970                 struct mp_config_ioapic *ia = &mp_ioapics[i];
971                 __set_bit(ia->mp_apicid, used);
972         }
973         if (!test_bit(id, used))
974                 return id;
975         return find_first_zero_bit(used, 256);
976 #endif
977 }
978
979 static int bad_ioapic(unsigned long address)
980 {
981         if (nr_ioapics >= MAX_IO_APICS) {
982                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
983                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
984                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
985         }
986         if (!address) {
987                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
988                        " found in table, skipping!\n");
989                 return 1;
990         }
991         return 0;
992 }
993
994 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
995 {
996         int idx = 0;
997
998         if (bad_ioapic(address))
999                 return;
1000
1001         idx = nr_ioapics;
1002
1003         mp_ioapics[idx].mp_type = MP_IOAPIC;
1004         mp_ioapics[idx].mp_flags = MPC_APIC_USABLE;
1005         mp_ioapics[idx].mp_apicaddr = address;
1006
1007         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
1008         mp_ioapics[idx].mp_apicid = uniq_ioapic_id(id);
1009 #ifdef CONFIG_X86_32
1010         mp_ioapics[idx].mp_apicver = io_apic_get_version(idx);
1011 #else
1012         mp_ioapics[idx].mp_apicver = 0;
1013 #endif
1014         /*
1015          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
1016          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
1017          */
1018         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].mp_apicid;
1019         mp_ioapic_routing[idx].gsi_base = gsi_base;
1020         mp_ioapic_routing[idx].gsi_end = gsi_base +
1021             io_apic_get_redir_entries(idx);
1022
1023         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%lx, "
1024                "GSI %d-%d\n", idx, mp_ioapics[idx].mp_apicid,
1025                mp_ioapics[idx].mp_apicver, mp_ioapics[idx].mp_apicaddr,
1026                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
1027
1028         nr_ioapics++;
1029 }
1030
1031 int __init acpi_probe_gsi(void)
1032 {
1033         int idx;
1034         int gsi;
1035         int max_gsi = 0;
1036
1037         if (acpi_disabled)
1038                 return 0;
1039
1040         if (!acpi_ioapic)
1041                 return 0;
1042
1043         max_gsi = 0;
1044         for (idx = 0; idx < nr_ioapics; idx++) {
1045                 gsi = mp_ioapic_routing[idx].gsi_end;
1046
1047                 if (gsi > max_gsi)
1048                         max_gsi = gsi;
1049         }
1050
1051         return max_gsi + 1;
1052 }
1053
1054 static void assign_to_mp_irq(struct mp_config_intsrc *m,
1055                                     struct mp_config_intsrc *mp_irq)
1056 {
1057         memcpy(mp_irq, m, sizeof(struct mp_config_intsrc));
1058 }
1059
1060 static int mp_irq_cmp(struct mp_config_intsrc *mp_irq,
1061                                 struct mp_config_intsrc *m)
1062 {
1063         return memcmp(mp_irq, m, sizeof(struct mp_config_intsrc));
1064 }
1065
1066 static void save_mp_irq(struct mp_config_intsrc *m)
1067 {
1068         int i;
1069
1070         for (i = 0; i < mp_irq_entries; i++) {
1071                 if (!mp_irq_cmp(&mp_irqs[i], m))
1072                         return;
1073         }
1074
1075         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
1076         if (++mp_irq_entries == MAX_IRQ_SOURCES)
1077                 panic("Max # of irq sources exceeded!!\n");
1078 }
1079
1080 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
1081 {
1082         int ioapic;
1083         int pin;
1084         struct mp_config_intsrc mp_irq;
1085
1086         /*
1087          * Convert 'gsi' to 'ioapic.pin'.
1088          */
1089         ioapic = mp_find_ioapic(gsi);
1090         if (ioapic < 0)
1091                 return;
1092         pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1093
1094         /*
1095          * TBD: This check is for faulty timer entries, where the override
1096          *      erroneously sets the trigger to level, resulting in a HUGE
1097          *      increase of timer interrupts!
1098          */
1099         if ((bus_irq == 0) && (trigger == 3))
1100                 trigger = 1;
1101
1102         mp_irq.mp_type = MP_INTSRC;
1103         mp_irq.mp_irqtype = mp_INT;
1104         mp_irq.mp_irqflag = (trigger << 2) | polarity;
1105         mp_irq.mp_srcbus = MP_ISA_BUS;
1106         mp_irq.mp_srcbusirq = bus_irq;  /* IRQ */
1107         mp_irq.mp_dstapic = mp_ioapics[ioapic].mp_apicid; /* APIC ID */
1108         mp_irq.mp_dstirq = pin; /* INTIN# */
1109
1110         save_mp_irq(&mp_irq);
1111 }
1112
1113 void __init mp_config_acpi_legacy_irqs(void)
1114 {
1115         int i;
1116         int ioapic;
1117         unsigned int dstapic;
1118         struct mp_config_intsrc mp_irq;
1119
1120 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1121         /*
1122          * Fabricate the legacy ISA bus (bus #31).
1123          */
1124         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1125 #endif
1126         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1127         pr_debug("Bus #%d is ISA\n", MP_ISA_BUS);
1128
1129 #ifdef CONFIG_X86_ES7000
1130         /*
1131          * Older generations of ES7000 have no legacy identity mappings
1132          */
1133         if (es7000_plat == 1)
1134                 return;
1135 #endif
1136
1137         /*
1138          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1139          */
1140         ioapic = mp_find_ioapic(0);
1141         if (ioapic < 0)
1142                 return;
1143         dstapic = mp_ioapics[ioapic].mp_apicid;
1144
1145         /*
1146          * Use the default configuration for the IRQs 0-15.  Unless
1147          * overridden by (MADT) interrupt source override entries.
1148          */
1149         for (i = 0; i < 16; i++) {
1150                 int idx;
1151
1152                 for (idx = 0; idx < mp_irq_entries; idx++) {
1153                         struct mp_config_intsrc *irq = mp_irqs + idx;
1154
1155                         /* Do we already have a mapping for this ISA IRQ? */
1156                         if (irq->mp_srcbus == MP_ISA_BUS
1157                             && irq->mp_srcbusirq == i)
1158                                 break;
1159
1160                         /* Do we already have a mapping for this IOAPIC pin */
1161                         if (irq->mp_dstapic == dstapic &&
1162                             irq->mp_dstirq == i)
1163                                 break;
1164                 }
1165
1166                 if (idx != mp_irq_entries) {
1167                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1168                         continue;       /* IRQ already used */
1169                 }
1170
1171                 mp_irq.mp_type = MP_INTSRC;
1172                 mp_irq.mp_irqflag = 0;  /* Conforming */
1173                 mp_irq.mp_srcbus = MP_ISA_BUS;
1174                 mp_irq.mp_dstapic = dstapic;
1175                 mp_irq.mp_irqtype = mp_INT;
1176                 mp_irq.mp_srcbusirq = i; /* Identity mapped */
1177                 mp_irq.mp_dstirq = i;
1178
1179                 save_mp_irq(&mp_irq);
1180         }
1181 }
1182
1183 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1184 {
1185         int ioapic;
1186         int ioapic_pin;
1187 #ifdef CONFIG_X86_32
1188 #define MAX_GSI_NUM     4096
1189 #define IRQ_COMPRESSION_START   64
1190
1191         static int pci_irq = IRQ_COMPRESSION_START;
1192         /*
1193          * Mapping between Global System Interrupts, which
1194          * represent all possible interrupts, and IRQs
1195          * assigned to actual devices.
1196          */
1197         static int gsi_to_irq[MAX_GSI_NUM];
1198 #else
1199
1200         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1201                 return gsi;
1202 #endif
1203
1204         /* Don't set up the ACPI SCI because it's already set up */
1205         if (acpi_gbl_FADT.sci_interrupt == gsi)
1206                 return gsi;
1207
1208         ioapic = mp_find_ioapic(gsi);
1209         if (ioapic < 0) {
1210                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1211                 return gsi;
1212         }
1213
1214         ioapic_pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1215
1216 #ifdef CONFIG_X86_32
1217         if (ioapic_renumber_irq)
1218                 gsi = ioapic_renumber_irq(ioapic, gsi);
1219 #endif
1220
1221         /*
1222          * Avoid pin reprogramming.  PRTs typically include entries
1223          * with redundant pin->gsi mappings (but unique PCI devices);
1224          * we only program the IOAPIC on the first.
1225          */
1226         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1227                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1228                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1229                        ioapic_pin);
1230                 return gsi;
1231         }
1232         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1233                 pr_debug("Pin %d-%d already programmed\n",
1234                          mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1235 #ifdef CONFIG_X86_32
1236                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1237 #else
1238                 return gsi;
1239 #endif
1240         }
1241
1242         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1243 #ifdef CONFIG_X86_32
1244         /*
1245          * For GSI >= 64, use IRQ compression
1246          */
1247         if ((gsi >= IRQ_COMPRESSION_START)
1248             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1249                 /*
1250                  * For PCI devices assign IRQs in order, avoiding gaps
1251                  * due to unused I/O APIC pins.
1252                  */
1253                 int irq = gsi;
1254                 if (gsi < MAX_GSI_NUM) {
1255                         /*
1256                          * Retain the VIA chipset work-around (gsi > 15), but
1257                          * avoid a problem where the 8254 timer (IRQ0) is setup
1258                          * via an override (so it's not on pin 0 of the ioapic),
1259                          * and at the same time, the pin 0 interrupt is a PCI
1260                          * type.  The gsi > 15 test could cause these two pins
1261                          * to be shared as IRQ0, and they are not shareable.
1262                          * So test for this condition, and if necessary, avoid
1263                          * the pin collision.
1264                          */
1265                         gsi = pci_irq++;
1266                         /*
1267                          * Don't assign IRQ used by ACPI SCI
1268                          */
1269                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1270                                 gsi = pci_irq++;
1271                         gsi_to_irq[irq] = gsi;
1272                 } else {
1273                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1274                         return gsi;
1275                 }
1276         }
1277 #endif
1278         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1279                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1280                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1281         return gsi;
1282 }
1283
1284 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1285                         u32 gsi, int triggering, int polarity)
1286 {
1287 #ifdef CONFIG_X86_MPPARSE
1288         struct mp_config_intsrc mp_irq;
1289         int ioapic;
1290
1291         if (!acpi_ioapic)
1292                 return 0;
1293
1294         /* print the entry should happen on mptable identically */
1295         mp_irq.mp_type = MP_INTSRC;
1296         mp_irq.mp_irqtype = mp_INT;
1297         mp_irq.mp_irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1298                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1299         mp_irq.mp_srcbus = number;
1300         mp_irq.mp_srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1301         ioapic = mp_find_ioapic(gsi);
1302         mp_irq.mp_dstapic = mp_ioapic_routing[ioapic].apic_id;
1303         mp_irq.mp_dstirq = gsi - mp_ioapic_routing[ioapic].gsi_base;
1304
1305         save_mp_irq(&mp_irq);
1306 #endif
1307         return 0;
1308 }
1309
1310 /*
1311  * Parse IOAPIC related entries in MADT
1312  * returns 0 on success, < 0 on error
1313  */
1314 static int __init acpi_parse_madt_ioapic_entries(void)
1315 {
1316         int count;
1317
1318         /*
1319          * ACPI interpreter is required to complete interrupt setup,
1320          * so if it is off, don't enumerate the io-apics with ACPI.
1321          * If MPS is present, it will handle them,
1322          * otherwise the system will stay in PIC mode
1323          */
1324         if (acpi_disabled || acpi_noirq) {
1325                 return -ENODEV;
1326         }
1327
1328         if (!cpu_has_apic)
1329                 return -ENODEV;
1330
1331         /*
1332          * if "noapic" boot option, don't look for IO-APICs
1333          */
1334         if (skip_ioapic_setup) {
1335                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1336                        "due to 'noapic' option.\n");
1337                 return -ENODEV;
1338         }
1339
1340         count =
1341             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1342                                   MAX_IO_APICS);
1343         if (!count) {
1344                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1345                 return -ENODEV;
1346         } else if (count < 0) {
1347                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1348                 return count;
1349         }
1350
1351         count =
1352             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1353                                   nr_irqs);
1354         if (count < 0) {
1355                 printk(KERN_ERR PREFIX
1356                        "Error parsing interrupt source overrides entry\n");
1357                 /* TBD: Cleanup to allow fallback to MPS */
1358                 return count;
1359         }
1360
1361         /*
1362          * If BIOS did not supply an INT_SRC_OVR for the SCI
1363          * pretend we got one so we can set the SCI flags.
1364          */
1365         if (!acpi_sci_override_gsi)
1366                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1367
1368         /* Fill in identity legacy mapings where no override */
1369         mp_config_acpi_legacy_irqs();
1370
1371         count =
1372             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1373                                   nr_irqs);
1374         if (count < 0) {
1375                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1376                 /* TBD: Cleanup to allow fallback to MPS */
1377                 return count;
1378         }
1379
1380         return 0;
1381 }
1382 #else
1383 static inline int acpi_parse_madt_ioapic_entries(void)
1384 {
1385         return -1;
1386 }
1387 #endif  /* !CONFIG_X86_IO_APIC */
1388
1389 static void __init early_acpi_process_madt(void)
1390 {
1391 #ifdef CONFIG_X86_LOCAL_APIC
1392         int error;
1393
1394         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1395
1396                 /*
1397                  * Parse MADT LAPIC entries
1398                  */
1399                 error = early_acpi_parse_madt_lapic_addr_ovr();
1400                 if (!error) {
1401                         acpi_lapic = 1;
1402                         smp_found_config = 1;
1403                 }
1404                 if (error == -EINVAL) {
1405                         /*
1406                          * Dell Precision Workstation 410, 610 come here.
1407                          */
1408                         printk(KERN_ERR PREFIX
1409                                "Invalid BIOS MADT, disabling ACPI\n");
1410                         disable_acpi();
1411                 }
1412         }
1413 #endif
1414 }
1415
1416 static void __init acpi_process_madt(void)
1417 {
1418 #ifdef CONFIG_X86_LOCAL_APIC
1419         int error;
1420
1421         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1422
1423                 /*
1424                  * Parse MADT LAPIC entries
1425                  */
1426                 error = acpi_parse_madt_lapic_entries();
1427                 if (!error) {
1428                         acpi_lapic = 1;
1429
1430 #ifdef CONFIG_X86_GENERICARCH
1431                         generic_bigsmp_probe();
1432 #endif
1433                         /*
1434                          * Parse MADT IO-APIC entries
1435                          */
1436                         error = acpi_parse_madt_ioapic_entries();
1437                         if (!error) {
1438                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1439                                 acpi_ioapic = 1;
1440
1441                                 smp_found_config = 1;
1442 #ifdef CONFIG_X86_32
1443                                 setup_apic_routing();
1444 #endif
1445                         }
1446                 }
1447                 if (error == -EINVAL) {
1448                         /*
1449                          * Dell Precision Workstation 410, 610 come here.
1450                          */
1451                         printk(KERN_ERR PREFIX
1452                                "Invalid BIOS MADT, disabling ACPI\n");
1453                         disable_acpi();
1454                 }
1455         } else {
1456                 /*
1457                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1458                  * In the event an MPS table was found, forget it.
1459                  * Boot with "acpi=off" to use MPS on such a system.
1460                  */
1461                 if (smp_found_config) {
1462                         printk(KERN_WARNING PREFIX
1463                                 "No APIC-table, disabling MPS\n");
1464                         smp_found_config = 0;
1465                 }
1466         }
1467
1468         /*
1469          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1470          * processors, where MPS only supports physical.
1471          */
1472         if (acpi_lapic && acpi_ioapic)
1473                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1474                        "information\n");
1475         else if (acpi_lapic)
1476                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1477                        "configuration information\n");
1478 #endif
1479         return;
1480 }
1481
1482 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1483 {
1484         if (!acpi_force) {
1485                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1486                        d->ident);
1487                 acpi_noirq_set();
1488         }
1489         return 0;
1490 }
1491
1492 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1493 {
1494         if (!acpi_force) {
1495                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1496                        d->ident);
1497                 acpi_disable_pci();
1498         }
1499         return 0;
1500 }
1501
1502 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1503 {
1504         if (!acpi_force) {
1505                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1506                 disable_acpi();
1507         } else {
1508                 printk(KERN_NOTICE
1509                        "Warning: DMI blacklist says broken, but acpi forced\n");
1510         }
1511         return 0;
1512 }
1513
1514 /*
1515  * Limit ACPI to CPU enumeration for HT
1516  */
1517 static int __init force_acpi_ht(const struct dmi_system_id *d)
1518 {
1519         if (!acpi_force) {
1520                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1521                        d->ident);
1522                 disable_acpi();
1523                 acpi_ht = 1;
1524         } else {
1525                 printk(KERN_NOTICE
1526                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1527         }
1528         return 0;
1529 }
1530
1531 /*
1532  * Force ignoring BIOS IRQ0 pin2 override
1533  */
1534 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1535 {
1536         /*
1537          * The ati_ixp4x0_rev() early PCI quirk should have set
1538          * the acpi_skip_timer_override flag already:
1539          */
1540         if (!acpi_skip_timer_override) {
1541                 WARN(1, KERN_ERR "ati_ixp4x0 quirk not complete.\n");
1542                 pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n",
1543                         d->ident);
1544                 acpi_skip_timer_override = 1;
1545         }
1546         return 0;
1547 }
1548
1549 /*
1550  * If your system is blacklisted here, but you find that acpi=force
1551  * works for you, please contact acpi-devel@sourceforge.net
1552  */
1553 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1554         /*
1555          * Boxes that need ACPI disabled
1556          */
1557         {
1558          .callback = dmi_disable_acpi,
1559          .ident = "IBM Thinkpad",
1560          .matches = {
1561                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1562                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1563                      },
1564          },
1565
1566         /*
1567          * Boxes that need acpi=ht
1568          */
1569         {
1570          .callback = force_acpi_ht,
1571          .ident = "FSC Primergy T850",
1572          .matches = {
1573                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1574                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1575                      },
1576          },
1577         {
1578          .callback = force_acpi_ht,
1579          .ident = "HP VISUALIZE NT Workstation",
1580          .matches = {
1581                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1582                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1583                      },
1584          },
1585         {
1586          .callback = force_acpi_ht,
1587          .ident = "Compaq Workstation W8000",
1588          .matches = {
1589                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1590                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1591                      },
1592          },
1593         {
1594          .callback = force_acpi_ht,
1595          .ident = "ASUS P4B266",
1596          .matches = {
1597                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1598                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1599                      },
1600          },
1601         {
1602          .callback = force_acpi_ht,
1603          .ident = "ASUS P2B-DS",
1604          .matches = {
1605                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1606                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1607                      },
1608          },
1609         {
1610          .callback = force_acpi_ht,
1611          .ident = "ASUS CUR-DLS",
1612          .matches = {
1613                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1614                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1615                      },
1616          },
1617         {
1618          .callback = force_acpi_ht,
1619          .ident = "ABIT i440BX-W83977",
1620          .matches = {
1621                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1622                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1623                      },
1624          },
1625         {
1626          .callback = force_acpi_ht,
1627          .ident = "IBM Bladecenter",
1628          .matches = {
1629                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1630                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1631                      },
1632          },
1633         {
1634          .callback = force_acpi_ht,
1635          .ident = "IBM eServer xSeries 360",
1636          .matches = {
1637                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1638                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1639                      },
1640          },
1641         {
1642          .callback = force_acpi_ht,
1643          .ident = "IBM eserver xSeries 330",
1644          .matches = {
1645                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1646                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1647                      },
1648          },
1649         {
1650          .callback = force_acpi_ht,
1651          .ident = "IBM eserver xSeries 440",
1652          .matches = {
1653                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1654                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1655                      },
1656          },
1657
1658         /*
1659          * Boxes that need ACPI PCI IRQ routing disabled
1660          */
1661         {
1662          .callback = disable_acpi_irq,
1663          .ident = "ASUS A7V",
1664          .matches = {
1665                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1666                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1667                      /* newer BIOS, Revision 1011, does work */
1668                      DMI_MATCH(DMI_BIOS_VERSION,
1669                                "ASUS A7V ACPI BIOS Revision 1007"),
1670                      },
1671          },
1672         {
1673                 /*
1674                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1675                  * for LPC bridge, which is needed for the PCI
1676                  * interrupt links to work. DSDT fix is in bug 5966.
1677                  * 2645, 2646 model numbers are shared with 600/600E/600X
1678                  */
1679          .callback = disable_acpi_irq,
1680          .ident = "IBM Thinkpad 600 Series 2645",
1681          .matches = {
1682                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1683                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1684                      },
1685          },
1686         {
1687          .callback = disable_acpi_irq,
1688          .ident = "IBM Thinkpad 600 Series 2646",
1689          .matches = {
1690                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1691                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1692                      },
1693          },
1694         /*
1695          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1696          */
1697         {                       /* _BBN 0 bug */
1698          .callback = disable_acpi_pci,
1699          .ident = "ASUS PR-DLS",
1700          .matches = {
1701                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1702                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1703                      DMI_MATCH(DMI_BIOS_VERSION,
1704                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1705                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1706                      },
1707          },
1708         {
1709          .callback = disable_acpi_pci,
1710          .ident = "Acer TravelMate 36x Laptop",
1711          .matches = {
1712                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1713                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1714                      },
1715          },
1716         {}
1717 };
1718
1719 /* second table for DMI checks that should run after early-quirks */
1720 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1721         /*
1722          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1723          * which includes some code which overrides all temperature
1724          * trip points to 16C if the INTIN2 input of the I/O APIC
1725          * is enabled.  This input is incorrectly designated the
1726          * ISA IRQ 0 via an interrupt source override even though
1727          * it is wired to the output of the master 8259A and INTIN0
1728          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1729          * override in that cases.
1730          */
1731         {
1732          .callback = dmi_ignore_irq0_timer_override,
1733          .ident = "HP nx6115 laptop",
1734          .matches = {
1735                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1736                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1737                      },
1738          },
1739         {
1740          .callback = dmi_ignore_irq0_timer_override,
1741          .ident = "HP NX6125 laptop",
1742          .matches = {
1743                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1744                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1745                      },
1746          },
1747         {
1748          .callback = dmi_ignore_irq0_timer_override,
1749          .ident = "HP NX6325 laptop",
1750          .matches = {
1751                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1752                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1753                      },
1754          },
1755         {
1756          .callback = dmi_ignore_irq0_timer_override,
1757          .ident = "HP 6715b laptop",
1758          .matches = {
1759                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1760                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1761                      },
1762          },
1763         {}
1764 };
1765
1766 /*
1767  * acpi_boot_table_init() and acpi_boot_init()
1768  *  called from setup_arch(), always.
1769  *      1. checksums all tables
1770  *      2. enumerates lapics
1771  *      3. enumerates io-apics
1772  *
1773  * acpi_table_init() is separate to allow reading SRAT without
1774  * other side effects.
1775  *
1776  * side effects of acpi_boot_init:
1777  *      acpi_lapic = 1 if LAPIC found
1778  *      acpi_ioapic = 1 if IOAPIC found
1779  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1780  *      if acpi_blacklisted() acpi_disabled = 1;
1781  *      acpi_irq_model=...
1782  *      ...
1783  *
1784  * return value: (currently ignored)
1785  *      0: success
1786  *      !0: failure
1787  */
1788
1789 int __init acpi_boot_table_init(void)
1790 {
1791         int error;
1792
1793         dmi_check_system(acpi_dmi_table);
1794
1795         /*
1796          * If acpi_disabled, bail out
1797          * One exception: acpi=ht continues far enough to enumerate LAPICs
1798          */
1799         if (acpi_disabled && !acpi_ht)
1800                 return 1;
1801
1802         /*
1803          * Initialize the ACPI boot-time table parser.
1804          */
1805         error = acpi_table_init();
1806         if (error) {
1807                 disable_acpi();
1808                 return error;
1809         }
1810
1811         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1812
1813         /*
1814          * blacklist may disable ACPI entirely
1815          */
1816         error = acpi_blacklisted();
1817         if (error) {
1818                 if (acpi_force) {
1819                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1820                 } else {
1821                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1822                         disable_acpi();
1823                         return error;
1824                 }
1825         }
1826
1827         return 0;
1828 }
1829
1830 int __init early_acpi_boot_init(void)
1831 {
1832         /*
1833          * If acpi_disabled, bail out
1834          * One exception: acpi=ht continues far enough to enumerate LAPICs
1835          */
1836         if (acpi_disabled && !acpi_ht)
1837                 return 1;
1838
1839         /*
1840          * Process the Multiple APIC Description Table (MADT), if present
1841          */
1842         early_acpi_process_madt();
1843
1844         return 0;
1845 }
1846
1847 int __init acpi_boot_init(void)
1848 {
1849         /* those are executed after early-quirks are executed */
1850         dmi_check_system(acpi_dmi_table_late);
1851
1852         /*
1853          * If acpi_disabled, bail out
1854          * One exception: acpi=ht continues far enough to enumerate LAPICs
1855          */
1856         if (acpi_disabled && !acpi_ht)
1857                 return 1;
1858
1859         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1860
1861         /*
1862          * set sci_int and PM timer address
1863          */
1864         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1865
1866         /*
1867          * Process the Multiple APIC Description Table (MADT), if present
1868          */
1869         acpi_process_madt();
1870
1871         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1872
1873         return 0;
1874 }
1875
1876 static int __init parse_acpi(char *arg)
1877 {
1878         if (!arg)
1879                 return -EINVAL;
1880
1881         /* "acpi=off" disables both ACPI table parsing and interpreter */
1882         if (strcmp(arg, "off") == 0) {
1883                 disable_acpi();
1884         }
1885         /* acpi=force to over-ride black-list */
1886         else if (strcmp(arg, "force") == 0) {
1887                 acpi_force = 1;
1888                 acpi_ht = 1;
1889                 acpi_disabled = 0;
1890         }
1891         /* acpi=strict disables out-of-spec workarounds */
1892         else if (strcmp(arg, "strict") == 0) {
1893                 acpi_strict = 1;
1894         }
1895         /* Limit ACPI just to boot-time to enable HT */
1896         else if (strcmp(arg, "ht") == 0) {
1897                 if (!acpi_force)
1898                         disable_acpi();
1899                 acpi_ht = 1;
1900         }
1901         /* acpi=rsdt use RSDT instead of XSDT */
1902         else if (strcmp(arg, "rsdt") == 0) {
1903                 acpi_rsdt_forced = 1;
1904         }
1905         /* "acpi=noirq" disables ACPI interrupt routing */
1906         else if (strcmp(arg, "noirq") == 0) {
1907                 acpi_noirq_set();
1908         } else {
1909                 /* Core will printk when we return error. */
1910                 return -EINVAL;
1911         }
1912         return 0;
1913 }
1914 early_param("acpi", parse_acpi);
1915
1916 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1917 static int __init parse_pci(char *arg)
1918 {
1919         if (arg && strcmp(arg, "noacpi") == 0)
1920                 acpi_disable_pci();
1921         return 0;
1922 }
1923 early_param("pci", parse_pci);
1924
1925 int __init acpi_mps_check(void)
1926 {
1927 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1928 /* mptable code is not built-in*/
1929         if (acpi_disabled || acpi_noirq) {
1930                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1931                        "Using acpi=off or acpi=noirq or pci=noacpi "
1932                        "may have problem\n");
1933                 return 1;
1934         }
1935 #endif
1936         return 0;
1937 }
1938
1939 #ifdef CONFIG_X86_IO_APIC
1940 static int __init parse_acpi_skip_timer_override(char *arg)
1941 {
1942         acpi_skip_timer_override = 1;
1943         return 0;
1944 }
1945 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1946
1947 static int __init parse_acpi_use_timer_override(char *arg)
1948 {
1949         acpi_use_timer_override = 1;
1950         return 0;
1951 }
1952 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1953 #endif /* CONFIG_X86_IO_APIC */
1954
1955 static int __init setup_acpi_sci(char *s)
1956 {
1957         if (!s)
1958                 return -EINVAL;
1959         if (!strcmp(s, "edge"))
1960                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1961                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1962         else if (!strcmp(s, "level"))
1963                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1964                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1965         else if (!strcmp(s, "high"))
1966                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1967                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1968         else if (!strcmp(s, "low"))
1969                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1970                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1971         else
1972                 return -EINVAL;
1973         return 0;
1974 }
1975 early_param("acpi_sci", setup_acpi_sci);
1976
1977 int __acpi_acquire_global_lock(unsigned int *lock)
1978 {
1979         unsigned int old, new, val;
1980         do {
1981                 old = *lock;
1982                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1983                 val = cmpxchg(lock, old, new);
1984         } while (unlikely (val != old));
1985         return (new < 3) ? -1 : 0;
1986 }
1987
1988 int __acpi_release_global_lock(unsigned int *lock)
1989 {
1990         unsigned int old, new, val;
1991         do {
1992                 old = *lock;
1993                 new = old & ~0x3;
1994                 val = cmpxchg(lock, old, new);
1995         } while (unlikely (val != old));
1996         return old & 0x1;
1997 }