Merge branch 'for_linus' of git://git.kernel.org/pub/scm/linux/kernel/git/tytso/ext4
[linux-2.6.git] / arch / x86 / kernel / acpi / boot.c
1 /*
2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
3  *
4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
6  *
7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
8  *
9  *  This program is free software; you can redistribute it and/or modify
10  *  it under the terms of the GNU General Public License as published by
11  *  the Free Software Foundation; either version 2 of the License, or
12  *  (at your option) any later version.
13  *
14  *  This program is distributed in the hope that it will be useful,
15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  *  GNU General Public License for more details.
18  *
19  *  You should have received a copy of the GNU General Public License
20  *  along with this program; if not, write to the Free Software
21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
22  *
23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
24  */
25
26 #include <linux/init.h>
27 #include <linux/acpi.h>
28 #include <linux/acpi_pmtmr.h>
29 #include <linux/efi.h>
30 #include <linux/cpumask.h>
31 #include <linux/module.h>
32 #include <linux/dmi.h>
33 #include <linux/irq.h>
34 #include <linux/bootmem.h>
35 #include <linux/ioport.h>
36
37 #include <asm/pgtable.h>
38 #include <asm/io_apic.h>
39 #include <asm/apic.h>
40 #include <asm/genapic.h>
41 #include <asm/io.h>
42 #include <asm/mpspec.h>
43 #include <asm/smp.h>
44
45 #ifdef CONFIG_X86_LOCAL_APIC
46 # include <mach_apic.h>
47 #endif
48
49 static int __initdata acpi_force = 0;
50
51 #ifdef  CONFIG_ACPI
52 int acpi_disabled = 0;
53 #else
54 int acpi_disabled = 1;
55 #endif
56 EXPORT_SYMBOL(acpi_disabled);
57
58 #ifdef  CONFIG_X86_64
59
60 #include <asm/proto.h>
61
62 #else                           /* X86 */
63
64 #ifdef  CONFIG_X86_LOCAL_APIC
65 #include <mach_apic.h>
66 #include <mach_mpparse.h>
67 #endif                          /* CONFIG_X86_LOCAL_APIC */
68
69 #endif                          /* X86 */
70
71 #define BAD_MADT_ENTRY(entry, end) (                                        \
72                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
73                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
74
75 #define PREFIX                  "ACPI: "
76
77 int acpi_noirq;                         /* skip ACPI IRQ initialization */
78 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
79 EXPORT_SYMBOL(acpi_pci_disabled);
80 int acpi_ht __initdata = 1;     /* enable HT */
81
82 int acpi_lapic;
83 int acpi_ioapic;
84 int acpi_strict;
85
86 u8 acpi_sci_flags __initdata;
87 int acpi_sci_override_gsi __initdata;
88 int acpi_skip_timer_override __initdata;
89 int acpi_use_timer_override __initdata;
90
91 #ifdef CONFIG_X86_LOCAL_APIC
92 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
93 #endif
94
95 #ifndef __HAVE_ARCH_CMPXCHG
96 #warning ACPI uses CMPXCHG, i486 and later hardware
97 #endif
98
99 /* --------------------------------------------------------------------------
100                               Boot-time Configuration
101    -------------------------------------------------------------------------- */
102
103 /*
104  * The default interrupt routing model is PIC (8259).  This gets
105  * overridden if IOAPICs are enumerated (below).
106  */
107 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
108
109
110 /*
111  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
112  * to map the target physical address. The problem is that set_fixmap()
113  * provides a single page, and it is possible that the page is not
114  * sufficient.
115  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
116  * i.e. until the next __va_range() call.
117  *
118  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
119  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
120  * count idx down while incrementing the phys address.
121  */
122 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
123 {
124         unsigned long base, offset, mapped_size;
125         int idx;
126
127         if (!phys || !size)
128                 return NULL;
129
130         if (phys+size <= (max_low_pfn_mapped << PAGE_SHIFT))
131                 return __va(phys);
132
133         offset = phys & (PAGE_SIZE - 1);
134         mapped_size = PAGE_SIZE - offset;
135         clear_fixmap(FIX_ACPI_END);
136         set_fixmap(FIX_ACPI_END, phys);
137         base = fix_to_virt(FIX_ACPI_END);
138
139         /*
140          * Most cases can be covered by the below.
141          */
142         idx = FIX_ACPI_END;
143         while (mapped_size < size) {
144                 if (--idx < FIX_ACPI_BEGIN)
145                         return NULL;    /* cannot handle this */
146                 phys += PAGE_SIZE;
147                 clear_fixmap(idx);
148                 set_fixmap(idx, phys);
149                 mapped_size += PAGE_SIZE;
150         }
151
152         return ((unsigned char *)base + offset);
153 }
154
155 #ifdef CONFIG_PCI_MMCONFIG
156
157 static int acpi_mcfg_64bit_base_addr __initdata = FALSE;
158
159 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
160 struct acpi_mcfg_allocation *pci_mmcfg_config;
161 int pci_mmcfg_config_num;
162
163 static int __init acpi_mcfg_oem_check(struct acpi_table_mcfg *mcfg)
164 {
165         if (!strcmp(mcfg->header.oem_id, "SGI"))
166                 acpi_mcfg_64bit_base_addr = TRUE;
167
168         return 0;
169 }
170
171 int __init acpi_parse_mcfg(struct acpi_table_header *header)
172 {
173         struct acpi_table_mcfg *mcfg;
174         unsigned long i;
175         int config_size;
176
177         if (!header)
178                 return -EINVAL;
179
180         mcfg = (struct acpi_table_mcfg *)header;
181
182         /* how many config structures do we have */
183         pci_mmcfg_config_num = 0;
184         i = header->length - sizeof(struct acpi_table_mcfg);
185         while (i >= sizeof(struct acpi_mcfg_allocation)) {
186                 ++pci_mmcfg_config_num;
187                 i -= sizeof(struct acpi_mcfg_allocation);
188         };
189         if (pci_mmcfg_config_num == 0) {
190                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
191                 return -ENODEV;
192         }
193
194         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
195         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
196         if (!pci_mmcfg_config) {
197                 printk(KERN_WARNING PREFIX
198                        "No memory for MCFG config tables\n");
199                 return -ENOMEM;
200         }
201
202         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
203
204         acpi_mcfg_oem_check(mcfg);
205
206         for (i = 0; i < pci_mmcfg_config_num; ++i) {
207                 if ((pci_mmcfg_config[i].address > 0xFFFFFFFF) &&
208                     !acpi_mcfg_64bit_base_addr) {
209                         printk(KERN_ERR PREFIX
210                                "MMCONFIG not in low 4GB of memory\n");
211                         kfree(pci_mmcfg_config);
212                         pci_mmcfg_config_num = 0;
213                         return -ENODEV;
214                 }
215         }
216
217         return 0;
218 }
219 #endif                          /* CONFIG_PCI_MMCONFIG */
220
221 #ifdef CONFIG_X86_LOCAL_APIC
222 static int __init acpi_parse_madt(struct acpi_table_header *table)
223 {
224         struct acpi_table_madt *madt = NULL;
225
226         if (!cpu_has_apic)
227                 return -EINVAL;
228
229         madt = (struct acpi_table_madt *)table;
230         if (!madt) {
231                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
232                 return -ENODEV;
233         }
234
235         if (madt->address) {
236                 acpi_lapic_addr = (u64) madt->address;
237
238                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
239                        madt->address);
240         }
241
242         acpi_madt_oem_check(madt->header.oem_id, madt->header.oem_table_id);
243
244         return 0;
245 }
246
247 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
248 {
249         unsigned int ver = 0;
250
251         if (!enabled) {
252                 ++disabled_cpus;
253                 return;
254         }
255
256         if (boot_cpu_physical_apicid != -1U)
257                 ver = apic_version[boot_cpu_physical_apicid];
258
259         generic_processor_info(id, ver);
260 }
261
262 static int __init
263 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
264 {
265         struct acpi_madt_local_apic *processor = NULL;
266
267         processor = (struct acpi_madt_local_apic *)header;
268
269         if (BAD_MADT_ENTRY(processor, end))
270                 return -EINVAL;
271
272         acpi_table_print_madt_entry(header);
273
274         /*
275          * We need to register disabled CPU as well to permit
276          * counting disabled CPUs. This allows us to size
277          * cpus_possible_map more accurately, to permit
278          * to not preallocating memory for all NR_CPUS
279          * when we use CPU hotplug.
280          */
281         acpi_register_lapic(processor->id,      /* APIC ID */
282                             processor->lapic_flags & ACPI_MADT_ENABLED);
283
284         return 0;
285 }
286
287 static int __init
288 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
289 {
290         struct acpi_madt_local_sapic *processor = NULL;
291
292         processor = (struct acpi_madt_local_sapic *)header;
293
294         if (BAD_MADT_ENTRY(processor, end))
295                 return -EINVAL;
296
297         acpi_table_print_madt_entry(header);
298
299         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
300                             processor->lapic_flags & ACPI_MADT_ENABLED);
301
302         return 0;
303 }
304
305 static int __init
306 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
307                           const unsigned long end)
308 {
309         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
310
311         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
312
313         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
314                 return -EINVAL;
315
316         acpi_lapic_addr = lapic_addr_ovr->address;
317
318         return 0;
319 }
320
321 static int __init
322 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
323 {
324         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
325
326         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
327
328         if (BAD_MADT_ENTRY(lapic_nmi, end))
329                 return -EINVAL;
330
331         acpi_table_print_madt_entry(header);
332
333         if (lapic_nmi->lint != 1)
334                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
335
336         return 0;
337 }
338
339 #endif                          /*CONFIG_X86_LOCAL_APIC */
340
341 #ifdef CONFIG_X86_IO_APIC
342
343 static int __init
344 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
345 {
346         struct acpi_madt_io_apic *ioapic = NULL;
347
348         ioapic = (struct acpi_madt_io_apic *)header;
349
350         if (BAD_MADT_ENTRY(ioapic, end))
351                 return -EINVAL;
352
353         acpi_table_print_madt_entry(header);
354
355         mp_register_ioapic(ioapic->id,
356                            ioapic->address, ioapic->global_irq_base);
357
358         return 0;
359 }
360
361 /*
362  * Parse Interrupt Source Override for the ACPI SCI
363  */
364 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
365 {
366         if (trigger == 0)       /* compatible SCI trigger is level */
367                 trigger = 3;
368
369         if (polarity == 0)      /* compatible SCI polarity is low */
370                 polarity = 3;
371
372         /* Command-line over-ride via acpi_sci= */
373         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
374                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
375
376         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
377                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
378
379         /*
380          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
381          * If GSI is < 16, this will update its flags,
382          * else it will create a new mp_irqs[] entry.
383          */
384         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
385
386         /*
387          * stash over-ride to indicate we've been here
388          * and for later update of acpi_gbl_FADT
389          */
390         acpi_sci_override_gsi = gsi;
391         return;
392 }
393
394 static int __init
395 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
396                        const unsigned long end)
397 {
398         struct acpi_madt_interrupt_override *intsrc = NULL;
399
400         intsrc = (struct acpi_madt_interrupt_override *)header;
401
402         if (BAD_MADT_ENTRY(intsrc, end))
403                 return -EINVAL;
404
405         acpi_table_print_madt_entry(header);
406
407         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
408                 acpi_sci_ioapic_setup(intsrc->global_irq,
409                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
410                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
411                 return 0;
412         }
413
414         if (acpi_skip_timer_override &&
415             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
416                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
417                 return 0;
418         }
419
420         mp_override_legacy_irq(intsrc->source_irq,
421                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
422                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
423                                 intsrc->global_irq);
424
425         return 0;
426 }
427
428 static int __init
429 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
430 {
431         struct acpi_madt_nmi_source *nmi_src = NULL;
432
433         nmi_src = (struct acpi_madt_nmi_source *)header;
434
435         if (BAD_MADT_ENTRY(nmi_src, end))
436                 return -EINVAL;
437
438         acpi_table_print_madt_entry(header);
439
440         /* TBD: Support nimsrc entries? */
441
442         return 0;
443 }
444
445 #endif                          /* CONFIG_X86_IO_APIC */
446
447 /*
448  * acpi_pic_sci_set_trigger()
449  *
450  * use ELCR to set PIC-mode trigger type for SCI
451  *
452  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
453  * it may require Edge Trigger -- use "acpi_sci=edge"
454  *
455  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
456  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
457  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
458  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
459  */
460
461 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
462 {
463         unsigned int mask = 1 << irq;
464         unsigned int old, new;
465
466         /* Real old ELCR mask */
467         old = inb(0x4d0) | (inb(0x4d1) << 8);
468
469         /*
470          * If we use ACPI to set PCI IRQs, then we should clear ELCR
471          * since we will set it correctly as we enable the PCI irq
472          * routing.
473          */
474         new = acpi_noirq ? old : 0;
475
476         /*
477          * Update SCI information in the ELCR, it isn't in the PCI
478          * routing tables..
479          */
480         switch (trigger) {
481         case 1:         /* Edge - clear */
482                 new &= ~mask;
483                 break;
484         case 3:         /* Level - set */
485                 new |= mask;
486                 break;
487         }
488
489         if (old == new)
490                 return;
491
492         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
493         outb(new, 0x4d0);
494         outb(new >> 8, 0x4d1);
495 }
496
497 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
498 {
499         *irq = gsi;
500         return 0;
501 }
502
503 /*
504  * success: return IRQ number (>=0)
505  * failure: return < 0
506  */
507 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
508 {
509         unsigned int irq;
510         unsigned int plat_gsi = gsi;
511
512 #ifdef CONFIG_PCI
513         /*
514          * Make sure all (legacy) PCI IRQs are set as level-triggered.
515          */
516         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
517                 if (triggering == ACPI_LEVEL_SENSITIVE)
518                         eisa_set_level_irq(gsi);
519         }
520 #endif
521
522 #ifdef CONFIG_X86_IO_APIC
523         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
524                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
525         }
526 #endif
527         acpi_gsi_to_irq(plat_gsi, &irq);
528         return irq;
529 }
530
531 /*
532  *  ACPI based hotplug support for CPU
533  */
534 #ifdef CONFIG_ACPI_HOTPLUG_CPU
535
536 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
537 {
538         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
539         union acpi_object *obj;
540         struct acpi_madt_local_apic *lapic;
541         cpumask_var_t tmp_map, new_map;
542         u8 physid;
543         int cpu;
544         int retval = -ENOMEM;
545
546         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
547                 return -EINVAL;
548
549         if (!buffer.length || !buffer.pointer)
550                 return -EINVAL;
551
552         obj = buffer.pointer;
553         if (obj->type != ACPI_TYPE_BUFFER ||
554             obj->buffer.length < sizeof(*lapic)) {
555                 kfree(buffer.pointer);
556                 return -EINVAL;
557         }
558
559         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
560
561         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
562             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
563                 kfree(buffer.pointer);
564                 return -EINVAL;
565         }
566
567         physid = lapic->id;
568
569         kfree(buffer.pointer);
570         buffer.length = ACPI_ALLOCATE_BUFFER;
571         buffer.pointer = NULL;
572
573         if (!alloc_cpumask_var(&tmp_map, GFP_KERNEL))
574                 goto out;
575
576         if (!alloc_cpumask_var(&new_map, GFP_KERNEL))
577                 goto free_tmp_map;
578
579         cpumask_copy(tmp_map, cpu_present_mask);
580         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
581
582         /*
583          * If mp_register_lapic successfully generates a new logical cpu
584          * number, then the following will get us exactly what was mapped
585          */
586         cpumask_andnot(new_map, cpu_present_mask, tmp_map);
587         if (cpumask_empty(new_map)) {
588                 printk ("Unable to map lapic to logical cpu number\n");
589                 retval = -EINVAL;
590                 goto free_new_map;
591         }
592
593         cpu = cpumask_first(new_map);
594
595         *pcpu = cpu;
596         retval = 0;
597
598 free_new_map:
599         free_cpumask_var(new_map);
600 free_tmp_map:
601         free_cpumask_var(tmp_map);
602 out:
603         return retval;
604 }
605
606 /* wrapper to silence section mismatch warning */
607 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
608 {
609         return _acpi_map_lsapic(handle, pcpu);
610 }
611 EXPORT_SYMBOL(acpi_map_lsapic);
612
613 int acpi_unmap_lsapic(int cpu)
614 {
615         per_cpu(x86_cpu_to_apicid, cpu) = -1;
616         set_cpu_present(cpu, false);
617         num_processors--;
618
619         return (0);
620 }
621
622 EXPORT_SYMBOL(acpi_unmap_lsapic);
623 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
624
625 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
626 {
627         /* TBD */
628         return -EINVAL;
629 }
630
631 EXPORT_SYMBOL(acpi_register_ioapic);
632
633 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
634 {
635         /* TBD */
636         return -EINVAL;
637 }
638
639 EXPORT_SYMBOL(acpi_unregister_ioapic);
640
641 static int __init acpi_parse_sbf(struct acpi_table_header *table)
642 {
643         struct acpi_table_boot *sb;
644
645         sb = (struct acpi_table_boot *)table;
646         if (!sb) {
647                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
648                 return -ENODEV;
649         }
650
651         sbf_port = sb->cmos_index;      /* Save CMOS port */
652
653         return 0;
654 }
655
656 #ifdef CONFIG_HPET_TIMER
657 #include <asm/hpet.h>
658
659 static struct __initdata resource *hpet_res;
660
661 static int __init acpi_parse_hpet(struct acpi_table_header *table)
662 {
663         struct acpi_table_hpet *hpet_tbl;
664
665         hpet_tbl = (struct acpi_table_hpet *)table;
666         if (!hpet_tbl) {
667                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
668                 return -ENODEV;
669         }
670
671         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
672                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
673                        "memory.\n");
674                 return -1;
675         }
676
677         hpet_address = hpet_tbl->address.address;
678
679         /*
680          * Some broken BIOSes advertise HPET at 0x0. We really do not
681          * want to allocate a resource there.
682          */
683         if (!hpet_address) {
684                 printk(KERN_WARNING PREFIX
685                        "HPET id: %#x base: %#lx is invalid\n",
686                        hpet_tbl->id, hpet_address);
687                 return 0;
688         }
689 #ifdef CONFIG_X86_64
690         /*
691          * Some even more broken BIOSes advertise HPET at
692          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
693          * some noise:
694          */
695         if (hpet_address == 0xfed0000000000000UL) {
696                 if (!hpet_force_user) {
697                         printk(KERN_WARNING PREFIX "HPET id: %#x "
698                                "base: 0xfed0000000000000 is bogus\n "
699                                "try hpet=force on the kernel command line to "
700                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
701                         hpet_address = 0;
702                         return 0;
703                 }
704                 printk(KERN_WARNING PREFIX
705                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
706                        "to 0xfed00000.\n", hpet_tbl->id);
707                 hpet_address >>= 32;
708         }
709 #endif
710         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
711                hpet_tbl->id, hpet_address);
712
713         /*
714          * Allocate and initialize the HPET firmware resource for adding into
715          * the resource tree during the lateinit timeframe.
716          */
717 #define HPET_RESOURCE_NAME_SIZE 9
718         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
719
720         hpet_res->name = (void *)&hpet_res[1];
721         hpet_res->flags = IORESOURCE_MEM;
722         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
723                  hpet_tbl->sequence);
724
725         hpet_res->start = hpet_address;
726         hpet_res->end = hpet_address + (1 * 1024) - 1;
727
728         return 0;
729 }
730
731 /*
732  * hpet_insert_resource inserts the HPET resources used into the resource
733  * tree.
734  */
735 static __init int hpet_insert_resource(void)
736 {
737         if (!hpet_res)
738                 return 1;
739
740         return insert_resource(&iomem_resource, hpet_res);
741 }
742
743 late_initcall(hpet_insert_resource);
744
745 #else
746 #define acpi_parse_hpet NULL
747 #endif
748
749 static int __init acpi_parse_fadt(struct acpi_table_header *table)
750 {
751
752 #ifdef CONFIG_X86_PM_TIMER
753         /* detect the location of the ACPI PM Timer */
754         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
755                 /* FADT rev. 2 */
756                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
757                     ACPI_ADR_SPACE_SYSTEM_IO)
758                         return 0;
759
760                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
761                 /*
762                  * "X" fields are optional extensions to the original V1.0
763                  * fields, so we must selectively expand V1.0 fields if the
764                  * corresponding X field is zero.
765                  */
766                 if (!pmtmr_ioport)
767                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
768         } else {
769                 /* FADT rev. 1 */
770                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
771         }
772         if (pmtmr_ioport)
773                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
774                        pmtmr_ioport);
775 #endif
776         return 0;
777 }
778
779 #ifdef  CONFIG_X86_LOCAL_APIC
780 /*
781  * Parse LAPIC entries in MADT
782  * returns 0 on success, < 0 on error
783  */
784
785 static void __init acpi_register_lapic_address(unsigned long address)
786 {
787         mp_lapic_addr = address;
788
789         set_fixmap_nocache(FIX_APIC_BASE, address);
790         if (boot_cpu_physical_apicid == -1U) {
791                 boot_cpu_physical_apicid  = read_apic_id();
792                 apic_version[boot_cpu_physical_apicid] =
793                          GET_APIC_VERSION(apic_read(APIC_LVR));
794         }
795 }
796
797 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
798 {
799         int count;
800
801         if (!cpu_has_apic)
802                 return -ENODEV;
803
804         /*
805          * Note that the LAPIC address is obtained from the MADT (32-bit value)
806          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
807          */
808
809         count =
810             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
811                                   acpi_parse_lapic_addr_ovr, 0);
812         if (count < 0) {
813                 printk(KERN_ERR PREFIX
814                        "Error parsing LAPIC address override entry\n");
815                 return count;
816         }
817
818         acpi_register_lapic_address(acpi_lapic_addr);
819
820         return count;
821 }
822
823 static int __init acpi_parse_madt_lapic_entries(void)
824 {
825         int count;
826
827         if (!cpu_has_apic)
828                 return -ENODEV;
829
830         /*
831          * Note that the LAPIC address is obtained from the MADT (32-bit value)
832          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
833          */
834
835         count =
836             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
837                                   acpi_parse_lapic_addr_ovr, 0);
838         if (count < 0) {
839                 printk(KERN_ERR PREFIX
840                        "Error parsing LAPIC address override entry\n");
841                 return count;
842         }
843
844         acpi_register_lapic_address(acpi_lapic_addr);
845
846         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
847                                       acpi_parse_sapic, MAX_APICS);
848
849         if (!count)
850                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
851                                               acpi_parse_lapic, MAX_APICS);
852         if (!count) {
853                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
854                 /* TBD: Cleanup to allow fallback to MPS */
855                 return -ENODEV;
856         } else if (count < 0) {
857                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
858                 /* TBD: Cleanup to allow fallback to MPS */
859                 return count;
860         }
861
862         count =
863             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
864         if (count < 0) {
865                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
866                 /* TBD: Cleanup to allow fallback to MPS */
867                 return count;
868         }
869         return 0;
870 }
871 #endif                          /* CONFIG_X86_LOCAL_APIC */
872
873 #ifdef  CONFIG_X86_IO_APIC
874 #define MP_ISA_BUS              0
875
876 #ifdef CONFIG_X86_ES7000
877 extern int es7000_plat;
878 #endif
879
880 static struct {
881         int apic_id;
882         int gsi_base;
883         int gsi_end;
884         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
885 } mp_ioapic_routing[MAX_IO_APICS];
886
887 static int mp_find_ioapic(int gsi)
888 {
889         int i = 0;
890
891         /* Find the IOAPIC that manages this GSI. */
892         for (i = 0; i < nr_ioapics; i++) {
893                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
894                     && (gsi <= mp_ioapic_routing[i].gsi_end))
895                         return i;
896         }
897
898         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
899         return -1;
900 }
901
902 static u8 __init uniq_ioapic_id(u8 id)
903 {
904 #ifdef CONFIG_X86_32
905         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
906             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
907                 return io_apic_get_unique_id(nr_ioapics, id);
908         else
909                 return id;
910 #else
911         int i;
912         DECLARE_BITMAP(used, 256);
913         bitmap_zero(used, 256);
914         for (i = 0; i < nr_ioapics; i++) {
915                 struct mp_config_ioapic *ia = &mp_ioapics[i];
916                 __set_bit(ia->mp_apicid, used);
917         }
918         if (!test_bit(id, used))
919                 return id;
920         return find_first_zero_bit(used, 256);
921 #endif
922 }
923
924 static int bad_ioapic(unsigned long address)
925 {
926         if (nr_ioapics >= MAX_IO_APICS) {
927                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
928                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
929                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
930         }
931         if (!address) {
932                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
933                        " found in table, skipping!\n");
934                 return 1;
935         }
936         return 0;
937 }
938
939 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
940 {
941         int idx = 0;
942
943         if (bad_ioapic(address))
944                 return;
945
946         idx = nr_ioapics;
947
948         mp_ioapics[idx].mp_type = MP_IOAPIC;
949         mp_ioapics[idx].mp_flags = MPC_APIC_USABLE;
950         mp_ioapics[idx].mp_apicaddr = address;
951
952         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
953         mp_ioapics[idx].mp_apicid = uniq_ioapic_id(id);
954 #ifdef CONFIG_X86_32
955         mp_ioapics[idx].mp_apicver = io_apic_get_version(idx);
956 #else
957         mp_ioapics[idx].mp_apicver = 0;
958 #endif
959         /*
960          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
961          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
962          */
963         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].mp_apicid;
964         mp_ioapic_routing[idx].gsi_base = gsi_base;
965         mp_ioapic_routing[idx].gsi_end = gsi_base +
966             io_apic_get_redir_entries(idx);
967
968         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%lx, "
969                "GSI %d-%d\n", idx, mp_ioapics[idx].mp_apicid,
970                mp_ioapics[idx].mp_apicver, mp_ioapics[idx].mp_apicaddr,
971                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
972
973         nr_ioapics++;
974 }
975
976 static void assign_to_mp_irq(struct mp_config_intsrc *m,
977                                     struct mp_config_intsrc *mp_irq)
978 {
979         memcpy(mp_irq, m, sizeof(struct mp_config_intsrc));
980 }
981
982 static int mp_irq_cmp(struct mp_config_intsrc *mp_irq,
983                                 struct mp_config_intsrc *m)
984 {
985         return memcmp(mp_irq, m, sizeof(struct mp_config_intsrc));
986 }
987
988 static void save_mp_irq(struct mp_config_intsrc *m)
989 {
990         int i;
991
992         for (i = 0; i < mp_irq_entries; i++) {
993                 if (!mp_irq_cmp(&mp_irqs[i], m))
994                         return;
995         }
996
997         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
998         if (++mp_irq_entries == MAX_IRQ_SOURCES)
999                 panic("Max # of irq sources exceeded!!\n");
1000 }
1001
1002 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
1003 {
1004         int ioapic;
1005         int pin;
1006         struct mp_config_intsrc mp_irq;
1007
1008         /*
1009          * Convert 'gsi' to 'ioapic.pin'.
1010          */
1011         ioapic = mp_find_ioapic(gsi);
1012         if (ioapic < 0)
1013                 return;
1014         pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1015
1016         /*
1017          * TBD: This check is for faulty timer entries, where the override
1018          *      erroneously sets the trigger to level, resulting in a HUGE
1019          *      increase of timer interrupts!
1020          */
1021         if ((bus_irq == 0) && (trigger == 3))
1022                 trigger = 1;
1023
1024         mp_irq.mp_type = MP_INTSRC;
1025         mp_irq.mp_irqtype = mp_INT;
1026         mp_irq.mp_irqflag = (trigger << 2) | polarity;
1027         mp_irq.mp_srcbus = MP_ISA_BUS;
1028         mp_irq.mp_srcbusirq = bus_irq;  /* IRQ */
1029         mp_irq.mp_dstapic = mp_ioapics[ioapic].mp_apicid; /* APIC ID */
1030         mp_irq.mp_dstirq = pin; /* INTIN# */
1031
1032         save_mp_irq(&mp_irq);
1033 }
1034
1035 void __init mp_config_acpi_legacy_irqs(void)
1036 {
1037         int i;
1038         int ioapic;
1039         unsigned int dstapic;
1040         struct mp_config_intsrc mp_irq;
1041
1042 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1043         /*
1044          * Fabricate the legacy ISA bus (bus #31).
1045          */
1046         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1047 #endif
1048         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1049         pr_debug("Bus #%d is ISA\n", MP_ISA_BUS);
1050
1051 #ifdef CONFIG_X86_ES7000
1052         /*
1053          * Older generations of ES7000 have no legacy identity mappings
1054          */
1055         if (es7000_plat == 1)
1056                 return;
1057 #endif
1058
1059         /*
1060          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1061          */
1062         ioapic = mp_find_ioapic(0);
1063         if (ioapic < 0)
1064                 return;
1065         dstapic = mp_ioapics[ioapic].mp_apicid;
1066
1067         /*
1068          * Use the default configuration for the IRQs 0-15.  Unless
1069          * overridden by (MADT) interrupt source override entries.
1070          */
1071         for (i = 0; i < 16; i++) {
1072                 int idx;
1073
1074                 for (idx = 0; idx < mp_irq_entries; idx++) {
1075                         struct mp_config_intsrc *irq = mp_irqs + idx;
1076
1077                         /* Do we already have a mapping for this ISA IRQ? */
1078                         if (irq->mp_srcbus == MP_ISA_BUS
1079                             && irq->mp_srcbusirq == i)
1080                                 break;
1081
1082                         /* Do we already have a mapping for this IOAPIC pin */
1083                         if (irq->mp_dstapic == dstapic &&
1084                             irq->mp_dstirq == i)
1085                                 break;
1086                 }
1087
1088                 if (idx != mp_irq_entries) {
1089                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1090                         continue;       /* IRQ already used */
1091                 }
1092
1093                 mp_irq.mp_type = MP_INTSRC;
1094                 mp_irq.mp_irqflag = 0;  /* Conforming */
1095                 mp_irq.mp_srcbus = MP_ISA_BUS;
1096                 mp_irq.mp_dstapic = dstapic;
1097                 mp_irq.mp_irqtype = mp_INT;
1098                 mp_irq.mp_srcbusirq = i; /* Identity mapped */
1099                 mp_irq.mp_dstirq = i;
1100
1101                 save_mp_irq(&mp_irq);
1102         }
1103 }
1104
1105 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1106 {
1107         int ioapic;
1108         int ioapic_pin;
1109 #ifdef CONFIG_X86_32
1110 #define MAX_GSI_NUM     4096
1111 #define IRQ_COMPRESSION_START   64
1112
1113         static int pci_irq = IRQ_COMPRESSION_START;
1114         /*
1115          * Mapping between Global System Interrupts, which
1116          * represent all possible interrupts, and IRQs
1117          * assigned to actual devices.
1118          */
1119         static int gsi_to_irq[MAX_GSI_NUM];
1120 #else
1121
1122         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1123                 return gsi;
1124 #endif
1125
1126         /* Don't set up the ACPI SCI because it's already set up */
1127         if (acpi_gbl_FADT.sci_interrupt == gsi)
1128                 return gsi;
1129
1130         ioapic = mp_find_ioapic(gsi);
1131         if (ioapic < 0) {
1132                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1133                 return gsi;
1134         }
1135
1136         ioapic_pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1137
1138 #ifdef CONFIG_X86_32
1139         if (ioapic_renumber_irq)
1140                 gsi = ioapic_renumber_irq(ioapic, gsi);
1141 #endif
1142
1143         /*
1144          * Avoid pin reprogramming.  PRTs typically include entries
1145          * with redundant pin->gsi mappings (but unique PCI devices);
1146          * we only program the IOAPIC on the first.
1147          */
1148         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1149                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1150                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1151                        ioapic_pin);
1152                 return gsi;
1153         }
1154         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1155                 pr_debug("Pin %d-%d already programmed\n",
1156                          mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1157 #ifdef CONFIG_X86_32
1158                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1159 #else
1160                 return gsi;
1161 #endif
1162         }
1163
1164         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1165 #ifdef CONFIG_X86_32
1166         /*
1167          * For GSI >= 64, use IRQ compression
1168          */
1169         if ((gsi >= IRQ_COMPRESSION_START)
1170             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1171                 /*
1172                  * For PCI devices assign IRQs in order, avoiding gaps
1173                  * due to unused I/O APIC pins.
1174                  */
1175                 int irq = gsi;
1176                 if (gsi < MAX_GSI_NUM) {
1177                         /*
1178                          * Retain the VIA chipset work-around (gsi > 15), but
1179                          * avoid a problem where the 8254 timer (IRQ0) is setup
1180                          * via an override (so it's not on pin 0 of the ioapic),
1181                          * and at the same time, the pin 0 interrupt is a PCI
1182                          * type.  The gsi > 15 test could cause these two pins
1183                          * to be shared as IRQ0, and they are not shareable.
1184                          * So test for this condition, and if necessary, avoid
1185                          * the pin collision.
1186                          */
1187                         gsi = pci_irq++;
1188                         /*
1189                          * Don't assign IRQ used by ACPI SCI
1190                          */
1191                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1192                                 gsi = pci_irq++;
1193                         gsi_to_irq[irq] = gsi;
1194                 } else {
1195                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1196                         return gsi;
1197                 }
1198         }
1199 #endif
1200         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1201                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1202                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1203         return gsi;
1204 }
1205
1206 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1207                         u32 gsi, int triggering, int polarity)
1208 {
1209 #ifdef CONFIG_X86_MPPARSE
1210         struct mp_config_intsrc mp_irq;
1211         int ioapic;
1212
1213         if (!acpi_ioapic)
1214                 return 0;
1215
1216         /* print the entry should happen on mptable identically */
1217         mp_irq.mp_type = MP_INTSRC;
1218         mp_irq.mp_irqtype = mp_INT;
1219         mp_irq.mp_irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1220                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1221         mp_irq.mp_srcbus = number;
1222         mp_irq.mp_srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1223         ioapic = mp_find_ioapic(gsi);
1224         mp_irq.mp_dstapic = mp_ioapic_routing[ioapic].apic_id;
1225         mp_irq.mp_dstirq = gsi - mp_ioapic_routing[ioapic].gsi_base;
1226
1227         save_mp_irq(&mp_irq);
1228 #endif
1229         return 0;
1230 }
1231
1232 /*
1233  * Parse IOAPIC related entries in MADT
1234  * returns 0 on success, < 0 on error
1235  */
1236 static int __init acpi_parse_madt_ioapic_entries(void)
1237 {
1238         int count;
1239
1240         /*
1241          * ACPI interpreter is required to complete interrupt setup,
1242          * so if it is off, don't enumerate the io-apics with ACPI.
1243          * If MPS is present, it will handle them,
1244          * otherwise the system will stay in PIC mode
1245          */
1246         if (acpi_disabled || acpi_noirq) {
1247                 return -ENODEV;
1248         }
1249
1250         if (!cpu_has_apic)
1251                 return -ENODEV;
1252
1253         /*
1254          * if "noapic" boot option, don't look for IO-APICs
1255          */
1256         if (skip_ioapic_setup) {
1257                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1258                        "due to 'noapic' option.\n");
1259                 return -ENODEV;
1260         }
1261
1262         count =
1263             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1264                                   MAX_IO_APICS);
1265         if (!count) {
1266                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1267                 return -ENODEV;
1268         } else if (count < 0) {
1269                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1270                 return count;
1271         }
1272
1273         count =
1274             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1275                                   nr_irqs);
1276         if (count < 0) {
1277                 printk(KERN_ERR PREFIX
1278                        "Error parsing interrupt source overrides entry\n");
1279                 /* TBD: Cleanup to allow fallback to MPS */
1280                 return count;
1281         }
1282
1283         /*
1284          * If BIOS did not supply an INT_SRC_OVR for the SCI
1285          * pretend we got one so we can set the SCI flags.
1286          */
1287         if (!acpi_sci_override_gsi)
1288                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1289
1290         /* Fill in identity legacy mapings where no override */
1291         mp_config_acpi_legacy_irqs();
1292
1293         count =
1294             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1295                                   nr_irqs);
1296         if (count < 0) {
1297                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1298                 /* TBD: Cleanup to allow fallback to MPS */
1299                 return count;
1300         }
1301
1302         return 0;
1303 }
1304 #else
1305 static inline int acpi_parse_madt_ioapic_entries(void)
1306 {
1307         return -1;
1308 }
1309 #endif  /* !CONFIG_X86_IO_APIC */
1310
1311 static void __init early_acpi_process_madt(void)
1312 {
1313 #ifdef CONFIG_X86_LOCAL_APIC
1314         int error;
1315
1316         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1317
1318                 /*
1319                  * Parse MADT LAPIC entries
1320                  */
1321                 error = early_acpi_parse_madt_lapic_addr_ovr();
1322                 if (!error) {
1323                         acpi_lapic = 1;
1324                         smp_found_config = 1;
1325                 }
1326                 if (error == -EINVAL) {
1327                         /*
1328                          * Dell Precision Workstation 410, 610 come here.
1329                          */
1330                         printk(KERN_ERR PREFIX
1331                                "Invalid BIOS MADT, disabling ACPI\n");
1332                         disable_acpi();
1333                 }
1334         }
1335 #endif
1336 }
1337
1338 static void __init acpi_process_madt(void)
1339 {
1340 #ifdef CONFIG_X86_LOCAL_APIC
1341         int error;
1342
1343         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1344
1345                 /*
1346                  * Parse MADT LAPIC entries
1347                  */
1348                 error = acpi_parse_madt_lapic_entries();
1349                 if (!error) {
1350                         acpi_lapic = 1;
1351
1352 #ifdef CONFIG_X86_GENERICARCH
1353                         generic_bigsmp_probe();
1354 #endif
1355                         /*
1356                          * Parse MADT IO-APIC entries
1357                          */
1358                         error = acpi_parse_madt_ioapic_entries();
1359                         if (!error) {
1360                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1361                                 acpi_ioapic = 1;
1362
1363                                 smp_found_config = 1;
1364 #ifdef CONFIG_X86_32
1365                                 setup_apic_routing();
1366 #endif
1367                         }
1368                 }
1369                 if (error == -EINVAL) {
1370                         /*
1371                          * Dell Precision Workstation 410, 610 come here.
1372                          */
1373                         printk(KERN_ERR PREFIX
1374                                "Invalid BIOS MADT, disabling ACPI\n");
1375                         disable_acpi();
1376                 }
1377         }
1378
1379         /*
1380          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1381          * processors, where MPS only supports physical.
1382          */
1383         if (acpi_lapic && acpi_ioapic)
1384                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1385                        "information\n");
1386         else if (acpi_lapic)
1387                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1388                        "configuration information\n");
1389 #endif
1390         return;
1391 }
1392
1393 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1394 {
1395         if (!acpi_force) {
1396                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1397                        d->ident);
1398                 acpi_noirq_set();
1399         }
1400         return 0;
1401 }
1402
1403 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1404 {
1405         if (!acpi_force) {
1406                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1407                        d->ident);
1408                 acpi_disable_pci();
1409         }
1410         return 0;
1411 }
1412
1413 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1414 {
1415         if (!acpi_force) {
1416                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1417                 disable_acpi();
1418         } else {
1419                 printk(KERN_NOTICE
1420                        "Warning: DMI blacklist says broken, but acpi forced\n");
1421         }
1422         return 0;
1423 }
1424
1425 /*
1426  * Limit ACPI to CPU enumeration for HT
1427  */
1428 static int __init force_acpi_ht(const struct dmi_system_id *d)
1429 {
1430         if (!acpi_force) {
1431                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1432                        d->ident);
1433                 disable_acpi();
1434                 acpi_ht = 1;
1435         } else {
1436                 printk(KERN_NOTICE
1437                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1438         }
1439         return 0;
1440 }
1441
1442 /*
1443  * Force ignoring BIOS IRQ0 pin2 override
1444  */
1445 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1446 {
1447         /*
1448          * The ati_ixp4x0_rev() early PCI quirk should have set
1449          * the acpi_skip_timer_override flag already:
1450          */
1451         if (!acpi_skip_timer_override) {
1452                 WARN(1, KERN_ERR "ati_ixp4x0 quirk not complete.\n");
1453                 pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n",
1454                         d->ident);
1455                 acpi_skip_timer_override = 1;
1456         }
1457         return 0;
1458 }
1459
1460 /*
1461  * If your system is blacklisted here, but you find that acpi=force
1462  * works for you, please contact acpi-devel@sourceforge.net
1463  */
1464 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1465         /*
1466          * Boxes that need ACPI disabled
1467          */
1468         {
1469          .callback = dmi_disable_acpi,
1470          .ident = "IBM Thinkpad",
1471          .matches = {
1472                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1473                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1474                      },
1475          },
1476
1477         /*
1478          * Boxes that need acpi=ht
1479          */
1480         {
1481          .callback = force_acpi_ht,
1482          .ident = "FSC Primergy T850",
1483          .matches = {
1484                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1485                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1486                      },
1487          },
1488         {
1489          .callback = force_acpi_ht,
1490          .ident = "HP VISUALIZE NT Workstation",
1491          .matches = {
1492                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1493                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1494                      },
1495          },
1496         {
1497          .callback = force_acpi_ht,
1498          .ident = "Compaq Workstation W8000",
1499          .matches = {
1500                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1501                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1502                      },
1503          },
1504         {
1505          .callback = force_acpi_ht,
1506          .ident = "ASUS P4B266",
1507          .matches = {
1508                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1509                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1510                      },
1511          },
1512         {
1513          .callback = force_acpi_ht,
1514          .ident = "ASUS P2B-DS",
1515          .matches = {
1516                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1517                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1518                      },
1519          },
1520         {
1521          .callback = force_acpi_ht,
1522          .ident = "ASUS CUR-DLS",
1523          .matches = {
1524                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1525                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1526                      },
1527          },
1528         {
1529          .callback = force_acpi_ht,
1530          .ident = "ABIT i440BX-W83977",
1531          .matches = {
1532                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1533                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1534                      },
1535          },
1536         {
1537          .callback = force_acpi_ht,
1538          .ident = "IBM Bladecenter",
1539          .matches = {
1540                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1541                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1542                      },
1543          },
1544         {
1545          .callback = force_acpi_ht,
1546          .ident = "IBM eServer xSeries 360",
1547          .matches = {
1548                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1549                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1550                      },
1551          },
1552         {
1553          .callback = force_acpi_ht,
1554          .ident = "IBM eserver xSeries 330",
1555          .matches = {
1556                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1557                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1558                      },
1559          },
1560         {
1561          .callback = force_acpi_ht,
1562          .ident = "IBM eserver xSeries 440",
1563          .matches = {
1564                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1565                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1566                      },
1567          },
1568
1569         /*
1570          * Boxes that need ACPI PCI IRQ routing disabled
1571          */
1572         {
1573          .callback = disable_acpi_irq,
1574          .ident = "ASUS A7V",
1575          .matches = {
1576                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1577                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1578                      /* newer BIOS, Revision 1011, does work */
1579                      DMI_MATCH(DMI_BIOS_VERSION,
1580                                "ASUS A7V ACPI BIOS Revision 1007"),
1581                      },
1582          },
1583         {
1584                 /*
1585                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1586                  * for LPC bridge, which is needed for the PCI
1587                  * interrupt links to work. DSDT fix is in bug 5966.
1588                  * 2645, 2646 model numbers are shared with 600/600E/600X
1589                  */
1590          .callback = disable_acpi_irq,
1591          .ident = "IBM Thinkpad 600 Series 2645",
1592          .matches = {
1593                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1594                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1595                      },
1596          },
1597         {
1598          .callback = disable_acpi_irq,
1599          .ident = "IBM Thinkpad 600 Series 2646",
1600          .matches = {
1601                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1602                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1603                      },
1604          },
1605         /*
1606          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1607          */
1608         {                       /* _BBN 0 bug */
1609          .callback = disable_acpi_pci,
1610          .ident = "ASUS PR-DLS",
1611          .matches = {
1612                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1613                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1614                      DMI_MATCH(DMI_BIOS_VERSION,
1615                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1616                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1617                      },
1618          },
1619         {
1620          .callback = disable_acpi_pci,
1621          .ident = "Acer TravelMate 36x Laptop",
1622          .matches = {
1623                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1624                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1625                      },
1626          },
1627         {}
1628 };
1629
1630 /* second table for DMI checks that should run after early-quirks */
1631 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1632         /*
1633          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1634          * which includes some code which overrides all temperature
1635          * trip points to 16C if the INTIN2 input of the I/O APIC
1636          * is enabled.  This input is incorrectly designated the
1637          * ISA IRQ 0 via an interrupt source override even though
1638          * it is wired to the output of the master 8259A and INTIN0
1639          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1640          * override in that cases.
1641          */
1642         {
1643          .callback = dmi_ignore_irq0_timer_override,
1644          .ident = "HP nx6115 laptop",
1645          .matches = {
1646                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1647                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1648                      },
1649          },
1650         {
1651          .callback = dmi_ignore_irq0_timer_override,
1652          .ident = "HP NX6125 laptop",
1653          .matches = {
1654                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1655                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1656                      },
1657          },
1658         {
1659          .callback = dmi_ignore_irq0_timer_override,
1660          .ident = "HP NX6325 laptop",
1661          .matches = {
1662                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1663                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1664                      },
1665          },
1666         {
1667          .callback = dmi_ignore_irq0_timer_override,
1668          .ident = "HP 6715b laptop",
1669          .matches = {
1670                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1671                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1672                      },
1673          },
1674         {}
1675 };
1676
1677 /*
1678  * acpi_boot_table_init() and acpi_boot_init()
1679  *  called from setup_arch(), always.
1680  *      1. checksums all tables
1681  *      2. enumerates lapics
1682  *      3. enumerates io-apics
1683  *
1684  * acpi_table_init() is separate to allow reading SRAT without
1685  * other side effects.
1686  *
1687  * side effects of acpi_boot_init:
1688  *      acpi_lapic = 1 if LAPIC found
1689  *      acpi_ioapic = 1 if IOAPIC found
1690  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1691  *      if acpi_blacklisted() acpi_disabled = 1;
1692  *      acpi_irq_model=...
1693  *      ...
1694  *
1695  * return value: (currently ignored)
1696  *      0: success
1697  *      !0: failure
1698  */
1699
1700 int __init acpi_boot_table_init(void)
1701 {
1702         int error;
1703
1704         dmi_check_system(acpi_dmi_table);
1705
1706         /*
1707          * If acpi_disabled, bail out
1708          * One exception: acpi=ht continues far enough to enumerate LAPICs
1709          */
1710         if (acpi_disabled && !acpi_ht)
1711                 return 1;
1712
1713         /*
1714          * Initialize the ACPI boot-time table parser.
1715          */
1716         error = acpi_table_init();
1717         if (error) {
1718                 disable_acpi();
1719                 return error;
1720         }
1721
1722         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1723
1724         /*
1725          * blacklist may disable ACPI entirely
1726          */
1727         error = acpi_blacklisted();
1728         if (error) {
1729                 if (acpi_force) {
1730                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1731                 } else {
1732                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1733                         disable_acpi();
1734                         return error;
1735                 }
1736         }
1737
1738         return 0;
1739 }
1740
1741 int __init early_acpi_boot_init(void)
1742 {
1743         /*
1744          * If acpi_disabled, bail out
1745          * One exception: acpi=ht continues far enough to enumerate LAPICs
1746          */
1747         if (acpi_disabled && !acpi_ht)
1748                 return 1;
1749
1750         /*
1751          * Process the Multiple APIC Description Table (MADT), if present
1752          */
1753         early_acpi_process_madt();
1754
1755         return 0;
1756 }
1757
1758 int __init acpi_boot_init(void)
1759 {
1760         /* those are executed after early-quirks are executed */
1761         dmi_check_system(acpi_dmi_table_late);
1762
1763         /*
1764          * If acpi_disabled, bail out
1765          * One exception: acpi=ht continues far enough to enumerate LAPICs
1766          */
1767         if (acpi_disabled && !acpi_ht)
1768                 return 1;
1769
1770         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1771
1772         /*
1773          * set sci_int and PM timer address
1774          */
1775         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1776
1777         /*
1778          * Process the Multiple APIC Description Table (MADT), if present
1779          */
1780         acpi_process_madt();
1781
1782         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1783
1784         return 0;
1785 }
1786
1787 static int __init parse_acpi(char *arg)
1788 {
1789         if (!arg)
1790                 return -EINVAL;
1791
1792         /* "acpi=off" disables both ACPI table parsing and interpreter */
1793         if (strcmp(arg, "off") == 0) {
1794                 disable_acpi();
1795         }
1796         /* acpi=force to over-ride black-list */
1797         else if (strcmp(arg, "force") == 0) {
1798                 acpi_force = 1;
1799                 acpi_ht = 1;
1800                 acpi_disabled = 0;
1801         }
1802         /* acpi=strict disables out-of-spec workarounds */
1803         else if (strcmp(arg, "strict") == 0) {
1804                 acpi_strict = 1;
1805         }
1806         /* Limit ACPI just to boot-time to enable HT */
1807         else if (strcmp(arg, "ht") == 0) {
1808                 if (!acpi_force)
1809                         disable_acpi();
1810                 acpi_ht = 1;
1811         }
1812         /* "acpi=noirq" disables ACPI interrupt routing */
1813         else if (strcmp(arg, "noirq") == 0) {
1814                 acpi_noirq_set();
1815         } else {
1816                 /* Core will printk when we return error. */
1817                 return -EINVAL;
1818         }
1819         return 0;
1820 }
1821 early_param("acpi", parse_acpi);
1822
1823 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1824 static int __init parse_pci(char *arg)
1825 {
1826         if (arg && strcmp(arg, "noacpi") == 0)
1827                 acpi_disable_pci();
1828         return 0;
1829 }
1830 early_param("pci", parse_pci);
1831
1832 int __init acpi_mps_check(void)
1833 {
1834 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1835 /* mptable code is not built-in*/
1836         if (acpi_disabled || acpi_noirq) {
1837                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1838                        "Using acpi=off or acpi=noirq or pci=noacpi "
1839                        "may have problem\n");
1840                 return 1;
1841         }
1842 #endif
1843         return 0;
1844 }
1845
1846 #ifdef CONFIG_X86_IO_APIC
1847 static int __init parse_acpi_skip_timer_override(char *arg)
1848 {
1849         acpi_skip_timer_override = 1;
1850         return 0;
1851 }
1852 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1853
1854 static int __init parse_acpi_use_timer_override(char *arg)
1855 {
1856         acpi_use_timer_override = 1;
1857         return 0;
1858 }
1859 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1860 #endif /* CONFIG_X86_IO_APIC */
1861
1862 static int __init setup_acpi_sci(char *s)
1863 {
1864         if (!s)
1865                 return -EINVAL;
1866         if (!strcmp(s, "edge"))
1867                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1868                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1869         else if (!strcmp(s, "level"))
1870                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1871                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1872         else if (!strcmp(s, "high"))
1873                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1874                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1875         else if (!strcmp(s, "low"))
1876                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1877                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1878         else
1879                 return -EINVAL;
1880         return 0;
1881 }
1882 early_param("acpi_sci", setup_acpi_sci);
1883
1884 int __acpi_acquire_global_lock(unsigned int *lock)
1885 {
1886         unsigned int old, new, val;
1887         do {
1888                 old = *lock;
1889                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1890                 val = cmpxchg(lock, old, new);
1891         } while (unlikely (val != old));
1892         return (new < 3) ? -1 : 0;
1893 }
1894
1895 int __acpi_release_global_lock(unsigned int *lock)
1896 {
1897         unsigned int old, new, val;
1898         do {
1899                 old = *lock;
1900                 new = old & ~0x3;
1901                 val = cmpxchg(lock, old, new);
1902         } while (unlikely (val != old));
1903         return old & 0x1;
1904 }