ARM: CPU hotplug: ensure we migrate all IRQs off a downed CPU
[linux-2.6.git] / arch / arm / kernel / irq.c
1 /*
2  *  linux/arch/arm/kernel/irq.c
3  *
4  *  Copyright (C) 1992 Linus Torvalds
5  *  Modifications for ARM processor Copyright (C) 1995-2000 Russell King.
6  *
7  *  Support for Dynamic Tick Timer Copyright (C) 2004-2005 Nokia Corporation.
8  *  Dynamic Tick Timer written by Tony Lindgren <tony@atomide.com> and
9  *  Tuukka Tikkanen <tuukka.tikkanen@elektrobit.com>.
10  *
11  * This program is free software; you can redistribute it and/or modify
12  * it under the terms of the GNU General Public License version 2 as
13  * published by the Free Software Foundation.
14  *
15  *  This file contains the code used by various IRQ handling routines:
16  *  asking for different IRQ's should be done through these routines
17  *  instead of just grabbing them. Thus setups with different IRQ numbers
18  *  shouldn't result in any weird surprises, and installing new handlers
19  *  should be easier.
20  *
21  *  IRQ's are in fact implemented a bit like signal handlers for the kernel.
22  *  Naturally it's not a 1:1 relation, but there are similarities.
23  */
24 #include <linux/kernel_stat.h>
25 #include <linux/module.h>
26 #include <linux/signal.h>
27 #include <linux/ioport.h>
28 #include <linux/interrupt.h>
29 #include <linux/irq.h>
30 #include <linux/random.h>
31 #include <linux/smp.h>
32 #include <linux/init.h>
33 #include <linux/seq_file.h>
34 #include <linux/errno.h>
35 #include <linux/list.h>
36 #include <linux/kallsyms.h>
37 #include <linux/proc_fs.h>
38 #include <linux/ftrace.h>
39
40 #include <asm/system.h>
41 #include <asm/mach/arch.h>
42 #include <asm/mach/irq.h>
43 #include <asm/mach/time.h>
44
45 /*
46  * No architecture-specific irq_finish function defined in arm/arch/irqs.h.
47  */
48 #ifndef irq_finish
49 #define irq_finish(irq) do { } while (0)
50 #endif
51
52 unsigned long irq_err_count;
53
54 int arch_show_interrupts(struct seq_file *p, int prec)
55 {
56 #ifdef CONFIG_FIQ
57         show_fiq_list(p, prec);
58 #endif
59 #ifdef CONFIG_SMP
60         show_ipi_list(p, prec);
61 #endif
62 #ifdef CONFIG_LOCAL_TIMERS
63         show_local_irqs(p, prec);
64 #endif
65         seq_printf(p, "%*s: %10lu\n", prec, "Err", irq_err_count);
66         return 0;
67 }
68
69 /*
70  * do_IRQ handles all hardware IRQ's.  Decoded IRQs should not
71  * come via this function.  Instead, they should provide their
72  * own 'handler'
73  */
74 asmlinkage void __exception_irq_entry
75 asm_do_IRQ(unsigned int irq, struct pt_regs *regs)
76 {
77         struct pt_regs *old_regs = set_irq_regs(regs);
78
79         irq_enter();
80
81         /*
82          * Some hardware gives randomly wrong interrupts.  Rather
83          * than crashing, do something sensible.
84          */
85         if (unlikely(irq >= nr_irqs)) {
86                 if (printk_ratelimit())
87                         printk(KERN_WARNING "Bad IRQ%u\n", irq);
88                 ack_bad_irq(irq);
89         } else {
90                 generic_handle_irq(irq);
91         }
92
93         /* AT91 specific workaround */
94         irq_finish(irq);
95
96         irq_exit();
97         set_irq_regs(old_regs);
98 }
99
100 void set_irq_flags(unsigned int irq, unsigned int iflags)
101 {
102         unsigned long clr = 0, set = IRQ_NOREQUEST | IRQ_NOPROBE | IRQ_NOAUTOEN;
103
104         if (irq >= nr_irqs) {
105                 printk(KERN_ERR "Trying to set irq flags for IRQ%d\n", irq);
106                 return;
107         }
108
109         if (iflags & IRQF_VALID)
110                 clr |= IRQ_NOREQUEST;
111         if (iflags & IRQF_PROBE)
112                 clr |= IRQ_NOPROBE;
113         if (!(iflags & IRQF_NOAUTOEN))
114                 clr |= IRQ_NOAUTOEN;
115         /* Order is clear bits in "clr" then set bits in "set" */
116         irq_modify_status(irq, clr, set & ~clr);
117 }
118
119 void __init init_IRQ(void)
120 {
121         machine_desc->init_irq();
122 }
123
124 #ifdef CONFIG_SPARSE_IRQ
125 int __init arch_probe_nr_irqs(void)
126 {
127         nr_irqs = machine_desc->nr_irqs ? machine_desc->nr_irqs : NR_IRQS;
128         return nr_irqs;
129 }
130 #endif
131
132 #ifdef CONFIG_HOTPLUG_CPU
133
134 static bool migrate_one_irq(struct irq_desc *desc)
135 {
136         struct irq_data *d = irq_desc_get_irq_data(desc);
137         const struct cpumask *affinity = d->affinity;
138         struct irq_chip *c;
139         bool ret = false;
140
141         /*
142          * If this is a per-CPU interrupt, or the affinity does not
143          * include this CPU, then we have nothing to do.
144          */
145         if (irqd_is_per_cpu(d) || !cpumask_test_cpu(smp_processor_id(), affinity))
146                 return false;
147
148         if (cpumask_any_and(affinity, cpu_online_mask) >= nr_cpu_ids) {
149                 affinity = cpu_online_mask;
150                 ret = true;
151         }
152
153         c = irq_data_get_irq_chip(d);
154         if (c->irq_set_affinity)
155                 c->irq_set_affinity(d, affinity, true);
156         else
157                 pr_debug("IRQ%u: unable to set affinity\n", d->irq);
158
159         return ret;
160 }
161
162 /*
163  * The current CPU has been marked offline.  Migrate IRQs off this CPU.
164  * If the affinity settings do not allow other CPUs, force them onto any
165  * available CPU.
166  *
167  * Note: we must iterate over all IRQs, whether they have an attached
168  * action structure or not, as we need to get chained interrupts too.
169  */
170 void migrate_irqs(void)
171 {
172         unsigned int i;
173         struct irq_desc *desc;
174         unsigned long flags;
175
176         local_irq_save(flags);
177
178         for_each_irq_desc(i, desc) {
179                 bool affinity_broken = false;
180
181                 if (!desc)
182                         continue;
183
184                 raw_spin_lock(&desc->lock);
185                 affinity_broken = migrate_one_irq(desc);
186                 raw_spin_unlock(&desc->lock);
187
188                 if (affinity_broken && printk_ratelimit())
189                         pr_warning("IRQ%u no longer affine to CPU%u\n", i,
190                                 smp_processor_id());
191         }
192
193         local_irq_restore(flags);
194 }
195 #endif /* CONFIG_HOTPLUG_CPU */