3b267c91bb0c711bde04a1efd619ad3da8c2b6eb
[linux-3.10.git] / arch / x86_64 / kernel / mce.c
1 /*
2  * Machine check handler.
3  * K8 parts Copyright 2002,2003 Andi Kleen, SuSE Labs.
4  * Rest from unknown author(s). 
5  * 2004 Andi Kleen. Rewrote most of it. 
6  */
7
8 #include <linux/init.h>
9 #include <linux/types.h>
10 #include <linux/kernel.h>
11 #include <linux/sched.h>
12 #include <linux/string.h>
13 #include <linux/rcupdate.h>
14 #include <linux/kallsyms.h>
15 #include <linux/sysdev.h>
16 #include <linux/miscdevice.h>
17 #include <linux/fs.h>
18 #include <linux/cpu.h>
19 #include <linux/percpu.h>
20 #include <asm/processor.h> 
21 #include <asm/msr.h>
22 #include <asm/mce.h>
23 #include <asm/kdebug.h>
24 #include <asm/uaccess.h>
25
26 #define MISC_MCELOG_MINOR 227
27 #define NR_BANKS 5
28
29 static int mce_dont_init;
30
31 /* 0: always panic, 1: panic if deadlock possible, 2: try to avoid panic,
32    3: never panic or exit (for testing only) */
33 static int tolerant = 1;
34 static int banks;
35 static unsigned long bank[NR_BANKS] = { [0 ... NR_BANKS-1] = ~0UL };
36 static unsigned long console_logged;
37 static int notify_user;
38 static int rip_msr;
39
40 /*
41  * Lockless MCE logging infrastructure.
42  * This avoids deadlocks on printk locks without having to break locks. Also
43  * separate MCEs from kernel messages to avoid bogus bug reports.
44  */
45
46 struct mce_log mcelog = { 
47         MCE_LOG_SIGNATURE,
48         MCE_LOG_LEN,
49 }; 
50
51 void mce_log(struct mce *mce)
52 {
53         unsigned next, entry;
54         mce->finished = 0;
55         smp_wmb();
56         for (;;) {
57                 entry = rcu_dereference(mcelog.next);
58                 /* When the buffer fills up discard new entries. Assume 
59                    that the earlier errors are the more interesting. */
60                 if (entry >= MCE_LOG_LEN) {
61                         set_bit(MCE_OVERFLOW, &mcelog.flags);
62                         return;
63                 }
64                 /* Old left over entry. Skip. */
65                 if (mcelog.entry[entry].finished)
66                         continue;
67                 smp_rmb();
68                 next = entry + 1;
69                 if (cmpxchg(&mcelog.next, entry, next) == entry)
70                         break;
71         }
72         memcpy(mcelog.entry + entry, mce, sizeof(struct mce));
73         smp_wmb();
74         mcelog.entry[entry].finished = 1;
75         smp_wmb();
76
77         if (!test_and_set_bit(0, &console_logged))
78                 notify_user = 1;
79 }
80
81 static void print_mce(struct mce *m)
82 {
83         printk(KERN_EMERG "\n"
84                KERN_EMERG
85                "CPU %d: Machine Check Exception: %16Lx Bank %d: %016Lx\n",
86                m->cpu, m->mcgstatus, m->bank, m->status);
87         if (m->rip) {
88                 printk(KERN_EMERG 
89                        "RIP%s %02x:<%016Lx> ",
90                        !(m->mcgstatus & MCG_STATUS_EIPV) ? " !INEXACT!" : "",
91                        m->cs, m->rip);
92                 if (m->cs == __KERNEL_CS)
93                         print_symbol("{%s}", m->rip);
94                 printk("\n");
95         }
96         printk(KERN_EMERG "TSC %Lx ", m->tsc); 
97         if (m->addr)
98                 printk("ADDR %Lx ", m->addr);
99         if (m->misc)
100                 printk("MISC %Lx ", m->misc);   
101         printk("\n");
102 }
103
104 static void mce_panic(char *msg, struct mce *backup, unsigned long start)
105
106         int i;
107         oops_begin();
108         for (i = 0; i < MCE_LOG_LEN; i++) {
109                 unsigned long tsc = mcelog.entry[i].tsc;
110                 if (time_before(tsc, start))
111                         continue;
112                 print_mce(&mcelog.entry[i]); 
113                 if (backup && mcelog.entry[i].tsc == backup->tsc)
114                         backup = NULL;
115         }
116         if (backup)
117                 print_mce(backup);
118         if (tolerant >= 3)
119                 printk("Fake panic: %s\n", msg);
120         else
121                 panic(msg);
122
123
124 static int mce_available(struct cpuinfo_x86 *c)
125 {
126         return test_bit(X86_FEATURE_MCE, &c->x86_capability) &&
127                test_bit(X86_FEATURE_MCA, &c->x86_capability);
128 }
129
130 static inline void mce_get_rip(struct mce *m, struct pt_regs *regs)
131 {
132         if (regs && (m->mcgstatus & MCG_STATUS_RIPV)) {
133                 m->rip = regs->rip;
134                 m->cs = regs->cs;
135         } else {
136                 m->rip = 0;
137                 m->cs = 0;
138         }
139         if (rip_msr) {
140                 /* Assume the RIP in the MSR is exact. Is this true? */
141                 m->mcgstatus |= MCG_STATUS_EIPV;
142                 rdmsrl(rip_msr, m->rip);
143                 m->cs = 0;
144         }
145 }
146
147 /* 
148  * The actual machine check handler
149  */
150
151 void do_machine_check(struct pt_regs * regs, long error_code)
152 {
153         struct mce m, panicm;
154         int nowayout = (tolerant < 1); 
155         int kill_it = 0;
156         u64 mcestart = 0;
157         int i;
158         int panicm_found = 0;
159
160         if (regs)
161                 notify_die(DIE_NMI, "machine check", regs, error_code, 255, SIGKILL);
162         if (!banks)
163                 return;
164
165         memset(&m, 0, sizeof(struct mce));
166         m.cpu = hard_smp_processor_id();
167         rdmsrl(MSR_IA32_MCG_STATUS, m.mcgstatus);
168         if (!(m.mcgstatus & MCG_STATUS_RIPV))
169                 kill_it = 1;
170         
171         rdtscll(mcestart);
172         barrier();
173
174         for (i = 0; i < banks; i++) {
175                 if (!bank[i])
176                         continue;
177                 
178                 m.misc = 0; 
179                 m.addr = 0;
180                 m.bank = i;
181                 m.tsc = 0;
182
183                 rdmsrl(MSR_IA32_MC0_STATUS + i*4, m.status);
184                 if ((m.status & MCI_STATUS_VAL) == 0)
185                         continue;
186
187                 if (m.status & MCI_STATUS_EN) {
188                         /* In theory _OVER could be a nowayout too, but
189                            assume any overflowed errors were no fatal. */
190                         nowayout |= !!(m.status & MCI_STATUS_PCC);
191                         kill_it |= !!(m.status & MCI_STATUS_UC);
192                 }
193
194                 if (m.status & MCI_STATUS_MISCV)
195                         rdmsrl(MSR_IA32_MC0_MISC + i*4, m.misc);
196                 if (m.status & MCI_STATUS_ADDRV)
197                         rdmsrl(MSR_IA32_MC0_ADDR + i*4, m.addr);
198
199                 mce_get_rip(&m, regs);
200                 if (error_code != -1)
201                         rdtscll(m.tsc);
202                 wrmsrl(MSR_IA32_MC0_STATUS + i*4, 0);
203                 mce_log(&m);
204
205                 /* Did this bank cause the exception? */
206                 /* Assume that the bank with uncorrectable errors did it,
207                    and that there is only a single one. */
208                 if ((m.status & MCI_STATUS_UC) && (m.status & MCI_STATUS_EN)) {
209                         panicm = m;
210                         panicm_found = 1;
211                 }
212
213                 tainted |= TAINT_MACHINE_CHECK;
214         }
215
216         /* Never do anything final in the polling timer */
217         if (!regs)
218                 goto out;
219
220         /* If we didn't find an uncorrectable error, pick
221            the last one (shouldn't happen, just being safe). */
222         if (!panicm_found)
223                 panicm = m;
224         if (nowayout)
225                 mce_panic("Machine check", &panicm, mcestart);
226         if (kill_it) {
227                 int user_space = 0;
228
229                 if (m.mcgstatus & MCG_STATUS_RIPV)
230                         user_space = panicm.rip && (panicm.cs & 3);
231                 
232                 /* When the machine was in user space and the CPU didn't get
233                    confused it's normally not necessary to panic, unless you 
234                    are paranoid (tolerant == 0)
235
236                    RED-PEN could be more tolerant for MCEs in idle,
237                    but most likely they occur at boot anyways, where
238                    it is best to just halt the machine. */
239                 if ((!user_space && (panic_on_oops || tolerant < 2)) ||
240                     (unsigned)current->pid <= 1)
241                         mce_panic("Uncorrected machine check", &panicm, mcestart);
242
243                 /* do_exit takes an awful lot of locks and has as
244                    slight risk of deadlocking. If you don't want that
245                    don't set tolerant >= 2 */
246                 if (tolerant < 3)
247                         do_exit(SIGBUS);
248         }
249
250  out:
251         /* Last thing done in the machine check exception to clear state. */
252         wrmsrl(MSR_IA32_MCG_STATUS, 0);
253 }
254
255 /*
256  * Periodic polling timer for "silent" machine check errors.
257  */
258
259 static int check_interval = 5 * 60; /* 5 minutes */
260 static void mcheck_timer(void *data);
261 static DECLARE_WORK(mcheck_work, mcheck_timer, NULL);
262
263 static void mcheck_check_cpu(void *info)
264 {
265         if (mce_available(&current_cpu_data))
266                 do_machine_check(NULL, 0);
267 }
268
269 static void mcheck_timer(void *data)
270 {
271         on_each_cpu(mcheck_check_cpu, NULL, 1, 1);
272         schedule_delayed_work(&mcheck_work, check_interval * HZ);
273
274         /*
275          * It's ok to read stale data here for notify_user and
276          * console_logged as we'll simply get the updated versions
277          * on the next mcheck_timer execution and atomic operations
278          * on console_logged act as synchronization for notify_user
279          * writes.
280          */
281         if (notify_user && console_logged) {
282                 notify_user = 0;
283                 clear_bit(0, &console_logged);
284                 printk(KERN_INFO "Machine check events logged\n");
285         }
286 }
287
288
289 static __init int periodic_mcheck_init(void)
290
291         if (check_interval)
292                 schedule_delayed_work(&mcheck_work, check_interval*HZ);
293         return 0;
294
295 __initcall(periodic_mcheck_init);
296
297
298 /* 
299  * Initialize Machine Checks for a CPU.
300  */
301 static void mce_init(void *dummy)
302 {
303         u64 cap;
304         int i;
305
306         rdmsrl(MSR_IA32_MCG_CAP, cap);
307         banks = cap & 0xff;
308         if (banks > NR_BANKS) { 
309                 printk(KERN_INFO "MCE: warning: using only %d banks\n", banks);
310                 banks = NR_BANKS; 
311         }
312         /* Use accurate RIP reporting if available. */
313         if ((cap & (1<<9)) && ((cap >> 16) & 0xff) >= 9)
314                 rip_msr = MSR_IA32_MCG_EIP;
315
316         /* Log the machine checks left over from the previous reset.
317            This also clears all registers */
318         do_machine_check(NULL, -1);
319
320         set_in_cr4(X86_CR4_MCE);
321
322         if (cap & MCG_CTL_P)
323                 wrmsr(MSR_IA32_MCG_CTL, 0xffffffff, 0xffffffff);
324
325         for (i = 0; i < banks; i++) {
326                 wrmsrl(MSR_IA32_MC0_CTL+4*i, bank[i]);
327                 wrmsrl(MSR_IA32_MC0_STATUS+4*i, 0);
328         }       
329 }
330
331 /* Add per CPU specific workarounds here */
332 static void __cpuinit mce_cpu_quirks(struct cpuinfo_x86 *c)
333
334         /* This should be disabled by the BIOS, but isn't always */
335         if (c->x86_vendor == X86_VENDOR_AMD && c->x86 == 15) {
336                 /* disable GART TBL walk error reporting, which trips off 
337                    incorrectly with the IOMMU & 3ware & Cerberus. */
338                 clear_bit(10, &bank[4]);
339         }
340 }                       
341
342 static void __cpuinit mce_cpu_features(struct cpuinfo_x86 *c)
343 {
344         switch (c->x86_vendor) {
345         case X86_VENDOR_INTEL:
346                 mce_intel_feature_init(c);
347                 break;
348         default:
349                 break;
350         }
351 }
352
353 /* 
354  * Called for each booted CPU to set up machine checks.
355  * Must be called with preempt off. 
356  */
357 void __cpuinit mcheck_init(struct cpuinfo_x86 *c)
358 {
359         static cpumask_t mce_cpus __initdata = CPU_MASK_NONE;
360
361         mce_cpu_quirks(c); 
362
363         if (mce_dont_init ||
364             cpu_test_and_set(smp_processor_id(), mce_cpus) ||
365             !mce_available(c))
366                 return;
367
368         mce_init(NULL);
369         mce_cpu_features(c);
370 }
371
372 /*
373  * Character device to read and clear the MCE log.
374  */
375
376 static void collect_tscs(void *data) 
377
378         unsigned long *cpu_tsc = (unsigned long *)data;
379         rdtscll(cpu_tsc[smp_processor_id()]);
380
381
382 static ssize_t mce_read(struct file *filp, char __user *ubuf, size_t usize, loff_t *off)
383 {
384         unsigned long *cpu_tsc;
385         static DECLARE_MUTEX(mce_read_sem);
386         unsigned next;
387         char __user *buf = ubuf;
388         int i, err;
389
390         cpu_tsc = kmalloc(NR_CPUS * sizeof(long), GFP_KERNEL);
391         if (!cpu_tsc)
392                 return -ENOMEM;
393
394         down(&mce_read_sem); 
395         next = rcu_dereference(mcelog.next);
396
397         /* Only supports full reads right now */
398         if (*off != 0 || usize < MCE_LOG_LEN*sizeof(struct mce)) { 
399                 up(&mce_read_sem);
400                 kfree(cpu_tsc);
401                 return -EINVAL;
402         }
403
404         err = 0;
405         for (i = 0; i < next; i++) {
406                 if (!mcelog.entry[i].finished)
407                         continue;
408                 smp_rmb();
409                 err |= copy_to_user(buf, mcelog.entry + i, sizeof(struct mce));
410                 buf += sizeof(struct mce); 
411         } 
412
413         memset(mcelog.entry, 0, next * sizeof(struct mce));
414         mcelog.next = 0;
415
416         synchronize_sched();
417
418         /* Collect entries that were still getting written before the synchronize. */
419
420         on_each_cpu(collect_tscs, cpu_tsc, 1, 1);
421         for (i = next; i < MCE_LOG_LEN; i++) { 
422                 if (mcelog.entry[i].finished && 
423                     mcelog.entry[i].tsc < cpu_tsc[mcelog.entry[i].cpu]) {  
424                         err |= copy_to_user(buf, mcelog.entry+i, sizeof(struct mce));
425                         smp_rmb();
426                         buf += sizeof(struct mce);
427                         memset(&mcelog.entry[i], 0, sizeof(struct mce));
428                 }
429         }       
430         up(&mce_read_sem);
431         kfree(cpu_tsc);
432         return err ? -EFAULT : buf - ubuf; 
433 }
434
435 static int mce_ioctl(struct inode *i, struct file *f,unsigned int cmd, unsigned long arg)
436 {
437         int __user *p = (int __user *)arg;
438         if (!capable(CAP_SYS_ADMIN))
439                 return -EPERM; 
440         switch (cmd) {
441         case MCE_GET_RECORD_LEN: 
442                 return put_user(sizeof(struct mce), p);
443         case MCE_GET_LOG_LEN:
444                 return put_user(MCE_LOG_LEN, p);                
445         case MCE_GETCLEAR_FLAGS: {
446                 unsigned flags;
447                 do { 
448                         flags = mcelog.flags;
449                 } while (cmpxchg(&mcelog.flags, flags, 0) != flags); 
450                 return put_user(flags, p); 
451         }
452         default:
453                 return -ENOTTY; 
454         } 
455 }
456
457 static struct file_operations mce_chrdev_ops = {
458         .read = mce_read,
459         .ioctl = mce_ioctl,
460 };
461
462 static struct miscdevice mce_log_device = {
463         MISC_MCELOG_MINOR,
464         "mcelog",
465         &mce_chrdev_ops,
466 };
467
468 /* 
469  * Old style boot options parsing. Only for compatibility. 
470  */
471
472 static int __init mcheck_disable(char *str)
473 {
474         mce_dont_init = 1;
475         return 0;
476 }
477
478 /* mce=off disables machine check. Note you can reenable it later
479    using sysfs */
480 static int __init mcheck_enable(char *str)
481 {
482         if (!strcmp(str, "off"))
483                 mce_dont_init = 1;
484         else
485                 printk("mce= argument %s ignored. Please use /sys", str); 
486         return 0;
487 }
488
489 __setup("nomce", mcheck_disable);
490 __setup("mce", mcheck_enable);
491
492 /* 
493  * Sysfs support
494  */ 
495
496 /* On resume clear all MCE state. Don't want to see leftovers from the BIOS. */
497 static int mce_resume(struct sys_device *dev)
498 {
499         on_each_cpu(mce_init, NULL, 1, 1);
500         return 0;
501 }
502
503 /* Reinit MCEs after user configuration changes */
504 static void mce_restart(void) 
505
506         if (check_interval)
507                 cancel_delayed_work(&mcheck_work);
508         /* Timer race is harmless here */
509         on_each_cpu(mce_init, NULL, 1, 1);       
510         if (check_interval)
511                 schedule_delayed_work(&mcheck_work, check_interval*HZ);
512 }
513
514 static struct sysdev_class mce_sysclass = {
515         .resume = mce_resume,
516         set_kset_name("machinecheck"),
517 };
518
519 static DEFINE_PER_CPU(struct sys_device, device_mce);
520
521 /* Why are there no generic functions for this? */
522 #define ACCESSOR(name, var, start) \
523         static ssize_t show_ ## name(struct sys_device *s, char *buf) {                    \
524                 return sprintf(buf, "%lx\n", (unsigned long)var);                  \
525         }                                                                          \
526         static ssize_t set_ ## name(struct sys_device *s,const char *buf,size_t siz) { \
527                 char *end;                                                         \
528                 unsigned long new = simple_strtoul(buf, &end, 0);                  \
529                 if (end == buf) return -EINVAL;                                    \
530                 var = new;                                                         \
531                 start;                                                             \
532                 return end-buf;                                                    \
533         }                                                                          \
534         static SYSDEV_ATTR(name, 0644, show_ ## name, set_ ## name);
535
536 ACCESSOR(bank0ctl,bank[0],mce_restart())
537 ACCESSOR(bank1ctl,bank[1],mce_restart())
538 ACCESSOR(bank2ctl,bank[2],mce_restart())
539 ACCESSOR(bank3ctl,bank[3],mce_restart())
540 ACCESSOR(bank4ctl,bank[4],mce_restart())
541 ACCESSOR(tolerant,tolerant,)
542 ACCESSOR(check_interval,check_interval,mce_restart())
543
544 /* Per cpu sysdev init.  All of the cpus still share the same ctl bank */
545 static __cpuinit int mce_create_device(unsigned int cpu)
546 {
547         int err;
548         if (!mce_available(&cpu_data[cpu]))
549                 return -EIO;
550
551         per_cpu(device_mce,cpu).id = cpu;
552         per_cpu(device_mce,cpu).cls = &mce_sysclass;
553
554         err = sysdev_register(&per_cpu(device_mce,cpu));
555
556         if (!err) {
557                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_bank0ctl);
558                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_bank1ctl);
559                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_bank2ctl);
560                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_bank3ctl);
561                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_bank4ctl);
562                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_tolerant);
563                 sysdev_create_file(&per_cpu(device_mce,cpu), &attr_check_interval);
564         }
565         return err;
566 }
567
568 #ifdef CONFIG_HOTPLUG_CPU
569 static __cpuinit void mce_remove_device(unsigned int cpu)
570 {
571         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_bank0ctl);
572         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_bank1ctl);
573         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_bank2ctl);
574         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_bank3ctl);
575         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_bank4ctl);
576         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_tolerant);
577         sysdev_remove_file(&per_cpu(device_mce,cpu), &attr_check_interval);
578         sysdev_unregister(&per_cpu(device_mce,cpu));
579 }
580 #endif
581
582 /* Get notified when a cpu comes on/off. Be hotplug friendly. */
583 static __cpuinit int
584 mce_cpu_callback(struct notifier_block *nfb, unsigned long action, void *hcpu)
585 {
586         unsigned int cpu = (unsigned long)hcpu;
587
588         switch (action) {
589         case CPU_ONLINE:
590                 mce_create_device(cpu);
591                 break;
592 #ifdef CONFIG_HOTPLUG_CPU
593         case CPU_DEAD:
594                 mce_remove_device(cpu);
595                 break;
596 #endif
597         }
598         return NOTIFY_OK;
599 }
600
601 static struct notifier_block mce_cpu_notifier = {
602         .notifier_call = mce_cpu_callback,
603 };
604
605 static __init int mce_init_device(void)
606 {
607         int err;
608         int i = 0;
609
610         if (!mce_available(&boot_cpu_data))
611                 return -EIO;
612         err = sysdev_class_register(&mce_sysclass);
613
614         for_each_online_cpu(i) {
615                 mce_create_device(i);
616         }
617
618         register_cpu_notifier(&mce_cpu_notifier);
619         misc_register(&mce_log_device);
620         return err;
621 }
622
623 device_initcall(mce_init_device);