[PATCH] FUTEX_WAKE_OP: pthread_cond_signal() speedup
[linux-3.10.git] / include / asm-ppc64 / memory.h
1 #ifndef _ASM_PPC64_MEMORY_H_ 
2 #define _ASM_PPC64_MEMORY_H_ 
3
4 /*
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License
7  * as published by the Free Software Foundation; either version
8  * 2 of the License, or (at your option) any later version.
9  */
10
11 #include <linux/config.h>
12
13 /*
14  * Arguably the bitops and *xchg operations don't imply any memory barrier
15  * or SMP ordering, but in fact a lot of drivers expect them to imply
16  * both, since they do on x86 cpus.
17  */
18 #ifdef CONFIG_SMP
19 #define EIEIO_ON_SMP    "eieio\n"
20 #define ISYNC_ON_SMP    "\n\tisync"
21 #define SYNC_ON_SMP     "lwsync\n\t"
22 #else
23 #define EIEIO_ON_SMP
24 #define ISYNC_ON_SMP
25 #define SYNC_ON_SMP
26 #endif
27
28 static inline void eieio(void)
29 {
30         __asm__ __volatile__ ("eieio" : : : "memory");
31 }
32
33 static inline void isync(void)
34 {
35         __asm__ __volatile__ ("isync" : : : "memory");
36 }
37
38 #ifdef CONFIG_SMP
39 #define eieio_on_smp()  eieio()
40 #define isync_on_smp()  isync()
41 #else
42 #define eieio_on_smp()  __asm__ __volatile__("": : :"memory")
43 #define isync_on_smp()  __asm__ __volatile__("": : :"memory")
44 #endif
45
46 /* Macros for adjusting thread priority (hardware multi-threading) */
47 #define HMT_very_low()    asm volatile("or 31,31,31   # very low priority")
48 #define HMT_low()       asm volatile("or 1,1,1          # low priority")
49 #define HMT_medium_low()  asm volatile("or 6,6,6      # medium low priority")
50 #define HMT_medium()    asm volatile("or 2,2,2          # medium priority")
51 #define HMT_medium_high() asm volatile("or 5,5,5      # medium high priority")
52 #define HMT_high()      asm volatile("or 3,3,3          # high priority")
53
54 #define HMT_VERY_LOW    "\tor   31,31,31        # very low priority\n"
55 #define HMT_LOW         "\tor   1,1,1           # low priority\n"
56 #define HMT_MEDIUM_LOW  "\tor   6,6,6           # medium low priority\n"
57 #define HMT_MEDIUM      "\tor   2,2,2           # medium priority\n"
58 #define HMT_MEDIUM_HIGH "\tor   5,5,5           # medium high priority\n"
59 #define HMT_HIGH        "\tor   3,3,3           # high priority\n"
60
61 #endif