perf, x86: Add INSTRUCTION_DECODER config flag
[linux-3.10.git] / arch / x86 / lib / copy_page_64.S
1 /* Written 2003 by Andi Kleen, based on a kernel by Evandro Menezes */
2
3 #include <linux/linkage.h>
4 #include <asm/dwarf2.h>
5
6         ALIGN
7 copy_page_c:
8         CFI_STARTPROC
9         movl $4096/8,%ecx
10         rep movsq
11         ret
12         CFI_ENDPROC
13 ENDPROC(copy_page_c)
14
15 /* Don't use streaming store because it's better when the target
16    ends up in cache. */
17             
18 /* Could vary the prefetch distance based on SMP/UP */
19
20 ENTRY(copy_page)
21         CFI_STARTPROC
22         subq    $3*8,%rsp
23         CFI_ADJUST_CFA_OFFSET 3*8
24         movq    %rbx,(%rsp)
25         CFI_REL_OFFSET rbx, 0
26         movq    %r12,1*8(%rsp)
27         CFI_REL_OFFSET r12, 1*8
28         movq    %r13,2*8(%rsp)
29         CFI_REL_OFFSET r13, 2*8
30
31         movl    $(4096/64)-5,%ecx
32         .p2align 4
33 .Loop64:
34         dec     %rcx
35
36         movq        (%rsi), %rax
37         movq      8 (%rsi), %rbx
38         movq     16 (%rsi), %rdx
39         movq     24 (%rsi), %r8
40         movq     32 (%rsi), %r9
41         movq     40 (%rsi), %r10
42         movq     48 (%rsi), %r11
43         movq     56 (%rsi), %r12
44
45         prefetcht0 5*64(%rsi)
46
47         movq     %rax,    (%rdi)
48         movq     %rbx,  8 (%rdi)
49         movq     %rdx, 16 (%rdi)
50         movq     %r8,  24 (%rdi)
51         movq     %r9,  32 (%rdi)
52         movq     %r10, 40 (%rdi)
53         movq     %r11, 48 (%rdi)
54         movq     %r12, 56 (%rdi)
55
56         leaq    64 (%rsi), %rsi
57         leaq    64 (%rdi), %rdi
58
59         jnz     .Loop64
60
61         movl    $5,%ecx
62         .p2align 4
63 .Loop2:
64         decl   %ecx
65
66         movq        (%rsi), %rax
67         movq      8 (%rsi), %rbx
68         movq     16 (%rsi), %rdx
69         movq     24 (%rsi), %r8
70         movq     32 (%rsi), %r9
71         movq     40 (%rsi), %r10
72         movq     48 (%rsi), %r11
73         movq     56 (%rsi), %r12
74
75         movq     %rax,    (%rdi)
76         movq     %rbx,  8 (%rdi)
77         movq     %rdx, 16 (%rdi)
78         movq     %r8,  24 (%rdi)
79         movq     %r9,  32 (%rdi)
80         movq     %r10, 40 (%rdi)
81         movq     %r11, 48 (%rdi)
82         movq     %r12, 56 (%rdi)
83
84         leaq    64(%rdi),%rdi
85         leaq    64(%rsi),%rsi
86
87         jnz     .Loop2
88
89         movq    (%rsp),%rbx
90         CFI_RESTORE rbx
91         movq    1*8(%rsp),%r12
92         CFI_RESTORE r12
93         movq    2*8(%rsp),%r13
94         CFI_RESTORE r13
95         addq    $3*8,%rsp
96         CFI_ADJUST_CFA_OFFSET -3*8
97         ret
98 .Lcopy_page_end:
99         CFI_ENDPROC
100 ENDPROC(copy_page)
101
102         /* Some CPUs run faster using the string copy instructions.
103            It is also a lot simpler. Use this when possible */
104
105 #include <asm/cpufeature.h>
106
107         .section .altinstr_replacement,"ax"
108 1:      .byte 0xeb                                      /* jmp <disp8> */
109         .byte (copy_page_c - copy_page) - (2f - 1b)     /* offset */
110 2:
111         .previous
112         .section .altinstructions,"a"
113         .align 8
114         .quad copy_page
115         .quad 1b
116         .byte X86_FEATURE_REP_GOOD
117         .byte .Lcopy_page_end - copy_page
118         .byte 2b - 1b
119         .previous