Linux-2.6.12-rc2
[linux-2.6.git] / arch / alpha / lib / memset.S
1 /*
2  * linux/arch/alpha/memset.S
3  *
4  * This is an efficient (and small) implementation of the C library "memset()"
5  * function for the alpha.
6  *
7  *      (C) Copyright 1996 Linus Torvalds
8  *
9  * This routine is "moral-ware": you are free to use it any way you wish, and
10  * the only obligation I put on you is a moral one: if you make any improvements
11  * to the routine, please send me your improvements for me to use similarly.
12  *
13  * The scheduling comments are according to the EV5 documentation (and done by 
14  * hand, so they might well be incorrect, please do tell me about it..)
15  */
16
17         .set noat
18         .set noreorder
19 .text
20         .globl memset
21         .globl __memset
22         .globl __memsetw
23         .globl __constant_c_memset
24         .ent __memset
25 .align 5
26 __memset:
27         .frame $30,0,$26,0
28         .prologue 0
29
30         and $17,255,$1          /* E1 */
31         insbl $17,1,$17         /* .. E0 */
32         bis $17,$1,$17          /* E0 (p-c latency, next cycle) */
33         sll $17,16,$1           /* E1 (p-c latency, next cycle) */
34
35         bis $17,$1,$17          /* E0 (p-c latency, next cycle) */
36         sll $17,32,$1           /* E1 (p-c latency, next cycle) */
37         bis $17,$1,$17          /* E0 (p-c latency, next cycle) */
38         ldq_u $31,0($30)        /* .. E1 */
39
40 .align 5
41 __constant_c_memset:
42         addq $18,$16,$6         /* E0 */
43         bis $16,$16,$0          /* .. E1 */
44         xor $16,$6,$1           /* E0 */
45         ble $18,end             /* .. E1 */
46
47         bic $1,7,$1             /* E0 */
48         beq $1,within_one_quad  /* .. E1 (note EV5 zero-latency forwarding) */
49         and $16,7,$3            /* E0 */
50         beq $3,aligned          /* .. E1 (note EV5 zero-latency forwarding) */
51
52         ldq_u $4,0($16)         /* E0 */
53         bis $16,$16,$5          /* .. E1 */
54         insql $17,$16,$2        /* E0 */
55         subq $3,8,$3            /* .. E1 */
56
57         addq $18,$3,$18         /* E0   $18 is new count ($3 is negative) */
58         mskql $4,$16,$4         /* .. E1 (and possible load stall) */
59         subq $16,$3,$16         /* E0   $16 is new aligned destination */
60         bis $2,$4,$1            /* .. E1 */
61
62         bis $31,$31,$31         /* E0 */
63         ldq_u $31,0($30)        /* .. E1 */
64         stq_u $1,0($5)          /* E0 */
65         bis $31,$31,$31         /* .. E1 */
66
67 .align 4
68 aligned:
69         sra $18,3,$3            /* E0 */
70         and $18,7,$18           /* .. E1 */
71         bis $16,$16,$5          /* E0 */
72         beq $3,no_quad          /* .. E1 */
73
74 .align 3
75 loop:
76         stq $17,0($5)           /* E0 */
77         subq $3,1,$3            /* .. E1 */
78         addq $5,8,$5            /* E0 */
79         bne $3,loop             /* .. E1 */
80
81 no_quad:
82         bis $31,$31,$31         /* E0 */
83         beq $18,end             /* .. E1 */
84         ldq $7,0($5)            /* E0 */
85         mskqh $7,$6,$2          /* .. E1 (and load stall) */
86
87         insqh $17,$6,$4         /* E0 */
88         bis $2,$4,$1            /* .. E1 */
89         stq $1,0($5)            /* E0 */
90         ret $31,($26),1         /* .. E1 */
91
92 .align 3
93 within_one_quad:
94         ldq_u $1,0($16)         /* E0 */
95         insql $17,$16,$2        /* E1 */
96         mskql $1,$16,$4         /* E0 (after load stall) */
97         bis $2,$4,$2            /* E0 */
98
99         mskql $2,$6,$4          /* E0 */
100         mskqh $1,$6,$2          /* .. E1 */
101         bis $2,$4,$1            /* E0 */
102         stq_u $1,0($16)         /* E0 */
103
104 end:
105         ret $31,($26),1         /* E1 */
106         .end __memset
107
108         .align 5
109         .ent __memsetw
110 __memsetw:
111         .prologue 0
112
113         inswl $17,0,$1          /* E0 */
114         inswl $17,2,$2          /* E0 */
115         inswl $17,4,$3          /* E0 */
116         or $1,$2,$1             /* .. E1 */
117         inswl $17,6,$4          /* E0 */
118         or $1,$3,$1             /* .. E1 */
119         or $1,$4,$17            /* E0 */
120         br __constant_c_memset  /* .. E1 */
121
122         .end __memsetw
123
124 memset = __memset