[PATCH] separate bdi congestion functions from queue congestion functions
[linux-2.6.git] / fs / xfs / linux-2.6 / kmem.c
1 /*
2  * Copyright (c) 2000-2005 Silicon Graphics, Inc.
3  * All Rights Reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License as
7  * published by the Free Software Foundation.
8  *
9  * This program is distributed in the hope that it would be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write the Free Software Foundation,
16  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18 #include <linux/sched.h>
19 #include <linux/mm.h>
20 #include <linux/vmalloc.h>
21 #include <linux/highmem.h>
22 #include <linux/swap.h>
23 #include <linux/blkdev.h>
24 #include <linux/backing-dev.h>
25 #include "time.h"
26 #include "kmem.h"
27
28 #define MAX_VMALLOCS    6
29 #define MAX_SLAB_SIZE   0x20000
30
31 void *
32 kmem_alloc(size_t size, unsigned int __nocast flags)
33 {
34         int     retries = 0;
35         gfp_t   lflags = kmem_flags_convert(flags);
36         void    *ptr;
37
38 #ifdef DEBUG
39         if (unlikely(!(flags & KM_LARGE) && (size > PAGE_SIZE))) {
40                 printk(KERN_WARNING "Large %s attempt, size=%ld\n",
41                         __FUNCTION__, (long)size);
42                 dump_stack();
43         }
44 #endif
45
46         do {
47                 if (size < MAX_SLAB_SIZE || retries > MAX_VMALLOCS)
48                         ptr = kmalloc(size, lflags);
49                 else
50                         ptr = __vmalloc(size, lflags, PAGE_KERNEL);
51                 if (ptr || (flags & (KM_MAYFAIL|KM_NOSLEEP)))
52                         return ptr;
53                 if (!(++retries % 100))
54                         printk(KERN_ERR "XFS: possible memory allocation "
55                                         "deadlock in %s (mode:0x%x)\n",
56                                         __FUNCTION__, lflags);
57                 congestion_wait(WRITE, HZ/50);
58         } while (1);
59 }
60
61 void *
62 kmem_zalloc(size_t size, unsigned int __nocast flags)
63 {
64         void    *ptr;
65
66         ptr = kmem_alloc(size, flags);
67         if (ptr)
68                 memset((char *)ptr, 0, (int)size);
69         return ptr;
70 }
71
72 void *
73 kmem_zalloc_greedy(size_t *size, size_t minsize, size_t maxsize,
74                    unsigned int __nocast flags)
75 {
76         void            *ptr;
77         size_t          kmsize = maxsize;
78         unsigned int    kmflags = (flags & ~KM_SLEEP) | KM_NOSLEEP;
79
80         while (!(ptr = kmem_zalloc(kmsize, kmflags))) {
81                 if ((kmsize <= minsize) && (flags & KM_NOSLEEP))
82                         break;
83                 if ((kmsize >>= 1) <= minsize) {
84                         kmsize = minsize;
85                         kmflags = flags;
86                 }
87         }
88         if (ptr)
89                 *size = kmsize;
90         return ptr;
91 }
92
93 void
94 kmem_free(void *ptr, size_t size)
95 {
96         if (((unsigned long)ptr < VMALLOC_START) ||
97             ((unsigned long)ptr >= VMALLOC_END)) {
98                 kfree(ptr);
99         } else {
100                 vfree(ptr);
101         }
102 }
103
104 void *
105 kmem_realloc(void *ptr, size_t newsize, size_t oldsize,
106              unsigned int __nocast flags)
107 {
108         void    *new;
109
110         new = kmem_alloc(newsize, flags);
111         if (ptr) {
112                 if (new)
113                         memcpy(new, ptr,
114                                 ((oldsize < newsize) ? oldsize : newsize));
115                 kmem_free(ptr, oldsize);
116         }
117         return new;
118 }
119
120 void *
121 kmem_zone_alloc(kmem_zone_t *zone, unsigned int __nocast flags)
122 {
123         int     retries = 0;
124         gfp_t   lflags = kmem_flags_convert(flags);
125         void    *ptr;
126
127         do {
128                 ptr = kmem_cache_alloc(zone, lflags);
129                 if (ptr || (flags & (KM_MAYFAIL|KM_NOSLEEP)))
130                         return ptr;
131                 if (!(++retries % 100))
132                         printk(KERN_ERR "XFS: possible memory allocation "
133                                         "deadlock in %s (mode:0x%x)\n",
134                                         __FUNCTION__, lflags);
135                 congestion_wait(WRITE, HZ/50);
136         } while (1);
137 }
138
139 void *
140 kmem_zone_zalloc(kmem_zone_t *zone, unsigned int __nocast flags)
141 {
142         void    *ptr;
143
144         ptr = kmem_zone_alloc(zone, flags);
145         if (ptr)
146                 memset((char *)ptr, 0, kmem_cache_size(zone));
147         return ptr;
148 }