3b03b0b868dd030eec0824f9f8df1be2783b9f16
[linux-2.6.git] / include / linux / bootmem.h
1 /*
2  * Discontiguous memory support, Kanoj Sarcar, SGI, Nov 1999
3  */
4 #ifndef _LINUX_BOOTMEM_H
5 #define _LINUX_BOOTMEM_H
6
7 #include <asm/pgtable.h>
8 #include <asm/dma.h>
9 #include <linux/cache.h>
10 #include <linux/init.h>
11 #include <linux/mmzone.h>
12
13 /*
14  *  simple boot-time physical memory area allocator.
15  */
16
17 extern unsigned long max_low_pfn;
18 extern unsigned long min_low_pfn;
19
20 /*
21  * highest page
22  */
23 extern unsigned long max_pfn;
24
25 #ifdef CONFIG_CRASH_DUMP
26 extern unsigned long saved_max_pfn;
27 #endif
28
29 /*
30  * node_bootmem_map is a map pointer - the bits represent all physical 
31  * memory pages (including holes) on the node.
32  */
33 typedef struct bootmem_data {
34         unsigned long node_boot_start;
35         unsigned long node_low_pfn;
36         void *node_bootmem_map;
37         unsigned long last_offset;
38         unsigned long last_pos;
39         unsigned long last_success;     /* Previous allocation point.  To speed
40                                          * up searching */
41 } bootmem_data_t;
42
43 extern unsigned long __init bootmem_bootmap_pages (unsigned long);
44 extern unsigned long __init init_bootmem (unsigned long addr, unsigned long memend);
45 extern void __init free_bootmem (unsigned long addr, unsigned long size);
46 extern void * __init __alloc_bootmem_limit (unsigned long size, unsigned long align, unsigned long goal, unsigned long limit);
47 #ifndef CONFIG_HAVE_ARCH_BOOTMEM_NODE
48 extern void __init reserve_bootmem (unsigned long addr, unsigned long size);
49 #define alloc_bootmem(x) \
50         __alloc_bootmem((x), SMP_CACHE_BYTES, __pa(MAX_DMA_ADDRESS))
51 #define alloc_bootmem_low(x) \
52         __alloc_bootmem((x), SMP_CACHE_BYTES, 0)
53 #define alloc_bootmem_pages(x) \
54         __alloc_bootmem((x), PAGE_SIZE, __pa(MAX_DMA_ADDRESS))
55 #define alloc_bootmem_low_pages(x) \
56         __alloc_bootmem((x), PAGE_SIZE, 0)
57
58 #define alloc_bootmem_limit(x, limit)                                           \
59         __alloc_bootmem_limit((x), SMP_CACHE_BYTES, __pa(MAX_DMA_ADDRESS), (limit))
60 #define alloc_bootmem_low_limit(x, limit)                       \
61         __alloc_bootmem_limit((x), SMP_CACHE_BYTES, 0, (limit))
62 #define alloc_bootmem_pages_limit(x, limit)                                     \
63         __alloc_bootmem_limit((x), PAGE_SIZE, __pa(MAX_DMA_ADDRESS), (limit))
64 #define alloc_bootmem_low_pages_limit(x, limit)         \
65         __alloc_bootmem_limit((x), PAGE_SIZE, 0, (limit))
66
67 #endif /* !CONFIG_HAVE_ARCH_BOOTMEM_NODE */
68 extern unsigned long __init free_all_bootmem (void);
69
70 extern unsigned long __init init_bootmem_node (pg_data_t *pgdat, unsigned long freepfn, unsigned long startpfn, unsigned long endpfn);
71 extern void __init reserve_bootmem_node (pg_data_t *pgdat, unsigned long physaddr, unsigned long size);
72 extern void __init free_bootmem_node (pg_data_t *pgdat, unsigned long addr, unsigned long size);
73 extern unsigned long __init free_all_bootmem_node (pg_data_t *pgdat);
74 extern void * __init __alloc_bootmem_node_limit (pg_data_t *pgdat, unsigned long size, unsigned long align, unsigned long goal, unsigned long limit);
75 #ifndef CONFIG_HAVE_ARCH_BOOTMEM_NODE
76 #define alloc_bootmem_node(pgdat, x) \
77         __alloc_bootmem_node((pgdat), (x), SMP_CACHE_BYTES, __pa(MAX_DMA_ADDRESS))
78 #define alloc_bootmem_pages_node(pgdat, x) \
79         __alloc_bootmem_node((pgdat), (x), PAGE_SIZE, __pa(MAX_DMA_ADDRESS))
80 #define alloc_bootmem_low_pages_node(pgdat, x) \
81         __alloc_bootmem_node((pgdat), (x), PAGE_SIZE, 0)
82
83 #define alloc_bootmem_node_limit(pgdat, x, limit)                               \
84         __alloc_bootmem_node_limit((pgdat), (x), SMP_CACHE_BYTES, __pa(MAX_DMA_ADDRESS), (limit))
85 #define alloc_bootmem_pages_node_limit(pgdat, x, limit)                         \
86         __alloc_bootmem_node_limit((pgdat), (x), PAGE_SIZE, __pa(MAX_DMA_ADDRESS), (limit))
87 #define alloc_bootmem_low_pages_node_limit(pgdat, x, limit)             \
88         __alloc_bootmem_node_limit((pgdat), (x), PAGE_SIZE, 0, (limit))
89
90 #endif /* !CONFIG_HAVE_ARCH_BOOTMEM_NODE */
91
92 #ifdef CONFIG_HAVE_ARCH_ALLOC_REMAP
93 extern void *alloc_remap(int nid, unsigned long size);
94 #else
95 static inline void *alloc_remap(int nid, unsigned long size)
96 {
97         return NULL;
98 }
99 #endif
100
101 extern unsigned long __initdata nr_kernel_pages;
102 extern unsigned long __initdata nr_all_pages;
103
104 extern void *__init alloc_large_system_hash(const char *tablename,
105                                             unsigned long bucketsize,
106                                             unsigned long numentries,
107                                             int scale,
108                                             int flags,
109                                             unsigned int *_hash_shift,
110                                             unsigned int *_hash_mask,
111                                             unsigned long limit);
112
113 #define HASH_HIGHMEM    0x00000001      /* Consider highmem? */
114 #define HASH_EARLY      0x00000002      /* Allocating during early boot? */
115
116 /* Only NUMA needs hash distribution.
117  * IA64 is known to have sufficient vmalloc space.
118  */
119 #if defined(CONFIG_NUMA) && defined(CONFIG_IA64)
120 #define HASHDIST_DEFAULT 1
121 #else
122 #define HASHDIST_DEFAULT 0
123 #endif
124 extern int __initdata hashdist;         /* Distribute hashes across NUMA nodes? */
125
126 static inline void *__alloc_bootmem (unsigned long size, unsigned long align, unsigned long goal)
127 {
128         return __alloc_bootmem_limit(size, align, goal, 0);
129 }
130
131 static inline void *__alloc_bootmem_node (pg_data_t *pgdat, unsigned long size, unsigned long align,
132                                      unsigned long goal)
133 {
134         return __alloc_bootmem_node_limit(pgdat, size, align, goal, 0);
135 }
136
137 #endif /* _LINUX_BOOTMEM_H */