6c093fa98f61f45f4d98344fab0e52de088a8aa2
[linux-2.6.git] / fs / btrfs / ctree.h
1 /*
2  * Copyright (C) 2007 Oracle.  All rights reserved.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public
6  * License v2 as published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful,
9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public
14  * License along with this program; if not, write to the
15  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
16  * Boston, MA 021110-1307, USA.
17  */
18
19 #ifndef __BTRFS_CTREE__
20 #define __BTRFS_CTREE__
21
22 #include <linux/version.h>
23 #include <linux/mm.h>
24 #include <linux/highmem.h>
25 #include <linux/fs.h>
26 #include <linux/rwsem.h>
27 #include <linux/completion.h>
28 #include <linux/backing-dev.h>
29 #include <linux/wait.h>
30 #include <linux/slab.h>
31 #include <linux/kobject.h>
32 #include <trace/events/btrfs.h>
33 #include <asm/kmap_types.h>
34 #include "extent_io.h"
35 #include "extent_map.h"
36 #include "async-thread.h"
37 #include "ioctl.h"
38
39 struct btrfs_trans_handle;
40 struct btrfs_transaction;
41 struct btrfs_pending_snapshot;
42 extern struct kmem_cache *btrfs_trans_handle_cachep;
43 extern struct kmem_cache *btrfs_transaction_cachep;
44 extern struct kmem_cache *btrfs_bit_radix_cachep;
45 extern struct kmem_cache *btrfs_path_cachep;
46 extern struct kmem_cache *btrfs_free_space_cachep;
47 struct btrfs_ordered_sum;
48
49 #define BTRFS_MAGIC "_BHRfS_M"
50
51 #define BTRFS_MAX_LEVEL 8
52
53 #define BTRFS_COMPAT_EXTENT_TREE_V0
54
55 /*
56  * files bigger than this get some pre-flushing when they are added
57  * to the ordered operations list.  That way we limit the total
58  * work done by the commit
59  */
60 #define BTRFS_ORDERED_OPERATIONS_FLUSH_LIMIT (8 * 1024 * 1024)
61
62 /* holds pointers to all of the tree roots */
63 #define BTRFS_ROOT_TREE_OBJECTID 1ULL
64
65 /* stores information about which extents are in use, and reference counts */
66 #define BTRFS_EXTENT_TREE_OBJECTID 2ULL
67
68 /*
69  * chunk tree stores translations from logical -> physical block numbering
70  * the super block points to the chunk tree
71  */
72 #define BTRFS_CHUNK_TREE_OBJECTID 3ULL
73
74 /*
75  * stores information about which areas of a given device are in use.
76  * one per device.  The tree of tree roots points to the device tree
77  */
78 #define BTRFS_DEV_TREE_OBJECTID 4ULL
79
80 /* one per subvolume, storing files and directories */
81 #define BTRFS_FS_TREE_OBJECTID 5ULL
82
83 /* directory objectid inside the root tree */
84 #define BTRFS_ROOT_TREE_DIR_OBJECTID 6ULL
85
86 /* holds checksums of all the data extents */
87 #define BTRFS_CSUM_TREE_OBJECTID 7ULL
88
89 /* orhpan objectid for tracking unlinked/truncated files */
90 #define BTRFS_ORPHAN_OBJECTID -5ULL
91
92 /* does write ahead logging to speed up fsyncs */
93 #define BTRFS_TREE_LOG_OBJECTID -6ULL
94 #define BTRFS_TREE_LOG_FIXUP_OBJECTID -7ULL
95
96 /* for space balancing */
97 #define BTRFS_TREE_RELOC_OBJECTID -8ULL
98 #define BTRFS_DATA_RELOC_TREE_OBJECTID -9ULL
99
100 /*
101  * extent checksums all have this objectid
102  * this allows them to share the logging tree
103  * for fsyncs
104  */
105 #define BTRFS_EXTENT_CSUM_OBJECTID -10ULL
106
107 /* For storing free space cache */
108 #define BTRFS_FREE_SPACE_OBJECTID -11ULL
109
110 /*
111  * The inode number assigned to the special inode for sotring
112  * free ino cache
113  */
114 #define BTRFS_FREE_INO_OBJECTID -12ULL
115
116 /* dummy objectid represents multiple objectids */
117 #define BTRFS_MULTIPLE_OBJECTIDS -255ULL
118
119 /*
120  * All files have objectids in this range.
121  */
122 #define BTRFS_FIRST_FREE_OBJECTID 256ULL
123 #define BTRFS_LAST_FREE_OBJECTID -256ULL
124 #define BTRFS_FIRST_CHUNK_TREE_OBJECTID 256ULL
125
126
127 /*
128  * the device items go into the chunk tree.  The key is in the form
129  * [ 1 BTRFS_DEV_ITEM_KEY device_id ]
130  */
131 #define BTRFS_DEV_ITEMS_OBJECTID 1ULL
132
133 #define BTRFS_BTREE_INODE_OBJECTID 1
134
135 #define BTRFS_EMPTY_SUBVOL_DIR_OBJECTID 2
136
137 /*
138  * we can actually store much bigger names, but lets not confuse the rest
139  * of linux
140  */
141 #define BTRFS_NAME_LEN 255
142
143 /* 32 bytes in various csum fields */
144 #define BTRFS_CSUM_SIZE 32
145
146 /* csum types */
147 #define BTRFS_CSUM_TYPE_CRC32   0
148
149 static int btrfs_csum_sizes[] = { 4, 0 };
150
151 /* four bytes for CRC32 */
152 #define BTRFS_EMPTY_DIR_SIZE 0
153
154 #define BTRFS_FT_UNKNOWN        0
155 #define BTRFS_FT_REG_FILE       1
156 #define BTRFS_FT_DIR            2
157 #define BTRFS_FT_CHRDEV         3
158 #define BTRFS_FT_BLKDEV         4
159 #define BTRFS_FT_FIFO           5
160 #define BTRFS_FT_SOCK           6
161 #define BTRFS_FT_SYMLINK        7
162 #define BTRFS_FT_XATTR          8
163 #define BTRFS_FT_MAX            9
164
165 /*
166  * The key defines the order in the tree, and so it also defines (optimal)
167  * block layout.
168  *
169  * objectid corresponds to the inode number.
170  *
171  * type tells us things about the object, and is a kind of stream selector.
172  * so for a given inode, keys with type of 1 might refer to the inode data,
173  * type of 2 may point to file data in the btree and type == 3 may point to
174  * extents.
175  *
176  * offset is the starting byte offset for this key in the stream.
177  *
178  * btrfs_disk_key is in disk byte order.  struct btrfs_key is always
179  * in cpu native order.  Otherwise they are identical and their sizes
180  * should be the same (ie both packed)
181  */
182 struct btrfs_disk_key {
183         __le64 objectid;
184         u8 type;
185         __le64 offset;
186 } __attribute__ ((__packed__));
187
188 struct btrfs_key {
189         u64 objectid;
190         u8 type;
191         u64 offset;
192 } __attribute__ ((__packed__));
193
194 struct btrfs_mapping_tree {
195         struct extent_map_tree map_tree;
196 };
197
198 struct btrfs_dev_item {
199         /* the internal btrfs device id */
200         __le64 devid;
201
202         /* size of the device */
203         __le64 total_bytes;
204
205         /* bytes used */
206         __le64 bytes_used;
207
208         /* optimal io alignment for this device */
209         __le32 io_align;
210
211         /* optimal io width for this device */
212         __le32 io_width;
213
214         /* minimal io size for this device */
215         __le32 sector_size;
216
217         /* type and info about this device */
218         __le64 type;
219
220         /* expected generation for this device */
221         __le64 generation;
222
223         /*
224          * starting byte of this partition on the device,
225          * to allow for stripe alignment in the future
226          */
227         __le64 start_offset;
228
229         /* grouping information for allocation decisions */
230         __le32 dev_group;
231
232         /* seek speed 0-100 where 100 is fastest */
233         u8 seek_speed;
234
235         /* bandwidth 0-100 where 100 is fastest */
236         u8 bandwidth;
237
238         /* btrfs generated uuid for this device */
239         u8 uuid[BTRFS_UUID_SIZE];
240
241         /* uuid of FS who owns this device */
242         u8 fsid[BTRFS_UUID_SIZE];
243 } __attribute__ ((__packed__));
244
245 struct btrfs_stripe {
246         __le64 devid;
247         __le64 offset;
248         u8 dev_uuid[BTRFS_UUID_SIZE];
249 } __attribute__ ((__packed__));
250
251 struct btrfs_chunk {
252         /* size of this chunk in bytes */
253         __le64 length;
254
255         /* objectid of the root referencing this chunk */
256         __le64 owner;
257
258         __le64 stripe_len;
259         __le64 type;
260
261         /* optimal io alignment for this chunk */
262         __le32 io_align;
263
264         /* optimal io width for this chunk */
265         __le32 io_width;
266
267         /* minimal io size for this chunk */
268         __le32 sector_size;
269
270         /* 2^16 stripes is quite a lot, a second limit is the size of a single
271          * item in the btree
272          */
273         __le16 num_stripes;
274
275         /* sub stripes only matter for raid10 */
276         __le16 sub_stripes;
277         struct btrfs_stripe stripe;
278         /* additional stripes go here */
279 } __attribute__ ((__packed__));
280
281 #define BTRFS_FREE_SPACE_EXTENT 1
282 #define BTRFS_FREE_SPACE_BITMAP 2
283
284 struct btrfs_free_space_entry {
285         __le64 offset;
286         __le64 bytes;
287         u8 type;
288 } __attribute__ ((__packed__));
289
290 struct btrfs_free_space_header {
291         struct btrfs_disk_key location;
292         __le64 generation;
293         __le64 num_entries;
294         __le64 num_bitmaps;
295 } __attribute__ ((__packed__));
296
297 static inline unsigned long btrfs_chunk_item_size(int num_stripes)
298 {
299         BUG_ON(num_stripes == 0);
300         return sizeof(struct btrfs_chunk) +
301                 sizeof(struct btrfs_stripe) * (num_stripes - 1);
302 }
303
304 #define BTRFS_HEADER_FLAG_WRITTEN       (1ULL << 0)
305 #define BTRFS_HEADER_FLAG_RELOC         (1ULL << 1)
306
307 /*
308  * File system states
309  */
310
311 /* Errors detected */
312 #define BTRFS_SUPER_FLAG_ERROR          (1ULL << 2)
313
314 #define BTRFS_SUPER_FLAG_SEEDING        (1ULL << 32)
315 #define BTRFS_SUPER_FLAG_METADUMP       (1ULL << 33)
316
317 #define BTRFS_BACKREF_REV_MAX           256
318 #define BTRFS_BACKREF_REV_SHIFT         56
319 #define BTRFS_BACKREF_REV_MASK          (((u64)BTRFS_BACKREF_REV_MAX - 1) << \
320                                          BTRFS_BACKREF_REV_SHIFT)
321
322 #define BTRFS_OLD_BACKREF_REV           0
323 #define BTRFS_MIXED_BACKREF_REV         1
324
325 /*
326  * every tree block (leaf or node) starts with this header.
327  */
328 struct btrfs_header {
329         /* these first four must match the super block */
330         u8 csum[BTRFS_CSUM_SIZE];
331         u8 fsid[BTRFS_FSID_SIZE]; /* FS specific uuid */
332         __le64 bytenr; /* which block this node is supposed to live in */
333         __le64 flags;
334
335         /* allowed to be different from the super from here on down */
336         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
337         __le64 generation;
338         __le64 owner;
339         __le32 nritems;
340         u8 level;
341 } __attribute__ ((__packed__));
342
343 #define BTRFS_NODEPTRS_PER_BLOCK(r) (((r)->nodesize - \
344                                       sizeof(struct btrfs_header)) / \
345                                      sizeof(struct btrfs_key_ptr))
346 #define __BTRFS_LEAF_DATA_SIZE(bs) ((bs) - sizeof(struct btrfs_header))
347 #define BTRFS_LEAF_DATA_SIZE(r) (__BTRFS_LEAF_DATA_SIZE(r->leafsize))
348 #define BTRFS_MAX_INLINE_DATA_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
349                                         sizeof(struct btrfs_item) - \
350                                         sizeof(struct btrfs_file_extent_item))
351 #define BTRFS_MAX_XATTR_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
352                                  sizeof(struct btrfs_item) -\
353                                  sizeof(struct btrfs_dir_item))
354
355
356 /*
357  * this is a very generous portion of the super block, giving us
358  * room to translate 14 chunks with 3 stripes each.
359  */
360 #define BTRFS_SYSTEM_CHUNK_ARRAY_SIZE 2048
361 #define BTRFS_LABEL_SIZE 256
362
363 /*
364  * the super block basically lists the main trees of the FS
365  * it currently lacks any block count etc etc
366  */
367 struct btrfs_super_block {
368         u8 csum[BTRFS_CSUM_SIZE];
369         /* the first 4 fields must match struct btrfs_header */
370         u8 fsid[BTRFS_FSID_SIZE];    /* FS specific uuid */
371         __le64 bytenr; /* this block number */
372         __le64 flags;
373
374         /* allowed to be different from the btrfs_header from here own down */
375         __le64 magic;
376         __le64 generation;
377         __le64 root;
378         __le64 chunk_root;
379         __le64 log_root;
380
381         /* this will help find the new super based on the log root */
382         __le64 log_root_transid;
383         __le64 total_bytes;
384         __le64 bytes_used;
385         __le64 root_dir_objectid;
386         __le64 num_devices;
387         __le32 sectorsize;
388         __le32 nodesize;
389         __le32 leafsize;
390         __le32 stripesize;
391         __le32 sys_chunk_array_size;
392         __le64 chunk_root_generation;
393         __le64 compat_flags;
394         __le64 compat_ro_flags;
395         __le64 incompat_flags;
396         __le16 csum_type;
397         u8 root_level;
398         u8 chunk_root_level;
399         u8 log_root_level;
400         struct btrfs_dev_item dev_item;
401
402         char label[BTRFS_LABEL_SIZE];
403
404         __le64 cache_generation;
405
406         /* future expansion */
407         __le64 reserved[31];
408         u8 sys_chunk_array[BTRFS_SYSTEM_CHUNK_ARRAY_SIZE];
409 } __attribute__ ((__packed__));
410
411 /*
412  * Compat flags that we support.  If any incompat flags are set other than the
413  * ones specified below then we will fail to mount
414  */
415 #define BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF    (1ULL << 0)
416 #define BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL   (1ULL << 1)
417 #define BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS     (1ULL << 2)
418 #define BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO     (1ULL << 3)
419
420 #define BTRFS_FEATURE_COMPAT_SUPP               0ULL
421 #define BTRFS_FEATURE_COMPAT_RO_SUPP            0ULL
422 #define BTRFS_FEATURE_INCOMPAT_SUPP                     \
423         (BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF |         \
424          BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL |        \
425          BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS |          \
426          BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO)
427
428 /*
429  * A leaf is full of items. offset and size tell us where to find
430  * the item in the leaf (relative to the start of the data area)
431  */
432 struct btrfs_item {
433         struct btrfs_disk_key key;
434         __le32 offset;
435         __le32 size;
436 } __attribute__ ((__packed__));
437
438 /*
439  * leaves have an item area and a data area:
440  * [item0, item1....itemN] [free space] [dataN...data1, data0]
441  *
442  * The data is separate from the items to get the keys closer together
443  * during searches.
444  */
445 struct btrfs_leaf {
446         struct btrfs_header header;
447         struct btrfs_item items[];
448 } __attribute__ ((__packed__));
449
450 /*
451  * all non-leaf blocks are nodes, they hold only keys and pointers to
452  * other blocks
453  */
454 struct btrfs_key_ptr {
455         struct btrfs_disk_key key;
456         __le64 blockptr;
457         __le64 generation;
458 } __attribute__ ((__packed__));
459
460 struct btrfs_node {
461         struct btrfs_header header;
462         struct btrfs_key_ptr ptrs[];
463 } __attribute__ ((__packed__));
464
465 /*
466  * btrfs_paths remember the path taken from the root down to the leaf.
467  * level 0 is always the leaf, and nodes[1...BTRFS_MAX_LEVEL] will point
468  * to any other levels that are present.
469  *
470  * The slots array records the index of the item or block pointer
471  * used while walking the tree.
472  */
473 struct btrfs_path {
474         struct extent_buffer *nodes[BTRFS_MAX_LEVEL];
475         int slots[BTRFS_MAX_LEVEL];
476         /* if there is real range locking, this locks field will change */
477         int locks[BTRFS_MAX_LEVEL];
478         int reada;
479         /* keep some upper locks as we walk down */
480         int lowest_level;
481
482         /*
483          * set by btrfs_split_item, tells search_slot to keep all locks
484          * and to force calls to keep space in the nodes
485          */
486         unsigned int search_for_split:1;
487         unsigned int keep_locks:1;
488         unsigned int skip_locking:1;
489         unsigned int leave_spinning:1;
490         unsigned int search_commit_root:1;
491 };
492
493 /*
494  * items in the extent btree are used to record the objectid of the
495  * owner of the block and the number of references
496  */
497
498 struct btrfs_extent_item {
499         __le64 refs;
500         __le64 generation;
501         __le64 flags;
502 } __attribute__ ((__packed__));
503
504 struct btrfs_extent_item_v0 {
505         __le32 refs;
506 } __attribute__ ((__packed__));
507
508 #define BTRFS_MAX_EXTENT_ITEM_SIZE(r) ((BTRFS_LEAF_DATA_SIZE(r) >> 4) - \
509                                         sizeof(struct btrfs_item))
510
511 #define BTRFS_EXTENT_FLAG_DATA          (1ULL << 0)
512 #define BTRFS_EXTENT_FLAG_TREE_BLOCK    (1ULL << 1)
513
514 /* following flags only apply to tree blocks */
515
516 /* use full backrefs for extent pointers in the block */
517 #define BTRFS_BLOCK_FLAG_FULL_BACKREF   (1ULL << 8)
518
519 /*
520  * this flag is only used internally by scrub and may be changed at any time
521  * it is only declared here to avoid collisions
522  */
523 #define BTRFS_EXTENT_FLAG_SUPER         (1ULL << 48)
524
525 struct btrfs_tree_block_info {
526         struct btrfs_disk_key key;
527         u8 level;
528 } __attribute__ ((__packed__));
529
530 struct btrfs_extent_data_ref {
531         __le64 root;
532         __le64 objectid;
533         __le64 offset;
534         __le32 count;
535 } __attribute__ ((__packed__));
536
537 struct btrfs_shared_data_ref {
538         __le32 count;
539 } __attribute__ ((__packed__));
540
541 struct btrfs_extent_inline_ref {
542         u8 type;
543         __le64 offset;
544 } __attribute__ ((__packed__));
545
546 /* old style backrefs item */
547 struct btrfs_extent_ref_v0 {
548         __le64 root;
549         __le64 generation;
550         __le64 objectid;
551         __le32 count;
552 } __attribute__ ((__packed__));
553
554
555 /* dev extents record free space on individual devices.  The owner
556  * field points back to the chunk allocation mapping tree that allocated
557  * the extent.  The chunk tree uuid field is a way to double check the owner
558  */
559 struct btrfs_dev_extent {
560         __le64 chunk_tree;
561         __le64 chunk_objectid;
562         __le64 chunk_offset;
563         __le64 length;
564         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
565 } __attribute__ ((__packed__));
566
567 struct btrfs_inode_ref {
568         __le64 index;
569         __le16 name_len;
570         /* name goes here */
571 } __attribute__ ((__packed__));
572
573 struct btrfs_timespec {
574         __le64 sec;
575         __le32 nsec;
576 } __attribute__ ((__packed__));
577
578 enum btrfs_compression_type {
579         BTRFS_COMPRESS_NONE  = 0,
580         BTRFS_COMPRESS_ZLIB  = 1,
581         BTRFS_COMPRESS_LZO   = 2,
582         BTRFS_COMPRESS_TYPES = 2,
583         BTRFS_COMPRESS_LAST  = 3,
584 };
585
586 struct btrfs_inode_item {
587         /* nfs style generation number */
588         __le64 generation;
589         /* transid that last touched this inode */
590         __le64 transid;
591         __le64 size;
592         __le64 nbytes;
593         __le64 block_group;
594         __le32 nlink;
595         __le32 uid;
596         __le32 gid;
597         __le32 mode;
598         __le64 rdev;
599         __le64 flags;
600
601         /* modification sequence number for NFS */
602         __le64 sequence;
603
604         /*
605          * a little future expansion, for more than this we can
606          * just grow the inode item and version it
607          */
608         __le64 reserved[4];
609         struct btrfs_timespec atime;
610         struct btrfs_timespec ctime;
611         struct btrfs_timespec mtime;
612         struct btrfs_timespec otime;
613 } __attribute__ ((__packed__));
614
615 struct btrfs_dir_log_item {
616         __le64 end;
617 } __attribute__ ((__packed__));
618
619 struct btrfs_dir_item {
620         struct btrfs_disk_key location;
621         __le64 transid;
622         __le16 data_len;
623         __le16 name_len;
624         u8 type;
625 } __attribute__ ((__packed__));
626
627 #define BTRFS_ROOT_SUBVOL_RDONLY        (1ULL << 0)
628
629 struct btrfs_root_item {
630         struct btrfs_inode_item inode;
631         __le64 generation;
632         __le64 root_dirid;
633         __le64 bytenr;
634         __le64 byte_limit;
635         __le64 bytes_used;
636         __le64 last_snapshot;
637         __le64 flags;
638         __le32 refs;
639         struct btrfs_disk_key drop_progress;
640         u8 drop_level;
641         u8 level;
642 } __attribute__ ((__packed__));
643
644 /*
645  * this is used for both forward and backward root refs
646  */
647 struct btrfs_root_ref {
648         __le64 dirid;
649         __le64 sequence;
650         __le16 name_len;
651 } __attribute__ ((__packed__));
652
653 #define BTRFS_FILE_EXTENT_INLINE 0
654 #define BTRFS_FILE_EXTENT_REG 1
655 #define BTRFS_FILE_EXTENT_PREALLOC 2
656
657 struct btrfs_file_extent_item {
658         /*
659          * transaction id that created this extent
660          */
661         __le64 generation;
662         /*
663          * max number of bytes to hold this extent in ram
664          * when we split a compressed extent we can't know how big
665          * each of the resulting pieces will be.  So, this is
666          * an upper limit on the size of the extent in ram instead of
667          * an exact limit.
668          */
669         __le64 ram_bytes;
670
671         /*
672          * 32 bits for the various ways we might encode the data,
673          * including compression and encryption.  If any of these
674          * are set to something a given disk format doesn't understand
675          * it is treated like an incompat flag for reading and writing,
676          * but not for stat.
677          */
678         u8 compression;
679         u8 encryption;
680         __le16 other_encoding; /* spare for later use */
681
682         /* are we inline data or a real extent? */
683         u8 type;
684
685         /*
686          * disk space consumed by the extent, checksum blocks are included
687          * in these numbers
688          */
689         __le64 disk_bytenr;
690         __le64 disk_num_bytes;
691         /*
692          * the logical offset in file blocks (no csums)
693          * this extent record is for.  This allows a file extent to point
694          * into the middle of an existing extent on disk, sharing it
695          * between two snapshots (useful if some bytes in the middle of the
696          * extent have changed
697          */
698         __le64 offset;
699         /*
700          * the logical number of file blocks (no csums included).  This
701          * always reflects the size uncompressed and without encoding.
702          */
703         __le64 num_bytes;
704
705 } __attribute__ ((__packed__));
706
707 struct btrfs_csum_item {
708         u8 csum;
709 } __attribute__ ((__packed__));
710
711 /* different types of block groups (and chunks) */
712 #define BTRFS_BLOCK_GROUP_DATA     (1 << 0)
713 #define BTRFS_BLOCK_GROUP_SYSTEM   (1 << 1)
714 #define BTRFS_BLOCK_GROUP_METADATA (1 << 2)
715 #define BTRFS_BLOCK_GROUP_RAID0    (1 << 3)
716 #define BTRFS_BLOCK_GROUP_RAID1    (1 << 4)
717 #define BTRFS_BLOCK_GROUP_DUP      (1 << 5)
718 #define BTRFS_BLOCK_GROUP_RAID10   (1 << 6)
719 #define BTRFS_NR_RAID_TYPES        5
720
721 struct btrfs_block_group_item {
722         __le64 used;
723         __le64 chunk_objectid;
724         __le64 flags;
725 } __attribute__ ((__packed__));
726
727 struct btrfs_space_info {
728         u64 flags;
729
730         u64 total_bytes;        /* total bytes in the space,
731                                    this doesn't take mirrors into account */
732         u64 bytes_used;         /* total bytes used,
733                                    this doesn't take mirrors into account */
734         u64 bytes_pinned;       /* total bytes pinned, will be freed when the
735                                    transaction finishes */
736         u64 bytes_reserved;     /* total bytes the allocator has reserved for
737                                    current allocations */
738         u64 bytes_readonly;     /* total bytes that are read only */
739
740         u64 bytes_may_use;      /* number of bytes that may be used for
741                                    delalloc/allocations */
742         u64 disk_used;          /* total bytes used on disk */
743         u64 disk_total;         /* total bytes on disk, takes mirrors into
744                                    account */
745
746         /*
747          * we bump reservation progress every time we decrement
748          * bytes_reserved.  This way people waiting for reservations
749          * know something good has happened and they can check
750          * for progress.  The number here isn't to be trusted, it
751          * just shows reclaim activity
752          */
753         unsigned long reservation_progress;
754
755         unsigned int full:1;    /* indicates that we cannot allocate any more
756                                    chunks for this space */
757         unsigned int chunk_alloc:1;     /* set if we are allocating a chunk */
758
759         unsigned int force_alloc;       /* set if we need to force a chunk
760                                            alloc for this space */
761
762         struct list_head list;
763
764         /* for block groups in our same type */
765         struct list_head block_groups[BTRFS_NR_RAID_TYPES];
766         spinlock_t lock;
767         struct rw_semaphore groups_sem;
768         atomic_t caching_threads;
769 };
770
771 struct btrfs_block_rsv {
772         u64 size;
773         u64 reserved;
774         u64 freed[2];
775         struct btrfs_space_info *space_info;
776         struct list_head list;
777         spinlock_t lock;
778         atomic_t usage;
779         unsigned int priority:8;
780         unsigned int durable:1;
781         unsigned int refill_used:1;
782         unsigned int full:1;
783 };
784
785 /*
786  * free clusters are used to claim free space in relatively large chunks,
787  * allowing us to do less seeky writes.  They are used for all metadata
788  * allocations and data allocations in ssd mode.
789  */
790 struct btrfs_free_cluster {
791         spinlock_t lock;
792         spinlock_t refill_lock;
793         struct rb_root root;
794
795         /* largest extent in this cluster */
796         u64 max_size;
797
798         /* first extent starting offset */
799         u64 window_start;
800
801         struct btrfs_block_group_cache *block_group;
802         /*
803          * when a cluster is allocated from a block group, we put the
804          * cluster onto a list in the block group so that it can
805          * be freed before the block group is freed.
806          */
807         struct list_head block_group_list;
808 };
809
810 enum btrfs_caching_type {
811         BTRFS_CACHE_NO          = 0,
812         BTRFS_CACHE_STARTED     = 1,
813         BTRFS_CACHE_FINISHED    = 2,
814 };
815
816 enum btrfs_disk_cache_state {
817         BTRFS_DC_WRITTEN        = 0,
818         BTRFS_DC_ERROR          = 1,
819         BTRFS_DC_CLEAR          = 2,
820         BTRFS_DC_SETUP          = 3,
821         BTRFS_DC_NEED_WRITE     = 4,
822 };
823
824 struct btrfs_caching_control {
825         struct list_head list;
826         struct mutex mutex;
827         wait_queue_head_t wait;
828         struct btrfs_block_group_cache *block_group;
829         u64 progress;
830         atomic_t count;
831 };
832
833 struct btrfs_block_group_cache {
834         struct btrfs_key key;
835         struct btrfs_block_group_item item;
836         struct btrfs_fs_info *fs_info;
837         struct inode *inode;
838         spinlock_t lock;
839         u64 pinned;
840         u64 reserved;
841         u64 reserved_pinned;
842         u64 bytes_super;
843         u64 flags;
844         u64 sectorsize;
845         unsigned int ro:1;
846         unsigned int dirty:1;
847         unsigned int iref:1;
848
849         int disk_cache_state;
850
851         /* cache tracking stuff */
852         int cached;
853         struct btrfs_caching_control *caching_ctl;
854         u64 last_byte_to_unpin;
855
856         struct btrfs_space_info *space_info;
857
858         /* free space cache stuff */
859         struct btrfs_free_space_ctl *free_space_ctl;
860
861         /* block group cache stuff */
862         struct rb_node cache_node;
863
864         /* for block groups in the same raid type */
865         struct list_head list;
866
867         /* usage count */
868         atomic_t count;
869
870         /* List of struct btrfs_free_clusters for this block group.
871          * Today it will only have one thing on it, but that may change
872          */
873         struct list_head cluster_list;
874 };
875
876 struct reloc_control;
877 struct btrfs_device;
878 struct btrfs_fs_devices;
879 struct btrfs_delayed_root;
880 struct btrfs_fs_info {
881         u8 fsid[BTRFS_FSID_SIZE];
882         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
883         struct btrfs_root *extent_root;
884         struct btrfs_root *tree_root;
885         struct btrfs_root *chunk_root;
886         struct btrfs_root *dev_root;
887         struct btrfs_root *fs_root;
888         struct btrfs_root *csum_root;
889
890         /* the log root tree is a directory of all the other log roots */
891         struct btrfs_root *log_root_tree;
892
893         spinlock_t fs_roots_radix_lock;
894         struct radix_tree_root fs_roots_radix;
895
896         /* block group cache stuff */
897         spinlock_t block_group_cache_lock;
898         struct rb_root block_group_cache_tree;
899
900         struct extent_io_tree freed_extents[2];
901         struct extent_io_tree *pinned_extents;
902
903         /* logical->physical extent mapping */
904         struct btrfs_mapping_tree mapping_tree;
905
906         /*
907          * block reservation for extent, checksum, root tree and
908          * delayed dir index item
909          */
910         struct btrfs_block_rsv global_block_rsv;
911         /* block reservation for delay allocation */
912         struct btrfs_block_rsv delalloc_block_rsv;
913         /* block reservation for metadata operations */
914         struct btrfs_block_rsv trans_block_rsv;
915         /* block reservation for chunk tree */
916         struct btrfs_block_rsv chunk_block_rsv;
917
918         struct btrfs_block_rsv empty_block_rsv;
919
920         /* list of block reservations that cross multiple transactions */
921         struct list_head durable_block_rsv_list;
922
923         struct mutex durable_block_rsv_mutex;
924
925         u64 generation;
926         u64 last_trans_committed;
927
928         /*
929          * this is updated to the current trans every time a full commit
930          * is required instead of the faster short fsync log commits
931          */
932         u64 last_trans_log_full_commit;
933         u64 open_ioctl_trans;
934         unsigned long mount_opt:20;
935         unsigned long compress_type:4;
936         u64 max_inline;
937         u64 alloc_start;
938         struct btrfs_transaction *running_transaction;
939         wait_queue_head_t transaction_throttle;
940         wait_queue_head_t transaction_wait;
941         wait_queue_head_t transaction_blocked_wait;
942         wait_queue_head_t async_submit_wait;
943
944         struct btrfs_super_block super_copy;
945         struct btrfs_super_block super_for_commit;
946         struct block_device *__bdev;
947         struct super_block *sb;
948         struct inode *btree_inode;
949         struct backing_dev_info bdi;
950         struct mutex trans_mutex;
951         struct mutex tree_log_mutex;
952         struct mutex transaction_kthread_mutex;
953         struct mutex cleaner_mutex;
954         struct mutex chunk_mutex;
955         struct mutex volume_mutex;
956         /*
957          * this protects the ordered operations list only while we are
958          * processing all of the entries on it.  This way we make
959          * sure the commit code doesn't find the list temporarily empty
960          * because another function happens to be doing non-waiting preflush
961          * before jumping into the main commit.
962          */
963         struct mutex ordered_operations_mutex;
964         struct rw_semaphore extent_commit_sem;
965
966         struct rw_semaphore cleanup_work_sem;
967
968         struct rw_semaphore subvol_sem;
969         struct srcu_struct subvol_srcu;
970
971         struct list_head trans_list;
972         struct list_head hashers;
973         struct list_head dead_roots;
974         struct list_head caching_block_groups;
975
976         spinlock_t delayed_iput_lock;
977         struct list_head delayed_iputs;
978
979         atomic_t nr_async_submits;
980         atomic_t async_submit_draining;
981         atomic_t nr_async_bios;
982         atomic_t async_delalloc_pages;
983
984         /*
985          * this is used by the balancing code to wait for all the pending
986          * ordered extents
987          */
988         spinlock_t ordered_extent_lock;
989
990         /*
991          * all of the data=ordered extents pending writeback
992          * these can span multiple transactions and basically include
993          * every dirty data page that isn't from nodatacow
994          */
995         struct list_head ordered_extents;
996
997         /*
998          * all of the inodes that have delalloc bytes.  It is possible for
999          * this list to be empty even when there is still dirty data=ordered
1000          * extents waiting to finish IO.
1001          */
1002         struct list_head delalloc_inodes;
1003
1004         /*
1005          * special rename and truncate targets that must be on disk before
1006          * we're allowed to commit.  This is basically the ext3 style
1007          * data=ordered list.
1008          */
1009         struct list_head ordered_operations;
1010
1011         /*
1012          * there is a pool of worker threads for checksumming during writes
1013          * and a pool for checksumming after reads.  This is because readers
1014          * can run with FS locks held, and the writers may be waiting for
1015          * those locks.  We don't want ordering in the pending list to cause
1016          * deadlocks, and so the two are serviced separately.
1017          *
1018          * A third pool does submit_bio to avoid deadlocking with the other
1019          * two
1020          */
1021         struct btrfs_workers generic_worker;
1022         struct btrfs_workers workers;
1023         struct btrfs_workers delalloc_workers;
1024         struct btrfs_workers endio_workers;
1025         struct btrfs_workers endio_meta_workers;
1026         struct btrfs_workers endio_meta_write_workers;
1027         struct btrfs_workers endio_write_workers;
1028         struct btrfs_workers endio_freespace_worker;
1029         struct btrfs_workers submit_workers;
1030         /*
1031          * fixup workers take dirty pages that didn't properly go through
1032          * the cow mechanism and make them safe to write.  It happens
1033          * for the sys_munmap function call path
1034          */
1035         struct btrfs_workers fixup_workers;
1036         struct btrfs_workers delayed_workers;
1037         struct task_struct *transaction_kthread;
1038         struct task_struct *cleaner_kthread;
1039         int thread_pool_size;
1040
1041         struct kobject super_kobj;
1042         struct completion kobj_unregister;
1043         int do_barriers;
1044         int closing;
1045         int log_root_recovering;
1046         int enospc_unlink;
1047
1048         u64 total_pinned;
1049
1050         /* protected by the delalloc lock, used to keep from writing
1051          * metadata until there is a nice batch
1052          */
1053         u64 dirty_metadata_bytes;
1054         struct list_head dirty_cowonly_roots;
1055
1056         struct btrfs_fs_devices *fs_devices;
1057
1058         /*
1059          * the space_info list is almost entirely read only.  It only changes
1060          * when we add a new raid type to the FS, and that happens
1061          * very rarely.  RCU is used to protect it.
1062          */
1063         struct list_head space_info;
1064
1065         struct reloc_control *reloc_ctl;
1066
1067         spinlock_t delalloc_lock;
1068         spinlock_t new_trans_lock;
1069         u64 delalloc_bytes;
1070
1071         /* data_alloc_cluster is only used in ssd mode */
1072         struct btrfs_free_cluster data_alloc_cluster;
1073
1074         /* all metadata allocations go through this cluster */
1075         struct btrfs_free_cluster meta_alloc_cluster;
1076
1077         /* auto defrag inodes go here */
1078         spinlock_t defrag_inodes_lock;
1079         struct rb_root defrag_inodes;
1080         atomic_t defrag_running;
1081
1082         spinlock_t ref_cache_lock;
1083         u64 total_ref_cache_size;
1084
1085         u64 avail_data_alloc_bits;
1086         u64 avail_metadata_alloc_bits;
1087         u64 avail_system_alloc_bits;
1088         u64 data_alloc_profile;
1089         u64 metadata_alloc_profile;
1090         u64 system_alloc_profile;
1091
1092         unsigned data_chunk_allocations;
1093         unsigned metadata_ratio;
1094
1095         void *bdev_holder;
1096
1097         /* private scrub information */
1098         struct mutex scrub_lock;
1099         atomic_t scrubs_running;
1100         atomic_t scrub_pause_req;
1101         atomic_t scrubs_paused;
1102         atomic_t scrub_cancel_req;
1103         wait_queue_head_t scrub_pause_wait;
1104         struct rw_semaphore scrub_super_lock;
1105         int scrub_workers_refcnt;
1106         struct btrfs_workers scrub_workers;
1107
1108         /* filesystem state */
1109         u64 fs_state;
1110
1111         struct btrfs_delayed_root *delayed_root;
1112 };
1113
1114 /*
1115  * in ram representation of the tree.  extent_root is used for all allocations
1116  * and for the extent tree extent_root root.
1117  */
1118 struct btrfs_root {
1119         struct extent_buffer *node;
1120
1121         struct extent_buffer *commit_root;
1122         struct btrfs_root *log_root;
1123         struct btrfs_root *reloc_root;
1124
1125         struct btrfs_root_item root_item;
1126         struct btrfs_key root_key;
1127         struct btrfs_fs_info *fs_info;
1128         struct extent_io_tree dirty_log_pages;
1129
1130         struct kobject root_kobj;
1131         struct completion kobj_unregister;
1132         struct mutex objectid_mutex;
1133
1134         spinlock_t accounting_lock;
1135         struct btrfs_block_rsv *block_rsv;
1136
1137         /* free ino cache stuff */
1138         struct mutex fs_commit_mutex;
1139         struct btrfs_free_space_ctl *free_ino_ctl;
1140         enum btrfs_caching_type cached;
1141         spinlock_t cache_lock;
1142         wait_queue_head_t cache_wait;
1143         struct btrfs_free_space_ctl *free_ino_pinned;
1144         u64 cache_progress;
1145         struct inode *cache_inode;
1146
1147         struct mutex log_mutex;
1148         wait_queue_head_t log_writer_wait;
1149         wait_queue_head_t log_commit_wait[2];
1150         atomic_t log_writers;
1151         atomic_t log_commit[2];
1152         unsigned long log_transid;
1153         unsigned long last_log_commit;
1154         unsigned long log_batch;
1155         pid_t log_start_pid;
1156         bool log_multiple_pids;
1157
1158         u64 objectid;
1159         u64 last_trans;
1160
1161         /* data allocations are done in sectorsize units */
1162         u32 sectorsize;
1163
1164         /* node allocations are done in nodesize units */
1165         u32 nodesize;
1166
1167         /* leaf allocations are done in leafsize units */
1168         u32 leafsize;
1169
1170         u32 stripesize;
1171
1172         u32 type;
1173
1174         u64 highest_objectid;
1175         int ref_cows;
1176         int track_dirty;
1177         int in_radix;
1178
1179         u64 defrag_trans_start;
1180         struct btrfs_key defrag_progress;
1181         struct btrfs_key defrag_max;
1182         int defrag_running;
1183         char *name;
1184         int in_sysfs;
1185
1186         /* the dirty list is only used by non-reference counted roots */
1187         struct list_head dirty_list;
1188
1189         struct list_head root_list;
1190
1191         spinlock_t orphan_lock;
1192         struct list_head orphan_list;
1193         struct btrfs_block_rsv *orphan_block_rsv;
1194         int orphan_item_inserted;
1195         int orphan_cleanup_state;
1196
1197         spinlock_t inode_lock;
1198         /* red-black tree that keeps track of in-memory inodes */
1199         struct rb_root inode_tree;
1200
1201         /*
1202          * radix tree that keeps track of delayed nodes of every inode,
1203          * protected by inode_lock
1204          */
1205         struct radix_tree_root delayed_nodes_tree;
1206         /*
1207          * right now this just gets used so that a root has its own devid
1208          * for stat.  It may be used for more later
1209          */
1210         struct super_block anon_super;
1211 };
1212
1213 struct btrfs_ioctl_defrag_range_args {
1214         /* start of the defrag operation */
1215         __u64 start;
1216
1217         /* number of bytes to defrag, use (u64)-1 to say all */
1218         __u64 len;
1219
1220         /*
1221          * flags for the operation, which can include turning
1222          * on compression for this one defrag
1223          */
1224         __u64 flags;
1225
1226         /*
1227          * any extent bigger than this will be considered
1228          * already defragged.  Use 0 to take the kernel default
1229          * Use 1 to say every single extent must be rewritten
1230          */
1231         __u32 extent_thresh;
1232
1233         /*
1234          * which compression method to use if turning on compression
1235          * for this defrag operation.  If unspecified, zlib will
1236          * be used
1237          */
1238         __u32 compress_type;
1239
1240         /* spare for later */
1241         __u32 unused[4];
1242 };
1243
1244
1245 /*
1246  * inode items have the data typically returned from stat and store other
1247  * info about object characteristics.  There is one for every file and dir in
1248  * the FS
1249  */
1250 #define BTRFS_INODE_ITEM_KEY            1
1251 #define BTRFS_INODE_REF_KEY             12
1252 #define BTRFS_XATTR_ITEM_KEY            24
1253 #define BTRFS_ORPHAN_ITEM_KEY           48
1254 /* reserve 2-15 close to the inode for later flexibility */
1255
1256 /*
1257  * dir items are the name -> inode pointers in a directory.  There is one
1258  * for every name in a directory.
1259  */
1260 #define BTRFS_DIR_LOG_ITEM_KEY  60
1261 #define BTRFS_DIR_LOG_INDEX_KEY 72
1262 #define BTRFS_DIR_ITEM_KEY      84
1263 #define BTRFS_DIR_INDEX_KEY     96
1264 /*
1265  * extent data is for file data
1266  */
1267 #define BTRFS_EXTENT_DATA_KEY   108
1268
1269 /*
1270  * extent csums are stored in a separate tree and hold csums for
1271  * an entire extent on disk.
1272  */
1273 #define BTRFS_EXTENT_CSUM_KEY   128
1274
1275 /*
1276  * root items point to tree roots.  They are typically in the root
1277  * tree used by the super block to find all the other trees
1278  */
1279 #define BTRFS_ROOT_ITEM_KEY     132
1280
1281 /*
1282  * root backrefs tie subvols and snapshots to the directory entries that
1283  * reference them
1284  */
1285 #define BTRFS_ROOT_BACKREF_KEY  144
1286
1287 /*
1288  * root refs make a fast index for listing all of the snapshots and
1289  * subvolumes referenced by a given root.  They point directly to the
1290  * directory item in the root that references the subvol
1291  */
1292 #define BTRFS_ROOT_REF_KEY      156
1293
1294 /*
1295  * extent items are in the extent map tree.  These record which blocks
1296  * are used, and how many references there are to each block
1297  */
1298 #define BTRFS_EXTENT_ITEM_KEY   168
1299
1300 #define BTRFS_TREE_BLOCK_REF_KEY        176
1301
1302 #define BTRFS_EXTENT_DATA_REF_KEY       178
1303
1304 #define BTRFS_EXTENT_REF_V0_KEY         180
1305
1306 #define BTRFS_SHARED_BLOCK_REF_KEY      182
1307
1308 #define BTRFS_SHARED_DATA_REF_KEY       184
1309
1310 /*
1311  * block groups give us hints into the extent allocation trees.  Which
1312  * blocks are free etc etc
1313  */
1314 #define BTRFS_BLOCK_GROUP_ITEM_KEY 192
1315
1316 #define BTRFS_DEV_EXTENT_KEY    204
1317 #define BTRFS_DEV_ITEM_KEY      216
1318 #define BTRFS_CHUNK_ITEM_KEY    228
1319
1320 /*
1321  * string items are for debugging.  They just store a short string of
1322  * data in the FS
1323  */
1324 #define BTRFS_STRING_ITEM_KEY   253
1325
1326 #define BTRFS_MOUNT_NODATASUM           (1 << 0)
1327 #define BTRFS_MOUNT_NODATACOW           (1 << 1)
1328 #define BTRFS_MOUNT_NOBARRIER           (1 << 2)
1329 #define BTRFS_MOUNT_SSD                 (1 << 3)
1330 #define BTRFS_MOUNT_DEGRADED            (1 << 4)
1331 #define BTRFS_MOUNT_COMPRESS            (1 << 5)
1332 #define BTRFS_MOUNT_NOTREELOG           (1 << 6)
1333 #define BTRFS_MOUNT_FLUSHONCOMMIT       (1 << 7)
1334 #define BTRFS_MOUNT_SSD_SPREAD          (1 << 8)
1335 #define BTRFS_MOUNT_NOSSD               (1 << 9)
1336 #define BTRFS_MOUNT_DISCARD             (1 << 10)
1337 #define BTRFS_MOUNT_FORCE_COMPRESS      (1 << 11)
1338 #define BTRFS_MOUNT_SPACE_CACHE         (1 << 12)
1339 #define BTRFS_MOUNT_CLEAR_CACHE         (1 << 13)
1340 #define BTRFS_MOUNT_USER_SUBVOL_RM_ALLOWED (1 << 14)
1341 #define BTRFS_MOUNT_ENOSPC_DEBUG         (1 << 15)
1342 #define BTRFS_MOUNT_AUTO_DEFRAG         (1 << 16)
1343
1344 #define btrfs_clear_opt(o, opt)         ((o) &= ~BTRFS_MOUNT_##opt)
1345 #define btrfs_set_opt(o, opt)           ((o) |= BTRFS_MOUNT_##opt)
1346 #define btrfs_test_opt(root, opt)       ((root)->fs_info->mount_opt & \
1347                                          BTRFS_MOUNT_##opt)
1348 /*
1349  * Inode flags
1350  */
1351 #define BTRFS_INODE_NODATASUM           (1 << 0)
1352 #define BTRFS_INODE_NODATACOW           (1 << 1)
1353 #define BTRFS_INODE_READONLY            (1 << 2)
1354 #define BTRFS_INODE_NOCOMPRESS          (1 << 3)
1355 #define BTRFS_INODE_PREALLOC            (1 << 4)
1356 #define BTRFS_INODE_SYNC                (1 << 5)
1357 #define BTRFS_INODE_IMMUTABLE           (1 << 6)
1358 #define BTRFS_INODE_APPEND              (1 << 7)
1359 #define BTRFS_INODE_NODUMP              (1 << 8)
1360 #define BTRFS_INODE_NOATIME             (1 << 9)
1361 #define BTRFS_INODE_DIRSYNC             (1 << 10)
1362 #define BTRFS_INODE_COMPRESS            (1 << 11)
1363
1364 #define BTRFS_INODE_ROOT_ITEM_INIT      (1 << 31)
1365
1366 /* some macros to generate set/get funcs for the struct fields.  This
1367  * assumes there is a lefoo_to_cpu for every type, so lets make a simple
1368  * one for u8:
1369  */
1370 #define le8_to_cpu(v) (v)
1371 #define cpu_to_le8(v) (v)
1372 #define __le8 u8
1373
1374 #define read_eb_member(eb, ptr, type, member, result) (                 \
1375         read_extent_buffer(eb, (char *)(result),                        \
1376                            ((unsigned long)(ptr)) +                     \
1377                             offsetof(type, member),                     \
1378                            sizeof(((type *)0)->member)))
1379
1380 #define write_eb_member(eb, ptr, type, member, result) (                \
1381         write_extent_buffer(eb, (char *)(result),                       \
1382                            ((unsigned long)(ptr)) +                     \
1383                             offsetof(type, member),                     \
1384                            sizeof(((type *)0)->member)))
1385
1386 #ifndef BTRFS_SETGET_FUNCS
1387 #define BTRFS_SETGET_FUNCS(name, type, member, bits)                    \
1388 u##bits btrfs_##name(struct extent_buffer *eb, type *s);                \
1389 void btrfs_set_##name(struct extent_buffer *eb, type *s, u##bits val);
1390 #endif
1391
1392 #define BTRFS_SETGET_HEADER_FUNCS(name, type, member, bits)             \
1393 static inline u##bits btrfs_##name(struct extent_buffer *eb)            \
1394 {                                                                       \
1395         type *p = kmap_atomic(eb->first_page, KM_USER0);                \
1396         u##bits res = le##bits##_to_cpu(p->member);                     \
1397         kunmap_atomic(p, KM_USER0);                                     \
1398         return res;                                                     \
1399 }                                                                       \
1400 static inline void btrfs_set_##name(struct extent_buffer *eb,           \
1401                                     u##bits val)                        \
1402 {                                                                       \
1403         type *p = kmap_atomic(eb->first_page, KM_USER0);                \
1404         p->member = cpu_to_le##bits(val);                               \
1405         kunmap_atomic(p, KM_USER0);                                     \
1406 }
1407
1408 #define BTRFS_SETGET_STACK_FUNCS(name, type, member, bits)              \
1409 static inline u##bits btrfs_##name(type *s)                             \
1410 {                                                                       \
1411         return le##bits##_to_cpu(s->member);                            \
1412 }                                                                       \
1413 static inline void btrfs_set_##name(type *s, u##bits val)               \
1414 {                                                                       \
1415         s->member = cpu_to_le##bits(val);                               \
1416 }
1417
1418 BTRFS_SETGET_FUNCS(device_type, struct btrfs_dev_item, type, 64);
1419 BTRFS_SETGET_FUNCS(device_total_bytes, struct btrfs_dev_item, total_bytes, 64);
1420 BTRFS_SETGET_FUNCS(device_bytes_used, struct btrfs_dev_item, bytes_used, 64);
1421 BTRFS_SETGET_FUNCS(device_io_align, struct btrfs_dev_item, io_align, 32);
1422 BTRFS_SETGET_FUNCS(device_io_width, struct btrfs_dev_item, io_width, 32);
1423 BTRFS_SETGET_FUNCS(device_start_offset, struct btrfs_dev_item,
1424                    start_offset, 64);
1425 BTRFS_SETGET_FUNCS(device_sector_size, struct btrfs_dev_item, sector_size, 32);
1426 BTRFS_SETGET_FUNCS(device_id, struct btrfs_dev_item, devid, 64);
1427 BTRFS_SETGET_FUNCS(device_group, struct btrfs_dev_item, dev_group, 32);
1428 BTRFS_SETGET_FUNCS(device_seek_speed, struct btrfs_dev_item, seek_speed, 8);
1429 BTRFS_SETGET_FUNCS(device_bandwidth, struct btrfs_dev_item, bandwidth, 8);
1430 BTRFS_SETGET_FUNCS(device_generation, struct btrfs_dev_item, generation, 64);
1431
1432 BTRFS_SETGET_STACK_FUNCS(stack_device_type, struct btrfs_dev_item, type, 64);
1433 BTRFS_SETGET_STACK_FUNCS(stack_device_total_bytes, struct btrfs_dev_item,
1434                          total_bytes, 64);
1435 BTRFS_SETGET_STACK_FUNCS(stack_device_bytes_used, struct btrfs_dev_item,
1436                          bytes_used, 64);
1437 BTRFS_SETGET_STACK_FUNCS(stack_device_io_align, struct btrfs_dev_item,
1438                          io_align, 32);
1439 BTRFS_SETGET_STACK_FUNCS(stack_device_io_width, struct btrfs_dev_item,
1440                          io_width, 32);
1441 BTRFS_SETGET_STACK_FUNCS(stack_device_sector_size, struct btrfs_dev_item,
1442                          sector_size, 32);
1443 BTRFS_SETGET_STACK_FUNCS(stack_device_id, struct btrfs_dev_item, devid, 64);
1444 BTRFS_SETGET_STACK_FUNCS(stack_device_group, struct btrfs_dev_item,
1445                          dev_group, 32);
1446 BTRFS_SETGET_STACK_FUNCS(stack_device_seek_speed, struct btrfs_dev_item,
1447                          seek_speed, 8);
1448 BTRFS_SETGET_STACK_FUNCS(stack_device_bandwidth, struct btrfs_dev_item,
1449                          bandwidth, 8);
1450 BTRFS_SETGET_STACK_FUNCS(stack_device_generation, struct btrfs_dev_item,
1451                          generation, 64);
1452
1453 static inline char *btrfs_device_uuid(struct btrfs_dev_item *d)
1454 {
1455         return (char *)d + offsetof(struct btrfs_dev_item, uuid);
1456 }
1457
1458 static inline char *btrfs_device_fsid(struct btrfs_dev_item *d)
1459 {
1460         return (char *)d + offsetof(struct btrfs_dev_item, fsid);
1461 }
1462
1463 BTRFS_SETGET_FUNCS(chunk_length, struct btrfs_chunk, length, 64);
1464 BTRFS_SETGET_FUNCS(chunk_owner, struct btrfs_chunk, owner, 64);
1465 BTRFS_SETGET_FUNCS(chunk_stripe_len, struct btrfs_chunk, stripe_len, 64);
1466 BTRFS_SETGET_FUNCS(chunk_io_align, struct btrfs_chunk, io_align, 32);
1467 BTRFS_SETGET_FUNCS(chunk_io_width, struct btrfs_chunk, io_width, 32);
1468 BTRFS_SETGET_FUNCS(chunk_sector_size, struct btrfs_chunk, sector_size, 32);
1469 BTRFS_SETGET_FUNCS(chunk_type, struct btrfs_chunk, type, 64);
1470 BTRFS_SETGET_FUNCS(chunk_num_stripes, struct btrfs_chunk, num_stripes, 16);
1471 BTRFS_SETGET_FUNCS(chunk_sub_stripes, struct btrfs_chunk, sub_stripes, 16);
1472 BTRFS_SETGET_FUNCS(stripe_devid, struct btrfs_stripe, devid, 64);
1473 BTRFS_SETGET_FUNCS(stripe_offset, struct btrfs_stripe, offset, 64);
1474
1475 static inline char *btrfs_stripe_dev_uuid(struct btrfs_stripe *s)
1476 {
1477         return (char *)s + offsetof(struct btrfs_stripe, dev_uuid);
1478 }
1479
1480 BTRFS_SETGET_STACK_FUNCS(stack_chunk_length, struct btrfs_chunk, length, 64);
1481 BTRFS_SETGET_STACK_FUNCS(stack_chunk_owner, struct btrfs_chunk, owner, 64);
1482 BTRFS_SETGET_STACK_FUNCS(stack_chunk_stripe_len, struct btrfs_chunk,
1483                          stripe_len, 64);
1484 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_align, struct btrfs_chunk,
1485                          io_align, 32);
1486 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_width, struct btrfs_chunk,
1487                          io_width, 32);
1488 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sector_size, struct btrfs_chunk,
1489                          sector_size, 32);
1490 BTRFS_SETGET_STACK_FUNCS(stack_chunk_type, struct btrfs_chunk, type, 64);
1491 BTRFS_SETGET_STACK_FUNCS(stack_chunk_num_stripes, struct btrfs_chunk,
1492                          num_stripes, 16);
1493 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sub_stripes, struct btrfs_chunk,
1494                          sub_stripes, 16);
1495 BTRFS_SETGET_STACK_FUNCS(stack_stripe_devid, struct btrfs_stripe, devid, 64);
1496 BTRFS_SETGET_STACK_FUNCS(stack_stripe_offset, struct btrfs_stripe, offset, 64);
1497
1498 static inline struct btrfs_stripe *btrfs_stripe_nr(struct btrfs_chunk *c,
1499                                                    int nr)
1500 {
1501         unsigned long offset = (unsigned long)c;
1502         offset += offsetof(struct btrfs_chunk, stripe);
1503         offset += nr * sizeof(struct btrfs_stripe);
1504         return (struct btrfs_stripe *)offset;
1505 }
1506
1507 static inline char *btrfs_stripe_dev_uuid_nr(struct btrfs_chunk *c, int nr)
1508 {
1509         return btrfs_stripe_dev_uuid(btrfs_stripe_nr(c, nr));
1510 }
1511
1512 static inline u64 btrfs_stripe_offset_nr(struct extent_buffer *eb,
1513                                          struct btrfs_chunk *c, int nr)
1514 {
1515         return btrfs_stripe_offset(eb, btrfs_stripe_nr(c, nr));
1516 }
1517
1518 static inline u64 btrfs_stripe_devid_nr(struct extent_buffer *eb,
1519                                          struct btrfs_chunk *c, int nr)
1520 {
1521         return btrfs_stripe_devid(eb, btrfs_stripe_nr(c, nr));
1522 }
1523
1524 /* struct btrfs_block_group_item */
1525 BTRFS_SETGET_STACK_FUNCS(block_group_used, struct btrfs_block_group_item,
1526                          used, 64);
1527 BTRFS_SETGET_FUNCS(disk_block_group_used, struct btrfs_block_group_item,
1528                          used, 64);
1529 BTRFS_SETGET_STACK_FUNCS(block_group_chunk_objectid,
1530                         struct btrfs_block_group_item, chunk_objectid, 64);
1531
1532 BTRFS_SETGET_FUNCS(disk_block_group_chunk_objectid,
1533                    struct btrfs_block_group_item, chunk_objectid, 64);
1534 BTRFS_SETGET_FUNCS(disk_block_group_flags,
1535                    struct btrfs_block_group_item, flags, 64);
1536 BTRFS_SETGET_STACK_FUNCS(block_group_flags,
1537                         struct btrfs_block_group_item, flags, 64);
1538
1539 /* struct btrfs_inode_ref */
1540 BTRFS_SETGET_FUNCS(inode_ref_name_len, struct btrfs_inode_ref, name_len, 16);
1541 BTRFS_SETGET_FUNCS(inode_ref_index, struct btrfs_inode_ref, index, 64);
1542
1543 /* struct btrfs_inode_item */
1544 BTRFS_SETGET_FUNCS(inode_generation, struct btrfs_inode_item, generation, 64);
1545 BTRFS_SETGET_FUNCS(inode_sequence, struct btrfs_inode_item, sequence, 64);
1546 BTRFS_SETGET_FUNCS(inode_transid, struct btrfs_inode_item, transid, 64);
1547 BTRFS_SETGET_FUNCS(inode_size, struct btrfs_inode_item, size, 64);
1548 BTRFS_SETGET_FUNCS(inode_nbytes, struct btrfs_inode_item, nbytes, 64);
1549 BTRFS_SETGET_FUNCS(inode_block_group, struct btrfs_inode_item, block_group, 64);
1550 BTRFS_SETGET_FUNCS(inode_nlink, struct btrfs_inode_item, nlink, 32);
1551 BTRFS_SETGET_FUNCS(inode_uid, struct btrfs_inode_item, uid, 32);
1552 BTRFS_SETGET_FUNCS(inode_gid, struct btrfs_inode_item, gid, 32);
1553 BTRFS_SETGET_FUNCS(inode_mode, struct btrfs_inode_item, mode, 32);
1554 BTRFS_SETGET_FUNCS(inode_rdev, struct btrfs_inode_item, rdev, 64);
1555 BTRFS_SETGET_FUNCS(inode_flags, struct btrfs_inode_item, flags, 64);
1556
1557 static inline struct btrfs_timespec *
1558 btrfs_inode_atime(struct btrfs_inode_item *inode_item)
1559 {
1560         unsigned long ptr = (unsigned long)inode_item;
1561         ptr += offsetof(struct btrfs_inode_item, atime);
1562         return (struct btrfs_timespec *)ptr;
1563 }
1564
1565 static inline struct btrfs_timespec *
1566 btrfs_inode_mtime(struct btrfs_inode_item *inode_item)
1567 {
1568         unsigned long ptr = (unsigned long)inode_item;
1569         ptr += offsetof(struct btrfs_inode_item, mtime);
1570         return (struct btrfs_timespec *)ptr;
1571 }
1572
1573 static inline struct btrfs_timespec *
1574 btrfs_inode_ctime(struct btrfs_inode_item *inode_item)
1575 {
1576         unsigned long ptr = (unsigned long)inode_item;
1577         ptr += offsetof(struct btrfs_inode_item, ctime);
1578         return (struct btrfs_timespec *)ptr;
1579 }
1580
1581 BTRFS_SETGET_FUNCS(timespec_sec, struct btrfs_timespec, sec, 64);
1582 BTRFS_SETGET_FUNCS(timespec_nsec, struct btrfs_timespec, nsec, 32);
1583
1584 /* struct btrfs_dev_extent */
1585 BTRFS_SETGET_FUNCS(dev_extent_chunk_tree, struct btrfs_dev_extent,
1586                    chunk_tree, 64);
1587 BTRFS_SETGET_FUNCS(dev_extent_chunk_objectid, struct btrfs_dev_extent,
1588                    chunk_objectid, 64);
1589 BTRFS_SETGET_FUNCS(dev_extent_chunk_offset, struct btrfs_dev_extent,
1590                    chunk_offset, 64);
1591 BTRFS_SETGET_FUNCS(dev_extent_length, struct btrfs_dev_extent, length, 64);
1592
1593 static inline u8 *btrfs_dev_extent_chunk_tree_uuid(struct btrfs_dev_extent *dev)
1594 {
1595         unsigned long ptr = offsetof(struct btrfs_dev_extent, chunk_tree_uuid);
1596         return (u8 *)((unsigned long)dev + ptr);
1597 }
1598
1599 BTRFS_SETGET_FUNCS(extent_refs, struct btrfs_extent_item, refs, 64);
1600 BTRFS_SETGET_FUNCS(extent_generation, struct btrfs_extent_item,
1601                    generation, 64);
1602 BTRFS_SETGET_FUNCS(extent_flags, struct btrfs_extent_item, flags, 64);
1603
1604 BTRFS_SETGET_FUNCS(extent_refs_v0, struct btrfs_extent_item_v0, refs, 32);
1605
1606
1607 BTRFS_SETGET_FUNCS(tree_block_level, struct btrfs_tree_block_info, level, 8);
1608
1609 static inline void btrfs_tree_block_key(struct extent_buffer *eb,
1610                                         struct btrfs_tree_block_info *item,
1611                                         struct btrfs_disk_key *key)
1612 {
1613         read_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
1614 }
1615
1616 static inline void btrfs_set_tree_block_key(struct extent_buffer *eb,
1617                                             struct btrfs_tree_block_info *item,
1618                                             struct btrfs_disk_key *key)
1619 {
1620         write_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
1621 }
1622
1623 BTRFS_SETGET_FUNCS(extent_data_ref_root, struct btrfs_extent_data_ref,
1624                    root, 64);
1625 BTRFS_SETGET_FUNCS(extent_data_ref_objectid, struct btrfs_extent_data_ref,
1626                    objectid, 64);
1627 BTRFS_SETGET_FUNCS(extent_data_ref_offset, struct btrfs_extent_data_ref,
1628                    offset, 64);
1629 BTRFS_SETGET_FUNCS(extent_data_ref_count, struct btrfs_extent_data_ref,
1630                    count, 32);
1631
1632 BTRFS_SETGET_FUNCS(shared_data_ref_count, struct btrfs_shared_data_ref,
1633                    count, 32);
1634
1635 BTRFS_SETGET_FUNCS(extent_inline_ref_type, struct btrfs_extent_inline_ref,
1636                    type, 8);
1637 BTRFS_SETGET_FUNCS(extent_inline_ref_offset, struct btrfs_extent_inline_ref,
1638                    offset, 64);
1639
1640 static inline u32 btrfs_extent_inline_ref_size(int type)
1641 {
1642         if (type == BTRFS_TREE_BLOCK_REF_KEY ||
1643             type == BTRFS_SHARED_BLOCK_REF_KEY)
1644                 return sizeof(struct btrfs_extent_inline_ref);
1645         if (type == BTRFS_SHARED_DATA_REF_KEY)
1646                 return sizeof(struct btrfs_shared_data_ref) +
1647                        sizeof(struct btrfs_extent_inline_ref);
1648         if (type == BTRFS_EXTENT_DATA_REF_KEY)
1649                 return sizeof(struct btrfs_extent_data_ref) +
1650                        offsetof(struct btrfs_extent_inline_ref, offset);
1651         BUG();
1652         return 0;
1653 }
1654
1655 BTRFS_SETGET_FUNCS(ref_root_v0, struct btrfs_extent_ref_v0, root, 64);
1656 BTRFS_SETGET_FUNCS(ref_generation_v0, struct btrfs_extent_ref_v0,
1657                    generation, 64);
1658 BTRFS_SETGET_FUNCS(ref_objectid_v0, struct btrfs_extent_ref_v0, objectid, 64);
1659 BTRFS_SETGET_FUNCS(ref_count_v0, struct btrfs_extent_ref_v0, count, 32);
1660
1661 /* struct btrfs_node */
1662 BTRFS_SETGET_FUNCS(key_blockptr, struct btrfs_key_ptr, blockptr, 64);
1663 BTRFS_SETGET_FUNCS(key_generation, struct btrfs_key_ptr, generation, 64);
1664
1665 static inline u64 btrfs_node_blockptr(struct extent_buffer *eb, int nr)
1666 {
1667         unsigned long ptr;
1668         ptr = offsetof(struct btrfs_node, ptrs) +
1669                 sizeof(struct btrfs_key_ptr) * nr;
1670         return btrfs_key_blockptr(eb, (struct btrfs_key_ptr *)ptr);
1671 }
1672
1673 static inline void btrfs_set_node_blockptr(struct extent_buffer *eb,
1674                                            int nr, u64 val)
1675 {
1676         unsigned long ptr;
1677         ptr = offsetof(struct btrfs_node, ptrs) +
1678                 sizeof(struct btrfs_key_ptr) * nr;
1679         btrfs_set_key_blockptr(eb, (struct btrfs_key_ptr *)ptr, val);
1680 }
1681
1682 static inline u64 btrfs_node_ptr_generation(struct extent_buffer *eb, int nr)
1683 {
1684         unsigned long ptr;
1685         ptr = offsetof(struct btrfs_node, ptrs) +
1686                 sizeof(struct btrfs_key_ptr) * nr;
1687         return btrfs_key_generation(eb, (struct btrfs_key_ptr *)ptr);
1688 }
1689
1690 static inline void btrfs_set_node_ptr_generation(struct extent_buffer *eb,
1691                                                  int nr, u64 val)
1692 {
1693         unsigned long ptr;
1694         ptr = offsetof(struct btrfs_node, ptrs) +
1695                 sizeof(struct btrfs_key_ptr) * nr;
1696         btrfs_set_key_generation(eb, (struct btrfs_key_ptr *)ptr, val);
1697 }
1698
1699 static inline unsigned long btrfs_node_key_ptr_offset(int nr)
1700 {
1701         return offsetof(struct btrfs_node, ptrs) +
1702                 sizeof(struct btrfs_key_ptr) * nr;
1703 }
1704
1705 void btrfs_node_key(struct extent_buffer *eb,
1706                     struct btrfs_disk_key *disk_key, int nr);
1707
1708 static inline void btrfs_set_node_key(struct extent_buffer *eb,
1709                                       struct btrfs_disk_key *disk_key, int nr)
1710 {
1711         unsigned long ptr;
1712         ptr = btrfs_node_key_ptr_offset(nr);
1713         write_eb_member(eb, (struct btrfs_key_ptr *)ptr,
1714                        struct btrfs_key_ptr, key, disk_key);
1715 }
1716
1717 /* struct btrfs_item */
1718 BTRFS_SETGET_FUNCS(item_offset, struct btrfs_item, offset, 32);
1719 BTRFS_SETGET_FUNCS(item_size, struct btrfs_item, size, 32);
1720
1721 static inline unsigned long btrfs_item_nr_offset(int nr)
1722 {
1723         return offsetof(struct btrfs_leaf, items) +
1724                 sizeof(struct btrfs_item) * nr;
1725 }
1726
1727 static inline struct btrfs_item *btrfs_item_nr(struct extent_buffer *eb,
1728                                                int nr)
1729 {
1730         return (struct btrfs_item *)btrfs_item_nr_offset(nr);
1731 }
1732
1733 static inline u32 btrfs_item_end(struct extent_buffer *eb,
1734                                  struct btrfs_item *item)
1735 {
1736         return btrfs_item_offset(eb, item) + btrfs_item_size(eb, item);
1737 }
1738
1739 static inline u32 btrfs_item_end_nr(struct extent_buffer *eb, int nr)
1740 {
1741         return btrfs_item_end(eb, btrfs_item_nr(eb, nr));
1742 }
1743
1744 static inline u32 btrfs_item_offset_nr(struct extent_buffer *eb, int nr)
1745 {
1746         return btrfs_item_offset(eb, btrfs_item_nr(eb, nr));
1747 }
1748
1749 static inline u32 btrfs_item_size_nr(struct extent_buffer *eb, int nr)
1750 {
1751         return btrfs_item_size(eb, btrfs_item_nr(eb, nr));
1752 }
1753
1754 static inline void btrfs_item_key(struct extent_buffer *eb,
1755                            struct btrfs_disk_key *disk_key, int nr)
1756 {
1757         struct btrfs_item *item = btrfs_item_nr(eb, nr);
1758         read_eb_member(eb, item, struct btrfs_item, key, disk_key);
1759 }
1760
1761 static inline void btrfs_set_item_key(struct extent_buffer *eb,
1762                                struct btrfs_disk_key *disk_key, int nr)
1763 {
1764         struct btrfs_item *item = btrfs_item_nr(eb, nr);
1765         write_eb_member(eb, item, struct btrfs_item, key, disk_key);
1766 }
1767
1768 BTRFS_SETGET_FUNCS(dir_log_end, struct btrfs_dir_log_item, end, 64);
1769
1770 /*
1771  * struct btrfs_root_ref
1772  */
1773 BTRFS_SETGET_FUNCS(root_ref_dirid, struct btrfs_root_ref, dirid, 64);
1774 BTRFS_SETGET_FUNCS(root_ref_sequence, struct btrfs_root_ref, sequence, 64);
1775 BTRFS_SETGET_FUNCS(root_ref_name_len, struct btrfs_root_ref, name_len, 16);
1776
1777 /* struct btrfs_dir_item */
1778 BTRFS_SETGET_FUNCS(dir_data_len, struct btrfs_dir_item, data_len, 16);
1779 BTRFS_SETGET_FUNCS(dir_type, struct btrfs_dir_item, type, 8);
1780 BTRFS_SETGET_FUNCS(dir_name_len, struct btrfs_dir_item, name_len, 16);
1781 BTRFS_SETGET_FUNCS(dir_transid, struct btrfs_dir_item, transid, 64);
1782
1783 static inline void btrfs_dir_item_key(struct extent_buffer *eb,
1784                                       struct btrfs_dir_item *item,
1785                                       struct btrfs_disk_key *key)
1786 {
1787         read_eb_member(eb, item, struct btrfs_dir_item, location, key);
1788 }
1789
1790 static inline void btrfs_set_dir_item_key(struct extent_buffer *eb,
1791                                           struct btrfs_dir_item *item,
1792                                           struct btrfs_disk_key *key)
1793 {
1794         write_eb_member(eb, item, struct btrfs_dir_item, location, key);
1795 }
1796
1797 BTRFS_SETGET_FUNCS(free_space_entries, struct btrfs_free_space_header,
1798                    num_entries, 64);
1799 BTRFS_SETGET_FUNCS(free_space_bitmaps, struct btrfs_free_space_header,
1800                    num_bitmaps, 64);
1801 BTRFS_SETGET_FUNCS(free_space_generation, struct btrfs_free_space_header,
1802                    generation, 64);
1803
1804 static inline void btrfs_free_space_key(struct extent_buffer *eb,
1805                                         struct btrfs_free_space_header *h,
1806                                         struct btrfs_disk_key *key)
1807 {
1808         read_eb_member(eb, h, struct btrfs_free_space_header, location, key);
1809 }
1810
1811 static inline void btrfs_set_free_space_key(struct extent_buffer *eb,
1812                                             struct btrfs_free_space_header *h,
1813                                             struct btrfs_disk_key *key)
1814 {
1815         write_eb_member(eb, h, struct btrfs_free_space_header, location, key);
1816 }
1817
1818 /* struct btrfs_disk_key */
1819 BTRFS_SETGET_STACK_FUNCS(disk_key_objectid, struct btrfs_disk_key,
1820                          objectid, 64);
1821 BTRFS_SETGET_STACK_FUNCS(disk_key_offset, struct btrfs_disk_key, offset, 64);
1822 BTRFS_SETGET_STACK_FUNCS(disk_key_type, struct btrfs_disk_key, type, 8);
1823
1824 static inline void btrfs_disk_key_to_cpu(struct btrfs_key *cpu,
1825                                          struct btrfs_disk_key *disk)
1826 {
1827         cpu->offset = le64_to_cpu(disk->offset);
1828         cpu->type = disk->type;
1829         cpu->objectid = le64_to_cpu(disk->objectid);
1830 }
1831
1832 static inline void btrfs_cpu_key_to_disk(struct btrfs_disk_key *disk,
1833                                          struct btrfs_key *cpu)
1834 {
1835         disk->offset = cpu_to_le64(cpu->offset);
1836         disk->type = cpu->type;
1837         disk->objectid = cpu_to_le64(cpu->objectid);
1838 }
1839
1840 static inline void btrfs_node_key_to_cpu(struct extent_buffer *eb,
1841                                   struct btrfs_key *key, int nr)
1842 {
1843         struct btrfs_disk_key disk_key;
1844         btrfs_node_key(eb, &disk_key, nr);
1845         btrfs_disk_key_to_cpu(key, &disk_key);
1846 }
1847
1848 static inline void btrfs_item_key_to_cpu(struct extent_buffer *eb,
1849                                   struct btrfs_key *key, int nr)
1850 {
1851         struct btrfs_disk_key disk_key;
1852         btrfs_item_key(eb, &disk_key, nr);
1853         btrfs_disk_key_to_cpu(key, &disk_key);
1854 }
1855
1856 static inline void btrfs_dir_item_key_to_cpu(struct extent_buffer *eb,
1857                                       struct btrfs_dir_item *item,
1858                                       struct btrfs_key *key)
1859 {
1860         struct btrfs_disk_key disk_key;
1861         btrfs_dir_item_key(eb, item, &disk_key);
1862         btrfs_disk_key_to_cpu(key, &disk_key);
1863 }
1864
1865
1866 static inline u8 btrfs_key_type(struct btrfs_key *key)
1867 {
1868         return key->type;
1869 }
1870
1871 static inline void btrfs_set_key_type(struct btrfs_key *key, u8 val)
1872 {
1873         key->type = val;
1874 }
1875
1876 /* struct btrfs_header */
1877 BTRFS_SETGET_HEADER_FUNCS(header_bytenr, struct btrfs_header, bytenr, 64);
1878 BTRFS_SETGET_HEADER_FUNCS(header_generation, struct btrfs_header,
1879                           generation, 64);
1880 BTRFS_SETGET_HEADER_FUNCS(header_owner, struct btrfs_header, owner, 64);
1881 BTRFS_SETGET_HEADER_FUNCS(header_nritems, struct btrfs_header, nritems, 32);
1882 BTRFS_SETGET_HEADER_FUNCS(header_flags, struct btrfs_header, flags, 64);
1883 BTRFS_SETGET_HEADER_FUNCS(header_level, struct btrfs_header, level, 8);
1884
1885 static inline int btrfs_header_flag(struct extent_buffer *eb, u64 flag)
1886 {
1887         return (btrfs_header_flags(eb) & flag) == flag;
1888 }
1889
1890 static inline int btrfs_set_header_flag(struct extent_buffer *eb, u64 flag)
1891 {
1892         u64 flags = btrfs_header_flags(eb);
1893         btrfs_set_header_flags(eb, flags | flag);
1894         return (flags & flag) == flag;
1895 }
1896
1897 static inline int btrfs_clear_header_flag(struct extent_buffer *eb, u64 flag)
1898 {
1899         u64 flags = btrfs_header_flags(eb);
1900         btrfs_set_header_flags(eb, flags & ~flag);
1901         return (flags & flag) == flag;
1902 }
1903
1904 static inline int btrfs_header_backref_rev(struct extent_buffer *eb)
1905 {
1906         u64 flags = btrfs_header_flags(eb);
1907         return flags >> BTRFS_BACKREF_REV_SHIFT;
1908 }
1909
1910 static inline void btrfs_set_header_backref_rev(struct extent_buffer *eb,
1911                                                 int rev)
1912 {
1913         u64 flags = btrfs_header_flags(eb);
1914         flags &= ~BTRFS_BACKREF_REV_MASK;
1915         flags |= (u64)rev << BTRFS_BACKREF_REV_SHIFT;
1916         btrfs_set_header_flags(eb, flags);
1917 }
1918
1919 static inline u8 *btrfs_header_fsid(struct extent_buffer *eb)
1920 {
1921         unsigned long ptr = offsetof(struct btrfs_header, fsid);
1922         return (u8 *)ptr;
1923 }
1924
1925 static inline u8 *btrfs_header_chunk_tree_uuid(struct extent_buffer *eb)
1926 {
1927         unsigned long ptr = offsetof(struct btrfs_header, chunk_tree_uuid);
1928         return (u8 *)ptr;
1929 }
1930
1931 static inline int btrfs_is_leaf(struct extent_buffer *eb)
1932 {
1933         return btrfs_header_level(eb) == 0;
1934 }
1935
1936 /* struct btrfs_root_item */
1937 BTRFS_SETGET_FUNCS(disk_root_generation, struct btrfs_root_item,
1938                    generation, 64);
1939 BTRFS_SETGET_FUNCS(disk_root_refs, struct btrfs_root_item, refs, 32);
1940 BTRFS_SETGET_FUNCS(disk_root_bytenr, struct btrfs_root_item, bytenr, 64);
1941 BTRFS_SETGET_FUNCS(disk_root_level, struct btrfs_root_item, level, 8);
1942
1943 BTRFS_SETGET_STACK_FUNCS(root_generation, struct btrfs_root_item,
1944                          generation, 64);
1945 BTRFS_SETGET_STACK_FUNCS(root_bytenr, struct btrfs_root_item, bytenr, 64);
1946 BTRFS_SETGET_STACK_FUNCS(root_level, struct btrfs_root_item, level, 8);
1947 BTRFS_SETGET_STACK_FUNCS(root_dirid, struct btrfs_root_item, root_dirid, 64);
1948 BTRFS_SETGET_STACK_FUNCS(root_refs, struct btrfs_root_item, refs, 32);
1949 BTRFS_SETGET_STACK_FUNCS(root_flags, struct btrfs_root_item, flags, 64);
1950 BTRFS_SETGET_STACK_FUNCS(root_used, struct btrfs_root_item, bytes_used, 64);
1951 BTRFS_SETGET_STACK_FUNCS(root_limit, struct btrfs_root_item, byte_limit, 64);
1952 BTRFS_SETGET_STACK_FUNCS(root_last_snapshot, struct btrfs_root_item,
1953                          last_snapshot, 64);
1954
1955 static inline bool btrfs_root_readonly(struct btrfs_root *root)
1956 {
1957         return root->root_item.flags & BTRFS_ROOT_SUBVOL_RDONLY;
1958 }
1959
1960 /* struct btrfs_super_block */
1961
1962 BTRFS_SETGET_STACK_FUNCS(super_bytenr, struct btrfs_super_block, bytenr, 64);
1963 BTRFS_SETGET_STACK_FUNCS(super_flags, struct btrfs_super_block, flags, 64);
1964 BTRFS_SETGET_STACK_FUNCS(super_generation, struct btrfs_super_block,
1965                          generation, 64);
1966 BTRFS_SETGET_STACK_FUNCS(super_root, struct btrfs_super_block, root, 64);
1967 BTRFS_SETGET_STACK_FUNCS(super_sys_array_size,
1968                          struct btrfs_super_block, sys_chunk_array_size, 32);
1969 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_generation,
1970                          struct btrfs_super_block, chunk_root_generation, 64);
1971 BTRFS_SETGET_STACK_FUNCS(super_root_level, struct btrfs_super_block,
1972                          root_level, 8);
1973 BTRFS_SETGET_STACK_FUNCS(super_chunk_root, struct btrfs_super_block,
1974                          chunk_root, 64);
1975 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_level, struct btrfs_super_block,
1976                          chunk_root_level, 8);
1977 BTRFS_SETGET_STACK_FUNCS(super_log_root, struct btrfs_super_block,
1978                          log_root, 64);
1979 BTRFS_SETGET_STACK_FUNCS(super_log_root_transid, struct btrfs_super_block,
1980                          log_root_transid, 64);
1981 BTRFS_SETGET_STACK_FUNCS(super_log_root_level, struct btrfs_super_block,
1982                          log_root_level, 8);
1983 BTRFS_SETGET_STACK_FUNCS(super_total_bytes, struct btrfs_super_block,
1984                          total_bytes, 64);
1985 BTRFS_SETGET_STACK_FUNCS(super_bytes_used, struct btrfs_super_block,
1986                          bytes_used, 64);
1987 BTRFS_SETGET_STACK_FUNCS(super_sectorsize, struct btrfs_super_block,
1988                          sectorsize, 32);
1989 BTRFS_SETGET_STACK_FUNCS(super_nodesize, struct btrfs_super_block,
1990                          nodesize, 32);
1991 BTRFS_SETGET_STACK_FUNCS(super_leafsize, struct btrfs_super_block,
1992                          leafsize, 32);
1993 BTRFS_SETGET_STACK_FUNCS(super_stripesize, struct btrfs_super_block,
1994                          stripesize, 32);
1995 BTRFS_SETGET_STACK_FUNCS(super_root_dir, struct btrfs_super_block,
1996                          root_dir_objectid, 64);
1997 BTRFS_SETGET_STACK_FUNCS(super_num_devices, struct btrfs_super_block,
1998                          num_devices, 64);
1999 BTRFS_SETGET_STACK_FUNCS(super_compat_flags, struct btrfs_super_block,
2000                          compat_flags, 64);
2001 BTRFS_SETGET_STACK_FUNCS(super_compat_ro_flags, struct btrfs_super_block,
2002                          compat_ro_flags, 64);
2003 BTRFS_SETGET_STACK_FUNCS(super_incompat_flags, struct btrfs_super_block,
2004                          incompat_flags, 64);
2005 BTRFS_SETGET_STACK_FUNCS(super_csum_type, struct btrfs_super_block,
2006                          csum_type, 16);
2007 BTRFS_SETGET_STACK_FUNCS(super_cache_generation, struct btrfs_super_block,
2008                          cache_generation, 64);
2009
2010 static inline int btrfs_super_csum_size(struct btrfs_super_block *s)
2011 {
2012         int t = btrfs_super_csum_type(s);
2013         BUG_ON(t >= ARRAY_SIZE(btrfs_csum_sizes));
2014         return btrfs_csum_sizes[t];
2015 }
2016
2017 static inline unsigned long btrfs_leaf_data(struct extent_buffer *l)
2018 {
2019         return offsetof(struct btrfs_leaf, items);
2020 }
2021
2022 /* struct btrfs_file_extent_item */
2023 BTRFS_SETGET_FUNCS(file_extent_type, struct btrfs_file_extent_item, type, 8);
2024
2025 static inline unsigned long
2026 btrfs_file_extent_inline_start(struct btrfs_file_extent_item *e)
2027 {
2028         unsigned long offset = (unsigned long)e;
2029         offset += offsetof(struct btrfs_file_extent_item, disk_bytenr);
2030         return offset;
2031 }
2032
2033 static inline u32 btrfs_file_extent_calc_inline_size(u32 datasize)
2034 {
2035         return offsetof(struct btrfs_file_extent_item, disk_bytenr) + datasize;
2036 }
2037
2038 BTRFS_SETGET_FUNCS(file_extent_disk_bytenr, struct btrfs_file_extent_item,
2039                    disk_bytenr, 64);
2040 BTRFS_SETGET_FUNCS(file_extent_generation, struct btrfs_file_extent_item,
2041                    generation, 64);
2042 BTRFS_SETGET_FUNCS(file_extent_disk_num_bytes, struct btrfs_file_extent_item,
2043                    disk_num_bytes, 64);
2044 BTRFS_SETGET_FUNCS(file_extent_offset, struct btrfs_file_extent_item,
2045                   offset, 64);
2046 BTRFS_SETGET_FUNCS(file_extent_num_bytes, struct btrfs_file_extent_item,
2047                    num_bytes, 64);
2048 BTRFS_SETGET_FUNCS(file_extent_ram_bytes, struct btrfs_file_extent_item,
2049                    ram_bytes, 64);
2050 BTRFS_SETGET_FUNCS(file_extent_compression, struct btrfs_file_extent_item,
2051                    compression, 8);
2052 BTRFS_SETGET_FUNCS(file_extent_encryption, struct btrfs_file_extent_item,
2053                    encryption, 8);
2054 BTRFS_SETGET_FUNCS(file_extent_other_encoding, struct btrfs_file_extent_item,
2055                    other_encoding, 16);
2056
2057 /* this returns the number of file bytes represented by the inline item.
2058  * If an item is compressed, this is the uncompressed size
2059  */
2060 static inline u32 btrfs_file_extent_inline_len(struct extent_buffer *eb,
2061                                                struct btrfs_file_extent_item *e)
2062 {
2063         return btrfs_file_extent_ram_bytes(eb, e);
2064 }
2065
2066 /*
2067  * this returns the number of bytes used by the item on disk, minus the
2068  * size of any extent headers.  If a file is compressed on disk, this is
2069  * the compressed size
2070  */
2071 static inline u32 btrfs_file_extent_inline_item_len(struct extent_buffer *eb,
2072                                                     struct btrfs_item *e)
2073 {
2074         unsigned long offset;
2075         offset = offsetof(struct btrfs_file_extent_item, disk_bytenr);
2076         return btrfs_item_size(eb, e) - offset;
2077 }
2078
2079 static inline struct btrfs_root *btrfs_sb(struct super_block *sb)
2080 {
2081         return sb->s_fs_info;
2082 }
2083
2084 static inline u32 btrfs_level_size(struct btrfs_root *root, int level)
2085 {
2086         if (level == 0)
2087                 return root->leafsize;
2088         return root->nodesize;
2089 }
2090
2091 /* helper function to cast into the data area of the leaf. */
2092 #define btrfs_item_ptr(leaf, slot, type) \
2093         ((type *)(btrfs_leaf_data(leaf) + \
2094         btrfs_item_offset_nr(leaf, slot)))
2095
2096 #define btrfs_item_ptr_offset(leaf, slot) \
2097         ((unsigned long)(btrfs_leaf_data(leaf) + \
2098         btrfs_item_offset_nr(leaf, slot)))
2099
2100 static inline struct dentry *fdentry(struct file *file)
2101 {
2102         return file->f_path.dentry;
2103 }
2104
2105 static inline bool btrfs_mixed_space_info(struct btrfs_space_info *space_info)
2106 {
2107         return ((space_info->flags & BTRFS_BLOCK_GROUP_METADATA) &&
2108                 (space_info->flags & BTRFS_BLOCK_GROUP_DATA));
2109 }
2110
2111 /* extent-tree.c */
2112 static inline u64 btrfs_calc_trans_metadata_size(struct btrfs_root *root,
2113                                                  int num_items)
2114 {
2115         return (root->leafsize + root->nodesize * (BTRFS_MAX_LEVEL - 1)) *
2116                 3 * num_items;
2117 }
2118
2119 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
2120 int btrfs_run_delayed_refs(struct btrfs_trans_handle *trans,
2121                            struct btrfs_root *root, unsigned long count);
2122 int btrfs_lookup_extent(struct btrfs_root *root, u64 start, u64 len);
2123 int btrfs_lookup_extent_info(struct btrfs_trans_handle *trans,
2124                              struct btrfs_root *root, u64 bytenr,
2125                              u64 num_bytes, u64 *refs, u64 *flags);
2126 int btrfs_pin_extent(struct btrfs_root *root,
2127                      u64 bytenr, u64 num, int reserved);
2128 int btrfs_cross_ref_exist(struct btrfs_trans_handle *trans,
2129                           struct btrfs_root *root,
2130                           u64 objectid, u64 offset, u64 bytenr);
2131 struct btrfs_block_group_cache *btrfs_lookup_block_group(
2132                                                  struct btrfs_fs_info *info,
2133                                                  u64 bytenr);
2134 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
2135 u64 btrfs_find_block_group(struct btrfs_root *root,
2136                            u64 search_start, u64 search_hint, int owner);
2137 struct extent_buffer *btrfs_alloc_free_block(struct btrfs_trans_handle *trans,
2138                                         struct btrfs_root *root, u32 blocksize,
2139                                         u64 parent, u64 root_objectid,
2140                                         struct btrfs_disk_key *key, int level,
2141                                         u64 hint, u64 empty_size);
2142 void btrfs_free_tree_block(struct btrfs_trans_handle *trans,
2143                            struct btrfs_root *root,
2144                            struct extent_buffer *buf,
2145                            u64 parent, int last_ref);
2146 struct extent_buffer *btrfs_init_new_buffer(struct btrfs_trans_handle *trans,
2147                                             struct btrfs_root *root,
2148                                             u64 bytenr, u32 blocksize,
2149                                             int level);
2150 int btrfs_alloc_reserved_file_extent(struct btrfs_trans_handle *trans,
2151                                      struct btrfs_root *root,
2152                                      u64 root_objectid, u64 owner,
2153                                      u64 offset, struct btrfs_key *ins);
2154 int btrfs_alloc_logged_file_extent(struct btrfs_trans_handle *trans,
2155                                    struct btrfs_root *root,
2156                                    u64 root_objectid, u64 owner, u64 offset,
2157                                    struct btrfs_key *ins);
2158 int btrfs_reserve_extent(struct btrfs_trans_handle *trans,
2159                                   struct btrfs_root *root,
2160                                   u64 num_bytes, u64 min_alloc_size,
2161                                   u64 empty_size, u64 hint_byte,
2162                                   u64 search_end, struct btrfs_key *ins,
2163                                   u64 data);
2164 int btrfs_inc_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
2165                   struct extent_buffer *buf, int full_backref);
2166 int btrfs_dec_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
2167                   struct extent_buffer *buf, int full_backref);
2168 int btrfs_set_disk_extent_flags(struct btrfs_trans_handle *trans,
2169                                 struct btrfs_root *root,
2170                                 u64 bytenr, u64 num_bytes, u64 flags,
2171                                 int is_data);
2172 int btrfs_free_extent(struct btrfs_trans_handle *trans,
2173                       struct btrfs_root *root,
2174                       u64 bytenr, u64 num_bytes, u64 parent,
2175                       u64 root_objectid, u64 owner, u64 offset);
2176
2177 int btrfs_free_reserved_extent(struct btrfs_root *root, u64 start, u64 len);
2178 int btrfs_update_reserved_bytes(struct btrfs_block_group_cache *cache,
2179                                 u64 num_bytes, int reserve, int sinfo);
2180 int btrfs_prepare_extent_commit(struct btrfs_trans_handle *trans,
2181                                 struct btrfs_root *root);
2182 int btrfs_finish_extent_commit(struct btrfs_trans_handle *trans,
2183                                struct btrfs_root *root);
2184 int btrfs_inc_extent_ref(struct btrfs_trans_handle *trans,
2185                          struct btrfs_root *root,
2186                          u64 bytenr, u64 num_bytes, u64 parent,
2187                          u64 root_objectid, u64 owner, u64 offset);
2188
2189 int btrfs_write_dirty_block_groups(struct btrfs_trans_handle *trans,
2190                                     struct btrfs_root *root);
2191 int btrfs_extent_readonly(struct btrfs_root *root, u64 bytenr);
2192 int btrfs_free_block_groups(struct btrfs_fs_info *info);
2193 int btrfs_read_block_groups(struct btrfs_root *root);
2194 int btrfs_can_relocate(struct btrfs_root *root, u64 bytenr);
2195 int btrfs_make_block_group(struct btrfs_trans_handle *trans,
2196                            struct btrfs_root *root, u64 bytes_used,
2197                            u64 type, u64 chunk_objectid, u64 chunk_offset,
2198                            u64 size);
2199 int btrfs_remove_block_group(struct btrfs_trans_handle *trans,
2200                              struct btrfs_root *root, u64 group_start);
2201 u64 btrfs_reduce_alloc_profile(struct btrfs_root *root, u64 flags);
2202 u64 btrfs_get_alloc_profile(struct btrfs_root *root, int data);
2203 void btrfs_set_inode_space_info(struct btrfs_root *root, struct inode *ionde);
2204 void btrfs_clear_space_info_full(struct btrfs_fs_info *info);
2205 int btrfs_check_data_free_space(struct inode *inode, u64 bytes);
2206 void btrfs_free_reserved_data_space(struct inode *inode, u64 bytes);
2207 int btrfs_trans_reserve_metadata(struct btrfs_trans_handle *trans,
2208                                 struct btrfs_root *root,
2209                                 int num_items);
2210 void btrfs_trans_release_metadata(struct btrfs_trans_handle *trans,
2211                                 struct btrfs_root *root);
2212 int btrfs_orphan_reserve_metadata(struct btrfs_trans_handle *trans,
2213                                   struct inode *inode);
2214 void btrfs_orphan_release_metadata(struct inode *inode);
2215 int btrfs_snap_reserve_metadata(struct btrfs_trans_handle *trans,
2216                                 struct btrfs_pending_snapshot *pending);
2217 int btrfs_delalloc_reserve_metadata(struct inode *inode, u64 num_bytes);
2218 void btrfs_delalloc_release_metadata(struct inode *inode, u64 num_bytes);
2219 int btrfs_delalloc_reserve_space(struct inode *inode, u64 num_bytes);
2220 void btrfs_delalloc_release_space(struct inode *inode, u64 num_bytes);
2221 void btrfs_init_block_rsv(struct btrfs_block_rsv *rsv);
2222 struct btrfs_block_rsv *btrfs_alloc_block_rsv(struct btrfs_root *root);
2223 void btrfs_free_block_rsv(struct btrfs_root *root,
2224                           struct btrfs_block_rsv *rsv);
2225 void btrfs_add_durable_block_rsv(struct btrfs_fs_info *fs_info,
2226                                  struct btrfs_block_rsv *rsv);
2227 int btrfs_block_rsv_add(struct btrfs_trans_handle *trans,
2228                         struct btrfs_root *root,
2229                         struct btrfs_block_rsv *block_rsv,
2230                         u64 num_bytes);
2231 int btrfs_block_rsv_check(struct btrfs_trans_handle *trans,
2232                           struct btrfs_root *root,
2233                           struct btrfs_block_rsv *block_rsv,
2234                           u64 min_reserved, int min_factor);
2235 int btrfs_block_rsv_migrate(struct btrfs_block_rsv *src_rsv,
2236                             struct btrfs_block_rsv *dst_rsv,
2237                             u64 num_bytes);
2238 void btrfs_block_rsv_release(struct btrfs_root *root,
2239                              struct btrfs_block_rsv *block_rsv,
2240                              u64 num_bytes);
2241 int btrfs_set_block_group_ro(struct btrfs_root *root,
2242                              struct btrfs_block_group_cache *cache);
2243 int btrfs_set_block_group_rw(struct btrfs_root *root,
2244                              struct btrfs_block_group_cache *cache);
2245 void btrfs_put_block_group_cache(struct btrfs_fs_info *info);
2246 u64 btrfs_account_ro_block_groups_free_space(struct btrfs_space_info *sinfo);
2247 int btrfs_error_unpin_extent_range(struct btrfs_root *root,
2248                                    u64 start, u64 end);
2249 int btrfs_error_discard_extent(struct btrfs_root *root, u64 bytenr,
2250                                u64 num_bytes, u64 *actual_bytes);
2251 int btrfs_force_chunk_alloc(struct btrfs_trans_handle *trans,
2252                             struct btrfs_root *root, u64 type);
2253 int btrfs_trim_fs(struct btrfs_root *root, struct fstrim_range *range);
2254
2255 int btrfs_init_space_info(struct btrfs_fs_info *fs_info);
2256 /* ctree.c */
2257 int btrfs_bin_search(struct extent_buffer *eb, struct btrfs_key *key,
2258                      int level, int *slot);
2259 int btrfs_comp_cpu_keys(struct btrfs_key *k1, struct btrfs_key *k2);
2260 int btrfs_previous_item(struct btrfs_root *root,
2261                         struct btrfs_path *path, u64 min_objectid,
2262                         int type);
2263 int btrfs_set_item_key_safe(struct btrfs_trans_handle *trans,
2264                             struct btrfs_root *root, struct btrfs_path *path,
2265                             struct btrfs_key *new_key);
2266 struct extent_buffer *btrfs_root_node(struct btrfs_root *root);
2267 struct extent_buffer *btrfs_lock_root_node(struct btrfs_root *root);
2268 int btrfs_find_next_key(struct btrfs_root *root, struct btrfs_path *path,
2269                         struct btrfs_key *key, int lowest_level,
2270                         int cache_only, u64 min_trans);
2271 int btrfs_search_forward(struct btrfs_root *root, struct btrfs_key *min_key,
2272                          struct btrfs_key *max_key,
2273                          struct btrfs_path *path, int cache_only,
2274                          u64 min_trans);
2275 int btrfs_cow_block(struct btrfs_trans_handle *trans,
2276                     struct btrfs_root *root, struct extent_buffer *buf,
2277                     struct extent_buffer *parent, int parent_slot,
2278                     struct extent_buffer **cow_ret);
2279 int btrfs_copy_root(struct btrfs_trans_handle *trans,
2280                       struct btrfs_root *root,
2281                       struct extent_buffer *buf,
2282                       struct extent_buffer **cow_ret, u64 new_root_objectid);
2283 int btrfs_block_can_be_shared(struct btrfs_root *root,
2284                               struct extent_buffer *buf);
2285 int btrfs_extend_item(struct btrfs_trans_handle *trans, struct btrfs_root
2286                       *root, struct btrfs_path *path, u32 data_size);
2287 int btrfs_truncate_item(struct btrfs_trans_handle *trans,
2288                         struct btrfs_root *root,
2289                         struct btrfs_path *path,
2290                         u32 new_size, int from_end);
2291 int btrfs_split_item(struct btrfs_trans_handle *trans,
2292                      struct btrfs_root *root,
2293                      struct btrfs_path *path,
2294                      struct btrfs_key *new_key,
2295                      unsigned long split_offset);
2296 int btrfs_duplicate_item(struct btrfs_trans_handle *trans,
2297                          struct btrfs_root *root,
2298                          struct btrfs_path *path,
2299                          struct btrfs_key *new_key);
2300 int btrfs_search_slot(struct btrfs_trans_handle *trans, struct btrfs_root
2301                       *root, struct btrfs_key *key, struct btrfs_path *p, int
2302                       ins_len, int cow);
2303 int btrfs_realloc_node(struct btrfs_trans_handle *trans,
2304                        struct btrfs_root *root, struct extent_buffer *parent,
2305                        int start_slot, int cache_only, u64 *last_ret,
2306                        struct btrfs_key *progress);
2307 void btrfs_release_path(struct btrfs_path *p);
2308 struct btrfs_path *btrfs_alloc_path(void);
2309 void btrfs_free_path(struct btrfs_path *p);
2310 void btrfs_set_path_blocking(struct btrfs_path *p);
2311 void btrfs_clear_path_blocking(struct btrfs_path *p,
2312                                struct extent_buffer *held);
2313 void btrfs_unlock_up_safe(struct btrfs_path *p, int level);
2314
2315 int btrfs_del_items(struct btrfs_trans_handle *trans, struct btrfs_root *root,
2316                    struct btrfs_path *path, int slot, int nr);
2317 static inline int btrfs_del_item(struct btrfs_trans_handle *trans,
2318                                  struct btrfs_root *root,
2319                                  struct btrfs_path *path)
2320 {
2321         return btrfs_del_items(trans, root, path, path->slots[0], 1);
2322 }
2323
2324 int setup_items_for_insert(struct btrfs_trans_handle *trans,
2325                            struct btrfs_root *root, struct btrfs_path *path,
2326                            struct btrfs_key *cpu_key, u32 *data_size,
2327                            u32 total_data, u32 total_size, int nr);
2328 int btrfs_insert_item(struct btrfs_trans_handle *trans, struct btrfs_root
2329                       *root, struct btrfs_key *key, void *data, u32 data_size);
2330 int btrfs_insert_empty_items(struct btrfs_trans_handle *trans,
2331                              struct btrfs_root *root,
2332                              struct btrfs_path *path,
2333                              struct btrfs_key *cpu_key, u32 *data_size, int nr);
2334
2335 static inline int btrfs_insert_empty_item(struct btrfs_trans_handle *trans,
2336                                           struct btrfs_root *root,
2337                                           struct btrfs_path *path,
2338                                           struct btrfs_key *key,
2339                                           u32 data_size)
2340 {
2341         return btrfs_insert_empty_items(trans, root, path, key, &data_size, 1);
2342 }
2343
2344 int btrfs_next_leaf(struct btrfs_root *root, struct btrfs_path *path);
2345 int btrfs_prev_leaf(struct btrfs_root *root, struct btrfs_path *path);
2346 int btrfs_leaf_free_space(struct btrfs_root *root, struct extent_buffer *leaf);
2347 int btrfs_drop_snapshot(struct btrfs_root *root,
2348                         struct btrfs_block_rsv *block_rsv, int update_ref);
2349 int btrfs_drop_subtree(struct btrfs_trans_handle *trans,
2350                         struct btrfs_root *root,
2351                         struct extent_buffer *node,
2352                         struct extent_buffer *parent);
2353 /* root-item.c */
2354 int btrfs_find_root_ref(struct btrfs_root *tree_root,
2355                         struct btrfs_path *path,
2356                         u64 root_id, u64 ref_id);
2357 int btrfs_add_root_ref(struct btrfs_trans_handle *trans,
2358                        struct btrfs_root *tree_root,
2359                        u64 root_id, u64 ref_id, u64 dirid, u64 sequence,
2360                        const char *name, int name_len);
2361 int btrfs_del_root_ref(struct btrfs_trans_handle *trans,
2362                        struct btrfs_root *tree_root,
2363                        u64 root_id, u64 ref_id, u64 dirid, u64 *sequence,
2364                        const char *name, int name_len);
2365 int btrfs_del_root(struct btrfs_trans_handle *trans, struct btrfs_root *root,
2366                    struct btrfs_key *key);
2367 int btrfs_insert_root(struct btrfs_trans_handle *trans, struct btrfs_root
2368                       *root, struct btrfs_key *key, struct btrfs_root_item
2369                       *item);
2370 int btrfs_update_root(struct btrfs_trans_handle *trans, struct btrfs_root
2371                       *root, struct btrfs_key *key, struct btrfs_root_item
2372                       *item);
2373 int btrfs_find_last_root(struct btrfs_root *root, u64 objectid, struct
2374                          btrfs_root_item *item, struct btrfs_key *key);
2375 int btrfs_find_dead_roots(struct btrfs_root *root, u64 objectid);
2376 int btrfs_find_orphan_roots(struct btrfs_root *tree_root);
2377 int btrfs_set_root_node(struct btrfs_root_item *item,
2378                         struct extent_buffer *node);
2379 void btrfs_check_and_init_root_item(struct btrfs_root_item *item);
2380
2381 /* dir-item.c */
2382 int btrfs_insert_dir_item(struct btrfs_trans_handle *trans,
2383                           struct btrfs_root *root, const char *name,
2384                           int name_len, struct inode *dir,
2385                           struct btrfs_key *location, u8 type, u64 index);
2386 struct btrfs_dir_item *btrfs_lookup_dir_item(struct btrfs_trans_handle *trans,
2387                                              struct btrfs_root *root,
2388                                              struct btrfs_path *path, u64 dir,
2389                                              const char *name, int name_len,
2390                                              int mod);
2391 struct btrfs_dir_item *
2392 btrfs_lookup_dir_index_item(struct btrfs_trans_handle *trans,
2393                             struct btrfs_root *root,
2394                             struct btrfs_path *path, u64 dir,
2395                             u64 objectid, const char *name, int name_len,
2396                             int mod);
2397 struct btrfs_dir_item *
2398 btrfs_search_dir_index_item(struct btrfs_root *root,
2399                             struct btrfs_path *path, u64 dirid,
2400                             const char *name, int name_len);
2401 struct btrfs_dir_item *btrfs_match_dir_item_name(struct btrfs_root *root,
2402                               struct btrfs_path *path,
2403                               const char *name, int name_len);
2404 int btrfs_delete_one_dir_name(struct btrfs_trans_handle *trans,
2405                               struct btrfs_root *root,
2406                               struct btrfs_path *path,
2407                               struct btrfs_dir_item *di);
2408 int btrfs_insert_xattr_item(struct btrfs_trans_handle *trans,
2409                             struct btrfs_root *root,
2410                             struct btrfs_path *path, u64 objectid,
2411                             const char *name, u16 name_len,
2412                             const void *data, u16 data_len);
2413 struct btrfs_dir_item *btrfs_lookup_xattr(struct btrfs_trans_handle *trans,
2414                                           struct btrfs_root *root,
2415                                           struct btrfs_path *path, u64 dir,
2416                                           const char *name, u16 name_len,
2417                                           int mod);
2418 int verify_dir_item(struct btrfs_root *root,
2419                     struct extent_buffer *leaf,
2420                     struct btrfs_dir_item *dir_item);
2421
2422 /* orphan.c */
2423 int btrfs_insert_orphan_item(struct btrfs_trans_handle *trans,
2424                              struct btrfs_root *root, u64 offset);
2425 int btrfs_del_orphan_item(struct btrfs_trans_handle *trans,
2426                           struct btrfs_root *root, u64 offset);
2427 int btrfs_find_orphan_item(struct btrfs_root *root, u64 offset);
2428
2429 /* inode-item.c */
2430 int btrfs_insert_inode_ref(struct btrfs_trans_handle *trans,
2431                            struct btrfs_root *root,
2432                            const char *name, int name_len,
2433                            u64 inode_objectid, u64 ref_objectid, u64 index);
2434 int btrfs_del_inode_ref(struct btrfs_trans_handle *trans,
2435                            struct btrfs_root *root,
2436                            const char *name, int name_len,
2437                            u64 inode_objectid, u64 ref_objectid, u64 *index);
2438 struct btrfs_inode_ref *
2439 btrfs_lookup_inode_ref(struct btrfs_trans_handle *trans,
2440                         struct btrfs_root *root,
2441                         struct btrfs_path *path,
2442                         const char *name, int name_len,
2443                         u64 inode_objectid, u64 ref_objectid, int mod);
2444 int btrfs_insert_empty_inode(struct btrfs_trans_handle *trans,
2445                              struct btrfs_root *root,
2446                              struct btrfs_path *path, u64 objectid);
2447 int btrfs_lookup_inode(struct btrfs_trans_handle *trans, struct btrfs_root
2448                        *root, struct btrfs_path *path,
2449                        struct btrfs_key *location, int mod);
2450
2451 /* file-item.c */
2452 int btrfs_del_csums(struct btrfs_trans_handle *trans,
2453                     struct btrfs_root *root, u64 bytenr, u64 len);
2454 int btrfs_lookup_bio_sums(struct btrfs_root *root, struct inode *inode,
2455                           struct bio *bio, u32 *dst);
2456 int btrfs_lookup_bio_sums_dio(struct btrfs_root *root, struct inode *inode,
2457                               struct bio *bio, u64 logical_offset, u32 *dst);
2458 int btrfs_insert_file_extent(struct btrfs_trans_handle *trans,
2459                              struct btrfs_root *root,
2460                              u64 objectid, u64 pos,
2461                              u64 disk_offset, u64 disk_num_bytes,
2462                              u64 num_bytes, u64 offset, u64 ram_bytes,
2463                              u8 compression, u8 encryption, u16 other_encoding);
2464 int btrfs_lookup_file_extent(struct btrfs_trans_handle *trans,
2465                              struct btrfs_root *root,
2466                              struct btrfs_path *path, u64 objectid,
2467                              u64 bytenr, int mod);
2468 int btrfs_csum_file_blocks(struct btrfs_trans_handle *trans,
2469                            struct btrfs_root *root,
2470                            struct btrfs_ordered_sum *sums);
2471 int btrfs_csum_one_bio(struct btrfs_root *root, struct inode *inode,
2472                        struct bio *bio, u64 file_start, int contig);
2473 struct btrfs_csum_item *btrfs_lookup_csum(struct btrfs_trans_handle *trans,
2474                                           struct btrfs_root *root,
2475                                           struct btrfs_path *path,
2476                                           u64 bytenr, int cow);
2477 int btrfs_csum_truncate(struct btrfs_trans_handle *trans,
2478                         struct btrfs_root *root, struct btrfs_path *path,
2479                         u64 isize);
2480 int btrfs_lookup_csums_range(struct btrfs_root *root, u64 start, u64 end,
2481                              struct list_head *list, int search_commit);
2482 /* inode.c */
2483
2484 /* RHEL and EL kernels have a patch that renames PG_checked to FsMisc */
2485 #if defined(ClearPageFsMisc) && !defined(ClearPageChecked)
2486 #define ClearPageChecked ClearPageFsMisc
2487 #define SetPageChecked SetPageFsMisc
2488 #define PageChecked PageFsMisc
2489 #endif
2490
2491 struct inode *btrfs_lookup_dentry(struct inode *dir, struct dentry *dentry);
2492 int btrfs_set_inode_index(struct inode *dir, u64 *index);
2493 int btrfs_unlink_inode(struct btrfs_trans_handle *trans,
2494                        struct btrfs_root *root,
2495                        struct inode *dir, struct inode *inode,
2496                        const char *name, int name_len);
2497 int btrfs_add_link(struct btrfs_trans_handle *trans,
2498                    struct inode *parent_inode, struct inode *inode,
2499                    const char *name, int name_len, int add_backref, u64 index);
2500 int btrfs_unlink_subvol(struct btrfs_trans_handle *trans,
2501                         struct btrfs_root *root,
2502                         struct inode *dir, u64 objectid,
2503                         const char *name, int name_len);
2504 int btrfs_truncate_inode_items(struct btrfs_trans_handle *trans,
2505                                struct btrfs_root *root,
2506                                struct inode *inode, u64 new_size,
2507                                u32 min_type);
2508
2509 int btrfs_start_delalloc_inodes(struct btrfs_root *root, int delay_iput);
2510 int btrfs_set_extent_delalloc(struct inode *inode, u64 start, u64 end,
2511                               struct extent_state **cached_state);
2512 int btrfs_writepages(struct address_space *mapping,
2513                      struct writeback_control *wbc);
2514 int btrfs_create_subvol_root(struct btrfs_trans_handle *trans,
2515                              struct btrfs_root *new_root,
2516                              u64 new_dirid, u64 alloc_hint);
2517 int btrfs_merge_bio_hook(struct page *page, unsigned long offset,
2518                          size_t size, struct bio *bio, unsigned long bio_flags);
2519
2520 unsigned long btrfs_force_ra(struct address_space *mapping,
2521                               struct file_ra_state *ra, struct file *file,
2522                               pgoff_t offset, pgoff_t last_index);
2523 int btrfs_page_mkwrite(struct vm_area_struct *vma, struct vm_fault *vmf);
2524 int btrfs_readpage(struct file *file, struct page *page);
2525 void btrfs_evict_inode(struct inode *inode);
2526 int btrfs_write_inode(struct inode *inode, struct writeback_control *wbc);
2527 void btrfs_dirty_inode(struct inode *inode, int flags);
2528 struct inode *btrfs_alloc_inode(struct super_block *sb);
2529 void btrfs_destroy_inode(struct inode *inode);
2530 int btrfs_drop_inode(struct inode *inode);
2531 int btrfs_init_cachep(void);
2532 void btrfs_destroy_cachep(void);
2533 long btrfs_ioctl_trans_end(struct file *file);
2534 struct inode *btrfs_iget(struct super_block *s, struct btrfs_key *location,
2535                          struct btrfs_root *root, int *was_new);
2536 struct extent_map *btrfs_get_extent(struct inode *inode, struct page *page,
2537                                     size_t pg_offset, u64 start, u64 end,
2538                                     int create);
2539 int btrfs_update_inode(struct btrfs_trans_handle *trans,
2540                               struct btrfs_root *root,
2541                               struct inode *inode);
2542 int btrfs_orphan_add(struct btrfs_trans_handle *trans, struct inode *inode);
2543 int btrfs_orphan_del(struct btrfs_trans_handle *trans, struct inode *inode);
2544 int btrfs_orphan_cleanup(struct btrfs_root *root);
2545 void btrfs_orphan_pre_snapshot(struct btrfs_trans_handle *trans,
2546                                 struct btrfs_pending_snapshot *pending,
2547                                 u64 *bytes_to_reserve);
2548 void btrfs_orphan_post_snapshot(struct btrfs_trans_handle *trans,
2549                                 struct btrfs_pending_snapshot *pending);
2550 void btrfs_orphan_commit_root(struct btrfs_trans_handle *trans,
2551                               struct btrfs_root *root);
2552 int btrfs_cont_expand(struct inode *inode, loff_t oldsize, loff_t size);
2553 int btrfs_invalidate_inodes(struct btrfs_root *root);
2554 void btrfs_add_delayed_iput(struct inode *inode);
2555 void btrfs_run_delayed_iputs(struct btrfs_root *root);
2556 int btrfs_prealloc_file_range(struct inode *inode, int mode,
2557                               u64 start, u64 num_bytes, u64 min_size,
2558                               loff_t actual_len, u64 *alloc_hint);
2559 int btrfs_prealloc_file_range_trans(struct inode *inode,
2560                                     struct btrfs_trans_handle *trans, int mode,
2561                                     u64 start, u64 num_bytes, u64 min_size,
2562                                     loff_t actual_len, u64 *alloc_hint);
2563 extern const struct dentry_operations btrfs_dentry_operations;
2564
2565 /* ioctl.c */
2566 long btrfs_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
2567 void btrfs_update_iflags(struct inode *inode);
2568 void btrfs_inherit_iflags(struct inode *inode, struct inode *dir);
2569 int btrfs_defrag_file(struct inode *inode, struct file *file,
2570                       struct btrfs_ioctl_defrag_range_args *range,
2571                       u64 newer_than, unsigned long max_pages);
2572 /* file.c */
2573 int btrfs_add_inode_defrag(struct btrfs_trans_handle *trans,
2574                            struct inode *inode);
2575 int btrfs_run_defrag_inodes(struct btrfs_fs_info *fs_info);
2576 int btrfs_sync_file(struct file *file, int datasync);
2577 int btrfs_drop_extent_cache(struct inode *inode, u64 start, u64 end,
2578                             int skip_pinned);
2579 extern const struct file_operations btrfs_file_operations;
2580 int btrfs_drop_extents(struct btrfs_trans_handle *trans, struct inode *inode,
2581                        u64 start, u64 end, u64 *hint_byte, int drop_cache);
2582 int btrfs_mark_extent_written(struct btrfs_trans_handle *trans,
2583                               struct inode *inode, u64 start, u64 end);
2584 int btrfs_release_file(struct inode *inode, struct file *file);
2585 void btrfs_drop_pages(struct page **pages, size_t num_pages);
2586 int btrfs_dirty_pages(struct btrfs_root *root, struct inode *inode,
2587                       struct page **pages, size_t num_pages,
2588                       loff_t pos, size_t write_bytes,
2589                       struct extent_state **cached);
2590
2591 /* tree-defrag.c */
2592 int btrfs_defrag_leaves(struct btrfs_trans_handle *trans,
2593                         struct btrfs_root *root, int cache_only);
2594
2595 /* sysfs.c */
2596 int btrfs_init_sysfs(void);
2597 void btrfs_exit_sysfs(void);
2598
2599 /* xattr.c */
2600 ssize_t btrfs_listxattr(struct dentry *dentry, char *buffer, size_t size);
2601
2602 /* super.c */
2603 int btrfs_parse_options(struct btrfs_root *root, char *options);
2604 int btrfs_sync_fs(struct super_block *sb, int wait);
2605 void __btrfs_std_error(struct btrfs_fs_info *fs_info, const char *function,
2606                      unsigned int line, int errno);
2607
2608 #define btrfs_std_error(fs_info, errno)                         \
2609 do {                                                            \
2610         if ((errno))                                            \
2611                 __btrfs_std_error((fs_info), __func__, __LINE__, (errno));\
2612 } while (0)
2613
2614 /* acl.c */
2615 #ifdef CONFIG_BTRFS_FS_POSIX_ACL
2616 int btrfs_check_acl(struct inode *inode, int mask, unsigned int flags);
2617 #else
2618 #define btrfs_check_acl NULL
2619 #endif
2620 int btrfs_init_acl(struct btrfs_trans_handle *trans,
2621                    struct inode *inode, struct inode *dir);
2622 int btrfs_acl_chmod(struct inode *inode);
2623
2624 /* relocation.c */
2625 int btrfs_relocate_block_group(struct btrfs_root *root, u64 group_start);
2626 int btrfs_init_reloc_root(struct btrfs_trans_handle *trans,
2627                           struct btrfs_root *root);
2628 int btrfs_update_reloc_root(struct btrfs_trans_handle *trans,
2629                             struct btrfs_root *root);
2630 int btrfs_recover_relocation(struct btrfs_root *root);
2631 int btrfs_reloc_clone_csums(struct inode *inode, u64 file_pos, u64 len);
2632 void btrfs_reloc_cow_block(struct btrfs_trans_handle *trans,
2633                            struct btrfs_root *root, struct extent_buffer *buf,
2634                            struct extent_buffer *cow);
2635 void btrfs_reloc_pre_snapshot(struct btrfs_trans_handle *trans,
2636                               struct btrfs_pending_snapshot *pending,
2637                               u64 *bytes_to_reserve);
2638 void btrfs_reloc_post_snapshot(struct btrfs_trans_handle *trans,
2639                               struct btrfs_pending_snapshot *pending);
2640
2641 /* scrub.c */
2642 int btrfs_scrub_dev(struct btrfs_root *root, u64 devid, u64 start, u64 end,
2643                     struct btrfs_scrub_progress *progress, int readonly);
2644 int btrfs_scrub_pause(struct btrfs_root *root);
2645 int btrfs_scrub_pause_super(struct btrfs_root *root);
2646 int btrfs_scrub_continue(struct btrfs_root *root);
2647 int btrfs_scrub_continue_super(struct btrfs_root *root);
2648 int btrfs_scrub_cancel(struct btrfs_root *root);
2649 int btrfs_scrub_cancel_dev(struct btrfs_root *root, struct btrfs_device *dev);
2650 int btrfs_scrub_cancel_devid(struct btrfs_root *root, u64 devid);
2651 int btrfs_scrub_progress(struct btrfs_root *root, u64 devid,
2652                          struct btrfs_scrub_progress *progress);
2653
2654 #endif