OSDN Git Service

4a91d3119e59e15c07983fd8025b2845ffac62cb
[sagit-ice-cold/kernel_xiaomi_msm8998.git] / fs / btrfs / ctree.h
1 /*
2  * Copyright (C) 2007 Oracle.  All rights reserved.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public
6  * License v2 as published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful,
9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public
14  * License along with this program; if not, write to the
15  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
16  * Boston, MA 021110-1307, USA.
17  */
18
19 #ifndef __BTRFS_CTREE__
20 #define __BTRFS_CTREE__
21
22 #include <linux/mm.h>
23 #include <linux/highmem.h>
24 #include <linux/fs.h>
25 #include <linux/rwsem.h>
26 #include <linux/semaphore.h>
27 #include <linux/completion.h>
28 #include <linux/backing-dev.h>
29 #include <linux/wait.h>
30 #include <linux/slab.h>
31 #include <linux/kobject.h>
32 #include <trace/events/btrfs.h>
33 #include <asm/kmap_types.h>
34 #include <linux/pagemap.h>
35 #include <linux/btrfs.h>
36 #include <linux/workqueue.h>
37 #include <linux/security.h>
38 #include <linux/sizes.h>
39 #include "extent_io.h"
40 #include "extent_map.h"
41 #include "async-thread.h"
42
43 struct btrfs_trans_handle;
44 struct btrfs_transaction;
45 struct btrfs_pending_snapshot;
46 extern struct kmem_cache *btrfs_trans_handle_cachep;
47 extern struct kmem_cache *btrfs_transaction_cachep;
48 extern struct kmem_cache *btrfs_bit_radix_cachep;
49 extern struct kmem_cache *btrfs_path_cachep;
50 extern struct kmem_cache *btrfs_free_space_cachep;
51 struct btrfs_ordered_sum;
52
53 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
54 #define STATIC noinline
55 #else
56 #define STATIC static noinline
57 #endif
58
59 #define BTRFS_MAGIC 0x4D5F53665248425FULL /* ascii _BHRfS_M, no null */
60
61 #define BTRFS_MAX_MIRRORS 3
62
63 #define BTRFS_MAX_LEVEL 8
64
65 #define BTRFS_COMPAT_EXTENT_TREE_V0
66
67 /* holds pointers to all of the tree roots */
68 #define BTRFS_ROOT_TREE_OBJECTID 1ULL
69
70 /* stores information about which extents are in use, and reference counts */
71 #define BTRFS_EXTENT_TREE_OBJECTID 2ULL
72
73 /*
74  * chunk tree stores translations from logical -> physical block numbering
75  * the super block points to the chunk tree
76  */
77 #define BTRFS_CHUNK_TREE_OBJECTID 3ULL
78
79 /*
80  * stores information about which areas of a given device are in use.
81  * one per device.  The tree of tree roots points to the device tree
82  */
83 #define BTRFS_DEV_TREE_OBJECTID 4ULL
84
85 /* one per subvolume, storing files and directories */
86 #define BTRFS_FS_TREE_OBJECTID 5ULL
87
88 /* directory objectid inside the root tree */
89 #define BTRFS_ROOT_TREE_DIR_OBJECTID 6ULL
90
91 /* holds checksums of all the data extents */
92 #define BTRFS_CSUM_TREE_OBJECTID 7ULL
93
94 /* holds quota configuration and tracking */
95 #define BTRFS_QUOTA_TREE_OBJECTID 8ULL
96
97 /* for storing items that use the BTRFS_UUID_KEY* types */
98 #define BTRFS_UUID_TREE_OBJECTID 9ULL
99
100 /* for storing balance parameters in the root tree */
101 #define BTRFS_BALANCE_OBJECTID -4ULL
102
103 /* orhpan objectid for tracking unlinked/truncated files */
104 #define BTRFS_ORPHAN_OBJECTID -5ULL
105
106 /* does write ahead logging to speed up fsyncs */
107 #define BTRFS_TREE_LOG_OBJECTID -6ULL
108 #define BTRFS_TREE_LOG_FIXUP_OBJECTID -7ULL
109
110 /* for space balancing */
111 #define BTRFS_TREE_RELOC_OBJECTID -8ULL
112 #define BTRFS_DATA_RELOC_TREE_OBJECTID -9ULL
113
114 /*
115  * extent checksums all have this objectid
116  * this allows them to share the logging tree
117  * for fsyncs
118  */
119 #define BTRFS_EXTENT_CSUM_OBJECTID -10ULL
120
121 /* For storing free space cache */
122 #define BTRFS_FREE_SPACE_OBJECTID -11ULL
123
124 /*
125  * The inode number assigned to the special inode for storing
126  * free ino cache
127  */
128 #define BTRFS_FREE_INO_OBJECTID -12ULL
129
130 /* dummy objectid represents multiple objectids */
131 #define BTRFS_MULTIPLE_OBJECTIDS -255ULL
132
133 /*
134  * All files have objectids in this range.
135  */
136 #define BTRFS_FIRST_FREE_OBJECTID 256ULL
137 #define BTRFS_LAST_FREE_OBJECTID -256ULL
138 #define BTRFS_FIRST_CHUNK_TREE_OBJECTID 256ULL
139
140
141 /*
142  * the device items go into the chunk tree.  The key is in the form
143  * [ 1 BTRFS_DEV_ITEM_KEY device_id ]
144  */
145 #define BTRFS_DEV_ITEMS_OBJECTID 1ULL
146
147 #define BTRFS_BTREE_INODE_OBJECTID 1
148
149 #define BTRFS_EMPTY_SUBVOL_DIR_OBJECTID 2
150
151 #define BTRFS_DEV_REPLACE_DEVID 0ULL
152
153 /*
154  * the max metadata block size.  This limit is somewhat artificial,
155  * but the memmove costs go through the roof for larger blocks.
156  */
157 #define BTRFS_MAX_METADATA_BLOCKSIZE 65536
158
159 /*
160  * we can actually store much bigger names, but lets not confuse the rest
161  * of linux
162  */
163 #define BTRFS_NAME_LEN 255
164
165 /*
166  * Theoretical limit is larger, but we keep this down to a sane
167  * value. That should limit greatly the possibility of collisions on
168  * inode ref items.
169  */
170 #define BTRFS_LINK_MAX 65535U
171
172 /* 32 bytes in various csum fields */
173 #define BTRFS_CSUM_SIZE 32
174
175 /* csum types */
176 #define BTRFS_CSUM_TYPE_CRC32   0
177
178 static int btrfs_csum_sizes[] = { 4 };
179
180 /* four bytes for CRC32 */
181 #define BTRFS_EMPTY_DIR_SIZE 0
182
183 /* spefic to btrfs_map_block(), therefore not in include/linux/blk_types.h */
184 #define REQ_GET_READ_MIRRORS    (1 << 30)
185
186 #define BTRFS_FT_UNKNOWN        0
187 #define BTRFS_FT_REG_FILE       1
188 #define BTRFS_FT_DIR            2
189 #define BTRFS_FT_CHRDEV         3
190 #define BTRFS_FT_BLKDEV         4
191 #define BTRFS_FT_FIFO           5
192 #define BTRFS_FT_SOCK           6
193 #define BTRFS_FT_SYMLINK        7
194 #define BTRFS_FT_XATTR          8
195 #define BTRFS_FT_MAX            9
196
197 /* ioprio of readahead is set to idle */
198 #define BTRFS_IOPRIO_READA (IOPRIO_PRIO_VALUE(IOPRIO_CLASS_IDLE, 0))
199
200 #define BTRFS_DIRTY_METADATA_THRESH     (32 * 1024 * 1024)
201
202 #define BTRFS_MAX_EXTENT_SIZE (128 * 1024 * 1024)
203
204 /*
205  * The key defines the order in the tree, and so it also defines (optimal)
206  * block layout.
207  *
208  * objectid corresponds to the inode number.
209  *
210  * type tells us things about the object, and is a kind of stream selector.
211  * so for a given inode, keys with type of 1 might refer to the inode data,
212  * type of 2 may point to file data in the btree and type == 3 may point to
213  * extents.
214  *
215  * offset is the starting byte offset for this key in the stream.
216  *
217  * btrfs_disk_key is in disk byte order.  struct btrfs_key is always
218  * in cpu native order.  Otherwise they are identical and their sizes
219  * should be the same (ie both packed)
220  */
221 struct btrfs_disk_key {
222         __le64 objectid;
223         u8 type;
224         __le64 offset;
225 } __attribute__ ((__packed__));
226
227 struct btrfs_key {
228         u64 objectid;
229         u8 type;
230         u64 offset;
231 } __attribute__ ((__packed__));
232
233 struct btrfs_mapping_tree {
234         struct extent_map_tree map_tree;
235 };
236
237 struct btrfs_dev_item {
238         /* the internal btrfs device id */
239         __le64 devid;
240
241         /* size of the device */
242         __le64 total_bytes;
243
244         /* bytes used */
245         __le64 bytes_used;
246
247         /* optimal io alignment for this device */
248         __le32 io_align;
249
250         /* optimal io width for this device */
251         __le32 io_width;
252
253         /* minimal io size for this device */
254         __le32 sector_size;
255
256         /* type and info about this device */
257         __le64 type;
258
259         /* expected generation for this device */
260         __le64 generation;
261
262         /*
263          * starting byte of this partition on the device,
264          * to allow for stripe alignment in the future
265          */
266         __le64 start_offset;
267
268         /* grouping information for allocation decisions */
269         __le32 dev_group;
270
271         /* seek speed 0-100 where 100 is fastest */
272         u8 seek_speed;
273
274         /* bandwidth 0-100 where 100 is fastest */
275         u8 bandwidth;
276
277         /* btrfs generated uuid for this device */
278         u8 uuid[BTRFS_UUID_SIZE];
279
280         /* uuid of FS who owns this device */
281         u8 fsid[BTRFS_UUID_SIZE];
282 } __attribute__ ((__packed__));
283
284 struct btrfs_stripe {
285         __le64 devid;
286         __le64 offset;
287         u8 dev_uuid[BTRFS_UUID_SIZE];
288 } __attribute__ ((__packed__));
289
290 struct btrfs_chunk {
291         /* size of this chunk in bytes */
292         __le64 length;
293
294         /* objectid of the root referencing this chunk */
295         __le64 owner;
296
297         __le64 stripe_len;
298         __le64 type;
299
300         /* optimal io alignment for this chunk */
301         __le32 io_align;
302
303         /* optimal io width for this chunk */
304         __le32 io_width;
305
306         /* minimal io size for this chunk */
307         __le32 sector_size;
308
309         /* 2^16 stripes is quite a lot, a second limit is the size of a single
310          * item in the btree
311          */
312         __le16 num_stripes;
313
314         /* sub stripes only matter for raid10 */
315         __le16 sub_stripes;
316         struct btrfs_stripe stripe;
317         /* additional stripes go here */
318 } __attribute__ ((__packed__));
319
320 #define BTRFS_FREE_SPACE_EXTENT 1
321 #define BTRFS_FREE_SPACE_BITMAP 2
322
323 struct btrfs_free_space_entry {
324         __le64 offset;
325         __le64 bytes;
326         u8 type;
327 } __attribute__ ((__packed__));
328
329 struct btrfs_free_space_header {
330         struct btrfs_disk_key location;
331         __le64 generation;
332         __le64 num_entries;
333         __le64 num_bitmaps;
334 } __attribute__ ((__packed__));
335
336 static inline unsigned long btrfs_chunk_item_size(int num_stripes)
337 {
338         BUG_ON(num_stripes == 0);
339         return sizeof(struct btrfs_chunk) +
340                 sizeof(struct btrfs_stripe) * (num_stripes - 1);
341 }
342
343 #define BTRFS_HEADER_FLAG_WRITTEN       (1ULL << 0)
344 #define BTRFS_HEADER_FLAG_RELOC         (1ULL << 1)
345
346 /*
347  * File system states
348  */
349 #define BTRFS_FS_STATE_ERROR            0
350 #define BTRFS_FS_STATE_REMOUNTING       1
351 #define BTRFS_FS_STATE_TRANS_ABORTED    2
352 #define BTRFS_FS_STATE_DEV_REPLACING    3
353
354 /* Super block flags */
355 /* Errors detected */
356 #define BTRFS_SUPER_FLAG_ERROR          (1ULL << 2)
357
358 #define BTRFS_SUPER_FLAG_SEEDING        (1ULL << 32)
359 #define BTRFS_SUPER_FLAG_METADUMP       (1ULL << 33)
360
361 #define BTRFS_BACKREF_REV_MAX           256
362 #define BTRFS_BACKREF_REV_SHIFT         56
363 #define BTRFS_BACKREF_REV_MASK          (((u64)BTRFS_BACKREF_REV_MAX - 1) << \
364                                          BTRFS_BACKREF_REV_SHIFT)
365
366 #define BTRFS_OLD_BACKREF_REV           0
367 #define BTRFS_MIXED_BACKREF_REV         1
368
369 /*
370  * every tree block (leaf or node) starts with this header.
371  */
372 struct btrfs_header {
373         /* these first four must match the super block */
374         u8 csum[BTRFS_CSUM_SIZE];
375         u8 fsid[BTRFS_FSID_SIZE]; /* FS specific uuid */
376         __le64 bytenr; /* which block this node is supposed to live in */
377         __le64 flags;
378
379         /* allowed to be different from the super from here on down */
380         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
381         __le64 generation;
382         __le64 owner;
383         __le32 nritems;
384         u8 level;
385 } __attribute__ ((__packed__));
386
387 #define BTRFS_NODEPTRS_PER_BLOCK(r) (((r)->nodesize - \
388                                       sizeof(struct btrfs_header)) / \
389                                      sizeof(struct btrfs_key_ptr))
390 #define __BTRFS_LEAF_DATA_SIZE(bs) ((bs) - sizeof(struct btrfs_header))
391 #define BTRFS_LEAF_DATA_SIZE(r) (__BTRFS_LEAF_DATA_SIZE(r->nodesize))
392 #define BTRFS_FILE_EXTENT_INLINE_DATA_START             \
393                 (offsetof(struct btrfs_file_extent_item, disk_bytenr))
394 #define BTRFS_MAX_INLINE_DATA_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
395                                         sizeof(struct btrfs_item) - \
396                                         BTRFS_FILE_EXTENT_INLINE_DATA_START)
397 #define BTRFS_MAX_XATTR_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
398                                  sizeof(struct btrfs_item) -\
399                                  sizeof(struct btrfs_dir_item))
400
401
402 /*
403  * this is a very generous portion of the super block, giving us
404  * room to translate 14 chunks with 3 stripes each.
405  */
406 #define BTRFS_SYSTEM_CHUNK_ARRAY_SIZE 2048
407 #define BTRFS_LABEL_SIZE 256
408
409 /*
410  * just in case we somehow lose the roots and are not able to mount,
411  * we store an array of the roots from previous transactions
412  * in the super.
413  */
414 #define BTRFS_NUM_BACKUP_ROOTS 4
415 struct btrfs_root_backup {
416         __le64 tree_root;
417         __le64 tree_root_gen;
418
419         __le64 chunk_root;
420         __le64 chunk_root_gen;
421
422         __le64 extent_root;
423         __le64 extent_root_gen;
424
425         __le64 fs_root;
426         __le64 fs_root_gen;
427
428         __le64 dev_root;
429         __le64 dev_root_gen;
430
431         __le64 csum_root;
432         __le64 csum_root_gen;
433
434         __le64 total_bytes;
435         __le64 bytes_used;
436         __le64 num_devices;
437         /* future */
438         __le64 unused_64[4];
439
440         u8 tree_root_level;
441         u8 chunk_root_level;
442         u8 extent_root_level;
443         u8 fs_root_level;
444         u8 dev_root_level;
445         u8 csum_root_level;
446         /* future and to align */
447         u8 unused_8[10];
448 } __attribute__ ((__packed__));
449
450 /*
451  * the super block basically lists the main trees of the FS
452  * it currently lacks any block count etc etc
453  */
454 struct btrfs_super_block {
455         u8 csum[BTRFS_CSUM_SIZE];
456         /* the first 4 fields must match struct btrfs_header */
457         u8 fsid[BTRFS_FSID_SIZE];    /* FS specific uuid */
458         __le64 bytenr; /* this block number */
459         __le64 flags;
460
461         /* allowed to be different from the btrfs_header from here own down */
462         __le64 magic;
463         __le64 generation;
464         __le64 root;
465         __le64 chunk_root;
466         __le64 log_root;
467
468         /* this will help find the new super based on the log root */
469         __le64 log_root_transid;
470         __le64 total_bytes;
471         __le64 bytes_used;
472         __le64 root_dir_objectid;
473         __le64 num_devices;
474         __le32 sectorsize;
475         __le32 nodesize;
476         __le32 __unused_leafsize;
477         __le32 stripesize;
478         __le32 sys_chunk_array_size;
479         __le64 chunk_root_generation;
480         __le64 compat_flags;
481         __le64 compat_ro_flags;
482         __le64 incompat_flags;
483         __le16 csum_type;
484         u8 root_level;
485         u8 chunk_root_level;
486         u8 log_root_level;
487         struct btrfs_dev_item dev_item;
488
489         char label[BTRFS_LABEL_SIZE];
490
491         __le64 cache_generation;
492         __le64 uuid_tree_generation;
493
494         /* future expansion */
495         __le64 reserved[30];
496         u8 sys_chunk_array[BTRFS_SYSTEM_CHUNK_ARRAY_SIZE];
497         struct btrfs_root_backup super_roots[BTRFS_NUM_BACKUP_ROOTS];
498 } __attribute__ ((__packed__));
499
500 /*
501  * Compat flags that we support.  If any incompat flags are set other than the
502  * ones specified below then we will fail to mount
503  */
504 #define BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF    (1ULL << 0)
505 #define BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL   (1ULL << 1)
506 #define BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS     (1ULL << 2)
507 #define BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO     (1ULL << 3)
508 /*
509  * some patches floated around with a second compression method
510  * lets save that incompat here for when they do get in
511  * Note we don't actually support it, we're just reserving the
512  * number
513  */
514 #define BTRFS_FEATURE_INCOMPAT_COMPRESS_LZOv2   (1ULL << 4)
515
516 /*
517  * older kernels tried to do bigger metadata blocks, but the
518  * code was pretty buggy.  Lets not let them try anymore.
519  */
520 #define BTRFS_FEATURE_INCOMPAT_BIG_METADATA     (1ULL << 5)
521
522 #define BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF    (1ULL << 6)
523 #define BTRFS_FEATURE_INCOMPAT_RAID56           (1ULL << 7)
524 #define BTRFS_FEATURE_INCOMPAT_SKINNY_METADATA  (1ULL << 8)
525 #define BTRFS_FEATURE_INCOMPAT_NO_HOLES         (1ULL << 9)
526
527 #define BTRFS_FEATURE_COMPAT_SUPP               0ULL
528 #define BTRFS_FEATURE_COMPAT_SAFE_SET           0ULL
529 #define BTRFS_FEATURE_COMPAT_SAFE_CLEAR         0ULL
530 #define BTRFS_FEATURE_COMPAT_RO_SUPP            0ULL
531 #define BTRFS_FEATURE_COMPAT_RO_SAFE_SET        0ULL
532 #define BTRFS_FEATURE_COMPAT_RO_SAFE_CLEAR      0ULL
533
534 #define BTRFS_FEATURE_INCOMPAT_SUPP                     \
535         (BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF |         \
536          BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL |        \
537          BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS |          \
538          BTRFS_FEATURE_INCOMPAT_BIG_METADATA |          \
539          BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO |          \
540          BTRFS_FEATURE_INCOMPAT_RAID56 |                \
541          BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF |         \
542          BTRFS_FEATURE_INCOMPAT_SKINNY_METADATA |       \
543          BTRFS_FEATURE_INCOMPAT_NO_HOLES)
544
545 #define BTRFS_FEATURE_INCOMPAT_SAFE_SET                 \
546         (BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF)
547 #define BTRFS_FEATURE_INCOMPAT_SAFE_CLEAR               0ULL
548
549 /*
550  * A leaf is full of items. offset and size tell us where to find
551  * the item in the leaf (relative to the start of the data area)
552  */
553 struct btrfs_item {
554         struct btrfs_disk_key key;
555         __le32 offset;
556         __le32 size;
557 } __attribute__ ((__packed__));
558
559 /*
560  * leaves have an item area and a data area:
561  * [item0, item1....itemN] [free space] [dataN...data1, data0]
562  *
563  * The data is separate from the items to get the keys closer together
564  * during searches.
565  */
566 struct btrfs_leaf {
567         struct btrfs_header header;
568         struct btrfs_item items[];
569 } __attribute__ ((__packed__));
570
571 /*
572  * all non-leaf blocks are nodes, they hold only keys and pointers to
573  * other blocks
574  */
575 struct btrfs_key_ptr {
576         struct btrfs_disk_key key;
577         __le64 blockptr;
578         __le64 generation;
579 } __attribute__ ((__packed__));
580
581 struct btrfs_node {
582         struct btrfs_header header;
583         struct btrfs_key_ptr ptrs[];
584 } __attribute__ ((__packed__));
585
586 /*
587  * btrfs_paths remember the path taken from the root down to the leaf.
588  * level 0 is always the leaf, and nodes[1...BTRFS_MAX_LEVEL] will point
589  * to any other levels that are present.
590  *
591  * The slots array records the index of the item or block pointer
592  * used while walking the tree.
593  */
594 struct btrfs_path {
595         struct extent_buffer *nodes[BTRFS_MAX_LEVEL];
596         int slots[BTRFS_MAX_LEVEL];
597         /* if there is real range locking, this locks field will change */
598         int locks[BTRFS_MAX_LEVEL];
599         int reada;
600         /* keep some upper locks as we walk down */
601         int lowest_level;
602
603         /*
604          * set by btrfs_split_item, tells search_slot to keep all locks
605          * and to force calls to keep space in the nodes
606          */
607         unsigned int search_for_split:1;
608         unsigned int keep_locks:1;
609         unsigned int skip_locking:1;
610         unsigned int leave_spinning:1;
611         unsigned int search_commit_root:1;
612         unsigned int need_commit_sem:1;
613         unsigned int skip_release_on_error:1;
614 };
615
616 /*
617  * items in the extent btree are used to record the objectid of the
618  * owner of the block and the number of references
619  */
620
621 struct btrfs_extent_item {
622         __le64 refs;
623         __le64 generation;
624         __le64 flags;
625 } __attribute__ ((__packed__));
626
627 struct btrfs_extent_item_v0 {
628         __le32 refs;
629 } __attribute__ ((__packed__));
630
631 #define BTRFS_MAX_EXTENT_ITEM_SIZE(r) ((BTRFS_LEAF_DATA_SIZE(r) >> 4) - \
632                                         sizeof(struct btrfs_item))
633
634 #define BTRFS_EXTENT_FLAG_DATA          (1ULL << 0)
635 #define BTRFS_EXTENT_FLAG_TREE_BLOCK    (1ULL << 1)
636
637 /* following flags only apply to tree blocks */
638
639 /* use full backrefs for extent pointers in the block */
640 #define BTRFS_BLOCK_FLAG_FULL_BACKREF   (1ULL << 8)
641
642 /*
643  * this flag is only used internally by scrub and may be changed at any time
644  * it is only declared here to avoid collisions
645  */
646 #define BTRFS_EXTENT_FLAG_SUPER         (1ULL << 48)
647
648 struct btrfs_tree_block_info {
649         struct btrfs_disk_key key;
650         u8 level;
651 } __attribute__ ((__packed__));
652
653 struct btrfs_extent_data_ref {
654         __le64 root;
655         __le64 objectid;
656         __le64 offset;
657         __le32 count;
658 } __attribute__ ((__packed__));
659
660 struct btrfs_shared_data_ref {
661         __le32 count;
662 } __attribute__ ((__packed__));
663
664 struct btrfs_extent_inline_ref {
665         u8 type;
666         __le64 offset;
667 } __attribute__ ((__packed__));
668
669 /* old style backrefs item */
670 struct btrfs_extent_ref_v0 {
671         __le64 root;
672         __le64 generation;
673         __le64 objectid;
674         __le32 count;
675 } __attribute__ ((__packed__));
676
677
678 /* dev extents record free space on individual devices.  The owner
679  * field points back to the chunk allocation mapping tree that allocated
680  * the extent.  The chunk tree uuid field is a way to double check the owner
681  */
682 struct btrfs_dev_extent {
683         __le64 chunk_tree;
684         __le64 chunk_objectid;
685         __le64 chunk_offset;
686         __le64 length;
687         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
688 } __attribute__ ((__packed__));
689
690 struct btrfs_inode_ref {
691         __le64 index;
692         __le16 name_len;
693         /* name goes here */
694 } __attribute__ ((__packed__));
695
696 struct btrfs_inode_extref {
697         __le64 parent_objectid;
698         __le64 index;
699         __le16 name_len;
700         __u8   name[0];
701         /* name goes here */
702 } __attribute__ ((__packed__));
703
704 struct btrfs_timespec {
705         __le64 sec;
706         __le32 nsec;
707 } __attribute__ ((__packed__));
708
709 enum btrfs_compression_type {
710         BTRFS_COMPRESS_NONE  = 0,
711         BTRFS_COMPRESS_ZLIB  = 1,
712         BTRFS_COMPRESS_LZO   = 2,
713         BTRFS_COMPRESS_TYPES = 2,
714         BTRFS_COMPRESS_LAST  = 3,
715 };
716
717 struct btrfs_inode_item {
718         /* nfs style generation number */
719         __le64 generation;
720         /* transid that last touched this inode */
721         __le64 transid;
722         __le64 size;
723         __le64 nbytes;
724         __le64 block_group;
725         __le32 nlink;
726         __le32 uid;
727         __le32 gid;
728         __le32 mode;
729         __le64 rdev;
730         __le64 flags;
731
732         /* modification sequence number for NFS */
733         __le64 sequence;
734
735         /*
736          * a little future expansion, for more than this we can
737          * just grow the inode item and version it
738          */
739         __le64 reserved[4];
740         struct btrfs_timespec atime;
741         struct btrfs_timespec ctime;
742         struct btrfs_timespec mtime;
743         struct btrfs_timespec otime;
744 } __attribute__ ((__packed__));
745
746 struct btrfs_dir_log_item {
747         __le64 end;
748 } __attribute__ ((__packed__));
749
750 struct btrfs_dir_item {
751         struct btrfs_disk_key location;
752         __le64 transid;
753         __le16 data_len;
754         __le16 name_len;
755         u8 type;
756 } __attribute__ ((__packed__));
757
758 #define BTRFS_ROOT_SUBVOL_RDONLY        (1ULL << 0)
759
760 /*
761  * Internal in-memory flag that a subvolume has been marked for deletion but
762  * still visible as a directory
763  */
764 #define BTRFS_ROOT_SUBVOL_DEAD          (1ULL << 48)
765
766 struct btrfs_root_item {
767         struct btrfs_inode_item inode;
768         __le64 generation;
769         __le64 root_dirid;
770         __le64 bytenr;
771         __le64 byte_limit;
772         __le64 bytes_used;
773         __le64 last_snapshot;
774         __le64 flags;
775         __le32 refs;
776         struct btrfs_disk_key drop_progress;
777         u8 drop_level;
778         u8 level;
779
780         /*
781          * The following fields appear after subvol_uuids+subvol_times
782          * were introduced.
783          */
784
785         /*
786          * This generation number is used to test if the new fields are valid
787          * and up to date while reading the root item. Everytime the root item
788          * is written out, the "generation" field is copied into this field. If
789          * anyone ever mounted the fs with an older kernel, we will have
790          * mismatching generation values here and thus must invalidate the
791          * new fields. See btrfs_update_root and btrfs_find_last_root for
792          * details.
793          * the offset of generation_v2 is also used as the start for the memset
794          * when invalidating the fields.
795          */
796         __le64 generation_v2;
797         u8 uuid[BTRFS_UUID_SIZE];
798         u8 parent_uuid[BTRFS_UUID_SIZE];
799         u8 received_uuid[BTRFS_UUID_SIZE];
800         __le64 ctransid; /* updated when an inode changes */
801         __le64 otransid; /* trans when created */
802         __le64 stransid; /* trans when sent. non-zero for received subvol */
803         __le64 rtransid; /* trans when received. non-zero for received subvol */
804         struct btrfs_timespec ctime;
805         struct btrfs_timespec otime;
806         struct btrfs_timespec stime;
807         struct btrfs_timespec rtime;
808         __le64 reserved[8]; /* for future */
809 } __attribute__ ((__packed__));
810
811 /*
812  * this is used for both forward and backward root refs
813  */
814 struct btrfs_root_ref {
815         __le64 dirid;
816         __le64 sequence;
817         __le16 name_len;
818 } __attribute__ ((__packed__));
819
820 struct btrfs_disk_balance_args {
821         /*
822          * profiles to operate on, single is denoted by
823          * BTRFS_AVAIL_ALLOC_BIT_SINGLE
824          */
825         __le64 profiles;
826
827         /*
828          * usage filter
829          * BTRFS_BALANCE_ARGS_USAGE with a single value means '0..N'
830          * BTRFS_BALANCE_ARGS_USAGE_RANGE - range syntax, min..max
831          */
832         union {
833                 __le64 usage;
834                 struct {
835                         __le32 usage_min;
836                         __le32 usage_max;
837                 };
838         };
839
840         /* devid filter */
841         __le64 devid;
842
843         /* devid subset filter [pstart..pend) */
844         __le64 pstart;
845         __le64 pend;
846
847         /* btrfs virtual address space subset filter [vstart..vend) */
848         __le64 vstart;
849         __le64 vend;
850
851         /*
852          * profile to convert to, single is denoted by
853          * BTRFS_AVAIL_ALLOC_BIT_SINGLE
854          */
855         __le64 target;
856
857         /* BTRFS_BALANCE_ARGS_* */
858         __le64 flags;
859
860         /*
861          * BTRFS_BALANCE_ARGS_LIMIT with value 'limit'
862          * BTRFS_BALANCE_ARGS_LIMIT_RANGE - the extend version can use minimum
863          * and maximum
864          */
865         union {
866                 __le64 limit;
867                 struct {
868                         __le32 limit_min;
869                         __le32 limit_max;
870                 };
871         };
872
873         /*
874          * Process chunks that cross stripes_min..stripes_max devices,
875          * BTRFS_BALANCE_ARGS_STRIPES_RANGE
876          */
877         __le32 stripes_min;
878         __le32 stripes_max;
879
880         __le64 unused[6];
881 } __attribute__ ((__packed__));
882
883 /*
884  * store balance parameters to disk so that balance can be properly
885  * resumed after crash or unmount
886  */
887 struct btrfs_balance_item {
888         /* BTRFS_BALANCE_* */
889         __le64 flags;
890
891         struct btrfs_disk_balance_args data;
892         struct btrfs_disk_balance_args meta;
893         struct btrfs_disk_balance_args sys;
894
895         __le64 unused[4];
896 } __attribute__ ((__packed__));
897
898 #define BTRFS_FILE_EXTENT_INLINE 0
899 #define BTRFS_FILE_EXTENT_REG 1
900 #define BTRFS_FILE_EXTENT_PREALLOC 2
901 #define BTRFS_FILE_EXTENT_TYPES 2
902
903 struct btrfs_file_extent_item {
904         /*
905          * transaction id that created this extent
906          */
907         __le64 generation;
908         /*
909          * max number of bytes to hold this extent in ram
910          * when we split a compressed extent we can't know how big
911          * each of the resulting pieces will be.  So, this is
912          * an upper limit on the size of the extent in ram instead of
913          * an exact limit.
914          */
915         __le64 ram_bytes;
916
917         /*
918          * 32 bits for the various ways we might encode the data,
919          * including compression and encryption.  If any of these
920          * are set to something a given disk format doesn't understand
921          * it is treated like an incompat flag for reading and writing,
922          * but not for stat.
923          */
924         u8 compression;
925         u8 encryption;
926         __le16 other_encoding; /* spare for later use */
927
928         /* are we inline data or a real extent? */
929         u8 type;
930
931         /*
932          * disk space consumed by the extent, checksum blocks are included
933          * in these numbers
934          *
935          * At this offset in the structure, the inline extent data start.
936          */
937         __le64 disk_bytenr;
938         __le64 disk_num_bytes;
939         /*
940          * the logical offset in file blocks (no csums)
941          * this extent record is for.  This allows a file extent to point
942          * into the middle of an existing extent on disk, sharing it
943          * between two snapshots (useful if some bytes in the middle of the
944          * extent have changed
945          */
946         __le64 offset;
947         /*
948          * the logical number of file blocks (no csums included).  This
949          * always reflects the size uncompressed and without encoding.
950          */
951         __le64 num_bytes;
952
953 } __attribute__ ((__packed__));
954
955 struct btrfs_csum_item {
956         u8 csum;
957 } __attribute__ ((__packed__));
958
959 struct btrfs_dev_stats_item {
960         /*
961          * grow this item struct at the end for future enhancements and keep
962          * the existing values unchanged
963          */
964         __le64 values[BTRFS_DEV_STAT_VALUES_MAX];
965 } __attribute__ ((__packed__));
966
967 #define BTRFS_DEV_REPLACE_ITEM_CONT_READING_FROM_SRCDEV_MODE_ALWAYS     0
968 #define BTRFS_DEV_REPLACE_ITEM_CONT_READING_FROM_SRCDEV_MODE_AVOID      1
969 #define BTRFS_DEV_REPLACE_ITEM_STATE_NEVER_STARTED      0
970 #define BTRFS_DEV_REPLACE_ITEM_STATE_STARTED            1
971 #define BTRFS_DEV_REPLACE_ITEM_STATE_SUSPENDED          2
972 #define BTRFS_DEV_REPLACE_ITEM_STATE_FINISHED           3
973 #define BTRFS_DEV_REPLACE_ITEM_STATE_CANCELED           4
974
975 struct btrfs_dev_replace {
976         u64 replace_state;      /* see #define above */
977         u64 time_started;       /* seconds since 1-Jan-1970 */
978         u64 time_stopped;       /* seconds since 1-Jan-1970 */
979         atomic64_t num_write_errors;
980         atomic64_t num_uncorrectable_read_errors;
981
982         u64 cursor_left;
983         u64 committed_cursor_left;
984         u64 cursor_left_last_write_of_item;
985         u64 cursor_right;
986
987         u64 cont_reading_from_srcdev_mode;      /* see #define above */
988
989         int is_valid;
990         int item_needs_writeback;
991         struct btrfs_device *srcdev;
992         struct btrfs_device *tgtdev;
993
994         pid_t lock_owner;
995         atomic_t nesting_level;
996         struct mutex lock_finishing_cancel_unmount;
997         struct mutex lock_management_lock;
998         struct mutex lock;
999
1000         struct btrfs_scrub_progress scrub_progress;
1001 };
1002
1003 struct btrfs_dev_replace_item {
1004         /*
1005          * grow this item struct at the end for future enhancements and keep
1006          * the existing values unchanged
1007          */
1008         __le64 src_devid;
1009         __le64 cursor_left;
1010         __le64 cursor_right;
1011         __le64 cont_reading_from_srcdev_mode;
1012
1013         __le64 replace_state;
1014         __le64 time_started;
1015         __le64 time_stopped;
1016         __le64 num_write_errors;
1017         __le64 num_uncorrectable_read_errors;
1018 } __attribute__ ((__packed__));
1019
1020 /* different types of block groups (and chunks) */
1021 #define BTRFS_BLOCK_GROUP_DATA          (1ULL << 0)
1022 #define BTRFS_BLOCK_GROUP_SYSTEM        (1ULL << 1)
1023 #define BTRFS_BLOCK_GROUP_METADATA      (1ULL << 2)
1024 #define BTRFS_BLOCK_GROUP_RAID0         (1ULL << 3)
1025 #define BTRFS_BLOCK_GROUP_RAID1         (1ULL << 4)
1026 #define BTRFS_BLOCK_GROUP_DUP           (1ULL << 5)
1027 #define BTRFS_BLOCK_GROUP_RAID10        (1ULL << 6)
1028 #define BTRFS_BLOCK_GROUP_RAID5         (1ULL << 7)
1029 #define BTRFS_BLOCK_GROUP_RAID6         (1ULL << 8)
1030 #define BTRFS_BLOCK_GROUP_RESERVED      (BTRFS_AVAIL_ALLOC_BIT_SINGLE | \
1031                                          BTRFS_SPACE_INFO_GLOBAL_RSV)
1032
1033 enum btrfs_raid_types {
1034         BTRFS_RAID_RAID10,
1035         BTRFS_RAID_RAID1,
1036         BTRFS_RAID_DUP,
1037         BTRFS_RAID_RAID0,
1038         BTRFS_RAID_SINGLE,
1039         BTRFS_RAID_RAID5,
1040         BTRFS_RAID_RAID6,
1041         BTRFS_NR_RAID_TYPES
1042 };
1043
1044 #define BTRFS_BLOCK_GROUP_TYPE_MASK     (BTRFS_BLOCK_GROUP_DATA |    \
1045                                          BTRFS_BLOCK_GROUP_SYSTEM |  \
1046                                          BTRFS_BLOCK_GROUP_METADATA)
1047
1048 #define BTRFS_BLOCK_GROUP_PROFILE_MASK  (BTRFS_BLOCK_GROUP_RAID0 |   \
1049                                          BTRFS_BLOCK_GROUP_RAID1 |   \
1050                                          BTRFS_BLOCK_GROUP_RAID5 |   \
1051                                          BTRFS_BLOCK_GROUP_RAID6 |   \
1052                                          BTRFS_BLOCK_GROUP_DUP |     \
1053                                          BTRFS_BLOCK_GROUP_RAID10)
1054 #define BTRFS_BLOCK_GROUP_RAID56_MASK   (BTRFS_BLOCK_GROUP_RAID5 |   \
1055                                          BTRFS_BLOCK_GROUP_RAID6)
1056
1057 /*
1058  * We need a bit for restriper to be able to tell when chunks of type
1059  * SINGLE are available.  This "extended" profile format is used in
1060  * fs_info->avail_*_alloc_bits (in-memory) and balance item fields
1061  * (on-disk).  The corresponding on-disk bit in chunk.type is reserved
1062  * to avoid remappings between two formats in future.
1063  */
1064 #define BTRFS_AVAIL_ALLOC_BIT_SINGLE    (1ULL << 48)
1065
1066 /*
1067  * A fake block group type that is used to communicate global block reserve
1068  * size to userspace via the SPACE_INFO ioctl.
1069  */
1070 #define BTRFS_SPACE_INFO_GLOBAL_RSV     (1ULL << 49)
1071
1072 #define BTRFS_EXTENDED_PROFILE_MASK     (BTRFS_BLOCK_GROUP_PROFILE_MASK | \
1073                                          BTRFS_AVAIL_ALLOC_BIT_SINGLE)
1074
1075 static inline u64 chunk_to_extended(u64 flags)
1076 {
1077         if ((flags & BTRFS_BLOCK_GROUP_PROFILE_MASK) == 0)
1078                 flags |= BTRFS_AVAIL_ALLOC_BIT_SINGLE;
1079
1080         return flags;
1081 }
1082 static inline u64 extended_to_chunk(u64 flags)
1083 {
1084         return flags & ~BTRFS_AVAIL_ALLOC_BIT_SINGLE;
1085 }
1086
1087 struct btrfs_block_group_item {
1088         __le64 used;
1089         __le64 chunk_objectid;
1090         __le64 flags;
1091 } __attribute__ ((__packed__));
1092
1093 #define BTRFS_QGROUP_LEVEL_SHIFT                48
1094 static inline u64 btrfs_qgroup_level(u64 qgroupid)
1095 {
1096         return qgroupid >> BTRFS_QGROUP_LEVEL_SHIFT;
1097 }
1098
1099 /*
1100  * is subvolume quota turned on?
1101  */
1102 #define BTRFS_QGROUP_STATUS_FLAG_ON             (1ULL << 0)
1103 /*
1104  * RESCAN is set during the initialization phase
1105  */
1106 #define BTRFS_QGROUP_STATUS_FLAG_RESCAN         (1ULL << 1)
1107 /*
1108  * Some qgroup entries are known to be out of date,
1109  * either because the configuration has changed in a way that
1110  * makes a rescan necessary, or because the fs has been mounted
1111  * with a non-qgroup-aware version.
1112  * Turning qouta off and on again makes it inconsistent, too.
1113  */
1114 #define BTRFS_QGROUP_STATUS_FLAG_INCONSISTENT   (1ULL << 2)
1115
1116 #define BTRFS_QGROUP_STATUS_VERSION        1
1117
1118 struct btrfs_qgroup_status_item {
1119         __le64 version;
1120         /*
1121          * the generation is updated during every commit. As older
1122          * versions of btrfs are not aware of qgroups, it will be
1123          * possible to detect inconsistencies by checking the
1124          * generation on mount time
1125          */
1126         __le64 generation;
1127
1128         /* flag definitions see above */
1129         __le64 flags;
1130
1131         /*
1132          * only used during scanning to record the progress
1133          * of the scan. It contains a logical address
1134          */
1135         __le64 rescan;
1136 } __attribute__ ((__packed__));
1137
1138 struct btrfs_qgroup_info_item {
1139         __le64 generation;
1140         __le64 rfer;
1141         __le64 rfer_cmpr;
1142         __le64 excl;
1143         __le64 excl_cmpr;
1144 } __attribute__ ((__packed__));
1145
1146 /* flags definition for qgroup limits */
1147 #define BTRFS_QGROUP_LIMIT_MAX_RFER     (1ULL << 0)
1148 #define BTRFS_QGROUP_LIMIT_MAX_EXCL     (1ULL << 1)
1149 #define BTRFS_QGROUP_LIMIT_RSV_RFER     (1ULL << 2)
1150 #define BTRFS_QGROUP_LIMIT_RSV_EXCL     (1ULL << 3)
1151 #define BTRFS_QGROUP_LIMIT_RFER_CMPR    (1ULL << 4)
1152 #define BTRFS_QGROUP_LIMIT_EXCL_CMPR    (1ULL << 5)
1153
1154 struct btrfs_qgroup_limit_item {
1155         /*
1156          * only updated when any of the other values change
1157          */
1158         __le64 flags;
1159         __le64 max_rfer;
1160         __le64 max_excl;
1161         __le64 rsv_rfer;
1162         __le64 rsv_excl;
1163 } __attribute__ ((__packed__));
1164
1165 /* For raid type sysfs entries */
1166 struct raid_kobject {
1167         int raid_type;
1168         struct kobject kobj;
1169 };
1170
1171 struct btrfs_space_info {
1172         spinlock_t lock;
1173
1174         u64 total_bytes;        /* total bytes in the space,
1175                                    this doesn't take mirrors into account */
1176         u64 bytes_used;         /* total bytes used,
1177                                    this doesn't take mirrors into account */
1178         u64 bytes_pinned;       /* total bytes pinned, will be freed when the
1179                                    transaction finishes */
1180         u64 bytes_reserved;     /* total bytes the allocator has reserved for
1181                                    current allocations */
1182         u64 bytes_may_use;      /* number of bytes that may be used for
1183                                    delalloc/allocations */
1184         u64 bytes_readonly;     /* total bytes that are read only */
1185
1186         u64 max_extent_size;    /* This will hold the maximum extent size of
1187                                    the space info if we had an ENOSPC in the
1188                                    allocator. */
1189
1190         unsigned int full:1;    /* indicates that we cannot allocate any more
1191                                    chunks for this space */
1192         unsigned int chunk_alloc:1;     /* set if we are allocating a chunk */
1193
1194         unsigned int flush:1;           /* set if we are trying to make space */
1195
1196         unsigned int force_alloc;       /* set if we need to force a chunk
1197                                            alloc for this space */
1198
1199         u64 disk_used;          /* total bytes used on disk */
1200         u64 disk_total;         /* total bytes on disk, takes mirrors into
1201                                    account */
1202
1203         u64 flags;
1204
1205         /*
1206          * bytes_pinned is kept in line with what is actually pinned, as in
1207          * we've called update_block_group and dropped the bytes_used counter
1208          * and increased the bytes_pinned counter.  However this means that
1209          * bytes_pinned does not reflect the bytes that will be pinned once the
1210          * delayed refs are flushed, so this counter is inc'ed everytime we call
1211          * btrfs_free_extent so it is a realtime count of what will be freed
1212          * once the transaction is committed.  It will be zero'ed everytime the
1213          * transaction commits.
1214          */
1215         struct percpu_counter total_bytes_pinned;
1216
1217         struct list_head list;
1218         /* Protected by the spinlock 'lock'. */
1219         struct list_head ro_bgs;
1220
1221         struct rw_semaphore groups_sem;
1222         /* for block groups in our same type */
1223         struct list_head block_groups[BTRFS_NR_RAID_TYPES];
1224         wait_queue_head_t wait;
1225
1226         struct kobject kobj;
1227         struct kobject *block_group_kobjs[BTRFS_NR_RAID_TYPES];
1228 };
1229
1230 #define BTRFS_BLOCK_RSV_GLOBAL          1
1231 #define BTRFS_BLOCK_RSV_DELALLOC        2
1232 #define BTRFS_BLOCK_RSV_TRANS           3
1233 #define BTRFS_BLOCK_RSV_CHUNK           4
1234 #define BTRFS_BLOCK_RSV_DELOPS          5
1235 #define BTRFS_BLOCK_RSV_EMPTY           6
1236 #define BTRFS_BLOCK_RSV_TEMP            7
1237
1238 struct btrfs_block_rsv {
1239         u64 size;
1240         u64 reserved;
1241         struct btrfs_space_info *space_info;
1242         spinlock_t lock;
1243         unsigned short full;
1244         unsigned short type;
1245         unsigned short failfast;
1246 };
1247
1248 /*
1249  * free clusters are used to claim free space in relatively large chunks,
1250  * allowing us to do less seeky writes.  They are used for all metadata
1251  * allocations and data allocations in ssd mode.
1252  */
1253 struct btrfs_free_cluster {
1254         spinlock_t lock;
1255         spinlock_t refill_lock;
1256         struct rb_root root;
1257
1258         /* largest extent in this cluster */
1259         u64 max_size;
1260
1261         /* first extent starting offset */
1262         u64 window_start;
1263
1264         /* We did a full search and couldn't create a cluster */
1265         bool fragmented;
1266
1267         struct btrfs_block_group_cache *block_group;
1268         /*
1269          * when a cluster is allocated from a block group, we put the
1270          * cluster onto a list in the block group so that it can
1271          * be freed before the block group is freed.
1272          */
1273         struct list_head block_group_list;
1274 };
1275
1276 enum btrfs_caching_type {
1277         BTRFS_CACHE_NO          = 0,
1278         BTRFS_CACHE_STARTED     = 1,
1279         BTRFS_CACHE_FAST        = 2,
1280         BTRFS_CACHE_FINISHED    = 3,
1281         BTRFS_CACHE_ERROR       = 4,
1282 };
1283
1284 enum btrfs_disk_cache_state {
1285         BTRFS_DC_WRITTEN        = 0,
1286         BTRFS_DC_ERROR          = 1,
1287         BTRFS_DC_CLEAR          = 2,
1288         BTRFS_DC_SETUP          = 3,
1289 };
1290
1291 struct btrfs_caching_control {
1292         struct list_head list;
1293         struct mutex mutex;
1294         wait_queue_head_t wait;
1295         struct btrfs_work work;
1296         struct btrfs_block_group_cache *block_group;
1297         u64 progress;
1298         atomic_t count;
1299 };
1300
1301 struct btrfs_io_ctl {
1302         void *cur, *orig;
1303         struct page *page;
1304         struct page **pages;
1305         struct btrfs_root *root;
1306         struct inode *inode;
1307         unsigned long size;
1308         int index;
1309         int num_pages;
1310         int entries;
1311         int bitmaps;
1312         unsigned check_crcs:1;
1313 };
1314
1315 struct btrfs_block_group_cache {
1316         struct btrfs_key key;
1317         struct btrfs_block_group_item item;
1318         struct btrfs_fs_info *fs_info;
1319         struct inode *inode;
1320         spinlock_t lock;
1321         u64 pinned;
1322         u64 reserved;
1323         u64 delalloc_bytes;
1324         u64 bytes_super;
1325         u64 flags;
1326         u64 sectorsize;
1327         u64 cache_generation;
1328
1329         /*
1330          * It is just used for the delayed data space allocation because
1331          * only the data space allocation and the relative metadata update
1332          * can be done cross the transaction.
1333          */
1334         struct rw_semaphore data_rwsem;
1335
1336         /* for raid56, this is a full stripe, without parity */
1337         unsigned long full_stripe_len;
1338
1339         unsigned int ro;
1340         unsigned int iref:1;
1341         unsigned int has_caching_ctl:1;
1342         unsigned int removed:1;
1343
1344         int disk_cache_state;
1345
1346         /* cache tracking stuff */
1347         int cached;
1348         struct btrfs_caching_control *caching_ctl;
1349         u64 last_byte_to_unpin;
1350
1351         struct btrfs_space_info *space_info;
1352
1353         /* free space cache stuff */
1354         struct btrfs_free_space_ctl *free_space_ctl;
1355
1356         /* block group cache stuff */
1357         struct rb_node cache_node;
1358
1359         /* for block groups in the same raid type */
1360         struct list_head list;
1361
1362         /* usage count */
1363         atomic_t count;
1364
1365         /* List of struct btrfs_free_clusters for this block group.
1366          * Today it will only have one thing on it, but that may change
1367          */
1368         struct list_head cluster_list;
1369
1370         /* For delayed block group creation or deletion of empty block groups */
1371         struct list_head bg_list;
1372
1373         /* For read-only block groups */
1374         struct list_head ro_list;
1375
1376         atomic_t trimming;
1377
1378         /* For dirty block groups */
1379         struct list_head dirty_list;
1380         struct list_head io_list;
1381
1382         struct btrfs_io_ctl io_ctl;
1383 };
1384
1385 /* delayed seq elem */
1386 struct seq_list {
1387         struct list_head list;
1388         u64 seq;
1389 };
1390
1391 #define SEQ_LIST_INIT(name)     { .list = LIST_HEAD_INIT((name).list), .seq = 0 }
1392
1393 enum btrfs_orphan_cleanup_state {
1394         ORPHAN_CLEANUP_STARTED  = 1,
1395         ORPHAN_CLEANUP_DONE     = 2,
1396 };
1397
1398 /* used by the raid56 code to lock stripes for read/modify/write */
1399 struct btrfs_stripe_hash {
1400         struct list_head hash_list;
1401         wait_queue_head_t wait;
1402         spinlock_t lock;
1403 };
1404
1405 /* used by the raid56 code to lock stripes for read/modify/write */
1406 struct btrfs_stripe_hash_table {
1407         struct list_head stripe_cache;
1408         spinlock_t cache_lock;
1409         int cache_size;
1410         struct btrfs_stripe_hash table[];
1411 };
1412
1413 #define BTRFS_STRIPE_HASH_TABLE_BITS 11
1414
1415 void btrfs_init_async_reclaim_work(struct work_struct *work);
1416
1417 /* fs_info */
1418 struct reloc_control;
1419 struct btrfs_device;
1420 struct btrfs_fs_devices;
1421 struct btrfs_balance_control;
1422 struct btrfs_delayed_root;
1423 struct btrfs_fs_info {
1424         u8 fsid[BTRFS_FSID_SIZE];
1425         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
1426         struct btrfs_root *extent_root;
1427         struct btrfs_root *tree_root;
1428         struct btrfs_root *chunk_root;
1429         struct btrfs_root *dev_root;
1430         struct btrfs_root *fs_root;
1431         struct btrfs_root *csum_root;
1432         struct btrfs_root *quota_root;
1433         struct btrfs_root *uuid_root;
1434
1435         /* the log root tree is a directory of all the other log roots */
1436         struct btrfs_root *log_root_tree;
1437
1438         spinlock_t fs_roots_radix_lock;
1439         struct radix_tree_root fs_roots_radix;
1440
1441         /* block group cache stuff */
1442         spinlock_t block_group_cache_lock;
1443         u64 first_logical_byte;
1444         struct rb_root block_group_cache_tree;
1445
1446         /* keep track of unallocated space */
1447         spinlock_t free_chunk_lock;
1448         u64 free_chunk_space;
1449
1450         struct extent_io_tree freed_extents[2];
1451         struct extent_io_tree *pinned_extents;
1452
1453         /* logical->physical extent mapping */
1454         struct btrfs_mapping_tree mapping_tree;
1455
1456         /*
1457          * block reservation for extent, checksum, root tree and
1458          * delayed dir index item
1459          */
1460         struct btrfs_block_rsv global_block_rsv;
1461         /* block reservation for delay allocation */
1462         struct btrfs_block_rsv delalloc_block_rsv;
1463         /* block reservation for metadata operations */
1464         struct btrfs_block_rsv trans_block_rsv;
1465         /* block reservation for chunk tree */
1466         struct btrfs_block_rsv chunk_block_rsv;
1467         /* block reservation for delayed operations */
1468         struct btrfs_block_rsv delayed_block_rsv;
1469
1470         struct btrfs_block_rsv empty_block_rsv;
1471
1472         u64 generation;
1473         u64 last_trans_committed;
1474         u64 avg_delayed_ref_runtime;
1475
1476         /*
1477          * this is updated to the current trans every time a full commit
1478          * is required instead of the faster short fsync log commits
1479          */
1480         u64 last_trans_log_full_commit;
1481         unsigned long mount_opt;
1482         /*
1483          * Track requests for actions that need to be done during transaction
1484          * commit (like for some mount options).
1485          */
1486         unsigned long pending_changes;
1487         unsigned long compress_type:4;
1488         int commit_interval;
1489         /*
1490          * It is a suggestive number, the read side is safe even it gets a
1491          * wrong number because we will write out the data into a regular
1492          * extent. The write side(mount/remount) is under ->s_umount lock,
1493          * so it is also safe.
1494          */
1495         u64 max_inline;
1496         /*
1497          * Protected by ->chunk_mutex and sb->s_umount.
1498          *
1499          * The reason that we use two lock to protect it is because only
1500          * remount and mount operations can change it and these two operations
1501          * are under sb->s_umount, but the read side (chunk allocation) can not
1502          * acquire sb->s_umount or the deadlock would happen. So we use two
1503          * locks to protect it. On the write side, we must acquire two locks,
1504          * and on the read side, we just need acquire one of them.
1505          */
1506         u64 alloc_start;
1507         struct btrfs_transaction *running_transaction;
1508         wait_queue_head_t transaction_throttle;
1509         wait_queue_head_t transaction_wait;
1510         wait_queue_head_t transaction_blocked_wait;
1511         wait_queue_head_t async_submit_wait;
1512
1513         /*
1514          * Used to protect the incompat_flags, compat_flags, compat_ro_flags
1515          * when they are updated.
1516          *
1517          * Because we do not clear the flags for ever, so we needn't use
1518          * the lock on the read side.
1519          *
1520          * We also needn't use the lock when we mount the fs, because
1521          * there is no other task which will update the flag.
1522          */
1523         spinlock_t super_lock;
1524         struct btrfs_super_block *super_copy;
1525         struct btrfs_super_block *super_for_commit;
1526         struct block_device *__bdev;
1527         struct super_block *sb;
1528         struct inode *btree_inode;
1529         struct backing_dev_info bdi;
1530         struct mutex tree_log_mutex;
1531         struct mutex transaction_kthread_mutex;
1532         struct mutex cleaner_mutex;
1533         struct mutex chunk_mutex;
1534         struct mutex volume_mutex;
1535
1536         /*
1537          * this is taken to make sure we don't set block groups ro after
1538          * the free space cache has been allocated on them
1539          */
1540         struct mutex ro_block_group_mutex;
1541
1542         /* this is used during read/modify/write to make sure
1543          * no two ios are trying to mod the same stripe at the same
1544          * time
1545          */
1546         struct btrfs_stripe_hash_table *stripe_hash_table;
1547
1548         /*
1549          * this protects the ordered operations list only while we are
1550          * processing all of the entries on it.  This way we make
1551          * sure the commit code doesn't find the list temporarily empty
1552          * because another function happens to be doing non-waiting preflush
1553          * before jumping into the main commit.
1554          */
1555         struct mutex ordered_operations_mutex;
1556
1557         struct rw_semaphore commit_root_sem;
1558
1559         struct rw_semaphore cleanup_work_sem;
1560
1561         struct rw_semaphore subvol_sem;
1562         struct srcu_struct subvol_srcu;
1563
1564         spinlock_t trans_lock;
1565         /*
1566          * the reloc mutex goes with the trans lock, it is taken
1567          * during commit to protect us from the relocation code
1568          */
1569         struct mutex reloc_mutex;
1570
1571         struct list_head trans_list;
1572         struct list_head dead_roots;
1573         struct list_head caching_block_groups;
1574
1575         spinlock_t delayed_iput_lock;
1576         struct list_head delayed_iputs;
1577         struct mutex cleaner_delayed_iput_mutex;
1578
1579         /* this protects tree_mod_seq_list */
1580         spinlock_t tree_mod_seq_lock;
1581         atomic64_t tree_mod_seq;
1582         struct list_head tree_mod_seq_list;
1583
1584         /* this protects tree_mod_log */
1585         rwlock_t tree_mod_log_lock;
1586         struct rb_root tree_mod_log;
1587
1588         atomic_t nr_async_submits;
1589         atomic_t async_submit_draining;
1590         atomic_t nr_async_bios;
1591         atomic_t async_delalloc_pages;
1592         atomic_t open_ioctl_trans;
1593
1594         /*
1595          * this is used to protect the following list -- ordered_roots.
1596          */
1597         spinlock_t ordered_root_lock;
1598
1599         /*
1600          * all fs/file tree roots in which there are data=ordered extents
1601          * pending writeback are added into this list.
1602          *
1603          * these can span multiple transactions and basically include
1604          * every dirty data page that isn't from nodatacow
1605          */
1606         struct list_head ordered_roots;
1607
1608         struct mutex delalloc_root_mutex;
1609         spinlock_t delalloc_root_lock;
1610         /* all fs/file tree roots that have delalloc inodes. */
1611         struct list_head delalloc_roots;
1612
1613         /*
1614          * there is a pool of worker threads for checksumming during writes
1615          * and a pool for checksumming after reads.  This is because readers
1616          * can run with FS locks held, and the writers may be waiting for
1617          * those locks.  We don't want ordering in the pending list to cause
1618          * deadlocks, and so the two are serviced separately.
1619          *
1620          * A third pool does submit_bio to avoid deadlocking with the other
1621          * two
1622          */
1623         struct btrfs_workqueue *workers;
1624         struct btrfs_workqueue *delalloc_workers;
1625         struct btrfs_workqueue *flush_workers;
1626         struct btrfs_workqueue *endio_workers;
1627         struct btrfs_workqueue *endio_meta_workers;
1628         struct btrfs_workqueue *endio_raid56_workers;
1629         struct btrfs_workqueue *endio_repair_workers;
1630         struct btrfs_workqueue *rmw_workers;
1631         struct btrfs_workqueue *endio_meta_write_workers;
1632         struct btrfs_workqueue *endio_write_workers;
1633         struct btrfs_workqueue *endio_freespace_worker;
1634         struct btrfs_workqueue *submit_workers;
1635         struct btrfs_workqueue *caching_workers;
1636         struct btrfs_workqueue *readahead_workers;
1637
1638         /*
1639          * fixup workers take dirty pages that didn't properly go through
1640          * the cow mechanism and make them safe to write.  It happens
1641          * for the sys_munmap function call path
1642          */
1643         struct btrfs_workqueue *fixup_workers;
1644         struct btrfs_workqueue *delayed_workers;
1645
1646         /* the extent workers do delayed refs on the extent allocation tree */
1647         struct btrfs_workqueue *extent_workers;
1648         struct task_struct *transaction_kthread;
1649         struct task_struct *cleaner_kthread;
1650         int thread_pool_size;
1651
1652         struct kobject *space_info_kobj;
1653         int do_barriers;
1654         int closing;
1655         int log_root_recovering;
1656         int open;
1657
1658         u64 total_pinned;
1659
1660         /* used to keep from writing metadata until there is a nice batch */
1661         struct percpu_counter dirty_metadata_bytes;
1662         struct percpu_counter delalloc_bytes;
1663         s32 dirty_metadata_batch;
1664         s32 delalloc_batch;
1665
1666         struct list_head dirty_cowonly_roots;
1667
1668         struct btrfs_fs_devices *fs_devices;
1669
1670         /*
1671          * the space_info list is almost entirely read only.  It only changes
1672          * when we add a new raid type to the FS, and that happens
1673          * very rarely.  RCU is used to protect it.
1674          */
1675         struct list_head space_info;
1676
1677         struct btrfs_space_info *data_sinfo;
1678
1679         struct reloc_control *reloc_ctl;
1680
1681         /* data_alloc_cluster is only used in ssd mode */
1682         struct btrfs_free_cluster data_alloc_cluster;
1683
1684         /* all metadata allocations go through this cluster */
1685         struct btrfs_free_cluster meta_alloc_cluster;
1686
1687         /* auto defrag inodes go here */
1688         spinlock_t defrag_inodes_lock;
1689         struct rb_root defrag_inodes;
1690         atomic_t defrag_running;
1691
1692         /* Used to protect avail_{data, metadata, system}_alloc_bits */
1693         seqlock_t profiles_lock;
1694         /*
1695          * these three are in extended format (availability of single
1696          * chunks is denoted by BTRFS_AVAIL_ALLOC_BIT_SINGLE bit, other
1697          * types are denoted by corresponding BTRFS_BLOCK_GROUP_* bits)
1698          */
1699         u64 avail_data_alloc_bits;
1700         u64 avail_metadata_alloc_bits;
1701         u64 avail_system_alloc_bits;
1702
1703         /* restriper state */
1704         spinlock_t balance_lock;
1705         struct mutex balance_mutex;
1706         atomic_t balance_running;
1707         atomic_t balance_pause_req;
1708         atomic_t balance_cancel_req;
1709         struct btrfs_balance_control *balance_ctl;
1710         wait_queue_head_t balance_wait_q;
1711
1712         unsigned data_chunk_allocations;
1713         unsigned metadata_ratio;
1714
1715         void *bdev_holder;
1716
1717         /* private scrub information */
1718         struct mutex scrub_lock;
1719         atomic_t scrubs_running;
1720         atomic_t scrub_pause_req;
1721         atomic_t scrubs_paused;
1722         atomic_t scrub_cancel_req;
1723         wait_queue_head_t scrub_pause_wait;
1724         int scrub_workers_refcnt;
1725         struct btrfs_workqueue *scrub_workers;
1726         struct btrfs_workqueue *scrub_wr_completion_workers;
1727         struct btrfs_workqueue *scrub_nocow_workers;
1728         struct btrfs_workqueue *scrub_parity_workers;
1729
1730 #ifdef CONFIG_BTRFS_FS_CHECK_INTEGRITY
1731         u32 check_integrity_print_mask;
1732 #endif
1733         /*
1734          * quota information
1735          */
1736         unsigned int quota_enabled:1;
1737
1738         /*
1739          * quota_enabled only changes state after a commit. This holds the
1740          * next state.
1741          */
1742         unsigned int pending_quota_state:1;
1743
1744         /* is qgroup tracking in a consistent state? */
1745         u64 qgroup_flags;
1746
1747         /* holds configuration and tracking. Protected by qgroup_lock */
1748         struct rb_root qgroup_tree;
1749         struct rb_root qgroup_op_tree;
1750         spinlock_t qgroup_lock;
1751         spinlock_t qgroup_op_lock;
1752         atomic_t qgroup_op_seq;
1753
1754         /*
1755          * used to avoid frequently calling ulist_alloc()/ulist_free()
1756          * when doing qgroup accounting, it must be protected by qgroup_lock.
1757          */
1758         struct ulist *qgroup_ulist;
1759
1760         /* protect user change for quota operations */
1761         struct mutex qgroup_ioctl_lock;
1762
1763         /* list of dirty qgroups to be written at next commit */
1764         struct list_head dirty_qgroups;
1765
1766         /* used by qgroup for an efficient tree traversal */
1767         u64 qgroup_seq;
1768
1769         /* qgroup rescan items */
1770         struct mutex qgroup_rescan_lock; /* protects the progress item */
1771         struct btrfs_key qgroup_rescan_progress;
1772         struct btrfs_workqueue *qgroup_rescan_workers;
1773         struct completion qgroup_rescan_completion;
1774         struct btrfs_work qgroup_rescan_work;
1775         bool qgroup_rescan_running;     /* protected by qgroup_rescan_lock */
1776
1777         /* filesystem state */
1778         unsigned long fs_state;
1779
1780         struct btrfs_delayed_root *delayed_root;
1781
1782         /* readahead tree */
1783         spinlock_t reada_lock;
1784         struct radix_tree_root reada_tree;
1785
1786         /* Extent buffer radix tree */
1787         spinlock_t buffer_lock;
1788         struct radix_tree_root buffer_radix;
1789
1790         /* next backup root to be overwritten */
1791         int backup_root_index;
1792
1793         int num_tolerated_disk_barrier_failures;
1794
1795         /* device replace state */
1796         struct btrfs_dev_replace dev_replace;
1797
1798         atomic_t mutually_exclusive_operation_running;
1799
1800         struct percpu_counter bio_counter;
1801         wait_queue_head_t replace_wait;
1802
1803         struct semaphore uuid_tree_rescan_sem;
1804         unsigned int update_uuid_tree_gen:1;
1805
1806         /* Used to reclaim the metadata space in the background. */
1807         struct work_struct async_reclaim_work;
1808
1809         spinlock_t unused_bgs_lock;
1810         struct list_head unused_bgs;
1811         struct mutex unused_bg_unpin_mutex;
1812         struct mutex delete_unused_bgs_mutex;
1813
1814         /* For btrfs to record security options */
1815         struct security_mnt_opts security_opts;
1816
1817         /*
1818          * Chunks that can't be freed yet (under a trim/discard operation)
1819          * and will be latter freed. Protected by fs_info->chunk_mutex.
1820          */
1821         struct list_head pinned_chunks;
1822 };
1823
1824 struct btrfs_subvolume_writers {
1825         struct percpu_counter   counter;
1826         wait_queue_head_t       wait;
1827 };
1828
1829 /*
1830  * The state of btrfs root
1831  */
1832 /*
1833  * btrfs_record_root_in_trans is a multi-step process,
1834  * and it can race with the balancing code.   But the
1835  * race is very small, and only the first time the root
1836  * is added to each transaction.  So IN_TRANS_SETUP
1837  * is used to tell us when more checks are required
1838  */
1839 #define BTRFS_ROOT_IN_TRANS_SETUP       0
1840 #define BTRFS_ROOT_REF_COWS             1
1841 #define BTRFS_ROOT_TRACK_DIRTY          2
1842 #define BTRFS_ROOT_IN_RADIX             3
1843 #define BTRFS_ROOT_DUMMY_ROOT           4
1844 #define BTRFS_ROOT_ORPHAN_ITEM_INSERTED 5
1845 #define BTRFS_ROOT_DEFRAG_RUNNING       6
1846 #define BTRFS_ROOT_FORCE_COW            7
1847 #define BTRFS_ROOT_MULTI_LOG_TASKS      8
1848 #define BTRFS_ROOT_DIRTY                9
1849
1850 /*
1851  * in ram representation of the tree.  extent_root is used for all allocations
1852  * and for the extent tree extent_root root.
1853  */
1854 struct btrfs_root {
1855         struct extent_buffer *node;
1856
1857         struct extent_buffer *commit_root;
1858         struct btrfs_root *log_root;
1859         struct btrfs_root *reloc_root;
1860
1861         unsigned long state;
1862         struct btrfs_root_item root_item;
1863         struct btrfs_key root_key;
1864         struct btrfs_fs_info *fs_info;
1865         struct extent_io_tree dirty_log_pages;
1866
1867         struct mutex objectid_mutex;
1868
1869         spinlock_t accounting_lock;
1870         struct btrfs_block_rsv *block_rsv;
1871
1872         /* free ino cache stuff */
1873         struct btrfs_free_space_ctl *free_ino_ctl;
1874         enum btrfs_caching_type ino_cache_state;
1875         spinlock_t ino_cache_lock;
1876         wait_queue_head_t ino_cache_wait;
1877         struct btrfs_free_space_ctl *free_ino_pinned;
1878         u64 ino_cache_progress;
1879         struct inode *ino_cache_inode;
1880
1881         struct mutex log_mutex;
1882         wait_queue_head_t log_writer_wait;
1883         wait_queue_head_t log_commit_wait[2];
1884         struct list_head log_ctxs[2];
1885         atomic_t log_writers;
1886         atomic_t log_commit[2];
1887         atomic_t log_batch;
1888         int log_transid;
1889         /* No matter the commit succeeds or not*/
1890         int log_transid_committed;
1891         /* Just be updated when the commit succeeds. */
1892         int last_log_commit;
1893         pid_t log_start_pid;
1894
1895         u64 objectid;
1896         u64 last_trans;
1897
1898         /* data allocations are done in sectorsize units */
1899         u32 sectorsize;
1900
1901         /* node allocations are done in nodesize units */
1902         u32 nodesize;
1903
1904         u32 stripesize;
1905
1906         u32 type;
1907
1908         u64 highest_objectid;
1909
1910         /* only used with CONFIG_BTRFS_FS_RUN_SANITY_TESTS is enabled */
1911         u64 alloc_bytenr;
1912
1913         u64 defrag_trans_start;
1914         struct btrfs_key defrag_progress;
1915         struct btrfs_key defrag_max;
1916         char *name;
1917
1918         /* the dirty list is only used by non-reference counted roots */
1919         struct list_head dirty_list;
1920
1921         struct list_head root_list;
1922
1923         spinlock_t log_extents_lock[2];
1924         struct list_head logged_list[2];
1925
1926         spinlock_t orphan_lock;
1927         atomic_t orphan_inodes;
1928         struct btrfs_block_rsv *orphan_block_rsv;
1929         int orphan_cleanup_state;
1930
1931         spinlock_t inode_lock;
1932         /* red-black tree that keeps track of in-memory inodes */
1933         struct rb_root inode_tree;
1934
1935         /*
1936          * radix tree that keeps track of delayed nodes of every inode,
1937          * protected by inode_lock
1938          */
1939         struct radix_tree_root delayed_nodes_tree;
1940         /*
1941          * right now this just gets used so that a root has its own devid
1942          * for stat.  It may be used for more later
1943          */
1944         dev_t anon_dev;
1945
1946         spinlock_t root_item_lock;
1947         atomic_t refs;
1948
1949         struct mutex delalloc_mutex;
1950         spinlock_t delalloc_lock;
1951         /*
1952          * all of the inodes that have delalloc bytes.  It is possible for
1953          * this list to be empty even when there is still dirty data=ordered
1954          * extents waiting to finish IO.
1955          */
1956         struct list_head delalloc_inodes;
1957         struct list_head delalloc_root;
1958         u64 nr_delalloc_inodes;
1959
1960         struct mutex ordered_extent_mutex;
1961         /*
1962          * this is used by the balancing code to wait for all the pending
1963          * ordered extents
1964          */
1965         spinlock_t ordered_extent_lock;
1966
1967         /*
1968          * all of the data=ordered extents pending writeback
1969          * these can span multiple transactions and basically include
1970          * every dirty data page that isn't from nodatacow
1971          */
1972         struct list_head ordered_extents;
1973         struct list_head ordered_root;
1974         u64 nr_ordered_extents;
1975
1976         /*
1977          * Number of currently running SEND ioctls to prevent
1978          * manipulation with the read-only status via SUBVOL_SETFLAGS
1979          */
1980         int send_in_progress;
1981         struct btrfs_subvolume_writers *subv_writers;
1982         atomic_t will_be_snapshoted;
1983
1984         /* For qgroup metadata space reserve */
1985         atomic_t qgroup_meta_rsv;
1986 };
1987
1988 struct btrfs_ioctl_defrag_range_args {
1989         /* start of the defrag operation */
1990         __u64 start;
1991
1992         /* number of bytes to defrag, use (u64)-1 to say all */
1993         __u64 len;
1994
1995         /*
1996          * flags for the operation, which can include turning
1997          * on compression for this one defrag
1998          */
1999         __u64 flags;
2000
2001         /*
2002          * any extent bigger than this will be considered
2003          * already defragged.  Use 0 to take the kernel default
2004          * Use 1 to say every single extent must be rewritten
2005          */
2006         __u32 extent_thresh;
2007
2008         /*
2009          * which compression method to use if turning on compression
2010          * for this defrag operation.  If unspecified, zlib will
2011          * be used
2012          */
2013         __u32 compress_type;
2014
2015         /* spare for later */
2016         __u32 unused[4];
2017 };
2018
2019
2020 /*
2021  * inode items have the data typically returned from stat and store other
2022  * info about object characteristics.  There is one for every file and dir in
2023  * the FS
2024  */
2025 #define BTRFS_INODE_ITEM_KEY            1
2026 #define BTRFS_INODE_REF_KEY             12
2027 #define BTRFS_INODE_EXTREF_KEY          13
2028 #define BTRFS_XATTR_ITEM_KEY            24
2029 #define BTRFS_ORPHAN_ITEM_KEY           48
2030 /* reserve 2-15 close to the inode for later flexibility */
2031
2032 /*
2033  * dir items are the name -> inode pointers in a directory.  There is one
2034  * for every name in a directory.
2035  */
2036 #define BTRFS_DIR_LOG_ITEM_KEY  60
2037 #define BTRFS_DIR_LOG_INDEX_KEY 72
2038 #define BTRFS_DIR_ITEM_KEY      84
2039 #define BTRFS_DIR_INDEX_KEY     96
2040 /*
2041  * extent data is for file data
2042  */
2043 #define BTRFS_EXTENT_DATA_KEY   108
2044
2045 /*
2046  * extent csums are stored in a separate tree and hold csums for
2047  * an entire extent on disk.
2048  */
2049 #define BTRFS_EXTENT_CSUM_KEY   128
2050
2051 /*
2052  * root items point to tree roots.  They are typically in the root
2053  * tree used by the super block to find all the other trees
2054  */
2055 #define BTRFS_ROOT_ITEM_KEY     132
2056
2057 /*
2058  * root backrefs tie subvols and snapshots to the directory entries that
2059  * reference them
2060  */
2061 #define BTRFS_ROOT_BACKREF_KEY  144
2062
2063 /*
2064  * root refs make a fast index for listing all of the snapshots and
2065  * subvolumes referenced by a given root.  They point directly to the
2066  * directory item in the root that references the subvol
2067  */
2068 #define BTRFS_ROOT_REF_KEY      156
2069
2070 /*
2071  * extent items are in the extent map tree.  These record which blocks
2072  * are used, and how many references there are to each block
2073  */
2074 #define BTRFS_EXTENT_ITEM_KEY   168
2075
2076 /*
2077  * The same as the BTRFS_EXTENT_ITEM_KEY, except it's metadata we already know
2078  * the length, so we save the level in key->offset instead of the length.
2079  */
2080 #define BTRFS_METADATA_ITEM_KEY 169
2081
2082 #define BTRFS_TREE_BLOCK_REF_KEY        176
2083
2084 #define BTRFS_EXTENT_DATA_REF_KEY       178
2085
2086 #define BTRFS_EXTENT_REF_V0_KEY         180
2087
2088 #define BTRFS_SHARED_BLOCK_REF_KEY      182
2089
2090 #define BTRFS_SHARED_DATA_REF_KEY       184
2091
2092 /*
2093  * block groups give us hints into the extent allocation trees.  Which
2094  * blocks are free etc etc
2095  */
2096 #define BTRFS_BLOCK_GROUP_ITEM_KEY 192
2097
2098 #define BTRFS_DEV_EXTENT_KEY    204
2099 #define BTRFS_DEV_ITEM_KEY      216
2100 #define BTRFS_CHUNK_ITEM_KEY    228
2101
2102 /*
2103  * Records the overall state of the qgroups.
2104  * There's only one instance of this key present,
2105  * (0, BTRFS_QGROUP_STATUS_KEY, 0)
2106  */
2107 #define BTRFS_QGROUP_STATUS_KEY         240
2108 /*
2109  * Records the currently used space of the qgroup.
2110  * One key per qgroup, (0, BTRFS_QGROUP_INFO_KEY, qgroupid).
2111  */
2112 #define BTRFS_QGROUP_INFO_KEY           242
2113 /*
2114  * Contains the user configured limits for the qgroup.
2115  * One key per qgroup, (0, BTRFS_QGROUP_LIMIT_KEY, qgroupid).
2116  */
2117 #define BTRFS_QGROUP_LIMIT_KEY          244
2118 /*
2119  * Records the child-parent relationship of qgroups. For
2120  * each relation, 2 keys are present:
2121  * (childid, BTRFS_QGROUP_RELATION_KEY, parentid)
2122  * (parentid, BTRFS_QGROUP_RELATION_KEY, childid)
2123  */
2124 #define BTRFS_QGROUP_RELATION_KEY       246
2125
2126 #define BTRFS_BALANCE_ITEM_KEY  248
2127
2128 /*
2129  * Persistantly stores the io stats in the device tree.
2130  * One key for all stats, (0, BTRFS_DEV_STATS_KEY, devid).
2131  */
2132 #define BTRFS_DEV_STATS_KEY     249
2133
2134 /*
2135  * Persistantly stores the device replace state in the device tree.
2136  * The key is built like this: (0, BTRFS_DEV_REPLACE_KEY, 0).
2137  */
2138 #define BTRFS_DEV_REPLACE_KEY   250
2139
2140 /*
2141  * Stores items that allow to quickly map UUIDs to something else.
2142  * These items are part of the filesystem UUID tree.
2143  * The key is built like this:
2144  * (UUID_upper_64_bits, BTRFS_UUID_KEY*, UUID_lower_64_bits).
2145  */
2146 #if BTRFS_UUID_SIZE != 16
2147 #error "UUID items require BTRFS_UUID_SIZE == 16!"
2148 #endif
2149 #define BTRFS_UUID_KEY_SUBVOL   251     /* for UUIDs assigned to subvols */
2150 #define BTRFS_UUID_KEY_RECEIVED_SUBVOL  252     /* for UUIDs assigned to
2151                                                  * received subvols */
2152
2153 /*
2154  * string items are for debugging.  They just store a short string of
2155  * data in the FS
2156  */
2157 #define BTRFS_STRING_ITEM_KEY   253
2158
2159 /*
2160  * Flags for mount options.
2161  *
2162  * Note: don't forget to add new options to btrfs_show_options()
2163  */
2164 #define BTRFS_MOUNT_NODATASUM           (1 << 0)
2165 #define BTRFS_MOUNT_NODATACOW           (1 << 1)
2166 #define BTRFS_MOUNT_NOBARRIER           (1 << 2)
2167 #define BTRFS_MOUNT_SSD                 (1 << 3)
2168 #define BTRFS_MOUNT_DEGRADED            (1 << 4)
2169 #define BTRFS_MOUNT_COMPRESS            (1 << 5)
2170 #define BTRFS_MOUNT_NOTREELOG           (1 << 6)
2171 #define BTRFS_MOUNT_FLUSHONCOMMIT       (1 << 7)
2172 #define BTRFS_MOUNT_SSD_SPREAD          (1 << 8)
2173 #define BTRFS_MOUNT_NOSSD               (1 << 9)
2174 #define BTRFS_MOUNT_DISCARD             (1 << 10)
2175 #define BTRFS_MOUNT_FORCE_COMPRESS      (1 << 11)
2176 #define BTRFS_MOUNT_SPACE_CACHE         (1 << 12)
2177 #define BTRFS_MOUNT_CLEAR_CACHE         (1 << 13)
2178 #define BTRFS_MOUNT_USER_SUBVOL_RM_ALLOWED (1 << 14)
2179 #define BTRFS_MOUNT_ENOSPC_DEBUG         (1 << 15)
2180 #define BTRFS_MOUNT_AUTO_DEFRAG         (1 << 16)
2181 #define BTRFS_MOUNT_INODE_MAP_CACHE     (1 << 17)
2182 #define BTRFS_MOUNT_RECOVERY            (1 << 18)
2183 #define BTRFS_MOUNT_SKIP_BALANCE        (1 << 19)
2184 #define BTRFS_MOUNT_CHECK_INTEGRITY     (1 << 20)
2185 #define BTRFS_MOUNT_CHECK_INTEGRITY_INCLUDING_EXTENT_DATA (1 << 21)
2186 #define BTRFS_MOUNT_PANIC_ON_FATAL_ERROR        (1 << 22)
2187 #define BTRFS_MOUNT_RESCAN_UUID_TREE    (1 << 23)
2188 #define BTRFS_MOUNT_FRAGMENT_DATA       (1 << 24)
2189 #define BTRFS_MOUNT_FRAGMENT_METADATA   (1 << 25)
2190
2191 #define BTRFS_DEFAULT_COMMIT_INTERVAL   (30)
2192 #define BTRFS_DEFAULT_MAX_INLINE        (8192)
2193
2194 #define btrfs_clear_opt(o, opt)         ((o) &= ~BTRFS_MOUNT_##opt)
2195 #define btrfs_set_opt(o, opt)           ((o) |= BTRFS_MOUNT_##opt)
2196 #define btrfs_raw_test_opt(o, opt)      ((o) & BTRFS_MOUNT_##opt)
2197 #define btrfs_test_opt(root, opt)       ((root)->fs_info->mount_opt & \
2198                                          BTRFS_MOUNT_##opt)
2199
2200 #define btrfs_set_and_info(root, opt, fmt, args...)                     \
2201 {                                                                       \
2202         if (!btrfs_test_opt(root, opt))                                 \
2203                 btrfs_info(root->fs_info, fmt, ##args);                 \
2204         btrfs_set_opt(root->fs_info->mount_opt, opt);                   \
2205 }
2206
2207 #define btrfs_clear_and_info(root, opt, fmt, args...)                   \
2208 {                                                                       \
2209         if (btrfs_test_opt(root, opt))                                  \
2210                 btrfs_info(root->fs_info, fmt, ##args);                 \
2211         btrfs_clear_opt(root->fs_info->mount_opt, opt);                 \
2212 }
2213
2214 #ifdef CONFIG_BTRFS_DEBUG
2215 static inline int
2216 btrfs_should_fragment_free_space(struct btrfs_root *root,
2217                                  struct btrfs_block_group_cache *block_group)
2218 {
2219         return (btrfs_test_opt(root, FRAGMENT_METADATA) &&
2220                 block_group->flags & BTRFS_BLOCK_GROUP_METADATA) ||
2221                (btrfs_test_opt(root, FRAGMENT_DATA) &&
2222                 block_group->flags &  BTRFS_BLOCK_GROUP_DATA);
2223 }
2224 #endif
2225
2226 /*
2227  * Requests for changes that need to be done during transaction commit.
2228  *
2229  * Internal mount options that are used for special handling of the real
2230  * mount options (eg. cannot be set during remount and have to be set during
2231  * transaction commit)
2232  */
2233
2234 #define BTRFS_PENDING_SET_INODE_MAP_CACHE       (0)
2235 #define BTRFS_PENDING_CLEAR_INODE_MAP_CACHE     (1)
2236 #define BTRFS_PENDING_COMMIT                    (2)
2237
2238 #define btrfs_test_pending(info, opt)   \
2239         test_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2240 #define btrfs_set_pending(info, opt)    \
2241         set_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2242 #define btrfs_clear_pending(info, opt)  \
2243         clear_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2244
2245 /*
2246  * Helpers for setting pending mount option changes.
2247  *
2248  * Expects corresponding macros
2249  * BTRFS_PENDING_SET_ and CLEAR_ + short mount option name
2250  */
2251 #define btrfs_set_pending_and_info(info, opt, fmt, args...)            \
2252 do {                                                                   \
2253        if (!btrfs_raw_test_opt((info)->mount_opt, opt)) {              \
2254                btrfs_info((info), fmt, ##args);                        \
2255                btrfs_set_pending((info), SET_##opt);                   \
2256                btrfs_clear_pending((info), CLEAR_##opt);               \
2257        }                                                               \
2258 } while(0)
2259
2260 #define btrfs_clear_pending_and_info(info, opt, fmt, args...)          \
2261 do {                                                                   \
2262        if (btrfs_raw_test_opt((info)->mount_opt, opt)) {               \
2263                btrfs_info((info), fmt, ##args);                        \
2264                btrfs_set_pending((info), CLEAR_##opt);                 \
2265                btrfs_clear_pending((info), SET_##opt);                 \
2266        }                                                               \
2267 } while(0)
2268
2269 /*
2270  * Inode flags
2271  */
2272 #define BTRFS_INODE_NODATASUM           (1 << 0)
2273 #define BTRFS_INODE_NODATACOW           (1 << 1)
2274 #define BTRFS_INODE_READONLY            (1 << 2)
2275 #define BTRFS_INODE_NOCOMPRESS          (1 << 3)
2276 #define BTRFS_INODE_PREALLOC            (1 << 4)
2277 #define BTRFS_INODE_SYNC                (1 << 5)
2278 #define BTRFS_INODE_IMMUTABLE           (1 << 6)
2279 #define BTRFS_INODE_APPEND              (1 << 7)
2280 #define BTRFS_INODE_NODUMP              (1 << 8)
2281 #define BTRFS_INODE_NOATIME             (1 << 9)
2282 #define BTRFS_INODE_DIRSYNC             (1 << 10)
2283 #define BTRFS_INODE_COMPRESS            (1 << 11)
2284
2285 #define BTRFS_INODE_ROOT_ITEM_INIT      (1 << 31)
2286
2287 struct btrfs_map_token {
2288         const struct extent_buffer *eb;
2289         char *kaddr;
2290         unsigned long offset;
2291 };
2292
2293 static inline void btrfs_init_map_token (struct btrfs_map_token *token)
2294 {
2295         token->kaddr = NULL;
2296 }
2297
2298 /* some macros to generate set/get funcs for the struct fields.  This
2299  * assumes there is a lefoo_to_cpu for every type, so lets make a simple
2300  * one for u8:
2301  */
2302 #define le8_to_cpu(v) (v)
2303 #define cpu_to_le8(v) (v)
2304 #define __le8 u8
2305
2306 #define read_eb_member(eb, ptr, type, member, result) (                 \
2307         read_extent_buffer(eb, (char *)(result),                        \
2308                            ((unsigned long)(ptr)) +                     \
2309                             offsetof(type, member),                     \
2310                            sizeof(((type *)0)->member)))
2311
2312 #define write_eb_member(eb, ptr, type, member, result) (                \
2313         write_extent_buffer(eb, (char *)(result),                       \
2314                            ((unsigned long)(ptr)) +                     \
2315                             offsetof(type, member),                     \
2316                            sizeof(((type *)0)->member)))
2317
2318 #define DECLARE_BTRFS_SETGET_BITS(bits)                                 \
2319 u##bits btrfs_get_token_##bits(const struct extent_buffer *eb,          \
2320                                const void *ptr, unsigned long off,      \
2321                                struct btrfs_map_token *token);          \
2322 void btrfs_set_token_##bits(struct extent_buffer *eb, const void *ptr,  \
2323                             unsigned long off, u##bits val,             \
2324                             struct btrfs_map_token *token);             \
2325 static inline u##bits btrfs_get_##bits(const struct extent_buffer *eb,  \
2326                                        const void *ptr,                 \
2327                                        unsigned long off)               \
2328 {                                                                       \
2329         return btrfs_get_token_##bits(eb, ptr, off, NULL);              \
2330 }                                                                       \
2331 static inline void btrfs_set_##bits(struct extent_buffer *eb, void *ptr,\
2332                                     unsigned long off, u##bits val)     \
2333 {                                                                       \
2334        btrfs_set_token_##bits(eb, ptr, off, val, NULL);                 \
2335 }
2336
2337 DECLARE_BTRFS_SETGET_BITS(8)
2338 DECLARE_BTRFS_SETGET_BITS(16)
2339 DECLARE_BTRFS_SETGET_BITS(32)
2340 DECLARE_BTRFS_SETGET_BITS(64)
2341
2342 #define BTRFS_SETGET_FUNCS(name, type, member, bits)                    \
2343 static inline u##bits btrfs_##name(const struct extent_buffer *eb,      \
2344                                    const type *s)                       \
2345 {                                                                       \
2346         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2347         return btrfs_get_##bits(eb, s, offsetof(type, member));         \
2348 }                                                                       \
2349 static inline void btrfs_set_##name(struct extent_buffer *eb, type *s,  \
2350                                     u##bits val)                        \
2351 {                                                                       \
2352         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2353         btrfs_set_##bits(eb, s, offsetof(type, member), val);           \
2354 }                                                                       \
2355 static inline u##bits btrfs_token_##name(const struct extent_buffer *eb,\
2356                                          const type *s,                 \
2357                                          struct btrfs_map_token *token) \
2358 {                                                                       \
2359         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2360         return btrfs_get_token_##bits(eb, s, offsetof(type, member), token); \
2361 }                                                                       \
2362 static inline void btrfs_set_token_##name(struct extent_buffer *eb,     \
2363                                           type *s, u##bits val,         \
2364                                          struct btrfs_map_token *token) \
2365 {                                                                       \
2366         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2367         btrfs_set_token_##bits(eb, s, offsetof(type, member), val, token); \
2368 }
2369
2370 #define BTRFS_SETGET_HEADER_FUNCS(name, type, member, bits)             \
2371 static inline u##bits btrfs_##name(const struct extent_buffer *eb)      \
2372 {                                                                       \
2373         const type *p = page_address(eb->pages[0]);                     \
2374         u##bits res = le##bits##_to_cpu(p->member);                     \
2375         return res;                                                     \
2376 }                                                                       \
2377 static inline void btrfs_set_##name(struct extent_buffer *eb,           \
2378                                     u##bits val)                        \
2379 {                                                                       \
2380         type *p = page_address(eb->pages[0]);                           \
2381         p->member = cpu_to_le##bits(val);                               \
2382 }
2383
2384 #define BTRFS_SETGET_STACK_FUNCS(name, type, member, bits)              \
2385 static inline u##bits btrfs_##name(const type *s)                       \
2386 {                                                                       \
2387         return le##bits##_to_cpu(s->member);                            \
2388 }                                                                       \
2389 static inline void btrfs_set_##name(type *s, u##bits val)               \
2390 {                                                                       \
2391         s->member = cpu_to_le##bits(val);                               \
2392 }
2393
2394 BTRFS_SETGET_FUNCS(device_type, struct btrfs_dev_item, type, 64);
2395 BTRFS_SETGET_FUNCS(device_total_bytes, struct btrfs_dev_item, total_bytes, 64);
2396 BTRFS_SETGET_FUNCS(device_bytes_used, struct btrfs_dev_item, bytes_used, 64);
2397 BTRFS_SETGET_FUNCS(device_io_align, struct btrfs_dev_item, io_align, 32);
2398 BTRFS_SETGET_FUNCS(device_io_width, struct btrfs_dev_item, io_width, 32);
2399 BTRFS_SETGET_FUNCS(device_start_offset, struct btrfs_dev_item,
2400                    start_offset, 64);
2401 BTRFS_SETGET_FUNCS(device_sector_size, struct btrfs_dev_item, sector_size, 32);
2402 BTRFS_SETGET_FUNCS(device_id, struct btrfs_dev_item, devid, 64);
2403 BTRFS_SETGET_FUNCS(device_group, struct btrfs_dev_item, dev_group, 32);
2404 BTRFS_SETGET_FUNCS(device_seek_speed, struct btrfs_dev_item, seek_speed, 8);
2405 BTRFS_SETGET_FUNCS(device_bandwidth, struct btrfs_dev_item, bandwidth, 8);
2406 BTRFS_SETGET_FUNCS(device_generation, struct btrfs_dev_item, generation, 64);
2407
2408 BTRFS_SETGET_STACK_FUNCS(stack_device_type, struct btrfs_dev_item, type, 64);
2409 BTRFS_SETGET_STACK_FUNCS(stack_device_total_bytes, struct btrfs_dev_item,
2410                          total_bytes, 64);
2411 BTRFS_SETGET_STACK_FUNCS(stack_device_bytes_used, struct btrfs_dev_item,
2412                          bytes_used, 64);
2413 BTRFS_SETGET_STACK_FUNCS(stack_device_io_align, struct btrfs_dev_item,
2414                          io_align, 32);
2415 BTRFS_SETGET_STACK_FUNCS(stack_device_io_width, struct btrfs_dev_item,
2416                          io_width, 32);
2417 BTRFS_SETGET_STACK_FUNCS(stack_device_sector_size, struct btrfs_dev_item,
2418                          sector_size, 32);
2419 BTRFS_SETGET_STACK_FUNCS(stack_device_id, struct btrfs_dev_item, devid, 64);
2420 BTRFS_SETGET_STACK_FUNCS(stack_device_group, struct btrfs_dev_item,
2421                          dev_group, 32);
2422 BTRFS_SETGET_STACK_FUNCS(stack_device_seek_speed, struct btrfs_dev_item,
2423                          seek_speed, 8);
2424 BTRFS_SETGET_STACK_FUNCS(stack_device_bandwidth, struct btrfs_dev_item,
2425                          bandwidth, 8);
2426 BTRFS_SETGET_STACK_FUNCS(stack_device_generation, struct btrfs_dev_item,
2427                          generation, 64);
2428
2429 static inline unsigned long btrfs_device_uuid(struct btrfs_dev_item *d)
2430 {
2431         return (unsigned long)d + offsetof(struct btrfs_dev_item, uuid);
2432 }
2433
2434 static inline unsigned long btrfs_device_fsid(struct btrfs_dev_item *d)
2435 {
2436         return (unsigned long)d + offsetof(struct btrfs_dev_item, fsid);
2437 }
2438
2439 BTRFS_SETGET_FUNCS(chunk_length, struct btrfs_chunk, length, 64);
2440 BTRFS_SETGET_FUNCS(chunk_owner, struct btrfs_chunk, owner, 64);
2441 BTRFS_SETGET_FUNCS(chunk_stripe_len, struct btrfs_chunk, stripe_len, 64);
2442 BTRFS_SETGET_FUNCS(chunk_io_align, struct btrfs_chunk, io_align, 32);
2443 BTRFS_SETGET_FUNCS(chunk_io_width, struct btrfs_chunk, io_width, 32);
2444 BTRFS_SETGET_FUNCS(chunk_sector_size, struct btrfs_chunk, sector_size, 32);
2445 BTRFS_SETGET_FUNCS(chunk_type, struct btrfs_chunk, type, 64);
2446 BTRFS_SETGET_FUNCS(chunk_num_stripes, struct btrfs_chunk, num_stripes, 16);
2447 BTRFS_SETGET_FUNCS(chunk_sub_stripes, struct btrfs_chunk, sub_stripes, 16);
2448 BTRFS_SETGET_FUNCS(stripe_devid, struct btrfs_stripe, devid, 64);
2449 BTRFS_SETGET_FUNCS(stripe_offset, struct btrfs_stripe, offset, 64);
2450
2451 static inline char *btrfs_stripe_dev_uuid(struct btrfs_stripe *s)
2452 {
2453         return (char *)s + offsetof(struct btrfs_stripe, dev_uuid);
2454 }
2455
2456 BTRFS_SETGET_STACK_FUNCS(stack_chunk_length, struct btrfs_chunk, length, 64);
2457 BTRFS_SETGET_STACK_FUNCS(stack_chunk_owner, struct btrfs_chunk, owner, 64);
2458 BTRFS_SETGET_STACK_FUNCS(stack_chunk_stripe_len, struct btrfs_chunk,
2459                          stripe_len, 64);
2460 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_align, struct btrfs_chunk,
2461                          io_align, 32);
2462 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_width, struct btrfs_chunk,
2463                          io_width, 32);
2464 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sector_size, struct btrfs_chunk,
2465                          sector_size, 32);
2466 BTRFS_SETGET_STACK_FUNCS(stack_chunk_type, struct btrfs_chunk, type, 64);
2467 BTRFS_SETGET_STACK_FUNCS(stack_chunk_num_stripes, struct btrfs_chunk,
2468                          num_stripes, 16);
2469 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sub_stripes, struct btrfs_chunk,
2470                          sub_stripes, 16);
2471 BTRFS_SETGET_STACK_FUNCS(stack_stripe_devid, struct btrfs_stripe, devid, 64);
2472 BTRFS_SETGET_STACK_FUNCS(stack_stripe_offset, struct btrfs_stripe, offset, 64);
2473
2474 static inline struct btrfs_stripe *btrfs_stripe_nr(struct btrfs_chunk *c,
2475                                                    int nr)
2476 {
2477         unsigned long offset = (unsigned long)c;
2478         offset += offsetof(struct btrfs_chunk, stripe);
2479         offset += nr * sizeof(struct btrfs_stripe);
2480         return (struct btrfs_stripe *)offset;
2481 }
2482
2483 static inline char *btrfs_stripe_dev_uuid_nr(struct btrfs_chunk *c, int nr)
2484 {
2485         return btrfs_stripe_dev_uuid(btrfs_stripe_nr(c, nr));
2486 }
2487
2488 static inline u64 btrfs_stripe_offset_nr(struct extent_buffer *eb,
2489                                          struct btrfs_chunk *c, int nr)
2490 {
2491         return btrfs_stripe_offset(eb, btrfs_stripe_nr(c, nr));
2492 }
2493
2494 static inline u64 btrfs_stripe_devid_nr(struct extent_buffer *eb,
2495                                          struct btrfs_chunk *c, int nr)
2496 {
2497         return btrfs_stripe_devid(eb, btrfs_stripe_nr(c, nr));
2498 }
2499
2500 /* struct btrfs_block_group_item */
2501 BTRFS_SETGET_STACK_FUNCS(block_group_used, struct btrfs_block_group_item,
2502                          used, 64);
2503 BTRFS_SETGET_FUNCS(disk_block_group_used, struct btrfs_block_group_item,
2504                          used, 64);
2505 BTRFS_SETGET_STACK_FUNCS(block_group_chunk_objectid,
2506                         struct btrfs_block_group_item, chunk_objectid, 64);
2507
2508 BTRFS_SETGET_FUNCS(disk_block_group_chunk_objectid,
2509                    struct btrfs_block_group_item, chunk_objectid, 64);
2510 BTRFS_SETGET_FUNCS(disk_block_group_flags,
2511                    struct btrfs_block_group_item, flags, 64);
2512 BTRFS_SETGET_STACK_FUNCS(block_group_flags,
2513                         struct btrfs_block_group_item, flags, 64);
2514
2515 /* struct btrfs_inode_ref */
2516 BTRFS_SETGET_FUNCS(inode_ref_name_len, struct btrfs_inode_ref, name_len, 16);
2517 BTRFS_SETGET_FUNCS(inode_ref_index, struct btrfs_inode_ref, index, 64);
2518
2519 /* struct btrfs_inode_extref */
2520 BTRFS_SETGET_FUNCS(inode_extref_parent, struct btrfs_inode_extref,
2521                    parent_objectid, 64);
2522 BTRFS_SETGET_FUNCS(inode_extref_name_len, struct btrfs_inode_extref,
2523                    name_len, 16);
2524 BTRFS_SETGET_FUNCS(inode_extref_index, struct btrfs_inode_extref, index, 64);
2525
2526 /* struct btrfs_inode_item */
2527 BTRFS_SETGET_FUNCS(inode_generation, struct btrfs_inode_item, generation, 64);
2528 BTRFS_SETGET_FUNCS(inode_sequence, struct btrfs_inode_item, sequence, 64);
2529 BTRFS_SETGET_FUNCS(inode_transid, struct btrfs_inode_item, transid, 64);
2530 BTRFS_SETGET_FUNCS(inode_size, struct btrfs_inode_item, size, 64);
2531 BTRFS_SETGET_FUNCS(inode_nbytes, struct btrfs_inode_item, nbytes, 64);
2532 BTRFS_SETGET_FUNCS(inode_block_group, struct btrfs_inode_item, block_group, 64);
2533 BTRFS_SETGET_FUNCS(inode_nlink, struct btrfs_inode_item, nlink, 32);
2534 BTRFS_SETGET_FUNCS(inode_uid, struct btrfs_inode_item, uid, 32);
2535 BTRFS_SETGET_FUNCS(inode_gid, struct btrfs_inode_item, gid, 32);
2536 BTRFS_SETGET_FUNCS(inode_mode, struct btrfs_inode_item, mode, 32);
2537 BTRFS_SETGET_FUNCS(inode_rdev, struct btrfs_inode_item, rdev, 64);
2538 BTRFS_SETGET_FUNCS(inode_flags, struct btrfs_inode_item, flags, 64);
2539 BTRFS_SETGET_STACK_FUNCS(stack_inode_generation, struct btrfs_inode_item,
2540                          generation, 64);
2541 BTRFS_SETGET_STACK_FUNCS(stack_inode_sequence, struct btrfs_inode_item,
2542                          sequence, 64);
2543 BTRFS_SETGET_STACK_FUNCS(stack_inode_transid, struct btrfs_inode_item,
2544                          transid, 64);
2545 BTRFS_SETGET_STACK_FUNCS(stack_inode_size, struct btrfs_inode_item, size, 64);
2546 BTRFS_SETGET_STACK_FUNCS(stack_inode_nbytes, struct btrfs_inode_item,
2547                          nbytes, 64);
2548 BTRFS_SETGET_STACK_FUNCS(stack_inode_block_group, struct btrfs_inode_item,
2549                          block_group, 64);
2550 BTRFS_SETGET_STACK_FUNCS(stack_inode_nlink, struct btrfs_inode_item, nlink, 32);
2551 BTRFS_SETGET_STACK_FUNCS(stack_inode_uid, struct btrfs_inode_item, uid, 32);
2552 BTRFS_SETGET_STACK_FUNCS(stack_inode_gid, struct btrfs_inode_item, gid, 32);
2553 BTRFS_SETGET_STACK_FUNCS(stack_inode_mode, struct btrfs_inode_item, mode, 32);
2554 BTRFS_SETGET_STACK_FUNCS(stack_inode_rdev, struct btrfs_inode_item, rdev, 64);
2555 BTRFS_SETGET_STACK_FUNCS(stack_inode_flags, struct btrfs_inode_item, flags, 64);
2556 BTRFS_SETGET_FUNCS(timespec_sec, struct btrfs_timespec, sec, 64);
2557 BTRFS_SETGET_FUNCS(timespec_nsec, struct btrfs_timespec, nsec, 32);
2558 BTRFS_SETGET_STACK_FUNCS(stack_timespec_sec, struct btrfs_timespec, sec, 64);
2559 BTRFS_SETGET_STACK_FUNCS(stack_timespec_nsec, struct btrfs_timespec, nsec, 32);
2560
2561 /* struct btrfs_dev_extent */
2562 BTRFS_SETGET_FUNCS(dev_extent_chunk_tree, struct btrfs_dev_extent,
2563                    chunk_tree, 64);
2564 BTRFS_SETGET_FUNCS(dev_extent_chunk_objectid, struct btrfs_dev_extent,
2565                    chunk_objectid, 64);
2566 BTRFS_SETGET_FUNCS(dev_extent_chunk_offset, struct btrfs_dev_extent,
2567                    chunk_offset, 64);
2568 BTRFS_SETGET_FUNCS(dev_extent_length, struct btrfs_dev_extent, length, 64);
2569
2570 static inline unsigned long btrfs_dev_extent_chunk_tree_uuid(struct btrfs_dev_extent *dev)
2571 {
2572         unsigned long ptr = offsetof(struct btrfs_dev_extent, chunk_tree_uuid);
2573         return (unsigned long)dev + ptr;
2574 }
2575
2576 BTRFS_SETGET_FUNCS(extent_refs, struct btrfs_extent_item, refs, 64);
2577 BTRFS_SETGET_FUNCS(extent_generation, struct btrfs_extent_item,
2578                    generation, 64);
2579 BTRFS_SETGET_FUNCS(extent_flags, struct btrfs_extent_item, flags, 64);
2580
2581 BTRFS_SETGET_FUNCS(extent_refs_v0, struct btrfs_extent_item_v0, refs, 32);
2582
2583
2584 BTRFS_SETGET_FUNCS(tree_block_level, struct btrfs_tree_block_info, level, 8);
2585
2586 static inline void btrfs_tree_block_key(struct extent_buffer *eb,
2587                                         struct btrfs_tree_block_info *item,
2588                                         struct btrfs_disk_key *key)
2589 {
2590         read_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
2591 }
2592
2593 static inline void btrfs_set_tree_block_key(struct extent_buffer *eb,
2594                                             struct btrfs_tree_block_info *item,
2595                                             struct btrfs_disk_key *key)
2596 {
2597         write_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
2598 }
2599
2600 BTRFS_SETGET_FUNCS(extent_data_ref_root, struct btrfs_extent_data_ref,
2601                    root, 64);
2602 BTRFS_SETGET_FUNCS(extent_data_ref_objectid, struct btrfs_extent_data_ref,
2603                    objectid, 64);
2604 BTRFS_SETGET_FUNCS(extent_data_ref_offset, struct btrfs_extent_data_ref,
2605                    offset, 64);
2606 BTRFS_SETGET_FUNCS(extent_data_ref_count, struct btrfs_extent_data_ref,
2607                    count, 32);
2608
2609 BTRFS_SETGET_FUNCS(shared_data_ref_count, struct btrfs_shared_data_ref,
2610                    count, 32);
2611
2612 BTRFS_SETGET_FUNCS(extent_inline_ref_type, struct btrfs_extent_inline_ref,
2613                    type, 8);
2614 BTRFS_SETGET_FUNCS(extent_inline_ref_offset, struct btrfs_extent_inline_ref,
2615                    offset, 64);
2616
2617 static inline u32 btrfs_extent_inline_ref_size(int type)
2618 {
2619         if (type == BTRFS_TREE_BLOCK_REF_KEY ||
2620             type == BTRFS_SHARED_BLOCK_REF_KEY)
2621                 return sizeof(struct btrfs_extent_inline_ref);
2622         if (type == BTRFS_SHARED_DATA_REF_KEY)
2623                 return sizeof(struct btrfs_shared_data_ref) +
2624                        sizeof(struct btrfs_extent_inline_ref);
2625         if (type == BTRFS_EXTENT_DATA_REF_KEY)
2626                 return sizeof(struct btrfs_extent_data_ref) +
2627                        offsetof(struct btrfs_extent_inline_ref, offset);
2628         BUG();
2629         return 0;
2630 }
2631
2632 BTRFS_SETGET_FUNCS(ref_root_v0, struct btrfs_extent_ref_v0, root, 64);
2633 BTRFS_SETGET_FUNCS(ref_generation_v0, struct btrfs_extent_ref_v0,
2634                    generation, 64);
2635 BTRFS_SETGET_FUNCS(ref_objectid_v0, struct btrfs_extent_ref_v0, objectid, 64);
2636 BTRFS_SETGET_FUNCS(ref_count_v0, struct btrfs_extent_ref_v0, count, 32);
2637
2638 /* struct btrfs_node */
2639 BTRFS_SETGET_FUNCS(key_blockptr, struct btrfs_key_ptr, blockptr, 64);
2640 BTRFS_SETGET_FUNCS(key_generation, struct btrfs_key_ptr, generation, 64);
2641 BTRFS_SETGET_STACK_FUNCS(stack_key_blockptr, struct btrfs_key_ptr,
2642                          blockptr, 64);
2643 BTRFS_SETGET_STACK_FUNCS(stack_key_generation, struct btrfs_key_ptr,
2644                          generation, 64);
2645
2646 static inline u64 btrfs_node_blockptr(struct extent_buffer *eb, int nr)
2647 {
2648         unsigned long ptr;
2649         ptr = offsetof(struct btrfs_node, ptrs) +
2650                 sizeof(struct btrfs_key_ptr) * nr;
2651         return btrfs_key_blockptr(eb, (struct btrfs_key_ptr *)ptr);
2652 }
2653
2654 static inline void btrfs_set_node_blockptr(struct extent_buffer *eb,
2655                                            int nr, u64 val)
2656 {
2657         unsigned long ptr;
2658         ptr = offsetof(struct btrfs_node, ptrs) +
2659                 sizeof(struct btrfs_key_ptr) * nr;
2660         btrfs_set_key_blockptr(eb, (struct btrfs_key_ptr *)ptr, val);
2661 }
2662
2663 static inline u64 btrfs_node_ptr_generation(struct extent_buffer *eb, int nr)
2664 {
2665         unsigned long ptr;
2666         ptr = offsetof(struct btrfs_node, ptrs) +
2667                 sizeof(struct btrfs_key_ptr) * nr;
2668         return btrfs_key_generation(eb, (struct btrfs_key_ptr *)ptr);
2669 }
2670
2671 static inline void btrfs_set_node_ptr_generation(struct extent_buffer *eb,
2672                                                  int nr, u64 val)
2673 {
2674         unsigned long ptr;
2675         ptr = offsetof(struct btrfs_node, ptrs) +
2676                 sizeof(struct btrfs_key_ptr) * nr;
2677         btrfs_set_key_generation(eb, (struct btrfs_key_ptr *)ptr, val);
2678 }
2679
2680 static inline unsigned long btrfs_node_key_ptr_offset(int nr)
2681 {
2682         return offsetof(struct btrfs_node, ptrs) +
2683                 sizeof(struct btrfs_key_ptr) * nr;
2684 }
2685
2686 void btrfs_node_key(const struct extent_buffer *eb,
2687                     struct btrfs_disk_key *disk_key, int nr);
2688
2689 static inline void btrfs_set_node_key(struct extent_buffer *eb,
2690                                       struct btrfs_disk_key *disk_key, int nr)
2691 {
2692         unsigned long ptr;
2693         ptr = btrfs_node_key_ptr_offset(nr);
2694         write_eb_member(eb, (struct btrfs_key_ptr *)ptr,
2695                        struct btrfs_key_ptr, key, disk_key);
2696 }
2697
2698 /* struct btrfs_item */
2699 BTRFS_SETGET_FUNCS(item_offset, struct btrfs_item, offset, 32);
2700 BTRFS_SETGET_FUNCS(item_size, struct btrfs_item, size, 32);
2701 BTRFS_SETGET_STACK_FUNCS(stack_item_offset, struct btrfs_item, offset, 32);
2702 BTRFS_SETGET_STACK_FUNCS(stack_item_size, struct btrfs_item, size, 32);
2703
2704 static inline unsigned long btrfs_item_nr_offset(int nr)
2705 {
2706         return offsetof(struct btrfs_leaf, items) +
2707                 sizeof(struct btrfs_item) * nr;
2708 }
2709
2710 static inline struct btrfs_item *btrfs_item_nr(int nr)
2711 {
2712         return (struct btrfs_item *)btrfs_item_nr_offset(nr);
2713 }
2714
2715 static inline u32 btrfs_item_end(const struct extent_buffer *eb,
2716                                  struct btrfs_item *item)
2717 {
2718         return btrfs_item_offset(eb, item) + btrfs_item_size(eb, item);
2719 }
2720
2721 static inline u32 btrfs_item_end_nr(const struct extent_buffer *eb, int nr)
2722 {
2723         return btrfs_item_end(eb, btrfs_item_nr(nr));
2724 }
2725
2726 static inline u32 btrfs_item_offset_nr(const struct extent_buffer *eb, int nr)
2727 {
2728         return btrfs_item_offset(eb, btrfs_item_nr(nr));
2729 }
2730
2731 static inline u32 btrfs_item_size_nr(const struct extent_buffer *eb, int nr)
2732 {
2733         return btrfs_item_size(eb, btrfs_item_nr(nr));
2734 }
2735
2736 static inline void btrfs_item_key(const struct extent_buffer *eb,
2737                            struct btrfs_disk_key *disk_key, int nr)
2738 {
2739         struct btrfs_item *item = btrfs_item_nr(nr);
2740         read_eb_member(eb, item, struct btrfs_item, key, disk_key);
2741 }
2742
2743 static inline void btrfs_set_item_key(struct extent_buffer *eb,
2744                                struct btrfs_disk_key *disk_key, int nr)
2745 {
2746         struct btrfs_item *item = btrfs_item_nr(nr);
2747         write_eb_member(eb, item, struct btrfs_item, key, disk_key);
2748 }
2749
2750 BTRFS_SETGET_FUNCS(dir_log_end, struct btrfs_dir_log_item, end, 64);
2751
2752 /*
2753  * struct btrfs_root_ref
2754  */
2755 BTRFS_SETGET_FUNCS(root_ref_dirid, struct btrfs_root_ref, dirid, 64);
2756 BTRFS_SETGET_FUNCS(root_ref_sequence, struct btrfs_root_ref, sequence, 64);
2757 BTRFS_SETGET_FUNCS(root_ref_name_len, struct btrfs_root_ref, name_len, 16);
2758
2759 /* struct btrfs_dir_item */
2760 BTRFS_SETGET_FUNCS(dir_data_len, struct btrfs_dir_item, data_len, 16);
2761 BTRFS_SETGET_FUNCS(dir_type, struct btrfs_dir_item, type, 8);
2762 BTRFS_SETGET_FUNCS(dir_name_len, struct btrfs_dir_item, name_len, 16);
2763 BTRFS_SETGET_FUNCS(dir_transid, struct btrfs_dir_item, transid, 64);
2764 BTRFS_SETGET_STACK_FUNCS(stack_dir_type, struct btrfs_dir_item, type, 8);
2765 BTRFS_SETGET_STACK_FUNCS(stack_dir_data_len, struct btrfs_dir_item,
2766                          data_len, 16);
2767 BTRFS_SETGET_STACK_FUNCS(stack_dir_name_len, struct btrfs_dir_item,
2768                          name_len, 16);
2769 BTRFS_SETGET_STACK_FUNCS(stack_dir_transid, struct btrfs_dir_item,
2770                          transid, 64);
2771
2772 static inline void btrfs_dir_item_key(const struct extent_buffer *eb,
2773                                       const struct btrfs_dir_item *item,
2774                                       struct btrfs_disk_key *key)
2775 {
2776         read_eb_member(eb, item, struct btrfs_dir_item, location, key);
2777 }
2778
2779 static inline void btrfs_set_dir_item_key(struct extent_buffer *eb,
2780                                           struct btrfs_dir_item *item,
2781                                           const struct btrfs_disk_key *key)
2782 {
2783         write_eb_member(eb, item, struct btrfs_dir_item, location, key);
2784 }
2785
2786 BTRFS_SETGET_FUNCS(free_space_entries, struct btrfs_free_space_header,
2787                    num_entries, 64);
2788 BTRFS_SETGET_FUNCS(free_space_bitmaps, struct btrfs_free_space_header,
2789                    num_bitmaps, 64);
2790 BTRFS_SETGET_FUNCS(free_space_generation, struct btrfs_free_space_header,
2791                    generation, 64);
2792
2793 static inline void btrfs_free_space_key(const struct extent_buffer *eb,
2794                                         const struct btrfs_free_space_header *h,
2795                                         struct btrfs_disk_key *key)
2796 {
2797         read_eb_member(eb, h, struct btrfs_free_space_header, location, key);
2798 }
2799
2800 static inline void btrfs_set_free_space_key(struct extent_buffer *eb,
2801                                             struct btrfs_free_space_header *h,
2802                                             const struct btrfs_disk_key *key)
2803 {
2804         write_eb_member(eb, h, struct btrfs_free_space_header, location, key);
2805 }
2806
2807 /* struct btrfs_disk_key */
2808 BTRFS_SETGET_STACK_FUNCS(disk_key_objectid, struct btrfs_disk_key,
2809                          objectid, 64);
2810 BTRFS_SETGET_STACK_FUNCS(disk_key_offset, struct btrfs_disk_key, offset, 64);
2811 BTRFS_SETGET_STACK_FUNCS(disk_key_type, struct btrfs_disk_key, type, 8);
2812
2813 static inline void btrfs_disk_key_to_cpu(struct btrfs_key *cpu,
2814                                          struct btrfs_disk_key *disk)
2815 {
2816         cpu->offset = le64_to_cpu(disk->offset);
2817         cpu->type = disk->type;
2818         cpu->objectid = le64_to_cpu(disk->objectid);
2819 }
2820
2821 static inline void btrfs_cpu_key_to_disk(struct btrfs_disk_key *disk,
2822                                          struct btrfs_key *cpu)
2823 {
2824         disk->offset = cpu_to_le64(cpu->offset);
2825         disk->type = cpu->type;
2826         disk->objectid = cpu_to_le64(cpu->objectid);
2827 }
2828
2829 static inline void btrfs_node_key_to_cpu(const struct extent_buffer *eb,
2830                                          struct btrfs_key *key, int nr)
2831 {
2832         struct btrfs_disk_key disk_key;
2833         btrfs_node_key(eb, &disk_key, nr);
2834         btrfs_disk_key_to_cpu(key, &disk_key);
2835 }
2836
2837 static inline void btrfs_item_key_to_cpu(const struct extent_buffer *eb,
2838                                          struct btrfs_key *key, int nr)
2839 {
2840         struct btrfs_disk_key disk_key;
2841         btrfs_item_key(eb, &disk_key, nr);
2842         btrfs_disk_key_to_cpu(key, &disk_key);
2843 }
2844
2845 static inline void btrfs_dir_item_key_to_cpu(const struct extent_buffer *eb,
2846                                              const struct btrfs_dir_item *item,
2847                                              struct btrfs_key *key)
2848 {
2849         struct btrfs_disk_key disk_key;
2850         btrfs_dir_item_key(eb, item, &disk_key);
2851         btrfs_disk_key_to_cpu(key, &disk_key);
2852 }
2853
2854
2855 static inline u8 btrfs_key_type(struct btrfs_key *key)
2856 {
2857         return key->type;
2858 }
2859
2860 static inline void btrfs_set_key_type(struct btrfs_key *key, u8 val)
2861 {
2862         key->type = val;
2863 }
2864
2865 /* struct btrfs_header */
2866 BTRFS_SETGET_HEADER_FUNCS(header_bytenr, struct btrfs_header, bytenr, 64);
2867 BTRFS_SETGET_HEADER_FUNCS(header_generation, struct btrfs_header,
2868                           generation, 64);
2869 BTRFS_SETGET_HEADER_FUNCS(header_owner, struct btrfs_header, owner, 64);
2870 BTRFS_SETGET_HEADER_FUNCS(header_nritems, struct btrfs_header, nritems, 32);
2871 BTRFS_SETGET_HEADER_FUNCS(header_flags, struct btrfs_header, flags, 64);
2872 BTRFS_SETGET_HEADER_FUNCS(header_level, struct btrfs_header, level, 8);
2873 BTRFS_SETGET_STACK_FUNCS(stack_header_generation, struct btrfs_header,
2874                          generation, 64);
2875 BTRFS_SETGET_STACK_FUNCS(stack_header_owner, struct btrfs_header, owner, 64);
2876 BTRFS_SETGET_STACK_FUNCS(stack_header_nritems, struct btrfs_header,
2877                          nritems, 32);
2878 BTRFS_SETGET_STACK_FUNCS(stack_header_bytenr, struct btrfs_header, bytenr, 64);
2879
2880 static inline int btrfs_header_flag(const struct extent_buffer *eb, u64 flag)
2881 {
2882         return (btrfs_header_flags(eb) & flag) == flag;
2883 }
2884
2885 static inline int btrfs_set_header_flag(struct extent_buffer *eb, u64 flag)
2886 {
2887         u64 flags = btrfs_header_flags(eb);
2888         btrfs_set_header_flags(eb, flags | flag);
2889         return (flags & flag) == flag;
2890 }
2891
2892 static inline int btrfs_clear_header_flag(struct extent_buffer *eb, u64 flag)
2893 {
2894         u64 flags = btrfs_header_flags(eb);
2895         btrfs_set_header_flags(eb, flags & ~flag);
2896         return (flags & flag) == flag;
2897 }
2898
2899 static inline int btrfs_header_backref_rev(const struct extent_buffer *eb)
2900 {
2901         u64 flags = btrfs_header_flags(eb);
2902         return flags >> BTRFS_BACKREF_REV_SHIFT;
2903 }
2904
2905 static inline void btrfs_set_header_backref_rev(struct extent_buffer *eb,
2906                                                 int rev)
2907 {
2908         u64 flags = btrfs_header_flags(eb);
2909         flags &= ~BTRFS_BACKREF_REV_MASK;
2910         flags |= (u64)rev << BTRFS_BACKREF_REV_SHIFT;
2911         btrfs_set_header_flags(eb, flags);
2912 }
2913
2914 static inline unsigned long btrfs_header_fsid(void)
2915 {
2916         return offsetof(struct btrfs_header, fsid);
2917 }
2918
2919 static inline unsigned long btrfs_header_chunk_tree_uuid(const struct extent_buffer *eb)
2920 {
2921         return offsetof(struct btrfs_header, chunk_tree_uuid);
2922 }
2923
2924 static inline int btrfs_is_leaf(const struct extent_buffer *eb)
2925 {
2926         return btrfs_header_level(eb) == 0;
2927 }
2928
2929 /* struct btrfs_root_item */
2930 BTRFS_SETGET_FUNCS(disk_root_generation, struct btrfs_root_item,
2931                    generation, 64);
2932 BTRFS_SETGET_FUNCS(disk_root_refs, struct btrfs_root_item, refs, 32);
2933 BTRFS_SETGET_FUNCS(disk_root_bytenr, struct btrfs_root_item, bytenr, 64);
2934 BTRFS_SETGET_FUNCS(disk_root_level, struct btrfs_root_item, level, 8);
2935
2936 BTRFS_SETGET_STACK_FUNCS(root_generation, struct btrfs_root_item,
2937                          generation, 64);
2938 BTRFS_SETGET_STACK_FUNCS(root_bytenr, struct btrfs_root_item, bytenr, 64);
2939 BTRFS_SETGET_STACK_FUNCS(root_level, struct btrfs_root_item, level, 8);
2940 BTRFS_SETGET_STACK_FUNCS(root_dirid, struct btrfs_root_item, root_dirid, 64);
2941 BTRFS_SETGET_STACK_FUNCS(root_refs, struct btrfs_root_item, refs, 32);
2942 BTRFS_SETGET_STACK_FUNCS(root_flags, struct btrfs_root_item, flags, 64);
2943 BTRFS_SETGET_STACK_FUNCS(root_used, struct btrfs_root_item, bytes_used, 64);
2944 BTRFS_SETGET_STACK_FUNCS(root_limit, struct btrfs_root_item, byte_limit, 64);
2945 BTRFS_SETGET_STACK_FUNCS(root_last_snapshot, struct btrfs_root_item,
2946                          last_snapshot, 64);
2947 BTRFS_SETGET_STACK_FUNCS(root_generation_v2, struct btrfs_root_item,
2948                          generation_v2, 64);
2949 BTRFS_SETGET_STACK_FUNCS(root_ctransid, struct btrfs_root_item,
2950                          ctransid, 64);
2951 BTRFS_SETGET_STACK_FUNCS(root_otransid, struct btrfs_root_item,
2952                          otransid, 64);
2953 BTRFS_SETGET_STACK_FUNCS(root_stransid, struct btrfs_root_item,
2954                          stransid, 64);
2955 BTRFS_SETGET_STACK_FUNCS(root_rtransid, struct btrfs_root_item,
2956                          rtransid, 64);
2957
2958 static inline bool btrfs_root_readonly(const struct btrfs_root *root)
2959 {
2960         return (root->root_item.flags & cpu_to_le64(BTRFS_ROOT_SUBVOL_RDONLY)) != 0;
2961 }
2962
2963 static inline bool btrfs_root_dead(const struct btrfs_root *root)
2964 {
2965         return (root->root_item.flags & cpu_to_le64(BTRFS_ROOT_SUBVOL_DEAD)) != 0;
2966 }
2967
2968 /* struct btrfs_root_backup */
2969 BTRFS_SETGET_STACK_FUNCS(backup_tree_root, struct btrfs_root_backup,
2970                    tree_root, 64);
2971 BTRFS_SETGET_STACK_FUNCS(backup_tree_root_gen, struct btrfs_root_backup,
2972                    tree_root_gen, 64);
2973 BTRFS_SETGET_STACK_FUNCS(backup_tree_root_level, struct btrfs_root_backup,
2974                    tree_root_level, 8);
2975
2976 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root, struct btrfs_root_backup,
2977                    chunk_root, 64);
2978 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root_gen, struct btrfs_root_backup,
2979                    chunk_root_gen, 64);
2980 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root_level, struct btrfs_root_backup,
2981                    chunk_root_level, 8);
2982
2983 BTRFS_SETGET_STACK_FUNCS(backup_extent_root, struct btrfs_root_backup,
2984                    extent_root, 64);
2985 BTRFS_SETGET_STACK_FUNCS(backup_extent_root_gen, struct btrfs_root_backup,
2986                    extent_root_gen, 64);
2987 BTRFS_SETGET_STACK_FUNCS(backup_extent_root_level, struct btrfs_root_backup,
2988                    extent_root_level, 8);
2989
2990 BTRFS_SETGET_STACK_FUNCS(backup_fs_root, struct btrfs_root_backup,
2991                    fs_root, 64);
2992 BTRFS_SETGET_STACK_FUNCS(backup_fs_root_gen, struct btrfs_root_backup,
2993                    fs_root_gen, 64);
2994 BTRFS_SETGET_STACK_FUNCS(backup_fs_root_level, struct btrfs_root_backup,
2995                    fs_root_level, 8);
2996
2997 BTRFS_SETGET_STACK_FUNCS(backup_dev_root, struct btrfs_root_backup,
2998                    dev_root, 64);
2999 BTRFS_SETGET_STACK_FUNCS(backup_dev_root_gen, struct btrfs_root_backup,
3000                    dev_root_gen, 64);
3001 BTRFS_SETGET_STACK_FUNCS(backup_dev_root_level, struct btrfs_root_backup,
3002                    dev_root_level, 8);
3003
3004 BTRFS_SETGET_STACK_FUNCS(backup_csum_root, struct btrfs_root_backup,
3005                    csum_root, 64);
3006 BTRFS_SETGET_STACK_FUNCS(backup_csum_root_gen, struct btrfs_root_backup,
3007                    csum_root_gen, 64);
3008 BTRFS_SETGET_STACK_FUNCS(backup_csum_root_level, struct btrfs_root_backup,
3009                    csum_root_level, 8);
3010 BTRFS_SETGET_STACK_FUNCS(backup_total_bytes, struct btrfs_root_backup,
3011                    total_bytes, 64);
3012 BTRFS_SETGET_STACK_FUNCS(backup_bytes_used, struct btrfs_root_backup,
3013                    bytes_used, 64);
3014 BTRFS_SETGET_STACK_FUNCS(backup_num_devices, struct btrfs_root_backup,
3015                    num_devices, 64);
3016
3017 /* struct btrfs_balance_item */
3018 BTRFS_SETGET_FUNCS(balance_flags, struct btrfs_balance_item, flags, 64);
3019
3020 static inline void btrfs_balance_data(const struct extent_buffer *eb,
3021                                       const struct btrfs_balance_item *bi,
3022                                       struct btrfs_disk_balance_args *ba)
3023 {
3024         read_eb_member(eb, bi, struct btrfs_balance_item, data, ba);
3025 }
3026
3027 static inline void btrfs_set_balance_data(struct extent_buffer *eb,
3028                                   struct btrfs_balance_item *bi,
3029                                   const struct btrfs_disk_balance_args *ba)
3030 {
3031         write_eb_member(eb, bi, struct btrfs_balance_item, data, ba);
3032 }
3033
3034 static inline void btrfs_balance_meta(const struct extent_buffer *eb,
3035                                       const struct btrfs_balance_item *bi,
3036                                       struct btrfs_disk_balance_args *ba)
3037 {
3038         read_eb_member(eb, bi, struct btrfs_balance_item, meta, ba);
3039 }
3040
3041 static inline void btrfs_set_balance_meta(struct extent_buffer *eb,
3042                                   struct btrfs_balance_item *bi,
3043                                   const struct btrfs_disk_balance_args *ba)
3044 {
3045         write_eb_member(eb, bi, struct btrfs_balance_item, meta, ba);
3046 }
3047
3048 static inline void btrfs_balance_sys(const struct extent_buffer *eb,
3049                                      const struct btrfs_balance_item *bi,
3050                                      struct btrfs_disk_balance_args *ba)
3051 {
3052         read_eb_member(eb, bi, struct btrfs_balance_item, sys, ba);
3053 }
3054
3055 static inline void btrfs_set_balance_sys(struct extent_buffer *eb,
3056                                  struct btrfs_balance_item *bi,
3057                                  const struct btrfs_disk_balance_args *ba)
3058 {
3059         write_eb_member(eb, bi, struct btrfs_balance_item, sys, ba);
3060 }
3061
3062 static inline void
3063 btrfs_disk_balance_args_to_cpu(struct btrfs_balance_args *cpu,
3064                                const struct btrfs_disk_balance_args *disk)
3065 {
3066         memset(cpu, 0, sizeof(*cpu));
3067
3068         cpu->profiles = le64_to_cpu(disk->profiles);
3069         cpu->usage = le64_to_cpu(disk->usage);
3070         cpu->devid = le64_to_cpu(disk->devid);
3071         cpu->pstart = le64_to_cpu(disk->pstart);
3072         cpu->pend = le64_to_cpu(disk->pend);
3073         cpu->vstart = le64_to_cpu(disk->vstart);
3074         cpu->vend = le64_to_cpu(disk->vend);
3075         cpu->target = le64_to_cpu(disk->target);
3076         cpu->flags = le64_to_cpu(disk->flags);
3077         cpu->limit = le64_to_cpu(disk->limit);
3078         cpu->stripes_min = le32_to_cpu(disk->stripes_min);
3079         cpu->stripes_max = le32_to_cpu(disk->stripes_max);
3080 }
3081
3082 static inline void
3083 btrfs_cpu_balance_args_to_disk(struct btrfs_disk_balance_args *disk,
3084                                const struct btrfs_balance_args *cpu)
3085 {
3086         memset(disk, 0, sizeof(*disk));
3087
3088         disk->profiles = cpu_to_le64(cpu->profiles);
3089         disk->usage = cpu_to_le64(cpu->usage);
3090         disk->devid = cpu_to_le64(cpu->devid);
3091         disk->pstart = cpu_to_le64(cpu->pstart);
3092         disk->pend = cpu_to_le64(cpu->pend);
3093         disk->vstart = cpu_to_le64(cpu->vstart);
3094         disk->vend = cpu_to_le64(cpu->vend);
3095         disk->target = cpu_to_le64(cpu->target);
3096         disk->flags = cpu_to_le64(cpu->flags);
3097         disk->limit = cpu_to_le64(cpu->limit);
3098         disk->stripes_min = cpu_to_le32(cpu->stripes_min);
3099         disk->stripes_max = cpu_to_le32(cpu->stripes_max);
3100 }
3101
3102 /* struct btrfs_super_block */
3103 BTRFS_SETGET_STACK_FUNCS(super_bytenr, struct btrfs_super_block, bytenr, 64);
3104 BTRFS_SETGET_STACK_FUNCS(super_flags, struct btrfs_super_block, flags, 64);
3105 BTRFS_SETGET_STACK_FUNCS(super_generation, struct btrfs_super_block,
3106                          generation, 64);
3107 BTRFS_SETGET_STACK_FUNCS(super_root, struct btrfs_super_block, root, 64);
3108 BTRFS_SETGET_STACK_FUNCS(super_sys_array_size,
3109                          struct btrfs_super_block, sys_chunk_array_size, 32);
3110 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_generation,
3111                          struct btrfs_super_block, chunk_root_generation, 64);
3112 BTRFS_SETGET_STACK_FUNCS(super_root_level, struct btrfs_super_block,
3113                          root_level, 8);
3114 BTRFS_SETGET_STACK_FUNCS(super_chunk_root, struct btrfs_super_block,
3115                          chunk_root, 64);
3116 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_level, struct btrfs_super_block,
3117                          chunk_root_level, 8);
3118 BTRFS_SETGET_STACK_FUNCS(super_log_root, struct btrfs_super_block,
3119                          log_root, 64);
3120 BTRFS_SETGET_STACK_FUNCS(super_log_root_transid, struct btrfs_super_block,
3121                          log_root_transid, 64);
3122 BTRFS_SETGET_STACK_FUNCS(super_log_root_level, struct btrfs_super_block,
3123                          log_root_level, 8);
3124 BTRFS_SETGET_STACK_FUNCS(super_total_bytes, struct btrfs_super_block,
3125                          total_bytes, 64);
3126 BTRFS_SETGET_STACK_FUNCS(super_bytes_used, struct btrfs_super_block,
3127                          bytes_used, 64);
3128 BTRFS_SETGET_STACK_FUNCS(super_sectorsize, struct btrfs_super_block,
3129                          sectorsize, 32);
3130 BTRFS_SETGET_STACK_FUNCS(super_nodesize, struct btrfs_super_block,
3131                          nodesize, 32);
3132 BTRFS_SETGET_STACK_FUNCS(super_stripesize, struct btrfs_super_block,
3133                          stripesize, 32);
3134 BTRFS_SETGET_STACK_FUNCS(super_root_dir, struct btrfs_super_block,
3135                          root_dir_objectid, 64);
3136 BTRFS_SETGET_STACK_FUNCS(super_num_devices, struct btrfs_super_block,
3137                          num_devices, 64);
3138 BTRFS_SETGET_STACK_FUNCS(super_compat_flags, struct btrfs_super_block,
3139                          compat_flags, 64);
3140 BTRFS_SETGET_STACK_FUNCS(super_compat_ro_flags, struct btrfs_super_block,
3141                          compat_ro_flags, 64);
3142 BTRFS_SETGET_STACK_FUNCS(super_incompat_flags, struct btrfs_super_block,
3143                          incompat_flags, 64);
3144 BTRFS_SETGET_STACK_FUNCS(super_csum_type, struct btrfs_super_block,
3145                          csum_type, 16);
3146 BTRFS_SETGET_STACK_FUNCS(super_cache_generation, struct btrfs_super_block,
3147                          cache_generation, 64);
3148 BTRFS_SETGET_STACK_FUNCS(super_magic, struct btrfs_super_block, magic, 64);
3149 BTRFS_SETGET_STACK_FUNCS(super_uuid_tree_generation, struct btrfs_super_block,
3150                          uuid_tree_generation, 64);
3151
3152 static inline int btrfs_super_csum_size(const struct btrfs_super_block *s)
3153 {
3154         u16 t = btrfs_super_csum_type(s);
3155         /*
3156          * csum type is validated at mount time
3157          */
3158         return btrfs_csum_sizes[t];
3159 }
3160
3161 static inline unsigned long btrfs_leaf_data(struct extent_buffer *l)
3162 {
3163         return offsetof(struct btrfs_leaf, items);
3164 }
3165
3166 /*
3167  * The leaf data grows from end-to-front in the node.
3168  * this returns the address of the start of the last item,
3169  * which is the stop of the leaf data stack
3170  */
3171 static inline unsigned int leaf_data_end(const struct btrfs_root *root,
3172                                          const struct extent_buffer *leaf)
3173 {
3174         u32 nr = btrfs_header_nritems(leaf);
3175
3176         if (nr == 0)
3177                 return BTRFS_LEAF_DATA_SIZE(root);
3178         return btrfs_item_offset_nr(leaf, nr - 1);
3179 }
3180
3181 /* struct btrfs_file_extent_item */
3182 BTRFS_SETGET_FUNCS(file_extent_type, struct btrfs_file_extent_item, type, 8);
3183 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_disk_bytenr,
3184                          struct btrfs_file_extent_item, disk_bytenr, 64);
3185 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_offset,
3186                          struct btrfs_file_extent_item, offset, 64);
3187 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_generation,
3188                          struct btrfs_file_extent_item, generation, 64);
3189 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_num_bytes,
3190                          struct btrfs_file_extent_item, num_bytes, 64);
3191 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_disk_num_bytes,
3192                          struct btrfs_file_extent_item, disk_num_bytes, 64);
3193 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_compression,
3194                          struct btrfs_file_extent_item, compression, 8);
3195
3196 static inline unsigned long
3197 btrfs_file_extent_inline_start(const struct btrfs_file_extent_item *e)
3198 {
3199         return (unsigned long)e + BTRFS_FILE_EXTENT_INLINE_DATA_START;
3200 }
3201
3202 static inline u32 btrfs_file_extent_calc_inline_size(u32 datasize)
3203 {
3204         return BTRFS_FILE_EXTENT_INLINE_DATA_START + datasize;
3205 }
3206
3207 BTRFS_SETGET_FUNCS(file_extent_disk_bytenr, struct btrfs_file_extent_item,
3208                    disk_bytenr, 64);
3209 BTRFS_SETGET_FUNCS(file_extent_generation, struct btrfs_file_extent_item,
3210                    generation, 64);
3211 BTRFS_SETGET_FUNCS(file_extent_disk_num_bytes, struct btrfs_file_extent_item,
3212                    disk_num_bytes, 64);
3213 BTRFS_SETGET_FUNCS(file_extent_offset, struct btrfs_file_extent_item,
3214                   offset, 64);
3215 BTRFS_SETGET_FUNCS(file_extent_num_bytes, struct btrfs_file_extent_item,
3216                    num_bytes, 64);
3217 BTRFS_SETGET_FUNCS(file_extent_ram_bytes, struct btrfs_file_extent_item,
3218                    ram_bytes, 64);
3219 BTRFS_SETGET_FUNCS(file_extent_compression, struct btrfs_file_extent_item,
3220                    compression, 8);
3221 BTRFS_SETGET_FUNCS(file_extent_encryption, struct btrfs_file_extent_item,
3222                    encryption, 8);
3223 BTRFS_SETGET_FUNCS(file_extent_other_encoding, struct btrfs_file_extent_item,
3224                    other_encoding, 16);
3225
3226 /*
3227  * this returns the number of bytes used by the item on disk, minus the
3228  * size of any extent headers.  If a file is compressed on disk, this is
3229  * the compressed size
3230  */
3231 static inline u32 btrfs_file_extent_inline_item_len(
3232                                                 const struct extent_buffer *eb,
3233                                                 struct btrfs_item *e)
3234 {
3235         return btrfs_item_size(eb, e) - BTRFS_FILE_EXTENT_INLINE_DATA_START;
3236 }
3237
3238 /* this returns the number of file bytes represented by the inline item.
3239  * If an item is compressed, this is the uncompressed size
3240  */
3241 static inline u32 btrfs_file_extent_inline_len(const struct extent_buffer *eb,
3242                                         int slot,
3243                                         const struct btrfs_file_extent_item *fi)
3244 {
3245         struct btrfs_map_token token;
3246
3247         btrfs_init_map_token(&token);
3248         /*
3249          * return the space used on disk if this item isn't
3250          * compressed or encoded
3251          */
3252         if (btrfs_token_file_extent_compression(eb, fi, &token) == 0 &&
3253             btrfs_token_file_extent_encryption(eb, fi, &token) == 0 &&
3254             btrfs_token_file_extent_other_encoding(eb, fi, &token) == 0) {
3255                 return btrfs_file_extent_inline_item_len(eb,
3256                                                          btrfs_item_nr(slot));
3257         }
3258
3259         /* otherwise use the ram bytes field */
3260         return btrfs_token_file_extent_ram_bytes(eb, fi, &token);
3261 }
3262
3263
3264 /* btrfs_dev_stats_item */
3265 static inline u64 btrfs_dev_stats_value(const struct extent_buffer *eb,
3266                                         const struct btrfs_dev_stats_item *ptr,
3267                                         int index)
3268 {
3269         u64 val;
3270
3271         read_extent_buffer(eb, &val,
3272                            offsetof(struct btrfs_dev_stats_item, values) +
3273                             ((unsigned long)ptr) + (index * sizeof(u64)),
3274                            sizeof(val));
3275         return val;
3276 }
3277
3278 static inline void btrfs_set_dev_stats_value(struct extent_buffer *eb,
3279                                              struct btrfs_dev_stats_item *ptr,
3280                                              int index, u64 val)
3281 {
3282         write_extent_buffer(eb, &val,
3283                             offsetof(struct btrfs_dev_stats_item, values) +
3284                              ((unsigned long)ptr) + (index * sizeof(u64)),
3285                             sizeof(val));
3286 }
3287
3288 /* btrfs_qgroup_status_item */
3289 BTRFS_SETGET_FUNCS(qgroup_status_generation, struct btrfs_qgroup_status_item,
3290                    generation, 64);
3291 BTRFS_SETGET_FUNCS(qgroup_status_version, struct btrfs_qgroup_status_item,
3292                    version, 64);
3293 BTRFS_SETGET_FUNCS(qgroup_status_flags, struct btrfs_qgroup_status_item,
3294                    flags, 64);
3295 BTRFS_SETGET_FUNCS(qgroup_status_rescan, struct btrfs_qgroup_status_item,
3296                    rescan, 64);
3297
3298 /* btrfs_qgroup_info_item */
3299 BTRFS_SETGET_FUNCS(qgroup_info_generation, struct btrfs_qgroup_info_item,
3300                    generation, 64);
3301 BTRFS_SETGET_FUNCS(qgroup_info_rfer, struct btrfs_qgroup_info_item, rfer, 64);
3302 BTRFS_SETGET_FUNCS(qgroup_info_rfer_cmpr, struct btrfs_qgroup_info_item,
3303                    rfer_cmpr, 64);
3304 BTRFS_SETGET_FUNCS(qgroup_info_excl, struct btrfs_qgroup_info_item, excl, 64);
3305 BTRFS_SETGET_FUNCS(qgroup_info_excl_cmpr, struct btrfs_qgroup_info_item,
3306                    excl_cmpr, 64);
3307
3308 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_generation,
3309                          struct btrfs_qgroup_info_item, generation, 64);
3310 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_rfer, struct btrfs_qgroup_info_item,
3311                          rfer, 64);
3312 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_rfer_cmpr,
3313                          struct btrfs_qgroup_info_item, rfer_cmpr, 64);
3314 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_excl, struct btrfs_qgroup_info_item,
3315                          excl, 64);
3316 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_excl_cmpr,
3317                          struct btrfs_qgroup_info_item, excl_cmpr, 64);
3318
3319 /* btrfs_qgroup_limit_item */
3320 BTRFS_SETGET_FUNCS(qgroup_limit_flags, struct btrfs_qgroup_limit_item,
3321                    flags, 64);
3322 BTRFS_SETGET_FUNCS(qgroup_limit_max_rfer, struct btrfs_qgroup_limit_item,
3323                    max_rfer, 64);
3324 BTRFS_SETGET_FUNCS(qgroup_limit_max_excl, struct btrfs_qgroup_limit_item,
3325                    max_excl, 64);
3326 BTRFS_SETGET_FUNCS(qgroup_limit_rsv_rfer, struct btrfs_qgroup_limit_item,
3327                    rsv_rfer, 64);
3328 BTRFS_SETGET_FUNCS(qgroup_limit_rsv_excl, struct btrfs_qgroup_limit_item,
3329                    rsv_excl, 64);
3330
3331 /* btrfs_dev_replace_item */
3332 BTRFS_SETGET_FUNCS(dev_replace_src_devid,
3333                    struct btrfs_dev_replace_item, src_devid, 64);
3334 BTRFS_SETGET_FUNCS(dev_replace_cont_reading_from_srcdev_mode,
3335                    struct btrfs_dev_replace_item, cont_reading_from_srcdev_mode,
3336                    64);
3337 BTRFS_SETGET_FUNCS(dev_replace_replace_state, struct btrfs_dev_replace_item,
3338                    replace_state, 64);
3339 BTRFS_SETGET_FUNCS(dev_replace_time_started, struct btrfs_dev_replace_item,
3340                    time_started, 64);
3341 BTRFS_SETGET_FUNCS(dev_replace_time_stopped, struct btrfs_dev_replace_item,
3342                    time_stopped, 64);
3343 BTRFS_SETGET_FUNCS(dev_replace_num_write_errors, struct btrfs_dev_replace_item,
3344                    num_write_errors, 64);
3345 BTRFS_SETGET_FUNCS(dev_replace_num_uncorrectable_read_errors,
3346                    struct btrfs_dev_replace_item, num_uncorrectable_read_errors,
3347                    64);
3348 BTRFS_SETGET_FUNCS(dev_replace_cursor_left, struct btrfs_dev_replace_item,
3349                    cursor_left, 64);
3350 BTRFS_SETGET_FUNCS(dev_replace_cursor_right, struct btrfs_dev_replace_item,
3351                    cursor_right, 64);
3352
3353 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_src_devid,
3354                          struct btrfs_dev_replace_item, src_devid, 64);
3355 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cont_reading_from_srcdev_mode,
3356                          struct btrfs_dev_replace_item,
3357                          cont_reading_from_srcdev_mode, 64);
3358 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_replace_state,
3359                          struct btrfs_dev_replace_item, replace_state, 64);
3360 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_time_started,
3361                          struct btrfs_dev_replace_item, time_started, 64);
3362 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_time_stopped,
3363                          struct btrfs_dev_replace_item, time_stopped, 64);
3364 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_num_write_errors,
3365                          struct btrfs_dev_replace_item, num_write_errors, 64);
3366 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_num_uncorrectable_read_errors,
3367                          struct btrfs_dev_replace_item,
3368                          num_uncorrectable_read_errors, 64);
3369 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cursor_left,
3370                          struct btrfs_dev_replace_item, cursor_left, 64);
3371 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cursor_right,
3372                          struct btrfs_dev_replace_item, cursor_right, 64);
3373
3374 static inline struct btrfs_fs_info *btrfs_sb(struct super_block *sb)
3375 {
3376         return sb->s_fs_info;
3377 }
3378
3379 /* helper function to cast into the data area of the leaf. */
3380 #define btrfs_item_ptr(leaf, slot, type) \
3381         ((type *)(btrfs_leaf_data(leaf) + \
3382         btrfs_item_offset_nr(leaf, slot)))
3383
3384 #define btrfs_item_ptr_offset(leaf, slot) \
3385         ((unsigned long)(btrfs_leaf_data(leaf) + \
3386         btrfs_item_offset_nr(leaf, slot)))
3387
3388 static inline bool btrfs_mixed_space_info(struct btrfs_space_info *space_info)
3389 {
3390         return ((space_info->flags & BTRFS_BLOCK_GROUP_METADATA) &&
3391                 (space_info->flags & BTRFS_BLOCK_GROUP_DATA));
3392 }
3393
3394 static inline gfp_t btrfs_alloc_write_mask(struct address_space *mapping)
3395 {
3396         return mapping_gfp_constraint(mapping, ~__GFP_FS);
3397 }
3398
3399 /* extent-tree.c */
3400
3401 u64 btrfs_csum_bytes_to_leaves(struct btrfs_root *root, u64 csum_bytes);
3402
3403 static inline u64 btrfs_calc_trans_metadata_size(struct btrfs_root *root,
3404                                                  unsigned num_items)
3405 {
3406         return (root->nodesize + root->nodesize * (BTRFS_MAX_LEVEL - 1)) *
3407                 2 * num_items;
3408 }
3409
3410 /*
3411  * Doing a truncate won't result in new nodes or leaves, just what we need for
3412  * COW.
3413  */
3414 static inline u64 btrfs_calc_trunc_metadata_size(struct btrfs_root *root,
3415                                                  unsigned num_items)
3416 {
3417         return root->nodesize * BTRFS_MAX_LEVEL * num_items;
3418 }
3419
3420 int btrfs_should_throttle_delayed_refs(struct btrfs_trans_handle *trans,
3421                                        struct btrfs_root *root);
3422 int btrfs_check_space_for_delayed_refs(struct btrfs_trans_handle *trans,
3423                                        struct btrfs_root *root);
3424 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
3425 int btrfs_run_delayed_refs(struct btrfs_trans_handle *trans,
3426                            struct btrfs_root *root, unsigned long count);
3427 int btrfs_async_run_delayed_refs(struct btrfs_root *root,
3428                                  unsigned long count, int wait);
3429 int btrfs_lookup_data_extent(struct btrfs_root *root, u64 start, u64 len);
3430 int btrfs_lookup_extent_info(struct btrfs_trans_handle *trans,
3431                              struct btrfs_root *root, u64 bytenr,
3432                              u64 offset, int metadata, u64 *refs, u64 *flags);
3433 int btrfs_pin_extent(struct btrfs_root *root,
3434                      u64 bytenr, u64 num, int reserved);
3435 int btrfs_pin_extent_for_log_replay(struct btrfs_root *root,
3436                                     u64 bytenr, u64 num_bytes);
3437 int btrfs_exclude_logged_extents(struct btrfs_root *root,
3438                                  struct extent_buffer *eb);
3439 int btrfs_cross_ref_exist(struct btrfs_trans_handle *trans,
3440                           struct btrfs_root *root,
3441                           u64 objectid, u64 offset, u64 bytenr);
3442 struct btrfs_block_group_cache *btrfs_lookup_block_group(
3443                                                  struct btrfs_fs_info *info,
3444                                                  u64 bytenr);
3445 void btrfs_get_block_group(struct btrfs_block_group_cache *cache);
3446 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
3447 int get_block_group_index(struct btrfs_block_group_cache *cache);
3448 struct extent_buffer *btrfs_alloc_tree_block(struct btrfs_trans_handle *trans,
3449                                         struct btrfs_root *root, u64 parent,
3450                                         u64 root_objectid,
3451                                         struct btrfs_disk_key *key, int level,
3452                                         u64 hint, u64 empty_size);
3453 void btrfs_free_tree_block(struct btrfs_trans_handle *trans,
3454                            struct btrfs_root *root,
3455                            struct extent_buffer *buf,
3456                            u64 parent, int last_ref);
3457 int btrfs_alloc_reserved_file_extent(struct btrfs_trans_handle *trans,
3458                                      struct btrfs_root *root,
3459                                      u64 root_objectid, u64 owner,
3460                                      u64 offset, u64 ram_bytes,
3461                                      struct btrfs_key *ins);
3462 int btrfs_alloc_logged_file_extent(struct btrfs_trans_handle *trans,
3463                                    struct btrfs_root *root,
3464                                    u64 root_objectid, u64 owner, u64 offset,
3465                                    struct btrfs_key *ins);
3466 int btrfs_reserve_extent(struct btrfs_root *root, u64 num_bytes,
3467                          u64 min_alloc_size, u64 empty_size, u64 hint_byte,
3468                          struct btrfs_key *ins, int is_data, int delalloc);
3469 int btrfs_inc_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3470                   struct extent_buffer *buf, int full_backref);
3471 int btrfs_dec_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3472                   struct extent_buffer *buf, int full_backref);
3473 int btrfs_set_disk_extent_flags(struct btrfs_trans_handle *trans,
3474                                 struct btrfs_root *root,
3475                                 u64 bytenr, u64 num_bytes, u64 flags,
3476                                 int level, int is_data);
3477 int btrfs_free_extent(struct btrfs_trans_handle *trans,
3478                       struct btrfs_root *root,
3479                       u64 bytenr, u64 num_bytes, u64 parent, u64 root_objectid,
3480                       u64 owner, u64 offset);
3481
3482 int btrfs_free_reserved_extent(struct btrfs_root *root, u64 start, u64 len,
3483                                int delalloc);
3484 int btrfs_free_and_pin_reserved_extent(struct btrfs_root *root,
3485                                        u64 start, u64 len);
3486 void btrfs_prepare_extent_commit(struct btrfs_trans_handle *trans,
3487                                  struct btrfs_root *root);
3488 int btrfs_finish_extent_commit(struct btrfs_trans_handle *trans,
3489                                struct btrfs_root *root);
3490 int btrfs_inc_extent_ref(struct btrfs_trans_handle *trans,
3491                          struct btrfs_root *root,
3492                          u64 bytenr, u64 num_bytes, u64 parent,
3493                          u64 root_objectid, u64 owner, u64 offset);
3494
3495 int btrfs_start_dirty_block_groups(struct btrfs_trans_handle *trans,
3496                                    struct btrfs_root *root);
3497 int btrfs_write_dirty_block_groups(struct btrfs_trans_handle *trans,
3498                                     struct btrfs_root *root);
3499 int btrfs_setup_space_cache(struct btrfs_trans_handle *trans,
3500                             struct btrfs_root *root);
3501 int btrfs_extent_readonly(struct btrfs_root *root, u64 bytenr);
3502 int btrfs_free_block_groups(struct btrfs_fs_info *info);
3503 int btrfs_read_block_groups(struct btrfs_root *root);
3504 int btrfs_can_relocate(struct btrfs_root *root, u64 bytenr);
3505 int btrfs_make_block_group(struct btrfs_trans_handle *trans,
3506                            struct btrfs_root *root, u64 bytes_used,
3507                            u64 type, u64 chunk_objectid, u64 chunk_offset,
3508                            u64 size);
3509 struct btrfs_trans_handle *btrfs_start_trans_remove_block_group(
3510                                 struct btrfs_fs_info *fs_info,
3511                                 const u64 chunk_offset);
3512 int btrfs_remove_block_group(struct btrfs_trans_handle *trans,
3513                              struct btrfs_root *root, u64 group_start,
3514                              struct extent_map *em);
3515 void btrfs_delete_unused_bgs(struct btrfs_fs_info *fs_info);
3516 void btrfs_get_block_group_trimming(struct btrfs_block_group_cache *cache);
3517 void btrfs_put_block_group_trimming(struct btrfs_block_group_cache *cache);
3518 void btrfs_create_pending_block_groups(struct btrfs_trans_handle *trans,
3519                                        struct btrfs_root *root);
3520 u64 btrfs_get_alloc_profile(struct btrfs_root *root, int data);
3521 void btrfs_clear_space_info_full(struct btrfs_fs_info *info);
3522
3523 enum btrfs_reserve_flush_enum {
3524         /* If we are in the transaction, we can't flush anything.*/
3525         BTRFS_RESERVE_NO_FLUSH,
3526         /*
3527          * Flushing delalloc may cause deadlock somewhere, in this
3528          * case, use FLUSH LIMIT
3529          */
3530         BTRFS_RESERVE_FLUSH_LIMIT,
3531         BTRFS_RESERVE_FLUSH_ALL,
3532 };
3533
3534 int btrfs_check_data_free_space(struct inode *inode, u64 start, u64 len);
3535 int btrfs_alloc_data_chunk_ondemand(struct inode *inode, u64 bytes);
3536 void btrfs_free_reserved_data_space(struct inode *inode, u64 start, u64 len);
3537 void btrfs_free_reserved_data_space_noquota(struct inode *inode, u64 start,
3538                                             u64 len);
3539 void btrfs_trans_release_metadata(struct btrfs_trans_handle *trans,
3540                                 struct btrfs_root *root);
3541 void btrfs_trans_release_chunk_metadata(struct btrfs_trans_handle *trans);
3542 int btrfs_orphan_reserve_metadata(struct btrfs_trans_handle *trans,
3543                                   struct inode *inode);
3544 void btrfs_orphan_release_metadata(struct inode *inode);
3545 int btrfs_subvolume_reserve_metadata(struct btrfs_root *root,
3546                                      struct btrfs_block_rsv *rsv,
3547                                      int nitems,
3548                                      u64 *qgroup_reserved, bool use_global_rsv);
3549 void btrfs_subvolume_release_metadata(struct btrfs_root *root,
3550                                       struct btrfs_block_rsv *rsv,
3551                                       u64 qgroup_reserved);
3552 int btrfs_delalloc_reserve_metadata(struct inode *inode, u64 num_bytes);
3553 void btrfs_delalloc_release_metadata(struct inode *inode, u64 num_bytes);
3554 int btrfs_delalloc_reserve_space(struct inode *inode, u64 start, u64 len);
3555 void btrfs_delalloc_release_space(struct inode *inode, u64 start, u64 len);
3556 void btrfs_init_block_rsv(struct btrfs_block_rsv *rsv, unsigned short type);
3557 struct btrfs_block_rsv *btrfs_alloc_block_rsv(struct btrfs_root *root,
3558                                               unsigned short type);
3559 void btrfs_free_block_rsv(struct btrfs_root *root,
3560                           struct btrfs_block_rsv *rsv);
3561 void __btrfs_free_block_rsv(struct btrfs_block_rsv *rsv);
3562 int btrfs_block_rsv_add(struct btrfs_root *root,
3563                         struct btrfs_block_rsv *block_rsv, u64 num_bytes,
3564                         enum btrfs_reserve_flush_enum flush);
3565 int btrfs_block_rsv_check(struct btrfs_root *root,
3566                           struct btrfs_block_rsv *block_rsv, int min_factor);
3567 int btrfs_block_rsv_refill(struct btrfs_root *root,
3568                            struct btrfs_block_rsv *block_rsv, u64 min_reserved,
3569                            enum btrfs_reserve_flush_enum flush);
3570 int btrfs_block_rsv_migrate(struct btrfs_block_rsv *src_rsv,
3571                             struct btrfs_block_rsv *dst_rsv,
3572                             u64 num_bytes);
3573 int btrfs_cond_migrate_bytes(struct btrfs_fs_info *fs_info,
3574                              struct btrfs_block_rsv *dest, u64 num_bytes,
3575                              int min_factor);
3576 void btrfs_block_rsv_release(struct btrfs_root *root,
3577                              struct btrfs_block_rsv *block_rsv,
3578                              u64 num_bytes);
3579 int btrfs_inc_block_group_ro(struct btrfs_root *root,
3580                              struct btrfs_block_group_cache *cache);
3581 void btrfs_dec_block_group_ro(struct btrfs_root *root,
3582                               struct btrfs_block_group_cache *cache);
3583 void btrfs_put_block_group_cache(struct btrfs_fs_info *info);
3584 u64 btrfs_account_ro_block_groups_free_space(struct btrfs_space_info *sinfo);
3585 int btrfs_error_unpin_extent_range(struct btrfs_root *root,
3586                                    u64 start, u64 end);
3587 int btrfs_discard_extent(struct btrfs_root *root, u64 bytenr,
3588                          u64 num_bytes, u64 *actual_bytes);
3589 int btrfs_force_chunk_alloc(struct btrfs_trans_handle *trans,
3590                             struct btrfs_root *root, u64 type);
3591 int btrfs_trim_fs(struct btrfs_root *root, struct fstrim_range *range);
3592
3593 int btrfs_init_space_info(struct btrfs_fs_info *fs_info);
3594 int btrfs_delayed_refs_qgroup_accounting(struct btrfs_trans_handle *trans,
3595                                          struct btrfs_fs_info *fs_info);
3596 int __get_raid_index(u64 flags);
3597 int btrfs_start_write_no_snapshoting(struct btrfs_root *root);
3598 void btrfs_end_write_no_snapshoting(struct btrfs_root *root);
3599 void check_system_chunk(struct btrfs_trans_handle *trans,
3600                         struct btrfs_root *root,
3601                         const u64 type);
3602 /* ctree.c */
3603 int btrfs_bin_search(struct extent_buffer *eb, struct btrfs_key *key,
3604                      int level, int *slot);
3605 int btrfs_comp_cpu_keys(struct btrfs_key *k1, struct btrfs_key *k2);
3606 int btrfs_previous_item(struct btrfs_root *root,
3607                         struct btrfs_path *path, u64 min_objectid,
3608                         int type);
3609 int btrfs_previous_extent_item(struct btrfs_root *root,
3610                         struct btrfs_path *path, u64 min_objectid);
3611 void btrfs_set_item_key_safe(struct btrfs_fs_info *fs_info,
3612                              struct btrfs_path *path,
3613                              struct btrfs_key *new_key);
3614 struct extent_buffer *btrfs_root_node(struct btrfs_root *root);
3615 struct extent_buffer *btrfs_lock_root_node(struct btrfs_root *root);
3616 int btrfs_find_next_key(struct btrfs_root *root, struct btrfs_path *path,
3617                         struct btrfs_key *key, int lowest_level,
3618                         u64 min_trans);
3619 int btrfs_search_forward(struct btrfs_root *root, struct btrfs_key *min_key,
3620                          struct btrfs_path *path,
3621                          u64 min_trans);
3622 enum btrfs_compare_tree_result {
3623         BTRFS_COMPARE_TREE_NEW,
3624         BTRFS_COMPARE_TREE_DELETED,
3625         BTRFS_COMPARE_TREE_CHANGED,
3626         BTRFS_COMPARE_TREE_SAME,
3627 };
3628 typedef int (*btrfs_changed_cb_t)(struct btrfs_root *left_root,
3629                                   struct btrfs_root *right_root,
3630                                   struct btrfs_path *left_path,
3631                                   struct btrfs_path *right_path,
3632                                   struct btrfs_key *key,
3633                                   enum btrfs_compare_tree_result result,
3634                                   void *ctx);
3635 int btrfs_compare_trees(struct btrfs_root *left_root,
3636                         struct btrfs_root *right_root,
3637                         btrfs_changed_cb_t cb, void *ctx);
3638 int btrfs_cow_block(struct btrfs_trans_handle *trans,
3639                     struct btrfs_root *root, struct extent_buffer *buf,
3640                     struct extent_buffer *parent, int parent_slot,
3641                     struct extent_buffer **cow_ret);
3642 int btrfs_copy_root(struct btrfs_trans_handle *trans,
3643                       struct btrfs_root *root,
3644                       struct extent_buffer *buf,
3645                       struct extent_buffer **cow_ret, u64 new_root_objectid);
3646 int btrfs_block_can_be_shared(struct btrfs_root *root,
3647                               struct extent_buffer *buf);
3648 void btrfs_extend_item(struct btrfs_root *root, struct btrfs_path *path,
3649                        u32 data_size);
3650 void btrfs_truncate_item(struct btrfs_root *root, struct btrfs_path *path,
3651                          u32 new_size, int from_end);
3652 int btrfs_split_item(struct btrfs_trans_handle *trans,
3653                      struct btrfs_root *root,
3654                      struct btrfs_path *path,
3655                      struct btrfs_key *new_key,
3656                      unsigned long split_offset);
3657 int btrfs_duplicate_item(struct btrfs_trans_handle *trans,
3658                          struct btrfs_root *root,
3659                          struct btrfs_path *path,
3660                          struct btrfs_key *new_key);
3661 int btrfs_find_item(struct btrfs_root *fs_root, struct btrfs_path *path,
3662                 u64 inum, u64 ioff, u8 key_type, struct btrfs_key *found_key);
3663 int btrfs_search_slot(struct btrfs_trans_handle *trans, struct btrfs_root
3664                       *root, struct btrfs_key *key, struct btrfs_path *p, int
3665                       ins_len, int cow);
3666 int btrfs_search_old_slot(struct btrfs_root *root, struct btrfs_key *key,
3667                           struct btrfs_path *p, u64 time_seq);
3668 int btrfs_search_slot_for_read(struct btrfs_root *root,
3669                                struct btrfs_key *key, struct btrfs_path *p,
3670                                int find_higher, int return_any);
3671 int btrfs_realloc_node(struct btrfs_trans_handle *trans,
3672                        struct btrfs_root *root, struct extent_buffer *parent,
3673                        int start_slot, u64 *last_ret,
3674                        struct btrfs_key *progress);
3675 void btrfs_release_path(struct btrfs_path *p);
3676 struct btrfs_path *btrfs_alloc_path(void);
3677 void btrfs_free_path(struct btrfs_path *p);
3678 void btrfs_set_path_blocking(struct btrfs_path *p);
3679 void btrfs_clear_path_blocking(struct btrfs_path *p,
3680                                struct extent_buffer *held, int held_rw);
3681 void btrfs_unlock_up_safe(struct btrfs_path *p, int level);
3682
3683 int btrfs_del_items(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3684                    struct btrfs_path *path, int slot, int nr);
3685 static inline int btrfs_del_item(struct btrfs_trans_handle *trans,
3686                                  struct btrfs_root *root,
3687                                  struct btrfs_path *path)
3688 {
3689         return btrfs_del_items(trans, root, path, path->slots[0], 1);
3690 }
3691
3692 void setup_items_for_insert(struct btrfs_root *root, struct btrfs_path *path,
3693                             struct btrfs_key *cpu_key, u32 *data_size,
3694                             u32 total_data, u32 total_size, int nr);
3695 int btrfs_insert_item(struct btrfs_trans_handle *trans, struct btrfs_root
3696                       *root, struct btrfs_key *key, void *data, u32 data_size);
3697 int btrfs_insert_empty_items(struct btrfs_trans_handle *trans,
3698                              struct btrfs_root *root,
3699                              struct btrfs_path *path,
3700                              struct btrfs_key *cpu_key, u32 *data_size, int nr);
3701
3702 static inline int btrfs_insert_empty_item(struct btrfs_trans_handle *trans,
3703                                           struct btrfs_root *root,
3704                                           struct btrfs_path *path,
3705                                           struct btrfs_key *key,
3706                                           u32 data_size)
3707 {
3708         return btrfs_insert_empty_items(trans, root, path, key, &data_size, 1);
3709 }
3710
3711 int btrfs_next_leaf(struct btrfs_root *root, struct btrfs_path *path);
3712 int btrfs_prev_leaf(struct btrfs_root *root, struct btrfs_path *path);
3713 int btrfs_next_old_leaf(struct btrfs_root *root, struct btrfs_path *path,
3714                         u64 time_seq);
3715 static inline int btrfs_next_old_item(struct btrfs_root *root,
3716                                       struct btrfs_path *p, u64 time_seq)
3717 {
3718         ++p->slots[0];
3719         if (p->slots[0] >= btrfs_header_nritems(p->nodes[0]))
3720                 return btrfs_next_old_leaf(root, p, time_seq);
3721         return 0;
3722 }
3723 static inline int btrfs_next_item(struct btrfs_root *root, struct btrfs_path *p)
3724 {
3725         return btrfs_next_old_item(root, p, 0);
3726 }
3727 int btrfs_leaf_free_space(struct btrfs_root *root, struct extent_buffer *leaf);
3728 int __must_check btrfs_drop_snapshot(struct btrfs_root *root,
3729                                      struct btrfs_block_rsv *block_rsv,
3730                                      int update_ref, int for_reloc);
3731 int btrfs_drop_subtree(struct btrfs_trans_handle *trans,
3732                         struct btrfs_root *root,
3733                         struct extent_buffer *node,
3734                         struct extent_buffer *parent);
3735 static inline int btrfs_fs_closing(struct btrfs_fs_info *fs_info)
3736 {
3737         /*
3738          * Get synced with close_ctree()
3739          */
3740         smp_mb();
3741         return fs_info->closing;
3742 }
3743
3744 /*
3745  * If we remount the fs to be R/O or umount the fs, the cleaner needn't do
3746  * anything except sleeping. This function is used to check the status of
3747  * the fs.
3748  */
3749 static inline int btrfs_need_cleaner_sleep(struct btrfs_root *root)
3750 {
3751         return (root->fs_info->sb->s_flags & MS_RDONLY ||
3752                 btrfs_fs_closing(root->fs_info));
3753 }
3754
3755 static inline void free_fs_info(struct btrfs_fs_info *fs_info)
3756 {
3757         kfree(fs_info->balance_ctl);
3758         kfree(fs_info->delayed_root);
3759         kfree(fs_info->extent_root);
3760         kfree(fs_info->tree_root);
3761         kfree(fs_info->chunk_root);
3762         kfree(fs_info->dev_root);
3763         kfree(fs_info->csum_root);
3764         kfree(fs_info->quota_root);
3765         kfree(fs_info->uuid_root);
3766         kfree(fs_info->super_copy);
3767         kfree(fs_info->super_for_commit);
3768         security_free_mnt_opts(&fs_info->security_opts);
3769         kfree(fs_info);
3770 }
3771
3772 /* tree mod log functions from ctree.c */
3773 u64 btrfs_get_tree_mod_seq(struct btrfs_fs_info *fs_info,
3774                            struct seq_list *elem);
3775 void btrfs_put_tree_mod_seq(struct btrfs_fs_info *fs_info,
3776                             struct seq_list *elem);
3777 int btrfs_old_root_level(struct btrfs_root *root, u64 time_seq);
3778
3779 /* root-item.c */
3780 int btrfs_find_root_ref(struct btrfs_root *tree_root,
3781                         struct btrfs_path *path,
3782                         u64 root_id, u64 ref_id);
3783 int btrfs_add_root_ref(struct btrfs_trans_handle *trans,
3784                        struct btrfs_root *tree_root,
3785                        u64 root_id, u64 ref_id, u64 dirid, u64 sequence,
3786                        const char *name, int name_len);
3787 int btrfs_del_root_ref(struct btrfs_trans_handle *trans,
3788                        struct btrfs_root *tree_root,
3789                        u64 root_id, u64 ref_id, u64 dirid, u64 *sequence,
3790                        const char *name, int name_len);
3791 int btrfs_del_root(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3792                    struct btrfs_key *key);
3793 int btrfs_insert_root(struct btrfs_trans_handle *trans, struct btrfs_root
3794                       *root, struct btrfs_key *key, struct btrfs_root_item
3795                       *item);
3796 int __must_check btrfs_update_root(struct btrfs_trans_handle *trans,
3797                                    struct btrfs_root *root,
3798                                    struct btrfs_key *key,
3799                                    struct btrfs_root_item *item);
3800 int btrfs_find_root(struct btrfs_root *root, struct btrfs_key *search_key,
3801                     struct btrfs_path *path, struct btrfs_root_item *root_item,
3802                     struct btrfs_key *root_key);
3803 int btrfs_find_orphan_roots(struct btrfs_root *tree_root);
3804 void btrfs_set_root_node(struct btrfs_root_item *item,
3805                          struct extent_buffer *node);
3806 void btrfs_check_and_init_root_item(struct btrfs_root_item *item);
3807 void btrfs_update_root_times(struct btrfs_trans_handle *trans,
3808                              struct btrfs_root *root);
3809
3810 /* uuid-tree.c */
3811 int btrfs_uuid_tree_add(struct btrfs_trans_handle *trans,
3812                         struct btrfs_root *uuid_root, u8 *uuid, u8 type,
3813                         u64 subid);
3814 int btrfs_uuid_tree_rem(struct btrfs_trans_handle *trans,
3815                         struct btrfs_root *uuid_root, u8 *uuid, u8 type,
3816                         u64 subid);
3817 int btrfs_uuid_tree_iterate(struct btrfs_fs_info *fs_info,
3818                             int (*check_func)(struct btrfs_fs_info *, u8 *, u8,
3819                                               u64));
3820
3821 /* dir-item.c */
3822 int btrfs_check_dir_item_collision(struct btrfs_root *root, u64 dir,
3823                           const char *name, int name_len);
3824 int btrfs_insert_dir_item(struct btrfs_trans_handle *trans,
3825                           struct btrfs_root *root, const char *name,
3826                           int name_len, struct inode *dir,
3827                           struct btrfs_key *location, u8 type, u64 index);
3828 struct btrfs_dir_item *btrfs_lookup_dir_item(struct btrfs_trans_handle *trans,
3829                                              struct btrfs_root *root,
3830                                              struct btrfs_path *path, u64 dir,
3831                                              const char *name, int name_len,
3832                                              int mod);
3833 struct btrfs_dir_item *
3834 btrfs_lookup_dir_index_item(struct btrfs_trans_handle *trans,
3835                             struct btrfs_root *root,
3836                             struct btrfs_path *path, u64 dir,
3837                             u64 objectid, const char *name, int name_len,
3838                             int mod);
3839 struct btrfs_dir_item *
3840 btrfs_search_dir_index_item(struct btrfs_root *root,
3841                             struct btrfs_path *path, u64 dirid,
3842                             const char *name, int name_len);
3843 int btrfs_delete_one_dir_name(struct btrfs_trans_handle *trans,
3844                               struct btrfs_root *root,
3845                               struct btrfs_path *path,
3846                               struct btrfs_dir_item *di);
3847 int btrfs_insert_xattr_item(struct btrfs_trans_handle *trans,
3848                             struct btrfs_root *root,
3849                             struct btrfs_path *path, u64 objectid,
3850                             const char *name, u16 name_len,
3851                             const void *data, u16 data_len);
3852 struct btrfs_dir_item *btrfs_lookup_xattr(struct btrfs_trans_handle *trans,
3853                                           struct btrfs_root *root,
3854                                           struct btrfs_path *path, u64 dir,
3855                                           const char *name, u16 name_len,
3856                                           int mod);
3857 int verify_dir_item(struct btrfs_root *root,
3858                     struct extent_buffer *leaf,
3859                     struct btrfs_dir_item *dir_item);
3860 struct btrfs_dir_item *btrfs_match_dir_item_name(struct btrfs_root *root,
3861                                                  struct btrfs_path *path,
3862                                                  const char *name,
3863                                                  int name_len);
3864
3865 /* orphan.c */
3866 int btrfs_insert_orphan_item(struct btrfs_trans_handle *trans,
3867                              struct btrfs_root *root, u64 offset);
3868 int btrfs_del_orphan_item(struct btrfs_trans_handle *trans,
3869                           struct btrfs_root *root, u64 offset);
3870 int btrfs_find_orphan_item(struct btrfs_root *root, u64 offset);
3871
3872 /* inode-item.c */
3873 int btrfs_insert_inode_ref(struct btrfs_trans_handle *trans,
3874                            struct btrfs_root *root,
3875                            const char *name, int name_len,
3876                            u64 inode_objectid, u64 ref_objectid, u64 index);
3877 int btrfs_del_inode_ref(struct btrfs_trans_handle *trans,
3878                            struct btrfs_root *root,
3879                            const char *name, int name_len,
3880                            u64 inode_objectid, u64 ref_objectid, u64 *index);
3881 int btrfs_insert_empty_inode(struct btrfs_trans_handle *trans,
3882                              struct btrfs_root *root,
3883                              struct btrfs_path *path, u64 objectid);
3884 int btrfs_lookup_inode(struct btrfs_trans_handle *trans, struct btrfs_root
3885                        *root, struct btrfs_path *path,
3886                        struct btrfs_key *location, int mod);
3887
3888 struct btrfs_inode_extref *
3889 btrfs_lookup_inode_extref(struct btrfs_trans_handle *trans,
3890                           struct btrfs_root *root,
3891                           struct btrfs_path *path,
3892                           const char *name, int name_len,
3893                           u64 inode_objectid, u64 ref_objectid, int ins_len,
3894                           int cow);
3895
3896 int btrfs_find_name_in_ext_backref(struct btrfs_path *path,
3897                                    u64 ref_objectid, const char *name,
3898                                    int name_len,
3899                                    struct btrfs_inode_extref **extref_ret);
3900
3901 /* file-item.c */
3902 struct btrfs_dio_private;
3903 int btrfs_del_csums(struct btrfs_trans_handle *trans,
3904                     struct btrfs_root *root, u64 bytenr, u64 len);
3905 int btrfs_lookup_bio_sums(struct btrfs_root *root, struct inode *inode,
3906                           struct bio *bio, u32 *dst);
3907 int btrfs_lookup_bio_sums_dio(struct btrfs_root *root, struct inode *inode,
3908                               struct bio *bio, u64 logical_offset);
3909 int btrfs_insert_file_extent(struct btrfs_trans_handle *trans,
3910                              struct btrfs_root *root,
3911                              u64 objectid, u64 pos,
3912                              u64 disk_offset, u64 disk_num_bytes,
3913                              u64 num_bytes, u64 offset, u64 ram_bytes,
3914                              u8 compression, u8 encryption, u16 other_encoding);
3915 int btrfs_lookup_file_extent(struct btrfs_trans_handle *trans,
3916                              struct btrfs_root *root,
3917                              struct btrfs_path *path, u64 objectid,
3918                              u64 bytenr, int mod);
3919 int btrfs_csum_file_blocks(struct btrfs_trans_handle *trans,
3920                            struct btrfs_root *root,
3921                            struct btrfs_ordered_sum *sums);
3922 int btrfs_csum_one_bio(struct btrfs_root *root, struct inode *inode,
3923                        struct bio *bio, u64 file_start, int contig);
3924 int btrfs_lookup_csums_range(struct btrfs_root *root, u64 start, u64 end,
3925                              struct list_head *list, int search_commit);
3926 void btrfs_extent_item_to_extent_map(struct inode *inode,
3927                                      const struct btrfs_path *path,
3928                                      struct btrfs_file_extent_item *fi,
3929                                      const bool new_inline,
3930                                      struct extent_map *em);
3931
3932 /* inode.c */
3933 struct btrfs_delalloc_work {
3934         struct inode *inode;
3935         int wait;
3936         int delay_iput;
3937         struct completion completion;
3938         struct list_head list;
3939         struct btrfs_work work;
3940 };
3941
3942 struct btrfs_delalloc_work *btrfs_alloc_delalloc_work(struct inode *inode,
3943                                                     int wait, int delay_iput);
3944 void btrfs_wait_and_free_delalloc_work(struct btrfs_delalloc_work *work);
3945
3946 struct extent_map *btrfs_get_extent_fiemap(struct inode *inode, struct page *page,
3947                                            size_t pg_offset, u64 start, u64 len,
3948                                            int create);
3949 noinline int can_nocow_extent(struct inode *inode, u64 offset, u64 *len,
3950                               u64 *orig_start, u64 *orig_block_len,
3951                               u64 *ram_bytes);
3952
3953 /* RHEL and EL kernels have a patch that renames PG_checked to FsMisc */
3954 #if defined(ClearPageFsMisc) && !defined(ClearPageChecked)
3955 #define ClearPageChecked ClearPageFsMisc
3956 #define SetPageChecked SetPageFsMisc
3957 #define PageChecked PageFsMisc
3958 #endif
3959
3960 /* This forces readahead on a given range of bytes in an inode */
3961 static inline void btrfs_force_ra(struct address_space *mapping,
3962                                   struct file_ra_state *ra, struct file *file,
3963                                   pgoff_t offset, unsigned long req_size)
3964 {
3965         page_cache_sync_readahead(mapping, ra, file, offset, req_size);
3966 }
3967
3968 struct inode *btrfs_lookup_dentry(struct inode *dir, struct dentry *dentry);
3969 int btrfs_set_inode_index(struct inode *dir, u64 *index);
3970 int btrfs_unlink_inode(struct btrfs_trans_handle *trans,
3971                        struct btrfs_root *root,
3972                        struct inode *dir, struct inode *inode,
3973                        const char *name, int name_len);
3974 int btrfs_add_link(struct btrfs_trans_handle *trans,
3975                    struct inode *parent_inode, struct inode *inode,
3976                    const char *name, int name_len, int add_backref, u64 index);
3977 int btrfs_unlink_subvol(struct btrfs_trans_handle *trans,
3978                         struct btrfs_root *root,
3979                         struct inode *dir, u64 objectid,
3980                         const char *name, int name_len);
3981 int btrfs_truncate_page(struct inode *inode, loff_t from, loff_t len,
3982                         int front);
3983 int btrfs_truncate_inode_items(struct btrfs_trans_handle *trans,
3984                                struct btrfs_root *root,
3985                                struct inode *inode, u64 new_size,
3986                                u32 min_type);
3987
3988 int btrfs_start_delalloc_inodes(struct btrfs_root *root, int delay_iput);
3989 int btrfs_start_delalloc_roots(struct btrfs_fs_info *fs_info, int delay_iput,
3990                                int nr);
3991 int btrfs_set_extent_delalloc(struct inode *inode, u64 start, u64 end,
3992                               struct extent_state **cached_state);
3993 int btrfs_create_subvol_root(struct btrfs_trans_handle *trans,
3994                              struct btrfs_root *new_root,
3995                              struct btrfs_root *parent_root,
3996                              u64 new_dirid);
3997 int btrfs_merge_bio_hook(int rw, struct page *page, unsigned long offset,
3998                          size_t size, struct bio *bio,
3999                          unsigned long bio_flags);
4000 int btrfs_page_mkwrite(struct vm_area_struct *vma, struct vm_fault *vmf);
4001 int btrfs_readpage(struct file *file, struct page *page);
4002 void btrfs_evict_inode(struct inode *inode);
4003 int btrfs_write_inode(struct inode *inode, struct writeback_control *wbc);
4004 struct inode *btrfs_alloc_inode(struct super_block *sb);
4005 void btrfs_destroy_inode(struct inode *inode);
4006 int btrfs_drop_inode(struct inode *inode);
4007 int btrfs_init_cachep(void);
4008 void btrfs_destroy_cachep(void);
4009 long btrfs_ioctl_trans_end(struct file *file);
4010 struct inode *btrfs_iget(struct super_block *s, struct btrfs_key *location,
4011                          struct btrfs_root *root, int *was_new);
4012 struct extent_map *btrfs_get_extent(struct inode *inode, struct page *page,
4013                                     size_t pg_offset, u64 start, u64 end,
4014                                     int create);
4015 int btrfs_update_inode(struct btrfs_trans_handle *trans,
4016                               struct btrfs_root *root,
4017                               struct inode *inode);
4018 int btrfs_update_inode_fallback(struct btrfs_trans_handle *trans,
4019                                 struct btrfs_root *root, struct inode *inode);
4020 int btrfs_orphan_add(struct btrfs_trans_handle *trans, struct inode *inode);
4021 int btrfs_orphan_cleanup(struct btrfs_root *root);
4022 void btrfs_orphan_commit_root(struct btrfs_trans_handle *trans,
4023                               struct btrfs_root *root);
4024 int btrfs_cont_expand(struct inode *inode, loff_t oldsize, loff_t size);
4025 void btrfs_invalidate_inodes(struct btrfs_root *root);
4026 void btrfs_add_delayed_iput(struct inode *inode);
4027 void btrfs_run_delayed_iputs(struct btrfs_root *root);
4028 int btrfs_prealloc_file_range(struct inode *inode, int mode,
4029                               u64 start, u64 num_bytes, u64 min_size,
4030                               loff_t actual_len, u64 *alloc_hint);
4031 int btrfs_prealloc_file_range_trans(struct inode *inode,
4032                                     struct btrfs_trans_handle *trans, int mode,
4033                                     u64 start, u64 num_bytes, u64 min_size,
4034                                     loff_t actual_len, u64 *alloc_hint);
4035 int btrfs_inode_check_errors(struct inode *inode);
4036 extern const struct dentry_operations btrfs_dentry_operations;
4037 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4038 void btrfs_test_inode_set_ops(struct inode *inode);
4039 #endif
4040
4041 /* ioctl.c */
4042 long btrfs_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
4043 void btrfs_update_iflags(struct inode *inode);
4044 void btrfs_inherit_iflags(struct inode *inode, struct inode *dir);
4045 int btrfs_is_empty_uuid(u8 *uuid);
4046 int btrfs_defrag_file(struct inode *inode, struct file *file,
4047                       struct btrfs_ioctl_defrag_range_args *range,
4048                       u64 newer_than, unsigned long max_pages);
4049 void btrfs_get_block_group_info(struct list_head *groups_list,
4050                                 struct btrfs_ioctl_space_info *space);
4051 void update_ioctl_balance_args(struct btrfs_fs_info *fs_info, int lock,
4052                                struct btrfs_ioctl_balance_args *bargs);
4053
4054
4055 /* file.c */
4056 int btrfs_auto_defrag_init(void);
4057 void btrfs_auto_defrag_exit(void);
4058 int btrfs_add_inode_defrag(struct btrfs_trans_handle *trans,
4059                            struct inode *inode);
4060 int btrfs_run_defrag_inodes(struct btrfs_fs_info *fs_info);
4061 void btrfs_cleanup_defrag_inodes(struct btrfs_fs_info *fs_info);
4062 int btrfs_sync_file(struct file *file, loff_t start, loff_t end, int datasync);
4063 void btrfs_drop_extent_cache(struct inode *inode, u64 start, u64 end,
4064                              int skip_pinned);
4065 extern const struct file_operations btrfs_file_operations;
4066 int __btrfs_drop_extents(struct btrfs_trans_handle *trans,
4067                          struct btrfs_root *root, struct inode *inode,
4068                          struct btrfs_path *path, u64 start, u64 end,
4069                          u64 *drop_end, int drop_cache,
4070                          int replace_extent,
4071                          u32 extent_item_size,
4072                          int *key_inserted);
4073 int btrfs_drop_extents(struct btrfs_trans_handle *trans,
4074                        struct btrfs_root *root, struct inode *inode, u64 start,
4075                        u64 end, int drop_cache);
4076 int btrfs_mark_extent_written(struct btrfs_trans_handle *trans,
4077                               struct inode *inode, u64 start, u64 end);
4078 int btrfs_release_file(struct inode *inode, struct file *file);
4079 int btrfs_dirty_pages(struct btrfs_root *root, struct inode *inode,
4080                       struct page **pages, size_t num_pages,
4081                       loff_t pos, size_t write_bytes,
4082                       struct extent_state **cached);
4083 int btrfs_fdatawrite_range(struct inode *inode, loff_t start, loff_t end);
4084
4085 /* tree-defrag.c */
4086 int btrfs_defrag_leaves(struct btrfs_trans_handle *trans,
4087                         struct btrfs_root *root);
4088
4089 /* sysfs.c */
4090 int btrfs_init_sysfs(void);
4091 void btrfs_exit_sysfs(void);
4092 int btrfs_sysfs_add_mounted(struct btrfs_fs_info *fs_info);
4093 void btrfs_sysfs_remove_mounted(struct btrfs_fs_info *fs_info);
4094
4095 /* xattr.c */
4096 ssize_t btrfs_listxattr(struct dentry *dentry, char *buffer, size_t size);
4097
4098 /* super.c */
4099 int btrfs_parse_options(struct btrfs_root *root, char *options);
4100 int btrfs_sync_fs(struct super_block *sb, int wait);
4101
4102 #ifdef CONFIG_PRINTK
4103 __printf(2, 3)
4104 void btrfs_printk(const struct btrfs_fs_info *fs_info, const char *fmt, ...);
4105 #else
4106 static inline __printf(2, 3)
4107 void btrfs_printk(const struct btrfs_fs_info *fs_info, const char *fmt, ...)
4108 {
4109 }
4110 #endif
4111
4112 #define btrfs_emerg(fs_info, fmt, args...) \
4113         btrfs_printk(fs_info, KERN_EMERG fmt, ##args)
4114 #define btrfs_alert(fs_info, fmt, args...) \
4115         btrfs_printk(fs_info, KERN_ALERT fmt, ##args)
4116 #define btrfs_crit(fs_info, fmt, args...) \
4117         btrfs_printk(fs_info, KERN_CRIT fmt, ##args)
4118 #define btrfs_err(fs_info, fmt, args...) \
4119         btrfs_printk(fs_info, KERN_ERR fmt, ##args)
4120 #define btrfs_warn(fs_info, fmt, args...) \
4121         btrfs_printk(fs_info, KERN_WARNING fmt, ##args)
4122 #define btrfs_notice(fs_info, fmt, args...) \
4123         btrfs_printk(fs_info, KERN_NOTICE fmt, ##args)
4124 #define btrfs_info(fs_info, fmt, args...) \
4125         btrfs_printk(fs_info, KERN_INFO fmt, ##args)
4126
4127 /*
4128  * Wrappers that use printk_in_rcu
4129  */
4130 #define btrfs_emerg_in_rcu(fs_info, fmt, args...) \
4131         btrfs_printk_in_rcu(fs_info, KERN_EMERG fmt, ##args)
4132 #define btrfs_alert_in_rcu(fs_info, fmt, args...) \
4133         btrfs_printk_in_rcu(fs_info, KERN_ALERT fmt, ##args)
4134 #define btrfs_crit_in_rcu(fs_info, fmt, args...) \
4135         btrfs_printk_in_rcu(fs_info, KERN_CRIT fmt, ##args)
4136 #define btrfs_err_in_rcu(fs_info, fmt, args...) \
4137         btrfs_printk_in_rcu(fs_info, KERN_ERR fmt, ##args)
4138 #define btrfs_warn_in_rcu(fs_info, fmt, args...) \
4139         btrfs_printk_in_rcu(fs_info, KERN_WARNING fmt, ##args)
4140 #define btrfs_notice_in_rcu(fs_info, fmt, args...) \
4141         btrfs_printk_in_rcu(fs_info, KERN_NOTICE fmt, ##args)
4142 #define btrfs_info_in_rcu(fs_info, fmt, args...) \
4143         btrfs_printk_in_rcu(fs_info, KERN_INFO fmt, ##args)
4144
4145 /*
4146  * Wrappers that use a ratelimited printk_in_rcu
4147  */
4148 #define btrfs_emerg_rl_in_rcu(fs_info, fmt, args...) \
4149         btrfs_printk_rl_in_rcu(fs_info, KERN_EMERG fmt, ##args)
4150 #define btrfs_alert_rl_in_rcu(fs_info, fmt, args...) \
4151         btrfs_printk_rl_in_rcu(fs_info, KERN_ALERT fmt, ##args)
4152 #define btrfs_crit_rl_in_rcu(fs_info, fmt, args...) \
4153         btrfs_printk_rl_in_rcu(fs_info, KERN_CRIT fmt, ##args)
4154 #define btrfs_err_rl_in_rcu(fs_info, fmt, args...) \
4155         btrfs_printk_rl_in_rcu(fs_info, KERN_ERR fmt, ##args)
4156 #define btrfs_warn_rl_in_rcu(fs_info, fmt, args...) \
4157         btrfs_printk_rl_in_rcu(fs_info, KERN_WARNING fmt, ##args)
4158 #define btrfs_notice_rl_in_rcu(fs_info, fmt, args...) \
4159         btrfs_printk_rl_in_rcu(fs_info, KERN_NOTICE fmt, ##args)
4160 #define btrfs_info_rl_in_rcu(fs_info, fmt, args...) \
4161         btrfs_printk_rl_in_rcu(fs_info, KERN_INFO fmt, ##args)
4162
4163 /*
4164  * Wrappers that use a ratelimited printk
4165  */
4166 #define btrfs_emerg_rl(fs_info, fmt, args...) \
4167         btrfs_printk_ratelimited(fs_info, KERN_EMERG fmt, ##args)
4168 #define btrfs_alert_rl(fs_info, fmt, args...) \
4169         btrfs_printk_ratelimited(fs_info, KERN_ALERT fmt, ##args)
4170 #define btrfs_crit_rl(fs_info, fmt, args...) \
4171         btrfs_printk_ratelimited(fs_info, KERN_CRIT fmt, ##args)
4172 #define btrfs_err_rl(fs_info, fmt, args...) \
4173         btrfs_printk_ratelimited(fs_info, KERN_ERR fmt, ##args)
4174 #define btrfs_warn_rl(fs_info, fmt, args...) \
4175         btrfs_printk_ratelimited(fs_info, KERN_WARNING fmt, ##args)
4176 #define btrfs_notice_rl(fs_info, fmt, args...) \
4177         btrfs_printk_ratelimited(fs_info, KERN_NOTICE fmt, ##args)
4178 #define btrfs_info_rl(fs_info, fmt, args...) \
4179         btrfs_printk_ratelimited(fs_info, KERN_INFO fmt, ##args)
4180 #ifdef DEBUG
4181 #define btrfs_debug(fs_info, fmt, args...) \
4182         btrfs_printk(fs_info, KERN_DEBUG fmt, ##args)
4183 #define btrfs_debug_in_rcu(fs_info, fmt, args...) \
4184         btrfs_printk_in_rcu(fs_info, KERN_DEBUG fmt, ##args)
4185 #define btrfs_debug_rl_in_rcu(fs_info, fmt, args...) \
4186         btrfs_printk_rl_in_rcu(fs_info, KERN_DEBUG fmt, ##args)
4187 #define btrfs_debug_rl(fs_info, fmt, args...) \
4188         btrfs_printk_ratelimited(fs_info, KERN_DEBUG fmt, ##args)
4189 #else
4190 #define btrfs_debug(fs_info, fmt, args...) \
4191     no_printk(KERN_DEBUG fmt, ##args)
4192 #define btrfs_debug_in_rcu(fs_info, fmt, args...) \
4193         no_printk(KERN_DEBUG fmt, ##args)
4194 #define btrfs_debug_rl_in_rcu(fs_info, fmt, args...) \
4195         no_printk(KERN_DEBUG fmt, ##args)
4196 #define btrfs_debug_rl(fs_info, fmt, args...) \
4197         no_printk(KERN_DEBUG fmt, ##args)
4198 #endif
4199
4200 #define btrfs_printk_in_rcu(fs_info, fmt, args...)      \
4201 do {                                                    \
4202         rcu_read_lock();                                \
4203         btrfs_printk(fs_info, fmt, ##args);             \
4204         rcu_read_unlock();                              \
4205 } while (0)
4206
4207 #define btrfs_printk_ratelimited(fs_info, fmt, args...)         \
4208 do {                                                            \
4209         static DEFINE_RATELIMIT_STATE(_rs,                      \
4210                 DEFAULT_RATELIMIT_INTERVAL,                     \
4211                 DEFAULT_RATELIMIT_BURST);                       \
4212         if (__ratelimit(&_rs))                                  \
4213                 btrfs_printk(fs_info, fmt, ##args);             \
4214 } while (0)
4215
4216 #define btrfs_printk_rl_in_rcu(fs_info, fmt, args...)           \
4217 do {                                                            \
4218         rcu_read_lock();                                        \
4219         btrfs_printk_ratelimited(fs_info, fmt, ##args);         \
4220         rcu_read_unlock();                                      \
4221 } while (0)
4222
4223 #ifdef CONFIG_BTRFS_ASSERT
4224
4225 __cold
4226 static inline void assfail(char *expr, char *file, int line)
4227 {
4228         pr_err("BTRFS: assertion failed: %s, file: %s, line: %d",
4229                expr, file, line);
4230         BUG();
4231 }
4232
4233 #define ASSERT(expr)    \
4234         (likely(expr) ? (void)0 : assfail(#expr, __FILE__, __LINE__))
4235 #else
4236 #define ASSERT(expr)    ((void)0)
4237 #endif
4238
4239 #define btrfs_assert()
4240 __printf(5, 6)
4241 __cold
4242 void __btrfs_std_error(struct btrfs_fs_info *fs_info, const char *function,
4243                      unsigned int line, int errno, const char *fmt, ...);
4244
4245 const char *btrfs_decode_error(int errno);
4246
4247 __cold
4248 void __btrfs_abort_transaction(struct btrfs_trans_handle *trans,
4249                                struct btrfs_root *root, const char *function,
4250                                unsigned int line, int errno);
4251
4252 #define btrfs_set_fs_incompat(__fs_info, opt) \
4253         __btrfs_set_fs_incompat((__fs_info), BTRFS_FEATURE_INCOMPAT_##opt)
4254
4255 static inline void __btrfs_set_fs_incompat(struct btrfs_fs_info *fs_info,
4256                                            u64 flag)
4257 {
4258         struct btrfs_super_block *disk_super;
4259         u64 features;
4260
4261         disk_super = fs_info->super_copy;
4262         features = btrfs_super_incompat_flags(disk_super);
4263         if (!(features & flag)) {
4264                 spin_lock(&fs_info->super_lock);
4265                 features = btrfs_super_incompat_flags(disk_super);
4266                 if (!(features & flag)) {
4267                         features |= flag;
4268                         btrfs_set_super_incompat_flags(disk_super, features);
4269                         btrfs_info(fs_info, "setting %llu feature flag",
4270                                          flag);
4271                 }
4272                 spin_unlock(&fs_info->super_lock);
4273         }
4274 }
4275
4276 #define btrfs_fs_incompat(fs_info, opt) \
4277         __btrfs_fs_incompat((fs_info), BTRFS_FEATURE_INCOMPAT_##opt)
4278
4279 static inline int __btrfs_fs_incompat(struct btrfs_fs_info *fs_info, u64 flag)
4280 {
4281         struct btrfs_super_block *disk_super;
4282         disk_super = fs_info->super_copy;
4283         return !!(btrfs_super_incompat_flags(disk_super) & flag);
4284 }
4285
4286 /*
4287  * Call btrfs_abort_transaction as early as possible when an error condition is
4288  * detected, that way the exact line number is reported.
4289  */
4290 #define btrfs_abort_transaction(trans, root, errno)             \
4291 do {                                                            \
4292         /* Report first abort since mount */                    \
4293         if (!test_and_set_bit(BTRFS_FS_STATE_TRANS_ABORTED,     \
4294                         &((root)->fs_info->fs_state))) {        \
4295                 WARN(1, KERN_DEBUG                              \
4296                 "BTRFS: Transaction aborted (error %d)\n",      \
4297                 (errno));                                       \
4298         }                                                       \
4299         __btrfs_abort_transaction((trans), (root), __func__,    \
4300                                   __LINE__, (errno));           \
4301 } while (0)
4302
4303 #define btrfs_std_error(fs_info, errno, fmt, args...)           \
4304 do {                                                            \
4305         __btrfs_std_error((fs_info), __func__, __LINE__,        \
4306                           (errno), fmt, ##args);                \
4307 } while (0)
4308
4309 __printf(5, 6)
4310 __cold
4311 void __btrfs_panic(struct btrfs_fs_info *fs_info, const char *function,
4312                    unsigned int line, int errno, const char *fmt, ...);
4313
4314 /*
4315  * If BTRFS_MOUNT_PANIC_ON_FATAL_ERROR is in mount_opt, __btrfs_panic
4316  * will panic().  Otherwise we BUG() here.
4317  */
4318 #define btrfs_panic(fs_info, errno, fmt, args...)                       \
4319 do {                                                                    \
4320         __btrfs_panic(fs_info, __func__, __LINE__, errno, fmt, ##args); \
4321         BUG();                                                          \
4322 } while (0)
4323
4324 /* acl.c */
4325 #ifdef CONFIG_BTRFS_FS_POSIX_ACL
4326 struct posix_acl *btrfs_get_acl(struct inode *inode, int type);
4327 int btrfs_set_acl(struct inode *inode, struct posix_acl *acl, int type);
4328 int btrfs_init_acl(struct btrfs_trans_handle *trans,
4329                    struct inode *inode, struct inode *dir);
4330 #else
4331 #define btrfs_get_acl NULL
4332 #define btrfs_set_acl NULL
4333 static inline int btrfs_init_acl(struct btrfs_trans_handle *trans,
4334                                  struct inode *inode, struct inode *dir)
4335 {
4336         return 0;
4337 }
4338 #endif
4339
4340 /* relocation.c */
4341 int btrfs_relocate_block_group(struct btrfs_root *root, u64 group_start);
4342 int btrfs_init_reloc_root(struct btrfs_trans_handle *trans,
4343                           struct btrfs_root *root);
4344 int btrfs_update_reloc_root(struct btrfs_trans_handle *trans,
4345                             struct btrfs_root *root);
4346 int btrfs_recover_relocation(struct btrfs_root *root);
4347 int btrfs_reloc_clone_csums(struct inode *inode, u64 file_pos, u64 len);
4348 int btrfs_reloc_cow_block(struct btrfs_trans_handle *trans,
4349                           struct btrfs_root *root, struct extent_buffer *buf,
4350                           struct extent_buffer *cow);
4351 void btrfs_reloc_pre_snapshot(struct btrfs_pending_snapshot *pending,
4352                               u64 *bytes_to_reserve);
4353 int btrfs_reloc_post_snapshot(struct btrfs_trans_handle *trans,
4354                               struct btrfs_pending_snapshot *pending);
4355
4356 /* scrub.c */
4357 int btrfs_scrub_dev(struct btrfs_fs_info *fs_info, u64 devid, u64 start,
4358                     u64 end, struct btrfs_scrub_progress *progress,
4359                     int readonly, int is_dev_replace);
4360 void btrfs_scrub_pause(struct btrfs_root *root);
4361 void btrfs_scrub_continue(struct btrfs_root *root);
4362 int btrfs_scrub_cancel(struct btrfs_fs_info *info);
4363 int btrfs_scrub_cancel_dev(struct btrfs_fs_info *info,
4364                            struct btrfs_device *dev);
4365 int btrfs_scrub_progress(struct btrfs_root *root, u64 devid,
4366                          struct btrfs_scrub_progress *progress);
4367
4368 /* dev-replace.c */
4369 void btrfs_bio_counter_inc_blocked(struct btrfs_fs_info *fs_info);
4370 void btrfs_bio_counter_inc_noblocked(struct btrfs_fs_info *fs_info);
4371 void btrfs_bio_counter_sub(struct btrfs_fs_info *fs_info, s64 amount);
4372
4373 static inline void btrfs_bio_counter_dec(struct btrfs_fs_info *fs_info)
4374 {
4375         btrfs_bio_counter_sub(fs_info, 1);
4376 }
4377
4378 /* reada.c */
4379 struct reada_control {
4380         struct btrfs_root       *root;          /* tree to prefetch */
4381         struct btrfs_key        key_start;
4382         struct btrfs_key        key_end;        /* exclusive */
4383         atomic_t                elems;
4384         struct kref             refcnt;
4385         wait_queue_head_t       wait;
4386 };
4387 struct reada_control *btrfs_reada_add(struct btrfs_root *root,
4388                               struct btrfs_key *start, struct btrfs_key *end);
4389 int btrfs_reada_wait(void *handle);
4390 void btrfs_reada_detach(void *handle);
4391 int btree_readahead_hook(struct btrfs_root *root, struct extent_buffer *eb,
4392                          u64 start, int err);
4393
4394 static inline int is_fstree(u64 rootid)
4395 {
4396         if (rootid == BTRFS_FS_TREE_OBJECTID ||
4397             ((s64)rootid >= (s64)BTRFS_FIRST_FREE_OBJECTID &&
4398               !btrfs_qgroup_level(rootid)))
4399                 return 1;
4400         return 0;
4401 }
4402
4403 static inline int btrfs_defrag_cancelled(struct btrfs_fs_info *fs_info)
4404 {
4405         return signal_pending(current);
4406 }
4407
4408 /* Sanity test specific functions */
4409 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4410 void btrfs_test_destroy_inode(struct inode *inode);
4411 #endif
4412
4413 static inline int btrfs_test_is_dummy_root(struct btrfs_root *root)
4414 {
4415 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4416         if (unlikely(test_bit(BTRFS_ROOT_DUMMY_ROOT, &root->state)))
4417                 return 1;
4418 #endif
4419         return 0;
4420 }
4421
4422 #endif