OSDN Git Service

mm: convert i_mmap_mutex to rwsem
[sagit-ice-cold/kernel_xiaomi_msm8998.git] / include / linux / fs.h
1 #ifndef _LINUX_FS_H
2 #define _LINUX_FS_H
3
4
5 #include <linux/linkage.h>
6 #include <linux/wait.h>
7 #include <linux/kdev_t.h>
8 #include <linux/dcache.h>
9 #include <linux/path.h>
10 #include <linux/stat.h>
11 #include <linux/cache.h>
12 #include <linux/list.h>
13 #include <linux/list_lru.h>
14 #include <linux/llist.h>
15 #include <linux/radix-tree.h>
16 #include <linux/rbtree.h>
17 #include <linux/init.h>
18 #include <linux/pid.h>
19 #include <linux/bug.h>
20 #include <linux/mutex.h>
21 #include <linux/rwsem.h>
22 #include <linux/capability.h>
23 #include <linux/semaphore.h>
24 #include <linux/fiemap.h>
25 #include <linux/rculist_bl.h>
26 #include <linux/atomic.h>
27 #include <linux/shrinker.h>
28 #include <linux/migrate_mode.h>
29 #include <linux/uidgid.h>
30 #include <linux/lockdep.h>
31 #include <linux/percpu-rwsem.h>
32 #include <linux/blk_types.h>
33
34 #include <asm/byteorder.h>
35 #include <uapi/linux/fs.h>
36
37 struct export_operations;
38 struct hd_geometry;
39 struct iovec;
40 struct nameidata;
41 struct kiocb;
42 struct kobject;
43 struct pipe_inode_info;
44 struct poll_table_struct;
45 struct kstatfs;
46 struct vm_area_struct;
47 struct vfsmount;
48 struct cred;
49 struct swap_info_struct;
50 struct seq_file;
51 struct workqueue_struct;
52 struct iov_iter;
53
54 extern void __init inode_init(void);
55 extern void __init inode_init_early(void);
56 extern void __init files_init(unsigned long);
57
58 extern struct files_stat_struct files_stat;
59 extern unsigned long get_max_files(void);
60 extern int sysctl_nr_open;
61 extern struct inodes_stat_t inodes_stat;
62 extern int leases_enable, lease_break_time;
63 extern int sysctl_protected_symlinks;
64 extern int sysctl_protected_hardlinks;
65
66 struct buffer_head;
67 typedef int (get_block_t)(struct inode *inode, sector_t iblock,
68                         struct buffer_head *bh_result, int create);
69 typedef void (dio_iodone_t)(struct kiocb *iocb, loff_t offset,
70                         ssize_t bytes, void *private);
71
72 #define MAY_EXEC                0x00000001
73 #define MAY_WRITE               0x00000002
74 #define MAY_READ                0x00000004
75 #define MAY_APPEND              0x00000008
76 #define MAY_ACCESS              0x00000010
77 #define MAY_OPEN                0x00000020
78 #define MAY_CHDIR               0x00000040
79 /* called from RCU mode, don't block */
80 #define MAY_NOT_BLOCK           0x00000080
81
82 /*
83  * flags in file.f_mode.  Note that FMODE_READ and FMODE_WRITE must correspond
84  * to O_WRONLY and O_RDWR via the strange trick in __dentry_open()
85  */
86
87 /* file is open for reading */
88 #define FMODE_READ              ((__force fmode_t)0x1)
89 /* file is open for writing */
90 #define FMODE_WRITE             ((__force fmode_t)0x2)
91 /* file is seekable */
92 #define FMODE_LSEEK             ((__force fmode_t)0x4)
93 /* file can be accessed using pread */
94 #define FMODE_PREAD             ((__force fmode_t)0x8)
95 /* file can be accessed using pwrite */
96 #define FMODE_PWRITE            ((__force fmode_t)0x10)
97 /* File is opened for execution with sys_execve / sys_uselib */
98 #define FMODE_EXEC              ((__force fmode_t)0x20)
99 /* File is opened with O_NDELAY (only set for block devices) */
100 #define FMODE_NDELAY            ((__force fmode_t)0x40)
101 /* File is opened with O_EXCL (only set for block devices) */
102 #define FMODE_EXCL              ((__force fmode_t)0x80)
103 /* File is opened using open(.., 3, ..) and is writeable only for ioctls
104    (specialy hack for floppy.c) */
105 #define FMODE_WRITE_IOCTL       ((__force fmode_t)0x100)
106 /* 32bit hashes as llseek() offset (for directories) */
107 #define FMODE_32BITHASH         ((__force fmode_t)0x200)
108 /* 64bit hashes as llseek() offset (for directories) */
109 #define FMODE_64BITHASH         ((__force fmode_t)0x400)
110
111 /*
112  * Don't update ctime and mtime.
113  *
114  * Currently a special hack for the XFS open_by_handle ioctl, but we'll
115  * hopefully graduate it to a proper O_CMTIME flag supported by open(2) soon.
116  */
117 #define FMODE_NOCMTIME          ((__force fmode_t)0x800)
118
119 /* Expect random access pattern */
120 #define FMODE_RANDOM            ((__force fmode_t)0x1000)
121
122 /* File is huge (eg. /dev/kmem): treat loff_t as unsigned */
123 #define FMODE_UNSIGNED_OFFSET   ((__force fmode_t)0x2000)
124
125 /* File is opened with O_PATH; almost nothing can be done with it */
126 #define FMODE_PATH              ((__force fmode_t)0x4000)
127
128 /* File needs atomic accesses to f_pos */
129 #define FMODE_ATOMIC_POS        ((__force fmode_t)0x8000)
130 /* Write access to underlying fs */
131 #define FMODE_WRITER            ((__force fmode_t)0x10000)
132 /* Has read method(s) */
133 #define FMODE_CAN_READ          ((__force fmode_t)0x20000)
134 /* Has write method(s) */
135 #define FMODE_CAN_WRITE         ((__force fmode_t)0x40000)
136
137 /* File was opened by fanotify and shouldn't generate fanotify events */
138 #define FMODE_NONOTIFY          ((__force fmode_t)0x1000000)
139
140 /*
141  * Flag for rw_copy_check_uvector and compat_rw_copy_check_uvector
142  * that indicates that they should check the contents of the iovec are
143  * valid, but not check the memory that the iovec elements
144  * points too.
145  */
146 #define CHECK_IOVEC_ONLY -1
147
148 /*
149  * The below are the various read and write types that we support. Some of
150  * them include behavioral modifiers that send information down to the
151  * block layer and IO scheduler. Terminology:
152  *
153  *      The block layer uses device plugging to defer IO a little bit, in
154  *      the hope that we will see more IO very shortly. This increases
155  *      coalescing of adjacent IO and thus reduces the number of IOs we
156  *      have to send to the device. It also allows for better queuing,
157  *      if the IO isn't mergeable. If the caller is going to be waiting
158  *      for the IO, then he must ensure that the device is unplugged so
159  *      that the IO is dispatched to the driver.
160  *
161  *      All IO is handled async in Linux. This is fine for background
162  *      writes, but for reads or writes that someone waits for completion
163  *      on, we want to notify the block layer and IO scheduler so that they
164  *      know about it. That allows them to make better scheduling
165  *      decisions. So when the below references 'sync' and 'async', it
166  *      is referencing this priority hint.
167  *
168  * With that in mind, the available types are:
169  *
170  * READ                 A normal read operation. Device will be plugged.
171  * READ_SYNC            A synchronous read. Device is not plugged, caller can
172  *                      immediately wait on this read without caring about
173  *                      unplugging.
174  * READA                Used for read-ahead operations. Lower priority, and the
175  *                      block layer could (in theory) choose to ignore this
176  *                      request if it runs into resource problems.
177  * WRITE                A normal async write. Device will be plugged.
178  * WRITE_SYNC           Synchronous write. Identical to WRITE, but passes down
179  *                      the hint that someone will be waiting on this IO
180  *                      shortly. The write equivalent of READ_SYNC.
181  * WRITE_ODIRECT        Special case write for O_DIRECT only.
182  * WRITE_FLUSH          Like WRITE_SYNC but with preceding cache flush.
183  * WRITE_FUA            Like WRITE_SYNC but data is guaranteed to be on
184  *                      non-volatile media on completion.
185  * WRITE_FLUSH_FUA      Combination of WRITE_FLUSH and FUA. The IO is preceded
186  *                      by a cache flush and data is guaranteed to be on
187  *                      non-volatile media on completion.
188  *
189  */
190 #define RW_MASK                 REQ_WRITE
191 #define RWA_MASK                REQ_RAHEAD
192
193 #define READ                    0
194 #define WRITE                   RW_MASK
195 #define READA                   RWA_MASK
196
197 #define READ_SYNC               (READ | REQ_SYNC)
198 #define WRITE_SYNC              (WRITE | REQ_SYNC | REQ_NOIDLE)
199 #define WRITE_ODIRECT           (WRITE | REQ_SYNC)
200 #define WRITE_FLUSH             (WRITE | REQ_SYNC | REQ_NOIDLE | REQ_FLUSH)
201 #define WRITE_FUA               (WRITE | REQ_SYNC | REQ_NOIDLE | REQ_FUA)
202 #define WRITE_FLUSH_FUA         (WRITE | REQ_SYNC | REQ_NOIDLE | REQ_FLUSH | REQ_FUA)
203
204 /*
205  * Attribute flags.  These should be or-ed together to figure out what
206  * has been changed!
207  */
208 #define ATTR_MODE       (1 << 0)
209 #define ATTR_UID        (1 << 1)
210 #define ATTR_GID        (1 << 2)
211 #define ATTR_SIZE       (1 << 3)
212 #define ATTR_ATIME      (1 << 4)
213 #define ATTR_MTIME      (1 << 5)
214 #define ATTR_CTIME      (1 << 6)
215 #define ATTR_ATIME_SET  (1 << 7)
216 #define ATTR_MTIME_SET  (1 << 8)
217 #define ATTR_FORCE      (1 << 9) /* Not a change, but a change it */
218 #define ATTR_ATTR_FLAG  (1 << 10)
219 #define ATTR_KILL_SUID  (1 << 11)
220 #define ATTR_KILL_SGID  (1 << 12)
221 #define ATTR_FILE       (1 << 13)
222 #define ATTR_KILL_PRIV  (1 << 14)
223 #define ATTR_OPEN       (1 << 15) /* Truncating from open(O_TRUNC) */
224 #define ATTR_TIMES_SET  (1 << 16)
225
226 /*
227  * Whiteout is represented by a char device.  The following constants define the
228  * mode and device number to use.
229  */
230 #define WHITEOUT_MODE 0
231 #define WHITEOUT_DEV 0
232
233 /*
234  * This is the Inode Attributes structure, used for notify_change().  It
235  * uses the above definitions as flags, to know which values have changed.
236  * Also, in this manner, a Filesystem can look at only the values it cares
237  * about.  Basically, these are the attributes that the VFS layer can
238  * request to change from the FS layer.
239  *
240  * Derek Atkins <warlord@MIT.EDU> 94-10-20
241  */
242 struct iattr {
243         unsigned int    ia_valid;
244         umode_t         ia_mode;
245         kuid_t          ia_uid;
246         kgid_t          ia_gid;
247         loff_t          ia_size;
248         struct timespec ia_atime;
249         struct timespec ia_mtime;
250         struct timespec ia_ctime;
251
252         /*
253          * Not an attribute, but an auxiliary info for filesystems wanting to
254          * implement an ftruncate() like method.  NOTE: filesystem should
255          * check for (ia_valid & ATTR_FILE), and not for (ia_file != NULL).
256          */
257         struct file     *ia_file;
258 };
259
260 /*
261  * Includes for diskquotas.
262  */
263 #include <linux/quota.h>
264
265 /*
266  * Maximum number of layers of fs stack.  Needs to be limited to
267  * prevent kernel stack overflow
268  */
269 #define FILESYSTEM_MAX_STACK_DEPTH 2
270
271 /** 
272  * enum positive_aop_returns - aop return codes with specific semantics
273  *
274  * @AOP_WRITEPAGE_ACTIVATE: Informs the caller that page writeback has
275  *                          completed, that the page is still locked, and
276  *                          should be considered active.  The VM uses this hint
277  *                          to return the page to the active list -- it won't
278  *                          be a candidate for writeback again in the near
279  *                          future.  Other callers must be careful to unlock
280  *                          the page if they get this return.  Returned by
281  *                          writepage(); 
282  *
283  * @AOP_TRUNCATED_PAGE: The AOP method that was handed a locked page has
284  *                      unlocked it and the page might have been truncated.
285  *                      The caller should back up to acquiring a new page and
286  *                      trying again.  The aop will be taking reasonable
287  *                      precautions not to livelock.  If the caller held a page
288  *                      reference, it should drop it before retrying.  Returned
289  *                      by readpage().
290  *
291  * address_space_operation functions return these large constants to indicate
292  * special semantics to the caller.  These are much larger than the bytes in a
293  * page to allow for functions that return the number of bytes operated on in a
294  * given page.
295  */
296
297 enum positive_aop_returns {
298         AOP_WRITEPAGE_ACTIVATE  = 0x80000,
299         AOP_TRUNCATED_PAGE      = 0x80001,
300 };
301
302 #define AOP_FLAG_UNINTERRUPTIBLE        0x0001 /* will not do a short write */
303 #define AOP_FLAG_CONT_EXPAND            0x0002 /* called from cont_expand */
304 #define AOP_FLAG_NOFS                   0x0004 /* used by filesystem to direct
305                                                 * helper code (eg buffer layer)
306                                                 * to clear GFP_FS from alloc */
307
308 /*
309  * oh the beauties of C type declarations.
310  */
311 struct page;
312 struct address_space;
313 struct writeback_control;
314
315 /*
316  * "descriptor" for what we're up to with a read.
317  * This allows us to use the same read code yet
318  * have multiple different users of the data that
319  * we read from a file.
320  *
321  * The simplest case just copies the data to user
322  * mode.
323  */
324 typedef struct {
325         size_t written;
326         size_t count;
327         union {
328                 char __user *buf;
329                 void *data;
330         } arg;
331         int error;
332 } read_descriptor_t;
333
334 typedef int (*read_actor_t)(read_descriptor_t *, struct page *,
335                 unsigned long, unsigned long);
336
337 struct address_space_operations {
338         int (*writepage)(struct page *page, struct writeback_control *wbc);
339         int (*readpage)(struct file *, struct page *);
340
341         /* Write back some dirty pages from this mapping. */
342         int (*writepages)(struct address_space *, struct writeback_control *);
343
344         /* Set a page dirty.  Return true if this dirtied it */
345         int (*set_page_dirty)(struct page *page);
346
347         int (*readpages)(struct file *filp, struct address_space *mapping,
348                         struct list_head *pages, unsigned nr_pages);
349
350         int (*write_begin)(struct file *, struct address_space *mapping,
351                                 loff_t pos, unsigned len, unsigned flags,
352                                 struct page **pagep, void **fsdata);
353         int (*write_end)(struct file *, struct address_space *mapping,
354                                 loff_t pos, unsigned len, unsigned copied,
355                                 struct page *page, void *fsdata);
356
357         /* Unfortunately this kludge is needed for FIBMAP. Don't use it */
358         sector_t (*bmap)(struct address_space *, sector_t);
359         void (*invalidatepage) (struct page *, unsigned int, unsigned int);
360         int (*releasepage) (struct page *, gfp_t);
361         void (*freepage)(struct page *);
362         ssize_t (*direct_IO)(int, struct kiocb *, struct iov_iter *iter, loff_t offset);
363         int (*get_xip_mem)(struct address_space *, pgoff_t, int,
364                                                 void **, unsigned long *);
365         /*
366          * migrate the contents of a page to the specified target. If
367          * migrate_mode is MIGRATE_ASYNC, it must not block.
368          */
369         int (*migratepage) (struct address_space *,
370                         struct page *, struct page *, enum migrate_mode);
371         int (*launder_page) (struct page *);
372         int (*is_partially_uptodate) (struct page *, unsigned long,
373                                         unsigned long);
374         void (*is_dirty_writeback) (struct page *, bool *, bool *);
375         int (*error_remove_page)(struct address_space *, struct page *);
376
377         /* swapfile support */
378         int (*swap_activate)(struct swap_info_struct *sis, struct file *file,
379                                 sector_t *span);
380         void (*swap_deactivate)(struct file *file);
381 };
382
383 extern const struct address_space_operations empty_aops;
384
385 /*
386  * pagecache_write_begin/pagecache_write_end must be used by general code
387  * to write into the pagecache.
388  */
389 int pagecache_write_begin(struct file *, struct address_space *mapping,
390                                 loff_t pos, unsigned len, unsigned flags,
391                                 struct page **pagep, void **fsdata);
392
393 int pagecache_write_end(struct file *, struct address_space *mapping,
394                                 loff_t pos, unsigned len, unsigned copied,
395                                 struct page *page, void *fsdata);
396
397 struct backing_dev_info;
398 struct address_space {
399         struct inode            *host;          /* owner: inode, block_device */
400         struct radix_tree_root  page_tree;      /* radix tree of all pages */
401         spinlock_t              tree_lock;      /* and lock protecting it */
402         atomic_t                i_mmap_writable;/* count VM_SHARED mappings */
403         struct rb_root          i_mmap;         /* tree of private and shared mappings */
404         struct list_head        i_mmap_nonlinear;/*list VM_NONLINEAR mappings */
405         struct rw_semaphore     i_mmap_rwsem;   /* protect tree, count, list */
406         /* Protected by tree_lock together with the radix tree */
407         unsigned long           nrpages;        /* number of total pages */
408         unsigned long           nrshadows;      /* number of shadow entries */
409         pgoff_t                 writeback_index;/* writeback starts here */
410         const struct address_space_operations *a_ops;   /* methods */
411         unsigned long           flags;          /* error bits/gfp mask */
412         struct backing_dev_info *backing_dev_info; /* device readahead, etc */
413         spinlock_t              private_lock;   /* for use by the address_space */
414         struct list_head        private_list;   /* ditto */
415         void                    *private_data;  /* ditto */
416 } __attribute__((aligned(sizeof(long))));
417         /*
418          * On most architectures that alignment is already the case; but
419          * must be enforced here for CRIS, to let the least significant bit
420          * of struct page's "mapping" pointer be used for PAGE_MAPPING_ANON.
421          */
422 struct request_queue;
423
424 struct block_device {
425         dev_t                   bd_dev;  /* not a kdev_t - it's a search key */
426         int                     bd_openers;
427         struct inode *          bd_inode;       /* will die */
428         struct super_block *    bd_super;
429         struct mutex            bd_mutex;       /* open/close mutex */
430         struct list_head        bd_inodes;
431         void *                  bd_claiming;
432         void *                  bd_holder;
433         int                     bd_holders;
434         bool                    bd_write_holder;
435 #ifdef CONFIG_SYSFS
436         struct list_head        bd_holder_disks;
437 #endif
438         struct block_device *   bd_contains;
439         unsigned                bd_block_size;
440         struct hd_struct *      bd_part;
441         /* number of times partitions within this device have been opened. */
442         unsigned                bd_part_count;
443         int                     bd_invalidated;
444         struct gendisk *        bd_disk;
445         struct request_queue *  bd_queue;
446         struct list_head        bd_list;
447         /*
448          * Private data.  You must have bd_claim'ed the block_device
449          * to use this.  NOTE:  bd_claim allows an owner to claim
450          * the same device multiple times, the owner must take special
451          * care to not mess up bd_private for that case.
452          */
453         unsigned long           bd_private;
454
455         /* The counter of freeze processes */
456         int                     bd_fsfreeze_count;
457         /* Mutex for freeze */
458         struct mutex            bd_fsfreeze_mutex;
459 };
460
461 /*
462  * Radix-tree tags, for tagging dirty and writeback pages within the pagecache
463  * radix trees
464  */
465 #define PAGECACHE_TAG_DIRTY     0
466 #define PAGECACHE_TAG_WRITEBACK 1
467 #define PAGECACHE_TAG_TOWRITE   2
468
469 int mapping_tagged(struct address_space *mapping, int tag);
470
471 static inline void i_mmap_lock_write(struct address_space *mapping)
472 {
473         down_write(&mapping->i_mmap_rwsem);
474 }
475
476 static inline void i_mmap_unlock_write(struct address_space *mapping)
477 {
478         up_write(&mapping->i_mmap_rwsem);
479 }
480
481 /*
482  * Might pages of this file be mapped into userspace?
483  */
484 static inline int mapping_mapped(struct address_space *mapping)
485 {
486         return  !RB_EMPTY_ROOT(&mapping->i_mmap) ||
487                 !list_empty(&mapping->i_mmap_nonlinear);
488 }
489
490 /*
491  * Might pages of this file have been modified in userspace?
492  * Note that i_mmap_writable counts all VM_SHARED vmas: do_mmap_pgoff
493  * marks vma as VM_SHARED if it is shared, and the file was opened for
494  * writing i.e. vma may be mprotected writable even if now readonly.
495  *
496  * If i_mmap_writable is negative, no new writable mappings are allowed. You
497  * can only deny writable mappings, if none exists right now.
498  */
499 static inline int mapping_writably_mapped(struct address_space *mapping)
500 {
501         return atomic_read(&mapping->i_mmap_writable) > 0;
502 }
503
504 static inline int mapping_map_writable(struct address_space *mapping)
505 {
506         return atomic_inc_unless_negative(&mapping->i_mmap_writable) ?
507                 0 : -EPERM;
508 }
509
510 static inline void mapping_unmap_writable(struct address_space *mapping)
511 {
512         atomic_dec(&mapping->i_mmap_writable);
513 }
514
515 static inline int mapping_deny_writable(struct address_space *mapping)
516 {
517         return atomic_dec_unless_positive(&mapping->i_mmap_writable) ?
518                 0 : -EBUSY;
519 }
520
521 static inline void mapping_allow_writable(struct address_space *mapping)
522 {
523         atomic_inc(&mapping->i_mmap_writable);
524 }
525
526 /*
527  * Use sequence counter to get consistent i_size on 32-bit processors.
528  */
529 #if BITS_PER_LONG==32 && defined(CONFIG_SMP)
530 #include <linux/seqlock.h>
531 #define __NEED_I_SIZE_ORDERED
532 #define i_size_ordered_init(inode) seqcount_init(&inode->i_size_seqcount)
533 #else
534 #define i_size_ordered_init(inode) do { } while (0)
535 #endif
536
537 struct posix_acl;
538 #define ACL_NOT_CACHED ((void *)(-1))
539
540 #define IOP_FASTPERM    0x0001
541 #define IOP_LOOKUP      0x0002
542 #define IOP_NOFOLLOW    0x0004
543
544 /*
545  * Keep mostly read-only and often accessed (especially for
546  * the RCU path lookup and 'stat' data) fields at the beginning
547  * of the 'struct inode'
548  */
549 struct inode {
550         umode_t                 i_mode;
551         unsigned short          i_opflags;
552         kuid_t                  i_uid;
553         kgid_t                  i_gid;
554         unsigned int            i_flags;
555
556 #ifdef CONFIG_FS_POSIX_ACL
557         struct posix_acl        *i_acl;
558         struct posix_acl        *i_default_acl;
559 #endif
560
561         const struct inode_operations   *i_op;
562         struct super_block      *i_sb;
563         struct address_space    *i_mapping;
564
565 #ifdef CONFIG_SECURITY
566         void                    *i_security;
567 #endif
568
569         /* Stat data, not accessed from path walking */
570         unsigned long           i_ino;
571         /*
572          * Filesystems may only read i_nlink directly.  They shall use the
573          * following functions for modification:
574          *
575          *    (set|clear|inc|drop)_nlink
576          *    inode_(inc|dec)_link_count
577          */
578         union {
579                 const unsigned int i_nlink;
580                 unsigned int __i_nlink;
581         };
582         dev_t                   i_rdev;
583         loff_t                  i_size;
584         struct timespec         i_atime;
585         struct timespec         i_mtime;
586         struct timespec         i_ctime;
587         spinlock_t              i_lock; /* i_blocks, i_bytes, maybe i_size */
588         unsigned short          i_bytes;
589         unsigned int            i_blkbits;
590         blkcnt_t                i_blocks;
591
592 #ifdef __NEED_I_SIZE_ORDERED
593         seqcount_t              i_size_seqcount;
594 #endif
595
596         /* Misc */
597         unsigned long           i_state;
598         struct mutex            i_mutex;
599
600         unsigned long           dirtied_when;   /* jiffies of first dirtying */
601
602         struct hlist_node       i_hash;
603         struct list_head        i_wb_list;      /* backing dev IO list */
604         struct list_head        i_lru;          /* inode LRU list */
605         struct list_head        i_sb_list;
606         union {
607                 struct hlist_head       i_dentry;
608                 struct rcu_head         i_rcu;
609         };
610         u64                     i_version;
611         atomic_t                i_count;
612         atomic_t                i_dio_count;
613         atomic_t                i_writecount;
614 #ifdef CONFIG_IMA
615         atomic_t                i_readcount; /* struct files open RO */
616 #endif
617         const struct file_operations    *i_fop; /* former ->i_op->default_file_ops */
618         struct file_lock        *i_flock;
619         struct address_space    i_data;
620         struct list_head        i_devices;
621         union {
622                 struct pipe_inode_info  *i_pipe;
623                 struct block_device     *i_bdev;
624                 struct cdev             *i_cdev;
625         };
626
627         __u32                   i_generation;
628
629 #ifdef CONFIG_FSNOTIFY
630         __u32                   i_fsnotify_mask; /* all events this inode cares about */
631         struct hlist_head       i_fsnotify_marks;
632 #endif
633
634         void                    *i_private; /* fs or device private pointer */
635 };
636
637 static inline int inode_unhashed(struct inode *inode)
638 {
639         return hlist_unhashed(&inode->i_hash);
640 }
641
642 /*
643  * inode->i_mutex nesting subclasses for the lock validator:
644  *
645  * 0: the object of the current VFS operation
646  * 1: parent
647  * 2: child/target
648  * 3: xattr
649  * 4: second non-directory
650  * 5: second parent (when locking independent directories in rename)
651  *
652  * I_MUTEX_NONDIR2 is for certain operations (such as rename) which lock two
653  * non-directories at once.
654  *
655  * The locking order between these classes is
656  * parent[2] -> child -> grandchild -> normal -> xattr -> second non-directory
657  */
658 enum inode_i_mutex_lock_class
659 {
660         I_MUTEX_NORMAL,
661         I_MUTEX_PARENT,
662         I_MUTEX_CHILD,
663         I_MUTEX_XATTR,
664         I_MUTEX_NONDIR2,
665         I_MUTEX_PARENT2,
666 };
667
668 void lock_two_nondirectories(struct inode *, struct inode*);
669 void unlock_two_nondirectories(struct inode *, struct inode*);
670
671 /*
672  * NOTE: in a 32bit arch with a preemptable kernel and
673  * an UP compile the i_size_read/write must be atomic
674  * with respect to the local cpu (unlike with preempt disabled),
675  * but they don't need to be atomic with respect to other cpus like in
676  * true SMP (so they need either to either locally disable irq around
677  * the read or for example on x86 they can be still implemented as a
678  * cmpxchg8b without the need of the lock prefix). For SMP compiles
679  * and 64bit archs it makes no difference if preempt is enabled or not.
680  */
681 static inline loff_t i_size_read(const struct inode *inode)
682 {
683 #if BITS_PER_LONG==32 && defined(CONFIG_SMP)
684         loff_t i_size;
685         unsigned int seq;
686
687         do {
688                 seq = read_seqcount_begin(&inode->i_size_seqcount);
689                 i_size = inode->i_size;
690         } while (read_seqcount_retry(&inode->i_size_seqcount, seq));
691         return i_size;
692 #elif BITS_PER_LONG==32 && defined(CONFIG_PREEMPT)
693         loff_t i_size;
694
695         preempt_disable();
696         i_size = inode->i_size;
697         preempt_enable();
698         return i_size;
699 #else
700         return inode->i_size;
701 #endif
702 }
703
704 /*
705  * NOTE: unlike i_size_read(), i_size_write() does need locking around it
706  * (normally i_mutex), otherwise on 32bit/SMP an update of i_size_seqcount
707  * can be lost, resulting in subsequent i_size_read() calls spinning forever.
708  */
709 static inline void i_size_write(struct inode *inode, loff_t i_size)
710 {
711 #if BITS_PER_LONG==32 && defined(CONFIG_SMP)
712         preempt_disable();
713         write_seqcount_begin(&inode->i_size_seqcount);
714         inode->i_size = i_size;
715         write_seqcount_end(&inode->i_size_seqcount);
716         preempt_enable();
717 #elif BITS_PER_LONG==32 && defined(CONFIG_PREEMPT)
718         preempt_disable();
719         inode->i_size = i_size;
720         preempt_enable();
721 #else
722         inode->i_size = i_size;
723 #endif
724 }
725
726 /* Helper functions so that in most cases filesystems will
727  * not need to deal directly with kuid_t and kgid_t and can
728  * instead deal with the raw numeric values that are stored
729  * in the filesystem.
730  */
731 static inline uid_t i_uid_read(const struct inode *inode)
732 {
733         return from_kuid(&init_user_ns, inode->i_uid);
734 }
735
736 static inline gid_t i_gid_read(const struct inode *inode)
737 {
738         return from_kgid(&init_user_ns, inode->i_gid);
739 }
740
741 static inline void i_uid_write(struct inode *inode, uid_t uid)
742 {
743         inode->i_uid = make_kuid(&init_user_ns, uid);
744 }
745
746 static inline void i_gid_write(struct inode *inode, gid_t gid)
747 {
748         inode->i_gid = make_kgid(&init_user_ns, gid);
749 }
750
751 static inline unsigned iminor(const struct inode *inode)
752 {
753         return MINOR(inode->i_rdev);
754 }
755
756 static inline unsigned imajor(const struct inode *inode)
757 {
758         return MAJOR(inode->i_rdev);
759 }
760
761 extern struct block_device *I_BDEV(struct inode *inode);
762
763 struct fown_struct {
764         rwlock_t lock;          /* protects pid, uid, euid fields */
765         struct pid *pid;        /* pid or -pgrp where SIGIO should be sent */
766         enum pid_type pid_type; /* Kind of process group SIGIO should be sent to */
767         kuid_t uid, euid;       /* uid/euid of process setting the owner */
768         int signum;             /* posix.1b rt signal to be delivered on IO */
769 };
770
771 /*
772  * Track a single file's readahead state
773  */
774 struct file_ra_state {
775         pgoff_t start;                  /* where readahead started */
776         unsigned int size;              /* # of readahead pages */
777         unsigned int async_size;        /* do asynchronous readahead when
778                                            there are only # of pages ahead */
779
780         unsigned int ra_pages;          /* Maximum readahead window */
781         unsigned int mmap_miss;         /* Cache miss stat for mmap accesses */
782         loff_t prev_pos;                /* Cache last read() position */
783 };
784
785 /*
786  * Check if @index falls in the readahead windows.
787  */
788 static inline int ra_has_index(struct file_ra_state *ra, pgoff_t index)
789 {
790         return (index >= ra->start &&
791                 index <  ra->start + ra->size);
792 }
793
794 struct file {
795         union {
796                 struct llist_node       fu_llist;
797                 struct rcu_head         fu_rcuhead;
798         } f_u;
799         struct path             f_path;
800         struct inode            *f_inode;       /* cached value */
801         const struct file_operations    *f_op;
802
803         /*
804          * Protects f_ep_links, f_flags.
805          * Must not be taken from IRQ context.
806          */
807         spinlock_t              f_lock;
808         atomic_long_t           f_count;
809         unsigned int            f_flags;
810         fmode_t                 f_mode;
811         struct mutex            f_pos_lock;
812         loff_t                  f_pos;
813         struct fown_struct      f_owner;
814         const struct cred       *f_cred;
815         struct file_ra_state    f_ra;
816
817         u64                     f_version;
818 #ifdef CONFIG_SECURITY
819         void                    *f_security;
820 #endif
821         /* needed for tty driver, and maybe others */
822         void                    *private_data;
823
824 #ifdef CONFIG_EPOLL
825         /* Used by fs/eventpoll.c to link all the hooks to this file */
826         struct list_head        f_ep_links;
827         struct list_head        f_tfile_llink;
828 #endif /* #ifdef CONFIG_EPOLL */
829         struct address_space    *f_mapping;
830 } __attribute__((aligned(4)));  /* lest something weird decides that 2 is OK */
831
832 struct file_handle {
833         __u32 handle_bytes;
834         int handle_type;
835         /* file identifier */
836         unsigned char f_handle[0];
837 };
838
839 static inline struct file *get_file(struct file *f)
840 {
841         atomic_long_inc(&f->f_count);
842         return f;
843 }
844 #define fput_atomic(x)  atomic_long_add_unless(&(x)->f_count, -1, 1)
845 #define file_count(x)   atomic_long_read(&(x)->f_count)
846
847 #define MAX_NON_LFS     ((1UL<<31) - 1)
848
849 /* Page cache limit. The filesystems should put that into their s_maxbytes 
850    limits, otherwise bad things can happen in VM. */ 
851 #if BITS_PER_LONG==32
852 #define MAX_LFS_FILESIZE        (((loff_t)PAGE_CACHE_SIZE << (BITS_PER_LONG-1))-1) 
853 #elif BITS_PER_LONG==64
854 #define MAX_LFS_FILESIZE        ((loff_t)0x7fffffffffffffffLL)
855 #endif
856
857 #define FL_POSIX        1
858 #define FL_FLOCK        2
859 #define FL_DELEG        4       /* NFSv4 delegation */
860 #define FL_ACCESS       8       /* not trying to lock, just looking */
861 #define FL_EXISTS       16      /* when unlocking, test for existence */
862 #define FL_LEASE        32      /* lease held on this file */
863 #define FL_CLOSE        64      /* unlock on close */
864 #define FL_SLEEP        128     /* A blocking lock */
865 #define FL_DOWNGRADE_PENDING    256 /* Lease is being downgraded */
866 #define FL_UNLOCK_PENDING       512 /* Lease is being broken */
867 #define FL_OFDLCK       1024    /* lock is "owned" by struct file */
868
869 /*
870  * Special return value from posix_lock_file() and vfs_lock_file() for
871  * asynchronous locking.
872  */
873 #define FILE_LOCK_DEFERRED 1
874
875 /* legacy typedef, should eventually be removed */
876 typedef void *fl_owner_t;
877
878 struct file_lock_operations {
879         void (*fl_copy_lock)(struct file_lock *, struct file_lock *);
880         void (*fl_release_private)(struct file_lock *);
881 };
882
883 struct lock_manager_operations {
884         int (*lm_compare_owner)(struct file_lock *, struct file_lock *);
885         unsigned long (*lm_owner_key)(struct file_lock *);
886         void (*lm_get_owner)(struct file_lock *, struct file_lock *);
887         void (*lm_put_owner)(struct file_lock *);
888         void (*lm_notify)(struct file_lock *);  /* unblock callback */
889         int (*lm_grant)(struct file_lock *, int);
890         bool (*lm_break)(struct file_lock *);
891         int (*lm_change)(struct file_lock **, int, struct list_head *);
892         void (*lm_setup)(struct file_lock *, void **);
893 };
894
895 struct lock_manager {
896         struct list_head list;
897 };
898
899 struct net;
900 void locks_start_grace(struct net *, struct lock_manager *);
901 void locks_end_grace(struct lock_manager *);
902 int locks_in_grace(struct net *);
903
904 /* that will die - we need it for nfs_lock_info */
905 #include <linux/nfs_fs_i.h>
906
907 /*
908  * struct file_lock represents a generic "file lock". It's used to represent
909  * POSIX byte range locks, BSD (flock) locks, and leases. It's important to
910  * note that the same struct is used to represent both a request for a lock and
911  * the lock itself, but the same object is never used for both.
912  *
913  * FIXME: should we create a separate "struct lock_request" to help distinguish
914  * these two uses?
915  *
916  * The i_flock list is ordered by:
917  *
918  * 1) lock type -- FL_LEASEs first, then FL_FLOCK, and finally FL_POSIX
919  * 2) lock owner
920  * 3) lock range start
921  * 4) lock range end
922  *
923  * Obviously, the last two criteria only matter for POSIX locks.
924  */
925 struct file_lock {
926         struct file_lock *fl_next;      /* singly linked list for this inode  */
927         struct hlist_node fl_link;      /* node in global lists */
928         struct list_head fl_block;      /* circular list of blocked processes */
929         fl_owner_t fl_owner;
930         unsigned int fl_flags;
931         unsigned char fl_type;
932         unsigned int fl_pid;
933         int fl_link_cpu;                /* what cpu's list is this on? */
934         struct pid *fl_nspid;
935         wait_queue_head_t fl_wait;
936         struct file *fl_file;
937         loff_t fl_start;
938         loff_t fl_end;
939
940         struct fasync_struct *  fl_fasync; /* for lease break notifications */
941         /* for lease breaks: */
942         unsigned long fl_break_time;
943         unsigned long fl_downgrade_time;
944
945         const struct file_lock_operations *fl_ops;      /* Callbacks for filesystems */
946         const struct lock_manager_operations *fl_lmops; /* Callbacks for lockmanagers */
947         union {
948                 struct nfs_lock_info    nfs_fl;
949                 struct nfs4_lock_info   nfs4_fl;
950                 struct {
951                         struct list_head link;  /* link in AFS vnode's pending_locks list */
952                         int state;              /* state of grant or error if -ve */
953                 } afs;
954         } fl_u;
955 };
956
957 /* The following constant reflects the upper bound of the file/locking space */
958 #ifndef OFFSET_MAX
959 #define INT_LIMIT(x)    (~((x)1 << (sizeof(x)*8 - 1)))
960 #define OFFSET_MAX      INT_LIMIT(loff_t)
961 #define OFFT_OFFSET_MAX INT_LIMIT(off_t)
962 #endif
963
964 #include <linux/fcntl.h>
965
966 extern void send_sigio(struct fown_struct *fown, int fd, int band);
967
968 #ifdef CONFIG_FILE_LOCKING
969 extern int fcntl_getlk(struct file *, unsigned int, struct flock __user *);
970 extern int fcntl_setlk(unsigned int, struct file *, unsigned int,
971                         struct flock __user *);
972
973 #if BITS_PER_LONG == 32
974 extern int fcntl_getlk64(struct file *, unsigned int, struct flock64 __user *);
975 extern int fcntl_setlk64(unsigned int, struct file *, unsigned int,
976                         struct flock64 __user *);
977 #endif
978
979 extern int fcntl_setlease(unsigned int fd, struct file *filp, long arg);
980 extern int fcntl_getlease(struct file *filp);
981
982 /* fs/locks.c */
983 void locks_free_lock(struct file_lock *fl);
984 extern void locks_init_lock(struct file_lock *);
985 extern struct file_lock * locks_alloc_lock(void);
986 extern void locks_copy_lock(struct file_lock *, struct file_lock *);
987 extern void locks_copy_conflock(struct file_lock *, struct file_lock *);
988 extern void locks_remove_posix(struct file *, fl_owner_t);
989 extern void locks_remove_file(struct file *);
990 extern void locks_release_private(struct file_lock *);
991 extern void posix_test_lock(struct file *, struct file_lock *);
992 extern int posix_lock_file(struct file *, struct file_lock *, struct file_lock *);
993 extern int posix_lock_file_wait(struct file *, struct file_lock *);
994 extern int posix_unblock_lock(struct file_lock *);
995 extern int vfs_test_lock(struct file *, struct file_lock *);
996 extern int vfs_lock_file(struct file *, unsigned int, struct file_lock *, struct file_lock *);
997 extern int vfs_cancel_lock(struct file *filp, struct file_lock *fl);
998 extern int flock_lock_file_wait(struct file *filp, struct file_lock *fl);
999 extern int __break_lease(struct inode *inode, unsigned int flags, unsigned int type);
1000 extern void lease_get_mtime(struct inode *, struct timespec *time);
1001 extern int generic_setlease(struct file *, long, struct file_lock **, void **priv);
1002 extern int vfs_setlease(struct file *, long, struct file_lock **, void **);
1003 extern int lease_modify(struct file_lock **, int, struct list_head *);
1004 #else /* !CONFIG_FILE_LOCKING */
1005 static inline int fcntl_getlk(struct file *file, unsigned int cmd,
1006                               struct flock __user *user)
1007 {
1008         return -EINVAL;
1009 }
1010
1011 static inline int fcntl_setlk(unsigned int fd, struct file *file,
1012                               unsigned int cmd, struct flock __user *user)
1013 {
1014         return -EACCES;
1015 }
1016
1017 #if BITS_PER_LONG == 32
1018 static inline int fcntl_getlk64(struct file *file, unsigned int cmd,
1019                                 struct flock64 __user *user)
1020 {
1021         return -EINVAL;
1022 }
1023
1024 static inline int fcntl_setlk64(unsigned int fd, struct file *file,
1025                                 unsigned int cmd, struct flock64 __user *user)
1026 {
1027         return -EACCES;
1028 }
1029 #endif
1030 static inline int fcntl_setlease(unsigned int fd, struct file *filp, long arg)
1031 {
1032         return -EINVAL;
1033 }
1034
1035 static inline int fcntl_getlease(struct file *filp)
1036 {
1037         return F_UNLCK;
1038 }
1039
1040 static inline void locks_init_lock(struct file_lock *fl)
1041 {
1042         return;
1043 }
1044
1045 static inline void locks_copy_conflock(struct file_lock *new, struct file_lock *fl)
1046 {
1047         return;
1048 }
1049
1050 static inline void locks_copy_lock(struct file_lock *new, struct file_lock *fl)
1051 {
1052         return;
1053 }
1054
1055 static inline void locks_remove_posix(struct file *filp, fl_owner_t owner)
1056 {
1057         return;
1058 }
1059
1060 static inline void locks_remove_file(struct file *filp)
1061 {
1062         return;
1063 }
1064
1065 static inline void posix_test_lock(struct file *filp, struct file_lock *fl)
1066 {
1067         return;
1068 }
1069
1070 static inline int posix_lock_file(struct file *filp, struct file_lock *fl,
1071                                   struct file_lock *conflock)
1072 {
1073         return -ENOLCK;
1074 }
1075
1076 static inline int posix_lock_file_wait(struct file *filp, struct file_lock *fl)
1077 {
1078         return -ENOLCK;
1079 }
1080
1081 static inline int posix_unblock_lock(struct file_lock *waiter)
1082 {
1083         return -ENOENT;
1084 }
1085
1086 static inline int vfs_test_lock(struct file *filp, struct file_lock *fl)
1087 {
1088         return 0;
1089 }
1090
1091 static inline int vfs_lock_file(struct file *filp, unsigned int cmd,
1092                                 struct file_lock *fl, struct file_lock *conf)
1093 {
1094         return -ENOLCK;
1095 }
1096
1097 static inline int vfs_cancel_lock(struct file *filp, struct file_lock *fl)
1098 {
1099         return 0;
1100 }
1101
1102 static inline int flock_lock_file_wait(struct file *filp,
1103                                        struct file_lock *request)
1104 {
1105         return -ENOLCK;
1106 }
1107
1108 static inline int __break_lease(struct inode *inode, unsigned int mode, unsigned int type)
1109 {
1110         return 0;
1111 }
1112
1113 static inline void lease_get_mtime(struct inode *inode, struct timespec *time)
1114 {
1115         return;
1116 }
1117
1118 static inline int generic_setlease(struct file *filp, long arg,
1119                                     struct file_lock **flp, void **priv)
1120 {
1121         return -EINVAL;
1122 }
1123
1124 static inline int vfs_setlease(struct file *filp, long arg,
1125                                struct file_lock **lease, void **priv)
1126 {
1127         return -EINVAL;
1128 }
1129
1130 static inline int lease_modify(struct file_lock **before, int arg,
1131                                struct list_head *dispose)
1132 {
1133         return -EINVAL;
1134 }
1135 #endif /* !CONFIG_FILE_LOCKING */
1136
1137
1138 struct fasync_struct {
1139         spinlock_t              fa_lock;
1140         int                     magic;
1141         int                     fa_fd;
1142         struct fasync_struct    *fa_next; /* singly linked list */
1143         struct file             *fa_file;
1144         struct rcu_head         fa_rcu;
1145 };
1146
1147 #define FASYNC_MAGIC 0x4601
1148
1149 /* SMP safe fasync helpers: */
1150 extern int fasync_helper(int, struct file *, int, struct fasync_struct **);
1151 extern struct fasync_struct *fasync_insert_entry(int, struct file *, struct fasync_struct **, struct fasync_struct *);
1152 extern int fasync_remove_entry(struct file *, struct fasync_struct **);
1153 extern struct fasync_struct *fasync_alloc(void);
1154 extern void fasync_free(struct fasync_struct *);
1155
1156 /* can be called from interrupts */
1157 extern void kill_fasync(struct fasync_struct **, int, int);
1158
1159 extern void __f_setown(struct file *filp, struct pid *, enum pid_type, int force);
1160 extern void f_setown(struct file *filp, unsigned long arg, int force);
1161 extern void f_delown(struct file *filp);
1162 extern pid_t f_getown(struct file *filp);
1163 extern int send_sigurg(struct fown_struct *fown);
1164
1165 struct mm_struct;
1166
1167 /*
1168  *      Umount options
1169  */
1170
1171 #define MNT_FORCE       0x00000001      /* Attempt to forcibily umount */
1172 #define MNT_DETACH      0x00000002      /* Just detach from the tree */
1173 #define MNT_EXPIRE      0x00000004      /* Mark for expiry */
1174 #define UMOUNT_NOFOLLOW 0x00000008      /* Don't follow symlink on umount */
1175 #define UMOUNT_UNUSED   0x80000000      /* Flag guaranteed to be unused */
1176
1177 extern struct list_head super_blocks;
1178 extern spinlock_t sb_lock;
1179
1180 /* Possible states of 'frozen' field */
1181 enum {
1182         SB_UNFROZEN = 0,                /* FS is unfrozen */
1183         SB_FREEZE_WRITE = 1,            /* Writes, dir ops, ioctls frozen */
1184         SB_FREEZE_PAGEFAULT = 2,        /* Page faults stopped as well */
1185         SB_FREEZE_FS = 3,               /* For internal FS use (e.g. to stop
1186                                          * internal threads if needed) */
1187         SB_FREEZE_COMPLETE = 4,         /* ->freeze_fs finished successfully */
1188 };
1189
1190 #define SB_FREEZE_LEVELS (SB_FREEZE_COMPLETE - 1)
1191
1192 struct sb_writers {
1193         /* Counters for counting writers at each level */
1194         struct percpu_counter   counter[SB_FREEZE_LEVELS];
1195         wait_queue_head_t       wait;           /* queue for waiting for
1196                                                    writers / faults to finish */
1197         int                     frozen;         /* Is sb frozen? */
1198         wait_queue_head_t       wait_unfrozen;  /* queue for waiting for
1199                                                    sb to be thawed */
1200 #ifdef CONFIG_DEBUG_LOCK_ALLOC
1201         struct lockdep_map      lock_map[SB_FREEZE_LEVELS];
1202 #endif
1203 };
1204
1205 struct super_block {
1206         struct list_head        s_list;         /* Keep this first */
1207         dev_t                   s_dev;          /* search index; _not_ kdev_t */
1208         unsigned char           s_blocksize_bits;
1209         unsigned long           s_blocksize;
1210         loff_t                  s_maxbytes;     /* Max file size */
1211         struct file_system_type *s_type;
1212         const struct super_operations   *s_op;
1213         const struct dquot_operations   *dq_op;
1214         const struct quotactl_ops       *s_qcop;
1215         const struct export_operations *s_export_op;
1216         unsigned long           s_flags;
1217         unsigned long           s_magic;
1218         struct dentry           *s_root;
1219         struct rw_semaphore     s_umount;
1220         int                     s_count;
1221         atomic_t                s_active;
1222 #ifdef CONFIG_SECURITY
1223         void                    *s_security;
1224 #endif
1225         const struct xattr_handler **s_xattr;
1226
1227         struct list_head        s_inodes;       /* all inodes */
1228         struct hlist_bl_head    s_anon;         /* anonymous dentries for (nfs) exporting */
1229         struct list_head        s_mounts;       /* list of mounts; _not_ for fs use */
1230         struct block_device     *s_bdev;
1231         struct backing_dev_info *s_bdi;
1232         struct mtd_info         *s_mtd;
1233         struct hlist_node       s_instances;
1234         unsigned int            s_quota_types;  /* Bitmask of supported quota types */
1235         struct quota_info       s_dquot;        /* Diskquota specific options */
1236
1237         struct sb_writers       s_writers;
1238
1239         char s_id[32];                          /* Informational name */
1240         u8 s_uuid[16];                          /* UUID */
1241
1242         void                    *s_fs_info;     /* Filesystem private info */
1243         unsigned int            s_max_links;
1244         fmode_t                 s_mode;
1245
1246         /* Granularity of c/m/atime in ns.
1247            Cannot be worse than a second */
1248         u32                s_time_gran;
1249
1250         /*
1251          * The next field is for VFS *only*. No filesystems have any business
1252          * even looking at it. You had been warned.
1253          */
1254         struct mutex s_vfs_rename_mutex;        /* Kludge */
1255
1256         /*
1257          * Filesystem subtype.  If non-empty the filesystem type field
1258          * in /proc/mounts will be "type.subtype"
1259          */
1260         char *s_subtype;
1261
1262         /*
1263          * Saved mount options for lazy filesystems using
1264          * generic_show_options()
1265          */
1266         char __rcu *s_options;
1267         const struct dentry_operations *s_d_op; /* default d_op for dentries */
1268
1269         /*
1270          * Saved pool identifier for cleancache (-1 means none)
1271          */
1272         int cleancache_poolid;
1273
1274         struct shrinker s_shrink;       /* per-sb shrinker handle */
1275
1276         /* Number of inodes with nlink == 0 but still referenced */
1277         atomic_long_t s_remove_count;
1278
1279         /* Being remounted read-only */
1280         int s_readonly_remount;
1281
1282         /* AIO completions deferred from interrupt context */
1283         struct workqueue_struct *s_dio_done_wq;
1284         struct hlist_head s_pins;
1285
1286         /*
1287          * Keep the lru lists last in the structure so they always sit on their
1288          * own individual cachelines.
1289          */
1290         struct list_lru         s_dentry_lru ____cacheline_aligned_in_smp;
1291         struct list_lru         s_inode_lru ____cacheline_aligned_in_smp;
1292         struct rcu_head         rcu;
1293
1294         /*
1295          * Indicates how deep in a filesystem stack this SB is
1296          */
1297         int s_stack_depth;
1298 };
1299
1300 extern struct timespec current_fs_time(struct super_block *sb);
1301
1302 /*
1303  * Snapshotting support.
1304  */
1305
1306 void __sb_end_write(struct super_block *sb, int level);
1307 int __sb_start_write(struct super_block *sb, int level, bool wait);
1308
1309 /**
1310  * sb_end_write - drop write access to a superblock
1311  * @sb: the super we wrote to
1312  *
1313  * Decrement number of writers to the filesystem. Wake up possible waiters
1314  * wanting to freeze the filesystem.
1315  */
1316 static inline void sb_end_write(struct super_block *sb)
1317 {
1318         __sb_end_write(sb, SB_FREEZE_WRITE);
1319 }
1320
1321 /**
1322  * sb_end_pagefault - drop write access to a superblock from a page fault
1323  * @sb: the super we wrote to
1324  *
1325  * Decrement number of processes handling write page fault to the filesystem.
1326  * Wake up possible waiters wanting to freeze the filesystem.
1327  */
1328 static inline void sb_end_pagefault(struct super_block *sb)
1329 {
1330         __sb_end_write(sb, SB_FREEZE_PAGEFAULT);
1331 }
1332
1333 /**
1334  * sb_end_intwrite - drop write access to a superblock for internal fs purposes
1335  * @sb: the super we wrote to
1336  *
1337  * Decrement fs-internal number of writers to the filesystem.  Wake up possible
1338  * waiters wanting to freeze the filesystem.
1339  */
1340 static inline void sb_end_intwrite(struct super_block *sb)
1341 {
1342         __sb_end_write(sb, SB_FREEZE_FS);
1343 }
1344
1345 /**
1346  * sb_start_write - get write access to a superblock
1347  * @sb: the super we write to
1348  *
1349  * When a process wants to write data or metadata to a file system (i.e. dirty
1350  * a page or an inode), it should embed the operation in a sb_start_write() -
1351  * sb_end_write() pair to get exclusion against file system freezing. This
1352  * function increments number of writers preventing freezing. If the file
1353  * system is already frozen, the function waits until the file system is
1354  * thawed.
1355  *
1356  * Since freeze protection behaves as a lock, users have to preserve
1357  * ordering of freeze protection and other filesystem locks. Generally,
1358  * freeze protection should be the outermost lock. In particular, we have:
1359  *
1360  * sb_start_write
1361  *   -> i_mutex                 (write path, truncate, directory ops, ...)
1362  *   -> s_umount                (freeze_super, thaw_super)
1363  */
1364 static inline void sb_start_write(struct super_block *sb)
1365 {
1366         __sb_start_write(sb, SB_FREEZE_WRITE, true);
1367 }
1368
1369 static inline int sb_start_write_trylock(struct super_block *sb)
1370 {
1371         return __sb_start_write(sb, SB_FREEZE_WRITE, false);
1372 }
1373
1374 /**
1375  * sb_start_pagefault - get write access to a superblock from a page fault
1376  * @sb: the super we write to
1377  *
1378  * When a process starts handling write page fault, it should embed the
1379  * operation into sb_start_pagefault() - sb_end_pagefault() pair to get
1380  * exclusion against file system freezing. This is needed since the page fault
1381  * is going to dirty a page. This function increments number of running page
1382  * faults preventing freezing. If the file system is already frozen, the
1383  * function waits until the file system is thawed.
1384  *
1385  * Since page fault freeze protection behaves as a lock, users have to preserve
1386  * ordering of freeze protection and other filesystem locks. It is advised to
1387  * put sb_start_pagefault() close to mmap_sem in lock ordering. Page fault
1388  * handling code implies lock dependency:
1389  *
1390  * mmap_sem
1391  *   -> sb_start_pagefault
1392  */
1393 static inline void sb_start_pagefault(struct super_block *sb)
1394 {
1395         __sb_start_write(sb, SB_FREEZE_PAGEFAULT, true);
1396 }
1397
1398 /*
1399  * sb_start_intwrite - get write access to a superblock for internal fs purposes
1400  * @sb: the super we write to
1401  *
1402  * This is the third level of protection against filesystem freezing. It is
1403  * free for use by a filesystem. The only requirement is that it must rank
1404  * below sb_start_pagefault.
1405  *
1406  * For example filesystem can call sb_start_intwrite() when starting a
1407  * transaction which somewhat eases handling of freezing for internal sources
1408  * of filesystem changes (internal fs threads, discarding preallocation on file
1409  * close, etc.).
1410  */
1411 static inline void sb_start_intwrite(struct super_block *sb)
1412 {
1413         __sb_start_write(sb, SB_FREEZE_FS, true);
1414 }
1415
1416
1417 extern bool inode_owner_or_capable(const struct inode *inode);
1418
1419 /*
1420  * VFS helper functions..
1421  */
1422 extern int vfs_create(struct inode *, struct dentry *, umode_t, bool);
1423 extern int vfs_mkdir(struct inode *, struct dentry *, umode_t);
1424 extern int vfs_mknod(struct inode *, struct dentry *, umode_t, dev_t);
1425 extern int vfs_symlink(struct inode *, struct dentry *, const char *);
1426 extern int vfs_link(struct dentry *, struct inode *, struct dentry *, struct inode **);
1427 extern int vfs_rmdir(struct inode *, struct dentry *);
1428 extern int vfs_unlink(struct inode *, struct dentry *, struct inode **);
1429 extern int vfs_rename(struct inode *, struct dentry *, struct inode *, struct dentry *, struct inode **, unsigned int);
1430 extern int vfs_whiteout(struct inode *, struct dentry *);
1431
1432 /*
1433  * VFS dentry helper functions.
1434  */
1435 extern void dentry_unhash(struct dentry *dentry);
1436
1437 /*
1438  * VFS file helper functions.
1439  */
1440 extern void inode_init_owner(struct inode *inode, const struct inode *dir,
1441                         umode_t mode);
1442 /*
1443  * VFS FS_IOC_FIEMAP helper definitions.
1444  */
1445 struct fiemap_extent_info {
1446         unsigned int fi_flags;          /* Flags as passed from user */
1447         unsigned int fi_extents_mapped; /* Number of mapped extents */
1448         unsigned int fi_extents_max;    /* Size of fiemap_extent array */
1449         struct fiemap_extent __user *fi_extents_start; /* Start of
1450                                                         fiemap_extent array */
1451 };
1452 int fiemap_fill_next_extent(struct fiemap_extent_info *info, u64 logical,
1453                             u64 phys, u64 len, u32 flags);
1454 int fiemap_check_flags(struct fiemap_extent_info *fieinfo, u32 fs_flags);
1455
1456 /*
1457  * File types
1458  *
1459  * NOTE! These match bits 12..15 of stat.st_mode
1460  * (ie "(i_mode >> 12) & 15").
1461  */
1462 #define DT_UNKNOWN      0
1463 #define DT_FIFO         1
1464 #define DT_CHR          2
1465 #define DT_DIR          4
1466 #define DT_BLK          6
1467 #define DT_REG          8
1468 #define DT_LNK          10
1469 #define DT_SOCK         12
1470 #define DT_WHT          14
1471
1472 /*
1473  * This is the "filldir" function type, used by readdir() to let
1474  * the kernel specify what kind of dirent layout it wants to have.
1475  * This allows the kernel to read directories into kernel space or
1476  * to have different dirent layouts depending on the binary type.
1477  */
1478 struct dir_context;
1479 typedef int (*filldir_t)(struct dir_context *, const char *, int, loff_t, u64,
1480                          unsigned);
1481
1482 struct dir_context {
1483         const filldir_t actor;
1484         loff_t pos;
1485 };
1486
1487 struct block_device_operations;
1488
1489 /* These macros are for out of kernel modules to test that
1490  * the kernel supports the unlocked_ioctl and compat_ioctl
1491  * fields in struct file_operations. */
1492 #define HAVE_COMPAT_IOCTL 1
1493 #define HAVE_UNLOCKED_IOCTL 1
1494
1495 struct iov_iter;
1496
1497 struct file_operations {
1498         struct module *owner;
1499         loff_t (*llseek) (struct file *, loff_t, int);
1500         ssize_t (*read) (struct file *, char __user *, size_t, loff_t *);
1501         ssize_t (*write) (struct file *, const char __user *, size_t, loff_t *);
1502         ssize_t (*aio_read) (struct kiocb *, const struct iovec *, unsigned long, loff_t);
1503         ssize_t (*aio_write) (struct kiocb *, const struct iovec *, unsigned long, loff_t);
1504         ssize_t (*read_iter) (struct kiocb *, struct iov_iter *);
1505         ssize_t (*write_iter) (struct kiocb *, struct iov_iter *);
1506         int (*iterate) (struct file *, struct dir_context *);
1507         unsigned int (*poll) (struct file *, struct poll_table_struct *);
1508         long (*unlocked_ioctl) (struct file *, unsigned int, unsigned long);
1509         long (*compat_ioctl) (struct file *, unsigned int, unsigned long);
1510         int (*mmap) (struct file *, struct vm_area_struct *);
1511         int (*open) (struct inode *, struct file *);
1512         int (*flush) (struct file *, fl_owner_t id);
1513         int (*release) (struct inode *, struct file *);
1514         int (*fsync) (struct file *, loff_t, loff_t, int datasync);
1515         int (*aio_fsync) (struct kiocb *, int datasync);
1516         int (*fasync) (int, struct file *, int);
1517         int (*lock) (struct file *, int, struct file_lock *);
1518         ssize_t (*sendpage) (struct file *, struct page *, int, size_t, loff_t *, int);
1519         unsigned long (*get_unmapped_area)(struct file *, unsigned long, unsigned long, unsigned long, unsigned long);
1520         int (*check_flags)(int);
1521         int (*flock) (struct file *, int, struct file_lock *);
1522         ssize_t (*splice_write)(struct pipe_inode_info *, struct file *, loff_t *, size_t, unsigned int);
1523         ssize_t (*splice_read)(struct file *, loff_t *, struct pipe_inode_info *, size_t, unsigned int);
1524         int (*setlease)(struct file *, long, struct file_lock **, void **);
1525         long (*fallocate)(struct file *file, int mode, loff_t offset,
1526                           loff_t len);
1527         void (*show_fdinfo)(struct seq_file *m, struct file *f);
1528 };
1529
1530 struct inode_operations {
1531         struct dentry * (*lookup) (struct inode *,struct dentry *, unsigned int);
1532         void * (*follow_link) (struct dentry *, struct nameidata *);
1533         int (*permission) (struct inode *, int);
1534         struct posix_acl * (*get_acl)(struct inode *, int);
1535
1536         int (*readlink) (struct dentry *, char __user *,int);
1537         void (*put_link) (struct dentry *, struct nameidata *, void *);
1538
1539         int (*create) (struct inode *,struct dentry *, umode_t, bool);
1540         int (*link) (struct dentry *,struct inode *,struct dentry *);
1541         int (*unlink) (struct inode *,struct dentry *);
1542         int (*symlink) (struct inode *,struct dentry *,const char *);
1543         int (*mkdir) (struct inode *,struct dentry *,umode_t);
1544         int (*rmdir) (struct inode *,struct dentry *);
1545         int (*mknod) (struct inode *,struct dentry *,umode_t,dev_t);
1546         int (*rename) (struct inode *, struct dentry *,
1547                         struct inode *, struct dentry *);
1548         int (*rename2) (struct inode *, struct dentry *,
1549                         struct inode *, struct dentry *, unsigned int);
1550         int (*setattr) (struct dentry *, struct iattr *);
1551         int (*getattr) (struct vfsmount *mnt, struct dentry *, struct kstat *);
1552         int (*setxattr) (struct dentry *, const char *,const void *,size_t,int);
1553         ssize_t (*getxattr) (struct dentry *, const char *, void *, size_t);
1554         ssize_t (*listxattr) (struct dentry *, char *, size_t);
1555         int (*removexattr) (struct dentry *, const char *);
1556         int (*fiemap)(struct inode *, struct fiemap_extent_info *, u64 start,
1557                       u64 len);
1558         int (*update_time)(struct inode *, struct timespec *, int);
1559         int (*atomic_open)(struct inode *, struct dentry *,
1560                            struct file *, unsigned open_flag,
1561                            umode_t create_mode, int *opened);
1562         int (*tmpfile) (struct inode *, struct dentry *, umode_t);
1563         int (*set_acl)(struct inode *, struct posix_acl *, int);
1564
1565         /* WARNING: probably going away soon, do not use! */
1566         int (*dentry_open)(struct dentry *, struct file *, const struct cred *);
1567 } ____cacheline_aligned;
1568
1569 ssize_t rw_copy_check_uvector(int type, const struct iovec __user * uvector,
1570                               unsigned long nr_segs, unsigned long fast_segs,
1571                               struct iovec *fast_pointer,
1572                               struct iovec **ret_pointer);
1573
1574 extern ssize_t vfs_read(struct file *, char __user *, size_t, loff_t *);
1575 extern ssize_t vfs_write(struct file *, const char __user *, size_t, loff_t *);
1576 extern ssize_t vfs_readv(struct file *, const struct iovec __user *,
1577                 unsigned long, loff_t *);
1578 extern ssize_t vfs_writev(struct file *, const struct iovec __user *,
1579                 unsigned long, loff_t *);
1580
1581 struct super_operations {
1582         struct inode *(*alloc_inode)(struct super_block *sb);
1583         void (*destroy_inode)(struct inode *);
1584
1585         void (*dirty_inode) (struct inode *, int flags);
1586         int (*write_inode) (struct inode *, struct writeback_control *wbc);
1587         int (*drop_inode) (struct inode *);
1588         void (*evict_inode) (struct inode *);
1589         void (*put_super) (struct super_block *);
1590         int (*sync_fs)(struct super_block *sb, int wait);
1591         int (*freeze_super) (struct super_block *);
1592         int (*freeze_fs) (struct super_block *);
1593         int (*thaw_super) (struct super_block *);
1594         int (*unfreeze_fs) (struct super_block *);
1595         int (*statfs) (struct dentry *, struct kstatfs *);
1596         int (*remount_fs) (struct super_block *, int *, char *);
1597         void (*umount_begin) (struct super_block *);
1598
1599         int (*show_options)(struct seq_file *, struct dentry *);
1600         int (*show_devname)(struct seq_file *, struct dentry *);
1601         int (*show_path)(struct seq_file *, struct dentry *);
1602         int (*show_stats)(struct seq_file *, struct dentry *);
1603 #ifdef CONFIG_QUOTA
1604         ssize_t (*quota_read)(struct super_block *, int, char *, size_t, loff_t);
1605         ssize_t (*quota_write)(struct super_block *, int, const char *, size_t, loff_t);
1606         struct dquot **(*get_dquots)(struct inode *);
1607 #endif
1608         int (*bdev_try_to_free_page)(struct super_block*, struct page*, gfp_t);
1609         long (*nr_cached_objects)(struct super_block *, int);
1610         long (*free_cached_objects)(struct super_block *, long, int);
1611 };
1612
1613 /*
1614  * Inode flags - they have no relation to superblock flags now
1615  */
1616 #define S_SYNC          1       /* Writes are synced at once */
1617 #define S_NOATIME       2       /* Do not update access times */
1618 #define S_APPEND        4       /* Append-only file */
1619 #define S_IMMUTABLE     8       /* Immutable file */
1620 #define S_DEAD          16      /* removed, but still open directory */
1621 #define S_NOQUOTA       32      /* Inode is not counted to quota */
1622 #define S_DIRSYNC       64      /* Directory modifications are synchronous */
1623 #define S_NOCMTIME      128     /* Do not update file c/mtime */
1624 #define S_SWAPFILE      256     /* Do not truncate: swapon got its bmaps */
1625 #define S_PRIVATE       512     /* Inode is fs-internal */
1626 #define S_IMA           1024    /* Inode has an associated IMA struct */
1627 #define S_AUTOMOUNT     2048    /* Automount/referral quasi-directory */
1628 #define S_NOSEC         4096    /* no suid or xattr security attributes */
1629
1630 /*
1631  * Note that nosuid etc flags are inode-specific: setting some file-system
1632  * flags just means all the inodes inherit those flags by default. It might be
1633  * possible to override it selectively if you really wanted to with some
1634  * ioctl() that is not currently implemented.
1635  *
1636  * Exception: MS_RDONLY is always applied to the entire file system.
1637  *
1638  * Unfortunately, it is possible to change a filesystems flags with it mounted
1639  * with files in use.  This means that all of the inodes will not have their
1640  * i_flags updated.  Hence, i_flags no longer inherit the superblock mount
1641  * flags, so these have to be checked separately. -- rmk@arm.uk.linux.org
1642  */
1643 #define __IS_FLG(inode, flg)    ((inode)->i_sb->s_flags & (flg))
1644
1645 #define IS_RDONLY(inode)        ((inode)->i_sb->s_flags & MS_RDONLY)
1646 #define IS_SYNC(inode)          (__IS_FLG(inode, MS_SYNCHRONOUS) || \
1647                                         ((inode)->i_flags & S_SYNC))
1648 #define IS_DIRSYNC(inode)       (__IS_FLG(inode, MS_SYNCHRONOUS|MS_DIRSYNC) || \
1649                                         ((inode)->i_flags & (S_SYNC|S_DIRSYNC)))
1650 #define IS_MANDLOCK(inode)      __IS_FLG(inode, MS_MANDLOCK)
1651 #define IS_NOATIME(inode)       __IS_FLG(inode, MS_RDONLY|MS_NOATIME)
1652 #define IS_I_VERSION(inode)     __IS_FLG(inode, MS_I_VERSION)
1653
1654 #define IS_NOQUOTA(inode)       ((inode)->i_flags & S_NOQUOTA)
1655 #define IS_APPEND(inode)        ((inode)->i_flags & S_APPEND)
1656 #define IS_IMMUTABLE(inode)     ((inode)->i_flags & S_IMMUTABLE)
1657 #define IS_POSIXACL(inode)      __IS_FLG(inode, MS_POSIXACL)
1658
1659 #define IS_DEADDIR(inode)       ((inode)->i_flags & S_DEAD)
1660 #define IS_NOCMTIME(inode)      ((inode)->i_flags & S_NOCMTIME)
1661 #define IS_SWAPFILE(inode)      ((inode)->i_flags & S_SWAPFILE)
1662 #define IS_PRIVATE(inode)       ((inode)->i_flags & S_PRIVATE)
1663 #define IS_IMA(inode)           ((inode)->i_flags & S_IMA)
1664 #define IS_AUTOMOUNT(inode)     ((inode)->i_flags & S_AUTOMOUNT)
1665 #define IS_NOSEC(inode)         ((inode)->i_flags & S_NOSEC)
1666
1667 #define IS_WHITEOUT(inode)      (S_ISCHR(inode->i_mode) && \
1668                                  (inode)->i_rdev == WHITEOUT_DEV)
1669
1670 /*
1671  * Inode state bits.  Protected by inode->i_lock
1672  *
1673  * Three bits determine the dirty state of the inode, I_DIRTY_SYNC,
1674  * I_DIRTY_DATASYNC and I_DIRTY_PAGES.
1675  *
1676  * Four bits define the lifetime of an inode.  Initially, inodes are I_NEW,
1677  * until that flag is cleared.  I_WILL_FREE, I_FREEING and I_CLEAR are set at
1678  * various stages of removing an inode.
1679  *
1680  * Two bits are used for locking and completion notification, I_NEW and I_SYNC.
1681  *
1682  * I_DIRTY_SYNC         Inode is dirty, but doesn't have to be written on
1683  *                      fdatasync().  i_atime is the usual cause.
1684  * I_DIRTY_DATASYNC     Data-related inode changes pending. We keep track of
1685  *                      these changes separately from I_DIRTY_SYNC so that we
1686  *                      don't have to write inode on fdatasync() when only
1687  *                      mtime has changed in it.
1688  * I_DIRTY_PAGES        Inode has dirty pages.  Inode itself may be clean.
1689  * I_NEW                Serves as both a mutex and completion notification.
1690  *                      New inodes set I_NEW.  If two processes both create
1691  *                      the same inode, one of them will release its inode and
1692  *                      wait for I_NEW to be released before returning.
1693  *                      Inodes in I_WILL_FREE, I_FREEING or I_CLEAR state can
1694  *                      also cause waiting on I_NEW, without I_NEW actually
1695  *                      being set.  find_inode() uses this to prevent returning
1696  *                      nearly-dead inodes.
1697  * I_WILL_FREE          Must be set when calling write_inode_now() if i_count
1698  *                      is zero.  I_FREEING must be set when I_WILL_FREE is
1699  *                      cleared.
1700  * I_FREEING            Set when inode is about to be freed but still has dirty
1701  *                      pages or buffers attached or the inode itself is still
1702  *                      dirty.
1703  * I_CLEAR              Added by clear_inode().  In this state the inode is
1704  *                      clean and can be destroyed.  Inode keeps I_FREEING.
1705  *
1706  *                      Inodes that are I_WILL_FREE, I_FREEING or I_CLEAR are
1707  *                      prohibited for many purposes.  iget() must wait for
1708  *                      the inode to be completely released, then create it
1709  *                      anew.  Other functions will just ignore such inodes,
1710  *                      if appropriate.  I_NEW is used for waiting.
1711  *
1712  * I_SYNC               Writeback of inode is running. The bit is set during
1713  *                      data writeback, and cleared with a wakeup on the bit
1714  *                      address once it is done. The bit is also used to pin
1715  *                      the inode in memory for flusher thread.
1716  *
1717  * I_REFERENCED         Marks the inode as recently references on the LRU list.
1718  *
1719  * I_DIO_WAKEUP         Never set.  Only used as a key for wait_on_bit().
1720  *
1721  * Q: What is the difference between I_WILL_FREE and I_FREEING?
1722  */
1723 #define I_DIRTY_SYNC            (1 << 0)
1724 #define I_DIRTY_DATASYNC        (1 << 1)
1725 #define I_DIRTY_PAGES           (1 << 2)
1726 #define __I_NEW                 3
1727 #define I_NEW                   (1 << __I_NEW)
1728 #define I_WILL_FREE             (1 << 4)
1729 #define I_FREEING               (1 << 5)
1730 #define I_CLEAR                 (1 << 6)
1731 #define __I_SYNC                7
1732 #define I_SYNC                  (1 << __I_SYNC)
1733 #define I_REFERENCED            (1 << 8)
1734 #define __I_DIO_WAKEUP          9
1735 #define I_DIO_WAKEUP            (1 << I_DIO_WAKEUP)
1736 #define I_LINKABLE              (1 << 10)
1737
1738 #define I_DIRTY (I_DIRTY_SYNC | I_DIRTY_DATASYNC | I_DIRTY_PAGES)
1739
1740 extern void __mark_inode_dirty(struct inode *, int);
1741 static inline void mark_inode_dirty(struct inode *inode)
1742 {
1743         __mark_inode_dirty(inode, I_DIRTY);
1744 }
1745
1746 static inline void mark_inode_dirty_sync(struct inode *inode)
1747 {
1748         __mark_inode_dirty(inode, I_DIRTY_SYNC);
1749 }
1750
1751 extern void inc_nlink(struct inode *inode);
1752 extern void drop_nlink(struct inode *inode);
1753 extern void clear_nlink(struct inode *inode);
1754 extern void set_nlink(struct inode *inode, unsigned int nlink);
1755
1756 static inline void inode_inc_link_count(struct inode *inode)
1757 {
1758         inc_nlink(inode);
1759         mark_inode_dirty(inode);
1760 }
1761
1762 static inline void inode_dec_link_count(struct inode *inode)
1763 {
1764         drop_nlink(inode);
1765         mark_inode_dirty(inode);
1766 }
1767
1768 /**
1769  * inode_inc_iversion - increments i_version
1770  * @inode: inode that need to be updated
1771  *
1772  * Every time the inode is modified, the i_version field will be incremented.
1773  * The filesystem has to be mounted with i_version flag
1774  */
1775
1776 static inline void inode_inc_iversion(struct inode *inode)
1777 {
1778        spin_lock(&inode->i_lock);
1779        inode->i_version++;
1780        spin_unlock(&inode->i_lock);
1781 }
1782
1783 enum file_time_flags {
1784         S_ATIME = 1,
1785         S_MTIME = 2,
1786         S_CTIME = 4,
1787         S_VERSION = 8,
1788 };
1789
1790 extern void touch_atime(const struct path *);
1791 static inline void file_accessed(struct file *file)
1792 {
1793         if (!(file->f_flags & O_NOATIME))
1794                 touch_atime(&file->f_path);
1795 }
1796
1797 int sync_inode(struct inode *inode, struct writeback_control *wbc);
1798 int sync_inode_metadata(struct inode *inode, int wait);
1799
1800 struct file_system_type {
1801         const char *name;
1802         int fs_flags;
1803 #define FS_REQUIRES_DEV         1 
1804 #define FS_BINARY_MOUNTDATA     2
1805 #define FS_HAS_SUBTYPE          4
1806 #define FS_USERNS_MOUNT         8       /* Can be mounted by userns root */
1807 #define FS_USERNS_DEV_MOUNT     16 /* A userns mount does not imply MNT_NODEV */
1808 #define FS_RENAME_DOES_D_MOVE   32768   /* FS will handle d_move() during rename() internally. */
1809         struct dentry *(*mount) (struct file_system_type *, int,
1810                        const char *, void *);
1811         void (*kill_sb) (struct super_block *);
1812         struct module *owner;
1813         struct file_system_type * next;
1814         struct hlist_head fs_supers;
1815
1816         struct lock_class_key s_lock_key;
1817         struct lock_class_key s_umount_key;
1818         struct lock_class_key s_vfs_rename_key;
1819         struct lock_class_key s_writers_key[SB_FREEZE_LEVELS];
1820
1821         struct lock_class_key i_lock_key;
1822         struct lock_class_key i_mutex_key;
1823         struct lock_class_key i_mutex_dir_key;
1824 };
1825
1826 #define MODULE_ALIAS_FS(NAME) MODULE_ALIAS("fs-" NAME)
1827
1828 extern struct dentry *mount_ns(struct file_system_type *fs_type, int flags,
1829         void *data, int (*fill_super)(struct super_block *, void *, int));
1830 extern struct dentry *mount_bdev(struct file_system_type *fs_type,
1831         int flags, const char *dev_name, void *data,
1832         int (*fill_super)(struct super_block *, void *, int));
1833 extern struct dentry *mount_single(struct file_system_type *fs_type,
1834         int flags, void *data,
1835         int (*fill_super)(struct super_block *, void *, int));
1836 extern struct dentry *mount_nodev(struct file_system_type *fs_type,
1837         int flags, void *data,
1838         int (*fill_super)(struct super_block *, void *, int));
1839 extern struct dentry *mount_subtree(struct vfsmount *mnt, const char *path);
1840 void generic_shutdown_super(struct super_block *sb);
1841 void kill_block_super(struct super_block *sb);
1842 void kill_anon_super(struct super_block *sb);
1843 void kill_litter_super(struct super_block *sb);
1844 void deactivate_super(struct super_block *sb);
1845 void deactivate_locked_super(struct super_block *sb);
1846 int set_anon_super(struct super_block *s, void *data);
1847 int get_anon_bdev(dev_t *);
1848 void free_anon_bdev(dev_t);
1849 struct super_block *sget(struct file_system_type *type,
1850                         int (*test)(struct super_block *,void *),
1851                         int (*set)(struct super_block *,void *),
1852                         int flags, void *data);
1853 extern struct dentry *mount_pseudo(struct file_system_type *, char *,
1854         const struct super_operations *ops,
1855         const struct dentry_operations *dops,
1856         unsigned long);
1857
1858 /* Alas, no aliases. Too much hassle with bringing module.h everywhere */
1859 #define fops_get(fops) \
1860         (((fops) && try_module_get((fops)->owner) ? (fops) : NULL))
1861 #define fops_put(fops) \
1862         do { if (fops) module_put((fops)->owner); } while(0)
1863 /*
1864  * This one is to be used *ONLY* from ->open() instances.
1865  * fops must be non-NULL, pinned down *and* module dependencies
1866  * should be sufficient to pin the caller down as well.
1867  */
1868 #define replace_fops(f, fops) \
1869         do {    \
1870                 struct file *__file = (f); \
1871                 fops_put(__file->f_op); \
1872                 BUG_ON(!(__file->f_op = (fops))); \
1873         } while(0)
1874
1875 extern int register_filesystem(struct file_system_type *);
1876 extern int unregister_filesystem(struct file_system_type *);
1877 extern struct vfsmount *kern_mount_data(struct file_system_type *, void *data);
1878 #define kern_mount(type) kern_mount_data(type, NULL)
1879 extern void kern_unmount(struct vfsmount *mnt);
1880 extern int may_umount_tree(struct vfsmount *);
1881 extern int may_umount(struct vfsmount *);
1882 extern long do_mount(const char *, const char __user *,
1883                      const char *, unsigned long, void *);
1884 extern struct vfsmount *collect_mounts(struct path *);
1885 extern void drop_collected_mounts(struct vfsmount *);
1886 extern int iterate_mounts(int (*)(struct vfsmount *, void *), void *,
1887                           struct vfsmount *);
1888 extern int vfs_statfs(struct path *, struct kstatfs *);
1889 extern int user_statfs(const char __user *, struct kstatfs *);
1890 extern int fd_statfs(int, struct kstatfs *);
1891 extern int vfs_ustat(dev_t, struct kstatfs *);
1892 extern int freeze_super(struct super_block *super);
1893 extern int thaw_super(struct super_block *super);
1894 extern bool our_mnt(struct vfsmount *mnt);
1895 extern bool fs_fully_visible(struct file_system_type *);
1896
1897 extern int current_umask(void);
1898
1899 extern void ihold(struct inode * inode);
1900 extern void iput(struct inode *);
1901
1902 static inline struct inode *file_inode(const struct file *f)
1903 {
1904         return f->f_inode;
1905 }
1906
1907 /* /sys/fs */
1908 extern struct kobject *fs_kobj;
1909
1910 #define MAX_RW_COUNT (INT_MAX & PAGE_CACHE_MASK)
1911
1912 #define FLOCK_VERIFY_READ  1
1913 #define FLOCK_VERIFY_WRITE 2
1914
1915 #ifdef CONFIG_FILE_LOCKING
1916 extern int locks_mandatory_locked(struct file *);
1917 extern int locks_mandatory_area(int, struct inode *, struct file *, loff_t, size_t);
1918
1919 /*
1920  * Candidates for mandatory locking have the setgid bit set
1921  * but no group execute bit -  an otherwise meaningless combination.
1922  */
1923
1924 static inline int __mandatory_lock(struct inode *ino)
1925 {
1926         return (ino->i_mode & (S_ISGID | S_IXGRP)) == S_ISGID;
1927 }
1928
1929 /*
1930  * ... and these candidates should be on MS_MANDLOCK mounted fs,
1931  * otherwise these will be advisory locks
1932  */
1933
1934 static inline int mandatory_lock(struct inode *ino)
1935 {
1936         return IS_MANDLOCK(ino) && __mandatory_lock(ino);
1937 }
1938
1939 static inline int locks_verify_locked(struct file *file)
1940 {
1941         if (mandatory_lock(file_inode(file)))
1942                 return locks_mandatory_locked(file);
1943         return 0;
1944 }
1945
1946 static inline int locks_verify_truncate(struct inode *inode,
1947                                     struct file *filp,
1948                                     loff_t size)
1949 {
1950         if (inode->i_flock && mandatory_lock(inode))
1951                 return locks_mandatory_area(
1952                         FLOCK_VERIFY_WRITE, inode, filp,
1953                         size < inode->i_size ? size : inode->i_size,
1954                         (size < inode->i_size ? inode->i_size - size
1955                          : size - inode->i_size)
1956                 );
1957         return 0;
1958 }
1959
1960 static inline int break_lease(struct inode *inode, unsigned int mode)
1961 {
1962         /*
1963          * Since this check is lockless, we must ensure that any refcounts
1964          * taken are done before checking inode->i_flock. Otherwise, we could
1965          * end up racing with tasks trying to set a new lease on this file.
1966          */
1967         smp_mb();
1968         if (inode->i_flock)
1969                 return __break_lease(inode, mode, FL_LEASE);
1970         return 0;
1971 }
1972
1973 static inline int break_deleg(struct inode *inode, unsigned int mode)
1974 {
1975         /*
1976          * Since this check is lockless, we must ensure that any refcounts
1977          * taken are done before checking inode->i_flock. Otherwise, we could
1978          * end up racing with tasks trying to set a new lease on this file.
1979          */
1980         smp_mb();
1981         if (inode->i_flock)
1982                 return __break_lease(inode, mode, FL_DELEG);
1983         return 0;
1984 }
1985
1986 static inline int try_break_deleg(struct inode *inode, struct inode **delegated_inode)
1987 {
1988         int ret;
1989
1990         ret = break_deleg(inode, O_WRONLY|O_NONBLOCK);
1991         if (ret == -EWOULDBLOCK && delegated_inode) {
1992                 *delegated_inode = inode;
1993                 ihold(inode);
1994         }
1995         return ret;
1996 }
1997
1998 static inline int break_deleg_wait(struct inode **delegated_inode)
1999 {
2000         int ret;
2001
2002         ret = break_deleg(*delegated_inode, O_WRONLY);
2003         iput(*delegated_inode);
2004         *delegated_inode = NULL;
2005         return ret;
2006 }
2007
2008 #else /* !CONFIG_FILE_LOCKING */
2009 static inline int locks_mandatory_locked(struct file *file)
2010 {
2011         return 0;
2012 }
2013
2014 static inline int locks_mandatory_area(int rw, struct inode *inode,
2015                                        struct file *filp, loff_t offset,
2016                                        size_t count)
2017 {
2018         return 0;
2019 }
2020
2021 static inline int __mandatory_lock(struct inode *inode)
2022 {
2023         return 0;
2024 }
2025
2026 static inline int mandatory_lock(struct inode *inode)
2027 {
2028         return 0;
2029 }
2030
2031 static inline int locks_verify_locked(struct file *file)
2032 {
2033         return 0;
2034 }
2035
2036 static inline int locks_verify_truncate(struct inode *inode, struct file *filp,
2037                                         size_t size)
2038 {
2039         return 0;
2040 }
2041
2042 static inline int break_lease(struct inode *inode, unsigned int mode)
2043 {
2044         return 0;
2045 }
2046
2047 static inline int break_deleg(struct inode *inode, unsigned int mode)
2048 {
2049         return 0;
2050 }
2051
2052 static inline int try_break_deleg(struct inode *inode, struct inode **delegated_inode)
2053 {
2054         return 0;
2055 }
2056
2057 static inline int break_deleg_wait(struct inode **delegated_inode)
2058 {
2059         BUG();
2060         return 0;
2061 }
2062
2063 #endif /* CONFIG_FILE_LOCKING */
2064
2065 /* fs/open.c */
2066 struct audit_names;
2067 struct filename {
2068         const char              *name;  /* pointer to actual string */
2069         const __user char       *uptr;  /* original userland pointer */
2070         struct audit_names      *aname;
2071         bool                    separate; /* should "name" be freed? */
2072 };
2073
2074 extern long vfs_truncate(struct path *, loff_t);
2075 extern int do_truncate(struct dentry *, loff_t start, unsigned int time_attrs,
2076                        struct file *filp);
2077 extern int do_fallocate(struct file *file, int mode, loff_t offset,
2078                         loff_t len);
2079 extern long do_sys_open(int dfd, const char __user *filename, int flags,
2080                         umode_t mode);
2081 extern struct file *file_open_name(struct filename *, int, umode_t);
2082 extern struct file *filp_open(const char *, int, umode_t);
2083 extern struct file *file_open_root(struct dentry *, struct vfsmount *,
2084                                    const char *, int);
2085 extern int vfs_open(const struct path *, struct file *, const struct cred *);
2086 extern struct file * dentry_open(const struct path *, int, const struct cred *);
2087 extern int filp_close(struct file *, fl_owner_t id);
2088
2089 extern struct filename *getname(const char __user *);
2090 extern struct filename *getname_kernel(const char *);
2091
2092 enum {
2093         FILE_CREATED = 1,
2094         FILE_OPENED = 2
2095 };
2096 extern int finish_open(struct file *file, struct dentry *dentry,
2097                         int (*open)(struct inode *, struct file *),
2098                         int *opened);
2099 extern int finish_no_open(struct file *file, struct dentry *dentry);
2100
2101 /* fs/ioctl.c */
2102
2103 extern int ioctl_preallocate(struct file *filp, void __user *argp);
2104
2105 /* fs/dcache.c */
2106 extern void __init vfs_caches_init_early(void);
2107 extern void __init vfs_caches_init(unsigned long);
2108
2109 extern struct kmem_cache *names_cachep;
2110
2111 extern void final_putname(struct filename *name);
2112
2113 #define __getname()             kmem_cache_alloc(names_cachep, GFP_KERNEL)
2114 #define __putname(name)         kmem_cache_free(names_cachep, (void *)(name))
2115 #ifndef CONFIG_AUDITSYSCALL
2116 #define putname(name)           final_putname(name)
2117 #else
2118 extern void putname(struct filename *name);
2119 #endif
2120
2121 #ifdef CONFIG_BLOCK
2122 extern int register_blkdev(unsigned int, const char *);
2123 extern void unregister_blkdev(unsigned int, const char *);
2124 extern struct block_device *bdget(dev_t);
2125 extern struct block_device *bdgrab(struct block_device *bdev);
2126 extern void bd_set_size(struct block_device *, loff_t size);
2127 extern void bd_forget(struct inode *inode);
2128 extern void bdput(struct block_device *);
2129 extern void invalidate_bdev(struct block_device *);
2130 extern void iterate_bdevs(void (*)(struct block_device *, void *), void *);
2131 extern int sync_blockdev(struct block_device *bdev);
2132 extern void kill_bdev(struct block_device *);
2133 extern struct super_block *freeze_bdev(struct block_device *);
2134 extern void emergency_thaw_all(void);
2135 extern int thaw_bdev(struct block_device *bdev, struct super_block *sb);
2136 extern int fsync_bdev(struct block_device *);
2137 extern int sb_is_blkdev_sb(struct super_block *sb);
2138 #else
2139 static inline void bd_forget(struct inode *inode) {}
2140 static inline int sync_blockdev(struct block_device *bdev) { return 0; }
2141 static inline void kill_bdev(struct block_device *bdev) {}
2142 static inline void invalidate_bdev(struct block_device *bdev) {}
2143
2144 static inline struct super_block *freeze_bdev(struct block_device *sb)
2145 {
2146         return NULL;
2147 }
2148
2149 static inline int thaw_bdev(struct block_device *bdev, struct super_block *sb)
2150 {
2151         return 0;
2152 }
2153
2154 static inline void iterate_bdevs(void (*f)(struct block_device *, void *), void *arg)
2155 {
2156 }
2157
2158 static inline int sb_is_blkdev_sb(struct super_block *sb)
2159 {
2160         return 0;
2161 }
2162 #endif
2163 extern int sync_filesystem(struct super_block *);
2164 extern const struct file_operations def_blk_fops;
2165 extern const struct file_operations def_chr_fops;
2166 extern const struct file_operations bad_sock_fops;
2167 #ifdef CONFIG_BLOCK
2168 extern int ioctl_by_bdev(struct block_device *, unsigned, unsigned long);
2169 extern int blkdev_ioctl(struct block_device *, fmode_t, unsigned, unsigned long);
2170 extern long compat_blkdev_ioctl(struct file *, unsigned, unsigned long);
2171 extern int blkdev_get(struct block_device *bdev, fmode_t mode, void *holder);
2172 extern struct block_device *blkdev_get_by_path(const char *path, fmode_t mode,
2173                                                void *holder);
2174 extern struct block_device *blkdev_get_by_dev(dev_t dev, fmode_t mode,
2175                                               void *holder);
2176 extern void blkdev_put(struct block_device *bdev, fmode_t mode);
2177 #ifdef CONFIG_SYSFS
2178 extern int bd_link_disk_holder(struct block_device *bdev, struct gendisk *disk);
2179 extern void bd_unlink_disk_holder(struct block_device *bdev,
2180                                   struct gendisk *disk);
2181 #else
2182 static inline int bd_link_disk_holder(struct block_device *bdev,
2183                                       struct gendisk *disk)
2184 {
2185         return 0;
2186 }
2187 static inline void bd_unlink_disk_holder(struct block_device *bdev,
2188                                          struct gendisk *disk)
2189 {
2190 }
2191 #endif
2192 #endif
2193
2194 /* fs/char_dev.c */
2195 #define CHRDEV_MAJOR_HASH_SIZE  255
2196 extern int alloc_chrdev_region(dev_t *, unsigned, unsigned, const char *);
2197 extern int register_chrdev_region(dev_t, unsigned, const char *);
2198 extern int __register_chrdev(unsigned int major, unsigned int baseminor,
2199                              unsigned int count, const char *name,
2200                              const struct file_operations *fops);
2201 extern void __unregister_chrdev(unsigned int major, unsigned int baseminor,
2202                                 unsigned int count, const char *name);
2203 extern void unregister_chrdev_region(dev_t, unsigned);
2204 extern void chrdev_show(struct seq_file *,off_t);
2205
2206 static inline int register_chrdev(unsigned int major, const char *name,
2207                                   const struct file_operations *fops)
2208 {
2209         return __register_chrdev(major, 0, 256, name, fops);
2210 }
2211
2212 static inline void unregister_chrdev(unsigned int major, const char *name)
2213 {
2214         __unregister_chrdev(major, 0, 256, name);
2215 }
2216
2217 /* fs/block_dev.c */
2218 #define BDEVNAME_SIZE   32      /* Largest string for a blockdev identifier */
2219 #define BDEVT_SIZE      10      /* Largest string for MAJ:MIN for blkdev */
2220
2221 #ifdef CONFIG_BLOCK
2222 #define BLKDEV_MAJOR_HASH_SIZE  255
2223 extern const char *__bdevname(dev_t, char *buffer);
2224 extern const char *bdevname(struct block_device *bdev, char *buffer);
2225 extern struct block_device *lookup_bdev(const char *);
2226 extern void blkdev_show(struct seq_file *,off_t);
2227
2228 #else
2229 #define BLKDEV_MAJOR_HASH_SIZE  0
2230 #endif
2231
2232 extern void init_special_inode(struct inode *, umode_t, dev_t);
2233
2234 /* Invalid inode operations -- fs/bad_inode.c */
2235 extern void make_bad_inode(struct inode *);
2236 extern int is_bad_inode(struct inode *);
2237
2238 #ifdef CONFIG_BLOCK
2239 /*
2240  * return READ, READA, or WRITE
2241  */
2242 #define bio_rw(bio)             ((bio)->bi_rw & (RW_MASK | RWA_MASK))
2243
2244 /*
2245  * return data direction, READ or WRITE
2246  */
2247 #define bio_data_dir(bio)       ((bio)->bi_rw & 1)
2248
2249 extern void check_disk_size_change(struct gendisk *disk,
2250                                    struct block_device *bdev);
2251 extern int revalidate_disk(struct gendisk *);
2252 extern int check_disk_change(struct block_device *);
2253 extern int __invalidate_device(struct block_device *, bool);
2254 extern int invalidate_partition(struct gendisk *, int);
2255 #endif
2256 unsigned long invalidate_mapping_pages(struct address_space *mapping,
2257                                         pgoff_t start, pgoff_t end);
2258
2259 static inline void invalidate_remote_inode(struct inode *inode)
2260 {
2261         if (S_ISREG(inode->i_mode) || S_ISDIR(inode->i_mode) ||
2262             S_ISLNK(inode->i_mode))
2263                 invalidate_mapping_pages(inode->i_mapping, 0, -1);
2264 }
2265 extern int invalidate_inode_pages2(struct address_space *mapping);
2266 extern int invalidate_inode_pages2_range(struct address_space *mapping,
2267                                          pgoff_t start, pgoff_t end);
2268 extern int write_inode_now(struct inode *, int);
2269 extern int filemap_fdatawrite(struct address_space *);
2270 extern int filemap_flush(struct address_space *);
2271 extern int filemap_fdatawait(struct address_space *);
2272 extern int filemap_fdatawait_range(struct address_space *, loff_t lstart,
2273                                    loff_t lend);
2274 extern int filemap_write_and_wait(struct address_space *mapping);
2275 extern int filemap_write_and_wait_range(struct address_space *mapping,
2276                                         loff_t lstart, loff_t lend);
2277 extern int __filemap_fdatawrite_range(struct address_space *mapping,
2278                                 loff_t start, loff_t end, int sync_mode);
2279 extern int filemap_fdatawrite_range(struct address_space *mapping,
2280                                 loff_t start, loff_t end);
2281
2282 extern int vfs_fsync_range(struct file *file, loff_t start, loff_t end,
2283                            int datasync);
2284 extern int vfs_fsync(struct file *file, int datasync);
2285 static inline int generic_write_sync(struct file *file, loff_t pos, loff_t count)
2286 {
2287         if (!(file->f_flags & O_DSYNC) && !IS_SYNC(file->f_mapping->host))
2288                 return 0;
2289         return vfs_fsync_range(file, pos, pos + count - 1,
2290                                (file->f_flags & __O_SYNC) ? 0 : 1);
2291 }
2292 extern void emergency_sync(void);
2293 extern void emergency_remount(void);
2294 #ifdef CONFIG_BLOCK
2295 extern sector_t bmap(struct inode *, sector_t);
2296 #endif
2297 extern int notify_change(struct dentry *, struct iattr *, struct inode **);
2298 extern int inode_permission(struct inode *, int);
2299 extern int __inode_permission(struct inode *, int);
2300 extern int generic_permission(struct inode *, int);
2301 extern int __check_sticky(struct inode *dir, struct inode *inode);
2302
2303 static inline bool execute_ok(struct inode *inode)
2304 {
2305         return (inode->i_mode & S_IXUGO) || S_ISDIR(inode->i_mode);
2306 }
2307
2308 static inline void file_start_write(struct file *file)
2309 {
2310         if (!S_ISREG(file_inode(file)->i_mode))
2311                 return;
2312         __sb_start_write(file_inode(file)->i_sb, SB_FREEZE_WRITE, true);
2313 }
2314
2315 static inline bool file_start_write_trylock(struct file *file)
2316 {
2317         if (!S_ISREG(file_inode(file)->i_mode))
2318                 return true;
2319         return __sb_start_write(file_inode(file)->i_sb, SB_FREEZE_WRITE, false);
2320 }
2321
2322 static inline void file_end_write(struct file *file)
2323 {
2324         if (!S_ISREG(file_inode(file)->i_mode))
2325                 return;
2326         __sb_end_write(file_inode(file)->i_sb, SB_FREEZE_WRITE);
2327 }
2328
2329 /*
2330  * get_write_access() gets write permission for a file.
2331  * put_write_access() releases this write permission.
2332  * This is used for regular files.
2333  * We cannot support write (and maybe mmap read-write shared) accesses and
2334  * MAP_DENYWRITE mmappings simultaneously. The i_writecount field of an inode
2335  * can have the following values:
2336  * 0: no writers, no VM_DENYWRITE mappings
2337  * < 0: (-i_writecount) vm_area_structs with VM_DENYWRITE set exist
2338  * > 0: (i_writecount) users are writing to the file.
2339  *
2340  * Normally we operate on that counter with atomic_{inc,dec} and it's safe
2341  * except for the cases where we don't hold i_writecount yet. Then we need to
2342  * use {get,deny}_write_access() - these functions check the sign and refuse
2343  * to do the change if sign is wrong.
2344  */
2345 static inline int get_write_access(struct inode *inode)
2346 {
2347         return atomic_inc_unless_negative(&inode->i_writecount) ? 0 : -ETXTBSY;
2348 }
2349 static inline int deny_write_access(struct file *file)
2350 {
2351         struct inode *inode = file_inode(file);
2352         return atomic_dec_unless_positive(&inode->i_writecount) ? 0 : -ETXTBSY;
2353 }
2354 static inline void put_write_access(struct inode * inode)
2355 {
2356         atomic_dec(&inode->i_writecount);
2357 }
2358 static inline void allow_write_access(struct file *file)
2359 {
2360         if (file)
2361                 atomic_inc(&file_inode(file)->i_writecount);
2362 }
2363 static inline bool inode_is_open_for_write(const struct inode *inode)
2364 {
2365         return atomic_read(&inode->i_writecount) > 0;
2366 }
2367
2368 #ifdef CONFIG_IMA
2369 static inline void i_readcount_dec(struct inode *inode)
2370 {
2371         BUG_ON(!atomic_read(&inode->i_readcount));
2372         atomic_dec(&inode->i_readcount);
2373 }
2374 static inline void i_readcount_inc(struct inode *inode)
2375 {
2376         atomic_inc(&inode->i_readcount);
2377 }
2378 #else
2379 static inline void i_readcount_dec(struct inode *inode)
2380 {
2381         return;
2382 }
2383 static inline void i_readcount_inc(struct inode *inode)
2384 {
2385         return;
2386 }
2387 #endif
2388 extern int do_pipe_flags(int *, int);
2389
2390 extern int kernel_read(struct file *, loff_t, char *, unsigned long);
2391 extern ssize_t kernel_write(struct file *, const char *, size_t, loff_t);
2392 extern ssize_t __kernel_write(struct file *, const char *, size_t, loff_t *);
2393 extern struct file * open_exec(const char *);
2394  
2395 /* fs/dcache.c -- generic fs support functions */
2396 extern int is_subdir(struct dentry *, struct dentry *);
2397 extern int path_is_under(struct path *, struct path *);
2398
2399 #include <linux/err.h>
2400
2401 /* needed for stackable file system support */
2402 extern loff_t default_llseek(struct file *file, loff_t offset, int whence);
2403
2404 extern loff_t vfs_llseek(struct file *file, loff_t offset, int whence);
2405
2406 extern int inode_init_always(struct super_block *, struct inode *);
2407 extern void inode_init_once(struct inode *);
2408 extern void address_space_init_once(struct address_space *mapping);
2409 extern struct inode * igrab(struct inode *);
2410 extern ino_t iunique(struct super_block *, ino_t);
2411 extern int inode_needs_sync(struct inode *inode);
2412 extern int generic_delete_inode(struct inode *inode);
2413 static inline int generic_drop_inode(struct inode *inode)
2414 {
2415         return !inode->i_nlink || inode_unhashed(inode);
2416 }
2417
2418 extern struct inode *ilookup5_nowait(struct super_block *sb,
2419                 unsigned long hashval, int (*test)(struct inode *, void *),
2420                 void *data);
2421 extern struct inode *ilookup5(struct super_block *sb, unsigned long hashval,
2422                 int (*test)(struct inode *, void *), void *data);
2423 extern struct inode *ilookup(struct super_block *sb, unsigned long ino);
2424
2425 extern struct inode * iget5_locked(struct super_block *, unsigned long, int (*test)(struct inode *, void *), int (*set)(struct inode *, void *), void *);
2426 extern struct inode * iget_locked(struct super_block *, unsigned long);
2427 extern int insert_inode_locked4(struct inode *, unsigned long, int (*test)(struct inode *, void *), void *);
2428 extern int insert_inode_locked(struct inode *);
2429 #ifdef CONFIG_DEBUG_LOCK_ALLOC
2430 extern void lockdep_annotate_inode_mutex_key(struct inode *inode);
2431 #else
2432 static inline void lockdep_annotate_inode_mutex_key(struct inode *inode) { };
2433 #endif
2434 extern void unlock_new_inode(struct inode *);
2435 extern unsigned int get_next_ino(void);
2436
2437 extern void __iget(struct inode * inode);
2438 extern void iget_failed(struct inode *);
2439 extern void clear_inode(struct inode *);
2440 extern void __destroy_inode(struct inode *);
2441 extern struct inode *new_inode_pseudo(struct super_block *sb);
2442 extern struct inode *new_inode(struct super_block *sb);
2443 extern void free_inode_nonrcu(struct inode *inode);
2444 extern int should_remove_suid(struct dentry *);
2445 extern int file_remove_suid(struct file *);
2446
2447 extern void __insert_inode_hash(struct inode *, unsigned long hashval);
2448 static inline void insert_inode_hash(struct inode *inode)
2449 {
2450         __insert_inode_hash(inode, inode->i_ino);
2451 }
2452
2453 extern void __remove_inode_hash(struct inode *);
2454 static inline void remove_inode_hash(struct inode *inode)
2455 {
2456         if (!inode_unhashed(inode))
2457                 __remove_inode_hash(inode);
2458 }
2459
2460 extern void inode_sb_list_add(struct inode *inode);
2461
2462 #ifdef CONFIG_BLOCK
2463 extern void submit_bio(int, struct bio *);
2464 extern int bdev_read_only(struct block_device *);
2465 #endif
2466 extern int set_blocksize(struct block_device *, int);
2467 extern int sb_set_blocksize(struct super_block *, int);
2468 extern int sb_min_blocksize(struct super_block *, int);
2469
2470 extern int generic_file_mmap(struct file *, struct vm_area_struct *);
2471 extern int generic_file_readonly_mmap(struct file *, struct vm_area_struct *);
2472 extern int generic_file_remap_pages(struct vm_area_struct *, unsigned long addr,
2473                 unsigned long size, pgoff_t pgoff);
2474 int generic_write_checks(struct file *file, loff_t *pos, size_t *count, int isblk);
2475 extern ssize_t generic_file_read_iter(struct kiocb *, struct iov_iter *);
2476 extern ssize_t __generic_file_write_iter(struct kiocb *, struct iov_iter *);
2477 extern ssize_t generic_file_write_iter(struct kiocb *, struct iov_iter *);
2478 extern ssize_t generic_file_direct_write(struct kiocb *, struct iov_iter *, loff_t);
2479 extern ssize_t generic_perform_write(struct file *, struct iov_iter *, loff_t);
2480 extern ssize_t do_sync_read(struct file *filp, char __user *buf, size_t len, loff_t *ppos);
2481 extern ssize_t do_sync_write(struct file *filp, const char __user *buf, size_t len, loff_t *ppos);
2482 extern ssize_t new_sync_read(struct file *filp, char __user *buf, size_t len, loff_t *ppos);
2483 extern ssize_t new_sync_write(struct file *filp, const char __user *buf, size_t len, loff_t *ppos);
2484
2485 /* fs/block_dev.c */
2486 extern ssize_t blkdev_read_iter(struct kiocb *iocb, struct iov_iter *to);
2487 extern ssize_t blkdev_write_iter(struct kiocb *iocb, struct iov_iter *from);
2488 extern int blkdev_fsync(struct file *filp, loff_t start, loff_t end,
2489                         int datasync);
2490 extern void block_sync_page(struct page *page);
2491
2492 /* fs/splice.c */
2493 extern ssize_t generic_file_splice_read(struct file *, loff_t *,
2494                 struct pipe_inode_info *, size_t, unsigned int);
2495 extern ssize_t default_file_splice_read(struct file *, loff_t *,
2496                 struct pipe_inode_info *, size_t, unsigned int);
2497 extern ssize_t iter_file_splice_write(struct pipe_inode_info *,
2498                 struct file *, loff_t *, size_t, unsigned int);
2499 extern ssize_t generic_splice_sendpage(struct pipe_inode_info *pipe,
2500                 struct file *out, loff_t *, size_t len, unsigned int flags);
2501 extern long do_splice_direct(struct file *in, loff_t *ppos, struct file *out,
2502                 loff_t *opos, size_t len, unsigned int flags);
2503
2504
2505 extern void
2506 file_ra_state_init(struct file_ra_state *ra, struct address_space *mapping);
2507 extern loff_t noop_llseek(struct file *file, loff_t offset, int whence);
2508 extern loff_t no_llseek(struct file *file, loff_t offset, int whence);
2509 extern loff_t vfs_setpos(struct file *file, loff_t offset, loff_t maxsize);
2510 extern loff_t generic_file_llseek(struct file *file, loff_t offset, int whence);
2511 extern loff_t generic_file_llseek_size(struct file *file, loff_t offset,
2512                 int whence, loff_t maxsize, loff_t eof);
2513 extern loff_t fixed_size_llseek(struct file *file, loff_t offset,
2514                 int whence, loff_t size);
2515 extern int generic_file_open(struct inode * inode, struct file * filp);
2516 extern int nonseekable_open(struct inode * inode, struct file * filp);
2517
2518 #ifdef CONFIG_FS_XIP
2519 extern ssize_t xip_file_read(struct file *filp, char __user *buf, size_t len,
2520                              loff_t *ppos);
2521 extern int xip_file_mmap(struct file * file, struct vm_area_struct * vma);
2522 extern ssize_t xip_file_write(struct file *filp, const char __user *buf,
2523                               size_t len, loff_t *ppos);
2524 extern int xip_truncate_page(struct address_space *mapping, loff_t from);
2525 #else
2526 static inline int xip_truncate_page(struct address_space *mapping, loff_t from)
2527 {
2528         return 0;
2529 }
2530 #endif
2531
2532 #ifdef CONFIG_BLOCK
2533 typedef void (dio_submit_t)(int rw, struct bio *bio, struct inode *inode,
2534                             loff_t file_offset);
2535
2536 enum {
2537         /* need locking between buffered and direct access */
2538         DIO_LOCKING     = 0x01,
2539
2540         /* filesystem does not support filling holes */
2541         DIO_SKIP_HOLES  = 0x02,
2542
2543         /* filesystem can handle aio writes beyond i_size */
2544         DIO_ASYNC_EXTEND = 0x04,
2545 };
2546
2547 void dio_end_io(struct bio *bio, int error);
2548
2549 ssize_t __blockdev_direct_IO(int rw, struct kiocb *iocb, struct inode *inode,
2550         struct block_device *bdev, struct iov_iter *iter, loff_t offset,
2551         get_block_t get_block, dio_iodone_t end_io,
2552         dio_submit_t submit_io, int flags);
2553
2554 static inline ssize_t blockdev_direct_IO(int rw, struct kiocb *iocb,
2555                 struct inode *inode, struct iov_iter *iter, loff_t offset,
2556                 get_block_t get_block)
2557 {
2558         return __blockdev_direct_IO(rw, iocb, inode, inode->i_sb->s_bdev, iter,
2559                                     offset, get_block, NULL, NULL,
2560                                     DIO_LOCKING | DIO_SKIP_HOLES);
2561 }
2562 #endif
2563
2564 void inode_dio_wait(struct inode *inode);
2565 void inode_dio_done(struct inode *inode);
2566
2567 extern void inode_set_flags(struct inode *inode, unsigned int flags,
2568                             unsigned int mask);
2569
2570 extern const struct file_operations generic_ro_fops;
2571
2572 #define special_file(m) (S_ISCHR(m)||S_ISBLK(m)||S_ISFIFO(m)||S_ISSOCK(m))
2573
2574 extern int readlink_copy(char __user *, int, const char *);
2575 extern int page_readlink(struct dentry *, char __user *, int);
2576 extern void *page_follow_link_light(struct dentry *, struct nameidata *);
2577 extern void page_put_link(struct dentry *, struct nameidata *, void *);
2578 extern int __page_symlink(struct inode *inode, const char *symname, int len,
2579                 int nofs);
2580 extern int page_symlink(struct inode *inode, const char *symname, int len);
2581 extern const struct inode_operations page_symlink_inode_operations;
2582 extern void kfree_put_link(struct dentry *, struct nameidata *, void *);
2583 extern int generic_readlink(struct dentry *, char __user *, int);
2584 extern void generic_fillattr(struct inode *, struct kstat *);
2585 int vfs_getattr_nosec(struct path *path, struct kstat *stat);
2586 extern int vfs_getattr(struct path *, struct kstat *);
2587 void __inode_add_bytes(struct inode *inode, loff_t bytes);
2588 void inode_add_bytes(struct inode *inode, loff_t bytes);
2589 void __inode_sub_bytes(struct inode *inode, loff_t bytes);
2590 void inode_sub_bytes(struct inode *inode, loff_t bytes);
2591 loff_t inode_get_bytes(struct inode *inode);
2592 void inode_set_bytes(struct inode *inode, loff_t bytes);
2593
2594 extern int vfs_readdir(struct file *, filldir_t, void *);
2595 extern int iterate_dir(struct file *, struct dir_context *);
2596
2597 extern int vfs_stat(const char __user *, struct kstat *);
2598 extern int vfs_lstat(const char __user *, struct kstat *);
2599 extern int vfs_fstat(unsigned int, struct kstat *);
2600 extern int vfs_fstatat(int , const char __user *, struct kstat *, int);
2601
2602 extern int do_vfs_ioctl(struct file *filp, unsigned int fd, unsigned int cmd,
2603                     unsigned long arg);
2604 extern int __generic_block_fiemap(struct inode *inode,
2605                                   struct fiemap_extent_info *fieinfo,
2606                                   loff_t start, loff_t len,
2607                                   get_block_t *get_block);
2608 extern int generic_block_fiemap(struct inode *inode,
2609                                 struct fiemap_extent_info *fieinfo, u64 start,
2610                                 u64 len, get_block_t *get_block);
2611
2612 extern void get_filesystem(struct file_system_type *fs);
2613 extern void put_filesystem(struct file_system_type *fs);
2614 extern struct file_system_type *get_fs_type(const char *name);
2615 extern struct super_block *get_super(struct block_device *);
2616 extern struct super_block *get_super_thawed(struct block_device *);
2617 extern struct super_block *get_active_super(struct block_device *bdev);
2618 extern void drop_super(struct super_block *sb);
2619 extern void iterate_supers(void (*)(struct super_block *, void *), void *);
2620 extern void iterate_supers_type(struct file_system_type *,
2621                                 void (*)(struct super_block *, void *), void *);
2622
2623 extern int dcache_dir_open(struct inode *, struct file *);
2624 extern int dcache_dir_close(struct inode *, struct file *);
2625 extern loff_t dcache_dir_lseek(struct file *, loff_t, int);
2626 extern int dcache_readdir(struct file *, struct dir_context *);
2627 extern int simple_setattr(struct dentry *, struct iattr *);
2628 extern int simple_getattr(struct vfsmount *, struct dentry *, struct kstat *);
2629 extern int simple_statfs(struct dentry *, struct kstatfs *);
2630 extern int simple_open(struct inode *inode, struct file *file);
2631 extern int simple_link(struct dentry *, struct inode *, struct dentry *);
2632 extern int simple_unlink(struct inode *, struct dentry *);
2633 extern int simple_rmdir(struct inode *, struct dentry *);
2634 extern int simple_rename(struct inode *, struct dentry *, struct inode *, struct dentry *);
2635 extern int noop_fsync(struct file *, loff_t, loff_t, int);
2636 extern int simple_empty(struct dentry *);
2637 extern int simple_readpage(struct file *file, struct page *page);
2638 extern int simple_write_begin(struct file *file, struct address_space *mapping,
2639                         loff_t pos, unsigned len, unsigned flags,
2640                         struct page **pagep, void **fsdata);
2641 extern int simple_write_end(struct file *file, struct address_space *mapping,
2642                         loff_t pos, unsigned len, unsigned copied,
2643                         struct page *page, void *fsdata);
2644 extern int always_delete_dentry(const struct dentry *);
2645 extern struct inode *alloc_anon_inode(struct super_block *);
2646 extern int simple_nosetlease(struct file *, long, struct file_lock **, void **);
2647 extern const struct dentry_operations simple_dentry_operations;
2648
2649 extern struct dentry *simple_lookup(struct inode *, struct dentry *, unsigned int flags);
2650 extern ssize_t generic_read_dir(struct file *, char __user *, size_t, loff_t *);
2651 extern const struct file_operations simple_dir_operations;
2652 extern const struct inode_operations simple_dir_inode_operations;
2653 struct tree_descr { char *name; const struct file_operations *ops; int mode; };
2654 struct dentry *d_alloc_name(struct dentry *, const char *);
2655 extern int simple_fill_super(struct super_block *, unsigned long, struct tree_descr *);
2656 extern int simple_pin_fs(struct file_system_type *, struct vfsmount **mount, int *count);
2657 extern void simple_release_fs(struct vfsmount **mount, int *count);
2658
2659 extern ssize_t simple_read_from_buffer(void __user *to, size_t count,
2660                         loff_t *ppos, const void *from, size_t available);
2661 extern ssize_t simple_write_to_buffer(void *to, size_t available, loff_t *ppos,
2662                 const void __user *from, size_t count);
2663
2664 extern int __generic_file_fsync(struct file *, loff_t, loff_t, int);
2665 extern int generic_file_fsync(struct file *, loff_t, loff_t, int);
2666
2667 extern int generic_check_addressable(unsigned, u64);
2668
2669 #ifdef CONFIG_MIGRATION
2670 extern int buffer_migrate_page(struct address_space *,
2671                                 struct page *, struct page *,
2672                                 enum migrate_mode);
2673 #else
2674 #define buffer_migrate_page NULL
2675 #endif
2676
2677 extern int inode_change_ok(const struct inode *, struct iattr *);
2678 extern int inode_newsize_ok(const struct inode *, loff_t offset);
2679 extern void setattr_copy(struct inode *inode, const struct iattr *attr);
2680
2681 extern int file_update_time(struct file *file);
2682
2683 extern int generic_show_options(struct seq_file *m, struct dentry *root);
2684 extern void save_mount_options(struct super_block *sb, char *options);
2685 extern void replace_mount_options(struct super_block *sb, char *options);
2686
2687 static inline ino_t parent_ino(struct dentry *dentry)
2688 {
2689         ino_t res;
2690
2691         /*
2692          * Don't strictly need d_lock here? If the parent ino could change
2693          * then surely we'd have a deeper race in the caller?
2694          */
2695         spin_lock(&dentry->d_lock);
2696         res = dentry->d_parent->d_inode->i_ino;
2697         spin_unlock(&dentry->d_lock);
2698         return res;
2699 }
2700
2701 /* Transaction based IO helpers */
2702
2703 /*
2704  * An argresp is stored in an allocated page and holds the
2705  * size of the argument or response, along with its content
2706  */
2707 struct simple_transaction_argresp {
2708         ssize_t size;
2709         char data[0];
2710 };
2711
2712 #define SIMPLE_TRANSACTION_LIMIT (PAGE_SIZE - sizeof(struct simple_transaction_argresp))
2713
2714 char *simple_transaction_get(struct file *file, const char __user *buf,
2715                                 size_t size);
2716 ssize_t simple_transaction_read(struct file *file, char __user *buf,
2717                                 size_t size, loff_t *pos);
2718 int simple_transaction_release(struct inode *inode, struct file *file);
2719
2720 void simple_transaction_set(struct file *file, size_t n);
2721
2722 /*
2723  * simple attribute files
2724  *
2725  * These attributes behave similar to those in sysfs:
2726  *
2727  * Writing to an attribute immediately sets a value, an open file can be
2728  * written to multiple times.
2729  *
2730  * Reading from an attribute creates a buffer from the value that might get
2731  * read with multiple read calls. When the attribute has been read
2732  * completely, no further read calls are possible until the file is opened
2733  * again.
2734  *
2735  * All attributes contain a text representation of a numeric value
2736  * that are accessed with the get() and set() functions.
2737  */
2738 #define DEFINE_SIMPLE_ATTRIBUTE(__fops, __get, __set, __fmt)            \
2739 static int __fops ## _open(struct inode *inode, struct file *file)      \
2740 {                                                                       \
2741         __simple_attr_check_format(__fmt, 0ull);                        \
2742         return simple_attr_open(inode, file, __get, __set, __fmt);      \
2743 }                                                                       \
2744 static const struct file_operations __fops = {                          \
2745         .owner   = THIS_MODULE,                                         \
2746         .open    = __fops ## _open,                                     \
2747         .release = simple_attr_release,                                 \
2748         .read    = simple_attr_read,                                    \
2749         .write   = simple_attr_write,                                   \
2750         .llseek  = generic_file_llseek,                                 \
2751 }
2752
2753 static inline __printf(1, 2)
2754 void __simple_attr_check_format(const char *fmt, ...)
2755 {
2756         /* don't do anything, just let the compiler check the arguments; */
2757 }
2758
2759 int simple_attr_open(struct inode *inode, struct file *file,
2760                      int (*get)(void *, u64 *), int (*set)(void *, u64),
2761                      const char *fmt);
2762 int simple_attr_release(struct inode *inode, struct file *file);
2763 ssize_t simple_attr_read(struct file *file, char __user *buf,
2764                          size_t len, loff_t *ppos);
2765 ssize_t simple_attr_write(struct file *file, const char __user *buf,
2766                           size_t len, loff_t *ppos);
2767
2768 struct ctl_table;
2769 int proc_nr_files(struct ctl_table *table, int write,
2770                   void __user *buffer, size_t *lenp, loff_t *ppos);
2771 int proc_nr_dentry(struct ctl_table *table, int write,
2772                   void __user *buffer, size_t *lenp, loff_t *ppos);
2773 int proc_nr_inodes(struct ctl_table *table, int write,
2774                    void __user *buffer, size_t *lenp, loff_t *ppos);
2775 int __init get_filesystem_list(char *buf);
2776
2777 #define __FMODE_EXEC            ((__force int) FMODE_EXEC)
2778 #define __FMODE_NONOTIFY        ((__force int) FMODE_NONOTIFY)
2779
2780 #define ACC_MODE(x) ("\004\002\006\006"[(x)&O_ACCMODE])
2781 #define OPEN_FMODE(flag) ((__force fmode_t)(((flag + 1) & O_ACCMODE) | \
2782                                             (flag & __FMODE_NONOTIFY)))
2783
2784 static inline int is_sxid(umode_t mode)
2785 {
2786         return (mode & S_ISUID) || ((mode & S_ISGID) && (mode & S_IXGRP));
2787 }
2788
2789 static inline int check_sticky(struct inode *dir, struct inode *inode)
2790 {
2791         if (!(dir->i_mode & S_ISVTX))
2792                 return 0;
2793
2794         return __check_sticky(dir, inode);
2795 }
2796
2797 static inline void inode_has_no_xattr(struct inode *inode)
2798 {
2799         if (!is_sxid(inode->i_mode) && (inode->i_sb->s_flags & MS_NOSEC))
2800                 inode->i_flags |= S_NOSEC;
2801 }
2802
2803 static inline bool is_root_inode(struct inode *inode)
2804 {
2805         return inode == inode->i_sb->s_root->d_inode;
2806 }
2807
2808 static inline bool dir_emit(struct dir_context *ctx,
2809                             const char *name, int namelen,
2810                             u64 ino, unsigned type)
2811 {
2812         return ctx->actor(ctx, name, namelen, ctx->pos, ino, type) == 0;
2813 }
2814 static inline bool dir_emit_dot(struct file *file, struct dir_context *ctx)
2815 {
2816         return ctx->actor(ctx, ".", 1, ctx->pos,
2817                           file->f_path.dentry->d_inode->i_ino, DT_DIR) == 0;
2818 }
2819 static inline bool dir_emit_dotdot(struct file *file, struct dir_context *ctx)
2820 {
2821         return ctx->actor(ctx, "..", 2, ctx->pos,
2822                           parent_ino(file->f_path.dentry), DT_DIR) == 0;
2823 }
2824 static inline bool dir_emit_dots(struct file *file, struct dir_context *ctx)
2825 {
2826         if (ctx->pos == 0) {
2827                 if (!dir_emit_dot(file, ctx))
2828                         return false;
2829                 ctx->pos = 1;
2830         }
2831         if (ctx->pos == 1) {
2832                 if (!dir_emit_dotdot(file, ctx))
2833                         return false;
2834                 ctx->pos = 2;
2835         }
2836         return true;
2837 }
2838 static inline bool dir_relax(struct inode *inode)
2839 {
2840         mutex_unlock(&inode->i_mutex);
2841         mutex_lock(&inode->i_mutex);
2842         return !IS_DEADDIR(inode);
2843 }
2844
2845 #endif /* _LINUX_FS_H */