kmemleak: Check for NULL pointer returned by create_object()
[linux-2.6.git] / fs / xfs / linux-2.6 / xfs_super.c
1 /*
2  * Copyright (c) 2000-2006 Silicon Graphics, Inc.
3  * All Rights Reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License as
7  * published by the Free Software Foundation.
8  *
9  * This program is distributed in the hope that it would be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write the Free Software Foundation,
16  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18 #include "xfs.h"
19 #include "xfs_bit.h"
20 #include "xfs_log.h"
21 #include "xfs_inum.h"
22 #include "xfs_trans.h"
23 #include "xfs_sb.h"
24 #include "xfs_ag.h"
25 #include "xfs_dir2.h"
26 #include "xfs_alloc.h"
27 #include "xfs_dmapi.h"
28 #include "xfs_quota.h"
29 #include "xfs_mount.h"
30 #include "xfs_bmap_btree.h"
31 #include "xfs_alloc_btree.h"
32 #include "xfs_ialloc_btree.h"
33 #include "xfs_dir2_sf.h"
34 #include "xfs_attr_sf.h"
35 #include "xfs_dinode.h"
36 #include "xfs_inode.h"
37 #include "xfs_btree.h"
38 #include "xfs_btree_trace.h"
39 #include "xfs_ialloc.h"
40 #include "xfs_bmap.h"
41 #include "xfs_rtalloc.h"
42 #include "xfs_error.h"
43 #include "xfs_itable.h"
44 #include "xfs_fsops.h"
45 #include "xfs_rw.h"
46 #include "xfs_attr.h"
47 #include "xfs_buf_item.h"
48 #include "xfs_utils.h"
49 #include "xfs_vnodeops.h"
50 #include "xfs_version.h"
51 #include "xfs_log_priv.h"
52 #include "xfs_trans_priv.h"
53 #include "xfs_filestream.h"
54 #include "xfs_da_btree.h"
55 #include "xfs_dir2_trace.h"
56 #include "xfs_extfree_item.h"
57 #include "xfs_mru_cache.h"
58 #include "xfs_inode_item.h"
59 #include "xfs_sync.h"
60
61 #include <linux/namei.h>
62 #include <linux/init.h>
63 #include <linux/mount.h>
64 #include <linux/mempool.h>
65 #include <linux/writeback.h>
66 #include <linux/kthread.h>
67 #include <linux/freezer.h>
68 #include <linux/parser.h>
69
70 static const struct super_operations xfs_super_operations;
71 static kmem_zone_t *xfs_ioend_zone;
72 mempool_t *xfs_ioend_pool;
73
74 #define MNTOPT_LOGBUFS  "logbufs"       /* number of XFS log buffers */
75 #define MNTOPT_LOGBSIZE "logbsize"      /* size of XFS log buffers */
76 #define MNTOPT_LOGDEV   "logdev"        /* log device */
77 #define MNTOPT_RTDEV    "rtdev"         /* realtime I/O device */
78 #define MNTOPT_BIOSIZE  "biosize"       /* log2 of preferred buffered io size */
79 #define MNTOPT_WSYNC    "wsync"         /* safe-mode nfs compatible mount */
80 #define MNTOPT_NOALIGN  "noalign"       /* turn off stripe alignment */
81 #define MNTOPT_SWALLOC  "swalloc"       /* turn on stripe width allocation */
82 #define MNTOPT_SUNIT    "sunit"         /* data volume stripe unit */
83 #define MNTOPT_SWIDTH   "swidth"        /* data volume stripe width */
84 #define MNTOPT_NOUUID   "nouuid"        /* ignore filesystem UUID */
85 #define MNTOPT_MTPT     "mtpt"          /* filesystem mount point */
86 #define MNTOPT_GRPID    "grpid"         /* group-ID from parent directory */
87 #define MNTOPT_NOGRPID  "nogrpid"       /* group-ID from current process */
88 #define MNTOPT_BSDGROUPS    "bsdgroups"    /* group-ID from parent directory */
89 #define MNTOPT_SYSVGROUPS   "sysvgroups"   /* group-ID from current process */
90 #define MNTOPT_ALLOCSIZE    "allocsize"    /* preferred allocation size */
91 #define MNTOPT_NORECOVERY   "norecovery"   /* don't run XFS recovery */
92 #define MNTOPT_BARRIER  "barrier"       /* use writer barriers for log write and
93                                          * unwritten extent conversion */
94 #define MNTOPT_NOBARRIER "nobarrier"    /* .. disable */
95 #define MNTOPT_OSYNCISOSYNC "osyncisosync" /* o_sync is REALLY o_sync */
96 #define MNTOPT_64BITINODE   "inode64"   /* inodes can be allocated anywhere */
97 #define MNTOPT_IKEEP    "ikeep"         /* do not free empty inode clusters */
98 #define MNTOPT_NOIKEEP  "noikeep"       /* free empty inode clusters */
99 #define MNTOPT_LARGEIO     "largeio"    /* report large I/O sizes in stat() */
100 #define MNTOPT_NOLARGEIO   "nolargeio"  /* do not report large I/O sizes
101                                          * in stat(). */
102 #define MNTOPT_ATTR2    "attr2"         /* do use attr2 attribute format */
103 #define MNTOPT_NOATTR2  "noattr2"       /* do not use attr2 attribute format */
104 #define MNTOPT_FILESTREAM  "filestreams" /* use filestreams allocator */
105 #define MNTOPT_QUOTA    "quota"         /* disk quotas (user) */
106 #define MNTOPT_NOQUOTA  "noquota"       /* no quotas */
107 #define MNTOPT_USRQUOTA "usrquota"      /* user quota enabled */
108 #define MNTOPT_GRPQUOTA "grpquota"      /* group quota enabled */
109 #define MNTOPT_PRJQUOTA "prjquota"      /* project quota enabled */
110 #define MNTOPT_UQUOTA   "uquota"        /* user quota (IRIX variant) */
111 #define MNTOPT_GQUOTA   "gquota"        /* group quota (IRIX variant) */
112 #define MNTOPT_PQUOTA   "pquota"        /* project quota (IRIX variant) */
113 #define MNTOPT_UQUOTANOENF "uqnoenforce"/* user quota limit enforcement */
114 #define MNTOPT_GQUOTANOENF "gqnoenforce"/* group quota limit enforcement */
115 #define MNTOPT_PQUOTANOENF "pqnoenforce"/* project quota limit enforcement */
116 #define MNTOPT_QUOTANOENF  "qnoenforce" /* same as uqnoenforce */
117 #define MNTOPT_DMAPI    "dmapi"         /* DMI enabled (DMAPI / XDSM) */
118 #define MNTOPT_XDSM     "xdsm"          /* DMI enabled (DMAPI / XDSM) */
119 #define MNTOPT_DMI      "dmi"           /* DMI enabled (DMAPI / XDSM) */
120
121 /*
122  * Table driven mount option parser.
123  *
124  * Currently only used for remount, but it will be used for mount
125  * in the future, too.
126  */
127 enum {
128         Opt_barrier, Opt_nobarrier, Opt_err
129 };
130
131 static const match_table_t tokens = {
132         {Opt_barrier, "barrier"},
133         {Opt_nobarrier, "nobarrier"},
134         {Opt_err, NULL}
135 };
136
137
138 STATIC unsigned long
139 suffix_strtoul(char *s, char **endp, unsigned int base)
140 {
141         int     last, shift_left_factor = 0;
142         char    *value = s;
143
144         last = strlen(value) - 1;
145         if (value[last] == 'K' || value[last] == 'k') {
146                 shift_left_factor = 10;
147                 value[last] = '\0';
148         }
149         if (value[last] == 'M' || value[last] == 'm') {
150                 shift_left_factor = 20;
151                 value[last] = '\0';
152         }
153         if (value[last] == 'G' || value[last] == 'g') {
154                 shift_left_factor = 30;
155                 value[last] = '\0';
156         }
157
158         return simple_strtoul((const char *)s, endp, base) << shift_left_factor;
159 }
160
161 /*
162  * This function fills in xfs_mount_t fields based on mount args.
163  * Note: the superblock has _not_ yet been read in.
164  *
165  * Note that this function leaks the various device name allocations on
166  * failure.  The caller takes care of them.
167  */
168 STATIC int
169 xfs_parseargs(
170         struct xfs_mount        *mp,
171         char                    *options,
172         char                    **mtpt)
173 {
174         struct super_block      *sb = mp->m_super;
175         char                    *this_char, *value, *eov;
176         int                     dsunit = 0;
177         int                     dswidth = 0;
178         int                     iosize = 0;
179         int                     dmapi_implies_ikeep = 1;
180         __uint8_t               iosizelog = 0;
181
182         /*
183          * Copy binary VFS mount flags we are interested in.
184          */
185         if (sb->s_flags & MS_RDONLY)
186                 mp->m_flags |= XFS_MOUNT_RDONLY;
187         if (sb->s_flags & MS_DIRSYNC)
188                 mp->m_flags |= XFS_MOUNT_DIRSYNC;
189         if (sb->s_flags & MS_SYNCHRONOUS)
190                 mp->m_flags |= XFS_MOUNT_WSYNC;
191
192         /*
193          * Set some default flags that could be cleared by the mount option
194          * parsing.
195          */
196         mp->m_flags |= XFS_MOUNT_BARRIER;
197         mp->m_flags |= XFS_MOUNT_COMPAT_IOSIZE;
198         mp->m_flags |= XFS_MOUNT_SMALL_INUMS;
199
200         /*
201          * These can be overridden by the mount option parsing.
202          */
203         mp->m_logbufs = -1;
204         mp->m_logbsize = -1;
205
206         if (!options)
207                 goto done;
208
209         while ((this_char = strsep(&options, ",")) != NULL) {
210                 if (!*this_char)
211                         continue;
212                 if ((value = strchr(this_char, '=')) != NULL)
213                         *value++ = 0;
214
215                 if (!strcmp(this_char, MNTOPT_LOGBUFS)) {
216                         if (!value || !*value) {
217                                 cmn_err(CE_WARN,
218                                         "XFS: %s option requires an argument",
219                                         this_char);
220                                 return EINVAL;
221                         }
222                         mp->m_logbufs = simple_strtoul(value, &eov, 10);
223                 } else if (!strcmp(this_char, MNTOPT_LOGBSIZE)) {
224                         if (!value || !*value) {
225                                 cmn_err(CE_WARN,
226                                         "XFS: %s option requires an argument",
227                                         this_char);
228                                 return EINVAL;
229                         }
230                         mp->m_logbsize = suffix_strtoul(value, &eov, 10);
231                 } else if (!strcmp(this_char, MNTOPT_LOGDEV)) {
232                         if (!value || !*value) {
233                                 cmn_err(CE_WARN,
234                                         "XFS: %s option requires an argument",
235                                         this_char);
236                                 return EINVAL;
237                         }
238                         mp->m_logname = kstrndup(value, MAXNAMELEN, GFP_KERNEL);
239                         if (!mp->m_logname)
240                                 return ENOMEM;
241                 } else if (!strcmp(this_char, MNTOPT_MTPT)) {
242                         if (!value || !*value) {
243                                 cmn_err(CE_WARN,
244                                         "XFS: %s option requires an argument",
245                                         this_char);
246                                 return EINVAL;
247                         }
248                         *mtpt = kstrndup(value, MAXNAMELEN, GFP_KERNEL);
249                         if (!*mtpt)
250                                 return ENOMEM;
251                 } else if (!strcmp(this_char, MNTOPT_RTDEV)) {
252                         if (!value || !*value) {
253                                 cmn_err(CE_WARN,
254                                         "XFS: %s option requires an argument",
255                                         this_char);
256                                 return EINVAL;
257                         }
258                         mp->m_rtname = kstrndup(value, MAXNAMELEN, GFP_KERNEL);
259                         if (!mp->m_rtname)
260                                 return ENOMEM;
261                 } else if (!strcmp(this_char, MNTOPT_BIOSIZE)) {
262                         if (!value || !*value) {
263                                 cmn_err(CE_WARN,
264                                         "XFS: %s option requires an argument",
265                                         this_char);
266                                 return EINVAL;
267                         }
268                         iosize = simple_strtoul(value, &eov, 10);
269                         iosizelog = ffs(iosize) - 1;
270                 } else if (!strcmp(this_char, MNTOPT_ALLOCSIZE)) {
271                         if (!value || !*value) {
272                                 cmn_err(CE_WARN,
273                                         "XFS: %s option requires an argument",
274                                         this_char);
275                                 return EINVAL;
276                         }
277                         iosize = suffix_strtoul(value, &eov, 10);
278                         iosizelog = ffs(iosize) - 1;
279                 } else if (!strcmp(this_char, MNTOPT_GRPID) ||
280                            !strcmp(this_char, MNTOPT_BSDGROUPS)) {
281                         mp->m_flags |= XFS_MOUNT_GRPID;
282                 } else if (!strcmp(this_char, MNTOPT_NOGRPID) ||
283                            !strcmp(this_char, MNTOPT_SYSVGROUPS)) {
284                         mp->m_flags &= ~XFS_MOUNT_GRPID;
285                 } else if (!strcmp(this_char, MNTOPT_WSYNC)) {
286                         mp->m_flags |= XFS_MOUNT_WSYNC;
287                 } else if (!strcmp(this_char, MNTOPT_OSYNCISOSYNC)) {
288                         mp->m_flags |= XFS_MOUNT_OSYNCISOSYNC;
289                 } else if (!strcmp(this_char, MNTOPT_NORECOVERY)) {
290                         mp->m_flags |= XFS_MOUNT_NORECOVERY;
291                 } else if (!strcmp(this_char, MNTOPT_NOALIGN)) {
292                         mp->m_flags |= XFS_MOUNT_NOALIGN;
293                 } else if (!strcmp(this_char, MNTOPT_SWALLOC)) {
294                         mp->m_flags |= XFS_MOUNT_SWALLOC;
295                 } else if (!strcmp(this_char, MNTOPT_SUNIT)) {
296                         if (!value || !*value) {
297                                 cmn_err(CE_WARN,
298                                         "XFS: %s option requires an argument",
299                                         this_char);
300                                 return EINVAL;
301                         }
302                         dsunit = simple_strtoul(value, &eov, 10);
303                 } else if (!strcmp(this_char, MNTOPT_SWIDTH)) {
304                         if (!value || !*value) {
305                                 cmn_err(CE_WARN,
306                                         "XFS: %s option requires an argument",
307                                         this_char);
308                                 return EINVAL;
309                         }
310                         dswidth = simple_strtoul(value, &eov, 10);
311                 } else if (!strcmp(this_char, MNTOPT_64BITINODE)) {
312                         mp->m_flags &= ~XFS_MOUNT_SMALL_INUMS;
313 #if !XFS_BIG_INUMS
314                         cmn_err(CE_WARN,
315                                 "XFS: %s option not allowed on this system",
316                                 this_char);
317                         return EINVAL;
318 #endif
319                 } else if (!strcmp(this_char, MNTOPT_NOUUID)) {
320                         mp->m_flags |= XFS_MOUNT_NOUUID;
321                 } else if (!strcmp(this_char, MNTOPT_BARRIER)) {
322                         mp->m_flags |= XFS_MOUNT_BARRIER;
323                 } else if (!strcmp(this_char, MNTOPT_NOBARRIER)) {
324                         mp->m_flags &= ~XFS_MOUNT_BARRIER;
325                 } else if (!strcmp(this_char, MNTOPT_IKEEP)) {
326                         mp->m_flags |= XFS_MOUNT_IKEEP;
327                 } else if (!strcmp(this_char, MNTOPT_NOIKEEP)) {
328                         dmapi_implies_ikeep = 0;
329                         mp->m_flags &= ~XFS_MOUNT_IKEEP;
330                 } else if (!strcmp(this_char, MNTOPT_LARGEIO)) {
331                         mp->m_flags &= ~XFS_MOUNT_COMPAT_IOSIZE;
332                 } else if (!strcmp(this_char, MNTOPT_NOLARGEIO)) {
333                         mp->m_flags |= XFS_MOUNT_COMPAT_IOSIZE;
334                 } else if (!strcmp(this_char, MNTOPT_ATTR2)) {
335                         mp->m_flags |= XFS_MOUNT_ATTR2;
336                 } else if (!strcmp(this_char, MNTOPT_NOATTR2)) {
337                         mp->m_flags &= ~XFS_MOUNT_ATTR2;
338                         mp->m_flags |= XFS_MOUNT_NOATTR2;
339                 } else if (!strcmp(this_char, MNTOPT_FILESTREAM)) {
340                         mp->m_flags |= XFS_MOUNT_FILESTREAMS;
341                 } else if (!strcmp(this_char, MNTOPT_NOQUOTA)) {
342                         mp->m_qflags &= ~(XFS_UQUOTA_ACCT | XFS_UQUOTA_ACTIVE |
343                                           XFS_GQUOTA_ACCT | XFS_GQUOTA_ACTIVE |
344                                           XFS_PQUOTA_ACCT | XFS_PQUOTA_ACTIVE |
345                                           XFS_UQUOTA_ENFD | XFS_OQUOTA_ENFD);
346                 } else if (!strcmp(this_char, MNTOPT_QUOTA) ||
347                            !strcmp(this_char, MNTOPT_UQUOTA) ||
348                            !strcmp(this_char, MNTOPT_USRQUOTA)) {
349                         mp->m_qflags |= (XFS_UQUOTA_ACCT | XFS_UQUOTA_ACTIVE |
350                                          XFS_UQUOTA_ENFD);
351                 } else if (!strcmp(this_char, MNTOPT_QUOTANOENF) ||
352                            !strcmp(this_char, MNTOPT_UQUOTANOENF)) {
353                         mp->m_qflags |= (XFS_UQUOTA_ACCT | XFS_UQUOTA_ACTIVE);
354                         mp->m_qflags &= ~XFS_UQUOTA_ENFD;
355                 } else if (!strcmp(this_char, MNTOPT_PQUOTA) ||
356                            !strcmp(this_char, MNTOPT_PRJQUOTA)) {
357                         mp->m_qflags |= (XFS_PQUOTA_ACCT | XFS_PQUOTA_ACTIVE |
358                                          XFS_OQUOTA_ENFD);
359                 } else if (!strcmp(this_char, MNTOPT_PQUOTANOENF)) {
360                         mp->m_qflags |= (XFS_PQUOTA_ACCT | XFS_PQUOTA_ACTIVE);
361                         mp->m_qflags &= ~XFS_OQUOTA_ENFD;
362                 } else if (!strcmp(this_char, MNTOPT_GQUOTA) ||
363                            !strcmp(this_char, MNTOPT_GRPQUOTA)) {
364                         mp->m_qflags |= (XFS_GQUOTA_ACCT | XFS_GQUOTA_ACTIVE |
365                                          XFS_OQUOTA_ENFD);
366                 } else if (!strcmp(this_char, MNTOPT_GQUOTANOENF)) {
367                         mp->m_qflags |= (XFS_GQUOTA_ACCT | XFS_GQUOTA_ACTIVE);
368                         mp->m_qflags &= ~XFS_OQUOTA_ENFD;
369                 } else if (!strcmp(this_char, MNTOPT_DMAPI)) {
370                         mp->m_flags |= XFS_MOUNT_DMAPI;
371                 } else if (!strcmp(this_char, MNTOPT_XDSM)) {
372                         mp->m_flags |= XFS_MOUNT_DMAPI;
373                 } else if (!strcmp(this_char, MNTOPT_DMI)) {
374                         mp->m_flags |= XFS_MOUNT_DMAPI;
375                 } else if (!strcmp(this_char, "ihashsize")) {
376                         cmn_err(CE_WARN,
377         "XFS: ihashsize no longer used, option is deprecated.");
378                 } else if (!strcmp(this_char, "osyncisdsync")) {
379                         /* no-op, this is now the default */
380                         cmn_err(CE_WARN,
381         "XFS: osyncisdsync is now the default, option is deprecated.");
382                 } else if (!strcmp(this_char, "irixsgid")) {
383                         cmn_err(CE_WARN,
384         "XFS: irixsgid is now a sysctl(2) variable, option is deprecated.");
385                 } else {
386                         cmn_err(CE_WARN,
387                                 "XFS: unknown mount option [%s].", this_char);
388                         return EINVAL;
389                 }
390         }
391
392         /*
393          * no recovery flag requires a read-only mount
394          */
395         if ((mp->m_flags & XFS_MOUNT_NORECOVERY) &&
396             !(mp->m_flags & XFS_MOUNT_RDONLY)) {
397                 cmn_err(CE_WARN, "XFS: no-recovery mounts must be read-only.");
398                 return EINVAL;
399         }
400
401         if ((mp->m_flags & XFS_MOUNT_NOALIGN) && (dsunit || dswidth)) {
402                 cmn_err(CE_WARN,
403         "XFS: sunit and swidth options incompatible with the noalign option");
404                 return EINVAL;
405         }
406
407 #ifndef CONFIG_XFS_QUOTA
408         if (XFS_IS_QUOTA_RUNNING(mp)) {
409                 cmn_err(CE_WARN,
410                         "XFS: quota support not available in this kernel.");
411                 return EINVAL;
412         }
413 #endif
414
415         if ((mp->m_qflags & (XFS_GQUOTA_ACCT | XFS_GQUOTA_ACTIVE)) &&
416             (mp->m_qflags & (XFS_PQUOTA_ACCT | XFS_PQUOTA_ACTIVE))) {
417                 cmn_err(CE_WARN,
418                         "XFS: cannot mount with both project and group quota");
419                 return EINVAL;
420         }
421
422         if ((mp->m_flags & XFS_MOUNT_DMAPI) && (!*mtpt || *mtpt[0] == '\0')) {
423                 printk("XFS: %s option needs the mount point option as well\n",
424                         MNTOPT_DMAPI);
425                 return EINVAL;
426         }
427
428         if ((dsunit && !dswidth) || (!dsunit && dswidth)) {
429                 cmn_err(CE_WARN,
430                         "XFS: sunit and swidth must be specified together");
431                 return EINVAL;
432         }
433
434         if (dsunit && (dswidth % dsunit != 0)) {
435                 cmn_err(CE_WARN,
436         "XFS: stripe width (%d) must be a multiple of the stripe unit (%d)",
437                         dswidth, dsunit);
438                 return EINVAL;
439         }
440
441         /*
442          * Applications using DMI filesystems often expect the
443          * inode generation number to be monotonically increasing.
444          * If we delete inode chunks we break this assumption, so
445          * keep unused inode chunks on disk for DMI filesystems
446          * until we come up with a better solution.
447          * Note that if "ikeep" or "noikeep" mount options are
448          * supplied, then they are honored.
449          */
450         if ((mp->m_flags & XFS_MOUNT_DMAPI) && dmapi_implies_ikeep)
451                 mp->m_flags |= XFS_MOUNT_IKEEP;
452
453 done:
454         if (!(mp->m_flags & XFS_MOUNT_NOALIGN)) {
455                 /*
456                  * At this point the superblock has not been read
457                  * in, therefore we do not know the block size.
458                  * Before the mount call ends we will convert
459                  * these to FSBs.
460                  */
461                 if (dsunit) {
462                         mp->m_dalign = dsunit;
463                         mp->m_flags |= XFS_MOUNT_RETERR;
464                 }
465
466                 if (dswidth)
467                         mp->m_swidth = dswidth;
468         }
469
470         if (mp->m_logbufs != -1 &&
471             mp->m_logbufs != 0 &&
472             (mp->m_logbufs < XLOG_MIN_ICLOGS ||
473              mp->m_logbufs > XLOG_MAX_ICLOGS)) {
474                 cmn_err(CE_WARN,
475                         "XFS: invalid logbufs value: %d [not %d-%d]",
476                         mp->m_logbufs, XLOG_MIN_ICLOGS, XLOG_MAX_ICLOGS);
477                 return XFS_ERROR(EINVAL);
478         }
479         if (mp->m_logbsize != -1 &&
480             mp->m_logbsize !=  0 &&
481             (mp->m_logbsize < XLOG_MIN_RECORD_BSIZE ||
482              mp->m_logbsize > XLOG_MAX_RECORD_BSIZE ||
483              !is_power_of_2(mp->m_logbsize))) {
484                 cmn_err(CE_WARN,
485         "XFS: invalid logbufsize: %d [not 16k,32k,64k,128k or 256k]",
486                         mp->m_logbsize);
487                 return XFS_ERROR(EINVAL);
488         }
489
490         mp->m_fsname = kstrndup(sb->s_id, MAXNAMELEN, GFP_KERNEL);
491         if (!mp->m_fsname)
492                 return ENOMEM;
493         mp->m_fsname_len = strlen(mp->m_fsname) + 1;
494
495         if (iosizelog) {
496                 if (iosizelog > XFS_MAX_IO_LOG ||
497                     iosizelog < XFS_MIN_IO_LOG) {
498                         cmn_err(CE_WARN,
499                 "XFS: invalid log iosize: %d [not %d-%d]",
500                                 iosizelog, XFS_MIN_IO_LOG,
501                                 XFS_MAX_IO_LOG);
502                         return XFS_ERROR(EINVAL);
503                 }
504
505                 mp->m_flags |= XFS_MOUNT_DFLT_IOSIZE;
506                 mp->m_readio_log = iosizelog;
507                 mp->m_writeio_log = iosizelog;
508         }
509
510         return 0;
511 }
512
513 struct proc_xfs_info {
514         int     flag;
515         char    *str;
516 };
517
518 STATIC int
519 xfs_showargs(
520         struct xfs_mount        *mp,
521         struct seq_file         *m)
522 {
523         static struct proc_xfs_info xfs_info_set[] = {
524                 /* the few simple ones we can get from the mount struct */
525                 { XFS_MOUNT_IKEEP,              "," MNTOPT_IKEEP },
526                 { XFS_MOUNT_WSYNC,              "," MNTOPT_WSYNC },
527                 { XFS_MOUNT_NOALIGN,            "," MNTOPT_NOALIGN },
528                 { XFS_MOUNT_SWALLOC,            "," MNTOPT_SWALLOC },
529                 { XFS_MOUNT_NOUUID,             "," MNTOPT_NOUUID },
530                 { XFS_MOUNT_NORECOVERY,         "," MNTOPT_NORECOVERY },
531                 { XFS_MOUNT_OSYNCISOSYNC,       "," MNTOPT_OSYNCISOSYNC },
532                 { XFS_MOUNT_ATTR2,              "," MNTOPT_ATTR2 },
533                 { XFS_MOUNT_FILESTREAMS,        "," MNTOPT_FILESTREAM },
534                 { XFS_MOUNT_DMAPI,              "," MNTOPT_DMAPI },
535                 { XFS_MOUNT_GRPID,              "," MNTOPT_GRPID },
536                 { 0, NULL }
537         };
538         static struct proc_xfs_info xfs_info_unset[] = {
539                 /* the few simple ones we can get from the mount struct */
540                 { XFS_MOUNT_COMPAT_IOSIZE,      "," MNTOPT_LARGEIO },
541                 { XFS_MOUNT_BARRIER,            "," MNTOPT_NOBARRIER },
542                 { XFS_MOUNT_SMALL_INUMS,        "," MNTOPT_64BITINODE },
543                 { 0, NULL }
544         };
545         struct proc_xfs_info    *xfs_infop;
546
547         for (xfs_infop = xfs_info_set; xfs_infop->flag; xfs_infop++) {
548                 if (mp->m_flags & xfs_infop->flag)
549                         seq_puts(m, xfs_infop->str);
550         }
551         for (xfs_infop = xfs_info_unset; xfs_infop->flag; xfs_infop++) {
552                 if (!(mp->m_flags & xfs_infop->flag))
553                         seq_puts(m, xfs_infop->str);
554         }
555
556         if (mp->m_flags & XFS_MOUNT_DFLT_IOSIZE)
557                 seq_printf(m, "," MNTOPT_ALLOCSIZE "=%dk",
558                                 (int)(1 << mp->m_writeio_log) >> 10);
559
560         if (mp->m_logbufs > 0)
561                 seq_printf(m, "," MNTOPT_LOGBUFS "=%d", mp->m_logbufs);
562         if (mp->m_logbsize > 0)
563                 seq_printf(m, "," MNTOPT_LOGBSIZE "=%dk", mp->m_logbsize >> 10);
564
565         if (mp->m_logname)
566                 seq_printf(m, "," MNTOPT_LOGDEV "=%s", mp->m_logname);
567         if (mp->m_rtname)
568                 seq_printf(m, "," MNTOPT_RTDEV "=%s", mp->m_rtname);
569
570         if (mp->m_dalign > 0)
571                 seq_printf(m, "," MNTOPT_SUNIT "=%d",
572                                 (int)XFS_FSB_TO_BB(mp, mp->m_dalign));
573         if (mp->m_swidth > 0)
574                 seq_printf(m, "," MNTOPT_SWIDTH "=%d",
575                                 (int)XFS_FSB_TO_BB(mp, mp->m_swidth));
576
577         if (mp->m_qflags & (XFS_UQUOTA_ACCT|XFS_UQUOTA_ENFD))
578                 seq_puts(m, "," MNTOPT_USRQUOTA);
579         else if (mp->m_qflags & XFS_UQUOTA_ACCT)
580                 seq_puts(m, "," MNTOPT_UQUOTANOENF);
581
582         /* Either project or group quotas can be active, not both */
583
584         if (mp->m_qflags & XFS_PQUOTA_ACCT) {
585                 if (mp->m_qflags & XFS_OQUOTA_ENFD)
586                         seq_puts(m, "," MNTOPT_PRJQUOTA);
587                 else
588                         seq_puts(m, "," MNTOPT_PQUOTANOENF);
589         } else if (mp->m_qflags & XFS_GQUOTA_ACCT) {
590                 if (mp->m_qflags & XFS_OQUOTA_ENFD)
591                         seq_puts(m, "," MNTOPT_GRPQUOTA);
592                 else
593                         seq_puts(m, "," MNTOPT_GQUOTANOENF);
594         }
595
596         if (!(mp->m_qflags & XFS_ALL_QUOTA_ACCT))
597                 seq_puts(m, "," MNTOPT_NOQUOTA);
598
599         return 0;
600 }
601 __uint64_t
602 xfs_max_file_offset(
603         unsigned int            blockshift)
604 {
605         unsigned int            pagefactor = 1;
606         unsigned int            bitshift = BITS_PER_LONG - 1;
607
608         /* Figure out maximum filesize, on Linux this can depend on
609          * the filesystem blocksize (on 32 bit platforms).
610          * __block_prepare_write does this in an [unsigned] long...
611          *      page->index << (PAGE_CACHE_SHIFT - bbits)
612          * So, for page sized blocks (4K on 32 bit platforms),
613          * this wraps at around 8Tb (hence MAX_LFS_FILESIZE which is
614          *      (((u64)PAGE_CACHE_SIZE << (BITS_PER_LONG-1))-1)
615          * but for smaller blocksizes it is less (bbits = log2 bsize).
616          * Note1: get_block_t takes a long (implicit cast from above)
617          * Note2: The Large Block Device (LBD and HAVE_SECTOR_T) patch
618          * can optionally convert the [unsigned] long from above into
619          * an [unsigned] long long.
620          */
621
622 #if BITS_PER_LONG == 32
623 # if defined(CONFIG_LBDAF)
624         ASSERT(sizeof(sector_t) == 8);
625         pagefactor = PAGE_CACHE_SIZE;
626         bitshift = BITS_PER_LONG;
627 # else
628         pagefactor = PAGE_CACHE_SIZE >> (PAGE_CACHE_SHIFT - blockshift);
629 # endif
630 #endif
631
632         return (((__uint64_t)pagefactor) << bitshift) - 1;
633 }
634
635 STATIC int
636 xfs_blkdev_get(
637         xfs_mount_t             *mp,
638         const char              *name,
639         struct block_device     **bdevp)
640 {
641         int                     error = 0;
642
643         *bdevp = open_bdev_exclusive(name, FMODE_READ|FMODE_WRITE, mp);
644         if (IS_ERR(*bdevp)) {
645                 error = PTR_ERR(*bdevp);
646                 printk("XFS: Invalid device [%s], error=%d\n", name, error);
647         }
648
649         return -error;
650 }
651
652 STATIC void
653 xfs_blkdev_put(
654         struct block_device     *bdev)
655 {
656         if (bdev)
657                 close_bdev_exclusive(bdev, FMODE_READ|FMODE_WRITE);
658 }
659
660 /*
661  * Try to write out the superblock using barriers.
662  */
663 STATIC int
664 xfs_barrier_test(
665         xfs_mount_t     *mp)
666 {
667         xfs_buf_t       *sbp = xfs_getsb(mp, 0);
668         int             error;
669
670         XFS_BUF_UNDONE(sbp);
671         XFS_BUF_UNREAD(sbp);
672         XFS_BUF_UNDELAYWRITE(sbp);
673         XFS_BUF_WRITE(sbp);
674         XFS_BUF_UNASYNC(sbp);
675         XFS_BUF_ORDERED(sbp);
676
677         xfsbdstrat(mp, sbp);
678         error = xfs_iowait(sbp);
679
680         /*
681          * Clear all the flags we set and possible error state in the
682          * buffer.  We only did the write to try out whether barriers
683          * worked and shouldn't leave any traces in the superblock
684          * buffer.
685          */
686         XFS_BUF_DONE(sbp);
687         XFS_BUF_ERROR(sbp, 0);
688         XFS_BUF_UNORDERED(sbp);
689
690         xfs_buf_relse(sbp);
691         return error;
692 }
693
694 STATIC void
695 xfs_mountfs_check_barriers(xfs_mount_t *mp)
696 {
697         int error;
698
699         if (mp->m_logdev_targp != mp->m_ddev_targp) {
700                 xfs_fs_cmn_err(CE_NOTE, mp,
701                   "Disabling barriers, not supported with external log device");
702                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
703                 return;
704         }
705
706         if (xfs_readonly_buftarg(mp->m_ddev_targp)) {
707                 xfs_fs_cmn_err(CE_NOTE, mp,
708                   "Disabling barriers, underlying device is readonly");
709                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
710                 return;
711         }
712
713         error = xfs_barrier_test(mp);
714         if (error) {
715                 xfs_fs_cmn_err(CE_NOTE, mp,
716                   "Disabling barriers, trial barrier write failed");
717                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
718                 return;
719         }
720 }
721
722 void
723 xfs_blkdev_issue_flush(
724         xfs_buftarg_t           *buftarg)
725 {
726         blkdev_issue_flush(buftarg->bt_bdev, NULL);
727 }
728
729 STATIC void
730 xfs_close_devices(
731         struct xfs_mount        *mp)
732 {
733         if (mp->m_logdev_targp && mp->m_logdev_targp != mp->m_ddev_targp) {
734                 struct block_device *logdev = mp->m_logdev_targp->bt_bdev;
735                 xfs_free_buftarg(mp, mp->m_logdev_targp);
736                 xfs_blkdev_put(logdev);
737         }
738         if (mp->m_rtdev_targp) {
739                 struct block_device *rtdev = mp->m_rtdev_targp->bt_bdev;
740                 xfs_free_buftarg(mp, mp->m_rtdev_targp);
741                 xfs_blkdev_put(rtdev);
742         }
743         xfs_free_buftarg(mp, mp->m_ddev_targp);
744 }
745
746 /*
747  * The file system configurations are:
748  *      (1) device (partition) with data and internal log
749  *      (2) logical volume with data and log subvolumes.
750  *      (3) logical volume with data, log, and realtime subvolumes.
751  *
752  * We only have to handle opening the log and realtime volumes here if
753  * they are present.  The data subvolume has already been opened by
754  * get_sb_bdev() and is stored in sb->s_bdev.
755  */
756 STATIC int
757 xfs_open_devices(
758         struct xfs_mount        *mp)
759 {
760         struct block_device     *ddev = mp->m_super->s_bdev;
761         struct block_device     *logdev = NULL, *rtdev = NULL;
762         int                     error;
763
764         /*
765          * Open real time and log devices - order is important.
766          */
767         if (mp->m_logname) {
768                 error = xfs_blkdev_get(mp, mp->m_logname, &logdev);
769                 if (error)
770                         goto out;
771         }
772
773         if (mp->m_rtname) {
774                 error = xfs_blkdev_get(mp, mp->m_rtname, &rtdev);
775                 if (error)
776                         goto out_close_logdev;
777
778                 if (rtdev == ddev || rtdev == logdev) {
779                         cmn_err(CE_WARN,
780         "XFS: Cannot mount filesystem with identical rtdev and ddev/logdev.");
781                         error = EINVAL;
782                         goto out_close_rtdev;
783                 }
784         }
785
786         /*
787          * Setup xfs_mount buffer target pointers
788          */
789         error = ENOMEM;
790         mp->m_ddev_targp = xfs_alloc_buftarg(ddev, 0);
791         if (!mp->m_ddev_targp)
792                 goto out_close_rtdev;
793
794         if (rtdev) {
795                 mp->m_rtdev_targp = xfs_alloc_buftarg(rtdev, 1);
796                 if (!mp->m_rtdev_targp)
797                         goto out_free_ddev_targ;
798         }
799
800         if (logdev && logdev != ddev) {
801                 mp->m_logdev_targp = xfs_alloc_buftarg(logdev, 1);
802                 if (!mp->m_logdev_targp)
803                         goto out_free_rtdev_targ;
804         } else {
805                 mp->m_logdev_targp = mp->m_ddev_targp;
806         }
807
808         return 0;
809
810  out_free_rtdev_targ:
811         if (mp->m_rtdev_targp)
812                 xfs_free_buftarg(mp, mp->m_rtdev_targp);
813  out_free_ddev_targ:
814         xfs_free_buftarg(mp, mp->m_ddev_targp);
815  out_close_rtdev:
816         if (rtdev)
817                 xfs_blkdev_put(rtdev);
818  out_close_logdev:
819         if (logdev && logdev != ddev)
820                 xfs_blkdev_put(logdev);
821  out:
822         return error;
823 }
824
825 /*
826  * Setup xfs_mount buffer target pointers based on superblock
827  */
828 STATIC int
829 xfs_setup_devices(
830         struct xfs_mount        *mp)
831 {
832         int                     error;
833
834         error = xfs_setsize_buftarg(mp->m_ddev_targp, mp->m_sb.sb_blocksize,
835                                     mp->m_sb.sb_sectsize);
836         if (error)
837                 return error;
838
839         if (mp->m_logdev_targp && mp->m_logdev_targp != mp->m_ddev_targp) {
840                 unsigned int    log_sector_size = BBSIZE;
841
842                 if (xfs_sb_version_hassector(&mp->m_sb))
843                         log_sector_size = mp->m_sb.sb_logsectsize;
844                 error = xfs_setsize_buftarg(mp->m_logdev_targp,
845                                             mp->m_sb.sb_blocksize,
846                                             log_sector_size);
847                 if (error)
848                         return error;
849         }
850         if (mp->m_rtdev_targp) {
851                 error = xfs_setsize_buftarg(mp->m_rtdev_targp,
852                                             mp->m_sb.sb_blocksize,
853                                             mp->m_sb.sb_sectsize);
854                 if (error)
855                         return error;
856         }
857
858         return 0;
859 }
860
861 /*
862  * XFS AIL push thread support
863  */
864 void
865 xfsaild_wakeup(
866         struct xfs_ail          *ailp,
867         xfs_lsn_t               threshold_lsn)
868 {
869         ailp->xa_target = threshold_lsn;
870         wake_up_process(ailp->xa_task);
871 }
872
873 STATIC int
874 xfsaild(
875         void    *data)
876 {
877         struct xfs_ail  *ailp = data;
878         xfs_lsn_t       last_pushed_lsn = 0;
879         long            tout = 0;
880
881         while (!kthread_should_stop()) {
882                 if (tout)
883                         schedule_timeout_interruptible(msecs_to_jiffies(tout));
884                 tout = 1000;
885
886                 /* swsusp */
887                 try_to_freeze();
888
889                 ASSERT(ailp->xa_mount->m_log);
890                 if (XFS_FORCED_SHUTDOWN(ailp->xa_mount))
891                         continue;
892
893                 tout = xfsaild_push(ailp, &last_pushed_lsn);
894         }
895
896         return 0;
897 }       /* xfsaild */
898
899 int
900 xfsaild_start(
901         struct xfs_ail  *ailp)
902 {
903         ailp->xa_target = 0;
904         ailp->xa_task = kthread_run(xfsaild, ailp, "xfsaild");
905         if (IS_ERR(ailp->xa_task))
906                 return -PTR_ERR(ailp->xa_task);
907         return 0;
908 }
909
910 void
911 xfsaild_stop(
912         struct xfs_ail  *ailp)
913 {
914         kthread_stop(ailp->xa_task);
915 }
916
917
918 /* Catch misguided souls that try to use this interface on XFS */
919 STATIC struct inode *
920 xfs_fs_alloc_inode(
921         struct super_block      *sb)
922 {
923         BUG();
924         return NULL;
925 }
926
927 /*
928  * Now that the generic code is guaranteed not to be accessing
929  * the linux inode, we can reclaim the inode.
930  */
931 STATIC void
932 xfs_fs_destroy_inode(
933         struct inode    *inode)
934 {
935         xfs_inode_t             *ip = XFS_I(inode);
936
937         XFS_STATS_INC(vn_reclaim);
938         if (xfs_reclaim(ip))
939                 panic("%s: cannot reclaim 0x%p\n", __func__, inode);
940 }
941
942 /*
943  * Slab object creation initialisation for the XFS inode.
944  * This covers only the idempotent fields in the XFS inode;
945  * all other fields need to be initialised on allocation
946  * from the slab. This avoids the need to repeatedly intialise
947  * fields in the xfs inode that left in the initialise state
948  * when freeing the inode.
949  */
950 STATIC void
951 xfs_fs_inode_init_once(
952         void                    *inode)
953 {
954         struct xfs_inode        *ip = inode;
955
956         memset(ip, 0, sizeof(struct xfs_inode));
957
958         /* vfs inode */
959         inode_init_once(VFS_I(ip));
960
961         /* xfs inode */
962         atomic_set(&ip->i_iocount, 0);
963         atomic_set(&ip->i_pincount, 0);
964         spin_lock_init(&ip->i_flags_lock);
965         init_waitqueue_head(&ip->i_ipin_wait);
966         /*
967          * Because we want to use a counting completion, complete
968          * the flush completion once to allow a single access to
969          * the flush completion without blocking.
970          */
971         init_completion(&ip->i_flush);
972         complete(&ip->i_flush);
973
974         mrlock_init(&ip->i_lock, MRLOCK_ALLOW_EQUAL_PRI|MRLOCK_BARRIER,
975                      "xfsino", ip->i_ino);
976         mrlock_init(&ip->i_iolock, MRLOCK_BARRIER, "xfsio", ip->i_ino);
977 }
978
979 /*
980  * Attempt to flush the inode, this will actually fail
981  * if the inode is pinned, but we dirty the inode again
982  * at the point when it is unpinned after a log write,
983  * since this is when the inode itself becomes flushable.
984  */
985 STATIC int
986 xfs_fs_write_inode(
987         struct inode            *inode,
988         int                     sync)
989 {
990         struct xfs_inode        *ip = XFS_I(inode);
991         struct xfs_mount        *mp = ip->i_mount;
992         int                     error = 0;
993
994         xfs_itrace_entry(ip);
995
996         if (XFS_FORCED_SHUTDOWN(mp))
997                 return XFS_ERROR(EIO);
998
999         if (sync) {
1000                 error = xfs_wait_on_pages(ip, 0, -1);
1001                 if (error)
1002                         goto out;
1003         }
1004
1005         /*
1006          * Bypass inodes which have already been cleaned by
1007          * the inode flush clustering code inside xfs_iflush
1008          */
1009         if (xfs_inode_clean(ip))
1010                 goto out;
1011
1012         /*
1013          * We make this non-blocking if the inode is contended, return
1014          * EAGAIN to indicate to the caller that they did not succeed.
1015          * This prevents the flush path from blocking on inodes inside
1016          * another operation right now, they get caught later by xfs_sync.
1017          */
1018         if (sync) {
1019                 xfs_ilock(ip, XFS_ILOCK_SHARED);
1020                 xfs_iflock(ip);
1021
1022                 error = xfs_iflush(ip, XFS_IFLUSH_SYNC);
1023         } else {
1024                 error = EAGAIN;
1025                 if (!xfs_ilock_nowait(ip, XFS_ILOCK_SHARED))
1026                         goto out;
1027                 if (xfs_ipincount(ip) || !xfs_iflock_nowait(ip))
1028                         goto out_unlock;
1029
1030                 error = xfs_iflush(ip, XFS_IFLUSH_ASYNC_NOBLOCK);
1031         }
1032
1033  out_unlock:
1034         xfs_iunlock(ip, XFS_ILOCK_SHARED);
1035  out:
1036         /*
1037          * if we failed to write out the inode then mark
1038          * it dirty again so we'll try again later.
1039          */
1040         if (error)
1041                 xfs_mark_inode_dirty_sync(ip);
1042         return -error;
1043 }
1044
1045 STATIC void
1046 xfs_fs_clear_inode(
1047         struct inode            *inode)
1048 {
1049         xfs_inode_t             *ip = XFS_I(inode);
1050
1051         xfs_itrace_entry(ip);
1052         XFS_STATS_INC(vn_rele);
1053         XFS_STATS_INC(vn_remove);
1054         XFS_STATS_DEC(vn_active);
1055
1056         xfs_inactive(ip);
1057 }
1058
1059 STATIC void
1060 xfs_free_fsname(
1061         struct xfs_mount        *mp)
1062 {
1063         kfree(mp->m_fsname);
1064         kfree(mp->m_rtname);
1065         kfree(mp->m_logname);
1066 }
1067
1068 STATIC void
1069 xfs_fs_put_super(
1070         struct super_block      *sb)
1071 {
1072         struct xfs_mount        *mp = XFS_M(sb);
1073         struct xfs_inode        *rip = mp->m_rootip;
1074         int                     unmount_event_flags = 0;
1075
1076         xfs_syncd_stop(mp);
1077
1078         if (!(sb->s_flags & MS_RDONLY)) {
1079                 /*
1080                  * XXX(hch): this should be SYNC_WAIT.
1081                  *
1082                  * Or more likely not needed at all because the VFS is already
1083                  * calling ->sync_fs after shutting down all filestem
1084                  * operations and just before calling ->put_super.
1085                  */
1086                 xfs_sync_data(mp, 0);
1087                 xfs_sync_attr(mp, 0);
1088         }
1089
1090 #ifdef HAVE_DMAPI
1091         if (mp->m_flags & XFS_MOUNT_DMAPI) {
1092                 unmount_event_flags =
1093                         (mp->m_dmevmask & (1 << DM_EVENT_UNMOUNT)) ?
1094                                 0 : DM_FLAGS_UNWANTED;
1095                 /*
1096                  * Ignore error from dmapi here, first unmount is not allowed
1097                  * to fail anyway, and second we wouldn't want to fail a
1098                  * unmount because of dmapi.
1099                  */
1100                 XFS_SEND_PREUNMOUNT(mp, rip, DM_RIGHT_NULL, rip, DM_RIGHT_NULL,
1101                                 NULL, NULL, 0, 0, unmount_event_flags);
1102         }
1103 #endif
1104
1105         /*
1106          * Blow away any referenced inode in the filestreams cache.
1107          * This can and will cause log traffic as inodes go inactive
1108          * here.
1109          */
1110         xfs_filestream_unmount(mp);
1111
1112         XFS_bflush(mp->m_ddev_targp);
1113
1114         if (mp->m_flags & XFS_MOUNT_DMAPI) {
1115                 XFS_SEND_UNMOUNT(mp, rip, DM_RIGHT_NULL, 0, 0,
1116                                 unmount_event_flags);
1117         }
1118
1119         xfs_unmountfs(mp);
1120         xfs_freesb(mp);
1121         xfs_icsb_destroy_counters(mp);
1122         xfs_close_devices(mp);
1123         xfs_dmops_put(mp);
1124         xfs_free_fsname(mp);
1125         kfree(mp);
1126 }
1127
1128 STATIC int
1129 xfs_fs_sync_super(
1130         struct super_block      *sb,
1131         int                     wait)
1132 {
1133         struct xfs_mount        *mp = XFS_M(sb);
1134         int                     error;
1135
1136         /*
1137          * Treat a sync operation like a freeze.  This is to work
1138          * around a race in sync_inodes() which works in two phases
1139          * - an asynchronous flush, which can write out an inode
1140          * without waiting for file size updates to complete, and a
1141          * synchronous flush, which wont do anything because the
1142          * async flush removed the inode's dirty flag.  Also
1143          * sync_inodes() will not see any files that just have
1144          * outstanding transactions to be flushed because we don't
1145          * dirty the Linux inode until after the transaction I/O
1146          * completes.
1147          */
1148         if (wait || unlikely(sb->s_frozen == SB_FREEZE_WRITE))
1149                 error = xfs_quiesce_data(mp);
1150         else
1151                 error = xfs_sync_fsdata(mp, 0);
1152
1153         if (unlikely(laptop_mode)) {
1154                 int     prev_sync_seq = mp->m_sync_seq;
1155
1156                 /*
1157                  * The disk must be active because we're syncing.
1158                  * We schedule xfssyncd now (now that the disk is
1159                  * active) instead of later (when it might not be).
1160                  */
1161                 wake_up_process(mp->m_sync_task);
1162                 /*
1163                  * We have to wait for the sync iteration to complete.
1164                  * If we don't, the disk activity caused by the sync
1165                  * will come after the sync is completed, and that
1166                  * triggers another sync from laptop mode.
1167                  */
1168                 wait_event(mp->m_wait_single_sync_task,
1169                                 mp->m_sync_seq != prev_sync_seq);
1170         }
1171
1172         return -error;
1173 }
1174
1175 STATIC int
1176 xfs_fs_statfs(
1177         struct dentry           *dentry,
1178         struct kstatfs          *statp)
1179 {
1180         struct xfs_mount        *mp = XFS_M(dentry->d_sb);
1181         xfs_sb_t                *sbp = &mp->m_sb;
1182         struct xfs_inode        *ip = XFS_I(dentry->d_inode);
1183         __uint64_t              fakeinos, id;
1184         xfs_extlen_t            lsize;
1185
1186         statp->f_type = XFS_SB_MAGIC;
1187         statp->f_namelen = MAXNAMELEN - 1;
1188
1189         id = huge_encode_dev(mp->m_ddev_targp->bt_dev);
1190         statp->f_fsid.val[0] = (u32)id;
1191         statp->f_fsid.val[1] = (u32)(id >> 32);
1192
1193         xfs_icsb_sync_counters(mp, XFS_ICSB_LAZY_COUNT);
1194
1195         spin_lock(&mp->m_sb_lock);
1196         statp->f_bsize = sbp->sb_blocksize;
1197         lsize = sbp->sb_logstart ? sbp->sb_logblocks : 0;
1198         statp->f_blocks = sbp->sb_dblocks - lsize;
1199         statp->f_bfree = statp->f_bavail =
1200                                 sbp->sb_fdblocks - XFS_ALLOC_SET_ASIDE(mp);
1201         fakeinos = statp->f_bfree << sbp->sb_inopblog;
1202         statp->f_files =
1203             MIN(sbp->sb_icount + fakeinos, (__uint64_t)XFS_MAXINUMBER);
1204         if (mp->m_maxicount)
1205                 statp->f_files = min_t(typeof(statp->f_files),
1206                                         statp->f_files,
1207                                         mp->m_maxicount);
1208         statp->f_ffree = statp->f_files - (sbp->sb_icount - sbp->sb_ifree);
1209         spin_unlock(&mp->m_sb_lock);
1210
1211         if ((ip->i_d.di_flags & XFS_DIFLAG_PROJINHERIT) ||
1212             ((mp->m_qflags & (XFS_PQUOTA_ACCT|XFS_OQUOTA_ENFD))) ==
1213                               (XFS_PQUOTA_ACCT|XFS_OQUOTA_ENFD))
1214                 xfs_qm_statvfs(ip, statp);
1215         return 0;
1216 }
1217
1218 STATIC int
1219 xfs_fs_remount(
1220         struct super_block      *sb,
1221         int                     *flags,
1222         char                    *options)
1223 {
1224         struct xfs_mount        *mp = XFS_M(sb);
1225         substring_t             args[MAX_OPT_ARGS];
1226         char                    *p;
1227         int                     error;
1228
1229         while ((p = strsep(&options, ",")) != NULL) {
1230                 int token;
1231
1232                 if (!*p)
1233                         continue;
1234
1235                 token = match_token(p, tokens, args);
1236                 switch (token) {
1237                 case Opt_barrier:
1238                         mp->m_flags |= XFS_MOUNT_BARRIER;
1239
1240                         /*
1241                          * Test if barriers are actually working if we can,
1242                          * else delay this check until the filesystem is
1243                          * marked writeable.
1244                          */
1245                         if (!(mp->m_flags & XFS_MOUNT_RDONLY))
1246                                 xfs_mountfs_check_barriers(mp);
1247                         break;
1248                 case Opt_nobarrier:
1249                         mp->m_flags &= ~XFS_MOUNT_BARRIER;
1250                         break;
1251                 default:
1252                         /*
1253                          * Logically we would return an error here to prevent
1254                          * users from believing they might have changed
1255                          * mount options using remount which can't be changed.
1256                          *
1257                          * But unfortunately mount(8) adds all options from
1258                          * mtab and fstab to the mount arguments in some cases
1259                          * so we can't blindly reject options, but have to
1260                          * check for each specified option if it actually
1261                          * differs from the currently set option and only
1262                          * reject it if that's the case.
1263                          *
1264                          * Until that is implemented we return success for
1265                          * every remount request, and silently ignore all
1266                          * options that we can't actually change.
1267                          */
1268 #if 0
1269                         printk(KERN_INFO
1270         "XFS: mount option \"%s\" not supported for remount\n", p);
1271                         return -EINVAL;
1272 #else
1273                         break;
1274 #endif
1275                 }
1276         }
1277
1278         /* ro -> rw */
1279         if ((mp->m_flags & XFS_MOUNT_RDONLY) && !(*flags & MS_RDONLY)) {
1280                 mp->m_flags &= ~XFS_MOUNT_RDONLY;
1281                 if (mp->m_flags & XFS_MOUNT_BARRIER)
1282                         xfs_mountfs_check_barriers(mp);
1283
1284                 /*
1285                  * If this is the first remount to writeable state we
1286                  * might have some superblock changes to update.
1287                  */
1288                 if (mp->m_update_flags) {
1289                         error = xfs_mount_log_sb(mp, mp->m_update_flags);
1290                         if (error) {
1291                                 cmn_err(CE_WARN,
1292                                         "XFS: failed to write sb changes");
1293                                 return error;
1294                         }
1295                         mp->m_update_flags = 0;
1296                 }
1297         }
1298
1299         /* rw -> ro */
1300         if (!(mp->m_flags & XFS_MOUNT_RDONLY) && (*flags & MS_RDONLY)) {
1301                 xfs_quiesce_data(mp);
1302                 xfs_quiesce_attr(mp);
1303                 mp->m_flags |= XFS_MOUNT_RDONLY;
1304         }
1305
1306         return 0;
1307 }
1308
1309 /*
1310  * Second stage of a freeze. The data is already frozen so we only
1311  * need to take care of the metadata. Once that's done write a dummy
1312  * record to dirty the log in case of a crash while frozen.
1313  */
1314 STATIC int
1315 xfs_fs_freeze(
1316         struct super_block      *sb)
1317 {
1318         struct xfs_mount        *mp = XFS_M(sb);
1319
1320         xfs_quiesce_attr(mp);
1321         return -xfs_fs_log_dummy(mp);
1322 }
1323
1324 STATIC int
1325 xfs_fs_show_options(
1326         struct seq_file         *m,
1327         struct vfsmount         *mnt)
1328 {
1329         return -xfs_showargs(XFS_M(mnt->mnt_sb), m);
1330 }
1331
1332 /*
1333  * This function fills in xfs_mount_t fields based on mount args.
1334  * Note: the superblock _has_ now been read in.
1335  */
1336 STATIC int
1337 xfs_finish_flags(
1338         struct xfs_mount        *mp)
1339 {
1340         int                     ronly = (mp->m_flags & XFS_MOUNT_RDONLY);
1341
1342         /* Fail a mount where the logbuf is smaller than the log stripe */
1343         if (xfs_sb_version_haslogv2(&mp->m_sb)) {
1344                 if (mp->m_logbsize <= 0 &&
1345                     mp->m_sb.sb_logsunit > XLOG_BIG_RECORD_BSIZE) {
1346                         mp->m_logbsize = mp->m_sb.sb_logsunit;
1347                 } else if (mp->m_logbsize > 0 &&
1348                            mp->m_logbsize < mp->m_sb.sb_logsunit) {
1349                         cmn_err(CE_WARN,
1350         "XFS: logbuf size must be greater than or equal to log stripe size");
1351                         return XFS_ERROR(EINVAL);
1352                 }
1353         } else {
1354                 /* Fail a mount if the logbuf is larger than 32K */
1355                 if (mp->m_logbsize > XLOG_BIG_RECORD_BSIZE) {
1356                         cmn_err(CE_WARN,
1357         "XFS: logbuf size for version 1 logs must be 16K or 32K");
1358                         return XFS_ERROR(EINVAL);
1359                 }
1360         }
1361
1362         /*
1363          * mkfs'ed attr2 will turn on attr2 mount unless explicitly
1364          * told by noattr2 to turn it off
1365          */
1366         if (xfs_sb_version_hasattr2(&mp->m_sb) &&
1367             !(mp->m_flags & XFS_MOUNT_NOATTR2))
1368                 mp->m_flags |= XFS_MOUNT_ATTR2;
1369
1370         /*
1371          * prohibit r/w mounts of read-only filesystems
1372          */
1373         if ((mp->m_sb.sb_flags & XFS_SBF_READONLY) && !ronly) {
1374                 cmn_err(CE_WARN,
1375         "XFS: cannot mount a read-only filesystem as read-write");
1376                 return XFS_ERROR(EROFS);
1377         }
1378
1379         return 0;
1380 }
1381
1382 STATIC int
1383 xfs_fs_fill_super(
1384         struct super_block      *sb,
1385         void                    *data,
1386         int                     silent)
1387 {
1388         struct inode            *root;
1389         struct xfs_mount        *mp = NULL;
1390         int                     flags = 0, error = ENOMEM;
1391         char                    *mtpt = NULL;
1392
1393         mp = kzalloc(sizeof(struct xfs_mount), GFP_KERNEL);
1394         if (!mp)
1395                 goto out;
1396
1397         spin_lock_init(&mp->m_sb_lock);
1398         mutex_init(&mp->m_growlock);
1399         atomic_set(&mp->m_active_trans, 0);
1400         INIT_LIST_HEAD(&mp->m_sync_list);
1401         spin_lock_init(&mp->m_sync_lock);
1402         init_waitqueue_head(&mp->m_wait_single_sync_task);
1403
1404         mp->m_super = sb;
1405         sb->s_fs_info = mp;
1406
1407         error = xfs_parseargs(mp, (char *)data, &mtpt);
1408         if (error)
1409                 goto out_free_fsname;
1410
1411         sb_min_blocksize(sb, BBSIZE);
1412         sb->s_xattr = xfs_xattr_handlers;
1413         sb->s_export_op = &xfs_export_operations;
1414 #ifdef CONFIG_XFS_QUOTA
1415         sb->s_qcop = &xfs_quotactl_operations;
1416 #endif
1417         sb->s_op = &xfs_super_operations;
1418
1419         error = xfs_dmops_get(mp);
1420         if (error)
1421                 goto out_free_fsname;
1422
1423         if (silent)
1424                 flags |= XFS_MFSI_QUIET;
1425
1426         error = xfs_open_devices(mp);
1427         if (error)
1428                 goto out_put_dmops;
1429
1430         if (xfs_icsb_init_counters(mp))
1431                 mp->m_flags |= XFS_MOUNT_NO_PERCPU_SB;
1432
1433         error = xfs_readsb(mp, flags);
1434         if (error)
1435                 goto out_destroy_counters;
1436
1437         error = xfs_finish_flags(mp);
1438         if (error)
1439                 goto out_free_sb;
1440
1441         error = xfs_setup_devices(mp);
1442         if (error)
1443                 goto out_free_sb;
1444
1445         if (mp->m_flags & XFS_MOUNT_BARRIER)
1446                 xfs_mountfs_check_barriers(mp);
1447
1448         error = xfs_filestream_mount(mp);
1449         if (error)
1450                 goto out_free_sb;
1451
1452         error = xfs_mountfs(mp);
1453         if (error)
1454                 goto out_filestream_unmount;
1455
1456         XFS_SEND_MOUNT(mp, DM_RIGHT_NULL, mtpt, mp->m_fsname);
1457
1458         sb->s_magic = XFS_SB_MAGIC;
1459         sb->s_blocksize = mp->m_sb.sb_blocksize;
1460         sb->s_blocksize_bits = ffs(sb->s_blocksize) - 1;
1461         sb->s_maxbytes = xfs_max_file_offset(sb->s_blocksize_bits);
1462         sb->s_time_gran = 1;
1463         set_posix_acl_flag(sb);
1464
1465         root = igrab(VFS_I(mp->m_rootip));
1466         if (!root) {
1467                 error = ENOENT;
1468                 goto fail_unmount;
1469         }
1470         if (is_bad_inode(root)) {
1471                 error = EINVAL;
1472                 goto fail_vnrele;
1473         }
1474         sb->s_root = d_alloc_root(root);
1475         if (!sb->s_root) {
1476                 error = ENOMEM;
1477                 goto fail_vnrele;
1478         }
1479
1480         error = xfs_syncd_init(mp);
1481         if (error)
1482                 goto fail_vnrele;
1483
1484         kfree(mtpt);
1485
1486         xfs_itrace_exit(XFS_I(sb->s_root->d_inode));
1487         return 0;
1488
1489  out_filestream_unmount:
1490         xfs_filestream_unmount(mp);
1491  out_free_sb:
1492         xfs_freesb(mp);
1493  out_destroy_counters:
1494         xfs_icsb_destroy_counters(mp);
1495         xfs_close_devices(mp);
1496  out_put_dmops:
1497         xfs_dmops_put(mp);
1498  out_free_fsname:
1499         xfs_free_fsname(mp);
1500         kfree(mtpt);
1501         kfree(mp);
1502  out:
1503         return -error;
1504
1505  fail_vnrele:
1506         if (sb->s_root) {
1507                 dput(sb->s_root);
1508                 sb->s_root = NULL;
1509         } else {
1510                 iput(root);
1511         }
1512
1513  fail_unmount:
1514         /*
1515          * Blow away any referenced inode in the filestreams cache.
1516          * This can and will cause log traffic as inodes go inactive
1517          * here.
1518          */
1519         xfs_filestream_unmount(mp);
1520
1521         XFS_bflush(mp->m_ddev_targp);
1522
1523         xfs_unmountfs(mp);
1524         goto out_free_sb;
1525 }
1526
1527 STATIC int
1528 xfs_fs_get_sb(
1529         struct file_system_type *fs_type,
1530         int                     flags,
1531         const char              *dev_name,
1532         void                    *data,
1533         struct vfsmount         *mnt)
1534 {
1535         return get_sb_bdev(fs_type, flags, dev_name, data, xfs_fs_fill_super,
1536                            mnt);
1537 }
1538
1539 static const struct super_operations xfs_super_operations = {
1540         .alloc_inode            = xfs_fs_alloc_inode,
1541         .destroy_inode          = xfs_fs_destroy_inode,
1542         .write_inode            = xfs_fs_write_inode,
1543         .clear_inode            = xfs_fs_clear_inode,
1544         .put_super              = xfs_fs_put_super,
1545         .sync_fs                = xfs_fs_sync_super,
1546         .freeze_fs              = xfs_fs_freeze,
1547         .statfs                 = xfs_fs_statfs,
1548         .remount_fs             = xfs_fs_remount,
1549         .show_options           = xfs_fs_show_options,
1550 };
1551
1552 static struct file_system_type xfs_fs_type = {
1553         .owner                  = THIS_MODULE,
1554         .name                   = "xfs",
1555         .get_sb                 = xfs_fs_get_sb,
1556         .kill_sb                = kill_block_super,
1557         .fs_flags               = FS_REQUIRES_DEV,
1558 };
1559
1560 STATIC int __init
1561 xfs_alloc_trace_bufs(void)
1562 {
1563 #ifdef XFS_ALLOC_TRACE
1564         xfs_alloc_trace_buf = ktrace_alloc(XFS_ALLOC_TRACE_SIZE, KM_MAYFAIL);
1565         if (!xfs_alloc_trace_buf)
1566                 goto out;
1567 #endif
1568 #ifdef XFS_BMAP_TRACE
1569         xfs_bmap_trace_buf = ktrace_alloc(XFS_BMAP_TRACE_SIZE, KM_MAYFAIL);
1570         if (!xfs_bmap_trace_buf)
1571                 goto out_free_alloc_trace;
1572 #endif
1573 #ifdef XFS_BTREE_TRACE
1574         xfs_allocbt_trace_buf = ktrace_alloc(XFS_ALLOCBT_TRACE_SIZE,
1575                                              KM_MAYFAIL);
1576         if (!xfs_allocbt_trace_buf)
1577                 goto out_free_bmap_trace;
1578
1579         xfs_inobt_trace_buf = ktrace_alloc(XFS_INOBT_TRACE_SIZE, KM_MAYFAIL);
1580         if (!xfs_inobt_trace_buf)
1581                 goto out_free_allocbt_trace;
1582
1583         xfs_bmbt_trace_buf = ktrace_alloc(XFS_BMBT_TRACE_SIZE, KM_MAYFAIL);
1584         if (!xfs_bmbt_trace_buf)
1585                 goto out_free_inobt_trace;
1586 #endif
1587 #ifdef XFS_ATTR_TRACE
1588         xfs_attr_trace_buf = ktrace_alloc(XFS_ATTR_TRACE_SIZE, KM_MAYFAIL);
1589         if (!xfs_attr_trace_buf)
1590                 goto out_free_bmbt_trace;
1591 #endif
1592 #ifdef XFS_DIR2_TRACE
1593         xfs_dir2_trace_buf = ktrace_alloc(XFS_DIR2_GTRACE_SIZE, KM_MAYFAIL);
1594         if (!xfs_dir2_trace_buf)
1595                 goto out_free_attr_trace;
1596 #endif
1597
1598         return 0;
1599
1600 #ifdef XFS_DIR2_TRACE
1601  out_free_attr_trace:
1602 #endif
1603 #ifdef XFS_ATTR_TRACE
1604         ktrace_free(xfs_attr_trace_buf);
1605  out_free_bmbt_trace:
1606 #endif
1607 #ifdef XFS_BTREE_TRACE
1608         ktrace_free(xfs_bmbt_trace_buf);
1609  out_free_inobt_trace:
1610         ktrace_free(xfs_inobt_trace_buf);
1611  out_free_allocbt_trace:
1612         ktrace_free(xfs_allocbt_trace_buf);
1613  out_free_bmap_trace:
1614 #endif
1615 #ifdef XFS_BMAP_TRACE
1616         ktrace_free(xfs_bmap_trace_buf);
1617  out_free_alloc_trace:
1618 #endif
1619 #ifdef XFS_ALLOC_TRACE
1620         ktrace_free(xfs_alloc_trace_buf);
1621  out:
1622 #endif
1623         return -ENOMEM;
1624 }
1625
1626 STATIC void
1627 xfs_free_trace_bufs(void)
1628 {
1629 #ifdef XFS_DIR2_TRACE
1630         ktrace_free(xfs_dir2_trace_buf);
1631 #endif
1632 #ifdef XFS_ATTR_TRACE
1633         ktrace_free(xfs_attr_trace_buf);
1634 #endif
1635 #ifdef XFS_BTREE_TRACE
1636         ktrace_free(xfs_bmbt_trace_buf);
1637         ktrace_free(xfs_inobt_trace_buf);
1638         ktrace_free(xfs_allocbt_trace_buf);
1639 #endif
1640 #ifdef XFS_BMAP_TRACE
1641         ktrace_free(xfs_bmap_trace_buf);
1642 #endif
1643 #ifdef XFS_ALLOC_TRACE
1644         ktrace_free(xfs_alloc_trace_buf);
1645 #endif
1646 }
1647
1648 STATIC int __init
1649 xfs_init_zones(void)
1650 {
1651
1652         xfs_ioend_zone = kmem_zone_init(sizeof(xfs_ioend_t), "xfs_ioend");
1653         if (!xfs_ioend_zone)
1654                 goto out;
1655
1656         xfs_ioend_pool = mempool_create_slab_pool(4 * MAX_BUF_PER_PAGE,
1657                                                   xfs_ioend_zone);
1658         if (!xfs_ioend_pool)
1659                 goto out_destroy_ioend_zone;
1660
1661         xfs_log_ticket_zone = kmem_zone_init(sizeof(xlog_ticket_t),
1662                                                 "xfs_log_ticket");
1663         if (!xfs_log_ticket_zone)
1664                 goto out_destroy_ioend_pool;
1665
1666         xfs_bmap_free_item_zone = kmem_zone_init(sizeof(xfs_bmap_free_item_t),
1667                                                 "xfs_bmap_free_item");
1668         if (!xfs_bmap_free_item_zone)
1669                 goto out_destroy_log_ticket_zone;
1670
1671         xfs_btree_cur_zone = kmem_zone_init(sizeof(xfs_btree_cur_t),
1672                                                 "xfs_btree_cur");
1673         if (!xfs_btree_cur_zone)
1674                 goto out_destroy_bmap_free_item_zone;
1675
1676         xfs_da_state_zone = kmem_zone_init(sizeof(xfs_da_state_t),
1677                                                 "xfs_da_state");
1678         if (!xfs_da_state_zone)
1679                 goto out_destroy_btree_cur_zone;
1680
1681         xfs_dabuf_zone = kmem_zone_init(sizeof(xfs_dabuf_t), "xfs_dabuf");
1682         if (!xfs_dabuf_zone)
1683                 goto out_destroy_da_state_zone;
1684
1685         xfs_ifork_zone = kmem_zone_init(sizeof(xfs_ifork_t), "xfs_ifork");
1686         if (!xfs_ifork_zone)
1687                 goto out_destroy_dabuf_zone;
1688
1689         xfs_trans_zone = kmem_zone_init(sizeof(xfs_trans_t), "xfs_trans");
1690         if (!xfs_trans_zone)
1691                 goto out_destroy_ifork_zone;
1692
1693         /*
1694          * The size of the zone allocated buf log item is the maximum
1695          * size possible under XFS.  This wastes a little bit of memory,
1696          * but it is much faster.
1697          */
1698         xfs_buf_item_zone = kmem_zone_init((sizeof(xfs_buf_log_item_t) +
1699                                 (((XFS_MAX_BLOCKSIZE / XFS_BLI_CHUNK) /
1700                                   NBWORD) * sizeof(int))), "xfs_buf_item");
1701         if (!xfs_buf_item_zone)
1702                 goto out_destroy_trans_zone;
1703
1704         xfs_efd_zone = kmem_zone_init((sizeof(xfs_efd_log_item_t) +
1705                         ((XFS_EFD_MAX_FAST_EXTENTS - 1) *
1706                                  sizeof(xfs_extent_t))), "xfs_efd_item");
1707         if (!xfs_efd_zone)
1708                 goto out_destroy_buf_item_zone;
1709
1710         xfs_efi_zone = kmem_zone_init((sizeof(xfs_efi_log_item_t) +
1711                         ((XFS_EFI_MAX_FAST_EXTENTS - 1) *
1712                                 sizeof(xfs_extent_t))), "xfs_efi_item");
1713         if (!xfs_efi_zone)
1714                 goto out_destroy_efd_zone;
1715
1716         xfs_inode_zone =
1717                 kmem_zone_init_flags(sizeof(xfs_inode_t), "xfs_inode",
1718                         KM_ZONE_HWALIGN | KM_ZONE_RECLAIM | KM_ZONE_SPREAD,
1719                         xfs_fs_inode_init_once);
1720         if (!xfs_inode_zone)
1721                 goto out_destroy_efi_zone;
1722
1723         xfs_ili_zone =
1724                 kmem_zone_init_flags(sizeof(xfs_inode_log_item_t), "xfs_ili",
1725                                         KM_ZONE_SPREAD, NULL);
1726         if (!xfs_ili_zone)
1727                 goto out_destroy_inode_zone;
1728
1729         return 0;
1730
1731  out_destroy_inode_zone:
1732         kmem_zone_destroy(xfs_inode_zone);
1733  out_destroy_efi_zone:
1734         kmem_zone_destroy(xfs_efi_zone);
1735  out_destroy_efd_zone:
1736         kmem_zone_destroy(xfs_efd_zone);
1737  out_destroy_buf_item_zone:
1738         kmem_zone_destroy(xfs_buf_item_zone);
1739  out_destroy_trans_zone:
1740         kmem_zone_destroy(xfs_trans_zone);
1741  out_destroy_ifork_zone:
1742         kmem_zone_destroy(xfs_ifork_zone);
1743  out_destroy_dabuf_zone:
1744         kmem_zone_destroy(xfs_dabuf_zone);
1745  out_destroy_da_state_zone:
1746         kmem_zone_destroy(xfs_da_state_zone);
1747  out_destroy_btree_cur_zone:
1748         kmem_zone_destroy(xfs_btree_cur_zone);
1749  out_destroy_bmap_free_item_zone:
1750         kmem_zone_destroy(xfs_bmap_free_item_zone);
1751  out_destroy_log_ticket_zone:
1752         kmem_zone_destroy(xfs_log_ticket_zone);
1753  out_destroy_ioend_pool:
1754         mempool_destroy(xfs_ioend_pool);
1755  out_destroy_ioend_zone:
1756         kmem_zone_destroy(xfs_ioend_zone);
1757  out:
1758         return -ENOMEM;
1759 }
1760
1761 STATIC void
1762 xfs_destroy_zones(void)
1763 {
1764         kmem_zone_destroy(xfs_ili_zone);
1765         kmem_zone_destroy(xfs_inode_zone);
1766         kmem_zone_destroy(xfs_efi_zone);
1767         kmem_zone_destroy(xfs_efd_zone);
1768         kmem_zone_destroy(xfs_buf_item_zone);
1769         kmem_zone_destroy(xfs_trans_zone);
1770         kmem_zone_destroy(xfs_ifork_zone);
1771         kmem_zone_destroy(xfs_dabuf_zone);
1772         kmem_zone_destroy(xfs_da_state_zone);
1773         kmem_zone_destroy(xfs_btree_cur_zone);
1774         kmem_zone_destroy(xfs_bmap_free_item_zone);
1775         kmem_zone_destroy(xfs_log_ticket_zone);
1776         mempool_destroy(xfs_ioend_pool);
1777         kmem_zone_destroy(xfs_ioend_zone);
1778
1779 }
1780
1781 STATIC int __init
1782 init_xfs_fs(void)
1783 {
1784         int                     error;
1785
1786         printk(KERN_INFO XFS_VERSION_STRING " with "
1787                          XFS_BUILD_OPTIONS " enabled\n");
1788
1789         ktrace_init(64);
1790         xfs_ioend_init();
1791         xfs_dir_startup();
1792
1793         error = xfs_init_zones();
1794         if (error)
1795                 goto out;
1796
1797         error = xfs_alloc_trace_bufs();
1798         if (error)
1799                 goto out_destroy_zones;
1800
1801         error = xfs_mru_cache_init();
1802         if (error)
1803                 goto out_free_trace_buffers;
1804
1805         error = xfs_filestream_init();
1806         if (error)
1807                 goto out_mru_cache_uninit;
1808
1809         error = xfs_buf_init();
1810         if (error)
1811                 goto out_filestream_uninit;
1812
1813         error = xfs_init_procfs();
1814         if (error)
1815                 goto out_buf_terminate;
1816
1817         error = xfs_sysctl_register();
1818         if (error)
1819                 goto out_cleanup_procfs;
1820
1821         vfs_initquota();
1822
1823         error = register_filesystem(&xfs_fs_type);
1824         if (error)
1825                 goto out_sysctl_unregister;
1826         return 0;
1827
1828  out_sysctl_unregister:
1829         xfs_sysctl_unregister();
1830  out_cleanup_procfs:
1831         xfs_cleanup_procfs();
1832  out_buf_terminate:
1833         xfs_buf_terminate();
1834  out_filestream_uninit:
1835         xfs_filestream_uninit();
1836  out_mru_cache_uninit:
1837         xfs_mru_cache_uninit();
1838  out_free_trace_buffers:
1839         xfs_free_trace_bufs();
1840  out_destroy_zones:
1841         xfs_destroy_zones();
1842  out:
1843         return error;
1844 }
1845
1846 STATIC void __exit
1847 exit_xfs_fs(void)
1848 {
1849         vfs_exitquota();
1850         unregister_filesystem(&xfs_fs_type);
1851         xfs_sysctl_unregister();
1852         xfs_cleanup_procfs();
1853         xfs_buf_terminate();
1854         xfs_filestream_uninit();
1855         xfs_mru_cache_uninit();
1856         xfs_free_trace_bufs();
1857         xfs_destroy_zones();
1858         ktrace_uninit();
1859 }
1860
1861 module_init(init_xfs_fs);
1862 module_exit(exit_xfs_fs);
1863
1864 MODULE_AUTHOR("Silicon Graphics, Inc.");
1865 MODULE_DESCRIPTION(XFS_VERSION_STRING " with " XFS_BUILD_OPTIONS " enabled");
1866 MODULE_LICENSE("GPL");