1d2912cb1SThomas Gleixner // SPDX-License-Identifier: GPL-2.0-only 2e9be9d5eSMiklos Szeredi /* 3e9be9d5eSMiklos Szeredi * 4e9be9d5eSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 5e9be9d5eSMiklos Szeredi */ 6e9be9d5eSMiklos Szeredi 75b825c3aSIngo Molnar #include <uapi/linux/magic.h> 8e9be9d5eSMiklos Szeredi #include <linux/fs.h> 9e9be9d5eSMiklos Szeredi #include <linux/namei.h> 10e9be9d5eSMiklos Szeredi #include <linux/xattr.h> 11e9be9d5eSMiklos Szeredi #include <linux/mount.h> 12e9be9d5eSMiklos Szeredi #include <linux/parser.h> 13e9be9d5eSMiklos Szeredi #include <linux/module.h> 14cc259639SAndy Whitcroft #include <linux/statfs.h> 15f45827e8SErez Zadok #include <linux/seq_file.h> 16d837a49bSMiklos Szeredi #include <linux/posix_acl_xattr.h> 17e487d889SAmir Goldstein #include <linux/exportfs.h> 18e9be9d5eSMiklos Szeredi #include "overlayfs.h" 19e9be9d5eSMiklos Szeredi 20e9be9d5eSMiklos Szeredi MODULE_AUTHOR("Miklos Szeredi <miklos@szeredi.hu>"); 21e9be9d5eSMiklos Szeredi MODULE_DESCRIPTION("Overlay filesystem"); 22e9be9d5eSMiklos Szeredi MODULE_LICENSE("GPL"); 23e9be9d5eSMiklos Szeredi 24e9be9d5eSMiklos Szeredi 25e9be9d5eSMiklos Szeredi struct ovl_dir_cache; 26e9be9d5eSMiklos Szeredi 27a78d9f0dSMiklos Szeredi #define OVL_MAX_STACK 500 28a78d9f0dSMiklos Szeredi 29688ea0e5SMiklos Szeredi static bool ovl_redirect_dir_def = IS_ENABLED(CONFIG_OVERLAY_FS_REDIRECT_DIR); 30688ea0e5SMiklos Szeredi module_param_named(redirect_dir, ovl_redirect_dir_def, bool, 0644); 31253e7483SNicolas Schier MODULE_PARM_DESC(redirect_dir, 32688ea0e5SMiklos Szeredi "Default to on or off for the redirect_dir feature"); 33e9be9d5eSMiklos Szeredi 34438c84c2SMiklos Szeredi static bool ovl_redirect_always_follow = 35438c84c2SMiklos Szeredi IS_ENABLED(CONFIG_OVERLAY_FS_REDIRECT_ALWAYS_FOLLOW); 36438c84c2SMiklos Szeredi module_param_named(redirect_always_follow, ovl_redirect_always_follow, 37438c84c2SMiklos Szeredi bool, 0644); 38253e7483SNicolas Schier MODULE_PARM_DESC(redirect_always_follow, 39438c84c2SMiklos Szeredi "Follow redirects even if redirect_dir feature is turned off"); 40438c84c2SMiklos Szeredi 4102bcd157SAmir Goldstein static bool ovl_index_def = IS_ENABLED(CONFIG_OVERLAY_FS_INDEX); 4202bcd157SAmir Goldstein module_param_named(index, ovl_index_def, bool, 0644); 43253e7483SNicolas Schier MODULE_PARM_DESC(index, 4402bcd157SAmir Goldstein "Default to on or off for the inodes index feature"); 4502bcd157SAmir Goldstein 46f168f109SAmir Goldstein static bool ovl_nfs_export_def = IS_ENABLED(CONFIG_OVERLAY_FS_NFS_EXPORT); 47f168f109SAmir Goldstein module_param_named(nfs_export, ovl_nfs_export_def, bool, 0644); 48253e7483SNicolas Schier MODULE_PARM_DESC(nfs_export, 49f168f109SAmir Goldstein "Default to on or off for the NFS export feature"); 50f168f109SAmir Goldstein 51795939a9SAmir Goldstein static bool ovl_xino_auto_def = IS_ENABLED(CONFIG_OVERLAY_FS_XINO_AUTO); 52795939a9SAmir Goldstein module_param_named(xino_auto, ovl_xino_auto_def, bool, 0644); 53253e7483SNicolas Schier MODULE_PARM_DESC(xino_auto, 54795939a9SAmir Goldstein "Auto enable xino feature"); 55795939a9SAmir Goldstein 564155c10aSMiklos Szeredi static void ovl_entry_stack_free(struct ovl_entry *oe) 574155c10aSMiklos Szeredi { 584155c10aSMiklos Szeredi unsigned int i; 594155c10aSMiklos Szeredi 604155c10aSMiklos Szeredi for (i = 0; i < oe->numlower; i++) 614155c10aSMiklos Szeredi dput(oe->lowerstack[i].dentry); 624155c10aSMiklos Szeredi } 634155c10aSMiklos Szeredi 64d5791044SVivek Goyal static bool ovl_metacopy_def = IS_ENABLED(CONFIG_OVERLAY_FS_METACOPY); 65d5791044SVivek Goyal module_param_named(metacopy, ovl_metacopy_def, bool, 0644); 66253e7483SNicolas Schier MODULE_PARM_DESC(metacopy, 67d5791044SVivek Goyal "Default to on or off for the metadata only copy up feature"); 68d5791044SVivek Goyal 69e9be9d5eSMiklos Szeredi static void ovl_dentry_release(struct dentry *dentry) 70e9be9d5eSMiklos Szeredi { 71e9be9d5eSMiklos Szeredi struct ovl_entry *oe = dentry->d_fsdata; 72e9be9d5eSMiklos Szeredi 73e9be9d5eSMiklos Szeredi if (oe) { 744155c10aSMiklos Szeredi ovl_entry_stack_free(oe); 75e9be9d5eSMiklos Szeredi kfree_rcu(oe, rcu); 76e9be9d5eSMiklos Szeredi } 77e9be9d5eSMiklos Szeredi } 78e9be9d5eSMiklos Szeredi 792d902671SMiklos Szeredi static struct dentry *ovl_d_real(struct dentry *dentry, 80fb16043bSMiklos Szeredi const struct inode *inode) 81d101a125SMiklos Szeredi { 82d101a125SMiklos Szeredi struct dentry *real; 83d101a125SMiklos Szeredi 84e8c985baSMiklos Szeredi /* It's an overlay file */ 85e8c985baSMiklos Szeredi if (inode && d_inode(dentry) == inode) 86e8c985baSMiklos Szeredi return dentry; 87e8c985baSMiklos Szeredi 88ca4c8a3aSMiklos Szeredi if (!d_is_reg(dentry)) { 89d101a125SMiklos Szeredi if (!inode || inode == d_inode(dentry)) 90d101a125SMiklos Szeredi return dentry; 91d101a125SMiklos Szeredi goto bug; 92d101a125SMiklos Szeredi } 93d101a125SMiklos Szeredi 94d101a125SMiklos Szeredi real = ovl_dentry_upper(dentry); 952c3d7358SVivek Goyal if (real && (inode == d_inode(real))) 96d101a125SMiklos Szeredi return real; 97d101a125SMiklos Szeredi 982c3d7358SVivek Goyal if (real && !inode && ovl_has_upperdata(d_inode(dentry))) 992c3d7358SVivek Goyal return real; 1002c3d7358SVivek Goyal 1012c3d7358SVivek Goyal real = ovl_dentry_lowerdata(dentry); 102d101a125SMiklos Szeredi if (!real) 103d101a125SMiklos Szeredi goto bug; 104d101a125SMiklos Szeredi 105c4fcfc16SMiklos Szeredi /* Handle recursion */ 106fb16043bSMiklos Szeredi real = d_real(real, inode); 107c4fcfc16SMiklos Szeredi 108d101a125SMiklos Szeredi if (!inode || inode == d_inode(real)) 109d101a125SMiklos Szeredi return real; 110d101a125SMiklos Szeredi bug: 111656189d2SMiklos Szeredi WARN(1, "ovl_d_real(%pd4, %s:%lu): real dentry not found\n", dentry, 112d101a125SMiklos Szeredi inode ? inode->i_sb->s_id : "NULL", inode ? inode->i_ino : 0); 113d101a125SMiklos Szeredi return dentry; 114d101a125SMiklos Szeredi } 115d101a125SMiklos Szeredi 1163bb7df92SMiklos Szeredi static int ovl_revalidate_real(struct dentry *d, unsigned int flags, bool weak) 1173bb7df92SMiklos Szeredi { 1183bb7df92SMiklos Szeredi int ret = 1; 1193bb7df92SMiklos Szeredi 1203bb7df92SMiklos Szeredi if (weak) { 1213bb7df92SMiklos Szeredi if (d->d_flags & DCACHE_OP_WEAK_REVALIDATE) 1223bb7df92SMiklos Szeredi ret = d->d_op->d_weak_revalidate(d, flags); 1233bb7df92SMiklos Szeredi } else if (d->d_flags & DCACHE_OP_REVALIDATE) { 1243bb7df92SMiklos Szeredi ret = d->d_op->d_revalidate(d, flags); 1253bb7df92SMiklos Szeredi if (!ret) { 1263bb7df92SMiklos Szeredi if (!(flags & LOOKUP_RCU)) 1273bb7df92SMiklos Szeredi d_invalidate(d); 1283bb7df92SMiklos Szeredi ret = -ESTALE; 1293bb7df92SMiklos Szeredi } 1303bb7df92SMiklos Szeredi } 1313bb7df92SMiklos Szeredi return ret; 1323bb7df92SMiklos Szeredi } 1333bb7df92SMiklos Szeredi 1343bb7df92SMiklos Szeredi static int ovl_dentry_revalidate_common(struct dentry *dentry, 1353bb7df92SMiklos Szeredi unsigned int flags, bool weak) 1367c03b5d4SMiklos Szeredi { 1377c03b5d4SMiklos Szeredi struct ovl_entry *oe = dentry->d_fsdata; 1387c03b5d4SMiklos Szeredi unsigned int i; 1397c03b5d4SMiklos Szeredi int ret = 1; 1407c03b5d4SMiklos Szeredi 1413bb7df92SMiklos Szeredi for (i = 0; ret > 0 && i < oe->numlower; i++) { 1423bb7df92SMiklos Szeredi ret = ovl_revalidate_real(oe->lowerstack[i].dentry, flags, 1433bb7df92SMiklos Szeredi weak); 1443bb7df92SMiklos Szeredi } 1457c03b5d4SMiklos Szeredi return ret; 1467c03b5d4SMiklos Szeredi } 1473bb7df92SMiklos Szeredi 1483bb7df92SMiklos Szeredi static int ovl_dentry_revalidate(struct dentry *dentry, unsigned int flags) 1493bb7df92SMiklos Szeredi { 1503bb7df92SMiklos Szeredi return ovl_dentry_revalidate_common(dentry, flags, false); 1517c03b5d4SMiklos Szeredi } 1527c03b5d4SMiklos Szeredi 1537c03b5d4SMiklos Szeredi static int ovl_dentry_weak_revalidate(struct dentry *dentry, unsigned int flags) 1547c03b5d4SMiklos Szeredi { 1553bb7df92SMiklos Szeredi return ovl_dentry_revalidate_common(dentry, flags, true); 1567c03b5d4SMiklos Szeredi } 1577c03b5d4SMiklos Szeredi 158e9be9d5eSMiklos Szeredi static const struct dentry_operations ovl_dentry_operations = { 159e9be9d5eSMiklos Szeredi .d_release = ovl_dentry_release, 160d101a125SMiklos Szeredi .d_real = ovl_d_real, 161e9be9d5eSMiklos Szeredi }; 162e9be9d5eSMiklos Szeredi 1637c03b5d4SMiklos Szeredi static const struct dentry_operations ovl_reval_dentry_operations = { 1647c03b5d4SMiklos Szeredi .d_release = ovl_dentry_release, 165d101a125SMiklos Szeredi .d_real = ovl_d_real, 1667c03b5d4SMiklos Szeredi .d_revalidate = ovl_dentry_revalidate, 1677c03b5d4SMiklos Szeredi .d_weak_revalidate = ovl_dentry_weak_revalidate, 1687c03b5d4SMiklos Szeredi }; 1697c03b5d4SMiklos Szeredi 17013cf199dSAmir Goldstein static struct kmem_cache *ovl_inode_cachep; 17113cf199dSAmir Goldstein 17213cf199dSAmir Goldstein static struct inode *ovl_alloc_inode(struct super_block *sb) 17313cf199dSAmir Goldstein { 17413cf199dSAmir Goldstein struct ovl_inode *oi = kmem_cache_alloc(ovl_inode_cachep, GFP_KERNEL); 17513cf199dSAmir Goldstein 176b3885bd6SHirofumi Nakagawa if (!oi) 177b3885bd6SHirofumi Nakagawa return NULL; 178b3885bd6SHirofumi Nakagawa 17904a01ac7SMiklos Szeredi oi->cache = NULL; 180cf31c463SMiklos Szeredi oi->redirect = NULL; 18104a01ac7SMiklos Szeredi oi->version = 0; 18213c72075SMiklos Szeredi oi->flags = 0; 18309d8b586SMiklos Szeredi oi->__upperdentry = NULL; 18425b7713aSMiklos Szeredi oi->lower = NULL; 1852664bd08SVivek Goyal oi->lowerdata = NULL; 186a015dafcSAmir Goldstein mutex_init(&oi->lock); 18725b7713aSMiklos Szeredi 18813cf199dSAmir Goldstein return &oi->vfs_inode; 18913cf199dSAmir Goldstein } 19013cf199dSAmir Goldstein 1910b269dedSAl Viro static void ovl_free_inode(struct inode *inode) 19213cf199dSAmir Goldstein { 1930b269dedSAl Viro struct ovl_inode *oi = OVL_I(inode); 19413cf199dSAmir Goldstein 1950b269dedSAl Viro kfree(oi->redirect); 1960b269dedSAl Viro mutex_destroy(&oi->lock); 1970b269dedSAl Viro kmem_cache_free(ovl_inode_cachep, oi); 19813cf199dSAmir Goldstein } 19913cf199dSAmir Goldstein 20013cf199dSAmir Goldstein static void ovl_destroy_inode(struct inode *inode) 20113cf199dSAmir Goldstein { 20209d8b586SMiklos Szeredi struct ovl_inode *oi = OVL_I(inode); 20309d8b586SMiklos Szeredi 20409d8b586SMiklos Szeredi dput(oi->__upperdentry); 20531747edaSAmir Goldstein iput(oi->lower); 2062664bd08SVivek Goyal if (S_ISDIR(inode->i_mode)) 2074edb83bbSMiklos Szeredi ovl_dir_cache_free(inode); 2082664bd08SVivek Goyal else 2092664bd08SVivek Goyal iput(oi->lowerdata); 21013cf199dSAmir Goldstein } 21113cf199dSAmir Goldstein 212ad204488SMiklos Szeredi static void ovl_free_fs(struct ovl_fs *ofs) 213e9be9d5eSMiklos Szeredi { 214dd662667SMiklos Szeredi unsigned i; 215e9be9d5eSMiklos Szeredi 2160be0bfd2SAmir Goldstein iput(ofs->workbasedir_trap); 217146d62e5SAmir Goldstein iput(ofs->indexdir_trap); 218146d62e5SAmir Goldstein iput(ofs->workdir_trap); 219146d62e5SAmir Goldstein iput(ofs->upperdir_trap); 220ad204488SMiklos Szeredi dput(ofs->indexdir); 221ad204488SMiklos Szeredi dput(ofs->workdir); 222ad204488SMiklos Szeredi if (ofs->workdir_locked) 223ad204488SMiklos Szeredi ovl_inuse_unlock(ofs->workbasedir); 224ad204488SMiklos Szeredi dput(ofs->workbasedir); 225ad204488SMiklos Szeredi if (ofs->upperdir_locked) 226ad204488SMiklos Szeredi ovl_inuse_unlock(ofs->upper_mnt->mnt_root); 227ad204488SMiklos Szeredi mntput(ofs->upper_mnt); 22894375f9dSAmir Goldstein for (i = 1; i < ofs->numlayer; i++) { 22994375f9dSAmir Goldstein iput(ofs->layers[i].trap); 23094375f9dSAmir Goldstein mntput(ofs->layers[i].mnt); 231146d62e5SAmir Goldstein } 23294375f9dSAmir Goldstein kfree(ofs->layers); 233b7bf9908SAmir Goldstein for (i = 0; i < ofs->numfs; i++) 23407f1e596SAmir Goldstein free_anon_bdev(ofs->fs[i].pseudo_dev); 23507f1e596SAmir Goldstein kfree(ofs->fs); 236e9be9d5eSMiklos Szeredi 237ad204488SMiklos Szeredi kfree(ofs->config.lowerdir); 238ad204488SMiklos Szeredi kfree(ofs->config.upperdir); 239ad204488SMiklos Szeredi kfree(ofs->config.workdir); 240438c84c2SMiklos Szeredi kfree(ofs->config.redirect_mode); 241ad204488SMiklos Szeredi if (ofs->creator_cred) 242ad204488SMiklos Szeredi put_cred(ofs->creator_cred); 243ad204488SMiklos Szeredi kfree(ofs); 244e9be9d5eSMiklos Szeredi } 245e9be9d5eSMiklos Szeredi 246a9075cdbSMiklos Szeredi static void ovl_put_super(struct super_block *sb) 247a9075cdbSMiklos Szeredi { 248a9075cdbSMiklos Szeredi struct ovl_fs *ofs = sb->s_fs_info; 249a9075cdbSMiklos Szeredi 250a9075cdbSMiklos Szeredi ovl_free_fs(ofs); 251a9075cdbSMiklos Szeredi } 252a9075cdbSMiklos Szeredi 253e8d4bfe3SChengguang Xu /* Sync real dirty inodes in upper filesystem (if it exists) */ 254e593b2bfSAmir Goldstein static int ovl_sync_fs(struct super_block *sb, int wait) 255e593b2bfSAmir Goldstein { 256ad204488SMiklos Szeredi struct ovl_fs *ofs = sb->s_fs_info; 257e593b2bfSAmir Goldstein struct super_block *upper_sb; 258e593b2bfSAmir Goldstein int ret; 259e593b2bfSAmir Goldstein 260ad204488SMiklos Szeredi if (!ofs->upper_mnt) 261e593b2bfSAmir Goldstein return 0; 262e8d4bfe3SChengguang Xu 263e8d4bfe3SChengguang Xu /* 264e8d4bfe3SChengguang Xu * If this is a sync(2) call or an emergency sync, all the super blocks 265e8d4bfe3SChengguang Xu * will be iterated, including upper_sb, so no need to do anything. 266e8d4bfe3SChengguang Xu * 267e8d4bfe3SChengguang Xu * If this is a syncfs(2) call, then we do need to call 268e8d4bfe3SChengguang Xu * sync_filesystem() on upper_sb, but enough if we do it when being 269e8d4bfe3SChengguang Xu * called with wait == 1. 270e8d4bfe3SChengguang Xu */ 271e8d4bfe3SChengguang Xu if (!wait) 272e593b2bfSAmir Goldstein return 0; 273e593b2bfSAmir Goldstein 274e8d4bfe3SChengguang Xu upper_sb = ofs->upper_mnt->mnt_sb; 275e8d4bfe3SChengguang Xu 276e593b2bfSAmir Goldstein down_read(&upper_sb->s_umount); 277e8d4bfe3SChengguang Xu ret = sync_filesystem(upper_sb); 278e593b2bfSAmir Goldstein up_read(&upper_sb->s_umount); 279e8d4bfe3SChengguang Xu 280e593b2bfSAmir Goldstein return ret; 281e593b2bfSAmir Goldstein } 282e593b2bfSAmir Goldstein 283cc259639SAndy Whitcroft /** 284cc259639SAndy Whitcroft * ovl_statfs 285cc259639SAndy Whitcroft * @sb: The overlayfs super block 286cc259639SAndy Whitcroft * @buf: The struct kstatfs to fill in with stats 287cc259639SAndy Whitcroft * 288cc259639SAndy Whitcroft * Get the filesystem statistics. As writes always target the upper layer 2894ebc5818SMiklos Szeredi * filesystem pass the statfs to the upper filesystem (if it exists) 290cc259639SAndy Whitcroft */ 291cc259639SAndy Whitcroft static int ovl_statfs(struct dentry *dentry, struct kstatfs *buf) 292cc259639SAndy Whitcroft { 293cc259639SAndy Whitcroft struct ovl_fs *ofs = dentry->d_sb->s_fs_info; 294cc259639SAndy Whitcroft struct dentry *root_dentry = dentry->d_sb->s_root; 295cc259639SAndy Whitcroft struct path path; 296cc259639SAndy Whitcroft int err; 297cc259639SAndy Whitcroft 2984ebc5818SMiklos Szeredi ovl_path_real(root_dentry, &path); 299cc259639SAndy Whitcroft 300cc259639SAndy Whitcroft err = vfs_statfs(&path, buf); 301cc259639SAndy Whitcroft if (!err) { 3026b2d5fe4SMiklos Szeredi buf->f_namelen = ofs->namelen; 303cc259639SAndy Whitcroft buf->f_type = OVERLAYFS_SUPER_MAGIC; 304cc259639SAndy Whitcroft } 305cc259639SAndy Whitcroft 306cc259639SAndy Whitcroft return err; 307cc259639SAndy Whitcroft } 308cc259639SAndy Whitcroft 30902bcd157SAmir Goldstein /* Will this overlay be forced to mount/remount ro? */ 310ad204488SMiklos Szeredi static bool ovl_force_readonly(struct ovl_fs *ofs) 31102bcd157SAmir Goldstein { 312ad204488SMiklos Szeredi return (!ofs->upper_mnt || !ofs->workdir); 31302bcd157SAmir Goldstein } 31402bcd157SAmir Goldstein 315438c84c2SMiklos Szeredi static const char *ovl_redirect_mode_def(void) 316438c84c2SMiklos Szeredi { 317438c84c2SMiklos Szeredi return ovl_redirect_dir_def ? "on" : "off"; 318438c84c2SMiklos Szeredi } 319438c84c2SMiklos Szeredi 320795939a9SAmir Goldstein enum { 321795939a9SAmir Goldstein OVL_XINO_OFF, 322795939a9SAmir Goldstein OVL_XINO_AUTO, 323795939a9SAmir Goldstein OVL_XINO_ON, 324795939a9SAmir Goldstein }; 325795939a9SAmir Goldstein 326795939a9SAmir Goldstein static const char * const ovl_xino_str[] = { 327795939a9SAmir Goldstein "off", 328795939a9SAmir Goldstein "auto", 329795939a9SAmir Goldstein "on", 330795939a9SAmir Goldstein }; 331795939a9SAmir Goldstein 332795939a9SAmir Goldstein static inline int ovl_xino_def(void) 333795939a9SAmir Goldstein { 334795939a9SAmir Goldstein return ovl_xino_auto_def ? OVL_XINO_AUTO : OVL_XINO_OFF; 335795939a9SAmir Goldstein } 336795939a9SAmir Goldstein 337f45827e8SErez Zadok /** 338f45827e8SErez Zadok * ovl_show_options 339f45827e8SErez Zadok * 340f45827e8SErez Zadok * Prints the mount options for a given superblock. 341f45827e8SErez Zadok * Returns zero; does not fail. 342f45827e8SErez Zadok */ 343f45827e8SErez Zadok static int ovl_show_options(struct seq_file *m, struct dentry *dentry) 344f45827e8SErez Zadok { 345f45827e8SErez Zadok struct super_block *sb = dentry->d_sb; 346ad204488SMiklos Szeredi struct ovl_fs *ofs = sb->s_fs_info; 347f45827e8SErez Zadok 348ad204488SMiklos Szeredi seq_show_option(m, "lowerdir", ofs->config.lowerdir); 349ad204488SMiklos Szeredi if (ofs->config.upperdir) { 350ad204488SMiklos Szeredi seq_show_option(m, "upperdir", ofs->config.upperdir); 351ad204488SMiklos Szeredi seq_show_option(m, "workdir", ofs->config.workdir); 35253a08cb9SMiklos Szeredi } 353ad204488SMiklos Szeredi if (ofs->config.default_permissions) 3548d3095f4SMiklos Szeredi seq_puts(m, ",default_permissions"); 355438c84c2SMiklos Szeredi if (strcmp(ofs->config.redirect_mode, ovl_redirect_mode_def()) != 0) 356438c84c2SMiklos Szeredi seq_printf(m, ",redirect_dir=%s", ofs->config.redirect_mode); 357ad204488SMiklos Szeredi if (ofs->config.index != ovl_index_def) 358438c84c2SMiklos Szeredi seq_printf(m, ",index=%s", ofs->config.index ? "on" : "off"); 359f168f109SAmir Goldstein if (ofs->config.nfs_export != ovl_nfs_export_def) 360f168f109SAmir Goldstein seq_printf(m, ",nfs_export=%s", ofs->config.nfs_export ? 361f168f109SAmir Goldstein "on" : "off"); 3620f831ec8SAmir Goldstein if (ofs->config.xino != ovl_xino_def() && !ovl_same_fs(sb)) 363795939a9SAmir Goldstein seq_printf(m, ",xino=%s", ovl_xino_str[ofs->config.xino]); 364d5791044SVivek Goyal if (ofs->config.metacopy != ovl_metacopy_def) 365d5791044SVivek Goyal seq_printf(m, ",metacopy=%s", 366d5791044SVivek Goyal ofs->config.metacopy ? "on" : "off"); 367f45827e8SErez Zadok return 0; 368f45827e8SErez Zadok } 369f45827e8SErez Zadok 3703cdf6fe9SSeunghun Lee static int ovl_remount(struct super_block *sb, int *flags, char *data) 3713cdf6fe9SSeunghun Lee { 372ad204488SMiklos Szeredi struct ovl_fs *ofs = sb->s_fs_info; 3733cdf6fe9SSeunghun Lee 3741751e8a6SLinus Torvalds if (!(*flags & SB_RDONLY) && ovl_force_readonly(ofs)) 3753cdf6fe9SSeunghun Lee return -EROFS; 3763cdf6fe9SSeunghun Lee 3773cdf6fe9SSeunghun Lee return 0; 3783cdf6fe9SSeunghun Lee } 3793cdf6fe9SSeunghun Lee 380e9be9d5eSMiklos Szeredi static const struct super_operations ovl_super_operations = { 38113cf199dSAmir Goldstein .alloc_inode = ovl_alloc_inode, 3820b269dedSAl Viro .free_inode = ovl_free_inode, 38313cf199dSAmir Goldstein .destroy_inode = ovl_destroy_inode, 38413cf199dSAmir Goldstein .drop_inode = generic_delete_inode, 385e9be9d5eSMiklos Szeredi .put_super = ovl_put_super, 386e593b2bfSAmir Goldstein .sync_fs = ovl_sync_fs, 387cc259639SAndy Whitcroft .statfs = ovl_statfs, 388f45827e8SErez Zadok .show_options = ovl_show_options, 3893cdf6fe9SSeunghun Lee .remount_fs = ovl_remount, 390e9be9d5eSMiklos Szeredi }; 391e9be9d5eSMiklos Szeredi 392e9be9d5eSMiklos Szeredi enum { 393e9be9d5eSMiklos Szeredi OPT_LOWERDIR, 394e9be9d5eSMiklos Szeredi OPT_UPPERDIR, 395e9be9d5eSMiklos Szeredi OPT_WORKDIR, 3968d3095f4SMiklos Szeredi OPT_DEFAULT_PERMISSIONS, 397438c84c2SMiklos Szeredi OPT_REDIRECT_DIR, 39802bcd157SAmir Goldstein OPT_INDEX_ON, 39902bcd157SAmir Goldstein OPT_INDEX_OFF, 400f168f109SAmir Goldstein OPT_NFS_EXPORT_ON, 401f168f109SAmir Goldstein OPT_NFS_EXPORT_OFF, 402795939a9SAmir Goldstein OPT_XINO_ON, 403795939a9SAmir Goldstein OPT_XINO_OFF, 404795939a9SAmir Goldstein OPT_XINO_AUTO, 405d5791044SVivek Goyal OPT_METACOPY_ON, 406d5791044SVivek Goyal OPT_METACOPY_OFF, 407e9be9d5eSMiklos Szeredi OPT_ERR, 408e9be9d5eSMiklos Szeredi }; 409e9be9d5eSMiklos Szeredi 410e9be9d5eSMiklos Szeredi static const match_table_t ovl_tokens = { 411e9be9d5eSMiklos Szeredi {OPT_LOWERDIR, "lowerdir=%s"}, 412e9be9d5eSMiklos Szeredi {OPT_UPPERDIR, "upperdir=%s"}, 413e9be9d5eSMiklos Szeredi {OPT_WORKDIR, "workdir=%s"}, 4148d3095f4SMiklos Szeredi {OPT_DEFAULT_PERMISSIONS, "default_permissions"}, 415438c84c2SMiklos Szeredi {OPT_REDIRECT_DIR, "redirect_dir=%s"}, 41602bcd157SAmir Goldstein {OPT_INDEX_ON, "index=on"}, 41702bcd157SAmir Goldstein {OPT_INDEX_OFF, "index=off"}, 418f168f109SAmir Goldstein {OPT_NFS_EXPORT_ON, "nfs_export=on"}, 419f168f109SAmir Goldstein {OPT_NFS_EXPORT_OFF, "nfs_export=off"}, 420795939a9SAmir Goldstein {OPT_XINO_ON, "xino=on"}, 421795939a9SAmir Goldstein {OPT_XINO_OFF, "xino=off"}, 422795939a9SAmir Goldstein {OPT_XINO_AUTO, "xino=auto"}, 423d5791044SVivek Goyal {OPT_METACOPY_ON, "metacopy=on"}, 424d5791044SVivek Goyal {OPT_METACOPY_OFF, "metacopy=off"}, 425e9be9d5eSMiklos Szeredi {OPT_ERR, NULL} 426e9be9d5eSMiklos Szeredi }; 427e9be9d5eSMiklos Szeredi 42891c77947SMiklos Szeredi static char *ovl_next_opt(char **s) 42991c77947SMiklos Szeredi { 43091c77947SMiklos Szeredi char *sbegin = *s; 43191c77947SMiklos Szeredi char *p; 43291c77947SMiklos Szeredi 43391c77947SMiklos Szeredi if (sbegin == NULL) 43491c77947SMiklos Szeredi return NULL; 43591c77947SMiklos Szeredi 43691c77947SMiklos Szeredi for (p = sbegin; *p; p++) { 43791c77947SMiklos Szeredi if (*p == '\\') { 43891c77947SMiklos Szeredi p++; 43991c77947SMiklos Szeredi if (!*p) 44091c77947SMiklos Szeredi break; 44191c77947SMiklos Szeredi } else if (*p == ',') { 44291c77947SMiklos Szeredi *p = '\0'; 44391c77947SMiklos Szeredi *s = p + 1; 44491c77947SMiklos Szeredi return sbegin; 44591c77947SMiklos Szeredi } 44691c77947SMiklos Szeredi } 44791c77947SMiklos Szeredi *s = NULL; 44891c77947SMiklos Szeredi return sbegin; 44991c77947SMiklos Szeredi } 45091c77947SMiklos Szeredi 451438c84c2SMiklos Szeredi static int ovl_parse_redirect_mode(struct ovl_config *config, const char *mode) 452438c84c2SMiklos Szeredi { 453438c84c2SMiklos Szeredi if (strcmp(mode, "on") == 0) { 454438c84c2SMiklos Szeredi config->redirect_dir = true; 455438c84c2SMiklos Szeredi /* 456438c84c2SMiklos Szeredi * Does not make sense to have redirect creation without 457438c84c2SMiklos Szeredi * redirect following. 458438c84c2SMiklos Szeredi */ 459438c84c2SMiklos Szeredi config->redirect_follow = true; 460438c84c2SMiklos Szeredi } else if (strcmp(mode, "follow") == 0) { 461438c84c2SMiklos Szeredi config->redirect_follow = true; 462438c84c2SMiklos Szeredi } else if (strcmp(mode, "off") == 0) { 463438c84c2SMiklos Szeredi if (ovl_redirect_always_follow) 464438c84c2SMiklos Szeredi config->redirect_follow = true; 465438c84c2SMiklos Szeredi } else if (strcmp(mode, "nofollow") != 0) { 4661bd0a3aeSlijiazi pr_err("bad mount option \"redirect_dir=%s\"\n", 467438c84c2SMiklos Szeredi mode); 468438c84c2SMiklos Szeredi return -EINVAL; 469438c84c2SMiklos Szeredi } 470438c84c2SMiklos Szeredi 471438c84c2SMiklos Szeredi return 0; 472438c84c2SMiklos Szeredi } 473438c84c2SMiklos Szeredi 474e9be9d5eSMiklos Szeredi static int ovl_parse_opt(char *opt, struct ovl_config *config) 475e9be9d5eSMiklos Szeredi { 476e9be9d5eSMiklos Szeredi char *p; 477d5791044SVivek Goyal int err; 478d47748e5SMiklos Szeredi bool metacopy_opt = false, redirect_opt = false; 479e9be9d5eSMiklos Szeredi 480438c84c2SMiklos Szeredi config->redirect_mode = kstrdup(ovl_redirect_mode_def(), GFP_KERNEL); 481438c84c2SMiklos Szeredi if (!config->redirect_mode) 482438c84c2SMiklos Szeredi return -ENOMEM; 483438c84c2SMiklos Szeredi 48491c77947SMiklos Szeredi while ((p = ovl_next_opt(&opt)) != NULL) { 485e9be9d5eSMiklos Szeredi int token; 486e9be9d5eSMiklos Szeredi substring_t args[MAX_OPT_ARGS]; 487e9be9d5eSMiklos Szeredi 488e9be9d5eSMiklos Szeredi if (!*p) 489e9be9d5eSMiklos Szeredi continue; 490e9be9d5eSMiklos Szeredi 491e9be9d5eSMiklos Szeredi token = match_token(p, ovl_tokens, args); 492e9be9d5eSMiklos Szeredi switch (token) { 493e9be9d5eSMiklos Szeredi case OPT_UPPERDIR: 494e9be9d5eSMiklos Szeredi kfree(config->upperdir); 495e9be9d5eSMiklos Szeredi config->upperdir = match_strdup(&args[0]); 496e9be9d5eSMiklos Szeredi if (!config->upperdir) 497e9be9d5eSMiklos Szeredi return -ENOMEM; 498e9be9d5eSMiklos Szeredi break; 499e9be9d5eSMiklos Szeredi 500e9be9d5eSMiklos Szeredi case OPT_LOWERDIR: 501e9be9d5eSMiklos Szeredi kfree(config->lowerdir); 502e9be9d5eSMiklos Szeredi config->lowerdir = match_strdup(&args[0]); 503e9be9d5eSMiklos Szeredi if (!config->lowerdir) 504e9be9d5eSMiklos Szeredi return -ENOMEM; 505e9be9d5eSMiklos Szeredi break; 506e9be9d5eSMiklos Szeredi 507e9be9d5eSMiklos Szeredi case OPT_WORKDIR: 508e9be9d5eSMiklos Szeredi kfree(config->workdir); 509e9be9d5eSMiklos Szeredi config->workdir = match_strdup(&args[0]); 510e9be9d5eSMiklos Szeredi if (!config->workdir) 511e9be9d5eSMiklos Szeredi return -ENOMEM; 512e9be9d5eSMiklos Szeredi break; 513e9be9d5eSMiklos Szeredi 5148d3095f4SMiklos Szeredi case OPT_DEFAULT_PERMISSIONS: 5158d3095f4SMiklos Szeredi config->default_permissions = true; 5168d3095f4SMiklos Szeredi break; 5178d3095f4SMiklos Szeredi 518438c84c2SMiklos Szeredi case OPT_REDIRECT_DIR: 519438c84c2SMiklos Szeredi kfree(config->redirect_mode); 520438c84c2SMiklos Szeredi config->redirect_mode = match_strdup(&args[0]); 521438c84c2SMiklos Szeredi if (!config->redirect_mode) 522438c84c2SMiklos Szeredi return -ENOMEM; 523d47748e5SMiklos Szeredi redirect_opt = true; 524a6c60655SMiklos Szeredi break; 525a6c60655SMiklos Szeredi 52602bcd157SAmir Goldstein case OPT_INDEX_ON: 52702bcd157SAmir Goldstein config->index = true; 52802bcd157SAmir Goldstein break; 52902bcd157SAmir Goldstein 53002bcd157SAmir Goldstein case OPT_INDEX_OFF: 53102bcd157SAmir Goldstein config->index = false; 53202bcd157SAmir Goldstein break; 53302bcd157SAmir Goldstein 534f168f109SAmir Goldstein case OPT_NFS_EXPORT_ON: 535f168f109SAmir Goldstein config->nfs_export = true; 536f168f109SAmir Goldstein break; 537f168f109SAmir Goldstein 538f168f109SAmir Goldstein case OPT_NFS_EXPORT_OFF: 539f168f109SAmir Goldstein config->nfs_export = false; 540f168f109SAmir Goldstein break; 541f168f109SAmir Goldstein 542795939a9SAmir Goldstein case OPT_XINO_ON: 543795939a9SAmir Goldstein config->xino = OVL_XINO_ON; 544795939a9SAmir Goldstein break; 545795939a9SAmir Goldstein 546795939a9SAmir Goldstein case OPT_XINO_OFF: 547795939a9SAmir Goldstein config->xino = OVL_XINO_OFF; 548795939a9SAmir Goldstein break; 549795939a9SAmir Goldstein 550795939a9SAmir Goldstein case OPT_XINO_AUTO: 551795939a9SAmir Goldstein config->xino = OVL_XINO_AUTO; 552795939a9SAmir Goldstein break; 553795939a9SAmir Goldstein 554d5791044SVivek Goyal case OPT_METACOPY_ON: 555d5791044SVivek Goyal config->metacopy = true; 556d47748e5SMiklos Szeredi metacopy_opt = true; 557d5791044SVivek Goyal break; 558d5791044SVivek Goyal 559d5791044SVivek Goyal case OPT_METACOPY_OFF: 560d5791044SVivek Goyal config->metacopy = false; 561d5791044SVivek Goyal break; 562d5791044SVivek Goyal 563e9be9d5eSMiklos Szeredi default: 5641bd0a3aeSlijiazi pr_err("unrecognized mount option \"%s\" or missing value\n", 5651bd0a3aeSlijiazi p); 566e9be9d5eSMiklos Szeredi return -EINVAL; 567e9be9d5eSMiklos Szeredi } 568e9be9d5eSMiklos Szeredi } 56971cbad7eShujianyang 57071cbad7eShujianyang /* Workdir is useless in non-upper mount */ 57171cbad7eShujianyang if (!config->upperdir && config->workdir) { 5721bd0a3aeSlijiazi pr_info("option \"workdir=%s\" is useless in a non-upper mount, ignore\n", 57371cbad7eShujianyang config->workdir); 57471cbad7eShujianyang kfree(config->workdir); 57571cbad7eShujianyang config->workdir = NULL; 57671cbad7eShujianyang } 57771cbad7eShujianyang 578d5791044SVivek Goyal err = ovl_parse_redirect_mode(config, config->redirect_mode); 579d5791044SVivek Goyal if (err) 580d5791044SVivek Goyal return err; 581d5791044SVivek Goyal 582d47748e5SMiklos Szeredi /* 583d47748e5SMiklos Szeredi * This is to make the logic below simpler. It doesn't make any other 584d47748e5SMiklos Szeredi * difference, since config->redirect_dir is only used for upper. 585d47748e5SMiklos Szeredi */ 586d47748e5SMiklos Szeredi if (!config->upperdir && config->redirect_follow) 587d47748e5SMiklos Szeredi config->redirect_dir = true; 588d47748e5SMiklos Szeredi 589d47748e5SMiklos Szeredi /* Resolve metacopy -> redirect_dir dependency */ 590d47748e5SMiklos Szeredi if (config->metacopy && !config->redirect_dir) { 591d47748e5SMiklos Szeredi if (metacopy_opt && redirect_opt) { 5921bd0a3aeSlijiazi pr_err("conflicting options: metacopy=on,redirect_dir=%s\n", 593d47748e5SMiklos Szeredi config->redirect_mode); 594d47748e5SMiklos Szeredi return -EINVAL; 595d47748e5SMiklos Szeredi } 596d47748e5SMiklos Szeredi if (redirect_opt) { 597d47748e5SMiklos Szeredi /* 598d47748e5SMiklos Szeredi * There was an explicit redirect_dir=... that resulted 599d47748e5SMiklos Szeredi * in this conflict. 600d47748e5SMiklos Szeredi */ 6011bd0a3aeSlijiazi pr_info("disabling metacopy due to redirect_dir=%s\n", 602d47748e5SMiklos Szeredi config->redirect_mode); 603d5791044SVivek Goyal config->metacopy = false; 604d47748e5SMiklos Szeredi } else { 605d47748e5SMiklos Szeredi /* Automatically enable redirect otherwise. */ 606d47748e5SMiklos Szeredi config->redirect_follow = config->redirect_dir = true; 607d47748e5SMiklos Szeredi } 608d5791044SVivek Goyal } 609d5791044SVivek Goyal 610d5791044SVivek Goyal return 0; 611e9be9d5eSMiklos Szeredi } 612e9be9d5eSMiklos Szeredi 613e9be9d5eSMiklos Szeredi #define OVL_WORKDIR_NAME "work" 61402bcd157SAmir Goldstein #define OVL_INDEXDIR_NAME "index" 615e9be9d5eSMiklos Szeredi 616ad204488SMiklos Szeredi static struct dentry *ovl_workdir_create(struct ovl_fs *ofs, 6176b8aa129SAmir Goldstein const char *name, bool persist) 618e9be9d5eSMiklos Szeredi { 619ad204488SMiklos Szeredi struct inode *dir = ofs->workbasedir->d_inode; 620ad204488SMiklos Szeredi struct vfsmount *mnt = ofs->upper_mnt; 621e9be9d5eSMiklos Szeredi struct dentry *work; 622e9be9d5eSMiklos Szeredi int err; 623e9be9d5eSMiklos Szeredi bool retried = false; 6246b8aa129SAmir Goldstein bool locked = false; 625e9be9d5eSMiklos Szeredi 6265955102cSAl Viro inode_lock_nested(dir, I_MUTEX_PARENT); 6276b8aa129SAmir Goldstein locked = true; 6286b8aa129SAmir Goldstein 629e9be9d5eSMiklos Szeredi retry: 630ad204488SMiklos Szeredi work = lookup_one_len(name, ofs->workbasedir, strlen(name)); 631e9be9d5eSMiklos Szeredi 632e9be9d5eSMiklos Szeredi if (!IS_ERR(work)) { 633c11b9fddSMiklos Szeredi struct iattr attr = { 634c11b9fddSMiklos Szeredi .ia_valid = ATTR_MODE, 63532a3d848SAl Viro .ia_mode = S_IFDIR | 0, 636c11b9fddSMiklos Szeredi }; 637e9be9d5eSMiklos Szeredi 638e9be9d5eSMiklos Szeredi if (work->d_inode) { 639e9be9d5eSMiklos Szeredi err = -EEXIST; 640e9be9d5eSMiklos Szeredi if (retried) 641e9be9d5eSMiklos Szeredi goto out_dput; 642e9be9d5eSMiklos Szeredi 6436b8aa129SAmir Goldstein if (persist) 6446b8aa129SAmir Goldstein goto out_unlock; 6456b8aa129SAmir Goldstein 646e9be9d5eSMiklos Szeredi retried = true; 647eea2fb48SMiklos Szeredi ovl_workdir_cleanup(dir, mnt, work, 0); 648e9be9d5eSMiklos Szeredi dput(work); 649e9be9d5eSMiklos Szeredi goto retry; 650e9be9d5eSMiklos Szeredi } 651e9be9d5eSMiklos Szeredi 65295a1c815SMiklos Szeredi work = ovl_create_real(dir, work, OVL_CATTR(attr.ia_mode)); 65395a1c815SMiklos Szeredi err = PTR_ERR(work); 65495a1c815SMiklos Szeredi if (IS_ERR(work)) 65595a1c815SMiklos Szeredi goto out_err; 656c11b9fddSMiklos Szeredi 657cb348edbSMiklos Szeredi /* 658cb348edbSMiklos Szeredi * Try to remove POSIX ACL xattrs from workdir. We are good if: 659cb348edbSMiklos Szeredi * 660cb348edbSMiklos Szeredi * a) success (there was a POSIX ACL xattr and was removed) 661cb348edbSMiklos Szeredi * b) -ENODATA (there was no POSIX ACL xattr) 662cb348edbSMiklos Szeredi * c) -EOPNOTSUPP (POSIX ACL xattrs are not supported) 663cb348edbSMiklos Szeredi * 664cb348edbSMiklos Szeredi * There are various other error values that could effectively 665cb348edbSMiklos Szeredi * mean that the xattr doesn't exist (e.g. -ERANGE is returned 666cb348edbSMiklos Szeredi * if the xattr name is too long), but the set of filesystems 667cb348edbSMiklos Szeredi * allowed as upper are limited to "normal" ones, where checking 668cb348edbSMiklos Szeredi * for the above two errors is sufficient. 669cb348edbSMiklos Szeredi */ 670c11b9fddSMiklos Szeredi err = vfs_removexattr(work, XATTR_NAME_POSIX_ACL_DEFAULT); 671e1ff3dd1SMiklos Szeredi if (err && err != -ENODATA && err != -EOPNOTSUPP) 672c11b9fddSMiklos Szeredi goto out_dput; 673c11b9fddSMiklos Szeredi 674c11b9fddSMiklos Szeredi err = vfs_removexattr(work, XATTR_NAME_POSIX_ACL_ACCESS); 675e1ff3dd1SMiklos Szeredi if (err && err != -ENODATA && err != -EOPNOTSUPP) 676c11b9fddSMiklos Szeredi goto out_dput; 677c11b9fddSMiklos Szeredi 678c11b9fddSMiklos Szeredi /* Clear any inherited mode bits */ 679c11b9fddSMiklos Szeredi inode_lock(work->d_inode); 680c11b9fddSMiklos Szeredi err = notify_change(work, &attr, NULL); 681c11b9fddSMiklos Szeredi inode_unlock(work->d_inode); 682c11b9fddSMiklos Szeredi if (err) 683c11b9fddSMiklos Szeredi goto out_dput; 6846b8aa129SAmir Goldstein } else { 6856b8aa129SAmir Goldstein err = PTR_ERR(work); 6866b8aa129SAmir Goldstein goto out_err; 687e9be9d5eSMiklos Szeredi } 688e9be9d5eSMiklos Szeredi out_unlock: 6896b8aa129SAmir Goldstein if (locked) 6906b8aa129SAmir Goldstein inode_unlock(dir); 691e9be9d5eSMiklos Szeredi 692e9be9d5eSMiklos Szeredi return work; 693e9be9d5eSMiklos Szeredi 694e9be9d5eSMiklos Szeredi out_dput: 695e9be9d5eSMiklos Szeredi dput(work); 6966b8aa129SAmir Goldstein out_err: 6971bd0a3aeSlijiazi pr_warn("failed to create directory %s/%s (errno: %i); mounting read-only\n", 698ad204488SMiklos Szeredi ofs->config.workdir, name, -err); 6996b8aa129SAmir Goldstein work = NULL; 700e9be9d5eSMiklos Szeredi goto out_unlock; 701e9be9d5eSMiklos Szeredi } 702e9be9d5eSMiklos Szeredi 70391c77947SMiklos Szeredi static void ovl_unescape(char *s) 70491c77947SMiklos Szeredi { 70591c77947SMiklos Szeredi char *d = s; 70691c77947SMiklos Szeredi 70791c77947SMiklos Szeredi for (;; s++, d++) { 70891c77947SMiklos Szeredi if (*s == '\\') 70991c77947SMiklos Szeredi s++; 71091c77947SMiklos Szeredi *d = *s; 71191c77947SMiklos Szeredi if (!*s) 71291c77947SMiklos Szeredi break; 71391c77947SMiklos Szeredi } 71491c77947SMiklos Szeredi } 71591c77947SMiklos Szeredi 716ab508822SMiklos Szeredi static int ovl_mount_dir_noesc(const char *name, struct path *path) 717ab508822SMiklos Szeredi { 718a78d9f0dSMiklos Szeredi int err = -EINVAL; 719ab508822SMiklos Szeredi 720a78d9f0dSMiklos Szeredi if (!*name) { 7211bd0a3aeSlijiazi pr_err("empty lowerdir\n"); 722a78d9f0dSMiklos Szeredi goto out; 723a78d9f0dSMiklos Szeredi } 724ab508822SMiklos Szeredi err = kern_path(name, LOOKUP_FOLLOW, path); 725ab508822SMiklos Szeredi if (err) { 7261bd0a3aeSlijiazi pr_err("failed to resolve '%s': %i\n", name, err); 727ab508822SMiklos Szeredi goto out; 728ab508822SMiklos Szeredi } 729ab508822SMiklos Szeredi err = -EINVAL; 7307c03b5d4SMiklos Szeredi if (ovl_dentry_weird(path->dentry)) { 7311bd0a3aeSlijiazi pr_err("filesystem on '%s' not supported\n", name); 732ab508822SMiklos Szeredi goto out_put; 733ab508822SMiklos Szeredi } 7342b8c30e9SMiklos Szeredi if (!d_is_dir(path->dentry)) { 7351bd0a3aeSlijiazi pr_err("'%s' not a directory\n", name); 736ab508822SMiklos Szeredi goto out_put; 737ab508822SMiklos Szeredi } 738ab508822SMiklos Szeredi return 0; 739ab508822SMiklos Szeredi 740ab508822SMiklos Szeredi out_put: 7418aafcb59SMiklos Szeredi path_put_init(path); 742ab508822SMiklos Szeredi out: 743ab508822SMiklos Szeredi return err; 744ab508822SMiklos Szeredi } 745ab508822SMiklos Szeredi 746ab508822SMiklos Szeredi static int ovl_mount_dir(const char *name, struct path *path) 747ab508822SMiklos Szeredi { 748ab508822SMiklos Szeredi int err = -ENOMEM; 749ab508822SMiklos Szeredi char *tmp = kstrdup(name, GFP_KERNEL); 750ab508822SMiklos Szeredi 751ab508822SMiklos Szeredi if (tmp) { 752ab508822SMiklos Szeredi ovl_unescape(tmp); 753ab508822SMiklos Szeredi err = ovl_mount_dir_noesc(tmp, path); 7547c03b5d4SMiklos Szeredi 7557c03b5d4SMiklos Szeredi if (!err) 7567c03b5d4SMiklos Szeredi if (ovl_dentry_remote(path->dentry)) { 7571bd0a3aeSlijiazi pr_err("filesystem on '%s' not supported as upperdir\n", 7587c03b5d4SMiklos Szeredi tmp); 7598aafcb59SMiklos Szeredi path_put_init(path); 7607c03b5d4SMiklos Szeredi err = -EINVAL; 7617c03b5d4SMiklos Szeredi } 762ab508822SMiklos Szeredi kfree(tmp); 763ab508822SMiklos Szeredi } 764ab508822SMiklos Szeredi return err; 765ab508822SMiklos Szeredi } 766ab508822SMiklos Szeredi 7676b2d5fe4SMiklos Szeredi static int ovl_check_namelen(struct path *path, struct ovl_fs *ofs, 7686b2d5fe4SMiklos Szeredi const char *name) 7696b2d5fe4SMiklos Szeredi { 7706b2d5fe4SMiklos Szeredi struct kstatfs statfs; 7716b2d5fe4SMiklos Szeredi int err = vfs_statfs(path, &statfs); 7726b2d5fe4SMiklos Szeredi 7736b2d5fe4SMiklos Szeredi if (err) 7741bd0a3aeSlijiazi pr_err("statfs failed on '%s'\n", name); 7756b2d5fe4SMiklos Szeredi else 7766b2d5fe4SMiklos Szeredi ofs->namelen = max(ofs->namelen, statfs.f_namelen); 7776b2d5fe4SMiklos Szeredi 7786b2d5fe4SMiklos Szeredi return err; 7796b2d5fe4SMiklos Szeredi } 7806b2d5fe4SMiklos Szeredi 7816b2d5fe4SMiklos Szeredi static int ovl_lower_dir(const char *name, struct path *path, 7826b2d5fe4SMiklos Szeredi struct ovl_fs *ofs, int *stack_depth, bool *remote) 783ab508822SMiklos Szeredi { 784e487d889SAmir Goldstein int fh_type; 785ab508822SMiklos Szeredi int err; 786ab508822SMiklos Szeredi 787a78d9f0dSMiklos Szeredi err = ovl_mount_dir_noesc(name, path); 788ab508822SMiklos Szeredi if (err) 789ab508822SMiklos Szeredi goto out; 790ab508822SMiklos Szeredi 7916b2d5fe4SMiklos Szeredi err = ovl_check_namelen(path, ofs, name); 7926b2d5fe4SMiklos Szeredi if (err) 793ab508822SMiklos Szeredi goto out_put; 7946b2d5fe4SMiklos Szeredi 795ab508822SMiklos Szeredi *stack_depth = max(*stack_depth, path->mnt->mnt_sb->s_stack_depth); 796ab508822SMiklos Szeredi 7977c03b5d4SMiklos Szeredi if (ovl_dentry_remote(path->dentry)) 7987c03b5d4SMiklos Szeredi *remote = true; 7997c03b5d4SMiklos Szeredi 80002bcd157SAmir Goldstein /* 801f168f109SAmir Goldstein * The inodes index feature and NFS export need to encode and decode 802f168f109SAmir Goldstein * file handles, so they require that all layers support them. 80302bcd157SAmir Goldstein */ 804e487d889SAmir Goldstein fh_type = ovl_can_decode_fh(path->dentry->d_sb); 805f168f109SAmir Goldstein if ((ofs->config.nfs_export || 806e487d889SAmir Goldstein (ofs->config.index && ofs->config.upperdir)) && !fh_type) { 80702bcd157SAmir Goldstein ofs->config.index = false; 808f168f109SAmir Goldstein ofs->config.nfs_export = false; 8091bd0a3aeSlijiazi pr_warn("fs on '%s' does not support file handles, falling back to index=off,nfs_export=off.\n", 810f168f109SAmir Goldstein name); 81102bcd157SAmir Goldstein } 81202bcd157SAmir Goldstein 813e487d889SAmir Goldstein /* Check if lower fs has 32bit inode numbers */ 814e487d889SAmir Goldstein if (fh_type != FILEID_INO32_GEN) 8150f831ec8SAmir Goldstein ofs->xino_mode = -1; 816e487d889SAmir Goldstein 817ab508822SMiklos Szeredi return 0; 818ab508822SMiklos Szeredi 819ab508822SMiklos Szeredi out_put: 8208aafcb59SMiklos Szeredi path_put_init(path); 821ab508822SMiklos Szeredi out: 822ab508822SMiklos Szeredi return err; 823ab508822SMiklos Szeredi } 824ab508822SMiklos Szeredi 825e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */ 826e9be9d5eSMiklos Szeredi static bool ovl_workdir_ok(struct dentry *workdir, struct dentry *upperdir) 827e9be9d5eSMiklos Szeredi { 828e9be9d5eSMiklos Szeredi bool ok = false; 829e9be9d5eSMiklos Szeredi 830e9be9d5eSMiklos Szeredi if (workdir != upperdir) { 831e9be9d5eSMiklos Szeredi ok = (lock_rename(workdir, upperdir) == NULL); 832e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 833e9be9d5eSMiklos Szeredi } 834e9be9d5eSMiklos Szeredi return ok; 835e9be9d5eSMiklos Szeredi } 836e9be9d5eSMiklos Szeredi 837a78d9f0dSMiklos Szeredi static unsigned int ovl_split_lowerdirs(char *str) 838a78d9f0dSMiklos Szeredi { 839a78d9f0dSMiklos Szeredi unsigned int ctr = 1; 840a78d9f0dSMiklos Szeredi char *s, *d; 841a78d9f0dSMiklos Szeredi 842a78d9f0dSMiklos Szeredi for (s = d = str;; s++, d++) { 843a78d9f0dSMiklos Szeredi if (*s == '\\') { 844a78d9f0dSMiklos Szeredi s++; 845a78d9f0dSMiklos Szeredi } else if (*s == ':') { 846a78d9f0dSMiklos Szeredi *d = '\0'; 847a78d9f0dSMiklos Szeredi ctr++; 848a78d9f0dSMiklos Szeredi continue; 849a78d9f0dSMiklos Szeredi } 850a78d9f0dSMiklos Szeredi *d = *s; 851a78d9f0dSMiklos Szeredi if (!*s) 852a78d9f0dSMiklos Szeredi break; 853a78d9f0dSMiklos Szeredi } 854a78d9f0dSMiklos Szeredi return ctr; 855a78d9f0dSMiklos Szeredi } 856a78d9f0dSMiklos Szeredi 8570c97be22SAndreas Gruenbacher static int __maybe_unused 8580eb45fc3SAndreas Gruenbacher ovl_posix_acl_xattr_get(const struct xattr_handler *handler, 8590eb45fc3SAndreas Gruenbacher struct dentry *dentry, struct inode *inode, 8600eb45fc3SAndreas Gruenbacher const char *name, void *buffer, size_t size) 8610eb45fc3SAndreas Gruenbacher { 8621d88f183SMiklos Szeredi return ovl_xattr_get(dentry, inode, handler->name, buffer, size); 8630eb45fc3SAndreas Gruenbacher } 8640eb45fc3SAndreas Gruenbacher 8650eb45fc3SAndreas Gruenbacher static int __maybe_unused 8660c97be22SAndreas Gruenbacher ovl_posix_acl_xattr_set(const struct xattr_handler *handler, 867d837a49bSMiklos Szeredi struct dentry *dentry, struct inode *inode, 868d837a49bSMiklos Szeredi const char *name, const void *value, 869d837a49bSMiklos Szeredi size_t size, int flags) 870d837a49bSMiklos Szeredi { 871d837a49bSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 87209d8b586SMiklos Szeredi struct inode *realinode = ovl_inode_real(inode); 873d837a49bSMiklos Szeredi struct posix_acl *acl = NULL; 874d837a49bSMiklos Szeredi int err; 875d837a49bSMiklos Szeredi 876d837a49bSMiklos Szeredi /* Check that everything is OK before copy-up */ 877d837a49bSMiklos Szeredi if (value) { 878d837a49bSMiklos Szeredi acl = posix_acl_from_xattr(&init_user_ns, value, size); 879d837a49bSMiklos Szeredi if (IS_ERR(acl)) 880d837a49bSMiklos Szeredi return PTR_ERR(acl); 881d837a49bSMiklos Szeredi } 882d837a49bSMiklos Szeredi err = -EOPNOTSUPP; 883d837a49bSMiklos Szeredi if (!IS_POSIXACL(d_inode(workdir))) 884d837a49bSMiklos Szeredi goto out_acl_release; 885d837a49bSMiklos Szeredi if (!realinode->i_op->set_acl) 886d837a49bSMiklos Szeredi goto out_acl_release; 887d837a49bSMiklos Szeredi if (handler->flags == ACL_TYPE_DEFAULT && !S_ISDIR(inode->i_mode)) { 888d837a49bSMiklos Szeredi err = acl ? -EACCES : 0; 889d837a49bSMiklos Szeredi goto out_acl_release; 890d837a49bSMiklos Szeredi } 891d837a49bSMiklos Szeredi err = -EPERM; 892d837a49bSMiklos Szeredi if (!inode_owner_or_capable(inode)) 893d837a49bSMiklos Szeredi goto out_acl_release; 894d837a49bSMiklos Szeredi 895d837a49bSMiklos Szeredi posix_acl_release(acl); 896d837a49bSMiklos Szeredi 897fd3220d3SMiklos Szeredi /* 898fd3220d3SMiklos Szeredi * Check if sgid bit needs to be cleared (actual setacl operation will 899fd3220d3SMiklos Szeredi * be done with mounter's capabilities and so that won't do it for us). 900fd3220d3SMiklos Szeredi */ 901fd3220d3SMiklos Szeredi if (unlikely(inode->i_mode & S_ISGID) && 902fd3220d3SMiklos Szeredi handler->flags == ACL_TYPE_ACCESS && 903fd3220d3SMiklos Szeredi !in_group_p(inode->i_gid) && 904fd3220d3SMiklos Szeredi !capable_wrt_inode_uidgid(inode, CAP_FSETID)) { 905fd3220d3SMiklos Szeredi struct iattr iattr = { .ia_valid = ATTR_KILL_SGID }; 906fd3220d3SMiklos Szeredi 907fd3220d3SMiklos Szeredi err = ovl_setattr(dentry, &iattr); 908fd3220d3SMiklos Szeredi if (err) 909fd3220d3SMiklos Szeredi return err; 910fd3220d3SMiklos Szeredi } 911fd3220d3SMiklos Szeredi 9121d88f183SMiklos Szeredi err = ovl_xattr_set(dentry, inode, handler->name, value, size, flags); 913ce31513aSMiklos Szeredi if (!err) 91409d8b586SMiklos Szeredi ovl_copyattr(ovl_inode_real(inode), inode); 915ce31513aSMiklos Szeredi 916ce31513aSMiklos Szeredi return err; 917d837a49bSMiklos Szeredi 918d837a49bSMiklos Szeredi out_acl_release: 919d837a49bSMiklos Szeredi posix_acl_release(acl); 920d837a49bSMiklos Szeredi return err; 921d837a49bSMiklos Szeredi } 922d837a49bSMiklos Szeredi 9230eb45fc3SAndreas Gruenbacher static int ovl_own_xattr_get(const struct xattr_handler *handler, 9240eb45fc3SAndreas Gruenbacher struct dentry *dentry, struct inode *inode, 9250eb45fc3SAndreas Gruenbacher const char *name, void *buffer, size_t size) 9260eb45fc3SAndreas Gruenbacher { 92748fab5d7SAmir Goldstein return -EOPNOTSUPP; 9280eb45fc3SAndreas Gruenbacher } 9290eb45fc3SAndreas Gruenbacher 930d837a49bSMiklos Szeredi static int ovl_own_xattr_set(const struct xattr_handler *handler, 931d837a49bSMiklos Szeredi struct dentry *dentry, struct inode *inode, 932d837a49bSMiklos Szeredi const char *name, const void *value, 933d837a49bSMiklos Szeredi size_t size, int flags) 934d837a49bSMiklos Szeredi { 93548fab5d7SAmir Goldstein return -EOPNOTSUPP; 936d837a49bSMiklos Szeredi } 937d837a49bSMiklos Szeredi 9380eb45fc3SAndreas Gruenbacher static int ovl_other_xattr_get(const struct xattr_handler *handler, 9390eb45fc3SAndreas Gruenbacher struct dentry *dentry, struct inode *inode, 9400eb45fc3SAndreas Gruenbacher const char *name, void *buffer, size_t size) 9410eb45fc3SAndreas Gruenbacher { 9421d88f183SMiklos Szeredi return ovl_xattr_get(dentry, inode, name, buffer, size); 9430eb45fc3SAndreas Gruenbacher } 9440eb45fc3SAndreas Gruenbacher 9450e585cccSAndreas Gruenbacher static int ovl_other_xattr_set(const struct xattr_handler *handler, 9460e585cccSAndreas Gruenbacher struct dentry *dentry, struct inode *inode, 9470e585cccSAndreas Gruenbacher const char *name, const void *value, 9480e585cccSAndreas Gruenbacher size_t size, int flags) 9490e585cccSAndreas Gruenbacher { 9501d88f183SMiklos Szeredi return ovl_xattr_set(dentry, inode, name, value, size, flags); 9510e585cccSAndreas Gruenbacher } 9520e585cccSAndreas Gruenbacher 9530c97be22SAndreas Gruenbacher static const struct xattr_handler __maybe_unused 9540c97be22SAndreas Gruenbacher ovl_posix_acl_access_xattr_handler = { 955d837a49bSMiklos Szeredi .name = XATTR_NAME_POSIX_ACL_ACCESS, 956d837a49bSMiklos Szeredi .flags = ACL_TYPE_ACCESS, 9570eb45fc3SAndreas Gruenbacher .get = ovl_posix_acl_xattr_get, 958d837a49bSMiklos Szeredi .set = ovl_posix_acl_xattr_set, 959d837a49bSMiklos Szeredi }; 960d837a49bSMiklos Szeredi 9610c97be22SAndreas Gruenbacher static const struct xattr_handler __maybe_unused 9620c97be22SAndreas Gruenbacher ovl_posix_acl_default_xattr_handler = { 963d837a49bSMiklos Szeredi .name = XATTR_NAME_POSIX_ACL_DEFAULT, 964d837a49bSMiklos Szeredi .flags = ACL_TYPE_DEFAULT, 9650eb45fc3SAndreas Gruenbacher .get = ovl_posix_acl_xattr_get, 966d837a49bSMiklos Szeredi .set = ovl_posix_acl_xattr_set, 967d837a49bSMiklos Szeredi }; 968d837a49bSMiklos Szeredi 969d837a49bSMiklos Szeredi static const struct xattr_handler ovl_own_xattr_handler = { 970d837a49bSMiklos Szeredi .prefix = OVL_XATTR_PREFIX, 9710eb45fc3SAndreas Gruenbacher .get = ovl_own_xattr_get, 972d837a49bSMiklos Szeredi .set = ovl_own_xattr_set, 973d837a49bSMiklos Szeredi }; 974d837a49bSMiklos Szeredi 975d837a49bSMiklos Szeredi static const struct xattr_handler ovl_other_xattr_handler = { 976d837a49bSMiklos Szeredi .prefix = "", /* catch all */ 9770eb45fc3SAndreas Gruenbacher .get = ovl_other_xattr_get, 978d837a49bSMiklos Szeredi .set = ovl_other_xattr_set, 979d837a49bSMiklos Szeredi }; 980d837a49bSMiklos Szeredi 981d837a49bSMiklos Szeredi static const struct xattr_handler *ovl_xattr_handlers[] = { 9820c97be22SAndreas Gruenbacher #ifdef CONFIG_FS_POSIX_ACL 983d837a49bSMiklos Szeredi &ovl_posix_acl_access_xattr_handler, 984d837a49bSMiklos Szeredi &ovl_posix_acl_default_xattr_handler, 9850c97be22SAndreas Gruenbacher #endif 986d837a49bSMiklos Szeredi &ovl_own_xattr_handler, 987d837a49bSMiklos Szeredi &ovl_other_xattr_handler, 988d837a49bSMiklos Szeredi NULL 989d837a49bSMiklos Szeredi }; 990d837a49bSMiklos Szeredi 991146d62e5SAmir Goldstein static int ovl_setup_trap(struct super_block *sb, struct dentry *dir, 992146d62e5SAmir Goldstein struct inode **ptrap, const char *name) 993146d62e5SAmir Goldstein { 994146d62e5SAmir Goldstein struct inode *trap; 995146d62e5SAmir Goldstein int err; 996146d62e5SAmir Goldstein 997146d62e5SAmir Goldstein trap = ovl_get_trap_inode(sb, dir); 9981dac6f5bSArnd Bergmann err = PTR_ERR_OR_ZERO(trap); 9991dac6f5bSArnd Bergmann if (err) { 1000146d62e5SAmir Goldstein if (err == -ELOOP) 10011bd0a3aeSlijiazi pr_err("conflicting %s path\n", name); 1002146d62e5SAmir Goldstein return err; 1003146d62e5SAmir Goldstein } 1004146d62e5SAmir Goldstein 1005146d62e5SAmir Goldstein *ptrap = trap; 1006146d62e5SAmir Goldstein return 0; 1007146d62e5SAmir Goldstein } 1008146d62e5SAmir Goldstein 10090be0bfd2SAmir Goldstein /* 10100be0bfd2SAmir Goldstein * Determine how we treat concurrent use of upperdir/workdir based on the 10110be0bfd2SAmir Goldstein * index feature. This is papering over mount leaks of container runtimes, 10120be0bfd2SAmir Goldstein * for example, an old overlay mount is leaked and now its upperdir is 10130be0bfd2SAmir Goldstein * attempted to be used as a lower layer in a new overlay mount. 10140be0bfd2SAmir Goldstein */ 10150be0bfd2SAmir Goldstein static int ovl_report_in_use(struct ovl_fs *ofs, const char *name) 10160be0bfd2SAmir Goldstein { 10170be0bfd2SAmir Goldstein if (ofs->config.index) { 10181bd0a3aeSlijiazi pr_err("%s is in-use as upperdir/workdir of another mount, mount with '-o index=off' to override exclusive upperdir protection.\n", 10190be0bfd2SAmir Goldstein name); 10200be0bfd2SAmir Goldstein return -EBUSY; 10210be0bfd2SAmir Goldstein } else { 10221bd0a3aeSlijiazi pr_warn("%s is in-use as upperdir/workdir of another mount, accessing files from both mounts will result in undefined behavior.\n", 10230be0bfd2SAmir Goldstein name); 10240be0bfd2SAmir Goldstein return 0; 10250be0bfd2SAmir Goldstein } 10260be0bfd2SAmir Goldstein } 10270be0bfd2SAmir Goldstein 1028146d62e5SAmir Goldstein static int ovl_get_upper(struct super_block *sb, struct ovl_fs *ofs, 1029146d62e5SAmir Goldstein struct path *upperpath) 10306ee8acf0SMiklos Szeredi { 10315064975eSMiklos Szeredi struct vfsmount *upper_mnt; 10326ee8acf0SMiklos Szeredi int err; 10336ee8acf0SMiklos Szeredi 1034ad204488SMiklos Szeredi err = ovl_mount_dir(ofs->config.upperdir, upperpath); 10356ee8acf0SMiklos Szeredi if (err) 10366ee8acf0SMiklos Szeredi goto out; 10376ee8acf0SMiklos Szeredi 10386ee8acf0SMiklos Szeredi /* Upper fs should not be r/o */ 10396ee8acf0SMiklos Szeredi if (sb_rdonly(upperpath->mnt->mnt_sb)) { 10401bd0a3aeSlijiazi pr_err("upper fs is r/o, try multi-lower layers mount\n"); 10416ee8acf0SMiklos Szeredi err = -EINVAL; 10426ee8acf0SMiklos Szeredi goto out; 10436ee8acf0SMiklos Szeredi } 10446ee8acf0SMiklos Szeredi 1045ad204488SMiklos Szeredi err = ovl_check_namelen(upperpath, ofs, ofs->config.upperdir); 10466ee8acf0SMiklos Szeredi if (err) 10476ee8acf0SMiklos Szeredi goto out; 10486ee8acf0SMiklos Szeredi 1049146d62e5SAmir Goldstein err = ovl_setup_trap(sb, upperpath->dentry, &ofs->upperdir_trap, 1050146d62e5SAmir Goldstein "upperdir"); 1051146d62e5SAmir Goldstein if (err) 1052146d62e5SAmir Goldstein goto out; 1053146d62e5SAmir Goldstein 10545064975eSMiklos Szeredi upper_mnt = clone_private_mount(upperpath); 10555064975eSMiklos Szeredi err = PTR_ERR(upper_mnt); 10565064975eSMiklos Szeredi if (IS_ERR(upper_mnt)) { 10571bd0a3aeSlijiazi pr_err("failed to clone upperpath\n"); 10585064975eSMiklos Szeredi goto out; 10595064975eSMiklos Szeredi } 10605064975eSMiklos Szeredi 10615064975eSMiklos Szeredi /* Don't inherit atime flags */ 10625064975eSMiklos Szeredi upper_mnt->mnt_flags &= ~(MNT_NOATIME | MNT_NODIRATIME | MNT_RELATIME); 1063ad204488SMiklos Szeredi ofs->upper_mnt = upper_mnt; 10648c25741aSMiklos Szeredi 10658c25741aSMiklos Szeredi if (ovl_inuse_trylock(ofs->upper_mnt->mnt_root)) { 10668c25741aSMiklos Szeredi ofs->upperdir_locked = true; 10678c25741aSMiklos Szeredi } else { 10680be0bfd2SAmir Goldstein err = ovl_report_in_use(ofs, "upperdir"); 10690be0bfd2SAmir Goldstein if (err) 10700be0bfd2SAmir Goldstein goto out; 10718c25741aSMiklos Szeredi } 10728c25741aSMiklos Szeredi 10736ee8acf0SMiklos Szeredi err = 0; 10746ee8acf0SMiklos Szeredi out: 10756ee8acf0SMiklos Szeredi return err; 10766ee8acf0SMiklos Szeredi } 10776ee8acf0SMiklos Szeredi 1078146d62e5SAmir Goldstein static int ovl_make_workdir(struct super_block *sb, struct ovl_fs *ofs, 1079146d62e5SAmir Goldstein struct path *workpath) 10808ed61dc3SMiklos Szeredi { 10812ba9d57eSAmir Goldstein struct vfsmount *mnt = ofs->upper_mnt; 10828ed61dc3SMiklos Szeredi struct dentry *temp; 1083e487d889SAmir Goldstein int fh_type; 10848ed61dc3SMiklos Szeredi int err; 10858ed61dc3SMiklos Szeredi 10862ba9d57eSAmir Goldstein err = mnt_want_write(mnt); 10872ba9d57eSAmir Goldstein if (err) 10882ba9d57eSAmir Goldstein return err; 10892ba9d57eSAmir Goldstein 1090ad204488SMiklos Szeredi ofs->workdir = ovl_workdir_create(ofs, OVL_WORKDIR_NAME, false); 1091ad204488SMiklos Szeredi if (!ofs->workdir) 10922ba9d57eSAmir Goldstein goto out; 10938ed61dc3SMiklos Szeredi 1094146d62e5SAmir Goldstein err = ovl_setup_trap(sb, ofs->workdir, &ofs->workdir_trap, "workdir"); 1095146d62e5SAmir Goldstein if (err) 1096146d62e5SAmir Goldstein goto out; 1097146d62e5SAmir Goldstein 10988ed61dc3SMiklos Szeredi /* 10998ed61dc3SMiklos Szeredi * Upper should support d_type, else whiteouts are visible. Given 11008ed61dc3SMiklos Szeredi * workdir and upper are on same fs, we can do iterate_dir() on 11018ed61dc3SMiklos Szeredi * workdir. This check requires successful creation of workdir in 11028ed61dc3SMiklos Szeredi * previous step. 11038ed61dc3SMiklos Szeredi */ 11048ed61dc3SMiklos Szeredi err = ovl_check_d_type_supported(workpath); 11058ed61dc3SMiklos Szeredi if (err < 0) 11062ba9d57eSAmir Goldstein goto out; 11078ed61dc3SMiklos Szeredi 11088ed61dc3SMiklos Szeredi /* 11098ed61dc3SMiklos Szeredi * We allowed this configuration and don't want to break users over 11108ed61dc3SMiklos Szeredi * kernel upgrade. So warn instead of erroring out. 11118ed61dc3SMiklos Szeredi */ 11128ed61dc3SMiklos Szeredi if (!err) 11131bd0a3aeSlijiazi pr_warn("upper fs needs to support d_type.\n"); 11148ed61dc3SMiklos Szeredi 11158ed61dc3SMiklos Szeredi /* Check if upper/work fs supports O_TMPFILE */ 1116ad204488SMiklos Szeredi temp = ovl_do_tmpfile(ofs->workdir, S_IFREG | 0); 1117ad204488SMiklos Szeredi ofs->tmpfile = !IS_ERR(temp); 1118ad204488SMiklos Szeredi if (ofs->tmpfile) 11198ed61dc3SMiklos Szeredi dput(temp); 11208ed61dc3SMiklos Szeredi else 11211bd0a3aeSlijiazi pr_warn("upper fs does not support tmpfile.\n"); 11228ed61dc3SMiklos Szeredi 11238ed61dc3SMiklos Szeredi /* 11248ed61dc3SMiklos Szeredi * Check if upper/work fs supports trusted.overlay.* xattr 11258ed61dc3SMiklos Szeredi */ 1126ad204488SMiklos Szeredi err = ovl_do_setxattr(ofs->workdir, OVL_XATTR_OPAQUE, "0", 1, 0); 11278ed61dc3SMiklos Szeredi if (err) { 1128ad204488SMiklos Szeredi ofs->noxattr = true; 1129a683737bSAmir Goldstein ofs->config.index = false; 1130d5791044SVivek Goyal ofs->config.metacopy = false; 11311bd0a3aeSlijiazi pr_warn("upper fs does not support xattr, falling back to index=off and metacopy=off.\n"); 11322ba9d57eSAmir Goldstein err = 0; 11338ed61dc3SMiklos Szeredi } else { 1134ad204488SMiklos Szeredi vfs_removexattr(ofs->workdir, OVL_XATTR_OPAQUE); 11358ed61dc3SMiklos Szeredi } 11368ed61dc3SMiklos Szeredi 11378ed61dc3SMiklos Szeredi /* Check if upper/work fs supports file handles */ 1138e487d889SAmir Goldstein fh_type = ovl_can_decode_fh(ofs->workdir->d_sb); 1139e487d889SAmir Goldstein if (ofs->config.index && !fh_type) { 1140ad204488SMiklos Szeredi ofs->config.index = false; 11411bd0a3aeSlijiazi pr_warn("upper fs does not support file handles, falling back to index=off.\n"); 11428ed61dc3SMiklos Szeredi } 11438ed61dc3SMiklos Szeredi 1144e487d889SAmir Goldstein /* Check if upper fs has 32bit inode numbers */ 1145e487d889SAmir Goldstein if (fh_type != FILEID_INO32_GEN) 11460f831ec8SAmir Goldstein ofs->xino_mode = -1; 1147e487d889SAmir Goldstein 1148f168f109SAmir Goldstein /* NFS export of r/w mount depends on index */ 1149f168f109SAmir Goldstein if (ofs->config.nfs_export && !ofs->config.index) { 11501bd0a3aeSlijiazi pr_warn("NFS export requires \"index=on\", falling back to nfs_export=off.\n"); 1151f168f109SAmir Goldstein ofs->config.nfs_export = false; 1152f168f109SAmir Goldstein } 11532ba9d57eSAmir Goldstein out: 11542ba9d57eSAmir Goldstein mnt_drop_write(mnt); 11552ba9d57eSAmir Goldstein return err; 11568ed61dc3SMiklos Szeredi } 11578ed61dc3SMiklos Szeredi 1158146d62e5SAmir Goldstein static int ovl_get_workdir(struct super_block *sb, struct ovl_fs *ofs, 1159146d62e5SAmir Goldstein struct path *upperpath) 1160520d7c86SMiklos Szeredi { 1161520d7c86SMiklos Szeredi int err; 1162bca44b52SMiklos Szeredi struct path workpath = { }; 1163520d7c86SMiklos Szeredi 1164ad204488SMiklos Szeredi err = ovl_mount_dir(ofs->config.workdir, &workpath); 1165520d7c86SMiklos Szeredi if (err) 1166520d7c86SMiklos Szeredi goto out; 1167520d7c86SMiklos Szeredi 1168520d7c86SMiklos Szeredi err = -EINVAL; 1169bca44b52SMiklos Szeredi if (upperpath->mnt != workpath.mnt) { 11701bd0a3aeSlijiazi pr_err("workdir and upperdir must reside under the same mount\n"); 1171520d7c86SMiklos Szeredi goto out; 1172520d7c86SMiklos Szeredi } 1173bca44b52SMiklos Szeredi if (!ovl_workdir_ok(workpath.dentry, upperpath->dentry)) { 11741bd0a3aeSlijiazi pr_err("workdir and upperdir must be separate subtrees\n"); 1175520d7c86SMiklos Szeredi goto out; 1176520d7c86SMiklos Szeredi } 1177520d7c86SMiklos Szeredi 11788c25741aSMiklos Szeredi ofs->workbasedir = dget(workpath.dentry); 11798c25741aSMiklos Szeredi 11808c25741aSMiklos Szeredi if (ovl_inuse_trylock(ofs->workbasedir)) { 1181ad204488SMiklos Szeredi ofs->workdir_locked = true; 1182520d7c86SMiklos Szeredi } else { 11830be0bfd2SAmir Goldstein err = ovl_report_in_use(ofs, "workdir"); 11840be0bfd2SAmir Goldstein if (err) 11850be0bfd2SAmir Goldstein goto out; 1186520d7c86SMiklos Szeredi } 1187520d7c86SMiklos Szeredi 11880be0bfd2SAmir Goldstein err = ovl_setup_trap(sb, ofs->workbasedir, &ofs->workbasedir_trap, 11890be0bfd2SAmir Goldstein "workdir"); 11900be0bfd2SAmir Goldstein if (err) 11910be0bfd2SAmir Goldstein goto out; 11920be0bfd2SAmir Goldstein 1193146d62e5SAmir Goldstein err = ovl_make_workdir(sb, ofs, &workpath); 1194bca44b52SMiklos Szeredi 1195520d7c86SMiklos Szeredi out: 1196bca44b52SMiklos Szeredi path_put(&workpath); 1197bca44b52SMiklos Szeredi 1198520d7c86SMiklos Szeredi return err; 1199520d7c86SMiklos Szeredi } 1200520d7c86SMiklos Szeredi 1201146d62e5SAmir Goldstein static int ovl_get_indexdir(struct super_block *sb, struct ovl_fs *ofs, 1202146d62e5SAmir Goldstein struct ovl_entry *oe, struct path *upperpath) 1203f7e3a7d9SMiklos Szeredi { 12042ba9d57eSAmir Goldstein struct vfsmount *mnt = ofs->upper_mnt; 1205f7e3a7d9SMiklos Szeredi int err; 1206f7e3a7d9SMiklos Szeredi 12072ba9d57eSAmir Goldstein err = mnt_want_write(mnt); 12082ba9d57eSAmir Goldstein if (err) 12092ba9d57eSAmir Goldstein return err; 12102ba9d57eSAmir Goldstein 1211f7e3a7d9SMiklos Szeredi /* Verify lower root is upper root origin */ 1212d9768076SAmir Goldstein err = ovl_verify_origin(upperpath->dentry, oe->lowerstack[0].dentry, 121305122443SAmir Goldstein true); 1214f7e3a7d9SMiklos Szeredi if (err) { 12151bd0a3aeSlijiazi pr_err("failed to verify upper root origin\n"); 1216f7e3a7d9SMiklos Szeredi goto out; 1217f7e3a7d9SMiklos Szeredi } 1218f7e3a7d9SMiklos Szeredi 1219ad204488SMiklos Szeredi ofs->indexdir = ovl_workdir_create(ofs, OVL_INDEXDIR_NAME, true); 1220ad204488SMiklos Szeredi if (ofs->indexdir) { 1221146d62e5SAmir Goldstein err = ovl_setup_trap(sb, ofs->indexdir, &ofs->indexdir_trap, 1222146d62e5SAmir Goldstein "indexdir"); 1223146d62e5SAmir Goldstein if (err) 1224146d62e5SAmir Goldstein goto out; 1225146d62e5SAmir Goldstein 1226ad1d615cSAmir Goldstein /* 1227ad1d615cSAmir Goldstein * Verify upper root is exclusively associated with index dir. 1228ad1d615cSAmir Goldstein * Older kernels stored upper fh in "trusted.overlay.origin" 1229ad1d615cSAmir Goldstein * xattr. If that xattr exists, verify that it is a match to 1230ad1d615cSAmir Goldstein * upper dir file handle. In any case, verify or set xattr 1231ad1d615cSAmir Goldstein * "trusted.overlay.upper" to indicate that index may have 1232ad1d615cSAmir Goldstein * directory entries. 1233ad1d615cSAmir Goldstein */ 1234ad1d615cSAmir Goldstein if (ovl_check_origin_xattr(ofs->indexdir)) { 123505122443SAmir Goldstein err = ovl_verify_set_fh(ofs->indexdir, OVL_XATTR_ORIGIN, 1236ad1d615cSAmir Goldstein upperpath->dentry, true, false); 1237f7e3a7d9SMiklos Szeredi if (err) 12381bd0a3aeSlijiazi pr_err("failed to verify index dir 'origin' xattr\n"); 1239ad1d615cSAmir Goldstein } 1240ad1d615cSAmir Goldstein err = ovl_verify_upper(ofs->indexdir, upperpath->dentry, true); 1241ad1d615cSAmir Goldstein if (err) 12421bd0a3aeSlijiazi pr_err("failed to verify index dir 'upper' xattr\n"); 1243f7e3a7d9SMiklos Szeredi 1244f7e3a7d9SMiklos Szeredi /* Cleanup bad/stale/orphan index entries */ 1245f7e3a7d9SMiklos Szeredi if (!err) 12461eff1a1dSAmir Goldstein err = ovl_indexdir_cleanup(ofs); 1247f7e3a7d9SMiklos Szeredi } 1248ad204488SMiklos Szeredi if (err || !ofs->indexdir) 12491bd0a3aeSlijiazi pr_warn("try deleting index dir or mounting with '-o index=off' to disable inodes index.\n"); 1250f7e3a7d9SMiklos Szeredi 1251f7e3a7d9SMiklos Szeredi out: 12522ba9d57eSAmir Goldstein mnt_drop_write(mnt); 1253f7e3a7d9SMiklos Szeredi return err; 1254f7e3a7d9SMiklos Szeredi } 1255f7e3a7d9SMiklos Szeredi 12569df085f3SAmir Goldstein static bool ovl_lower_uuid_ok(struct ovl_fs *ofs, const uuid_t *uuid) 12575148626bSAmir Goldstein { 12585148626bSAmir Goldstein unsigned int i; 12599df085f3SAmir Goldstein 12607e63c87fSAmir Goldstein if (!ofs->config.nfs_export && !ofs->upper_mnt) 12619df085f3SAmir Goldstein return true; 12629df085f3SAmir Goldstein 12631b81ddddSAmir Goldstein for (i = 0; i < ofs->numfs; i++) { 12649df085f3SAmir Goldstein /* 12659df085f3SAmir Goldstein * We use uuid to associate an overlay lower file handle with a 12669df085f3SAmir Goldstein * lower layer, so we can accept lower fs with null uuid as long 12679df085f3SAmir Goldstein * as all lower layers with null uuid are on the same fs. 12687e63c87fSAmir Goldstein * if we detect multiple lower fs with the same uuid, we 12697e63c87fSAmir Goldstein * disable lower file handle decoding on all of them. 12709df085f3SAmir Goldstein */ 12711b81ddddSAmir Goldstein if (ofs->fs[i].is_lower && 12721b81ddddSAmir Goldstein uuid_equal(&ofs->fs[i].sb->s_uuid, uuid)) { 127307f1e596SAmir Goldstein ofs->fs[i].bad_uuid = true; 12749df085f3SAmir Goldstein return false; 12759df085f3SAmir Goldstein } 12767e63c87fSAmir Goldstein } 12779df085f3SAmir Goldstein return true; 12789df085f3SAmir Goldstein } 12799df085f3SAmir Goldstein 12809df085f3SAmir Goldstein /* Get a unique fsid for the layer */ 12819df085f3SAmir Goldstein static int ovl_get_fsid(struct ovl_fs *ofs, const struct path *path) 12829df085f3SAmir Goldstein { 12839df085f3SAmir Goldstein struct super_block *sb = path->mnt->mnt_sb; 12849df085f3SAmir Goldstein unsigned int i; 12855148626bSAmir Goldstein dev_t dev; 12865148626bSAmir Goldstein int err; 12877e63c87fSAmir Goldstein bool bad_uuid = false; 12885148626bSAmir Goldstein 128907f1e596SAmir Goldstein for (i = 0; i < ofs->numfs; i++) { 129007f1e596SAmir Goldstein if (ofs->fs[i].sb == sb) 129107f1e596SAmir Goldstein return i; 12925148626bSAmir Goldstein } 12935148626bSAmir Goldstein 12949df085f3SAmir Goldstein if (!ovl_lower_uuid_ok(ofs, &sb->s_uuid)) { 12957e63c87fSAmir Goldstein bad_uuid = true; 12967e63c87fSAmir Goldstein if (ofs->config.index || ofs->config.nfs_export) { 12979df085f3SAmir Goldstein ofs->config.index = false; 12989df085f3SAmir Goldstein ofs->config.nfs_export = false; 12991bd0a3aeSlijiazi pr_warn("%s uuid detected in lower fs '%pd2', falling back to index=off,nfs_export=off.\n", 13007e63c87fSAmir Goldstein uuid_is_null(&sb->s_uuid) ? "null" : 13017e63c87fSAmir Goldstein "conflicting", 13029df085f3SAmir Goldstein path->dentry); 13039df085f3SAmir Goldstein } 13047e63c87fSAmir Goldstein } 13059df085f3SAmir Goldstein 13065148626bSAmir Goldstein err = get_anon_bdev(&dev); 13075148626bSAmir Goldstein if (err) { 13081bd0a3aeSlijiazi pr_err("failed to get anonymous bdev for lowerpath\n"); 13095148626bSAmir Goldstein return err; 13105148626bSAmir Goldstein } 13115148626bSAmir Goldstein 131207f1e596SAmir Goldstein ofs->fs[ofs->numfs].sb = sb; 131307f1e596SAmir Goldstein ofs->fs[ofs->numfs].pseudo_dev = dev; 131407f1e596SAmir Goldstein ofs->fs[ofs->numfs].bad_uuid = bad_uuid; 13155148626bSAmir Goldstein 131607f1e596SAmir Goldstein return ofs->numfs++; 13175148626bSAmir Goldstein } 13185148626bSAmir Goldstein 131994375f9dSAmir Goldstein static int ovl_get_layers(struct super_block *sb, struct ovl_fs *ofs, 1320146d62e5SAmir Goldstein struct path *stack, unsigned int numlower) 1321520d7c86SMiklos Szeredi { 1322520d7c86SMiklos Szeredi int err; 1323520d7c86SMiklos Szeredi unsigned int i; 132413464165SMiklos Szeredi struct ovl_layer *layers; 1325520d7c86SMiklos Szeredi 1326520d7c86SMiklos Szeredi err = -ENOMEM; 132713464165SMiklos Szeredi layers = kcalloc(numlower + 1, sizeof(struct ovl_layer), GFP_KERNEL); 132813464165SMiklos Szeredi if (!layers) 1329520d7c86SMiklos Szeredi goto out; 133013464165SMiklos Szeredi ofs->layers = layers; 13315148626bSAmir Goldstein 133207f1e596SAmir Goldstein ofs->fs = kcalloc(numlower + 1, sizeof(struct ovl_sb), GFP_KERNEL); 133307f1e596SAmir Goldstein if (ofs->fs == NULL) 13345148626bSAmir Goldstein goto out; 13355148626bSAmir Goldstein 133607f1e596SAmir Goldstein /* idx/fsid 0 are reserved for upper fs even with lower only overlay */ 133707f1e596SAmir Goldstein ofs->numfs++; 133807f1e596SAmir Goldstein 133913464165SMiklos Szeredi layers[0].mnt = ofs->upper_mnt; 134013464165SMiklos Szeredi layers[0].idx = 0; 134113464165SMiklos Szeredi layers[0].fsid = 0; 134294375f9dSAmir Goldstein ofs->numlayer = 1; 134394375f9dSAmir Goldstein 134407f1e596SAmir Goldstein /* 1345b7bf9908SAmir Goldstein * All lower layers that share the same fs as upper layer, use the same 1346b7bf9908SAmir Goldstein * pseudo_dev as upper layer. Allocate fs[0].pseudo_dev even for lower 1347b7bf9908SAmir Goldstein * only overlay to simplify ovl_fs_free(). 13481b81ddddSAmir Goldstein * is_lower will be set if upper fs is shared with a lower layer. 134907f1e596SAmir Goldstein */ 1350b7bf9908SAmir Goldstein err = get_anon_bdev(&ofs->fs[0].pseudo_dev); 1351b7bf9908SAmir Goldstein if (err) { 1352b7bf9908SAmir Goldstein pr_err("failed to get anonymous bdev for upper fs\n"); 1353b7bf9908SAmir Goldstein goto out; 1354b7bf9908SAmir Goldstein } 1355b7bf9908SAmir Goldstein 135607f1e596SAmir Goldstein if (ofs->upper_mnt) { 135707f1e596SAmir Goldstein ofs->fs[0].sb = ofs->upper_mnt->mnt_sb; 13581b81ddddSAmir Goldstein ofs->fs[0].is_lower = false; 135907f1e596SAmir Goldstein } 136007f1e596SAmir Goldstein 1361520d7c86SMiklos Szeredi for (i = 0; i < numlower; i++) { 1362520d7c86SMiklos Szeredi struct vfsmount *mnt; 1363146d62e5SAmir Goldstein struct inode *trap; 13645148626bSAmir Goldstein int fsid; 1365520d7c86SMiklos Szeredi 13669df085f3SAmir Goldstein err = fsid = ovl_get_fsid(ofs, &stack[i]); 13675148626bSAmir Goldstein if (err < 0) 1368520d7c86SMiklos Szeredi goto out; 1369520d7c86SMiklos Szeredi 1370146d62e5SAmir Goldstein err = ovl_setup_trap(sb, stack[i].dentry, &trap, "lowerdir"); 1371146d62e5SAmir Goldstein if (err) 1372146d62e5SAmir Goldstein goto out; 1373146d62e5SAmir Goldstein 13740be0bfd2SAmir Goldstein if (ovl_is_inuse(stack[i].dentry)) { 13750be0bfd2SAmir Goldstein err = ovl_report_in_use(ofs, "lowerdir"); 13760be0bfd2SAmir Goldstein if (err) 13770be0bfd2SAmir Goldstein goto out; 13780be0bfd2SAmir Goldstein } 13790be0bfd2SAmir Goldstein 1380520d7c86SMiklos Szeredi mnt = clone_private_mount(&stack[i]); 1381520d7c86SMiklos Szeredi err = PTR_ERR(mnt); 1382520d7c86SMiklos Szeredi if (IS_ERR(mnt)) { 13831bd0a3aeSlijiazi pr_err("failed to clone lowerpath\n"); 1384146d62e5SAmir Goldstein iput(trap); 1385520d7c86SMiklos Szeredi goto out; 1386520d7c86SMiklos Szeredi } 13875148626bSAmir Goldstein 1388520d7c86SMiklos Szeredi /* 1389520d7c86SMiklos Szeredi * Make lower layers R/O. That way fchmod/fchown on lower file 1390520d7c86SMiklos Szeredi * will fail instead of modifying lower fs. 1391520d7c86SMiklos Szeredi */ 1392520d7c86SMiklos Szeredi mnt->mnt_flags |= MNT_READONLY | MNT_NOATIME; 1393520d7c86SMiklos Szeredi 139413464165SMiklos Szeredi layers[ofs->numlayer].trap = trap; 139513464165SMiklos Szeredi layers[ofs->numlayer].mnt = mnt; 139613464165SMiklos Szeredi layers[ofs->numlayer].idx = ofs->numlayer; 139713464165SMiklos Szeredi layers[ofs->numlayer].fsid = fsid; 139813464165SMiklos Szeredi layers[ofs->numlayer].fs = &ofs->fs[fsid]; 139994375f9dSAmir Goldstein ofs->numlayer++; 14001b81ddddSAmir Goldstein ofs->fs[fsid].is_lower = true; 1401520d7c86SMiklos Szeredi } 1402e487d889SAmir Goldstein 1403795939a9SAmir Goldstein /* 1404795939a9SAmir Goldstein * When all layers on same fs, overlay can use real inode numbers. 1405795939a9SAmir Goldstein * With mount option "xino=on", mounter declares that there are enough 1406795939a9SAmir Goldstein * free high bits in underlying fs to hold the unique fsid. 1407795939a9SAmir Goldstein * If overlayfs does encounter underlying inodes using the high xino 1408795939a9SAmir Goldstein * bits reserved for fsid, it emits a warning and uses the original 1409795939a9SAmir Goldstein * inode number. 1410795939a9SAmir Goldstein */ 141107f1e596SAmir Goldstein if (ofs->numfs - !ofs->upper_mnt == 1) { 14120f831ec8SAmir Goldstein if (ofs->config.xino == OVL_XINO_ON) 14130f831ec8SAmir Goldstein pr_info("\"xino=on\" is useless with all layers on same fs, ignore.\n"); 14140f831ec8SAmir Goldstein ofs->xino_mode = 0; 141553afcd31SAmir Goldstein } else if (ofs->config.xino == OVL_XINO_OFF) { 141653afcd31SAmir Goldstein ofs->xino_mode = -1; 14170f831ec8SAmir Goldstein } else if (ofs->config.xino == OVL_XINO_ON && ofs->xino_mode < 0) { 1418795939a9SAmir Goldstein /* 141907f1e596SAmir Goldstein * This is a roundup of number of bits needed for encoding 142007f1e596SAmir Goldstein * fsid, where fsid 0 is reserved for upper fs even with 142107f1e596SAmir Goldstein * lower only overlay. 1422795939a9SAmir Goldstein */ 1423795939a9SAmir Goldstein BUILD_BUG_ON(ilog2(OVL_MAX_STACK) > 31); 142407f1e596SAmir Goldstein ofs->xino_mode = ilog2(ofs->numfs - 1) + 1; 1425795939a9SAmir Goldstein } 1426795939a9SAmir Goldstein 14270f831ec8SAmir Goldstein if (ofs->xino_mode > 0) { 14281bd0a3aeSlijiazi pr_info("\"xino\" feature enabled using %d upper inode bits.\n", 14290f831ec8SAmir Goldstein ofs->xino_mode); 1430795939a9SAmir Goldstein } 1431e487d889SAmir Goldstein 1432520d7c86SMiklos Szeredi err = 0; 1433520d7c86SMiklos Szeredi out: 1434520d7c86SMiklos Szeredi return err; 1435520d7c86SMiklos Szeredi } 1436520d7c86SMiklos Szeredi 14374155c10aSMiklos Szeredi static struct ovl_entry *ovl_get_lowerstack(struct super_block *sb, 1438ad204488SMiklos Szeredi struct ovl_fs *ofs) 143953dbb0b4SMiklos Szeredi { 144053dbb0b4SMiklos Szeredi int err; 144153dbb0b4SMiklos Szeredi char *lowertmp, *lower; 14424155c10aSMiklos Szeredi struct path *stack = NULL; 14434155c10aSMiklos Szeredi unsigned int stacklen, numlower = 0, i; 144453dbb0b4SMiklos Szeredi bool remote = false; 14454155c10aSMiklos Szeredi struct ovl_entry *oe; 144653dbb0b4SMiklos Szeredi 144753dbb0b4SMiklos Szeredi err = -ENOMEM; 1448ad204488SMiklos Szeredi lowertmp = kstrdup(ofs->config.lowerdir, GFP_KERNEL); 144953dbb0b4SMiklos Szeredi if (!lowertmp) 14504155c10aSMiklos Szeredi goto out_err; 145153dbb0b4SMiklos Szeredi 145253dbb0b4SMiklos Szeredi err = -EINVAL; 145353dbb0b4SMiklos Szeredi stacklen = ovl_split_lowerdirs(lowertmp); 145453dbb0b4SMiklos Szeredi if (stacklen > OVL_MAX_STACK) { 14551bd0a3aeSlijiazi pr_err("too many lower directories, limit is %d\n", 145653dbb0b4SMiklos Szeredi OVL_MAX_STACK); 14574155c10aSMiklos Szeredi goto out_err; 1458ad204488SMiklos Szeredi } else if (!ofs->config.upperdir && stacklen == 1) { 14591bd0a3aeSlijiazi pr_err("at least 2 lowerdir are needed while upperdir nonexistent\n"); 14604155c10aSMiklos Szeredi goto out_err; 1461f168f109SAmir Goldstein } else if (!ofs->config.upperdir && ofs->config.nfs_export && 1462f168f109SAmir Goldstein ofs->config.redirect_follow) { 14631bd0a3aeSlijiazi pr_warn("NFS export requires \"redirect_dir=nofollow\" on non-upper mount, falling back to nfs_export=off.\n"); 1464f168f109SAmir Goldstein ofs->config.nfs_export = false; 146553dbb0b4SMiklos Szeredi } 146653dbb0b4SMiklos Szeredi 146753dbb0b4SMiklos Szeredi err = -ENOMEM; 146853dbb0b4SMiklos Szeredi stack = kcalloc(stacklen, sizeof(struct path), GFP_KERNEL); 146953dbb0b4SMiklos Szeredi if (!stack) 14704155c10aSMiklos Szeredi goto out_err; 147153dbb0b4SMiklos Szeredi 147253dbb0b4SMiklos Szeredi err = -EINVAL; 147353dbb0b4SMiklos Szeredi lower = lowertmp; 147453dbb0b4SMiklos Szeredi for (numlower = 0; numlower < stacklen; numlower++) { 1475ad204488SMiklos Szeredi err = ovl_lower_dir(lower, &stack[numlower], ofs, 147653dbb0b4SMiklos Szeredi &sb->s_stack_depth, &remote); 147753dbb0b4SMiklos Szeredi if (err) 14784155c10aSMiklos Szeredi goto out_err; 147953dbb0b4SMiklos Szeredi 148053dbb0b4SMiklos Szeredi lower = strchr(lower, '\0') + 1; 148153dbb0b4SMiklos Szeredi } 148253dbb0b4SMiklos Szeredi 148353dbb0b4SMiklos Szeredi err = -EINVAL; 148453dbb0b4SMiklos Szeredi sb->s_stack_depth++; 148553dbb0b4SMiklos Szeredi if (sb->s_stack_depth > FILESYSTEM_MAX_STACK_DEPTH) { 14861bd0a3aeSlijiazi pr_err("maximum fs stacking depth exceeded\n"); 14874155c10aSMiklos Szeredi goto out_err; 148853dbb0b4SMiklos Szeredi } 148953dbb0b4SMiklos Szeredi 149094375f9dSAmir Goldstein err = ovl_get_layers(sb, ofs, stack, numlower); 14914155c10aSMiklos Szeredi if (err) 14924155c10aSMiklos Szeredi goto out_err; 14934155c10aSMiklos Szeredi 14944155c10aSMiklos Szeredi err = -ENOMEM; 14954155c10aSMiklos Szeredi oe = ovl_alloc_entry(numlower); 14964155c10aSMiklos Szeredi if (!oe) 14974155c10aSMiklos Szeredi goto out_err; 14984155c10aSMiklos Szeredi 14994155c10aSMiklos Szeredi for (i = 0; i < numlower; i++) { 15004155c10aSMiklos Szeredi oe->lowerstack[i].dentry = dget(stack[i].dentry); 150194375f9dSAmir Goldstein oe->lowerstack[i].layer = &ofs->layers[i+1]; 15024155c10aSMiklos Szeredi } 150353dbb0b4SMiklos Szeredi 150453dbb0b4SMiklos Szeredi if (remote) 150553dbb0b4SMiklos Szeredi sb->s_d_op = &ovl_reval_dentry_operations; 150653dbb0b4SMiklos Szeredi else 150753dbb0b4SMiklos Szeredi sb->s_d_op = &ovl_dentry_operations; 150853dbb0b4SMiklos Szeredi 150953dbb0b4SMiklos Szeredi out: 151053dbb0b4SMiklos Szeredi for (i = 0; i < numlower; i++) 151153dbb0b4SMiklos Szeredi path_put(&stack[i]); 151253dbb0b4SMiklos Szeredi kfree(stack); 15134155c10aSMiklos Szeredi kfree(lowertmp); 15144155c10aSMiklos Szeredi 15154155c10aSMiklos Szeredi return oe; 15164155c10aSMiklos Szeredi 15174155c10aSMiklos Szeredi out_err: 15184155c10aSMiklos Szeredi oe = ERR_PTR(err); 151953dbb0b4SMiklos Szeredi goto out; 152053dbb0b4SMiklos Szeredi } 152153dbb0b4SMiklos Szeredi 1522146d62e5SAmir Goldstein /* 1523146d62e5SAmir Goldstein * Check if this layer root is a descendant of: 1524146d62e5SAmir Goldstein * - another layer of this overlayfs instance 1525146d62e5SAmir Goldstein * - upper/work dir of any overlayfs instance 1526146d62e5SAmir Goldstein */ 15270be0bfd2SAmir Goldstein static int ovl_check_layer(struct super_block *sb, struct ovl_fs *ofs, 15280be0bfd2SAmir Goldstein struct dentry *dentry, const char *name) 1529146d62e5SAmir Goldstein { 15309179c21dSMiklos Szeredi struct dentry *next = dentry, *parent; 1531146d62e5SAmir Goldstein int err = 0; 1532146d62e5SAmir Goldstein 15339179c21dSMiklos Szeredi if (!dentry) 1534146d62e5SAmir Goldstein return 0; 1535146d62e5SAmir Goldstein 1536146d62e5SAmir Goldstein parent = dget_parent(next); 15379179c21dSMiklos Szeredi 15389179c21dSMiklos Szeredi /* Walk back ancestors to root (inclusive) looking for traps */ 15399179c21dSMiklos Szeredi while (!err && parent != next) { 15400be0bfd2SAmir Goldstein if (ovl_lookup_trap_inode(sb, parent)) { 1541146d62e5SAmir Goldstein err = -ELOOP; 15421bd0a3aeSlijiazi pr_err("overlapping %s path\n", name); 15430be0bfd2SAmir Goldstein } else if (ovl_is_inuse(parent)) { 15440be0bfd2SAmir Goldstein err = ovl_report_in_use(ofs, name); 1545146d62e5SAmir Goldstein } 1546146d62e5SAmir Goldstein next = parent; 15479179c21dSMiklos Szeredi parent = dget_parent(next); 15489179c21dSMiklos Szeredi dput(next); 1549146d62e5SAmir Goldstein } 1550146d62e5SAmir Goldstein 15519179c21dSMiklos Szeredi dput(parent); 1552146d62e5SAmir Goldstein 1553146d62e5SAmir Goldstein return err; 1554146d62e5SAmir Goldstein } 1555146d62e5SAmir Goldstein 1556146d62e5SAmir Goldstein /* 1557146d62e5SAmir Goldstein * Check if any of the layers or work dirs overlap. 1558146d62e5SAmir Goldstein */ 1559146d62e5SAmir Goldstein static int ovl_check_overlapping_layers(struct super_block *sb, 1560146d62e5SAmir Goldstein struct ovl_fs *ofs) 1561146d62e5SAmir Goldstein { 1562146d62e5SAmir Goldstein int i, err; 1563146d62e5SAmir Goldstein 1564146d62e5SAmir Goldstein if (ofs->upper_mnt) { 15650be0bfd2SAmir Goldstein err = ovl_check_layer(sb, ofs, ofs->upper_mnt->mnt_root, 15660be0bfd2SAmir Goldstein "upperdir"); 1567146d62e5SAmir Goldstein if (err) 1568146d62e5SAmir Goldstein return err; 1569146d62e5SAmir Goldstein 1570146d62e5SAmir Goldstein /* 1571146d62e5SAmir Goldstein * Checking workbasedir avoids hitting ovl_is_inuse(parent) of 1572146d62e5SAmir Goldstein * this instance and covers overlapping work and index dirs, 1573146d62e5SAmir Goldstein * unless work or index dir have been moved since created inside 1574146d62e5SAmir Goldstein * workbasedir. In that case, we already have their traps in 1575146d62e5SAmir Goldstein * inode cache and we will catch that case on lookup. 1576146d62e5SAmir Goldstein */ 15770be0bfd2SAmir Goldstein err = ovl_check_layer(sb, ofs, ofs->workbasedir, "workdir"); 1578146d62e5SAmir Goldstein if (err) 1579146d62e5SAmir Goldstein return err; 1580146d62e5SAmir Goldstein } 1581146d62e5SAmir Goldstein 158294375f9dSAmir Goldstein for (i = 1; i < ofs->numlayer; i++) { 15830be0bfd2SAmir Goldstein err = ovl_check_layer(sb, ofs, 158494375f9dSAmir Goldstein ofs->layers[i].mnt->mnt_root, 1585146d62e5SAmir Goldstein "lowerdir"); 1586146d62e5SAmir Goldstein if (err) 1587146d62e5SAmir Goldstein return err; 1588146d62e5SAmir Goldstein } 1589146d62e5SAmir Goldstein 1590146d62e5SAmir Goldstein return 0; 1591146d62e5SAmir Goldstein } 1592146d62e5SAmir Goldstein 15932effc5c2SAmir Goldstein static struct dentry *ovl_get_root(struct super_block *sb, 15942effc5c2SAmir Goldstein struct dentry *upperdentry, 15952effc5c2SAmir Goldstein struct ovl_entry *oe) 15962effc5c2SAmir Goldstein { 15972effc5c2SAmir Goldstein struct dentry *root; 159862c832edSAmir Goldstein struct ovl_path *lowerpath = &oe->lowerstack[0]; 159962c832edSAmir Goldstein unsigned long ino = d_inode(lowerpath->dentry)->i_ino; 160062c832edSAmir Goldstein int fsid = lowerpath->layer->fsid; 160162c832edSAmir Goldstein struct ovl_inode_params oip = { 160262c832edSAmir Goldstein .upperdentry = upperdentry, 160362c832edSAmir Goldstein .lowerpath = lowerpath, 160462c832edSAmir Goldstein }; 16052effc5c2SAmir Goldstein 16062effc5c2SAmir Goldstein root = d_make_root(ovl_new_inode(sb, S_IFDIR, 0)); 16072effc5c2SAmir Goldstein if (!root) 16082effc5c2SAmir Goldstein return NULL; 16092effc5c2SAmir Goldstein 16102effc5c2SAmir Goldstein root->d_fsdata = oe; 16112effc5c2SAmir Goldstein 16122effc5c2SAmir Goldstein if (upperdentry) { 161362c832edSAmir Goldstein /* Root inode uses upper st_ino/i_ino */ 161462c832edSAmir Goldstein ino = d_inode(upperdentry)->i_ino; 161562c832edSAmir Goldstein fsid = 0; 16162effc5c2SAmir Goldstein ovl_dentry_set_upper_alias(root); 16172effc5c2SAmir Goldstein if (ovl_is_impuredir(upperdentry)) 16182effc5c2SAmir Goldstein ovl_set_flag(OVL_IMPURE, d_inode(root)); 16192effc5c2SAmir Goldstein } 16202effc5c2SAmir Goldstein 16212effc5c2SAmir Goldstein /* Root is always merge -> can have whiteouts */ 16222effc5c2SAmir Goldstein ovl_set_flag(OVL_WHITEOUTS, d_inode(root)); 16232effc5c2SAmir Goldstein ovl_dentry_set_flag(OVL_E_CONNECTED, root); 16242effc5c2SAmir Goldstein ovl_set_upperdata(d_inode(root)); 162562c832edSAmir Goldstein ovl_inode_init(d_inode(root), &oip, ino, fsid); 16262effc5c2SAmir Goldstein 16272effc5c2SAmir Goldstein return root; 16282effc5c2SAmir Goldstein } 16292effc5c2SAmir Goldstein 1630e9be9d5eSMiklos Szeredi static int ovl_fill_super(struct super_block *sb, void *data, int silent) 1631e9be9d5eSMiklos Szeredi { 163233006cdfSKees Cook struct path upperpath = { }; 1633e9be9d5eSMiklos Szeredi struct dentry *root_dentry; 16344155c10aSMiklos Szeredi struct ovl_entry *oe; 1635ad204488SMiklos Szeredi struct ovl_fs *ofs; 163651f8f3c4SKonstantin Khlebnikov struct cred *cred; 1637e9be9d5eSMiklos Szeredi int err; 1638e9be9d5eSMiklos Szeredi 1639f45827e8SErez Zadok err = -ENOMEM; 1640ad204488SMiklos Szeredi ofs = kzalloc(sizeof(struct ovl_fs), GFP_KERNEL); 1641ad204488SMiklos Szeredi if (!ofs) 1642e9be9d5eSMiklos Szeredi goto out; 1643e9be9d5eSMiklos Szeredi 1644ad204488SMiklos Szeredi ofs->creator_cred = cred = prepare_creds(); 1645c6fe6254SMiklos Szeredi if (!cred) 1646c6fe6254SMiklos Szeredi goto out_err; 1647c6fe6254SMiklos Szeredi 1648ad204488SMiklos Szeredi ofs->config.index = ovl_index_def; 1649f168f109SAmir Goldstein ofs->config.nfs_export = ovl_nfs_export_def; 1650795939a9SAmir Goldstein ofs->config.xino = ovl_xino_def(); 1651d5791044SVivek Goyal ofs->config.metacopy = ovl_metacopy_def; 1652ad204488SMiklos Szeredi err = ovl_parse_opt((char *) data, &ofs->config); 1653f45827e8SErez Zadok if (err) 1654a9075cdbSMiklos Szeredi goto out_err; 1655f45827e8SErez Zadok 1656e9be9d5eSMiklos Szeredi err = -EINVAL; 1657ad204488SMiklos Szeredi if (!ofs->config.lowerdir) { 165807f2af7bSKonstantin Khlebnikov if (!silent) 16591bd0a3aeSlijiazi pr_err("missing 'lowerdir'\n"); 1660a9075cdbSMiklos Szeredi goto out_err; 166153a08cb9SMiklos Szeredi } 166253a08cb9SMiklos Szeredi 166353a08cb9SMiklos Szeredi sb->s_stack_depth = 0; 1664cf9a6784SMiklos Szeredi sb->s_maxbytes = MAX_LFS_FILESIZE; 1665e487d889SAmir Goldstein /* Assume underlaying fs uses 32bit inodes unless proven otherwise */ 166653afcd31SAmir Goldstein if (ofs->config.xino != OVL_XINO_OFF) { 16670f831ec8SAmir Goldstein ofs->xino_mode = BITS_PER_LONG - 32; 166853afcd31SAmir Goldstein if (!ofs->xino_mode) { 166953afcd31SAmir Goldstein pr_warn("xino not supported on 32bit kernel, falling back to xino=off.\n"); 167053afcd31SAmir Goldstein ofs->config.xino = OVL_XINO_OFF; 167153afcd31SAmir Goldstein } 167253afcd31SAmir Goldstein } 1673795939a9SAmir Goldstein 1674146d62e5SAmir Goldstein /* alloc/destroy_inode needed for setting up traps in inode cache */ 1675146d62e5SAmir Goldstein sb->s_op = &ovl_super_operations; 1676146d62e5SAmir Goldstein 1677ad204488SMiklos Szeredi if (ofs->config.upperdir) { 1678ad204488SMiklos Szeredi if (!ofs->config.workdir) { 16791bd0a3aeSlijiazi pr_err("missing 'workdir'\n"); 1680a9075cdbSMiklos Szeredi goto out_err; 1681e9be9d5eSMiklos Szeredi } 1682e9be9d5eSMiklos Szeredi 1683146d62e5SAmir Goldstein err = ovl_get_upper(sb, ofs, &upperpath); 168421a3b317SMiklos Szeredi if (err) 1685a9075cdbSMiklos Szeredi goto out_err; 1686d719e8f2SMiklos Szeredi 1687146d62e5SAmir Goldstein err = ovl_get_workdir(sb, ofs, &upperpath); 16888ed61dc3SMiklos Szeredi if (err) 1689a9075cdbSMiklos Szeredi goto out_err; 1690c6fe6254SMiklos Szeredi 1691ad204488SMiklos Szeredi if (!ofs->workdir) 16921751e8a6SLinus Torvalds sb->s_flags |= SB_RDONLY; 16936e88256eSMiklos Szeredi 1694ad204488SMiklos Szeredi sb->s_stack_depth = ofs->upper_mnt->mnt_sb->s_stack_depth; 1695ad204488SMiklos Szeredi sb->s_time_gran = ofs->upper_mnt->mnt_sb->s_time_gran; 1696c6fe6254SMiklos Szeredi 169721765194SVivek Goyal } 1698ad204488SMiklos Szeredi oe = ovl_get_lowerstack(sb, ofs); 16994155c10aSMiklos Szeredi err = PTR_ERR(oe); 17004155c10aSMiklos Szeredi if (IS_ERR(oe)) 1701a9075cdbSMiklos Szeredi goto out_err; 1702e9be9d5eSMiklos Szeredi 170371cbad7eShujianyang /* If the upper fs is nonexistent, we mark overlayfs r/o too */ 1704ad204488SMiklos Szeredi if (!ofs->upper_mnt) 17051751e8a6SLinus Torvalds sb->s_flags |= SB_RDONLY; 1706e9be9d5eSMiklos Szeredi 1707ad204488SMiklos Szeredi if (!(ovl_force_readonly(ofs)) && ofs->config.index) { 1708146d62e5SAmir Goldstein err = ovl_get_indexdir(sb, ofs, oe, &upperpath); 170954fb347eSAmir Goldstein if (err) 17104155c10aSMiklos Szeredi goto out_free_oe; 17116e88256eSMiklos Szeredi 1712972d0093SAmir Goldstein /* Force r/o mount with no index dir */ 1713972d0093SAmir Goldstein if (!ofs->indexdir) { 1714972d0093SAmir Goldstein dput(ofs->workdir); 1715972d0093SAmir Goldstein ofs->workdir = NULL; 17161751e8a6SLinus Torvalds sb->s_flags |= SB_RDONLY; 171702bcd157SAmir Goldstein } 171802bcd157SAmir Goldstein 1719972d0093SAmir Goldstein } 1720972d0093SAmir Goldstein 1721146d62e5SAmir Goldstein err = ovl_check_overlapping_layers(sb, ofs); 1722146d62e5SAmir Goldstein if (err) 1723146d62e5SAmir Goldstein goto out_free_oe; 1724146d62e5SAmir Goldstein 1725972d0093SAmir Goldstein /* Show index=off in /proc/mounts for forced r/o mount */ 1726f168f109SAmir Goldstein if (!ofs->indexdir) { 1727ad204488SMiklos Szeredi ofs->config.index = false; 1728f168f109SAmir Goldstein if (ofs->upper_mnt && ofs->config.nfs_export) { 17291bd0a3aeSlijiazi pr_warn("NFS export requires an index dir, falling back to nfs_export=off.\n"); 1730f168f109SAmir Goldstein ofs->config.nfs_export = false; 1731f168f109SAmir Goldstein } 1732f168f109SAmir Goldstein } 173302bcd157SAmir Goldstein 1734d5791044SVivek Goyal if (ofs->config.metacopy && ofs->config.nfs_export) { 17351bd0a3aeSlijiazi pr_warn("NFS export is not supported with metadata only copy up, falling back to nfs_export=off.\n"); 1736d5791044SVivek Goyal ofs->config.nfs_export = false; 1737d5791044SVivek Goyal } 1738d5791044SVivek Goyal 17398383f174SAmir Goldstein if (ofs->config.nfs_export) 17408383f174SAmir Goldstein sb->s_export_op = &ovl_export_operations; 17418383f174SAmir Goldstein 174251f8f3c4SKonstantin Khlebnikov /* Never override disk quota limits or use reserved space */ 174351f8f3c4SKonstantin Khlebnikov cap_lower(cred->cap_effective, CAP_SYS_RESOURCE); 174451f8f3c4SKonstantin Khlebnikov 1745655042ccSVivek Goyal sb->s_magic = OVERLAYFS_SUPER_MAGIC; 1746655042ccSVivek Goyal sb->s_xattr = ovl_xattr_handlers; 1747ad204488SMiklos Szeredi sb->s_fs_info = ofs; 1748de2a4a50SMiklos Szeredi sb->s_flags |= SB_POSIXACL; 1749655042ccSVivek Goyal 1750c6fe6254SMiklos Szeredi err = -ENOMEM; 17512effc5c2SAmir Goldstein root_dentry = ovl_get_root(sb, upperpath.dentry, oe); 1752e9be9d5eSMiklos Szeredi if (!root_dentry) 17534155c10aSMiklos Szeredi goto out_free_oe; 1754e9be9d5eSMiklos Szeredi 1755e9be9d5eSMiklos Szeredi mntput(upperpath.mnt); 1756ed06e069SMiklos Szeredi 1757e9be9d5eSMiklos Szeredi sb->s_root = root_dentry; 1758e9be9d5eSMiklos Szeredi 1759e9be9d5eSMiklos Szeredi return 0; 1760e9be9d5eSMiklos Szeredi 17614155c10aSMiklos Szeredi out_free_oe: 17624155c10aSMiklos Szeredi ovl_entry_stack_free(oe); 1763b9343632SChandan Rajendra kfree(oe); 17644155c10aSMiklos Szeredi out_err: 1765e9be9d5eSMiklos Szeredi path_put(&upperpath); 1766ad204488SMiklos Szeredi ovl_free_fs(ofs); 1767e9be9d5eSMiklos Szeredi out: 1768e9be9d5eSMiklos Szeredi return err; 1769e9be9d5eSMiklos Szeredi } 1770e9be9d5eSMiklos Szeredi 1771e9be9d5eSMiklos Szeredi static struct dentry *ovl_mount(struct file_system_type *fs_type, int flags, 1772e9be9d5eSMiklos Szeredi const char *dev_name, void *raw_data) 1773e9be9d5eSMiklos Szeredi { 1774e9be9d5eSMiklos Szeredi return mount_nodev(fs_type, flags, raw_data, ovl_fill_super); 1775e9be9d5eSMiklos Szeredi } 1776e9be9d5eSMiklos Szeredi 1777e9be9d5eSMiklos Szeredi static struct file_system_type ovl_fs_type = { 1778e9be9d5eSMiklos Szeredi .owner = THIS_MODULE, 1779ef94b186SMiklos Szeredi .name = "overlay", 1780e9be9d5eSMiklos Szeredi .mount = ovl_mount, 1781e9be9d5eSMiklos Szeredi .kill_sb = kill_anon_super, 1782e9be9d5eSMiklos Szeredi }; 1783ef94b186SMiklos Szeredi MODULE_ALIAS_FS("overlay"); 1784e9be9d5eSMiklos Szeredi 178513cf199dSAmir Goldstein static void ovl_inode_init_once(void *foo) 178613cf199dSAmir Goldstein { 178713cf199dSAmir Goldstein struct ovl_inode *oi = foo; 178813cf199dSAmir Goldstein 178913cf199dSAmir Goldstein inode_init_once(&oi->vfs_inode); 179013cf199dSAmir Goldstein } 179113cf199dSAmir Goldstein 1792e9be9d5eSMiklos Szeredi static int __init ovl_init(void) 1793e9be9d5eSMiklos Szeredi { 179413cf199dSAmir Goldstein int err; 179513cf199dSAmir Goldstein 179613cf199dSAmir Goldstein ovl_inode_cachep = kmem_cache_create("ovl_inode", 179713cf199dSAmir Goldstein sizeof(struct ovl_inode), 0, 179813cf199dSAmir Goldstein (SLAB_RECLAIM_ACCOUNT| 179913cf199dSAmir Goldstein SLAB_MEM_SPREAD|SLAB_ACCOUNT), 180013cf199dSAmir Goldstein ovl_inode_init_once); 180113cf199dSAmir Goldstein if (ovl_inode_cachep == NULL) 180213cf199dSAmir Goldstein return -ENOMEM; 180313cf199dSAmir Goldstein 18042406a307SJiufei Xue err = ovl_aio_request_cache_init(); 18052406a307SJiufei Xue if (!err) { 180613cf199dSAmir Goldstein err = register_filesystem(&ovl_fs_type); 18072406a307SJiufei Xue if (!err) 18082406a307SJiufei Xue return 0; 18092406a307SJiufei Xue 18102406a307SJiufei Xue ovl_aio_request_cache_destroy(); 18112406a307SJiufei Xue } 181213cf199dSAmir Goldstein kmem_cache_destroy(ovl_inode_cachep); 181313cf199dSAmir Goldstein 181413cf199dSAmir Goldstein return err; 1815e9be9d5eSMiklos Szeredi } 1816e9be9d5eSMiklos Szeredi 1817e9be9d5eSMiklos Szeredi static void __exit ovl_exit(void) 1818e9be9d5eSMiklos Szeredi { 1819e9be9d5eSMiklos Szeredi unregister_filesystem(&ovl_fs_type); 182013cf199dSAmir Goldstein 182113cf199dSAmir Goldstein /* 182213cf199dSAmir Goldstein * Make sure all delayed rcu free inodes are flushed before we 182313cf199dSAmir Goldstein * destroy cache. 182413cf199dSAmir Goldstein */ 182513cf199dSAmir Goldstein rcu_barrier(); 182613cf199dSAmir Goldstein kmem_cache_destroy(ovl_inode_cachep); 18272406a307SJiufei Xue ovl_aio_request_cache_destroy(); 1828e9be9d5eSMiklos Szeredi } 1829e9be9d5eSMiklos Szeredi 1830e9be9d5eSMiklos Szeredi module_init(ovl_init); 1831e9be9d5eSMiklos Szeredi module_exit(ovl_exit); 1832