1e9be9d5eSMiklos Szeredi /* 2e9be9d5eSMiklos Szeredi * 3e9be9d5eSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 4e9be9d5eSMiklos Szeredi * 5e9be9d5eSMiklos Szeredi * This program is free software; you can redistribute it and/or modify it 6e9be9d5eSMiklos Szeredi * under the terms of the GNU General Public License version 2 as published by 7e9be9d5eSMiklos Szeredi * the Free Software Foundation. 8e9be9d5eSMiklos Szeredi */ 9e9be9d5eSMiklos Szeredi 10e9be9d5eSMiklos Szeredi #include <linux/fs.h> 11e9be9d5eSMiklos Szeredi #include <linux/namei.h> 12e9be9d5eSMiklos Szeredi #include <linux/xattr.h> 13e9be9d5eSMiklos Szeredi #include <linux/security.h> 14e9be9d5eSMiklos Szeredi #include <linux/cred.h> 153ea22a71SMiklos Szeredi #include <linux/module.h> 1638b25697SMiklos Szeredi #include <linux/posix_acl.h> 1738b25697SMiklos Szeredi #include <linux/posix_acl_xattr.h> 186a45b362SRichard Weinberger #include <linux/atomic.h> 19a6c60655SMiklos Szeredi #include <linux/ratelimit.h> 20e9be9d5eSMiklos Szeredi #include "overlayfs.h" 21e9be9d5eSMiklos Szeredi 223ea22a71SMiklos Szeredi static unsigned short ovl_redirect_max = 256; 233ea22a71SMiklos Szeredi module_param_named(redirect_max, ovl_redirect_max, ushort, 0644); 243ea22a71SMiklos Szeredi MODULE_PARM_DESC(ovl_redirect_max, 253ea22a71SMiklos Szeredi "Maximum length of absolute redirect xattr value"); 263ea22a71SMiklos Szeredi 27e9be9d5eSMiklos Szeredi void ovl_cleanup(struct inode *wdir, struct dentry *wdentry) 28e9be9d5eSMiklos Szeredi { 29e9be9d5eSMiklos Szeredi int err; 30e9be9d5eSMiklos Szeredi 31e9be9d5eSMiklos Szeredi dget(wdentry); 32e36cb0b8SDavid Howells if (d_is_dir(wdentry)) 33e9be9d5eSMiklos Szeredi err = ovl_do_rmdir(wdir, wdentry); 34e9be9d5eSMiklos Szeredi else 35e9be9d5eSMiklos Szeredi err = ovl_do_unlink(wdir, wdentry); 36e9be9d5eSMiklos Szeredi dput(wdentry); 37e9be9d5eSMiklos Szeredi 38e9be9d5eSMiklos Szeredi if (err) { 39e9be9d5eSMiklos Szeredi pr_err("overlayfs: cleanup of '%pd2' failed (%i)\n", 40e9be9d5eSMiklos Szeredi wdentry, err); 41e9be9d5eSMiklos Szeredi } 42e9be9d5eSMiklos Szeredi } 43e9be9d5eSMiklos Szeredi 44e9be9d5eSMiklos Szeredi struct dentry *ovl_lookup_temp(struct dentry *workdir, struct dentry *dentry) 45e9be9d5eSMiklos Szeredi { 46e9be9d5eSMiklos Szeredi struct dentry *temp; 47e9be9d5eSMiklos Szeredi char name[20]; 486a45b362SRichard Weinberger static atomic_t temp_id = ATOMIC_INIT(0); 49e9be9d5eSMiklos Szeredi 506a45b362SRichard Weinberger /* counter is allowed to wrap, since temp dentries are ephemeral */ 516a45b362SRichard Weinberger snprintf(name, sizeof(name), "#%x", atomic_inc_return(&temp_id)); 52e9be9d5eSMiklos Szeredi 53e9be9d5eSMiklos Szeredi temp = lookup_one_len(name, workdir, strlen(name)); 54e9be9d5eSMiklos Szeredi if (!IS_ERR(temp) && temp->d_inode) { 55e9be9d5eSMiklos Szeredi pr_err("overlayfs: workdir/%s already exists\n", name); 56e9be9d5eSMiklos Szeredi dput(temp); 57e9be9d5eSMiklos Szeredi temp = ERR_PTR(-EIO); 58e9be9d5eSMiklos Szeredi } 59e9be9d5eSMiklos Szeredi 60e9be9d5eSMiklos Szeredi return temp; 61e9be9d5eSMiklos Szeredi } 62e9be9d5eSMiklos Szeredi 63e9be9d5eSMiklos Szeredi /* caller holds i_mutex on workdir */ 64e9be9d5eSMiklos Szeredi static struct dentry *ovl_whiteout(struct dentry *workdir, 65e9be9d5eSMiklos Szeredi struct dentry *dentry) 66e9be9d5eSMiklos Szeredi { 67e9be9d5eSMiklos Szeredi int err; 68e9be9d5eSMiklos Szeredi struct dentry *whiteout; 69e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 70e9be9d5eSMiklos Szeredi 71e9be9d5eSMiklos Szeredi whiteout = ovl_lookup_temp(workdir, dentry); 72e9be9d5eSMiklos Szeredi if (IS_ERR(whiteout)) 73e9be9d5eSMiklos Szeredi return whiteout; 74e9be9d5eSMiklos Szeredi 75e9be9d5eSMiklos Szeredi err = ovl_do_whiteout(wdir, whiteout); 76e9be9d5eSMiklos Szeredi if (err) { 77e9be9d5eSMiklos Szeredi dput(whiteout); 78e9be9d5eSMiklos Szeredi whiteout = ERR_PTR(err); 79e9be9d5eSMiklos Szeredi } 80e9be9d5eSMiklos Szeredi 81e9be9d5eSMiklos Szeredi return whiteout; 82e9be9d5eSMiklos Szeredi } 83e9be9d5eSMiklos Szeredi 84e9be9d5eSMiklos Szeredi int ovl_create_real(struct inode *dir, struct dentry *newdentry, 85e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 86e9be9d5eSMiklos Szeredi struct dentry *hardlink, bool debug) 87e9be9d5eSMiklos Szeredi { 88e9be9d5eSMiklos Szeredi int err; 89e9be9d5eSMiklos Szeredi 90e9be9d5eSMiklos Szeredi if (newdentry->d_inode) 91e9be9d5eSMiklos Szeredi return -ESTALE; 92e9be9d5eSMiklos Szeredi 93e9be9d5eSMiklos Szeredi if (hardlink) { 94e9be9d5eSMiklos Szeredi err = ovl_do_link(hardlink, dir, newdentry, debug); 95e9be9d5eSMiklos Szeredi } else { 96e9be9d5eSMiklos Szeredi switch (stat->mode & S_IFMT) { 97e9be9d5eSMiklos Szeredi case S_IFREG: 98e9be9d5eSMiklos Szeredi err = ovl_do_create(dir, newdentry, stat->mode, debug); 99e9be9d5eSMiklos Szeredi break; 100e9be9d5eSMiklos Szeredi 101e9be9d5eSMiklos Szeredi case S_IFDIR: 102e9be9d5eSMiklos Szeredi err = ovl_do_mkdir(dir, newdentry, stat->mode, debug); 103e9be9d5eSMiklos Szeredi break; 104e9be9d5eSMiklos Szeredi 105e9be9d5eSMiklos Szeredi case S_IFCHR: 106e9be9d5eSMiklos Szeredi case S_IFBLK: 107e9be9d5eSMiklos Szeredi case S_IFIFO: 108e9be9d5eSMiklos Szeredi case S_IFSOCK: 109e9be9d5eSMiklos Szeredi err = ovl_do_mknod(dir, newdentry, 110e9be9d5eSMiklos Szeredi stat->mode, stat->rdev, debug); 111e9be9d5eSMiklos Szeredi break; 112e9be9d5eSMiklos Szeredi 113e9be9d5eSMiklos Szeredi case S_IFLNK: 114e9be9d5eSMiklos Szeredi err = ovl_do_symlink(dir, newdentry, link, debug); 115e9be9d5eSMiklos Szeredi break; 116e9be9d5eSMiklos Szeredi 117e9be9d5eSMiklos Szeredi default: 118e9be9d5eSMiklos Szeredi err = -EPERM; 119e9be9d5eSMiklos Szeredi } 120e9be9d5eSMiklos Szeredi } 121e9be9d5eSMiklos Szeredi if (!err && WARN_ON(!newdentry->d_inode)) { 122e9be9d5eSMiklos Szeredi /* 123e9be9d5eSMiklos Szeredi * Not quite sure if non-instantiated dentry is legal or not. 124e9be9d5eSMiklos Szeredi * VFS doesn't seem to care so check and warn here. 125e9be9d5eSMiklos Szeredi */ 126e9be9d5eSMiklos Szeredi err = -ENOENT; 127e9be9d5eSMiklos Szeredi } 128e9be9d5eSMiklos Szeredi return err; 129e9be9d5eSMiklos Szeredi } 130e9be9d5eSMiklos Szeredi 1315cf5b477SMiklos Szeredi static int ovl_set_opaque(struct dentry *dentry, struct dentry *upperdentry) 132e9be9d5eSMiklos Szeredi { 1335cf5b477SMiklos Szeredi int err; 1345cf5b477SMiklos Szeredi 1355cf5b477SMiklos Szeredi err = ovl_do_setxattr(upperdentry, OVL_XATTR_OPAQUE, "y", 1, 0); 1365cf5b477SMiklos Szeredi if (!err) 1375cf5b477SMiklos Szeredi ovl_dentry_set_opaque(dentry); 1385cf5b477SMiklos Szeredi 1395cf5b477SMiklos Szeredi return err; 140e9be9d5eSMiklos Szeredi } 141e9be9d5eSMiklos Szeredi 142e9be9d5eSMiklos Szeredi static int ovl_dir_getattr(struct vfsmount *mnt, struct dentry *dentry, 143e9be9d5eSMiklos Szeredi struct kstat *stat) 144e9be9d5eSMiklos Szeredi { 145e9be9d5eSMiklos Szeredi int err; 146e9be9d5eSMiklos Szeredi enum ovl_path_type type; 147e9be9d5eSMiklos Szeredi struct path realpath; 1481175b6b8SVivek Goyal const struct cred *old_cred; 149e9be9d5eSMiklos Szeredi 150e9be9d5eSMiklos Szeredi type = ovl_path_real(dentry, &realpath); 1511175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 152e9be9d5eSMiklos Szeredi err = vfs_getattr(&realpath, stat); 1531175b6b8SVivek Goyal revert_creds(old_cred); 154e9be9d5eSMiklos Szeredi if (err) 155e9be9d5eSMiklos Szeredi return err; 156e9be9d5eSMiklos Szeredi 157e9be9d5eSMiklos Szeredi stat->dev = dentry->d_sb->s_dev; 158e9be9d5eSMiklos Szeredi stat->ino = dentry->d_inode->i_ino; 159e9be9d5eSMiklos Szeredi 160e9be9d5eSMiklos Szeredi /* 161e9be9d5eSMiklos Szeredi * It's probably not worth it to count subdirs to get the 162e9be9d5eSMiklos Szeredi * correct link count. nlink=1 seems to pacify 'find' and 163e9be9d5eSMiklos Szeredi * other utilities. 164e9be9d5eSMiklos Szeredi */ 1651afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE(type)) 166e9be9d5eSMiklos Szeredi stat->nlink = 1; 167e9be9d5eSMiklos Szeredi 168e9be9d5eSMiklos Szeredi return 0; 169e9be9d5eSMiklos Szeredi } 170e9be9d5eSMiklos Szeredi 17172e48481SVivek Goyal /* Common operations required to be done after creation of file on upper */ 17272e48481SVivek Goyal static void ovl_instantiate(struct dentry *dentry, struct inode *inode, 17351f7e52dSMiklos Szeredi struct dentry *newdentry, bool hardlink) 17472e48481SVivek Goyal { 17572e48481SVivek Goyal ovl_dentry_version_inc(dentry->d_parent); 17672e48481SVivek Goyal ovl_dentry_update(dentry, newdentry); 17751f7e52dSMiklos Szeredi if (!hardlink) { 17839b681f8SMiklos Szeredi ovl_inode_update(inode, d_inode(newdentry)); 17972e48481SVivek Goyal ovl_copyattr(newdentry->d_inode, inode); 18051f7e52dSMiklos Szeredi } else { 18151f7e52dSMiklos Szeredi WARN_ON(ovl_inode_real(inode, NULL) != d_inode(newdentry)); 18251f7e52dSMiklos Szeredi inc_nlink(inode); 18351f7e52dSMiklos Szeredi } 18472e48481SVivek Goyal d_instantiate(dentry, inode); 18572e48481SVivek Goyal } 18672e48481SVivek Goyal 187e9be9d5eSMiklos Szeredi static int ovl_create_upper(struct dentry *dentry, struct inode *inode, 188e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 189e9be9d5eSMiklos Szeredi struct dentry *hardlink) 190e9be9d5eSMiklos Szeredi { 191e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 192e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 193e9be9d5eSMiklos Szeredi struct dentry *newdentry; 194e9be9d5eSMiklos Szeredi int err; 195e9be9d5eSMiklos Szeredi 19638b25697SMiklos Szeredi if (!hardlink && !IS_POSIXACL(udir)) 19738b25697SMiklos Szeredi stat->mode &= ~current_umask(); 19838b25697SMiklos Szeredi 1995955102cSAl Viro inode_lock_nested(udir, I_MUTEX_PARENT); 200e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(dentry->d_name.name, upperdir, 201e9be9d5eSMiklos Szeredi dentry->d_name.len); 202e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 203e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 204e9be9d5eSMiklos Szeredi goto out_unlock; 205e9be9d5eSMiklos Szeredi err = ovl_create_real(udir, newdentry, stat, link, hardlink, false); 206e9be9d5eSMiklos Szeredi if (err) 207e9be9d5eSMiklos Szeredi goto out_dput; 208e9be9d5eSMiklos Szeredi 20951f7e52dSMiklos Szeredi ovl_instantiate(dentry, inode, newdentry, !!hardlink); 210e9be9d5eSMiklos Szeredi newdentry = NULL; 211e9be9d5eSMiklos Szeredi out_dput: 212e9be9d5eSMiklos Szeredi dput(newdentry); 213e9be9d5eSMiklos Szeredi out_unlock: 2145955102cSAl Viro inode_unlock(udir); 215e9be9d5eSMiklos Szeredi return err; 216e9be9d5eSMiklos Szeredi } 217e9be9d5eSMiklos Szeredi 218e9be9d5eSMiklos Szeredi static int ovl_lock_rename_workdir(struct dentry *workdir, 219e9be9d5eSMiklos Szeredi struct dentry *upperdir) 220e9be9d5eSMiklos Szeredi { 221e9be9d5eSMiklos Szeredi /* Workdir should not be the same as upperdir */ 222e9be9d5eSMiklos Szeredi if (workdir == upperdir) 223e9be9d5eSMiklos Szeredi goto err; 224e9be9d5eSMiklos Szeredi 225e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */ 226e9be9d5eSMiklos Szeredi if (lock_rename(workdir, upperdir) != NULL) 227e9be9d5eSMiklos Szeredi goto err_unlock; 228e9be9d5eSMiklos Szeredi 229e9be9d5eSMiklos Szeredi return 0; 230e9be9d5eSMiklos Szeredi 231e9be9d5eSMiklos Szeredi err_unlock: 232e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 233e9be9d5eSMiklos Szeredi err: 234e9be9d5eSMiklos Szeredi pr_err("overlayfs: failed to lock workdir+upperdir\n"); 235e9be9d5eSMiklos Szeredi return -EIO; 236e9be9d5eSMiklos Szeredi } 237e9be9d5eSMiklos Szeredi 238e9be9d5eSMiklos Szeredi static struct dentry *ovl_clear_empty(struct dentry *dentry, 239e9be9d5eSMiklos Szeredi struct list_head *list) 240e9be9d5eSMiklos Szeredi { 241e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 242e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 243e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 244e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 245e9be9d5eSMiklos Szeredi struct path upperpath; 246e9be9d5eSMiklos Szeredi struct dentry *upper; 247e9be9d5eSMiklos Szeredi struct dentry *opaquedir; 248e9be9d5eSMiklos Szeredi struct kstat stat; 249e9be9d5eSMiklos Szeredi int err; 250e9be9d5eSMiklos Szeredi 251cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 252cc6f67bcSMiklos Szeredi return ERR_PTR(-EROFS); 253cc6f67bcSMiklos Szeredi 254e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 255e9be9d5eSMiklos Szeredi if (err) 256e9be9d5eSMiklos Szeredi goto out; 257e9be9d5eSMiklos Szeredi 258e9be9d5eSMiklos Szeredi ovl_path_upper(dentry, &upperpath); 259e9be9d5eSMiklos Szeredi err = vfs_getattr(&upperpath, &stat); 260e9be9d5eSMiklos Szeredi if (err) 261e9be9d5eSMiklos Szeredi goto out_unlock; 262e9be9d5eSMiklos Szeredi 263e9be9d5eSMiklos Szeredi err = -ESTALE; 264e9be9d5eSMiklos Szeredi if (!S_ISDIR(stat.mode)) 265e9be9d5eSMiklos Szeredi goto out_unlock; 266e9be9d5eSMiklos Szeredi upper = upperpath.dentry; 267e9be9d5eSMiklos Szeredi if (upper->d_parent->d_inode != udir) 268e9be9d5eSMiklos Szeredi goto out_unlock; 269e9be9d5eSMiklos Szeredi 270e9be9d5eSMiklos Szeredi opaquedir = ovl_lookup_temp(workdir, dentry); 271e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 272e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 273e9be9d5eSMiklos Szeredi goto out_unlock; 274e9be9d5eSMiklos Szeredi 275e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, opaquedir, &stat, NULL, NULL, true); 276e9be9d5eSMiklos Szeredi if (err) 277e9be9d5eSMiklos Szeredi goto out_dput; 278e9be9d5eSMiklos Szeredi 279e9be9d5eSMiklos Szeredi err = ovl_copy_xattr(upper, opaquedir); 280e9be9d5eSMiklos Szeredi if (err) 281e9be9d5eSMiklos Szeredi goto out_cleanup; 282e9be9d5eSMiklos Szeredi 2835cf5b477SMiklos Szeredi err = ovl_set_opaque(dentry, opaquedir); 284e9be9d5eSMiklos Szeredi if (err) 285e9be9d5eSMiklos Szeredi goto out_cleanup; 286e9be9d5eSMiklos Szeredi 2875955102cSAl Viro inode_lock(opaquedir->d_inode); 288e9be9d5eSMiklos Szeredi err = ovl_set_attr(opaquedir, &stat); 2895955102cSAl Viro inode_unlock(opaquedir->d_inode); 290e9be9d5eSMiklos Szeredi if (err) 291e9be9d5eSMiklos Szeredi goto out_cleanup; 292e9be9d5eSMiklos Szeredi 293e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, opaquedir, udir, upper, RENAME_EXCHANGE); 294e9be9d5eSMiklos Szeredi if (err) 295e9be9d5eSMiklos Szeredi goto out_cleanup; 296e9be9d5eSMiklos Szeredi 297e9be9d5eSMiklos Szeredi ovl_cleanup_whiteouts(upper, list); 298e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 299e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 300e9be9d5eSMiklos Szeredi 301e9be9d5eSMiklos Szeredi /* dentry's upper doesn't match now, get rid of it */ 302e9be9d5eSMiklos Szeredi d_drop(dentry); 303e9be9d5eSMiklos Szeredi 304e9be9d5eSMiklos Szeredi return opaquedir; 305e9be9d5eSMiklos Szeredi 306e9be9d5eSMiklos Szeredi out_cleanup: 307e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, opaquedir); 308e9be9d5eSMiklos Szeredi out_dput: 309e9be9d5eSMiklos Szeredi dput(opaquedir); 310e9be9d5eSMiklos Szeredi out_unlock: 311e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 312e9be9d5eSMiklos Szeredi out: 313e9be9d5eSMiklos Szeredi return ERR_PTR(err); 314e9be9d5eSMiklos Szeredi } 315e9be9d5eSMiklos Szeredi 316a105d685SMiklos Szeredi static struct dentry *ovl_check_empty_and_clear(struct dentry *dentry) 317e9be9d5eSMiklos Szeredi { 318e9be9d5eSMiklos Szeredi int err; 319e9be9d5eSMiklos Szeredi struct dentry *ret = NULL; 32030c17ebfSMiklos Szeredi enum ovl_path_type type = ovl_path_type(dentry); 321e9be9d5eSMiklos Szeredi LIST_HEAD(list); 322e9be9d5eSMiklos Szeredi 323e9be9d5eSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 32430c17ebfSMiklos Szeredi if (err) { 325e9be9d5eSMiklos Szeredi ret = ERR_PTR(err); 32630c17ebfSMiklos Szeredi goto out_free; 327a105d685SMiklos Szeredi } 328e9be9d5eSMiklos Szeredi 32930c17ebfSMiklos Szeredi /* 33030c17ebfSMiklos Szeredi * When removing an empty opaque directory, then it makes no sense to 33130c17ebfSMiklos Szeredi * replace it with an exact replica of itself. 33230c17ebfSMiklos Szeredi * 33330c17ebfSMiklos Szeredi * If no upperdentry then skip clearing whiteouts. 33430c17ebfSMiklos Szeredi * 33530c17ebfSMiklos Szeredi * Can race with copy-up, since we don't hold the upperdir mutex. 33630c17ebfSMiklos Szeredi * Doesn't matter, since copy-up can't create a non-empty directory 33730c17ebfSMiklos Szeredi * from an empty one. 33830c17ebfSMiklos Szeredi */ 33930c17ebfSMiklos Szeredi if (OVL_TYPE_UPPER(type) && OVL_TYPE_MERGE(type)) 34030c17ebfSMiklos Szeredi ret = ovl_clear_empty(dentry, &list); 34130c17ebfSMiklos Szeredi 34230c17ebfSMiklos Szeredi out_free: 343e9be9d5eSMiklos Szeredi ovl_cache_free(&list); 344e9be9d5eSMiklos Szeredi 345e9be9d5eSMiklos Szeredi return ret; 346e9be9d5eSMiklos Szeredi } 347e9be9d5eSMiklos Szeredi 34838b25697SMiklos Szeredi static int ovl_set_upper_acl(struct dentry *upperdentry, const char *name, 34938b25697SMiklos Szeredi const struct posix_acl *acl) 35038b25697SMiklos Szeredi { 35138b25697SMiklos Szeredi void *buffer; 35238b25697SMiklos Szeredi size_t size; 35338b25697SMiklos Szeredi int err; 35438b25697SMiklos Szeredi 35538b25697SMiklos Szeredi if (!IS_ENABLED(CONFIG_FS_POSIX_ACL) || !acl) 35638b25697SMiklos Szeredi return 0; 35738b25697SMiklos Szeredi 35838b25697SMiklos Szeredi size = posix_acl_to_xattr(NULL, acl, NULL, 0); 35938b25697SMiklos Szeredi buffer = kmalloc(size, GFP_KERNEL); 36038b25697SMiklos Szeredi if (!buffer) 36138b25697SMiklos Szeredi return -ENOMEM; 36238b25697SMiklos Szeredi 36338b25697SMiklos Szeredi size = posix_acl_to_xattr(&init_user_ns, acl, buffer, size); 36438b25697SMiklos Szeredi err = size; 36538b25697SMiklos Szeredi if (err < 0) 36638b25697SMiklos Szeredi goto out_free; 36738b25697SMiklos Szeredi 36838b25697SMiklos Szeredi err = vfs_setxattr(upperdentry, name, buffer, size, XATTR_CREATE); 36938b25697SMiklos Szeredi out_free: 37038b25697SMiklos Szeredi kfree(buffer); 37138b25697SMiklos Szeredi return err; 37238b25697SMiklos Szeredi } 37338b25697SMiklos Szeredi 374e9be9d5eSMiklos Szeredi static int ovl_create_over_whiteout(struct dentry *dentry, struct inode *inode, 375e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 376e9be9d5eSMiklos Szeredi struct dentry *hardlink) 377e9be9d5eSMiklos Szeredi { 378e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 379e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 380e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 381e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 382e9be9d5eSMiklos Szeredi struct dentry *upper; 383e9be9d5eSMiklos Szeredi struct dentry *newdentry; 384e9be9d5eSMiklos Szeredi int err; 38538b25697SMiklos Szeredi struct posix_acl *acl, *default_acl; 386e9be9d5eSMiklos Szeredi 387cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 388cc6f67bcSMiklos Szeredi return -EROFS; 389cc6f67bcSMiklos Szeredi 39038b25697SMiklos Szeredi if (!hardlink) { 39138b25697SMiklos Szeredi err = posix_acl_create(dentry->d_parent->d_inode, 39238b25697SMiklos Szeredi &stat->mode, &default_acl, &acl); 39338b25697SMiklos Szeredi if (err) 39438b25697SMiklos Szeredi return err; 39538b25697SMiklos Szeredi } 39638b25697SMiklos Szeredi 397e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 398e9be9d5eSMiklos Szeredi if (err) 399e9be9d5eSMiklos Szeredi goto out; 400e9be9d5eSMiklos Szeredi 401e9be9d5eSMiklos Szeredi newdentry = ovl_lookup_temp(workdir, dentry); 402e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 403e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 404e9be9d5eSMiklos Szeredi goto out_unlock; 405e9be9d5eSMiklos Szeredi 406e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 407e9be9d5eSMiklos Szeredi dentry->d_name.len); 408e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 409e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 410e9be9d5eSMiklos Szeredi goto out_dput; 411e9be9d5eSMiklos Szeredi 412e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, newdentry, stat, link, hardlink, true); 413e9be9d5eSMiklos Szeredi if (err) 414e9be9d5eSMiklos Szeredi goto out_dput2; 415e9be9d5eSMiklos Szeredi 416bb0d2b8aSMiklos Szeredi /* 417bb0d2b8aSMiklos Szeredi * mode could have been mutilated due to umask (e.g. sgid directory) 418bb0d2b8aSMiklos Szeredi */ 41951f7e52dSMiklos Szeredi if (!hardlink && 42051f7e52dSMiklos Szeredi !S_ISLNK(stat->mode) && newdentry->d_inode->i_mode != stat->mode) { 421bb0d2b8aSMiklos Szeredi struct iattr attr = { 422bb0d2b8aSMiklos Szeredi .ia_valid = ATTR_MODE, 423bb0d2b8aSMiklos Szeredi .ia_mode = stat->mode, 424bb0d2b8aSMiklos Szeredi }; 425bb0d2b8aSMiklos Szeredi inode_lock(newdentry->d_inode); 426bb0d2b8aSMiklos Szeredi err = notify_change(newdentry, &attr, NULL); 427bb0d2b8aSMiklos Szeredi inode_unlock(newdentry->d_inode); 428bb0d2b8aSMiklos Szeredi if (err) 429bb0d2b8aSMiklos Szeredi goto out_cleanup; 430bb0d2b8aSMiklos Szeredi } 43138b25697SMiklos Szeredi if (!hardlink) { 43238b25697SMiklos Szeredi err = ovl_set_upper_acl(newdentry, XATTR_NAME_POSIX_ACL_ACCESS, 43338b25697SMiklos Szeredi acl); 43438b25697SMiklos Szeredi if (err) 43538b25697SMiklos Szeredi goto out_cleanup; 43638b25697SMiklos Szeredi 43738b25697SMiklos Szeredi err = ovl_set_upper_acl(newdentry, XATTR_NAME_POSIX_ACL_DEFAULT, 43838b25697SMiklos Szeredi default_acl); 43938b25697SMiklos Szeredi if (err) 44038b25697SMiklos Szeredi goto out_cleanup; 44138b25697SMiklos Szeredi } 442bb0d2b8aSMiklos Szeredi 44351f7e52dSMiklos Szeredi if (!hardlink && S_ISDIR(stat->mode)) { 4445cf5b477SMiklos Szeredi err = ovl_set_opaque(dentry, newdentry); 445e9be9d5eSMiklos Szeredi if (err) 446e9be9d5eSMiklos Szeredi goto out_cleanup; 447e9be9d5eSMiklos Szeredi 448e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 449e9be9d5eSMiklos Szeredi RENAME_EXCHANGE); 450e9be9d5eSMiklos Szeredi if (err) 451e9be9d5eSMiklos Szeredi goto out_cleanup; 452e9be9d5eSMiklos Szeredi 453e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 454e9be9d5eSMiklos Szeredi } else { 455e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 0); 456e9be9d5eSMiklos Szeredi if (err) 457e9be9d5eSMiklos Szeredi goto out_cleanup; 458e9be9d5eSMiklos Szeredi } 45951f7e52dSMiklos Szeredi ovl_instantiate(dentry, inode, newdentry, !!hardlink); 460e9be9d5eSMiklos Szeredi newdentry = NULL; 461e9be9d5eSMiklos Szeredi out_dput2: 462e9be9d5eSMiklos Szeredi dput(upper); 463e9be9d5eSMiklos Szeredi out_dput: 464e9be9d5eSMiklos Szeredi dput(newdentry); 465e9be9d5eSMiklos Szeredi out_unlock: 466e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 467e9be9d5eSMiklos Szeredi out: 46838b25697SMiklos Szeredi if (!hardlink) { 46938b25697SMiklos Szeredi posix_acl_release(acl); 47038b25697SMiklos Szeredi posix_acl_release(default_acl); 47138b25697SMiklos Szeredi } 472e9be9d5eSMiklos Szeredi return err; 473e9be9d5eSMiklos Szeredi 474e9be9d5eSMiklos Szeredi out_cleanup: 475e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, newdentry); 476e9be9d5eSMiklos Szeredi goto out_dput2; 477e9be9d5eSMiklos Szeredi } 478e9be9d5eSMiklos Szeredi 47951f7e52dSMiklos Szeredi static int ovl_create_or_link(struct dentry *dentry, struct inode *inode, 48051f7e52dSMiklos Szeredi struct kstat *stat, const char *link, 48151f7e52dSMiklos Szeredi struct dentry *hardlink) 482e9be9d5eSMiklos Szeredi { 483e9be9d5eSMiklos Szeredi int err; 4841175b6b8SVivek Goyal const struct cred *old_cred; 4851175b6b8SVivek Goyal struct cred *override_cred; 486e9be9d5eSMiklos Szeredi 487e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 488e9be9d5eSMiklos Szeredi if (err) 48951f7e52dSMiklos Szeredi return err; 490bb0d2b8aSMiklos Szeredi 4913fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(dentry->d_sb); 492d0e13f5bSMiklos Szeredi err = -ENOMEM; 493d0e13f5bSMiklos Szeredi override_cred = prepare_creds(); 494d0e13f5bSMiklos Szeredi if (override_cred) { 495bb0d2b8aSMiklos Szeredi override_cred->fsuid = inode->i_uid; 496bb0d2b8aSMiklos Szeredi override_cred->fsgid = inode->i_gid; 4972602625bSVivek Goyal if (!hardlink) { 4982602625bSVivek Goyal err = security_dentry_create_files_as(dentry, 4992602625bSVivek Goyal stat->mode, &dentry->d_name, old_cred, 5002602625bSVivek Goyal override_cred); 5012602625bSVivek Goyal if (err) { 5022602625bSVivek Goyal put_cred(override_cred); 5032602625bSVivek Goyal goto out_revert_creds; 5042602625bSVivek Goyal } 5052602625bSVivek Goyal } 506d0e13f5bSMiklos Szeredi put_cred(override_creds(override_cred)); 507d0e13f5bSMiklos Szeredi put_cred(override_cred); 508e9be9d5eSMiklos Szeredi 509c412ce49SMiklos Szeredi if (!ovl_dentry_is_whiteout(dentry)) 51051f7e52dSMiklos Szeredi err = ovl_create_upper(dentry, inode, stat, link, 5111175b6b8SVivek Goyal hardlink); 5121175b6b8SVivek Goyal else 51351f7e52dSMiklos Szeredi err = ovl_create_over_whiteout(dentry, inode, stat, 514d0e13f5bSMiklos Szeredi link, hardlink); 515d0e13f5bSMiklos Szeredi } 5162602625bSVivek Goyal out_revert_creds: 517e9be9d5eSMiklos Szeredi revert_creds(old_cred); 518bb0d2b8aSMiklos Szeredi if (!err) { 519bb0d2b8aSMiklos Szeredi struct inode *realinode = d_inode(ovl_dentry_upper(dentry)); 520bb0d2b8aSMiklos Szeredi 521bb0d2b8aSMiklos Szeredi WARN_ON(inode->i_mode != realinode->i_mode); 522bb0d2b8aSMiklos Szeredi WARN_ON(!uid_eq(inode->i_uid, realinode->i_uid)); 523bb0d2b8aSMiklos Szeredi WARN_ON(!gid_eq(inode->i_gid, realinode->i_gid)); 524bb0d2b8aSMiklos Szeredi } 525e9be9d5eSMiklos Szeredi return err; 526e9be9d5eSMiklos Szeredi } 527e9be9d5eSMiklos Szeredi 528e9be9d5eSMiklos Szeredi static int ovl_create_object(struct dentry *dentry, int mode, dev_t rdev, 529e9be9d5eSMiklos Szeredi const char *link) 530e9be9d5eSMiklos Szeredi { 531e9be9d5eSMiklos Szeredi int err; 53251f7e52dSMiklos Szeredi struct inode *inode; 53351f7e52dSMiklos Szeredi struct kstat stat = { 53451f7e52dSMiklos Szeredi .rdev = rdev, 53551f7e52dSMiklos Szeredi }; 536e9be9d5eSMiklos Szeredi 537e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 53851f7e52dSMiklos Szeredi if (err) 53951f7e52dSMiklos Szeredi goto out; 540e9be9d5eSMiklos Szeredi 54151f7e52dSMiklos Szeredi err = -ENOMEM; 542ca4c8a3aSMiklos Szeredi inode = ovl_new_inode(dentry->d_sb, mode, rdev); 54351f7e52dSMiklos Szeredi if (!inode) 54451f7e52dSMiklos Szeredi goto out_drop_write; 54551f7e52dSMiklos Szeredi 54651f7e52dSMiklos Szeredi inode_init_owner(inode, dentry->d_parent->d_inode, mode); 54751f7e52dSMiklos Szeredi stat.mode = inode->i_mode; 54851f7e52dSMiklos Szeredi 54951f7e52dSMiklos Szeredi err = ovl_create_or_link(dentry, inode, &stat, link, NULL); 55051f7e52dSMiklos Szeredi if (err) 55151f7e52dSMiklos Szeredi iput(inode); 55251f7e52dSMiklos Szeredi 55351f7e52dSMiklos Szeredi out_drop_write: 55451f7e52dSMiklos Szeredi ovl_drop_write(dentry); 55551f7e52dSMiklos Szeredi out: 556e9be9d5eSMiklos Szeredi return err; 557e9be9d5eSMiklos Szeredi } 558e9be9d5eSMiklos Szeredi 559e9be9d5eSMiklos Szeredi static int ovl_create(struct inode *dir, struct dentry *dentry, umode_t mode, 560e9be9d5eSMiklos Szeredi bool excl) 561e9be9d5eSMiklos Szeredi { 562e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFREG, 0, NULL); 563e9be9d5eSMiklos Szeredi } 564e9be9d5eSMiklos Szeredi 565e9be9d5eSMiklos Szeredi static int ovl_mkdir(struct inode *dir, struct dentry *dentry, umode_t mode) 566e9be9d5eSMiklos Szeredi { 567e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFDIR, 0, NULL); 568e9be9d5eSMiklos Szeredi } 569e9be9d5eSMiklos Szeredi 570e9be9d5eSMiklos Szeredi static int ovl_mknod(struct inode *dir, struct dentry *dentry, umode_t mode, 571e9be9d5eSMiklos Szeredi dev_t rdev) 572e9be9d5eSMiklos Szeredi { 573e9be9d5eSMiklos Szeredi /* Don't allow creation of "whiteout" on overlay */ 574e9be9d5eSMiklos Szeredi if (S_ISCHR(mode) && rdev == WHITEOUT_DEV) 575e9be9d5eSMiklos Szeredi return -EPERM; 576e9be9d5eSMiklos Szeredi 577e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, mode, rdev, NULL); 578e9be9d5eSMiklos Szeredi } 579e9be9d5eSMiklos Szeredi 580e9be9d5eSMiklos Szeredi static int ovl_symlink(struct inode *dir, struct dentry *dentry, 581e9be9d5eSMiklos Szeredi const char *link) 582e9be9d5eSMiklos Szeredi { 583e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, S_IFLNK, 0, link); 584e9be9d5eSMiklos Szeredi } 585e9be9d5eSMiklos Szeredi 586e9be9d5eSMiklos Szeredi static int ovl_link(struct dentry *old, struct inode *newdir, 587e9be9d5eSMiklos Szeredi struct dentry *new) 588e9be9d5eSMiklos Szeredi { 589e9be9d5eSMiklos Szeredi int err; 59051f7e52dSMiklos Szeredi struct inode *inode; 591e9be9d5eSMiklos Szeredi 592e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 593e9be9d5eSMiklos Szeredi if (err) 594e9be9d5eSMiklos Szeredi goto out; 595e9be9d5eSMiklos Szeredi 596e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 597e9be9d5eSMiklos Szeredi if (err) 598e9be9d5eSMiklos Szeredi goto out_drop_write; 599e9be9d5eSMiklos Szeredi 60051f7e52dSMiklos Szeredi inode = d_inode(old); 60151f7e52dSMiklos Szeredi ihold(inode); 60251f7e52dSMiklos Szeredi 60351f7e52dSMiklos Szeredi err = ovl_create_or_link(new, inode, NULL, NULL, ovl_dentry_upper(old)); 60451f7e52dSMiklos Szeredi if (err) 60551f7e52dSMiklos Szeredi iput(inode); 606e9be9d5eSMiklos Szeredi 607e9be9d5eSMiklos Szeredi out_drop_write: 608e9be9d5eSMiklos Szeredi ovl_drop_write(old); 609e9be9d5eSMiklos Szeredi out: 610e9be9d5eSMiklos Szeredi return err; 611e9be9d5eSMiklos Szeredi } 612e9be9d5eSMiklos Szeredi 613a105d685SMiklos Szeredi static int ovl_remove_and_whiteout(struct dentry *dentry, bool is_dir) 614e9be9d5eSMiklos Szeredi { 615e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 616e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 617e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 618e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 619e9be9d5eSMiklos Szeredi struct dentry *whiteout; 620e9be9d5eSMiklos Szeredi struct dentry *upper; 621e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 622e9be9d5eSMiklos Szeredi int err; 623cfc9fde0SMaxim Patlasov int flags = 0; 624e9be9d5eSMiklos Szeredi 625cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 626cc6f67bcSMiklos Szeredi return -EROFS; 627cc6f67bcSMiklos Szeredi 628d377c5ebSMiklos Szeredi if (is_dir) { 629a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(dentry); 630e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 631e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 632e9be9d5eSMiklos Szeredi goto out; 633e9be9d5eSMiklos Szeredi } 634e9be9d5eSMiklos Szeredi 635e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 636e9be9d5eSMiklos Szeredi if (err) 637e9be9d5eSMiklos Szeredi goto out_dput; 638e9be9d5eSMiklos Szeredi 639e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 640e9be9d5eSMiklos Szeredi dentry->d_name.len); 641e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 642e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 643cfc9fde0SMaxim Patlasov goto out_unlock; 644e9be9d5eSMiklos Szeredi 645e9be9d5eSMiklos Szeredi err = -ESTALE; 646cfc9fde0SMaxim Patlasov if ((opaquedir && upper != opaquedir) || 647cfc9fde0SMaxim Patlasov (!opaquedir && ovl_dentry_upper(dentry) && 648cfc9fde0SMaxim Patlasov upper != ovl_dentry_upper(dentry))) { 649cfc9fde0SMaxim Patlasov goto out_dput_upper; 650cfc9fde0SMaxim Patlasov } 651e9be9d5eSMiklos Szeredi 652cfc9fde0SMaxim Patlasov whiteout = ovl_whiteout(workdir, dentry); 653cfc9fde0SMaxim Patlasov err = PTR_ERR(whiteout); 654cfc9fde0SMaxim Patlasov if (IS_ERR(whiteout)) 655cfc9fde0SMaxim Patlasov goto out_dput_upper; 656cfc9fde0SMaxim Patlasov 657cfc9fde0SMaxim Patlasov if (d_is_dir(upper)) 658cfc9fde0SMaxim Patlasov flags = RENAME_EXCHANGE; 659e9be9d5eSMiklos Szeredi 660e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, whiteout, udir, upper, flags); 661e9be9d5eSMiklos Szeredi if (err) 662e9be9d5eSMiklos Szeredi goto kill_whiteout; 663cfc9fde0SMaxim Patlasov if (flags) 664e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 665cfc9fde0SMaxim Patlasov 666e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 667e9be9d5eSMiklos Szeredi out_d_drop: 668e9be9d5eSMiklos Szeredi d_drop(dentry); 669e9be9d5eSMiklos Szeredi dput(whiteout); 670cfc9fde0SMaxim Patlasov out_dput_upper: 671cfc9fde0SMaxim Patlasov dput(upper); 672e9be9d5eSMiklos Szeredi out_unlock: 673e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 674e9be9d5eSMiklos Szeredi out_dput: 675e9be9d5eSMiklos Szeredi dput(opaquedir); 676e9be9d5eSMiklos Szeredi out: 677e9be9d5eSMiklos Szeredi return err; 678e9be9d5eSMiklos Szeredi 679e9be9d5eSMiklos Szeredi kill_whiteout: 680e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, whiteout); 681e9be9d5eSMiklos Szeredi goto out_d_drop; 682e9be9d5eSMiklos Szeredi } 683e9be9d5eSMiklos Szeredi 684e9be9d5eSMiklos Szeredi static int ovl_remove_upper(struct dentry *dentry, bool is_dir) 685e9be9d5eSMiklos Szeredi { 686e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 687e9be9d5eSMiklos Szeredi struct inode *dir = upperdir->d_inode; 68811f37104SMiklos Szeredi struct dentry *upper; 689d1595119SAmir Goldstein struct dentry *opaquedir = NULL; 690e9be9d5eSMiklos Szeredi int err; 691e9be9d5eSMiklos Szeredi 692d1595119SAmir Goldstein /* Redirect dir can be !ovl_lower_positive && OVL_TYPE_MERGE */ 693d1595119SAmir Goldstein if (is_dir && ovl_dentry_get_redirect(dentry)) { 694d1595119SAmir Goldstein opaquedir = ovl_check_empty_and_clear(dentry); 695d1595119SAmir Goldstein err = PTR_ERR(opaquedir); 696d1595119SAmir Goldstein if (IS_ERR(opaquedir)) 697d1595119SAmir Goldstein goto out; 698d1595119SAmir Goldstein } 699d1595119SAmir Goldstein 7005955102cSAl Viro inode_lock_nested(dir, I_MUTEX_PARENT); 70111f37104SMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 70211f37104SMiklos Szeredi dentry->d_name.len); 70311f37104SMiklos Szeredi err = PTR_ERR(upper); 70411f37104SMiklos Szeredi if (IS_ERR(upper)) 70511f37104SMiklos Szeredi goto out_unlock; 70611f37104SMiklos Szeredi 707e9be9d5eSMiklos Szeredi err = -ESTALE; 708d1595119SAmir Goldstein if ((opaquedir && upper != opaquedir) || 709d1595119SAmir Goldstein (!opaquedir && upper != ovl_dentry_upper(dentry))) 710d1595119SAmir Goldstein goto out_dput_upper; 711d1595119SAmir Goldstein 712e9be9d5eSMiklos Szeredi if (is_dir) 713e9be9d5eSMiklos Szeredi err = vfs_rmdir(dir, upper); 714e9be9d5eSMiklos Szeredi else 715e9be9d5eSMiklos Szeredi err = vfs_unlink(dir, upper, NULL); 716e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 717e9be9d5eSMiklos Szeredi 718e9be9d5eSMiklos Szeredi /* 719e9be9d5eSMiklos Szeredi * Keeping this dentry hashed would mean having to release 720e9be9d5eSMiklos Szeredi * upperpath/lowerpath, which could only be done if we are the 721e9be9d5eSMiklos Szeredi * sole user of this dentry. Too tricky... Just unhash for 722e9be9d5eSMiklos Szeredi * now. 723e9be9d5eSMiklos Szeredi */ 724ce9113bbSRui Wang if (!err) 725e9be9d5eSMiklos Szeredi d_drop(dentry); 726d1595119SAmir Goldstein out_dput_upper: 727d1595119SAmir Goldstein dput(upper); 72811f37104SMiklos Szeredi out_unlock: 7295955102cSAl Viro inode_unlock(dir); 730d1595119SAmir Goldstein dput(opaquedir); 731d1595119SAmir Goldstein out: 732e9be9d5eSMiklos Szeredi return err; 733e9be9d5eSMiklos Szeredi } 734e9be9d5eSMiklos Szeredi 735e9be9d5eSMiklos Szeredi static int ovl_do_remove(struct dentry *dentry, bool is_dir) 736e9be9d5eSMiklos Szeredi { 737e9be9d5eSMiklos Szeredi enum ovl_path_type type; 738e9be9d5eSMiklos Szeredi int err; 7391175b6b8SVivek Goyal const struct cred *old_cred; 7401175b6b8SVivek Goyal 741e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 742e9be9d5eSMiklos Szeredi if (err) 743e9be9d5eSMiklos Szeredi goto out; 744e9be9d5eSMiklos Szeredi 745e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 746e9be9d5eSMiklos Szeredi if (err) 747e9be9d5eSMiklos Szeredi goto out_drop_write; 748e9be9d5eSMiklos Szeredi 749e9be9d5eSMiklos Szeredi type = ovl_path_type(dentry); 7501175b6b8SVivek Goyal 7511175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 7522aff4534SMiklos Szeredi if (!ovl_lower_positive(dentry)) 753e9be9d5eSMiklos Szeredi err = ovl_remove_upper(dentry, is_dir); 7541175b6b8SVivek Goyal else 755a105d685SMiklos Szeredi err = ovl_remove_and_whiteout(dentry, is_dir); 756e9be9d5eSMiklos Szeredi revert_creds(old_cred); 757dbc816d0SMiklos Szeredi if (!err) { 758dbc816d0SMiklos Szeredi if (is_dir) 759dbc816d0SMiklos Szeredi clear_nlink(dentry->d_inode); 760dbc816d0SMiklos Szeredi else 76151f7e52dSMiklos Szeredi drop_nlink(dentry->d_inode); 762dbc816d0SMiklos Szeredi } 763e9be9d5eSMiklos Szeredi out_drop_write: 764e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 765e9be9d5eSMiklos Szeredi out: 766e9be9d5eSMiklos Szeredi return err; 767e9be9d5eSMiklos Szeredi } 768e9be9d5eSMiklos Szeredi 769e9be9d5eSMiklos Szeredi static int ovl_unlink(struct inode *dir, struct dentry *dentry) 770e9be9d5eSMiklos Szeredi { 771e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, false); 772e9be9d5eSMiklos Szeredi } 773e9be9d5eSMiklos Szeredi 774e9be9d5eSMiklos Szeredi static int ovl_rmdir(struct inode *dir, struct dentry *dentry) 775e9be9d5eSMiklos Szeredi { 776e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, true); 777e9be9d5eSMiklos Szeredi } 778e9be9d5eSMiklos Szeredi 779370e55acSMiklos Szeredi static bool ovl_type_merge_or_lower(struct dentry *dentry) 780370e55acSMiklos Szeredi { 781370e55acSMiklos Szeredi enum ovl_path_type type = ovl_path_type(dentry); 782370e55acSMiklos Szeredi 783370e55acSMiklos Szeredi return OVL_TYPE_MERGE(type) || !OVL_TYPE_UPPER(type); 784370e55acSMiklos Szeredi } 785370e55acSMiklos Szeredi 786a6c60655SMiklos Szeredi static bool ovl_can_move(struct dentry *dentry) 787a6c60655SMiklos Szeredi { 788a6c60655SMiklos Szeredi return ovl_redirect_dir(dentry->d_sb) || 789a6c60655SMiklos Szeredi !d_is_dir(dentry) || !ovl_type_merge_or_lower(dentry); 790a6c60655SMiklos Szeredi } 791a6c60655SMiklos Szeredi 792a6c60655SMiklos Szeredi static char *ovl_get_redirect(struct dentry *dentry, bool samedir) 793a6c60655SMiklos Szeredi { 794a6c60655SMiklos Szeredi char *buf, *ret; 795a6c60655SMiklos Szeredi struct dentry *d, *tmp; 7963ea22a71SMiklos Szeredi int buflen = ovl_redirect_max + 1; 797a6c60655SMiklos Szeredi 798a6c60655SMiklos Szeredi if (samedir) { 799a6c60655SMiklos Szeredi ret = kstrndup(dentry->d_name.name, dentry->d_name.len, 800a6c60655SMiklos Szeredi GFP_KERNEL); 801a6c60655SMiklos Szeredi goto out; 802a6c60655SMiklos Szeredi } 803a6c60655SMiklos Szeredi 804a6c60655SMiklos Szeredi buf = ret = kmalloc(buflen, GFP_TEMPORARY); 805a6c60655SMiklos Szeredi if (!buf) 806a6c60655SMiklos Szeredi goto out; 807a6c60655SMiklos Szeredi 808a6c60655SMiklos Szeredi buflen--; 809a6c60655SMiklos Szeredi buf[buflen] = '\0'; 810a6c60655SMiklos Szeredi for (d = dget(dentry); !IS_ROOT(d);) { 811a6c60655SMiklos Szeredi const char *name; 812a6c60655SMiklos Szeredi int thislen; 813a6c60655SMiklos Szeredi 814a6c60655SMiklos Szeredi spin_lock(&d->d_lock); 815a6c60655SMiklos Szeredi name = ovl_dentry_get_redirect(d); 816a6c60655SMiklos Szeredi if (name) { 817a6c60655SMiklos Szeredi thislen = strlen(name); 818a6c60655SMiklos Szeredi } else { 819a6c60655SMiklos Szeredi name = d->d_name.name; 820a6c60655SMiklos Szeredi thislen = d->d_name.len; 821a6c60655SMiklos Szeredi } 822a6c60655SMiklos Szeredi 823a6c60655SMiklos Szeredi /* If path is too long, fall back to userspace move */ 824a6c60655SMiklos Szeredi if (thislen + (name[0] != '/') > buflen) { 825a6c60655SMiklos Szeredi ret = ERR_PTR(-EXDEV); 826a6c60655SMiklos Szeredi spin_unlock(&d->d_lock); 827a6c60655SMiklos Szeredi goto out_put; 828a6c60655SMiklos Szeredi } 829a6c60655SMiklos Szeredi 830a6c60655SMiklos Szeredi buflen -= thislen; 831a6c60655SMiklos Szeredi memcpy(&buf[buflen], name, thislen); 832a6c60655SMiklos Szeredi tmp = dget_dlock(d->d_parent); 833a6c60655SMiklos Szeredi spin_unlock(&d->d_lock); 834a6c60655SMiklos Szeredi 835a6c60655SMiklos Szeredi dput(d); 836a6c60655SMiklos Szeredi d = tmp; 837a6c60655SMiklos Szeredi 838a6c60655SMiklos Szeredi /* Absolute redirect: finished */ 839a6c60655SMiklos Szeredi if (buf[buflen] == '/') 840a6c60655SMiklos Szeredi break; 841a6c60655SMiklos Szeredi buflen--; 842a6c60655SMiklos Szeredi buf[buflen] = '/'; 843a6c60655SMiklos Szeredi } 844a6c60655SMiklos Szeredi ret = kstrdup(&buf[buflen], GFP_KERNEL); 845a6c60655SMiklos Szeredi out_put: 846a6c60655SMiklos Szeredi dput(d); 847a6c60655SMiklos Szeredi kfree(buf); 848a6c60655SMiklos Szeredi out: 849a6c60655SMiklos Szeredi return ret ? ret : ERR_PTR(-ENOMEM); 850a6c60655SMiklos Szeredi } 851a6c60655SMiklos Szeredi 852a6c60655SMiklos Szeredi static int ovl_set_redirect(struct dentry *dentry, bool samedir) 853a6c60655SMiklos Szeredi { 854a6c60655SMiklos Szeredi int err; 855a6c60655SMiklos Szeredi const char *redirect = ovl_dentry_get_redirect(dentry); 856a6c60655SMiklos Szeredi 857a6c60655SMiklos Szeredi if (redirect && (samedir || redirect[0] == '/')) 858a6c60655SMiklos Szeredi return 0; 859a6c60655SMiklos Szeredi 860a6c60655SMiklos Szeredi redirect = ovl_get_redirect(dentry, samedir); 861a6c60655SMiklos Szeredi if (IS_ERR(redirect)) 862a6c60655SMiklos Szeredi return PTR_ERR(redirect); 863a6c60655SMiklos Szeredi 864a6c60655SMiklos Szeredi err = ovl_do_setxattr(ovl_dentry_upper(dentry), OVL_XATTR_REDIRECT, 865a6c60655SMiklos Szeredi redirect, strlen(redirect), 0); 866a6c60655SMiklos Szeredi if (!err) { 867a6c60655SMiklos Szeredi spin_lock(&dentry->d_lock); 868a6c60655SMiklos Szeredi ovl_dentry_set_redirect(dentry, redirect); 869a6c60655SMiklos Szeredi spin_unlock(&dentry->d_lock); 870a6c60655SMiklos Szeredi } else { 871a6c60655SMiklos Szeredi kfree(redirect); 872a6c60655SMiklos Szeredi if (err == -EOPNOTSUPP) 873a6c60655SMiklos Szeredi ovl_clear_redirect_dir(dentry->d_sb); 874a6c60655SMiklos Szeredi else 875a6c60655SMiklos Szeredi pr_warn_ratelimited("overlay: failed to set redirect (%i)\n", err); 876a6c60655SMiklos Szeredi /* Fall back to userspace copy-up */ 877a6c60655SMiklos Szeredi err = -EXDEV; 878a6c60655SMiklos Szeredi } 879a6c60655SMiklos Szeredi return err; 880a6c60655SMiklos Szeredi } 881a6c60655SMiklos Szeredi 8826c02cb59SMiklos Szeredi static int ovl_rename(struct inode *olddir, struct dentry *old, 883e9be9d5eSMiklos Szeredi struct inode *newdir, struct dentry *new, 884e9be9d5eSMiklos Szeredi unsigned int flags) 885e9be9d5eSMiklos Szeredi { 886e9be9d5eSMiklos Szeredi int err; 887e9be9d5eSMiklos Szeredi struct dentry *old_upperdir; 888e9be9d5eSMiklos Szeredi struct dentry *new_upperdir; 889e9be9d5eSMiklos Szeredi struct dentry *olddentry; 890e9be9d5eSMiklos Szeredi struct dentry *newdentry; 891e9be9d5eSMiklos Szeredi struct dentry *trap; 892e9be9d5eSMiklos Szeredi bool old_opaque; 893e9be9d5eSMiklos Szeredi bool new_opaque; 894e9be9d5eSMiklos Szeredi bool cleanup_whiteout = false; 895e9be9d5eSMiklos Szeredi bool overwrite = !(flags & RENAME_EXCHANGE); 896e36cb0b8SDavid Howells bool is_dir = d_is_dir(old); 897370e55acSMiklos Szeredi bool new_is_dir = d_is_dir(new); 898a6c60655SMiklos Szeredi bool samedir = olddir == newdir; 899e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 900e9be9d5eSMiklos Szeredi const struct cred *old_cred = NULL; 901e9be9d5eSMiklos Szeredi 902e9be9d5eSMiklos Szeredi err = -EINVAL; 903e9be9d5eSMiklos Szeredi if (flags & ~(RENAME_EXCHANGE | RENAME_NOREPLACE)) 904e9be9d5eSMiklos Szeredi goto out; 905e9be9d5eSMiklos Szeredi 906e9be9d5eSMiklos Szeredi flags &= ~RENAME_NOREPLACE; 907e9be9d5eSMiklos Szeredi 908e9be9d5eSMiklos Szeredi /* Don't copy up directory trees */ 909e9be9d5eSMiklos Szeredi err = -EXDEV; 910a6c60655SMiklos Szeredi if (!ovl_can_move(old)) 911e9be9d5eSMiklos Szeredi goto out; 912a6c60655SMiklos Szeredi if (!overwrite && !ovl_can_move(new)) 913e9be9d5eSMiklos Szeredi goto out; 914e9be9d5eSMiklos Szeredi 915e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 916e9be9d5eSMiklos Szeredi if (err) 917e9be9d5eSMiklos Szeredi goto out; 918e9be9d5eSMiklos Szeredi 919e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 920e9be9d5eSMiklos Szeredi if (err) 921e9be9d5eSMiklos Szeredi goto out_drop_write; 922e9be9d5eSMiklos Szeredi 923e9be9d5eSMiklos Szeredi err = ovl_copy_up(new->d_parent); 924e9be9d5eSMiklos Szeredi if (err) 925e9be9d5eSMiklos Szeredi goto out_drop_write; 926e9be9d5eSMiklos Szeredi if (!overwrite) { 927e9be9d5eSMiklos Szeredi err = ovl_copy_up(new); 928e9be9d5eSMiklos Szeredi if (err) 929e9be9d5eSMiklos Szeredi goto out_drop_write; 930e9be9d5eSMiklos Szeredi } 931e9be9d5eSMiklos Szeredi 9323fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(old->d_sb); 933e9be9d5eSMiklos Szeredi 934370e55acSMiklos Szeredi if (overwrite && new_is_dir && ovl_type_merge_or_lower(new)) { 935a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(new); 936e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 937e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) { 938e9be9d5eSMiklos Szeredi opaquedir = NULL; 939e9be9d5eSMiklos Szeredi goto out_revert_creds; 940e9be9d5eSMiklos Szeredi } 941e9be9d5eSMiklos Szeredi } 942e9be9d5eSMiklos Szeredi 943e9be9d5eSMiklos Szeredi if (overwrite) { 9442aff4534SMiklos Szeredi if (ovl_lower_positive(old)) { 945c412ce49SMiklos Szeredi if (!ovl_dentry_is_whiteout(new)) { 946e9be9d5eSMiklos Szeredi /* Whiteout source */ 947e9be9d5eSMiklos Szeredi flags |= RENAME_WHITEOUT; 948e9be9d5eSMiklos Szeredi } else { 949e9be9d5eSMiklos Szeredi /* Switch whiteouts */ 950e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 951e9be9d5eSMiklos Szeredi } 952c412ce49SMiklos Szeredi } else if (is_dir && ovl_dentry_is_whiteout(new)) { 953e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 954e9be9d5eSMiklos Szeredi cleanup_whiteout = true; 955e9be9d5eSMiklos Szeredi } 956e9be9d5eSMiklos Szeredi } 957e9be9d5eSMiklos Szeredi 958e9be9d5eSMiklos Szeredi old_upperdir = ovl_dentry_upper(old->d_parent); 959e9be9d5eSMiklos Szeredi new_upperdir = ovl_dentry_upper(new->d_parent); 960e9be9d5eSMiklos Szeredi 961e9be9d5eSMiklos Szeredi trap = lock_rename(new_upperdir, old_upperdir); 962e9be9d5eSMiklos Szeredi 96311f37104SMiklos Szeredi olddentry = lookup_one_len(old->d_name.name, old_upperdir, 96411f37104SMiklos Szeredi old->d_name.len); 96511f37104SMiklos Szeredi err = PTR_ERR(olddentry); 96611f37104SMiklos Szeredi if (IS_ERR(olddentry)) 96711f37104SMiklos Szeredi goto out_unlock; 96811f37104SMiklos Szeredi 96911f37104SMiklos Szeredi err = -ESTALE; 97011f37104SMiklos Szeredi if (olddentry != ovl_dentry_upper(old)) 97111f37104SMiklos Szeredi goto out_dput_old; 97211f37104SMiklos Szeredi 973e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(new->d_name.name, new_upperdir, 974e9be9d5eSMiklos Szeredi new->d_name.len); 975e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 976e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 97711f37104SMiklos Szeredi goto out_dput_old; 978e9be9d5eSMiklos Szeredi 9793ee23ff1SMiklos Szeredi old_opaque = ovl_dentry_is_opaque(old); 9803ee23ff1SMiklos Szeredi new_opaque = ovl_dentry_is_opaque(new); 9813ee23ff1SMiklos Szeredi 982e9be9d5eSMiklos Szeredi err = -ESTALE; 98311f37104SMiklos Szeredi if (ovl_dentry_upper(new)) { 98411f37104SMiklos Szeredi if (opaquedir) { 98511f37104SMiklos Szeredi if (newdentry != opaquedir) 986e9be9d5eSMiklos Szeredi goto out_dput; 98711f37104SMiklos Szeredi } else { 98811f37104SMiklos Szeredi if (newdentry != ovl_dentry_upper(new)) 989e9be9d5eSMiklos Szeredi goto out_dput; 99011f37104SMiklos Szeredi } 99111f37104SMiklos Szeredi } else { 99211f37104SMiklos Szeredi if (!d_is_negative(newdentry) && 99311f37104SMiklos Szeredi (!new_opaque || !ovl_is_whiteout(newdentry))) 99411f37104SMiklos Szeredi goto out_dput; 99511f37104SMiklos Szeredi } 99611f37104SMiklos Szeredi 997e9be9d5eSMiklos Szeredi if (olddentry == trap) 998e9be9d5eSMiklos Szeredi goto out_dput; 999e9be9d5eSMiklos Szeredi if (newdentry == trap) 1000e9be9d5eSMiklos Szeredi goto out_dput; 1001e9be9d5eSMiklos Szeredi 1002804032faSMiklos Szeredi if (WARN_ON(olddentry->d_inode == newdentry->d_inode)) 1003804032faSMiklos Szeredi goto out_dput; 1004804032faSMiklos Szeredi 10055cf5b477SMiklos Szeredi err = 0; 1006a6c60655SMiklos Szeredi if (is_dir) { 10075cf5b477SMiklos Szeredi if (ovl_type_merge_or_lower(old)) 1008a6c60655SMiklos Szeredi err = ovl_set_redirect(old, samedir); 10095cf5b477SMiklos Szeredi else if (!old_opaque && ovl_lower_positive(new)) 10105cf5b477SMiklos Szeredi err = ovl_set_opaque(old, olddentry); 1011a6c60655SMiklos Szeredi if (err) 1012a6c60655SMiklos Szeredi goto out_dput; 1013a6c60655SMiklos Szeredi } 1014a6c60655SMiklos Szeredi if (!overwrite && new_is_dir) { 10155cf5b477SMiklos Szeredi if (ovl_type_merge_or_lower(new)) 1016a6c60655SMiklos Szeredi err = ovl_set_redirect(new, samedir); 10175cf5b477SMiklos Szeredi else if (!new_opaque && ovl_lower_positive(old)) 10185cf5b477SMiklos Szeredi err = ovl_set_opaque(new, newdentry); 1019a6c60655SMiklos Szeredi if (err) 1020a6c60655SMiklos Szeredi goto out_dput; 1021a6c60655SMiklos Szeredi } 1022e9be9d5eSMiklos Szeredi 1023e9be9d5eSMiklos Szeredi err = ovl_do_rename(old_upperdir->d_inode, olddentry, 10243ee23ff1SMiklos Szeredi new_upperdir->d_inode, newdentry, flags); 10253ee23ff1SMiklos Szeredi if (err) 1026e9be9d5eSMiklos Szeredi goto out_dput; 1027e9be9d5eSMiklos Szeredi 1028e9be9d5eSMiklos Szeredi if (cleanup_whiteout) 1029e9be9d5eSMiklos Szeredi ovl_cleanup(old_upperdir->d_inode, newdentry); 1030e9be9d5eSMiklos Szeredi 1031e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(old->d_parent); 1032e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(new->d_parent); 1033e9be9d5eSMiklos Szeredi 1034e9be9d5eSMiklos Szeredi out_dput: 1035e9be9d5eSMiklos Szeredi dput(newdentry); 103611f37104SMiklos Szeredi out_dput_old: 103711f37104SMiklos Szeredi dput(olddentry); 1038e9be9d5eSMiklos Szeredi out_unlock: 1039e9be9d5eSMiklos Szeredi unlock_rename(new_upperdir, old_upperdir); 1040e9be9d5eSMiklos Szeredi out_revert_creds: 1041e9be9d5eSMiklos Szeredi revert_creds(old_cred); 1042e9be9d5eSMiklos Szeredi out_drop_write: 1043e9be9d5eSMiklos Szeredi ovl_drop_write(old); 1044e9be9d5eSMiklos Szeredi out: 1045e9be9d5eSMiklos Szeredi dput(opaquedir); 1046e9be9d5eSMiklos Szeredi return err; 1047e9be9d5eSMiklos Szeredi } 1048e9be9d5eSMiklos Szeredi 1049e9be9d5eSMiklos Szeredi const struct inode_operations ovl_dir_inode_operations = { 1050e9be9d5eSMiklos Szeredi .lookup = ovl_lookup, 1051e9be9d5eSMiklos Szeredi .mkdir = ovl_mkdir, 1052e9be9d5eSMiklos Szeredi .symlink = ovl_symlink, 1053e9be9d5eSMiklos Szeredi .unlink = ovl_unlink, 1054e9be9d5eSMiklos Szeredi .rmdir = ovl_rmdir, 10556c02cb59SMiklos Szeredi .rename = ovl_rename, 1056e9be9d5eSMiklos Szeredi .link = ovl_link, 1057e9be9d5eSMiklos Szeredi .setattr = ovl_setattr, 1058e9be9d5eSMiklos Szeredi .create = ovl_create, 1059e9be9d5eSMiklos Szeredi .mknod = ovl_mknod, 1060e9be9d5eSMiklos Szeredi .permission = ovl_permission, 1061e9be9d5eSMiklos Szeredi .getattr = ovl_dir_getattr, 1062e9be9d5eSMiklos Szeredi .listxattr = ovl_listxattr, 106339a25b2bSVivek Goyal .get_acl = ovl_get_acl, 1064d719e8f2SMiklos Szeredi .update_time = ovl_update_time, 1065e9be9d5eSMiklos Szeredi }; 1066