1e9be9d5eSMiklos Szeredi /* 2e9be9d5eSMiklos Szeredi * 3e9be9d5eSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 4e9be9d5eSMiklos Szeredi * 5e9be9d5eSMiklos Szeredi * This program is free software; you can redistribute it and/or modify it 6e9be9d5eSMiklos Szeredi * under the terms of the GNU General Public License version 2 as published by 7e9be9d5eSMiklos Szeredi * the Free Software Foundation. 8e9be9d5eSMiklos Szeredi */ 9e9be9d5eSMiklos Szeredi 10e9be9d5eSMiklos Szeredi #include <linux/fs.h> 11e9be9d5eSMiklos Szeredi #include <linux/namei.h> 12e9be9d5eSMiklos Szeredi #include <linux/xattr.h> 13e9be9d5eSMiklos Szeredi #include <linux/security.h> 14e9be9d5eSMiklos Szeredi #include <linux/cred.h> 15e9be9d5eSMiklos Szeredi #include "overlayfs.h" 16e9be9d5eSMiklos Szeredi 17e9be9d5eSMiklos Szeredi void ovl_cleanup(struct inode *wdir, struct dentry *wdentry) 18e9be9d5eSMiklos Szeredi { 19e9be9d5eSMiklos Szeredi int err; 20e9be9d5eSMiklos Szeredi 21e9be9d5eSMiklos Szeredi dget(wdentry); 22e36cb0b8SDavid Howells if (d_is_dir(wdentry)) 23e9be9d5eSMiklos Szeredi err = ovl_do_rmdir(wdir, wdentry); 24e9be9d5eSMiklos Szeredi else 25e9be9d5eSMiklos Szeredi err = ovl_do_unlink(wdir, wdentry); 26e9be9d5eSMiklos Szeredi dput(wdentry); 27e9be9d5eSMiklos Szeredi 28e9be9d5eSMiklos Szeredi if (err) { 29e9be9d5eSMiklos Szeredi pr_err("overlayfs: cleanup of '%pd2' failed (%i)\n", 30e9be9d5eSMiklos Szeredi wdentry, err); 31e9be9d5eSMiklos Szeredi } 32e9be9d5eSMiklos Szeredi } 33e9be9d5eSMiklos Szeredi 34e9be9d5eSMiklos Szeredi struct dentry *ovl_lookup_temp(struct dentry *workdir, struct dentry *dentry) 35e9be9d5eSMiklos Szeredi { 36e9be9d5eSMiklos Szeredi struct dentry *temp; 37e9be9d5eSMiklos Szeredi char name[20]; 38e9be9d5eSMiklos Szeredi 39e9be9d5eSMiklos Szeredi snprintf(name, sizeof(name), "#%lx", (unsigned long) dentry); 40e9be9d5eSMiklos Szeredi 41e9be9d5eSMiklos Szeredi temp = lookup_one_len(name, workdir, strlen(name)); 42e9be9d5eSMiklos Szeredi if (!IS_ERR(temp) && temp->d_inode) { 43e9be9d5eSMiklos Szeredi pr_err("overlayfs: workdir/%s already exists\n", name); 44e9be9d5eSMiklos Szeredi dput(temp); 45e9be9d5eSMiklos Szeredi temp = ERR_PTR(-EIO); 46e9be9d5eSMiklos Szeredi } 47e9be9d5eSMiklos Szeredi 48e9be9d5eSMiklos Szeredi return temp; 49e9be9d5eSMiklos Szeredi } 50e9be9d5eSMiklos Szeredi 51e9be9d5eSMiklos Szeredi /* caller holds i_mutex on workdir */ 52e9be9d5eSMiklos Szeredi static struct dentry *ovl_whiteout(struct dentry *workdir, 53e9be9d5eSMiklos Szeredi struct dentry *dentry) 54e9be9d5eSMiklos Szeredi { 55e9be9d5eSMiklos Szeredi int err; 56e9be9d5eSMiklos Szeredi struct dentry *whiteout; 57e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 58e9be9d5eSMiklos Szeredi 59e9be9d5eSMiklos Szeredi whiteout = ovl_lookup_temp(workdir, dentry); 60e9be9d5eSMiklos Szeredi if (IS_ERR(whiteout)) 61e9be9d5eSMiklos Szeredi return whiteout; 62e9be9d5eSMiklos Szeredi 63e9be9d5eSMiklos Szeredi err = ovl_do_whiteout(wdir, whiteout); 64e9be9d5eSMiklos Szeredi if (err) { 65e9be9d5eSMiklos Szeredi dput(whiteout); 66e9be9d5eSMiklos Szeredi whiteout = ERR_PTR(err); 67e9be9d5eSMiklos Szeredi } 68e9be9d5eSMiklos Szeredi 69e9be9d5eSMiklos Szeredi return whiteout; 70e9be9d5eSMiklos Szeredi } 71e9be9d5eSMiklos Szeredi 72e9be9d5eSMiklos Szeredi int ovl_create_real(struct inode *dir, struct dentry *newdentry, 73e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 74e9be9d5eSMiklos Szeredi struct dentry *hardlink, bool debug) 75e9be9d5eSMiklos Szeredi { 76e9be9d5eSMiklos Szeredi int err; 77e9be9d5eSMiklos Szeredi 78e9be9d5eSMiklos Szeredi if (newdentry->d_inode) 79e9be9d5eSMiklos Szeredi return -ESTALE; 80e9be9d5eSMiklos Szeredi 81e9be9d5eSMiklos Szeredi if (hardlink) { 82e9be9d5eSMiklos Szeredi err = ovl_do_link(hardlink, dir, newdentry, debug); 83e9be9d5eSMiklos Szeredi } else { 84e9be9d5eSMiklos Szeredi switch (stat->mode & S_IFMT) { 85e9be9d5eSMiklos Szeredi case S_IFREG: 86e9be9d5eSMiklos Szeredi err = ovl_do_create(dir, newdentry, stat->mode, debug); 87e9be9d5eSMiklos Szeredi break; 88e9be9d5eSMiklos Szeredi 89e9be9d5eSMiklos Szeredi case S_IFDIR: 90e9be9d5eSMiklos Szeredi err = ovl_do_mkdir(dir, newdentry, stat->mode, debug); 91e9be9d5eSMiklos Szeredi break; 92e9be9d5eSMiklos Szeredi 93e9be9d5eSMiklos Szeredi case S_IFCHR: 94e9be9d5eSMiklos Szeredi case S_IFBLK: 95e9be9d5eSMiklos Szeredi case S_IFIFO: 96e9be9d5eSMiklos Szeredi case S_IFSOCK: 97e9be9d5eSMiklos Szeredi err = ovl_do_mknod(dir, newdentry, 98e9be9d5eSMiklos Szeredi stat->mode, stat->rdev, debug); 99e9be9d5eSMiklos Szeredi break; 100e9be9d5eSMiklos Szeredi 101e9be9d5eSMiklos Szeredi case S_IFLNK: 102e9be9d5eSMiklos Szeredi err = ovl_do_symlink(dir, newdentry, link, debug); 103e9be9d5eSMiklos Szeredi break; 104e9be9d5eSMiklos Szeredi 105e9be9d5eSMiklos Szeredi default: 106e9be9d5eSMiklos Szeredi err = -EPERM; 107e9be9d5eSMiklos Szeredi } 108e9be9d5eSMiklos Szeredi } 109e9be9d5eSMiklos Szeredi if (!err && WARN_ON(!newdentry->d_inode)) { 110e9be9d5eSMiklos Szeredi /* 111e9be9d5eSMiklos Szeredi * Not quite sure if non-instantiated dentry is legal or not. 112e9be9d5eSMiklos Szeredi * VFS doesn't seem to care so check and warn here. 113e9be9d5eSMiklos Szeredi */ 114e9be9d5eSMiklos Szeredi err = -ENOENT; 115e9be9d5eSMiklos Szeredi } 116e9be9d5eSMiklos Szeredi return err; 117e9be9d5eSMiklos Szeredi } 118e9be9d5eSMiklos Szeredi 119e9be9d5eSMiklos Szeredi static int ovl_set_opaque(struct dentry *upperdentry) 120e9be9d5eSMiklos Szeredi { 121cead89bbShujianyang return ovl_do_setxattr(upperdentry, OVL_XATTR_OPAQUE, "y", 1, 0); 122e9be9d5eSMiklos Szeredi } 123e9be9d5eSMiklos Szeredi 124e9be9d5eSMiklos Szeredi static void ovl_remove_opaque(struct dentry *upperdentry) 125e9be9d5eSMiklos Szeredi { 126e9be9d5eSMiklos Szeredi int err; 127e9be9d5eSMiklos Szeredi 128cead89bbShujianyang err = ovl_do_removexattr(upperdentry, OVL_XATTR_OPAQUE); 129e9be9d5eSMiklos Szeredi if (err) { 130e9be9d5eSMiklos Szeredi pr_warn("overlayfs: failed to remove opaque from '%s' (%i)\n", 131e9be9d5eSMiklos Szeredi upperdentry->d_name.name, err); 132e9be9d5eSMiklos Szeredi } 133e9be9d5eSMiklos Szeredi } 134e9be9d5eSMiklos Szeredi 135e9be9d5eSMiklos Szeredi static int ovl_dir_getattr(struct vfsmount *mnt, struct dentry *dentry, 136e9be9d5eSMiklos Szeredi struct kstat *stat) 137e9be9d5eSMiklos Szeredi { 138e9be9d5eSMiklos Szeredi int err; 139e9be9d5eSMiklos Szeredi enum ovl_path_type type; 140e9be9d5eSMiklos Szeredi struct path realpath; 1411175b6b8SVivek Goyal const struct cred *old_cred; 142e9be9d5eSMiklos Szeredi 143e9be9d5eSMiklos Szeredi type = ovl_path_real(dentry, &realpath); 1441175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 145e9be9d5eSMiklos Szeredi err = vfs_getattr(&realpath, stat); 1461175b6b8SVivek Goyal revert_creds(old_cred); 147e9be9d5eSMiklos Szeredi if (err) 148e9be9d5eSMiklos Szeredi return err; 149e9be9d5eSMiklos Szeredi 150e9be9d5eSMiklos Szeredi stat->dev = dentry->d_sb->s_dev; 151e9be9d5eSMiklos Szeredi stat->ino = dentry->d_inode->i_ino; 152e9be9d5eSMiklos Szeredi 153e9be9d5eSMiklos Szeredi /* 154e9be9d5eSMiklos Szeredi * It's probably not worth it to count subdirs to get the 155e9be9d5eSMiklos Szeredi * correct link count. nlink=1 seems to pacify 'find' and 156e9be9d5eSMiklos Szeredi * other utilities. 157e9be9d5eSMiklos Szeredi */ 1581afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE(type)) 159e9be9d5eSMiklos Szeredi stat->nlink = 1; 160e9be9d5eSMiklos Szeredi 161e9be9d5eSMiklos Szeredi return 0; 162e9be9d5eSMiklos Szeredi } 163e9be9d5eSMiklos Szeredi 16472e48481SVivek Goyal /* Common operations required to be done after creation of file on upper */ 16572e48481SVivek Goyal static void ovl_instantiate(struct dentry *dentry, struct inode *inode, 16672e48481SVivek Goyal struct dentry *newdentry) 16772e48481SVivek Goyal { 16872e48481SVivek Goyal ovl_dentry_version_inc(dentry->d_parent); 16972e48481SVivek Goyal ovl_dentry_update(dentry, newdentry); 17072e48481SVivek Goyal ovl_copyattr(newdentry->d_inode, inode); 17172e48481SVivek Goyal d_instantiate(dentry, inode); 17272e48481SVivek Goyal } 17372e48481SVivek Goyal 174e9be9d5eSMiklos Szeredi static int ovl_create_upper(struct dentry *dentry, struct inode *inode, 175e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 176e9be9d5eSMiklos Szeredi struct dentry *hardlink) 177e9be9d5eSMiklos Szeredi { 178e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 179e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 180e9be9d5eSMiklos Szeredi struct dentry *newdentry; 181e9be9d5eSMiklos Szeredi int err; 182e9be9d5eSMiklos Szeredi 1835955102cSAl Viro inode_lock_nested(udir, I_MUTEX_PARENT); 184e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(dentry->d_name.name, upperdir, 185e9be9d5eSMiklos Szeredi dentry->d_name.len); 186e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 187e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 188e9be9d5eSMiklos Szeredi goto out_unlock; 189e9be9d5eSMiklos Szeredi err = ovl_create_real(udir, newdentry, stat, link, hardlink, false); 190e9be9d5eSMiklos Szeredi if (err) 191e9be9d5eSMiklos Szeredi goto out_dput; 192e9be9d5eSMiklos Szeredi 19372e48481SVivek Goyal ovl_instantiate(dentry, inode, newdentry); 194e9be9d5eSMiklos Szeredi newdentry = NULL; 195e9be9d5eSMiklos Szeredi out_dput: 196e9be9d5eSMiklos Szeredi dput(newdentry); 197e9be9d5eSMiklos Szeredi out_unlock: 1985955102cSAl Viro inode_unlock(udir); 199e9be9d5eSMiklos Szeredi return err; 200e9be9d5eSMiklos Szeredi } 201e9be9d5eSMiklos Szeredi 202e9be9d5eSMiklos Szeredi static int ovl_lock_rename_workdir(struct dentry *workdir, 203e9be9d5eSMiklos Szeredi struct dentry *upperdir) 204e9be9d5eSMiklos Szeredi { 205e9be9d5eSMiklos Szeredi /* Workdir should not be the same as upperdir */ 206e9be9d5eSMiklos Szeredi if (workdir == upperdir) 207e9be9d5eSMiklos Szeredi goto err; 208e9be9d5eSMiklos Szeredi 209e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */ 210e9be9d5eSMiklos Szeredi if (lock_rename(workdir, upperdir) != NULL) 211e9be9d5eSMiklos Szeredi goto err_unlock; 212e9be9d5eSMiklos Szeredi 213e9be9d5eSMiklos Szeredi return 0; 214e9be9d5eSMiklos Szeredi 215e9be9d5eSMiklos Szeredi err_unlock: 216e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 217e9be9d5eSMiklos Szeredi err: 218e9be9d5eSMiklos Szeredi pr_err("overlayfs: failed to lock workdir+upperdir\n"); 219e9be9d5eSMiklos Szeredi return -EIO; 220e9be9d5eSMiklos Szeredi } 221e9be9d5eSMiklos Szeredi 222e9be9d5eSMiklos Szeredi static struct dentry *ovl_clear_empty(struct dentry *dentry, 223e9be9d5eSMiklos Szeredi struct list_head *list) 224e9be9d5eSMiklos Szeredi { 225e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 226e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 227e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 228e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 229e9be9d5eSMiklos Szeredi struct path upperpath; 230e9be9d5eSMiklos Szeredi struct dentry *upper; 231e9be9d5eSMiklos Szeredi struct dentry *opaquedir; 232e9be9d5eSMiklos Szeredi struct kstat stat; 233e9be9d5eSMiklos Szeredi int err; 234e9be9d5eSMiklos Szeredi 235cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 236cc6f67bcSMiklos Szeredi return ERR_PTR(-EROFS); 237cc6f67bcSMiklos Szeredi 238e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 239e9be9d5eSMiklos Szeredi if (err) 240e9be9d5eSMiklos Szeredi goto out; 241e9be9d5eSMiklos Szeredi 242e9be9d5eSMiklos Szeredi ovl_path_upper(dentry, &upperpath); 243e9be9d5eSMiklos Szeredi err = vfs_getattr(&upperpath, &stat); 244e9be9d5eSMiklos Szeredi if (err) 245e9be9d5eSMiklos Szeredi goto out_unlock; 246e9be9d5eSMiklos Szeredi 247e9be9d5eSMiklos Szeredi err = -ESTALE; 248e9be9d5eSMiklos Szeredi if (!S_ISDIR(stat.mode)) 249e9be9d5eSMiklos Szeredi goto out_unlock; 250e9be9d5eSMiklos Szeredi upper = upperpath.dentry; 251e9be9d5eSMiklos Szeredi if (upper->d_parent->d_inode != udir) 252e9be9d5eSMiklos Szeredi goto out_unlock; 253e9be9d5eSMiklos Szeredi 254e9be9d5eSMiklos Szeredi opaquedir = ovl_lookup_temp(workdir, dentry); 255e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 256e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 257e9be9d5eSMiklos Szeredi goto out_unlock; 258e9be9d5eSMiklos Szeredi 259e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, opaquedir, &stat, NULL, NULL, true); 260e9be9d5eSMiklos Szeredi if (err) 261e9be9d5eSMiklos Szeredi goto out_dput; 262e9be9d5eSMiklos Szeredi 263e9be9d5eSMiklos Szeredi err = ovl_copy_xattr(upper, opaquedir); 264e9be9d5eSMiklos Szeredi if (err) 265e9be9d5eSMiklos Szeredi goto out_cleanup; 266e9be9d5eSMiklos Szeredi 267e9be9d5eSMiklos Szeredi err = ovl_set_opaque(opaquedir); 268e9be9d5eSMiklos Szeredi if (err) 269e9be9d5eSMiklos Szeredi goto out_cleanup; 270e9be9d5eSMiklos Szeredi 2715955102cSAl Viro inode_lock(opaquedir->d_inode); 272e9be9d5eSMiklos Szeredi err = ovl_set_attr(opaquedir, &stat); 2735955102cSAl Viro inode_unlock(opaquedir->d_inode); 274e9be9d5eSMiklos Szeredi if (err) 275e9be9d5eSMiklos Szeredi goto out_cleanup; 276e9be9d5eSMiklos Szeredi 277e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, opaquedir, udir, upper, RENAME_EXCHANGE); 278e9be9d5eSMiklos Szeredi if (err) 279e9be9d5eSMiklos Szeredi goto out_cleanup; 280e9be9d5eSMiklos Szeredi 281e9be9d5eSMiklos Szeredi ovl_cleanup_whiteouts(upper, list); 282e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 283e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 284e9be9d5eSMiklos Szeredi 285e9be9d5eSMiklos Szeredi /* dentry's upper doesn't match now, get rid of it */ 286e9be9d5eSMiklos Szeredi d_drop(dentry); 287e9be9d5eSMiklos Szeredi 288e9be9d5eSMiklos Szeredi return opaquedir; 289e9be9d5eSMiklos Szeredi 290e9be9d5eSMiklos Szeredi out_cleanup: 291e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, opaquedir); 292e9be9d5eSMiklos Szeredi out_dput: 293e9be9d5eSMiklos Szeredi dput(opaquedir); 294e9be9d5eSMiklos Szeredi out_unlock: 295e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 296e9be9d5eSMiklos Szeredi out: 297e9be9d5eSMiklos Szeredi return ERR_PTR(err); 298e9be9d5eSMiklos Szeredi } 299e9be9d5eSMiklos Szeredi 300a105d685SMiklos Szeredi static struct dentry *ovl_check_empty_and_clear(struct dentry *dentry) 301e9be9d5eSMiklos Szeredi { 302e9be9d5eSMiklos Szeredi int err; 303e9be9d5eSMiklos Szeredi struct dentry *ret = NULL; 304e9be9d5eSMiklos Szeredi LIST_HEAD(list); 305e9be9d5eSMiklos Szeredi 306e9be9d5eSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 307e9be9d5eSMiklos Szeredi if (err) 308e9be9d5eSMiklos Szeredi ret = ERR_PTR(err); 309a105d685SMiklos Szeredi else { 310a105d685SMiklos Szeredi /* 311a105d685SMiklos Szeredi * If no upperdentry then skip clearing whiteouts. 312a105d685SMiklos Szeredi * 313a105d685SMiklos Szeredi * Can race with copy-up, since we don't hold the upperdir 314a105d685SMiklos Szeredi * mutex. Doesn't matter, since copy-up can't create a 315a105d685SMiklos Szeredi * non-empty directory from an empty one. 316a105d685SMiklos Szeredi */ 317a105d685SMiklos Szeredi if (ovl_dentry_upper(dentry)) 318e9be9d5eSMiklos Szeredi ret = ovl_clear_empty(dentry, &list); 319a105d685SMiklos Szeredi } 320e9be9d5eSMiklos Szeredi 321e9be9d5eSMiklos Szeredi ovl_cache_free(&list); 322e9be9d5eSMiklos Szeredi 323e9be9d5eSMiklos Szeredi return ret; 324e9be9d5eSMiklos Szeredi } 325e9be9d5eSMiklos Szeredi 326e9be9d5eSMiklos Szeredi static int ovl_create_over_whiteout(struct dentry *dentry, struct inode *inode, 327e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 328e9be9d5eSMiklos Szeredi struct dentry *hardlink) 329e9be9d5eSMiklos Szeredi { 330e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 331e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 332e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 333e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 334e9be9d5eSMiklos Szeredi struct dentry *upper; 335e9be9d5eSMiklos Szeredi struct dentry *newdentry; 336e9be9d5eSMiklos Szeredi int err; 337e9be9d5eSMiklos Szeredi 338cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 339cc6f67bcSMiklos Szeredi return -EROFS; 340cc6f67bcSMiklos Szeredi 341e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 342e9be9d5eSMiklos Szeredi if (err) 343e9be9d5eSMiklos Szeredi goto out; 344e9be9d5eSMiklos Szeredi 345e9be9d5eSMiklos Szeredi newdentry = ovl_lookup_temp(workdir, dentry); 346e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 347e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 348e9be9d5eSMiklos Szeredi goto out_unlock; 349e9be9d5eSMiklos Szeredi 350e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 351e9be9d5eSMiklos Szeredi dentry->d_name.len); 352e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 353e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 354e9be9d5eSMiklos Szeredi goto out_dput; 355e9be9d5eSMiklos Szeredi 356e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, newdentry, stat, link, hardlink, true); 357e9be9d5eSMiklos Szeredi if (err) 358e9be9d5eSMiklos Szeredi goto out_dput2; 359e9be9d5eSMiklos Szeredi 360bb0d2b8aSMiklos Szeredi /* 361bb0d2b8aSMiklos Szeredi * mode could have been mutilated due to umask (e.g. sgid directory) 362bb0d2b8aSMiklos Szeredi */ 363bb0d2b8aSMiklos Szeredi if (!S_ISLNK(stat->mode) && newdentry->d_inode->i_mode != stat->mode) { 364bb0d2b8aSMiklos Szeredi struct iattr attr = { 365bb0d2b8aSMiklos Szeredi .ia_valid = ATTR_MODE, 366bb0d2b8aSMiklos Szeredi .ia_mode = stat->mode, 367bb0d2b8aSMiklos Szeredi }; 368bb0d2b8aSMiklos Szeredi inode_lock(newdentry->d_inode); 369bb0d2b8aSMiklos Szeredi err = notify_change(newdentry, &attr, NULL); 370bb0d2b8aSMiklos Szeredi inode_unlock(newdentry->d_inode); 371bb0d2b8aSMiklos Szeredi if (err) 372bb0d2b8aSMiklos Szeredi goto out_cleanup; 373bb0d2b8aSMiklos Szeredi } 374bb0d2b8aSMiklos Szeredi 375e9be9d5eSMiklos Szeredi if (S_ISDIR(stat->mode)) { 376e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 377e9be9d5eSMiklos Szeredi if (err) 378e9be9d5eSMiklos Szeredi goto out_cleanup; 379e9be9d5eSMiklos Szeredi 380e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 381e9be9d5eSMiklos Szeredi RENAME_EXCHANGE); 382e9be9d5eSMiklos Szeredi if (err) 383e9be9d5eSMiklos Szeredi goto out_cleanup; 384e9be9d5eSMiklos Szeredi 385e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 386e9be9d5eSMiklos Szeredi } else { 387e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 0); 388e9be9d5eSMiklos Szeredi if (err) 389e9be9d5eSMiklos Szeredi goto out_cleanup; 390e9be9d5eSMiklos Szeredi } 39172e48481SVivek Goyal ovl_instantiate(dentry, inode, newdentry); 392e9be9d5eSMiklos Szeredi newdentry = NULL; 393e9be9d5eSMiklos Szeredi out_dput2: 394e9be9d5eSMiklos Szeredi dput(upper); 395e9be9d5eSMiklos Szeredi out_dput: 396e9be9d5eSMiklos Szeredi dput(newdentry); 397e9be9d5eSMiklos Szeredi out_unlock: 398e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 399e9be9d5eSMiklos Szeredi out: 400e9be9d5eSMiklos Szeredi return err; 401e9be9d5eSMiklos Szeredi 402e9be9d5eSMiklos Szeredi out_cleanup: 403e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, newdentry); 404e9be9d5eSMiklos Szeredi goto out_dput2; 405e9be9d5eSMiklos Szeredi } 406e9be9d5eSMiklos Szeredi 407e9be9d5eSMiklos Szeredi static int ovl_create_or_link(struct dentry *dentry, int mode, dev_t rdev, 408e9be9d5eSMiklos Szeredi const char *link, struct dentry *hardlink) 409e9be9d5eSMiklos Szeredi { 410e9be9d5eSMiklos Szeredi int err; 411e9be9d5eSMiklos Szeredi struct inode *inode; 4121175b6b8SVivek Goyal const struct cred *old_cred; 4131175b6b8SVivek Goyal struct cred *override_cred; 414e9be9d5eSMiklos Szeredi struct kstat stat = { 415e9be9d5eSMiklos Szeredi .rdev = rdev, 416e9be9d5eSMiklos Szeredi }; 417e9be9d5eSMiklos Szeredi 418e9be9d5eSMiklos Szeredi err = -ENOMEM; 419e9be9d5eSMiklos Szeredi inode = ovl_new_inode(dentry->d_sb, mode, dentry->d_fsdata); 420e9be9d5eSMiklos Szeredi if (!inode) 421e9be9d5eSMiklos Szeredi goto out; 422e9be9d5eSMiklos Szeredi 423e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 424e9be9d5eSMiklos Szeredi if (err) 425e9be9d5eSMiklos Szeredi goto out_iput; 426e9be9d5eSMiklos Szeredi 427bb0d2b8aSMiklos Szeredi inode_init_owner(inode, dentry->d_parent->d_inode, mode); 428bb0d2b8aSMiklos Szeredi stat.mode = inode->i_mode; 429bb0d2b8aSMiklos Szeredi 4303fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(dentry->d_sb); 431d0e13f5bSMiklos Szeredi err = -ENOMEM; 432d0e13f5bSMiklos Szeredi override_cred = prepare_creds(); 433d0e13f5bSMiklos Szeredi if (override_cred) { 434bb0d2b8aSMiklos Szeredi override_cred->fsuid = inode->i_uid; 435bb0d2b8aSMiklos Szeredi override_cred->fsgid = inode->i_gid; 436d0e13f5bSMiklos Szeredi put_cred(override_creds(override_cred)); 437d0e13f5bSMiklos Szeredi put_cred(override_cred); 438e9be9d5eSMiklos Szeredi 4391175b6b8SVivek Goyal if (!ovl_dentry_is_opaque(dentry)) 4401175b6b8SVivek Goyal err = ovl_create_upper(dentry, inode, &stat, link, 4411175b6b8SVivek Goyal hardlink); 4421175b6b8SVivek Goyal else 443d0e13f5bSMiklos Szeredi err = ovl_create_over_whiteout(dentry, inode, &stat, 444d0e13f5bSMiklos Szeredi link, hardlink); 445d0e13f5bSMiklos Szeredi } 446e9be9d5eSMiklos Szeredi revert_creds(old_cred); 447bb0d2b8aSMiklos Szeredi if (!err) { 448bb0d2b8aSMiklos Szeredi struct inode *realinode = d_inode(ovl_dentry_upper(dentry)); 449bb0d2b8aSMiklos Szeredi 450bb0d2b8aSMiklos Szeredi WARN_ON(inode->i_mode != realinode->i_mode); 451bb0d2b8aSMiklos Szeredi WARN_ON(!uid_eq(inode->i_uid, realinode->i_uid)); 452bb0d2b8aSMiklos Szeredi WARN_ON(!gid_eq(inode->i_gid, realinode->i_gid)); 453e9be9d5eSMiklos Szeredi inode = NULL; 454bb0d2b8aSMiklos Szeredi } 455e9be9d5eSMiklos Szeredi out_iput: 456e9be9d5eSMiklos Szeredi iput(inode); 457e9be9d5eSMiklos Szeredi out: 458e9be9d5eSMiklos Szeredi return err; 459e9be9d5eSMiklos Szeredi } 460e9be9d5eSMiklos Szeredi 461e9be9d5eSMiklos Szeredi static int ovl_create_object(struct dentry *dentry, int mode, dev_t rdev, 462e9be9d5eSMiklos Szeredi const char *link) 463e9be9d5eSMiklos Szeredi { 464e9be9d5eSMiklos Szeredi int err; 465e9be9d5eSMiklos Szeredi 466e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 467e9be9d5eSMiklos Szeredi if (!err) { 468e9be9d5eSMiklos Szeredi err = ovl_create_or_link(dentry, mode, rdev, link, NULL); 469e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 470e9be9d5eSMiklos Szeredi } 471e9be9d5eSMiklos Szeredi 472e9be9d5eSMiklos Szeredi return err; 473e9be9d5eSMiklos Szeredi } 474e9be9d5eSMiklos Szeredi 475e9be9d5eSMiklos Szeredi static int ovl_create(struct inode *dir, struct dentry *dentry, umode_t mode, 476e9be9d5eSMiklos Szeredi bool excl) 477e9be9d5eSMiklos Szeredi { 478e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFREG, 0, NULL); 479e9be9d5eSMiklos Szeredi } 480e9be9d5eSMiklos Szeredi 481e9be9d5eSMiklos Szeredi static int ovl_mkdir(struct inode *dir, struct dentry *dentry, umode_t mode) 482e9be9d5eSMiklos Szeredi { 483e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFDIR, 0, NULL); 484e9be9d5eSMiklos Szeredi } 485e9be9d5eSMiklos Szeredi 486e9be9d5eSMiklos Szeredi static int ovl_mknod(struct inode *dir, struct dentry *dentry, umode_t mode, 487e9be9d5eSMiklos Szeredi dev_t rdev) 488e9be9d5eSMiklos Szeredi { 489e9be9d5eSMiklos Szeredi /* Don't allow creation of "whiteout" on overlay */ 490e9be9d5eSMiklos Szeredi if (S_ISCHR(mode) && rdev == WHITEOUT_DEV) 491e9be9d5eSMiklos Szeredi return -EPERM; 492e9be9d5eSMiklos Szeredi 493e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, mode, rdev, NULL); 494e9be9d5eSMiklos Szeredi } 495e9be9d5eSMiklos Szeredi 496e9be9d5eSMiklos Szeredi static int ovl_symlink(struct inode *dir, struct dentry *dentry, 497e9be9d5eSMiklos Szeredi const char *link) 498e9be9d5eSMiklos Szeredi { 499e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, S_IFLNK, 0, link); 500e9be9d5eSMiklos Szeredi } 501e9be9d5eSMiklos Szeredi 502e9be9d5eSMiklos Szeredi static int ovl_link(struct dentry *old, struct inode *newdir, 503e9be9d5eSMiklos Szeredi struct dentry *new) 504e9be9d5eSMiklos Szeredi { 505e9be9d5eSMiklos Szeredi int err; 506e9be9d5eSMiklos Szeredi struct dentry *upper; 507e9be9d5eSMiklos Szeredi 508e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 509e9be9d5eSMiklos Szeredi if (err) 510e9be9d5eSMiklos Szeredi goto out; 511e9be9d5eSMiklos Szeredi 512e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 513e9be9d5eSMiklos Szeredi if (err) 514e9be9d5eSMiklos Szeredi goto out_drop_write; 515e9be9d5eSMiklos Szeredi 516e9be9d5eSMiklos Szeredi upper = ovl_dentry_upper(old); 517e9be9d5eSMiklos Szeredi err = ovl_create_or_link(new, upper->d_inode->i_mode, 0, NULL, upper); 518e9be9d5eSMiklos Szeredi 519e9be9d5eSMiklos Szeredi out_drop_write: 520e9be9d5eSMiklos Szeredi ovl_drop_write(old); 521e9be9d5eSMiklos Szeredi out: 522e9be9d5eSMiklos Szeredi return err; 523e9be9d5eSMiklos Szeredi } 524e9be9d5eSMiklos Szeredi 525a105d685SMiklos Szeredi static int ovl_remove_and_whiteout(struct dentry *dentry, bool is_dir) 526e9be9d5eSMiklos Szeredi { 527e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 528e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 529e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 530e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 531e9be9d5eSMiklos Szeredi struct dentry *whiteout; 532e9be9d5eSMiklos Szeredi struct dentry *upper; 533e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 534e9be9d5eSMiklos Szeredi int err; 535cfc9fde0SMaxim Patlasov int flags = 0; 536e9be9d5eSMiklos Szeredi 537cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 538cc6f67bcSMiklos Szeredi return -EROFS; 539cc6f67bcSMiklos Szeredi 540d377c5ebSMiklos Szeredi if (is_dir) { 541d377c5ebSMiklos Szeredi if (OVL_TYPE_MERGE_OR_LOWER(ovl_path_type(dentry))) { 542a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(dentry); 543e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 544e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 545e9be9d5eSMiklos Szeredi goto out; 546d377c5ebSMiklos Szeredi } else { 547d377c5ebSMiklos Szeredi LIST_HEAD(list); 548d377c5ebSMiklos Szeredi 549d377c5ebSMiklos Szeredi /* 550d377c5ebSMiklos Szeredi * When removing an empty opaque directory, then it 551d377c5ebSMiklos Szeredi * makes no sense to replace it with an exact replica of 552d377c5ebSMiklos Szeredi * itself. But emptiness still needs to be checked. 553d377c5ebSMiklos Szeredi */ 554d377c5ebSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 555d377c5ebSMiklos Szeredi ovl_cache_free(&list); 556d377c5ebSMiklos Szeredi if (err) 557d377c5ebSMiklos Szeredi goto out; 558d377c5ebSMiklos Szeredi } 559e9be9d5eSMiklos Szeredi } 560e9be9d5eSMiklos Szeredi 561e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 562e9be9d5eSMiklos Szeredi if (err) 563e9be9d5eSMiklos Szeredi goto out_dput; 564e9be9d5eSMiklos Szeredi 565e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 566e9be9d5eSMiklos Szeredi dentry->d_name.len); 567e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 568e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 569cfc9fde0SMaxim Patlasov goto out_unlock; 570e9be9d5eSMiklos Szeredi 571e9be9d5eSMiklos Szeredi err = -ESTALE; 572cfc9fde0SMaxim Patlasov if ((opaquedir && upper != opaquedir) || 573cfc9fde0SMaxim Patlasov (!opaquedir && ovl_dentry_upper(dentry) && 574cfc9fde0SMaxim Patlasov upper != ovl_dentry_upper(dentry))) { 575cfc9fde0SMaxim Patlasov goto out_dput_upper; 576cfc9fde0SMaxim Patlasov } 577e9be9d5eSMiklos Szeredi 578cfc9fde0SMaxim Patlasov whiteout = ovl_whiteout(workdir, dentry); 579cfc9fde0SMaxim Patlasov err = PTR_ERR(whiteout); 580cfc9fde0SMaxim Patlasov if (IS_ERR(whiteout)) 581cfc9fde0SMaxim Patlasov goto out_dput_upper; 582cfc9fde0SMaxim Patlasov 583cfc9fde0SMaxim Patlasov if (d_is_dir(upper)) 584cfc9fde0SMaxim Patlasov flags = RENAME_EXCHANGE; 585e9be9d5eSMiklos Szeredi 586e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, whiteout, udir, upper, flags); 587e9be9d5eSMiklos Szeredi if (err) 588e9be9d5eSMiklos Szeredi goto kill_whiteout; 589cfc9fde0SMaxim Patlasov if (flags) 590e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 591cfc9fde0SMaxim Patlasov 592e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 593e9be9d5eSMiklos Szeredi out_d_drop: 594e9be9d5eSMiklos Szeredi d_drop(dentry); 595e9be9d5eSMiklos Szeredi dput(whiteout); 596cfc9fde0SMaxim Patlasov out_dput_upper: 597cfc9fde0SMaxim Patlasov dput(upper); 598e9be9d5eSMiklos Szeredi out_unlock: 599e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 600e9be9d5eSMiklos Szeredi out_dput: 601e9be9d5eSMiklos Szeredi dput(opaquedir); 602e9be9d5eSMiklos Szeredi out: 603e9be9d5eSMiklos Szeredi return err; 604e9be9d5eSMiklos Szeredi 605e9be9d5eSMiklos Szeredi kill_whiteout: 606e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, whiteout); 607e9be9d5eSMiklos Szeredi goto out_d_drop; 608e9be9d5eSMiklos Szeredi } 609e9be9d5eSMiklos Szeredi 610e9be9d5eSMiklos Szeredi static int ovl_remove_upper(struct dentry *dentry, bool is_dir) 611e9be9d5eSMiklos Szeredi { 612e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 613e9be9d5eSMiklos Szeredi struct inode *dir = upperdir->d_inode; 61411f37104SMiklos Szeredi struct dentry *upper; 615e9be9d5eSMiklos Szeredi int err; 616e9be9d5eSMiklos Szeredi 6175955102cSAl Viro inode_lock_nested(dir, I_MUTEX_PARENT); 61811f37104SMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 61911f37104SMiklos Szeredi dentry->d_name.len); 62011f37104SMiklos Szeredi err = PTR_ERR(upper); 62111f37104SMiklos Szeredi if (IS_ERR(upper)) 62211f37104SMiklos Szeredi goto out_unlock; 62311f37104SMiklos Szeredi 624e9be9d5eSMiklos Szeredi err = -ESTALE; 62511f37104SMiklos Szeredi if (upper == ovl_dentry_upper(dentry)) { 626e9be9d5eSMiklos Szeredi if (is_dir) 627e9be9d5eSMiklos Szeredi err = vfs_rmdir(dir, upper); 628e9be9d5eSMiklos Szeredi else 629e9be9d5eSMiklos Szeredi err = vfs_unlink(dir, upper, NULL); 630e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 631e9be9d5eSMiklos Szeredi } 63211f37104SMiklos Szeredi dput(upper); 633e9be9d5eSMiklos Szeredi 634e9be9d5eSMiklos Szeredi /* 635e9be9d5eSMiklos Szeredi * Keeping this dentry hashed would mean having to release 636e9be9d5eSMiklos Szeredi * upperpath/lowerpath, which could only be done if we are the 637e9be9d5eSMiklos Szeredi * sole user of this dentry. Too tricky... Just unhash for 638e9be9d5eSMiklos Szeredi * now. 639e9be9d5eSMiklos Szeredi */ 640ce9113bbSRui Wang if (!err) 641e9be9d5eSMiklos Szeredi d_drop(dentry); 64211f37104SMiklos Szeredi out_unlock: 6435955102cSAl Viro inode_unlock(dir); 644e9be9d5eSMiklos Szeredi 645e9be9d5eSMiklos Szeredi return err; 646e9be9d5eSMiklos Szeredi } 647e9be9d5eSMiklos Szeredi 648e9be9d5eSMiklos Szeredi static inline int ovl_check_sticky(struct dentry *dentry) 649e9be9d5eSMiklos Szeredi { 650e9be9d5eSMiklos Szeredi struct inode *dir = ovl_dentry_real(dentry->d_parent)->d_inode; 651e9be9d5eSMiklos Szeredi struct inode *inode = ovl_dentry_real(dentry)->d_inode; 652e9be9d5eSMiklos Szeredi 653e9be9d5eSMiklos Szeredi if (check_sticky(dir, inode)) 654e9be9d5eSMiklos Szeredi return -EPERM; 655e9be9d5eSMiklos Szeredi 656e9be9d5eSMiklos Szeredi return 0; 657e9be9d5eSMiklos Szeredi } 658e9be9d5eSMiklos Szeredi 659e9be9d5eSMiklos Szeredi static int ovl_do_remove(struct dentry *dentry, bool is_dir) 660e9be9d5eSMiklos Szeredi { 661e9be9d5eSMiklos Szeredi enum ovl_path_type type; 662e9be9d5eSMiklos Szeredi int err; 6631175b6b8SVivek Goyal const struct cred *old_cred; 6641175b6b8SVivek Goyal 665e9be9d5eSMiklos Szeredi 666e9be9d5eSMiklos Szeredi err = ovl_check_sticky(dentry); 667e9be9d5eSMiklos Szeredi if (err) 668e9be9d5eSMiklos Szeredi goto out; 669e9be9d5eSMiklos Szeredi 670e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 671e9be9d5eSMiklos Szeredi if (err) 672e9be9d5eSMiklos Szeredi goto out; 673e9be9d5eSMiklos Szeredi 674e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 675e9be9d5eSMiklos Szeredi if (err) 676e9be9d5eSMiklos Szeredi goto out_drop_write; 677e9be9d5eSMiklos Szeredi 678e9be9d5eSMiklos Szeredi type = ovl_path_type(dentry); 6791175b6b8SVivek Goyal 6801175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 6811175b6b8SVivek Goyal if (OVL_TYPE_PURE_UPPER(type)) 682e9be9d5eSMiklos Szeredi err = ovl_remove_upper(dentry, is_dir); 6831175b6b8SVivek Goyal else 684a105d685SMiklos Szeredi err = ovl_remove_and_whiteout(dentry, is_dir); 685e9be9d5eSMiklos Szeredi revert_creds(old_cred); 686e9be9d5eSMiklos Szeredi out_drop_write: 687e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 688e9be9d5eSMiklos Szeredi out: 689e9be9d5eSMiklos Szeredi return err; 690e9be9d5eSMiklos Szeredi } 691e9be9d5eSMiklos Szeredi 692e9be9d5eSMiklos Szeredi static int ovl_unlink(struct inode *dir, struct dentry *dentry) 693e9be9d5eSMiklos Szeredi { 694e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, false); 695e9be9d5eSMiklos Szeredi } 696e9be9d5eSMiklos Szeredi 697e9be9d5eSMiklos Szeredi static int ovl_rmdir(struct inode *dir, struct dentry *dentry) 698e9be9d5eSMiklos Szeredi { 699e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, true); 700e9be9d5eSMiklos Szeredi } 701e9be9d5eSMiklos Szeredi 702e9be9d5eSMiklos Szeredi static int ovl_rename2(struct inode *olddir, struct dentry *old, 703e9be9d5eSMiklos Szeredi struct inode *newdir, struct dentry *new, 704e9be9d5eSMiklos Szeredi unsigned int flags) 705e9be9d5eSMiklos Szeredi { 706e9be9d5eSMiklos Szeredi int err; 707e9be9d5eSMiklos Szeredi enum ovl_path_type old_type; 708e9be9d5eSMiklos Szeredi enum ovl_path_type new_type; 709e9be9d5eSMiklos Szeredi struct dentry *old_upperdir; 710e9be9d5eSMiklos Szeredi struct dentry *new_upperdir; 711e9be9d5eSMiklos Szeredi struct dentry *olddentry; 712e9be9d5eSMiklos Szeredi struct dentry *newdentry; 713e9be9d5eSMiklos Szeredi struct dentry *trap; 714e9be9d5eSMiklos Szeredi bool old_opaque; 715e9be9d5eSMiklos Szeredi bool new_opaque; 716e9be9d5eSMiklos Szeredi bool cleanup_whiteout = false; 717e9be9d5eSMiklos Szeredi bool overwrite = !(flags & RENAME_EXCHANGE); 718e36cb0b8SDavid Howells bool is_dir = d_is_dir(old); 719e9be9d5eSMiklos Szeredi bool new_is_dir = false; 720e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 721e9be9d5eSMiklos Szeredi const struct cred *old_cred = NULL; 722e9be9d5eSMiklos Szeredi 723e9be9d5eSMiklos Szeredi err = -EINVAL; 724e9be9d5eSMiklos Szeredi if (flags & ~(RENAME_EXCHANGE | RENAME_NOREPLACE)) 725e9be9d5eSMiklos Szeredi goto out; 726e9be9d5eSMiklos Szeredi 727e9be9d5eSMiklos Szeredi flags &= ~RENAME_NOREPLACE; 728e9be9d5eSMiklos Szeredi 729e9be9d5eSMiklos Szeredi err = ovl_check_sticky(old); 730e9be9d5eSMiklos Szeredi if (err) 731e9be9d5eSMiklos Szeredi goto out; 732e9be9d5eSMiklos Szeredi 733e9be9d5eSMiklos Szeredi /* Don't copy up directory trees */ 734e9be9d5eSMiklos Szeredi old_type = ovl_path_type(old); 735e9be9d5eSMiklos Szeredi err = -EXDEV; 7361afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE_OR_LOWER(old_type) && is_dir) 737e9be9d5eSMiklos Szeredi goto out; 738e9be9d5eSMiklos Szeredi 739e9be9d5eSMiklos Szeredi if (new->d_inode) { 740e9be9d5eSMiklos Szeredi err = ovl_check_sticky(new); 741e9be9d5eSMiklos Szeredi if (err) 742e9be9d5eSMiklos Szeredi goto out; 743e9be9d5eSMiklos Szeredi 744e36cb0b8SDavid Howells if (d_is_dir(new)) 745e9be9d5eSMiklos Szeredi new_is_dir = true; 746e9be9d5eSMiklos Szeredi 747e9be9d5eSMiklos Szeredi new_type = ovl_path_type(new); 748e9be9d5eSMiklos Szeredi err = -EXDEV; 7491afaba1eSMiklos Szeredi if (!overwrite && OVL_TYPE_MERGE_OR_LOWER(new_type) && new_is_dir) 750e9be9d5eSMiklos Szeredi goto out; 751e9be9d5eSMiklos Szeredi 752e9be9d5eSMiklos Szeredi err = 0; 7531afaba1eSMiklos Szeredi if (!OVL_TYPE_UPPER(new_type) && !OVL_TYPE_UPPER(old_type)) { 754e9be9d5eSMiklos Szeredi if (ovl_dentry_lower(old)->d_inode == 755e9be9d5eSMiklos Szeredi ovl_dentry_lower(new)->d_inode) 756e9be9d5eSMiklos Szeredi goto out; 757e9be9d5eSMiklos Szeredi } 7581afaba1eSMiklos Szeredi if (OVL_TYPE_UPPER(new_type) && OVL_TYPE_UPPER(old_type)) { 759e9be9d5eSMiklos Szeredi if (ovl_dentry_upper(old)->d_inode == 760e9be9d5eSMiklos Szeredi ovl_dentry_upper(new)->d_inode) 761e9be9d5eSMiklos Szeredi goto out; 762e9be9d5eSMiklos Szeredi } 763e9be9d5eSMiklos Szeredi } else { 764e9be9d5eSMiklos Szeredi if (ovl_dentry_is_opaque(new)) 7651afaba1eSMiklos Szeredi new_type = __OVL_PATH_UPPER; 766e9be9d5eSMiklos Szeredi else 7671afaba1eSMiklos Szeredi new_type = __OVL_PATH_UPPER | __OVL_PATH_PURE; 768e9be9d5eSMiklos Szeredi } 769e9be9d5eSMiklos Szeredi 770e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 771e9be9d5eSMiklos Szeredi if (err) 772e9be9d5eSMiklos Szeredi goto out; 773e9be9d5eSMiklos Szeredi 774e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 775e9be9d5eSMiklos Szeredi if (err) 776e9be9d5eSMiklos Szeredi goto out_drop_write; 777e9be9d5eSMiklos Szeredi 778e9be9d5eSMiklos Szeredi err = ovl_copy_up(new->d_parent); 779e9be9d5eSMiklos Szeredi if (err) 780e9be9d5eSMiklos Szeredi goto out_drop_write; 781e9be9d5eSMiklos Szeredi if (!overwrite) { 782e9be9d5eSMiklos Szeredi err = ovl_copy_up(new); 783e9be9d5eSMiklos Szeredi if (err) 784e9be9d5eSMiklos Szeredi goto out_drop_write; 785e9be9d5eSMiklos Szeredi } 786e9be9d5eSMiklos Szeredi 7871afaba1eSMiklos Szeredi old_opaque = !OVL_TYPE_PURE_UPPER(old_type); 7881afaba1eSMiklos Szeredi new_opaque = !OVL_TYPE_PURE_UPPER(new_type); 789e9be9d5eSMiklos Szeredi 7903fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(old->d_sb); 791e9be9d5eSMiklos Szeredi 7921afaba1eSMiklos Szeredi if (overwrite && OVL_TYPE_MERGE_OR_LOWER(new_type) && new_is_dir) { 793a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(new); 794e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 795e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) { 796e9be9d5eSMiklos Szeredi opaquedir = NULL; 797e9be9d5eSMiklos Szeredi goto out_revert_creds; 798e9be9d5eSMiklos Szeredi } 799e9be9d5eSMiklos Szeredi } 800e9be9d5eSMiklos Szeredi 801e9be9d5eSMiklos Szeredi if (overwrite) { 802e9be9d5eSMiklos Szeredi if (old_opaque) { 803e9be9d5eSMiklos Szeredi if (new->d_inode || !new_opaque) { 804e9be9d5eSMiklos Szeredi /* Whiteout source */ 805e9be9d5eSMiklos Szeredi flags |= RENAME_WHITEOUT; 806e9be9d5eSMiklos Szeredi } else { 807e9be9d5eSMiklos Szeredi /* Switch whiteouts */ 808e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 809e9be9d5eSMiklos Szeredi } 810e9be9d5eSMiklos Szeredi } else if (is_dir && !new->d_inode && new_opaque) { 811e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 812e9be9d5eSMiklos Szeredi cleanup_whiteout = true; 813e9be9d5eSMiklos Szeredi } 814e9be9d5eSMiklos Szeredi } 815e9be9d5eSMiklos Szeredi 816e9be9d5eSMiklos Szeredi old_upperdir = ovl_dentry_upper(old->d_parent); 817e9be9d5eSMiklos Szeredi new_upperdir = ovl_dentry_upper(new->d_parent); 818e9be9d5eSMiklos Szeredi 819e9be9d5eSMiklos Szeredi trap = lock_rename(new_upperdir, old_upperdir); 820e9be9d5eSMiklos Szeredi 82111f37104SMiklos Szeredi 82211f37104SMiklos Szeredi olddentry = lookup_one_len(old->d_name.name, old_upperdir, 82311f37104SMiklos Szeredi old->d_name.len); 82411f37104SMiklos Szeredi err = PTR_ERR(olddentry); 82511f37104SMiklos Szeredi if (IS_ERR(olddentry)) 82611f37104SMiklos Szeredi goto out_unlock; 82711f37104SMiklos Szeredi 82811f37104SMiklos Szeredi err = -ESTALE; 82911f37104SMiklos Szeredi if (olddentry != ovl_dentry_upper(old)) 83011f37104SMiklos Szeredi goto out_dput_old; 83111f37104SMiklos Szeredi 832e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(new->d_name.name, new_upperdir, 833e9be9d5eSMiklos Szeredi new->d_name.len); 834e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 835e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 83611f37104SMiklos Szeredi goto out_dput_old; 837e9be9d5eSMiklos Szeredi 838e9be9d5eSMiklos Szeredi err = -ESTALE; 83911f37104SMiklos Szeredi if (ovl_dentry_upper(new)) { 84011f37104SMiklos Szeredi if (opaquedir) { 84111f37104SMiklos Szeredi if (newdentry != opaquedir) 842e9be9d5eSMiklos Szeredi goto out_dput; 84311f37104SMiklos Szeredi } else { 84411f37104SMiklos Szeredi if (newdentry != ovl_dentry_upper(new)) 845e9be9d5eSMiklos Szeredi goto out_dput; 84611f37104SMiklos Szeredi } 84711f37104SMiklos Szeredi } else { 84811f37104SMiklos Szeredi if (!d_is_negative(newdentry) && 84911f37104SMiklos Szeredi (!new_opaque || !ovl_is_whiteout(newdentry))) 85011f37104SMiklos Szeredi goto out_dput; 85111f37104SMiklos Szeredi } 85211f37104SMiklos Szeredi 853e9be9d5eSMiklos Szeredi if (olddentry == trap) 854e9be9d5eSMiklos Szeredi goto out_dput; 855e9be9d5eSMiklos Szeredi if (newdentry == trap) 856e9be9d5eSMiklos Szeredi goto out_dput; 857e9be9d5eSMiklos Szeredi 858e9be9d5eSMiklos Szeredi if (is_dir && !old_opaque && new_opaque) { 859e9be9d5eSMiklos Szeredi err = ovl_set_opaque(olddentry); 860e9be9d5eSMiklos Szeredi if (err) 861e9be9d5eSMiklos Szeredi goto out_dput; 862e9be9d5eSMiklos Szeredi } 863e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && old_opaque && !new_opaque) { 864e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 865e9be9d5eSMiklos Szeredi if (err) 866e9be9d5eSMiklos Szeredi goto out_dput; 867e9be9d5eSMiklos Szeredi } 868e9be9d5eSMiklos Szeredi 869e9be9d5eSMiklos Szeredi if (old_opaque || new_opaque) { 870e9be9d5eSMiklos Szeredi err = ovl_do_rename(old_upperdir->d_inode, olddentry, 871e9be9d5eSMiklos Szeredi new_upperdir->d_inode, newdentry, 872e9be9d5eSMiklos Szeredi flags); 873e9be9d5eSMiklos Szeredi } else { 874e9be9d5eSMiklos Szeredi /* No debug for the plain case */ 875e9be9d5eSMiklos Szeredi BUG_ON(flags & ~RENAME_EXCHANGE); 876e9be9d5eSMiklos Szeredi err = vfs_rename(old_upperdir->d_inode, olddentry, 877e9be9d5eSMiklos Szeredi new_upperdir->d_inode, newdentry, 878e9be9d5eSMiklos Szeredi NULL, flags); 879e9be9d5eSMiklos Szeredi } 880e9be9d5eSMiklos Szeredi 881e9be9d5eSMiklos Szeredi if (err) { 882e9be9d5eSMiklos Szeredi if (is_dir && !old_opaque && new_opaque) 883e9be9d5eSMiklos Szeredi ovl_remove_opaque(olddentry); 884e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && old_opaque && !new_opaque) 885e9be9d5eSMiklos Szeredi ovl_remove_opaque(newdentry); 886e9be9d5eSMiklos Szeredi goto out_dput; 887e9be9d5eSMiklos Szeredi } 888e9be9d5eSMiklos Szeredi 889e9be9d5eSMiklos Szeredi if (is_dir && old_opaque && !new_opaque) 890e9be9d5eSMiklos Szeredi ovl_remove_opaque(olddentry); 891e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && !old_opaque && new_opaque) 892e9be9d5eSMiklos Szeredi ovl_remove_opaque(newdentry); 893e9be9d5eSMiklos Szeredi 89445d11738SKonstantin Khlebnikov /* 89545d11738SKonstantin Khlebnikov * Old dentry now lives in different location. Dentries in 89645d11738SKonstantin Khlebnikov * lowerstack are stale. We cannot drop them here because 89745d11738SKonstantin Khlebnikov * access to them is lockless. This could be only pure upper 89845d11738SKonstantin Khlebnikov * or opaque directory - numlower is zero. Or upper non-dir 89945d11738SKonstantin Khlebnikov * entry - its pureness is tracked by flag opaque. 90045d11738SKonstantin Khlebnikov */ 901e9be9d5eSMiklos Szeredi if (old_opaque != new_opaque) { 902e9be9d5eSMiklos Szeredi ovl_dentry_set_opaque(old, new_opaque); 903e9be9d5eSMiklos Szeredi if (!overwrite) 904e9be9d5eSMiklos Szeredi ovl_dentry_set_opaque(new, old_opaque); 905e9be9d5eSMiklos Szeredi } 906e9be9d5eSMiklos Szeredi 907e9be9d5eSMiklos Szeredi if (cleanup_whiteout) 908e9be9d5eSMiklos Szeredi ovl_cleanup(old_upperdir->d_inode, newdentry); 909e9be9d5eSMiklos Szeredi 910e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(old->d_parent); 911e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(new->d_parent); 912e9be9d5eSMiklos Szeredi 913e9be9d5eSMiklos Szeredi out_dput: 914e9be9d5eSMiklos Szeredi dput(newdentry); 91511f37104SMiklos Szeredi out_dput_old: 91611f37104SMiklos Szeredi dput(olddentry); 917e9be9d5eSMiklos Szeredi out_unlock: 918e9be9d5eSMiklos Szeredi unlock_rename(new_upperdir, old_upperdir); 919e9be9d5eSMiklos Szeredi out_revert_creds: 920e9be9d5eSMiklos Szeredi revert_creds(old_cred); 921e9be9d5eSMiklos Szeredi out_drop_write: 922e9be9d5eSMiklos Szeredi ovl_drop_write(old); 923e9be9d5eSMiklos Szeredi out: 924e9be9d5eSMiklos Szeredi dput(opaquedir); 925e9be9d5eSMiklos Szeredi return err; 926e9be9d5eSMiklos Szeredi } 927e9be9d5eSMiklos Szeredi 928e9be9d5eSMiklos Szeredi const struct inode_operations ovl_dir_inode_operations = { 929e9be9d5eSMiklos Szeredi .lookup = ovl_lookup, 930e9be9d5eSMiklos Szeredi .mkdir = ovl_mkdir, 931e9be9d5eSMiklos Szeredi .symlink = ovl_symlink, 932e9be9d5eSMiklos Szeredi .unlink = ovl_unlink, 933e9be9d5eSMiklos Szeredi .rmdir = ovl_rmdir, 934e9be9d5eSMiklos Szeredi .rename2 = ovl_rename2, 935e9be9d5eSMiklos Szeredi .link = ovl_link, 936e9be9d5eSMiklos Szeredi .setattr = ovl_setattr, 937e9be9d5eSMiklos Szeredi .create = ovl_create, 938e9be9d5eSMiklos Szeredi .mknod = ovl_mknod, 939e9be9d5eSMiklos Szeredi .permission = ovl_permission, 940e9be9d5eSMiklos Szeredi .getattr = ovl_dir_getattr, 941e9be9d5eSMiklos Szeredi .setxattr = ovl_setxattr, 942e9be9d5eSMiklos Szeredi .getxattr = ovl_getxattr, 943e9be9d5eSMiklos Szeredi .listxattr = ovl_listxattr, 944e9be9d5eSMiklos Szeredi .removexattr = ovl_removexattr, 94539a25b2bSVivek Goyal .get_acl = ovl_get_acl, 946e9be9d5eSMiklos Szeredi }; 947