1e9be9d5eSMiklos Szeredi /* 2e9be9d5eSMiklos Szeredi * 3e9be9d5eSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 4e9be9d5eSMiklos Szeredi * 5e9be9d5eSMiklos Szeredi * This program is free software; you can redistribute it and/or modify it 6e9be9d5eSMiklos Szeredi * under the terms of the GNU General Public License version 2 as published by 7e9be9d5eSMiklos Szeredi * the Free Software Foundation. 8e9be9d5eSMiklos Szeredi */ 9e9be9d5eSMiklos Szeredi 10e9be9d5eSMiklos Szeredi #include <linux/fs.h> 11e9be9d5eSMiklos Szeredi #include <linux/namei.h> 12e9be9d5eSMiklos Szeredi #include <linux/xattr.h> 13e9be9d5eSMiklos Szeredi #include <linux/security.h> 14e9be9d5eSMiklos Szeredi #include <linux/cred.h> 15e9be9d5eSMiklos Szeredi #include "overlayfs.h" 16e9be9d5eSMiklos Szeredi 17e9be9d5eSMiklos Szeredi void ovl_cleanup(struct inode *wdir, struct dentry *wdentry) 18e9be9d5eSMiklos Szeredi { 19e9be9d5eSMiklos Szeredi int err; 20e9be9d5eSMiklos Szeredi 21e9be9d5eSMiklos Szeredi dget(wdentry); 22e36cb0b8SDavid Howells if (d_is_dir(wdentry)) 23e9be9d5eSMiklos Szeredi err = ovl_do_rmdir(wdir, wdentry); 24e9be9d5eSMiklos Szeredi else 25e9be9d5eSMiklos Szeredi err = ovl_do_unlink(wdir, wdentry); 26e9be9d5eSMiklos Szeredi dput(wdentry); 27e9be9d5eSMiklos Szeredi 28e9be9d5eSMiklos Szeredi if (err) { 29e9be9d5eSMiklos Szeredi pr_err("overlayfs: cleanup of '%pd2' failed (%i)\n", 30e9be9d5eSMiklos Szeredi wdentry, err); 31e9be9d5eSMiklos Szeredi } 32e9be9d5eSMiklos Szeredi } 33e9be9d5eSMiklos Szeredi 34e9be9d5eSMiklos Szeredi struct dentry *ovl_lookup_temp(struct dentry *workdir, struct dentry *dentry) 35e9be9d5eSMiklos Szeredi { 36e9be9d5eSMiklos Szeredi struct dentry *temp; 37e9be9d5eSMiklos Szeredi char name[20]; 38e9be9d5eSMiklos Szeredi 39e9be9d5eSMiklos Szeredi snprintf(name, sizeof(name), "#%lx", (unsigned long) dentry); 40e9be9d5eSMiklos Szeredi 41e9be9d5eSMiklos Szeredi temp = lookup_one_len(name, workdir, strlen(name)); 42e9be9d5eSMiklos Szeredi if (!IS_ERR(temp) && temp->d_inode) { 43e9be9d5eSMiklos Szeredi pr_err("overlayfs: workdir/%s already exists\n", name); 44e9be9d5eSMiklos Szeredi dput(temp); 45e9be9d5eSMiklos Szeredi temp = ERR_PTR(-EIO); 46e9be9d5eSMiklos Szeredi } 47e9be9d5eSMiklos Szeredi 48e9be9d5eSMiklos Szeredi return temp; 49e9be9d5eSMiklos Szeredi } 50e9be9d5eSMiklos Szeredi 51e9be9d5eSMiklos Szeredi /* caller holds i_mutex on workdir */ 52e9be9d5eSMiklos Szeredi static struct dentry *ovl_whiteout(struct dentry *workdir, 53e9be9d5eSMiklos Szeredi struct dentry *dentry) 54e9be9d5eSMiklos Szeredi { 55e9be9d5eSMiklos Szeredi int err; 56e9be9d5eSMiklos Szeredi struct dentry *whiteout; 57e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 58e9be9d5eSMiklos Szeredi 59e9be9d5eSMiklos Szeredi whiteout = ovl_lookup_temp(workdir, dentry); 60e9be9d5eSMiklos Szeredi if (IS_ERR(whiteout)) 61e9be9d5eSMiklos Szeredi return whiteout; 62e9be9d5eSMiklos Szeredi 63e9be9d5eSMiklos Szeredi err = ovl_do_whiteout(wdir, whiteout); 64e9be9d5eSMiklos Szeredi if (err) { 65e9be9d5eSMiklos Szeredi dput(whiteout); 66e9be9d5eSMiklos Szeredi whiteout = ERR_PTR(err); 67e9be9d5eSMiklos Szeredi } 68e9be9d5eSMiklos Szeredi 69e9be9d5eSMiklos Szeredi return whiteout; 70e9be9d5eSMiklos Szeredi } 71e9be9d5eSMiklos Szeredi 72e9be9d5eSMiklos Szeredi int ovl_create_real(struct inode *dir, struct dentry *newdentry, 73e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 74e9be9d5eSMiklos Szeredi struct dentry *hardlink, bool debug) 75e9be9d5eSMiklos Szeredi { 76e9be9d5eSMiklos Szeredi int err; 77e9be9d5eSMiklos Szeredi 78e9be9d5eSMiklos Szeredi if (newdentry->d_inode) 79e9be9d5eSMiklos Szeredi return -ESTALE; 80e9be9d5eSMiklos Szeredi 81e9be9d5eSMiklos Szeredi if (hardlink) { 82e9be9d5eSMiklos Szeredi err = ovl_do_link(hardlink, dir, newdentry, debug); 83e9be9d5eSMiklos Szeredi } else { 84e9be9d5eSMiklos Szeredi switch (stat->mode & S_IFMT) { 85e9be9d5eSMiklos Szeredi case S_IFREG: 86e9be9d5eSMiklos Szeredi err = ovl_do_create(dir, newdentry, stat->mode, debug); 87e9be9d5eSMiklos Szeredi break; 88e9be9d5eSMiklos Szeredi 89e9be9d5eSMiklos Szeredi case S_IFDIR: 90e9be9d5eSMiklos Szeredi err = ovl_do_mkdir(dir, newdentry, stat->mode, debug); 91e9be9d5eSMiklos Szeredi break; 92e9be9d5eSMiklos Szeredi 93e9be9d5eSMiklos Szeredi case S_IFCHR: 94e9be9d5eSMiklos Szeredi case S_IFBLK: 95e9be9d5eSMiklos Szeredi case S_IFIFO: 96e9be9d5eSMiklos Szeredi case S_IFSOCK: 97e9be9d5eSMiklos Szeredi err = ovl_do_mknod(dir, newdentry, 98e9be9d5eSMiklos Szeredi stat->mode, stat->rdev, debug); 99e9be9d5eSMiklos Szeredi break; 100e9be9d5eSMiklos Szeredi 101e9be9d5eSMiklos Szeredi case S_IFLNK: 102e9be9d5eSMiklos Szeredi err = ovl_do_symlink(dir, newdentry, link, debug); 103e9be9d5eSMiklos Szeredi break; 104e9be9d5eSMiklos Szeredi 105e9be9d5eSMiklos Szeredi default: 106e9be9d5eSMiklos Szeredi err = -EPERM; 107e9be9d5eSMiklos Szeredi } 108e9be9d5eSMiklos Szeredi } 109e9be9d5eSMiklos Szeredi if (!err && WARN_ON(!newdentry->d_inode)) { 110e9be9d5eSMiklos Szeredi /* 111e9be9d5eSMiklos Szeredi * Not quite sure if non-instantiated dentry is legal or not. 112e9be9d5eSMiklos Szeredi * VFS doesn't seem to care so check and warn here. 113e9be9d5eSMiklos Szeredi */ 114e9be9d5eSMiklos Szeredi err = -ENOENT; 115e9be9d5eSMiklos Szeredi } 116e9be9d5eSMiklos Szeredi return err; 117e9be9d5eSMiklos Szeredi } 118e9be9d5eSMiklos Szeredi 119e9be9d5eSMiklos Szeredi static int ovl_set_opaque(struct dentry *upperdentry) 120e9be9d5eSMiklos Szeredi { 121cead89bbShujianyang return ovl_do_setxattr(upperdentry, OVL_XATTR_OPAQUE, "y", 1, 0); 122e9be9d5eSMiklos Szeredi } 123e9be9d5eSMiklos Szeredi 124e9be9d5eSMiklos Szeredi static void ovl_remove_opaque(struct dentry *upperdentry) 125e9be9d5eSMiklos Szeredi { 126e9be9d5eSMiklos Szeredi int err; 127e9be9d5eSMiklos Szeredi 128cead89bbShujianyang err = ovl_do_removexattr(upperdentry, OVL_XATTR_OPAQUE); 129e9be9d5eSMiklos Szeredi if (err) { 130e9be9d5eSMiklos Szeredi pr_warn("overlayfs: failed to remove opaque from '%s' (%i)\n", 131e9be9d5eSMiklos Szeredi upperdentry->d_name.name, err); 132e9be9d5eSMiklos Szeredi } 133e9be9d5eSMiklos Szeredi } 134e9be9d5eSMiklos Szeredi 135e9be9d5eSMiklos Szeredi static int ovl_dir_getattr(struct vfsmount *mnt, struct dentry *dentry, 136e9be9d5eSMiklos Szeredi struct kstat *stat) 137e9be9d5eSMiklos Szeredi { 138e9be9d5eSMiklos Szeredi int err; 139e9be9d5eSMiklos Szeredi enum ovl_path_type type; 140e9be9d5eSMiklos Szeredi struct path realpath; 1411175b6b8SVivek Goyal const struct cred *old_cred; 142e9be9d5eSMiklos Szeredi 143e9be9d5eSMiklos Szeredi type = ovl_path_real(dentry, &realpath); 1441175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 145e9be9d5eSMiklos Szeredi err = vfs_getattr(&realpath, stat); 1461175b6b8SVivek Goyal revert_creds(old_cred); 147e9be9d5eSMiklos Szeredi if (err) 148e9be9d5eSMiklos Szeredi return err; 149e9be9d5eSMiklos Szeredi 150e9be9d5eSMiklos Szeredi stat->dev = dentry->d_sb->s_dev; 151e9be9d5eSMiklos Szeredi stat->ino = dentry->d_inode->i_ino; 152e9be9d5eSMiklos Szeredi 153e9be9d5eSMiklos Szeredi /* 154e9be9d5eSMiklos Szeredi * It's probably not worth it to count subdirs to get the 155e9be9d5eSMiklos Szeredi * correct link count. nlink=1 seems to pacify 'find' and 156e9be9d5eSMiklos Szeredi * other utilities. 157e9be9d5eSMiklos Szeredi */ 1581afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE(type)) 159e9be9d5eSMiklos Szeredi stat->nlink = 1; 160e9be9d5eSMiklos Szeredi 161e9be9d5eSMiklos Szeredi return 0; 162e9be9d5eSMiklos Szeredi } 163e9be9d5eSMiklos Szeredi 16472e48481SVivek Goyal /* Common operations required to be done after creation of file on upper */ 16572e48481SVivek Goyal static void ovl_instantiate(struct dentry *dentry, struct inode *inode, 16672e48481SVivek Goyal struct dentry *newdentry) 16772e48481SVivek Goyal { 16872e48481SVivek Goyal ovl_dentry_version_inc(dentry->d_parent); 16972e48481SVivek Goyal ovl_dentry_update(dentry, newdentry); 17072e48481SVivek Goyal ovl_copyattr(newdentry->d_inode, inode); 17172e48481SVivek Goyal d_instantiate(dentry, inode); 17272e48481SVivek Goyal } 17372e48481SVivek Goyal 174e9be9d5eSMiklos Szeredi static int ovl_create_upper(struct dentry *dentry, struct inode *inode, 175e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 176e9be9d5eSMiklos Szeredi struct dentry *hardlink) 177e9be9d5eSMiklos Szeredi { 178e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 179e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 180e9be9d5eSMiklos Szeredi struct dentry *newdentry; 181e9be9d5eSMiklos Szeredi int err; 182e9be9d5eSMiklos Szeredi 1835955102cSAl Viro inode_lock_nested(udir, I_MUTEX_PARENT); 184e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(dentry->d_name.name, upperdir, 185e9be9d5eSMiklos Szeredi dentry->d_name.len); 186e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 187e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 188e9be9d5eSMiklos Szeredi goto out_unlock; 189e9be9d5eSMiklos Szeredi err = ovl_create_real(udir, newdentry, stat, link, hardlink, false); 190e9be9d5eSMiklos Szeredi if (err) 191e9be9d5eSMiklos Szeredi goto out_dput; 192e9be9d5eSMiklos Szeredi 19372e48481SVivek Goyal ovl_instantiate(dentry, inode, newdentry); 194e9be9d5eSMiklos Szeredi newdentry = NULL; 195e9be9d5eSMiklos Szeredi out_dput: 196e9be9d5eSMiklos Szeredi dput(newdentry); 197e9be9d5eSMiklos Szeredi out_unlock: 1985955102cSAl Viro inode_unlock(udir); 199e9be9d5eSMiklos Szeredi return err; 200e9be9d5eSMiklos Szeredi } 201e9be9d5eSMiklos Szeredi 202e9be9d5eSMiklos Szeredi static int ovl_lock_rename_workdir(struct dentry *workdir, 203e9be9d5eSMiklos Szeredi struct dentry *upperdir) 204e9be9d5eSMiklos Szeredi { 205e9be9d5eSMiklos Szeredi /* Workdir should not be the same as upperdir */ 206e9be9d5eSMiklos Szeredi if (workdir == upperdir) 207e9be9d5eSMiklos Szeredi goto err; 208e9be9d5eSMiklos Szeredi 209e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */ 210e9be9d5eSMiklos Szeredi if (lock_rename(workdir, upperdir) != NULL) 211e9be9d5eSMiklos Szeredi goto err_unlock; 212e9be9d5eSMiklos Szeredi 213e9be9d5eSMiklos Szeredi return 0; 214e9be9d5eSMiklos Szeredi 215e9be9d5eSMiklos Szeredi err_unlock: 216e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 217e9be9d5eSMiklos Szeredi err: 218e9be9d5eSMiklos Szeredi pr_err("overlayfs: failed to lock workdir+upperdir\n"); 219e9be9d5eSMiklos Szeredi return -EIO; 220e9be9d5eSMiklos Szeredi } 221e9be9d5eSMiklos Szeredi 222e9be9d5eSMiklos Szeredi static struct dentry *ovl_clear_empty(struct dentry *dentry, 223e9be9d5eSMiklos Szeredi struct list_head *list) 224e9be9d5eSMiklos Szeredi { 225e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 226e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 227e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 228e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 229e9be9d5eSMiklos Szeredi struct path upperpath; 230e9be9d5eSMiklos Szeredi struct dentry *upper; 231e9be9d5eSMiklos Szeredi struct dentry *opaquedir; 232e9be9d5eSMiklos Szeredi struct kstat stat; 233e9be9d5eSMiklos Szeredi int err; 234e9be9d5eSMiklos Szeredi 235cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 236cc6f67bcSMiklos Szeredi return ERR_PTR(-EROFS); 237cc6f67bcSMiklos Szeredi 238e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 239e9be9d5eSMiklos Szeredi if (err) 240e9be9d5eSMiklos Szeredi goto out; 241e9be9d5eSMiklos Szeredi 242e9be9d5eSMiklos Szeredi ovl_path_upper(dentry, &upperpath); 243e9be9d5eSMiklos Szeredi err = vfs_getattr(&upperpath, &stat); 244e9be9d5eSMiklos Szeredi if (err) 245e9be9d5eSMiklos Szeredi goto out_unlock; 246e9be9d5eSMiklos Szeredi 247e9be9d5eSMiklos Szeredi err = -ESTALE; 248e9be9d5eSMiklos Szeredi if (!S_ISDIR(stat.mode)) 249e9be9d5eSMiklos Szeredi goto out_unlock; 250e9be9d5eSMiklos Szeredi upper = upperpath.dentry; 251e9be9d5eSMiklos Szeredi if (upper->d_parent->d_inode != udir) 252e9be9d5eSMiklos Szeredi goto out_unlock; 253e9be9d5eSMiklos Szeredi 254e9be9d5eSMiklos Szeredi opaquedir = ovl_lookup_temp(workdir, dentry); 255e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 256e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 257e9be9d5eSMiklos Szeredi goto out_unlock; 258e9be9d5eSMiklos Szeredi 259e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, opaquedir, &stat, NULL, NULL, true); 260e9be9d5eSMiklos Szeredi if (err) 261e9be9d5eSMiklos Szeredi goto out_dput; 262e9be9d5eSMiklos Szeredi 263e9be9d5eSMiklos Szeredi err = ovl_copy_xattr(upper, opaquedir); 264e9be9d5eSMiklos Szeredi if (err) 265e9be9d5eSMiklos Szeredi goto out_cleanup; 266e9be9d5eSMiklos Szeredi 267e9be9d5eSMiklos Szeredi err = ovl_set_opaque(opaquedir); 268e9be9d5eSMiklos Szeredi if (err) 269e9be9d5eSMiklos Szeredi goto out_cleanup; 270e9be9d5eSMiklos Szeredi 2715955102cSAl Viro inode_lock(opaquedir->d_inode); 272e9be9d5eSMiklos Szeredi err = ovl_set_attr(opaquedir, &stat); 2735955102cSAl Viro inode_unlock(opaquedir->d_inode); 274e9be9d5eSMiklos Szeredi if (err) 275e9be9d5eSMiklos Szeredi goto out_cleanup; 276e9be9d5eSMiklos Szeredi 277e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, opaquedir, udir, upper, RENAME_EXCHANGE); 278e9be9d5eSMiklos Szeredi if (err) 279e9be9d5eSMiklos Szeredi goto out_cleanup; 280e9be9d5eSMiklos Szeredi 281e9be9d5eSMiklos Szeredi ovl_cleanup_whiteouts(upper, list); 282e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 283e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 284e9be9d5eSMiklos Szeredi 285e9be9d5eSMiklos Szeredi /* dentry's upper doesn't match now, get rid of it */ 286e9be9d5eSMiklos Szeredi d_drop(dentry); 287e9be9d5eSMiklos Szeredi 288e9be9d5eSMiklos Szeredi return opaquedir; 289e9be9d5eSMiklos Szeredi 290e9be9d5eSMiklos Szeredi out_cleanup: 291e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, opaquedir); 292e9be9d5eSMiklos Szeredi out_dput: 293e9be9d5eSMiklos Szeredi dput(opaquedir); 294e9be9d5eSMiklos Szeredi out_unlock: 295e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 296e9be9d5eSMiklos Szeredi out: 297e9be9d5eSMiklos Szeredi return ERR_PTR(err); 298e9be9d5eSMiklos Szeredi } 299e9be9d5eSMiklos Szeredi 300a105d685SMiklos Szeredi static struct dentry *ovl_check_empty_and_clear(struct dentry *dentry) 301e9be9d5eSMiklos Szeredi { 302e9be9d5eSMiklos Szeredi int err; 303e9be9d5eSMiklos Szeredi struct dentry *ret = NULL; 304e9be9d5eSMiklos Szeredi LIST_HEAD(list); 305e9be9d5eSMiklos Szeredi 306e9be9d5eSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 307e9be9d5eSMiklos Szeredi if (err) 308e9be9d5eSMiklos Szeredi ret = ERR_PTR(err); 309a105d685SMiklos Szeredi else { 310a105d685SMiklos Szeredi /* 311a105d685SMiklos Szeredi * If no upperdentry then skip clearing whiteouts. 312a105d685SMiklos Szeredi * 313a105d685SMiklos Szeredi * Can race with copy-up, since we don't hold the upperdir 314a105d685SMiklos Szeredi * mutex. Doesn't matter, since copy-up can't create a 315a105d685SMiklos Szeredi * non-empty directory from an empty one. 316a105d685SMiklos Szeredi */ 317a105d685SMiklos Szeredi if (ovl_dentry_upper(dentry)) 318e9be9d5eSMiklos Szeredi ret = ovl_clear_empty(dentry, &list); 319a105d685SMiklos Szeredi } 320e9be9d5eSMiklos Szeredi 321e9be9d5eSMiklos Szeredi ovl_cache_free(&list); 322e9be9d5eSMiklos Szeredi 323e9be9d5eSMiklos Szeredi return ret; 324e9be9d5eSMiklos Szeredi } 325e9be9d5eSMiklos Szeredi 326e9be9d5eSMiklos Szeredi static int ovl_create_over_whiteout(struct dentry *dentry, struct inode *inode, 327e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 328e9be9d5eSMiklos Szeredi struct dentry *hardlink) 329e9be9d5eSMiklos Szeredi { 330e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 331e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 332e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 333e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 334e9be9d5eSMiklos Szeredi struct dentry *upper; 335e9be9d5eSMiklos Szeredi struct dentry *newdentry; 336e9be9d5eSMiklos Szeredi int err; 337e9be9d5eSMiklos Szeredi 338cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 339cc6f67bcSMiklos Szeredi return -EROFS; 340cc6f67bcSMiklos Szeredi 341e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 342e9be9d5eSMiklos Szeredi if (err) 343e9be9d5eSMiklos Szeredi goto out; 344e9be9d5eSMiklos Szeredi 345e9be9d5eSMiklos Szeredi newdentry = ovl_lookup_temp(workdir, dentry); 346e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 347e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 348e9be9d5eSMiklos Szeredi goto out_unlock; 349e9be9d5eSMiklos Szeredi 350e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 351e9be9d5eSMiklos Szeredi dentry->d_name.len); 352e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 353e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 354e9be9d5eSMiklos Szeredi goto out_dput; 355e9be9d5eSMiklos Szeredi 356e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, newdentry, stat, link, hardlink, true); 357e9be9d5eSMiklos Szeredi if (err) 358e9be9d5eSMiklos Szeredi goto out_dput2; 359e9be9d5eSMiklos Szeredi 360e9be9d5eSMiklos Szeredi if (S_ISDIR(stat->mode)) { 361e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 362e9be9d5eSMiklos Szeredi if (err) 363e9be9d5eSMiklos Szeredi goto out_cleanup; 364e9be9d5eSMiklos Szeredi 365e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 366e9be9d5eSMiklos Szeredi RENAME_EXCHANGE); 367e9be9d5eSMiklos Szeredi if (err) 368e9be9d5eSMiklos Szeredi goto out_cleanup; 369e9be9d5eSMiklos Szeredi 370e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 371e9be9d5eSMiklos Szeredi } else { 372e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 0); 373e9be9d5eSMiklos Szeredi if (err) 374e9be9d5eSMiklos Szeredi goto out_cleanup; 375e9be9d5eSMiklos Szeredi } 37672e48481SVivek Goyal ovl_instantiate(dentry, inode, newdentry); 377e9be9d5eSMiklos Szeredi newdentry = NULL; 378e9be9d5eSMiklos Szeredi out_dput2: 379e9be9d5eSMiklos Szeredi dput(upper); 380e9be9d5eSMiklos Szeredi out_dput: 381e9be9d5eSMiklos Szeredi dput(newdentry); 382e9be9d5eSMiklos Szeredi out_unlock: 383e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 384e9be9d5eSMiklos Szeredi out: 385e9be9d5eSMiklos Szeredi return err; 386e9be9d5eSMiklos Szeredi 387e9be9d5eSMiklos Szeredi out_cleanup: 388e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, newdentry); 389e9be9d5eSMiklos Szeredi goto out_dput2; 390e9be9d5eSMiklos Szeredi } 391e9be9d5eSMiklos Szeredi 392e9be9d5eSMiklos Szeredi static int ovl_create_or_link(struct dentry *dentry, int mode, dev_t rdev, 393e9be9d5eSMiklos Szeredi const char *link, struct dentry *hardlink) 394e9be9d5eSMiklos Szeredi { 395e9be9d5eSMiklos Szeredi int err; 396e9be9d5eSMiklos Szeredi struct inode *inode; 3971175b6b8SVivek Goyal const struct cred *old_cred; 3981175b6b8SVivek Goyal struct cred *override_cred; 399e9be9d5eSMiklos Szeredi struct kstat stat = { 400e9be9d5eSMiklos Szeredi .mode = mode, 401e9be9d5eSMiklos Szeredi .rdev = rdev, 402e9be9d5eSMiklos Szeredi }; 403e9be9d5eSMiklos Szeredi 404e9be9d5eSMiklos Szeredi err = -ENOMEM; 405e9be9d5eSMiklos Szeredi inode = ovl_new_inode(dentry->d_sb, mode, dentry->d_fsdata); 406e9be9d5eSMiklos Szeredi if (!inode) 407e9be9d5eSMiklos Szeredi goto out; 408e9be9d5eSMiklos Szeredi 409e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 410e9be9d5eSMiklos Szeredi if (err) 411e9be9d5eSMiklos Szeredi goto out_iput; 412e9be9d5eSMiklos Szeredi 4133fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(dentry->d_sb); 414d0e13f5bSMiklos Szeredi err = -ENOMEM; 415d0e13f5bSMiklos Szeredi override_cred = prepare_creds(); 416d0e13f5bSMiklos Szeredi if (override_cred) { 417d0e13f5bSMiklos Szeredi override_cred->fsuid = old_cred->fsuid; 418d0e13f5bSMiklos Szeredi override_cred->fsgid = old_cred->fsgid; 419d0e13f5bSMiklos Szeredi put_cred(override_creds(override_cred)); 420d0e13f5bSMiklos Szeredi put_cred(override_cred); 421e9be9d5eSMiklos Szeredi 4221175b6b8SVivek Goyal if (!ovl_dentry_is_opaque(dentry)) 4231175b6b8SVivek Goyal err = ovl_create_upper(dentry, inode, &stat, link, 4241175b6b8SVivek Goyal hardlink); 4251175b6b8SVivek Goyal else 426d0e13f5bSMiklos Szeredi err = ovl_create_over_whiteout(dentry, inode, &stat, 427d0e13f5bSMiklos Szeredi link, hardlink); 428d0e13f5bSMiklos Szeredi } 429e9be9d5eSMiklos Szeredi revert_creds(old_cred); 430e9be9d5eSMiklos Szeredi if (!err) 431e9be9d5eSMiklos Szeredi inode = NULL; 432e9be9d5eSMiklos Szeredi out_iput: 433e9be9d5eSMiklos Szeredi iput(inode); 434e9be9d5eSMiklos Szeredi out: 435e9be9d5eSMiklos Szeredi return err; 436e9be9d5eSMiklos Szeredi } 437e9be9d5eSMiklos Szeredi 438e9be9d5eSMiklos Szeredi static int ovl_create_object(struct dentry *dentry, int mode, dev_t rdev, 439e9be9d5eSMiklos Szeredi const char *link) 440e9be9d5eSMiklos Szeredi { 441e9be9d5eSMiklos Szeredi int err; 442e9be9d5eSMiklos Szeredi 443e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 444e9be9d5eSMiklos Szeredi if (!err) { 445e9be9d5eSMiklos Szeredi err = ovl_create_or_link(dentry, mode, rdev, link, NULL); 446e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 447e9be9d5eSMiklos Szeredi } 448e9be9d5eSMiklos Szeredi 449e9be9d5eSMiklos Szeredi return err; 450e9be9d5eSMiklos Szeredi } 451e9be9d5eSMiklos Szeredi 452e9be9d5eSMiklos Szeredi static int ovl_create(struct inode *dir, struct dentry *dentry, umode_t mode, 453e9be9d5eSMiklos Szeredi bool excl) 454e9be9d5eSMiklos Szeredi { 455e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFREG, 0, NULL); 456e9be9d5eSMiklos Szeredi } 457e9be9d5eSMiklos Szeredi 458e9be9d5eSMiklos Szeredi static int ovl_mkdir(struct inode *dir, struct dentry *dentry, umode_t mode) 459e9be9d5eSMiklos Szeredi { 460e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFDIR, 0, NULL); 461e9be9d5eSMiklos Szeredi } 462e9be9d5eSMiklos Szeredi 463e9be9d5eSMiklos Szeredi static int ovl_mknod(struct inode *dir, struct dentry *dentry, umode_t mode, 464e9be9d5eSMiklos Szeredi dev_t rdev) 465e9be9d5eSMiklos Szeredi { 466e9be9d5eSMiklos Szeredi /* Don't allow creation of "whiteout" on overlay */ 467e9be9d5eSMiklos Szeredi if (S_ISCHR(mode) && rdev == WHITEOUT_DEV) 468e9be9d5eSMiklos Szeredi return -EPERM; 469e9be9d5eSMiklos Szeredi 470e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, mode, rdev, NULL); 471e9be9d5eSMiklos Szeredi } 472e9be9d5eSMiklos Szeredi 473e9be9d5eSMiklos Szeredi static int ovl_symlink(struct inode *dir, struct dentry *dentry, 474e9be9d5eSMiklos Szeredi const char *link) 475e9be9d5eSMiklos Szeredi { 476e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, S_IFLNK, 0, link); 477e9be9d5eSMiklos Szeredi } 478e9be9d5eSMiklos Szeredi 479e9be9d5eSMiklos Szeredi static int ovl_link(struct dentry *old, struct inode *newdir, 480e9be9d5eSMiklos Szeredi struct dentry *new) 481e9be9d5eSMiklos Szeredi { 482e9be9d5eSMiklos Szeredi int err; 483e9be9d5eSMiklos Szeredi struct dentry *upper; 484e9be9d5eSMiklos Szeredi 485e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 486e9be9d5eSMiklos Szeredi if (err) 487e9be9d5eSMiklos Szeredi goto out; 488e9be9d5eSMiklos Szeredi 489e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 490e9be9d5eSMiklos Szeredi if (err) 491e9be9d5eSMiklos Szeredi goto out_drop_write; 492e9be9d5eSMiklos Szeredi 493e9be9d5eSMiklos Szeredi upper = ovl_dentry_upper(old); 494e9be9d5eSMiklos Szeredi err = ovl_create_or_link(new, upper->d_inode->i_mode, 0, NULL, upper); 495e9be9d5eSMiklos Szeredi 496e9be9d5eSMiklos Szeredi out_drop_write: 497e9be9d5eSMiklos Szeredi ovl_drop_write(old); 498e9be9d5eSMiklos Szeredi out: 499e9be9d5eSMiklos Szeredi return err; 500e9be9d5eSMiklos Szeredi } 501e9be9d5eSMiklos Szeredi 502a105d685SMiklos Szeredi static int ovl_remove_and_whiteout(struct dentry *dentry, bool is_dir) 503e9be9d5eSMiklos Szeredi { 504e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 505e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 506e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 507e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 508e9be9d5eSMiklos Szeredi struct dentry *whiteout; 509e9be9d5eSMiklos Szeredi struct dentry *upper; 510e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 511e9be9d5eSMiklos Szeredi int err; 512cfc9fde0SMaxim Patlasov int flags = 0; 513e9be9d5eSMiklos Szeredi 514cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 515cc6f67bcSMiklos Szeredi return -EROFS; 516cc6f67bcSMiklos Szeredi 517d377c5ebSMiklos Szeredi if (is_dir) { 518d377c5ebSMiklos Szeredi if (OVL_TYPE_MERGE_OR_LOWER(ovl_path_type(dentry))) { 519a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(dentry); 520e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 521e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 522e9be9d5eSMiklos Szeredi goto out; 523d377c5ebSMiklos Szeredi } else { 524d377c5ebSMiklos Szeredi LIST_HEAD(list); 525d377c5ebSMiklos Szeredi 526d377c5ebSMiklos Szeredi /* 527d377c5ebSMiklos Szeredi * When removing an empty opaque directory, then it 528d377c5ebSMiklos Szeredi * makes no sense to replace it with an exact replica of 529d377c5ebSMiklos Szeredi * itself. But emptiness still needs to be checked. 530d377c5ebSMiklos Szeredi */ 531d377c5ebSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 532d377c5ebSMiklos Szeredi ovl_cache_free(&list); 533d377c5ebSMiklos Szeredi if (err) 534d377c5ebSMiklos Szeredi goto out; 535d377c5ebSMiklos Szeredi } 536e9be9d5eSMiklos Szeredi } 537e9be9d5eSMiklos Szeredi 538e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 539e9be9d5eSMiklos Szeredi if (err) 540e9be9d5eSMiklos Szeredi goto out_dput; 541e9be9d5eSMiklos Szeredi 542e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 543e9be9d5eSMiklos Szeredi dentry->d_name.len); 544e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 545e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 546cfc9fde0SMaxim Patlasov goto out_unlock; 547e9be9d5eSMiklos Szeredi 548e9be9d5eSMiklos Szeredi err = -ESTALE; 549cfc9fde0SMaxim Patlasov if ((opaquedir && upper != opaquedir) || 550cfc9fde0SMaxim Patlasov (!opaquedir && ovl_dentry_upper(dentry) && 551cfc9fde0SMaxim Patlasov upper != ovl_dentry_upper(dentry))) { 552cfc9fde0SMaxim Patlasov goto out_dput_upper; 553cfc9fde0SMaxim Patlasov } 554e9be9d5eSMiklos Szeredi 555cfc9fde0SMaxim Patlasov whiteout = ovl_whiteout(workdir, dentry); 556cfc9fde0SMaxim Patlasov err = PTR_ERR(whiteout); 557cfc9fde0SMaxim Patlasov if (IS_ERR(whiteout)) 558cfc9fde0SMaxim Patlasov goto out_dput_upper; 559cfc9fde0SMaxim Patlasov 560cfc9fde0SMaxim Patlasov if (d_is_dir(upper)) 561cfc9fde0SMaxim Patlasov flags = RENAME_EXCHANGE; 562e9be9d5eSMiklos Szeredi 563e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, whiteout, udir, upper, flags); 564e9be9d5eSMiklos Szeredi if (err) 565e9be9d5eSMiklos Szeredi goto kill_whiteout; 566cfc9fde0SMaxim Patlasov if (flags) 567e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 568cfc9fde0SMaxim Patlasov 569e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 570e9be9d5eSMiklos Szeredi out_d_drop: 571e9be9d5eSMiklos Szeredi d_drop(dentry); 572e9be9d5eSMiklos Szeredi dput(whiteout); 573cfc9fde0SMaxim Patlasov out_dput_upper: 574cfc9fde0SMaxim Patlasov dput(upper); 575e9be9d5eSMiklos Szeredi out_unlock: 576e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 577e9be9d5eSMiklos Szeredi out_dput: 578e9be9d5eSMiklos Szeredi dput(opaquedir); 579e9be9d5eSMiklos Szeredi out: 580e9be9d5eSMiklos Szeredi return err; 581e9be9d5eSMiklos Szeredi 582e9be9d5eSMiklos Szeredi kill_whiteout: 583e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, whiteout); 584e9be9d5eSMiklos Szeredi goto out_d_drop; 585e9be9d5eSMiklos Szeredi } 586e9be9d5eSMiklos Szeredi 587e9be9d5eSMiklos Szeredi static int ovl_remove_upper(struct dentry *dentry, bool is_dir) 588e9be9d5eSMiklos Szeredi { 589e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 590e9be9d5eSMiklos Szeredi struct inode *dir = upperdir->d_inode; 59111f37104SMiklos Szeredi struct dentry *upper; 592e9be9d5eSMiklos Szeredi int err; 593e9be9d5eSMiklos Szeredi 5945955102cSAl Viro inode_lock_nested(dir, I_MUTEX_PARENT); 59511f37104SMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 59611f37104SMiklos Szeredi dentry->d_name.len); 59711f37104SMiklos Szeredi err = PTR_ERR(upper); 59811f37104SMiklos Szeredi if (IS_ERR(upper)) 59911f37104SMiklos Szeredi goto out_unlock; 60011f37104SMiklos Szeredi 601e9be9d5eSMiklos Szeredi err = -ESTALE; 60211f37104SMiklos Szeredi if (upper == ovl_dentry_upper(dentry)) { 603e9be9d5eSMiklos Szeredi if (is_dir) 604e9be9d5eSMiklos Szeredi err = vfs_rmdir(dir, upper); 605e9be9d5eSMiklos Szeredi else 606e9be9d5eSMiklos Szeredi err = vfs_unlink(dir, upper, NULL); 607e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 608e9be9d5eSMiklos Szeredi } 60911f37104SMiklos Szeredi dput(upper); 610e9be9d5eSMiklos Szeredi 611e9be9d5eSMiklos Szeredi /* 612e9be9d5eSMiklos Szeredi * Keeping this dentry hashed would mean having to release 613e9be9d5eSMiklos Szeredi * upperpath/lowerpath, which could only be done if we are the 614e9be9d5eSMiklos Szeredi * sole user of this dentry. Too tricky... Just unhash for 615e9be9d5eSMiklos Szeredi * now. 616e9be9d5eSMiklos Szeredi */ 617ce9113bbSRui Wang if (!err) 618e9be9d5eSMiklos Szeredi d_drop(dentry); 61911f37104SMiklos Szeredi out_unlock: 6205955102cSAl Viro inode_unlock(dir); 621e9be9d5eSMiklos Szeredi 622e9be9d5eSMiklos Szeredi return err; 623e9be9d5eSMiklos Szeredi } 624e9be9d5eSMiklos Szeredi 625e9be9d5eSMiklos Szeredi static inline int ovl_check_sticky(struct dentry *dentry) 626e9be9d5eSMiklos Szeredi { 627e9be9d5eSMiklos Szeredi struct inode *dir = ovl_dentry_real(dentry->d_parent)->d_inode; 628e9be9d5eSMiklos Szeredi struct inode *inode = ovl_dentry_real(dentry)->d_inode; 629e9be9d5eSMiklos Szeredi 630e9be9d5eSMiklos Szeredi if (check_sticky(dir, inode)) 631e9be9d5eSMiklos Szeredi return -EPERM; 632e9be9d5eSMiklos Szeredi 633e9be9d5eSMiklos Szeredi return 0; 634e9be9d5eSMiklos Szeredi } 635e9be9d5eSMiklos Szeredi 636e9be9d5eSMiklos Szeredi static int ovl_do_remove(struct dentry *dentry, bool is_dir) 637e9be9d5eSMiklos Szeredi { 638e9be9d5eSMiklos Szeredi enum ovl_path_type type; 639e9be9d5eSMiklos Szeredi int err; 6401175b6b8SVivek Goyal const struct cred *old_cred; 6411175b6b8SVivek Goyal 642e9be9d5eSMiklos Szeredi 643e9be9d5eSMiklos Szeredi err = ovl_check_sticky(dentry); 644e9be9d5eSMiklos Szeredi if (err) 645e9be9d5eSMiklos Szeredi goto out; 646e9be9d5eSMiklos Szeredi 647e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 648e9be9d5eSMiklos Szeredi if (err) 649e9be9d5eSMiklos Szeredi goto out; 650e9be9d5eSMiklos Szeredi 651e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 652e9be9d5eSMiklos Szeredi if (err) 653e9be9d5eSMiklos Szeredi goto out_drop_write; 654e9be9d5eSMiklos Szeredi 655e9be9d5eSMiklos Szeredi type = ovl_path_type(dentry); 6561175b6b8SVivek Goyal 6571175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 6581175b6b8SVivek Goyal if (OVL_TYPE_PURE_UPPER(type)) 659e9be9d5eSMiklos Szeredi err = ovl_remove_upper(dentry, is_dir); 6601175b6b8SVivek Goyal else 661a105d685SMiklos Szeredi err = ovl_remove_and_whiteout(dentry, is_dir); 662e9be9d5eSMiklos Szeredi revert_creds(old_cred); 663e9be9d5eSMiklos Szeredi out_drop_write: 664e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 665e9be9d5eSMiklos Szeredi out: 666e9be9d5eSMiklos Szeredi return err; 667e9be9d5eSMiklos Szeredi } 668e9be9d5eSMiklos Szeredi 669e9be9d5eSMiklos Szeredi static int ovl_unlink(struct inode *dir, struct dentry *dentry) 670e9be9d5eSMiklos Szeredi { 671e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, false); 672e9be9d5eSMiklos Szeredi } 673e9be9d5eSMiklos Szeredi 674e9be9d5eSMiklos Szeredi static int ovl_rmdir(struct inode *dir, struct dentry *dentry) 675e9be9d5eSMiklos Szeredi { 676e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, true); 677e9be9d5eSMiklos Szeredi } 678e9be9d5eSMiklos Szeredi 679e9be9d5eSMiklos Szeredi static int ovl_rename2(struct inode *olddir, struct dentry *old, 680e9be9d5eSMiklos Szeredi struct inode *newdir, struct dentry *new, 681e9be9d5eSMiklos Szeredi unsigned int flags) 682e9be9d5eSMiklos Szeredi { 683e9be9d5eSMiklos Szeredi int err; 684e9be9d5eSMiklos Szeredi enum ovl_path_type old_type; 685e9be9d5eSMiklos Szeredi enum ovl_path_type new_type; 686e9be9d5eSMiklos Szeredi struct dentry *old_upperdir; 687e9be9d5eSMiklos Szeredi struct dentry *new_upperdir; 688e9be9d5eSMiklos Szeredi struct dentry *olddentry; 689e9be9d5eSMiklos Szeredi struct dentry *newdentry; 690e9be9d5eSMiklos Szeredi struct dentry *trap; 691e9be9d5eSMiklos Szeredi bool old_opaque; 692e9be9d5eSMiklos Szeredi bool new_opaque; 693e9be9d5eSMiklos Szeredi bool cleanup_whiteout = false; 694e9be9d5eSMiklos Szeredi bool overwrite = !(flags & RENAME_EXCHANGE); 695e36cb0b8SDavid Howells bool is_dir = d_is_dir(old); 696e9be9d5eSMiklos Szeredi bool new_is_dir = false; 697e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 698e9be9d5eSMiklos Szeredi const struct cred *old_cred = NULL; 699e9be9d5eSMiklos Szeredi 700e9be9d5eSMiklos Szeredi err = -EINVAL; 701e9be9d5eSMiklos Szeredi if (flags & ~(RENAME_EXCHANGE | RENAME_NOREPLACE)) 702e9be9d5eSMiklos Szeredi goto out; 703e9be9d5eSMiklos Szeredi 704e9be9d5eSMiklos Szeredi flags &= ~RENAME_NOREPLACE; 705e9be9d5eSMiklos Szeredi 706e9be9d5eSMiklos Szeredi err = ovl_check_sticky(old); 707e9be9d5eSMiklos Szeredi if (err) 708e9be9d5eSMiklos Szeredi goto out; 709e9be9d5eSMiklos Szeredi 710e9be9d5eSMiklos Szeredi /* Don't copy up directory trees */ 711e9be9d5eSMiklos Szeredi old_type = ovl_path_type(old); 712e9be9d5eSMiklos Szeredi err = -EXDEV; 7131afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE_OR_LOWER(old_type) && is_dir) 714e9be9d5eSMiklos Szeredi goto out; 715e9be9d5eSMiklos Szeredi 716e9be9d5eSMiklos Szeredi if (new->d_inode) { 717e9be9d5eSMiklos Szeredi err = ovl_check_sticky(new); 718e9be9d5eSMiklos Szeredi if (err) 719e9be9d5eSMiklos Szeredi goto out; 720e9be9d5eSMiklos Szeredi 721e36cb0b8SDavid Howells if (d_is_dir(new)) 722e9be9d5eSMiklos Szeredi new_is_dir = true; 723e9be9d5eSMiklos Szeredi 724e9be9d5eSMiklos Szeredi new_type = ovl_path_type(new); 725e9be9d5eSMiklos Szeredi err = -EXDEV; 7261afaba1eSMiklos Szeredi if (!overwrite && OVL_TYPE_MERGE_OR_LOWER(new_type) && new_is_dir) 727e9be9d5eSMiklos Szeredi goto out; 728e9be9d5eSMiklos Szeredi 729e9be9d5eSMiklos Szeredi err = 0; 7301afaba1eSMiklos Szeredi if (!OVL_TYPE_UPPER(new_type) && !OVL_TYPE_UPPER(old_type)) { 731e9be9d5eSMiklos Szeredi if (ovl_dentry_lower(old)->d_inode == 732e9be9d5eSMiklos Szeredi ovl_dentry_lower(new)->d_inode) 733e9be9d5eSMiklos Szeredi goto out; 734e9be9d5eSMiklos Szeredi } 7351afaba1eSMiklos Szeredi if (OVL_TYPE_UPPER(new_type) && OVL_TYPE_UPPER(old_type)) { 736e9be9d5eSMiklos Szeredi if (ovl_dentry_upper(old)->d_inode == 737e9be9d5eSMiklos Szeredi ovl_dentry_upper(new)->d_inode) 738e9be9d5eSMiklos Szeredi goto out; 739e9be9d5eSMiklos Szeredi } 740e9be9d5eSMiklos Szeredi } else { 741e9be9d5eSMiklos Szeredi if (ovl_dentry_is_opaque(new)) 7421afaba1eSMiklos Szeredi new_type = __OVL_PATH_UPPER; 743e9be9d5eSMiklos Szeredi else 7441afaba1eSMiklos Szeredi new_type = __OVL_PATH_UPPER | __OVL_PATH_PURE; 745e9be9d5eSMiklos Szeredi } 746e9be9d5eSMiklos Szeredi 747e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 748e9be9d5eSMiklos Szeredi if (err) 749e9be9d5eSMiklos Szeredi goto out; 750e9be9d5eSMiklos Szeredi 751e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 752e9be9d5eSMiklos Szeredi if (err) 753e9be9d5eSMiklos Szeredi goto out_drop_write; 754e9be9d5eSMiklos Szeredi 755e9be9d5eSMiklos Szeredi err = ovl_copy_up(new->d_parent); 756e9be9d5eSMiklos Szeredi if (err) 757e9be9d5eSMiklos Szeredi goto out_drop_write; 758e9be9d5eSMiklos Szeredi if (!overwrite) { 759e9be9d5eSMiklos Szeredi err = ovl_copy_up(new); 760e9be9d5eSMiklos Szeredi if (err) 761e9be9d5eSMiklos Szeredi goto out_drop_write; 762e9be9d5eSMiklos Szeredi } 763e9be9d5eSMiklos Szeredi 7641afaba1eSMiklos Szeredi old_opaque = !OVL_TYPE_PURE_UPPER(old_type); 7651afaba1eSMiklos Szeredi new_opaque = !OVL_TYPE_PURE_UPPER(new_type); 766e9be9d5eSMiklos Szeredi 7673fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(old->d_sb); 768e9be9d5eSMiklos Szeredi 7691afaba1eSMiklos Szeredi if (overwrite && OVL_TYPE_MERGE_OR_LOWER(new_type) && new_is_dir) { 770a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(new); 771e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 772e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) { 773e9be9d5eSMiklos Szeredi opaquedir = NULL; 774e9be9d5eSMiklos Szeredi goto out_revert_creds; 775e9be9d5eSMiklos Szeredi } 776e9be9d5eSMiklos Szeredi } 777e9be9d5eSMiklos Szeredi 778e9be9d5eSMiklos Szeredi if (overwrite) { 779e9be9d5eSMiklos Szeredi if (old_opaque) { 780e9be9d5eSMiklos Szeredi if (new->d_inode || !new_opaque) { 781e9be9d5eSMiklos Szeredi /* Whiteout source */ 782e9be9d5eSMiklos Szeredi flags |= RENAME_WHITEOUT; 783e9be9d5eSMiklos Szeredi } else { 784e9be9d5eSMiklos Szeredi /* Switch whiteouts */ 785e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 786e9be9d5eSMiklos Szeredi } 787e9be9d5eSMiklos Szeredi } else if (is_dir && !new->d_inode && new_opaque) { 788e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 789e9be9d5eSMiklos Szeredi cleanup_whiteout = true; 790e9be9d5eSMiklos Szeredi } 791e9be9d5eSMiklos Szeredi } 792e9be9d5eSMiklos Szeredi 793e9be9d5eSMiklos Szeredi old_upperdir = ovl_dentry_upper(old->d_parent); 794e9be9d5eSMiklos Szeredi new_upperdir = ovl_dentry_upper(new->d_parent); 795e9be9d5eSMiklos Szeredi 796e9be9d5eSMiklos Szeredi trap = lock_rename(new_upperdir, old_upperdir); 797e9be9d5eSMiklos Szeredi 79811f37104SMiklos Szeredi 79911f37104SMiklos Szeredi olddentry = lookup_one_len(old->d_name.name, old_upperdir, 80011f37104SMiklos Szeredi old->d_name.len); 80111f37104SMiklos Szeredi err = PTR_ERR(olddentry); 80211f37104SMiklos Szeredi if (IS_ERR(olddentry)) 80311f37104SMiklos Szeredi goto out_unlock; 80411f37104SMiklos Szeredi 80511f37104SMiklos Szeredi err = -ESTALE; 80611f37104SMiklos Szeredi if (olddentry != ovl_dentry_upper(old)) 80711f37104SMiklos Szeredi goto out_dput_old; 80811f37104SMiklos Szeredi 809e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(new->d_name.name, new_upperdir, 810e9be9d5eSMiklos Szeredi new->d_name.len); 811e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 812e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 81311f37104SMiklos Szeredi goto out_dput_old; 814e9be9d5eSMiklos Szeredi 815e9be9d5eSMiklos Szeredi err = -ESTALE; 81611f37104SMiklos Szeredi if (ovl_dentry_upper(new)) { 81711f37104SMiklos Szeredi if (opaquedir) { 81811f37104SMiklos Szeredi if (newdentry != opaquedir) 819e9be9d5eSMiklos Szeredi goto out_dput; 82011f37104SMiklos Szeredi } else { 82111f37104SMiklos Szeredi if (newdentry != ovl_dentry_upper(new)) 822e9be9d5eSMiklos Szeredi goto out_dput; 82311f37104SMiklos Szeredi } 82411f37104SMiklos Szeredi } else { 82511f37104SMiklos Szeredi if (!d_is_negative(newdentry) && 82611f37104SMiklos Szeredi (!new_opaque || !ovl_is_whiteout(newdentry))) 82711f37104SMiklos Szeredi goto out_dput; 82811f37104SMiklos Szeredi } 82911f37104SMiklos Szeredi 830e9be9d5eSMiklos Szeredi if (olddentry == trap) 831e9be9d5eSMiklos Szeredi goto out_dput; 832e9be9d5eSMiklos Szeredi if (newdentry == trap) 833e9be9d5eSMiklos Szeredi goto out_dput; 834e9be9d5eSMiklos Szeredi 835e9be9d5eSMiklos Szeredi if (is_dir && !old_opaque && new_opaque) { 836e9be9d5eSMiklos Szeredi err = ovl_set_opaque(olddentry); 837e9be9d5eSMiklos Szeredi if (err) 838e9be9d5eSMiklos Szeredi goto out_dput; 839e9be9d5eSMiklos Szeredi } 840e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && old_opaque && !new_opaque) { 841e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 842e9be9d5eSMiklos Szeredi if (err) 843e9be9d5eSMiklos Szeredi goto out_dput; 844e9be9d5eSMiklos Szeredi } 845e9be9d5eSMiklos Szeredi 846e9be9d5eSMiklos Szeredi if (old_opaque || new_opaque) { 847e9be9d5eSMiklos Szeredi err = ovl_do_rename(old_upperdir->d_inode, olddentry, 848e9be9d5eSMiklos Szeredi new_upperdir->d_inode, newdentry, 849e9be9d5eSMiklos Szeredi flags); 850e9be9d5eSMiklos Szeredi } else { 851e9be9d5eSMiklos Szeredi /* No debug for the plain case */ 852e9be9d5eSMiklos Szeredi BUG_ON(flags & ~RENAME_EXCHANGE); 853e9be9d5eSMiklos Szeredi err = vfs_rename(old_upperdir->d_inode, olddentry, 854e9be9d5eSMiklos Szeredi new_upperdir->d_inode, newdentry, 855e9be9d5eSMiklos Szeredi NULL, flags); 856e9be9d5eSMiklos Szeredi } 857e9be9d5eSMiklos Szeredi 858e9be9d5eSMiklos Szeredi if (err) { 859e9be9d5eSMiklos Szeredi if (is_dir && !old_opaque && new_opaque) 860e9be9d5eSMiklos Szeredi ovl_remove_opaque(olddentry); 861e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && old_opaque && !new_opaque) 862e9be9d5eSMiklos Szeredi ovl_remove_opaque(newdentry); 863e9be9d5eSMiklos Szeredi goto out_dput; 864e9be9d5eSMiklos Szeredi } 865e9be9d5eSMiklos Szeredi 866e9be9d5eSMiklos Szeredi if (is_dir && old_opaque && !new_opaque) 867e9be9d5eSMiklos Szeredi ovl_remove_opaque(olddentry); 868e9be9d5eSMiklos Szeredi if (!overwrite && new_is_dir && !old_opaque && new_opaque) 869e9be9d5eSMiklos Szeredi ovl_remove_opaque(newdentry); 870e9be9d5eSMiklos Szeredi 87145d11738SKonstantin Khlebnikov /* 87245d11738SKonstantin Khlebnikov * Old dentry now lives in different location. Dentries in 87345d11738SKonstantin Khlebnikov * lowerstack are stale. We cannot drop them here because 87445d11738SKonstantin Khlebnikov * access to them is lockless. This could be only pure upper 87545d11738SKonstantin Khlebnikov * or opaque directory - numlower is zero. Or upper non-dir 87645d11738SKonstantin Khlebnikov * entry - its pureness is tracked by flag opaque. 87745d11738SKonstantin Khlebnikov */ 878e9be9d5eSMiklos Szeredi if (old_opaque != new_opaque) { 879e9be9d5eSMiklos Szeredi ovl_dentry_set_opaque(old, new_opaque); 880e9be9d5eSMiklos Szeredi if (!overwrite) 881e9be9d5eSMiklos Szeredi ovl_dentry_set_opaque(new, old_opaque); 882e9be9d5eSMiklos Szeredi } 883e9be9d5eSMiklos Szeredi 884e9be9d5eSMiklos Szeredi if (cleanup_whiteout) 885e9be9d5eSMiklos Szeredi ovl_cleanup(old_upperdir->d_inode, newdentry); 886e9be9d5eSMiklos Szeredi 887e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(old->d_parent); 888e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(new->d_parent); 889e9be9d5eSMiklos Szeredi 890e9be9d5eSMiklos Szeredi out_dput: 891e9be9d5eSMiklos Szeredi dput(newdentry); 89211f37104SMiklos Szeredi out_dput_old: 89311f37104SMiklos Szeredi dput(olddentry); 894e9be9d5eSMiklos Szeredi out_unlock: 895e9be9d5eSMiklos Szeredi unlock_rename(new_upperdir, old_upperdir); 896e9be9d5eSMiklos Szeredi out_revert_creds: 897e9be9d5eSMiklos Szeredi revert_creds(old_cred); 898e9be9d5eSMiklos Szeredi out_drop_write: 899e9be9d5eSMiklos Szeredi ovl_drop_write(old); 900e9be9d5eSMiklos Szeredi out: 901e9be9d5eSMiklos Szeredi dput(opaquedir); 902e9be9d5eSMiklos Szeredi return err; 903e9be9d5eSMiklos Szeredi } 904e9be9d5eSMiklos Szeredi 905e9be9d5eSMiklos Szeredi const struct inode_operations ovl_dir_inode_operations = { 906e9be9d5eSMiklos Szeredi .lookup = ovl_lookup, 907e9be9d5eSMiklos Szeredi .mkdir = ovl_mkdir, 908e9be9d5eSMiklos Szeredi .symlink = ovl_symlink, 909e9be9d5eSMiklos Szeredi .unlink = ovl_unlink, 910e9be9d5eSMiklos Szeredi .rmdir = ovl_rmdir, 911e9be9d5eSMiklos Szeredi .rename2 = ovl_rename2, 912e9be9d5eSMiklos Szeredi .link = ovl_link, 913e9be9d5eSMiklos Szeredi .setattr = ovl_setattr, 914e9be9d5eSMiklos Szeredi .create = ovl_create, 915e9be9d5eSMiklos Szeredi .mknod = ovl_mknod, 916e9be9d5eSMiklos Szeredi .permission = ovl_permission, 917e9be9d5eSMiklos Szeredi .getattr = ovl_dir_getattr, 918e9be9d5eSMiklos Szeredi .setxattr = ovl_setxattr, 919e9be9d5eSMiklos Szeredi .getxattr = ovl_getxattr, 920e9be9d5eSMiklos Szeredi .listxattr = ovl_listxattr, 921e9be9d5eSMiklos Szeredi .removexattr = ovl_removexattr, 92239a25b2bSVivek Goyal .get_acl = ovl_get_acl, 923e9be9d5eSMiklos Szeredi }; 924