1e9be9d5eSMiklos Szeredi /* 2e9be9d5eSMiklos Szeredi * 3e9be9d5eSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 4e9be9d5eSMiklos Szeredi * 5e9be9d5eSMiklos Szeredi * This program is free software; you can redistribute it and/or modify it 6e9be9d5eSMiklos Szeredi * under the terms of the GNU General Public License version 2 as published by 7e9be9d5eSMiklos Szeredi * the Free Software Foundation. 8e9be9d5eSMiklos Szeredi */ 9e9be9d5eSMiklos Szeredi 10e9be9d5eSMiklos Szeredi #include <linux/fs.h> 11e9be9d5eSMiklos Szeredi #include <linux/namei.h> 12e9be9d5eSMiklos Szeredi #include <linux/xattr.h> 13e9be9d5eSMiklos Szeredi #include <linux/security.h> 14e9be9d5eSMiklos Szeredi #include <linux/cred.h> 153ea22a71SMiklos Szeredi #include <linux/module.h> 1638b25697SMiklos Szeredi #include <linux/posix_acl.h> 1738b25697SMiklos Szeredi #include <linux/posix_acl_xattr.h> 186a45b362SRichard Weinberger #include <linux/atomic.h> 19a6c60655SMiklos Szeredi #include <linux/ratelimit.h> 20e9be9d5eSMiklos Szeredi #include "overlayfs.h" 21e9be9d5eSMiklos Szeredi 223ea22a71SMiklos Szeredi static unsigned short ovl_redirect_max = 256; 233ea22a71SMiklos Szeredi module_param_named(redirect_max, ovl_redirect_max, ushort, 0644); 243ea22a71SMiklos Szeredi MODULE_PARM_DESC(ovl_redirect_max, 253ea22a71SMiklos Szeredi "Maximum length of absolute redirect xattr value"); 263ea22a71SMiklos Szeredi 27e9be9d5eSMiklos Szeredi void ovl_cleanup(struct inode *wdir, struct dentry *wdentry) 28e9be9d5eSMiklos Szeredi { 29e9be9d5eSMiklos Szeredi int err; 30e9be9d5eSMiklos Szeredi 31e9be9d5eSMiklos Szeredi dget(wdentry); 32e36cb0b8SDavid Howells if (d_is_dir(wdentry)) 33e9be9d5eSMiklos Szeredi err = ovl_do_rmdir(wdir, wdentry); 34e9be9d5eSMiklos Szeredi else 35e9be9d5eSMiklos Szeredi err = ovl_do_unlink(wdir, wdentry); 36e9be9d5eSMiklos Szeredi dput(wdentry); 37e9be9d5eSMiklos Szeredi 38e9be9d5eSMiklos Szeredi if (err) { 39e9be9d5eSMiklos Szeredi pr_err("overlayfs: cleanup of '%pd2' failed (%i)\n", 40e9be9d5eSMiklos Szeredi wdentry, err); 41e9be9d5eSMiklos Szeredi } 42e9be9d5eSMiklos Szeredi } 43e9be9d5eSMiklos Szeredi 44e9be9d5eSMiklos Szeredi struct dentry *ovl_lookup_temp(struct dentry *workdir, struct dentry *dentry) 45e9be9d5eSMiklos Szeredi { 46e9be9d5eSMiklos Szeredi struct dentry *temp; 47e9be9d5eSMiklos Szeredi char name[20]; 486a45b362SRichard Weinberger static atomic_t temp_id = ATOMIC_INIT(0); 49e9be9d5eSMiklos Szeredi 506a45b362SRichard Weinberger /* counter is allowed to wrap, since temp dentries are ephemeral */ 516a45b362SRichard Weinberger snprintf(name, sizeof(name), "#%x", atomic_inc_return(&temp_id)); 52e9be9d5eSMiklos Szeredi 53e9be9d5eSMiklos Szeredi temp = lookup_one_len(name, workdir, strlen(name)); 54e9be9d5eSMiklos Szeredi if (!IS_ERR(temp) && temp->d_inode) { 55e9be9d5eSMiklos Szeredi pr_err("overlayfs: workdir/%s already exists\n", name); 56e9be9d5eSMiklos Szeredi dput(temp); 57e9be9d5eSMiklos Szeredi temp = ERR_PTR(-EIO); 58e9be9d5eSMiklos Szeredi } 59e9be9d5eSMiklos Szeredi 60e9be9d5eSMiklos Szeredi return temp; 61e9be9d5eSMiklos Szeredi } 62e9be9d5eSMiklos Szeredi 63e9be9d5eSMiklos Szeredi /* caller holds i_mutex on workdir */ 64e9be9d5eSMiklos Szeredi static struct dentry *ovl_whiteout(struct dentry *workdir, 65e9be9d5eSMiklos Szeredi struct dentry *dentry) 66e9be9d5eSMiklos Szeredi { 67e9be9d5eSMiklos Szeredi int err; 68e9be9d5eSMiklos Szeredi struct dentry *whiteout; 69e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 70e9be9d5eSMiklos Szeredi 71e9be9d5eSMiklos Szeredi whiteout = ovl_lookup_temp(workdir, dentry); 72e9be9d5eSMiklos Szeredi if (IS_ERR(whiteout)) 73e9be9d5eSMiklos Szeredi return whiteout; 74e9be9d5eSMiklos Szeredi 75e9be9d5eSMiklos Szeredi err = ovl_do_whiteout(wdir, whiteout); 76e9be9d5eSMiklos Szeredi if (err) { 77e9be9d5eSMiklos Szeredi dput(whiteout); 78e9be9d5eSMiklos Szeredi whiteout = ERR_PTR(err); 79e9be9d5eSMiklos Szeredi } 80e9be9d5eSMiklos Szeredi 81e9be9d5eSMiklos Szeredi return whiteout; 82e9be9d5eSMiklos Szeredi } 83e9be9d5eSMiklos Szeredi 84e9be9d5eSMiklos Szeredi int ovl_create_real(struct inode *dir, struct dentry *newdentry, 85e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 86e9be9d5eSMiklos Szeredi struct dentry *hardlink, bool debug) 87e9be9d5eSMiklos Szeredi { 88e9be9d5eSMiklos Szeredi int err; 89e9be9d5eSMiklos Szeredi 90e9be9d5eSMiklos Szeredi if (newdentry->d_inode) 91e9be9d5eSMiklos Szeredi return -ESTALE; 92e9be9d5eSMiklos Szeredi 93e9be9d5eSMiklos Szeredi if (hardlink) { 94e9be9d5eSMiklos Szeredi err = ovl_do_link(hardlink, dir, newdentry, debug); 95e9be9d5eSMiklos Szeredi } else { 96e9be9d5eSMiklos Szeredi switch (stat->mode & S_IFMT) { 97e9be9d5eSMiklos Szeredi case S_IFREG: 98e9be9d5eSMiklos Szeredi err = ovl_do_create(dir, newdentry, stat->mode, debug); 99e9be9d5eSMiklos Szeredi break; 100e9be9d5eSMiklos Szeredi 101e9be9d5eSMiklos Szeredi case S_IFDIR: 102e9be9d5eSMiklos Szeredi err = ovl_do_mkdir(dir, newdentry, stat->mode, debug); 103e9be9d5eSMiklos Szeredi break; 104e9be9d5eSMiklos Szeredi 105e9be9d5eSMiklos Szeredi case S_IFCHR: 106e9be9d5eSMiklos Szeredi case S_IFBLK: 107e9be9d5eSMiklos Szeredi case S_IFIFO: 108e9be9d5eSMiklos Szeredi case S_IFSOCK: 109e9be9d5eSMiklos Szeredi err = ovl_do_mknod(dir, newdentry, 110e9be9d5eSMiklos Szeredi stat->mode, stat->rdev, debug); 111e9be9d5eSMiklos Szeredi break; 112e9be9d5eSMiklos Szeredi 113e9be9d5eSMiklos Szeredi case S_IFLNK: 114e9be9d5eSMiklos Szeredi err = ovl_do_symlink(dir, newdentry, link, debug); 115e9be9d5eSMiklos Szeredi break; 116e9be9d5eSMiklos Szeredi 117e9be9d5eSMiklos Szeredi default: 118e9be9d5eSMiklos Szeredi err = -EPERM; 119e9be9d5eSMiklos Szeredi } 120e9be9d5eSMiklos Szeredi } 121e9be9d5eSMiklos Szeredi if (!err && WARN_ON(!newdentry->d_inode)) { 122e9be9d5eSMiklos Szeredi /* 123e9be9d5eSMiklos Szeredi * Not quite sure if non-instantiated dentry is legal or not. 124e9be9d5eSMiklos Szeredi * VFS doesn't seem to care so check and warn here. 125e9be9d5eSMiklos Szeredi */ 126e9be9d5eSMiklos Szeredi err = -ENOENT; 127e9be9d5eSMiklos Szeredi } 128e9be9d5eSMiklos Szeredi return err; 129e9be9d5eSMiklos Szeredi } 130e9be9d5eSMiklos Szeredi 131e9be9d5eSMiklos Szeredi static int ovl_set_opaque(struct dentry *upperdentry) 132e9be9d5eSMiklos Szeredi { 133cead89bbShujianyang return ovl_do_setxattr(upperdentry, OVL_XATTR_OPAQUE, "y", 1, 0); 134e9be9d5eSMiklos Szeredi } 135e9be9d5eSMiklos Szeredi 136e9be9d5eSMiklos Szeredi static int ovl_dir_getattr(struct vfsmount *mnt, struct dentry *dentry, 137e9be9d5eSMiklos Szeredi struct kstat *stat) 138e9be9d5eSMiklos Szeredi { 139e9be9d5eSMiklos Szeredi int err; 140e9be9d5eSMiklos Szeredi enum ovl_path_type type; 141e9be9d5eSMiklos Szeredi struct path realpath; 1421175b6b8SVivek Goyal const struct cred *old_cred; 143e9be9d5eSMiklos Szeredi 144e9be9d5eSMiklos Szeredi type = ovl_path_real(dentry, &realpath); 1451175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 146e9be9d5eSMiklos Szeredi err = vfs_getattr(&realpath, stat); 1471175b6b8SVivek Goyal revert_creds(old_cred); 148e9be9d5eSMiklos Szeredi if (err) 149e9be9d5eSMiklos Szeredi return err; 150e9be9d5eSMiklos Szeredi 151e9be9d5eSMiklos Szeredi stat->dev = dentry->d_sb->s_dev; 152e9be9d5eSMiklos Szeredi stat->ino = dentry->d_inode->i_ino; 153e9be9d5eSMiklos Szeredi 154e9be9d5eSMiklos Szeredi /* 155e9be9d5eSMiklos Szeredi * It's probably not worth it to count subdirs to get the 156e9be9d5eSMiklos Szeredi * correct link count. nlink=1 seems to pacify 'find' and 157e9be9d5eSMiklos Szeredi * other utilities. 158e9be9d5eSMiklos Szeredi */ 1591afaba1eSMiklos Szeredi if (OVL_TYPE_MERGE(type)) 160e9be9d5eSMiklos Szeredi stat->nlink = 1; 161e9be9d5eSMiklos Szeredi 162e9be9d5eSMiklos Szeredi return 0; 163e9be9d5eSMiklos Szeredi } 164e9be9d5eSMiklos Szeredi 16572e48481SVivek Goyal /* Common operations required to be done after creation of file on upper */ 16672e48481SVivek Goyal static void ovl_instantiate(struct dentry *dentry, struct inode *inode, 16751f7e52dSMiklos Szeredi struct dentry *newdentry, bool hardlink) 16872e48481SVivek Goyal { 16972e48481SVivek Goyal ovl_dentry_version_inc(dentry->d_parent); 17072e48481SVivek Goyal ovl_dentry_update(dentry, newdentry); 17151f7e52dSMiklos Szeredi if (!hardlink) { 17239b681f8SMiklos Szeredi ovl_inode_update(inode, d_inode(newdentry)); 17372e48481SVivek Goyal ovl_copyattr(newdentry->d_inode, inode); 17451f7e52dSMiklos Szeredi } else { 17551f7e52dSMiklos Szeredi WARN_ON(ovl_inode_real(inode, NULL) != d_inode(newdentry)); 17651f7e52dSMiklos Szeredi inc_nlink(inode); 17751f7e52dSMiklos Szeredi } 17872e48481SVivek Goyal d_instantiate(dentry, inode); 17972e48481SVivek Goyal } 18072e48481SVivek Goyal 181e9be9d5eSMiklos Szeredi static int ovl_create_upper(struct dentry *dentry, struct inode *inode, 182e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 183e9be9d5eSMiklos Szeredi struct dentry *hardlink) 184e9be9d5eSMiklos Szeredi { 185e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 186e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 187e9be9d5eSMiklos Szeredi struct dentry *newdentry; 188e9be9d5eSMiklos Szeredi int err; 189e9be9d5eSMiklos Szeredi 19038b25697SMiklos Szeredi if (!hardlink && !IS_POSIXACL(udir)) 19138b25697SMiklos Szeredi stat->mode &= ~current_umask(); 19238b25697SMiklos Szeredi 1935955102cSAl Viro inode_lock_nested(udir, I_MUTEX_PARENT); 194e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(dentry->d_name.name, upperdir, 195e9be9d5eSMiklos Szeredi dentry->d_name.len); 196e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 197e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 198e9be9d5eSMiklos Szeredi goto out_unlock; 199e9be9d5eSMiklos Szeredi err = ovl_create_real(udir, newdentry, stat, link, hardlink, false); 200e9be9d5eSMiklos Szeredi if (err) 201e9be9d5eSMiklos Szeredi goto out_dput; 202e9be9d5eSMiklos Szeredi 20351f7e52dSMiklos Szeredi ovl_instantiate(dentry, inode, newdentry, !!hardlink); 204e9be9d5eSMiklos Szeredi newdentry = NULL; 205e9be9d5eSMiklos Szeredi out_dput: 206e9be9d5eSMiklos Szeredi dput(newdentry); 207e9be9d5eSMiklos Szeredi out_unlock: 2085955102cSAl Viro inode_unlock(udir); 209e9be9d5eSMiklos Szeredi return err; 210e9be9d5eSMiklos Szeredi } 211e9be9d5eSMiklos Szeredi 212e9be9d5eSMiklos Szeredi static int ovl_lock_rename_workdir(struct dentry *workdir, 213e9be9d5eSMiklos Szeredi struct dentry *upperdir) 214e9be9d5eSMiklos Szeredi { 215e9be9d5eSMiklos Szeredi /* Workdir should not be the same as upperdir */ 216e9be9d5eSMiklos Szeredi if (workdir == upperdir) 217e9be9d5eSMiklos Szeredi goto err; 218e9be9d5eSMiklos Szeredi 219e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */ 220e9be9d5eSMiklos Szeredi if (lock_rename(workdir, upperdir) != NULL) 221e9be9d5eSMiklos Szeredi goto err_unlock; 222e9be9d5eSMiklos Szeredi 223e9be9d5eSMiklos Szeredi return 0; 224e9be9d5eSMiklos Szeredi 225e9be9d5eSMiklos Szeredi err_unlock: 226e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 227e9be9d5eSMiklos Szeredi err: 228e9be9d5eSMiklos Szeredi pr_err("overlayfs: failed to lock workdir+upperdir\n"); 229e9be9d5eSMiklos Szeredi return -EIO; 230e9be9d5eSMiklos Szeredi } 231e9be9d5eSMiklos Szeredi 232e9be9d5eSMiklos Szeredi static struct dentry *ovl_clear_empty(struct dentry *dentry, 233e9be9d5eSMiklos Szeredi struct list_head *list) 234e9be9d5eSMiklos Szeredi { 235e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 236e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 237e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 238e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 239e9be9d5eSMiklos Szeredi struct path upperpath; 240e9be9d5eSMiklos Szeredi struct dentry *upper; 241e9be9d5eSMiklos Szeredi struct dentry *opaquedir; 242e9be9d5eSMiklos Szeredi struct kstat stat; 243e9be9d5eSMiklos Szeredi int err; 244e9be9d5eSMiklos Szeredi 245cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 246cc6f67bcSMiklos Szeredi return ERR_PTR(-EROFS); 247cc6f67bcSMiklos Szeredi 248e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 249e9be9d5eSMiklos Szeredi if (err) 250e9be9d5eSMiklos Szeredi goto out; 251e9be9d5eSMiklos Szeredi 252e9be9d5eSMiklos Szeredi ovl_path_upper(dentry, &upperpath); 253e9be9d5eSMiklos Szeredi err = vfs_getattr(&upperpath, &stat); 254e9be9d5eSMiklos Szeredi if (err) 255e9be9d5eSMiklos Szeredi goto out_unlock; 256e9be9d5eSMiklos Szeredi 257e9be9d5eSMiklos Szeredi err = -ESTALE; 258e9be9d5eSMiklos Szeredi if (!S_ISDIR(stat.mode)) 259e9be9d5eSMiklos Szeredi goto out_unlock; 260e9be9d5eSMiklos Szeredi upper = upperpath.dentry; 261e9be9d5eSMiklos Szeredi if (upper->d_parent->d_inode != udir) 262e9be9d5eSMiklos Szeredi goto out_unlock; 263e9be9d5eSMiklos Szeredi 264e9be9d5eSMiklos Szeredi opaquedir = ovl_lookup_temp(workdir, dentry); 265e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 266e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 267e9be9d5eSMiklos Szeredi goto out_unlock; 268e9be9d5eSMiklos Szeredi 269e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, opaquedir, &stat, NULL, NULL, true); 270e9be9d5eSMiklos Szeredi if (err) 271e9be9d5eSMiklos Szeredi goto out_dput; 272e9be9d5eSMiklos Szeredi 273e9be9d5eSMiklos Szeredi err = ovl_copy_xattr(upper, opaquedir); 274e9be9d5eSMiklos Szeredi if (err) 275e9be9d5eSMiklos Szeredi goto out_cleanup; 276e9be9d5eSMiklos Szeredi 277e9be9d5eSMiklos Szeredi err = ovl_set_opaque(opaquedir); 278e9be9d5eSMiklos Szeredi if (err) 279e9be9d5eSMiklos Szeredi goto out_cleanup; 280e9be9d5eSMiklos Szeredi 2815955102cSAl Viro inode_lock(opaquedir->d_inode); 282e9be9d5eSMiklos Szeredi err = ovl_set_attr(opaquedir, &stat); 2835955102cSAl Viro inode_unlock(opaquedir->d_inode); 284e9be9d5eSMiklos Szeredi if (err) 285e9be9d5eSMiklos Szeredi goto out_cleanup; 286e9be9d5eSMiklos Szeredi 287e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, opaquedir, udir, upper, RENAME_EXCHANGE); 288e9be9d5eSMiklos Szeredi if (err) 289e9be9d5eSMiklos Szeredi goto out_cleanup; 290e9be9d5eSMiklos Szeredi 291e9be9d5eSMiklos Szeredi ovl_cleanup_whiteouts(upper, list); 292e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 293e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 294e9be9d5eSMiklos Szeredi 295e9be9d5eSMiklos Szeredi /* dentry's upper doesn't match now, get rid of it */ 296e9be9d5eSMiklos Szeredi d_drop(dentry); 297e9be9d5eSMiklos Szeredi 298e9be9d5eSMiklos Szeredi return opaquedir; 299e9be9d5eSMiklos Szeredi 300e9be9d5eSMiklos Szeredi out_cleanup: 301e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, opaquedir); 302e9be9d5eSMiklos Szeredi out_dput: 303e9be9d5eSMiklos Szeredi dput(opaquedir); 304e9be9d5eSMiklos Szeredi out_unlock: 305e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 306e9be9d5eSMiklos Szeredi out: 307e9be9d5eSMiklos Szeredi return ERR_PTR(err); 308e9be9d5eSMiklos Szeredi } 309e9be9d5eSMiklos Szeredi 310a105d685SMiklos Szeredi static struct dentry *ovl_check_empty_and_clear(struct dentry *dentry) 311e9be9d5eSMiklos Szeredi { 312e9be9d5eSMiklos Szeredi int err; 313e9be9d5eSMiklos Szeredi struct dentry *ret = NULL; 31430c17ebfSMiklos Szeredi enum ovl_path_type type = ovl_path_type(dentry); 315e9be9d5eSMiklos Szeredi LIST_HEAD(list); 316e9be9d5eSMiklos Szeredi 317e9be9d5eSMiklos Szeredi err = ovl_check_empty_dir(dentry, &list); 31830c17ebfSMiklos Szeredi if (err) { 319e9be9d5eSMiklos Szeredi ret = ERR_PTR(err); 32030c17ebfSMiklos Szeredi goto out_free; 321a105d685SMiklos Szeredi } 322e9be9d5eSMiklos Szeredi 32330c17ebfSMiklos Szeredi /* 32430c17ebfSMiklos Szeredi * When removing an empty opaque directory, then it makes no sense to 32530c17ebfSMiklos Szeredi * replace it with an exact replica of itself. 32630c17ebfSMiklos Szeredi * 32730c17ebfSMiklos Szeredi * If no upperdentry then skip clearing whiteouts. 32830c17ebfSMiklos Szeredi * 32930c17ebfSMiklos Szeredi * Can race with copy-up, since we don't hold the upperdir mutex. 33030c17ebfSMiklos Szeredi * Doesn't matter, since copy-up can't create a non-empty directory 33130c17ebfSMiklos Szeredi * from an empty one. 33230c17ebfSMiklos Szeredi */ 33330c17ebfSMiklos Szeredi if (OVL_TYPE_UPPER(type) && OVL_TYPE_MERGE(type)) 33430c17ebfSMiklos Szeredi ret = ovl_clear_empty(dentry, &list); 33530c17ebfSMiklos Szeredi 33630c17ebfSMiklos Szeredi out_free: 337e9be9d5eSMiklos Szeredi ovl_cache_free(&list); 338e9be9d5eSMiklos Szeredi 339e9be9d5eSMiklos Szeredi return ret; 340e9be9d5eSMiklos Szeredi } 341e9be9d5eSMiklos Szeredi 34238b25697SMiklos Szeredi static int ovl_set_upper_acl(struct dentry *upperdentry, const char *name, 34338b25697SMiklos Szeredi const struct posix_acl *acl) 34438b25697SMiklos Szeredi { 34538b25697SMiklos Szeredi void *buffer; 34638b25697SMiklos Szeredi size_t size; 34738b25697SMiklos Szeredi int err; 34838b25697SMiklos Szeredi 34938b25697SMiklos Szeredi if (!IS_ENABLED(CONFIG_FS_POSIX_ACL) || !acl) 35038b25697SMiklos Szeredi return 0; 35138b25697SMiklos Szeredi 35238b25697SMiklos Szeredi size = posix_acl_to_xattr(NULL, acl, NULL, 0); 35338b25697SMiklos Szeredi buffer = kmalloc(size, GFP_KERNEL); 35438b25697SMiklos Szeredi if (!buffer) 35538b25697SMiklos Szeredi return -ENOMEM; 35638b25697SMiklos Szeredi 35738b25697SMiklos Szeredi size = posix_acl_to_xattr(&init_user_ns, acl, buffer, size); 35838b25697SMiklos Szeredi err = size; 35938b25697SMiklos Szeredi if (err < 0) 36038b25697SMiklos Szeredi goto out_free; 36138b25697SMiklos Szeredi 36238b25697SMiklos Szeredi err = vfs_setxattr(upperdentry, name, buffer, size, XATTR_CREATE); 36338b25697SMiklos Szeredi out_free: 36438b25697SMiklos Szeredi kfree(buffer); 36538b25697SMiklos Szeredi return err; 36638b25697SMiklos Szeredi } 36738b25697SMiklos Szeredi 368e9be9d5eSMiklos Szeredi static int ovl_create_over_whiteout(struct dentry *dentry, struct inode *inode, 369e9be9d5eSMiklos Szeredi struct kstat *stat, const char *link, 370e9be9d5eSMiklos Szeredi struct dentry *hardlink) 371e9be9d5eSMiklos Szeredi { 372e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 373e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 374e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 375e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 376e9be9d5eSMiklos Szeredi struct dentry *upper; 377e9be9d5eSMiklos Szeredi struct dentry *newdentry; 378e9be9d5eSMiklos Szeredi int err; 37938b25697SMiklos Szeredi struct posix_acl *acl, *default_acl; 380e9be9d5eSMiklos Szeredi 381cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 382cc6f67bcSMiklos Szeredi return -EROFS; 383cc6f67bcSMiklos Szeredi 38438b25697SMiklos Szeredi if (!hardlink) { 38538b25697SMiklos Szeredi err = posix_acl_create(dentry->d_parent->d_inode, 38638b25697SMiklos Szeredi &stat->mode, &default_acl, &acl); 38738b25697SMiklos Szeredi if (err) 38838b25697SMiklos Szeredi return err; 38938b25697SMiklos Szeredi } 39038b25697SMiklos Szeredi 391e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 392e9be9d5eSMiklos Szeredi if (err) 393e9be9d5eSMiklos Szeredi goto out; 394e9be9d5eSMiklos Szeredi 395e9be9d5eSMiklos Szeredi newdentry = ovl_lookup_temp(workdir, dentry); 396e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 397e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 398e9be9d5eSMiklos Szeredi goto out_unlock; 399e9be9d5eSMiklos Szeredi 400e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 401e9be9d5eSMiklos Szeredi dentry->d_name.len); 402e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 403e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 404e9be9d5eSMiklos Szeredi goto out_dput; 405e9be9d5eSMiklos Szeredi 406e9be9d5eSMiklos Szeredi err = ovl_create_real(wdir, newdentry, stat, link, hardlink, true); 407e9be9d5eSMiklos Szeredi if (err) 408e9be9d5eSMiklos Szeredi goto out_dput2; 409e9be9d5eSMiklos Szeredi 410bb0d2b8aSMiklos Szeredi /* 411bb0d2b8aSMiklos Szeredi * mode could have been mutilated due to umask (e.g. sgid directory) 412bb0d2b8aSMiklos Szeredi */ 41351f7e52dSMiklos Szeredi if (!hardlink && 41451f7e52dSMiklos Szeredi !S_ISLNK(stat->mode) && newdentry->d_inode->i_mode != stat->mode) { 415bb0d2b8aSMiklos Szeredi struct iattr attr = { 416bb0d2b8aSMiklos Szeredi .ia_valid = ATTR_MODE, 417bb0d2b8aSMiklos Szeredi .ia_mode = stat->mode, 418bb0d2b8aSMiklos Szeredi }; 419bb0d2b8aSMiklos Szeredi inode_lock(newdentry->d_inode); 420bb0d2b8aSMiklos Szeredi err = notify_change(newdentry, &attr, NULL); 421bb0d2b8aSMiklos Szeredi inode_unlock(newdentry->d_inode); 422bb0d2b8aSMiklos Szeredi if (err) 423bb0d2b8aSMiklos Szeredi goto out_cleanup; 424bb0d2b8aSMiklos Szeredi } 42538b25697SMiklos Szeredi if (!hardlink) { 42638b25697SMiklos Szeredi err = ovl_set_upper_acl(newdentry, XATTR_NAME_POSIX_ACL_ACCESS, 42738b25697SMiklos Szeredi acl); 42838b25697SMiklos Szeredi if (err) 42938b25697SMiklos Szeredi goto out_cleanup; 43038b25697SMiklos Szeredi 43138b25697SMiklos Szeredi err = ovl_set_upper_acl(newdentry, XATTR_NAME_POSIX_ACL_DEFAULT, 43238b25697SMiklos Szeredi default_acl); 43338b25697SMiklos Szeredi if (err) 43438b25697SMiklos Szeredi goto out_cleanup; 43538b25697SMiklos Szeredi } 436bb0d2b8aSMiklos Szeredi 43751f7e52dSMiklos Szeredi if (!hardlink && S_ISDIR(stat->mode)) { 438e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 439e9be9d5eSMiklos Szeredi if (err) 440e9be9d5eSMiklos Szeredi goto out_cleanup; 441e9be9d5eSMiklos Szeredi 442e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 443e9be9d5eSMiklos Szeredi RENAME_EXCHANGE); 444e9be9d5eSMiklos Szeredi if (err) 445e9be9d5eSMiklos Szeredi goto out_cleanup; 446e9be9d5eSMiklos Szeredi 447e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 448e9be9d5eSMiklos Szeredi } else { 449e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, newdentry, udir, upper, 0); 450e9be9d5eSMiklos Szeredi if (err) 451e9be9d5eSMiklos Szeredi goto out_cleanup; 452e9be9d5eSMiklos Szeredi } 45351f7e52dSMiklos Szeredi ovl_instantiate(dentry, inode, newdentry, !!hardlink); 454e9be9d5eSMiklos Szeredi newdentry = NULL; 455e9be9d5eSMiklos Szeredi out_dput2: 456e9be9d5eSMiklos Szeredi dput(upper); 457e9be9d5eSMiklos Szeredi out_dput: 458e9be9d5eSMiklos Szeredi dput(newdentry); 459e9be9d5eSMiklos Szeredi out_unlock: 460e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 461e9be9d5eSMiklos Szeredi out: 46238b25697SMiklos Szeredi if (!hardlink) { 46338b25697SMiklos Szeredi posix_acl_release(acl); 46438b25697SMiklos Szeredi posix_acl_release(default_acl); 46538b25697SMiklos Szeredi } 466e9be9d5eSMiklos Szeredi return err; 467e9be9d5eSMiklos Szeredi 468e9be9d5eSMiklos Szeredi out_cleanup: 469e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, newdentry); 470e9be9d5eSMiklos Szeredi goto out_dput2; 471e9be9d5eSMiklos Szeredi } 472e9be9d5eSMiklos Szeredi 47351f7e52dSMiklos Szeredi static int ovl_create_or_link(struct dentry *dentry, struct inode *inode, 47451f7e52dSMiklos Szeredi struct kstat *stat, const char *link, 47551f7e52dSMiklos Szeredi struct dentry *hardlink) 476e9be9d5eSMiklos Szeredi { 477e9be9d5eSMiklos Szeredi int err; 4781175b6b8SVivek Goyal const struct cred *old_cred; 4791175b6b8SVivek Goyal struct cred *override_cred; 480e9be9d5eSMiklos Szeredi 481e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 482e9be9d5eSMiklos Szeredi if (err) 48351f7e52dSMiklos Szeredi return err; 484bb0d2b8aSMiklos Szeredi 4853fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(dentry->d_sb); 486d0e13f5bSMiklos Szeredi err = -ENOMEM; 487d0e13f5bSMiklos Szeredi override_cred = prepare_creds(); 488d0e13f5bSMiklos Szeredi if (override_cred) { 489bb0d2b8aSMiklos Szeredi override_cred->fsuid = inode->i_uid; 490bb0d2b8aSMiklos Szeredi override_cred->fsgid = inode->i_gid; 4912602625bSVivek Goyal if (!hardlink) { 4922602625bSVivek Goyal err = security_dentry_create_files_as(dentry, 4932602625bSVivek Goyal stat->mode, &dentry->d_name, old_cred, 4942602625bSVivek Goyal override_cred); 4952602625bSVivek Goyal if (err) { 4962602625bSVivek Goyal put_cred(override_cred); 4972602625bSVivek Goyal goto out_revert_creds; 4982602625bSVivek Goyal } 4992602625bSVivek Goyal } 500d0e13f5bSMiklos Szeredi put_cred(override_creds(override_cred)); 501d0e13f5bSMiklos Szeredi put_cred(override_cred); 502e9be9d5eSMiklos Szeredi 503c412ce49SMiklos Szeredi if (!ovl_dentry_is_whiteout(dentry)) 50451f7e52dSMiklos Szeredi err = ovl_create_upper(dentry, inode, stat, link, 5051175b6b8SVivek Goyal hardlink); 5061175b6b8SVivek Goyal else 50751f7e52dSMiklos Szeredi err = ovl_create_over_whiteout(dentry, inode, stat, 508d0e13f5bSMiklos Szeredi link, hardlink); 509d0e13f5bSMiklos Szeredi } 5102602625bSVivek Goyal out_revert_creds: 511e9be9d5eSMiklos Szeredi revert_creds(old_cred); 512bb0d2b8aSMiklos Szeredi if (!err) { 513bb0d2b8aSMiklos Szeredi struct inode *realinode = d_inode(ovl_dentry_upper(dentry)); 514bb0d2b8aSMiklos Szeredi 515bb0d2b8aSMiklos Szeredi WARN_ON(inode->i_mode != realinode->i_mode); 516bb0d2b8aSMiklos Szeredi WARN_ON(!uid_eq(inode->i_uid, realinode->i_uid)); 517bb0d2b8aSMiklos Szeredi WARN_ON(!gid_eq(inode->i_gid, realinode->i_gid)); 518bb0d2b8aSMiklos Szeredi } 519e9be9d5eSMiklos Szeredi return err; 520e9be9d5eSMiklos Szeredi } 521e9be9d5eSMiklos Szeredi 522e9be9d5eSMiklos Szeredi static int ovl_create_object(struct dentry *dentry, int mode, dev_t rdev, 523e9be9d5eSMiklos Szeredi const char *link) 524e9be9d5eSMiklos Szeredi { 525e9be9d5eSMiklos Szeredi int err; 52651f7e52dSMiklos Szeredi struct inode *inode; 52751f7e52dSMiklos Szeredi struct kstat stat = { 52851f7e52dSMiklos Szeredi .rdev = rdev, 52951f7e52dSMiklos Szeredi }; 530e9be9d5eSMiklos Szeredi 531e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 53251f7e52dSMiklos Szeredi if (err) 53351f7e52dSMiklos Szeredi goto out; 534e9be9d5eSMiklos Szeredi 53551f7e52dSMiklos Szeredi err = -ENOMEM; 536ca4c8a3aSMiklos Szeredi inode = ovl_new_inode(dentry->d_sb, mode, rdev); 53751f7e52dSMiklos Szeredi if (!inode) 53851f7e52dSMiklos Szeredi goto out_drop_write; 53951f7e52dSMiklos Szeredi 54051f7e52dSMiklos Szeredi inode_init_owner(inode, dentry->d_parent->d_inode, mode); 54151f7e52dSMiklos Szeredi stat.mode = inode->i_mode; 54251f7e52dSMiklos Szeredi 54351f7e52dSMiklos Szeredi err = ovl_create_or_link(dentry, inode, &stat, link, NULL); 54451f7e52dSMiklos Szeredi if (err) 54551f7e52dSMiklos Szeredi iput(inode); 54651f7e52dSMiklos Szeredi 54751f7e52dSMiklos Szeredi out_drop_write: 54851f7e52dSMiklos Szeredi ovl_drop_write(dentry); 54951f7e52dSMiklos Szeredi out: 550e9be9d5eSMiklos Szeredi return err; 551e9be9d5eSMiklos Szeredi } 552e9be9d5eSMiklos Szeredi 553e9be9d5eSMiklos Szeredi static int ovl_create(struct inode *dir, struct dentry *dentry, umode_t mode, 554e9be9d5eSMiklos Szeredi bool excl) 555e9be9d5eSMiklos Szeredi { 556e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFREG, 0, NULL); 557e9be9d5eSMiklos Szeredi } 558e9be9d5eSMiklos Szeredi 559e9be9d5eSMiklos Szeredi static int ovl_mkdir(struct inode *dir, struct dentry *dentry, umode_t mode) 560e9be9d5eSMiklos Szeredi { 561e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, (mode & 07777) | S_IFDIR, 0, NULL); 562e9be9d5eSMiklos Szeredi } 563e9be9d5eSMiklos Szeredi 564e9be9d5eSMiklos Szeredi static int ovl_mknod(struct inode *dir, struct dentry *dentry, umode_t mode, 565e9be9d5eSMiklos Szeredi dev_t rdev) 566e9be9d5eSMiklos Szeredi { 567e9be9d5eSMiklos Szeredi /* Don't allow creation of "whiteout" on overlay */ 568e9be9d5eSMiklos Szeredi if (S_ISCHR(mode) && rdev == WHITEOUT_DEV) 569e9be9d5eSMiklos Szeredi return -EPERM; 570e9be9d5eSMiklos Szeredi 571e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, mode, rdev, NULL); 572e9be9d5eSMiklos Szeredi } 573e9be9d5eSMiklos Szeredi 574e9be9d5eSMiklos Szeredi static int ovl_symlink(struct inode *dir, struct dentry *dentry, 575e9be9d5eSMiklos Szeredi const char *link) 576e9be9d5eSMiklos Szeredi { 577e9be9d5eSMiklos Szeredi return ovl_create_object(dentry, S_IFLNK, 0, link); 578e9be9d5eSMiklos Szeredi } 579e9be9d5eSMiklos Szeredi 580e9be9d5eSMiklos Szeredi static int ovl_link(struct dentry *old, struct inode *newdir, 581e9be9d5eSMiklos Szeredi struct dentry *new) 582e9be9d5eSMiklos Szeredi { 583e9be9d5eSMiklos Szeredi int err; 58451f7e52dSMiklos Szeredi struct inode *inode; 585e9be9d5eSMiklos Szeredi 586e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 587e9be9d5eSMiklos Szeredi if (err) 588e9be9d5eSMiklos Szeredi goto out; 589e9be9d5eSMiklos Szeredi 590e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 591e9be9d5eSMiklos Szeredi if (err) 592e9be9d5eSMiklos Szeredi goto out_drop_write; 593e9be9d5eSMiklos Szeredi 59451f7e52dSMiklos Szeredi inode = d_inode(old); 59551f7e52dSMiklos Szeredi ihold(inode); 59651f7e52dSMiklos Szeredi 59751f7e52dSMiklos Szeredi err = ovl_create_or_link(new, inode, NULL, NULL, ovl_dentry_upper(old)); 59851f7e52dSMiklos Szeredi if (err) 59951f7e52dSMiklos Szeredi iput(inode); 600e9be9d5eSMiklos Szeredi 601e9be9d5eSMiklos Szeredi out_drop_write: 602e9be9d5eSMiklos Szeredi ovl_drop_write(old); 603e9be9d5eSMiklos Szeredi out: 604e9be9d5eSMiklos Szeredi return err; 605e9be9d5eSMiklos Szeredi } 606e9be9d5eSMiklos Szeredi 607a105d685SMiklos Szeredi static int ovl_remove_and_whiteout(struct dentry *dentry, bool is_dir) 608e9be9d5eSMiklos Szeredi { 609e9be9d5eSMiklos Szeredi struct dentry *workdir = ovl_workdir(dentry); 610e9be9d5eSMiklos Szeredi struct inode *wdir = workdir->d_inode; 611e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 612e9be9d5eSMiklos Szeredi struct inode *udir = upperdir->d_inode; 613e9be9d5eSMiklos Szeredi struct dentry *whiteout; 614e9be9d5eSMiklos Szeredi struct dentry *upper; 615e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 616e9be9d5eSMiklos Szeredi int err; 617cfc9fde0SMaxim Patlasov int flags = 0; 618e9be9d5eSMiklos Szeredi 619cc6f67bcSMiklos Szeredi if (WARN_ON(!workdir)) 620cc6f67bcSMiklos Szeredi return -EROFS; 621cc6f67bcSMiklos Szeredi 622d377c5ebSMiklos Szeredi if (is_dir) { 623a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(dentry); 624e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 625e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) 626e9be9d5eSMiklos Szeredi goto out; 627e9be9d5eSMiklos Szeredi } 628e9be9d5eSMiklos Szeredi 629e9be9d5eSMiklos Szeredi err = ovl_lock_rename_workdir(workdir, upperdir); 630e9be9d5eSMiklos Szeredi if (err) 631e9be9d5eSMiklos Szeredi goto out_dput; 632e9be9d5eSMiklos Szeredi 633e9be9d5eSMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 634e9be9d5eSMiklos Szeredi dentry->d_name.len); 635e9be9d5eSMiklos Szeredi err = PTR_ERR(upper); 636e9be9d5eSMiklos Szeredi if (IS_ERR(upper)) 637cfc9fde0SMaxim Patlasov goto out_unlock; 638e9be9d5eSMiklos Szeredi 639e9be9d5eSMiklos Szeredi err = -ESTALE; 640cfc9fde0SMaxim Patlasov if ((opaquedir && upper != opaquedir) || 641cfc9fde0SMaxim Patlasov (!opaquedir && ovl_dentry_upper(dentry) && 642cfc9fde0SMaxim Patlasov upper != ovl_dentry_upper(dentry))) { 643cfc9fde0SMaxim Patlasov goto out_dput_upper; 644cfc9fde0SMaxim Patlasov } 645e9be9d5eSMiklos Szeredi 646cfc9fde0SMaxim Patlasov whiteout = ovl_whiteout(workdir, dentry); 647cfc9fde0SMaxim Patlasov err = PTR_ERR(whiteout); 648cfc9fde0SMaxim Patlasov if (IS_ERR(whiteout)) 649cfc9fde0SMaxim Patlasov goto out_dput_upper; 650cfc9fde0SMaxim Patlasov 651cfc9fde0SMaxim Patlasov if (d_is_dir(upper)) 652cfc9fde0SMaxim Patlasov flags = RENAME_EXCHANGE; 653e9be9d5eSMiklos Szeredi 654e9be9d5eSMiklos Szeredi err = ovl_do_rename(wdir, whiteout, udir, upper, flags); 655e9be9d5eSMiklos Szeredi if (err) 656e9be9d5eSMiklos Szeredi goto kill_whiteout; 657cfc9fde0SMaxim Patlasov if (flags) 658e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, upper); 659cfc9fde0SMaxim Patlasov 660e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 661e9be9d5eSMiklos Szeredi out_d_drop: 662e9be9d5eSMiklos Szeredi d_drop(dentry); 663e9be9d5eSMiklos Szeredi dput(whiteout); 664cfc9fde0SMaxim Patlasov out_dput_upper: 665cfc9fde0SMaxim Patlasov dput(upper); 666e9be9d5eSMiklos Szeredi out_unlock: 667e9be9d5eSMiklos Szeredi unlock_rename(workdir, upperdir); 668e9be9d5eSMiklos Szeredi out_dput: 669e9be9d5eSMiklos Szeredi dput(opaquedir); 670e9be9d5eSMiklos Szeredi out: 671e9be9d5eSMiklos Szeredi return err; 672e9be9d5eSMiklos Szeredi 673e9be9d5eSMiklos Szeredi kill_whiteout: 674e9be9d5eSMiklos Szeredi ovl_cleanup(wdir, whiteout); 675e9be9d5eSMiklos Szeredi goto out_d_drop; 676e9be9d5eSMiklos Szeredi } 677e9be9d5eSMiklos Szeredi 678e9be9d5eSMiklos Szeredi static int ovl_remove_upper(struct dentry *dentry, bool is_dir) 679e9be9d5eSMiklos Szeredi { 680e9be9d5eSMiklos Szeredi struct dentry *upperdir = ovl_dentry_upper(dentry->d_parent); 681e9be9d5eSMiklos Szeredi struct inode *dir = upperdir->d_inode; 68211f37104SMiklos Szeredi struct dentry *upper; 683d1595119SAmir Goldstein struct dentry *opaquedir = NULL; 684e9be9d5eSMiklos Szeredi int err; 685e9be9d5eSMiklos Szeredi 686d1595119SAmir Goldstein /* Redirect dir can be !ovl_lower_positive && OVL_TYPE_MERGE */ 687d1595119SAmir Goldstein if (is_dir && ovl_dentry_get_redirect(dentry)) { 688d1595119SAmir Goldstein opaquedir = ovl_check_empty_and_clear(dentry); 689d1595119SAmir Goldstein err = PTR_ERR(opaquedir); 690d1595119SAmir Goldstein if (IS_ERR(opaquedir)) 691d1595119SAmir Goldstein goto out; 692d1595119SAmir Goldstein } 693d1595119SAmir Goldstein 6945955102cSAl Viro inode_lock_nested(dir, I_MUTEX_PARENT); 69511f37104SMiklos Szeredi upper = lookup_one_len(dentry->d_name.name, upperdir, 69611f37104SMiklos Szeredi dentry->d_name.len); 69711f37104SMiklos Szeredi err = PTR_ERR(upper); 69811f37104SMiklos Szeredi if (IS_ERR(upper)) 69911f37104SMiklos Szeredi goto out_unlock; 70011f37104SMiklos Szeredi 701e9be9d5eSMiklos Szeredi err = -ESTALE; 702d1595119SAmir Goldstein if ((opaquedir && upper != opaquedir) || 703d1595119SAmir Goldstein (!opaquedir && upper != ovl_dentry_upper(dentry))) 704d1595119SAmir Goldstein goto out_dput_upper; 705d1595119SAmir Goldstein 706e9be9d5eSMiklos Szeredi if (is_dir) 707e9be9d5eSMiklos Szeredi err = vfs_rmdir(dir, upper); 708e9be9d5eSMiklos Szeredi else 709e9be9d5eSMiklos Szeredi err = vfs_unlink(dir, upper, NULL); 710e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(dentry->d_parent); 711e9be9d5eSMiklos Szeredi 712e9be9d5eSMiklos Szeredi /* 713e9be9d5eSMiklos Szeredi * Keeping this dentry hashed would mean having to release 714e9be9d5eSMiklos Szeredi * upperpath/lowerpath, which could only be done if we are the 715e9be9d5eSMiklos Szeredi * sole user of this dentry. Too tricky... Just unhash for 716e9be9d5eSMiklos Szeredi * now. 717e9be9d5eSMiklos Szeredi */ 718ce9113bbSRui Wang if (!err) 719e9be9d5eSMiklos Szeredi d_drop(dentry); 720d1595119SAmir Goldstein out_dput_upper: 721d1595119SAmir Goldstein dput(upper); 72211f37104SMiklos Szeredi out_unlock: 7235955102cSAl Viro inode_unlock(dir); 724d1595119SAmir Goldstein dput(opaquedir); 725d1595119SAmir Goldstein out: 726e9be9d5eSMiklos Szeredi return err; 727e9be9d5eSMiklos Szeredi } 728e9be9d5eSMiklos Szeredi 729e9be9d5eSMiklos Szeredi static int ovl_do_remove(struct dentry *dentry, bool is_dir) 730e9be9d5eSMiklos Szeredi { 731e9be9d5eSMiklos Szeredi enum ovl_path_type type; 732e9be9d5eSMiklos Szeredi int err; 7331175b6b8SVivek Goyal const struct cred *old_cred; 7341175b6b8SVivek Goyal 735e9be9d5eSMiklos Szeredi err = ovl_want_write(dentry); 736e9be9d5eSMiklos Szeredi if (err) 737e9be9d5eSMiklos Szeredi goto out; 738e9be9d5eSMiklos Szeredi 739e9be9d5eSMiklos Szeredi err = ovl_copy_up(dentry->d_parent); 740e9be9d5eSMiklos Szeredi if (err) 741e9be9d5eSMiklos Szeredi goto out_drop_write; 742e9be9d5eSMiklos Szeredi 743e9be9d5eSMiklos Szeredi type = ovl_path_type(dentry); 7441175b6b8SVivek Goyal 7451175b6b8SVivek Goyal old_cred = ovl_override_creds(dentry->d_sb); 7462aff4534SMiklos Szeredi if (!ovl_lower_positive(dentry)) 747e9be9d5eSMiklos Szeredi err = ovl_remove_upper(dentry, is_dir); 7481175b6b8SVivek Goyal else 749a105d685SMiklos Szeredi err = ovl_remove_and_whiteout(dentry, is_dir); 750e9be9d5eSMiklos Szeredi revert_creds(old_cred); 751dbc816d0SMiklos Szeredi if (!err) { 752dbc816d0SMiklos Szeredi if (is_dir) 753dbc816d0SMiklos Szeredi clear_nlink(dentry->d_inode); 754dbc816d0SMiklos Szeredi else 75551f7e52dSMiklos Szeredi drop_nlink(dentry->d_inode); 756dbc816d0SMiklos Szeredi } 757e9be9d5eSMiklos Szeredi out_drop_write: 758e9be9d5eSMiklos Szeredi ovl_drop_write(dentry); 759e9be9d5eSMiklos Szeredi out: 760e9be9d5eSMiklos Szeredi return err; 761e9be9d5eSMiklos Szeredi } 762e9be9d5eSMiklos Szeredi 763e9be9d5eSMiklos Szeredi static int ovl_unlink(struct inode *dir, struct dentry *dentry) 764e9be9d5eSMiklos Szeredi { 765e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, false); 766e9be9d5eSMiklos Szeredi } 767e9be9d5eSMiklos Szeredi 768e9be9d5eSMiklos Szeredi static int ovl_rmdir(struct inode *dir, struct dentry *dentry) 769e9be9d5eSMiklos Szeredi { 770e9be9d5eSMiklos Szeredi return ovl_do_remove(dentry, true); 771e9be9d5eSMiklos Szeredi } 772e9be9d5eSMiklos Szeredi 773370e55acSMiklos Szeredi static bool ovl_type_merge_or_lower(struct dentry *dentry) 774370e55acSMiklos Szeredi { 775370e55acSMiklos Szeredi enum ovl_path_type type = ovl_path_type(dentry); 776370e55acSMiklos Szeredi 777370e55acSMiklos Szeredi return OVL_TYPE_MERGE(type) || !OVL_TYPE_UPPER(type); 778370e55acSMiklos Szeredi } 779370e55acSMiklos Szeredi 780a6c60655SMiklos Szeredi static bool ovl_can_move(struct dentry *dentry) 781a6c60655SMiklos Szeredi { 782a6c60655SMiklos Szeredi return ovl_redirect_dir(dentry->d_sb) || 783a6c60655SMiklos Szeredi !d_is_dir(dentry) || !ovl_type_merge_or_lower(dentry); 784a6c60655SMiklos Szeredi } 785a6c60655SMiklos Szeredi 786a6c60655SMiklos Szeredi static char *ovl_get_redirect(struct dentry *dentry, bool samedir) 787a6c60655SMiklos Szeredi { 788a6c60655SMiklos Szeredi char *buf, *ret; 789a6c60655SMiklos Szeredi struct dentry *d, *tmp; 7903ea22a71SMiklos Szeredi int buflen = ovl_redirect_max + 1; 791a6c60655SMiklos Szeredi 792a6c60655SMiklos Szeredi if (samedir) { 793a6c60655SMiklos Szeredi ret = kstrndup(dentry->d_name.name, dentry->d_name.len, 794a6c60655SMiklos Szeredi GFP_KERNEL); 795a6c60655SMiklos Szeredi goto out; 796a6c60655SMiklos Szeredi } 797a6c60655SMiklos Szeredi 798a6c60655SMiklos Szeredi buf = ret = kmalloc(buflen, GFP_TEMPORARY); 799a6c60655SMiklos Szeredi if (!buf) 800a6c60655SMiklos Szeredi goto out; 801a6c60655SMiklos Szeredi 802a6c60655SMiklos Szeredi buflen--; 803a6c60655SMiklos Szeredi buf[buflen] = '\0'; 804a6c60655SMiklos Szeredi for (d = dget(dentry); !IS_ROOT(d);) { 805a6c60655SMiklos Szeredi const char *name; 806a6c60655SMiklos Szeredi int thislen; 807a6c60655SMiklos Szeredi 808a6c60655SMiklos Szeredi spin_lock(&d->d_lock); 809a6c60655SMiklos Szeredi name = ovl_dentry_get_redirect(d); 810a6c60655SMiklos Szeredi if (name) { 811a6c60655SMiklos Szeredi thislen = strlen(name); 812a6c60655SMiklos Szeredi } else { 813a6c60655SMiklos Szeredi name = d->d_name.name; 814a6c60655SMiklos Szeredi thislen = d->d_name.len; 815a6c60655SMiklos Szeredi } 816a6c60655SMiklos Szeredi 817a6c60655SMiklos Szeredi /* If path is too long, fall back to userspace move */ 818a6c60655SMiklos Szeredi if (thislen + (name[0] != '/') > buflen) { 819a6c60655SMiklos Szeredi ret = ERR_PTR(-EXDEV); 820a6c60655SMiklos Szeredi spin_unlock(&d->d_lock); 821a6c60655SMiklos Szeredi goto out_put; 822a6c60655SMiklos Szeredi } 823a6c60655SMiklos Szeredi 824a6c60655SMiklos Szeredi buflen -= thislen; 825a6c60655SMiklos Szeredi memcpy(&buf[buflen], name, thislen); 826a6c60655SMiklos Szeredi tmp = dget_dlock(d->d_parent); 827a6c60655SMiklos Szeredi spin_unlock(&d->d_lock); 828a6c60655SMiklos Szeredi 829a6c60655SMiklos Szeredi dput(d); 830a6c60655SMiklos Szeredi d = tmp; 831a6c60655SMiklos Szeredi 832a6c60655SMiklos Szeredi /* Absolute redirect: finished */ 833a6c60655SMiklos Szeredi if (buf[buflen] == '/') 834a6c60655SMiklos Szeredi break; 835a6c60655SMiklos Szeredi buflen--; 836a6c60655SMiklos Szeredi buf[buflen] = '/'; 837a6c60655SMiklos Szeredi } 838a6c60655SMiklos Szeredi ret = kstrdup(&buf[buflen], GFP_KERNEL); 839a6c60655SMiklos Szeredi out_put: 840a6c60655SMiklos Szeredi dput(d); 841a6c60655SMiklos Szeredi kfree(buf); 842a6c60655SMiklos Szeredi out: 843a6c60655SMiklos Szeredi return ret ? ret : ERR_PTR(-ENOMEM); 844a6c60655SMiklos Szeredi } 845a6c60655SMiklos Szeredi 846a6c60655SMiklos Szeredi static int ovl_set_redirect(struct dentry *dentry, bool samedir) 847a6c60655SMiklos Szeredi { 848a6c60655SMiklos Szeredi int err; 849a6c60655SMiklos Szeredi const char *redirect = ovl_dentry_get_redirect(dentry); 850a6c60655SMiklos Szeredi 851a6c60655SMiklos Szeredi if (redirect && (samedir || redirect[0] == '/')) 852a6c60655SMiklos Szeredi return 0; 853a6c60655SMiklos Szeredi 854a6c60655SMiklos Szeredi redirect = ovl_get_redirect(dentry, samedir); 855a6c60655SMiklos Szeredi if (IS_ERR(redirect)) 856a6c60655SMiklos Szeredi return PTR_ERR(redirect); 857a6c60655SMiklos Szeredi 858a6c60655SMiklos Szeredi err = ovl_do_setxattr(ovl_dentry_upper(dentry), OVL_XATTR_REDIRECT, 859a6c60655SMiklos Szeredi redirect, strlen(redirect), 0); 860a6c60655SMiklos Szeredi if (!err) { 861a6c60655SMiklos Szeredi spin_lock(&dentry->d_lock); 862a6c60655SMiklos Szeredi ovl_dentry_set_redirect(dentry, redirect); 863a6c60655SMiklos Szeredi spin_unlock(&dentry->d_lock); 864a6c60655SMiklos Szeredi } else { 865a6c60655SMiklos Szeredi kfree(redirect); 866a6c60655SMiklos Szeredi if (err == -EOPNOTSUPP) 867a6c60655SMiklos Szeredi ovl_clear_redirect_dir(dentry->d_sb); 868a6c60655SMiklos Szeredi else 869a6c60655SMiklos Szeredi pr_warn_ratelimited("overlay: failed to set redirect (%i)\n", err); 870a6c60655SMiklos Szeredi /* Fall back to userspace copy-up */ 871a6c60655SMiklos Szeredi err = -EXDEV; 872a6c60655SMiklos Szeredi } 873a6c60655SMiklos Szeredi return err; 874a6c60655SMiklos Szeredi } 875a6c60655SMiklos Szeredi 8766c02cb59SMiklos Szeredi static int ovl_rename(struct inode *olddir, struct dentry *old, 877e9be9d5eSMiklos Szeredi struct inode *newdir, struct dentry *new, 878e9be9d5eSMiklos Szeredi unsigned int flags) 879e9be9d5eSMiklos Szeredi { 880e9be9d5eSMiklos Szeredi int err; 881e9be9d5eSMiklos Szeredi struct dentry *old_upperdir; 882e9be9d5eSMiklos Szeredi struct dentry *new_upperdir; 883e9be9d5eSMiklos Szeredi struct dentry *olddentry; 884e9be9d5eSMiklos Szeredi struct dentry *newdentry; 885e9be9d5eSMiklos Szeredi struct dentry *trap; 886e9be9d5eSMiklos Szeredi bool old_opaque; 887e9be9d5eSMiklos Szeredi bool new_opaque; 888e9be9d5eSMiklos Szeredi bool cleanup_whiteout = false; 889e9be9d5eSMiklos Szeredi bool overwrite = !(flags & RENAME_EXCHANGE); 890e36cb0b8SDavid Howells bool is_dir = d_is_dir(old); 891370e55acSMiklos Szeredi bool new_is_dir = d_is_dir(new); 892a6c60655SMiklos Szeredi bool samedir = olddir == newdir; 893e9be9d5eSMiklos Szeredi struct dentry *opaquedir = NULL; 894e9be9d5eSMiklos Szeredi const struct cred *old_cred = NULL; 895e9be9d5eSMiklos Szeredi 896e9be9d5eSMiklos Szeredi err = -EINVAL; 897e9be9d5eSMiklos Szeredi if (flags & ~(RENAME_EXCHANGE | RENAME_NOREPLACE)) 898e9be9d5eSMiklos Szeredi goto out; 899e9be9d5eSMiklos Szeredi 900e9be9d5eSMiklos Szeredi flags &= ~RENAME_NOREPLACE; 901e9be9d5eSMiklos Szeredi 902e9be9d5eSMiklos Szeredi /* Don't copy up directory trees */ 903e9be9d5eSMiklos Szeredi err = -EXDEV; 904a6c60655SMiklos Szeredi if (!ovl_can_move(old)) 905e9be9d5eSMiklos Szeredi goto out; 906a6c60655SMiklos Szeredi if (!overwrite && !ovl_can_move(new)) 907e9be9d5eSMiklos Szeredi goto out; 908e9be9d5eSMiklos Szeredi 909e9be9d5eSMiklos Szeredi err = ovl_want_write(old); 910e9be9d5eSMiklos Szeredi if (err) 911e9be9d5eSMiklos Szeredi goto out; 912e9be9d5eSMiklos Szeredi 913e9be9d5eSMiklos Szeredi err = ovl_copy_up(old); 914e9be9d5eSMiklos Szeredi if (err) 915e9be9d5eSMiklos Szeredi goto out_drop_write; 916e9be9d5eSMiklos Szeredi 917e9be9d5eSMiklos Szeredi err = ovl_copy_up(new->d_parent); 918e9be9d5eSMiklos Szeredi if (err) 919e9be9d5eSMiklos Szeredi goto out_drop_write; 920e9be9d5eSMiklos Szeredi if (!overwrite) { 921e9be9d5eSMiklos Szeredi err = ovl_copy_up(new); 922e9be9d5eSMiklos Szeredi if (err) 923e9be9d5eSMiklos Szeredi goto out_drop_write; 924e9be9d5eSMiklos Szeredi } 925e9be9d5eSMiklos Szeredi 9263fe6e52fSAntonio Murdaca old_cred = ovl_override_creds(old->d_sb); 927e9be9d5eSMiklos Szeredi 928370e55acSMiklos Szeredi if (overwrite && new_is_dir && ovl_type_merge_or_lower(new)) { 929a105d685SMiklos Szeredi opaquedir = ovl_check_empty_and_clear(new); 930e9be9d5eSMiklos Szeredi err = PTR_ERR(opaquedir); 931e9be9d5eSMiklos Szeredi if (IS_ERR(opaquedir)) { 932e9be9d5eSMiklos Szeredi opaquedir = NULL; 933e9be9d5eSMiklos Szeredi goto out_revert_creds; 934e9be9d5eSMiklos Szeredi } 935e9be9d5eSMiklos Szeredi } 936e9be9d5eSMiklos Szeredi 937e9be9d5eSMiklos Szeredi if (overwrite) { 9382aff4534SMiklos Szeredi if (ovl_lower_positive(old)) { 939c412ce49SMiklos Szeredi if (!ovl_dentry_is_whiteout(new)) { 940e9be9d5eSMiklos Szeredi /* Whiteout source */ 941e9be9d5eSMiklos Szeredi flags |= RENAME_WHITEOUT; 942e9be9d5eSMiklos Szeredi } else { 943e9be9d5eSMiklos Szeredi /* Switch whiteouts */ 944e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 945e9be9d5eSMiklos Szeredi } 946c412ce49SMiklos Szeredi } else if (is_dir && ovl_dentry_is_whiteout(new)) { 947e9be9d5eSMiklos Szeredi flags |= RENAME_EXCHANGE; 948e9be9d5eSMiklos Szeredi cleanup_whiteout = true; 949e9be9d5eSMiklos Szeredi } 950e9be9d5eSMiklos Szeredi } 951e9be9d5eSMiklos Szeredi 952e9be9d5eSMiklos Szeredi old_upperdir = ovl_dentry_upper(old->d_parent); 953e9be9d5eSMiklos Szeredi new_upperdir = ovl_dentry_upper(new->d_parent); 954e9be9d5eSMiklos Szeredi 955e9be9d5eSMiklos Szeredi trap = lock_rename(new_upperdir, old_upperdir); 956e9be9d5eSMiklos Szeredi 95711f37104SMiklos Szeredi olddentry = lookup_one_len(old->d_name.name, old_upperdir, 95811f37104SMiklos Szeredi old->d_name.len); 95911f37104SMiklos Szeredi err = PTR_ERR(olddentry); 96011f37104SMiklos Szeredi if (IS_ERR(olddentry)) 96111f37104SMiklos Szeredi goto out_unlock; 96211f37104SMiklos Szeredi 96311f37104SMiklos Szeredi err = -ESTALE; 96411f37104SMiklos Szeredi if (olddentry != ovl_dentry_upper(old)) 96511f37104SMiklos Szeredi goto out_dput_old; 96611f37104SMiklos Szeredi 967e9be9d5eSMiklos Szeredi newdentry = lookup_one_len(new->d_name.name, new_upperdir, 968e9be9d5eSMiklos Szeredi new->d_name.len); 969e9be9d5eSMiklos Szeredi err = PTR_ERR(newdentry); 970e9be9d5eSMiklos Szeredi if (IS_ERR(newdentry)) 97111f37104SMiklos Szeredi goto out_dput_old; 972e9be9d5eSMiklos Szeredi 9733ee23ff1SMiklos Szeredi old_opaque = ovl_dentry_is_opaque(old); 9743ee23ff1SMiklos Szeredi new_opaque = ovl_dentry_is_opaque(new); 9753ee23ff1SMiklos Szeredi 976e9be9d5eSMiklos Szeredi err = -ESTALE; 97711f37104SMiklos Szeredi if (ovl_dentry_upper(new)) { 97811f37104SMiklos Szeredi if (opaquedir) { 97911f37104SMiklos Szeredi if (newdentry != opaquedir) 980e9be9d5eSMiklos Szeredi goto out_dput; 98111f37104SMiklos Szeredi } else { 98211f37104SMiklos Szeredi if (newdentry != ovl_dentry_upper(new)) 983e9be9d5eSMiklos Szeredi goto out_dput; 98411f37104SMiklos Szeredi } 98511f37104SMiklos Szeredi } else { 98611f37104SMiklos Szeredi if (!d_is_negative(newdentry) && 98711f37104SMiklos Szeredi (!new_opaque || !ovl_is_whiteout(newdentry))) 98811f37104SMiklos Szeredi goto out_dput; 98911f37104SMiklos Szeredi } 99011f37104SMiklos Szeredi 991e9be9d5eSMiklos Szeredi if (olddentry == trap) 992e9be9d5eSMiklos Szeredi goto out_dput; 993e9be9d5eSMiklos Szeredi if (newdentry == trap) 994e9be9d5eSMiklos Szeredi goto out_dput; 995e9be9d5eSMiklos Szeredi 996804032faSMiklos Szeredi if (WARN_ON(olddentry->d_inode == newdentry->d_inode)) 997804032faSMiklos Szeredi goto out_dput; 998804032faSMiklos Szeredi 999a6c60655SMiklos Szeredi if (is_dir) { 1000a6c60655SMiklos Szeredi if (ovl_type_merge_or_lower(old)) { 1001a6c60655SMiklos Szeredi err = ovl_set_redirect(old, samedir); 1002a6c60655SMiklos Szeredi if (err) 1003a6c60655SMiklos Szeredi goto out_dput; 1004a6c60655SMiklos Szeredi } else if (!old_opaque && ovl_lower_positive(new)) { 1005e9be9d5eSMiklos Szeredi err = ovl_set_opaque(olddentry); 1006e9be9d5eSMiklos Szeredi if (err) 1007e9be9d5eSMiklos Szeredi goto out_dput; 10083ee23ff1SMiklos Szeredi ovl_dentry_set_opaque(old, true); 1009e9be9d5eSMiklos Szeredi } 1010a6c60655SMiklos Szeredi } 1011a6c60655SMiklos Szeredi if (!overwrite && new_is_dir) { 1012a6c60655SMiklos Szeredi if (ovl_type_merge_or_lower(new)) { 1013a6c60655SMiklos Szeredi err = ovl_set_redirect(new, samedir); 1014a6c60655SMiklos Szeredi if (err) 1015a6c60655SMiklos Szeredi goto out_dput; 1016a6c60655SMiklos Szeredi } else if (!new_opaque && ovl_lower_positive(old)) { 1017e9be9d5eSMiklos Szeredi err = ovl_set_opaque(newdentry); 1018e9be9d5eSMiklos Szeredi if (err) 1019e9be9d5eSMiklos Szeredi goto out_dput; 10203ee23ff1SMiklos Szeredi ovl_dentry_set_opaque(new, true); 1021e9be9d5eSMiklos Szeredi } 1022a6c60655SMiklos Szeredi } 1023e9be9d5eSMiklos Szeredi 1024e9be9d5eSMiklos Szeredi err = ovl_do_rename(old_upperdir->d_inode, olddentry, 10253ee23ff1SMiklos Szeredi new_upperdir->d_inode, newdentry, flags); 10263ee23ff1SMiklos Szeredi if (err) 1027e9be9d5eSMiklos Szeredi goto out_dput; 1028e9be9d5eSMiklos Szeredi 1029e9be9d5eSMiklos Szeredi if (cleanup_whiteout) 1030e9be9d5eSMiklos Szeredi ovl_cleanup(old_upperdir->d_inode, newdentry); 1031e9be9d5eSMiklos Szeredi 1032e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(old->d_parent); 1033e9be9d5eSMiklos Szeredi ovl_dentry_version_inc(new->d_parent); 1034e9be9d5eSMiklos Szeredi 1035e9be9d5eSMiklos Szeredi out_dput: 1036e9be9d5eSMiklos Szeredi dput(newdentry); 103711f37104SMiklos Szeredi out_dput_old: 103811f37104SMiklos Szeredi dput(olddentry); 1039e9be9d5eSMiklos Szeredi out_unlock: 1040e9be9d5eSMiklos Szeredi unlock_rename(new_upperdir, old_upperdir); 1041e9be9d5eSMiklos Szeredi out_revert_creds: 1042e9be9d5eSMiklos Szeredi revert_creds(old_cred); 1043e9be9d5eSMiklos Szeredi out_drop_write: 1044e9be9d5eSMiklos Szeredi ovl_drop_write(old); 1045e9be9d5eSMiklos Szeredi out: 1046e9be9d5eSMiklos Szeredi dput(opaquedir); 1047e9be9d5eSMiklos Szeredi return err; 1048e9be9d5eSMiklos Szeredi } 1049e9be9d5eSMiklos Szeredi 1050e9be9d5eSMiklos Szeredi const struct inode_operations ovl_dir_inode_operations = { 1051e9be9d5eSMiklos Szeredi .lookup = ovl_lookup, 1052e9be9d5eSMiklos Szeredi .mkdir = ovl_mkdir, 1053e9be9d5eSMiklos Szeredi .symlink = ovl_symlink, 1054e9be9d5eSMiklos Szeredi .unlink = ovl_unlink, 1055e9be9d5eSMiklos Szeredi .rmdir = ovl_rmdir, 10566c02cb59SMiklos Szeredi .rename = ovl_rename, 1057e9be9d5eSMiklos Szeredi .link = ovl_link, 1058e9be9d5eSMiklos Szeredi .setattr = ovl_setattr, 1059e9be9d5eSMiklos Szeredi .create = ovl_create, 1060e9be9d5eSMiklos Szeredi .mknod = ovl_mknod, 1061e9be9d5eSMiklos Szeredi .permission = ovl_permission, 1062e9be9d5eSMiklos Szeredi .getattr = ovl_dir_getattr, 1063e9be9d5eSMiklos Szeredi .listxattr = ovl_listxattr, 106439a25b2bSVivek Goyal .get_acl = ovl_get_acl, 1065d719e8f2SMiklos Szeredi .update_time = ovl_update_time, 1066e9be9d5eSMiklos Szeredi }; 1067