1bbb1e54dSMiklos Szeredi /* 2bbb1e54dSMiklos Szeredi * Copyright (C) 2011 Novell Inc. 3bbb1e54dSMiklos Szeredi * Copyright (C) 2016 Red Hat, Inc. 4bbb1e54dSMiklos Szeredi * 5bbb1e54dSMiklos Szeredi * This program is free software; you can redistribute it and/or modify it 6bbb1e54dSMiklos Szeredi * under the terms of the GNU General Public License version 2 as published by 7bbb1e54dSMiklos Szeredi * the Free Software Foundation. 8bbb1e54dSMiklos Szeredi */ 9bbb1e54dSMiklos Szeredi 10bbb1e54dSMiklos Szeredi #include <linux/fs.h> 115b825c3aSIngo Molnar #include <linux/cred.h> 12bbb1e54dSMiklos Szeredi #include <linux/namei.h> 13bbb1e54dSMiklos Szeredi #include <linux/xattr.h> 1402b69b28SMiklos Szeredi #include <linux/ratelimit.h> 15a9d01957SAmir Goldstein #include <linux/mount.h> 16a9d01957SAmir Goldstein #include <linux/exportfs.h> 17bbb1e54dSMiklos Szeredi #include "overlayfs.h" 18bbb1e54dSMiklos Szeredi #include "ovl_entry.h" 19bbb1e54dSMiklos Szeredi 20e28edc46SMiklos Szeredi struct ovl_lookup_data { 21e28edc46SMiklos Szeredi struct qstr name; 22e28edc46SMiklos Szeredi bool is_dir; 23e28edc46SMiklos Szeredi bool opaque; 24e28edc46SMiklos Szeredi bool stop; 25e28edc46SMiklos Szeredi bool last; 2602b69b28SMiklos Szeredi char *redirect; 27e28edc46SMiklos Szeredi }; 28bbb1e54dSMiklos Szeredi 2902b69b28SMiklos Szeredi static int ovl_check_redirect(struct dentry *dentry, struct ovl_lookup_data *d, 3002b69b28SMiklos Szeredi size_t prelen, const char *post) 3102b69b28SMiklos Szeredi { 3202b69b28SMiklos Szeredi int res; 3302b69b28SMiklos Szeredi char *s, *next, *buf = NULL; 3402b69b28SMiklos Szeredi 3502b69b28SMiklos Szeredi res = vfs_getxattr(dentry, OVL_XATTR_REDIRECT, NULL, 0); 3602b69b28SMiklos Szeredi if (res < 0) { 3702b69b28SMiklos Szeredi if (res == -ENODATA || res == -EOPNOTSUPP) 3802b69b28SMiklos Szeredi return 0; 3902b69b28SMiklos Szeredi goto fail; 4002b69b28SMiklos Szeredi } 4102b69b28SMiklos Szeredi buf = kzalloc(prelen + res + strlen(post) + 1, GFP_TEMPORARY); 4202b69b28SMiklos Szeredi if (!buf) 4302b69b28SMiklos Szeredi return -ENOMEM; 4402b69b28SMiklos Szeredi 4502b69b28SMiklos Szeredi if (res == 0) 4602b69b28SMiklos Szeredi goto invalid; 4702b69b28SMiklos Szeredi 4802b69b28SMiklos Szeredi res = vfs_getxattr(dentry, OVL_XATTR_REDIRECT, buf, res); 4902b69b28SMiklos Szeredi if (res < 0) 5002b69b28SMiklos Szeredi goto fail; 5102b69b28SMiklos Szeredi if (res == 0) 5202b69b28SMiklos Szeredi goto invalid; 5302b69b28SMiklos Szeredi if (buf[0] == '/') { 5402b69b28SMiklos Szeredi for (s = buf; *s++ == '/'; s = next) { 5502b69b28SMiklos Szeredi next = strchrnul(s, '/'); 5602b69b28SMiklos Szeredi if (s == next) 5702b69b28SMiklos Szeredi goto invalid; 5802b69b28SMiklos Szeredi } 5902b69b28SMiklos Szeredi } else { 6002b69b28SMiklos Szeredi if (strchr(buf, '/') != NULL) 6102b69b28SMiklos Szeredi goto invalid; 6202b69b28SMiklos Szeredi 6302b69b28SMiklos Szeredi memmove(buf + prelen, buf, res); 6402b69b28SMiklos Szeredi memcpy(buf, d->name.name, prelen); 6502b69b28SMiklos Szeredi } 6602b69b28SMiklos Szeredi 6702b69b28SMiklos Szeredi strcat(buf, post); 6802b69b28SMiklos Szeredi kfree(d->redirect); 6902b69b28SMiklos Szeredi d->redirect = buf; 7002b69b28SMiklos Szeredi d->name.name = d->redirect; 7102b69b28SMiklos Szeredi d->name.len = strlen(d->redirect); 7202b69b28SMiklos Szeredi 7302b69b28SMiklos Szeredi return 0; 7402b69b28SMiklos Szeredi 7502b69b28SMiklos Szeredi err_free: 7602b69b28SMiklos Szeredi kfree(buf); 7702b69b28SMiklos Szeredi return 0; 7802b69b28SMiklos Szeredi fail: 7902b69b28SMiklos Szeredi pr_warn_ratelimited("overlayfs: failed to get redirect (%i)\n", res); 8002b69b28SMiklos Szeredi goto err_free; 8102b69b28SMiklos Szeredi invalid: 8202b69b28SMiklos Szeredi pr_warn_ratelimited("overlayfs: invalid redirect (%s)\n", buf); 8302b69b28SMiklos Szeredi goto err_free; 8402b69b28SMiklos Szeredi } 8502b69b28SMiklos Szeredi 86a9d01957SAmir Goldstein static int ovl_acceptable(void *ctx, struct dentry *dentry) 87a9d01957SAmir Goldstein { 88a9d01957SAmir Goldstein return 1; 89a9d01957SAmir Goldstein } 90a9d01957SAmir Goldstein 918b88a2e6SAmir Goldstein static struct ovl_fh *ovl_get_origin_fh(struct dentry *dentry) 92a9d01957SAmir Goldstein { 93a9d01957SAmir Goldstein int res; 94a9d01957SAmir Goldstein struct ovl_fh *fh = NULL; 95a9d01957SAmir Goldstein 96a9d01957SAmir Goldstein res = vfs_getxattr(dentry, OVL_XATTR_ORIGIN, NULL, 0); 97a9d01957SAmir Goldstein if (res < 0) { 98a9d01957SAmir Goldstein if (res == -ENODATA || res == -EOPNOTSUPP) 99a9d01957SAmir Goldstein return NULL; 100a9d01957SAmir Goldstein goto fail; 101a9d01957SAmir Goldstein } 102a9d01957SAmir Goldstein /* Zero size value means "copied up but origin unknown" */ 103a9d01957SAmir Goldstein if (res == 0) 104a9d01957SAmir Goldstein return NULL; 105a9d01957SAmir Goldstein 106a9d01957SAmir Goldstein fh = kzalloc(res, GFP_TEMPORARY); 107a9d01957SAmir Goldstein if (!fh) 108a9d01957SAmir Goldstein return ERR_PTR(-ENOMEM); 109a9d01957SAmir Goldstein 110a9d01957SAmir Goldstein res = vfs_getxattr(dentry, OVL_XATTR_ORIGIN, fh, res); 111a9d01957SAmir Goldstein if (res < 0) 112a9d01957SAmir Goldstein goto fail; 113a9d01957SAmir Goldstein 114a9d01957SAmir Goldstein if (res < sizeof(struct ovl_fh) || res < fh->len) 115a9d01957SAmir Goldstein goto invalid; 116a9d01957SAmir Goldstein 117a9d01957SAmir Goldstein if (fh->magic != OVL_FH_MAGIC) 118a9d01957SAmir Goldstein goto invalid; 119a9d01957SAmir Goldstein 120a9d01957SAmir Goldstein /* Treat larger version and unknown flags as "origin unknown" */ 121a9d01957SAmir Goldstein if (fh->version > OVL_FH_VERSION || fh->flags & ~OVL_FH_FLAG_ALL) 122a9d01957SAmir Goldstein goto out; 123a9d01957SAmir Goldstein 124a9d01957SAmir Goldstein /* Treat endianness mismatch as "origin unknown" */ 125a9d01957SAmir Goldstein if (!(fh->flags & OVL_FH_FLAG_ANY_ENDIAN) && 126a9d01957SAmir Goldstein (fh->flags & OVL_FH_FLAG_BIG_ENDIAN) != OVL_FH_FLAG_CPU_ENDIAN) 127a9d01957SAmir Goldstein goto out; 128a9d01957SAmir Goldstein 1298b88a2e6SAmir Goldstein return fh; 1308b88a2e6SAmir Goldstein 1318b88a2e6SAmir Goldstein out: 1328b88a2e6SAmir Goldstein kfree(fh); 1338b88a2e6SAmir Goldstein return NULL; 1348b88a2e6SAmir Goldstein 1358b88a2e6SAmir Goldstein fail: 1368b88a2e6SAmir Goldstein pr_warn_ratelimited("overlayfs: failed to get origin (%i)\n", res); 1378b88a2e6SAmir Goldstein goto out; 1388b88a2e6SAmir Goldstein invalid: 1398b88a2e6SAmir Goldstein pr_warn_ratelimited("overlayfs: invalid origin (%*phN)\n", res, fh); 1408b88a2e6SAmir Goldstein goto out; 1418b88a2e6SAmir Goldstein } 1428b88a2e6SAmir Goldstein 1438b88a2e6SAmir Goldstein static struct dentry *ovl_get_origin(struct dentry *dentry, 1448b88a2e6SAmir Goldstein struct vfsmount *mnt) 1458b88a2e6SAmir Goldstein { 1468b88a2e6SAmir Goldstein struct dentry *origin = NULL; 1478b88a2e6SAmir Goldstein struct ovl_fh *fh = ovl_get_origin_fh(dentry); 1488b88a2e6SAmir Goldstein int bytes; 1498b88a2e6SAmir Goldstein 1508b88a2e6SAmir Goldstein if (IS_ERR_OR_NULL(fh)) 1518b88a2e6SAmir Goldstein return (struct dentry *)fh; 152a9d01957SAmir Goldstein 153a9d01957SAmir Goldstein /* 154a9d01957SAmir Goldstein * Make sure that the stored uuid matches the uuid of the lower 155a9d01957SAmir Goldstein * layer where file handle will be decoded. 156a9d01957SAmir Goldstein */ 15785787090SChristoph Hellwig if (!uuid_equal(&fh->uuid, &mnt->mnt_sb->s_uuid)) 158a9d01957SAmir Goldstein goto out; 159a9d01957SAmir Goldstein 1608b88a2e6SAmir Goldstein bytes = (fh->len - offsetof(struct ovl_fh, fid)); 161a9d01957SAmir Goldstein origin = exportfs_decode_fh(mnt, (struct fid *)fh->fid, 162a9d01957SAmir Goldstein bytes >> 2, (int)fh->type, 163a9d01957SAmir Goldstein ovl_acceptable, NULL); 164a9d01957SAmir Goldstein if (IS_ERR(origin)) { 165a9d01957SAmir Goldstein /* Treat stale file handle as "origin unknown" */ 166a9d01957SAmir Goldstein if (origin == ERR_PTR(-ESTALE)) 167a9d01957SAmir Goldstein origin = NULL; 168a9d01957SAmir Goldstein goto out; 169a9d01957SAmir Goldstein } 170a9d01957SAmir Goldstein 171a9d01957SAmir Goldstein if (ovl_dentry_weird(origin) || 1728b88a2e6SAmir Goldstein ((d_inode(origin)->i_mode ^ d_inode(dentry)->i_mode) & S_IFMT)) 173a9d01957SAmir Goldstein goto invalid; 174a9d01957SAmir Goldstein 175a9d01957SAmir Goldstein out: 176a9d01957SAmir Goldstein kfree(fh); 177a9d01957SAmir Goldstein return origin; 178a9d01957SAmir Goldstein 179a9d01957SAmir Goldstein invalid: 1808b88a2e6SAmir Goldstein pr_warn_ratelimited("overlayfs: invalid origin (%pd2)\n", origin); 1818b88a2e6SAmir Goldstein dput(origin); 1828b88a2e6SAmir Goldstein origin = NULL; 183a9d01957SAmir Goldstein goto out; 184a9d01957SAmir Goldstein } 185a9d01957SAmir Goldstein 186ee1d6d37SAmir Goldstein static bool ovl_is_opaquedir(struct dentry *dentry) 187ee1d6d37SAmir Goldstein { 188ee1d6d37SAmir Goldstein return ovl_check_dir_xattr(dentry, OVL_XATTR_OPAQUE); 189ee1d6d37SAmir Goldstein } 190ee1d6d37SAmir Goldstein 191e28edc46SMiklos Szeredi static int ovl_lookup_single(struct dentry *base, struct ovl_lookup_data *d, 192e28edc46SMiklos Szeredi const char *name, unsigned int namelen, 19302b69b28SMiklos Szeredi size_t prelen, const char *post, 194e28edc46SMiklos Szeredi struct dentry **ret) 195e28edc46SMiklos Szeredi { 196e28edc46SMiklos Szeredi struct dentry *this; 197e28edc46SMiklos Szeredi int err; 198e28edc46SMiklos Szeredi 199e28edc46SMiklos Szeredi this = lookup_one_len_unlocked(name, base, namelen); 200e28edc46SMiklos Szeredi if (IS_ERR(this)) { 201e28edc46SMiklos Szeredi err = PTR_ERR(this); 202e28edc46SMiklos Szeredi this = NULL; 203e28edc46SMiklos Szeredi if (err == -ENOENT || err == -ENAMETOOLONG) 204e28edc46SMiklos Szeredi goto out; 205e28edc46SMiklos Szeredi goto out_err; 206e28edc46SMiklos Szeredi } 207e28edc46SMiklos Szeredi if (!this->d_inode) 208e28edc46SMiklos Szeredi goto put_and_out; 209e28edc46SMiklos Szeredi 210e28edc46SMiklos Szeredi if (ovl_dentry_weird(this)) { 211e28edc46SMiklos Szeredi /* Don't support traversing automounts and other weirdness */ 212e28edc46SMiklos Szeredi err = -EREMOTE; 213e28edc46SMiklos Szeredi goto out_err; 214e28edc46SMiklos Szeredi } 215e28edc46SMiklos Szeredi if (ovl_is_whiteout(this)) { 216e28edc46SMiklos Szeredi d->stop = d->opaque = true; 217e28edc46SMiklos Szeredi goto put_and_out; 218e28edc46SMiklos Szeredi } 219e28edc46SMiklos Szeredi if (!d_can_lookup(this)) { 220e28edc46SMiklos Szeredi d->stop = true; 221e28edc46SMiklos Szeredi if (d->is_dir) 222e28edc46SMiklos Szeredi goto put_and_out; 223e28edc46SMiklos Szeredi goto out; 224e28edc46SMiklos Szeredi } 225e28edc46SMiklos Szeredi d->is_dir = true; 226e28edc46SMiklos Szeredi if (!d->last && ovl_is_opaquedir(this)) { 227e28edc46SMiklos Szeredi d->stop = d->opaque = true; 228e28edc46SMiklos Szeredi goto out; 229e28edc46SMiklos Szeredi } 23002b69b28SMiklos Szeredi err = ovl_check_redirect(this, d, prelen, post); 23102b69b28SMiklos Szeredi if (err) 23202b69b28SMiklos Szeredi goto out_err; 233e28edc46SMiklos Szeredi out: 234e28edc46SMiklos Szeredi *ret = this; 235e28edc46SMiklos Szeredi return 0; 236e28edc46SMiklos Szeredi 237e28edc46SMiklos Szeredi put_and_out: 238e28edc46SMiklos Szeredi dput(this); 239e28edc46SMiklos Szeredi this = NULL; 240e28edc46SMiklos Szeredi goto out; 241e28edc46SMiklos Szeredi 242e28edc46SMiklos Szeredi out_err: 243e28edc46SMiklos Szeredi dput(this); 244e28edc46SMiklos Szeredi return err; 245e28edc46SMiklos Szeredi } 246e28edc46SMiklos Szeredi 247e28edc46SMiklos Szeredi static int ovl_lookup_layer(struct dentry *base, struct ovl_lookup_data *d, 248e28edc46SMiklos Szeredi struct dentry **ret) 249e28edc46SMiklos Szeredi { 2504c7d0c9cSAmir Goldstein /* Counting down from the end, since the prefix can change */ 2514c7d0c9cSAmir Goldstein size_t rem = d->name.len - 1; 25202b69b28SMiklos Szeredi struct dentry *dentry = NULL; 25302b69b28SMiklos Szeredi int err; 25402b69b28SMiklos Szeredi 2554c7d0c9cSAmir Goldstein if (d->name.name[0] != '/') 25602b69b28SMiklos Szeredi return ovl_lookup_single(base, d, d->name.name, d->name.len, 25702b69b28SMiklos Szeredi 0, "", ret); 25802b69b28SMiklos Szeredi 2594c7d0c9cSAmir Goldstein while (!IS_ERR_OR_NULL(base) && d_can_lookup(base)) { 2604c7d0c9cSAmir Goldstein const char *s = d->name.name + d->name.len - rem; 26102b69b28SMiklos Szeredi const char *next = strchrnul(s, '/'); 2624c7d0c9cSAmir Goldstein size_t thislen = next - s; 2634c7d0c9cSAmir Goldstein bool end = !next[0]; 26402b69b28SMiklos Szeredi 2654c7d0c9cSAmir Goldstein /* Verify we did not go off the rails */ 2664c7d0c9cSAmir Goldstein if (WARN_ON(s[-1] != '/')) 26702b69b28SMiklos Szeredi return -EIO; 26802b69b28SMiklos Szeredi 2694c7d0c9cSAmir Goldstein err = ovl_lookup_single(base, d, s, thislen, 2704c7d0c9cSAmir Goldstein d->name.len - rem, next, &base); 27102b69b28SMiklos Szeredi dput(dentry); 27202b69b28SMiklos Szeredi if (err) 27302b69b28SMiklos Szeredi return err; 27402b69b28SMiklos Szeredi dentry = base; 2754c7d0c9cSAmir Goldstein if (end) 2764c7d0c9cSAmir Goldstein break; 2774c7d0c9cSAmir Goldstein 2784c7d0c9cSAmir Goldstein rem -= thislen + 1; 2794c7d0c9cSAmir Goldstein 2804c7d0c9cSAmir Goldstein if (WARN_ON(rem >= d->name.len)) 2814c7d0c9cSAmir Goldstein return -EIO; 28202b69b28SMiklos Szeredi } 28302b69b28SMiklos Szeredi *ret = dentry; 28402b69b28SMiklos Szeredi return 0; 285e28edc46SMiklos Szeredi } 286e28edc46SMiklos Szeredi 287a9d01957SAmir Goldstein 288a9d01957SAmir Goldstein static int ovl_check_origin(struct dentry *dentry, struct dentry *upperdentry, 289a9d01957SAmir Goldstein struct path **stackp, unsigned int *ctrp) 290a9d01957SAmir Goldstein { 291a9d01957SAmir Goldstein struct ovl_entry *roe = dentry->d_sb->s_root->d_fsdata; 292a9d01957SAmir Goldstein struct vfsmount *mnt; 293f7d3dacaSAmir Goldstein struct dentry *origin = NULL; 294f7d3dacaSAmir Goldstein int i; 295a9d01957SAmir Goldstein 296a9d01957SAmir Goldstein 297f7d3dacaSAmir Goldstein for (i = 0; i < roe->numlower; i++) { 298f7d3dacaSAmir Goldstein mnt = roe->lowerstack[i].mnt; 299a9d01957SAmir Goldstein origin = ovl_get_origin(upperdentry, mnt); 300f7d3dacaSAmir Goldstein if (IS_ERR(origin)) 301a9d01957SAmir Goldstein return PTR_ERR(origin); 302a9d01957SAmir Goldstein 303f7d3dacaSAmir Goldstein if (origin) 304f7d3dacaSAmir Goldstein break; 305f7d3dacaSAmir Goldstein } 306f7d3dacaSAmir Goldstein 307f7d3dacaSAmir Goldstein if (!origin) 308f7d3dacaSAmir Goldstein return 0; 309f7d3dacaSAmir Goldstein 310a9d01957SAmir Goldstein BUG_ON(*stackp || *ctrp); 311a9d01957SAmir Goldstein *stackp = kmalloc(sizeof(struct path), GFP_TEMPORARY); 312a9d01957SAmir Goldstein if (!*stackp) { 313a9d01957SAmir Goldstein dput(origin); 314a9d01957SAmir Goldstein return -ENOMEM; 315a9d01957SAmir Goldstein } 316a9d01957SAmir Goldstein **stackp = (struct path) { .dentry = origin, .mnt = mnt }; 317a9d01957SAmir Goldstein *ctrp = 1; 318a9d01957SAmir Goldstein 319a9d01957SAmir Goldstein return 0; 320a9d01957SAmir Goldstein } 321a9d01957SAmir Goldstein 322bbb1e54dSMiklos Szeredi /* 3238b88a2e6SAmir Goldstein * Verify that @fh matches the origin file handle stored in OVL_XATTR_ORIGIN. 3248b88a2e6SAmir Goldstein * Return 0 on match, -ESTALE on mismatch, < 0 on error. 3258b88a2e6SAmir Goldstein */ 3268b88a2e6SAmir Goldstein static int ovl_verify_origin_fh(struct dentry *dentry, const struct ovl_fh *fh) 3278b88a2e6SAmir Goldstein { 3288b88a2e6SAmir Goldstein struct ovl_fh *ofh = ovl_get_origin_fh(dentry); 3298b88a2e6SAmir Goldstein int err = 0; 3308b88a2e6SAmir Goldstein 3318b88a2e6SAmir Goldstein if (!ofh) 3328b88a2e6SAmir Goldstein return -ENODATA; 3338b88a2e6SAmir Goldstein 3348b88a2e6SAmir Goldstein if (IS_ERR(ofh)) 3358b88a2e6SAmir Goldstein return PTR_ERR(ofh); 3368b88a2e6SAmir Goldstein 3378b88a2e6SAmir Goldstein if (fh->len != ofh->len || memcmp(fh, ofh, fh->len)) 3388b88a2e6SAmir Goldstein err = -ESTALE; 3398b88a2e6SAmir Goldstein 3408b88a2e6SAmir Goldstein kfree(ofh); 3418b88a2e6SAmir Goldstein return err; 3428b88a2e6SAmir Goldstein } 3438b88a2e6SAmir Goldstein 3448b88a2e6SAmir Goldstein /* 3458b88a2e6SAmir Goldstein * Verify that an inode matches the origin file handle stored in upper inode. 3468b88a2e6SAmir Goldstein * 3478b88a2e6SAmir Goldstein * If @set is true and there is no stored file handle, encode and store origin 3488b88a2e6SAmir Goldstein * file handle in OVL_XATTR_ORIGIN. 3498b88a2e6SAmir Goldstein * 3508b88a2e6SAmir Goldstein * Return 0 on match, -ESTALE on mismatch, < 0 on error. 3518b88a2e6SAmir Goldstein */ 3528b88a2e6SAmir Goldstein int ovl_verify_origin(struct dentry *dentry, struct vfsmount *mnt, 35354fb347eSAmir Goldstein struct dentry *origin, bool is_upper, bool set) 3548b88a2e6SAmir Goldstein { 3558b88a2e6SAmir Goldstein struct inode *inode; 3568b88a2e6SAmir Goldstein struct ovl_fh *fh; 3578b88a2e6SAmir Goldstein int err; 3588b88a2e6SAmir Goldstein 35954fb347eSAmir Goldstein fh = ovl_encode_fh(origin, is_upper); 3608b88a2e6SAmir Goldstein err = PTR_ERR(fh); 3618b88a2e6SAmir Goldstein if (IS_ERR(fh)) 3628b88a2e6SAmir Goldstein goto fail; 3638b88a2e6SAmir Goldstein 3648b88a2e6SAmir Goldstein err = ovl_verify_origin_fh(dentry, fh); 3658b88a2e6SAmir Goldstein if (set && err == -ENODATA) 3668b88a2e6SAmir Goldstein err = ovl_do_setxattr(dentry, OVL_XATTR_ORIGIN, fh, fh->len, 0); 3678b88a2e6SAmir Goldstein if (err) 3688b88a2e6SAmir Goldstein goto fail; 3698b88a2e6SAmir Goldstein 3708b88a2e6SAmir Goldstein out: 3718b88a2e6SAmir Goldstein kfree(fh); 3728b88a2e6SAmir Goldstein return err; 3738b88a2e6SAmir Goldstein 3748b88a2e6SAmir Goldstein fail: 3758b88a2e6SAmir Goldstein inode = d_inode(origin); 3768b88a2e6SAmir Goldstein pr_warn_ratelimited("overlayfs: failed to verify origin (%pd2, ino=%lu, err=%i)\n", 3778b88a2e6SAmir Goldstein origin, inode ? inode->i_ino : 0, err); 3788b88a2e6SAmir Goldstein goto out; 3798b88a2e6SAmir Goldstein } 3808b88a2e6SAmir Goldstein 3818b88a2e6SAmir Goldstein /* 382*359f392cSAmir Goldstein * Lookup in indexdir for the index entry of a lower real inode or a copy up 383*359f392cSAmir Goldstein * origin inode. The index entry name is the hex representation of the lower 384*359f392cSAmir Goldstein * inode file handle. 385*359f392cSAmir Goldstein * 386*359f392cSAmir Goldstein * If the index dentry in negative, then either no lower aliases have been 387*359f392cSAmir Goldstein * copied up yet, or aliases have been copied up in older kernels and are 388*359f392cSAmir Goldstein * not indexed. 389*359f392cSAmir Goldstein * 390*359f392cSAmir Goldstein * If the index dentry for a copy up origin inode is positive, but points 391*359f392cSAmir Goldstein * to an inode different than the upper inode, then either the upper inode 392*359f392cSAmir Goldstein * has been copied up and not indexed or it was indexed, but since then 393*359f392cSAmir Goldstein * index dir was cleared. Either way, that index cannot be used to indentify 394*359f392cSAmir Goldstein * the overlay inode. 395*359f392cSAmir Goldstein */ 396*359f392cSAmir Goldstein int ovl_get_index_name(struct dentry *origin, struct qstr *name) 397*359f392cSAmir Goldstein { 398*359f392cSAmir Goldstein int err; 399*359f392cSAmir Goldstein struct ovl_fh *fh; 400*359f392cSAmir Goldstein char *n, *s; 401*359f392cSAmir Goldstein 402*359f392cSAmir Goldstein fh = ovl_encode_fh(origin, false); 403*359f392cSAmir Goldstein if (IS_ERR(fh)) 404*359f392cSAmir Goldstein return PTR_ERR(fh); 405*359f392cSAmir Goldstein 406*359f392cSAmir Goldstein err = -ENOMEM; 407*359f392cSAmir Goldstein n = kzalloc(fh->len * 2, GFP_TEMPORARY); 408*359f392cSAmir Goldstein if (n) { 409*359f392cSAmir Goldstein s = bin2hex(n, fh, fh->len); 410*359f392cSAmir Goldstein *name = (struct qstr) QSTR_INIT(n, s - n); 411*359f392cSAmir Goldstein err = 0; 412*359f392cSAmir Goldstein } 413*359f392cSAmir Goldstein kfree(fh); 414*359f392cSAmir Goldstein 415*359f392cSAmir Goldstein return err; 416*359f392cSAmir Goldstein 417*359f392cSAmir Goldstein } 418*359f392cSAmir Goldstein 419*359f392cSAmir Goldstein static struct dentry *ovl_lookup_index(struct dentry *dentry, 420*359f392cSAmir Goldstein struct dentry *upper, 421*359f392cSAmir Goldstein struct dentry *origin) 422*359f392cSAmir Goldstein { 423*359f392cSAmir Goldstein struct ovl_fs *ofs = dentry->d_sb->s_fs_info; 424*359f392cSAmir Goldstein struct dentry *index; 425*359f392cSAmir Goldstein struct inode *inode; 426*359f392cSAmir Goldstein struct qstr name; 427*359f392cSAmir Goldstein int err; 428*359f392cSAmir Goldstein 429*359f392cSAmir Goldstein err = ovl_get_index_name(origin, &name); 430*359f392cSAmir Goldstein if (err) 431*359f392cSAmir Goldstein return ERR_PTR(err); 432*359f392cSAmir Goldstein 433*359f392cSAmir Goldstein index = lookup_one_len_unlocked(name.name, ofs->indexdir, name.len); 434*359f392cSAmir Goldstein if (IS_ERR(index)) { 435*359f392cSAmir Goldstein pr_warn_ratelimited("overlayfs: failed inode index lookup (ino=%lu, key=%*s, err=%i);\n" 436*359f392cSAmir Goldstein "overlayfs: mount with '-o index=off' to disable inodes index.\n", 437*359f392cSAmir Goldstein d_inode(origin)->i_ino, name.len, name.name, 438*359f392cSAmir Goldstein err); 439*359f392cSAmir Goldstein goto out; 440*359f392cSAmir Goldstein } 441*359f392cSAmir Goldstein 442*359f392cSAmir Goldstein if (d_is_negative(index)) { 443*359f392cSAmir Goldstein if (upper && d_inode(origin)->i_nlink > 1) { 444*359f392cSAmir Goldstein pr_warn_ratelimited("overlayfs: hard link with origin but no index (ino=%lu).\n", 445*359f392cSAmir Goldstein d_inode(origin)->i_ino); 446*359f392cSAmir Goldstein goto fail; 447*359f392cSAmir Goldstein } 448*359f392cSAmir Goldstein 449*359f392cSAmir Goldstein dput(index); 450*359f392cSAmir Goldstein index = NULL; 451*359f392cSAmir Goldstein } else if (upper && d_inode(index) != d_inode(upper)) { 452*359f392cSAmir Goldstein inode = d_inode(index); 453*359f392cSAmir Goldstein pr_warn_ratelimited("overlayfs: wrong index found (index ino: %lu, upper ino: %lu).\n", 454*359f392cSAmir Goldstein d_inode(index)->i_ino, 455*359f392cSAmir Goldstein d_inode(upper)->i_ino); 456*359f392cSAmir Goldstein goto fail; 457*359f392cSAmir Goldstein } 458*359f392cSAmir Goldstein 459*359f392cSAmir Goldstein out: 460*359f392cSAmir Goldstein kfree(name.name); 461*359f392cSAmir Goldstein return index; 462*359f392cSAmir Goldstein 463*359f392cSAmir Goldstein fail: 464*359f392cSAmir Goldstein dput(index); 465*359f392cSAmir Goldstein index = ERR_PTR(-EIO); 466*359f392cSAmir Goldstein goto out; 467*359f392cSAmir Goldstein } 468*359f392cSAmir Goldstein 469*359f392cSAmir Goldstein /* 470bbb1e54dSMiklos Szeredi * Returns next layer in stack starting from top. 471bbb1e54dSMiklos Szeredi * Returns -1 if this is the last layer. 472bbb1e54dSMiklos Szeredi */ 473bbb1e54dSMiklos Szeredi int ovl_path_next(int idx, struct dentry *dentry, struct path *path) 474bbb1e54dSMiklos Szeredi { 475bbb1e54dSMiklos Szeredi struct ovl_entry *oe = dentry->d_fsdata; 476bbb1e54dSMiklos Szeredi 477bbb1e54dSMiklos Szeredi BUG_ON(idx < 0); 478bbb1e54dSMiklos Szeredi if (idx == 0) { 479bbb1e54dSMiklos Szeredi ovl_path_upper(dentry, path); 480bbb1e54dSMiklos Szeredi if (path->dentry) 481bbb1e54dSMiklos Szeredi return oe->numlower ? 1 : -1; 482bbb1e54dSMiklos Szeredi idx++; 483bbb1e54dSMiklos Szeredi } 484bbb1e54dSMiklos Szeredi BUG_ON(idx > oe->numlower); 485bbb1e54dSMiklos Szeredi *path = oe->lowerstack[idx - 1]; 486bbb1e54dSMiklos Szeredi 487bbb1e54dSMiklos Szeredi return (idx < oe->numlower) ? idx + 1 : -1; 488bbb1e54dSMiklos Szeredi } 489bbb1e54dSMiklos Szeredi 490bbb1e54dSMiklos Szeredi struct dentry *ovl_lookup(struct inode *dir, struct dentry *dentry, 491bbb1e54dSMiklos Szeredi unsigned int flags) 492bbb1e54dSMiklos Szeredi { 493bbb1e54dSMiklos Szeredi struct ovl_entry *oe; 494bbb1e54dSMiklos Szeredi const struct cred *old_cred; 4956b2d5fe4SMiklos Szeredi struct ovl_fs *ofs = dentry->d_sb->s_fs_info; 496bbb1e54dSMiklos Szeredi struct ovl_entry *poe = dentry->d_parent->d_fsdata; 497c22205d0SAmir Goldstein struct ovl_entry *roe = dentry->d_sb->s_root->d_fsdata; 498bbb1e54dSMiklos Szeredi struct path *stack = NULL; 499bbb1e54dSMiklos Szeredi struct dentry *upperdir, *upperdentry = NULL; 500*359f392cSAmir Goldstein struct dentry *index = NULL; 501bbb1e54dSMiklos Szeredi unsigned int ctr = 0; 502bbb1e54dSMiklos Szeredi struct inode *inode = NULL; 503bbb1e54dSMiklos Szeredi bool upperopaque = false; 50402b69b28SMiklos Szeredi char *upperredirect = NULL; 505bbb1e54dSMiklos Szeredi struct dentry *this; 506bbb1e54dSMiklos Szeredi unsigned int i; 507bbb1e54dSMiklos Szeredi int err; 508e28edc46SMiklos Szeredi struct ovl_lookup_data d = { 509e28edc46SMiklos Szeredi .name = dentry->d_name, 510e28edc46SMiklos Szeredi .is_dir = false, 511e28edc46SMiklos Szeredi .opaque = false, 512e28edc46SMiklos Szeredi .stop = false, 513e28edc46SMiklos Szeredi .last = !poe->numlower, 51402b69b28SMiklos Szeredi .redirect = NULL, 515e28edc46SMiklos Szeredi }; 516bbb1e54dSMiklos Szeredi 5176b2d5fe4SMiklos Szeredi if (dentry->d_name.len > ofs->namelen) 5186b2d5fe4SMiklos Szeredi return ERR_PTR(-ENAMETOOLONG); 5196b2d5fe4SMiklos Szeredi 520bbb1e54dSMiklos Szeredi old_cred = ovl_override_creds(dentry->d_sb); 52109d8b586SMiklos Szeredi upperdir = ovl_dentry_upper(dentry->d_parent); 522bbb1e54dSMiklos Szeredi if (upperdir) { 523e28edc46SMiklos Szeredi err = ovl_lookup_layer(upperdir, &d, &upperdentry); 524e28edc46SMiklos Szeredi if (err) 525bbb1e54dSMiklos Szeredi goto out; 526bbb1e54dSMiklos Szeredi 527e28edc46SMiklos Szeredi if (upperdentry && unlikely(ovl_dentry_remote(upperdentry))) { 528e28edc46SMiklos Szeredi dput(upperdentry); 529bbb1e54dSMiklos Szeredi err = -EREMOTE; 530bbb1e54dSMiklos Szeredi goto out; 531bbb1e54dSMiklos Szeredi } 532a9d01957SAmir Goldstein if (upperdentry && !d.is_dir) { 533a9d01957SAmir Goldstein BUG_ON(!d.stop || d.redirect); 534f7d3dacaSAmir Goldstein /* 535f7d3dacaSAmir Goldstein * Lookup copy up origin by decoding origin file handle. 536f7d3dacaSAmir Goldstein * We may get a disconnected dentry, which is fine, 537f7d3dacaSAmir Goldstein * because we only need to hold the origin inode in 538f7d3dacaSAmir Goldstein * cache and use its inode number. We may even get a 539f7d3dacaSAmir Goldstein * connected dentry, that is not under any of the lower 540f7d3dacaSAmir Goldstein * layers root. That is also fine for using it's inode 541f7d3dacaSAmir Goldstein * number - it's the same as if we held a reference 542f7d3dacaSAmir Goldstein * to a dentry in lower layer that was moved under us. 543f7d3dacaSAmir Goldstein */ 544a9d01957SAmir Goldstein err = ovl_check_origin(dentry, upperdentry, 545a9d01957SAmir Goldstein &stack, &ctr); 546a9d01957SAmir Goldstein if (err) 547a9d01957SAmir Goldstein goto out; 548a9d01957SAmir Goldstein } 54902b69b28SMiklos Szeredi 55002b69b28SMiklos Szeredi if (d.redirect) { 55102b69b28SMiklos Szeredi upperredirect = kstrdup(d.redirect, GFP_KERNEL); 55202b69b28SMiklos Szeredi if (!upperredirect) 55302b69b28SMiklos Szeredi goto out_put_upper; 55402b69b28SMiklos Szeredi if (d.redirect[0] == '/') 555c22205d0SAmir Goldstein poe = roe; 55602b69b28SMiklos Szeredi } 557e28edc46SMiklos Szeredi upperopaque = d.opaque; 558bbb1e54dSMiklos Szeredi } 559bbb1e54dSMiklos Szeredi 560e28edc46SMiklos Szeredi if (!d.stop && poe->numlower) { 561bbb1e54dSMiklos Szeredi err = -ENOMEM; 56202b69b28SMiklos Szeredi stack = kcalloc(ofs->numlower, sizeof(struct path), 563e28edc46SMiklos Szeredi GFP_TEMPORARY); 564bbb1e54dSMiklos Szeredi if (!stack) 565bbb1e54dSMiklos Szeredi goto out_put_upper; 566bbb1e54dSMiklos Szeredi } 567bbb1e54dSMiklos Szeredi 568e28edc46SMiklos Szeredi for (i = 0; !d.stop && i < poe->numlower; i++) { 569bbb1e54dSMiklos Szeredi struct path lowerpath = poe->lowerstack[i]; 570bbb1e54dSMiklos Szeredi 571e28edc46SMiklos Szeredi d.last = i == poe->numlower - 1; 572e28edc46SMiklos Szeredi err = ovl_lookup_layer(lowerpath.dentry, &d, &this); 573e28edc46SMiklos Szeredi if (err) 574bbb1e54dSMiklos Szeredi goto out_put; 5756b2d5fe4SMiklos Szeredi 576bbb1e54dSMiklos Szeredi if (!this) 577bbb1e54dSMiklos Szeredi continue; 578bbb1e54dSMiklos Szeredi 579bbb1e54dSMiklos Szeredi stack[ctr].dentry = this; 580bbb1e54dSMiklos Szeredi stack[ctr].mnt = lowerpath.mnt; 581bbb1e54dSMiklos Szeredi ctr++; 58202b69b28SMiklos Szeredi 58302b69b28SMiklos Szeredi if (d.stop) 58402b69b28SMiklos Szeredi break; 58502b69b28SMiklos Szeredi 586c22205d0SAmir Goldstein if (d.redirect && d.redirect[0] == '/' && poe != roe) { 587c22205d0SAmir Goldstein poe = roe; 58802b69b28SMiklos Szeredi 58902b69b28SMiklos Szeredi /* Find the current layer on the root dentry */ 59002b69b28SMiklos Szeredi for (i = 0; i < poe->numlower; i++) 59102b69b28SMiklos Szeredi if (poe->lowerstack[i].mnt == lowerpath.mnt) 59202b69b28SMiklos Szeredi break; 59302b69b28SMiklos Szeredi if (WARN_ON(i == poe->numlower)) 59402b69b28SMiklos Szeredi break; 59502b69b28SMiklos Szeredi } 596bbb1e54dSMiklos Szeredi } 597bbb1e54dSMiklos Szeredi 598*359f392cSAmir Goldstein /* Lookup index by lower inode and verify it matches upper inode */ 599*359f392cSAmir Goldstein if (ctr && !d.is_dir && ovl_indexdir(dentry->d_sb)) { 600*359f392cSAmir Goldstein struct dentry *origin = stack[0].dentry; 601*359f392cSAmir Goldstein 602*359f392cSAmir Goldstein index = ovl_lookup_index(dentry, upperdentry, origin); 603*359f392cSAmir Goldstein if (IS_ERR(index)) { 604*359f392cSAmir Goldstein err = PTR_ERR(index); 605*359f392cSAmir Goldstein index = NULL; 606*359f392cSAmir Goldstein goto out_put; 607*359f392cSAmir Goldstein } 608*359f392cSAmir Goldstein } 609*359f392cSAmir Goldstein 610bbb1e54dSMiklos Szeredi oe = ovl_alloc_entry(ctr); 611bbb1e54dSMiklos Szeredi err = -ENOMEM; 612bbb1e54dSMiklos Szeredi if (!oe) 613bbb1e54dSMiklos Szeredi goto out_put; 614bbb1e54dSMiklos Szeredi 615bbb1e54dSMiklos Szeredi oe->opaque = upperopaque; 616bbb1e54dSMiklos Szeredi memcpy(oe->lowerstack, stack, sizeof(struct path) * ctr); 617e6d2ebddSMiklos Szeredi dentry->d_fsdata = oe; 618e6d2ebddSMiklos Szeredi 619*359f392cSAmir Goldstein if (index && !upperdentry) 620*359f392cSAmir Goldstein upperdentry = dget(index); 621*359f392cSAmir Goldstein 622e6d2ebddSMiklos Szeredi if (upperdentry || ctr) { 623e6d2ebddSMiklos Szeredi err = -ENOMEM; 62409d8b586SMiklos Szeredi inode = ovl_get_inode(dentry, upperdentry); 625e6d2ebddSMiklos Szeredi if (!inode) 626e6d2ebddSMiklos Szeredi goto out_free_oe; 627cf31c463SMiklos Szeredi 628cf31c463SMiklos Szeredi OVL_I(inode)->redirect = upperredirect; 629*359f392cSAmir Goldstein if (index) 630*359f392cSAmir Goldstein ovl_set_flag(OVL_INDEX, inode); 631e6d2ebddSMiklos Szeredi } 632e6d2ebddSMiklos Szeredi 633e6d2ebddSMiklos Szeredi revert_creds(old_cred); 634*359f392cSAmir Goldstein dput(index); 635bbb1e54dSMiklos Szeredi kfree(stack); 63602b69b28SMiklos Szeredi kfree(d.redirect); 637bbb1e54dSMiklos Szeredi d_add(dentry, inode); 638bbb1e54dSMiklos Szeredi 639bbb1e54dSMiklos Szeredi return NULL; 640bbb1e54dSMiklos Szeredi 641bbb1e54dSMiklos Szeredi out_free_oe: 642e6d2ebddSMiklos Szeredi dentry->d_fsdata = NULL; 643bbb1e54dSMiklos Szeredi kfree(oe); 644bbb1e54dSMiklos Szeredi out_put: 645*359f392cSAmir Goldstein dput(index); 646bbb1e54dSMiklos Szeredi for (i = 0; i < ctr; i++) 647bbb1e54dSMiklos Szeredi dput(stack[i].dentry); 648bbb1e54dSMiklos Szeredi kfree(stack); 649bbb1e54dSMiklos Szeredi out_put_upper: 650bbb1e54dSMiklos Szeredi dput(upperdentry); 65102b69b28SMiklos Szeredi kfree(upperredirect); 652bbb1e54dSMiklos Szeredi out: 65302b69b28SMiklos Szeredi kfree(d.redirect); 654bbb1e54dSMiklos Szeredi revert_creds(old_cred); 655bbb1e54dSMiklos Szeredi return ERR_PTR(err); 656bbb1e54dSMiklos Szeredi } 657bbb1e54dSMiklos Szeredi 658bbb1e54dSMiklos Szeredi bool ovl_lower_positive(struct dentry *dentry) 659bbb1e54dSMiklos Szeredi { 660bbb1e54dSMiklos Szeredi struct ovl_entry *oe = dentry->d_fsdata; 661bbb1e54dSMiklos Szeredi struct ovl_entry *poe = dentry->d_parent->d_fsdata; 662bbb1e54dSMiklos Szeredi const struct qstr *name = &dentry->d_name; 663bbb1e54dSMiklos Szeredi unsigned int i; 664bbb1e54dSMiklos Szeredi bool positive = false; 665bbb1e54dSMiklos Szeredi bool done = false; 666bbb1e54dSMiklos Szeredi 667bbb1e54dSMiklos Szeredi /* 668bbb1e54dSMiklos Szeredi * If dentry is negative, then lower is positive iff this is a 669bbb1e54dSMiklos Szeredi * whiteout. 670bbb1e54dSMiklos Szeredi */ 671bbb1e54dSMiklos Szeredi if (!dentry->d_inode) 672bbb1e54dSMiklos Szeredi return oe->opaque; 673bbb1e54dSMiklos Szeredi 674bbb1e54dSMiklos Szeredi /* Negative upper -> positive lower */ 67509d8b586SMiklos Szeredi if (!ovl_dentry_upper(dentry)) 676bbb1e54dSMiklos Szeredi return true; 677bbb1e54dSMiklos Szeredi 678bbb1e54dSMiklos Szeredi /* Positive upper -> have to look up lower to see whether it exists */ 679bbb1e54dSMiklos Szeredi for (i = 0; !done && !positive && i < poe->numlower; i++) { 680bbb1e54dSMiklos Szeredi struct dentry *this; 681bbb1e54dSMiklos Szeredi struct dentry *lowerdir = poe->lowerstack[i].dentry; 682bbb1e54dSMiklos Szeredi 683bbb1e54dSMiklos Szeredi this = lookup_one_len_unlocked(name->name, lowerdir, 684bbb1e54dSMiklos Szeredi name->len); 685bbb1e54dSMiklos Szeredi if (IS_ERR(this)) { 686bbb1e54dSMiklos Szeredi switch (PTR_ERR(this)) { 687bbb1e54dSMiklos Szeredi case -ENOENT: 688bbb1e54dSMiklos Szeredi case -ENAMETOOLONG: 689bbb1e54dSMiklos Szeredi break; 690bbb1e54dSMiklos Szeredi 691bbb1e54dSMiklos Szeredi default: 692bbb1e54dSMiklos Szeredi /* 693bbb1e54dSMiklos Szeredi * Assume something is there, we just couldn't 694bbb1e54dSMiklos Szeredi * access it. 695bbb1e54dSMiklos Szeredi */ 696bbb1e54dSMiklos Szeredi positive = true; 697bbb1e54dSMiklos Szeredi break; 698bbb1e54dSMiklos Szeredi } 699bbb1e54dSMiklos Szeredi } else { 700bbb1e54dSMiklos Szeredi if (this->d_inode) { 701bbb1e54dSMiklos Szeredi positive = !ovl_is_whiteout(this); 702bbb1e54dSMiklos Szeredi done = true; 703bbb1e54dSMiklos Szeredi } 704bbb1e54dSMiklos Szeredi dput(this); 705bbb1e54dSMiklos Szeredi } 706bbb1e54dSMiklos Szeredi } 707bbb1e54dSMiklos Szeredi 708bbb1e54dSMiklos Szeredi return positive; 709bbb1e54dSMiklos Szeredi } 710