xref: /openbmc/linux/fs/overlayfs/inode.c (revision 5f8415d6b87ecb4ebf1bbd02c538694ebb7fb57c)
1e9be9d5eSMiklos Szeredi /*
2e9be9d5eSMiklos Szeredi  *
3e9be9d5eSMiklos Szeredi  * Copyright (C) 2011 Novell Inc.
4e9be9d5eSMiklos Szeredi  *
5e9be9d5eSMiklos Szeredi  * This program is free software; you can redistribute it and/or modify it
6e9be9d5eSMiklos Szeredi  * under the terms of the GNU General Public License version 2 as published by
7e9be9d5eSMiklos Szeredi  * the Free Software Foundation.
8e9be9d5eSMiklos Szeredi  */
9e9be9d5eSMiklos Szeredi 
10e9be9d5eSMiklos Szeredi #include <linux/fs.h>
11e9be9d5eSMiklos Szeredi #include <linux/slab.h>
125b825c3aSIngo Molnar #include <linux/cred.h>
13e9be9d5eSMiklos Szeredi #include <linux/xattr.h>
145201dc44SMiklos Szeredi #include <linux/posix_acl.h>
15*5f8415d6SAmir Goldstein #include <linux/ratelimit.h>
16e9be9d5eSMiklos Szeredi #include "overlayfs.h"
17e9be9d5eSMiklos Szeredi 
18e9be9d5eSMiklos Szeredi int ovl_setattr(struct dentry *dentry, struct iattr *attr)
19e9be9d5eSMiklos Szeredi {
20e9be9d5eSMiklos Szeredi 	int err;
21e9be9d5eSMiklos Szeredi 	struct dentry *upperdentry;
221175b6b8SVivek Goyal 	const struct cred *old_cred;
23e9be9d5eSMiklos Szeredi 
24cf9a6784SMiklos Szeredi 	/*
25cf9a6784SMiklos Szeredi 	 * Check for permissions before trying to copy-up.  This is redundant
26cf9a6784SMiklos Szeredi 	 * since it will be rechecked later by ->setattr() on upper dentry.  But
27cf9a6784SMiklos Szeredi 	 * without this, copy-up can be triggered by just about anybody.
28cf9a6784SMiklos Szeredi 	 *
29cf9a6784SMiklos Szeredi 	 * We don't initialize inode->size, which just means that
30cf9a6784SMiklos Szeredi 	 * inode_newsize_ok() will always check against MAX_LFS_FILESIZE and not
31cf9a6784SMiklos Szeredi 	 * check for a swapfile (which this won't be anyway).
32cf9a6784SMiklos Szeredi 	 */
3331051c85SJan Kara 	err = setattr_prepare(dentry, attr);
34cf9a6784SMiklos Szeredi 	if (err)
35cf9a6784SMiklos Szeredi 		return err;
36cf9a6784SMiklos Szeredi 
37e9be9d5eSMiklos Szeredi 	err = ovl_want_write(dentry);
38e9be9d5eSMiklos Szeredi 	if (err)
39e9be9d5eSMiklos Szeredi 		goto out;
40e9be9d5eSMiklos Szeredi 
41acff81ecSMiklos Szeredi 	err = ovl_copy_up(dentry);
42acff81ecSMiklos Szeredi 	if (!err) {
43e9be9d5eSMiklos Szeredi 		upperdentry = ovl_dentry_upper(dentry);
44acff81ecSMiklos Szeredi 
45b99c2d91SMiklos Szeredi 		if (attr->ia_valid & (ATTR_KILL_SUID|ATTR_KILL_SGID))
46b99c2d91SMiklos Szeredi 			attr->ia_valid &= ~ATTR_MODE;
47b99c2d91SMiklos Szeredi 
485955102cSAl Viro 		inode_lock(upperdentry->d_inode);
491175b6b8SVivek Goyal 		old_cred = ovl_override_creds(dentry->d_sb);
50e9be9d5eSMiklos Szeredi 		err = notify_change(upperdentry, attr, NULL);
511175b6b8SVivek Goyal 		revert_creds(old_cred);
52b81de061SKonstantin Khlebnikov 		if (!err)
53b81de061SKonstantin Khlebnikov 			ovl_copyattr(upperdentry->d_inode, dentry->d_inode);
545955102cSAl Viro 		inode_unlock(upperdentry->d_inode);
55e9be9d5eSMiklos Szeredi 	}
56e9be9d5eSMiklos Szeredi 	ovl_drop_write(dentry);
57e9be9d5eSMiklos Szeredi out:
58e9be9d5eSMiklos Szeredi 	return err;
59e9be9d5eSMiklos Szeredi }
60e9be9d5eSMiklos Szeredi 
615b712091SMiklos Szeredi int ovl_getattr(const struct path *path, struct kstat *stat,
62a528d35eSDavid Howells 		u32 request_mask, unsigned int flags)
63e9be9d5eSMiklos Szeredi {
64a528d35eSDavid Howells 	struct dentry *dentry = path->dentry;
6572b608f0SAmir Goldstein 	enum ovl_path_type type;
66e9be9d5eSMiklos Szeredi 	struct path realpath;
671175b6b8SVivek Goyal 	const struct cred *old_cred;
685b712091SMiklos Szeredi 	bool is_dir = S_ISDIR(dentry->d_inode->i_mode);
691175b6b8SVivek Goyal 	int err;
70e9be9d5eSMiklos Szeredi 
7172b608f0SAmir Goldstein 	type = ovl_path_real(dentry, &realpath);
721175b6b8SVivek Goyal 	old_cred = ovl_override_creds(dentry->d_sb);
73a528d35eSDavid Howells 	err = vfs_getattr(&realpath, stat, request_mask, flags);
7472b608f0SAmir Goldstein 	if (err)
7572b608f0SAmir Goldstein 		goto out;
7672b608f0SAmir Goldstein 
7772b608f0SAmir Goldstein 	/*
7872b608f0SAmir Goldstein 	 * When all layers are on the same fs, all real inode number are
7972b608f0SAmir Goldstein 	 * unique, so we use the overlay st_dev, which is friendly to du -x.
8072b608f0SAmir Goldstein 	 *
8172b608f0SAmir Goldstein 	 * We also use st_ino of the copy up origin, if we know it.
8272b608f0SAmir Goldstein 	 * This guaranties constant st_dev/st_ino across copy up.
8372b608f0SAmir Goldstein 	 *
8472b608f0SAmir Goldstein 	 * If filesystem supports NFS export ops, this also guaranties
8572b608f0SAmir Goldstein 	 * persistent st_ino across mount cycle.
8672b608f0SAmir Goldstein 	 */
8772b608f0SAmir Goldstein 	if (ovl_same_sb(dentry->d_sb)) {
8872b608f0SAmir Goldstein 		if (OVL_TYPE_ORIGIN(type)) {
8972b608f0SAmir Goldstein 			struct kstat lowerstat;
905b712091SMiklos Szeredi 			u32 lowermask = STATX_INO | (!is_dir ? STATX_NLINK : 0);
9172b608f0SAmir Goldstein 
9272b608f0SAmir Goldstein 			ovl_path_lower(dentry, &realpath);
9372b608f0SAmir Goldstein 			err = vfs_getattr(&realpath, &lowerstat,
945b712091SMiklos Szeredi 					  lowermask, flags);
9572b608f0SAmir Goldstein 			if (err)
9672b608f0SAmir Goldstein 				goto out;
9772b608f0SAmir Goldstein 
9872b608f0SAmir Goldstein 			WARN_ON_ONCE(stat->dev != lowerstat.dev);
9972b608f0SAmir Goldstein 			/*
100359f392cSAmir Goldstein 			 * Lower hardlinks may be broken on copy up to different
10172b608f0SAmir Goldstein 			 * upper files, so we cannot use the lower origin st_ino
10272b608f0SAmir Goldstein 			 * for those different files, even for the same fs case.
103359f392cSAmir Goldstein 			 * With inodes index enabled, it is safe to use st_ino
104359f392cSAmir Goldstein 			 * of an indexed hardlinked origin. The index validates
105359f392cSAmir Goldstein 			 * that the upper hardlink is not broken.
10672b608f0SAmir Goldstein 			 */
107359f392cSAmir Goldstein 			if (is_dir || lowerstat.nlink == 1 ||
108359f392cSAmir Goldstein 			    ovl_test_flag(OVL_INDEX, d_inode(dentry)))
10972b608f0SAmir Goldstein 				stat->ino = lowerstat.ino;
11072b608f0SAmir Goldstein 		}
11172b608f0SAmir Goldstein 		stat->dev = dentry->d_sb->s_dev;
1125b712091SMiklos Szeredi 	} else if (is_dir) {
1135b712091SMiklos Szeredi 		/*
1145b712091SMiklos Szeredi 		 * If not all layers are on the same fs the pair {real st_ino;
1155b712091SMiklos Szeredi 		 * overlay st_dev} is not unique, so use the non persistent
1165b712091SMiklos Szeredi 		 * overlay st_ino.
1175b712091SMiklos Szeredi 		 *
1185b712091SMiklos Szeredi 		 * Always use the overlay st_dev for directories, so 'find
1195b712091SMiklos Szeredi 		 * -xdev' will scan the entire overlay mount and won't cross the
1205b712091SMiklos Szeredi 		 * overlay mount boundaries.
1215b712091SMiklos Szeredi 		 */
1225b712091SMiklos Szeredi 		stat->dev = dentry->d_sb->s_dev;
1235b712091SMiklos Szeredi 		stat->ino = dentry->d_inode->i_ino;
12472b608f0SAmir Goldstein 	}
1255b712091SMiklos Szeredi 
1265b712091SMiklos Szeredi 	/*
1275b712091SMiklos Szeredi 	 * It's probably not worth it to count subdirs to get the
1285b712091SMiklos Szeredi 	 * correct link count.  nlink=1 seems to pacify 'find' and
1295b712091SMiklos Szeredi 	 * other utilities.
1305b712091SMiklos Szeredi 	 */
1315b712091SMiklos Szeredi 	if (is_dir && OVL_TYPE_MERGE(type))
1325b712091SMiklos Szeredi 		stat->nlink = 1;
1335b712091SMiklos Szeredi 
134*5f8415d6SAmir Goldstein 	/*
135*5f8415d6SAmir Goldstein 	 * Return the overlay inode nlinks for indexed upper inodes.
136*5f8415d6SAmir Goldstein 	 * Overlay inode nlink counts the union of the upper hardlinks
137*5f8415d6SAmir Goldstein 	 * and non-covered lower hardlinks. It does not include the upper
138*5f8415d6SAmir Goldstein 	 * index hardlink.
139*5f8415d6SAmir Goldstein 	 */
140*5f8415d6SAmir Goldstein 	if (!is_dir && ovl_test_flag(OVL_INDEX, d_inode(dentry)))
141*5f8415d6SAmir Goldstein 		stat->nlink = dentry->d_inode->i_nlink;
142*5f8415d6SAmir Goldstein 
14372b608f0SAmir Goldstein out:
1441175b6b8SVivek Goyal 	revert_creds(old_cred);
14572b608f0SAmir Goldstein 
1461175b6b8SVivek Goyal 	return err;
147e9be9d5eSMiklos Szeredi }
148e9be9d5eSMiklos Szeredi 
149e9be9d5eSMiklos Szeredi int ovl_permission(struct inode *inode, int mask)
150e9be9d5eSMiklos Szeredi {
15109d8b586SMiklos Szeredi 	struct inode *upperinode = ovl_inode_upper(inode);
15209d8b586SMiklos Szeredi 	struct inode *realinode = upperinode ?: ovl_inode_lower(inode);
153c0ca3d70SVivek Goyal 	const struct cred *old_cred;
154e9be9d5eSMiklos Szeredi 	int err;
155e9be9d5eSMiklos Szeredi 
156e9be9d5eSMiklos Szeredi 	/* Careful in RCU walk mode */
157e9be9d5eSMiklos Szeredi 	if (!realinode) {
158e9be9d5eSMiklos Szeredi 		WARN_ON(!(mask & MAY_NOT_BLOCK));
159a999d7e1SMiklos Szeredi 		return -ECHILD;
160e9be9d5eSMiklos Szeredi 	}
161e9be9d5eSMiklos Szeredi 
162c0ca3d70SVivek Goyal 	/*
163c0ca3d70SVivek Goyal 	 * Check overlay inode with the creds of task and underlying inode
164c0ca3d70SVivek Goyal 	 * with creds of mounter
165c0ca3d70SVivek Goyal 	 */
166c0ca3d70SVivek Goyal 	err = generic_permission(inode, mask);
167c0ca3d70SVivek Goyal 	if (err)
168c0ca3d70SVivek Goyal 		return err;
169c0ca3d70SVivek Goyal 
170c0ca3d70SVivek Goyal 	old_cred = ovl_override_creds(inode->i_sb);
17109d8b586SMiklos Szeredi 	if (!upperinode &&
17209d8b586SMiklos Szeredi 	    !special_file(realinode->i_mode) && mask & MAY_WRITE) {
173754f8cb7SVivek Goyal 		mask &= ~(MAY_WRITE | MAY_APPEND);
174500cac3cSVivek Goyal 		/* Make sure mounter can read file for copy up later */
175500cac3cSVivek Goyal 		mask |= MAY_READ;
176500cac3cSVivek Goyal 	}
1779c630ebeSMiklos Szeredi 	err = inode_permission(realinode, mask);
178c0ca3d70SVivek Goyal 	revert_creds(old_cred);
179c0ca3d70SVivek Goyal 
180c0ca3d70SVivek Goyal 	return err;
181e9be9d5eSMiklos Szeredi }
182e9be9d5eSMiklos Szeredi 
1836b255391SAl Viro static const char *ovl_get_link(struct dentry *dentry,
184fceef393SAl Viro 				struct inode *inode,
185fceef393SAl Viro 				struct delayed_call *done)
186e9be9d5eSMiklos Szeredi {
1871175b6b8SVivek Goyal 	const struct cred *old_cred;
1881175b6b8SVivek Goyal 	const char *p;
189e9be9d5eSMiklos Szeredi 
1906b255391SAl Viro 	if (!dentry)
1916b255391SAl Viro 		return ERR_PTR(-ECHILD);
1926b255391SAl Viro 
1931175b6b8SVivek Goyal 	old_cred = ovl_override_creds(dentry->d_sb);
1947764235bSMiklos Szeredi 	p = vfs_get_link(ovl_dentry_real(dentry), done);
1951175b6b8SVivek Goyal 	revert_creds(old_cred);
1961175b6b8SVivek Goyal 	return p;
197e9be9d5eSMiklos Szeredi }
198e9be9d5eSMiklos Szeredi 
1990956254aSMiklos Szeredi bool ovl_is_private_xattr(const char *name)
200e9be9d5eSMiklos Szeredi {
201fe2b7595SAndreas Gruenbacher 	return strncmp(name, OVL_XATTR_PREFIX,
202fe2b7595SAndreas Gruenbacher 		       sizeof(OVL_XATTR_PREFIX) - 1) == 0;
203e9be9d5eSMiklos Szeredi }
204e9be9d5eSMiklos Szeredi 
2050e585cccSAndreas Gruenbacher int ovl_xattr_set(struct dentry *dentry, const char *name, const void *value,
2063767e255SAl Viro 		  size_t size, int flags)
207e9be9d5eSMiklos Szeredi {
208e9be9d5eSMiklos Szeredi 	int err;
2090e585cccSAndreas Gruenbacher 	struct path realpath;
2100e585cccSAndreas Gruenbacher 	enum ovl_path_type type = ovl_path_real(dentry, &realpath);
2111175b6b8SVivek Goyal 	const struct cred *old_cred;
212e9be9d5eSMiklos Szeredi 
213e9be9d5eSMiklos Szeredi 	err = ovl_want_write(dentry);
214e9be9d5eSMiklos Szeredi 	if (err)
215e9be9d5eSMiklos Szeredi 		goto out;
216e9be9d5eSMiklos Szeredi 
2170e585cccSAndreas Gruenbacher 	if (!value && !OVL_TYPE_UPPER(type)) {
2180e585cccSAndreas Gruenbacher 		err = vfs_getxattr(realpath.dentry, name, NULL, 0);
2190e585cccSAndreas Gruenbacher 		if (err < 0)
2200e585cccSAndreas Gruenbacher 			goto out_drop_write;
2210e585cccSAndreas Gruenbacher 	}
2220e585cccSAndreas Gruenbacher 
223e9be9d5eSMiklos Szeredi 	err = ovl_copy_up(dentry);
224e9be9d5eSMiklos Szeredi 	if (err)
225e9be9d5eSMiklos Szeredi 		goto out_drop_write;
226e9be9d5eSMiklos Szeredi 
2270e585cccSAndreas Gruenbacher 	if (!OVL_TYPE_UPPER(type))
2280e585cccSAndreas Gruenbacher 		ovl_path_upper(dentry, &realpath);
2290e585cccSAndreas Gruenbacher 
2301175b6b8SVivek Goyal 	old_cred = ovl_override_creds(dentry->d_sb);
2310e585cccSAndreas Gruenbacher 	if (value)
2320e585cccSAndreas Gruenbacher 		err = vfs_setxattr(realpath.dentry, name, value, size, flags);
2330e585cccSAndreas Gruenbacher 	else {
2340e585cccSAndreas Gruenbacher 		WARN_ON(flags != XATTR_REPLACE);
2350e585cccSAndreas Gruenbacher 		err = vfs_removexattr(realpath.dentry, name);
2360e585cccSAndreas Gruenbacher 	}
2371175b6b8SVivek Goyal 	revert_creds(old_cred);
238e9be9d5eSMiklos Szeredi 
239e9be9d5eSMiklos Szeredi out_drop_write:
240e9be9d5eSMiklos Szeredi 	ovl_drop_write(dentry);
241e9be9d5eSMiklos Szeredi out:
242e9be9d5eSMiklos Szeredi 	return err;
243e9be9d5eSMiklos Szeredi }
244e9be9d5eSMiklos Szeredi 
2450eb45fc3SAndreas Gruenbacher int ovl_xattr_get(struct dentry *dentry, const char *name,
2460eb45fc3SAndreas Gruenbacher 		  void *value, size_t size)
247e9be9d5eSMiklos Szeredi {
248b581755bSMiklos Szeredi 	struct dentry *realdentry = ovl_dentry_real(dentry);
2491175b6b8SVivek Goyal 	ssize_t res;
2501175b6b8SVivek Goyal 	const struct cred *old_cred;
25152148463SMiklos Szeredi 
2521175b6b8SVivek Goyal 	old_cred = ovl_override_creds(dentry->d_sb);
2531175b6b8SVivek Goyal 	res = vfs_getxattr(realdentry, name, value, size);
2541175b6b8SVivek Goyal 	revert_creds(old_cred);
2551175b6b8SVivek Goyal 	return res;
256e9be9d5eSMiklos Szeredi }
257e9be9d5eSMiklos Szeredi 
258a082c6f6SMiklos Szeredi static bool ovl_can_list(const char *s)
259a082c6f6SMiklos Szeredi {
260a082c6f6SMiklos Szeredi 	/* List all non-trusted xatts */
261a082c6f6SMiklos Szeredi 	if (strncmp(s, XATTR_TRUSTED_PREFIX, XATTR_TRUSTED_PREFIX_LEN) != 0)
262a082c6f6SMiklos Szeredi 		return true;
263a082c6f6SMiklos Szeredi 
264a082c6f6SMiklos Szeredi 	/* Never list trusted.overlay, list other trusted for superuser only */
265a082c6f6SMiklos Szeredi 	return !ovl_is_private_xattr(s) && capable(CAP_SYS_ADMIN);
266a082c6f6SMiklos Szeredi }
267a082c6f6SMiklos Szeredi 
268e9be9d5eSMiklos Szeredi ssize_t ovl_listxattr(struct dentry *dentry, char *list, size_t size)
269e9be9d5eSMiklos Szeredi {
270b581755bSMiklos Szeredi 	struct dentry *realdentry = ovl_dentry_real(dentry);
271e9be9d5eSMiklos Szeredi 	ssize_t res;
2727cb35119SMiklos Szeredi 	size_t len;
2737cb35119SMiklos Szeredi 	char *s;
2741175b6b8SVivek Goyal 	const struct cred *old_cred;
275e9be9d5eSMiklos Szeredi 
2761175b6b8SVivek Goyal 	old_cred = ovl_override_creds(dentry->d_sb);
277b581755bSMiklos Szeredi 	res = vfs_listxattr(realdentry, list, size);
2781175b6b8SVivek Goyal 	revert_creds(old_cred);
279e9be9d5eSMiklos Szeredi 	if (res <= 0 || size == 0)
280e9be9d5eSMiklos Szeredi 		return res;
281e9be9d5eSMiklos Szeredi 
282e9be9d5eSMiklos Szeredi 	/* filter out private xattrs */
2837cb35119SMiklos Szeredi 	for (s = list, len = res; len;) {
2847cb35119SMiklos Szeredi 		size_t slen = strnlen(s, len) + 1;
285e9be9d5eSMiklos Szeredi 
2867cb35119SMiklos Szeredi 		/* underlying fs providing us with an broken xattr list? */
2877cb35119SMiklos Szeredi 		if (WARN_ON(slen > len))
2887cb35119SMiklos Szeredi 			return -EIO;
289e9be9d5eSMiklos Szeredi 
2907cb35119SMiklos Szeredi 		len -= slen;
291a082c6f6SMiklos Szeredi 		if (!ovl_can_list(s)) {
292e9be9d5eSMiklos Szeredi 			res -= slen;
2937cb35119SMiklos Szeredi 			memmove(s, s + slen, len);
294e9be9d5eSMiklos Szeredi 		} else {
2957cb35119SMiklos Szeredi 			s += slen;
296e9be9d5eSMiklos Szeredi 		}
297e9be9d5eSMiklos Szeredi 	}
298e9be9d5eSMiklos Szeredi 
299e9be9d5eSMiklos Szeredi 	return res;
300e9be9d5eSMiklos Szeredi }
301e9be9d5eSMiklos Szeredi 
30239a25b2bSVivek Goyal struct posix_acl *ovl_get_acl(struct inode *inode, int type)
30339a25b2bSVivek Goyal {
30409d8b586SMiklos Szeredi 	struct inode *realinode = ovl_inode_real(inode);
3051175b6b8SVivek Goyal 	const struct cred *old_cred;
3061175b6b8SVivek Goyal 	struct posix_acl *acl;
30739a25b2bSVivek Goyal 
3085201dc44SMiklos Szeredi 	if (!IS_ENABLED(CONFIG_FS_POSIX_ACL) || !IS_POSIXACL(realinode))
30939a25b2bSVivek Goyal 		return NULL;
31039a25b2bSVivek Goyal 
3111175b6b8SVivek Goyal 	old_cred = ovl_override_creds(inode->i_sb);
3125201dc44SMiklos Szeredi 	acl = get_acl(realinode, type);
3131175b6b8SVivek Goyal 	revert_creds(old_cred);
3141175b6b8SVivek Goyal 
3151175b6b8SVivek Goyal 	return acl;
31639a25b2bSVivek Goyal }
31739a25b2bSVivek Goyal 
31859be0971SAmir Goldstein static bool ovl_open_need_copy_up(struct dentry *dentry, int flags)
319e9be9d5eSMiklos Szeredi {
32059be0971SAmir Goldstein 	if (ovl_dentry_upper(dentry) &&
32159be0971SAmir Goldstein 	    ovl_dentry_has_upper_alias(dentry))
322e9be9d5eSMiklos Szeredi 		return false;
323e9be9d5eSMiklos Szeredi 
32459be0971SAmir Goldstein 	if (special_file(d_inode(dentry)->i_mode))
325e9be9d5eSMiklos Szeredi 		return false;
326e9be9d5eSMiklos Szeredi 
327e9be9d5eSMiklos Szeredi 	if (!(OPEN_FMODE(flags) & FMODE_WRITE) && !(flags & O_TRUNC))
328e9be9d5eSMiklos Szeredi 		return false;
329e9be9d5eSMiklos Szeredi 
330e9be9d5eSMiklos Szeredi 	return true;
331e9be9d5eSMiklos Szeredi }
332e9be9d5eSMiklos Szeredi 
3332d902671SMiklos Szeredi int ovl_open_maybe_copy_up(struct dentry *dentry, unsigned int file_flags)
334e9be9d5eSMiklos Szeredi {
3352d902671SMiklos Szeredi 	int err = 0;
336e9be9d5eSMiklos Szeredi 
33759be0971SAmir Goldstein 	if (ovl_open_need_copy_up(dentry, file_flags)) {
338e9be9d5eSMiklos Szeredi 		err = ovl_want_write(dentry);
3392d902671SMiklos Szeredi 		if (!err) {
3409aba6521SAmir Goldstein 			err = ovl_copy_up_flags(dentry, file_flags);
341f25801eeSDavid Howells 			ovl_drop_write(dentry);
3422d902671SMiklos Szeredi 		}
343e9be9d5eSMiklos Szeredi 	}
344e9be9d5eSMiklos Szeredi 
3452d902671SMiklos Szeredi 	return err;
346e9be9d5eSMiklos Szeredi }
347e9be9d5eSMiklos Szeredi 
348d719e8f2SMiklos Szeredi int ovl_update_time(struct inode *inode, struct timespec *ts, int flags)
349d719e8f2SMiklos Szeredi {
350d719e8f2SMiklos Szeredi 	struct dentry *alias;
351d719e8f2SMiklos Szeredi 	struct path upperpath;
352d719e8f2SMiklos Szeredi 
353d719e8f2SMiklos Szeredi 	if (!(flags & S_ATIME))
354d719e8f2SMiklos Szeredi 		return 0;
355d719e8f2SMiklos Szeredi 
356d719e8f2SMiklos Szeredi 	alias = d_find_any_alias(inode);
357d719e8f2SMiklos Szeredi 	if (!alias)
358d719e8f2SMiklos Szeredi 		return 0;
359d719e8f2SMiklos Szeredi 
360d719e8f2SMiklos Szeredi 	ovl_path_upper(alias, &upperpath);
361d719e8f2SMiklos Szeredi 	if (upperpath.dentry) {
362d719e8f2SMiklos Szeredi 		touch_atime(&upperpath);
363d719e8f2SMiklos Szeredi 		inode->i_atime = d_inode(upperpath.dentry)->i_atime;
364d719e8f2SMiklos Szeredi 	}
365d719e8f2SMiklos Szeredi 
366d719e8f2SMiklos Szeredi 	dput(alias);
367d719e8f2SMiklos Szeredi 
368d719e8f2SMiklos Szeredi 	return 0;
369d719e8f2SMiklos Szeredi }
370d719e8f2SMiklos Szeredi 
371e9be9d5eSMiklos Szeredi static const struct inode_operations ovl_file_inode_operations = {
372e9be9d5eSMiklos Szeredi 	.setattr	= ovl_setattr,
373e9be9d5eSMiklos Szeredi 	.permission	= ovl_permission,
374e9be9d5eSMiklos Szeredi 	.getattr	= ovl_getattr,
375e9be9d5eSMiklos Szeredi 	.listxattr	= ovl_listxattr,
37639a25b2bSVivek Goyal 	.get_acl	= ovl_get_acl,
377d719e8f2SMiklos Szeredi 	.update_time	= ovl_update_time,
378e9be9d5eSMiklos Szeredi };
379e9be9d5eSMiklos Szeredi 
380e9be9d5eSMiklos Szeredi static const struct inode_operations ovl_symlink_inode_operations = {
381e9be9d5eSMiklos Szeredi 	.setattr	= ovl_setattr,
3826b255391SAl Viro 	.get_link	= ovl_get_link,
383e9be9d5eSMiklos Szeredi 	.getattr	= ovl_getattr,
384e9be9d5eSMiklos Szeredi 	.listxattr	= ovl_listxattr,
385d719e8f2SMiklos Szeredi 	.update_time	= ovl_update_time,
386e9be9d5eSMiklos Szeredi };
387e9be9d5eSMiklos Szeredi 
388b1eaa950SAmir Goldstein /*
389b1eaa950SAmir Goldstein  * It is possible to stack overlayfs instance on top of another
390b1eaa950SAmir Goldstein  * overlayfs instance as lower layer. We need to annonate the
391b1eaa950SAmir Goldstein  * stackable i_mutex locks according to stack level of the super
392b1eaa950SAmir Goldstein  * block instance. An overlayfs instance can never be in stack
393b1eaa950SAmir Goldstein  * depth 0 (there is always a real fs below it).  An overlayfs
394b1eaa950SAmir Goldstein  * inode lock will use the lockdep annotaion ovl_i_mutex_key[depth].
395b1eaa950SAmir Goldstein  *
396b1eaa950SAmir Goldstein  * For example, here is a snip from /proc/lockdep_chains after
397b1eaa950SAmir Goldstein  * dir_iterate of nested overlayfs:
398b1eaa950SAmir Goldstein  *
399b1eaa950SAmir Goldstein  * [...] &ovl_i_mutex_dir_key[depth]   (stack_depth=2)
400b1eaa950SAmir Goldstein  * [...] &ovl_i_mutex_dir_key[depth]#2 (stack_depth=1)
401b1eaa950SAmir Goldstein  * [...] &type->i_mutex_dir_key        (stack_depth=0)
402b1eaa950SAmir Goldstein  */
403b1eaa950SAmir Goldstein #define OVL_MAX_NESTING FILESYSTEM_MAX_STACK_DEPTH
404b1eaa950SAmir Goldstein 
405b1eaa950SAmir Goldstein static inline void ovl_lockdep_annotate_inode_mutex_key(struct inode *inode)
406b1eaa950SAmir Goldstein {
407b1eaa950SAmir Goldstein #ifdef CONFIG_LOCKDEP
408b1eaa950SAmir Goldstein 	static struct lock_class_key ovl_i_mutex_key[OVL_MAX_NESTING];
409b1eaa950SAmir Goldstein 	static struct lock_class_key ovl_i_mutex_dir_key[OVL_MAX_NESTING];
410b1eaa950SAmir Goldstein 
411b1eaa950SAmir Goldstein 	int depth = inode->i_sb->s_stack_depth - 1;
412b1eaa950SAmir Goldstein 
413b1eaa950SAmir Goldstein 	if (WARN_ON_ONCE(depth < 0 || depth >= OVL_MAX_NESTING))
414b1eaa950SAmir Goldstein 		depth = 0;
415b1eaa950SAmir Goldstein 
416b1eaa950SAmir Goldstein 	if (S_ISDIR(inode->i_mode))
417b1eaa950SAmir Goldstein 		lockdep_set_class(&inode->i_rwsem, &ovl_i_mutex_dir_key[depth]);
418b1eaa950SAmir Goldstein 	else
419b1eaa950SAmir Goldstein 		lockdep_set_class(&inode->i_rwsem, &ovl_i_mutex_key[depth]);
420b1eaa950SAmir Goldstein #endif
421b1eaa950SAmir Goldstein }
422b1eaa950SAmir Goldstein 
423ca4c8a3aSMiklos Szeredi static void ovl_fill_inode(struct inode *inode, umode_t mode, dev_t rdev)
424e9be9d5eSMiklos Szeredi {
425e9be9d5eSMiklos Szeredi 	inode->i_ino = get_next_ino();
426e9be9d5eSMiklos Szeredi 	inode->i_mode = mode;
427d719e8f2SMiklos Szeredi 	inode->i_flags |= S_NOCMTIME;
4282a3a2a3fSMiklos Szeredi #ifdef CONFIG_FS_POSIX_ACL
4292a3a2a3fSMiklos Szeredi 	inode->i_acl = inode->i_default_acl = ACL_DONT_CACHE;
4302a3a2a3fSMiklos Szeredi #endif
431e9be9d5eSMiklos Szeredi 
432b1eaa950SAmir Goldstein 	ovl_lockdep_annotate_inode_mutex_key(inode);
433b1eaa950SAmir Goldstein 
434ca4c8a3aSMiklos Szeredi 	switch (mode & S_IFMT) {
435ca4c8a3aSMiklos Szeredi 	case S_IFREG:
436ca4c8a3aSMiklos Szeredi 		inode->i_op = &ovl_file_inode_operations;
437ca4c8a3aSMiklos Szeredi 		break;
438ca4c8a3aSMiklos Szeredi 
439e9be9d5eSMiklos Szeredi 	case S_IFDIR:
440e9be9d5eSMiklos Szeredi 		inode->i_op = &ovl_dir_inode_operations;
441e9be9d5eSMiklos Szeredi 		inode->i_fop = &ovl_dir_operations;
442e9be9d5eSMiklos Szeredi 		break;
443e9be9d5eSMiklos Szeredi 
444e9be9d5eSMiklos Szeredi 	case S_IFLNK:
445e9be9d5eSMiklos Szeredi 		inode->i_op = &ovl_symlink_inode_operations;
446e9be9d5eSMiklos Szeredi 		break;
447e9be9d5eSMiklos Szeredi 
44851f7e52dSMiklos Szeredi 	default:
449e9be9d5eSMiklos Szeredi 		inode->i_op = &ovl_file_inode_operations;
450ca4c8a3aSMiklos Szeredi 		init_special_inode(inode, mode, rdev);
451e9be9d5eSMiklos Szeredi 		break;
45251f7e52dSMiklos Szeredi 	}
45351f7e52dSMiklos Szeredi }
454e9be9d5eSMiklos Szeredi 
455*5f8415d6SAmir Goldstein /*
456*5f8415d6SAmir Goldstein  * With inodes index enabled, an overlay inode nlink counts the union of upper
457*5f8415d6SAmir Goldstein  * hardlinks and non-covered lower hardlinks. During the lifetime of a non-pure
458*5f8415d6SAmir Goldstein  * upper inode, the following nlink modifying operations can happen:
459*5f8415d6SAmir Goldstein  *
460*5f8415d6SAmir Goldstein  * 1. Lower hardlink copy up
461*5f8415d6SAmir Goldstein  * 2. Upper hardlink created, unlinked or renamed over
462*5f8415d6SAmir Goldstein  * 3. Lower hardlink whiteout or renamed over
463*5f8415d6SAmir Goldstein  *
464*5f8415d6SAmir Goldstein  * For the first, copy up case, the union nlink does not change, whether the
465*5f8415d6SAmir Goldstein  * operation succeeds or fails, but the upper inode nlink may change.
466*5f8415d6SAmir Goldstein  * Therefore, before copy up, we store the union nlink value relative to the
467*5f8415d6SAmir Goldstein  * lower inode nlink in the index inode xattr trusted.overlay.nlink.
468*5f8415d6SAmir Goldstein  *
469*5f8415d6SAmir Goldstein  * For the second, upper hardlink case, the union nlink should be incremented
470*5f8415d6SAmir Goldstein  * or decremented IFF the operation succeeds, aligned with nlink change of the
471*5f8415d6SAmir Goldstein  * upper inode. Therefore, before link/unlink/rename, we store the union nlink
472*5f8415d6SAmir Goldstein  * value relative to the upper inode nlink in the index inode.
473*5f8415d6SAmir Goldstein  *
474*5f8415d6SAmir Goldstein  * For the last, lower cover up case, we simplify things by preceding the
475*5f8415d6SAmir Goldstein  * whiteout or cover up with copy up. This makes sure that there is an index
476*5f8415d6SAmir Goldstein  * upper inode where the nlink xattr can be stored before the copied up upper
477*5f8415d6SAmir Goldstein  * entry is unlink.
478*5f8415d6SAmir Goldstein  */
479*5f8415d6SAmir Goldstein #define OVL_NLINK_ADD_UPPER	(1 << 0)
480*5f8415d6SAmir Goldstein 
481*5f8415d6SAmir Goldstein /*
482*5f8415d6SAmir Goldstein  * On-disk format for indexed nlink:
483*5f8415d6SAmir Goldstein  *
484*5f8415d6SAmir Goldstein  * nlink relative to the upper inode - "U[+-]NUM"
485*5f8415d6SAmir Goldstein  * nlink relative to the lower inode - "L[+-]NUM"
486*5f8415d6SAmir Goldstein  */
487*5f8415d6SAmir Goldstein 
488*5f8415d6SAmir Goldstein static int ovl_set_nlink_common(struct dentry *dentry,
489*5f8415d6SAmir Goldstein 				struct dentry *realdentry, const char *format)
490*5f8415d6SAmir Goldstein {
491*5f8415d6SAmir Goldstein 	struct inode *inode = d_inode(dentry);
492*5f8415d6SAmir Goldstein 	struct inode *realinode = d_inode(realdentry);
493*5f8415d6SAmir Goldstein 	char buf[13];
494*5f8415d6SAmir Goldstein 	int len;
495*5f8415d6SAmir Goldstein 
496*5f8415d6SAmir Goldstein 	len = snprintf(buf, sizeof(buf), format,
497*5f8415d6SAmir Goldstein 		       (int) (inode->i_nlink - realinode->i_nlink));
498*5f8415d6SAmir Goldstein 
499*5f8415d6SAmir Goldstein 	return ovl_do_setxattr(ovl_dentry_upper(dentry),
500*5f8415d6SAmir Goldstein 			       OVL_XATTR_NLINK, buf, len, 0);
501*5f8415d6SAmir Goldstein }
502*5f8415d6SAmir Goldstein 
503*5f8415d6SAmir Goldstein int ovl_set_nlink_upper(struct dentry *dentry)
504*5f8415d6SAmir Goldstein {
505*5f8415d6SAmir Goldstein 	return ovl_set_nlink_common(dentry, ovl_dentry_upper(dentry), "U%+i");
506*5f8415d6SAmir Goldstein }
507*5f8415d6SAmir Goldstein 
508*5f8415d6SAmir Goldstein int ovl_set_nlink_lower(struct dentry *dentry)
509*5f8415d6SAmir Goldstein {
510*5f8415d6SAmir Goldstein 	return ovl_set_nlink_common(dentry, ovl_dentry_lower(dentry), "L%+i");
511*5f8415d6SAmir Goldstein }
512*5f8415d6SAmir Goldstein 
513*5f8415d6SAmir Goldstein static unsigned int ovl_get_nlink(struct dentry *lowerdentry,
514*5f8415d6SAmir Goldstein 				  struct dentry *upperdentry,
515*5f8415d6SAmir Goldstein 				  unsigned int fallback)
516*5f8415d6SAmir Goldstein {
517*5f8415d6SAmir Goldstein 	int nlink_diff;
518*5f8415d6SAmir Goldstein 	int nlink;
519*5f8415d6SAmir Goldstein 	char buf[13];
520*5f8415d6SAmir Goldstein 	int err;
521*5f8415d6SAmir Goldstein 
522*5f8415d6SAmir Goldstein 	if (!lowerdentry || !upperdentry || d_inode(lowerdentry)->i_nlink == 1)
523*5f8415d6SAmir Goldstein 		return fallback;
524*5f8415d6SAmir Goldstein 
525*5f8415d6SAmir Goldstein 	err = vfs_getxattr(upperdentry, OVL_XATTR_NLINK, &buf, sizeof(buf) - 1);
526*5f8415d6SAmir Goldstein 	if (err < 0)
527*5f8415d6SAmir Goldstein 		goto fail;
528*5f8415d6SAmir Goldstein 
529*5f8415d6SAmir Goldstein 	buf[err] = '\0';
530*5f8415d6SAmir Goldstein 	if ((buf[0] != 'L' && buf[0] != 'U') ||
531*5f8415d6SAmir Goldstein 	    (buf[1] != '+' && buf[1] != '-'))
532*5f8415d6SAmir Goldstein 		goto fail;
533*5f8415d6SAmir Goldstein 
534*5f8415d6SAmir Goldstein 	err = kstrtoint(buf + 1, 10, &nlink_diff);
535*5f8415d6SAmir Goldstein 	if (err < 0)
536*5f8415d6SAmir Goldstein 		goto fail;
537*5f8415d6SAmir Goldstein 
538*5f8415d6SAmir Goldstein 	nlink = d_inode(buf[0] == 'L' ? lowerdentry : upperdentry)->i_nlink;
539*5f8415d6SAmir Goldstein 	nlink += nlink_diff;
540*5f8415d6SAmir Goldstein 
541*5f8415d6SAmir Goldstein 	if (nlink <= 0)
542*5f8415d6SAmir Goldstein 		goto fail;
543*5f8415d6SAmir Goldstein 
544*5f8415d6SAmir Goldstein 	return nlink;
545*5f8415d6SAmir Goldstein 
546*5f8415d6SAmir Goldstein fail:
547*5f8415d6SAmir Goldstein 	pr_warn_ratelimited("overlayfs: failed to get index nlink (%pd2, err=%i)\n",
548*5f8415d6SAmir Goldstein 			    upperdentry, err);
549*5f8415d6SAmir Goldstein 	return fallback;
550*5f8415d6SAmir Goldstein }
551*5f8415d6SAmir Goldstein 
552ca4c8a3aSMiklos Szeredi struct inode *ovl_new_inode(struct super_block *sb, umode_t mode, dev_t rdev)
55351f7e52dSMiklos Szeredi {
55451f7e52dSMiklos Szeredi 	struct inode *inode;
55551f7e52dSMiklos Szeredi 
55651f7e52dSMiklos Szeredi 	inode = new_inode(sb);
55751f7e52dSMiklos Szeredi 	if (inode)
558ca4c8a3aSMiklos Szeredi 		ovl_fill_inode(inode, mode, rdev);
55951f7e52dSMiklos Szeredi 
56051f7e52dSMiklos Szeredi 	return inode;
56151f7e52dSMiklos Szeredi }
56251f7e52dSMiklos Szeredi 
56351f7e52dSMiklos Szeredi static int ovl_inode_test(struct inode *inode, void *data)
56451f7e52dSMiklos Szeredi {
56525b7713aSMiklos Szeredi 	return inode->i_private == data;
56651f7e52dSMiklos Szeredi }
56751f7e52dSMiklos Szeredi 
56851f7e52dSMiklos Szeredi static int ovl_inode_set(struct inode *inode, void *data)
56951f7e52dSMiklos Szeredi {
57025b7713aSMiklos Szeredi 	inode->i_private = data;
57151f7e52dSMiklos Szeredi 	return 0;
57251f7e52dSMiklos Szeredi }
57351f7e52dSMiklos Szeredi 
574b9ac5c27SMiklos Szeredi static bool ovl_verify_inode(struct inode *inode, struct dentry *lowerdentry,
575b9ac5c27SMiklos Szeredi 			     struct dentry *upperdentry)
576b9ac5c27SMiklos Szeredi {
577b9ac5c27SMiklos Szeredi 	struct inode *lowerinode = lowerdentry ? d_inode(lowerdentry) : NULL;
578b9ac5c27SMiklos Szeredi 
579b9ac5c27SMiklos Szeredi 	/* Lower (origin) inode must match, even if NULL */
580b9ac5c27SMiklos Szeredi 	if (ovl_inode_lower(inode) != lowerinode)
581b9ac5c27SMiklos Szeredi 		return false;
582b9ac5c27SMiklos Szeredi 
583b9ac5c27SMiklos Szeredi 	/*
584b9ac5c27SMiklos Szeredi 	 * Allow non-NULL __upperdentry in inode even if upperdentry is NULL.
585b9ac5c27SMiklos Szeredi 	 * This happens when finding a lower alias for a copied up hard link.
586b9ac5c27SMiklos Szeredi 	 */
587b9ac5c27SMiklos Szeredi 	if (upperdentry && ovl_inode_upper(inode) != d_inode(upperdentry))
588b9ac5c27SMiklos Szeredi 		return false;
589b9ac5c27SMiklos Szeredi 
590b9ac5c27SMiklos Szeredi 	return true;
591b9ac5c27SMiklos Szeredi }
592b9ac5c27SMiklos Szeredi 
59309d8b586SMiklos Szeredi struct inode *ovl_get_inode(struct dentry *dentry, struct dentry *upperdentry)
59451f7e52dSMiklos Szeredi {
59509d8b586SMiklos Szeredi 	struct dentry *lowerdentry = ovl_dentry_lower(dentry);
59609d8b586SMiklos Szeredi 	struct inode *realinode = upperdentry ? d_inode(upperdentry) : NULL;
59751f7e52dSMiklos Szeredi 	struct inode *inode;
59851f7e52dSMiklos Szeredi 
59909d8b586SMiklos Szeredi 	if (!realinode)
60009d8b586SMiklos Szeredi 		realinode = d_inode(lowerdentry);
60109d8b586SMiklos Szeredi 
602b9ac5c27SMiklos Szeredi 	if (!S_ISDIR(realinode->i_mode) &&
603b9ac5c27SMiklos Szeredi 	    (upperdentry || (lowerdentry && ovl_indexdir(dentry->d_sb)))) {
604b9ac5c27SMiklos Szeredi 		struct inode *key = d_inode(lowerdentry ?: upperdentry);
605*5f8415d6SAmir Goldstein 		unsigned int nlink;
606b9ac5c27SMiklos Szeredi 
607b9ac5c27SMiklos Szeredi 		inode = iget5_locked(dentry->d_sb, (unsigned long) key,
608b9ac5c27SMiklos Szeredi 				     ovl_inode_test, ovl_inode_set, key);
60909d8b586SMiklos Szeredi 		if (!inode)
610b9ac5c27SMiklos Szeredi 			goto out_nomem;
61109d8b586SMiklos Szeredi 		if (!(inode->i_state & I_NEW)) {
612b9ac5c27SMiklos Szeredi 			/*
613b9ac5c27SMiklos Szeredi 			 * Verify that the underlying files stored in the inode
614b9ac5c27SMiklos Szeredi 			 * match those in the dentry.
615b9ac5c27SMiklos Szeredi 			 */
616b9ac5c27SMiklos Szeredi 			if (!ovl_verify_inode(inode, lowerdentry, upperdentry)) {
617b9ac5c27SMiklos Szeredi 				iput(inode);
618b9ac5c27SMiklos Szeredi 				inode = ERR_PTR(-ESTALE);
619b9ac5c27SMiklos Szeredi 				goto out;
620b9ac5c27SMiklos Szeredi 			}
621b9ac5c27SMiklos Szeredi 
62209d8b586SMiklos Szeredi 			dput(upperdentry);
62309d8b586SMiklos Szeredi 			goto out;
62409d8b586SMiklos Szeredi 		}
625e9be9d5eSMiklos Szeredi 
626*5f8415d6SAmir Goldstein 		nlink = ovl_get_nlink(lowerdentry, upperdentry,
627*5f8415d6SAmir Goldstein 				      realinode->i_nlink);
628*5f8415d6SAmir Goldstein 		set_nlink(inode, nlink);
629e6d2ebddSMiklos Szeredi 	} else {
630e6d2ebddSMiklos Szeredi 		inode = new_inode(dentry->d_sb);
631e6d2ebddSMiklos Szeredi 		if (!inode)
632b9ac5c27SMiklos Szeredi 			goto out_nomem;
633e6d2ebddSMiklos Szeredi 	}
634e6d2ebddSMiklos Szeredi 	ovl_fill_inode(inode, realinode->i_mode, realinode->i_rdev);
63509d8b586SMiklos Szeredi 	ovl_inode_init(inode, upperdentry, lowerdentry);
63613c72075SMiklos Szeredi 
63713c72075SMiklos Szeredi 	if (upperdentry && ovl_is_impuredir(upperdentry))
63813c72075SMiklos Szeredi 		ovl_set_flag(OVL_IMPURE, inode);
63913c72075SMiklos Szeredi 
640e6d2ebddSMiklos Szeredi 	if (inode->i_state & I_NEW)
641e6d2ebddSMiklos Szeredi 		unlock_new_inode(inode);
642e6d2ebddSMiklos Szeredi out:
643e9be9d5eSMiklos Szeredi 	return inode;
644b9ac5c27SMiklos Szeredi 
645b9ac5c27SMiklos Szeredi out_nomem:
646b9ac5c27SMiklos Szeredi 	inode = ERR_PTR(-ENOMEM);
647b9ac5c27SMiklos Szeredi 	goto out;
648e9be9d5eSMiklos Szeredi }
649