xref: /openbmc/linux/fs/overlayfs/copy_up.c (revision 5b825c3a)
1e9be9d5eSMiklos Szeredi /*
2e9be9d5eSMiklos Szeredi  *
3e9be9d5eSMiklos Szeredi  * Copyright (C) 2011 Novell Inc.
4e9be9d5eSMiklos Szeredi  *
5e9be9d5eSMiklos Szeredi  * This program is free software; you can redistribute it and/or modify it
6e9be9d5eSMiklos Szeredi  * under the terms of the GNU General Public License version 2 as published by
7e9be9d5eSMiklos Szeredi  * the Free Software Foundation.
8e9be9d5eSMiklos Szeredi  */
9e9be9d5eSMiklos Szeredi 
10fb5bb2c3SDavid Howells #include <linux/module.h>
11e9be9d5eSMiklos Szeredi #include <linux/fs.h>
12e9be9d5eSMiklos Szeredi #include <linux/slab.h>
13e9be9d5eSMiklos Szeredi #include <linux/file.h>
14e9be9d5eSMiklos Szeredi #include <linux/splice.h>
15e9be9d5eSMiklos Szeredi #include <linux/xattr.h>
16e9be9d5eSMiklos Szeredi #include <linux/security.h>
17e9be9d5eSMiklos Szeredi #include <linux/uaccess.h>
18e9be9d5eSMiklos Szeredi #include <linux/sched.h>
195b825c3aSIngo Molnar #include <linux/cred.h>
20e9be9d5eSMiklos Szeredi #include <linux/namei.h>
21fb5bb2c3SDavid Howells #include <linux/fdtable.h>
22fb5bb2c3SDavid Howells #include <linux/ratelimit.h>
23e9be9d5eSMiklos Szeredi #include "overlayfs.h"
24e9be9d5eSMiklos Szeredi 
25e9be9d5eSMiklos Szeredi #define OVL_COPY_UP_CHUNK_SIZE (1 << 20)
26e9be9d5eSMiklos Szeredi 
27fb5bb2c3SDavid Howells static bool __read_mostly ovl_check_copy_up;
28fb5bb2c3SDavid Howells module_param_named(check_copy_up, ovl_check_copy_up, bool,
29fb5bb2c3SDavid Howells 		   S_IWUSR | S_IRUGO);
30fb5bb2c3SDavid Howells MODULE_PARM_DESC(ovl_check_copy_up,
31fb5bb2c3SDavid Howells 		 "Warn on copy-up when causing process also has a R/O fd open");
32fb5bb2c3SDavid Howells 
33fb5bb2c3SDavid Howells static int ovl_check_fd(const void *data, struct file *f, unsigned int fd)
34fb5bb2c3SDavid Howells {
35fb5bb2c3SDavid Howells 	const struct dentry *dentry = data;
36fb5bb2c3SDavid Howells 
3745063097SAl Viro 	if (file_inode(f) == d_inode(dentry))
38fb5bb2c3SDavid Howells 		pr_warn_ratelimited("overlayfs: Warning: Copying up %pD, but open R/O on fd %u which will cease to be coherent [pid=%d %s]\n",
39fb5bb2c3SDavid Howells 				    f, fd, current->pid, current->comm);
40fb5bb2c3SDavid Howells 	return 0;
41fb5bb2c3SDavid Howells }
42fb5bb2c3SDavid Howells 
43fb5bb2c3SDavid Howells /*
44fb5bb2c3SDavid Howells  * Check the fds open by this process and warn if something like the following
45fb5bb2c3SDavid Howells  * scenario is about to occur:
46fb5bb2c3SDavid Howells  *
47fb5bb2c3SDavid Howells  *	fd1 = open("foo", O_RDONLY);
48fb5bb2c3SDavid Howells  *	fd2 = open("foo", O_RDWR);
49fb5bb2c3SDavid Howells  */
50fb5bb2c3SDavid Howells static void ovl_do_check_copy_up(struct dentry *dentry)
51fb5bb2c3SDavid Howells {
52fb5bb2c3SDavid Howells 	if (ovl_check_copy_up)
53fb5bb2c3SDavid Howells 		iterate_fd(current->files, 0, ovl_check_fd, dentry);
54fb5bb2c3SDavid Howells }
55fb5bb2c3SDavid Howells 
56e9be9d5eSMiklos Szeredi int ovl_copy_xattr(struct dentry *old, struct dentry *new)
57e9be9d5eSMiklos Szeredi {
58e4ad29faSVito Caputo 	ssize_t list_size, size, value_size = 0;
59e4ad29faSVito Caputo 	char *buf, *name, *value = NULL;
60e4ad29faSVito Caputo 	int uninitialized_var(error);
618b326c61SMiklos Szeredi 	size_t slen;
62e9be9d5eSMiklos Szeredi 
635d6c3191SAndreas Gruenbacher 	if (!(old->d_inode->i_opflags & IOP_XATTR) ||
645d6c3191SAndreas Gruenbacher 	    !(new->d_inode->i_opflags & IOP_XATTR))
65e9be9d5eSMiklos Szeredi 		return 0;
66e9be9d5eSMiklos Szeredi 
67e9be9d5eSMiklos Szeredi 	list_size = vfs_listxattr(old, NULL, 0);
68e9be9d5eSMiklos Szeredi 	if (list_size <= 0) {
69e9be9d5eSMiklos Szeredi 		if (list_size == -EOPNOTSUPP)
70e9be9d5eSMiklos Szeredi 			return 0;
71e9be9d5eSMiklos Szeredi 		return list_size;
72e9be9d5eSMiklos Szeredi 	}
73e9be9d5eSMiklos Szeredi 
74e9be9d5eSMiklos Szeredi 	buf = kzalloc(list_size, GFP_KERNEL);
75e9be9d5eSMiklos Szeredi 	if (!buf)
76e9be9d5eSMiklos Szeredi 		return -ENOMEM;
77e9be9d5eSMiklos Szeredi 
78e9be9d5eSMiklos Szeredi 	list_size = vfs_listxattr(old, buf, list_size);
79e9be9d5eSMiklos Szeredi 	if (list_size <= 0) {
80e9be9d5eSMiklos Szeredi 		error = list_size;
81e4ad29faSVito Caputo 		goto out;
82e9be9d5eSMiklos Szeredi 	}
83e9be9d5eSMiklos Szeredi 
848b326c61SMiklos Szeredi 	for (name = buf; list_size; name += slen) {
858b326c61SMiklos Szeredi 		slen = strnlen(name, list_size) + 1;
868b326c61SMiklos Szeredi 
878b326c61SMiklos Szeredi 		/* underlying fs providing us with an broken xattr list? */
888b326c61SMiklos Szeredi 		if (WARN_ON(slen > list_size)) {
898b326c61SMiklos Szeredi 			error = -EIO;
908b326c61SMiklos Szeredi 			break;
918b326c61SMiklos Szeredi 		}
928b326c61SMiklos Szeredi 		list_size -= slen;
938b326c61SMiklos Szeredi 
940956254aSMiklos Szeredi 		if (ovl_is_private_xattr(name))
950956254aSMiklos Szeredi 			continue;
96e4ad29faSVito Caputo retry:
97e4ad29faSVito Caputo 		size = vfs_getxattr(old, name, value, value_size);
98e4ad29faSVito Caputo 		if (size == -ERANGE)
99e4ad29faSVito Caputo 			size = vfs_getxattr(old, name, NULL, 0);
100e4ad29faSVito Caputo 
10197daf8b9SMiklos Szeredi 		if (size < 0) {
102e9be9d5eSMiklos Szeredi 			error = size;
103e4ad29faSVito Caputo 			break;
104e9be9d5eSMiklos Szeredi 		}
105e9be9d5eSMiklos Szeredi 
106e4ad29faSVito Caputo 		if (size > value_size) {
107e4ad29faSVito Caputo 			void *new;
108e4ad29faSVito Caputo 
109e4ad29faSVito Caputo 			new = krealloc(value, size, GFP_KERNEL);
110e4ad29faSVito Caputo 			if (!new) {
111e4ad29faSVito Caputo 				error = -ENOMEM;
112e4ad29faSVito Caputo 				break;
113e4ad29faSVito Caputo 			}
114e4ad29faSVito Caputo 			value = new;
115e4ad29faSVito Caputo 			value_size = size;
116e4ad29faSVito Caputo 			goto retry;
117e4ad29faSVito Caputo 		}
118e4ad29faSVito Caputo 
119121ab822SVivek Goyal 		error = security_inode_copy_up_xattr(name);
120121ab822SVivek Goyal 		if (error < 0 && error != -EOPNOTSUPP)
121121ab822SVivek Goyal 			break;
122121ab822SVivek Goyal 		if (error == 1) {
123121ab822SVivek Goyal 			error = 0;
124121ab822SVivek Goyal 			continue; /* Discard */
125121ab822SVivek Goyal 		}
126e4ad29faSVito Caputo 		error = vfs_setxattr(new, name, value, size, 0);
127e4ad29faSVito Caputo 		if (error)
128e4ad29faSVito Caputo 			break;
129e4ad29faSVito Caputo 	}
130e9be9d5eSMiklos Szeredi 	kfree(value);
131e9be9d5eSMiklos Szeredi out:
132e9be9d5eSMiklos Szeredi 	kfree(buf);
133e9be9d5eSMiklos Szeredi 	return error;
134e9be9d5eSMiklos Szeredi }
135e9be9d5eSMiklos Szeredi 
136e9be9d5eSMiklos Szeredi static int ovl_copy_up_data(struct path *old, struct path *new, loff_t len)
137e9be9d5eSMiklos Szeredi {
138e9be9d5eSMiklos Szeredi 	struct file *old_file;
139e9be9d5eSMiklos Szeredi 	struct file *new_file;
140e9be9d5eSMiklos Szeredi 	loff_t old_pos = 0;
141e9be9d5eSMiklos Szeredi 	loff_t new_pos = 0;
142e9be9d5eSMiklos Szeredi 	int error = 0;
143e9be9d5eSMiklos Szeredi 
144e9be9d5eSMiklos Szeredi 	if (len == 0)
145e9be9d5eSMiklos Szeredi 		return 0;
146e9be9d5eSMiklos Szeredi 
1470480334fSDavid Howells 	old_file = ovl_path_open(old, O_LARGEFILE | O_RDONLY);
148e9be9d5eSMiklos Szeredi 	if (IS_ERR(old_file))
149e9be9d5eSMiklos Szeredi 		return PTR_ERR(old_file);
150e9be9d5eSMiklos Szeredi 
1510480334fSDavid Howells 	new_file = ovl_path_open(new, O_LARGEFILE | O_WRONLY);
152e9be9d5eSMiklos Szeredi 	if (IS_ERR(new_file)) {
153e9be9d5eSMiklos Szeredi 		error = PTR_ERR(new_file);
154e9be9d5eSMiklos Szeredi 		goto out_fput;
155e9be9d5eSMiklos Szeredi 	}
156e9be9d5eSMiklos Szeredi 
1572ea98466SAmir Goldstein 	/* Try to use clone_file_range to clone up within the same fs */
1582ea98466SAmir Goldstein 	error = vfs_clone_file_range(old_file, 0, new_file, 0, len);
1592ea98466SAmir Goldstein 	if (!error)
1602ea98466SAmir Goldstein 		goto out;
1612ea98466SAmir Goldstein 	/* Couldn't clone, so now we try to copy the data */
1622ea98466SAmir Goldstein 	error = 0;
1632ea98466SAmir Goldstein 
164e9be9d5eSMiklos Szeredi 	/* FIXME: copy up sparse files efficiently */
165e9be9d5eSMiklos Szeredi 	while (len) {
166e9be9d5eSMiklos Szeredi 		size_t this_len = OVL_COPY_UP_CHUNK_SIZE;
167e9be9d5eSMiklos Szeredi 		long bytes;
168e9be9d5eSMiklos Szeredi 
169e9be9d5eSMiklos Szeredi 		if (len < this_len)
170e9be9d5eSMiklos Szeredi 			this_len = len;
171e9be9d5eSMiklos Szeredi 
172e9be9d5eSMiklos Szeredi 		if (signal_pending_state(TASK_KILLABLE, current)) {
173e9be9d5eSMiklos Szeredi 			error = -EINTR;
174e9be9d5eSMiklos Szeredi 			break;
175e9be9d5eSMiklos Szeredi 		}
176e9be9d5eSMiklos Szeredi 
177e9be9d5eSMiklos Szeredi 		bytes = do_splice_direct(old_file, &old_pos,
178e9be9d5eSMiklos Szeredi 					 new_file, &new_pos,
179e9be9d5eSMiklos Szeredi 					 this_len, SPLICE_F_MOVE);
180e9be9d5eSMiklos Szeredi 		if (bytes <= 0) {
181e9be9d5eSMiklos Szeredi 			error = bytes;
182e9be9d5eSMiklos Szeredi 			break;
183e9be9d5eSMiklos Szeredi 		}
184e9be9d5eSMiklos Szeredi 		WARN_ON(old_pos != new_pos);
185e9be9d5eSMiklos Szeredi 
186e9be9d5eSMiklos Szeredi 		len -= bytes;
187e9be9d5eSMiklos Szeredi 	}
1882ea98466SAmir Goldstein out:
189641089c1SMiklos Szeredi 	if (!error)
190641089c1SMiklos Szeredi 		error = vfs_fsync(new_file, 0);
191e9be9d5eSMiklos Szeredi 	fput(new_file);
192e9be9d5eSMiklos Szeredi out_fput:
193e9be9d5eSMiklos Szeredi 	fput(old_file);
194e9be9d5eSMiklos Szeredi 	return error;
195e9be9d5eSMiklos Szeredi }
196e9be9d5eSMiklos Szeredi 
197e9be9d5eSMiklos Szeredi static int ovl_set_timestamps(struct dentry *upperdentry, struct kstat *stat)
198e9be9d5eSMiklos Szeredi {
199e9be9d5eSMiklos Szeredi 	struct iattr attr = {
200e9be9d5eSMiklos Szeredi 		.ia_valid =
201e9be9d5eSMiklos Szeredi 		     ATTR_ATIME | ATTR_MTIME | ATTR_ATIME_SET | ATTR_MTIME_SET,
202e9be9d5eSMiklos Szeredi 		.ia_atime = stat->atime,
203e9be9d5eSMiklos Szeredi 		.ia_mtime = stat->mtime,
204e9be9d5eSMiklos Szeredi 	};
205e9be9d5eSMiklos Szeredi 
206e9be9d5eSMiklos Szeredi 	return notify_change(upperdentry, &attr, NULL);
207e9be9d5eSMiklos Szeredi }
208e9be9d5eSMiklos Szeredi 
209e9be9d5eSMiklos Szeredi int ovl_set_attr(struct dentry *upperdentry, struct kstat *stat)
210e9be9d5eSMiklos Szeredi {
211e9be9d5eSMiklos Szeredi 	int err = 0;
212e9be9d5eSMiklos Szeredi 
213e9be9d5eSMiklos Szeredi 	if (!S_ISLNK(stat->mode)) {
214e9be9d5eSMiklos Szeredi 		struct iattr attr = {
215e9be9d5eSMiklos Szeredi 			.ia_valid = ATTR_MODE,
216e9be9d5eSMiklos Szeredi 			.ia_mode = stat->mode,
217e9be9d5eSMiklos Szeredi 		};
218e9be9d5eSMiklos Szeredi 		err = notify_change(upperdentry, &attr, NULL);
219e9be9d5eSMiklos Szeredi 	}
220e9be9d5eSMiklos Szeredi 	if (!err) {
221e9be9d5eSMiklos Szeredi 		struct iattr attr = {
222e9be9d5eSMiklos Szeredi 			.ia_valid = ATTR_UID | ATTR_GID,
223e9be9d5eSMiklos Szeredi 			.ia_uid = stat->uid,
224e9be9d5eSMiklos Szeredi 			.ia_gid = stat->gid,
225e9be9d5eSMiklos Szeredi 		};
226e9be9d5eSMiklos Szeredi 		err = notify_change(upperdentry, &attr, NULL);
227e9be9d5eSMiklos Szeredi 	}
228e9be9d5eSMiklos Szeredi 	if (!err)
229e9be9d5eSMiklos Szeredi 		ovl_set_timestamps(upperdentry, stat);
230e9be9d5eSMiklos Szeredi 
231e9be9d5eSMiklos Szeredi 	return err;
232e9be9d5eSMiklos Szeredi }
233e9be9d5eSMiklos Szeredi 
234e9be9d5eSMiklos Szeredi static int ovl_copy_up_locked(struct dentry *workdir, struct dentry *upperdir,
235e9be9d5eSMiklos Szeredi 			      struct dentry *dentry, struct path *lowerpath,
2360f7ff2daSAl Viro 			      struct kstat *stat, const char *link)
237e9be9d5eSMiklos Szeredi {
238e9be9d5eSMiklos Szeredi 	struct inode *wdir = workdir->d_inode;
239e9be9d5eSMiklos Szeredi 	struct inode *udir = upperdir->d_inode;
240e9be9d5eSMiklos Szeredi 	struct dentry *newdentry = NULL;
241e9be9d5eSMiklos Szeredi 	struct dentry *upper = NULL;
242e9be9d5eSMiklos Szeredi 	int err;
243d8ad8b49SVivek Goyal 	const struct cred *old_creds = NULL;
244d8ad8b49SVivek Goyal 	struct cred *new_creds = NULL;
24532a3d848SAl Viro 	struct cattr cattr = {
24632a3d848SAl Viro 		/* Can't properly set mode on creation because of the umask */
24732a3d848SAl Viro 		.mode = stat->mode & S_IFMT,
24832a3d848SAl Viro 		.rdev = stat->rdev,
24932a3d848SAl Viro 		.link = link
25032a3d848SAl Viro 	};
251e9be9d5eSMiklos Szeredi 
252e9be9d5eSMiklos Szeredi 	newdentry = ovl_lookup_temp(workdir, dentry);
253e9be9d5eSMiklos Szeredi 	err = PTR_ERR(newdentry);
254e9be9d5eSMiklos Szeredi 	if (IS_ERR(newdentry))
255e9be9d5eSMiklos Szeredi 		goto out;
256e9be9d5eSMiklos Szeredi 
257e9be9d5eSMiklos Szeredi 	upper = lookup_one_len(dentry->d_name.name, upperdir,
258e9be9d5eSMiklos Szeredi 			       dentry->d_name.len);
259e9be9d5eSMiklos Szeredi 	err = PTR_ERR(upper);
260e9be9d5eSMiklos Szeredi 	if (IS_ERR(upper))
261e9be9d5eSMiklos Szeredi 		goto out1;
262e9be9d5eSMiklos Szeredi 
263d8ad8b49SVivek Goyal 	err = security_inode_copy_up(dentry, &new_creds);
264d8ad8b49SVivek Goyal 	if (err < 0)
265d8ad8b49SVivek Goyal 		goto out2;
266d8ad8b49SVivek Goyal 
267d8ad8b49SVivek Goyal 	if (new_creds)
268d8ad8b49SVivek Goyal 		old_creds = override_creds(new_creds);
269d8ad8b49SVivek Goyal 
27032a3d848SAl Viro 	err = ovl_create_real(wdir, newdentry, &cattr, NULL, true);
271d8ad8b49SVivek Goyal 
272d8ad8b49SVivek Goyal 	if (new_creds) {
273d8ad8b49SVivek Goyal 		revert_creds(old_creds);
274d8ad8b49SVivek Goyal 		put_cred(new_creds);
275d8ad8b49SVivek Goyal 	}
276d8ad8b49SVivek Goyal 
277e9be9d5eSMiklos Szeredi 	if (err)
278e9be9d5eSMiklos Szeredi 		goto out2;
279e9be9d5eSMiklos Szeredi 
280e9be9d5eSMiklos Szeredi 	if (S_ISREG(stat->mode)) {
281e9be9d5eSMiklos Szeredi 		struct path upperpath;
282f134f244SSohom Bhattacharjee 
283e9be9d5eSMiklos Szeredi 		ovl_path_upper(dentry, &upperpath);
284e9be9d5eSMiklos Szeredi 		BUG_ON(upperpath.dentry != NULL);
285e9be9d5eSMiklos Szeredi 		upperpath.dentry = newdentry;
286e9be9d5eSMiklos Szeredi 
287e9be9d5eSMiklos Szeredi 		err = ovl_copy_up_data(lowerpath, &upperpath, stat->size);
288e9be9d5eSMiklos Szeredi 		if (err)
289e9be9d5eSMiklos Szeredi 			goto out_cleanup;
290e9be9d5eSMiklos Szeredi 	}
291e9be9d5eSMiklos Szeredi 
292e9be9d5eSMiklos Szeredi 	err = ovl_copy_xattr(lowerpath->dentry, newdentry);
293e9be9d5eSMiklos Szeredi 	if (err)
294e9be9d5eSMiklos Szeredi 		goto out_cleanup;
295e9be9d5eSMiklos Szeredi 
2965955102cSAl Viro 	inode_lock(newdentry->d_inode);
297e9be9d5eSMiklos Szeredi 	err = ovl_set_attr(newdentry, stat);
2985955102cSAl Viro 	inode_unlock(newdentry->d_inode);
299e9be9d5eSMiklos Szeredi 	if (err)
300e9be9d5eSMiklos Szeredi 		goto out_cleanup;
301e9be9d5eSMiklos Szeredi 
302e9be9d5eSMiklos Szeredi 	err = ovl_do_rename(wdir, newdentry, udir, upper, 0);
303e9be9d5eSMiklos Szeredi 	if (err)
304e9be9d5eSMiklos Szeredi 		goto out_cleanup;
305e9be9d5eSMiklos Szeredi 
306e9be9d5eSMiklos Szeredi 	ovl_dentry_update(dentry, newdentry);
30739b681f8SMiklos Szeredi 	ovl_inode_update(d_inode(dentry), d_inode(newdentry));
308e9be9d5eSMiklos Szeredi 	newdentry = NULL;
309e9be9d5eSMiklos Szeredi out2:
310e9be9d5eSMiklos Szeredi 	dput(upper);
311e9be9d5eSMiklos Szeredi out1:
312e9be9d5eSMiklos Szeredi 	dput(newdentry);
313e9be9d5eSMiklos Szeredi out:
314e9be9d5eSMiklos Szeredi 	return err;
315e9be9d5eSMiklos Szeredi 
316e9be9d5eSMiklos Szeredi out_cleanup:
317e9be9d5eSMiklos Szeredi 	ovl_cleanup(wdir, newdentry);
318ab79efabSDavid Howells 	goto out2;
319e9be9d5eSMiklos Szeredi }
320e9be9d5eSMiklos Szeredi 
321e9be9d5eSMiklos Szeredi /*
322e9be9d5eSMiklos Szeredi  * Copy up a single dentry
323e9be9d5eSMiklos Szeredi  *
324a6c60655SMiklos Szeredi  * All renames start with copy up of source if necessary.  The actual
325a6c60655SMiklos Szeredi  * rename will only proceed once the copy up was successful.  Copy up uses
326a6c60655SMiklos Szeredi  * upper parent i_mutex for exclusion.  Since rename can change d_parent it
327a6c60655SMiklos Szeredi  * is possible that the copy up will lock the old parent.  At that point
328a6c60655SMiklos Szeredi  * the file will have already been copied up anyway.
329e9be9d5eSMiklos Szeredi  */
3309aba6521SAmir Goldstein static int ovl_copy_up_one(struct dentry *parent, struct dentry *dentry,
3310f7ff2daSAl Viro 			   struct path *lowerpath, struct kstat *stat)
332e9be9d5eSMiklos Szeredi {
3337764235bSMiklos Szeredi 	DEFINE_DELAYED_CALL(done);
334e9be9d5eSMiklos Szeredi 	struct dentry *workdir = ovl_workdir(dentry);
335e9be9d5eSMiklos Szeredi 	int err;
336e9be9d5eSMiklos Szeredi 	struct kstat pstat;
337e9be9d5eSMiklos Szeredi 	struct path parentpath;
3387764235bSMiklos Szeredi 	struct dentry *lowerdentry = lowerpath->dentry;
339e9be9d5eSMiklos Szeredi 	struct dentry *upperdir;
3407764235bSMiklos Szeredi 	const char *link = NULL;
341e9be9d5eSMiklos Szeredi 
342cc6f67bcSMiklos Szeredi 	if (WARN_ON(!workdir))
343cc6f67bcSMiklos Szeredi 		return -EROFS;
344cc6f67bcSMiklos Szeredi 
3457764235bSMiklos Szeredi 	ovl_do_check_copy_up(lowerdentry);
346fb5bb2c3SDavid Howells 
347e9be9d5eSMiklos Szeredi 	ovl_path_upper(parent, &parentpath);
348e9be9d5eSMiklos Szeredi 	upperdir = parentpath.dentry;
349e9be9d5eSMiklos Szeredi 
350e9be9d5eSMiklos Szeredi 	err = vfs_getattr(&parentpath, &pstat);
351e9be9d5eSMiklos Szeredi 	if (err)
352e9be9d5eSMiklos Szeredi 		return err;
353e9be9d5eSMiklos Szeredi 
354e9be9d5eSMiklos Szeredi 	if (S_ISLNK(stat->mode)) {
3557764235bSMiklos Szeredi 		link = vfs_get_link(lowerdentry, &done);
356e9be9d5eSMiklos Szeredi 		if (IS_ERR(link))
357e9be9d5eSMiklos Szeredi 			return PTR_ERR(link);
358e9be9d5eSMiklos Szeredi 	}
359e9be9d5eSMiklos Szeredi 
360e9be9d5eSMiklos Szeredi 	err = -EIO;
361e9be9d5eSMiklos Szeredi 	if (lock_rename(workdir, upperdir) != NULL) {
362e9be9d5eSMiklos Szeredi 		pr_err("overlayfs: failed to lock workdir+upperdir\n");
363e9be9d5eSMiklos Szeredi 		goto out_unlock;
364e9be9d5eSMiklos Szeredi 	}
365a6c60655SMiklos Szeredi 	if (ovl_dentry_upper(dentry)) {
3660f7ff2daSAl Viro 		/* Raced with another copy-up?  Nothing to do, then... */
367e9be9d5eSMiklos Szeredi 		err = 0;
3680f7ff2daSAl Viro 		goto out_unlock;
369e9be9d5eSMiklos Szeredi 	}
370e9be9d5eSMiklos Szeredi 
371e9be9d5eSMiklos Szeredi 	err = ovl_copy_up_locked(workdir, upperdir, dentry, lowerpath,
3720f7ff2daSAl Viro 				 stat, link);
373e9be9d5eSMiklos Szeredi 	if (!err) {
374e9be9d5eSMiklos Szeredi 		/* Restore timestamps on parent (best effort) */
375e9be9d5eSMiklos Szeredi 		ovl_set_timestamps(upperdir, &pstat);
376e9be9d5eSMiklos Szeredi 	}
377e9be9d5eSMiklos Szeredi out_unlock:
378e9be9d5eSMiklos Szeredi 	unlock_rename(workdir, upperdir);
3797764235bSMiklos Szeredi 	do_delayed_call(&done);
380e9be9d5eSMiklos Szeredi 
381e9be9d5eSMiklos Szeredi 	return err;
382e9be9d5eSMiklos Szeredi }
383e9be9d5eSMiklos Szeredi 
3849aba6521SAmir Goldstein int ovl_copy_up_flags(struct dentry *dentry, int flags)
385e9be9d5eSMiklos Szeredi {
3868eac98b8SVivek Goyal 	int err = 0;
3878eac98b8SVivek Goyal 	const struct cred *old_cred = ovl_override_creds(dentry->d_sb);
388e9be9d5eSMiklos Szeredi 
389e9be9d5eSMiklos Szeredi 	while (!err) {
390e9be9d5eSMiklos Szeredi 		struct dentry *next;
391e9be9d5eSMiklos Szeredi 		struct dentry *parent;
392e9be9d5eSMiklos Szeredi 		struct path lowerpath;
393e9be9d5eSMiklos Szeredi 		struct kstat stat;
394e9be9d5eSMiklos Szeredi 		enum ovl_path_type type = ovl_path_type(dentry);
395e9be9d5eSMiklos Szeredi 
3961afaba1eSMiklos Szeredi 		if (OVL_TYPE_UPPER(type))
397e9be9d5eSMiklos Szeredi 			break;
398e9be9d5eSMiklos Szeredi 
399e9be9d5eSMiklos Szeredi 		next = dget(dentry);
400e9be9d5eSMiklos Szeredi 		/* find the topmost dentry not yet copied up */
401e9be9d5eSMiklos Szeredi 		for (;;) {
402e9be9d5eSMiklos Szeredi 			parent = dget_parent(next);
403e9be9d5eSMiklos Szeredi 
404e9be9d5eSMiklos Szeredi 			type = ovl_path_type(parent);
4051afaba1eSMiklos Szeredi 			if (OVL_TYPE_UPPER(type))
406e9be9d5eSMiklos Szeredi 				break;
407e9be9d5eSMiklos Szeredi 
408e9be9d5eSMiklos Szeredi 			dput(next);
409e9be9d5eSMiklos Szeredi 			next = parent;
410e9be9d5eSMiklos Szeredi 		}
411e9be9d5eSMiklos Szeredi 
412e9be9d5eSMiklos Szeredi 		ovl_path_lower(next, &lowerpath);
413e9be9d5eSMiklos Szeredi 		err = vfs_getattr(&lowerpath, &stat);
4149aba6521SAmir Goldstein 		/* maybe truncate regular file. this has no effect on dirs */
4159aba6521SAmir Goldstein 		if (flags & O_TRUNC)
4169aba6521SAmir Goldstein 			stat.size = 0;
417e9be9d5eSMiklos Szeredi 		if (!err)
4180f7ff2daSAl Viro 			err = ovl_copy_up_one(parent, next, &lowerpath, &stat);
419e9be9d5eSMiklos Szeredi 
420e9be9d5eSMiklos Szeredi 		dput(parent);
421e9be9d5eSMiklos Szeredi 		dput(next);
422e9be9d5eSMiklos Szeredi 	}
4238eac98b8SVivek Goyal 	revert_creds(old_cred);
424e9be9d5eSMiklos Szeredi 
425e9be9d5eSMiklos Szeredi 	return err;
426e9be9d5eSMiklos Szeredi }
4279aba6521SAmir Goldstein 
4289aba6521SAmir Goldstein int ovl_copy_up(struct dentry *dentry)
4299aba6521SAmir Goldstein {
4309aba6521SAmir Goldstein 	return ovl_copy_up_flags(dentry, 0);
4319aba6521SAmir Goldstein }
432