xref: /openbmc/linux/fs/overlayfs/copy_up.c (revision 8eac98b8)
1e9be9d5eSMiklos Szeredi /*
2e9be9d5eSMiklos Szeredi  *
3e9be9d5eSMiklos Szeredi  * Copyright (C) 2011 Novell Inc.
4e9be9d5eSMiklos Szeredi  *
5e9be9d5eSMiklos Szeredi  * This program is free software; you can redistribute it and/or modify it
6e9be9d5eSMiklos Szeredi  * under the terms of the GNU General Public License version 2 as published by
7e9be9d5eSMiklos Szeredi  * the Free Software Foundation.
8e9be9d5eSMiklos Szeredi  */
9e9be9d5eSMiklos Szeredi 
10fb5bb2c3SDavid Howells #include <linux/module.h>
11e9be9d5eSMiklos Szeredi #include <linux/fs.h>
12e9be9d5eSMiklos Szeredi #include <linux/slab.h>
13e9be9d5eSMiklos Szeredi #include <linux/file.h>
14e9be9d5eSMiklos Szeredi #include <linux/splice.h>
15e9be9d5eSMiklos Szeredi #include <linux/xattr.h>
16e9be9d5eSMiklos Szeredi #include <linux/security.h>
17e9be9d5eSMiklos Szeredi #include <linux/uaccess.h>
18e9be9d5eSMiklos Szeredi #include <linux/sched.h>
19e9be9d5eSMiklos Szeredi #include <linux/namei.h>
20fb5bb2c3SDavid Howells #include <linux/fdtable.h>
21fb5bb2c3SDavid Howells #include <linux/ratelimit.h>
22e9be9d5eSMiklos Szeredi #include "overlayfs.h"
23e9be9d5eSMiklos Szeredi 
24e9be9d5eSMiklos Szeredi #define OVL_COPY_UP_CHUNK_SIZE (1 << 20)
25e9be9d5eSMiklos Szeredi 
26fb5bb2c3SDavid Howells static bool __read_mostly ovl_check_copy_up;
27fb5bb2c3SDavid Howells module_param_named(check_copy_up, ovl_check_copy_up, bool,
28fb5bb2c3SDavid Howells 		   S_IWUSR | S_IRUGO);
29fb5bb2c3SDavid Howells MODULE_PARM_DESC(ovl_check_copy_up,
30fb5bb2c3SDavid Howells 		 "Warn on copy-up when causing process also has a R/O fd open");
31fb5bb2c3SDavid Howells 
32fb5bb2c3SDavid Howells static int ovl_check_fd(const void *data, struct file *f, unsigned int fd)
33fb5bb2c3SDavid Howells {
34fb5bb2c3SDavid Howells 	const struct dentry *dentry = data;
35fb5bb2c3SDavid Howells 
36fb5bb2c3SDavid Howells 	if (f->f_inode == d_inode(dentry))
37fb5bb2c3SDavid Howells 		pr_warn_ratelimited("overlayfs: Warning: Copying up %pD, but open R/O on fd %u which will cease to be coherent [pid=%d %s]\n",
38fb5bb2c3SDavid Howells 				    f, fd, current->pid, current->comm);
39fb5bb2c3SDavid Howells 	return 0;
40fb5bb2c3SDavid Howells }
41fb5bb2c3SDavid Howells 
42fb5bb2c3SDavid Howells /*
43fb5bb2c3SDavid Howells  * Check the fds open by this process and warn if something like the following
44fb5bb2c3SDavid Howells  * scenario is about to occur:
45fb5bb2c3SDavid Howells  *
46fb5bb2c3SDavid Howells  *	fd1 = open("foo", O_RDONLY);
47fb5bb2c3SDavid Howells  *	fd2 = open("foo", O_RDWR);
48fb5bb2c3SDavid Howells  */
49fb5bb2c3SDavid Howells static void ovl_do_check_copy_up(struct dentry *dentry)
50fb5bb2c3SDavid Howells {
51fb5bb2c3SDavid Howells 	if (ovl_check_copy_up)
52fb5bb2c3SDavid Howells 		iterate_fd(current->files, 0, ovl_check_fd, dentry);
53fb5bb2c3SDavid Howells }
54fb5bb2c3SDavid Howells 
55e9be9d5eSMiklos Szeredi int ovl_copy_xattr(struct dentry *old, struct dentry *new)
56e9be9d5eSMiklos Szeredi {
57e4ad29faSVito Caputo 	ssize_t list_size, size, value_size = 0;
58e4ad29faSVito Caputo 	char *buf, *name, *value = NULL;
59e4ad29faSVito Caputo 	int uninitialized_var(error);
608b326c61SMiklos Szeredi 	size_t slen;
61e9be9d5eSMiklos Szeredi 
62e9be9d5eSMiklos Szeredi 	if (!old->d_inode->i_op->getxattr ||
63e9be9d5eSMiklos Szeredi 	    !new->d_inode->i_op->getxattr)
64e9be9d5eSMiklos Szeredi 		return 0;
65e9be9d5eSMiklos Szeredi 
66e9be9d5eSMiklos Szeredi 	list_size = vfs_listxattr(old, NULL, 0);
67e9be9d5eSMiklos Szeredi 	if (list_size <= 0) {
68e9be9d5eSMiklos Szeredi 		if (list_size == -EOPNOTSUPP)
69e9be9d5eSMiklos Szeredi 			return 0;
70e9be9d5eSMiklos Szeredi 		return list_size;
71e9be9d5eSMiklos Szeredi 	}
72e9be9d5eSMiklos Szeredi 
73e9be9d5eSMiklos Szeredi 	buf = kzalloc(list_size, GFP_KERNEL);
74e9be9d5eSMiklos Szeredi 	if (!buf)
75e9be9d5eSMiklos Szeredi 		return -ENOMEM;
76e9be9d5eSMiklos Szeredi 
77e9be9d5eSMiklos Szeredi 	list_size = vfs_listxattr(old, buf, list_size);
78e9be9d5eSMiklos Szeredi 	if (list_size <= 0) {
79e9be9d5eSMiklos Szeredi 		error = list_size;
80e4ad29faSVito Caputo 		goto out;
81e9be9d5eSMiklos Szeredi 	}
82e9be9d5eSMiklos Szeredi 
838b326c61SMiklos Szeredi 	for (name = buf; list_size; name += slen) {
848b326c61SMiklos Szeredi 		slen = strnlen(name, list_size) + 1;
858b326c61SMiklos Szeredi 
868b326c61SMiklos Szeredi 		/* underlying fs providing us with an broken xattr list? */
878b326c61SMiklos Szeredi 		if (WARN_ON(slen > list_size)) {
888b326c61SMiklos Szeredi 			error = -EIO;
898b326c61SMiklos Szeredi 			break;
908b326c61SMiklos Szeredi 		}
918b326c61SMiklos Szeredi 		list_size -= slen;
928b326c61SMiklos Szeredi 
930956254aSMiklos Szeredi 		if (ovl_is_private_xattr(name))
940956254aSMiklos Szeredi 			continue;
95e4ad29faSVito Caputo retry:
96e4ad29faSVito Caputo 		size = vfs_getxattr(old, name, value, value_size);
97e4ad29faSVito Caputo 		if (size == -ERANGE)
98e4ad29faSVito Caputo 			size = vfs_getxattr(old, name, NULL, 0);
99e4ad29faSVito Caputo 
10097daf8b9SMiklos Szeredi 		if (size < 0) {
101e9be9d5eSMiklos Szeredi 			error = size;
102e4ad29faSVito Caputo 			break;
103e9be9d5eSMiklos Szeredi 		}
104e9be9d5eSMiklos Szeredi 
105e4ad29faSVito Caputo 		if (size > value_size) {
106e4ad29faSVito Caputo 			void *new;
107e4ad29faSVito Caputo 
108e4ad29faSVito Caputo 			new = krealloc(value, size, GFP_KERNEL);
109e4ad29faSVito Caputo 			if (!new) {
110e4ad29faSVito Caputo 				error = -ENOMEM;
111e4ad29faSVito Caputo 				break;
112e4ad29faSVito Caputo 			}
113e4ad29faSVito Caputo 			value = new;
114e4ad29faSVito Caputo 			value_size = size;
115e4ad29faSVito Caputo 			goto retry;
116e4ad29faSVito Caputo 		}
117e4ad29faSVito Caputo 
118e4ad29faSVito Caputo 		error = vfs_setxattr(new, name, value, size, 0);
119e4ad29faSVito Caputo 		if (error)
120e4ad29faSVito Caputo 			break;
121e4ad29faSVito Caputo 	}
122e9be9d5eSMiklos Szeredi 	kfree(value);
123e9be9d5eSMiklos Szeredi out:
124e9be9d5eSMiklos Szeredi 	kfree(buf);
125e9be9d5eSMiklos Szeredi 	return error;
126e9be9d5eSMiklos Szeredi }
127e9be9d5eSMiklos Szeredi 
128e9be9d5eSMiklos Szeredi static int ovl_copy_up_data(struct path *old, struct path *new, loff_t len)
129e9be9d5eSMiklos Szeredi {
130e9be9d5eSMiklos Szeredi 	struct file *old_file;
131e9be9d5eSMiklos Szeredi 	struct file *new_file;
132e9be9d5eSMiklos Szeredi 	loff_t old_pos = 0;
133e9be9d5eSMiklos Szeredi 	loff_t new_pos = 0;
134e9be9d5eSMiklos Szeredi 	int error = 0;
135e9be9d5eSMiklos Szeredi 
136e9be9d5eSMiklos Szeredi 	if (len == 0)
137e9be9d5eSMiklos Szeredi 		return 0;
138e9be9d5eSMiklos Szeredi 
1390480334fSDavid Howells 	old_file = ovl_path_open(old, O_LARGEFILE | O_RDONLY);
140e9be9d5eSMiklos Szeredi 	if (IS_ERR(old_file))
141e9be9d5eSMiklos Szeredi 		return PTR_ERR(old_file);
142e9be9d5eSMiklos Szeredi 
1430480334fSDavid Howells 	new_file = ovl_path_open(new, O_LARGEFILE | O_WRONLY);
144e9be9d5eSMiklos Szeredi 	if (IS_ERR(new_file)) {
145e9be9d5eSMiklos Szeredi 		error = PTR_ERR(new_file);
146e9be9d5eSMiklos Szeredi 		goto out_fput;
147e9be9d5eSMiklos Szeredi 	}
148e9be9d5eSMiklos Szeredi 
149e9be9d5eSMiklos Szeredi 	/* FIXME: copy up sparse files efficiently */
150e9be9d5eSMiklos Szeredi 	while (len) {
151e9be9d5eSMiklos Szeredi 		size_t this_len = OVL_COPY_UP_CHUNK_SIZE;
152e9be9d5eSMiklos Szeredi 		long bytes;
153e9be9d5eSMiklos Szeredi 
154e9be9d5eSMiklos Szeredi 		if (len < this_len)
155e9be9d5eSMiklos Szeredi 			this_len = len;
156e9be9d5eSMiklos Szeredi 
157e9be9d5eSMiklos Szeredi 		if (signal_pending_state(TASK_KILLABLE, current)) {
158e9be9d5eSMiklos Szeredi 			error = -EINTR;
159e9be9d5eSMiklos Szeredi 			break;
160e9be9d5eSMiklos Szeredi 		}
161e9be9d5eSMiklos Szeredi 
162e9be9d5eSMiklos Szeredi 		bytes = do_splice_direct(old_file, &old_pos,
163e9be9d5eSMiklos Szeredi 					 new_file, &new_pos,
164e9be9d5eSMiklos Szeredi 					 this_len, SPLICE_F_MOVE);
165e9be9d5eSMiklos Szeredi 		if (bytes <= 0) {
166e9be9d5eSMiklos Szeredi 			error = bytes;
167e9be9d5eSMiklos Szeredi 			break;
168e9be9d5eSMiklos Szeredi 		}
169e9be9d5eSMiklos Szeredi 		WARN_ON(old_pos != new_pos);
170e9be9d5eSMiklos Szeredi 
171e9be9d5eSMiklos Szeredi 		len -= bytes;
172e9be9d5eSMiklos Szeredi 	}
173e9be9d5eSMiklos Szeredi 
174e9be9d5eSMiklos Szeredi 	fput(new_file);
175e9be9d5eSMiklos Szeredi out_fput:
176e9be9d5eSMiklos Szeredi 	fput(old_file);
177e9be9d5eSMiklos Szeredi 	return error;
178e9be9d5eSMiklos Szeredi }
179e9be9d5eSMiklos Szeredi 
180e9be9d5eSMiklos Szeredi static char *ovl_read_symlink(struct dentry *realdentry)
181e9be9d5eSMiklos Szeredi {
182e9be9d5eSMiklos Szeredi 	int res;
183e9be9d5eSMiklos Szeredi 	char *buf;
184e9be9d5eSMiklos Szeredi 	struct inode *inode = realdentry->d_inode;
185e9be9d5eSMiklos Szeredi 	mm_segment_t old_fs;
186e9be9d5eSMiklos Szeredi 
187e9be9d5eSMiklos Szeredi 	res = -EINVAL;
188e9be9d5eSMiklos Szeredi 	if (!inode->i_op->readlink)
189e9be9d5eSMiklos Szeredi 		goto err;
190e9be9d5eSMiklos Szeredi 
191e9be9d5eSMiklos Szeredi 	res = -ENOMEM;
192e9be9d5eSMiklos Szeredi 	buf = (char *) __get_free_page(GFP_KERNEL);
193e9be9d5eSMiklos Szeredi 	if (!buf)
194e9be9d5eSMiklos Szeredi 		goto err;
195e9be9d5eSMiklos Szeredi 
196e9be9d5eSMiklos Szeredi 	old_fs = get_fs();
197e9be9d5eSMiklos Szeredi 	set_fs(get_ds());
198e9be9d5eSMiklos Szeredi 	/* The cast to a user pointer is valid due to the set_fs() */
199e9be9d5eSMiklos Szeredi 	res = inode->i_op->readlink(realdentry,
200e9be9d5eSMiklos Szeredi 				    (char __user *)buf, PAGE_SIZE - 1);
201e9be9d5eSMiklos Szeredi 	set_fs(old_fs);
202e9be9d5eSMiklos Szeredi 	if (res < 0) {
203e9be9d5eSMiklos Szeredi 		free_page((unsigned long) buf);
204e9be9d5eSMiklos Szeredi 		goto err;
205e9be9d5eSMiklos Szeredi 	}
206e9be9d5eSMiklos Szeredi 	buf[res] = '\0';
207e9be9d5eSMiklos Szeredi 
208e9be9d5eSMiklos Szeredi 	return buf;
209e9be9d5eSMiklos Szeredi 
210e9be9d5eSMiklos Szeredi err:
211e9be9d5eSMiklos Szeredi 	return ERR_PTR(res);
212e9be9d5eSMiklos Szeredi }
213e9be9d5eSMiklos Szeredi 
214e9be9d5eSMiklos Szeredi static int ovl_set_timestamps(struct dentry *upperdentry, struct kstat *stat)
215e9be9d5eSMiklos Szeredi {
216e9be9d5eSMiklos Szeredi 	struct iattr attr = {
217e9be9d5eSMiklos Szeredi 		.ia_valid =
218e9be9d5eSMiklos Szeredi 		     ATTR_ATIME | ATTR_MTIME | ATTR_ATIME_SET | ATTR_MTIME_SET,
219e9be9d5eSMiklos Szeredi 		.ia_atime = stat->atime,
220e9be9d5eSMiklos Szeredi 		.ia_mtime = stat->mtime,
221e9be9d5eSMiklos Szeredi 	};
222e9be9d5eSMiklos Szeredi 
223e9be9d5eSMiklos Szeredi 	return notify_change(upperdentry, &attr, NULL);
224e9be9d5eSMiklos Szeredi }
225e9be9d5eSMiklos Szeredi 
226e9be9d5eSMiklos Szeredi int ovl_set_attr(struct dentry *upperdentry, struct kstat *stat)
227e9be9d5eSMiklos Szeredi {
228e9be9d5eSMiklos Szeredi 	int err = 0;
229e9be9d5eSMiklos Szeredi 
230e9be9d5eSMiklos Szeredi 	if (!S_ISLNK(stat->mode)) {
231e9be9d5eSMiklos Szeredi 		struct iattr attr = {
232e9be9d5eSMiklos Szeredi 			.ia_valid = ATTR_MODE,
233e9be9d5eSMiklos Szeredi 			.ia_mode = stat->mode,
234e9be9d5eSMiklos Szeredi 		};
235e9be9d5eSMiklos Szeredi 		err = notify_change(upperdentry, &attr, NULL);
236e9be9d5eSMiklos Szeredi 	}
237e9be9d5eSMiklos Szeredi 	if (!err) {
238e9be9d5eSMiklos Szeredi 		struct iattr attr = {
239e9be9d5eSMiklos Szeredi 			.ia_valid = ATTR_UID | ATTR_GID,
240e9be9d5eSMiklos Szeredi 			.ia_uid = stat->uid,
241e9be9d5eSMiklos Szeredi 			.ia_gid = stat->gid,
242e9be9d5eSMiklos Szeredi 		};
243e9be9d5eSMiklos Szeredi 		err = notify_change(upperdentry, &attr, NULL);
244e9be9d5eSMiklos Szeredi 	}
245e9be9d5eSMiklos Szeredi 	if (!err)
246e9be9d5eSMiklos Szeredi 		ovl_set_timestamps(upperdentry, stat);
247e9be9d5eSMiklos Szeredi 
248e9be9d5eSMiklos Szeredi 	return err;
249e9be9d5eSMiklos Szeredi }
250e9be9d5eSMiklos Szeredi 
251e9be9d5eSMiklos Szeredi static int ovl_copy_up_locked(struct dentry *workdir, struct dentry *upperdir,
252e9be9d5eSMiklos Szeredi 			      struct dentry *dentry, struct path *lowerpath,
2530f7ff2daSAl Viro 			      struct kstat *stat, const char *link)
254e9be9d5eSMiklos Szeredi {
255e9be9d5eSMiklos Szeredi 	struct inode *wdir = workdir->d_inode;
256e9be9d5eSMiklos Szeredi 	struct inode *udir = upperdir->d_inode;
257e9be9d5eSMiklos Szeredi 	struct dentry *newdentry = NULL;
258e9be9d5eSMiklos Szeredi 	struct dentry *upper = NULL;
259e9be9d5eSMiklos Szeredi 	umode_t mode = stat->mode;
260e9be9d5eSMiklos Szeredi 	int err;
261e9be9d5eSMiklos Szeredi 
262e9be9d5eSMiklos Szeredi 	newdentry = ovl_lookup_temp(workdir, dentry);
263e9be9d5eSMiklos Szeredi 	err = PTR_ERR(newdentry);
264e9be9d5eSMiklos Szeredi 	if (IS_ERR(newdentry))
265e9be9d5eSMiklos Szeredi 		goto out;
266e9be9d5eSMiklos Szeredi 
267e9be9d5eSMiklos Szeredi 	upper = lookup_one_len(dentry->d_name.name, upperdir,
268e9be9d5eSMiklos Szeredi 			       dentry->d_name.len);
269e9be9d5eSMiklos Szeredi 	err = PTR_ERR(upper);
270e9be9d5eSMiklos Szeredi 	if (IS_ERR(upper))
271e9be9d5eSMiklos Szeredi 		goto out1;
272e9be9d5eSMiklos Szeredi 
273e9be9d5eSMiklos Szeredi 	/* Can't properly set mode on creation because of the umask */
274e9be9d5eSMiklos Szeredi 	stat->mode &= S_IFMT;
275e9be9d5eSMiklos Szeredi 	err = ovl_create_real(wdir, newdentry, stat, link, NULL, true);
276e9be9d5eSMiklos Szeredi 	stat->mode = mode;
277e9be9d5eSMiklos Szeredi 	if (err)
278e9be9d5eSMiklos Szeredi 		goto out2;
279e9be9d5eSMiklos Szeredi 
280e9be9d5eSMiklos Szeredi 	if (S_ISREG(stat->mode)) {
281e9be9d5eSMiklos Szeredi 		struct path upperpath;
282f134f244SSohom Bhattacharjee 
283e9be9d5eSMiklos Szeredi 		ovl_path_upper(dentry, &upperpath);
284e9be9d5eSMiklos Szeredi 		BUG_ON(upperpath.dentry != NULL);
285e9be9d5eSMiklos Szeredi 		upperpath.dentry = newdentry;
286e9be9d5eSMiklos Szeredi 
287e9be9d5eSMiklos Szeredi 		err = ovl_copy_up_data(lowerpath, &upperpath, stat->size);
288e9be9d5eSMiklos Szeredi 		if (err)
289e9be9d5eSMiklos Szeredi 			goto out_cleanup;
290e9be9d5eSMiklos Szeredi 	}
291e9be9d5eSMiklos Szeredi 
292e9be9d5eSMiklos Szeredi 	err = ovl_copy_xattr(lowerpath->dentry, newdentry);
293e9be9d5eSMiklos Szeredi 	if (err)
294e9be9d5eSMiklos Szeredi 		goto out_cleanup;
295e9be9d5eSMiklos Szeredi 
2965955102cSAl Viro 	inode_lock(newdentry->d_inode);
297e9be9d5eSMiklos Szeredi 	err = ovl_set_attr(newdentry, stat);
2985955102cSAl Viro 	inode_unlock(newdentry->d_inode);
299e9be9d5eSMiklos Szeredi 	if (err)
300e9be9d5eSMiklos Szeredi 		goto out_cleanup;
301e9be9d5eSMiklos Szeredi 
302e9be9d5eSMiklos Szeredi 	err = ovl_do_rename(wdir, newdentry, udir, upper, 0);
303e9be9d5eSMiklos Szeredi 	if (err)
304e9be9d5eSMiklos Szeredi 		goto out_cleanup;
305e9be9d5eSMiklos Szeredi 
306e9be9d5eSMiklos Szeredi 	ovl_dentry_update(dentry, newdentry);
30739b681f8SMiklos Szeredi 	ovl_inode_update(d_inode(dentry), d_inode(newdentry));
308e9be9d5eSMiklos Szeredi 	newdentry = NULL;
309e9be9d5eSMiklos Szeredi 
310e9be9d5eSMiklos Szeredi 	/*
311e9be9d5eSMiklos Szeredi 	 * Non-directores become opaque when copied up.
312e9be9d5eSMiklos Szeredi 	 */
313e9be9d5eSMiklos Szeredi 	if (!S_ISDIR(stat->mode))
314e9be9d5eSMiklos Szeredi 		ovl_dentry_set_opaque(dentry, true);
315e9be9d5eSMiklos Szeredi out2:
316e9be9d5eSMiklos Szeredi 	dput(upper);
317e9be9d5eSMiklos Szeredi out1:
318e9be9d5eSMiklos Szeredi 	dput(newdentry);
319e9be9d5eSMiklos Szeredi out:
320e9be9d5eSMiklos Szeredi 	return err;
321e9be9d5eSMiklos Szeredi 
322e9be9d5eSMiklos Szeredi out_cleanup:
323e9be9d5eSMiklos Szeredi 	ovl_cleanup(wdir, newdentry);
324ab79efabSDavid Howells 	goto out2;
325e9be9d5eSMiklos Szeredi }
326e9be9d5eSMiklos Szeredi 
327e9be9d5eSMiklos Szeredi /*
328e9be9d5eSMiklos Szeredi  * Copy up a single dentry
329e9be9d5eSMiklos Szeredi  *
330e9be9d5eSMiklos Szeredi  * Directory renames only allowed on "pure upper" (already created on
331e9be9d5eSMiklos Szeredi  * upper filesystem, never copied up).  Directories which are on lower or
332e9be9d5eSMiklos Szeredi  * are merged may not be renamed.  For these -EXDEV is returned and
333e9be9d5eSMiklos Szeredi  * userspace has to deal with it.  This means, when copying up a
334e9be9d5eSMiklos Szeredi  * directory we can rely on it and ancestors being stable.
335e9be9d5eSMiklos Szeredi  *
336e9be9d5eSMiklos Szeredi  * Non-directory renames start with copy up of source if necessary.  The
337e9be9d5eSMiklos Szeredi  * actual rename will only proceed once the copy up was successful.  Copy
338e9be9d5eSMiklos Szeredi  * up uses upper parent i_mutex for exclusion.  Since rename can change
339e9be9d5eSMiklos Szeredi  * d_parent it is possible that the copy up will lock the old parent.  At
340e9be9d5eSMiklos Szeredi  * that point the file will have already been copied up anyway.
341e9be9d5eSMiklos Szeredi  */
342e9be9d5eSMiklos Szeredi int ovl_copy_up_one(struct dentry *parent, struct dentry *dentry,
3430f7ff2daSAl Viro 		    struct path *lowerpath, struct kstat *stat)
344e9be9d5eSMiklos Szeredi {
345e9be9d5eSMiklos Szeredi 	struct dentry *workdir = ovl_workdir(dentry);
346e9be9d5eSMiklos Szeredi 	int err;
347e9be9d5eSMiklos Szeredi 	struct kstat pstat;
348e9be9d5eSMiklos Szeredi 	struct path parentpath;
349e9be9d5eSMiklos Szeredi 	struct dentry *upperdir;
350e9be9d5eSMiklos Szeredi 	struct dentry *upperdentry;
351e9be9d5eSMiklos Szeredi 	char *link = NULL;
352e9be9d5eSMiklos Szeredi 
353cc6f67bcSMiklos Szeredi 	if (WARN_ON(!workdir))
354cc6f67bcSMiklos Szeredi 		return -EROFS;
355cc6f67bcSMiklos Szeredi 
356fb5bb2c3SDavid Howells 	ovl_do_check_copy_up(lowerpath->dentry);
357fb5bb2c3SDavid Howells 
358e9be9d5eSMiklos Szeredi 	ovl_path_upper(parent, &parentpath);
359e9be9d5eSMiklos Szeredi 	upperdir = parentpath.dentry;
360e9be9d5eSMiklos Szeredi 
361e9be9d5eSMiklos Szeredi 	err = vfs_getattr(&parentpath, &pstat);
362e9be9d5eSMiklos Szeredi 	if (err)
363e9be9d5eSMiklos Szeredi 		return err;
364e9be9d5eSMiklos Szeredi 
365e9be9d5eSMiklos Szeredi 	if (S_ISLNK(stat->mode)) {
366e9be9d5eSMiklos Szeredi 		link = ovl_read_symlink(lowerpath->dentry);
367e9be9d5eSMiklos Szeredi 		if (IS_ERR(link))
368e9be9d5eSMiklos Szeredi 			return PTR_ERR(link);
369e9be9d5eSMiklos Szeredi 	}
370e9be9d5eSMiklos Szeredi 
371e9be9d5eSMiklos Szeredi 	err = -EIO;
372e9be9d5eSMiklos Szeredi 	if (lock_rename(workdir, upperdir) != NULL) {
373e9be9d5eSMiklos Szeredi 		pr_err("overlayfs: failed to lock workdir+upperdir\n");
374e9be9d5eSMiklos Szeredi 		goto out_unlock;
375e9be9d5eSMiklos Szeredi 	}
376e9be9d5eSMiklos Szeredi 	upperdentry = ovl_dentry_upper(dentry);
377e9be9d5eSMiklos Szeredi 	if (upperdentry) {
3780f7ff2daSAl Viro 		/* Raced with another copy-up?  Nothing to do, then... */
379e9be9d5eSMiklos Szeredi 		err = 0;
3800f7ff2daSAl Viro 		goto out_unlock;
381e9be9d5eSMiklos Szeredi 	}
382e9be9d5eSMiklos Szeredi 
383e9be9d5eSMiklos Szeredi 	err = ovl_copy_up_locked(workdir, upperdir, dentry, lowerpath,
3840f7ff2daSAl Viro 				 stat, link);
385e9be9d5eSMiklos Szeredi 	if (!err) {
386e9be9d5eSMiklos Szeredi 		/* Restore timestamps on parent (best effort) */
387e9be9d5eSMiklos Szeredi 		ovl_set_timestamps(upperdir, &pstat);
388e9be9d5eSMiklos Szeredi 	}
389e9be9d5eSMiklos Szeredi out_unlock:
390e9be9d5eSMiklos Szeredi 	unlock_rename(workdir, upperdir);
391e9be9d5eSMiklos Szeredi 
392e9be9d5eSMiklos Szeredi 	if (link)
393e9be9d5eSMiklos Szeredi 		free_page((unsigned long) link);
394e9be9d5eSMiklos Szeredi 
395e9be9d5eSMiklos Szeredi 	return err;
396e9be9d5eSMiklos Szeredi }
397e9be9d5eSMiklos Szeredi 
398e9be9d5eSMiklos Szeredi int ovl_copy_up(struct dentry *dentry)
399e9be9d5eSMiklos Szeredi {
4008eac98b8SVivek Goyal 	int err = 0;
4018eac98b8SVivek Goyal 	const struct cred *old_cred = ovl_override_creds(dentry->d_sb);
402e9be9d5eSMiklos Szeredi 
403e9be9d5eSMiklos Szeredi 	while (!err) {
404e9be9d5eSMiklos Szeredi 		struct dentry *next;
405e9be9d5eSMiklos Szeredi 		struct dentry *parent;
406e9be9d5eSMiklos Szeredi 		struct path lowerpath;
407e9be9d5eSMiklos Szeredi 		struct kstat stat;
408e9be9d5eSMiklos Szeredi 		enum ovl_path_type type = ovl_path_type(dentry);
409e9be9d5eSMiklos Szeredi 
4101afaba1eSMiklos Szeredi 		if (OVL_TYPE_UPPER(type))
411e9be9d5eSMiklos Szeredi 			break;
412e9be9d5eSMiklos Szeredi 
413e9be9d5eSMiklos Szeredi 		next = dget(dentry);
414e9be9d5eSMiklos Szeredi 		/* find the topmost dentry not yet copied up */
415e9be9d5eSMiklos Szeredi 		for (;;) {
416e9be9d5eSMiklos Szeredi 			parent = dget_parent(next);
417e9be9d5eSMiklos Szeredi 
418e9be9d5eSMiklos Szeredi 			type = ovl_path_type(parent);
4191afaba1eSMiklos Szeredi 			if (OVL_TYPE_UPPER(type))
420e9be9d5eSMiklos Szeredi 				break;
421e9be9d5eSMiklos Szeredi 
422e9be9d5eSMiklos Szeredi 			dput(next);
423e9be9d5eSMiklos Szeredi 			next = parent;
424e9be9d5eSMiklos Szeredi 		}
425e9be9d5eSMiklos Szeredi 
426e9be9d5eSMiklos Szeredi 		ovl_path_lower(next, &lowerpath);
427e9be9d5eSMiklos Szeredi 		err = vfs_getattr(&lowerpath, &stat);
428e9be9d5eSMiklos Szeredi 		if (!err)
4290f7ff2daSAl Viro 			err = ovl_copy_up_one(parent, next, &lowerpath, &stat);
430e9be9d5eSMiklos Szeredi 
431e9be9d5eSMiklos Szeredi 		dput(parent);
432e9be9d5eSMiklos Szeredi 		dput(next);
433e9be9d5eSMiklos Szeredi 	}
4348eac98b8SVivek Goyal 	revert_creds(old_cred);
435e9be9d5eSMiklos Szeredi 
436e9be9d5eSMiklos Szeredi 	return err;
437e9be9d5eSMiklos Szeredi }
438