xref: /openbmc/linux/fs/overlayfs/super.c (revision c1b2cc1a)
1e9be9d5eSMiklos Szeredi /*
2e9be9d5eSMiklos Szeredi  *
3e9be9d5eSMiklos Szeredi  * Copyright (C) 2011 Novell Inc.
4e9be9d5eSMiklos Szeredi  *
5e9be9d5eSMiklos Szeredi  * This program is free software; you can redistribute it and/or modify it
6e9be9d5eSMiklos Szeredi  * under the terms of the GNU General Public License version 2 as published by
7e9be9d5eSMiklos Szeredi  * the Free Software Foundation.
8e9be9d5eSMiklos Szeredi  */
9e9be9d5eSMiklos Szeredi 
10e9be9d5eSMiklos Szeredi #include <linux/fs.h>
11e9be9d5eSMiklos Szeredi #include <linux/namei.h>
12cf9a6784SMiklos Szeredi #include <linux/pagemap.h>
13e9be9d5eSMiklos Szeredi #include <linux/xattr.h>
14e9be9d5eSMiklos Szeredi #include <linux/security.h>
15e9be9d5eSMiklos Szeredi #include <linux/mount.h>
16e9be9d5eSMiklos Szeredi #include <linux/slab.h>
17e9be9d5eSMiklos Szeredi #include <linux/parser.h>
18e9be9d5eSMiklos Szeredi #include <linux/module.h>
19e458bcd1SAndrew Morton #include <linux/pagemap.h>
20e9be9d5eSMiklos Szeredi #include <linux/sched.h>
21cc259639SAndy Whitcroft #include <linux/statfs.h>
22f45827e8SErez Zadok #include <linux/seq_file.h>
23e9be9d5eSMiklos Szeredi #include "overlayfs.h"
24e9be9d5eSMiklos Szeredi 
25e9be9d5eSMiklos Szeredi MODULE_AUTHOR("Miklos Szeredi <miklos@szeredi.hu>");
26e9be9d5eSMiklos Szeredi MODULE_DESCRIPTION("Overlay filesystem");
27e9be9d5eSMiklos Szeredi MODULE_LICENSE("GPL");
28e9be9d5eSMiklos Szeredi 
29f45827e8SErez Zadok struct ovl_config {
30f45827e8SErez Zadok 	char *lowerdir;
31f45827e8SErez Zadok 	char *upperdir;
32f45827e8SErez Zadok 	char *workdir;
338d3095f4SMiklos Szeredi 	bool default_permissions;
34f45827e8SErez Zadok };
35f45827e8SErez Zadok 
36e9be9d5eSMiklos Szeredi /* private information held for overlayfs's superblock */
37e9be9d5eSMiklos Szeredi struct ovl_fs {
38e9be9d5eSMiklos Szeredi 	struct vfsmount *upper_mnt;
39dd662667SMiklos Szeredi 	unsigned numlower;
40dd662667SMiklos Szeredi 	struct vfsmount **lower_mnt;
41e9be9d5eSMiklos Szeredi 	struct dentry *workdir;
42cc259639SAndy Whitcroft 	long lower_namelen;
43f45827e8SErez Zadok 	/* pathnames of lower and upper dirs, for show_options */
44f45827e8SErez Zadok 	struct ovl_config config;
453fe6e52fSAntonio Murdaca 	/* creds of process who forced instantiation of super block */
463fe6e52fSAntonio Murdaca 	const struct cred *creator_cred;
47e9be9d5eSMiklos Szeredi };
48e9be9d5eSMiklos Szeredi 
49e9be9d5eSMiklos Szeredi struct ovl_dir_cache;
50e9be9d5eSMiklos Szeredi 
51e9be9d5eSMiklos Szeredi /* private information held for every overlayfs dentry */
52e9be9d5eSMiklos Szeredi struct ovl_entry {
53e9be9d5eSMiklos Szeredi 	struct dentry *__upperdentry;
54e9be9d5eSMiklos Szeredi 	struct ovl_dir_cache *cache;
55e9be9d5eSMiklos Szeredi 	union {
56e9be9d5eSMiklos Szeredi 		struct {
57e9be9d5eSMiklos Szeredi 			u64 version;
58e9be9d5eSMiklos Szeredi 			bool opaque;
59e9be9d5eSMiklos Szeredi 		};
60e9be9d5eSMiklos Szeredi 		struct rcu_head rcu;
61e9be9d5eSMiklos Szeredi 	};
62dd662667SMiklos Szeredi 	unsigned numlower;
63dd662667SMiklos Szeredi 	struct path lowerstack[];
64e9be9d5eSMiklos Szeredi };
65e9be9d5eSMiklos Szeredi 
66a78d9f0dSMiklos Szeredi #define OVL_MAX_STACK 500
67a78d9f0dSMiklos Szeredi 
68dd662667SMiklos Szeredi static struct dentry *__ovl_dentry_lower(struct ovl_entry *oe)
69dd662667SMiklos Szeredi {
70dd662667SMiklos Szeredi 	return oe->numlower ? oe->lowerstack[0].dentry : NULL;
71dd662667SMiklos Szeredi }
72e9be9d5eSMiklos Szeredi 
73e9be9d5eSMiklos Szeredi enum ovl_path_type ovl_path_type(struct dentry *dentry)
74e9be9d5eSMiklos Szeredi {
75e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
761afaba1eSMiklos Szeredi 	enum ovl_path_type type = 0;
77e9be9d5eSMiklos Szeredi 
78e9be9d5eSMiklos Szeredi 	if (oe->__upperdentry) {
791afaba1eSMiklos Szeredi 		type = __OVL_PATH_UPPER;
801afaba1eSMiklos Szeredi 
8145d11738SKonstantin Khlebnikov 		/*
8245d11738SKonstantin Khlebnikov 		 * Non-dir dentry can hold lower dentry from previous
8345d11738SKonstantin Khlebnikov 		 * location. Its purity depends only on opaque flag.
8445d11738SKonstantin Khlebnikov 		 */
8545d11738SKonstantin Khlebnikov 		if (oe->numlower && S_ISDIR(dentry->d_inode->i_mode))
861afaba1eSMiklos Szeredi 			type |= __OVL_PATH_MERGE;
8745d11738SKonstantin Khlebnikov 		else if (!oe->opaque)
881afaba1eSMiklos Szeredi 			type |= __OVL_PATH_PURE;
899d7459d8SMiklos Szeredi 	} else {
909d7459d8SMiklos Szeredi 		if (oe->numlower > 1)
919d7459d8SMiklos Szeredi 			type |= __OVL_PATH_MERGE;
92e9be9d5eSMiklos Szeredi 	}
931afaba1eSMiklos Szeredi 	return type;
94e9be9d5eSMiklos Szeredi }
95e9be9d5eSMiklos Szeredi 
96e9be9d5eSMiklos Szeredi static struct dentry *ovl_upperdentry_dereference(struct ovl_entry *oe)
97e9be9d5eSMiklos Szeredi {
9871d50928SMiklos Szeredi 	return lockless_dereference(oe->__upperdentry);
99e9be9d5eSMiklos Szeredi }
100e9be9d5eSMiklos Szeredi 
101e9be9d5eSMiklos Szeredi void ovl_path_upper(struct dentry *dentry, struct path *path)
102e9be9d5eSMiklos Szeredi {
103e9be9d5eSMiklos Szeredi 	struct ovl_fs *ofs = dentry->d_sb->s_fs_info;
104e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
105e9be9d5eSMiklos Szeredi 
106e9be9d5eSMiklos Szeredi 	path->mnt = ofs->upper_mnt;
107e9be9d5eSMiklos Szeredi 	path->dentry = ovl_upperdentry_dereference(oe);
108e9be9d5eSMiklos Szeredi }
109e9be9d5eSMiklos Szeredi 
110e9be9d5eSMiklos Szeredi enum ovl_path_type ovl_path_real(struct dentry *dentry, struct path *path)
111e9be9d5eSMiklos Szeredi {
112e9be9d5eSMiklos Szeredi 	enum ovl_path_type type = ovl_path_type(dentry);
113e9be9d5eSMiklos Szeredi 
1141afaba1eSMiklos Szeredi 	if (!OVL_TYPE_UPPER(type))
115e9be9d5eSMiklos Szeredi 		ovl_path_lower(dentry, path);
116e9be9d5eSMiklos Szeredi 	else
117e9be9d5eSMiklos Szeredi 		ovl_path_upper(dentry, path);
118e9be9d5eSMiklos Szeredi 
119e9be9d5eSMiklos Szeredi 	return type;
120e9be9d5eSMiklos Szeredi }
121e9be9d5eSMiklos Szeredi 
122e9be9d5eSMiklos Szeredi struct dentry *ovl_dentry_upper(struct dentry *dentry)
123e9be9d5eSMiklos Szeredi {
124e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
125e9be9d5eSMiklos Szeredi 
126e9be9d5eSMiklos Szeredi 	return ovl_upperdentry_dereference(oe);
127e9be9d5eSMiklos Szeredi }
128e9be9d5eSMiklos Szeredi 
129e9be9d5eSMiklos Szeredi struct dentry *ovl_dentry_lower(struct dentry *dentry)
130e9be9d5eSMiklos Szeredi {
131e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
132e9be9d5eSMiklos Szeredi 
133dd662667SMiklos Szeredi 	return __ovl_dentry_lower(oe);
134e9be9d5eSMiklos Szeredi }
135e9be9d5eSMiklos Szeredi 
136e9be9d5eSMiklos Szeredi struct dentry *ovl_dentry_real(struct dentry *dentry)
137e9be9d5eSMiklos Szeredi {
138e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
139e9be9d5eSMiklos Szeredi 	struct dentry *realdentry;
140e9be9d5eSMiklos Szeredi 
141e9be9d5eSMiklos Szeredi 	realdentry = ovl_upperdentry_dereference(oe);
142e9be9d5eSMiklos Szeredi 	if (!realdentry)
143dd662667SMiklos Szeredi 		realdentry = __ovl_dentry_lower(oe);
144e9be9d5eSMiklos Szeredi 
145e9be9d5eSMiklos Szeredi 	return realdentry;
146e9be9d5eSMiklos Szeredi }
147e9be9d5eSMiklos Szeredi 
148e9be9d5eSMiklos Szeredi struct dentry *ovl_entry_real(struct ovl_entry *oe, bool *is_upper)
149e9be9d5eSMiklos Szeredi {
150e9be9d5eSMiklos Szeredi 	struct dentry *realdentry;
151e9be9d5eSMiklos Szeredi 
152e9be9d5eSMiklos Szeredi 	realdentry = ovl_upperdentry_dereference(oe);
153e9be9d5eSMiklos Szeredi 	if (realdentry) {
154e9be9d5eSMiklos Szeredi 		*is_upper = true;
155e9be9d5eSMiklos Szeredi 	} else {
156dd662667SMiklos Szeredi 		realdentry = __ovl_dentry_lower(oe);
157e9be9d5eSMiklos Szeredi 		*is_upper = false;
158e9be9d5eSMiklos Szeredi 	}
159e9be9d5eSMiklos Szeredi 	return realdentry;
160e9be9d5eSMiklos Szeredi }
161e9be9d5eSMiklos Szeredi 
1628d3095f4SMiklos Szeredi struct vfsmount *ovl_entry_mnt_real(struct ovl_entry *oe, struct inode *inode,
1638d3095f4SMiklos Szeredi 				    bool is_upper)
1648d3095f4SMiklos Szeredi {
1658d3095f4SMiklos Szeredi 	if (is_upper) {
1668d3095f4SMiklos Szeredi 		struct ovl_fs *ofs = inode->i_sb->s_fs_info;
1678d3095f4SMiklos Szeredi 
1688d3095f4SMiklos Szeredi 		return ofs->upper_mnt;
1698d3095f4SMiklos Szeredi 	} else {
1708d3095f4SMiklos Szeredi 		return oe->numlower ? oe->lowerstack[0].mnt : NULL;
1718d3095f4SMiklos Szeredi 	}
1728d3095f4SMiklos Szeredi }
1738d3095f4SMiklos Szeredi 
174e9be9d5eSMiklos Szeredi struct ovl_dir_cache *ovl_dir_cache(struct dentry *dentry)
175e9be9d5eSMiklos Szeredi {
176e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
177e9be9d5eSMiklos Szeredi 
178e9be9d5eSMiklos Szeredi 	return oe->cache;
179e9be9d5eSMiklos Szeredi }
180e9be9d5eSMiklos Szeredi 
1818d3095f4SMiklos Szeredi bool ovl_is_default_permissions(struct inode *inode)
1828d3095f4SMiklos Szeredi {
1838d3095f4SMiklos Szeredi 	struct ovl_fs *ofs = inode->i_sb->s_fs_info;
1848d3095f4SMiklos Szeredi 
1858d3095f4SMiklos Szeredi 	return ofs->config.default_permissions;
1868d3095f4SMiklos Szeredi }
1878d3095f4SMiklos Szeredi 
188e9be9d5eSMiklos Szeredi void ovl_set_dir_cache(struct dentry *dentry, struct ovl_dir_cache *cache)
189e9be9d5eSMiklos Szeredi {
190e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
191e9be9d5eSMiklos Szeredi 
192e9be9d5eSMiklos Szeredi 	oe->cache = cache;
193e9be9d5eSMiklos Szeredi }
194e9be9d5eSMiklos Szeredi 
195e9be9d5eSMiklos Szeredi void ovl_path_lower(struct dentry *dentry, struct path *path)
196e9be9d5eSMiklos Szeredi {
197e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
198e9be9d5eSMiklos Szeredi 
199dd662667SMiklos Szeredi 	*path = oe->numlower ? oe->lowerstack[0] : (struct path) { NULL, NULL };
200e9be9d5eSMiklos Szeredi }
201e9be9d5eSMiklos Szeredi 
202e9be9d5eSMiklos Szeredi int ovl_want_write(struct dentry *dentry)
203e9be9d5eSMiklos Szeredi {
204e9be9d5eSMiklos Szeredi 	struct ovl_fs *ofs = dentry->d_sb->s_fs_info;
205e9be9d5eSMiklos Szeredi 	return mnt_want_write(ofs->upper_mnt);
206e9be9d5eSMiklos Szeredi }
207e9be9d5eSMiklos Szeredi 
208e9be9d5eSMiklos Szeredi void ovl_drop_write(struct dentry *dentry)
209e9be9d5eSMiklos Szeredi {
210e9be9d5eSMiklos Szeredi 	struct ovl_fs *ofs = dentry->d_sb->s_fs_info;
211e9be9d5eSMiklos Szeredi 	mnt_drop_write(ofs->upper_mnt);
212e9be9d5eSMiklos Szeredi }
213e9be9d5eSMiklos Szeredi 
214e9be9d5eSMiklos Szeredi struct dentry *ovl_workdir(struct dentry *dentry)
215e9be9d5eSMiklos Szeredi {
216e9be9d5eSMiklos Szeredi 	struct ovl_fs *ofs = dentry->d_sb->s_fs_info;
217e9be9d5eSMiklos Szeredi 	return ofs->workdir;
218e9be9d5eSMiklos Szeredi }
219e9be9d5eSMiklos Szeredi 
220e9be9d5eSMiklos Szeredi bool ovl_dentry_is_opaque(struct dentry *dentry)
221e9be9d5eSMiklos Szeredi {
222e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
223e9be9d5eSMiklos Szeredi 	return oe->opaque;
224e9be9d5eSMiklos Szeredi }
225e9be9d5eSMiklos Szeredi 
226e9be9d5eSMiklos Szeredi void ovl_dentry_set_opaque(struct dentry *dentry, bool opaque)
227e9be9d5eSMiklos Szeredi {
228e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
229e9be9d5eSMiklos Szeredi 	oe->opaque = opaque;
230e9be9d5eSMiklos Szeredi }
231e9be9d5eSMiklos Szeredi 
232e9be9d5eSMiklos Szeredi void ovl_dentry_update(struct dentry *dentry, struct dentry *upperdentry)
233e9be9d5eSMiklos Szeredi {
234e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
235e9be9d5eSMiklos Szeredi 
2365955102cSAl Viro 	WARN_ON(!inode_is_locked(upperdentry->d_parent->d_inode));
237e9be9d5eSMiklos Szeredi 	WARN_ON(oe->__upperdentry);
238e9be9d5eSMiklos Szeredi 	BUG_ON(!upperdentry->d_inode);
239e9be9d5eSMiklos Szeredi 	/*
240e9be9d5eSMiklos Szeredi 	 * Make sure upperdentry is consistent before making it visible to
241e9be9d5eSMiklos Szeredi 	 * ovl_upperdentry_dereference().
242e9be9d5eSMiklos Szeredi 	 */
243e9be9d5eSMiklos Szeredi 	smp_wmb();
244e9be9d5eSMiklos Szeredi 	oe->__upperdentry = upperdentry;
245e9be9d5eSMiklos Szeredi }
246e9be9d5eSMiklos Szeredi 
247e9be9d5eSMiklos Szeredi void ovl_dentry_version_inc(struct dentry *dentry)
248e9be9d5eSMiklos Szeredi {
249e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
250e9be9d5eSMiklos Szeredi 
2515955102cSAl Viro 	WARN_ON(!inode_is_locked(dentry->d_inode));
252e9be9d5eSMiklos Szeredi 	oe->version++;
253e9be9d5eSMiklos Szeredi }
254e9be9d5eSMiklos Szeredi 
255e9be9d5eSMiklos Szeredi u64 ovl_dentry_version_get(struct dentry *dentry)
256e9be9d5eSMiklos Szeredi {
257e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
258e9be9d5eSMiklos Szeredi 
2595955102cSAl Viro 	WARN_ON(!inode_is_locked(dentry->d_inode));
260e9be9d5eSMiklos Szeredi 	return oe->version;
261e9be9d5eSMiklos Szeredi }
262e9be9d5eSMiklos Szeredi 
263e9be9d5eSMiklos Szeredi bool ovl_is_whiteout(struct dentry *dentry)
264e9be9d5eSMiklos Szeredi {
265e9be9d5eSMiklos Szeredi 	struct inode *inode = dentry->d_inode;
266e9be9d5eSMiklos Szeredi 
267e9be9d5eSMiklos Szeredi 	return inode && IS_WHITEOUT(inode);
268e9be9d5eSMiklos Szeredi }
269e9be9d5eSMiklos Szeredi 
2703fe6e52fSAntonio Murdaca const struct cred *ovl_override_creds(struct super_block *sb)
2713fe6e52fSAntonio Murdaca {
2723fe6e52fSAntonio Murdaca 	struct ovl_fs *ofs = sb->s_fs_info;
2733fe6e52fSAntonio Murdaca 
2743fe6e52fSAntonio Murdaca 	return override_creds(ofs->creator_cred);
2753fe6e52fSAntonio Murdaca }
2763fe6e52fSAntonio Murdaca 
277e9be9d5eSMiklos Szeredi static bool ovl_is_opaquedir(struct dentry *dentry)
278e9be9d5eSMiklos Szeredi {
279e9be9d5eSMiklos Szeredi 	int res;
280e9be9d5eSMiklos Szeredi 	char val;
281e9be9d5eSMiklos Szeredi 	struct inode *inode = dentry->d_inode;
282e9be9d5eSMiklos Szeredi 
283e9be9d5eSMiklos Szeredi 	if (!S_ISDIR(inode->i_mode) || !inode->i_op->getxattr)
284e9be9d5eSMiklos Szeredi 		return false;
285e9be9d5eSMiklos Szeredi 
286ce23e640SAl Viro 	res = inode->i_op->getxattr(dentry, inode, OVL_XATTR_OPAQUE, &val, 1);
287e9be9d5eSMiklos Szeredi 	if (res == 1 && val == 'y')
288e9be9d5eSMiklos Szeredi 		return true;
289e9be9d5eSMiklos Szeredi 
290e9be9d5eSMiklos Szeredi 	return false;
291e9be9d5eSMiklos Szeredi }
292e9be9d5eSMiklos Szeredi 
293e9be9d5eSMiklos Szeredi static void ovl_dentry_release(struct dentry *dentry)
294e9be9d5eSMiklos Szeredi {
295e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
296e9be9d5eSMiklos Szeredi 
297e9be9d5eSMiklos Szeredi 	if (oe) {
298dd662667SMiklos Szeredi 		unsigned int i;
299dd662667SMiklos Szeredi 
300e9be9d5eSMiklos Szeredi 		dput(oe->__upperdentry);
301dd662667SMiklos Szeredi 		for (i = 0; i < oe->numlower; i++)
302dd662667SMiklos Szeredi 			dput(oe->lowerstack[i].dentry);
303e9be9d5eSMiklos Szeredi 		kfree_rcu(oe, rcu);
304e9be9d5eSMiklos Szeredi 	}
305e9be9d5eSMiklos Szeredi }
306e9be9d5eSMiklos Szeredi 
3072d902671SMiklos Szeredi static struct dentry *ovl_d_real(struct dentry *dentry,
3082d902671SMiklos Szeredi 				 const struct inode *inode,
3092d902671SMiklos Szeredi 				 unsigned int open_flags)
310d101a125SMiklos Szeredi {
311d101a125SMiklos Szeredi 	struct dentry *real;
312d101a125SMiklos Szeredi 
313d101a125SMiklos Szeredi 	if (d_is_dir(dentry)) {
314d101a125SMiklos Szeredi 		if (!inode || inode == d_inode(dentry))
315d101a125SMiklos Szeredi 			return dentry;
316d101a125SMiklos Szeredi 		goto bug;
317d101a125SMiklos Szeredi 	}
318d101a125SMiklos Szeredi 
3192d902671SMiklos Szeredi 	if (d_is_negative(dentry))
3202d902671SMiklos Szeredi 		return dentry;
3212d902671SMiklos Szeredi 
3222d902671SMiklos Szeredi 	if (open_flags) {
3232d902671SMiklos Szeredi 		int err = ovl_open_maybe_copy_up(dentry, open_flags);
3242d902671SMiklos Szeredi 
3252d902671SMiklos Szeredi 		if (err)
3262d902671SMiklos Szeredi 			return ERR_PTR(err);
3272d902671SMiklos Szeredi 	}
3282d902671SMiklos Szeredi 
329d101a125SMiklos Szeredi 	real = ovl_dentry_upper(dentry);
330d101a125SMiklos Szeredi 	if (real && (!inode || inode == d_inode(real)))
331d101a125SMiklos Szeredi 		return real;
332d101a125SMiklos Szeredi 
333d101a125SMiklos Szeredi 	real = ovl_dentry_lower(dentry);
334d101a125SMiklos Szeredi 	if (!real)
335d101a125SMiklos Szeredi 		goto bug;
336d101a125SMiklos Szeredi 
337d101a125SMiklos Szeredi 	if (!inode || inode == d_inode(real))
338d101a125SMiklos Szeredi 		return real;
339d101a125SMiklos Szeredi 
340d101a125SMiklos Szeredi 	/* Handle recursion */
3412d902671SMiklos Szeredi 	return d_real(real, inode, open_flags);
342d101a125SMiklos Szeredi bug:
343d101a125SMiklos Szeredi 	WARN(1, "ovl_d_real(%pd4, %s:%lu\n): real dentry not found\n", dentry,
344d101a125SMiklos Szeredi 	     inode ? inode->i_sb->s_id : "NULL", inode ? inode->i_ino : 0);
345d101a125SMiklos Szeredi 	return dentry;
346d101a125SMiklos Szeredi }
347d101a125SMiklos Szeredi 
3487c03b5d4SMiklos Szeredi static int ovl_dentry_revalidate(struct dentry *dentry, unsigned int flags)
3497c03b5d4SMiklos Szeredi {
3507c03b5d4SMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
3517c03b5d4SMiklos Szeredi 	unsigned int i;
3527c03b5d4SMiklos Szeredi 	int ret = 1;
3537c03b5d4SMiklos Szeredi 
3547c03b5d4SMiklos Szeredi 	for (i = 0; i < oe->numlower; i++) {
3557c03b5d4SMiklos Szeredi 		struct dentry *d = oe->lowerstack[i].dentry;
3567c03b5d4SMiklos Szeredi 
3577c03b5d4SMiklos Szeredi 		if (d->d_flags & DCACHE_OP_REVALIDATE) {
3587c03b5d4SMiklos Szeredi 			ret = d->d_op->d_revalidate(d, flags);
3597c03b5d4SMiklos Szeredi 			if (ret < 0)
3607c03b5d4SMiklos Szeredi 				return ret;
3617c03b5d4SMiklos Szeredi 			if (!ret) {
3627c03b5d4SMiklos Szeredi 				if (!(flags & LOOKUP_RCU))
3637c03b5d4SMiklos Szeredi 					d_invalidate(d);
3647c03b5d4SMiklos Szeredi 				return -ESTALE;
3657c03b5d4SMiklos Szeredi 			}
3667c03b5d4SMiklos Szeredi 		}
3677c03b5d4SMiklos Szeredi 	}
3687c03b5d4SMiklos Szeredi 	return 1;
3697c03b5d4SMiklos Szeredi }
3707c03b5d4SMiklos Szeredi 
3717c03b5d4SMiklos Szeredi static int ovl_dentry_weak_revalidate(struct dentry *dentry, unsigned int flags)
3727c03b5d4SMiklos Szeredi {
3737c03b5d4SMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
3747c03b5d4SMiklos Szeredi 	unsigned int i;
3757c03b5d4SMiklos Szeredi 	int ret = 1;
3767c03b5d4SMiklos Szeredi 
3777c03b5d4SMiklos Szeredi 	for (i = 0; i < oe->numlower; i++) {
3787c03b5d4SMiklos Szeredi 		struct dentry *d = oe->lowerstack[i].dentry;
3797c03b5d4SMiklos Szeredi 
3807c03b5d4SMiklos Szeredi 		if (d->d_flags & DCACHE_OP_WEAK_REVALIDATE) {
3817c03b5d4SMiklos Szeredi 			ret = d->d_op->d_weak_revalidate(d, flags);
3827c03b5d4SMiklos Szeredi 			if (ret <= 0)
3837c03b5d4SMiklos Szeredi 				break;
3847c03b5d4SMiklos Szeredi 		}
3857c03b5d4SMiklos Szeredi 	}
3867c03b5d4SMiklos Szeredi 	return ret;
3877c03b5d4SMiklos Szeredi }
3887c03b5d4SMiklos Szeredi 
389e9be9d5eSMiklos Szeredi static const struct dentry_operations ovl_dentry_operations = {
390e9be9d5eSMiklos Szeredi 	.d_release = ovl_dentry_release,
391d101a125SMiklos Szeredi 	.d_real = ovl_d_real,
392e9be9d5eSMiklos Szeredi };
393e9be9d5eSMiklos Szeredi 
3947c03b5d4SMiklos Szeredi static const struct dentry_operations ovl_reval_dentry_operations = {
3957c03b5d4SMiklos Szeredi 	.d_release = ovl_dentry_release,
396d101a125SMiklos Szeredi 	.d_real = ovl_d_real,
3977c03b5d4SMiklos Szeredi 	.d_revalidate = ovl_dentry_revalidate,
3987c03b5d4SMiklos Szeredi 	.d_weak_revalidate = ovl_dentry_weak_revalidate,
3997c03b5d4SMiklos Szeredi };
4007c03b5d4SMiklos Szeredi 
401dd662667SMiklos Szeredi static struct ovl_entry *ovl_alloc_entry(unsigned int numlower)
402e9be9d5eSMiklos Szeredi {
403dd662667SMiklos Szeredi 	size_t size = offsetof(struct ovl_entry, lowerstack[numlower]);
404dd662667SMiklos Szeredi 	struct ovl_entry *oe = kzalloc(size, GFP_KERNEL);
405dd662667SMiklos Szeredi 
406dd662667SMiklos Szeredi 	if (oe)
407dd662667SMiklos Szeredi 		oe->numlower = numlower;
408dd662667SMiklos Szeredi 
409dd662667SMiklos Szeredi 	return oe;
410e9be9d5eSMiklos Szeredi }
411e9be9d5eSMiklos Szeredi 
4127c03b5d4SMiklos Szeredi static bool ovl_dentry_remote(struct dentry *dentry)
4137c03b5d4SMiklos Szeredi {
4147c03b5d4SMiklos Szeredi 	return dentry->d_flags &
4157c03b5d4SMiklos Szeredi 		(DCACHE_OP_REVALIDATE | DCACHE_OP_WEAK_REVALIDATE);
4167c03b5d4SMiklos Szeredi }
4177c03b5d4SMiklos Szeredi 
4187c03b5d4SMiklos Szeredi static bool ovl_dentry_weird(struct dentry *dentry)
4197c03b5d4SMiklos Szeredi {
4207c03b5d4SMiklos Szeredi 	return dentry->d_flags & (DCACHE_NEED_AUTOMOUNT |
4217c03b5d4SMiklos Szeredi 				  DCACHE_MANAGE_TRANSIT |
4227c03b5d4SMiklos Szeredi 				  DCACHE_OP_HASH |
4237c03b5d4SMiklos Szeredi 				  DCACHE_OP_COMPARE);
4247c03b5d4SMiklos Szeredi }
4257c03b5d4SMiklos Szeredi 
426c1b2cc1aSMiklos Szeredi static inline struct dentry *ovl_lookup_real(struct super_block *ovl_sb,
427c1b2cc1aSMiklos Szeredi 					     struct dentry *dir,
428e9be9d5eSMiklos Szeredi 					     struct qstr *name)
429e9be9d5eSMiklos Szeredi {
430c1b2cc1aSMiklos Szeredi 	const struct cred *old_cred;
431e9be9d5eSMiklos Szeredi 	struct dentry *dentry;
432e9be9d5eSMiklos Szeredi 
433c1b2cc1aSMiklos Szeredi 	old_cred = ovl_override_creds(ovl_sb);
434c1b2cc1aSMiklos Szeredi 	dentry = lookup_one_len_unlocked(name->name, dir, name->len);
435c1b2cc1aSMiklos Szeredi 	revert_creds(old_cred);
436e9be9d5eSMiklos Szeredi 
437e9be9d5eSMiklos Szeredi 	if (IS_ERR(dentry)) {
438e9be9d5eSMiklos Szeredi 		if (PTR_ERR(dentry) == -ENOENT)
439e9be9d5eSMiklos Szeredi 			dentry = NULL;
440e9be9d5eSMiklos Szeredi 	} else if (!dentry->d_inode) {
441e9be9d5eSMiklos Szeredi 		dput(dentry);
442e9be9d5eSMiklos Szeredi 		dentry = NULL;
4437c03b5d4SMiklos Szeredi 	} else if (ovl_dentry_weird(dentry)) {
444a6f15d9aSMiklos Szeredi 		dput(dentry);
4457c03b5d4SMiklos Szeredi 		/* Don't support traversing automounts and other weirdness */
446a6f15d9aSMiklos Szeredi 		dentry = ERR_PTR(-EREMOTE);
447e9be9d5eSMiklos Szeredi 	}
448e9be9d5eSMiklos Szeredi 	return dentry;
449e9be9d5eSMiklos Szeredi }
450e9be9d5eSMiklos Szeredi 
4515ef88da5SMiklos Szeredi /*
4525ef88da5SMiklos Szeredi  * Returns next layer in stack starting from top.
4535ef88da5SMiklos Szeredi  * Returns -1 if this is the last layer.
4545ef88da5SMiklos Szeredi  */
4555ef88da5SMiklos Szeredi int ovl_path_next(int idx, struct dentry *dentry, struct path *path)
4565ef88da5SMiklos Szeredi {
4575ef88da5SMiklos Szeredi 	struct ovl_entry *oe = dentry->d_fsdata;
4585ef88da5SMiklos Szeredi 
4595ef88da5SMiklos Szeredi 	BUG_ON(idx < 0);
4605ef88da5SMiklos Szeredi 	if (idx == 0) {
4615ef88da5SMiklos Szeredi 		ovl_path_upper(dentry, path);
4625ef88da5SMiklos Szeredi 		if (path->dentry)
4635ef88da5SMiklos Szeredi 			return oe->numlower ? 1 : -1;
4645ef88da5SMiklos Szeredi 		idx++;
4655ef88da5SMiklos Szeredi 	}
4665ef88da5SMiklos Szeredi 	BUG_ON(idx > oe->numlower);
4675ef88da5SMiklos Szeredi 	*path = oe->lowerstack[idx - 1];
4685ef88da5SMiklos Szeredi 
4695ef88da5SMiklos Szeredi 	return (idx < oe->numlower) ? idx + 1 : -1;
4705ef88da5SMiklos Szeredi }
4715ef88da5SMiklos Szeredi 
472e9be9d5eSMiklos Szeredi struct dentry *ovl_lookup(struct inode *dir, struct dentry *dentry,
473e9be9d5eSMiklos Szeredi 			  unsigned int flags)
474e9be9d5eSMiklos Szeredi {
475e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe;
4763d3c6b89SMiklos Szeredi 	struct ovl_entry *poe = dentry->d_parent->d_fsdata;
4773d3c6b89SMiklos Szeredi 	struct path *stack = NULL;
4783d3c6b89SMiklos Szeredi 	struct dentry *upperdir, *upperdentry = NULL;
4793d3c6b89SMiklos Szeredi 	unsigned int ctr = 0;
480e9be9d5eSMiklos Szeredi 	struct inode *inode = NULL;
4813d3c6b89SMiklos Szeredi 	bool upperopaque = false;
4823d3c6b89SMiklos Szeredi 	struct dentry *this, *prev = NULL;
4833d3c6b89SMiklos Szeredi 	unsigned int i;
484e9be9d5eSMiklos Szeredi 	int err;
485e9be9d5eSMiklos Szeredi 
4863d3c6b89SMiklos Szeredi 	upperdir = ovl_upperdentry_dereference(poe);
4873d3c6b89SMiklos Szeredi 	if (upperdir) {
488c1b2cc1aSMiklos Szeredi 		this = ovl_lookup_real(dentry->d_sb, upperdir, &dentry->d_name);
4893d3c6b89SMiklos Szeredi 		err = PTR_ERR(this);
4903d3c6b89SMiklos Szeredi 		if (IS_ERR(this))
491e9be9d5eSMiklos Szeredi 			goto out;
492e9be9d5eSMiklos Szeredi 
4933e01cee3SMiklos Szeredi 		if (this) {
4947c03b5d4SMiklos Szeredi 			if (unlikely(ovl_dentry_remote(this))) {
4957c03b5d4SMiklos Szeredi 				dput(this);
4967c03b5d4SMiklos Szeredi 				err = -EREMOTE;
4977c03b5d4SMiklos Szeredi 				goto out;
4987c03b5d4SMiklos Szeredi 			}
4993d3c6b89SMiklos Szeredi 			if (ovl_is_whiteout(this)) {
5003d3c6b89SMiklos Szeredi 				dput(this);
5013d3c6b89SMiklos Szeredi 				this = NULL;
5023d3c6b89SMiklos Szeredi 				upperopaque = true;
5033e01cee3SMiklos Szeredi 			} else if (poe->numlower && ovl_is_opaquedir(this)) {
5043d3c6b89SMiklos Szeredi 				upperopaque = true;
505e9be9d5eSMiklos Szeredi 			}
506e9be9d5eSMiklos Szeredi 		}
5073d3c6b89SMiklos Szeredi 		upperdentry = prev = this;
508e9be9d5eSMiklos Szeredi 	}
509e9be9d5eSMiklos Szeredi 
5103d3c6b89SMiklos Szeredi 	if (!upperopaque && poe->numlower) {
5113d3c6b89SMiklos Szeredi 		err = -ENOMEM;
5123d3c6b89SMiklos Szeredi 		stack = kcalloc(poe->numlower, sizeof(struct path), GFP_KERNEL);
5133d3c6b89SMiklos Szeredi 		if (!stack)
5143d3c6b89SMiklos Szeredi 			goto out_put_upper;
515e9be9d5eSMiklos Szeredi 	}
516e9be9d5eSMiklos Szeredi 
5173d3c6b89SMiklos Szeredi 	for (i = 0; !upperopaque && i < poe->numlower; i++) {
5183d3c6b89SMiklos Szeredi 		bool opaque = false;
5193d3c6b89SMiklos Szeredi 		struct path lowerpath = poe->lowerstack[i];
5203d3c6b89SMiklos Szeredi 
521c1b2cc1aSMiklos Szeredi 		this = ovl_lookup_real(dentry->d_sb,
522c1b2cc1aSMiklos Szeredi 				       lowerpath.dentry, &dentry->d_name);
5233d3c6b89SMiklos Szeredi 		err = PTR_ERR(this);
52409e10322SMiklos Szeredi 		if (IS_ERR(this)) {
52509e10322SMiklos Szeredi 			/*
52609e10322SMiklos Szeredi 			 * If it's positive, then treat ENAMETOOLONG as ENOENT.
52709e10322SMiklos Szeredi 			 */
52809e10322SMiklos Szeredi 			if (err == -ENAMETOOLONG && (upperdentry || ctr))
52909e10322SMiklos Szeredi 				continue;
5303d3c6b89SMiklos Szeredi 			goto out_put;
53109e10322SMiklos Szeredi 		}
5323d3c6b89SMiklos Szeredi 		if (!this)
5333d3c6b89SMiklos Szeredi 			continue;
5343d3c6b89SMiklos Szeredi 		if (ovl_is_whiteout(this)) {
5353d3c6b89SMiklos Szeredi 			dput(this);
5363d3c6b89SMiklos Szeredi 			break;
5373e01cee3SMiklos Szeredi 		}
5383e01cee3SMiklos Szeredi 		/*
5393e01cee3SMiklos Szeredi 		 * Only makes sense to check opaque dir if this is not the
5403e01cee3SMiklos Szeredi 		 * lowermost layer.
5413e01cee3SMiklos Szeredi 		 */
5423e01cee3SMiklos Szeredi 		if (i < poe->numlower - 1 && ovl_is_opaquedir(this))
5433d3c6b89SMiklos Szeredi 			opaque = true;
544a425c037Shujianyang 
545a425c037Shujianyang 		if (prev && (!S_ISDIR(prev->d_inode->i_mode) ||
5463d3c6b89SMiklos Szeredi 			     !S_ISDIR(this->d_inode->i_mode))) {
547a425c037Shujianyang 			/*
548a425c037Shujianyang 			 * FIXME: check for upper-opaqueness maybe better done
549a425c037Shujianyang 			 * in remove code.
550a425c037Shujianyang 			 */
5513d3c6b89SMiklos Szeredi 			if (prev == upperdentry)
5523d3c6b89SMiklos Szeredi 				upperopaque = true;
5533d3c6b89SMiklos Szeredi 			dput(this);
5543d3c6b89SMiklos Szeredi 			break;
5553d3c6b89SMiklos Szeredi 		}
556a425c037Shujianyang 		/*
557a425c037Shujianyang 		 * If this is a non-directory then stop here.
558a425c037Shujianyang 		 */
559a425c037Shujianyang 		if (!S_ISDIR(this->d_inode->i_mode))
560a425c037Shujianyang 			opaque = true;
561a425c037Shujianyang 
5623d3c6b89SMiklos Szeredi 		stack[ctr].dentry = this;
5633d3c6b89SMiklos Szeredi 		stack[ctr].mnt = lowerpath.mnt;
5643d3c6b89SMiklos Szeredi 		ctr++;
5653d3c6b89SMiklos Szeredi 		prev = this;
5663d3c6b89SMiklos Szeredi 		if (opaque)
5673d3c6b89SMiklos Szeredi 			break;
5683d3c6b89SMiklos Szeredi 	}
5693d3c6b89SMiklos Szeredi 
5703d3c6b89SMiklos Szeredi 	oe = ovl_alloc_entry(ctr);
5713d3c6b89SMiklos Szeredi 	err = -ENOMEM;
5723d3c6b89SMiklos Szeredi 	if (!oe)
5733d3c6b89SMiklos Szeredi 		goto out_put;
5743d3c6b89SMiklos Szeredi 
5753d3c6b89SMiklos Szeredi 	if (upperdentry || ctr) {
576e9be9d5eSMiklos Szeredi 		struct dentry *realdentry;
577e9be9d5eSMiklos Szeredi 
5783d3c6b89SMiklos Szeredi 		realdentry = upperdentry ? upperdentry : stack[0].dentry;
5793d3c6b89SMiklos Szeredi 
580e9be9d5eSMiklos Szeredi 		err = -ENOMEM;
581e9be9d5eSMiklos Szeredi 		inode = ovl_new_inode(dentry->d_sb, realdentry->d_inode->i_mode,
582e9be9d5eSMiklos Szeredi 				      oe);
583e9be9d5eSMiklos Szeredi 		if (!inode)
5843d3c6b89SMiklos Szeredi 			goto out_free_oe;
585e9be9d5eSMiklos Szeredi 		ovl_copyattr(realdentry->d_inode, inode);
586e9be9d5eSMiklos Szeredi 	}
587e9be9d5eSMiklos Szeredi 
5883d3c6b89SMiklos Szeredi 	oe->opaque = upperopaque;
589e9be9d5eSMiklos Szeredi 	oe->__upperdentry = upperdentry;
5903d3c6b89SMiklos Szeredi 	memcpy(oe->lowerstack, stack, sizeof(struct path) * ctr);
5913d3c6b89SMiklos Szeredi 	kfree(stack);
592e9be9d5eSMiklos Szeredi 	dentry->d_fsdata = oe;
593e9be9d5eSMiklos Szeredi 	d_add(dentry, inode);
594e9be9d5eSMiklos Szeredi 
595e9be9d5eSMiklos Szeredi 	return NULL;
596e9be9d5eSMiklos Szeredi 
5973d3c6b89SMiklos Szeredi out_free_oe:
598e9be9d5eSMiklos Szeredi 	kfree(oe);
5993d3c6b89SMiklos Szeredi out_put:
6003d3c6b89SMiklos Szeredi 	for (i = 0; i < ctr; i++)
6013d3c6b89SMiklos Szeredi 		dput(stack[i].dentry);
6023d3c6b89SMiklos Szeredi 	kfree(stack);
6033d3c6b89SMiklos Szeredi out_put_upper:
6043d3c6b89SMiklos Szeredi 	dput(upperdentry);
605e9be9d5eSMiklos Szeredi out:
606e9be9d5eSMiklos Szeredi 	return ERR_PTR(err);
607e9be9d5eSMiklos Szeredi }
608e9be9d5eSMiklos Szeredi 
609e9be9d5eSMiklos Szeredi struct file *ovl_path_open(struct path *path, int flags)
610e9be9d5eSMiklos Szeredi {
611e9be9d5eSMiklos Szeredi 	return dentry_open(path, flags, current_cred());
612e9be9d5eSMiklos Szeredi }
613e9be9d5eSMiklos Szeredi 
614e9be9d5eSMiklos Szeredi static void ovl_put_super(struct super_block *sb)
615e9be9d5eSMiklos Szeredi {
616e9be9d5eSMiklos Szeredi 	struct ovl_fs *ufs = sb->s_fs_info;
617dd662667SMiklos Szeredi 	unsigned i;
618e9be9d5eSMiklos Szeredi 
619e9be9d5eSMiklos Szeredi 	dput(ufs->workdir);
620e9be9d5eSMiklos Szeredi 	mntput(ufs->upper_mnt);
621dd662667SMiklos Szeredi 	for (i = 0; i < ufs->numlower; i++)
622dd662667SMiklos Szeredi 		mntput(ufs->lower_mnt[i]);
6235ffdbe8bSKonstantin Khlebnikov 	kfree(ufs->lower_mnt);
624e9be9d5eSMiklos Szeredi 
625f45827e8SErez Zadok 	kfree(ufs->config.lowerdir);
626f45827e8SErez Zadok 	kfree(ufs->config.upperdir);
627f45827e8SErez Zadok 	kfree(ufs->config.workdir);
6283fe6e52fSAntonio Murdaca 	put_cred(ufs->creator_cred);
629e9be9d5eSMiklos Szeredi 	kfree(ufs);
630e9be9d5eSMiklos Szeredi }
631e9be9d5eSMiklos Szeredi 
632cc259639SAndy Whitcroft /**
633cc259639SAndy Whitcroft  * ovl_statfs
634cc259639SAndy Whitcroft  * @sb: The overlayfs super block
635cc259639SAndy Whitcroft  * @buf: The struct kstatfs to fill in with stats
636cc259639SAndy Whitcroft  *
637cc259639SAndy Whitcroft  * Get the filesystem statistics.  As writes always target the upper layer
6384ebc5818SMiklos Szeredi  * filesystem pass the statfs to the upper filesystem (if it exists)
639cc259639SAndy Whitcroft  */
640cc259639SAndy Whitcroft static int ovl_statfs(struct dentry *dentry, struct kstatfs *buf)
641cc259639SAndy Whitcroft {
642cc259639SAndy Whitcroft 	struct ovl_fs *ofs = dentry->d_sb->s_fs_info;
643cc259639SAndy Whitcroft 	struct dentry *root_dentry = dentry->d_sb->s_root;
644cc259639SAndy Whitcroft 	struct path path;
645cc259639SAndy Whitcroft 	int err;
646cc259639SAndy Whitcroft 
6474ebc5818SMiklos Szeredi 	ovl_path_real(root_dentry, &path);
648cc259639SAndy Whitcroft 
649cc259639SAndy Whitcroft 	err = vfs_statfs(&path, buf);
650cc259639SAndy Whitcroft 	if (!err) {
651cc259639SAndy Whitcroft 		buf->f_namelen = max(buf->f_namelen, ofs->lower_namelen);
652cc259639SAndy Whitcroft 		buf->f_type = OVERLAYFS_SUPER_MAGIC;
653cc259639SAndy Whitcroft 	}
654cc259639SAndy Whitcroft 
655cc259639SAndy Whitcroft 	return err;
656cc259639SAndy Whitcroft }
657cc259639SAndy Whitcroft 
658f45827e8SErez Zadok /**
659f45827e8SErez Zadok  * ovl_show_options
660f45827e8SErez Zadok  *
661f45827e8SErez Zadok  * Prints the mount options for a given superblock.
662f45827e8SErez Zadok  * Returns zero; does not fail.
663f45827e8SErez Zadok  */
664f45827e8SErez Zadok static int ovl_show_options(struct seq_file *m, struct dentry *dentry)
665f45827e8SErez Zadok {
666f45827e8SErez Zadok 	struct super_block *sb = dentry->d_sb;
667f45827e8SErez Zadok 	struct ovl_fs *ufs = sb->s_fs_info;
668f45827e8SErez Zadok 
669a068acf2SKees Cook 	seq_show_option(m, "lowerdir", ufs->config.lowerdir);
67053a08cb9SMiklos Szeredi 	if (ufs->config.upperdir) {
671a068acf2SKees Cook 		seq_show_option(m, "upperdir", ufs->config.upperdir);
672a068acf2SKees Cook 		seq_show_option(m, "workdir", ufs->config.workdir);
67353a08cb9SMiklos Szeredi 	}
6748d3095f4SMiklos Szeredi 	if (ufs->config.default_permissions)
6758d3095f4SMiklos Szeredi 		seq_puts(m, ",default_permissions");
676f45827e8SErez Zadok 	return 0;
677f45827e8SErez Zadok }
678f45827e8SErez Zadok 
6793cdf6fe9SSeunghun Lee static int ovl_remount(struct super_block *sb, int *flags, char *data)
6803cdf6fe9SSeunghun Lee {
6813cdf6fe9SSeunghun Lee 	struct ovl_fs *ufs = sb->s_fs_info;
6823cdf6fe9SSeunghun Lee 
683cc6f67bcSMiklos Szeredi 	if (!(*flags & MS_RDONLY) && (!ufs->upper_mnt || !ufs->workdir))
6843cdf6fe9SSeunghun Lee 		return -EROFS;
6853cdf6fe9SSeunghun Lee 
6863cdf6fe9SSeunghun Lee 	return 0;
6873cdf6fe9SSeunghun Lee }
6883cdf6fe9SSeunghun Lee 
689e9be9d5eSMiklos Szeredi static const struct super_operations ovl_super_operations = {
690e9be9d5eSMiklos Szeredi 	.put_super	= ovl_put_super,
691cc259639SAndy Whitcroft 	.statfs		= ovl_statfs,
692f45827e8SErez Zadok 	.show_options	= ovl_show_options,
6933cdf6fe9SSeunghun Lee 	.remount_fs	= ovl_remount,
694e9be9d5eSMiklos Szeredi };
695e9be9d5eSMiklos Szeredi 
696e9be9d5eSMiklos Szeredi enum {
697e9be9d5eSMiklos Szeredi 	OPT_LOWERDIR,
698e9be9d5eSMiklos Szeredi 	OPT_UPPERDIR,
699e9be9d5eSMiklos Szeredi 	OPT_WORKDIR,
7008d3095f4SMiklos Szeredi 	OPT_DEFAULT_PERMISSIONS,
701e9be9d5eSMiklos Szeredi 	OPT_ERR,
702e9be9d5eSMiklos Szeredi };
703e9be9d5eSMiklos Szeredi 
704e9be9d5eSMiklos Szeredi static const match_table_t ovl_tokens = {
705e9be9d5eSMiklos Szeredi 	{OPT_LOWERDIR,			"lowerdir=%s"},
706e9be9d5eSMiklos Szeredi 	{OPT_UPPERDIR,			"upperdir=%s"},
707e9be9d5eSMiklos Szeredi 	{OPT_WORKDIR,			"workdir=%s"},
7088d3095f4SMiklos Szeredi 	{OPT_DEFAULT_PERMISSIONS,	"default_permissions"},
709e9be9d5eSMiklos Szeredi 	{OPT_ERR,			NULL}
710e9be9d5eSMiklos Szeredi };
711e9be9d5eSMiklos Szeredi 
71291c77947SMiklos Szeredi static char *ovl_next_opt(char **s)
71391c77947SMiklos Szeredi {
71491c77947SMiklos Szeredi 	char *sbegin = *s;
71591c77947SMiklos Szeredi 	char *p;
71691c77947SMiklos Szeredi 
71791c77947SMiklos Szeredi 	if (sbegin == NULL)
71891c77947SMiklos Szeredi 		return NULL;
71991c77947SMiklos Szeredi 
72091c77947SMiklos Szeredi 	for (p = sbegin; *p; p++) {
72191c77947SMiklos Szeredi 		if (*p == '\\') {
72291c77947SMiklos Szeredi 			p++;
72391c77947SMiklos Szeredi 			if (!*p)
72491c77947SMiklos Szeredi 				break;
72591c77947SMiklos Szeredi 		} else if (*p == ',') {
72691c77947SMiklos Szeredi 			*p = '\0';
72791c77947SMiklos Szeredi 			*s = p + 1;
72891c77947SMiklos Szeredi 			return sbegin;
72991c77947SMiklos Szeredi 		}
73091c77947SMiklos Szeredi 	}
73191c77947SMiklos Szeredi 	*s = NULL;
73291c77947SMiklos Szeredi 	return sbegin;
73391c77947SMiklos Szeredi }
73491c77947SMiklos Szeredi 
735e9be9d5eSMiklos Szeredi static int ovl_parse_opt(char *opt, struct ovl_config *config)
736e9be9d5eSMiklos Szeredi {
737e9be9d5eSMiklos Szeredi 	char *p;
738e9be9d5eSMiklos Szeredi 
73991c77947SMiklos Szeredi 	while ((p = ovl_next_opt(&opt)) != NULL) {
740e9be9d5eSMiklos Szeredi 		int token;
741e9be9d5eSMiklos Szeredi 		substring_t args[MAX_OPT_ARGS];
742e9be9d5eSMiklos Szeredi 
743e9be9d5eSMiklos Szeredi 		if (!*p)
744e9be9d5eSMiklos Szeredi 			continue;
745e9be9d5eSMiklos Szeredi 
746e9be9d5eSMiklos Szeredi 		token = match_token(p, ovl_tokens, args);
747e9be9d5eSMiklos Szeredi 		switch (token) {
748e9be9d5eSMiklos Szeredi 		case OPT_UPPERDIR:
749e9be9d5eSMiklos Szeredi 			kfree(config->upperdir);
750e9be9d5eSMiklos Szeredi 			config->upperdir = match_strdup(&args[0]);
751e9be9d5eSMiklos Szeredi 			if (!config->upperdir)
752e9be9d5eSMiklos Szeredi 				return -ENOMEM;
753e9be9d5eSMiklos Szeredi 			break;
754e9be9d5eSMiklos Szeredi 
755e9be9d5eSMiklos Szeredi 		case OPT_LOWERDIR:
756e9be9d5eSMiklos Szeredi 			kfree(config->lowerdir);
757e9be9d5eSMiklos Szeredi 			config->lowerdir = match_strdup(&args[0]);
758e9be9d5eSMiklos Szeredi 			if (!config->lowerdir)
759e9be9d5eSMiklos Szeredi 				return -ENOMEM;
760e9be9d5eSMiklos Szeredi 			break;
761e9be9d5eSMiklos Szeredi 
762e9be9d5eSMiklos Szeredi 		case OPT_WORKDIR:
763e9be9d5eSMiklos Szeredi 			kfree(config->workdir);
764e9be9d5eSMiklos Szeredi 			config->workdir = match_strdup(&args[0]);
765e9be9d5eSMiklos Szeredi 			if (!config->workdir)
766e9be9d5eSMiklos Szeredi 				return -ENOMEM;
767e9be9d5eSMiklos Szeredi 			break;
768e9be9d5eSMiklos Szeredi 
7698d3095f4SMiklos Szeredi 		case OPT_DEFAULT_PERMISSIONS:
7708d3095f4SMiklos Szeredi 			config->default_permissions = true;
7718d3095f4SMiklos Szeredi 			break;
7728d3095f4SMiklos Szeredi 
773e9be9d5eSMiklos Szeredi 		default:
774bead55efShujianyang 			pr_err("overlayfs: unrecognized mount option \"%s\" or missing value\n", p);
775e9be9d5eSMiklos Szeredi 			return -EINVAL;
776e9be9d5eSMiklos Szeredi 		}
777e9be9d5eSMiklos Szeredi 	}
77871cbad7eShujianyang 
77971cbad7eShujianyang 	/* Workdir is useless in non-upper mount */
78071cbad7eShujianyang 	if (!config->upperdir && config->workdir) {
78171cbad7eShujianyang 		pr_info("overlayfs: option \"workdir=%s\" is useless in a non-upper mount, ignore\n",
78271cbad7eShujianyang 			config->workdir);
78371cbad7eShujianyang 		kfree(config->workdir);
78471cbad7eShujianyang 		config->workdir = NULL;
78571cbad7eShujianyang 	}
78671cbad7eShujianyang 
787e9be9d5eSMiklos Szeredi 	return 0;
788e9be9d5eSMiklos Szeredi }
789e9be9d5eSMiklos Szeredi 
790e9be9d5eSMiklos Szeredi #define OVL_WORKDIR_NAME "work"
791e9be9d5eSMiklos Szeredi 
792e9be9d5eSMiklos Szeredi static struct dentry *ovl_workdir_create(struct vfsmount *mnt,
793e9be9d5eSMiklos Szeredi 					 struct dentry *dentry)
794e9be9d5eSMiklos Szeredi {
795e9be9d5eSMiklos Szeredi 	struct inode *dir = dentry->d_inode;
796e9be9d5eSMiklos Szeredi 	struct dentry *work;
797e9be9d5eSMiklos Szeredi 	int err;
798e9be9d5eSMiklos Szeredi 	bool retried = false;
799e9be9d5eSMiklos Szeredi 
800e9be9d5eSMiklos Szeredi 	err = mnt_want_write(mnt);
801e9be9d5eSMiklos Szeredi 	if (err)
802e9be9d5eSMiklos Szeredi 		return ERR_PTR(err);
803e9be9d5eSMiklos Szeredi 
8045955102cSAl Viro 	inode_lock_nested(dir, I_MUTEX_PARENT);
805e9be9d5eSMiklos Szeredi retry:
806e9be9d5eSMiklos Szeredi 	work = lookup_one_len(OVL_WORKDIR_NAME, dentry,
807e9be9d5eSMiklos Szeredi 			      strlen(OVL_WORKDIR_NAME));
808e9be9d5eSMiklos Szeredi 
809e9be9d5eSMiklos Szeredi 	if (!IS_ERR(work)) {
810e9be9d5eSMiklos Szeredi 		struct kstat stat = {
811e9be9d5eSMiklos Szeredi 			.mode = S_IFDIR | 0,
812e9be9d5eSMiklos Szeredi 		};
813e9be9d5eSMiklos Szeredi 
814e9be9d5eSMiklos Szeredi 		if (work->d_inode) {
815e9be9d5eSMiklos Szeredi 			err = -EEXIST;
816e9be9d5eSMiklos Szeredi 			if (retried)
817e9be9d5eSMiklos Szeredi 				goto out_dput;
818e9be9d5eSMiklos Szeredi 
819e9be9d5eSMiklos Szeredi 			retried = true;
820e9be9d5eSMiklos Szeredi 			ovl_cleanup(dir, work);
821e9be9d5eSMiklos Szeredi 			dput(work);
822e9be9d5eSMiklos Szeredi 			goto retry;
823e9be9d5eSMiklos Szeredi 		}
824e9be9d5eSMiklos Szeredi 
825e9be9d5eSMiklos Szeredi 		err = ovl_create_real(dir, work, &stat, NULL, NULL, true);
826e9be9d5eSMiklos Szeredi 		if (err)
827e9be9d5eSMiklos Szeredi 			goto out_dput;
828e9be9d5eSMiklos Szeredi 	}
829e9be9d5eSMiklos Szeredi out_unlock:
8305955102cSAl Viro 	inode_unlock(dir);
831e9be9d5eSMiklos Szeredi 	mnt_drop_write(mnt);
832e9be9d5eSMiklos Szeredi 
833e9be9d5eSMiklos Szeredi 	return work;
834e9be9d5eSMiklos Szeredi 
835e9be9d5eSMiklos Szeredi out_dput:
836e9be9d5eSMiklos Szeredi 	dput(work);
837e9be9d5eSMiklos Szeredi 	work = ERR_PTR(err);
838e9be9d5eSMiklos Szeredi 	goto out_unlock;
839e9be9d5eSMiklos Szeredi }
840e9be9d5eSMiklos Szeredi 
84191c77947SMiklos Szeredi static void ovl_unescape(char *s)
84291c77947SMiklos Szeredi {
84391c77947SMiklos Szeredi 	char *d = s;
84491c77947SMiklos Szeredi 
84591c77947SMiklos Szeredi 	for (;; s++, d++) {
84691c77947SMiklos Szeredi 		if (*s == '\\')
84791c77947SMiklos Szeredi 			s++;
84891c77947SMiklos Szeredi 		*d = *s;
84991c77947SMiklos Szeredi 		if (!*s)
85091c77947SMiklos Szeredi 			break;
85191c77947SMiklos Szeredi 	}
85291c77947SMiklos Szeredi }
85391c77947SMiklos Szeredi 
854ab508822SMiklos Szeredi static int ovl_mount_dir_noesc(const char *name, struct path *path)
855ab508822SMiklos Szeredi {
856a78d9f0dSMiklos Szeredi 	int err = -EINVAL;
857ab508822SMiklos Szeredi 
858a78d9f0dSMiklos Szeredi 	if (!*name) {
859a78d9f0dSMiklos Szeredi 		pr_err("overlayfs: empty lowerdir\n");
860a78d9f0dSMiklos Szeredi 		goto out;
861a78d9f0dSMiklos Szeredi 	}
862ab508822SMiklos Szeredi 	err = kern_path(name, LOOKUP_FOLLOW, path);
863ab508822SMiklos Szeredi 	if (err) {
864ab508822SMiklos Szeredi 		pr_err("overlayfs: failed to resolve '%s': %i\n", name, err);
865ab508822SMiklos Szeredi 		goto out;
866ab508822SMiklos Szeredi 	}
867ab508822SMiklos Szeredi 	err = -EINVAL;
8687c03b5d4SMiklos Szeredi 	if (ovl_dentry_weird(path->dentry)) {
869ab508822SMiklos Szeredi 		pr_err("overlayfs: filesystem on '%s' not supported\n", name);
870ab508822SMiklos Szeredi 		goto out_put;
871ab508822SMiklos Szeredi 	}
872ab508822SMiklos Szeredi 	if (!S_ISDIR(path->dentry->d_inode->i_mode)) {
873ab508822SMiklos Szeredi 		pr_err("overlayfs: '%s' not a directory\n", name);
874ab508822SMiklos Szeredi 		goto out_put;
875ab508822SMiklos Szeredi 	}
876ab508822SMiklos Szeredi 	return 0;
877ab508822SMiklos Szeredi 
878ab508822SMiklos Szeredi out_put:
879ab508822SMiklos Szeredi 	path_put(path);
880ab508822SMiklos Szeredi out:
881ab508822SMiklos Szeredi 	return err;
882ab508822SMiklos Szeredi }
883ab508822SMiklos Szeredi 
884ab508822SMiklos Szeredi static int ovl_mount_dir(const char *name, struct path *path)
885ab508822SMiklos Szeredi {
886ab508822SMiklos Szeredi 	int err = -ENOMEM;
887ab508822SMiklos Szeredi 	char *tmp = kstrdup(name, GFP_KERNEL);
888ab508822SMiklos Szeredi 
889ab508822SMiklos Szeredi 	if (tmp) {
890ab508822SMiklos Szeredi 		ovl_unescape(tmp);
891ab508822SMiklos Szeredi 		err = ovl_mount_dir_noesc(tmp, path);
8927c03b5d4SMiklos Szeredi 
8937c03b5d4SMiklos Szeredi 		if (!err)
8947c03b5d4SMiklos Szeredi 			if (ovl_dentry_remote(path->dentry)) {
8957c03b5d4SMiklos Szeredi 				pr_err("overlayfs: filesystem on '%s' not supported as upperdir\n",
8967c03b5d4SMiklos Szeredi 				       tmp);
8977c03b5d4SMiklos Szeredi 				path_put(path);
8987c03b5d4SMiklos Szeredi 				err = -EINVAL;
8997c03b5d4SMiklos Szeredi 			}
900ab508822SMiklos Szeredi 		kfree(tmp);
901ab508822SMiklos Szeredi 	}
902ab508822SMiklos Szeredi 	return err;
903ab508822SMiklos Szeredi }
904ab508822SMiklos Szeredi 
905ab508822SMiklos Szeredi static int ovl_lower_dir(const char *name, struct path *path, long *namelen,
9067c03b5d4SMiklos Szeredi 			 int *stack_depth, bool *remote)
907ab508822SMiklos Szeredi {
908ab508822SMiklos Szeredi 	int err;
909ab508822SMiklos Szeredi 	struct kstatfs statfs;
910ab508822SMiklos Szeredi 
911a78d9f0dSMiklos Szeredi 	err = ovl_mount_dir_noesc(name, path);
912ab508822SMiklos Szeredi 	if (err)
913ab508822SMiklos Szeredi 		goto out;
914ab508822SMiklos Szeredi 
915ab508822SMiklos Szeredi 	err = vfs_statfs(path, &statfs);
916ab508822SMiklos Szeredi 	if (err) {
917ab508822SMiklos Szeredi 		pr_err("overlayfs: statfs failed on '%s'\n", name);
918ab508822SMiklos Szeredi 		goto out_put;
919ab508822SMiklos Szeredi 	}
920ab508822SMiklos Szeredi 	*namelen = max(*namelen, statfs.f_namelen);
921ab508822SMiklos Szeredi 	*stack_depth = max(*stack_depth, path->mnt->mnt_sb->s_stack_depth);
922ab508822SMiklos Szeredi 
9237c03b5d4SMiklos Szeredi 	if (ovl_dentry_remote(path->dentry))
9247c03b5d4SMiklos Szeredi 		*remote = true;
9257c03b5d4SMiklos Szeredi 
926ab508822SMiklos Szeredi 	return 0;
927ab508822SMiklos Szeredi 
928ab508822SMiklos Szeredi out_put:
929ab508822SMiklos Szeredi 	path_put(path);
930ab508822SMiklos Szeredi out:
931ab508822SMiklos Szeredi 	return err;
932ab508822SMiklos Szeredi }
933ab508822SMiklos Szeredi 
934e9be9d5eSMiklos Szeredi /* Workdir should not be subdir of upperdir and vice versa */
935e9be9d5eSMiklos Szeredi static bool ovl_workdir_ok(struct dentry *workdir, struct dentry *upperdir)
936e9be9d5eSMiklos Szeredi {
937e9be9d5eSMiklos Szeredi 	bool ok = false;
938e9be9d5eSMiklos Szeredi 
939e9be9d5eSMiklos Szeredi 	if (workdir != upperdir) {
940e9be9d5eSMiklos Szeredi 		ok = (lock_rename(workdir, upperdir) == NULL);
941e9be9d5eSMiklos Szeredi 		unlock_rename(workdir, upperdir);
942e9be9d5eSMiklos Szeredi 	}
943e9be9d5eSMiklos Szeredi 	return ok;
944e9be9d5eSMiklos Szeredi }
945e9be9d5eSMiklos Szeredi 
946a78d9f0dSMiklos Szeredi static unsigned int ovl_split_lowerdirs(char *str)
947a78d9f0dSMiklos Szeredi {
948a78d9f0dSMiklos Szeredi 	unsigned int ctr = 1;
949a78d9f0dSMiklos Szeredi 	char *s, *d;
950a78d9f0dSMiklos Szeredi 
951a78d9f0dSMiklos Szeredi 	for (s = d = str;; s++, d++) {
952a78d9f0dSMiklos Szeredi 		if (*s == '\\') {
953a78d9f0dSMiklos Szeredi 			s++;
954a78d9f0dSMiklos Szeredi 		} else if (*s == ':') {
955a78d9f0dSMiklos Szeredi 			*d = '\0';
956a78d9f0dSMiklos Szeredi 			ctr++;
957a78d9f0dSMiklos Szeredi 			continue;
958a78d9f0dSMiklos Szeredi 		}
959a78d9f0dSMiklos Szeredi 		*d = *s;
960a78d9f0dSMiklos Szeredi 		if (!*s)
961a78d9f0dSMiklos Szeredi 			break;
962a78d9f0dSMiklos Szeredi 	}
963a78d9f0dSMiklos Szeredi 	return ctr;
964a78d9f0dSMiklos Szeredi }
965a78d9f0dSMiklos Szeredi 
966e9be9d5eSMiklos Szeredi static int ovl_fill_super(struct super_block *sb, void *data, int silent)
967e9be9d5eSMiklos Szeredi {
96853a08cb9SMiklos Szeredi 	struct path upperpath = { NULL, NULL };
96953a08cb9SMiklos Szeredi 	struct path workpath = { NULL, NULL };
970e9be9d5eSMiklos Szeredi 	struct dentry *root_dentry;
971e9be9d5eSMiklos Szeredi 	struct ovl_entry *oe;
972e9be9d5eSMiklos Szeredi 	struct ovl_fs *ufs;
973a78d9f0dSMiklos Szeredi 	struct path *stack = NULL;
974a78d9f0dSMiklos Szeredi 	char *lowertmp;
975a78d9f0dSMiklos Szeredi 	char *lower;
976a78d9f0dSMiklos Szeredi 	unsigned int numlower;
977a78d9f0dSMiklos Szeredi 	unsigned int stacklen = 0;
978dd662667SMiklos Szeredi 	unsigned int i;
9797c03b5d4SMiklos Szeredi 	bool remote = false;
980e9be9d5eSMiklos Szeredi 	int err;
981e9be9d5eSMiklos Szeredi 
982f45827e8SErez Zadok 	err = -ENOMEM;
983f45827e8SErez Zadok 	ufs = kzalloc(sizeof(struct ovl_fs), GFP_KERNEL);
984f45827e8SErez Zadok 	if (!ufs)
985e9be9d5eSMiklos Szeredi 		goto out;
986e9be9d5eSMiklos Szeredi 
987f45827e8SErez Zadok 	err = ovl_parse_opt((char *) data, &ufs->config);
988f45827e8SErez Zadok 	if (err)
989f45827e8SErez Zadok 		goto out_free_config;
990f45827e8SErez Zadok 
991e9be9d5eSMiklos Szeredi 	err = -EINVAL;
99253a08cb9SMiklos Szeredi 	if (!ufs->config.lowerdir) {
99307f2af7bSKonstantin Khlebnikov 		if (!silent)
99453a08cb9SMiklos Szeredi 			pr_err("overlayfs: missing 'lowerdir'\n");
99553a08cb9SMiklos Szeredi 		goto out_free_config;
99653a08cb9SMiklos Szeredi 	}
99753a08cb9SMiklos Szeredi 
99853a08cb9SMiklos Szeredi 	sb->s_stack_depth = 0;
999cf9a6784SMiklos Szeredi 	sb->s_maxbytes = MAX_LFS_FILESIZE;
100053a08cb9SMiklos Szeredi 	if (ufs->config.upperdir) {
100153a08cb9SMiklos Szeredi 		if (!ufs->config.workdir) {
100253a08cb9SMiklos Szeredi 			pr_err("overlayfs: missing 'workdir'\n");
1003e9be9d5eSMiklos Szeredi 			goto out_free_config;
1004e9be9d5eSMiklos Szeredi 		}
1005e9be9d5eSMiklos Szeredi 
1006f45827e8SErez Zadok 		err = ovl_mount_dir(ufs->config.upperdir, &upperpath);
1007e9be9d5eSMiklos Szeredi 		if (err)
10083b7a9a24SMiklos Szeredi 			goto out_free_config;
1009e9be9d5eSMiklos Szeredi 
101071cbad7eShujianyang 		/* Upper fs should not be r/o */
101171cbad7eShujianyang 		if (upperpath.mnt->mnt_sb->s_flags & MS_RDONLY) {
101271cbad7eShujianyang 			pr_err("overlayfs: upper fs is r/o, try multi-lower layers mount\n");
101371cbad7eShujianyang 			err = -EINVAL;
101471cbad7eShujianyang 			goto out_put_upperpath;
101571cbad7eShujianyang 		}
101671cbad7eShujianyang 
1017f45827e8SErez Zadok 		err = ovl_mount_dir(ufs->config.workdir, &workpath);
1018e9be9d5eSMiklos Szeredi 		if (err)
10193b7a9a24SMiklos Szeredi 			goto out_put_upperpath;
10203b7a9a24SMiklos Szeredi 
10212f83fd8cShujianyang 		err = -EINVAL;
1022ab508822SMiklos Szeredi 		if (upperpath.mnt != workpath.mnt) {
1023ab508822SMiklos Szeredi 			pr_err("overlayfs: workdir and upperdir must reside under the same mount\n");
1024ab508822SMiklos Szeredi 			goto out_put_workpath;
1025ab508822SMiklos Szeredi 		}
1026ab508822SMiklos Szeredi 		if (!ovl_workdir_ok(workpath.dentry, upperpath.dentry)) {
1027ab508822SMiklos Szeredi 			pr_err("overlayfs: workdir and upperdir must be separate subtrees\n");
1028ab508822SMiklos Szeredi 			goto out_put_workpath;
1029ab508822SMiklos Szeredi 		}
1030ab508822SMiklos Szeredi 		sb->s_stack_depth = upperpath.mnt->mnt_sb->s_stack_depth;
103153a08cb9SMiklos Szeredi 	}
1032a78d9f0dSMiklos Szeredi 	err = -ENOMEM;
1033a78d9f0dSMiklos Szeredi 	lowertmp = kstrdup(ufs->config.lowerdir, GFP_KERNEL);
1034a78d9f0dSMiklos Szeredi 	if (!lowertmp)
1035a78d9f0dSMiklos Szeredi 		goto out_put_workpath;
1036ab508822SMiklos Szeredi 
1037a78d9f0dSMiklos Szeredi 	err = -EINVAL;
1038a78d9f0dSMiklos Szeredi 	stacklen = ovl_split_lowerdirs(lowertmp);
10396be4506eShujianyang 	if (stacklen > OVL_MAX_STACK) {
10406be4506eShujianyang 		pr_err("overlayfs: too many lower directries, limit is %d\n",
10416be4506eShujianyang 		       OVL_MAX_STACK);
1042a78d9f0dSMiklos Szeredi 		goto out_free_lowertmp;
10436be4506eShujianyang 	} else if (!ufs->config.upperdir && stacklen == 1) {
10446be4506eShujianyang 		pr_err("overlayfs: at least 2 lowerdir are needed while upperdir nonexistent\n");
10456be4506eShujianyang 		goto out_free_lowertmp;
10466be4506eShujianyang 	}
1047a78d9f0dSMiklos Szeredi 
1048a78d9f0dSMiklos Szeredi 	stack = kcalloc(stacklen, sizeof(struct path), GFP_KERNEL);
1049a78d9f0dSMiklos Szeredi 	if (!stack)
1050a78d9f0dSMiklos Szeredi 		goto out_free_lowertmp;
1051a78d9f0dSMiklos Szeredi 
1052a78d9f0dSMiklos Szeredi 	lower = lowertmp;
1053a78d9f0dSMiklos Szeredi 	for (numlower = 0; numlower < stacklen; numlower++) {
1054a78d9f0dSMiklos Szeredi 		err = ovl_lower_dir(lower, &stack[numlower],
10557c03b5d4SMiklos Szeredi 				    &ufs->lower_namelen, &sb->s_stack_depth,
10567c03b5d4SMiklos Szeredi 				    &remote);
10573b7a9a24SMiklos Szeredi 		if (err)
1058a78d9f0dSMiklos Szeredi 			goto out_put_lowerpath;
1059a78d9f0dSMiklos Szeredi 
1060a78d9f0dSMiklos Szeredi 		lower = strchr(lower, '\0') + 1;
1061a78d9f0dSMiklos Szeredi 	}
1062e9be9d5eSMiklos Szeredi 
1063e9be9d5eSMiklos Szeredi 	err = -EINVAL;
1064ab508822SMiklos Szeredi 	sb->s_stack_depth++;
106569c433edSMiklos Szeredi 	if (sb->s_stack_depth > FILESYSTEM_MAX_STACK_DEPTH) {
106669c433edSMiklos Szeredi 		pr_err("overlayfs: maximum fs stacking depth exceeded\n");
10673b7a9a24SMiklos Szeredi 		goto out_put_lowerpath;
106869c433edSMiklos Szeredi 	}
106969c433edSMiklos Szeredi 
107053a08cb9SMiklos Szeredi 	if (ufs->config.upperdir) {
1071e9be9d5eSMiklos Szeredi 		ufs->upper_mnt = clone_private_mount(&upperpath);
1072e9be9d5eSMiklos Szeredi 		err = PTR_ERR(ufs->upper_mnt);
1073e9be9d5eSMiklos Szeredi 		if (IS_ERR(ufs->upper_mnt)) {
1074e9be9d5eSMiklos Szeredi 			pr_err("overlayfs: failed to clone upperpath\n");
10753b7a9a24SMiklos Szeredi 			goto out_put_lowerpath;
10763b7a9a24SMiklos Szeredi 		}
10773b7a9a24SMiklos Szeredi 
10783b7a9a24SMiklos Szeredi 		ufs->workdir = ovl_workdir_create(ufs->upper_mnt, workpath.dentry);
10793b7a9a24SMiklos Szeredi 		err = PTR_ERR(ufs->workdir);
10803b7a9a24SMiklos Szeredi 		if (IS_ERR(ufs->workdir)) {
1081cc6f67bcSMiklos Szeredi 			pr_warn("overlayfs: failed to create directory %s/%s (errno: %i); mounting read-only\n",
1082cc6f67bcSMiklos Szeredi 				ufs->config.workdir, OVL_WORKDIR_NAME, -err);
1083cc6f67bcSMiklos Szeredi 			sb->s_flags |= MS_RDONLY;
1084cc6f67bcSMiklos Szeredi 			ufs->workdir = NULL;
1085e9be9d5eSMiklos Szeredi 		}
108645aebeafSVivek Goyal 
108745aebeafSVivek Goyal 		/*
108845aebeafSVivek Goyal 		 * Upper should support d_type, else whiteouts are visible.
108945aebeafSVivek Goyal 		 * Given workdir and upper are on same fs, we can do
109021765194SVivek Goyal 		 * iterate_dir() on workdir. This check requires successful
109121765194SVivek Goyal 		 * creation of workdir in previous step.
109245aebeafSVivek Goyal 		 */
109321765194SVivek Goyal 		if (ufs->workdir) {
109445aebeafSVivek Goyal 			err = ovl_check_d_type_supported(&workpath);
109545aebeafSVivek Goyal 			if (err < 0)
109645aebeafSVivek Goyal 				goto out_put_workdir;
109745aebeafSVivek Goyal 
1098e7c0b599SVivek Goyal 			/*
1099e7c0b599SVivek Goyal 			 * We allowed this configuration and don't want to
1100e7c0b599SVivek Goyal 			 * break users over kernel upgrade. So warn instead
1101e7c0b599SVivek Goyal 			 * of erroring out.
1102e7c0b599SVivek Goyal 			 */
1103e7c0b599SVivek Goyal 			if (!err)
1104e7c0b599SVivek Goyal 				pr_warn("overlayfs: upper fs needs to support d_type.\n");
110553a08cb9SMiklos Szeredi 		}
110621765194SVivek Goyal 	}
1107e9be9d5eSMiklos Szeredi 
11082f83fd8cShujianyang 	err = -ENOMEM;
1109a78d9f0dSMiklos Szeredi 	ufs->lower_mnt = kcalloc(numlower, sizeof(struct vfsmount *), GFP_KERNEL);
1110dd662667SMiklos Szeredi 	if (ufs->lower_mnt == NULL)
11113b7a9a24SMiklos Szeredi 		goto out_put_workdir;
1112a78d9f0dSMiklos Szeredi 	for (i = 0; i < numlower; i++) {
1113a78d9f0dSMiklos Szeredi 		struct vfsmount *mnt = clone_private_mount(&stack[i]);
1114dd662667SMiklos Szeredi 
11152f83fd8cShujianyang 		err = PTR_ERR(mnt);
1116dd662667SMiklos Szeredi 		if (IS_ERR(mnt)) {
1117dd662667SMiklos Szeredi 			pr_err("overlayfs: failed to clone lowerpath\n");
1118dd662667SMiklos Szeredi 			goto out_put_lower_mnt;
1119e9be9d5eSMiklos Szeredi 		}
1120dd662667SMiklos Szeredi 		/*
1121dd662667SMiklos Szeredi 		 * Make lower_mnt R/O.  That way fchmod/fchown on lower file
1122dd662667SMiklos Szeredi 		 * will fail instead of modifying lower fs.
1123dd662667SMiklos Szeredi 		 */
1124dd662667SMiklos Szeredi 		mnt->mnt_flags |= MNT_READONLY;
1125dd662667SMiklos Szeredi 
1126a78d9f0dSMiklos Szeredi 		ufs->lower_mnt[ufs->numlower] = mnt;
1127a78d9f0dSMiklos Szeredi 		ufs->numlower++;
1128a78d9f0dSMiklos Szeredi 	}
1129e9be9d5eSMiklos Szeredi 
113071cbad7eShujianyang 	/* If the upper fs is nonexistent, we mark overlayfs r/o too */
113171cbad7eShujianyang 	if (!ufs->upper_mnt)
1132e9be9d5eSMiklos Szeredi 		sb->s_flags |= MS_RDONLY;
1133e9be9d5eSMiklos Szeredi 
11347c03b5d4SMiklos Szeredi 	if (remote)
11357c03b5d4SMiklos Szeredi 		sb->s_d_op = &ovl_reval_dentry_operations;
11367c03b5d4SMiklos Szeredi 	else
1137e9be9d5eSMiklos Szeredi 		sb->s_d_op = &ovl_dentry_operations;
1138e9be9d5eSMiklos Szeredi 
11393fe6e52fSAntonio Murdaca 	ufs->creator_cred = prepare_creds();
11403fe6e52fSAntonio Murdaca 	if (!ufs->creator_cred)
11413fe6e52fSAntonio Murdaca 		goto out_put_lower_mnt;
11423fe6e52fSAntonio Murdaca 
1143e9be9d5eSMiklos Szeredi 	err = -ENOMEM;
1144a78d9f0dSMiklos Szeredi 	oe = ovl_alloc_entry(numlower);
11453b7a9a24SMiklos Szeredi 	if (!oe)
11463fe6e52fSAntonio Murdaca 		goto out_put_cred;
1147e9be9d5eSMiklos Szeredi 
11483b7a9a24SMiklos Szeredi 	root_dentry = d_make_root(ovl_new_inode(sb, S_IFDIR, oe));
1149e9be9d5eSMiklos Szeredi 	if (!root_dentry)
11503b7a9a24SMiklos Szeredi 		goto out_free_oe;
1151e9be9d5eSMiklos Szeredi 
1152e9be9d5eSMiklos Szeredi 	mntput(upperpath.mnt);
1153a78d9f0dSMiklos Szeredi 	for (i = 0; i < numlower; i++)
1154a78d9f0dSMiklos Szeredi 		mntput(stack[i].mnt);
1155e9be9d5eSMiklos Szeredi 	path_put(&workpath);
1156a78d9f0dSMiklos Szeredi 	kfree(lowertmp);
1157e9be9d5eSMiklos Szeredi 
1158e9be9d5eSMiklos Szeredi 	oe->__upperdentry = upperpath.dentry;
1159a78d9f0dSMiklos Szeredi 	for (i = 0; i < numlower; i++) {
1160a78d9f0dSMiklos Szeredi 		oe->lowerstack[i].dentry = stack[i].dentry;
1161a78d9f0dSMiklos Szeredi 		oe->lowerstack[i].mnt = ufs->lower_mnt[i];
1162a78d9f0dSMiklos Szeredi 	}
11630f95502aSKonstantin Khlebnikov 	kfree(stack);
1164e9be9d5eSMiklos Szeredi 
1165e9be9d5eSMiklos Szeredi 	root_dentry->d_fsdata = oe;
1166e9be9d5eSMiklos Szeredi 
1167ed06e069SMiklos Szeredi 	ovl_copyattr(ovl_dentry_real(root_dentry)->d_inode,
1168ed06e069SMiklos Szeredi 		     root_dentry->d_inode);
1169ed06e069SMiklos Szeredi 
1170cc259639SAndy Whitcroft 	sb->s_magic = OVERLAYFS_SUPER_MAGIC;
1171e9be9d5eSMiklos Szeredi 	sb->s_op = &ovl_super_operations;
1172e9be9d5eSMiklos Szeredi 	sb->s_root = root_dentry;
1173e9be9d5eSMiklos Szeredi 	sb->s_fs_info = ufs;
1174e9be9d5eSMiklos Szeredi 
1175e9be9d5eSMiklos Szeredi 	return 0;
1176e9be9d5eSMiklos Szeredi 
11773b7a9a24SMiklos Szeredi out_free_oe:
11783b7a9a24SMiklos Szeredi 	kfree(oe);
11793fe6e52fSAntonio Murdaca out_put_cred:
11803fe6e52fSAntonio Murdaca 	put_cred(ufs->creator_cred);
1181e9be9d5eSMiklos Szeredi out_put_lower_mnt:
1182dd662667SMiklos Szeredi 	for (i = 0; i < ufs->numlower; i++)
1183dd662667SMiklos Szeredi 		mntput(ufs->lower_mnt[i]);
1184dd662667SMiklos Szeredi 	kfree(ufs->lower_mnt);
11853b7a9a24SMiklos Szeredi out_put_workdir:
11863b7a9a24SMiklos Szeredi 	dput(ufs->workdir);
1187e9be9d5eSMiklos Szeredi 	mntput(ufs->upper_mnt);
1188e9be9d5eSMiklos Szeredi out_put_lowerpath:
1189a78d9f0dSMiklos Szeredi 	for (i = 0; i < numlower; i++)
1190a78d9f0dSMiklos Szeredi 		path_put(&stack[i]);
1191a78d9f0dSMiklos Szeredi 	kfree(stack);
1192a78d9f0dSMiklos Szeredi out_free_lowertmp:
1193a78d9f0dSMiklos Szeredi 	kfree(lowertmp);
11943b7a9a24SMiklos Szeredi out_put_workpath:
11953b7a9a24SMiklos Szeredi 	path_put(&workpath);
1196e9be9d5eSMiklos Szeredi out_put_upperpath:
1197e9be9d5eSMiklos Szeredi 	path_put(&upperpath);
1198e9be9d5eSMiklos Szeredi out_free_config:
1199f45827e8SErez Zadok 	kfree(ufs->config.lowerdir);
1200f45827e8SErez Zadok 	kfree(ufs->config.upperdir);
1201f45827e8SErez Zadok 	kfree(ufs->config.workdir);
1202f45827e8SErez Zadok 	kfree(ufs);
1203e9be9d5eSMiklos Szeredi out:
1204e9be9d5eSMiklos Szeredi 	return err;
1205e9be9d5eSMiklos Szeredi }
1206e9be9d5eSMiklos Szeredi 
1207e9be9d5eSMiklos Szeredi static struct dentry *ovl_mount(struct file_system_type *fs_type, int flags,
1208e9be9d5eSMiklos Szeredi 				const char *dev_name, void *raw_data)
1209e9be9d5eSMiklos Szeredi {
1210e9be9d5eSMiklos Szeredi 	return mount_nodev(fs_type, flags, raw_data, ovl_fill_super);
1211e9be9d5eSMiklos Szeredi }
1212e9be9d5eSMiklos Szeredi 
1213e9be9d5eSMiklos Szeredi static struct file_system_type ovl_fs_type = {
1214e9be9d5eSMiklos Szeredi 	.owner		= THIS_MODULE,
1215ef94b186SMiklos Szeredi 	.name		= "overlay",
1216e9be9d5eSMiklos Szeredi 	.mount		= ovl_mount,
1217e9be9d5eSMiklos Szeredi 	.kill_sb	= kill_anon_super,
1218e9be9d5eSMiklos Szeredi };
1219ef94b186SMiklos Szeredi MODULE_ALIAS_FS("overlay");
1220e9be9d5eSMiklos Szeredi 
1221e9be9d5eSMiklos Szeredi static int __init ovl_init(void)
1222e9be9d5eSMiklos Szeredi {
1223e9be9d5eSMiklos Szeredi 	return register_filesystem(&ovl_fs_type);
1224e9be9d5eSMiklos Szeredi }
1225e9be9d5eSMiklos Szeredi 
1226e9be9d5eSMiklos Szeredi static void __exit ovl_exit(void)
1227e9be9d5eSMiklos Szeredi {
1228e9be9d5eSMiklos Szeredi 	unregister_filesystem(&ovl_fs_type);
1229e9be9d5eSMiklos Szeredi }
1230e9be9d5eSMiklos Szeredi 
1231e9be9d5eSMiklos Szeredi module_init(ovl_init);
1232e9be9d5eSMiklos Szeredi module_exit(ovl_exit);
1233