xref: /openbmc/linux/io_uring/openclose.c (revision 72dbde0f)
1cd40cae2SJens Axboe // SPDX-License-Identifier: GPL-2.0
2cd40cae2SJens Axboe #include <linux/kernel.h>
3cd40cae2SJens Axboe #include <linux/errno.h>
4cd40cae2SJens Axboe #include <linux/fs.h>
5cd40cae2SJens Axboe #include <linux/file.h>
6cd40cae2SJens Axboe #include <linux/fdtable.h>
7cd40cae2SJens Axboe #include <linux/fsnotify.h>
8cd40cae2SJens Axboe #include <linux/namei.h>
9cd40cae2SJens Axboe #include <linux/io_uring.h>
10cd40cae2SJens Axboe 
11cd40cae2SJens Axboe #include <uapi/linux/io_uring.h>
12cd40cae2SJens Axboe 
13cd40cae2SJens Axboe #include "../fs/internal.h"
14cd40cae2SJens Axboe 
15cd40cae2SJens Axboe #include "io_uring.h"
1673572984SJens Axboe #include "rsrc.h"
17cd40cae2SJens Axboe #include "openclose.h"
18cd40cae2SJens Axboe 
19cd40cae2SJens Axboe struct io_open {
20cd40cae2SJens Axboe 	struct file			*file;
21cd40cae2SJens Axboe 	int				dfd;
22cd40cae2SJens Axboe 	u32				file_slot;
23cd40cae2SJens Axboe 	struct filename			*filename;
24cd40cae2SJens Axboe 	struct open_how			how;
25cd40cae2SJens Axboe 	unsigned long			nofile;
26cd40cae2SJens Axboe };
27cd40cae2SJens Axboe 
28cd40cae2SJens Axboe struct io_close {
29cd40cae2SJens Axboe 	struct file			*file;
30cd40cae2SJens Axboe 	int				fd;
31cd40cae2SJens Axboe 	u32				file_slot;
32cd40cae2SJens Axboe };
33cd40cae2SJens Axboe 
io_openat_force_async(struct io_open * open)340ffae640SDylan Yudaken static bool io_openat_force_async(struct io_open *open)
350ffae640SDylan Yudaken {
360ffae640SDylan Yudaken 	/*
370ffae640SDylan Yudaken 	 * Don't bother trying for O_TRUNC, O_CREAT, or O_TMPFILE open,
38*72dbde0fSAleksa Sarai 	 * it'll always -EAGAIN. Note that we test for __O_TMPFILE because
39*72dbde0fSAleksa Sarai 	 * O_TMPFILE includes O_DIRECTORY, which isn't a flag we need to force
40*72dbde0fSAleksa Sarai 	 * async for.
410ffae640SDylan Yudaken 	 */
42*72dbde0fSAleksa Sarai 	return open->how.flags & (O_TRUNC | O_CREAT | __O_TMPFILE);
430ffae640SDylan Yudaken }
440ffae640SDylan Yudaken 
__io_openat_prep(struct io_kiocb * req,const struct io_uring_sqe * sqe)45cd40cae2SJens Axboe static int __io_openat_prep(struct io_kiocb *req, const struct io_uring_sqe *sqe)
46cd40cae2SJens Axboe {
47f2ccb5aeSStefan Metzmacher 	struct io_open *open = io_kiocb_to_cmd(req, struct io_open);
48cd40cae2SJens Axboe 	const char __user *fname;
49cd40cae2SJens Axboe 	int ret;
50cd40cae2SJens Axboe 
51cd40cae2SJens Axboe 	if (unlikely(sqe->buf_index))
52cd40cae2SJens Axboe 		return -EINVAL;
53cd40cae2SJens Axboe 	if (unlikely(req->flags & REQ_F_FIXED_FILE))
54cd40cae2SJens Axboe 		return -EBADF;
55cd40cae2SJens Axboe 
56cd40cae2SJens Axboe 	/* open.how should be already initialised */
57cd40cae2SJens Axboe 	if (!(open->how.flags & O_PATH) && force_o_largefile())
58cd40cae2SJens Axboe 		open->how.flags |= O_LARGEFILE;
59cd40cae2SJens Axboe 
60cd40cae2SJens Axboe 	open->dfd = READ_ONCE(sqe->fd);
61cd40cae2SJens Axboe 	fname = u64_to_user_ptr(READ_ONCE(sqe->addr));
62cd40cae2SJens Axboe 	open->filename = getname(fname);
63cd40cae2SJens Axboe 	if (IS_ERR(open->filename)) {
64cd40cae2SJens Axboe 		ret = PTR_ERR(open->filename);
65cd40cae2SJens Axboe 		open->filename = NULL;
66cd40cae2SJens Axboe 		return ret;
67cd40cae2SJens Axboe 	}
68cd40cae2SJens Axboe 
69cd40cae2SJens Axboe 	open->file_slot = READ_ONCE(sqe->file_index);
70cd40cae2SJens Axboe 	if (open->file_slot && (open->how.flags & O_CLOEXEC))
71cd40cae2SJens Axboe 		return -EINVAL;
72cd40cae2SJens Axboe 
73cd40cae2SJens Axboe 	open->nofile = rlimit(RLIMIT_NOFILE);
74cd40cae2SJens Axboe 	req->flags |= REQ_F_NEED_CLEANUP;
750ffae640SDylan Yudaken 	if (io_openat_force_async(open))
760ffae640SDylan Yudaken 		req->flags |= REQ_F_FORCE_ASYNC;
77cd40cae2SJens Axboe 	return 0;
78cd40cae2SJens Axboe }
79cd40cae2SJens Axboe 
io_openat_prep(struct io_kiocb * req,const struct io_uring_sqe * sqe)80cd40cae2SJens Axboe int io_openat_prep(struct io_kiocb *req, const struct io_uring_sqe *sqe)
81cd40cae2SJens Axboe {
82f2ccb5aeSStefan Metzmacher 	struct io_open *open = io_kiocb_to_cmd(req, struct io_open);
83cd40cae2SJens Axboe 	u64 mode = READ_ONCE(sqe->len);
84cd40cae2SJens Axboe 	u64 flags = READ_ONCE(sqe->open_flags);
85cd40cae2SJens Axboe 
86cd40cae2SJens Axboe 	open->how = build_open_how(flags, mode);
87cd40cae2SJens Axboe 	return __io_openat_prep(req, sqe);
88cd40cae2SJens Axboe }
89cd40cae2SJens Axboe 
io_openat2_prep(struct io_kiocb * req,const struct io_uring_sqe * sqe)90cd40cae2SJens Axboe int io_openat2_prep(struct io_kiocb *req, const struct io_uring_sqe *sqe)
91cd40cae2SJens Axboe {
92f2ccb5aeSStefan Metzmacher 	struct io_open *open = io_kiocb_to_cmd(req, struct io_open);
93cd40cae2SJens Axboe 	struct open_how __user *how;
94cd40cae2SJens Axboe 	size_t len;
95cd40cae2SJens Axboe 	int ret;
96cd40cae2SJens Axboe 
97cd40cae2SJens Axboe 	how = u64_to_user_ptr(READ_ONCE(sqe->addr2));
98cd40cae2SJens Axboe 	len = READ_ONCE(sqe->len);
99cd40cae2SJens Axboe 	if (len < OPEN_HOW_SIZE_VER0)
100cd40cae2SJens Axboe 		return -EINVAL;
101cd40cae2SJens Axboe 
102cd40cae2SJens Axboe 	ret = copy_struct_from_user(&open->how, sizeof(open->how), how, len);
103cd40cae2SJens Axboe 	if (ret)
104cd40cae2SJens Axboe 		return ret;
105cd40cae2SJens Axboe 
106cd40cae2SJens Axboe 	return __io_openat_prep(req, sqe);
107cd40cae2SJens Axboe }
108cd40cae2SJens Axboe 
io_openat2(struct io_kiocb * req,unsigned int issue_flags)109cd40cae2SJens Axboe int io_openat2(struct io_kiocb *req, unsigned int issue_flags)
110cd40cae2SJens Axboe {
111f2ccb5aeSStefan Metzmacher 	struct io_open *open = io_kiocb_to_cmd(req, struct io_open);
112cd40cae2SJens Axboe 	struct open_flags op;
113cd40cae2SJens Axboe 	struct file *file;
114cd40cae2SJens Axboe 	bool resolve_nonblock, nonblock_set;
115cd40cae2SJens Axboe 	bool fixed = !!open->file_slot;
116cd40cae2SJens Axboe 	int ret;
117cd40cae2SJens Axboe 
118cd40cae2SJens Axboe 	ret = build_open_flags(&open->how, &op);
119cd40cae2SJens Axboe 	if (ret)
120cd40cae2SJens Axboe 		goto err;
121cd40cae2SJens Axboe 	nonblock_set = op.open_flag & O_NONBLOCK;
122cd40cae2SJens Axboe 	resolve_nonblock = open->how.resolve & RESOLVE_CACHED;
123cd40cae2SJens Axboe 	if (issue_flags & IO_URING_F_NONBLOCK) {
1240ffae640SDylan Yudaken 		WARN_ON_ONCE(io_openat_force_async(open));
125cd40cae2SJens Axboe 		op.lookup_flags |= LOOKUP_CACHED;
126cd40cae2SJens Axboe 		op.open_flag |= O_NONBLOCK;
127cd40cae2SJens Axboe 	}
128cd40cae2SJens Axboe 
129cd40cae2SJens Axboe 	if (!fixed) {
130cd40cae2SJens Axboe 		ret = __get_unused_fd_flags(open->how.flags, open->nofile);
131cd40cae2SJens Axboe 		if (ret < 0)
132cd40cae2SJens Axboe 			goto err;
133cd40cae2SJens Axboe 	}
134cd40cae2SJens Axboe 
135cd40cae2SJens Axboe 	file = do_filp_open(open->dfd, open->filename, &op);
136cd40cae2SJens Axboe 	if (IS_ERR(file)) {
137cd40cae2SJens Axboe 		/*
138cd40cae2SJens Axboe 		 * We could hang on to this 'fd' on retrying, but seems like
139cd40cae2SJens Axboe 		 * marginal gain for something that is now known to be a slower
140cd40cae2SJens Axboe 		 * path. So just put it, and we'll get a new one when we retry.
141cd40cae2SJens Axboe 		 */
142cd40cae2SJens Axboe 		if (!fixed)
143cd40cae2SJens Axboe 			put_unused_fd(ret);
144cd40cae2SJens Axboe 
145cd40cae2SJens Axboe 		ret = PTR_ERR(file);
146cd40cae2SJens Axboe 		/* only retry if RESOLVE_CACHED wasn't already set by application */
147cd40cae2SJens Axboe 		if (ret == -EAGAIN &&
148cd40cae2SJens Axboe 		    (!resolve_nonblock && (issue_flags & IO_URING_F_NONBLOCK)))
149cd40cae2SJens Axboe 			return -EAGAIN;
150cd40cae2SJens Axboe 		goto err;
151cd40cae2SJens Axboe 	}
152cd40cae2SJens Axboe 
153cd40cae2SJens Axboe 	if ((issue_flags & IO_URING_F_NONBLOCK) && !nonblock_set)
154cd40cae2SJens Axboe 		file->f_flags &= ~O_NONBLOCK;
155cd40cae2SJens Axboe 
156cd40cae2SJens Axboe 	if (!fixed)
157cd40cae2SJens Axboe 		fd_install(ret, file);
158cd40cae2SJens Axboe 	else
159cd40cae2SJens Axboe 		ret = io_fixed_fd_install(req, issue_flags, file,
160cd40cae2SJens Axboe 						open->file_slot);
161cd40cae2SJens Axboe err:
162cd40cae2SJens Axboe 	putname(open->filename);
163cd40cae2SJens Axboe 	req->flags &= ~REQ_F_NEED_CLEANUP;
164cd40cae2SJens Axboe 	if (ret < 0)
165cd40cae2SJens Axboe 		req_set_fail(req);
166cd40cae2SJens Axboe 	io_req_set_res(req, ret, 0);
167cd40cae2SJens Axboe 	return IOU_OK;
168cd40cae2SJens Axboe }
169cd40cae2SJens Axboe 
io_openat(struct io_kiocb * req,unsigned int issue_flags)170cd40cae2SJens Axboe int io_openat(struct io_kiocb *req, unsigned int issue_flags)
171cd40cae2SJens Axboe {
172cd40cae2SJens Axboe 	return io_openat2(req, issue_flags);
173cd40cae2SJens Axboe }
174cd40cae2SJens Axboe 
io_open_cleanup(struct io_kiocb * req)175cd40cae2SJens Axboe void io_open_cleanup(struct io_kiocb *req)
176cd40cae2SJens Axboe {
177f2ccb5aeSStefan Metzmacher 	struct io_open *open = io_kiocb_to_cmd(req, struct io_open);
178cd40cae2SJens Axboe 
179cd40cae2SJens Axboe 	if (open->filename)
180cd40cae2SJens Axboe 		putname(open->filename);
181cd40cae2SJens Axboe }
182cd40cae2SJens Axboe 
__io_close_fixed(struct io_ring_ctx * ctx,unsigned int issue_flags,unsigned int offset)183f110ed84SJens Axboe int __io_close_fixed(struct io_ring_ctx *ctx, unsigned int issue_flags,
184cd40cae2SJens Axboe 		     unsigned int offset)
185cd40cae2SJens Axboe {
186cd40cae2SJens Axboe 	int ret;
187cd40cae2SJens Axboe 
188cd40cae2SJens Axboe 	io_ring_submit_lock(ctx, issue_flags);
189f110ed84SJens Axboe 	ret = io_fixed_fd_remove(ctx, offset);
190cd40cae2SJens Axboe 	io_ring_submit_unlock(ctx, issue_flags);
191f110ed84SJens Axboe 
192cd40cae2SJens Axboe 	return ret;
193cd40cae2SJens Axboe }
194cd40cae2SJens Axboe 
io_close_fixed(struct io_kiocb * req,unsigned int issue_flags)195cd40cae2SJens Axboe static inline int io_close_fixed(struct io_kiocb *req, unsigned int issue_flags)
196cd40cae2SJens Axboe {
197f2ccb5aeSStefan Metzmacher 	struct io_close *close = io_kiocb_to_cmd(req, struct io_close);
198cd40cae2SJens Axboe 
199f110ed84SJens Axboe 	return __io_close_fixed(req->ctx, issue_flags, close->file_slot - 1);
200cd40cae2SJens Axboe }
201cd40cae2SJens Axboe 
io_close_prep(struct io_kiocb * req,const struct io_uring_sqe * sqe)202cd40cae2SJens Axboe int io_close_prep(struct io_kiocb *req, const struct io_uring_sqe *sqe)
203cd40cae2SJens Axboe {
204f2ccb5aeSStefan Metzmacher 	struct io_close *close = io_kiocb_to_cmd(req, struct io_close);
205cd40cae2SJens Axboe 
206cd40cae2SJens Axboe 	if (sqe->off || sqe->addr || sqe->len || sqe->rw_flags || sqe->buf_index)
207cd40cae2SJens Axboe 		return -EINVAL;
208cd40cae2SJens Axboe 	if (req->flags & REQ_F_FIXED_FILE)
209cd40cae2SJens Axboe 		return -EBADF;
210cd40cae2SJens Axboe 
211cd40cae2SJens Axboe 	close->fd = READ_ONCE(sqe->fd);
212cd40cae2SJens Axboe 	close->file_slot = READ_ONCE(sqe->file_index);
213cd40cae2SJens Axboe 	if (close->file_slot && close->fd)
214cd40cae2SJens Axboe 		return -EINVAL;
215cd40cae2SJens Axboe 
216cd40cae2SJens Axboe 	return 0;
217cd40cae2SJens Axboe }
218cd40cae2SJens Axboe 
io_close(struct io_kiocb * req,unsigned int issue_flags)219cd40cae2SJens Axboe int io_close(struct io_kiocb *req, unsigned int issue_flags)
220cd40cae2SJens Axboe {
221cd40cae2SJens Axboe 	struct files_struct *files = current->files;
222f2ccb5aeSStefan Metzmacher 	struct io_close *close = io_kiocb_to_cmd(req, struct io_close);
223cd40cae2SJens Axboe 	struct fdtable *fdt;
224cd40cae2SJens Axboe 	struct file *file;
225cd40cae2SJens Axboe 	int ret = -EBADF;
226cd40cae2SJens Axboe 
227cd40cae2SJens Axboe 	if (close->file_slot) {
228cd40cae2SJens Axboe 		ret = io_close_fixed(req, issue_flags);
229cd40cae2SJens Axboe 		goto err;
230cd40cae2SJens Axboe 	}
231cd40cae2SJens Axboe 
232cd40cae2SJens Axboe 	spin_lock(&files->file_lock);
233cd40cae2SJens Axboe 	fdt = files_fdtable(files);
234cd40cae2SJens Axboe 	if (close->fd >= fdt->max_fds) {
235cd40cae2SJens Axboe 		spin_unlock(&files->file_lock);
236cd40cae2SJens Axboe 		goto err;
237cd40cae2SJens Axboe 	}
238cd40cae2SJens Axboe 	file = rcu_dereference_protected(fdt->fd[close->fd],
239cd40cae2SJens Axboe 			lockdep_is_held(&files->file_lock));
240cd40cae2SJens Axboe 	if (!file || io_is_uring_fops(file)) {
241cd40cae2SJens Axboe 		spin_unlock(&files->file_lock);
242cd40cae2SJens Axboe 		goto err;
243cd40cae2SJens Axboe 	}
244cd40cae2SJens Axboe 
245cd40cae2SJens Axboe 	/* if the file has a flush method, be safe and punt to async */
246cd40cae2SJens Axboe 	if (file->f_op->flush && (issue_flags & IO_URING_F_NONBLOCK)) {
247cd40cae2SJens Axboe 		spin_unlock(&files->file_lock);
248cd40cae2SJens Axboe 		return -EAGAIN;
249cd40cae2SJens Axboe 	}
250cd40cae2SJens Axboe 
251cd40cae2SJens Axboe 	file = __close_fd_get_file(close->fd);
252cd40cae2SJens Axboe 	spin_unlock(&files->file_lock);
253cd40cae2SJens Axboe 	if (!file)
254cd40cae2SJens Axboe 		goto err;
255cd40cae2SJens Axboe 
256cd40cae2SJens Axboe 	/* No ->flush() or already async, safely close from here */
257cd40cae2SJens Axboe 	ret = filp_close(file, current->files);
258cd40cae2SJens Axboe err:
259cd40cae2SJens Axboe 	if (ret < 0)
260cd40cae2SJens Axboe 		req_set_fail(req);
261cd40cae2SJens Axboe 	io_req_set_res(req, ret, 0);
262cd40cae2SJens Axboe 	return IOU_OK;
263cd40cae2SJens Axboe }
264