include/linux/io_uring_types.h

131

const struct io_ring_ctx *last;

include/linux/io_uring_types.h

763

struct io_ring_ctx *ctx;

include/trace/events/io_uring.h

323

TP_PROTO(struct io_ring_ctx *ctx, void *req, struct io_uring_cqe *cqe),

io_uring/bpf-ops.c

162

static int io_install_bpf(struct io_ring_ctx *ctx, struct io_uring_bpf_ops *ops)

io_uring/bpf-ops.c

185

struct io_ring_ctx *ctx;

io_uring/bpf-ops.c

19

struct io_ring_ctx *ctx = io_loop_demangle_ctx(loop_ctx);

io_uring/bpf-ops.c

203

static void io_eject_bpf(struct io_ring_ctx *ctx)

io_uring/bpf-ops.c

220

struct io_ring_ctx *ctx;

io_uring/bpf-ops.c

233

void io_unregister_bpf_ops(struct io_ring_ctx *ctx)

io_uring/bpf-ops.c

28

struct io_ring_ctx *ctx = io_loop_demangle_ctx(loop_ctx);

io_uring/bpf-ops.h

21

void io_unregister_bpf_ops(struct io_ring_ctx *ctx);

io_uring/bpf-ops.h

23

static inline void io_unregister_bpf_ops(struct io_ring_ctx *ctx)

io_uring/cancel.c

108

struct io_ring_ctx *ctx = cd->ctx;

io_uring/cancel.c

179

struct io_ring_ctx *ctx = cd->ctx;

io_uring/cancel.c

250

struct io_ring_ctx *ctx = cd->ctx;

io_uring/cancel.c

268

int io_sync_cancel(struct io_ring_ctx *ctx, void __user *arg)

io_uring/cancel.c

357

bool io_cancel_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/cancel.c

378

int io_cancel_remove(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/cancel.c

425

struct io_ring_ctx *ctx = head->ctx;

io_uring/cancel.c

456

static __cold bool io_cancel_defer_files(struct io_ring_ctx *ctx,

io_uring/cancel.c

489

static __cold bool io_uring_try_cancel_iowq(struct io_ring_ctx *ctx)

io_uring/cancel.c

515

__cold bool io_uring_try_cancel_requests(struct io_ring_ctx *ctx,

io_uring/cancel.c

585

struct io_ring_ctx *ctx;

io_uring/cancel.h

22

int io_sync_cancel(struct io_ring_ctx *ctx, void __user *arg);

io_uring/cancel.h

27

bool io_cancel_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/cancel.h

30

int io_cancel_remove(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/cancel.h

33

__cold bool io_uring_try_cancel_requests(struct io_ring_ctx *ctx,

io_uring/cancel.h

8

struct io_ring_ctx *ctx;

io_uring/eventfd.c

120

int io_eventfd_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/eventfd.c

159

int io_eventfd_unregister(struct io_ring_ctx *ctx)

io_uring/eventfd.c

76

void io_eventfd_signal(struct io_ring_ctx *ctx, bool cqe_event)

io_uring/eventfd.h

3

struct io_ring_ctx;

io_uring/eventfd.h

4

int io_eventfd_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/eventfd.h

6

int io_eventfd_unregister(struct io_ring_ctx *ctx);

io_uring/eventfd.h

8

void io_eventfd_signal(struct io_ring_ctx *ctx, bool cqe_event);

io_uring/fdinfo.c

21

static __cold void common_tracking_show_fdinfo(struct io_ring_ctx *ctx,

io_uring/fdinfo.c

261

struct io_ring_ctx *ctx = file->private_data;

io_uring/fdinfo.c

34

static __cold void napi_show_fdinfo(struct io_ring_ctx *ctx,

io_uring/fdinfo.c

54

static inline void napi_show_fdinfo(struct io_ring_ctx *ctx,

io_uring/fdinfo.c

60

static void __io_uring_show_fdinfo(struct io_ring_ctx *ctx, struct seq_file *m)

io_uring/filetable.c

114

struct io_ring_ctx *ctx = req->ctx;

io_uring/filetable.c

126

int io_fixed_fd_remove(struct io_ring_ctx *ctx, unsigned int offset)

io_uring/filetable.c

143

int io_register_file_alloc_range(struct io_ring_ctx *ctx,

io_uring/filetable.c

16

static int io_file_bitmap_get(struct io_ring_ctx *ctx)

io_uring/filetable.c

43

bool io_alloc_file_tables(struct io_ring_ctx *ctx, struct io_file_table *table,

io_uring/filetable.c

55

void io_free_file_tables(struct io_ring_ctx *ctx, struct io_file_table *table)

io_uring/filetable.c

62

static int io_install_fixed_file(struct io_ring_ctx *ctx, struct file *file,

io_uring/filetable.c

87

int __io_fixed_fd_install(struct io_ring_ctx *ctx, struct file *file,

io_uring/filetable.h

13

int __io_fixed_fd_install(struct io_ring_ctx *ctx, struct file *file,

io_uring/filetable.h

15

int io_fixed_fd_remove(struct io_ring_ctx *ctx, unsigned int offset);

io_uring/filetable.h

17

int io_register_file_alloc_range(struct io_ring_ctx *ctx,

io_uring/filetable.h

58

static inline void io_file_table_set_alloc_range(struct io_ring_ctx *ctx,

io_uring/filetable.h

8

bool io_alloc_file_tables(struct io_ring_ctx *ctx, struct io_file_table *table, unsigned nr_files);

io_uring/filetable.h

9

void io_free_file_tables(struct io_ring_ctx *ctx, struct io_file_table *table);

io_uring/futex.c

115

int io_futex_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/futex.c

121

bool io_futex_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/futex.c

227

struct io_ring_ctx *ctx = req->ctx;

io_uring/futex.c

279

struct io_ring_ctx *ctx = req->ctx;

io_uring/futex.c

37

bool io_futex_cache_init(struct io_ring_ctx *ctx)

io_uring/futex.c

43

void io_futex_cache_free(struct io_ring_ctx *ctx)

io_uring/futex.c

57

struct io_ring_ctx *ctx = req->ctx;

io_uring/futex.h

12

int io_futex_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/futex.h

14

bool io_futex_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/futex.h

16

bool io_futex_cache_init(struct io_ring_ctx *ctx);

io_uring/futex.h

17

void io_futex_cache_free(struct io_ring_ctx *ctx);

io_uring/futex.h

19

static inline int io_futex_cancel(struct io_ring_ctx *ctx,

io_uring/futex.h

25

static inline bool io_futex_remove_all(struct io_ring_ctx *ctx,

io_uring/futex.h

30

static inline bool io_futex_cache_init(struct io_ring_ctx *ctx)

io_uring/futex.h

34

static inline void io_futex_cache_free(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1015

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1050

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1084

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1094

static void io_free_batch_list(struct io_ring_ctx *ctx,

io_uring/io_uring.c

1136

void __io_submit_flush_completions(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1177

__cold void io_iopoll_try_reap_events(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1204

static int io_iopoll_check(struct io_ring_ctx *ctx, unsigned int min_events)

io_uring/io_uring.c

122

static void __io_req_caches_free(struct io_ring_ctx *ctx);

io_uring/io_uring.c

1285

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1340

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1464

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1574

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

1685

static inline bool io_check_restriction(struct io_ring_ctx *ctx,

io_uring/io_uring.c

1705

static void io_init_drain(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1730

static int io_init_req(struct io_ring_ctx *ctx, struct io_kiocb *req,

io_uring/io_uring.c

179

static inline void io_req_add_to_cache(struct io_kiocb *req, struct io_ring_ctx *ctx)

io_uring/io_uring.c

1848

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

188

struct io_ring_ctx *ctx = container_of(ref, struct io_ring_ctx, refs);

io_uring/io_uring.c

1882

static inline int io_submit_sqe(struct io_ring_ctx *ctx, struct io_kiocb *req,

io_uring/io_uring.c

1941

static void io_submit_state_end(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1966

static void io_commit_sqring(struct io_ring_ctx *ctx)

io_uring/io_uring.c

1990

static bool io_get_sqe(struct io_ring_ctx *ctx, const struct io_uring_sqe **sqe)

io_uring/io_uring.c

2022

int io_submit_sqes(struct io_ring_ctx *ctx, unsigned int nr)

io_uring/io_uring.c

2078

static void io_rings_free(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2140

static __cold void __io_req_caches_free(struct io_ring_ctx *ctx)

io_uring/io_uring.c

215

static void io_free_alloc_caches(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2157

static __cold void io_req_caches_free(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2163

static __cold void io_ring_ctx_free(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2219

struct io_ring_ctx *ctx = container_of(cb, struct io_ring_ctx,

io_uring/io_uring.c

2234

__cold void io_activate_pollwq(struct io_ring_ctx *ctx)

io_uring/io_uring.c

225

static __cold struct io_ring_ctx *io_ring_ctx_alloc(struct io_uring_params *p)

io_uring/io_uring.c

2258

struct io_ring_ctx *ctx = file->private_data;

io_uring/io_uring.c

227

struct io_ring_ctx *ctx;

io_uring/io_uring.c

2298

struct io_ring_ctx *ctx;

io_uring/io_uring.c

2320

struct io_ring_ctx *ctx = container_of(work, struct io_ring_ctx, exit_work);

io_uring/io_uring.c

2422

static __cold void io_ring_ctx_wait_and_kill(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2445

struct io_ring_ctx *ctx = file->private_data;

io_uring/io_uring.c

2452

static struct io_uring_reg_wait *io_get_ext_arg_reg(struct io_ring_ctx *ctx,

io_uring/io_uring.c

2471

static int io_validate_ext_arg(struct io_ring_ctx *ctx, unsigned flags,

io_uring/io_uring.c

2487

static int io_get_ext_arg(struct io_ring_ctx *ctx, unsigned flags,

io_uring/io_uring.c

2599

struct io_ring_ctx *ctx;

io_uring/io_uring.c

2726

static __cold int io_allocate_scq_urings(struct io_ring_ctx *ctx,

io_uring/io_uring.c

2790

static struct file *io_uring_get_file(struct io_ring_ctx *ctx)

io_uring/io_uring.c

2959

static void io_ctx_restriction_clone(struct io_ring_ctx *ctx,

io_uring/io_uring.c

2976

struct io_ring_ctx *ctx;

io_uring/io_uring.c

396

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

457

static __cold noinline void io_queue_deferred(struct io_ring_ctx *ctx)

io_uring/io_uring.c

480

void __io_commit_cqring_flush(struct io_ring_ctx *ctx)

io_uring/io_uring.c

490

static inline void __io_cq_lock(struct io_ring_ctx *ctx)

io_uring/io_uring.c

496

static inline void io_cq_lock(struct io_ring_ctx *ctx)

io_uring/io_uring.c

502

static inline void __io_cq_unlock_post(struct io_ring_ctx *ctx)

io_uring/io_uring.c

515

static void io_cq_unlock_post(struct io_ring_ctx *ctx)

io_uring/io_uring.c

524

static void __io_cqring_overflow_flush(struct io_ring_ctx *ctx, bool dying)

io_uring/io_uring.c

581

static void io_cqring_overflow_kill(struct io_ring_ctx *ctx)

io_uring/io_uring.c

587

void io_cqring_do_overflow_flush(struct io_ring_ctx *ctx)

io_uring/io_uring.c

594

void io_cqring_overflow_flush_locked(struct io_ring_ctx *ctx)

io_uring/io_uring.c

635

static __cold bool io_cqring_add_overflow(struct io_ring_ctx *ctx,

io_uring/io_uring.c

661

static struct io_overflow_cqe *io_alloc_ocqe(struct io_ring_ctx *ctx,

io_uring/io_uring.c

693

static unsigned int io_cqring_queued(struct io_ring_ctx *ctx)

io_uring/io_uring.c

708

static bool io_fill_nop_cqe(struct io_ring_ctx *ctx, unsigned int off)

io_uring/io_uring.c

727

bool io_cqe_cache_refill(struct io_ring_ctx *ctx, bool overflow, bool cqe32)

io_uring/io_uring.c

767

static bool io_fill_cqe_aux32(struct io_ring_ctx *ctx,

io_uring/io_uring.c

782

static bool io_fill_cqe_aux(struct io_ring_ctx *ctx, u64 user_data, s32 res,

io_uring/io_uring.c

809

static __cold void io_cqe_overflow(struct io_ring_ctx *ctx, struct io_cqe *cqe,

io_uring/io_uring.c

820

static __cold bool io_cqe_overflow_locked(struct io_ring_ctx *ctx,

io_uring/io_uring.c

830

bool io_post_aux_cqe(struct io_ring_ctx *ctx, u64 user_data, s32 res, u32 cflags)

io_uring/io_uring.c

849

void io_add_aux_cqe(struct io_ring_ctx *ctx, u64 user_data, s32 res, u32 cflags)

io_uring/io_uring.c

868

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

900

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

921

struct io_ring_ctx *ctx = req->ctx;

io_uring/io_uring.c

977

__cold bool __io_alloc_req_refill(struct io_ring_ctx *ctx)

io_uring/io_uring.h

130

struct io_ring_ctx *ctx;

io_uring/io_uring.h

145

static inline struct io_rings *io_get_rings(struct io_ring_ctx *ctx)

io_uring/io_uring.h

154

struct io_ring_ctx *ctx = iowq->ctx;

io_uring/io_uring.h

175

bool io_cqe_cache_refill(struct io_ring_ctx *ctx, bool overflow, bool cqe32);

io_uring/io_uring.h

177

bool io_post_aux_cqe(struct io_ring_ctx *ctx, u64 user_data, s32 res, u32 cflags);

io_uring/io_uring.h

178

void io_add_aux_cqe(struct io_ring_ctx *ctx, u64 user_data, s32 res, u32 cflags);

io_uring/io_uring.h

181

void __io_commit_cqring_flush(struct io_ring_ctx *ctx);

io_uring/io_uring.h

201

int io_submit_sqes(struct io_ring_ctx *ctx, unsigned int nr);

io_uring/io_uring.h

202

int io_do_iopoll(struct io_ring_ctx *ctx, bool force_nonspin);

io_uring/io_uring.h

203

__cold void io_iopoll_try_reap_events(struct io_ring_ctx *ctx);

io_uring/io_uring.h

204

void __io_submit_flush_completions(struct io_ring_ctx *ctx);

io_uring/io_uring.h

212

bool __io_alloc_req_refill(struct io_ring_ctx *ctx);

io_uring/io_uring.h

214

void io_activate_pollwq(struct io_ring_ctx *ctx);

io_uring/io_uring.h

218

static inline void io_lockdep_assert_cq_locked(struct io_ring_ctx *ctx)

io_uring/io_uring.h

243

static inline bool io_is_compat(struct io_ring_ctx *ctx)

io_uring/io_uring.h

248

static inline void io_submit_flush_completions(struct io_ring_ctx *ctx)

io_uring/io_uring.h

258

static inline bool io_get_cqe_overflow(struct io_ring_ctx *ctx,

io_uring/io_uring.h

281

static inline bool io_get_cqe(struct io_ring_ctx *ctx, struct io_uring_cqe **ret,

io_uring/io_uring.h

287

static inline bool io_defer_get_uncommited_cqe(struct io_ring_ctx *ctx,

io_uring/io_uring.h

296

static __always_inline bool io_fill_cqe_req(struct io_ring_ctx *ctx,

io_uring/io_uring.h

335

static inline u32 ctx_cqe32_flags(struct io_ring_ctx *ctx)

io_uring/io_uring.h

391

static inline void io_ring_submit_unlock(struct io_ring_ctx *ctx,

io_uring/io_uring.h

399

static inline void io_ring_submit_lock(struct io_ring_ctx *ctx,

io_uring/io_uring.h

413

static inline void io_commit_cqring(struct io_ring_ctx *ctx)

io_uring/io_uring.h

432

static inline void io_poll_wq_wake(struct io_ring_ctx *ctx)

io_uring/io_uring.h

437

static inline void io_cqring_wake(struct io_ring_ctx *ctx)

io_uring/io_uring.h

448

static inline bool __io_sqring_full(struct io_ring_ctx *ctx)

io_uring/io_uring.h

462

static inline bool io_sqring_full(struct io_ring_ctx *ctx)

io_uring/io_uring.h

468

static inline unsigned int __io_sqring_entries(struct io_ring_ctx *ctx)

io_uring/io_uring.h

478

static inline unsigned int io_sqring_entries(struct io_ring_ctx *ctx)

io_uring/io_uring.h

502

static inline void io_commit_cqring_flush(struct io_ring_ctx *ctx)

io_uring/io_uring.h

517

static inline bool io_req_cache_empty(struct io_ring_ctx *ctx)

io_uring/io_uring.h

524

static inline struct io_kiocb *io_extract_req(struct io_ring_ctx *ctx)

io_uring/io_uring.h

533

static inline bool io_alloc_req(struct io_ring_ctx *ctx, struct io_kiocb **req)

io_uring/io_uring.h

567

static inline ktime_t io_get_time(struct io_ring_ctx *ctx)

io_uring/io_uring.h

580

static inline bool io_has_work(struct io_ring_ctx *ctx)

io_uring/kbuf.c

110

struct io_ring_ctx *ctx = req->ctx;

io_uring/kbuf.c

233

struct io_ring_ctx *ctx = req->ctx;

io_uring/kbuf.c

344

struct io_ring_ctx *ctx = req->ctx;

io_uring/kbuf.c

380

struct io_ring_ctx *ctx = req->ctx;

io_uring/kbuf.c

434

static int io_remove_buffers_legacy(struct io_ring_ctx *ctx,

io_uring/kbuf.c

455

static void io_put_bl(struct io_ring_ctx *ctx, struct io_buffer_list *bl)

io_uring/kbuf.c

465

void io_destroy_buffers(struct io_ring_ctx *ctx)

io_uring/kbuf.c

483

static void io_destroy_bl(struct io_ring_ctx *ctx, struct io_buffer_list *bl)

io_uring/kbuf.c

545

static int io_add_buffers(struct io_ring_ctx *ctx, struct io_provide_buf *pbuf,

io_uring/kbuf.c

611

struct io_ring_ctx *ctx = req->ctx;

io_uring/kbuf.c

626

int io_register_pbuf_ring(struct io_ring_ctx *ctx, void __user *arg)

io_uring/kbuf.c

713

int io_unregister_pbuf_ring(struct io_ring_ctx *ctx, void __user *arg)

io_uring/kbuf.c

738

int io_register_pbuf_status(struct io_ring_ctx *ctx, void __user *arg)

io_uring/kbuf.c

761

struct io_mapped_region *io_pbuf_get_region(struct io_ring_ctx *ctx,

io_uring/kbuf.c

78

static inline struct io_buffer_list *io_buffer_get_list(struct io_ring_ctx *ctx,

io_uring/kbuf.c

86

static int io_buffer_add_list(struct io_ring_ctx *ctx,

io_uring/kbuf.h

76

void io_destroy_buffers(struct io_ring_ctx *ctx);

io_uring/kbuf.h

82

int io_register_pbuf_ring(struct io_ring_ctx *ctx, void __user *arg);

io_uring/kbuf.h

83

int io_unregister_pbuf_ring(struct io_ring_ctx *ctx, void __user *arg);

io_uring/kbuf.h

84

int io_register_pbuf_status(struct io_ring_ctx *ctx, void __user *arg);

io_uring/kbuf.h

94

struct io_mapped_region *io_pbuf_get_region(struct io_ring_ctx *ctx,

io_uring/loop.c

12

static inline void io_loop_wait_start(struct io_ring_ctx *ctx, unsigned nr_wait)

io_uring/loop.c

18

static inline void io_loop_wait_finish(struct io_ring_ctx *ctx)

io_uring/loop.c

24

static void io_loop_wait(struct io_ring_ctx *ctx, struct iou_loop_params *lp,

io_uring/loop.c

42

static int __io_run_loop(struct io_ring_ctx *ctx)

io_uring/loop.c

6

static inline int io_loop_nr_cqes(const struct io_ring_ctx *ctx,

io_uring/loop.c

80

int io_run_loop(struct io_ring_ctx *ctx)

io_uring/loop.h

20

static inline bool io_has_loop_ops(struct io_ring_ctx *ctx)

io_uring/loop.h

25

int io_run_loop(struct io_ring_ctx *ctx);

io_uring/loop.h

27

static inline struct iou_ctx *io_loop_mangle_ctx(struct io_ring_ctx *ctx)

io_uring/loop.h

32

static inline struct io_ring_ctx *io_loop_demangle_ctx(struct iou_ctx *ctx)

io_uring/loop.h

34

return (struct io_ring_ctx *)ctx;

io_uring/memmap.c

184

int io_create_region(struct io_ring_ctx *ctx, struct io_mapped_region *mr,

io_uring/memmap.c

233

static struct io_mapped_region *io_mmap_get_region(struct io_ring_ctx *ctx,

io_uring/memmap.c

258

static void *io_region_validate_mmap(struct io_ring_ctx *ctx,

io_uring/memmap.c

273

struct io_ring_ctx *ctx = file->private_data;

io_uring/memmap.c

284

static int io_region_mmap(struct io_ring_ctx *ctx,

io_uring/memmap.c

297

struct io_ring_ctx *ctx = file->private_data;

io_uring/memmap.c

325

struct io_ring_ctx *ctx = filp->private_data;

io_uring/memmap.c

390

struct io_ring_ctx *ctx = file->private_data;

io_uring/memmap.c

427

struct io_ring_ctx *ctx = file->private_data;

io_uring/memmap.h

21

int io_create_region(struct io_ring_ctx *ctx, struct io_mapped_region *mr,

io_uring/memmap.h

35

static inline void io_region_publish(struct io_ring_ctx *ctx,

io_uring/msg_ring.c

113

static int io_msg_data_remote(struct io_ring_ctx *target_ctx,

io_uring/msg_ring.c

132

static int __io_msg_ring_data(struct io_ring_ctx *target_ctx,

io_uring/msg_ring.c

170

struct io_ring_ctx *target_ctx = req->file->private_data;

io_uring/msg_ring.c

179

struct io_ring_ctx *ctx = req->ctx;

io_uring/msg_ring.c

198

struct io_ring_ctx *target_ctx = req->file->private_data;

io_uring/msg_ring.c

243

struct io_ring_ctx *ctx = req->file->private_data;

io_uring/msg_ring.c

256

struct io_ring_ctx *target_ctx = req->file->private_data;

io_uring/msg_ring.c

258

struct io_ring_ctx *ctx = req->ctx;

io_uring/msg_ring.c

35

static void io_double_unlock_ctx(struct io_ring_ctx *octx)

io_uring/msg_ring.c

40

static int io_lock_external_ctx(struct io_ring_ctx *octx,

io_uring/msg_ring.c

68

static inline bool io_msg_need_remote(struct io_ring_ctx *target_ctx)

io_uring/msg_ring.c

76

struct io_ring_ctx *ctx = req->ctx;

io_uring/msg_ring.c

83

static void io_msg_remote_post(struct io_ring_ctx *ctx, struct io_kiocb *req,

io_uring/msg_ring.c

96

static int io_msg_ring_cqe_flags(struct io_ring_ctx *target_ctx,

io_uring/napi.c

111

static void __io_napi_remove_stale(struct io_ring_ctx *ctx)

io_uring/napi.c

131

static inline void io_napi_remove_stale(struct io_ring_ctx *ctx, bool is_stale)

io_uring/napi.c

169

static bool static_tracking_do_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.c

182

dynamic_tracking_do_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.c

201

__io_napi_do_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.c

215

static void io_napi_blocking_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.c

248

void io_napi_init(struct io_ring_ctx *ctx)

io_uring/napi.c

265

void io_napi_free(struct io_ring_ctx *ctx)

io_uring/napi.c

277

static int io_napi_register_napi(struct io_ring_ctx *ctx,

io_uring/napi.c

304

int io_register_napi(struct io_ring_ctx *ctx, void __user *arg)

io_uring/napi.c

348

int io_unregister_napi(struct io_ring_ctx *ctx, void __user *arg)

io_uring/napi.c

372

void __io_napi_busy_loop(struct io_ring_ctx *ctx, struct io_wait_queue *iowq)

io_uring/napi.c

394

int io_napi_sqpoll_busy_poll(struct io_ring_ctx *ctx)

io_uring/napi.c

41

int __io_napi_add_id(struct io_ring_ctx *ctx, unsigned int napi_id,

io_uring/napi.c

90

static int __io_napi_del_id(struct io_ring_ctx *ctx, unsigned int napi_id)

io_uring/napi.h

12

void io_napi_init(struct io_ring_ctx *ctx);

io_uring/napi.h

13

void io_napi_free(struct io_ring_ctx *ctx);

io_uring/napi.h

15

int io_register_napi(struct io_ring_ctx *ctx, void __user *arg);

io_uring/napi.h

16

int io_unregister_napi(struct io_ring_ctx *ctx, void __user *arg);

io_uring/napi.h

18

int __io_napi_add_id(struct io_ring_ctx *ctx, unsigned int napi_id,

io_uring/napi.h

21

void __io_napi_busy_loop(struct io_ring_ctx *ctx, struct io_wait_queue *iowq);

io_uring/napi.h

22

int io_napi_sqpoll_busy_poll(struct io_ring_ctx *ctx);

io_uring/napi.h

24

static inline bool io_napi(struct io_ring_ctx *ctx)

io_uring/napi.h

29

static inline void io_napi_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.h

45

struct io_ring_ctx *ctx = req->ctx;

io_uring/napi.h

59

static inline void io_napi_init(struct io_ring_ctx *ctx)

io_uring/napi.h

62

static inline void io_napi_free(struct io_ring_ctx *ctx)

io_uring/napi.h

65

static inline int io_register_napi(struct io_ring_ctx *ctx, void __user *arg)

io_uring/napi.h

69

static inline int io_unregister_napi(struct io_ring_ctx *ctx, void __user *arg)

io_uring/napi.h

73

static inline bool io_napi(struct io_ring_ctx *ctx)

io_uring/napi.h

80

static inline void io_napi_busy_loop(struct io_ring_ctx *ctx,

io_uring/napi.h

84

static inline int io_napi_sqpoll_busy_poll(struct io_ring_ctx *ctx)

io_uring/net.c

1380

struct io_ring_ctx *ctx = req->ctx;

io_uring/net.c

188

struct io_ring_ctx *ctx = req->ctx;

io_uring/nop.c

48

struct io_ring_ctx *ctx = req->ctx;

io_uring/notif.c

114

struct io_kiocb *io_alloc_notif(struct io_ring_ctx *ctx)

io_uring/notif.c

19

struct io_ring_ctx *ctx = notif->ctx;

io_uring/notif.h

26

struct io_kiocb *io_alloc_notif(struct io_ring_ctx *ctx);

io_uring/notif.h

45

struct io_ring_ctx *ctx = notif->ctx;

io_uring/openclose.c

200

int __io_close_fixed(struct io_ring_ctx *ctx, unsigned int issue_flags,

io_uring/openclose.c

347

struct io_ring_ctx *ctx = req->ctx;

io_uring/openclose.h

5

int __io_close_fixed(struct io_ring_ctx *ctx, unsigned int issue_flags,

io_uring/poll.c

539

struct io_ring_ctx *ctx = req->ctx;

io_uring/poll.c

657

struct io_ring_ctx *ctx = req->ctx;

io_uring/poll.c

733

__cold bool io_poll_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/poll.c

758

static struct io_kiocb *io_poll_find(struct io_ring_ctx *ctx, bool poll_only,

io_uring/poll.c

779

static struct io_kiocb *io_poll_file_find(struct io_ring_ctx *ctx,

io_uring/poll.c

808

static int __io_poll_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd)

io_uring/poll.c

825

int io_poll_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/poll.c

919

struct io_ring_ctx *ctx = req->ctx;

io_uring/poll.h

42

int io_poll_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/poll.h

46

bool io_poll_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/register.c

1020

struct io_ring_ctx *ctx;

io_uring/register.c

167

static __cold int io_register_restrictions(struct io_ring_ctx *ctx,

io_uring/register.c

277

static int io_register_enable_rings(struct io_ring_ctx *ctx)

io_uring/register.c

299

static __cold int __io_register_iowq_aff(struct io_ring_ctx *ctx,

io_uring/register.c

315

static __cold int io_register_iowq_aff(struct io_ring_ctx *ctx,

io_uring/register.c

347

static __cold int io_unregister_iowq_aff(struct io_ring_ctx *ctx)

io_uring/register.c

352

static __cold int io_register_iowq_max_workers(struct io_ring_ctx *ctx,

io_uring/register.c

41

static __cold int io_probe(struct io_ring_ctx *ctx, void __user *arg,

io_uring/register.c

443

static int io_register_clock(struct io_ring_ctx *ctx,

io_uring/register.c

480

static void io_register_free_rings(struct io_ring_ctx *ctx,

io_uring/register.c

498

static int io_register_resize_rings(struct io_ring_ctx *ctx, void __user *arg)

io_uring/register.c

703

static int io_register_mem_region(struct io_ring_ctx *ctx, void __user *uarg)

io_uring/register.c

750

static int __io_uring_register(struct io_ring_ctx *ctx, unsigned opcode,

io_uring/register.c

76

int io_unregister_personality(struct io_ring_ctx *ctx, unsigned id)

io_uring/register.c

90

static int io_register_personality(struct io_ring_ctx *ctx)

io_uring/register.h

5

int io_eventfd_unregister(struct io_ring_ctx *ctx);

io_uring/register.h

6

int io_unregister_personality(struct io_ring_ctx *ctx, unsigned id);

io_uring/rsrc.c

1022

struct io_ring_ctx *ctx = cmd_to_io_kiocb(cmd)->ctx;

io_uring/rsrc.c

1084

struct io_ring_ctx *ctx = cmd_to_io_kiocb(cmd)->ctx;

io_uring/rsrc.c

1194

struct io_ring_ctx *ctx = req->ctx;

io_uring/rsrc.c

1226

static int io_buffer_acct_cloned_hpages(struct io_ring_ctx *ctx,

io_uring/rsrc.c

1277

static void lock_two_rings(struct io_ring_ctx *ctx1, struct io_ring_ctx *ctx2)

io_uring/rsrc.c

1286

static int io_clone_buffers(struct io_ring_ctx *ctx, struct io_ring_ctx *src_ctx,

io_uring/rsrc.c

1406

int io_register_clone_buffers(struct io_ring_ctx *ctx, void __user *arg)

io_uring/rsrc.c

1409

struct io_ring_ctx *src_ctx;

io_uring/rsrc.c

161

static struct io_mapped_ubuf *io_alloc_imu(struct io_ring_ctx *ctx,

io_uring/rsrc.c

169

static void io_free_imu(struct io_ring_ctx *ctx, struct io_mapped_ubuf *imu)

io_uring/rsrc.c

177

static unsigned long io_buffer_unaccount_pages(struct io_ring_ctx *ctx,

io_uring/rsrc.c

210

static void io_buffer_unmap(struct io_ring_ctx *ctx, struct io_mapped_ubuf *imu)

io_uring/rsrc.c

228

struct io_rsrc_node *io_rsrc_node_alloc(struct io_ring_ctx *ctx, int type)

io_uring/rsrc.c

242

bool io_rsrc_cache_init(struct io_ring_ctx *ctx)

io_uring/rsrc.c

256

void io_rsrc_cache_free(struct io_ring_ctx *ctx)

io_uring/rsrc.c

274

__cold void io_rsrc_data_free(struct io_ring_ctx *ctx,

io_uring/rsrc.c

299

static int __io_sqe_files_update(struct io_ring_ctx *ctx,

io_uring/rsrc.c

30

static struct io_rsrc_node *io_sqe_buffer_register(struct io_ring_ctx *ctx,

io_uring/rsrc.c

33

static int hpage_acct_ref(struct io_ring_ctx *ctx, struct page *hpage,

io_uring/rsrc.c

367

static int __io_sqe_buffers_update(struct io_ring_ctx *ctx,

io_uring/rsrc.c

420

static int __io_register_rsrc_update(struct io_ring_ctx *ctx, unsigned type,

io_uring/rsrc.c

440

int io_register_files_update(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.c

455

int io_register_rsrc_update(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.c

469

__cold int io_register_rsrc(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.c

560

struct io_ring_ctx *ctx = req->ctx;

io_uring/rsrc.c

58

static bool hpage_acct_unref(struct io_ring_ctx *ctx, struct page *hpage)

io_uring/rsrc.c

586

void io_free_rsrc_node(struct io_ring_ctx *ctx, struct io_rsrc_node *node)

io_uring/rsrc.c

606

int io_sqe_files_unregister(struct io_ring_ctx *ctx)

io_uring/rsrc.c

616

int io_sqe_files_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.c

686

int io_sqe_buffers_unregister(struct io_ring_ctx *ctx)

io_uring/rsrc.c

698

static void io_buffer_unaccount_hpages(struct io_ring_ctx *ctx,

io_uring/rsrc.c

723

static int io_buffer_account_pin(struct io_ring_ctx *ctx, struct page **pages,

io_uring/rsrc.c

855

static struct io_rsrc_node *io_sqe_buffer_register(struct io_ring_ctx *ctx,

io_uring/rsrc.c

950

int io_sqe_buffers_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.h

103

static inline void io_put_rsrc_node(struct io_ring_ctx *ctx, struct io_rsrc_node *node)

io_uring/rsrc.h

110

static inline bool io_reset_rsrc_node(struct io_ring_ctx *ctx,

io_uring/rsrc.h

58

bool io_rsrc_cache_init(struct io_ring_ctx *ctx);

io_uring/rsrc.h

59

void io_rsrc_cache_free(struct io_ring_ctx *ctx);

io_uring/rsrc.h

60

struct io_rsrc_node *io_rsrc_node_alloc(struct io_ring_ctx *ctx, int type);

io_uring/rsrc.h

61

void io_free_rsrc_node(struct io_ring_ctx *ctx, struct io_rsrc_node *node);

io_uring/rsrc.h

62

void io_rsrc_data_free(struct io_ring_ctx *ctx, struct io_rsrc_data *data);

io_uring/rsrc.h

76

int io_register_clone_buffers(struct io_ring_ctx *ctx, void __user *arg);

io_uring/rsrc.h

77

int io_sqe_buffers_unregister(struct io_ring_ctx *ctx);

io_uring/rsrc.h

78

int io_sqe_buffers_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.h

80

int io_sqe_files_unregister(struct io_ring_ctx *ctx);

io_uring/rsrc.h

81

int io_sqe_files_register(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.h

84

int io_register_files_update(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.h

86

int io_register_rsrc_update(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rsrc.h

88

int io_register_rsrc(struct io_ring_ctx *ctx, void __user *arg,

io_uring/rw.c

1277

static u64 io_hybrid_iopoll_delay(struct io_ring_ctx *ctx, struct io_kiocb *req)

io_uring/rw.c

1314

struct io_ring_ctx *ctx = req->ctx;

io_uring/rw.c

1333

int io_do_iopoll(struct io_ring_ctx *ctx, bool force_nonspin)

io_uring/rw.c

206

struct io_ring_ctx *ctx = req->ctx;

io_uring/rw.c

502

struct io_ring_ctx *ctx = req->ctx;

io_uring/rw.c

857

struct io_ring_ctx *ctx = req->ctx;

io_uring/splice.c

63

struct io_ring_ctx *ctx = req->ctx;

io_uring/sqpoll.c

102

void io_sq_thread_finish(struct io_ring_ctx *ctx)

io_uring/sqpoll.c

119

struct io_ring_ctx *ctx_attach;

io_uring/sqpoll.c

204

static int __io_sq_thread(struct io_ring_ctx *ctx, struct io_sq_data *sqd,

io_uring/sqpoll.c

287

struct io_ring_ctx *ctx;

io_uring/sqpoll.c

419

void io_sqpoll_wait_sq(struct io_ring_ctx *ctx)

io_uring/sqpoll.c

436

__cold int io_sq_offload_create(struct io_ring_ctx *ctx,

io_uring/sqpoll.c

541

__cold int io_sqpoll_wq_cpu_affinity(struct io_ring_ctx *ctx,

io_uring/sqpoll.c

94

struct io_ring_ctx *ctx;

io_uring/sqpoll.h

24

int io_sq_offload_create(struct io_ring_ctx *ctx, struct io_uring_params *p);

io_uring/sqpoll.h

25

void io_sq_thread_finish(struct io_ring_ctx *ctx);

io_uring/sqpoll.h

30

void io_sqpoll_wait_sq(struct io_ring_ctx *ctx);

io_uring/sqpoll.h

31

int io_sqpoll_wq_cpu_affinity(struct io_ring_ctx *ctx, cpumask_var_t mask);

io_uring/tctx.c

112

static int io_tctx_install_node(struct io_ring_ctx *ctx,

io_uring/tctx.c

140

int __io_uring_add_tctx_node(struct io_ring_ctx *ctx)

io_uring/tctx.c

16

static struct io_wq *io_init_wq_offload(struct io_ring_ctx *ctx,

io_uring/tctx.c

193

int __io_uring_add_tctx_node_from_submit(struct io_ring_ctx *ctx)

io_uring/tctx.c

313

int io_ringfd_register(struct io_ring_ctx *ctx, void __user *__arg,

io_uring/tctx.c

372

int io_ringfd_unregister(struct io_ring_ctx *ctx, void __user *__arg,

io_uring/tctx.c

78

struct io_ring_ctx *ctx)

io_uring/tctx.h

10

struct io_ring_ctx *ctx);

io_uring/tctx.h

12

int __io_uring_add_tctx_node(struct io_ring_ctx *ctx);

io_uring/tctx.h

13

int __io_uring_add_tctx_node_from_submit(struct io_ring_ctx *ctx);

io_uring/tctx.h

17

int io_ringfd_register(struct io_ring_ctx *ctx, void __user *__arg,

io_uring/tctx.h

19

int io_ringfd_unregister(struct io_ring_ctx *ctx, void __user *__arg,

io_uring/tctx.h

25

static inline int io_uring_add_tctx_node(struct io_ring_ctx *ctx)

io_uring/tctx.h

6

struct io_ring_ctx *ctx;

io_uring/timeout.c

115

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

165

__cold void io_flush_timeouts(struct io_ring_ctx *ctx)

io_uring/timeout.c

263

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

306

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

324

static struct io_kiocb *io_timeout_extract(struct io_ring_ctx *ctx,

io_uring/timeout.c

351

int io_timeout_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd)

io_uring/timeout.c

407

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

439

static int io_linked_timeout_update(struct io_ring_ctx *ctx, __u64 user_data,

io_uring/timeout.c

466

static int io_timeout_update(struct io_ring_ctx *ctx, __u64 user_data,

io_uring/timeout.c

535

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

646

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

696

struct io_ring_ctx *ctx = req->ctx;

io_uring/timeout.c

733

__cold bool io_kill_timeouts(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/timeout.h

11

__cold void io_flush_timeouts(struct io_ring_ctx *ctx);

io_uring/timeout.h

13

int io_timeout_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd);

io_uring/timeout.h

14

__cold bool io_kill_timeouts(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/tw.c

140

static void io_ctx_mark_taskrun(struct io_ring_ctx *ctx)

io_uring/tw.c

153

struct io_ring_ctx *ctx = req->ctx;

io_uring/tw.c

19

static void ctx_flush_and_put(struct io_ring_ctx *ctx, io_tw_token_t tw)

io_uring/tw.c

211

struct io_ring_ctx *ctx = req->ctx;

io_uring/tw.c

243

void __cold io_cancel_local_task_work(struct io_ring_ctx *ctx)

io_uring/tw.c

273

static bool io_run_local_work_continue(struct io_ring_ctx *ctx, int events,

io_uring/tw.c

285

static int __io_run_local_work_loop(struct io_ring_ctx *ctx,

io_uring/tw.c

307

static int __io_run_local_work(struct io_ring_ctx *ctx, io_tw_token_t tw,

io_uring/tw.c

341

int io_run_local_work_locked(struct io_ring_ctx *ctx, int min_events)

io_uring/tw.c

351

int io_run_local_work(struct io_ring_ctx *ctx, int min_events, int max_events)

io_uring/tw.c

66

struct io_ring_ctx *ctx = NULL;

io_uring/tw.h

101

static inline void io_tw_lock(struct io_ring_ctx *ctx, io_tw_token_t tw)

io_uring/tw.h

106

static inline bool io_allowed_defer_tw_run(struct io_ring_ctx *ctx)

io_uring/tw.h

111

static inline bool io_allowed_run_tw(struct io_ring_ctx *ctx)

io_uring/tw.h

22

static inline bool io_should_terminate_tw(struct io_ring_ctx *ctx)

io_uring/tw.h

30

int io_run_local_work(struct io_ring_ctx *ctx, int min_events, int max_events);

io_uring/tw.h

31

int io_run_task_work_sig(struct io_ring_ctx *ctx);

io_uring/tw.h

33

__cold void io_cancel_local_task_work(struct io_ring_ctx *ctx);

io_uring/tw.h

34

int io_run_local_work_locked(struct io_ring_ctx *ctx, int min_events);

io_uring/tw.h

91

static inline bool io_local_work_pending(struct io_ring_ctx *ctx)

io_uring/tw.h

96

static inline bool io_task_work_pending(struct io_ring_ctx *ctx)

io_uring/uring_cmd.c

105

struct io_ring_ctx *ctx = req->ctx;

io_uring/uring_cmd.c

242

struct io_ring_ctx *ctx = req->ctx;

io_uring/uring_cmd.c

49

bool io_uring_try_cancel_uring_cmd(struct io_ring_ctx *ctx,

io_uring/uring_cmd.c

81

struct io_ring_ctx *ctx = req->ctx;

io_uring/uring_cmd.h

16

bool io_uring_try_cancel_uring_cmd(struct io_ring_ctx *ctx,

io_uring/wait.c

143

static int __io_cqring_wait_schedule(struct io_ring_ctx *ctx,

io_uring/wait.c

166

static inline int io_cqring_wait_schedule(struct io_ring_ctx *ctx,

io_uring/wait.c

189

int io_cqring_wait(struct io_ring_ctx *ctx, int min_events, u32 flags,

io_uring/wait.c

32

int io_run_task_work_sig(struct io_ring_ctx *ctx)

io_uring/wait.c

73

struct io_ring_ctx *ctx = iowq->ctx;

io_uring/wait.h

26

int io_cqring_wait(struct io_ring_ctx *ctx, int min_events, u32 flags,

io_uring/wait.h

28

int io_run_task_work_sig(struct io_ring_ctx *ctx);

io_uring/wait.h

29

void io_cqring_do_overflow_flush(struct io_ring_ctx *ctx);

io_uring/wait.h

30

void io_cqring_overflow_flush_locked(struct io_ring_ctx *ctx);

io_uring/wait.h

32

static inline unsigned int __io_cqring_events(struct io_ring_ctx *ctx)

io_uring/wait.h

38

static inline unsigned int __io_cqring_events_user(struct io_ring_ctx *ctx)

io_uring/wait.h

49

static inline unsigned io_cqring_events(struct io_ring_ctx *ctx)

io_uring/waitid.c

167

int io_waitid_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/waitid.c

173

bool io_waitid_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/waitid.c

201

struct io_ring_ctx *ctx = req->ctx;

io_uring/waitid.c

286

struct io_ring_ctx *ctx = req->ctx;

io_uring/waitid.h

12

int io_waitid_cancel(struct io_ring_ctx *ctx, struct io_cancel_data *cd,

io_uring/waitid.h

14

bool io_waitid_remove_all(struct io_ring_ctx *ctx, struct io_uring_task *tctx,

io_uring/zcrx.c

1020

static inline bool is_zcrx_entry_marked(struct io_ring_ctx *ctx, unsigned long id)

io_uring/zcrx.c

1025

static inline void set_zcrx_entry_mark(struct io_ring_ctx *ctx, unsigned long id)

io_uring/zcrx.c

1030

void io_terminate_zcrx(struct io_ring_ctx *ctx)

io_uring/zcrx.c

1050

void io_unregister_zcrx(struct io_ring_ctx *ctx)

io_uring/zcrx.c

1186

struct io_ring_ctx *ctx = req->ctx;

io_uring/zcrx.c

1377

static int zcrx_flush_rq(struct io_ring_ctx *ctx, struct io_zcrx_ifq *zcrx,

io_uring/zcrx.c

1406

static int zcrx_arm_notif(struct io_ring_ctx *ctx, struct io_zcrx_ifq *zcrx,

io_uring/zcrx.c

1425

int io_zcrx_ctrl(struct io_ring_ctx *ctx, void __user *arg, unsigned nr_args)

io_uring/zcrx.c

1459

struct io_ring_ctx *ctx = req->ctx;

io_uring/zcrx.c

380

static int io_allocate_rbuf_ring(struct io_ring_ctx *ctx,

io_uring/zcrx.c

48

struct io_ring_ctx *ctx)

io_uring/zcrx.c

534

static struct io_zcrx_ifq *io_zcrx_ifq_alloc(struct io_ring_ctx *ctx)

io_uring/zcrx.c

671

static void zcrx_unregister_user(struct io_zcrx_ifq *ifq, struct io_ring_ctx *ctx)

io_uring/zcrx.c

686

static void zcrx_unregister(struct io_zcrx_ifq *ifq, struct io_ring_ctx *ctx)

io_uring/zcrx.c

692

struct io_mapped_region *io_zcrx_get_region(struct io_ring_ctx *ctx,

io_uring/zcrx.c

717

static int zcrx_export(struct io_ring_ctx *ctx, struct io_zcrx_ifq *ifq,

io_uring/zcrx.c

754

static int import_zcrx(struct io_ring_ctx *ctx,

io_uring/zcrx.c

883

int io_register_zcrx(struct io_ring_ctx *ctx,

io_uring/zcrx.h

104

static inline void io_unregister_zcrx(struct io_ring_ctx *ctx)

io_uring/zcrx.h

107

static inline void io_terminate_zcrx(struct io_ring_ctx *ctx)

io_uring/zcrx.h

116

static inline struct io_mapped_region *io_zcrx_get_region(struct io_ring_ctx *ctx,

io_uring/zcrx.h

121

static inline int io_zcrx_ctrl(struct io_ring_ctx *ctx,

io_uring/zcrx.h

80

struct io_ring_ctx *master_ctx;

io_uring/zcrx.h

88

int io_zcrx_ctrl(struct io_ring_ctx *ctx, void __user *arg, unsigned nr_arg);

io_uring/zcrx.h

89

int io_register_zcrx(struct io_ring_ctx *ctx,

io_uring/zcrx.h

91

void io_unregister_zcrx(struct io_ring_ctx *ctx);

io_uring/zcrx.h

92

void io_terminate_zcrx(struct io_ring_ctx *ctx);

io_uring/zcrx.h

96

struct io_mapped_region *io_zcrx_get_region(struct io_ring_ctx *ctx,

io_uring/zcrx.h

99

static inline int io_register_zcrx(struct io_ring_ctx *ctx,