Lines Matching defs:wqe
50 struct io_wqe *wqe; member
162 static inline struct io_wqe_acct *io_get_acct(struct io_wqe *wqe, bool bound) in io_get_acct()
167 static inline struct io_wqe_acct *io_work_get_acct(struct io_wqe *wqe, in io_work_get_acct()
187 struct io_wqe *wqe = worker->wqe; in io_worker_cancel_cb() local
211 struct io_wqe *wqe = worker->wqe; in io_worker_exit() local
259 static bool io_wqe_activate_free_worker(struct io_wqe *wqe, in io_wqe_activate_free_worker()
292 static bool io_wqe_create_worker(struct io_wqe *wqe, struct io_wqe_acct *acct) in io_wqe_create_worker()
324 struct io_wqe *wqe; in create_worker_cb() local
352 struct io_wqe *wqe = worker->wqe; in io_queue_worker_create() local
398 struct io_wqe *wqe = worker->wqe; in io_wqe_dec_running() local
417 static void __io_worker_busy(struct io_wqe *wqe, struct io_worker *worker) in __io_worker_busy()
434 static void __io_worker_idle(struct io_wqe *wqe, struct io_worker *worker) in __io_worker_idle()
448 static bool io_wait_on_hash(struct io_wqe *wqe, unsigned int hash) in io_wait_on_hash()
473 struct io_wqe *wqe = worker->wqe; in io_get_next_work() local
542 struct io_wqe *wqe = worker->wqe; in io_worker_handle_work() local
617 struct io_wqe *wqe = worker->wqe; in io_wqe_worker() local
701 static void io_init_new_worker(struct io_wqe *wqe, struct io_worker *worker, in io_init_new_worker()
746 struct io_wqe *wqe; in create_worker_cont() local
793 static bool create_io_worker(struct io_wq *wq, struct io_wqe *wqe, int index) in create_io_worker()
838 static bool io_wq_for_each_worker(struct io_wqe *wqe, in io_wq_for_each_worker()
866 static void io_run_cancel(struct io_wq_work *work, struct io_wqe *wqe) in io_run_cancel()
877 static void io_wqe_insert_work(struct io_wqe *wqe, struct io_wq_work *work) in io_wqe_insert_work()
903 static void io_wqe_enqueue(struct io_wqe *wqe, struct io_wq_work *work) in io_wqe_enqueue()
958 struct io_wqe *wqe = wq->wqes[numa_node_id()]; in io_wq_enqueue() local
1005 static inline void io_wqe_remove_pending(struct io_wqe *wqe, in io_wqe_remove_pending()
1024 static bool io_acct_cancel_pending_work(struct io_wqe *wqe, in io_acct_cancel_pending_work()
1048 static void io_wqe_cancel_pending_work(struct io_wqe *wqe, in io_wqe_cancel_pending_work()
1064 static void io_wqe_cancel_running_work(struct io_wqe *wqe, in io_wqe_cancel_running_work()
1096 struct io_wqe *wqe = wq->wqes[node]; in io_wq_cancel_cb() local
1119 struct io_wqe *wqe = container_of(wait, struct io_wqe, wait); in io_wqe_hash_wake() local
1159 struct io_wqe *wqe; in io_wq_create() local
1253 struct io_wqe *wqe = wq->wqes[node]; in io_wq_exit_workers() local
1277 struct io_wqe *wqe = wq->wqes[node]; in io_wq_destroy() local
1349 struct io_wqe *wqe = wq->wqes[i]; in io_wq_cpu_affinity() local
1384 struct io_wqe *wqe = wq->wqes[node]; in io_wq_max_workers() local