66 	otx2_read64(pfvf, NIX_LF_RX_STATX(reg))
68 	otx2_read64(pfvf, NIX_LF_TX_STATX(reg))
176 	struct otx2_nic		*pfvf;  member
552 static inline void otx2_setup_dev_hw_settings(struct otx2_nic *pfvf)  in otx2_setup_dev_hw_settings()  argument
554 	struct otx2_hw *hw = &pfvf->hw;  in otx2_setup_dev_hw_settings()
556 	pfvf->hw.cq_time_wait = CQ_TIMER_THRESH_DEFAULT;  in otx2_setup_dev_hw_settings()
557 	pfvf->hw.cq_ecount_wait = CQ_CQE_THRESH_DEFAULT;  in otx2_setup_dev_hw_settings()
558 	pfvf->hw.cq_qcount_wait = CQ_QCOUNT_DEFAULT;  in otx2_setup_dev_hw_settings()
562 	if (is_96xx_A0(pfvf->pdev)) {  in otx2_setup_dev_hw_settings()
566 		pfvf->hw.cq_qcount_wait = 0x0;  in otx2_setup_dev_hw_settings()
571 		pfvf->hw.rq_skid = 600;  in otx2_setup_dev_hw_settings()
572 		pfvf->qset.rqe_cnt = Q_COUNT(Q_SIZE_1K);  in otx2_setup_dev_hw_settings()
574 	if (is_96xx_B0(pfvf->pdev))  in otx2_setup_dev_hw_settings()
577 	if (!is_dev_otx2(pfvf->pdev)) {  in otx2_setup_dev_hw_settings()
584 	if (is_dev_cn10kb(pfvf->pdev))  in otx2_setup_dev_hw_settings()
698 static inline void __cn10k_aura_freeptr(struct otx2_nic *pfvf, u64 aura,  in __cn10k_aura_freeptr()  argument
705 	lmt_info = per_cpu_ptr(pfvf->hw.lmt_info, smp_processor_id());  in __cn10k_aura_freeptr()
706 	tar_addr = (__force u64)otx2_get_regaddr(pfvf, NPA_LF_AURA_BATCH_FREE0);  in __cn10k_aura_freeptr()
732 	struct otx2_nic *pfvf = dev;  in cn10k_aura_freeptr()  local
738 	__cn10k_aura_freeptr(pfvf, aura, ptrs, 2);  in cn10k_aura_freeptr()
743 static inline u64 otx2_aura_allocptr(struct otx2_nic *pfvf, int aura)  in otx2_aura_allocptr()  argument
745 	u64 *ptr = (u64 *)otx2_get_regaddr(pfvf,  in otx2_aura_allocptr()
755 	struct otx2_nic *pfvf = dev;  in otx2_aura_freeptr()  local
756 	void __iomem *addr = otx2_get_regaddr(pfvf, NPA_LF_AURA_OP_FREE0);  in otx2_aura_freeptr()
761 static inline int otx2_get_pool_idx(struct otx2_nic *pfvf, int type, int idx)  in otx2_get_pool_idx()  argument
764 		return pfvf->hw.rqpool_cnt + idx;  in otx2_get_pool_idx()
838 otx2_mbox_up_handler_ ## _fn_name(struct otx2_nic *pfvf,		\
864 static inline dma_addr_t otx2_dma_map_page(struct otx2_nic *pfvf,  in otx2_dma_map_page()  argument
871 	iova = dma_map_page_attrs(pfvf->dev, page,  in otx2_dma_map_page()
873 	if (unlikely(dma_mapping_error(pfvf->dev, iova)))  in otx2_dma_map_page()
878 static inline void otx2_dma_unmap_page(struct otx2_nic *pfvf,  in otx2_dma_unmap_page()  argument
882 	dma_unmap_page_attrs(pfvf->dev, addr, size,  in otx2_dma_unmap_page()
886 static inline u16 otx2_get_smq_idx(struct otx2_nic *pfvf, u16 qidx)  in otx2_get_smq_idx()  argument
889 	if (qidx < NIX_PF_PFC_PRIO_MAX && pfvf->pfc_alloc_status[qidx])  in otx2_get_smq_idx()
890 		return pfvf->pfc_schq_list[NIX_TXSCH_LVL_SMQ][qidx];  in otx2_get_smq_idx()
893 	return pfvf->hw.txschq_list[NIX_TXSCH_LVL_SMQ][0];  in otx2_get_smq_idx()
897 void otx2_free_cints(struct otx2_nic *pfvf, int n);
898 void otx2_set_cints_affinity(struct otx2_nic *pfvf);
900 int otx2_hw_set_mtu(struct otx2_nic *pfvf, int mtu);
903 void otx2_config_irq_coalescing(struct otx2_nic *pfvf, int qidx);
904 int otx2_config_pause_frm(struct otx2_nic *pfvf);
905 void otx2_setup_segmentation(struct otx2_nic *pfvf);
908 int otx2_attach_npa_nix(struct otx2_nic *pfvf);
910 int otx2_config_npa(struct otx2_nic *pfvf);
911 int otx2_sq_aura_pool_init(struct otx2_nic *pfvf);
912 int otx2_rq_aura_pool_init(struct otx2_nic *pfvf);
913 void otx2_aura_pool_free(struct otx2_nic *pfvf);
914 void otx2_free_aura_ptr(struct otx2_nic *pfvf, int type);
915 void otx2_sq_free_sqbs(struct otx2_nic *pfvf);
916 int otx2_config_nix(struct otx2_nic *pfvf);
917 int otx2_config_nix_queues(struct otx2_nic *pfvf);
918 int otx2_txschq_config(struct otx2_nic *pfvf, int lvl, int prio, bool pfc_en);
919 int otx2_txsch_alloc(struct otx2_nic *pfvf);
920 int otx2_txschq_stop(struct otx2_nic *pfvf);
921 void otx2_sqb_flush(struct otx2_nic *pfvf);
922 int __otx2_alloc_rbuf(struct otx2_nic *pfvf, struct otx2_pool *pool,
924 int otx2_rxtx_enable(struct otx2_nic *pfvf, bool enable);
926 int otx2_nix_config_bp(struct otx2_nic *pfvf, bool enable);
927 void otx2_cleanup_rx_cqes(struct otx2_nic *pfvf, struct otx2_cq_queue *cq);
928 void otx2_cleanup_tx_cqes(struct otx2_nic *pfvf, struct otx2_cq_queue *cq);
931 int otx2_alloc_buffer(struct otx2_nic *pfvf, struct otx2_cq_queue *cq,
935 int otx2_rss_init(struct otx2_nic *pfvf);
936 int otx2_set_flowkey_cfg(struct otx2_nic *pfvf);
937 void otx2_set_rss_key(struct otx2_nic *pfvf);
938 int otx2_set_rss_table(struct otx2_nic *pfvf, int ctx_id);
941 void mbox_handler_msix_offset(struct otx2_nic *pfvf,
943 void mbox_handler_npa_lf_alloc(struct otx2_nic *pfvf,
945 void mbox_handler_nix_lf_alloc(struct otx2_nic *pfvf,
949 void mbox_handler_cgx_stats(struct otx2_nic *pfvf,
951 void mbox_handler_cgx_fec_stats(struct otx2_nic *pfvf,
953 void otx2_set_fec_stats_count(struct otx2_nic *pfvf);
954 void mbox_handler_nix_bp_enable(struct otx2_nic *pfvf,
958 void otx2_get_dev_stats(struct otx2_nic *pfvf);
961 void otx2_update_lmac_stats(struct otx2_nic *pfvf);
962 void otx2_update_lmac_fec_stats(struct otx2_nic *pfvf);
963 int otx2_update_rq_stats(struct otx2_nic *pfvf, int qidx);
964 int otx2_update_sq_stats(struct otx2_nic *pfvf, int qidx);
977 int otx2vf_mcam_flow_init(struct otx2_nic *pfvf);
978 int otx2_alloc_mcam_entries(struct otx2_nic *pfvf, u16 count);
981 int otx2_destroy_mcam_flows(struct otx2_nic *pfvf);
982 int otx2_get_flow(struct otx2_nic *pfvf,
984 int otx2_get_all_flows(struct otx2_nic *pfvf,
986 int otx2_add_flow(struct otx2_nic *pfvf,
988 int otx2_remove_flow(struct otx2_nic *pfvf, u32 location);
990 void otx2_rss_ctx_flow_del(struct otx2_nic *pfvf, int ctx_id);
994 int otx2_install_rxvlan_offload_flow(struct otx2_nic *pfvf);
995 bool otx2_xdp_sq_append_pkt(struct otx2_nic *pfvf, u64 iova, int len, u16 qidx);
996 u16 otx2_get_max_mtu(struct otx2_nic *pfvf);
999 int otx2_smq_flush(struct otx2_nic *pfvf, int smq);
1013 void otx2_dmacflt_update_pfmac_flow(struct otx2_nic *pfvf);
1017 void otx2_update_bpid_in_rqctx(struct otx2_nic *pfvf, int vlan_prio, int qidx, bool pfc_enable);
1018 int otx2_config_priority_flow_ctrl(struct otx2_nic *pfvf);
1021 int otx2_pfc_txschq_config(struct otx2_nic *pfvf);
1022 int otx2_pfc_txschq_alloc(struct otx2_nic *pfvf);
1023 int otx2_pfc_txschq_update(struct otx2_nic *pfvf);
1024 int otx2_pfc_txschq_stop(struct otx2_nic *pfvf);
1029 int cn10k_mcs_init(struct otx2_nic *pfvf);
1030 void cn10k_mcs_free(struct otx2_nic *pfvf);
1031 void cn10k_handle_mcs_event(struct otx2_nic *pfvf, struct mcs_intr_info *event);
1033 static inline int cn10k_mcs_init(struct otx2_nic *pfvf) { return 0; }  in cn10k_mcs_init()  argument
1034 static inline void cn10k_mcs_free(struct otx2_nic *pfvf) {}  in cn10k_mcs_free()  argument
1035 static inline void cn10k_handle_mcs_event(struct otx2_nic *pfvf,  in cn10k_handle_mcs_event()  argument