1 /* SPDX-License-Identifier: (GPL-2.0-only OR BSD-2-Clause) */
2 /* Copyright (C) 2017-2018 Netronome Systems, Inc. */
3
4 #ifndef NFP_FLOWER_CMSG_H
5 #define NFP_FLOWER_CMSG_H
6
7 #include <linux/bitfield.h>
8 #include <linux/skbuff.h>
9 #include <linux/types.h>
10 #include <net/geneve.h>
11 #include <net/gre.h>
12 #include <net/vxlan.h>
13
14 #include "../nfp_app.h"
15 #include "../nfpcore/nfp_cpp.h"
16
17 #define NFP_FLOWER_LAYER_EXT_META BIT(0)
18 #define NFP_FLOWER_LAYER_PORT BIT(1)
19 #define NFP_FLOWER_LAYER_MAC BIT(2)
20 #define NFP_FLOWER_LAYER_TP BIT(3)
21 #define NFP_FLOWER_LAYER_IPV4 BIT(4)
22 #define NFP_FLOWER_LAYER_IPV6 BIT(5)
23 #define NFP_FLOWER_LAYER_CT BIT(6)
24 #define NFP_FLOWER_LAYER_VXLAN BIT(7)
25
26 #define NFP_FLOWER_LAYER2_GRE BIT(0)
27 #define NFP_FLOWER_LAYER2_QINQ BIT(4)
28 #define NFP_FLOWER_LAYER2_GENEVE BIT(5)
29 #define NFP_FLOWER_LAYER2_GENEVE_OP BIT(6)
30 #define NFP_FLOWER_LAYER2_TUN_IPV6 BIT(7)
31
32 #define NFP_FLOWER_MASK_VLAN_PRIO GENMASK(15, 13)
33 #define NFP_FLOWER_MASK_VLAN_PRESENT BIT(12)
34 #define NFP_FLOWER_MASK_VLAN_VID GENMASK(11, 0)
35
36 #define NFP_FLOWER_MASK_MPLS_LB GENMASK(31, 12)
37 #define NFP_FLOWER_MASK_MPLS_TC GENMASK(11, 9)
38 #define NFP_FLOWER_MASK_MPLS_BOS BIT(8)
39 #define NFP_FLOWER_MASK_MPLS_Q BIT(0)
40
41 #define NFP_FL_IP_FRAG_FIRST BIT(7)
42 #define NFP_FL_IP_FRAGMENTED BIT(6)
43
44 /* GRE Tunnel flags */
45 #define NFP_FL_GRE_FLAG_KEY BIT(2)
46
47 /* Compressed HW representation of TCP Flags */
48 #define NFP_FL_TCP_FLAG_URG BIT(4)
49 #define NFP_FL_TCP_FLAG_PSH BIT(3)
50 #define NFP_FL_TCP_FLAG_RST BIT(2)
51 #define NFP_FL_TCP_FLAG_SYN BIT(1)
52 #define NFP_FL_TCP_FLAG_FIN BIT(0)
53
54 #define NFP_FL_SC_ACT_DROP 0x80000000
55 #define NFP_FL_SC_ACT_USER 0x7D000000
56 #define NFP_FL_SC_ACT_POPV 0x6A000000
57 #define NFP_FL_SC_ACT_NULL 0x00000000
58
59 /* The maximum action list size (in bytes) supported by the NFP.
60 */
61 #define NFP_FL_MAX_A_SIZ 1216
62 #define NFP_FL_LW_SIZ 2
63
64 /* Maximum allowed geneve options */
65 #define NFP_FL_MAX_GENEVE_OPT_ACT 32
66 #define NFP_FL_MAX_GENEVE_OPT_CNT 64
67 #define NFP_FL_MAX_GENEVE_OPT_KEY 32
68 #define NFP_FL_MAX_GENEVE_OPT_KEY_V6 8
69
70 /* Action opcodes */
71 #define NFP_FL_ACTION_OPCODE_OUTPUT 0
72 #define NFP_FL_ACTION_OPCODE_PUSH_VLAN 1
73 #define NFP_FL_ACTION_OPCODE_POP_VLAN 2
74 #define NFP_FL_ACTION_OPCODE_PUSH_MPLS 3
75 #define NFP_FL_ACTION_OPCODE_POP_MPLS 4
76 #define NFP_FL_ACTION_OPCODE_SET_TUNNEL 6
77 #define NFP_FL_ACTION_OPCODE_SET_ETHERNET 7
78 #define NFP_FL_ACTION_OPCODE_SET_MPLS 8
79 #define NFP_FL_ACTION_OPCODE_SET_IPV4_ADDRS 9
80 #define NFP_FL_ACTION_OPCODE_SET_IPV4_TTL_TOS 10
81 #define NFP_FL_ACTION_OPCODE_SET_IPV6_SRC 11
82 #define NFP_FL_ACTION_OPCODE_SET_IPV6_DST 12
83 #define NFP_FL_ACTION_OPCODE_SET_IPV6_TC_HL_FL 13
84 #define NFP_FL_ACTION_OPCODE_SET_UDP 14
85 #define NFP_FL_ACTION_OPCODE_SET_TCP 15
86 #define NFP_FL_ACTION_OPCODE_PRE_LAG 16
87 #define NFP_FL_ACTION_OPCODE_PRE_TUNNEL 17
88 #define NFP_FL_ACTION_OPCODE_METER 24
89 #define NFP_FL_ACTION_OPCODE_PUSH_GENEVE 26
90 #define NFP_FL_ACTION_OPCODE_NUM 32
91
92 #define NFP_FL_OUT_FLAGS_LAST BIT(15)
93 #define NFP_FL_OUT_FLAGS_USE_TUN BIT(4)
94 #define NFP_FL_OUT_FLAGS_TYPE_IDX GENMASK(2, 0)
95
96 #define NFP_FL_PUSH_VLAN_PRIO GENMASK(15, 13)
97 #define NFP_FL_PUSH_VLAN_VID GENMASK(11, 0)
98
99 #define IPV6_FLOW_LABEL_MASK cpu_to_be32(0x000fffff)
100
101 /* LAG ports */
102 #define NFP_FL_LAG_OUT 0xC0DE0000
103
104 /* Tunnel ports */
105 #define NFP_FL_PORT_TYPE_TUN 0x50000000
106 #define NFP_FL_TUNNEL_TYPE GENMASK(7, 4)
107 #define NFP_FL_PRE_TUN_INDEX GENMASK(2, 0)
108
109 #define NFP_FLOWER_WORKQ_MAX_SKBS 30000
110
111 /* Cmesg reply (empirical) timeout*/
112 #define NFP_FL_REPLY_TIMEOUT msecs_to_jiffies(40)
113
114 #define nfp_flower_cmsg_warn(app, fmt, args...) \
115 do { \
116 if (net_ratelimit()) \
117 nfp_warn((app)->cpp, fmt, ## args); \
118 } while (0)
119
120 enum nfp_flower_tun_type {
121 NFP_FL_TUNNEL_NONE = 0,
122 NFP_FL_TUNNEL_GRE = 1,
123 NFP_FL_TUNNEL_VXLAN = 2,
124 NFP_FL_TUNNEL_GENEVE = 4,
125 };
126
127 struct nfp_fl_act_head {
128 u8 jump_id;
129 u8 len_lw;
130 };
131
132 struct nfp_fl_set_eth {
133 struct nfp_fl_act_head head;
134 __be16 reserved;
135 u8 eth_addr_mask[ETH_ALEN * 2];
136 u8 eth_addr_val[ETH_ALEN * 2];
137 };
138
139 struct nfp_fl_set_ip4_addrs {
140 struct nfp_fl_act_head head;
141 __be16 reserved;
142 __be32 ipv4_src_mask;
143 __be32 ipv4_src;
144 __be32 ipv4_dst_mask;
145 __be32 ipv4_dst;
146 };
147
148 struct nfp_fl_set_ip4_ttl_tos {
149 struct nfp_fl_act_head head;
150 u8 ipv4_ttl_mask;
151 u8 ipv4_tos_mask;
152 u8 ipv4_ttl;
153 u8 ipv4_tos;
154 __be16 reserved;
155 };
156
157 struct nfp_fl_set_ipv6_tc_hl_fl {
158 struct nfp_fl_act_head head;
159 u8 ipv6_tc_mask;
160 u8 ipv6_hop_limit_mask;
161 __be16 reserved;
162 u8 ipv6_tc;
163 u8 ipv6_hop_limit;
164 __be32 ipv6_label_mask;
165 __be32 ipv6_label;
166 };
167
168 struct nfp_fl_set_ipv6_addr {
169 struct nfp_fl_act_head head;
170 __be16 reserved;
171 struct {
172 __be32 mask;
173 __be32 exact;
174 } ipv6[4];
175 };
176
177 struct nfp_fl_set_tport {
178 struct nfp_fl_act_head head;
179 __be16 reserved;
180 u8 tp_port_mask[4];
181 u8 tp_port_val[4];
182 };
183
184 struct nfp_fl_output {
185 struct nfp_fl_act_head head;
186 __be16 flags;
187 __be32 port;
188 };
189
190 struct nfp_fl_push_vlan {
191 struct nfp_fl_act_head head;
192 __be16 reserved;
193 __be16 vlan_tpid;
194 __be16 vlan_tci;
195 };
196
197 struct nfp_fl_pop_vlan {
198 struct nfp_fl_act_head head;
199 __be16 reserved;
200 };
201
202 struct nfp_fl_pre_lag {
203 struct nfp_fl_act_head head;
204 __be16 group_id;
205 u8 lag_version[3];
206 u8 instance;
207 };
208
209 #define NFP_FL_PRE_LAG_VER_OFF 8
210
211 struct nfp_fl_pre_tunnel {
212 struct nfp_fl_act_head head;
213 __be16 flags;
214 union {
215 __be32 ipv4_dst;
216 struct in6_addr ipv6_dst;
217 };
218 };
219
220 #define NFP_FL_PRE_TUN_IPV6 BIT(0)
221
222 struct nfp_fl_set_tun {
223 struct nfp_fl_act_head head;
224 __be16 reserved;
225 __be64 tun_id __packed;
226 __be32 tun_type_index;
227 __be16 tun_flags;
228 u8 ttl;
229 u8 tos;
230 __be16 outer_vlan_tpid;
231 __be16 outer_vlan_tci;
232 u8 tun_len;
233 u8 res2;
234 __be16 tun_proto;
235 };
236
237 struct nfp_fl_push_geneve {
238 struct nfp_fl_act_head head;
239 __be16 reserved;
240 __be16 class;
241 u8 type;
242 u8 length;
243 u8 opt_data[];
244 };
245
246 struct nfp_fl_push_mpls {
247 struct nfp_fl_act_head head;
248 __be16 ethtype;
249 __be32 lse;
250 };
251
252 struct nfp_fl_pop_mpls {
253 struct nfp_fl_act_head head;
254 __be16 ethtype;
255 };
256
257 struct nfp_fl_set_mpls {
258 struct nfp_fl_act_head head;
259 __be16 reserved;
260 __be32 lse_mask;
261 __be32 lse;
262 };
263
264 struct nfp_fl_meter {
265 struct nfp_fl_act_head head;
266 __be16 reserved;
267 __be32 meter_id;
268 };
269
270 /* Metadata with L2 (1W/4B)
271 * ----------------------------------------------------------------
272 * 3 2 1
273 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
274 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
275 * | key_type | mask_id | PCP |p| vlan outermost VID |
276 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
277 * ^ ^
278 * NOTE: | TCI |
279 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
280 */
281 struct nfp_flower_meta_tci {
282 u8 nfp_flow_key_layer;
283 u8 mask_id;
284 __be16 tci;
285 };
286
287 /* Extended metadata for additional key_layers (1W/4B)
288 * ----------------------------------------------------------------
289 * 3 2 1
290 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
291 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
292 * | nfp_flow_key_layer2 |
293 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
294 */
295 struct nfp_flower_ext_meta {
296 __be32 nfp_flow_key_layer2;
297 };
298
299 /* Port details (1W/4B)
300 * ----------------------------------------------------------------
301 * 3 2 1
302 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
303 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
304 * | port_ingress |
305 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
306 */
307 struct nfp_flower_in_port {
308 __be32 in_port;
309 };
310
311 /* L2 details (4W/16B)
312 * 3 2 1
313 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
314 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
315 * | mac_addr_dst, 31 - 0 |
316 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
317 * | mac_addr_dst, 47 - 32 | mac_addr_src, 15 - 0 |
318 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
319 * | mac_addr_src, 47 - 16 |
320 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
321 * | mpls outermost label | TC |B| reserved |q|
322 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
323 */
324 struct nfp_flower_mac_mpls {
325 u8 mac_dst[6];
326 u8 mac_src[6];
327 __be32 mpls_lse;
328 };
329
330 /* VLAN details (2W/8B)
331 * 3 2 1
332 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
333 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
334 * | outer_tpid | outer_tci |
335 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
336 * | inner_tpid | inner_tci |
337 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
338 */
339 struct nfp_flower_vlan {
340 __be16 outer_tpid;
341 __be16 outer_tci;
342 __be16 inner_tpid;
343 __be16 inner_tci;
344 };
345
346 /* L4 ports (for UDP, TCP, SCTP) (1W/4B)
347 * 3 2 1
348 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
349 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
350 * | port_src | port_dst |
351 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
352 */
353 struct nfp_flower_tp_ports {
354 __be16 port_src;
355 __be16 port_dst;
356 };
357
358 struct nfp_flower_ip_ext {
359 u8 tos;
360 u8 proto;
361 u8 ttl;
362 u8 flags;
363 };
364
365 /* L3 IPv4 details (3W/12B)
366 * 3 2 1
367 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
368 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
369 * | DSCP |ECN| protocol | ttl | flags |
370 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
371 * | ipv4_addr_src |
372 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
373 * | ipv4_addr_dst |
374 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
375 */
376 struct nfp_flower_ipv4 {
377 struct nfp_flower_ip_ext ip_ext;
378 __be32 ipv4_src;
379 __be32 ipv4_dst;
380 };
381
382 /* L3 IPv6 details (10W/40B)
383 * 3 2 1
384 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
385 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
386 * | DSCP |ECN| protocol | ttl | flags |
387 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
388 * | ipv6_exthdr | res | ipv6_flow_label |
389 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
390 * | ipv6_addr_src, 31 - 0 |
391 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
392 * | ipv6_addr_src, 63 - 32 |
393 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
394 * | ipv6_addr_src, 95 - 64 |
395 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
396 * | ipv6_addr_src, 127 - 96 |
397 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
398 * | ipv6_addr_dst, 31 - 0 |
399 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
400 * | ipv6_addr_dst, 63 - 32 |
401 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
402 * | ipv6_addr_dst, 95 - 64 |
403 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
404 * | ipv6_addr_dst, 127 - 96 |
405 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
406 */
407 struct nfp_flower_ipv6 {
408 struct nfp_flower_ip_ext ip_ext;
409 __be32 ipv6_flow_label_exthdr;
410 struct in6_addr ipv6_src;
411 struct in6_addr ipv6_dst;
412 };
413
414 struct nfp_flower_tun_ipv4 {
415 __be32 src;
416 __be32 dst;
417 };
418
419 struct nfp_flower_tun_ipv6 {
420 struct in6_addr src;
421 struct in6_addr dst;
422 };
423
424 struct nfp_flower_tun_ip_ext {
425 u8 tos;
426 u8 ttl;
427 };
428
429 /* Flow Frame IPv4 UDP TUNNEL --> Tunnel details (4W/16B)
430 * -----------------------------------------------------------------
431 * 3 2 1
432 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
433 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
434 * | ipv4_addr_src |
435 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
436 * | ipv4_addr_dst |
437 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
438 * | Reserved | tos | ttl |
439 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
440 * | Reserved |
441 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
442 * | VNI | Reserved |
443 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
444 */
445 struct nfp_flower_ipv4_udp_tun {
446 struct nfp_flower_tun_ipv4 ipv4;
447 __be16 reserved1;
448 struct nfp_flower_tun_ip_ext ip_ext;
449 __be32 reserved2;
450 __be32 tun_id;
451 };
452
453 /* Flow Frame IPv6 UDP TUNNEL --> Tunnel details (11W/44B)
454 * -----------------------------------------------------------------
455 * 3 2 1
456 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
457 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
458 * | ipv6_addr_src, 31 - 0 |
459 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
460 * | ipv6_addr_src, 63 - 32 |
461 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
462 * | ipv6_addr_src, 95 - 64 |
463 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
464 * | ipv6_addr_src, 127 - 96 |
465 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
466 * | ipv6_addr_dst, 31 - 0 |
467 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
468 * | ipv6_addr_dst, 63 - 32 |
469 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
470 * | ipv6_addr_dst, 95 - 64 |
471 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
472 * | ipv6_addr_dst, 127 - 96 |
473 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
474 * | Reserved | tos | ttl |
475 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
476 * | Reserved |
477 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
478 * | VNI | Reserved |
479 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
480 */
481 struct nfp_flower_ipv6_udp_tun {
482 struct nfp_flower_tun_ipv6 ipv6;
483 __be16 reserved1;
484 struct nfp_flower_tun_ip_ext ip_ext;
485 __be32 reserved2;
486 __be32 tun_id;
487 };
488
489 /* Flow Frame GRE TUNNEL --> Tunnel details (6W/24B)
490 * -----------------------------------------------------------------
491 * 3 2 1
492 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
493 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
494 * | ipv4_addr_src |
495 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
496 * | ipv4_addr_dst |
497 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
498 * | tun_flags | tos | ttl |
499 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
500 * | Reserved | Ethertype |
501 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
502 * | Key |
503 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
504 * | Reserved |
505 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
506 */
507
508 struct nfp_flower_ipv4_gre_tun {
509 struct nfp_flower_tun_ipv4 ipv4;
510 __be16 tun_flags;
511 struct nfp_flower_tun_ip_ext ip_ext;
512 __be16 reserved1;
513 __be16 ethertype;
514 __be32 tun_key;
515 __be32 reserved2;
516 };
517
518 /* Flow Frame GRE TUNNEL V6 --> Tunnel details (12W/48B)
519 * -----------------------------------------------------------------
520 * 3 2 1
521 * 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
522 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
523 * | ipv6_addr_src, 31 - 0 |
524 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
525 * | ipv6_addr_src, 63 - 32 |
526 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
527 * | ipv6_addr_src, 95 - 64 |
528 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
529 * | ipv6_addr_src, 127 - 96 |
530 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
531 * | ipv6_addr_dst, 31 - 0 |
532 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
533 * | ipv6_addr_dst, 63 - 32 |
534 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
535 * | ipv6_addr_dst, 95 - 64 |
536 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
537 * | ipv6_addr_dst, 127 - 96 |
538 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
539 * | tun_flags | tos | ttl |
540 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
541 * | Reserved | Ethertype |
542 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
543 * | Key |
544 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
545 * | Reserved |
546 * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
547 */
548 struct nfp_flower_ipv6_gre_tun {
549 struct nfp_flower_tun_ipv6 ipv6;
550 __be16 tun_flags;
551 struct nfp_flower_tun_ip_ext ip_ext;
552 __be16 reserved1;
553 __be16 ethertype;
554 __be32 tun_key;
555 __be32 reserved2;
556 };
557
558 struct nfp_flower_geneve_options {
559 u8 data[NFP_FL_MAX_GENEVE_OPT_KEY];
560 };
561
562 #define NFP_FL_TUN_VNI_OFFSET 8
563
564 /* The base header for a control message packet.
565 * Defines an 8-bit version, and an 8-bit type, padded
566 * to a 32-bit word. Rest of the packet is type-specific.
567 */
568 struct nfp_flower_cmsg_hdr {
569 __be16 pad;
570 u8 type;
571 u8 version;
572 };
573
574 #define NFP_FLOWER_CMSG_HLEN sizeof(struct nfp_flower_cmsg_hdr)
575 #define NFP_FLOWER_CMSG_VER1 1
576
577 /* Types defined for port related control messages */
578 enum nfp_flower_cmsg_type_port {
579 NFP_FLOWER_CMSG_TYPE_FLOW_ADD = 0,
580 NFP_FLOWER_CMSG_TYPE_FLOW_MOD = 1,
581 NFP_FLOWER_CMSG_TYPE_FLOW_DEL = 2,
582 NFP_FLOWER_CMSG_TYPE_LAG_CONFIG = 4,
583 NFP_FLOWER_CMSG_TYPE_PORT_REIFY = 6,
584 NFP_FLOWER_CMSG_TYPE_MAC_REPR = 7,
585 NFP_FLOWER_CMSG_TYPE_PORT_MOD = 8,
586 NFP_FLOWER_CMSG_TYPE_MERGE_HINT = 9,
587 NFP_FLOWER_CMSG_TYPE_NO_NEIGH = 10,
588 NFP_FLOWER_CMSG_TYPE_TUN_MAC = 11,
589 NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS = 12,
590 NFP_FLOWER_CMSG_TYPE_TUN_NEIGH = 13,
591 NFP_FLOWER_CMSG_TYPE_TUN_IPS = 14,
592 NFP_FLOWER_CMSG_TYPE_FLOW_STATS = 15,
593 NFP_FLOWER_CMSG_TYPE_PORT_ECHO = 16,
594 NFP_FLOWER_CMSG_TYPE_QOS_MOD = 18,
595 NFP_FLOWER_CMSG_TYPE_QOS_DEL = 19,
596 NFP_FLOWER_CMSG_TYPE_QOS_STATS = 20,
597 NFP_FLOWER_CMSG_TYPE_PRE_TUN_RULE = 21,
598 NFP_FLOWER_CMSG_TYPE_TUN_IPS_V6 = 22,
599 NFP_FLOWER_CMSG_TYPE_NO_NEIGH_V6 = 23,
600 NFP_FLOWER_CMSG_TYPE_TUN_NEIGH_V6 = 24,
601 NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS_V6 = 25,
602 NFP_FLOWER_CMSG_TYPE_MAX = 32,
603 };
604
605 /* NFP_FLOWER_CMSG_TYPE_MAC_REPR */
606 struct nfp_flower_cmsg_mac_repr {
607 u8 reserved[3];
608 u8 num_ports;
609 struct {
610 u8 idx;
611 u8 info;
612 u8 nbi_port;
613 u8 phys_port;
614 } ports[];
615 };
616
617 #define NFP_FLOWER_CMSG_MAC_REPR_NBI GENMASK(1, 0)
618
619 /* NFP_FLOWER_CMSG_TYPE_PORT_MOD */
620 struct nfp_flower_cmsg_portmod {
621 __be32 portnum;
622 u8 reserved;
623 u8 info;
624 __be16 mtu;
625 };
626
627 #define NFP_FLOWER_CMSG_PORTMOD_INFO_LINK BIT(0)
628 #define NFP_FLOWER_CMSG_PORTMOD_MTU_CHANGE_ONLY BIT(1)
629
630 /* NFP_FLOWER_CMSG_TYPE_PORT_REIFY */
631 struct nfp_flower_cmsg_portreify {
632 __be32 portnum;
633 u16 reserved;
634 __be16 info;
635 };
636
637 #define NFP_FLOWER_CMSG_PORTREIFY_INFO_EXIST BIT(0)
638
639 /* NFP_FLOWER_CMSG_TYPE_FLOW_MERGE_HINT */
640 struct nfp_flower_cmsg_merge_hint {
641 u8 reserved[3];
642 u8 count;
643 struct {
644 __be32 host_ctx;
645 __be64 host_cookie;
646 } __packed flow[];
647 };
648
649 enum nfp_flower_cmsg_port_type {
650 NFP_FLOWER_CMSG_PORT_TYPE_UNSPEC = 0x0,
651 NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT = 0x1,
652 NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT = 0x2,
653 NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT = 0x3,
654 };
655
656 enum nfp_flower_cmsg_port_vnic_type {
657 NFP_FLOWER_CMSG_PORT_VNIC_TYPE_VF = 0x0,
658 NFP_FLOWER_CMSG_PORT_VNIC_TYPE_PF = 0x1,
659 NFP_FLOWER_CMSG_PORT_VNIC_TYPE_CTRL = 0x2,
660 };
661
662 #define NFP_FLOWER_CMSG_PORT_TYPE GENMASK(31, 28)
663 #define NFP_FLOWER_CMSG_PORT_SYS_ID GENMASK(27, 24)
664 #define NFP_FLOWER_CMSG_PORT_NFP_ID GENMASK(23, 22)
665 #define NFP_FLOWER_CMSG_PORT_PCI GENMASK(15, 14)
666 #define NFP_FLOWER_CMSG_PORT_VNIC_TYPE GENMASK(13, 12)
667 #define NFP_FLOWER_CMSG_PORT_VNIC GENMASK(11, 6)
668 #define NFP_FLOWER_CMSG_PORT_PCIE_Q GENMASK(5, 0)
669 #define NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM GENMASK(7, 0)
670
nfp_flower_internal_port_get_port_id(u8 internal_port)671 static inline u32 nfp_flower_internal_port_get_port_id(u8 internal_port)
672 {
673 return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, internal_port) |
674 FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
675 NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT);
676 }
677
nfp_flower_cmsg_phys_port(u8 phys_port)678 static inline u32 nfp_flower_cmsg_phys_port(u8 phys_port)
679 {
680 return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, phys_port) |
681 FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
682 NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT);
683 }
684
685 static inline u32
nfp_flower_cmsg_pcie_port(u8 nfp_pcie,enum nfp_flower_cmsg_port_vnic_type type,u8 vnic,u8 q)686 nfp_flower_cmsg_pcie_port(u8 nfp_pcie, enum nfp_flower_cmsg_port_vnic_type type,
687 u8 vnic, u8 q)
688 {
689 return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCI, nfp_pcie) |
690 FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC_TYPE, type) |
691 FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC, vnic) |
692 FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCIE_Q, q) |
693 FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
694 NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT);
695 }
696
nfp_flower_cmsg_get_data(struct sk_buff * skb)697 static inline void *nfp_flower_cmsg_get_data(struct sk_buff *skb)
698 {
699 return (unsigned char *)skb->data + NFP_FLOWER_CMSG_HLEN;
700 }
701
nfp_flower_cmsg_get_data_len(struct sk_buff * skb)702 static inline int nfp_flower_cmsg_get_data_len(struct sk_buff *skb)
703 {
704 return skb->len - NFP_FLOWER_CMSG_HLEN;
705 }
706
707 static inline bool
nfp_fl_netdev_is_tunnel_type(struct net_device * netdev,enum nfp_flower_tun_type tun_type)708 nfp_fl_netdev_is_tunnel_type(struct net_device *netdev,
709 enum nfp_flower_tun_type tun_type)
710 {
711 if (netif_is_vxlan(netdev))
712 return tun_type == NFP_FL_TUNNEL_VXLAN;
713 if (netif_is_gretap(netdev) || netif_is_ip6gretap(netdev))
714 return tun_type == NFP_FL_TUNNEL_GRE;
715 if (netif_is_geneve(netdev))
716 return tun_type == NFP_FL_TUNNEL_GENEVE;
717
718 return false;
719 }
720
nfp_fl_is_netdev_to_offload(struct net_device * netdev)721 static inline bool nfp_fl_is_netdev_to_offload(struct net_device *netdev)
722 {
723 if (!netdev->rtnl_link_ops)
724 return false;
725 if (!strcmp(netdev->rtnl_link_ops->kind, "openvswitch"))
726 return true;
727 if (netif_is_vxlan(netdev))
728 return true;
729 if (netif_is_geneve(netdev))
730 return true;
731 if (netif_is_gretap(netdev))
732 return true;
733 if (netif_is_ip6gretap(netdev))
734 return true;
735
736 return false;
737 }
738
739 struct sk_buff *
740 nfp_flower_cmsg_mac_repr_start(struct nfp_app *app, unsigned int num_ports);
741 void
742 nfp_flower_cmsg_mac_repr_add(struct sk_buff *skb, unsigned int idx,
743 unsigned int nbi, unsigned int nbi_port,
744 unsigned int phys_port);
745 int nfp_flower_cmsg_portmod(struct nfp_repr *repr, bool carrier_ok,
746 unsigned int mtu, bool mtu_only);
747 int nfp_flower_cmsg_portreify(struct nfp_repr *repr, bool exists);
748 void nfp_flower_cmsg_process_rx(struct work_struct *work);
749 void nfp_flower_cmsg_rx(struct nfp_app *app, struct sk_buff *skb);
750 struct sk_buff *
751 nfp_flower_cmsg_alloc(struct nfp_app *app, unsigned int size,
752 enum nfp_flower_cmsg_type_port type, gfp_t flag);
753
754 #endif
755