1 /* SPDX-License-Identifier: (GPL-2.0-only OR BSD-2-Clause) */
2 /* Copyright (C) 2017-2018 Netronome Systems, Inc. */
3 
4 #ifndef NFP_FLOWER_CMSG_H
5 #define NFP_FLOWER_CMSG_H
6 
7 #include <linux/bitfield.h>
8 #include <linux/skbuff.h>
9 #include <linux/types.h>
10 #include <net/geneve.h>
11 #include <net/gre.h>
12 #include <net/vxlan.h>
13 
14 #include "../nfp_app.h"
15 #include "../nfpcore/nfp_cpp.h"
16 
17 #define NFP_FLOWER_LAYER_EXT_META	BIT(0)
18 #define NFP_FLOWER_LAYER_PORT		BIT(1)
19 #define NFP_FLOWER_LAYER_MAC		BIT(2)
20 #define NFP_FLOWER_LAYER_TP		BIT(3)
21 #define NFP_FLOWER_LAYER_IPV4		BIT(4)
22 #define NFP_FLOWER_LAYER_IPV6		BIT(5)
23 #define NFP_FLOWER_LAYER_CT		BIT(6)
24 #define NFP_FLOWER_LAYER_VXLAN		BIT(7)
25 
26 #define NFP_FLOWER_LAYER2_GRE		BIT(0)
27 #define NFP_FLOWER_LAYER2_QINQ		BIT(4)
28 #define NFP_FLOWER_LAYER2_GENEVE	BIT(5)
29 #define NFP_FLOWER_LAYER2_GENEVE_OP	BIT(6)
30 #define NFP_FLOWER_LAYER2_TUN_IPV6	BIT(7)
31 
32 #define NFP_FLOWER_MASK_VLAN_PRIO	GENMASK(15, 13)
33 #define NFP_FLOWER_MASK_VLAN_PRESENT	BIT(12)
34 #define NFP_FLOWER_MASK_VLAN_VID	GENMASK(11, 0)
35 
36 #define NFP_FLOWER_MASK_MPLS_LB		GENMASK(31, 12)
37 #define NFP_FLOWER_MASK_MPLS_TC		GENMASK(11, 9)
38 #define NFP_FLOWER_MASK_MPLS_BOS	BIT(8)
39 #define NFP_FLOWER_MASK_MPLS_Q		BIT(0)
40 
41 #define NFP_FL_IP_FRAG_FIRST		BIT(7)
42 #define NFP_FL_IP_FRAGMENTED		BIT(6)
43 
44 /* GRE Tunnel flags */
45 #define NFP_FL_GRE_FLAG_KEY		BIT(2)
46 
47 /* Compressed HW representation of TCP Flags */
48 #define NFP_FL_TCP_FLAG_URG		BIT(4)
49 #define NFP_FL_TCP_FLAG_PSH		BIT(3)
50 #define NFP_FL_TCP_FLAG_RST		BIT(2)
51 #define NFP_FL_TCP_FLAG_SYN		BIT(1)
52 #define NFP_FL_TCP_FLAG_FIN		BIT(0)
53 
54 #define NFP_FL_SC_ACT_DROP		0x80000000
55 #define NFP_FL_SC_ACT_USER		0x7D000000
56 #define NFP_FL_SC_ACT_POPV		0x6A000000
57 #define NFP_FL_SC_ACT_NULL		0x00000000
58 
59 /* The maximum action list size (in bytes) supported by the NFP.
60  */
61 #define NFP_FL_MAX_A_SIZ		1216
62 #define NFP_FL_LW_SIZ			2
63 
64 /* Maximum allowed geneve options */
65 #define NFP_FL_MAX_GENEVE_OPT_ACT	32
66 #define NFP_FL_MAX_GENEVE_OPT_CNT	64
67 #define NFP_FL_MAX_GENEVE_OPT_KEY	32
68 #define NFP_FL_MAX_GENEVE_OPT_KEY_V6	8
69 
70 /* Action opcodes */
71 #define NFP_FL_ACTION_OPCODE_OUTPUT		0
72 #define NFP_FL_ACTION_OPCODE_PUSH_VLAN		1
73 #define NFP_FL_ACTION_OPCODE_POP_VLAN		2
74 #define NFP_FL_ACTION_OPCODE_PUSH_MPLS		3
75 #define NFP_FL_ACTION_OPCODE_POP_MPLS		4
76 #define NFP_FL_ACTION_OPCODE_SET_TUNNEL		6
77 #define NFP_FL_ACTION_OPCODE_SET_ETHERNET	7
78 #define NFP_FL_ACTION_OPCODE_SET_MPLS		8
79 #define NFP_FL_ACTION_OPCODE_SET_IPV4_ADDRS	9
80 #define NFP_FL_ACTION_OPCODE_SET_IPV4_TTL_TOS	10
81 #define NFP_FL_ACTION_OPCODE_SET_IPV6_SRC	11
82 #define NFP_FL_ACTION_OPCODE_SET_IPV6_DST	12
83 #define NFP_FL_ACTION_OPCODE_SET_IPV6_TC_HL_FL	13
84 #define NFP_FL_ACTION_OPCODE_SET_UDP		14
85 #define NFP_FL_ACTION_OPCODE_SET_TCP		15
86 #define NFP_FL_ACTION_OPCODE_PRE_LAG		16
87 #define NFP_FL_ACTION_OPCODE_PRE_TUNNEL		17
88 #define NFP_FL_ACTION_OPCODE_METER		24
89 #define NFP_FL_ACTION_OPCODE_PUSH_GENEVE	26
90 #define NFP_FL_ACTION_OPCODE_NUM		32
91 
92 #define NFP_FL_OUT_FLAGS_LAST		BIT(15)
93 #define NFP_FL_OUT_FLAGS_USE_TUN	BIT(4)
94 #define NFP_FL_OUT_FLAGS_TYPE_IDX	GENMASK(2, 0)
95 
96 #define NFP_FL_PUSH_VLAN_PRIO		GENMASK(15, 13)
97 #define NFP_FL_PUSH_VLAN_VID		GENMASK(11, 0)
98 
99 #define IPV6_FLOW_LABEL_MASK		cpu_to_be32(0x000fffff)
100 
101 /* LAG ports */
102 #define NFP_FL_LAG_OUT			0xC0DE0000
103 
104 /* Tunnel ports */
105 #define NFP_FL_PORT_TYPE_TUN		0x50000000
106 #define NFP_FL_TUNNEL_TYPE		GENMASK(7, 4)
107 #define NFP_FL_PRE_TUN_INDEX		GENMASK(2, 0)
108 
109 #define NFP_FLOWER_WORKQ_MAX_SKBS	30000
110 
111 /* Cmesg reply (empirical) timeout*/
112 #define NFP_FL_REPLY_TIMEOUT		msecs_to_jiffies(40)
113 
114 #define nfp_flower_cmsg_warn(app, fmt, args...)                         \
115 	do {                                                            \
116 		if (net_ratelimit())                                    \
117 			nfp_warn((app)->cpp, fmt, ## args);             \
118 	} while (0)
119 
120 enum nfp_flower_tun_type {
121 	NFP_FL_TUNNEL_NONE =	0,
122 	NFP_FL_TUNNEL_GRE =	1,
123 	NFP_FL_TUNNEL_VXLAN =	2,
124 	NFP_FL_TUNNEL_GENEVE =	4,
125 };
126 
127 struct nfp_fl_act_head {
128 	u8 jump_id;
129 	u8 len_lw;
130 };
131 
132 struct nfp_fl_set_eth {
133 	struct nfp_fl_act_head head;
134 	__be16 reserved;
135 	u8 eth_addr_mask[ETH_ALEN * 2];
136 	u8 eth_addr_val[ETH_ALEN * 2];
137 };
138 
139 struct nfp_fl_set_ip4_addrs {
140 	struct nfp_fl_act_head head;
141 	__be16 reserved;
142 	__be32 ipv4_src_mask;
143 	__be32 ipv4_src;
144 	__be32 ipv4_dst_mask;
145 	__be32 ipv4_dst;
146 };
147 
148 struct nfp_fl_set_ip4_ttl_tos {
149 	struct nfp_fl_act_head head;
150 	u8 ipv4_ttl_mask;
151 	u8 ipv4_tos_mask;
152 	u8 ipv4_ttl;
153 	u8 ipv4_tos;
154 	__be16 reserved;
155 };
156 
157 struct nfp_fl_set_ipv6_tc_hl_fl {
158 	struct nfp_fl_act_head head;
159 	u8 ipv6_tc_mask;
160 	u8 ipv6_hop_limit_mask;
161 	__be16 reserved;
162 	u8 ipv6_tc;
163 	u8 ipv6_hop_limit;
164 	__be32 ipv6_label_mask;
165 	__be32 ipv6_label;
166 };
167 
168 struct nfp_fl_set_ipv6_addr {
169 	struct nfp_fl_act_head head;
170 	__be16 reserved;
171 	struct {
172 		__be32 mask;
173 		__be32 exact;
174 	} ipv6[4];
175 };
176 
177 struct nfp_fl_set_tport {
178 	struct nfp_fl_act_head head;
179 	__be16 reserved;
180 	u8 tp_port_mask[4];
181 	u8 tp_port_val[4];
182 };
183 
184 struct nfp_fl_output {
185 	struct nfp_fl_act_head head;
186 	__be16 flags;
187 	__be32 port;
188 };
189 
190 struct nfp_fl_push_vlan {
191 	struct nfp_fl_act_head head;
192 	__be16 reserved;
193 	__be16 vlan_tpid;
194 	__be16 vlan_tci;
195 };
196 
197 struct nfp_fl_pop_vlan {
198 	struct nfp_fl_act_head head;
199 	__be16 reserved;
200 };
201 
202 struct nfp_fl_pre_lag {
203 	struct nfp_fl_act_head head;
204 	__be16 group_id;
205 	u8 lag_version[3];
206 	u8 instance;
207 };
208 
209 #define NFP_FL_PRE_LAG_VER_OFF	8
210 
211 struct nfp_fl_pre_tunnel {
212 	struct nfp_fl_act_head head;
213 	__be16 flags;
214 	union {
215 		__be32 ipv4_dst;
216 		struct in6_addr ipv6_dst;
217 	};
218 };
219 
220 #define NFP_FL_PRE_TUN_IPV6	BIT(0)
221 
222 struct nfp_fl_set_tun {
223 	struct nfp_fl_act_head head;
224 	__be16 reserved;
225 	__be64 tun_id __packed;
226 	__be32 tun_type_index;
227 	__be16 tun_flags;
228 	u8 ttl;
229 	u8 tos;
230 	__be16 outer_vlan_tpid;
231 	__be16 outer_vlan_tci;
232 	u8 tun_len;
233 	u8 res2;
234 	__be16 tun_proto;
235 };
236 
237 struct nfp_fl_push_geneve {
238 	struct nfp_fl_act_head head;
239 	__be16 reserved;
240 	__be16 class;
241 	u8 type;
242 	u8 length;
243 	u8 opt_data[];
244 };
245 
246 struct nfp_fl_push_mpls {
247 	struct nfp_fl_act_head head;
248 	__be16 ethtype;
249 	__be32 lse;
250 };
251 
252 struct nfp_fl_pop_mpls {
253 	struct nfp_fl_act_head head;
254 	__be16 ethtype;
255 };
256 
257 struct nfp_fl_set_mpls {
258 	struct nfp_fl_act_head head;
259 	__be16 reserved;
260 	__be32 lse_mask;
261 	__be32 lse;
262 };
263 
264 struct nfp_fl_meter {
265 	struct nfp_fl_act_head head;
266 	__be16 reserved;
267 	__be32 meter_id;
268 };
269 
270 /* Metadata with L2 (1W/4B)
271  * ----------------------------------------------------------------
272  *    3                   2                   1
273  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
274  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
275  * |    key_type   |    mask_id    | PCP |p|   vlan outermost VID  |
276  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
277  *                                 ^                               ^
278  *                           NOTE: |             TCI               |
279  *                                 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
280  */
281 struct nfp_flower_meta_tci {
282 	u8 nfp_flow_key_layer;
283 	u8 mask_id;
284 	__be16 tci;
285 };
286 
287 /* Extended metadata for additional key_layers (1W/4B)
288  * ----------------------------------------------------------------
289  *    3                   2                   1
290  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
291  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
292  * |                      nfp_flow_key_layer2                      |
293  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
294  */
295 struct nfp_flower_ext_meta {
296 	__be32 nfp_flow_key_layer2;
297 };
298 
299 /* Port details (1W/4B)
300  * ----------------------------------------------------------------
301  *    3                   2                   1
302  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
303  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
304  * |                         port_ingress                          |
305  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
306  */
307 struct nfp_flower_in_port {
308 	__be32 in_port;
309 };
310 
311 /* L2 details (4W/16B)
312  *    3                   2                   1
313  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
314  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
315  * |                     mac_addr_dst, 31 - 0                      |
316  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
317  * |      mac_addr_dst, 47 - 32    |     mac_addr_src, 15 - 0      |
318  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
319  * |                     mac_addr_src, 47 - 16                     |
320  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
321  * |       mpls outermost label            |  TC |B|   reserved  |q|
322  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
323  */
324 struct nfp_flower_mac_mpls {
325 	u8 mac_dst[6];
326 	u8 mac_src[6];
327 	__be32 mpls_lse;
328 };
329 
330 /* VLAN details (2W/8B)
331  *    3                   2                   1
332  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
333  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
334  * |           outer_tpid          |           outer_tci           |
335  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
336  * |           inner_tpid          |           inner_tci           |
337  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
338  */
339 struct nfp_flower_vlan {
340 	__be16 outer_tpid;
341 	__be16 outer_tci;
342 	__be16 inner_tpid;
343 	__be16 inner_tci;
344 };
345 
346 /* L4 ports (for UDP, TCP, SCTP) (1W/4B)
347  *    3                   2                   1
348  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
349  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
350  * |            port_src           |           port_dst            |
351  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
352  */
353 struct nfp_flower_tp_ports {
354 	__be16 port_src;
355 	__be16 port_dst;
356 };
357 
358 struct nfp_flower_ip_ext {
359 	u8 tos;
360 	u8 proto;
361 	u8 ttl;
362 	u8 flags;
363 };
364 
365 /* L3 IPv4 details (3W/12B)
366  *    3                   2                   1
367  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
368  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
369  * |    DSCP   |ECN|   protocol    |      ttl      |     flags     |
370  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
371  * |                        ipv4_addr_src                          |
372  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
373  * |                        ipv4_addr_dst                          |
374  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
375  */
376 struct nfp_flower_ipv4 {
377 	struct nfp_flower_ip_ext ip_ext;
378 	__be32 ipv4_src;
379 	__be32 ipv4_dst;
380 };
381 
382 /* L3 IPv6 details (10W/40B)
383  *    3                   2                   1
384  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
385  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
386  * |    DSCP   |ECN|   protocol    |      ttl      |     flags     |
387  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
388  * |   ipv6_exthdr   | res |            ipv6_flow_label            |
389  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
390  * |                  ipv6_addr_src,   31 - 0                      |
391  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
392  * |                  ipv6_addr_src,  63 - 32                      |
393  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
394  * |                  ipv6_addr_src,  95 - 64                      |
395  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
396  * |                  ipv6_addr_src, 127 - 96                      |
397  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
398  * |                  ipv6_addr_dst,   31 - 0                      |
399  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
400  * |                  ipv6_addr_dst,  63 - 32                      |
401  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
402  * |                  ipv6_addr_dst,  95 - 64                      |
403  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
404  * |                  ipv6_addr_dst, 127 - 96                      |
405  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
406  */
407 struct nfp_flower_ipv6 {
408 	struct nfp_flower_ip_ext ip_ext;
409 	__be32 ipv6_flow_label_exthdr;
410 	struct in6_addr ipv6_src;
411 	struct in6_addr ipv6_dst;
412 };
413 
414 struct nfp_flower_tun_ipv4 {
415 	__be32 src;
416 	__be32 dst;
417 };
418 
419 struct nfp_flower_tun_ipv6 {
420 	struct in6_addr src;
421 	struct in6_addr dst;
422 };
423 
424 struct nfp_flower_tun_ip_ext {
425 	u8 tos;
426 	u8 ttl;
427 };
428 
429 /* Flow Frame IPv4 UDP TUNNEL --> Tunnel details (4W/16B)
430  * -----------------------------------------------------------------
431  *    3                   2                   1
432  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
433  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
434  * |                         ipv4_addr_src                         |
435  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
436  * |                         ipv4_addr_dst                         |
437  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
438  * |           Reserved            |      tos      |      ttl      |
439  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
440  * |                            Reserved                           |
441  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
442  * |                     VNI                       |   Reserved    |
443  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
444  */
445 struct nfp_flower_ipv4_udp_tun {
446 	struct nfp_flower_tun_ipv4 ipv4;
447 	__be16 reserved1;
448 	struct nfp_flower_tun_ip_ext ip_ext;
449 	__be32 reserved2;
450 	__be32 tun_id;
451 };
452 
453 /* Flow Frame IPv6 UDP TUNNEL --> Tunnel details (11W/44B)
454  * -----------------------------------------------------------------
455  *    3                   2                   1
456  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
457  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
458  * |                  ipv6_addr_src,   31 - 0                      |
459  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
460  * |                  ipv6_addr_src,  63 - 32                      |
461  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
462  * |                  ipv6_addr_src,  95 - 64                      |
463  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
464  * |                  ipv6_addr_src, 127 - 96                      |
465  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
466  * |                  ipv6_addr_dst,   31 - 0                      |
467  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
468  * |                  ipv6_addr_dst,  63 - 32                      |
469  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
470  * |                  ipv6_addr_dst,  95 - 64                      |
471  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
472  * |                  ipv6_addr_dst, 127 - 96                      |
473  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
474  * |           Reserved            |      tos      |      ttl      |
475  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
476  * |                            Reserved                           |
477  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
478  * |                     VNI                       |   Reserved    |
479  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
480  */
481 struct nfp_flower_ipv6_udp_tun {
482 	struct nfp_flower_tun_ipv6 ipv6;
483 	__be16 reserved1;
484 	struct nfp_flower_tun_ip_ext ip_ext;
485 	__be32 reserved2;
486 	__be32 tun_id;
487 };
488 
489 /* Flow Frame GRE TUNNEL --> Tunnel details (6W/24B)
490  * -----------------------------------------------------------------
491  *    3                   2                   1
492  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
493  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
494  * |                         ipv4_addr_src                         |
495  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
496  * |                         ipv4_addr_dst                         |
497  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
498  * |           tun_flags           |       tos     |       ttl     |
499  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
500  * |            Reserved           |           Ethertype           |
501  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
502  * |                              Key                              |
503  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
504  * |                           Reserved                            |
505  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
506  */
507 
508 struct nfp_flower_ipv4_gre_tun {
509 	struct nfp_flower_tun_ipv4 ipv4;
510 	__be16 tun_flags;
511 	struct nfp_flower_tun_ip_ext ip_ext;
512 	__be16 reserved1;
513 	__be16 ethertype;
514 	__be32 tun_key;
515 	__be32 reserved2;
516 };
517 
518 /* Flow Frame GRE TUNNEL V6 --> Tunnel details (12W/48B)
519  * -----------------------------------------------------------------
520  *    3                   2                   1
521  *  1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0 9 8 7 6 5 4 3 2 1 0
522  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
523  * |                  ipv6_addr_src,   31 - 0                      |
524  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
525  * |                  ipv6_addr_src,  63 - 32                      |
526  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
527  * |                  ipv6_addr_src,  95 - 64                      |
528  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
529  * |                  ipv6_addr_src, 127 - 96                      |
530  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
531  * |                  ipv6_addr_dst,   31 - 0                      |
532  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
533  * |                  ipv6_addr_dst,  63 - 32                      |
534  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
535  * |                  ipv6_addr_dst,  95 - 64                      |
536  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
537  * |                  ipv6_addr_dst, 127 - 96                      |
538  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
539  * |           tun_flags           |       tos     |       ttl     |
540  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
541  * |            Reserved           |           Ethertype           |
542  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
543  * |                              Key                              |
544  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
545  * |                           Reserved                            |
546  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
547  */
548 struct nfp_flower_ipv6_gre_tun {
549 	struct nfp_flower_tun_ipv6 ipv6;
550 	__be16 tun_flags;
551 	struct nfp_flower_tun_ip_ext ip_ext;
552 	__be16 reserved1;
553 	__be16 ethertype;
554 	__be32 tun_key;
555 	__be32 reserved2;
556 };
557 
558 struct nfp_flower_geneve_options {
559 	u8 data[NFP_FL_MAX_GENEVE_OPT_KEY];
560 };
561 
562 #define NFP_FL_TUN_VNI_OFFSET 8
563 
564 /* The base header for a control message packet.
565  * Defines an 8-bit version, and an 8-bit type, padded
566  * to a 32-bit word. Rest of the packet is type-specific.
567  */
568 struct nfp_flower_cmsg_hdr {
569 	__be16 pad;
570 	u8 type;
571 	u8 version;
572 };
573 
574 #define NFP_FLOWER_CMSG_HLEN		sizeof(struct nfp_flower_cmsg_hdr)
575 #define NFP_FLOWER_CMSG_VER1		1
576 
577 /* Types defined for port related control messages  */
578 enum nfp_flower_cmsg_type_port {
579 	NFP_FLOWER_CMSG_TYPE_FLOW_ADD =		0,
580 	NFP_FLOWER_CMSG_TYPE_FLOW_MOD =		1,
581 	NFP_FLOWER_CMSG_TYPE_FLOW_DEL =		2,
582 	NFP_FLOWER_CMSG_TYPE_LAG_CONFIG =	4,
583 	NFP_FLOWER_CMSG_TYPE_PORT_REIFY =	6,
584 	NFP_FLOWER_CMSG_TYPE_MAC_REPR =		7,
585 	NFP_FLOWER_CMSG_TYPE_PORT_MOD =		8,
586 	NFP_FLOWER_CMSG_TYPE_MERGE_HINT =	9,
587 	NFP_FLOWER_CMSG_TYPE_NO_NEIGH =		10,
588 	NFP_FLOWER_CMSG_TYPE_TUN_MAC =		11,
589 	NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS =	12,
590 	NFP_FLOWER_CMSG_TYPE_TUN_NEIGH =	13,
591 	NFP_FLOWER_CMSG_TYPE_TUN_IPS =		14,
592 	NFP_FLOWER_CMSG_TYPE_FLOW_STATS =	15,
593 	NFP_FLOWER_CMSG_TYPE_PORT_ECHO =	16,
594 	NFP_FLOWER_CMSG_TYPE_QOS_MOD =		18,
595 	NFP_FLOWER_CMSG_TYPE_QOS_DEL =		19,
596 	NFP_FLOWER_CMSG_TYPE_QOS_STATS =	20,
597 	NFP_FLOWER_CMSG_TYPE_PRE_TUN_RULE =	21,
598 	NFP_FLOWER_CMSG_TYPE_TUN_IPS_V6 =	22,
599 	NFP_FLOWER_CMSG_TYPE_NO_NEIGH_V6 =	23,
600 	NFP_FLOWER_CMSG_TYPE_TUN_NEIGH_V6 =	24,
601 	NFP_FLOWER_CMSG_TYPE_ACTIVE_TUNS_V6 =	25,
602 	NFP_FLOWER_CMSG_TYPE_MAX =		32,
603 };
604 
605 /* NFP_FLOWER_CMSG_TYPE_MAC_REPR */
606 struct nfp_flower_cmsg_mac_repr {
607 	u8 reserved[3];
608 	u8 num_ports;
609 	struct {
610 		u8 idx;
611 		u8 info;
612 		u8 nbi_port;
613 		u8 phys_port;
614 	} ports[];
615 };
616 
617 #define NFP_FLOWER_CMSG_MAC_REPR_NBI		GENMASK(1, 0)
618 
619 /* NFP_FLOWER_CMSG_TYPE_PORT_MOD */
620 struct nfp_flower_cmsg_portmod {
621 	__be32 portnum;
622 	u8 reserved;
623 	u8 info;
624 	__be16 mtu;
625 };
626 
627 #define NFP_FLOWER_CMSG_PORTMOD_INFO_LINK	BIT(0)
628 #define NFP_FLOWER_CMSG_PORTMOD_MTU_CHANGE_ONLY	BIT(1)
629 
630 /* NFP_FLOWER_CMSG_TYPE_PORT_REIFY */
631 struct nfp_flower_cmsg_portreify {
632 	__be32 portnum;
633 	u16 reserved;
634 	__be16 info;
635 };
636 
637 #define NFP_FLOWER_CMSG_PORTREIFY_INFO_EXIST	BIT(0)
638 
639 /* NFP_FLOWER_CMSG_TYPE_FLOW_MERGE_HINT */
640 struct nfp_flower_cmsg_merge_hint {
641 	u8 reserved[3];
642 	u8 count;
643 	struct {
644 		__be32 host_ctx;
645 		__be64 host_cookie;
646 	} __packed flow[];
647 };
648 
649 enum nfp_flower_cmsg_port_type {
650 	NFP_FLOWER_CMSG_PORT_TYPE_UNSPEC =	0x0,
651 	NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT =	0x1,
652 	NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT =	0x2,
653 	NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT =  0x3,
654 };
655 
656 enum nfp_flower_cmsg_port_vnic_type {
657 	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_VF =	0x0,
658 	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_PF =	0x1,
659 	NFP_FLOWER_CMSG_PORT_VNIC_TYPE_CTRL =	0x2,
660 };
661 
662 #define NFP_FLOWER_CMSG_PORT_TYPE		GENMASK(31, 28)
663 #define NFP_FLOWER_CMSG_PORT_SYS_ID		GENMASK(27, 24)
664 #define NFP_FLOWER_CMSG_PORT_NFP_ID		GENMASK(23, 22)
665 #define NFP_FLOWER_CMSG_PORT_PCI		GENMASK(15, 14)
666 #define NFP_FLOWER_CMSG_PORT_VNIC_TYPE		GENMASK(13, 12)
667 #define NFP_FLOWER_CMSG_PORT_VNIC		GENMASK(11, 6)
668 #define NFP_FLOWER_CMSG_PORT_PCIE_Q		GENMASK(5, 0)
669 #define NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM	GENMASK(7, 0)
670 
671 static inline u32 nfp_flower_internal_port_get_port_id(u8 internal_port)
672 {
673 	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, internal_port) |
674 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
675 			   NFP_FLOWER_CMSG_PORT_TYPE_OTHER_PORT);
676 }
677 
678 static inline u32 nfp_flower_cmsg_phys_port(u8 phys_port)
679 {
680 	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PHYS_PORT_NUM, phys_port) |
681 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
682 			   NFP_FLOWER_CMSG_PORT_TYPE_PHYS_PORT);
683 }
684 
685 static inline u32
686 nfp_flower_cmsg_pcie_port(u8 nfp_pcie, enum nfp_flower_cmsg_port_vnic_type type,
687 			  u8 vnic, u8 q)
688 {
689 	return FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCI, nfp_pcie) |
690 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC_TYPE, type) |
691 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_VNIC, vnic) |
692 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_PCIE_Q, q) |
693 		FIELD_PREP(NFP_FLOWER_CMSG_PORT_TYPE,
694 			   NFP_FLOWER_CMSG_PORT_TYPE_PCIE_PORT);
695 }
696 
697 static inline void *nfp_flower_cmsg_get_data(struct sk_buff *skb)
698 {
699 	return (unsigned char *)skb->data + NFP_FLOWER_CMSG_HLEN;
700 }
701 
702 static inline int nfp_flower_cmsg_get_data_len(struct sk_buff *skb)
703 {
704 	return skb->len - NFP_FLOWER_CMSG_HLEN;
705 }
706 
707 static inline bool
708 nfp_fl_netdev_is_tunnel_type(struct net_device *netdev,
709 			     enum nfp_flower_tun_type tun_type)
710 {
711 	if (netif_is_vxlan(netdev))
712 		return tun_type == NFP_FL_TUNNEL_VXLAN;
713 	if (netif_is_gretap(netdev) || netif_is_ip6gretap(netdev))
714 		return tun_type == NFP_FL_TUNNEL_GRE;
715 	if (netif_is_geneve(netdev))
716 		return tun_type == NFP_FL_TUNNEL_GENEVE;
717 
718 	return false;
719 }
720 
721 static inline bool nfp_fl_is_netdev_to_offload(struct net_device *netdev)
722 {
723 	if (!netdev->rtnl_link_ops)
724 		return false;
725 	if (!strcmp(netdev->rtnl_link_ops->kind, "openvswitch"))
726 		return true;
727 	if (netif_is_vxlan(netdev))
728 		return true;
729 	if (netif_is_geneve(netdev))
730 		return true;
731 	if (netif_is_gretap(netdev))
732 		return true;
733 	if (netif_is_ip6gretap(netdev))
734 		return true;
735 
736 	return false;
737 }
738 
739 struct sk_buff *
740 nfp_flower_cmsg_mac_repr_start(struct nfp_app *app, unsigned int num_ports);
741 void
742 nfp_flower_cmsg_mac_repr_add(struct sk_buff *skb, unsigned int idx,
743 			     unsigned int nbi, unsigned int nbi_port,
744 			     unsigned int phys_port);
745 int nfp_flower_cmsg_portmod(struct nfp_repr *repr, bool carrier_ok,
746 			    unsigned int mtu, bool mtu_only);
747 int nfp_flower_cmsg_portreify(struct nfp_repr *repr, bool exists);
748 void nfp_flower_cmsg_process_rx(struct work_struct *work);
749 void nfp_flower_cmsg_rx(struct nfp_app *app, struct sk_buff *skb);
750 struct sk_buff *
751 nfp_flower_cmsg_alloc(struct nfp_app *app, unsigned int size,
752 		      enum nfp_flower_cmsg_type_port type, gfp_t flag);
753 
754 #endif
755