xref: /openbmc/linux/net/xfrm/xfrm_device.c (revision 077fbac4)
121f42cc9SSteffen Klassert /*
221f42cc9SSteffen Klassert  * xfrm_device.c - IPsec device offloading code.
321f42cc9SSteffen Klassert  *
421f42cc9SSteffen Klassert  * Copyright (c) 2015 secunet Security Networks AG
521f42cc9SSteffen Klassert  *
621f42cc9SSteffen Klassert  * Author:
721f42cc9SSteffen Klassert  * Steffen Klassert <steffen.klassert@secunet.com>
821f42cc9SSteffen Klassert  *
921f42cc9SSteffen Klassert  * This program is free software; you can redistribute it and/or
1021f42cc9SSteffen Klassert  * modify it under the terms of the GNU General Public License
1121f42cc9SSteffen Klassert  * as published by the Free Software Foundation; either version
1221f42cc9SSteffen Klassert  * 2 of the License, or (at your option) any later version.
1321f42cc9SSteffen Klassert  */
1421f42cc9SSteffen Klassert 
1521f42cc9SSteffen Klassert #include <linux/errno.h>
1621f42cc9SSteffen Klassert #include <linux/module.h>
1721f42cc9SSteffen Klassert #include <linux/netdevice.h>
1821f42cc9SSteffen Klassert #include <linux/skbuff.h>
1921f42cc9SSteffen Klassert #include <linux/slab.h>
2021f42cc9SSteffen Klassert #include <linux/spinlock.h>
2121f42cc9SSteffen Klassert #include <net/dst.h>
2221f42cc9SSteffen Klassert #include <net/xfrm.h>
2321f42cc9SSteffen Klassert #include <linux/notifier.h>
2421f42cc9SSteffen Klassert 
25b81f884aSHangbin Liu #ifdef CONFIG_XFRM_OFFLOAD
26f6e27114SSteffen Klassert int validate_xmit_xfrm(struct sk_buff *skb, netdev_features_t features)
27f6e27114SSteffen Klassert {
28f6e27114SSteffen Klassert 	int err;
29f6e27114SSteffen Klassert 	struct xfrm_state *x;
30f6e27114SSteffen Klassert 	struct xfrm_offload *xo = xfrm_offload(skb);
31f6e27114SSteffen Klassert 
32f6e27114SSteffen Klassert 	if (skb_is_gso(skb))
33f6e27114SSteffen Klassert 		return 0;
34f6e27114SSteffen Klassert 
35f6e27114SSteffen Klassert 	if (xo) {
36f6e27114SSteffen Klassert 		x = skb->sp->xvec[skb->sp->len - 1];
37f6e27114SSteffen Klassert 		if (xo->flags & XFRM_GRO || x->xso.flags & XFRM_OFFLOAD_INBOUND)
38f6e27114SSteffen Klassert 			return 0;
39f6e27114SSteffen Klassert 
40f6e27114SSteffen Klassert 		x->outer_mode->xmit(x, skb);
41f6e27114SSteffen Klassert 
42f6e27114SSteffen Klassert 		err = x->type_offload->xmit(x, skb, features);
43f6e27114SSteffen Klassert 		if (err) {
44f6e27114SSteffen Klassert 			XFRM_INC_STATS(xs_net(x), LINUX_MIB_XFRMOUTSTATEPROTOERROR);
45f6e27114SSteffen Klassert 			return err;
46f6e27114SSteffen Klassert 		}
47f6e27114SSteffen Klassert 
48f6e27114SSteffen Klassert 		skb_push(skb, skb->data - skb_mac_header(skb));
49f6e27114SSteffen Klassert 	}
50f6e27114SSteffen Klassert 
51f6e27114SSteffen Klassert 	return 0;
52f6e27114SSteffen Klassert }
53f6e27114SSteffen Klassert EXPORT_SYMBOL_GPL(validate_xmit_xfrm);
54f6e27114SSteffen Klassert 
55d77e38e6SSteffen Klassert int xfrm_dev_state_add(struct net *net, struct xfrm_state *x,
56d77e38e6SSteffen Klassert 		       struct xfrm_user_offload *xuo)
57d77e38e6SSteffen Klassert {
58d77e38e6SSteffen Klassert 	int err;
59d77e38e6SSteffen Klassert 	struct dst_entry *dst;
60d77e38e6SSteffen Klassert 	struct net_device *dev;
61d77e38e6SSteffen Klassert 	struct xfrm_state_offload *xso = &x->xso;
62d77e38e6SSteffen Klassert 	xfrm_address_t *saddr;
63d77e38e6SSteffen Klassert 	xfrm_address_t *daddr;
64d77e38e6SSteffen Klassert 
65d77e38e6SSteffen Klassert 	if (!x->type_offload)
66ffdb5211SIlan Tayari 		return -EINVAL;
67d77e38e6SSteffen Klassert 
68d77e38e6SSteffen Klassert 	/* We don't yet support UDP encapsulation, TFC padding and ESN. */
69d77e38e6SSteffen Klassert 	if (x->encap || x->tfcpad || (x->props.flags & XFRM_STATE_ESN))
70d77e38e6SSteffen Klassert 		return 0;
71d77e38e6SSteffen Klassert 
72d77e38e6SSteffen Klassert 	dev = dev_get_by_index(net, xuo->ifindex);
73d77e38e6SSteffen Klassert 	if (!dev) {
74d77e38e6SSteffen Klassert 		if (!(xuo->flags & XFRM_OFFLOAD_INBOUND)) {
75d77e38e6SSteffen Klassert 			saddr = &x->props.saddr;
76d77e38e6SSteffen Klassert 			daddr = &x->id.daddr;
77d77e38e6SSteffen Klassert 		} else {
78d77e38e6SSteffen Klassert 			saddr = &x->id.daddr;
79d77e38e6SSteffen Klassert 			daddr = &x->props.saddr;
80d77e38e6SSteffen Klassert 		}
81d77e38e6SSteffen Klassert 
82077fbac4SLorenzo Colitti 		dst = __xfrm_dst_lookup(net, 0, 0, saddr, daddr,
83077fbac4SLorenzo Colitti 					x->props.family, x->props.output_mark);
84d77e38e6SSteffen Klassert 		if (IS_ERR(dst))
85d77e38e6SSteffen Klassert 			return 0;
86d77e38e6SSteffen Klassert 
87d77e38e6SSteffen Klassert 		dev = dst->dev;
88d77e38e6SSteffen Klassert 
89d77e38e6SSteffen Klassert 		dev_hold(dev);
90d77e38e6SSteffen Klassert 		dst_release(dst);
91d77e38e6SSteffen Klassert 	}
92d77e38e6SSteffen Klassert 
93d77e38e6SSteffen Klassert 	if (!dev->xfrmdev_ops || !dev->xfrmdev_ops->xdo_dev_state_add) {
94d77e38e6SSteffen Klassert 		dev_put(dev);
95d77e38e6SSteffen Klassert 		return 0;
96d77e38e6SSteffen Klassert 	}
97d77e38e6SSteffen Klassert 
98d77e38e6SSteffen Klassert 	xso->dev = dev;
99d77e38e6SSteffen Klassert 	xso->num_exthdrs = 1;
100d77e38e6SSteffen Klassert 	xso->flags = xuo->flags;
101d77e38e6SSteffen Klassert 
102d77e38e6SSteffen Klassert 	err = dev->xfrmdev_ops->xdo_dev_state_add(x);
103d77e38e6SSteffen Klassert 	if (err) {
104d77e38e6SSteffen Klassert 		dev_put(dev);
105d77e38e6SSteffen Klassert 		return err;
106d77e38e6SSteffen Klassert 	}
107d77e38e6SSteffen Klassert 
108d77e38e6SSteffen Klassert 	return 0;
109d77e38e6SSteffen Klassert }
110d77e38e6SSteffen Klassert EXPORT_SYMBOL_GPL(xfrm_dev_state_add);
111d77e38e6SSteffen Klassert 
112d77e38e6SSteffen Klassert bool xfrm_dev_offload_ok(struct sk_buff *skb, struct xfrm_state *x)
113d77e38e6SSteffen Klassert {
114d77e38e6SSteffen Klassert 	int mtu;
115d77e38e6SSteffen Klassert 	struct dst_entry *dst = skb_dst(skb);
116d77e38e6SSteffen Klassert 	struct xfrm_dst *xdst = (struct xfrm_dst *)dst;
117d77e38e6SSteffen Klassert 	struct net_device *dev = x->xso.dev;
118d77e38e6SSteffen Klassert 
119d77e38e6SSteffen Klassert 	if (!x->type_offload || x->encap)
120d77e38e6SSteffen Klassert 		return false;
121d77e38e6SSteffen Klassert 
122d77e38e6SSteffen Klassert 	if ((x->xso.offload_handle && (dev == dst->path->dev)) &&
123d77e38e6SSteffen Klassert 	     !dst->child->xfrm && x->type->get_mtu) {
124d77e38e6SSteffen Klassert 		mtu = x->type->get_mtu(x, xdst->child_mtu_cached);
125d77e38e6SSteffen Klassert 
126d77e38e6SSteffen Klassert 		if (skb->len <= mtu)
127d77e38e6SSteffen Klassert 			goto ok;
128d77e38e6SSteffen Klassert 
129d77e38e6SSteffen Klassert 		if (skb_is_gso(skb) && skb_gso_validate_mtu(skb, mtu))
130d77e38e6SSteffen Klassert 			goto ok;
131d77e38e6SSteffen Klassert 	}
132d77e38e6SSteffen Klassert 
133d77e38e6SSteffen Klassert 	return false;
134d77e38e6SSteffen Klassert 
135d77e38e6SSteffen Klassert ok:
136d77e38e6SSteffen Klassert 	if (dev && dev->xfrmdev_ops && dev->xfrmdev_ops->xdo_dev_offload_ok)
137d77e38e6SSteffen Klassert 		return x->xso.dev->xfrmdev_ops->xdo_dev_offload_ok(skb, x);
138d77e38e6SSteffen Klassert 
139d77e38e6SSteffen Klassert 	return true;
140d77e38e6SSteffen Klassert }
141d77e38e6SSteffen Klassert EXPORT_SYMBOL_GPL(xfrm_dev_offload_ok);
142b81f884aSHangbin Liu #endif
143d77e38e6SSteffen Klassert 
14424d472e4SWei Yongjun static int xfrm_dev_register(struct net_device *dev)
145d77e38e6SSteffen Klassert {
146d77e38e6SSteffen Klassert 	if ((dev->features & NETIF_F_HW_ESP) && !dev->xfrmdev_ops)
147d77e38e6SSteffen Klassert 		return NOTIFY_BAD;
148d77e38e6SSteffen Klassert 	if ((dev->features & NETIF_F_HW_ESP_TX_CSUM) &&
149d77e38e6SSteffen Klassert 	    !(dev->features & NETIF_F_HW_ESP))
150d77e38e6SSteffen Klassert 		return NOTIFY_BAD;
151d77e38e6SSteffen Klassert 
152d77e38e6SSteffen Klassert 	return NOTIFY_DONE;
153d77e38e6SSteffen Klassert }
154d77e38e6SSteffen Klassert 
155d77e38e6SSteffen Klassert static int xfrm_dev_unregister(struct net_device *dev)
156d77e38e6SSteffen Klassert {
157ec30d78cSFlorian Westphal 	xfrm_policy_cache_flush();
158d77e38e6SSteffen Klassert 	return NOTIFY_DONE;
159d77e38e6SSteffen Klassert }
160d77e38e6SSteffen Klassert 
161d77e38e6SSteffen Klassert static int xfrm_dev_feat_change(struct net_device *dev)
162d77e38e6SSteffen Klassert {
163d77e38e6SSteffen Klassert 	if ((dev->features & NETIF_F_HW_ESP) && !dev->xfrmdev_ops)
164d77e38e6SSteffen Klassert 		return NOTIFY_BAD;
165d77e38e6SSteffen Klassert 	else if (!(dev->features & NETIF_F_HW_ESP))
166d77e38e6SSteffen Klassert 		dev->xfrmdev_ops = NULL;
167d77e38e6SSteffen Klassert 
168d77e38e6SSteffen Klassert 	if ((dev->features & NETIF_F_HW_ESP_TX_CSUM) &&
169d77e38e6SSteffen Klassert 	    !(dev->features & NETIF_F_HW_ESP))
170d77e38e6SSteffen Klassert 		return NOTIFY_BAD;
171d77e38e6SSteffen Klassert 
172d77e38e6SSteffen Klassert 	return NOTIFY_DONE;
173d77e38e6SSteffen Klassert }
174d77e38e6SSteffen Klassert 
175d77e38e6SSteffen Klassert static int xfrm_dev_down(struct net_device *dev)
176d77e38e6SSteffen Klassert {
1772c1497bbSIlan Tayari 	if (dev->features & NETIF_F_HW_ESP)
178d77e38e6SSteffen Klassert 		xfrm_dev_state_flush(dev_net(dev), dev, true);
179d77e38e6SSteffen Klassert 
180ec30d78cSFlorian Westphal 	xfrm_policy_cache_flush();
181d77e38e6SSteffen Klassert 	return NOTIFY_DONE;
182d77e38e6SSteffen Klassert }
183d77e38e6SSteffen Klassert 
18421f42cc9SSteffen Klassert static int xfrm_dev_event(struct notifier_block *this, unsigned long event, void *ptr)
18521f42cc9SSteffen Klassert {
18621f42cc9SSteffen Klassert 	struct net_device *dev = netdev_notifier_info_to_dev(ptr);
18721f42cc9SSteffen Klassert 
18821f42cc9SSteffen Klassert 	switch (event) {
189d77e38e6SSteffen Klassert 	case NETDEV_REGISTER:
190d77e38e6SSteffen Klassert 		return xfrm_dev_register(dev);
191d77e38e6SSteffen Klassert 
192d77e38e6SSteffen Klassert 	case NETDEV_UNREGISTER:
193d77e38e6SSteffen Klassert 		return xfrm_dev_unregister(dev);
194d77e38e6SSteffen Klassert 
195d77e38e6SSteffen Klassert 	case NETDEV_FEAT_CHANGE:
196d77e38e6SSteffen Klassert 		return xfrm_dev_feat_change(dev);
197d77e38e6SSteffen Klassert 
19821f42cc9SSteffen Klassert 	case NETDEV_DOWN:
199d77e38e6SSteffen Klassert 		return xfrm_dev_down(dev);
20021f42cc9SSteffen Klassert 	}
20121f42cc9SSteffen Klassert 	return NOTIFY_DONE;
20221f42cc9SSteffen Klassert }
20321f42cc9SSteffen Klassert 
20421f42cc9SSteffen Klassert static struct notifier_block xfrm_dev_notifier = {
20521f42cc9SSteffen Klassert 	.notifier_call	= xfrm_dev_event,
20621f42cc9SSteffen Klassert };
20721f42cc9SSteffen Klassert 
20821f42cc9SSteffen Klassert void __net_init xfrm_dev_init(void)
20921f42cc9SSteffen Klassert {
21021f42cc9SSteffen Klassert 	register_netdevice_notifier(&xfrm_dev_notifier);
21121f42cc9SSteffen Klassert }
212