xref: /openbmc/linux/drivers/net/wireless/broadcom/b43legacy/pio.c (revision cbecf716ca618fd44feda6bd9a64a8179d031fc5)
1ca47d344SThomas Gleixner // SPDX-License-Identifier: GPL-2.0-or-later
2423e3ce3SKalle Valo /*
3423e3ce3SKalle Valo 
4423e3ce3SKalle Valo   Broadcom B43legacy wireless driver
5423e3ce3SKalle Valo 
6423e3ce3SKalle Valo   PIO Transmission
7423e3ce3SKalle Valo 
8423e3ce3SKalle Valo   Copyright (c) 2005 Michael Buesch <m@bues.ch>
9423e3ce3SKalle Valo 
10423e3ce3SKalle Valo 
11423e3ce3SKalle Valo */
12423e3ce3SKalle Valo 
13423e3ce3SKalle Valo #include "b43legacy.h"
14423e3ce3SKalle Valo #include "pio.h"
15423e3ce3SKalle Valo #include "main.h"
16423e3ce3SKalle Valo #include "xmit.h"
17423e3ce3SKalle Valo 
18423e3ce3SKalle Valo #include <linux/delay.h>
19423e3ce3SKalle Valo #include <linux/slab.h>
20423e3ce3SKalle Valo 
21423e3ce3SKalle Valo 
tx_start(struct b43legacy_pioqueue * queue)22423e3ce3SKalle Valo static void tx_start(struct b43legacy_pioqueue *queue)
23423e3ce3SKalle Valo {
24423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
25423e3ce3SKalle Valo 			    B43legacy_PIO_TXCTL_INIT);
26423e3ce3SKalle Valo }
27423e3ce3SKalle Valo 
tx_octet(struct b43legacy_pioqueue * queue,u8 octet)28423e3ce3SKalle Valo static void tx_octet(struct b43legacy_pioqueue *queue,
29423e3ce3SKalle Valo 		     u8 octet)
30423e3ce3SKalle Valo {
31423e3ce3SKalle Valo 	if (queue->need_workarounds) {
32423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXDATA, octet);
33423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
34423e3ce3SKalle Valo 				    B43legacy_PIO_TXCTL_WRITELO);
35423e3ce3SKalle Valo 	} else {
36423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
37423e3ce3SKalle Valo 				    B43legacy_PIO_TXCTL_WRITELO);
38423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXDATA, octet);
39423e3ce3SKalle Valo 	}
40423e3ce3SKalle Valo }
41423e3ce3SKalle Valo 
tx_get_next_word(const u8 * txhdr,const u8 * packet,size_t txhdr_size,unsigned int * pos)42423e3ce3SKalle Valo static u16 tx_get_next_word(const u8 *txhdr,
43423e3ce3SKalle Valo 			    const u8 *packet,
44423e3ce3SKalle Valo 			    size_t txhdr_size,
45423e3ce3SKalle Valo 			    unsigned int *pos)
46423e3ce3SKalle Valo {
47423e3ce3SKalle Valo 	const u8 *source;
48423e3ce3SKalle Valo 	unsigned int i = *pos;
49423e3ce3SKalle Valo 	u16 ret;
50423e3ce3SKalle Valo 
51423e3ce3SKalle Valo 	if (i < txhdr_size)
52423e3ce3SKalle Valo 		source = txhdr;
53423e3ce3SKalle Valo 	else {
54423e3ce3SKalle Valo 		source = packet;
55423e3ce3SKalle Valo 		i -= txhdr_size;
56423e3ce3SKalle Valo 	}
57423e3ce3SKalle Valo 	ret = le16_to_cpu(*((__le16 *)(source + i)));
58423e3ce3SKalle Valo 	*pos += 2;
59423e3ce3SKalle Valo 
60423e3ce3SKalle Valo 	return ret;
61423e3ce3SKalle Valo }
62423e3ce3SKalle Valo 
tx_data(struct b43legacy_pioqueue * queue,u8 * txhdr,const u8 * packet,unsigned int octets)63423e3ce3SKalle Valo static void tx_data(struct b43legacy_pioqueue *queue,
64423e3ce3SKalle Valo 		    u8 *txhdr,
65423e3ce3SKalle Valo 		    const u8 *packet,
66423e3ce3SKalle Valo 		    unsigned int octets)
67423e3ce3SKalle Valo {
68423e3ce3SKalle Valo 	u16 data;
69423e3ce3SKalle Valo 	unsigned int i = 0;
70423e3ce3SKalle Valo 
71423e3ce3SKalle Valo 	if (queue->need_workarounds) {
72423e3ce3SKalle Valo 		data = tx_get_next_word(txhdr, packet,
73423e3ce3SKalle Valo 					sizeof(struct b43legacy_txhdr_fw3), &i);
74423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXDATA, data);
75423e3ce3SKalle Valo 	}
76423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
77423e3ce3SKalle Valo 			    B43legacy_PIO_TXCTL_WRITELO |
78423e3ce3SKalle Valo 			    B43legacy_PIO_TXCTL_WRITEHI);
79423e3ce3SKalle Valo 	while (i < octets - 1) {
80423e3ce3SKalle Valo 		data = tx_get_next_word(txhdr, packet,
81423e3ce3SKalle Valo 					sizeof(struct b43legacy_txhdr_fw3), &i);
82423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXDATA, data);
83423e3ce3SKalle Valo 	}
84423e3ce3SKalle Valo 	if (octets % 2)
85423e3ce3SKalle Valo 		tx_octet(queue, packet[octets -
86423e3ce3SKalle Valo 			 sizeof(struct b43legacy_txhdr_fw3) - 1]);
87423e3ce3SKalle Valo }
88423e3ce3SKalle Valo 
tx_complete(struct b43legacy_pioqueue * queue,struct sk_buff * skb)89423e3ce3SKalle Valo static void tx_complete(struct b43legacy_pioqueue *queue,
90423e3ce3SKalle Valo 			struct sk_buff *skb)
91423e3ce3SKalle Valo {
92423e3ce3SKalle Valo 	if (queue->need_workarounds) {
93423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXDATA,
94423e3ce3SKalle Valo 				    skb->data[skb->len - 1]);
95423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
96423e3ce3SKalle Valo 				    B43legacy_PIO_TXCTL_WRITELO |
97423e3ce3SKalle Valo 				    B43legacy_PIO_TXCTL_COMPLETE);
98423e3ce3SKalle Valo 	} else
99423e3ce3SKalle Valo 		b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
100423e3ce3SKalle Valo 				    B43legacy_PIO_TXCTL_COMPLETE);
101423e3ce3SKalle Valo }
102423e3ce3SKalle Valo 
generate_cookie(struct b43legacy_pioqueue * queue,struct b43legacy_pio_txpacket * packet)103423e3ce3SKalle Valo static u16 generate_cookie(struct b43legacy_pioqueue *queue,
104423e3ce3SKalle Valo 			   struct b43legacy_pio_txpacket *packet)
105423e3ce3SKalle Valo {
106423e3ce3SKalle Valo 	u16 cookie = 0x0000;
107423e3ce3SKalle Valo 	int packetindex;
108423e3ce3SKalle Valo 
109423e3ce3SKalle Valo 	/* We use the upper 4 bits for the PIO
110423e3ce3SKalle Valo 	 * controller ID and the lower 12 bits
111423e3ce3SKalle Valo 	 * for the packet index (in the cache).
112423e3ce3SKalle Valo 	 */
113423e3ce3SKalle Valo 	switch (queue->mmio_base) {
114423e3ce3SKalle Valo 	case B43legacy_MMIO_PIO1_BASE:
115423e3ce3SKalle Valo 		break;
116423e3ce3SKalle Valo 	case B43legacy_MMIO_PIO2_BASE:
117423e3ce3SKalle Valo 		cookie = 0x1000;
118423e3ce3SKalle Valo 		break;
119423e3ce3SKalle Valo 	case B43legacy_MMIO_PIO3_BASE:
120423e3ce3SKalle Valo 		cookie = 0x2000;
121423e3ce3SKalle Valo 		break;
122423e3ce3SKalle Valo 	case B43legacy_MMIO_PIO4_BASE:
123423e3ce3SKalle Valo 		cookie = 0x3000;
124423e3ce3SKalle Valo 		break;
125423e3ce3SKalle Valo 	default:
126423e3ce3SKalle Valo 		B43legacy_WARN_ON(1);
127423e3ce3SKalle Valo 	}
128423e3ce3SKalle Valo 	packetindex = pio_txpacket_getindex(packet);
129423e3ce3SKalle Valo 	B43legacy_WARN_ON(!(((u16)packetindex & 0xF000) == 0x0000));
130423e3ce3SKalle Valo 	cookie |= (u16)packetindex;
131423e3ce3SKalle Valo 
132423e3ce3SKalle Valo 	return cookie;
133423e3ce3SKalle Valo }
134423e3ce3SKalle Valo 
135423e3ce3SKalle Valo static
parse_cookie(struct b43legacy_wldev * dev,u16 cookie,struct b43legacy_pio_txpacket ** packet)136423e3ce3SKalle Valo struct b43legacy_pioqueue *parse_cookie(struct b43legacy_wldev *dev,
137423e3ce3SKalle Valo 					u16 cookie,
138423e3ce3SKalle Valo 					struct b43legacy_pio_txpacket **packet)
139423e3ce3SKalle Valo {
140423e3ce3SKalle Valo 	struct b43legacy_pio *pio = &dev->pio;
141423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue = NULL;
142423e3ce3SKalle Valo 	int packetindex;
143423e3ce3SKalle Valo 
144423e3ce3SKalle Valo 	switch (cookie & 0xF000) {
145423e3ce3SKalle Valo 	case 0x0000:
146423e3ce3SKalle Valo 		queue = pio->queue0;
147423e3ce3SKalle Valo 		break;
148423e3ce3SKalle Valo 	case 0x1000:
149423e3ce3SKalle Valo 		queue = pio->queue1;
150423e3ce3SKalle Valo 		break;
151423e3ce3SKalle Valo 	case 0x2000:
152423e3ce3SKalle Valo 		queue = pio->queue2;
153423e3ce3SKalle Valo 		break;
154423e3ce3SKalle Valo 	case 0x3000:
155423e3ce3SKalle Valo 		queue = pio->queue3;
156423e3ce3SKalle Valo 		break;
157423e3ce3SKalle Valo 	default:
158423e3ce3SKalle Valo 		B43legacy_WARN_ON(1);
159423e3ce3SKalle Valo 	}
160423e3ce3SKalle Valo 	packetindex = (cookie & 0x0FFF);
161423e3ce3SKalle Valo 	B43legacy_WARN_ON(!(packetindex >= 0 && packetindex
162423e3ce3SKalle Valo 			  < B43legacy_PIO_MAXTXPACKETS));
163423e3ce3SKalle Valo 	*packet = &(queue->tx_packets_cache[packetindex]);
164423e3ce3SKalle Valo 
165423e3ce3SKalle Valo 	return queue;
166423e3ce3SKalle Valo }
167423e3ce3SKalle Valo 
168423e3ce3SKalle Valo union txhdr_union {
169423e3ce3SKalle Valo 	struct b43legacy_txhdr_fw3 txhdr_fw3;
170423e3ce3SKalle Valo };
171423e3ce3SKalle Valo 
pio_tx_write_fragment(struct b43legacy_pioqueue * queue,struct sk_buff * skb,struct b43legacy_pio_txpacket * packet,size_t txhdr_size)172423e3ce3SKalle Valo static int pio_tx_write_fragment(struct b43legacy_pioqueue *queue,
173423e3ce3SKalle Valo 				  struct sk_buff *skb,
174423e3ce3SKalle Valo 				  struct b43legacy_pio_txpacket *packet,
175423e3ce3SKalle Valo 				  size_t txhdr_size)
176423e3ce3SKalle Valo {
177423e3ce3SKalle Valo 	union txhdr_union txhdr_data;
178423e3ce3SKalle Valo 	u8 *txhdr = NULL;
179423e3ce3SKalle Valo 	unsigned int octets;
180423e3ce3SKalle Valo 	int err;
181423e3ce3SKalle Valo 
182423e3ce3SKalle Valo 	txhdr = (u8 *)(&txhdr_data.txhdr_fw3);
183423e3ce3SKalle Valo 
184423e3ce3SKalle Valo 	B43legacy_WARN_ON(skb_shinfo(skb)->nr_frags != 0);
185423e3ce3SKalle Valo 	err = b43legacy_generate_txhdr(queue->dev,
186423e3ce3SKalle Valo 				 txhdr, skb->data, skb->len,
187423e3ce3SKalle Valo 				 IEEE80211_SKB_CB(skb),
188423e3ce3SKalle Valo 				 generate_cookie(queue, packet));
189423e3ce3SKalle Valo 	if (err)
190423e3ce3SKalle Valo 		return err;
191423e3ce3SKalle Valo 
192423e3ce3SKalle Valo 	tx_start(queue);
193423e3ce3SKalle Valo 	octets = skb->len + txhdr_size;
194423e3ce3SKalle Valo 	if (queue->need_workarounds)
195423e3ce3SKalle Valo 		octets--;
196423e3ce3SKalle Valo 	tx_data(queue, txhdr, (u8 *)skb->data, octets);
197423e3ce3SKalle Valo 	tx_complete(queue, skb);
198423e3ce3SKalle Valo 
199423e3ce3SKalle Valo 	return 0;
200423e3ce3SKalle Valo }
201423e3ce3SKalle Valo 
free_txpacket(struct b43legacy_pio_txpacket * packet,int irq_context)202423e3ce3SKalle Valo static void free_txpacket(struct b43legacy_pio_txpacket *packet,
203423e3ce3SKalle Valo 			  int irq_context)
204423e3ce3SKalle Valo {
205423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue = packet->queue;
206423e3ce3SKalle Valo 
207423e3ce3SKalle Valo 	if (packet->skb) {
208423e3ce3SKalle Valo 		if (irq_context)
209423e3ce3SKalle Valo 			dev_kfree_skb_irq(packet->skb);
210423e3ce3SKalle Valo 		else
211423e3ce3SKalle Valo 			dev_kfree_skb(packet->skb);
212423e3ce3SKalle Valo 	}
213423e3ce3SKalle Valo 	list_move(&packet->list, &queue->txfree);
214423e3ce3SKalle Valo 	queue->nr_txfree++;
215423e3ce3SKalle Valo }
216423e3ce3SKalle Valo 
pio_tx_packet(struct b43legacy_pio_txpacket * packet)217423e3ce3SKalle Valo static int pio_tx_packet(struct b43legacy_pio_txpacket *packet)
218423e3ce3SKalle Valo {
219423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue = packet->queue;
220423e3ce3SKalle Valo 	struct sk_buff *skb = packet->skb;
221423e3ce3SKalle Valo 	u16 octets;
222423e3ce3SKalle Valo 	int err;
223423e3ce3SKalle Valo 
224423e3ce3SKalle Valo 	octets = (u16)skb->len + sizeof(struct b43legacy_txhdr_fw3);
225423e3ce3SKalle Valo 	if (queue->tx_devq_size < octets) {
226423e3ce3SKalle Valo 		b43legacywarn(queue->dev->wl, "PIO queue too small. "
227423e3ce3SKalle Valo 			"Dropping packet.\n");
228423e3ce3SKalle Valo 		/* Drop it silently (return success) */
229423e3ce3SKalle Valo 		free_txpacket(packet, 1);
230423e3ce3SKalle Valo 		return 0;
231423e3ce3SKalle Valo 	}
232423e3ce3SKalle Valo 	B43legacy_WARN_ON(queue->tx_devq_packets >
233423e3ce3SKalle Valo 			  B43legacy_PIO_MAXTXDEVQPACKETS);
234423e3ce3SKalle Valo 	B43legacy_WARN_ON(queue->tx_devq_used > queue->tx_devq_size);
235423e3ce3SKalle Valo 	/* Check if there is sufficient free space on the device
236423e3ce3SKalle Valo 	 * TX queue. If not, return and let the TX tasklet
237423e3ce3SKalle Valo 	 * retry later.
238423e3ce3SKalle Valo 	 */
239423e3ce3SKalle Valo 	if (queue->tx_devq_packets == B43legacy_PIO_MAXTXDEVQPACKETS)
240423e3ce3SKalle Valo 		return -EBUSY;
241423e3ce3SKalle Valo 	if (queue->tx_devq_used + octets > queue->tx_devq_size)
242423e3ce3SKalle Valo 		return -EBUSY;
243423e3ce3SKalle Valo 	/* Now poke the device. */
244423e3ce3SKalle Valo 	err = pio_tx_write_fragment(queue, skb, packet,
245423e3ce3SKalle Valo 			      sizeof(struct b43legacy_txhdr_fw3));
246423e3ce3SKalle Valo 	if (unlikely(err == -ENOKEY)) {
247423e3ce3SKalle Valo 		/* Drop this packet, as we don't have the encryption key
248423e3ce3SKalle Valo 		 * anymore and must not transmit it unencrypted. */
249423e3ce3SKalle Valo 		free_txpacket(packet, 1);
250423e3ce3SKalle Valo 		return 0;
251423e3ce3SKalle Valo 	}
252423e3ce3SKalle Valo 
253423e3ce3SKalle Valo 	/* Account for the packet size.
254423e3ce3SKalle Valo 	 * (We must not overflow the device TX queue)
255423e3ce3SKalle Valo 	 */
256423e3ce3SKalle Valo 	queue->tx_devq_packets++;
257423e3ce3SKalle Valo 	queue->tx_devq_used += octets;
258423e3ce3SKalle Valo 
259423e3ce3SKalle Valo 	/* Transmission started, everything ok, move the
260423e3ce3SKalle Valo 	 * packet to the txrunning list.
261423e3ce3SKalle Valo 	 */
262423e3ce3SKalle Valo 	list_move_tail(&packet->list, &queue->txrunning);
263423e3ce3SKalle Valo 
264423e3ce3SKalle Valo 	return 0;
265423e3ce3SKalle Valo }
266423e3ce3SKalle Valo 
tx_tasklet(struct tasklet_struct * t)267*fc672230SAllen Pais static void tx_tasklet(struct tasklet_struct *t)
268423e3ce3SKalle Valo {
269*fc672230SAllen Pais 	struct b43legacy_pioqueue *queue = from_tasklet(queue, t, txtask);
270423e3ce3SKalle Valo 	struct b43legacy_wldev *dev = queue->dev;
271423e3ce3SKalle Valo 	unsigned long flags;
272423e3ce3SKalle Valo 	struct b43legacy_pio_txpacket *packet, *tmp_packet;
273423e3ce3SKalle Valo 	int err;
274423e3ce3SKalle Valo 	u16 txctl;
275423e3ce3SKalle Valo 
276423e3ce3SKalle Valo 	spin_lock_irqsave(&dev->wl->irq_lock, flags);
277423e3ce3SKalle Valo 	if (queue->tx_frozen)
278423e3ce3SKalle Valo 		goto out_unlock;
279423e3ce3SKalle Valo 	txctl = b43legacy_pio_read(queue, B43legacy_PIO_TXCTL);
280423e3ce3SKalle Valo 	if (txctl & B43legacy_PIO_TXCTL_SUSPEND)
281423e3ce3SKalle Valo 		goto out_unlock;
282423e3ce3SKalle Valo 
283423e3ce3SKalle Valo 	list_for_each_entry_safe(packet, tmp_packet, &queue->txqueue, list) {
284423e3ce3SKalle Valo 		/* Try to transmit the packet. This can fail, if
285423e3ce3SKalle Valo 		 * the device queue is full. In case of failure, the
286423e3ce3SKalle Valo 		 * packet is left in the txqueue.
287423e3ce3SKalle Valo 		 * If transmission succeed, the packet is moved to txrunning.
288423e3ce3SKalle Valo 		 * If it is impossible to transmit the packet, it
289423e3ce3SKalle Valo 		 * is dropped.
290423e3ce3SKalle Valo 		 */
291423e3ce3SKalle Valo 		err = pio_tx_packet(packet);
292423e3ce3SKalle Valo 		if (err)
293423e3ce3SKalle Valo 			break;
294423e3ce3SKalle Valo 	}
295423e3ce3SKalle Valo out_unlock:
296423e3ce3SKalle Valo 	spin_unlock_irqrestore(&dev->wl->irq_lock, flags);
297423e3ce3SKalle Valo }
298423e3ce3SKalle Valo 
setup_txqueues(struct b43legacy_pioqueue * queue)299423e3ce3SKalle Valo static void setup_txqueues(struct b43legacy_pioqueue *queue)
300423e3ce3SKalle Valo {
301423e3ce3SKalle Valo 	struct b43legacy_pio_txpacket *packet;
302423e3ce3SKalle Valo 	int i;
303423e3ce3SKalle Valo 
304423e3ce3SKalle Valo 	queue->nr_txfree = B43legacy_PIO_MAXTXPACKETS;
305423e3ce3SKalle Valo 	for (i = 0; i < B43legacy_PIO_MAXTXPACKETS; i++) {
306423e3ce3SKalle Valo 		packet = &(queue->tx_packets_cache[i]);
307423e3ce3SKalle Valo 
308423e3ce3SKalle Valo 		packet->queue = queue;
309423e3ce3SKalle Valo 		INIT_LIST_HEAD(&packet->list);
310423e3ce3SKalle Valo 
311423e3ce3SKalle Valo 		list_add(&packet->list, &queue->txfree);
312423e3ce3SKalle Valo 	}
313423e3ce3SKalle Valo }
314423e3ce3SKalle Valo 
315423e3ce3SKalle Valo static
b43legacy_setup_pioqueue(struct b43legacy_wldev * dev,u16 pio_mmio_base)316423e3ce3SKalle Valo struct b43legacy_pioqueue *b43legacy_setup_pioqueue(struct b43legacy_wldev *dev,
317423e3ce3SKalle Valo 						    u16 pio_mmio_base)
318423e3ce3SKalle Valo {
319423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue;
320423e3ce3SKalle Valo 	u32 value;
321423e3ce3SKalle Valo 	u16 qsize;
322423e3ce3SKalle Valo 
323423e3ce3SKalle Valo 	queue = kzalloc(sizeof(*queue), GFP_KERNEL);
324423e3ce3SKalle Valo 	if (!queue)
325423e3ce3SKalle Valo 		goto out;
326423e3ce3SKalle Valo 
327423e3ce3SKalle Valo 	queue->dev = dev;
328423e3ce3SKalle Valo 	queue->mmio_base = pio_mmio_base;
329423e3ce3SKalle Valo 	queue->need_workarounds = (dev->dev->id.revision < 3);
330423e3ce3SKalle Valo 
331423e3ce3SKalle Valo 	INIT_LIST_HEAD(&queue->txfree);
332423e3ce3SKalle Valo 	INIT_LIST_HEAD(&queue->txqueue);
333423e3ce3SKalle Valo 	INIT_LIST_HEAD(&queue->txrunning);
334*fc672230SAllen Pais 	tasklet_setup(&queue->txtask, tx_tasklet);
335423e3ce3SKalle Valo 
336423e3ce3SKalle Valo 	value = b43legacy_read32(dev, B43legacy_MMIO_MACCTL);
337423e3ce3SKalle Valo 	value &= ~B43legacy_MACCTL_BE;
338423e3ce3SKalle Valo 	b43legacy_write32(dev, B43legacy_MMIO_MACCTL, value);
339423e3ce3SKalle Valo 
340423e3ce3SKalle Valo 	qsize = b43legacy_read16(dev, queue->mmio_base
341423e3ce3SKalle Valo 				 + B43legacy_PIO_TXQBUFSIZE);
342423e3ce3SKalle Valo 	if (qsize == 0) {
343423e3ce3SKalle Valo 		b43legacyerr(dev->wl, "This card does not support PIO "
344423e3ce3SKalle Valo 		       "operation mode. Please use DMA mode "
345423e3ce3SKalle Valo 		       "(module parameter pio=0).\n");
346423e3ce3SKalle Valo 		goto err_freequeue;
347423e3ce3SKalle Valo 	}
348423e3ce3SKalle Valo 	if (qsize <= B43legacy_PIO_TXQADJUST) {
349423e3ce3SKalle Valo 		b43legacyerr(dev->wl, "PIO tx device-queue too small (%u)\n",
350423e3ce3SKalle Valo 		       qsize);
351423e3ce3SKalle Valo 		goto err_freequeue;
352423e3ce3SKalle Valo 	}
353423e3ce3SKalle Valo 	qsize -= B43legacy_PIO_TXQADJUST;
354423e3ce3SKalle Valo 	queue->tx_devq_size = qsize;
355423e3ce3SKalle Valo 
356423e3ce3SKalle Valo 	setup_txqueues(queue);
357423e3ce3SKalle Valo 
358423e3ce3SKalle Valo out:
359423e3ce3SKalle Valo 	return queue;
360423e3ce3SKalle Valo 
361423e3ce3SKalle Valo err_freequeue:
362423e3ce3SKalle Valo 	kfree(queue);
363423e3ce3SKalle Valo 	queue = NULL;
364423e3ce3SKalle Valo 	goto out;
365423e3ce3SKalle Valo }
366423e3ce3SKalle Valo 
cancel_transfers(struct b43legacy_pioqueue * queue)367423e3ce3SKalle Valo static void cancel_transfers(struct b43legacy_pioqueue *queue)
368423e3ce3SKalle Valo {
369423e3ce3SKalle Valo 	struct b43legacy_pio_txpacket *packet, *tmp_packet;
370423e3ce3SKalle Valo 
371423e3ce3SKalle Valo 	tasklet_kill(&queue->txtask);
372423e3ce3SKalle Valo 
373423e3ce3SKalle Valo 	list_for_each_entry_safe(packet, tmp_packet, &queue->txrunning, list)
374423e3ce3SKalle Valo 		free_txpacket(packet, 0);
375423e3ce3SKalle Valo 	list_for_each_entry_safe(packet, tmp_packet, &queue->txqueue, list)
376423e3ce3SKalle Valo 		free_txpacket(packet, 0);
377423e3ce3SKalle Valo }
378423e3ce3SKalle Valo 
b43legacy_destroy_pioqueue(struct b43legacy_pioqueue * queue)379423e3ce3SKalle Valo static void b43legacy_destroy_pioqueue(struct b43legacy_pioqueue *queue)
380423e3ce3SKalle Valo {
381423e3ce3SKalle Valo 	if (!queue)
382423e3ce3SKalle Valo 		return;
383423e3ce3SKalle Valo 
384423e3ce3SKalle Valo 	cancel_transfers(queue);
385423e3ce3SKalle Valo 	kfree(queue);
386423e3ce3SKalle Valo }
387423e3ce3SKalle Valo 
b43legacy_pio_free(struct b43legacy_wldev * dev)388423e3ce3SKalle Valo void b43legacy_pio_free(struct b43legacy_wldev *dev)
389423e3ce3SKalle Valo {
390423e3ce3SKalle Valo 	struct b43legacy_pio *pio;
391423e3ce3SKalle Valo 
392423e3ce3SKalle Valo 	if (!b43legacy_using_pio(dev))
393423e3ce3SKalle Valo 		return;
394423e3ce3SKalle Valo 	pio = &dev->pio;
395423e3ce3SKalle Valo 
396423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue3);
397423e3ce3SKalle Valo 	pio->queue3 = NULL;
398423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue2);
399423e3ce3SKalle Valo 	pio->queue2 = NULL;
400423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue1);
401423e3ce3SKalle Valo 	pio->queue1 = NULL;
402423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue0);
403423e3ce3SKalle Valo 	pio->queue0 = NULL;
404423e3ce3SKalle Valo }
405423e3ce3SKalle Valo 
b43legacy_pio_init(struct b43legacy_wldev * dev)406423e3ce3SKalle Valo int b43legacy_pio_init(struct b43legacy_wldev *dev)
407423e3ce3SKalle Valo {
408423e3ce3SKalle Valo 	struct b43legacy_pio *pio = &dev->pio;
409423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue;
410423e3ce3SKalle Valo 	int err = -ENOMEM;
411423e3ce3SKalle Valo 
412423e3ce3SKalle Valo 	queue = b43legacy_setup_pioqueue(dev, B43legacy_MMIO_PIO1_BASE);
413423e3ce3SKalle Valo 	if (!queue)
414423e3ce3SKalle Valo 		goto out;
415423e3ce3SKalle Valo 	pio->queue0 = queue;
416423e3ce3SKalle Valo 
417423e3ce3SKalle Valo 	queue = b43legacy_setup_pioqueue(dev, B43legacy_MMIO_PIO2_BASE);
418423e3ce3SKalle Valo 	if (!queue)
419423e3ce3SKalle Valo 		goto err_destroy0;
420423e3ce3SKalle Valo 	pio->queue1 = queue;
421423e3ce3SKalle Valo 
422423e3ce3SKalle Valo 	queue = b43legacy_setup_pioqueue(dev, B43legacy_MMIO_PIO3_BASE);
423423e3ce3SKalle Valo 	if (!queue)
424423e3ce3SKalle Valo 		goto err_destroy1;
425423e3ce3SKalle Valo 	pio->queue2 = queue;
426423e3ce3SKalle Valo 
427423e3ce3SKalle Valo 	queue = b43legacy_setup_pioqueue(dev, B43legacy_MMIO_PIO4_BASE);
428423e3ce3SKalle Valo 	if (!queue)
429423e3ce3SKalle Valo 		goto err_destroy2;
430423e3ce3SKalle Valo 	pio->queue3 = queue;
431423e3ce3SKalle Valo 
432423e3ce3SKalle Valo 	if (dev->dev->id.revision < 3)
433423e3ce3SKalle Valo 		dev->irq_mask |= B43legacy_IRQ_PIO_WORKAROUND;
434423e3ce3SKalle Valo 
435423e3ce3SKalle Valo 	b43legacydbg(dev->wl, "PIO initialized\n");
436423e3ce3SKalle Valo 	err = 0;
437423e3ce3SKalle Valo out:
438423e3ce3SKalle Valo 	return err;
439423e3ce3SKalle Valo 
440423e3ce3SKalle Valo err_destroy2:
441423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue2);
442423e3ce3SKalle Valo 	pio->queue2 = NULL;
443423e3ce3SKalle Valo err_destroy1:
444423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue1);
445423e3ce3SKalle Valo 	pio->queue1 = NULL;
446423e3ce3SKalle Valo err_destroy0:
447423e3ce3SKalle Valo 	b43legacy_destroy_pioqueue(pio->queue0);
448423e3ce3SKalle Valo 	pio->queue0 = NULL;
449423e3ce3SKalle Valo 	goto out;
450423e3ce3SKalle Valo }
451423e3ce3SKalle Valo 
b43legacy_pio_tx(struct b43legacy_wldev * dev,struct sk_buff * skb)452423e3ce3SKalle Valo int b43legacy_pio_tx(struct b43legacy_wldev *dev,
453423e3ce3SKalle Valo 		     struct sk_buff *skb)
454423e3ce3SKalle Valo {
455423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue = dev->pio.queue1;
456423e3ce3SKalle Valo 	struct b43legacy_pio_txpacket *packet;
457423e3ce3SKalle Valo 
458423e3ce3SKalle Valo 	B43legacy_WARN_ON(queue->tx_suspended);
459423e3ce3SKalle Valo 	B43legacy_WARN_ON(list_empty(&queue->txfree));
460423e3ce3SKalle Valo 
461423e3ce3SKalle Valo 	packet = list_entry(queue->txfree.next, struct b43legacy_pio_txpacket,
462423e3ce3SKalle Valo 			    list);
463423e3ce3SKalle Valo 	packet->skb = skb;
464423e3ce3SKalle Valo 
465423e3ce3SKalle Valo 	list_move_tail(&packet->list, &queue->txqueue);
466423e3ce3SKalle Valo 	queue->nr_txfree--;
467423e3ce3SKalle Valo 	B43legacy_WARN_ON(queue->nr_txfree >= B43legacy_PIO_MAXTXPACKETS);
468423e3ce3SKalle Valo 
469423e3ce3SKalle Valo 	tasklet_schedule(&queue->txtask);
470423e3ce3SKalle Valo 
471423e3ce3SKalle Valo 	return 0;
472423e3ce3SKalle Valo }
473423e3ce3SKalle Valo 
b43legacy_pio_handle_txstatus(struct b43legacy_wldev * dev,const struct b43legacy_txstatus * status)474423e3ce3SKalle Valo void b43legacy_pio_handle_txstatus(struct b43legacy_wldev *dev,
475423e3ce3SKalle Valo 				   const struct b43legacy_txstatus *status)
476423e3ce3SKalle Valo {
477423e3ce3SKalle Valo 	struct b43legacy_pioqueue *queue;
478423e3ce3SKalle Valo 	struct b43legacy_pio_txpacket *packet;
479423e3ce3SKalle Valo 	struct ieee80211_tx_info *info;
480423e3ce3SKalle Valo 	int retry_limit;
481423e3ce3SKalle Valo 
482423e3ce3SKalle Valo 	queue = parse_cookie(dev, status->cookie, &packet);
483423e3ce3SKalle Valo 	B43legacy_WARN_ON(!queue);
484423e3ce3SKalle Valo 
485423e3ce3SKalle Valo 	if (!packet->skb)
486423e3ce3SKalle Valo 		return;
487423e3ce3SKalle Valo 
488423e3ce3SKalle Valo 	queue->tx_devq_packets--;
489423e3ce3SKalle Valo 	queue->tx_devq_used -= (packet->skb->len +
490423e3ce3SKalle Valo 				sizeof(struct b43legacy_txhdr_fw3));
491423e3ce3SKalle Valo 
492423e3ce3SKalle Valo 	info = IEEE80211_SKB_CB(packet->skb);
493423e3ce3SKalle Valo 
494423e3ce3SKalle Valo 	/* preserve the confiured retry limit before clearing the status
495423e3ce3SKalle Valo 	 * The xmit function has overwritten the rc's value with the actual
496423e3ce3SKalle Valo 	 * retry limit done by the hardware */
497423e3ce3SKalle Valo 	retry_limit = info->status.rates[0].count;
498423e3ce3SKalle Valo 	ieee80211_tx_info_clear_status(info);
499423e3ce3SKalle Valo 
500423e3ce3SKalle Valo 	if (status->acked)
501423e3ce3SKalle Valo 		info->flags |= IEEE80211_TX_STAT_ACK;
502423e3ce3SKalle Valo 
503423e3ce3SKalle Valo 	if (status->rts_count > dev->wl->hw->conf.short_frame_max_tx_count) {
504423e3ce3SKalle Valo 		/*
505423e3ce3SKalle Valo 		 * If the short retries (RTS, not data frame) have exceeded
506423e3ce3SKalle Valo 		 * the limit, the hw will not have tried the selected rate,
507423e3ce3SKalle Valo 		 * but will have used the fallback rate instead.
508423e3ce3SKalle Valo 		 * Don't let the rate control count attempts for the selected
509423e3ce3SKalle Valo 		 * rate in this case, otherwise the statistics will be off.
510423e3ce3SKalle Valo 		 */
511423e3ce3SKalle Valo 		info->status.rates[0].count = 0;
512423e3ce3SKalle Valo 		info->status.rates[1].count = status->frame_count;
513423e3ce3SKalle Valo 	} else {
514423e3ce3SKalle Valo 		if (status->frame_count > retry_limit) {
515423e3ce3SKalle Valo 			info->status.rates[0].count = retry_limit;
516423e3ce3SKalle Valo 			info->status.rates[1].count = status->frame_count -
517423e3ce3SKalle Valo 					retry_limit;
518423e3ce3SKalle Valo 
519423e3ce3SKalle Valo 		} else {
520423e3ce3SKalle Valo 			info->status.rates[0].count = status->frame_count;
521423e3ce3SKalle Valo 			info->status.rates[1].idx = -1;
522423e3ce3SKalle Valo 		}
523423e3ce3SKalle Valo 	}
524423e3ce3SKalle Valo 	ieee80211_tx_status_irqsafe(dev->wl->hw, packet->skb);
525423e3ce3SKalle Valo 	packet->skb = NULL;
526423e3ce3SKalle Valo 
527423e3ce3SKalle Valo 	free_txpacket(packet, 1);
528423e3ce3SKalle Valo 	/* If there are packets on the txqueue, poke the tasklet
529423e3ce3SKalle Valo 	 * to transmit them.
530423e3ce3SKalle Valo 	 */
531423e3ce3SKalle Valo 	if (!list_empty(&queue->txqueue))
532423e3ce3SKalle Valo 		tasklet_schedule(&queue->txtask);
533423e3ce3SKalle Valo }
534423e3ce3SKalle Valo 
pio_rx_error(struct b43legacy_pioqueue * queue,int clear_buffers,const char * error)535423e3ce3SKalle Valo static void pio_rx_error(struct b43legacy_pioqueue *queue,
536423e3ce3SKalle Valo 			 int clear_buffers,
537423e3ce3SKalle Valo 			 const char *error)
538423e3ce3SKalle Valo {
539423e3ce3SKalle Valo 	int i;
540423e3ce3SKalle Valo 
541423e3ce3SKalle Valo 	b43legacyerr(queue->dev->wl, "PIO RX error: %s\n", error);
542423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_RXCTL,
543423e3ce3SKalle Valo 			    B43legacy_PIO_RXCTL_READY);
544423e3ce3SKalle Valo 	if (clear_buffers) {
545423e3ce3SKalle Valo 		B43legacy_WARN_ON(queue->mmio_base != B43legacy_MMIO_PIO1_BASE);
546423e3ce3SKalle Valo 		for (i = 0; i < 15; i++) {
547423e3ce3SKalle Valo 			/* Dummy read. */
548423e3ce3SKalle Valo 			b43legacy_pio_read(queue, B43legacy_PIO_RXDATA);
549423e3ce3SKalle Valo 		}
550423e3ce3SKalle Valo 	}
551423e3ce3SKalle Valo }
552423e3ce3SKalle Valo 
b43legacy_pio_rx(struct b43legacy_pioqueue * queue)553423e3ce3SKalle Valo void b43legacy_pio_rx(struct b43legacy_pioqueue *queue)
554423e3ce3SKalle Valo {
555423e3ce3SKalle Valo 	__le16 preamble[21] = { 0 };
556423e3ce3SKalle Valo 	struct b43legacy_rxhdr_fw3 *rxhdr;
557423e3ce3SKalle Valo 	u16 tmp;
558423e3ce3SKalle Valo 	u16 len;
559423e3ce3SKalle Valo 	u16 macstat;
560423e3ce3SKalle Valo 	int i;
561423e3ce3SKalle Valo 	int preamble_readwords;
562423e3ce3SKalle Valo 	struct sk_buff *skb;
563423e3ce3SKalle Valo 
564423e3ce3SKalle Valo 	tmp = b43legacy_pio_read(queue, B43legacy_PIO_RXCTL);
565423e3ce3SKalle Valo 	if (!(tmp & B43legacy_PIO_RXCTL_DATAAVAILABLE))
566423e3ce3SKalle Valo 		return;
567423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_RXCTL,
568423e3ce3SKalle Valo 			    B43legacy_PIO_RXCTL_DATAAVAILABLE);
569423e3ce3SKalle Valo 
570423e3ce3SKalle Valo 	for (i = 0; i < 10; i++) {
571423e3ce3SKalle Valo 		tmp = b43legacy_pio_read(queue, B43legacy_PIO_RXCTL);
572423e3ce3SKalle Valo 		if (tmp & B43legacy_PIO_RXCTL_READY)
573423e3ce3SKalle Valo 			goto data_ready;
574423e3ce3SKalle Valo 		udelay(10);
575423e3ce3SKalle Valo 	}
576423e3ce3SKalle Valo 	b43legacydbg(queue->dev->wl, "PIO RX timed out\n");
577423e3ce3SKalle Valo 	return;
578423e3ce3SKalle Valo data_ready:
579423e3ce3SKalle Valo 
580423e3ce3SKalle Valo 	len = b43legacy_pio_read(queue, B43legacy_PIO_RXDATA);
581423e3ce3SKalle Valo 	if (unlikely(len > 0x700)) {
582423e3ce3SKalle Valo 		pio_rx_error(queue, 0, "len > 0x700");
583423e3ce3SKalle Valo 		return;
584423e3ce3SKalle Valo 	}
585423e3ce3SKalle Valo 	if (unlikely(len == 0 && queue->mmio_base !=
586423e3ce3SKalle Valo 		     B43legacy_MMIO_PIO4_BASE)) {
587423e3ce3SKalle Valo 		pio_rx_error(queue, 0, "len == 0");
588423e3ce3SKalle Valo 		return;
589423e3ce3SKalle Valo 	}
590423e3ce3SKalle Valo 	preamble[0] = cpu_to_le16(len);
591423e3ce3SKalle Valo 	if (queue->mmio_base == B43legacy_MMIO_PIO4_BASE)
592423e3ce3SKalle Valo 		preamble_readwords = 14 / sizeof(u16);
593423e3ce3SKalle Valo 	else
594423e3ce3SKalle Valo 		preamble_readwords = 18 / sizeof(u16);
595423e3ce3SKalle Valo 	for (i = 0; i < preamble_readwords; i++) {
596423e3ce3SKalle Valo 		tmp = b43legacy_pio_read(queue, B43legacy_PIO_RXDATA);
597423e3ce3SKalle Valo 		preamble[i + 1] = cpu_to_le16(tmp);
598423e3ce3SKalle Valo 	}
599423e3ce3SKalle Valo 	rxhdr = (struct b43legacy_rxhdr_fw3 *)preamble;
600423e3ce3SKalle Valo 	macstat = le16_to_cpu(rxhdr->mac_status);
601423e3ce3SKalle Valo 	if (macstat & B43legacy_RX_MAC_FCSERR) {
602423e3ce3SKalle Valo 		pio_rx_error(queue,
603423e3ce3SKalle Valo 			     (queue->mmio_base == B43legacy_MMIO_PIO1_BASE),
604423e3ce3SKalle Valo 			     "Frame FCS error");
605423e3ce3SKalle Valo 		return;
606423e3ce3SKalle Valo 	}
607423e3ce3SKalle Valo 	if (queue->mmio_base == B43legacy_MMIO_PIO4_BASE) {
608423e3ce3SKalle Valo 		/* We received an xmit status. */
609423e3ce3SKalle Valo 		struct b43legacy_hwtxstatus *hw;
610423e3ce3SKalle Valo 
611423e3ce3SKalle Valo 		hw = (struct b43legacy_hwtxstatus *)(preamble + 1);
612423e3ce3SKalle Valo 		b43legacy_handle_hwtxstatus(queue->dev, hw);
613423e3ce3SKalle Valo 
614423e3ce3SKalle Valo 		return;
615423e3ce3SKalle Valo 	}
616423e3ce3SKalle Valo 
617423e3ce3SKalle Valo 	skb = dev_alloc_skb(len);
618423e3ce3SKalle Valo 	if (unlikely(!skb)) {
619423e3ce3SKalle Valo 		pio_rx_error(queue, 1, "OOM");
620423e3ce3SKalle Valo 		return;
621423e3ce3SKalle Valo 	}
622423e3ce3SKalle Valo 	skb_put(skb, len);
623423e3ce3SKalle Valo 	for (i = 0; i < len - 1; i += 2) {
624423e3ce3SKalle Valo 		tmp = b43legacy_pio_read(queue, B43legacy_PIO_RXDATA);
625423e3ce3SKalle Valo 		*((__le16 *)(skb->data + i)) = cpu_to_le16(tmp);
626423e3ce3SKalle Valo 	}
627423e3ce3SKalle Valo 	if (len % 2) {
628423e3ce3SKalle Valo 		tmp = b43legacy_pio_read(queue, B43legacy_PIO_RXDATA);
629423e3ce3SKalle Valo 		skb->data[len - 1] = (tmp & 0x00FF);
630423e3ce3SKalle Valo 	}
631423e3ce3SKalle Valo 	b43legacy_rx(queue->dev, skb, rxhdr);
632423e3ce3SKalle Valo }
633423e3ce3SKalle Valo 
b43legacy_pio_tx_suspend(struct b43legacy_pioqueue * queue)634423e3ce3SKalle Valo void b43legacy_pio_tx_suspend(struct b43legacy_pioqueue *queue)
635423e3ce3SKalle Valo {
636423e3ce3SKalle Valo 	b43legacy_power_saving_ctl_bits(queue->dev, -1, 1);
637423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
638423e3ce3SKalle Valo 			    b43legacy_pio_read(queue, B43legacy_PIO_TXCTL)
639423e3ce3SKalle Valo 			    | B43legacy_PIO_TXCTL_SUSPEND);
640423e3ce3SKalle Valo }
641423e3ce3SKalle Valo 
b43legacy_pio_tx_resume(struct b43legacy_pioqueue * queue)642423e3ce3SKalle Valo void b43legacy_pio_tx_resume(struct b43legacy_pioqueue *queue)
643423e3ce3SKalle Valo {
644423e3ce3SKalle Valo 	b43legacy_pio_write(queue, B43legacy_PIO_TXCTL,
645423e3ce3SKalle Valo 			    b43legacy_pio_read(queue, B43legacy_PIO_TXCTL)
646423e3ce3SKalle Valo 			    & ~B43legacy_PIO_TXCTL_SUSPEND);
647423e3ce3SKalle Valo 	b43legacy_power_saving_ctl_bits(queue->dev, -1, -1);
648423e3ce3SKalle Valo 	tasklet_schedule(&queue->txtask);
649423e3ce3SKalle Valo }
650423e3ce3SKalle Valo 
b43legacy_pio_freeze_txqueues(struct b43legacy_wldev * dev)651423e3ce3SKalle Valo void b43legacy_pio_freeze_txqueues(struct b43legacy_wldev *dev)
652423e3ce3SKalle Valo {
653423e3ce3SKalle Valo 	struct b43legacy_pio *pio;
654423e3ce3SKalle Valo 
655423e3ce3SKalle Valo 	B43legacy_WARN_ON(!b43legacy_using_pio(dev));
656423e3ce3SKalle Valo 	pio = &dev->pio;
657423e3ce3SKalle Valo 	pio->queue0->tx_frozen = 1;
658423e3ce3SKalle Valo 	pio->queue1->tx_frozen = 1;
659423e3ce3SKalle Valo 	pio->queue2->tx_frozen = 1;
660423e3ce3SKalle Valo 	pio->queue3->tx_frozen = 1;
661423e3ce3SKalle Valo }
662423e3ce3SKalle Valo 
b43legacy_pio_thaw_txqueues(struct b43legacy_wldev * dev)663423e3ce3SKalle Valo void b43legacy_pio_thaw_txqueues(struct b43legacy_wldev *dev)
664423e3ce3SKalle Valo {
665423e3ce3SKalle Valo 	struct b43legacy_pio *pio;
666423e3ce3SKalle Valo 
667423e3ce3SKalle Valo 	B43legacy_WARN_ON(!b43legacy_using_pio(dev));
668423e3ce3SKalle Valo 	pio = &dev->pio;
669423e3ce3SKalle Valo 	pio->queue0->tx_frozen = 0;
670423e3ce3SKalle Valo 	pio->queue1->tx_frozen = 0;
671423e3ce3SKalle Valo 	pio->queue2->tx_frozen = 0;
672423e3ce3SKalle Valo 	pio->queue3->tx_frozen = 0;
673423e3ce3SKalle Valo 	if (!list_empty(&pio->queue0->txqueue))
674423e3ce3SKalle Valo 		tasklet_schedule(&pio->queue0->txtask);
675423e3ce3SKalle Valo 	if (!list_empty(&pio->queue1->txqueue))
676423e3ce3SKalle Valo 		tasklet_schedule(&pio->queue1->txtask);
677423e3ce3SKalle Valo 	if (!list_empty(&pio->queue2->txqueue))
678423e3ce3SKalle Valo 		tasklet_schedule(&pio->queue2->txtask);
679423e3ce3SKalle Valo 	if (!list_empty(&pio->queue3->txqueue))
680423e3ce3SKalle Valo 		tasklet_schedule(&pio->queue3->txtask);
681423e3ce3SKalle Valo }
682