xref: /openbmc/linux/drivers/net/wan/ixp4xx_hss.c (revision 5dbc46506a4f7b9f564bb7589a49ed32bc1caa15)
1f5b89e41SKrzysztof Hałasa /*
2f5b89e41SKrzysztof Hałasa  * Intel IXP4xx HSS (synchronous serial port) driver for Linux
3f5b89e41SKrzysztof Hałasa  *
4f5b89e41SKrzysztof Hałasa  * Copyright (C) 2007-2008 Krzysztof Hałasa <khc@pm.waw.pl>
5f5b89e41SKrzysztof Hałasa  *
6f5b89e41SKrzysztof Hałasa  * This program is free software; you can redistribute it and/or modify it
7f5b89e41SKrzysztof Hałasa  * under the terms of version 2 of the GNU General Public License
8f5b89e41SKrzysztof Hałasa  * as published by the Free Software Foundation.
9f5b89e41SKrzysztof Hałasa  */
10f5b89e41SKrzysztof Hałasa 
11f5b89e41SKrzysztof Hałasa #include <linux/bitops.h>
12f5b89e41SKrzysztof Hałasa #include <linux/cdev.h>
13f5b89e41SKrzysztof Hałasa #include <linux/dma-mapping.h>
14f5b89e41SKrzysztof Hałasa #include <linux/dmapool.h>
15f5b89e41SKrzysztof Hałasa #include <linux/fs.h>
16f5b89e41SKrzysztof Hałasa #include <linux/hdlc.h>
17f5b89e41SKrzysztof Hałasa #include <linux/io.h>
18f5b89e41SKrzysztof Hałasa #include <linux/kernel.h>
19f5b89e41SKrzysztof Hałasa #include <linux/platform_device.h>
20f5b89e41SKrzysztof Hałasa #include <linux/poll.h>
21f5b89e41SKrzysztof Hałasa #include <mach/npe.h>
22f5b89e41SKrzysztof Hałasa #include <mach/qmgr.h>
23f5b89e41SKrzysztof Hałasa 
24f5b89e41SKrzysztof Hałasa #define DEBUG_DESC		0
25f5b89e41SKrzysztof Hałasa #define DEBUG_RX		0
26f5b89e41SKrzysztof Hałasa #define DEBUG_TX		0
27f5b89e41SKrzysztof Hałasa #define DEBUG_PKT_BYTES		0
28f5b89e41SKrzysztof Hałasa #define DEBUG_CLOSE		0
29f5b89e41SKrzysztof Hałasa 
30f5b89e41SKrzysztof Hałasa #define DRV_NAME		"ixp4xx_hss"
31f5b89e41SKrzysztof Hałasa 
32f5b89e41SKrzysztof Hałasa #define PKT_EXTRA_FLAGS		0 /* orig 1 */
33f5b89e41SKrzysztof Hałasa #define PKT_NUM_PIPES		1 /* 1, 2 or 4 */
34f5b89e41SKrzysztof Hałasa #define PKT_PIPE_FIFO_SIZEW	4 /* total 4 dwords per HSS */
35f5b89e41SKrzysztof Hałasa 
36f5b89e41SKrzysztof Hałasa #define RX_DESCS		16 /* also length of all RX queues */
37f5b89e41SKrzysztof Hałasa #define TX_DESCS		16 /* also length of all TX queues */
38f5b89e41SKrzysztof Hałasa 
39f5b89e41SKrzysztof Hałasa #define POOL_ALLOC_SIZE		(sizeof(struct desc) * (RX_DESCS + TX_DESCS))
40f5b89e41SKrzysztof Hałasa #define RX_SIZE			(HDLC_MAX_MRU + 4) /* NPE needs more space */
41f5b89e41SKrzysztof Hałasa #define MAX_CLOSE_WAIT		1000 /* microseconds */
42f5b89e41SKrzysztof Hałasa #define HSS_COUNT		2
43f5b89e41SKrzysztof Hałasa #define FRAME_SIZE		256 /* doesn't matter at this point */
44f5b89e41SKrzysztof Hałasa #define FRAME_OFFSET		0
45f5b89e41SKrzysztof Hałasa #define MAX_CHANNELS		(FRAME_SIZE / 8)
46f5b89e41SKrzysztof Hałasa 
47f5b89e41SKrzysztof Hałasa #define NAPI_WEIGHT		16
48f5b89e41SKrzysztof Hałasa 
49f5b89e41SKrzysztof Hałasa /* Queue IDs */
50f5b89e41SKrzysztof Hałasa #define HSS0_CHL_RXTRIG_QUEUE	12	/* orig size = 32 dwords */
51f5b89e41SKrzysztof Hałasa #define HSS0_PKT_RX_QUEUE	13	/* orig size = 32 dwords */
52f5b89e41SKrzysztof Hałasa #define HSS0_PKT_TX0_QUEUE	14	/* orig size = 16 dwords */
53f5b89e41SKrzysztof Hałasa #define HSS0_PKT_TX1_QUEUE	15
54f5b89e41SKrzysztof Hałasa #define HSS0_PKT_TX2_QUEUE	16
55f5b89e41SKrzysztof Hałasa #define HSS0_PKT_TX3_QUEUE	17
56f5b89e41SKrzysztof Hałasa #define HSS0_PKT_RXFREE0_QUEUE	18	/* orig size = 16 dwords */
57f5b89e41SKrzysztof Hałasa #define HSS0_PKT_RXFREE1_QUEUE	19
58f5b89e41SKrzysztof Hałasa #define HSS0_PKT_RXFREE2_QUEUE	20
59f5b89e41SKrzysztof Hałasa #define HSS0_PKT_RXFREE3_QUEUE	21
60f5b89e41SKrzysztof Hałasa #define HSS0_PKT_TXDONE_QUEUE	22	/* orig size = 64 dwords */
61f5b89e41SKrzysztof Hałasa 
62f5b89e41SKrzysztof Hałasa #define HSS1_CHL_RXTRIG_QUEUE	10
63f5b89e41SKrzysztof Hałasa #define HSS1_PKT_RX_QUEUE	0
64f5b89e41SKrzysztof Hałasa #define HSS1_PKT_TX0_QUEUE	5
65f5b89e41SKrzysztof Hałasa #define HSS1_PKT_TX1_QUEUE	6
66f5b89e41SKrzysztof Hałasa #define HSS1_PKT_TX2_QUEUE	7
67f5b89e41SKrzysztof Hałasa #define HSS1_PKT_TX3_QUEUE	8
68f5b89e41SKrzysztof Hałasa #define HSS1_PKT_RXFREE0_QUEUE	1
69f5b89e41SKrzysztof Hałasa #define HSS1_PKT_RXFREE1_QUEUE	2
70f5b89e41SKrzysztof Hałasa #define HSS1_PKT_RXFREE2_QUEUE	3
71f5b89e41SKrzysztof Hałasa #define HSS1_PKT_RXFREE3_QUEUE	4
72f5b89e41SKrzysztof Hałasa #define HSS1_PKT_TXDONE_QUEUE	9
73f5b89e41SKrzysztof Hałasa 
74f5b89e41SKrzysztof Hałasa #define NPE_PKT_MODE_HDLC		0
75f5b89e41SKrzysztof Hałasa #define NPE_PKT_MODE_RAW		1
76f5b89e41SKrzysztof Hałasa #define NPE_PKT_MODE_56KMODE		2
77f5b89e41SKrzysztof Hałasa #define NPE_PKT_MODE_56KENDIAN_MSB	4
78f5b89e41SKrzysztof Hałasa 
79f5b89e41SKrzysztof Hałasa /* PKT_PIPE_HDLC_CFG_WRITE flags */
80f5b89e41SKrzysztof Hałasa #define PKT_HDLC_IDLE_ONES		0x1 /* default = flags */
81f5b89e41SKrzysztof Hałasa #define PKT_HDLC_CRC_32			0x2 /* default = CRC-16 */
82f5b89e41SKrzysztof Hałasa #define PKT_HDLC_MSB_ENDIAN		0x4 /* default = LE */
83f5b89e41SKrzysztof Hałasa 
84f5b89e41SKrzysztof Hałasa 
85f5b89e41SKrzysztof Hałasa /* hss_config, PCRs */
86f5b89e41SKrzysztof Hałasa /* Frame sync sampling, default = active low */
87f5b89e41SKrzysztof Hałasa #define PCR_FRM_SYNC_ACTIVE_HIGH	0x40000000
88f5b89e41SKrzysztof Hałasa #define PCR_FRM_SYNC_FALLINGEDGE	0x80000000
89f5b89e41SKrzysztof Hałasa #define PCR_FRM_SYNC_RISINGEDGE		0xC0000000
90f5b89e41SKrzysztof Hałasa 
91f5b89e41SKrzysztof Hałasa /* Frame sync pin: input (default) or output generated off a given clk edge */
92f5b89e41SKrzysztof Hałasa #define PCR_FRM_SYNC_OUTPUT_FALLING	0x20000000
93f5b89e41SKrzysztof Hałasa #define PCR_FRM_SYNC_OUTPUT_RISING	0x30000000
94f5b89e41SKrzysztof Hałasa 
95f5b89e41SKrzysztof Hałasa /* Frame and data clock sampling on edge, default = falling */
96f5b89e41SKrzysztof Hałasa #define PCR_FCLK_EDGE_RISING		0x08000000
97f5b89e41SKrzysztof Hałasa #define PCR_DCLK_EDGE_RISING		0x04000000
98f5b89e41SKrzysztof Hałasa 
99f5b89e41SKrzysztof Hałasa /* Clock direction, default = input */
100f5b89e41SKrzysztof Hałasa #define PCR_SYNC_CLK_DIR_OUTPUT		0x02000000
101f5b89e41SKrzysztof Hałasa 
102f5b89e41SKrzysztof Hałasa /* Generate/Receive frame pulses, default = enabled */
103f5b89e41SKrzysztof Hałasa #define PCR_FRM_PULSE_DISABLED		0x01000000
104f5b89e41SKrzysztof Hałasa 
105f5b89e41SKrzysztof Hałasa  /* Data rate is full (default) or half the configured clk speed */
106f5b89e41SKrzysztof Hałasa #define PCR_HALF_CLK_RATE		0x00200000
107f5b89e41SKrzysztof Hałasa 
108f5b89e41SKrzysztof Hałasa /* Invert data between NPE and HSS FIFOs? (default = no) */
109f5b89e41SKrzysztof Hałasa #define PCR_DATA_POLARITY_INVERT	0x00100000
110f5b89e41SKrzysztof Hałasa 
111f5b89e41SKrzysztof Hałasa /* TX/RX endianness, default = LSB */
112f5b89e41SKrzysztof Hałasa #define PCR_MSB_ENDIAN			0x00080000
113f5b89e41SKrzysztof Hałasa 
114f5b89e41SKrzysztof Hałasa /* Normal (default) / open drain mode (TX only) */
115f5b89e41SKrzysztof Hałasa #define PCR_TX_PINS_OPEN_DRAIN		0x00040000
116f5b89e41SKrzysztof Hałasa 
117f5b89e41SKrzysztof Hałasa /* No framing bit transmitted and expected on RX? (default = framing bit) */
118f5b89e41SKrzysztof Hałasa #define PCR_SOF_NO_FBIT			0x00020000
119f5b89e41SKrzysztof Hałasa 
120f5b89e41SKrzysztof Hałasa /* Drive data pins? */
121f5b89e41SKrzysztof Hałasa #define PCR_TX_DATA_ENABLE		0x00010000
122f5b89e41SKrzysztof Hałasa 
123f5b89e41SKrzysztof Hałasa /* Voice 56k type: drive the data pins low (default), high, high Z */
124f5b89e41SKrzysztof Hałasa #define PCR_TX_V56K_HIGH		0x00002000
125f5b89e41SKrzysztof Hałasa #define PCR_TX_V56K_HIGH_IMP		0x00004000
126f5b89e41SKrzysztof Hałasa 
127f5b89e41SKrzysztof Hałasa /* Unassigned type: drive the data pins low (default), high, high Z */
128f5b89e41SKrzysztof Hałasa #define PCR_TX_UNASS_HIGH		0x00000800
129f5b89e41SKrzysztof Hałasa #define PCR_TX_UNASS_HIGH_IMP		0x00001000
130f5b89e41SKrzysztof Hałasa 
131f5b89e41SKrzysztof Hałasa /* T1 @ 1.544MHz only: Fbit dictated in FIFO (default) or high Z */
132f5b89e41SKrzysztof Hałasa #define PCR_TX_FB_HIGH_IMP		0x00000400
133f5b89e41SKrzysztof Hałasa 
134f5b89e41SKrzysztof Hałasa /* 56k data endiannes - which bit unused: high (default) or low */
135f5b89e41SKrzysztof Hałasa #define PCR_TX_56KE_BIT_0_UNUSED	0x00000200
136f5b89e41SKrzysztof Hałasa 
137f5b89e41SKrzysztof Hałasa /* 56k data transmission type: 32/8 bit data (default) or 56K data */
138f5b89e41SKrzysztof Hałasa #define PCR_TX_56KS_56K_DATA		0x00000100
139f5b89e41SKrzysztof Hałasa 
140f5b89e41SKrzysztof Hałasa /* hss_config, cCR */
141f5b89e41SKrzysztof Hałasa /* Number of packetized clients, default = 1 */
142f5b89e41SKrzysztof Hałasa #define CCR_NPE_HFIFO_2_HDLC		0x04000000
143f5b89e41SKrzysztof Hałasa #define CCR_NPE_HFIFO_3_OR_4HDLC	0x08000000
144f5b89e41SKrzysztof Hałasa 
145f5b89e41SKrzysztof Hałasa /* default = no loopback */
146f5b89e41SKrzysztof Hałasa #define CCR_LOOPBACK			0x02000000
147f5b89e41SKrzysztof Hałasa 
148f5b89e41SKrzysztof Hałasa /* HSS number, default = 0 (first) */
149f5b89e41SKrzysztof Hałasa #define CCR_SECOND_HSS			0x01000000
150f5b89e41SKrzysztof Hałasa 
151f5b89e41SKrzysztof Hałasa 
152f5b89e41SKrzysztof Hałasa /* hss_config, clkCR: main:10, num:10, denom:12 */
153f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_EXP	((0x3FF << 22) | (  2 << 12) |   15) /*65 KHz*/
154f5b89e41SKrzysztof Hałasa 
155f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_512KHZ	((  130 << 22) | (  2 << 12) |   15)
156f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_1536KHZ	((   43 << 22) | ( 18 << 12) |   47)
157f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_1544KHZ	((   43 << 22) | ( 33 << 12) |  192)
158f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_2048KHZ	((   32 << 22) | ( 34 << 12) |   63)
159f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_4096KHZ	((   16 << 22) | ( 34 << 12) |  127)
160f5b89e41SKrzysztof Hałasa #define CLK42X_SPEED_8192KHZ	((    8 << 22) | ( 34 << 12) |  255)
161f5b89e41SKrzysztof Hałasa 
162f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_512KHZ	((  130 << 22) | ( 24 << 12) |  127)
163f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_1536KHZ	((   43 << 22) | (152 << 12) |  383)
164f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_1544KHZ	((   43 << 22) | ( 66 << 12) |  385)
165f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_2048KHZ	((   32 << 22) | (280 << 12) |  511)
166f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_4096KHZ	((   16 << 22) | (280 << 12) | 1023)
167f5b89e41SKrzysztof Hałasa #define CLK46X_SPEED_8192KHZ	((    8 << 22) | (280 << 12) | 2047)
168f5b89e41SKrzysztof Hałasa 
169*5dbc4650SKrzysztof Halasa /*
170*5dbc4650SKrzysztof Halasa  * HSS_CONFIG_CLOCK_CR register consists of 3 parts:
171*5dbc4650SKrzysztof Halasa  *     A (10 bits), B (10 bits) and C (12 bits).
172*5dbc4650SKrzysztof Halasa  * IXP42x HSS clock generator operation (verified with an oscilloscope):
173*5dbc4650SKrzysztof Halasa  * Each clock bit takes 7.5 ns (1 / 133.xx MHz).
174*5dbc4650SKrzysztof Halasa  * The clock sequence consists of (C - B) states of 0s and 1s, each state is
175*5dbc4650SKrzysztof Halasa  * A bits wide. It's followed by (B + 1) states of 0s and 1s, each state is
176*5dbc4650SKrzysztof Halasa  * (A + 1) bits wide.
177*5dbc4650SKrzysztof Halasa  *
178*5dbc4650SKrzysztof Halasa  * The resulting average clock frequency (assuming 33.333 MHz oscillator) is:
179*5dbc4650SKrzysztof Halasa  * freq = 66.666 MHz / (A + (B + 1) / (C + 1))
180*5dbc4650SKrzysztof Halasa  * minumum freq = 66.666 MHz / (A + 1)
181*5dbc4650SKrzysztof Halasa  * maximum freq = 66.666 MHz / A
182*5dbc4650SKrzysztof Halasa  *
183*5dbc4650SKrzysztof Halasa  * Example: A = 2, B = 2, C = 7, CLOCK_CR register = 2 << 22 | 2 << 12 | 7
184*5dbc4650SKrzysztof Halasa  * freq = 66.666 MHz / (2 + (2 + 1) / (7 + 1)) = 28.07 MHz (Mb/s).
185*5dbc4650SKrzysztof Halasa  * The clock sequence is: 1100110011 (5 doubles) 000111000 (3 triples).
186*5dbc4650SKrzysztof Halasa  * The sequence takes (C - B) * A + (B + 1) * (A + 1) = 5 * 2 + 3 * 3 bits
187*5dbc4650SKrzysztof Halasa  * = 19 bits (each 7.5 ns long) = 142.5 ns (then the sequence repeats).
188*5dbc4650SKrzysztof Halasa  * The sequence consists of 4 complete clock periods, thus the average
189*5dbc4650SKrzysztof Halasa  * frequency (= clock rate) is 4 / 142.5 ns = 28.07 MHz (Mb/s).
190*5dbc4650SKrzysztof Halasa  * (max specified clock rate for IXP42x HSS is 8.192 Mb/s).
191*5dbc4650SKrzysztof Halasa  */
192f5b89e41SKrzysztof Hałasa 
193f5b89e41SKrzysztof Hałasa /* hss_config, LUT entries */
194f5b89e41SKrzysztof Hałasa #define TDMMAP_UNASSIGNED	0
195f5b89e41SKrzysztof Hałasa #define TDMMAP_HDLC		1	/* HDLC - packetized */
196f5b89e41SKrzysztof Hałasa #define TDMMAP_VOICE56K		2	/* Voice56K - 7-bit channelized */
197f5b89e41SKrzysztof Hałasa #define TDMMAP_VOICE64K		3	/* Voice64K - 8-bit channelized */
198f5b89e41SKrzysztof Hałasa 
199f5b89e41SKrzysztof Hałasa /* offsets into HSS config */
200f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_TX_PCR	0x00 /* port configuration registers */
201f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_RX_PCR	0x04
202f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_CORE_CR	0x08 /* loopback control, HSS# */
203f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_CLOCK_CR	0x0C /* clock generator control */
204f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_TX_FCR	0x10 /* frame configuration registers */
205f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_RX_FCR	0x14
206f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_TX_LUT	0x18 /* channel look-up tables */
207f5b89e41SKrzysztof Hałasa #define HSS_CONFIG_RX_LUT	0x38
208f5b89e41SKrzysztof Hałasa 
209f5b89e41SKrzysztof Hałasa 
210f5b89e41SKrzysztof Hałasa /* NPE command codes */
211f5b89e41SKrzysztof Hałasa /* writes the ConfigWord value to the location specified by offset */
212f5b89e41SKrzysztof Hałasa #define PORT_CONFIG_WRITE		0x40
213f5b89e41SKrzysztof Hałasa 
214f5b89e41SKrzysztof Hałasa /* triggers the NPE to load the contents of the configuration table */
215f5b89e41SKrzysztof Hałasa #define PORT_CONFIG_LOAD		0x41
216f5b89e41SKrzysztof Hałasa 
217f5b89e41SKrzysztof Hałasa /* triggers the NPE to return an HssErrorReadResponse message */
218f5b89e41SKrzysztof Hałasa #define PORT_ERROR_READ			0x42
219f5b89e41SKrzysztof Hałasa 
220f5b89e41SKrzysztof Hałasa /* triggers the NPE to reset internal status and enable the HssPacketized
221f5b89e41SKrzysztof Hałasa    operation for the flow specified by pPipe */
222f5b89e41SKrzysztof Hałasa #define PKT_PIPE_FLOW_ENABLE		0x50
223f5b89e41SKrzysztof Hałasa #define PKT_PIPE_FLOW_DISABLE		0x51
224f5b89e41SKrzysztof Hałasa #define PKT_NUM_PIPES_WRITE		0x52
225f5b89e41SKrzysztof Hałasa #define PKT_PIPE_FIFO_SIZEW_WRITE	0x53
226f5b89e41SKrzysztof Hałasa #define PKT_PIPE_HDLC_CFG_WRITE		0x54
227f5b89e41SKrzysztof Hałasa #define PKT_PIPE_IDLE_PATTERN_WRITE	0x55
228f5b89e41SKrzysztof Hałasa #define PKT_PIPE_RX_SIZE_WRITE		0x56
229f5b89e41SKrzysztof Hałasa #define PKT_PIPE_MODE_WRITE		0x57
230f5b89e41SKrzysztof Hałasa 
231f5b89e41SKrzysztof Hałasa /* HDLC packet status values - desc->status */
232f5b89e41SKrzysztof Hałasa #define ERR_SHUTDOWN		1 /* stop or shutdown occurrance */
233f5b89e41SKrzysztof Hałasa #define ERR_HDLC_ALIGN		2 /* HDLC alignment error */
234f5b89e41SKrzysztof Hałasa #define ERR_HDLC_FCS		3 /* HDLC Frame Check Sum error */
235f5b89e41SKrzysztof Hałasa #define ERR_RXFREE_Q_EMPTY	4 /* RX-free queue became empty while receiving
236f5b89e41SKrzysztof Hałasa 				     this packet (if buf_len < pkt_len) */
237f5b89e41SKrzysztof Hałasa #define ERR_HDLC_TOO_LONG	5 /* HDLC frame size too long */
238f5b89e41SKrzysztof Hałasa #define ERR_HDLC_ABORT		6 /* abort sequence received */
239f5b89e41SKrzysztof Hałasa #define ERR_DISCONNECTING	7 /* disconnect is in progress */
240f5b89e41SKrzysztof Hałasa 
241f5b89e41SKrzysztof Hałasa 
242f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
243f5b89e41SKrzysztof Hałasa typedef struct sk_buff buffer_t;
244f5b89e41SKrzysztof Hałasa #define free_buffer dev_kfree_skb
245f5b89e41SKrzysztof Hałasa #define free_buffer_irq dev_kfree_skb_irq
246f5b89e41SKrzysztof Hałasa #else
247f5b89e41SKrzysztof Hałasa typedef void buffer_t;
248f5b89e41SKrzysztof Hałasa #define free_buffer kfree
249f5b89e41SKrzysztof Hałasa #define free_buffer_irq kfree
250f5b89e41SKrzysztof Hałasa #endif
251f5b89e41SKrzysztof Hałasa 
252f5b89e41SKrzysztof Hałasa struct port {
253f5b89e41SKrzysztof Hałasa 	struct device *dev;
254f5b89e41SKrzysztof Hałasa 	struct npe *npe;
255f5b89e41SKrzysztof Hałasa 	struct net_device *netdev;
256f5b89e41SKrzysztof Hałasa 	struct napi_struct napi;
257f5b89e41SKrzysztof Hałasa 	struct hss_plat_info *plat;
258f5b89e41SKrzysztof Hałasa 	buffer_t *rx_buff_tab[RX_DESCS], *tx_buff_tab[TX_DESCS];
259f5b89e41SKrzysztof Hałasa 	struct desc *desc_tab;	/* coherent */
260f5b89e41SKrzysztof Hałasa 	u32 desc_tab_phys;
261f5b89e41SKrzysztof Hałasa 	unsigned int id;
262f5b89e41SKrzysztof Hałasa 	unsigned int clock_type, clock_rate, loopback;
263f5b89e41SKrzysztof Hałasa 	unsigned int initialized, carrier;
264f5b89e41SKrzysztof Hałasa 	u8 hdlc_cfg;
265*5dbc4650SKrzysztof Halasa 	u32 clock_reg;
266f5b89e41SKrzysztof Hałasa };
267f5b89e41SKrzysztof Hałasa 
268f5b89e41SKrzysztof Hałasa /* NPE message structure */
269f5b89e41SKrzysztof Hałasa struct msg {
270f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
271f5b89e41SKrzysztof Hałasa 	u8 cmd, unused, hss_port, index;
272f5b89e41SKrzysztof Hałasa 	union {
273f5b89e41SKrzysztof Hałasa 		struct { u8 data8a, data8b, data8c, data8d; };
274f5b89e41SKrzysztof Hałasa 		struct { u16 data16a, data16b; };
275f5b89e41SKrzysztof Hałasa 		struct { u32 data32; };
276f5b89e41SKrzysztof Hałasa 	};
277f5b89e41SKrzysztof Hałasa #else
278f5b89e41SKrzysztof Hałasa 	u8 index, hss_port, unused, cmd;
279f5b89e41SKrzysztof Hałasa 	union {
280f5b89e41SKrzysztof Hałasa 		struct { u8 data8d, data8c, data8b, data8a; };
281f5b89e41SKrzysztof Hałasa 		struct { u16 data16b, data16a; };
282f5b89e41SKrzysztof Hałasa 		struct { u32 data32; };
283f5b89e41SKrzysztof Hałasa 	};
284f5b89e41SKrzysztof Hałasa #endif
285f5b89e41SKrzysztof Hałasa };
286f5b89e41SKrzysztof Hałasa 
287f5b89e41SKrzysztof Hałasa /* HDLC packet descriptor */
288f5b89e41SKrzysztof Hałasa struct desc {
289f5b89e41SKrzysztof Hałasa 	u32 next;		/* pointer to next buffer, unused */
290f5b89e41SKrzysztof Hałasa 
291f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
292f5b89e41SKrzysztof Hałasa 	u16 buf_len;		/* buffer length */
293f5b89e41SKrzysztof Hałasa 	u16 pkt_len;		/* packet length */
294f5b89e41SKrzysztof Hałasa 	u32 data;		/* pointer to data buffer in RAM */
295f5b89e41SKrzysztof Hałasa 	u8 status;
296f5b89e41SKrzysztof Hałasa 	u8 error_count;
297f5b89e41SKrzysztof Hałasa 	u16 __reserved;
298f5b89e41SKrzysztof Hałasa #else
299f5b89e41SKrzysztof Hałasa 	u16 pkt_len;		/* packet length */
300f5b89e41SKrzysztof Hałasa 	u16 buf_len;		/* buffer length */
301f5b89e41SKrzysztof Hałasa 	u32 data;		/* pointer to data buffer in RAM */
302f5b89e41SKrzysztof Hałasa 	u16 __reserved;
303f5b89e41SKrzysztof Hałasa 	u8 error_count;
304f5b89e41SKrzysztof Hałasa 	u8 status;
305f5b89e41SKrzysztof Hałasa #endif
306f5b89e41SKrzysztof Hałasa 	u32 __reserved1[4];
307f5b89e41SKrzysztof Hałasa };
308f5b89e41SKrzysztof Hałasa 
309f5b89e41SKrzysztof Hałasa 
310f5b89e41SKrzysztof Hałasa #define rx_desc_phys(port, n)	((port)->desc_tab_phys +		\
311f5b89e41SKrzysztof Hałasa 				 (n) * sizeof(struct desc))
312f5b89e41SKrzysztof Hałasa #define rx_desc_ptr(port, n)	(&(port)->desc_tab[n])
313f5b89e41SKrzysztof Hałasa 
314f5b89e41SKrzysztof Hałasa #define tx_desc_phys(port, n)	((port)->desc_tab_phys +		\
315f5b89e41SKrzysztof Hałasa 				 ((n) + RX_DESCS) * sizeof(struct desc))
316f5b89e41SKrzysztof Hałasa #define tx_desc_ptr(port, n)	(&(port)->desc_tab[(n) + RX_DESCS])
317f5b89e41SKrzysztof Hałasa 
318f5b89e41SKrzysztof Hałasa /*****************************************************************************
319f5b89e41SKrzysztof Hałasa  * global variables
320f5b89e41SKrzysztof Hałasa  ****************************************************************************/
321f5b89e41SKrzysztof Hałasa 
322f5b89e41SKrzysztof Hałasa static int ports_open;
323f5b89e41SKrzysztof Hałasa static struct dma_pool *dma_pool;
324f5b89e41SKrzysztof Hałasa static spinlock_t npe_lock;
325f5b89e41SKrzysztof Hałasa 
326f5b89e41SKrzysztof Hałasa static const struct {
327f5b89e41SKrzysztof Hałasa 	int tx, txdone, rx, rxfree;
328f5b89e41SKrzysztof Hałasa }queue_ids[2] = {{HSS0_PKT_TX0_QUEUE, HSS0_PKT_TXDONE_QUEUE, HSS0_PKT_RX_QUEUE,
329f5b89e41SKrzysztof Hałasa 		  HSS0_PKT_RXFREE0_QUEUE},
330f5b89e41SKrzysztof Hałasa 		 {HSS1_PKT_TX0_QUEUE, HSS1_PKT_TXDONE_QUEUE, HSS1_PKT_RX_QUEUE,
331f5b89e41SKrzysztof Hałasa 		  HSS1_PKT_RXFREE0_QUEUE},
332f5b89e41SKrzysztof Hałasa };
333f5b89e41SKrzysztof Hałasa 
334f5b89e41SKrzysztof Hałasa /*****************************************************************************
335f5b89e41SKrzysztof Hałasa  * utility functions
336f5b89e41SKrzysztof Hałasa  ****************************************************************************/
337f5b89e41SKrzysztof Hałasa 
338f5b89e41SKrzysztof Hałasa static inline struct port* dev_to_port(struct net_device *dev)
339f5b89e41SKrzysztof Hałasa {
340f5b89e41SKrzysztof Hałasa 	return dev_to_hdlc(dev)->priv;
341f5b89e41SKrzysztof Hałasa }
342f5b89e41SKrzysztof Hałasa 
343f5b89e41SKrzysztof Hałasa #ifndef __ARMEB__
344f5b89e41SKrzysztof Hałasa static inline void memcpy_swab32(u32 *dest, u32 *src, int cnt)
345f5b89e41SKrzysztof Hałasa {
346f5b89e41SKrzysztof Hałasa 	int i;
347f5b89e41SKrzysztof Hałasa 	for (i = 0; i < cnt; i++)
348f5b89e41SKrzysztof Hałasa 		dest[i] = swab32(src[i]);
349f5b89e41SKrzysztof Hałasa }
350f5b89e41SKrzysztof Hałasa #endif
351f5b89e41SKrzysztof Hałasa 
352f5b89e41SKrzysztof Hałasa /*****************************************************************************
353f5b89e41SKrzysztof Hałasa  * HSS access
354f5b89e41SKrzysztof Hałasa  ****************************************************************************/
355f5b89e41SKrzysztof Hałasa 
356f5b89e41SKrzysztof Hałasa static void hss_npe_send(struct port *port, struct msg *msg, const char* what)
357f5b89e41SKrzysztof Hałasa {
358f5b89e41SKrzysztof Hałasa 	u32 *val = (u32*)msg;
359f5b89e41SKrzysztof Hałasa 	if (npe_send_message(port->npe, msg, what)) {
360f5b89e41SKrzysztof Hałasa 		printk(KERN_CRIT "HSS-%i: unable to send command [%08X:%08X]"
361f5b89e41SKrzysztof Hałasa 		       " to %s\n", port->id, val[0], val[1],
362f5b89e41SKrzysztof Hałasa 		       npe_name(port->npe));
363f5b89e41SKrzysztof Hałasa 		BUG();
364f5b89e41SKrzysztof Hałasa 	}
365f5b89e41SKrzysztof Hałasa }
366f5b89e41SKrzysztof Hałasa 
367f5b89e41SKrzysztof Hałasa static void hss_config_set_lut(struct port *port)
368f5b89e41SKrzysztof Hałasa {
369f5b89e41SKrzysztof Hałasa 	struct msg msg;
370f5b89e41SKrzysztof Hałasa 	int ch;
371f5b89e41SKrzysztof Hałasa 
372f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
373f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
374f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
375f5b89e41SKrzysztof Hałasa 
376f5b89e41SKrzysztof Hałasa 	for (ch = 0; ch < MAX_CHANNELS; ch++) {
377f5b89e41SKrzysztof Hałasa 		msg.data32 >>= 2;
378f5b89e41SKrzysztof Hałasa 		msg.data32 |= TDMMAP_HDLC << 30;
379f5b89e41SKrzysztof Hałasa 
380f5b89e41SKrzysztof Hałasa 		if (ch % 16 == 15) {
381f5b89e41SKrzysztof Hałasa 			msg.index = HSS_CONFIG_TX_LUT + ((ch / 4) & ~3);
382f5b89e41SKrzysztof Hałasa 			hss_npe_send(port, &msg, "HSS_SET_TX_LUT");
383f5b89e41SKrzysztof Hałasa 
384f5b89e41SKrzysztof Hałasa 			msg.index += HSS_CONFIG_RX_LUT - HSS_CONFIG_TX_LUT;
385f5b89e41SKrzysztof Hałasa 			hss_npe_send(port, &msg, "HSS_SET_RX_LUT");
386f5b89e41SKrzysztof Hałasa 		}
387f5b89e41SKrzysztof Hałasa 	}
388f5b89e41SKrzysztof Hałasa }
389f5b89e41SKrzysztof Hałasa 
390f5b89e41SKrzysztof Hałasa static void hss_config(struct port *port)
391f5b89e41SKrzysztof Hałasa {
392f5b89e41SKrzysztof Hałasa 	struct msg msg;
393f5b89e41SKrzysztof Hałasa 
394f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
395f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
396f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
397f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_TX_PCR;
398f5b89e41SKrzysztof Hałasa 	msg.data32 = PCR_FRM_SYNC_OUTPUT_RISING | PCR_MSB_ENDIAN |
399f5b89e41SKrzysztof Hałasa 		PCR_TX_DATA_ENABLE | PCR_SOF_NO_FBIT;
400f5b89e41SKrzysztof Hałasa 	if (port->clock_type == CLOCK_INT)
401f5b89e41SKrzysztof Hałasa 		msg.data32 |= PCR_SYNC_CLK_DIR_OUTPUT;
402f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_TX_PCR");
403f5b89e41SKrzysztof Hałasa 
404f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_RX_PCR;
405f5b89e41SKrzysztof Hałasa 	msg.data32 ^= PCR_TX_DATA_ENABLE | PCR_DCLK_EDGE_RISING;
406f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_RX_PCR");
407f5b89e41SKrzysztof Hałasa 
408f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
409f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
410f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
411f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_CORE_CR;
412f5b89e41SKrzysztof Hałasa 	msg.data32 = (port->loopback ? CCR_LOOPBACK : 0) |
413f5b89e41SKrzysztof Hałasa 		(port->id ? CCR_SECOND_HSS : 0);
414f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_CORE_CR");
415f5b89e41SKrzysztof Hałasa 
416f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
417f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
418f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
419f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_CLOCK_CR;
420*5dbc4650SKrzysztof Halasa 	msg.data32 = port->clock_reg;
421f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_CLOCK_CR");
422f5b89e41SKrzysztof Hałasa 
423f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
424f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
425f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
426f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_TX_FCR;
427f5b89e41SKrzysztof Hałasa 	msg.data16a = FRAME_OFFSET;
428f5b89e41SKrzysztof Hałasa 	msg.data16b = FRAME_SIZE - 1;
429f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_TX_FCR");
430f5b89e41SKrzysztof Hałasa 
431f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
432f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_WRITE;
433f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
434f5b89e41SKrzysztof Hałasa 	msg.index = HSS_CONFIG_RX_FCR;
435f5b89e41SKrzysztof Hałasa 	msg.data16a = FRAME_OFFSET;
436f5b89e41SKrzysztof Hałasa 	msg.data16b = FRAME_SIZE - 1;
437f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_RX_FCR");
438f5b89e41SKrzysztof Hałasa 
439f5b89e41SKrzysztof Hałasa 	hss_config_set_lut(port);
440f5b89e41SKrzysztof Hałasa 
441f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
442f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_CONFIG_LOAD;
443f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
444f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_LOAD_CONFIG");
445f5b89e41SKrzysztof Hałasa 
446f5b89e41SKrzysztof Hałasa 	if (npe_recv_message(port->npe, &msg, "HSS_LOAD_CONFIG") ||
447f5b89e41SKrzysztof Hałasa 	    /* HSS_LOAD_CONFIG for port #1 returns port_id = #4 */
448f5b89e41SKrzysztof Hałasa 	    msg.cmd != PORT_CONFIG_LOAD || msg.data32) {
449f5b89e41SKrzysztof Hałasa 		printk(KERN_CRIT "HSS-%i: HSS_LOAD_CONFIG failed\n",
450f5b89e41SKrzysztof Hałasa 		       port->id);
451f5b89e41SKrzysztof Hałasa 		BUG();
452f5b89e41SKrzysztof Hałasa 	}
453f5b89e41SKrzysztof Hałasa 
454f5b89e41SKrzysztof Hałasa 	/* HDLC may stop working without this - check FIXME */
455f5b89e41SKrzysztof Hałasa 	npe_recv_message(port->npe, &msg, "FLUSH_IT");
456f5b89e41SKrzysztof Hałasa }
457f5b89e41SKrzysztof Hałasa 
458f5b89e41SKrzysztof Hałasa static void hss_set_hdlc_cfg(struct port *port)
459f5b89e41SKrzysztof Hałasa {
460f5b89e41SKrzysztof Hałasa 	struct msg msg;
461f5b89e41SKrzysztof Hałasa 
462f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
463f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_HDLC_CFG_WRITE;
464f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
465f5b89e41SKrzysztof Hałasa 	msg.data8a = port->hdlc_cfg; /* rx_cfg */
466f5b89e41SKrzysztof Hałasa 	msg.data8b = port->hdlc_cfg | (PKT_EXTRA_FLAGS << 3); /* tx_cfg */
467f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_HDLC_CFG");
468f5b89e41SKrzysztof Hałasa }
469f5b89e41SKrzysztof Hałasa 
470f5b89e41SKrzysztof Hałasa static u32 hss_get_status(struct port *port)
471f5b89e41SKrzysztof Hałasa {
472f5b89e41SKrzysztof Hałasa 	struct msg msg;
473f5b89e41SKrzysztof Hałasa 
474f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
475f5b89e41SKrzysztof Hałasa 	msg.cmd = PORT_ERROR_READ;
476f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
477f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "PORT_ERROR_READ");
478f5b89e41SKrzysztof Hałasa 	if (npe_recv_message(port->npe, &msg, "PORT_ERROR_READ")) {
479f5b89e41SKrzysztof Hałasa 		printk(KERN_CRIT "HSS-%i: unable to read HSS status\n",
480f5b89e41SKrzysztof Hałasa 		       port->id);
481f5b89e41SKrzysztof Hałasa 		BUG();
482f5b89e41SKrzysztof Hałasa 	}
483f5b89e41SKrzysztof Hałasa 
484f5b89e41SKrzysztof Hałasa 	return msg.data32;
485f5b89e41SKrzysztof Hałasa }
486f5b89e41SKrzysztof Hałasa 
487f5b89e41SKrzysztof Hałasa static void hss_start_hdlc(struct port *port)
488f5b89e41SKrzysztof Hałasa {
489f5b89e41SKrzysztof Hałasa 	struct msg msg;
490f5b89e41SKrzysztof Hałasa 
491f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
492f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_FLOW_ENABLE;
493f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
494f5b89e41SKrzysztof Hałasa 	msg.data32 = 0;
495f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_ENABLE_PKT_PIPE");
496f5b89e41SKrzysztof Hałasa }
497f5b89e41SKrzysztof Hałasa 
498f5b89e41SKrzysztof Hałasa static void hss_stop_hdlc(struct port *port)
499f5b89e41SKrzysztof Hałasa {
500f5b89e41SKrzysztof Hałasa 	struct msg msg;
501f5b89e41SKrzysztof Hałasa 
502f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
503f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_FLOW_DISABLE;
504f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
505f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_DISABLE_PKT_PIPE");
506f5b89e41SKrzysztof Hałasa 	hss_get_status(port); /* make sure it's halted */
507f5b89e41SKrzysztof Hałasa }
508f5b89e41SKrzysztof Hałasa 
509f5b89e41SKrzysztof Hałasa static int hss_load_firmware(struct port *port)
510f5b89e41SKrzysztof Hałasa {
511f5b89e41SKrzysztof Hałasa 	struct msg msg;
512f5b89e41SKrzysztof Hałasa 	int err;
513f5b89e41SKrzysztof Hałasa 
514f5b89e41SKrzysztof Hałasa 	if (port->initialized)
515f5b89e41SKrzysztof Hałasa 		return 0;
516f5b89e41SKrzysztof Hałasa 
517f5b89e41SKrzysztof Hałasa 	if (!npe_running(port->npe) &&
518f5b89e41SKrzysztof Hałasa 	    (err = npe_load_firmware(port->npe, npe_name(port->npe),
519f5b89e41SKrzysztof Hałasa 				     port->dev)))
520f5b89e41SKrzysztof Hałasa 		return err;
521f5b89e41SKrzysztof Hałasa 
522f5b89e41SKrzysztof Hałasa 	/* HDLC mode configuration */
523f5b89e41SKrzysztof Hałasa 	memset(&msg, 0, sizeof(msg));
524f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_NUM_PIPES_WRITE;
525f5b89e41SKrzysztof Hałasa 	msg.hss_port = port->id;
526f5b89e41SKrzysztof Hałasa 	msg.data8a = PKT_NUM_PIPES;
527f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_PKT_PIPES");
528f5b89e41SKrzysztof Hałasa 
529f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_FIFO_SIZEW_WRITE;
530f5b89e41SKrzysztof Hałasa 	msg.data8a = PKT_PIPE_FIFO_SIZEW;
531f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_PKT_FIFO");
532f5b89e41SKrzysztof Hałasa 
533f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_MODE_WRITE;
534f5b89e41SKrzysztof Hałasa 	msg.data8a = NPE_PKT_MODE_HDLC;
535f5b89e41SKrzysztof Hałasa 	/* msg.data8b = inv_mask */
536f5b89e41SKrzysztof Hałasa 	/* msg.data8c = or_mask */
537f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_PKT_MODE");
538f5b89e41SKrzysztof Hałasa 
539f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_RX_SIZE_WRITE;
540f5b89e41SKrzysztof Hałasa 	msg.data16a = HDLC_MAX_MRU; /* including CRC */
541f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_PKT_RX_SIZE");
542f5b89e41SKrzysztof Hałasa 
543f5b89e41SKrzysztof Hałasa 	msg.cmd = PKT_PIPE_IDLE_PATTERN_WRITE;
544f5b89e41SKrzysztof Hałasa 	msg.data32 = 0x7F7F7F7F; /* ??? FIXME */
545f5b89e41SKrzysztof Hałasa 	hss_npe_send(port, &msg, "HSS_SET_PKT_IDLE");
546f5b89e41SKrzysztof Hałasa 
547f5b89e41SKrzysztof Hałasa 	port->initialized = 1;
548f5b89e41SKrzysztof Hałasa 	return 0;
549f5b89e41SKrzysztof Hałasa }
550f5b89e41SKrzysztof Hałasa 
551f5b89e41SKrzysztof Hałasa /*****************************************************************************
552f5b89e41SKrzysztof Hałasa  * packetized (HDLC) operation
553f5b89e41SKrzysztof Hałasa  ****************************************************************************/
554f5b89e41SKrzysztof Hałasa 
555f5b89e41SKrzysztof Hałasa static inline void debug_pkt(struct net_device *dev, const char *func,
556f5b89e41SKrzysztof Hałasa 			     u8 *data, int len)
557f5b89e41SKrzysztof Hałasa {
558f5b89e41SKrzysztof Hałasa #if DEBUG_PKT_BYTES
559f5b89e41SKrzysztof Hałasa 	int i;
560f5b89e41SKrzysztof Hałasa 
561f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: %s(%i)", dev->name, func, len);
562f5b89e41SKrzysztof Hałasa 	for (i = 0; i < len; i++) {
563f5b89e41SKrzysztof Hałasa 		if (i >= DEBUG_PKT_BYTES)
564f5b89e41SKrzysztof Hałasa 			break;
565f5b89e41SKrzysztof Hałasa 		printk("%s%02X", !(i % 4) ? " " : "", data[i]);
566f5b89e41SKrzysztof Hałasa 	}
567f5b89e41SKrzysztof Hałasa 	printk("\n");
568f5b89e41SKrzysztof Hałasa #endif
569f5b89e41SKrzysztof Hałasa }
570f5b89e41SKrzysztof Hałasa 
571f5b89e41SKrzysztof Hałasa 
572f5b89e41SKrzysztof Hałasa static inline void debug_desc(u32 phys, struct desc *desc)
573f5b89e41SKrzysztof Hałasa {
574f5b89e41SKrzysztof Hałasa #if DEBUG_DESC
575f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%X: %X %3X %3X %08X %X %X\n",
576f5b89e41SKrzysztof Hałasa 	       phys, desc->next, desc->buf_len, desc->pkt_len,
577f5b89e41SKrzysztof Hałasa 	       desc->data, desc->status, desc->error_count);
578f5b89e41SKrzysztof Hałasa #endif
579f5b89e41SKrzysztof Hałasa }
580f5b89e41SKrzysztof Hałasa 
581f5b89e41SKrzysztof Hałasa static inline int queue_get_desc(unsigned int queue, struct port *port,
582f5b89e41SKrzysztof Hałasa 				 int is_tx)
583f5b89e41SKrzysztof Hałasa {
584f5b89e41SKrzysztof Hałasa 	u32 phys, tab_phys, n_desc;
585f5b89e41SKrzysztof Hałasa 	struct desc *tab;
586f5b89e41SKrzysztof Hałasa 
587e6da96acSKrzysztof Hałasa 	if (!(phys = qmgr_get_entry(queue)))
588f5b89e41SKrzysztof Hałasa 		return -1;
589f5b89e41SKrzysztof Hałasa 
590f5b89e41SKrzysztof Hałasa 	BUG_ON(phys & 0x1F);
591f5b89e41SKrzysztof Hałasa 	tab_phys = is_tx ? tx_desc_phys(port, 0) : rx_desc_phys(port, 0);
592f5b89e41SKrzysztof Hałasa 	tab = is_tx ? tx_desc_ptr(port, 0) : rx_desc_ptr(port, 0);
593f5b89e41SKrzysztof Hałasa 	n_desc = (phys - tab_phys) / sizeof(struct desc);
594f5b89e41SKrzysztof Hałasa 	BUG_ON(n_desc >= (is_tx ? TX_DESCS : RX_DESCS));
595f5b89e41SKrzysztof Hałasa 	debug_desc(phys, &tab[n_desc]);
596f5b89e41SKrzysztof Hałasa 	BUG_ON(tab[n_desc].next);
597f5b89e41SKrzysztof Hałasa 	return n_desc;
598f5b89e41SKrzysztof Hałasa }
599f5b89e41SKrzysztof Hałasa 
600f5b89e41SKrzysztof Hałasa static inline void queue_put_desc(unsigned int queue, u32 phys,
601f5b89e41SKrzysztof Hałasa 				  struct desc *desc)
602f5b89e41SKrzysztof Hałasa {
603f5b89e41SKrzysztof Hałasa 	debug_desc(phys, desc);
604f5b89e41SKrzysztof Hałasa 	BUG_ON(phys & 0x1F);
605f5b89e41SKrzysztof Hałasa 	qmgr_put_entry(queue, phys);
6066a68afe3SKrzysztof Hałasa 	/* Don't check for queue overflow here, we've allocated sufficient
6076a68afe3SKrzysztof Hałasa 	   length and queues >= 32 don't support this check anyway. */
608f5b89e41SKrzysztof Hałasa }
609f5b89e41SKrzysztof Hałasa 
610f5b89e41SKrzysztof Hałasa 
611f5b89e41SKrzysztof Hałasa static inline void dma_unmap_tx(struct port *port, struct desc *desc)
612f5b89e41SKrzysztof Hałasa {
613f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
614f5b89e41SKrzysztof Hałasa 	dma_unmap_single(&port->netdev->dev, desc->data,
615f5b89e41SKrzysztof Hałasa 			 desc->buf_len, DMA_TO_DEVICE);
616f5b89e41SKrzysztof Hałasa #else
617f5b89e41SKrzysztof Hałasa 	dma_unmap_single(&port->netdev->dev, desc->data & ~3,
618f5b89e41SKrzysztof Hałasa 			 ALIGN((desc->data & 3) + desc->buf_len, 4),
619f5b89e41SKrzysztof Hałasa 			 DMA_TO_DEVICE);
620f5b89e41SKrzysztof Hałasa #endif
621f5b89e41SKrzysztof Hałasa }
622f5b89e41SKrzysztof Hałasa 
623f5b89e41SKrzysztof Hałasa 
624f5b89e41SKrzysztof Hałasa static void hss_hdlc_set_carrier(void *pdev, int carrier)
625f5b89e41SKrzysztof Hałasa {
626f5b89e41SKrzysztof Hałasa 	struct net_device *netdev = pdev;
627f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(netdev);
628f5b89e41SKrzysztof Hałasa 	unsigned long flags;
629f5b89e41SKrzysztof Hałasa 
630f5b89e41SKrzysztof Hałasa 	spin_lock_irqsave(&npe_lock, flags);
631f5b89e41SKrzysztof Hałasa 	port->carrier = carrier;
632f5b89e41SKrzysztof Hałasa 	if (!port->loopback) {
633f5b89e41SKrzysztof Hałasa 		if (carrier)
634f5b89e41SKrzysztof Hałasa 			netif_carrier_on(netdev);
635f5b89e41SKrzysztof Hałasa 		else
636f5b89e41SKrzysztof Hałasa 			netif_carrier_off(netdev);
637f5b89e41SKrzysztof Hałasa 	}
638f5b89e41SKrzysztof Hałasa 	spin_unlock_irqrestore(&npe_lock, flags);
639f5b89e41SKrzysztof Hałasa }
640f5b89e41SKrzysztof Hałasa 
641f5b89e41SKrzysztof Hałasa static void hss_hdlc_rx_irq(void *pdev)
642f5b89e41SKrzysztof Hałasa {
643f5b89e41SKrzysztof Hałasa 	struct net_device *dev = pdev;
644f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
645f5b89e41SKrzysztof Hałasa 
646f5b89e41SKrzysztof Hałasa #if DEBUG_RX
647f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: hss_hdlc_rx_irq\n", dev->name);
648f5b89e41SKrzysztof Hałasa #endif
649f5b89e41SKrzysztof Hałasa 	qmgr_disable_irq(queue_ids[port->id].rx);
650288379f0SBen Hutchings 	napi_schedule(&port->napi);
651f5b89e41SKrzysztof Hałasa }
652f5b89e41SKrzysztof Hałasa 
653f5b89e41SKrzysztof Hałasa static int hss_hdlc_poll(struct napi_struct *napi, int budget)
654f5b89e41SKrzysztof Hałasa {
655f5b89e41SKrzysztof Hałasa 	struct port *port = container_of(napi, struct port, napi);
656f5b89e41SKrzysztof Hałasa 	struct net_device *dev = port->netdev;
657f5b89e41SKrzysztof Hałasa 	unsigned int rxq = queue_ids[port->id].rx;
658f5b89e41SKrzysztof Hałasa 	unsigned int rxfreeq = queue_ids[port->id].rxfree;
659f5b89e41SKrzysztof Hałasa 	int received = 0;
660f5b89e41SKrzysztof Hałasa 
661f5b89e41SKrzysztof Hałasa #if DEBUG_RX
662f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: hss_hdlc_poll\n", dev->name);
663f5b89e41SKrzysztof Hałasa #endif
664f5b89e41SKrzysztof Hałasa 
665f5b89e41SKrzysztof Hałasa 	while (received < budget) {
666f5b89e41SKrzysztof Hałasa 		struct sk_buff *skb;
667f5b89e41SKrzysztof Hałasa 		struct desc *desc;
668f5b89e41SKrzysztof Hałasa 		int n;
669f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
670f5b89e41SKrzysztof Hałasa 		struct sk_buff *temp;
671f5b89e41SKrzysztof Hałasa 		u32 phys;
672f5b89e41SKrzysztof Hałasa #endif
673f5b89e41SKrzysztof Hałasa 
674f5b89e41SKrzysztof Hałasa 		if ((n = queue_get_desc(rxq, port, 0)) < 0) {
675f5b89e41SKrzysztof Hałasa #if DEBUG_RX
676f5b89e41SKrzysztof Hałasa 			printk(KERN_DEBUG "%s: hss_hdlc_poll"
677288379f0SBen Hutchings 			       " napi_complete\n", dev->name);
678f5b89e41SKrzysztof Hałasa #endif
679288379f0SBen Hutchings 			napi_complete(napi);
680f5b89e41SKrzysztof Hałasa 			qmgr_enable_irq(rxq);
681f5b89e41SKrzysztof Hałasa 			if (!qmgr_stat_empty(rxq) &&
682288379f0SBen Hutchings 			    napi_reschedule(napi)) {
683f5b89e41SKrzysztof Hałasa #if DEBUG_RX
684f5b89e41SKrzysztof Hałasa 				printk(KERN_DEBUG "%s: hss_hdlc_poll"
685288379f0SBen Hutchings 				       " napi_reschedule succeeded\n",
686f5b89e41SKrzysztof Hałasa 				       dev->name);
687f5b89e41SKrzysztof Hałasa #endif
688f5b89e41SKrzysztof Hałasa 				qmgr_disable_irq(rxq);
689f5b89e41SKrzysztof Hałasa 				continue;
690f5b89e41SKrzysztof Hałasa 			}
691f5b89e41SKrzysztof Hałasa #if DEBUG_RX
692f5b89e41SKrzysztof Hałasa 			printk(KERN_DEBUG "%s: hss_hdlc_poll all done\n",
693f5b89e41SKrzysztof Hałasa 			       dev->name);
694f5b89e41SKrzysztof Hałasa #endif
695f5b89e41SKrzysztof Hałasa 			return received; /* all work done */
696f5b89e41SKrzysztof Hałasa 		}
697f5b89e41SKrzysztof Hałasa 
698f5b89e41SKrzysztof Hałasa 		desc = rx_desc_ptr(port, n);
699f5b89e41SKrzysztof Hałasa #if 0 /* FIXME - error_count counts modulo 256, perhaps we should use it */
700f5b89e41SKrzysztof Hałasa 		if (desc->error_count)
701f5b89e41SKrzysztof Hałasa 			printk(KERN_DEBUG "%s: hss_hdlc_poll status 0x%02X"
702f5b89e41SKrzysztof Hałasa 			       " errors %u\n", dev->name, desc->status,
703f5b89e41SKrzysztof Hałasa 			       desc->error_count);
704f5b89e41SKrzysztof Hałasa #endif
705f5b89e41SKrzysztof Hałasa 		skb = NULL;
706f5b89e41SKrzysztof Hałasa 		switch (desc->status) {
707f5b89e41SKrzysztof Hałasa 		case 0:
708f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
709f5b89e41SKrzysztof Hałasa 			if ((skb = netdev_alloc_skb(dev, RX_SIZE)) != NULL) {
710f5b89e41SKrzysztof Hałasa 				phys = dma_map_single(&dev->dev, skb->data,
711f5b89e41SKrzysztof Hałasa 						      RX_SIZE,
712f5b89e41SKrzysztof Hałasa 						      DMA_FROM_DEVICE);
713f5b89e41SKrzysztof Hałasa 				if (dma_mapping_error(&dev->dev, phys)) {
714f5b89e41SKrzysztof Hałasa 					dev_kfree_skb(skb);
715f5b89e41SKrzysztof Hałasa 					skb = NULL;
716f5b89e41SKrzysztof Hałasa 				}
717f5b89e41SKrzysztof Hałasa 			}
718f5b89e41SKrzysztof Hałasa #else
719f5b89e41SKrzysztof Hałasa 			skb = netdev_alloc_skb(dev, desc->pkt_len);
720f5b89e41SKrzysztof Hałasa #endif
721f5b89e41SKrzysztof Hałasa 			if (!skb)
722f5b89e41SKrzysztof Hałasa 				dev->stats.rx_dropped++;
723f5b89e41SKrzysztof Hałasa 			break;
724f5b89e41SKrzysztof Hałasa 		case ERR_HDLC_ALIGN:
725f5b89e41SKrzysztof Hałasa 		case ERR_HDLC_ABORT:
726f5b89e41SKrzysztof Hałasa 			dev->stats.rx_frame_errors++;
727f5b89e41SKrzysztof Hałasa 			dev->stats.rx_errors++;
728f5b89e41SKrzysztof Hałasa 			break;
729f5b89e41SKrzysztof Hałasa 		case ERR_HDLC_FCS:
730f5b89e41SKrzysztof Hałasa 			dev->stats.rx_crc_errors++;
731f5b89e41SKrzysztof Hałasa 			dev->stats.rx_errors++;
732f5b89e41SKrzysztof Hałasa 			break;
733f5b89e41SKrzysztof Hałasa 		case ERR_HDLC_TOO_LONG:
734f5b89e41SKrzysztof Hałasa 			dev->stats.rx_length_errors++;
735f5b89e41SKrzysztof Hałasa 			dev->stats.rx_errors++;
736f5b89e41SKrzysztof Hałasa 			break;
737f5b89e41SKrzysztof Hałasa 		default:	/* FIXME - remove printk */
738f5b89e41SKrzysztof Hałasa 			printk(KERN_ERR "%s: hss_hdlc_poll: status 0x%02X"
739f5b89e41SKrzysztof Hałasa 			       " errors %u\n", dev->name, desc->status,
740f5b89e41SKrzysztof Hałasa 			       desc->error_count);
741f5b89e41SKrzysztof Hałasa 			dev->stats.rx_errors++;
742f5b89e41SKrzysztof Hałasa 		}
743f5b89e41SKrzysztof Hałasa 
744f5b89e41SKrzysztof Hałasa 		if (!skb) {
745f5b89e41SKrzysztof Hałasa 			/* put the desc back on RX-ready queue */
746f5b89e41SKrzysztof Hałasa 			desc->buf_len = RX_SIZE;
747f5b89e41SKrzysztof Hałasa 			desc->pkt_len = desc->status = 0;
748f5b89e41SKrzysztof Hałasa 			queue_put_desc(rxfreeq, rx_desc_phys(port, n), desc);
749f5b89e41SKrzysztof Hałasa 			continue;
750f5b89e41SKrzysztof Hałasa 		}
751f5b89e41SKrzysztof Hałasa 
752f5b89e41SKrzysztof Hałasa 		/* process received frame */
753f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
754f5b89e41SKrzysztof Hałasa 		temp = skb;
755f5b89e41SKrzysztof Hałasa 		skb = port->rx_buff_tab[n];
756f5b89e41SKrzysztof Hałasa 		dma_unmap_single(&dev->dev, desc->data,
757f5b89e41SKrzysztof Hałasa 				 RX_SIZE, DMA_FROM_DEVICE);
758f5b89e41SKrzysztof Hałasa #else
7595d23a1d2SFUJITA Tomonori 		dma_sync_single_for_cpu(&dev->dev, desc->data,
760f5b89e41SKrzysztof Hałasa 					RX_SIZE, DMA_FROM_DEVICE);
761f5b89e41SKrzysztof Hałasa 		memcpy_swab32((u32 *)skb->data, (u32 *)port->rx_buff_tab[n],
762f5b89e41SKrzysztof Hałasa 			      ALIGN(desc->pkt_len, 4) / 4);
763f5b89e41SKrzysztof Hałasa #endif
764f5b89e41SKrzysztof Hałasa 		skb_put(skb, desc->pkt_len);
765f5b89e41SKrzysztof Hałasa 
766f5b89e41SKrzysztof Hałasa 		debug_pkt(dev, "hss_hdlc_poll", skb->data, skb->len);
767f5b89e41SKrzysztof Hałasa 
768f5b89e41SKrzysztof Hałasa 		skb->protocol = hdlc_type_trans(skb, dev);
769f5b89e41SKrzysztof Hałasa 		dev->stats.rx_packets++;
770f5b89e41SKrzysztof Hałasa 		dev->stats.rx_bytes += skb->len;
771f5b89e41SKrzysztof Hałasa 		netif_receive_skb(skb);
772f5b89e41SKrzysztof Hałasa 
773f5b89e41SKrzysztof Hałasa 		/* put the new buffer on RX-free queue */
774f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
775f5b89e41SKrzysztof Hałasa 		port->rx_buff_tab[n] = temp;
776f5b89e41SKrzysztof Hałasa 		desc->data = phys;
777f5b89e41SKrzysztof Hałasa #endif
778f5b89e41SKrzysztof Hałasa 		desc->buf_len = RX_SIZE;
779f5b89e41SKrzysztof Hałasa 		desc->pkt_len = 0;
780f5b89e41SKrzysztof Hałasa 		queue_put_desc(rxfreeq, rx_desc_phys(port, n), desc);
781f5b89e41SKrzysztof Hałasa 		received++;
782f5b89e41SKrzysztof Hałasa 	}
783f5b89e41SKrzysztof Hałasa #if DEBUG_RX
784f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "hss_hdlc_poll: end, not all work done\n");
785f5b89e41SKrzysztof Hałasa #endif
786f5b89e41SKrzysztof Hałasa 	return received;	/* not all work done */
787f5b89e41SKrzysztof Hałasa }
788f5b89e41SKrzysztof Hałasa 
789f5b89e41SKrzysztof Hałasa 
790f5b89e41SKrzysztof Hałasa static void hss_hdlc_txdone_irq(void *pdev)
791f5b89e41SKrzysztof Hałasa {
792f5b89e41SKrzysztof Hałasa 	struct net_device *dev = pdev;
793f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
794f5b89e41SKrzysztof Hałasa 	int n_desc;
795f5b89e41SKrzysztof Hałasa 
796f5b89e41SKrzysztof Hałasa #if DEBUG_TX
797f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG DRV_NAME ": hss_hdlc_txdone_irq\n");
798f5b89e41SKrzysztof Hałasa #endif
799f5b89e41SKrzysztof Hałasa 	while ((n_desc = queue_get_desc(queue_ids[port->id].txdone,
800f5b89e41SKrzysztof Hałasa 					port, 1)) >= 0) {
801f5b89e41SKrzysztof Hałasa 		struct desc *desc;
802f5b89e41SKrzysztof Hałasa 		int start;
803f5b89e41SKrzysztof Hałasa 
804f5b89e41SKrzysztof Hałasa 		desc = tx_desc_ptr(port, n_desc);
805f5b89e41SKrzysztof Hałasa 
806f5b89e41SKrzysztof Hałasa 		dev->stats.tx_packets++;
807f5b89e41SKrzysztof Hałasa 		dev->stats.tx_bytes += desc->pkt_len;
808f5b89e41SKrzysztof Hałasa 
809f5b89e41SKrzysztof Hałasa 		dma_unmap_tx(port, desc);
810f5b89e41SKrzysztof Hałasa #if DEBUG_TX
811f5b89e41SKrzysztof Hałasa 		printk(KERN_DEBUG "%s: hss_hdlc_txdone_irq free %p\n",
812f5b89e41SKrzysztof Hałasa 		       dev->name, port->tx_buff_tab[n_desc]);
813f5b89e41SKrzysztof Hałasa #endif
814f5b89e41SKrzysztof Hałasa 		free_buffer_irq(port->tx_buff_tab[n_desc]);
815f5b89e41SKrzysztof Hałasa 		port->tx_buff_tab[n_desc] = NULL;
816f5b89e41SKrzysztof Hałasa 
8179733bb8eSKrzysztof Hałasa 		start = qmgr_stat_below_low_watermark(port->plat->txreadyq);
818f5b89e41SKrzysztof Hałasa 		queue_put_desc(port->plat->txreadyq,
819f5b89e41SKrzysztof Hałasa 			       tx_desc_phys(port, n_desc), desc);
8209733bb8eSKrzysztof Hałasa 		if (start) { /* TX-ready queue was empty */
821f5b89e41SKrzysztof Hałasa #if DEBUG_TX
822f5b89e41SKrzysztof Hałasa 			printk(KERN_DEBUG "%s: hss_hdlc_txdone_irq xmit"
823f5b89e41SKrzysztof Hałasa 			       " ready\n", dev->name);
824f5b89e41SKrzysztof Hałasa #endif
825f5b89e41SKrzysztof Hałasa 			netif_wake_queue(dev);
826f5b89e41SKrzysztof Hałasa 		}
827f5b89e41SKrzysztof Hałasa 	}
828f5b89e41SKrzysztof Hałasa }
829f5b89e41SKrzysztof Hałasa 
830f5b89e41SKrzysztof Hałasa static int hss_hdlc_xmit(struct sk_buff *skb, struct net_device *dev)
831f5b89e41SKrzysztof Hałasa {
832f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
833f5b89e41SKrzysztof Hałasa 	unsigned int txreadyq = port->plat->txreadyq;
834f5b89e41SKrzysztof Hałasa 	int len, offset, bytes, n;
835f5b89e41SKrzysztof Hałasa 	void *mem;
836f5b89e41SKrzysztof Hałasa 	u32 phys;
837f5b89e41SKrzysztof Hałasa 	struct desc *desc;
838f5b89e41SKrzysztof Hałasa 
839f5b89e41SKrzysztof Hałasa #if DEBUG_TX
840f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: hss_hdlc_xmit\n", dev->name);
841f5b89e41SKrzysztof Hałasa #endif
842f5b89e41SKrzysztof Hałasa 
843f5b89e41SKrzysztof Hałasa 	if (unlikely(skb->len > HDLC_MAX_MRU)) {
844f5b89e41SKrzysztof Hałasa 		dev_kfree_skb(skb);
845f5b89e41SKrzysztof Hałasa 		dev->stats.tx_errors++;
846f5b89e41SKrzysztof Hałasa 		return NETDEV_TX_OK;
847f5b89e41SKrzysztof Hałasa 	}
848f5b89e41SKrzysztof Hałasa 
849f5b89e41SKrzysztof Hałasa 	debug_pkt(dev, "hss_hdlc_xmit", skb->data, skb->len);
850f5b89e41SKrzysztof Hałasa 
851f5b89e41SKrzysztof Hałasa 	len = skb->len;
852f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
853f5b89e41SKrzysztof Hałasa 	offset = 0; /* no need to keep alignment */
854f5b89e41SKrzysztof Hałasa 	bytes = len;
855f5b89e41SKrzysztof Hałasa 	mem = skb->data;
856f5b89e41SKrzysztof Hałasa #else
857f5b89e41SKrzysztof Hałasa 	offset = (int)skb->data & 3; /* keep 32-bit alignment */
858f5b89e41SKrzysztof Hałasa 	bytes = ALIGN(offset + len, 4);
859f5b89e41SKrzysztof Hałasa 	if (!(mem = kmalloc(bytes, GFP_ATOMIC))) {
860f5b89e41SKrzysztof Hałasa 		dev_kfree_skb(skb);
861f5b89e41SKrzysztof Hałasa 		dev->stats.tx_dropped++;
862f5b89e41SKrzysztof Hałasa 		return NETDEV_TX_OK;
863f5b89e41SKrzysztof Hałasa 	}
864f5b89e41SKrzysztof Hałasa 	memcpy_swab32(mem, (u32 *)((int)skb->data & ~3), bytes / 4);
865f5b89e41SKrzysztof Hałasa 	dev_kfree_skb(skb);
866f5b89e41SKrzysztof Hałasa #endif
867f5b89e41SKrzysztof Hałasa 
868f5b89e41SKrzysztof Hałasa 	phys = dma_map_single(&dev->dev, mem, bytes, DMA_TO_DEVICE);
869f5b89e41SKrzysztof Hałasa 	if (dma_mapping_error(&dev->dev, phys)) {
870f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
871f5b89e41SKrzysztof Hałasa 		dev_kfree_skb(skb);
872f5b89e41SKrzysztof Hałasa #else
873f5b89e41SKrzysztof Hałasa 		kfree(mem);
874f5b89e41SKrzysztof Hałasa #endif
875f5b89e41SKrzysztof Hałasa 		dev->stats.tx_dropped++;
876f5b89e41SKrzysztof Hałasa 		return NETDEV_TX_OK;
877f5b89e41SKrzysztof Hałasa 	}
878f5b89e41SKrzysztof Hałasa 
879f5b89e41SKrzysztof Hałasa 	n = queue_get_desc(txreadyq, port, 1);
880f5b89e41SKrzysztof Hałasa 	BUG_ON(n < 0);
881f5b89e41SKrzysztof Hałasa 	desc = tx_desc_ptr(port, n);
882f5b89e41SKrzysztof Hałasa 
883f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
884f5b89e41SKrzysztof Hałasa 	port->tx_buff_tab[n] = skb;
885f5b89e41SKrzysztof Hałasa #else
886f5b89e41SKrzysztof Hałasa 	port->tx_buff_tab[n] = mem;
887f5b89e41SKrzysztof Hałasa #endif
888f5b89e41SKrzysztof Hałasa 	desc->data = phys + offset;
889f5b89e41SKrzysztof Hałasa 	desc->buf_len = desc->pkt_len = len;
890f5b89e41SKrzysztof Hałasa 
891f5b89e41SKrzysztof Hałasa 	wmb();
892f5b89e41SKrzysztof Hałasa 	queue_put_desc(queue_ids[port->id].tx, tx_desc_phys(port, n), desc);
893f5b89e41SKrzysztof Hałasa 	dev->trans_start = jiffies;
894f5b89e41SKrzysztof Hałasa 
8959733bb8eSKrzysztof Hałasa 	if (qmgr_stat_below_low_watermark(txreadyq)) { /* empty */
896f5b89e41SKrzysztof Hałasa #if DEBUG_TX
897f5b89e41SKrzysztof Hałasa 		printk(KERN_DEBUG "%s: hss_hdlc_xmit queue full\n", dev->name);
898f5b89e41SKrzysztof Hałasa #endif
899f5b89e41SKrzysztof Hałasa 		netif_stop_queue(dev);
900f5b89e41SKrzysztof Hałasa 		/* we could miss TX ready interrupt */
9019733bb8eSKrzysztof Hałasa 		if (!qmgr_stat_below_low_watermark(txreadyq)) {
902f5b89e41SKrzysztof Hałasa #if DEBUG_TX
903f5b89e41SKrzysztof Hałasa 			printk(KERN_DEBUG "%s: hss_hdlc_xmit ready again\n",
904f5b89e41SKrzysztof Hałasa 			       dev->name);
905f5b89e41SKrzysztof Hałasa #endif
906f5b89e41SKrzysztof Hałasa 			netif_wake_queue(dev);
907f5b89e41SKrzysztof Hałasa 		}
908f5b89e41SKrzysztof Hałasa 	}
909f5b89e41SKrzysztof Hałasa 
910f5b89e41SKrzysztof Hałasa #if DEBUG_TX
911f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: hss_hdlc_xmit end\n", dev->name);
912f5b89e41SKrzysztof Hałasa #endif
913f5b89e41SKrzysztof Hałasa 	return NETDEV_TX_OK;
914f5b89e41SKrzysztof Hałasa }
915f5b89e41SKrzysztof Hałasa 
916f5b89e41SKrzysztof Hałasa 
917f5b89e41SKrzysztof Hałasa static int request_hdlc_queues(struct port *port)
918f5b89e41SKrzysztof Hałasa {
919f5b89e41SKrzysztof Hałasa 	int err;
920f5b89e41SKrzysztof Hałasa 
921e6da96acSKrzysztof Hałasa 	err = qmgr_request_queue(queue_ids[port->id].rxfree, RX_DESCS, 0, 0,
922e6da96acSKrzysztof Hałasa 				 "%s:RX-free", port->netdev->name);
923f5b89e41SKrzysztof Hałasa 	if (err)
924f5b89e41SKrzysztof Hałasa 		return err;
925f5b89e41SKrzysztof Hałasa 
926e6da96acSKrzysztof Hałasa 	err = qmgr_request_queue(queue_ids[port->id].rx, RX_DESCS, 0, 0,
927e6da96acSKrzysztof Hałasa 				 "%s:RX", port->netdev->name);
928f5b89e41SKrzysztof Hałasa 	if (err)
929f5b89e41SKrzysztof Hałasa 		goto rel_rxfree;
930f5b89e41SKrzysztof Hałasa 
931e6da96acSKrzysztof Hałasa 	err = qmgr_request_queue(queue_ids[port->id].tx, TX_DESCS, 0, 0,
932e6da96acSKrzysztof Hałasa 				 "%s:TX", port->netdev->name);
933f5b89e41SKrzysztof Hałasa 	if (err)
934f5b89e41SKrzysztof Hałasa 		goto rel_rx;
935f5b89e41SKrzysztof Hałasa 
936e6da96acSKrzysztof Hałasa 	err = qmgr_request_queue(port->plat->txreadyq, TX_DESCS, 0, 0,
937e6da96acSKrzysztof Hałasa 				 "%s:TX-ready", port->netdev->name);
938f5b89e41SKrzysztof Hałasa 	if (err)
939f5b89e41SKrzysztof Hałasa 		goto rel_tx;
940f5b89e41SKrzysztof Hałasa 
941e6da96acSKrzysztof Hałasa 	err = qmgr_request_queue(queue_ids[port->id].txdone, TX_DESCS, 0, 0,
942e6da96acSKrzysztof Hałasa 				 "%s:TX-done", port->netdev->name);
943f5b89e41SKrzysztof Hałasa 	if (err)
944f5b89e41SKrzysztof Hałasa 		goto rel_txready;
945f5b89e41SKrzysztof Hałasa 	return 0;
946f5b89e41SKrzysztof Hałasa 
947f5b89e41SKrzysztof Hałasa rel_txready:
948f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(port->plat->txreadyq);
949f5b89e41SKrzysztof Hałasa rel_tx:
950f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].tx);
951f5b89e41SKrzysztof Hałasa rel_rx:
952f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].rx);
953f5b89e41SKrzysztof Hałasa rel_rxfree:
954f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].rxfree);
955f5b89e41SKrzysztof Hałasa 	printk(KERN_DEBUG "%s: unable to request hardware queues\n",
956f5b89e41SKrzysztof Hałasa 	       port->netdev->name);
957f5b89e41SKrzysztof Hałasa 	return err;
958f5b89e41SKrzysztof Hałasa }
959f5b89e41SKrzysztof Hałasa 
960f5b89e41SKrzysztof Hałasa static void release_hdlc_queues(struct port *port)
961f5b89e41SKrzysztof Hałasa {
962f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].rxfree);
963f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].rx);
964f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].txdone);
965f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(queue_ids[port->id].tx);
966f5b89e41SKrzysztof Hałasa 	qmgr_release_queue(port->plat->txreadyq);
967f5b89e41SKrzysztof Hałasa }
968f5b89e41SKrzysztof Hałasa 
969f5b89e41SKrzysztof Hałasa static int init_hdlc_queues(struct port *port)
970f5b89e41SKrzysztof Hałasa {
971f5b89e41SKrzysztof Hałasa 	int i;
972f5b89e41SKrzysztof Hałasa 
973f5b89e41SKrzysztof Hałasa 	if (!ports_open)
974f5b89e41SKrzysztof Hałasa 		if (!(dma_pool = dma_pool_create(DRV_NAME, NULL,
975f5b89e41SKrzysztof Hałasa 						 POOL_ALLOC_SIZE, 32, 0)))
976f5b89e41SKrzysztof Hałasa 			return -ENOMEM;
977f5b89e41SKrzysztof Hałasa 
978f5b89e41SKrzysztof Hałasa 	if (!(port->desc_tab = dma_pool_alloc(dma_pool, GFP_KERNEL,
979f5b89e41SKrzysztof Hałasa 					      &port->desc_tab_phys)))
980f5b89e41SKrzysztof Hałasa 		return -ENOMEM;
981f5b89e41SKrzysztof Hałasa 	memset(port->desc_tab, 0, POOL_ALLOC_SIZE);
982f5b89e41SKrzysztof Hałasa 	memset(port->rx_buff_tab, 0, sizeof(port->rx_buff_tab)); /* tables */
983f5b89e41SKrzysztof Hałasa 	memset(port->tx_buff_tab, 0, sizeof(port->tx_buff_tab));
984f5b89e41SKrzysztof Hałasa 
985f5b89e41SKrzysztof Hałasa 	/* Setup RX buffers */
986f5b89e41SKrzysztof Hałasa 	for (i = 0; i < RX_DESCS; i++) {
987f5b89e41SKrzysztof Hałasa 		struct desc *desc = rx_desc_ptr(port, i);
988f5b89e41SKrzysztof Hałasa 		buffer_t *buff;
989f5b89e41SKrzysztof Hałasa 		void *data;
990f5b89e41SKrzysztof Hałasa #ifdef __ARMEB__
991f5b89e41SKrzysztof Hałasa 		if (!(buff = netdev_alloc_skb(port->netdev, RX_SIZE)))
992f5b89e41SKrzysztof Hałasa 			return -ENOMEM;
993f5b89e41SKrzysztof Hałasa 		data = buff->data;
994f5b89e41SKrzysztof Hałasa #else
995f5b89e41SKrzysztof Hałasa 		if (!(buff = kmalloc(RX_SIZE, GFP_KERNEL)))
996f5b89e41SKrzysztof Hałasa 			return -ENOMEM;
997f5b89e41SKrzysztof Hałasa 		data = buff;
998f5b89e41SKrzysztof Hałasa #endif
999f5b89e41SKrzysztof Hałasa 		desc->buf_len = RX_SIZE;
1000f5b89e41SKrzysztof Hałasa 		desc->data = dma_map_single(&port->netdev->dev, data,
1001f5b89e41SKrzysztof Hałasa 					    RX_SIZE, DMA_FROM_DEVICE);
1002f5b89e41SKrzysztof Hałasa 		if (dma_mapping_error(&port->netdev->dev, desc->data)) {
1003f5b89e41SKrzysztof Hałasa 			free_buffer(buff);
1004f5b89e41SKrzysztof Hałasa 			return -EIO;
1005f5b89e41SKrzysztof Hałasa 		}
1006f5b89e41SKrzysztof Hałasa 		port->rx_buff_tab[i] = buff;
1007f5b89e41SKrzysztof Hałasa 	}
1008f5b89e41SKrzysztof Hałasa 
1009f5b89e41SKrzysztof Hałasa 	return 0;
1010f5b89e41SKrzysztof Hałasa }
1011f5b89e41SKrzysztof Hałasa 
1012f5b89e41SKrzysztof Hałasa static void destroy_hdlc_queues(struct port *port)
1013f5b89e41SKrzysztof Hałasa {
1014f5b89e41SKrzysztof Hałasa 	int i;
1015f5b89e41SKrzysztof Hałasa 
1016f5b89e41SKrzysztof Hałasa 	if (port->desc_tab) {
1017f5b89e41SKrzysztof Hałasa 		for (i = 0; i < RX_DESCS; i++) {
1018f5b89e41SKrzysztof Hałasa 			struct desc *desc = rx_desc_ptr(port, i);
1019f5b89e41SKrzysztof Hałasa 			buffer_t *buff = port->rx_buff_tab[i];
1020f5b89e41SKrzysztof Hałasa 			if (buff) {
1021f5b89e41SKrzysztof Hałasa 				dma_unmap_single(&port->netdev->dev,
1022f5b89e41SKrzysztof Hałasa 						 desc->data, RX_SIZE,
1023f5b89e41SKrzysztof Hałasa 						 DMA_FROM_DEVICE);
1024f5b89e41SKrzysztof Hałasa 				free_buffer(buff);
1025f5b89e41SKrzysztof Hałasa 			}
1026f5b89e41SKrzysztof Hałasa 		}
1027f5b89e41SKrzysztof Hałasa 		for (i = 0; i < TX_DESCS; i++) {
1028f5b89e41SKrzysztof Hałasa 			struct desc *desc = tx_desc_ptr(port, i);
1029f5b89e41SKrzysztof Hałasa 			buffer_t *buff = port->tx_buff_tab[i];
1030f5b89e41SKrzysztof Hałasa 			if (buff) {
1031f5b89e41SKrzysztof Hałasa 				dma_unmap_tx(port, desc);
1032f5b89e41SKrzysztof Hałasa 				free_buffer(buff);
1033f5b89e41SKrzysztof Hałasa 			}
1034f5b89e41SKrzysztof Hałasa 		}
1035f5b89e41SKrzysztof Hałasa 		dma_pool_free(dma_pool, port->desc_tab, port->desc_tab_phys);
1036f5b89e41SKrzysztof Hałasa 		port->desc_tab = NULL;
1037f5b89e41SKrzysztof Hałasa 	}
1038f5b89e41SKrzysztof Hałasa 
1039f5b89e41SKrzysztof Hałasa 	if (!ports_open && dma_pool) {
1040f5b89e41SKrzysztof Hałasa 		dma_pool_destroy(dma_pool);
1041f5b89e41SKrzysztof Hałasa 		dma_pool = NULL;
1042f5b89e41SKrzysztof Hałasa 	}
1043f5b89e41SKrzysztof Hałasa }
1044f5b89e41SKrzysztof Hałasa 
1045f5b89e41SKrzysztof Hałasa static int hss_hdlc_open(struct net_device *dev)
1046f5b89e41SKrzysztof Hałasa {
1047f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
1048f5b89e41SKrzysztof Hałasa 	unsigned long flags;
1049f5b89e41SKrzysztof Hałasa 	int i, err = 0;
1050f5b89e41SKrzysztof Hałasa 
1051f5b89e41SKrzysztof Hałasa 	if ((err = hdlc_open(dev)))
1052f5b89e41SKrzysztof Hałasa 		return err;
1053f5b89e41SKrzysztof Hałasa 
1054f5b89e41SKrzysztof Hałasa 	if ((err = hss_load_firmware(port)))
1055f5b89e41SKrzysztof Hałasa 		goto err_hdlc_close;
1056f5b89e41SKrzysztof Hałasa 
1057f5b89e41SKrzysztof Hałasa 	if ((err = request_hdlc_queues(port)))
1058f5b89e41SKrzysztof Hałasa 		goto err_hdlc_close;
1059f5b89e41SKrzysztof Hałasa 
1060f5b89e41SKrzysztof Hałasa 	if ((err = init_hdlc_queues(port)))
1061f5b89e41SKrzysztof Hałasa 		goto err_destroy_queues;
1062f5b89e41SKrzysztof Hałasa 
1063f5b89e41SKrzysztof Hałasa 	spin_lock_irqsave(&npe_lock, flags);
1064f5b89e41SKrzysztof Hałasa 	if (port->plat->open)
1065f5b89e41SKrzysztof Hałasa 		if ((err = port->plat->open(port->id, dev,
1066f5b89e41SKrzysztof Hałasa 					    hss_hdlc_set_carrier)))
1067f5b89e41SKrzysztof Hałasa 			goto err_unlock;
1068f5b89e41SKrzysztof Hałasa 	spin_unlock_irqrestore(&npe_lock, flags);
1069f5b89e41SKrzysztof Hałasa 
1070f5b89e41SKrzysztof Hałasa 	/* Populate queues with buffers, no failure after this point */
1071f5b89e41SKrzysztof Hałasa 	for (i = 0; i < TX_DESCS; i++)
1072f5b89e41SKrzysztof Hałasa 		queue_put_desc(port->plat->txreadyq,
1073f5b89e41SKrzysztof Hałasa 			       tx_desc_phys(port, i), tx_desc_ptr(port, i));
1074f5b89e41SKrzysztof Hałasa 
1075f5b89e41SKrzysztof Hałasa 	for (i = 0; i < RX_DESCS; i++)
1076f5b89e41SKrzysztof Hałasa 		queue_put_desc(queue_ids[port->id].rxfree,
1077f5b89e41SKrzysztof Hałasa 			       rx_desc_phys(port, i), rx_desc_ptr(port, i));
1078f5b89e41SKrzysztof Hałasa 
1079f5b89e41SKrzysztof Hałasa 	napi_enable(&port->napi);
1080f5b89e41SKrzysztof Hałasa 	netif_start_queue(dev);
1081f5b89e41SKrzysztof Hałasa 
1082f5b89e41SKrzysztof Hałasa 	qmgr_set_irq(queue_ids[port->id].rx, QUEUE_IRQ_SRC_NOT_EMPTY,
1083f5b89e41SKrzysztof Hałasa 		     hss_hdlc_rx_irq, dev);
1084f5b89e41SKrzysztof Hałasa 
1085f5b89e41SKrzysztof Hałasa 	qmgr_set_irq(queue_ids[port->id].txdone, QUEUE_IRQ_SRC_NOT_EMPTY,
1086f5b89e41SKrzysztof Hałasa 		     hss_hdlc_txdone_irq, dev);
1087f5b89e41SKrzysztof Hałasa 	qmgr_enable_irq(queue_ids[port->id].txdone);
1088f5b89e41SKrzysztof Hałasa 
1089f5b89e41SKrzysztof Hałasa 	ports_open++;
1090f5b89e41SKrzysztof Hałasa 
1091f5b89e41SKrzysztof Hałasa 	hss_set_hdlc_cfg(port);
1092f5b89e41SKrzysztof Hałasa 	hss_config(port);
1093f5b89e41SKrzysztof Hałasa 
1094f5b89e41SKrzysztof Hałasa 	hss_start_hdlc(port);
1095f5b89e41SKrzysztof Hałasa 
1096f5b89e41SKrzysztof Hałasa 	/* we may already have RX data, enables IRQ */
1097288379f0SBen Hutchings 	napi_schedule(&port->napi);
1098f5b89e41SKrzysztof Hałasa 	return 0;
1099f5b89e41SKrzysztof Hałasa 
1100f5b89e41SKrzysztof Hałasa err_unlock:
1101f5b89e41SKrzysztof Hałasa 	spin_unlock_irqrestore(&npe_lock, flags);
1102f5b89e41SKrzysztof Hałasa err_destroy_queues:
1103f5b89e41SKrzysztof Hałasa 	destroy_hdlc_queues(port);
1104f5b89e41SKrzysztof Hałasa 	release_hdlc_queues(port);
1105f5b89e41SKrzysztof Hałasa err_hdlc_close:
1106f5b89e41SKrzysztof Hałasa 	hdlc_close(dev);
1107f5b89e41SKrzysztof Hałasa 	return err;
1108f5b89e41SKrzysztof Hałasa }
1109f5b89e41SKrzysztof Hałasa 
1110f5b89e41SKrzysztof Hałasa static int hss_hdlc_close(struct net_device *dev)
1111f5b89e41SKrzysztof Hałasa {
1112f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
1113f5b89e41SKrzysztof Hałasa 	unsigned long flags;
1114f5b89e41SKrzysztof Hałasa 	int i, buffs = RX_DESCS; /* allocated RX buffers */
1115f5b89e41SKrzysztof Hałasa 
1116f5b89e41SKrzysztof Hałasa 	spin_lock_irqsave(&npe_lock, flags);
1117f5b89e41SKrzysztof Hałasa 	ports_open--;
1118f5b89e41SKrzysztof Hałasa 	qmgr_disable_irq(queue_ids[port->id].rx);
1119f5b89e41SKrzysztof Hałasa 	netif_stop_queue(dev);
1120f5b89e41SKrzysztof Hałasa 	napi_disable(&port->napi);
1121f5b89e41SKrzysztof Hałasa 
1122f5b89e41SKrzysztof Hałasa 	hss_stop_hdlc(port);
1123f5b89e41SKrzysztof Hałasa 
1124f5b89e41SKrzysztof Hałasa 	while (queue_get_desc(queue_ids[port->id].rxfree, port, 0) >= 0)
1125f5b89e41SKrzysztof Hałasa 		buffs--;
1126f5b89e41SKrzysztof Hałasa 	while (queue_get_desc(queue_ids[port->id].rx, port, 0) >= 0)
1127f5b89e41SKrzysztof Hałasa 		buffs--;
1128f5b89e41SKrzysztof Hałasa 
1129f5b89e41SKrzysztof Hałasa 	if (buffs)
1130f5b89e41SKrzysztof Hałasa 		printk(KERN_CRIT "%s: unable to drain RX queue, %i buffer(s)"
1131f5b89e41SKrzysztof Hałasa 		       " left in NPE\n", dev->name, buffs);
1132f5b89e41SKrzysztof Hałasa 
1133f5b89e41SKrzysztof Hałasa 	buffs = TX_DESCS;
1134f5b89e41SKrzysztof Hałasa 	while (queue_get_desc(queue_ids[port->id].tx, port, 1) >= 0)
1135f5b89e41SKrzysztof Hałasa 		buffs--; /* cancel TX */
1136f5b89e41SKrzysztof Hałasa 
1137f5b89e41SKrzysztof Hałasa 	i = 0;
1138f5b89e41SKrzysztof Hałasa 	do {
1139f5b89e41SKrzysztof Hałasa 		while (queue_get_desc(port->plat->txreadyq, port, 1) >= 0)
1140f5b89e41SKrzysztof Hałasa 			buffs--;
1141f5b89e41SKrzysztof Hałasa 		if (!buffs)
1142f5b89e41SKrzysztof Hałasa 			break;
1143f5b89e41SKrzysztof Hałasa 	} while (++i < MAX_CLOSE_WAIT);
1144f5b89e41SKrzysztof Hałasa 
1145f5b89e41SKrzysztof Hałasa 	if (buffs)
1146f5b89e41SKrzysztof Hałasa 		printk(KERN_CRIT "%s: unable to drain TX queue, %i buffer(s) "
1147f5b89e41SKrzysztof Hałasa 		       "left in NPE\n", dev->name, buffs);
1148f5b89e41SKrzysztof Hałasa #if DEBUG_CLOSE
1149f5b89e41SKrzysztof Hałasa 	if (!buffs)
1150f5b89e41SKrzysztof Hałasa 		printk(KERN_DEBUG "Draining TX queues took %i cycles\n", i);
1151f5b89e41SKrzysztof Hałasa #endif
1152f5b89e41SKrzysztof Hałasa 	qmgr_disable_irq(queue_ids[port->id].txdone);
1153f5b89e41SKrzysztof Hałasa 
1154f5b89e41SKrzysztof Hałasa 	if (port->plat->close)
1155f5b89e41SKrzysztof Hałasa 		port->plat->close(port->id, dev);
1156f5b89e41SKrzysztof Hałasa 	spin_unlock_irqrestore(&npe_lock, flags);
1157f5b89e41SKrzysztof Hałasa 
1158f5b89e41SKrzysztof Hałasa 	destroy_hdlc_queues(port);
1159f5b89e41SKrzysztof Hałasa 	release_hdlc_queues(port);
1160f5b89e41SKrzysztof Hałasa 	hdlc_close(dev);
1161f5b89e41SKrzysztof Hałasa 	return 0;
1162f5b89e41SKrzysztof Hałasa }
1163f5b89e41SKrzysztof Hałasa 
1164f5b89e41SKrzysztof Hałasa 
1165f5b89e41SKrzysztof Hałasa static int hss_hdlc_attach(struct net_device *dev, unsigned short encoding,
1166f5b89e41SKrzysztof Hałasa 			   unsigned short parity)
1167f5b89e41SKrzysztof Hałasa {
1168f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
1169f5b89e41SKrzysztof Hałasa 
1170f5b89e41SKrzysztof Hałasa 	if (encoding != ENCODING_NRZ)
1171f5b89e41SKrzysztof Hałasa 		return -EINVAL;
1172f5b89e41SKrzysztof Hałasa 
1173f5b89e41SKrzysztof Hałasa 	switch(parity) {
1174f5b89e41SKrzysztof Hałasa 	case PARITY_CRC16_PR1_CCITT:
1175f5b89e41SKrzysztof Hałasa 		port->hdlc_cfg = 0;
1176f5b89e41SKrzysztof Hałasa 		return 0;
1177f5b89e41SKrzysztof Hałasa 
1178f5b89e41SKrzysztof Hałasa 	case PARITY_CRC32_PR1_CCITT:
1179f5b89e41SKrzysztof Hałasa 		port->hdlc_cfg = PKT_HDLC_CRC_32;
1180f5b89e41SKrzysztof Hałasa 		return 0;
1181f5b89e41SKrzysztof Hałasa 
1182f5b89e41SKrzysztof Hałasa 	default:
1183f5b89e41SKrzysztof Hałasa 		return -EINVAL;
1184f5b89e41SKrzysztof Hałasa 	}
1185f5b89e41SKrzysztof Hałasa }
1186f5b89e41SKrzysztof Hałasa 
1187*5dbc4650SKrzysztof Halasa static u32 check_clock(u32 rate, u32 a, u32 b, u32 c,
1188*5dbc4650SKrzysztof Halasa 		       u32 *best, u32 *best_diff, u32 *reg)
1189*5dbc4650SKrzysztof Halasa {
1190*5dbc4650SKrzysztof Halasa 	/* a is 10-bit, b is 10-bit, c is 12-bit */
1191*5dbc4650SKrzysztof Halasa 	u64 new_rate;
1192*5dbc4650SKrzysztof Halasa 	u32 new_diff;
1193*5dbc4650SKrzysztof Halasa 
1194*5dbc4650SKrzysztof Halasa 	new_rate = ixp4xx_timer_freq * (u64)(c + 1);
1195*5dbc4650SKrzysztof Halasa 	do_div(new_rate, a * (c + 1) + b + 1);
1196*5dbc4650SKrzysztof Halasa 	new_diff = abs((u32)new_rate - rate);
1197*5dbc4650SKrzysztof Halasa 
1198*5dbc4650SKrzysztof Halasa 	if (new_diff < *best_diff) {
1199*5dbc4650SKrzysztof Halasa 		*best = new_rate;
1200*5dbc4650SKrzysztof Halasa 		*best_diff = new_diff;
1201*5dbc4650SKrzysztof Halasa 		*reg = (a << 22) | (b << 12) | c;
1202*5dbc4650SKrzysztof Halasa 	}
1203*5dbc4650SKrzysztof Halasa 	return new_diff;
1204*5dbc4650SKrzysztof Halasa }
1205*5dbc4650SKrzysztof Halasa 
1206*5dbc4650SKrzysztof Halasa static void find_best_clock(u32 rate, u32 *best, u32 *reg)
1207*5dbc4650SKrzysztof Halasa {
1208*5dbc4650SKrzysztof Halasa 	u32 a, b, diff = 0xFFFFFFFF;
1209*5dbc4650SKrzysztof Halasa 
1210*5dbc4650SKrzysztof Halasa 	a = ixp4xx_timer_freq / rate;
1211*5dbc4650SKrzysztof Halasa 
1212*5dbc4650SKrzysztof Halasa 	if (a > 0x3FF) { /* 10-bit value - we can go as slow as ca. 65 kb/s */
1213*5dbc4650SKrzysztof Halasa 		check_clock(rate, 0x3FF, 1, 1, best, &diff, reg);
1214*5dbc4650SKrzysztof Halasa 		return;
1215*5dbc4650SKrzysztof Halasa 	}
1216*5dbc4650SKrzysztof Halasa 	if (a == 0) { /* > 66.666 MHz */
1217*5dbc4650SKrzysztof Halasa 		a = 1; /* minimum divider is 1 (a = 0, b = 1, c = 1) */
1218*5dbc4650SKrzysztof Halasa 		rate = ixp4xx_timer_freq;
1219*5dbc4650SKrzysztof Halasa 	}
1220*5dbc4650SKrzysztof Halasa 
1221*5dbc4650SKrzysztof Halasa 	if (rate * a == ixp4xx_timer_freq) { /* don't divide by 0 later */
1222*5dbc4650SKrzysztof Halasa 		check_clock(rate, a - 1, 1, 1, best, &diff, reg);
1223*5dbc4650SKrzysztof Halasa 		return;
1224*5dbc4650SKrzysztof Halasa 	}
1225*5dbc4650SKrzysztof Halasa 
1226*5dbc4650SKrzysztof Halasa 	for (b = 0; b < 0x400; b++) {
1227*5dbc4650SKrzysztof Halasa 		u64 c = (b + 1) * (u64)rate;
1228*5dbc4650SKrzysztof Halasa 		do_div(c, ixp4xx_timer_freq - rate * a);
1229*5dbc4650SKrzysztof Halasa 		c--;
1230*5dbc4650SKrzysztof Halasa 		if (c >= 0xFFF) { /* 12-bit - no need to check more 'b's */
1231*5dbc4650SKrzysztof Halasa 			if (b == 0 && /* also try a bit higher rate */
1232*5dbc4650SKrzysztof Halasa 			    !check_clock(rate, a - 1, 1, 1, best, &diff, reg))
1233*5dbc4650SKrzysztof Halasa 				return;
1234*5dbc4650SKrzysztof Halasa 			check_clock(rate, a, b, 0xFFF, best, &diff, reg);
1235*5dbc4650SKrzysztof Halasa 			return;
1236*5dbc4650SKrzysztof Halasa 		}
1237*5dbc4650SKrzysztof Halasa 		if (!check_clock(rate, a, b, c, best, &diff, reg))
1238*5dbc4650SKrzysztof Halasa 			return;
1239*5dbc4650SKrzysztof Halasa 		if (!check_clock(rate, a, b, c + 1, best, &diff, reg))
1240*5dbc4650SKrzysztof Halasa 			return;
1241*5dbc4650SKrzysztof Halasa 	}
1242*5dbc4650SKrzysztof Halasa }
1243f5b89e41SKrzysztof Hałasa 
1244f5b89e41SKrzysztof Hałasa static int hss_hdlc_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd)
1245f5b89e41SKrzysztof Hałasa {
1246f5b89e41SKrzysztof Hałasa 	const size_t size = sizeof(sync_serial_settings);
1247f5b89e41SKrzysztof Hałasa 	sync_serial_settings new_line;
1248f5b89e41SKrzysztof Hałasa 	sync_serial_settings __user *line = ifr->ifr_settings.ifs_ifsu.sync;
1249f5b89e41SKrzysztof Hałasa 	struct port *port = dev_to_port(dev);
1250f5b89e41SKrzysztof Hałasa 	unsigned long flags;
1251f5b89e41SKrzysztof Hałasa 	int clk;
1252f5b89e41SKrzysztof Hałasa 
1253f5b89e41SKrzysztof Hałasa 	if (cmd != SIOCWANDEV)
1254f5b89e41SKrzysztof Hałasa 		return hdlc_ioctl(dev, ifr, cmd);
1255f5b89e41SKrzysztof Hałasa 
1256f5b89e41SKrzysztof Hałasa 	switch(ifr->ifr_settings.type) {
1257f5b89e41SKrzysztof Hałasa 	case IF_GET_IFACE:
1258f5b89e41SKrzysztof Hałasa 		ifr->ifr_settings.type = IF_IFACE_V35;
1259f5b89e41SKrzysztof Hałasa 		if (ifr->ifr_settings.size < size) {
1260f5b89e41SKrzysztof Hałasa 			ifr->ifr_settings.size = size; /* data size wanted */
1261f5b89e41SKrzysztof Hałasa 			return -ENOBUFS;
1262f5b89e41SKrzysztof Hałasa 		}
1263f5b89e41SKrzysztof Hałasa 		memset(&new_line, 0, sizeof(new_line));
1264f5b89e41SKrzysztof Hałasa 		new_line.clock_type = port->clock_type;
1265*5dbc4650SKrzysztof Halasa 		new_line.clock_rate = port->clock_rate;
1266f5b89e41SKrzysztof Hałasa 		new_line.loopback = port->loopback;
1267f5b89e41SKrzysztof Hałasa 		if (copy_to_user(line, &new_line, size))
1268f5b89e41SKrzysztof Hałasa 			return -EFAULT;
1269f5b89e41SKrzysztof Hałasa 		return 0;
1270f5b89e41SKrzysztof Hałasa 
1271f5b89e41SKrzysztof Hałasa 	case IF_IFACE_SYNC_SERIAL:
1272f5b89e41SKrzysztof Hałasa 	case IF_IFACE_V35:
1273f5b89e41SKrzysztof Hałasa 		if(!capable(CAP_NET_ADMIN))
1274f5b89e41SKrzysztof Hałasa 			return -EPERM;
1275f5b89e41SKrzysztof Hałasa 		if (copy_from_user(&new_line, line, size))
1276f5b89e41SKrzysztof Hałasa 			return -EFAULT;
1277f5b89e41SKrzysztof Hałasa 
1278f5b89e41SKrzysztof Hałasa 		clk = new_line.clock_type;
1279f5b89e41SKrzysztof Hałasa 		if (port->plat->set_clock)
1280f5b89e41SKrzysztof Hałasa 			clk = port->plat->set_clock(port->id, clk);
1281f5b89e41SKrzysztof Hałasa 
1282f5b89e41SKrzysztof Hałasa 		if (clk != CLOCK_EXT && clk != CLOCK_INT)
1283f5b89e41SKrzysztof Hałasa 			return -EINVAL;	/* No such clock setting */
1284f5b89e41SKrzysztof Hałasa 
1285f5b89e41SKrzysztof Hałasa 		if (new_line.loopback != 0 && new_line.loopback != 1)
1286f5b89e41SKrzysztof Hałasa 			return -EINVAL;
1287f5b89e41SKrzysztof Hałasa 
1288f5b89e41SKrzysztof Hałasa 		port->clock_type = clk; /* Update settings */
1289*5dbc4650SKrzysztof Halasa 		if (clk == CLOCK_INT)
1290*5dbc4650SKrzysztof Halasa 			find_best_clock(new_line.clock_rate, &port->clock_rate,
1291*5dbc4650SKrzysztof Halasa 					&port->clock_reg);
1292*5dbc4650SKrzysztof Halasa 		else {
1293*5dbc4650SKrzysztof Halasa 			port->clock_rate = 0;
1294*5dbc4650SKrzysztof Halasa 			port->clock_reg = CLK42X_SPEED_2048KHZ;
1295*5dbc4650SKrzysztof Halasa 		}
1296f5b89e41SKrzysztof Hałasa 		port->loopback = new_line.loopback;
1297f5b89e41SKrzysztof Hałasa 
1298f5b89e41SKrzysztof Hałasa 		spin_lock_irqsave(&npe_lock, flags);
1299f5b89e41SKrzysztof Hałasa 
1300f5b89e41SKrzysztof Hałasa 		if (dev->flags & IFF_UP)
1301f5b89e41SKrzysztof Hałasa 			hss_config(port);
1302f5b89e41SKrzysztof Hałasa 
1303f5b89e41SKrzysztof Hałasa 		if (port->loopback || port->carrier)
1304f5b89e41SKrzysztof Hałasa 			netif_carrier_on(port->netdev);
1305f5b89e41SKrzysztof Hałasa 		else
1306f5b89e41SKrzysztof Hałasa 			netif_carrier_off(port->netdev);
1307f5b89e41SKrzysztof Hałasa 		spin_unlock_irqrestore(&npe_lock, flags);
1308f5b89e41SKrzysztof Hałasa 
1309f5b89e41SKrzysztof Hałasa 		return 0;
1310f5b89e41SKrzysztof Hałasa 
1311f5b89e41SKrzysztof Hałasa 	default:
1312f5b89e41SKrzysztof Hałasa 		return hdlc_ioctl(dev, ifr, cmd);
1313f5b89e41SKrzysztof Hałasa 	}
1314f5b89e41SKrzysztof Hałasa }
1315f5b89e41SKrzysztof Hałasa 
1316f5b89e41SKrzysztof Hałasa /*****************************************************************************
1317f5b89e41SKrzysztof Hałasa  * initialization
1318f5b89e41SKrzysztof Hałasa  ****************************************************************************/
1319f5b89e41SKrzysztof Hałasa 
1320991990a1SKrzysztof Hałasa static const struct net_device_ops hss_hdlc_ops = {
1321991990a1SKrzysztof Hałasa 	.ndo_open       = hss_hdlc_open,
1322991990a1SKrzysztof Hałasa 	.ndo_stop       = hss_hdlc_close,
1323991990a1SKrzysztof Hałasa 	.ndo_change_mtu = hdlc_change_mtu,
1324991990a1SKrzysztof Hałasa 	.ndo_start_xmit = hdlc_start_xmit,
1325991990a1SKrzysztof Hałasa 	.ndo_do_ioctl   = hss_hdlc_ioctl,
1326991990a1SKrzysztof Hałasa };
1327991990a1SKrzysztof Hałasa 
1328f5b89e41SKrzysztof Hałasa static int __devinit hss_init_one(struct platform_device *pdev)
1329f5b89e41SKrzysztof Hałasa {
1330f5b89e41SKrzysztof Hałasa 	struct port *port;
1331f5b89e41SKrzysztof Hałasa 	struct net_device *dev;
1332f5b89e41SKrzysztof Hałasa 	hdlc_device *hdlc;
1333f5b89e41SKrzysztof Hałasa 	int err;
1334f5b89e41SKrzysztof Hałasa 
1335f5b89e41SKrzysztof Hałasa 	if ((port = kzalloc(sizeof(*port), GFP_KERNEL)) == NULL)
1336f5b89e41SKrzysztof Hałasa 		return -ENOMEM;
1337f5b89e41SKrzysztof Hałasa 
1338f5b89e41SKrzysztof Hałasa 	if ((port->npe = npe_request(0)) == NULL) {
13393ba8c792SKrzysztof Hałasa 		err = -ENODEV;
1340f5b89e41SKrzysztof Hałasa 		goto err_free;
1341f5b89e41SKrzysztof Hałasa 	}
1342f5b89e41SKrzysztof Hałasa 
1343f5b89e41SKrzysztof Hałasa 	if ((port->netdev = dev = alloc_hdlcdev(port)) == NULL) {
1344f5b89e41SKrzysztof Hałasa 		err = -ENOMEM;
1345f5b89e41SKrzysztof Hałasa 		goto err_plat;
1346f5b89e41SKrzysztof Hałasa 	}
1347f5b89e41SKrzysztof Hałasa 
1348f5b89e41SKrzysztof Hałasa 	SET_NETDEV_DEV(dev, &pdev->dev);
1349f5b89e41SKrzysztof Hałasa 	hdlc = dev_to_hdlc(dev);
1350f5b89e41SKrzysztof Hałasa 	hdlc->attach = hss_hdlc_attach;
1351f5b89e41SKrzysztof Hałasa 	hdlc->xmit = hss_hdlc_xmit;
1352991990a1SKrzysztof Hałasa 	dev->netdev_ops = &hss_hdlc_ops;
1353f5b89e41SKrzysztof Hałasa 	dev->tx_queue_len = 100;
1354f5b89e41SKrzysztof Hałasa 	port->clock_type = CLOCK_EXT;
1355*5dbc4650SKrzysztof Halasa 	port->clock_rate = 0;
1356*5dbc4650SKrzysztof Halasa 	port->clock_reg = CLK42X_SPEED_2048KHZ;
1357f5b89e41SKrzysztof Hałasa 	port->id = pdev->id;
1358f5b89e41SKrzysztof Hałasa 	port->dev = &pdev->dev;
1359f5b89e41SKrzysztof Hałasa 	port->plat = pdev->dev.platform_data;
1360f5b89e41SKrzysztof Hałasa 	netif_napi_add(dev, &port->napi, hss_hdlc_poll, NAPI_WEIGHT);
1361f5b89e41SKrzysztof Hałasa 
1362f5b89e41SKrzysztof Hałasa 	if ((err = register_hdlc_device(dev)))
1363f5b89e41SKrzysztof Hałasa 		goto err_free_netdev;
1364f5b89e41SKrzysztof Hałasa 
1365f5b89e41SKrzysztof Hałasa 	platform_set_drvdata(pdev, port);
1366f5b89e41SKrzysztof Hałasa 
1367f5b89e41SKrzysztof Hałasa 	printk(KERN_INFO "%s: HSS-%i\n", dev->name, port->id);
1368f5b89e41SKrzysztof Hałasa 	return 0;
1369f5b89e41SKrzysztof Hałasa 
1370f5b89e41SKrzysztof Hałasa err_free_netdev:
1371f5b89e41SKrzysztof Hałasa 	free_netdev(dev);
1372f5b89e41SKrzysztof Hałasa err_plat:
1373f5b89e41SKrzysztof Hałasa 	npe_release(port->npe);
1374f5b89e41SKrzysztof Hałasa err_free:
1375f5b89e41SKrzysztof Hałasa 	kfree(port);
1376f5b89e41SKrzysztof Hałasa 	return err;
1377f5b89e41SKrzysztof Hałasa }
1378f5b89e41SKrzysztof Hałasa 
1379f5b89e41SKrzysztof Hałasa static int __devexit hss_remove_one(struct platform_device *pdev)
1380f5b89e41SKrzysztof Hałasa {
1381f5b89e41SKrzysztof Hałasa 	struct port *port = platform_get_drvdata(pdev);
1382f5b89e41SKrzysztof Hałasa 
1383f5b89e41SKrzysztof Hałasa 	unregister_hdlc_device(port->netdev);
1384f5b89e41SKrzysztof Hałasa 	free_netdev(port->netdev);
1385f5b89e41SKrzysztof Hałasa 	npe_release(port->npe);
1386f5b89e41SKrzysztof Hałasa 	platform_set_drvdata(pdev, NULL);
1387f5b89e41SKrzysztof Hałasa 	kfree(port);
1388f5b89e41SKrzysztof Hałasa 	return 0;
1389f5b89e41SKrzysztof Hałasa }
1390f5b89e41SKrzysztof Hałasa 
1391f5b89e41SKrzysztof Hałasa static struct platform_driver ixp4xx_hss_driver = {
1392f5b89e41SKrzysztof Hałasa 	.driver.name	= DRV_NAME,
1393f5b89e41SKrzysztof Hałasa 	.probe		= hss_init_one,
1394f5b89e41SKrzysztof Hałasa 	.remove		= hss_remove_one,
1395f5b89e41SKrzysztof Hałasa };
1396f5b89e41SKrzysztof Hałasa 
1397f5b89e41SKrzysztof Hałasa static int __init hss_init_module(void)
1398f5b89e41SKrzysztof Hałasa {
1399f5b89e41SKrzysztof Hałasa 	if ((ixp4xx_read_feature_bits() &
1400f5b89e41SKrzysztof Hałasa 	     (IXP4XX_FEATURE_HDLC | IXP4XX_FEATURE_HSS)) !=
1401f5b89e41SKrzysztof Hałasa 	    (IXP4XX_FEATURE_HDLC | IXP4XX_FEATURE_HSS))
14023ba8c792SKrzysztof Hałasa 		return -ENODEV;
1403f5b89e41SKrzysztof Hałasa 
1404f5b89e41SKrzysztof Hałasa 	spin_lock_init(&npe_lock);
1405f5b89e41SKrzysztof Hałasa 
1406f5b89e41SKrzysztof Hałasa 	return platform_driver_register(&ixp4xx_hss_driver);
1407f5b89e41SKrzysztof Hałasa }
1408f5b89e41SKrzysztof Hałasa 
1409f5b89e41SKrzysztof Hałasa static void __exit hss_cleanup_module(void)
1410f5b89e41SKrzysztof Hałasa {
1411f5b89e41SKrzysztof Hałasa 	platform_driver_unregister(&ixp4xx_hss_driver);
1412f5b89e41SKrzysztof Hałasa }
1413f5b89e41SKrzysztof Hałasa 
1414f5b89e41SKrzysztof Hałasa MODULE_AUTHOR("Krzysztof Halasa");
1415f5b89e41SKrzysztof Hałasa MODULE_DESCRIPTION("Intel IXP4xx HSS driver");
1416f5b89e41SKrzysztof Hałasa MODULE_LICENSE("GPL v2");
1417f5b89e41SKrzysztof Hałasa MODULE_ALIAS("platform:ixp4xx_hss");
1418f5b89e41SKrzysztof Hałasa module_init(hss_init_module);
1419f5b89e41SKrzysztof Hałasa module_exit(hss_cleanup_module);
1420