xref: /openbmc/linux/drivers/scsi/mac_esp.c (revision 3f9295b65ea44194252d60376036a3618d822152)
16fe07aafSFinn Thain /* mac_esp.c: ESP front-end for Macintosh Quadra systems.
26fe07aafSFinn Thain  *
36fe07aafSFinn Thain  * Adapted from jazz_esp.c and the old mac_esp.c.
46fe07aafSFinn Thain  *
56fe07aafSFinn Thain  * The pseudo DMA algorithm is based on the one used in NetBSD.
66fe07aafSFinn Thain  * See sys/arch/mac68k/obio/esp.c for some background information.
76fe07aafSFinn Thain  *
86fe07aafSFinn Thain  * Copyright (C) 2007-2008 Finn Thain
96fe07aafSFinn Thain  */
106fe07aafSFinn Thain 
116fe07aafSFinn Thain #include <linux/kernel.h>
126fe07aafSFinn Thain #include <linux/types.h>
136fe07aafSFinn Thain #include <linux/module.h>
146fe07aafSFinn Thain #include <linux/init.h>
156fe07aafSFinn Thain #include <linux/interrupt.h>
166fe07aafSFinn Thain #include <linux/platform_device.h>
176fe07aafSFinn Thain #include <linux/dma-mapping.h>
186fe07aafSFinn Thain #include <linux/scatterlist.h>
196fe07aafSFinn Thain #include <linux/delay.h>
206fe07aafSFinn Thain #include <linux/io.h>
216fe07aafSFinn Thain #include <linux/nubus.h>
225a0e3ad6STejun Heo #include <linux/slab.h>
236fe07aafSFinn Thain 
246fe07aafSFinn Thain #include <asm/irq.h>
256fe07aafSFinn Thain #include <asm/dma.h>
266fe07aafSFinn Thain #include <asm/macints.h>
276fe07aafSFinn Thain #include <asm/macintosh.h>
2830c0527dSFinn Thain #include <asm/mac_via.h>
296fe07aafSFinn Thain 
306fe07aafSFinn Thain #include <scsi/scsi_host.h>
316fe07aafSFinn Thain 
326fe07aafSFinn Thain #include "esp_scsi.h"
336fe07aafSFinn Thain 
346fe07aafSFinn Thain #define DRV_MODULE_NAME     "mac_esp"
356fe07aafSFinn Thain #define PFX                 DRV_MODULE_NAME ": "
366fe07aafSFinn Thain #define DRV_VERSION         "1.000"
376fe07aafSFinn Thain #define DRV_MODULE_RELDATE  "Sept 15, 2007"
386fe07aafSFinn Thain 
396fe07aafSFinn Thain #define MAC_ESP_IO_BASE          0x50F00000
406fe07aafSFinn Thain #define MAC_ESP_REGS_QUADRA      (MAC_ESP_IO_BASE + 0x10000)
416fe07aafSFinn Thain #define MAC_ESP_REGS_QUADRA2     (MAC_ESP_IO_BASE + 0xF000)
426fe07aafSFinn Thain #define MAC_ESP_REGS_QUADRA3     (MAC_ESP_IO_BASE + 0x18000)
436fe07aafSFinn Thain #define MAC_ESP_REGS_SPACING     0x402
446fe07aafSFinn Thain #define MAC_ESP_PDMA_REG         0xF9800024
456fe07aafSFinn Thain #define MAC_ESP_PDMA_REG_SPACING 0x4
466fe07aafSFinn Thain #define MAC_ESP_PDMA_IO_OFFSET   0x100
476fe07aafSFinn Thain 
486fe07aafSFinn Thain #define esp_read8(REG)		mac_esp_read8(esp, REG)
496fe07aafSFinn Thain #define esp_write8(VAL, REG)	mac_esp_write8(esp, VAL, REG)
506fe07aafSFinn Thain 
516fe07aafSFinn Thain struct mac_esp_priv {
526fe07aafSFinn Thain 	struct esp *esp;
536fe07aafSFinn Thain 	void __iomem *pdma_regs;
546fe07aafSFinn Thain 	void __iomem *pdma_io;
556fe07aafSFinn Thain 	int error;
566fe07aafSFinn Thain };
57da244654SFinn Thain static struct esp *esp_chips[2];
584da2b1ebSFinn Thain static DEFINE_SPINLOCK(esp_chips_lock);
596fe07aafSFinn Thain 
606fe07aafSFinn Thain #define MAC_ESP_GET_PRIV(esp) ((struct mac_esp_priv *) \
6198cda6a2SChristoph Hellwig 			       dev_get_drvdata((esp)->dev))
626fe07aafSFinn Thain 
636fe07aafSFinn Thain static inline void mac_esp_write8(struct esp *esp, u8 val, unsigned long reg)
646fe07aafSFinn Thain {
656fe07aafSFinn Thain 	nubus_writeb(val, esp->regs + reg * 16);
666fe07aafSFinn Thain }
676fe07aafSFinn Thain 
686fe07aafSFinn Thain static inline u8 mac_esp_read8(struct esp *esp, unsigned long reg)
696fe07aafSFinn Thain {
706fe07aafSFinn Thain 	return nubus_readb(esp->regs + reg * 16);
716fe07aafSFinn Thain }
726fe07aafSFinn Thain 
736fe07aafSFinn Thain static void mac_esp_reset_dma(struct esp *esp)
746fe07aafSFinn Thain {
756fe07aafSFinn Thain 	/* Nothing to do. */
766fe07aafSFinn Thain }
776fe07aafSFinn Thain 
786fe07aafSFinn Thain static void mac_esp_dma_drain(struct esp *esp)
796fe07aafSFinn Thain {
806fe07aafSFinn Thain 	/* Nothing to do. */
816fe07aafSFinn Thain }
826fe07aafSFinn Thain 
836fe07aafSFinn Thain static void mac_esp_dma_invalidate(struct esp *esp)
846fe07aafSFinn Thain {
856fe07aafSFinn Thain 	/* Nothing to do. */
866fe07aafSFinn Thain }
876fe07aafSFinn Thain 
886fe07aafSFinn Thain static int mac_esp_dma_error(struct esp *esp)
896fe07aafSFinn Thain {
906fe07aafSFinn Thain 	return MAC_ESP_GET_PRIV(esp)->error;
916fe07aafSFinn Thain }
926fe07aafSFinn Thain 
936fe07aafSFinn Thain static inline int mac_esp_wait_for_empty_fifo(struct esp *esp)
946fe07aafSFinn Thain {
956fe07aafSFinn Thain 	struct mac_esp_priv *mep = MAC_ESP_GET_PRIV(esp);
966fe07aafSFinn Thain 	int i = 500000;
976fe07aafSFinn Thain 
986fe07aafSFinn Thain 	do {
996fe07aafSFinn Thain 		if (!(esp_read8(ESP_FFLAGS) & ESP_FF_FBYTES))
1006fe07aafSFinn Thain 			return 0;
1016fe07aafSFinn Thain 
1026fe07aafSFinn Thain 		if (esp_read8(ESP_STATUS) & ESP_STAT_INTR)
1036fe07aafSFinn Thain 			return 1;
1046fe07aafSFinn Thain 
1056fe07aafSFinn Thain 		udelay(2);
1066fe07aafSFinn Thain 	} while (--i);
1076fe07aafSFinn Thain 
1086fe07aafSFinn Thain 	printk(KERN_ERR PFX "FIFO is not empty (sreg %02x)\n",
1096fe07aafSFinn Thain 	       esp_read8(ESP_STATUS));
1106fe07aafSFinn Thain 	mep->error = 1;
1116fe07aafSFinn Thain 	return 1;
1126fe07aafSFinn Thain }
1136fe07aafSFinn Thain 
1146fe07aafSFinn Thain static inline int mac_esp_wait_for_dreq(struct esp *esp)
1156fe07aafSFinn Thain {
1166fe07aafSFinn Thain 	struct mac_esp_priv *mep = MAC_ESP_GET_PRIV(esp);
1176fe07aafSFinn Thain 	int i = 500000;
1186fe07aafSFinn Thain 
1196fe07aafSFinn Thain 	do {
1206fe07aafSFinn Thain 		if (mep->pdma_regs == NULL) {
12130c0527dSFinn Thain 			if (via2_scsi_drq_pending())
1226fe07aafSFinn Thain 				return 0;
1236fe07aafSFinn Thain 		} else {
1246fe07aafSFinn Thain 			if (nubus_readl(mep->pdma_regs) & 0x200)
1256fe07aafSFinn Thain 				return 0;
1266fe07aafSFinn Thain 		}
1276fe07aafSFinn Thain 
1286fe07aafSFinn Thain 		if (esp_read8(ESP_STATUS) & ESP_STAT_INTR)
1296fe07aafSFinn Thain 			return 1;
1306fe07aafSFinn Thain 
1316fe07aafSFinn Thain 		udelay(2);
1326fe07aafSFinn Thain 	} while (--i);
1336fe07aafSFinn Thain 
1346fe07aafSFinn Thain 	printk(KERN_ERR PFX "PDMA timeout (sreg %02x)\n",
1356fe07aafSFinn Thain 	       esp_read8(ESP_STATUS));
1366fe07aafSFinn Thain 	mep->error = 1;
1376fe07aafSFinn Thain 	return 1;
1386fe07aafSFinn Thain }
1396fe07aafSFinn Thain 
1406fe07aafSFinn Thain #define MAC_ESP_PDMA_LOOP(operands) \
1416fe07aafSFinn Thain 	asm volatile ( \
14209e13e91SFinn Thain 	     "       tstw %1                   \n" \
1436fe07aafSFinn Thain 	     "       jbeq 20f                  \n" \
1446fe07aafSFinn Thain 	     "1:     movew " operands "        \n" \
1456fe07aafSFinn Thain 	     "2:     movew " operands "        \n" \
1466fe07aafSFinn Thain 	     "3:     movew " operands "        \n" \
1476fe07aafSFinn Thain 	     "4:     movew " operands "        \n" \
1486fe07aafSFinn Thain 	     "5:     movew " operands "        \n" \
1496fe07aafSFinn Thain 	     "6:     movew " operands "        \n" \
1506fe07aafSFinn Thain 	     "7:     movew " operands "        \n" \
1516fe07aafSFinn Thain 	     "8:     movew " operands "        \n" \
1526fe07aafSFinn Thain 	     "9:     movew " operands "        \n" \
1536fe07aafSFinn Thain 	     "10:    movew " operands "        \n" \
1546fe07aafSFinn Thain 	     "11:    movew " operands "        \n" \
1556fe07aafSFinn Thain 	     "12:    movew " operands "        \n" \
1566fe07aafSFinn Thain 	     "13:    movew " operands "        \n" \
1576fe07aafSFinn Thain 	     "14:    movew " operands "        \n" \
1586fe07aafSFinn Thain 	     "15:    movew " operands "        \n" \
1596fe07aafSFinn Thain 	     "16:    movew " operands "        \n" \
16009e13e91SFinn Thain 	     "       subqw #1,%1               \n" \
1616fe07aafSFinn Thain 	     "       jbne 1b                   \n" \
16209e13e91SFinn Thain 	     "20:    tstw %2                   \n" \
1636fe07aafSFinn Thain 	     "       jbeq 30f                  \n" \
1646fe07aafSFinn Thain 	     "21:    movew " operands "        \n" \
16509e13e91SFinn Thain 	     "       subqw #1,%2               \n" \
1666fe07aafSFinn Thain 	     "       jbne 21b                  \n" \
16709e13e91SFinn Thain 	     "30:    tstw %3                   \n" \
1686fe07aafSFinn Thain 	     "       jbeq 40f                  \n" \
1696fe07aafSFinn Thain 	     "31:    moveb " operands "        \n" \
1706fe07aafSFinn Thain 	     "32:    nop                       \n" \
1716fe07aafSFinn Thain 	     "40:                              \n" \
1726fe07aafSFinn Thain 	     "                                 \n" \
1736fe07aafSFinn Thain 	     "       .section __ex_table,\"a\" \n" \
1746fe07aafSFinn Thain 	     "       .align  4                 \n" \
1756fe07aafSFinn Thain 	     "       .long   1b,40b            \n" \
1766fe07aafSFinn Thain 	     "       .long   2b,40b            \n" \
1776fe07aafSFinn Thain 	     "       .long   3b,40b            \n" \
1786fe07aafSFinn Thain 	     "       .long   4b,40b            \n" \
1796fe07aafSFinn Thain 	     "       .long   5b,40b            \n" \
1806fe07aafSFinn Thain 	     "       .long   6b,40b            \n" \
1816fe07aafSFinn Thain 	     "       .long   7b,40b            \n" \
1826fe07aafSFinn Thain 	     "       .long   8b,40b            \n" \
1836fe07aafSFinn Thain 	     "       .long   9b,40b            \n" \
1846fe07aafSFinn Thain 	     "       .long  10b,40b            \n" \
1856fe07aafSFinn Thain 	     "       .long  11b,40b            \n" \
1866fe07aafSFinn Thain 	     "       .long  12b,40b            \n" \
1876fe07aafSFinn Thain 	     "       .long  13b,40b            \n" \
1886fe07aafSFinn Thain 	     "       .long  14b,40b            \n" \
1896fe07aafSFinn Thain 	     "       .long  15b,40b            \n" \
1906fe07aafSFinn Thain 	     "       .long  16b,40b            \n" \
1916fe07aafSFinn Thain 	     "       .long  21b,40b            \n" \
1926fe07aafSFinn Thain 	     "       .long  31b,40b            \n" \
1936fe07aafSFinn Thain 	     "       .long  32b,40b            \n" \
1946fe07aafSFinn Thain 	     "       .previous                 \n" \
19509e13e91SFinn Thain 	     : "+a" (addr), "+r" (count32), "+r" (count2) \
19609e13e91SFinn Thain 	     : "g" (count1), "a" (mep->pdma_io))
1976fe07aafSFinn Thain 
1986fe07aafSFinn Thain static void mac_esp_send_pdma_cmd(struct esp *esp, u32 addr, u32 esp_count,
1996fe07aafSFinn Thain 				  u32 dma_count, int write, u8 cmd)
2006fe07aafSFinn Thain {
2016fe07aafSFinn Thain 	struct mac_esp_priv *mep = MAC_ESP_GET_PRIV(esp);
2026fe07aafSFinn Thain 
2036fe07aafSFinn Thain 	mep->error = 0;
2046fe07aafSFinn Thain 
2056fe07aafSFinn Thain 	if (!write)
2066fe07aafSFinn Thain 		scsi_esp_cmd(esp, ESP_CMD_FLUSH);
2076fe07aafSFinn Thain 
2086fe07aafSFinn Thain 	esp_write8((esp_count >> 0) & 0xFF, ESP_TCLOW);
2096fe07aafSFinn Thain 	esp_write8((esp_count >> 8) & 0xFF, ESP_TCMED);
2106fe07aafSFinn Thain 
2116fe07aafSFinn Thain 	scsi_esp_cmd(esp, cmd);
2126fe07aafSFinn Thain 
2136fe07aafSFinn Thain 	do {
2146fe07aafSFinn Thain 		unsigned int count32 = esp_count >> 5;
2156fe07aafSFinn Thain 		unsigned int count2 = (esp_count & 0x1F) >> 1;
21609e13e91SFinn Thain 		unsigned int count1 = esp_count & 1;
2176fe07aafSFinn Thain 		unsigned int start_addr = addr;
2186fe07aafSFinn Thain 
2196fe07aafSFinn Thain 		if (mac_esp_wait_for_dreq(esp))
2206fe07aafSFinn Thain 			break;
2216fe07aafSFinn Thain 
2226fe07aafSFinn Thain 		if (write) {
22309e13e91SFinn Thain 			MAC_ESP_PDMA_LOOP("%4@,%0@+");
2246fe07aafSFinn Thain 
2256fe07aafSFinn Thain 			esp_count -= addr - start_addr;
2266fe07aafSFinn Thain 		} else {
2276fe07aafSFinn Thain 			unsigned int n;
2286fe07aafSFinn Thain 
22909e13e91SFinn Thain 			MAC_ESP_PDMA_LOOP("%0@+,%4@");
2306fe07aafSFinn Thain 
2316fe07aafSFinn Thain 			if (mac_esp_wait_for_empty_fifo(esp))
2326fe07aafSFinn Thain 				break;
2336fe07aafSFinn Thain 
2346fe07aafSFinn Thain 			n = (esp_read8(ESP_TCMED) << 8) + esp_read8(ESP_TCLOW);
2356fe07aafSFinn Thain 			addr = start_addr + esp_count - n;
2366fe07aafSFinn Thain 			esp_count = n;
2376fe07aafSFinn Thain 		}
2386fe07aafSFinn Thain 	} while (esp_count);
2396fe07aafSFinn Thain }
2406fe07aafSFinn Thain 
2416fe07aafSFinn Thain /*
2426fe07aafSFinn Thain  * Programmed IO routines follow.
2436fe07aafSFinn Thain  */
2446fe07aafSFinn Thain 
24502507a80SFinn Thain static inline unsigned int mac_esp_wait_for_fifo(struct esp *esp)
2466fe07aafSFinn Thain {
2476fe07aafSFinn Thain 	int i = 500000;
2486fe07aafSFinn Thain 
2496fe07aafSFinn Thain 	do {
25002507a80SFinn Thain 		unsigned int fbytes = esp_read8(ESP_FFLAGS) & ESP_FF_FBYTES;
25102507a80SFinn Thain 
25202507a80SFinn Thain 		if (fbytes)
25302507a80SFinn Thain 			return fbytes;
2546fe07aafSFinn Thain 
2556fe07aafSFinn Thain 		udelay(2);
2566fe07aafSFinn Thain 	} while (--i);
2576fe07aafSFinn Thain 
2586fe07aafSFinn Thain 	printk(KERN_ERR PFX "FIFO is empty (sreg %02x)\n",
2596fe07aafSFinn Thain 	       esp_read8(ESP_STATUS));
26002507a80SFinn Thain 	return 0;
2616fe07aafSFinn Thain }
2626fe07aafSFinn Thain 
2636fe07aafSFinn Thain static inline int mac_esp_wait_for_intr(struct esp *esp)
2646fe07aafSFinn Thain {
26502507a80SFinn Thain 	struct mac_esp_priv *mep = MAC_ESP_GET_PRIV(esp);
2666fe07aafSFinn Thain 	int i = 500000;
2676fe07aafSFinn Thain 
2686fe07aafSFinn Thain 	do {
2696fe07aafSFinn Thain 		esp->sreg = esp_read8(ESP_STATUS);
2706fe07aafSFinn Thain 		if (esp->sreg & ESP_STAT_INTR)
2716fe07aafSFinn Thain 			return 0;
2726fe07aafSFinn Thain 
2736fe07aafSFinn Thain 		udelay(2);
2746fe07aafSFinn Thain 	} while (--i);
2756fe07aafSFinn Thain 
2766fe07aafSFinn Thain 	printk(KERN_ERR PFX "IRQ timeout (sreg %02x)\n", esp->sreg);
27702507a80SFinn Thain 	mep->error = 1;
2786fe07aafSFinn Thain 	return 1;
2796fe07aafSFinn Thain }
2806fe07aafSFinn Thain 
2816fe07aafSFinn Thain #define MAC_ESP_PIO_LOOP(operands, reg1) \
2826fe07aafSFinn Thain 	asm volatile ( \
2836fe07aafSFinn Thain 	     "1:     moveb " operands " \n" \
2846fe07aafSFinn Thain 	     "       subqw #1,%1        \n" \
2856fe07aafSFinn Thain 	     "       jbne 1b            \n" \
2866fe07aafSFinn Thain 	     : "+a" (addr), "+r" (reg1) \
2876fe07aafSFinn Thain 	     : "a" (fifo))
2886fe07aafSFinn Thain 
2896fe07aafSFinn Thain #define MAC_ESP_PIO_FILL(operands, reg1) \
2906fe07aafSFinn Thain 	asm volatile ( \
2916fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2926fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2936fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2946fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2956fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2966fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2976fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2986fe07aafSFinn Thain 	     "       moveb " operands " \n" \
2996fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3006fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3016fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3026fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3036fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3046fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3056fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3066fe07aafSFinn Thain 	     "       moveb " operands " \n" \
3076fe07aafSFinn Thain 	     "       subqw #8,%1        \n" \
3086fe07aafSFinn Thain 	     "       subqw #8,%1        \n" \
3096fe07aafSFinn Thain 	     : "+a" (addr), "+r" (reg1) \
3106fe07aafSFinn Thain 	     : "a" (fifo))
3116fe07aafSFinn Thain 
3126fe07aafSFinn Thain #define MAC_ESP_FIFO_SIZE 16
3136fe07aafSFinn Thain 
3146fe07aafSFinn Thain static void mac_esp_send_pio_cmd(struct esp *esp, u32 addr, u32 esp_count,
3156fe07aafSFinn Thain 				 u32 dma_count, int write, u8 cmd)
3166fe07aafSFinn Thain {
3176fe07aafSFinn Thain 	struct mac_esp_priv *mep = MAC_ESP_GET_PRIV(esp);
318b36c7db9SFinn Thain 	u8 __iomem *fifo = esp->regs + ESP_FDATA * 16;
3197640d91dSFinn Thain 	u8 phase = esp->sreg & ESP_STAT_PMASK;
3206fe07aafSFinn Thain 
3216fe07aafSFinn Thain 	cmd &= ~ESP_CMD_DMA;
3226fe07aafSFinn Thain 	mep->error = 0;
3236fe07aafSFinn Thain 
3246fe07aafSFinn Thain 	if (write) {
3257640d91dSFinn Thain 		u8 *dst = (u8 *)addr;
3267640d91dSFinn Thain 		u8 mask = ~(phase == ESP_MIP ? ESP_INTR_FDONE : ESP_INTR_BSERV);
3277640d91dSFinn Thain 
3286fe07aafSFinn Thain 		scsi_esp_cmd(esp, cmd);
3296fe07aafSFinn Thain 
33002507a80SFinn Thain 		while (1) {
3317640d91dSFinn Thain 			if (!mac_esp_wait_for_fifo(esp))
33202507a80SFinn Thain 				break;
33302507a80SFinn Thain 
3347640d91dSFinn Thain 			*dst++ = esp_read8(ESP_FDATA);
3357640d91dSFinn Thain 			--esp_count;
33602507a80SFinn Thain 
33702507a80SFinn Thain 			if (!esp_count)
33802507a80SFinn Thain 				break;
33902507a80SFinn Thain 
34002507a80SFinn Thain 			if (mac_esp_wait_for_intr(esp))
34102507a80SFinn Thain 				break;
34202507a80SFinn Thain 
3437640d91dSFinn Thain 			if ((esp->sreg & ESP_STAT_PMASK) != phase)
34402507a80SFinn Thain 				break;
34502507a80SFinn Thain 
34602507a80SFinn Thain 			esp->ireg = esp_read8(ESP_INTRPT);
3477640d91dSFinn Thain 			if (esp->ireg & mask) {
3487640d91dSFinn Thain 				mep->error = 1;
34902507a80SFinn Thain 				break;
3507640d91dSFinn Thain 			}
3517640d91dSFinn Thain 
3527640d91dSFinn Thain 			if (phase == ESP_MIP)
3537640d91dSFinn Thain 				scsi_esp_cmd(esp, ESP_CMD_MOK);
35402507a80SFinn Thain 
35502507a80SFinn Thain 			scsi_esp_cmd(esp, ESP_CMD_TI);
3566fe07aafSFinn Thain 		}
3576fe07aafSFinn Thain 	} else {
3586fe07aafSFinn Thain 		scsi_esp_cmd(esp, ESP_CMD_FLUSH);
3596fe07aafSFinn Thain 
3606fe07aafSFinn Thain 		if (esp_count >= MAC_ESP_FIFO_SIZE)
3616fe07aafSFinn Thain 			MAC_ESP_PIO_FILL("%0@+,%2@", esp_count);
3626fe07aafSFinn Thain 		else
3636fe07aafSFinn Thain 			MAC_ESP_PIO_LOOP("%0@+,%2@", esp_count);
3646fe07aafSFinn Thain 
3656fe07aafSFinn Thain 		scsi_esp_cmd(esp, cmd);
3666fe07aafSFinn Thain 
3676fe07aafSFinn Thain 		while (esp_count) {
3686fe07aafSFinn Thain 			unsigned int n;
3696fe07aafSFinn Thain 
37002507a80SFinn Thain 			if (mac_esp_wait_for_intr(esp))
3716fe07aafSFinn Thain 				break;
3726fe07aafSFinn Thain 
3737640d91dSFinn Thain 			if ((esp->sreg & ESP_STAT_PMASK) != phase)
37402507a80SFinn Thain 				break;
37502507a80SFinn Thain 
3766fe07aafSFinn Thain 			esp->ireg = esp_read8(ESP_INTRPT);
3777640d91dSFinn Thain 			if (esp->ireg & ~ESP_INTR_BSERV) {
3787640d91dSFinn Thain 				mep->error = 1;
3796fe07aafSFinn Thain 				break;
3807640d91dSFinn Thain 			}
3816fe07aafSFinn Thain 
38202507a80SFinn Thain 			n = MAC_ESP_FIFO_SIZE -
38302507a80SFinn Thain 			    (esp_read8(ESP_FFLAGS) & ESP_FF_FBYTES);
3846fe07aafSFinn Thain 			if (n > esp_count)
3856fe07aafSFinn Thain 				n = esp_count;
3866fe07aafSFinn Thain 
3876fe07aafSFinn Thain 			if (n == MAC_ESP_FIFO_SIZE) {
3886fe07aafSFinn Thain 				MAC_ESP_PIO_FILL("%0@+,%2@", esp_count);
3896fe07aafSFinn Thain 			} else {
3906fe07aafSFinn Thain 				esp_count -= n;
3916fe07aafSFinn Thain 				MAC_ESP_PIO_LOOP("%0@+,%2@", n);
3926fe07aafSFinn Thain 			}
3936fe07aafSFinn Thain 
3946fe07aafSFinn Thain 			scsi_esp_cmd(esp, ESP_CMD_TI);
3956fe07aafSFinn Thain 		}
3966fe07aafSFinn Thain 	}
3976fe07aafSFinn Thain }
3986fe07aafSFinn Thain 
3996fe07aafSFinn Thain static int mac_esp_irq_pending(struct esp *esp)
4006fe07aafSFinn Thain {
4016fe07aafSFinn Thain 	if (esp_read8(ESP_STATUS) & ESP_STAT_INTR)
4026fe07aafSFinn Thain 		return 1;
4036fe07aafSFinn Thain 	return 0;
4046fe07aafSFinn Thain }
4056fe07aafSFinn Thain 
4066fe07aafSFinn Thain static u32 mac_esp_dma_length_limit(struct esp *esp, u32 dma_addr, u32 dma_len)
4076fe07aafSFinn Thain {
4086fe07aafSFinn Thain 	return dma_len > 0xFFFF ? 0xFFFF : dma_len;
4096fe07aafSFinn Thain }
4106fe07aafSFinn Thain 
411da244654SFinn Thain static irqreturn_t mac_scsi_esp_intr(int irq, void *dev_id)
412da244654SFinn Thain {
413da244654SFinn Thain 	int got_intr;
414da244654SFinn Thain 
415da244654SFinn Thain 	/*
416da244654SFinn Thain 	 * This is an edge triggered IRQ, so we have to be careful to
417da244654SFinn Thain 	 * avoid missing a transition when it is shared by two ESP devices.
418da244654SFinn Thain 	 */
419da244654SFinn Thain 
420da244654SFinn Thain 	do {
421da244654SFinn Thain 		got_intr = 0;
422da244654SFinn Thain 		if (esp_chips[0] &&
423da244654SFinn Thain 		    (mac_esp_read8(esp_chips[0], ESP_STATUS) & ESP_STAT_INTR)) {
424da244654SFinn Thain 			(void)scsi_esp_intr(irq, esp_chips[0]);
425da244654SFinn Thain 			got_intr = 1;
426da244654SFinn Thain 		}
427da244654SFinn Thain 		if (esp_chips[1] &&
428da244654SFinn Thain 		    (mac_esp_read8(esp_chips[1], ESP_STATUS) & ESP_STAT_INTR)) {
429da244654SFinn Thain 			(void)scsi_esp_intr(irq, esp_chips[1]);
430da244654SFinn Thain 			got_intr = 1;
431da244654SFinn Thain 		}
432da244654SFinn Thain 	} while (got_intr);
433da244654SFinn Thain 
434da244654SFinn Thain 	return IRQ_HANDLED;
435da244654SFinn Thain }
436da244654SFinn Thain 
4376fe07aafSFinn Thain static struct esp_driver_ops mac_esp_ops = {
4386fe07aafSFinn Thain 	.esp_write8       = mac_esp_write8,
4396fe07aafSFinn Thain 	.esp_read8        = mac_esp_read8,
4406fe07aafSFinn Thain 	.irq_pending      = mac_esp_irq_pending,
4416fe07aafSFinn Thain 	.dma_length_limit = mac_esp_dma_length_limit,
4426fe07aafSFinn Thain 	.reset_dma        = mac_esp_reset_dma,
4436fe07aafSFinn Thain 	.dma_drain        = mac_esp_dma_drain,
4446fe07aafSFinn Thain 	.dma_invalidate   = mac_esp_dma_invalidate,
4456fe07aafSFinn Thain 	.send_dma_cmd     = mac_esp_send_pdma_cmd,
4466fe07aafSFinn Thain 	.dma_error        = mac_esp_dma_error,
4476fe07aafSFinn Thain };
4486fe07aafSFinn Thain 
4496f039790SGreg Kroah-Hartman static int esp_mac_probe(struct platform_device *dev)
4506fe07aafSFinn Thain {
4516fe07aafSFinn Thain 	struct scsi_host_template *tpnt = &scsi_esp_template;
4526fe07aafSFinn Thain 	struct Scsi_Host *host;
4536fe07aafSFinn Thain 	struct esp *esp;
4546fe07aafSFinn Thain 	int err;
4556fe07aafSFinn Thain 	struct mac_esp_priv *mep;
4566fe07aafSFinn Thain 
4576fe07aafSFinn Thain 	if (!MACH_IS_MAC)
4586fe07aafSFinn Thain 		return -ENODEV;
4596fe07aafSFinn Thain 
460cff75f1fSFinn Thain 	if (dev->id > 1)
4616fe07aafSFinn Thain 		return -ENODEV;
4626fe07aafSFinn Thain 
4636fe07aafSFinn Thain 	host = scsi_host_alloc(tpnt, sizeof(struct esp));
4646fe07aafSFinn Thain 
4656fe07aafSFinn Thain 	err = -ENOMEM;
4666fe07aafSFinn Thain 	if (!host)
4676fe07aafSFinn Thain 		goto fail;
4686fe07aafSFinn Thain 
4696fe07aafSFinn Thain 	host->max_id = 8;
4706fe07aafSFinn Thain 	host->use_clustering = DISABLE_CLUSTERING;
4716fe07aafSFinn Thain 	esp = shost_priv(host);
4726fe07aafSFinn Thain 
4736fe07aafSFinn Thain 	esp->host = host;
47498cda6a2SChristoph Hellwig 	esp->dev = &dev->dev;
4756fe07aafSFinn Thain 
4766fe07aafSFinn Thain 	esp->command_block = kzalloc(16, GFP_KERNEL);
4776fe07aafSFinn Thain 	if (!esp->command_block)
4786fe07aafSFinn Thain 		goto fail_unlink;
4796fe07aafSFinn Thain 	esp->command_block_dma = (dma_addr_t)esp->command_block;
4806fe07aafSFinn Thain 
4816fe07aafSFinn Thain 	esp->scsi_id = 7;
4826fe07aafSFinn Thain 	host->this_id = esp->scsi_id;
4836fe07aafSFinn Thain 	esp->scsi_id_mask = 1 << esp->scsi_id;
4846fe07aafSFinn Thain 
4856fe07aafSFinn Thain 	mep = kzalloc(sizeof(struct mac_esp_priv), GFP_KERNEL);
4866fe07aafSFinn Thain 	if (!mep)
4876fe07aafSFinn Thain 		goto fail_free_command_block;
4886fe07aafSFinn Thain 	mep->esp = esp;
4896fe07aafSFinn Thain 	platform_set_drvdata(dev, mep);
4906fe07aafSFinn Thain 
4916fe07aafSFinn Thain 	switch (macintosh_config->scsi_type) {
4926fe07aafSFinn Thain 	case MAC_SCSI_QUADRA:
4936fe07aafSFinn Thain 		esp->cfreq     = 16500000;
4946fe07aafSFinn Thain 		esp->regs      = (void __iomem *)MAC_ESP_REGS_QUADRA;
4956fe07aafSFinn Thain 		mep->pdma_io   = esp->regs + MAC_ESP_PDMA_IO_OFFSET;
4966fe07aafSFinn Thain 		mep->pdma_regs = NULL;
4976fe07aafSFinn Thain 		break;
4986fe07aafSFinn Thain 	case MAC_SCSI_QUADRA2:
4996fe07aafSFinn Thain 		esp->cfreq     = 25000000;
5006fe07aafSFinn Thain 		esp->regs      = (void __iomem *)(MAC_ESP_REGS_QUADRA2 +
5016fe07aafSFinn Thain 				 dev->id * MAC_ESP_REGS_SPACING);
5026fe07aafSFinn Thain 		mep->pdma_io   = esp->regs + MAC_ESP_PDMA_IO_OFFSET;
5036fe07aafSFinn Thain 		mep->pdma_regs = (void __iomem *)(MAC_ESP_PDMA_REG +
5046fe07aafSFinn Thain 				 dev->id * MAC_ESP_PDMA_REG_SPACING);
5056fe07aafSFinn Thain 		nubus_writel(0x1d1, mep->pdma_regs);
5066fe07aafSFinn Thain 		break;
5076fe07aafSFinn Thain 	case MAC_SCSI_QUADRA3:
5086fe07aafSFinn Thain 		/* These quadras have a real DMA controller (the PSC) but we
5096fe07aafSFinn Thain 		 * don't know how to drive it so we must use PIO instead.
5106fe07aafSFinn Thain 		 */
5116fe07aafSFinn Thain 		esp->cfreq     = 25000000;
5126fe07aafSFinn Thain 		esp->regs      = (void __iomem *)MAC_ESP_REGS_QUADRA3;
5136fe07aafSFinn Thain 		mep->pdma_io   = NULL;
5146fe07aafSFinn Thain 		mep->pdma_regs = NULL;
5156fe07aafSFinn Thain 		break;
5166fe07aafSFinn Thain 	}
5176fe07aafSFinn Thain 
5186fe07aafSFinn Thain 	esp->ops = &mac_esp_ops;
519*3f9295b6SChristoph Hellwig 	esp->flags = ESP_FLAG_NO_DMA_MAP;
5206fe07aafSFinn Thain 	if (mep->pdma_io == NULL) {
5216fe07aafSFinn Thain 		printk(KERN_INFO PFX "using PIO for controller %d\n", dev->id);
5226fe07aafSFinn Thain 		esp_write8(0, ESP_TCLOW);
5236fe07aafSFinn Thain 		esp_write8(0, ESP_TCMED);
524*3f9295b6SChristoph Hellwig 		esp->flags |= ESP_FLAG_DISABLE_SYNC;
5256fe07aafSFinn Thain 		mac_esp_ops.send_dma_cmd = mac_esp_send_pio_cmd;
5266fe07aafSFinn Thain 	} else {
5276fe07aafSFinn Thain 		printk(KERN_INFO PFX "using PDMA for controller %d\n", dev->id);
5286fe07aafSFinn Thain 	}
5296fe07aafSFinn Thain 
5306fe07aafSFinn Thain 	host->irq = IRQ_MAC_SCSI;
5314da2b1ebSFinn Thain 
5324da2b1ebSFinn Thain 	/* The request_irq() call is intended to succeed for the first device
5334da2b1ebSFinn Thain 	 * and fail for the second device.
5344da2b1ebSFinn Thain 	 */
535c808d3d8SFinn Thain 	err = request_irq(host->irq, mac_scsi_esp_intr, 0, "ESP", NULL);
5364da2b1ebSFinn Thain 	spin_lock(&esp_chips_lock);
5374da2b1ebSFinn Thain 	if (err < 0 && esp_chips[!dev->id] == NULL) {
5384da2b1ebSFinn Thain 		spin_unlock(&esp_chips_lock);
5396fe07aafSFinn Thain 		goto fail_free_priv;
540da244654SFinn Thain 	}
5414da2b1ebSFinn Thain 	esp_chips[dev->id] = esp;
5424da2b1ebSFinn Thain 	spin_unlock(&esp_chips_lock);
5436fe07aafSFinn Thain 
54444b1b4d2SChristoph Hellwig 	err = scsi_esp_register(esp);
5456fe07aafSFinn Thain 	if (err)
5466fe07aafSFinn Thain 		goto fail_free_irq;
5476fe07aafSFinn Thain 
5486fe07aafSFinn Thain 	return 0;
5496fe07aafSFinn Thain 
5506fe07aafSFinn Thain fail_free_irq:
5514da2b1ebSFinn Thain 	spin_lock(&esp_chips_lock);
5524da2b1ebSFinn Thain 	esp_chips[dev->id] = NULL;
5534da2b1ebSFinn Thain 	if (esp_chips[!dev->id] == NULL) {
5544da2b1ebSFinn Thain 		spin_unlock(&esp_chips_lock);
555c0e3a6acSWei Yongjun 		free_irq(host->irq, NULL);
5564da2b1ebSFinn Thain 	} else
5574da2b1ebSFinn Thain 		spin_unlock(&esp_chips_lock);
5586fe07aafSFinn Thain fail_free_priv:
5596fe07aafSFinn Thain 	kfree(mep);
5606fe07aafSFinn Thain fail_free_command_block:
5616fe07aafSFinn Thain 	kfree(esp->command_block);
5626fe07aafSFinn Thain fail_unlink:
5636fe07aafSFinn Thain 	scsi_host_put(host);
5646fe07aafSFinn Thain fail:
5656fe07aafSFinn Thain 	return err;
5666fe07aafSFinn Thain }
5676fe07aafSFinn Thain 
5686f039790SGreg Kroah-Hartman static int esp_mac_remove(struct platform_device *dev)
5696fe07aafSFinn Thain {
5706fe07aafSFinn Thain 	struct mac_esp_priv *mep = platform_get_drvdata(dev);
5716fe07aafSFinn Thain 	struct esp *esp = mep->esp;
5726fe07aafSFinn Thain 	unsigned int irq = esp->host->irq;
5736fe07aafSFinn Thain 
5746fe07aafSFinn Thain 	scsi_esp_unregister(esp);
5756fe07aafSFinn Thain 
5764da2b1ebSFinn Thain 	spin_lock(&esp_chips_lock);
577da244654SFinn Thain 	esp_chips[dev->id] = NULL;
5784da2b1ebSFinn Thain 	if (esp_chips[!dev->id] == NULL) {
5794da2b1ebSFinn Thain 		spin_unlock(&esp_chips_lock);
580da244654SFinn Thain 		free_irq(irq, NULL);
5814da2b1ebSFinn Thain 	} else
5824da2b1ebSFinn Thain 		spin_unlock(&esp_chips_lock);
5836fe07aafSFinn Thain 
5846fe07aafSFinn Thain 	kfree(mep);
5856fe07aafSFinn Thain 
5866fe07aafSFinn Thain 	kfree(esp->command_block);
5876fe07aafSFinn Thain 
5886fe07aafSFinn Thain 	scsi_host_put(esp->host);
5896fe07aafSFinn Thain 
5906fe07aafSFinn Thain 	return 0;
5916fe07aafSFinn Thain }
5926fe07aafSFinn Thain 
5936fe07aafSFinn Thain static struct platform_driver esp_mac_driver = {
5946fe07aafSFinn Thain 	.probe    = esp_mac_probe,
5956f039790SGreg Kroah-Hartman 	.remove   = esp_mac_remove,
5966fe07aafSFinn Thain 	.driver   = {
5976fe07aafSFinn Thain 		.name	= DRV_MODULE_NAME,
5986fe07aafSFinn Thain 	},
5996fe07aafSFinn Thain };
6006fe07aafSFinn Thain 
6016fe07aafSFinn Thain static int __init mac_esp_init(void)
6026fe07aafSFinn Thain {
603cff75f1fSFinn Thain 	return platform_driver_register(&esp_mac_driver);
6046fe07aafSFinn Thain }
6056fe07aafSFinn Thain 
6066fe07aafSFinn Thain static void __exit mac_esp_exit(void)
6076fe07aafSFinn Thain {
6086fe07aafSFinn Thain 	platform_driver_unregister(&esp_mac_driver);
6096fe07aafSFinn Thain }
6106fe07aafSFinn Thain 
6116fe07aafSFinn Thain MODULE_DESCRIPTION("Mac ESP SCSI driver");
612d0c2c269SFinn Thain MODULE_AUTHOR("Finn Thain");
6136fe07aafSFinn Thain MODULE_LICENSE("GPL v2");
6146fe07aafSFinn Thain MODULE_VERSION(DRV_VERSION);
615cff75f1fSFinn Thain MODULE_ALIAS("platform:" DRV_MODULE_NAME);
6166fe07aafSFinn Thain 
6176fe07aafSFinn Thain module_init(mac_esp_init);
6186fe07aafSFinn Thain module_exit(mac_esp_exit);
619