1 // SPDX-License-Identifier: GPL-2.0
3  * PCIe host controller driver for Kirin Phone SoCs
29 #include "pcie-designware.h"
31 #define to_kirin_pcie(x) dev_get_drvdata((x)->dev)
33 /* PCIe ELBI registers */
60  * in-board Ethernet adapter and the other two connected to M.2 and mini
83 	/* Per-slot PERST# */
88 	/* Per-slot clkreq */
142 	writel(val, hi3660_pcie_phy->base + reg);  in kirin_apb_phy_writel()
148 	return readl(hi3660_pcie_phy->base + reg);  in kirin_apb_phy_readl()
153 	struct device *dev = phy->dev;  in hi3660_pcie_phy_get_clk()
155 	phy->phy_ref_clk = devm_clk_get(dev, "pcie_phy_ref");  in hi3660_pcie_phy_get_clk()
156 	if (IS_ERR(phy->phy_ref_clk))  in hi3660_pcie_phy_get_clk()
157 		return PTR_ERR(phy->phy_ref_clk);  in hi3660_pcie_phy_get_clk()
159 	phy->aux_clk = devm_clk_get(dev, "pcie_aux");  in hi3660_pcie_phy_get_clk()
160 	if (IS_ERR(phy->aux_clk))  in hi3660_pcie_phy_get_clk()
161 		return PTR_ERR(phy->aux_clk);  in hi3660_pcie_phy_get_clk()
163 	phy->apb_phy_clk = devm_clk_get(dev, "pcie_apb_phy");  in hi3660_pcie_phy_get_clk()
164 	if (IS_ERR(phy->apb_phy_clk))  in hi3660_pcie_phy_get_clk()
165 		return PTR_ERR(phy->apb_phy_clk);  in hi3660_pcie_phy_get_clk()
167 	phy->apb_sys_clk = devm_clk_get(dev, "pcie_apb_sys");  in hi3660_pcie_phy_get_clk()
168 	if (IS_ERR(phy->apb_sys_clk))  in hi3660_pcie_phy_get_clk()
169 		return PTR_ERR(phy->apb_sys_clk);  in hi3660_pcie_phy_get_clk()
171 	phy->aclk = devm_clk_get(dev, "pcie_aclk");  in hi3660_pcie_phy_get_clk()
172 	if (IS_ERR(phy->aclk))  in hi3660_pcie_phy_get_clk()
173 		return PTR_ERR(phy->aclk);  in hi3660_pcie_phy_get_clk()
180 	struct device *dev = phy->dev;  in hi3660_pcie_phy_get_resource()
186 	phy->base = devm_platform_ioremap_resource_byname(pdev, "phy");  in hi3660_pcie_phy_get_resource()
187 	if (IS_ERR(phy->base))  in hi3660_pcie_phy_get_resource()
188 		return PTR_ERR(phy->base);  in hi3660_pcie_phy_get_resource()
190 	phy->crgctrl = syscon_regmap_lookup_by_compatible("hisilicon,hi3660-crgctrl");  in hi3660_pcie_phy_get_resource()
191 	if (IS_ERR(phy->crgctrl))  in hi3660_pcie_phy_get_resource()
192 		return PTR_ERR(phy->crgctrl);  in hi3660_pcie_phy_get_resource()
194 	phy->sysctrl = syscon_regmap_lookup_by_compatible("hisilicon,hi3660-sctrl");  in hi3660_pcie_phy_get_resource()
195 	if (IS_ERR(phy->sysctrl))  in hi3660_pcie_phy_get_resource()
196 		return PTR_ERR(phy->sysctrl);  in hi3660_pcie_phy_get_resource()
203 	struct device *dev = phy->dev;  in hi3660_pcie_phy_start()
223 		return -EINVAL;  in hi3660_pcie_phy_start()
233 	regmap_read(phy->sysctrl, SCTRL_PCIE_OE_OFFSET, &val);  in hi3660_pcie_phy_oe_enable()
236 	regmap_write(phy->sysctrl, SCTRL_PCIE_OE_OFFSET, val);  in hi3660_pcie_phy_oe_enable()
246 	ret = clk_set_rate(phy->phy_ref_clk, REF_CLK_FREQ);  in hi3660_pcie_phy_clk_ctrl()
250 	ret = clk_prepare_enable(phy->phy_ref_clk);  in hi3660_pcie_phy_clk_ctrl()
254 	ret = clk_prepare_enable(phy->apb_sys_clk);  in hi3660_pcie_phy_clk_ctrl()
258 	ret = clk_prepare_enable(phy->apb_phy_clk);  in hi3660_pcie_phy_clk_ctrl()
262 	ret = clk_prepare_enable(phy->aclk);  in hi3660_pcie_phy_clk_ctrl()
266 	ret = clk_prepare_enable(phy->aux_clk);  in hi3660_pcie_phy_clk_ctrl()
273 	clk_disable_unprepare(phy->aux_clk);  in hi3660_pcie_phy_clk_ctrl()
275 	clk_disable_unprepare(phy->aclk);  in hi3660_pcie_phy_clk_ctrl()
277 	clk_disable_unprepare(phy->apb_phy_clk);  in hi3660_pcie_phy_clk_ctrl()
279 	clk_disable_unprepare(phy->apb_sys_clk);  in hi3660_pcie_phy_clk_ctrl()
281 	clk_disable_unprepare(phy->phy_ref_clk);  in hi3660_pcie_phy_clk_ctrl()
286 static int hi3660_pcie_phy_power_on(struct kirin_pcie *pcie)  in hi3660_pcie_phy_power_on()  argument
288 	struct hi3660_pcie_phy *phy = pcie->phy_priv;  in hi3660_pcie_phy_power_on()
292 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
303 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
305 	regmap_write(phy->crgctrl,  in hi3660_pcie_phy_power_on()
307 	regmap_write(phy->sysctrl,  in hi3660_pcie_phy_power_on()
322 				struct kirin_pcie *pcie)  in hi3660_pcie_phy_init()  argument
324 	struct device *dev = &pdev->dev;  in hi3660_pcie_phy_init()
330 		return -ENOMEM;  in hi3660_pcie_phy_init()
332 	pcie->phy_priv = phy;  in hi3660_pcie_phy_init()
333 	phy->dev = dev;  in hi3660_pcie_phy_init()
342 static int hi3660_pcie_phy_power_off(struct kirin_pcie *pcie)  in hi3660_pcie_phy_power_off()  argument
344 	struct hi3660_pcie_phy *phy = pcie->phy_priv;  in hi3660_pcie_phy_power_off()
347 	regmap_write(phy->sysctrl, SCTRL_PCIE_CMOS_OFFSET, 0x00);  in hi3660_pcie_phy_power_off()
355  * The non-PHY part starts here
365 static int kirin_pcie_get_gpio_enable(struct kirin_pcie *pcie,  in kirin_pcie_get_gpio_enable()  argument
368 	struct device *dev = &pdev->dev;  in kirin_pcie_get_gpio_enable()
379 		return -EINVAL;  in kirin_pcie_get_gpio_enable()
382 	pcie->n_gpio_clkreq = ret;  in kirin_pcie_get_gpio_enable()
384 	for (i = 0; i < pcie->n_gpio_clkreq; i++) {  in kirin_pcie_get_gpio_enable()
385 		pcie->gpio_id_clkreq[i] = of_get_named_gpio(dev->of_node,  in kirin_pcie_get_gpio_enable()
386 						    "hisilicon,clken-gpios", i);  in kirin_pcie_get_gpio_enable()
387 		if (pcie->gpio_id_clkreq[i] < 0)  in kirin_pcie_get_gpio_enable()
388 			return pcie->gpio_id_clkreq[i];  in kirin_pcie_get_gpio_enable()
391 		pcie->clkreq_names[i] = devm_kstrdup_const(dev, name,  in kirin_pcie_get_gpio_enable()
393 		if (!pcie->clkreq_names[i])  in kirin_pcie_get_gpio_enable()
394 			return -ENOMEM;  in kirin_pcie_get_gpio_enable()
400 static int kirin_pcie_parse_port(struct kirin_pcie *pcie,  in kirin_pcie_parse_port()  argument
404 	struct device *dev = &pdev->dev;  in kirin_pcie_parse_port()
411 			i = pcie->num_slots;  in kirin_pcie_parse_port()
413 			pcie->gpio_id_reset[i] = of_get_named_gpio(child,  in kirin_pcie_parse_port()
414 							"reset-gpios", 0);  in kirin_pcie_parse_port()
415 			if (pcie->gpio_id_reset[i] < 0)  in kirin_pcie_parse_port()
418 			if (pcie->num_slots + 1 >= MAX_PCI_SLOTS) {  in kirin_pcie_parse_port()
420 				ret = -EINVAL;  in kirin_pcie_parse_port()
423 			pcie->num_slots++;  in kirin_pcie_parse_port()
434 			pcie->reset_names[i] = devm_kstrdup_const(dev, name,  in kirin_pcie_parse_port()
436 			if (!pcie->reset_names[i]) {  in kirin_pcie_parse_port()
437 				ret = -ENOMEM;  in kirin_pcie_parse_port()
454 	struct device *dev = &pdev->dev;  in kirin_pcie_get_resource()
455 	struct device_node *child, *node = dev->of_node;  in kirin_pcie_get_resource()
463 	kirin_pcie->apb = devm_regmap_init_mmio(dev, apb_base,  in kirin_pcie_get_resource()
465 	if (IS_ERR(kirin_pcie->apb))  in kirin_pcie_get_resource()
466 		return PTR_ERR(kirin_pcie->apb);  in kirin_pcie_get_resource()
468 	/* pcie internal PERST# gpio */  in kirin_pcie_get_resource()
469 	kirin_pcie->gpio_id_dwc_perst = of_get_named_gpio(dev->of_node,  in kirin_pcie_get_resource()
470 							  "reset-gpios", 0);  in kirin_pcie_get_resource()
471 	if (kirin_pcie->gpio_id_dwc_perst == -EPROBE_DEFER) {  in kirin_pcie_get_resource()
472 		return -EPROBE_DEFER;  in kirin_pcie_get_resource()
473 	} else if (!gpio_is_valid(kirin_pcie->gpio_id_dwc_perst)) {  in kirin_pcie_get_resource()
475 		return -ENODEV;  in kirin_pcie_get_resource()
501 	regmap_read(kirin_pcie->apb, SOC_PCIECTRL_CTRL0_ADDR, &val);  in kirin_pcie_sideband_dbi_w_mode()
507 	regmap_write(kirin_pcie->apb, SOC_PCIECTRL_CTRL0_ADDR, val);  in kirin_pcie_sideband_dbi_w_mode()
515 	regmap_read(kirin_pcie->apb, SOC_PCIECTRL_CTRL1_ADDR, &val);  in kirin_pcie_sideband_dbi_r_mode()
521 	regmap_write(kirin_pcie->apb, SOC_PCIECTRL_CTRL1_ADDR, val);  in kirin_pcie_sideband_dbi_r_mode()
527 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_rd_own_conf()
539 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_wr_own_conf()
550 	struct dw_pcie *pci = to_dw_pcie_from_pp(bus->sysdata);  in kirin_pcie_add_bus()
554 	if (!kirin_pcie->num_slots)  in kirin_pcie_add_bus()
558 	for (i = 0; i < kirin_pcie->num_slots; i++) {  in kirin_pcie_add_bus()
559 		ret = gpio_direction_output(kirin_pcie->gpio_id_reset[i], 1);  in kirin_pcie_add_bus()
561 			dev_err(pci->dev, "PERST# %s error: %d\n",  in kirin_pcie_add_bus()
562 				kirin_pcie->reset_names[i], ret);  in kirin_pcie_add_bus()
604 	regmap_read(kirin_pcie->apb, PCIE_APB_PHY_STATUS0, &val);  in kirin_pcie_link_up()
616 	regmap_write(kirin_pcie->apb, PCIE_APP_LTSSM_ENABLE,  in kirin_pcie_start_link()
624 	pp->bridge->ops = &kirin_pci_ops;  in kirin_pcie_host_init()
634 	for (i = 0; i < kirin_pcie->num_slots; i++) {  in kirin_pcie_gpio_request()
635 		if (!gpio_is_valid(kirin_pcie->gpio_id_reset[i])) {  in kirin_pcie_gpio_request()
637 				kirin_pcie->reset_names[i]);  in kirin_pcie_gpio_request()
638 			return -ENODEV;  in kirin_pcie_gpio_request()
641 		ret = devm_gpio_request(dev, kirin_pcie->gpio_id_reset[i],  in kirin_pcie_gpio_request()
642 					kirin_pcie->reset_names[i]);  in kirin_pcie_gpio_request()
647 	for (i = 0; i < kirin_pcie->n_gpio_clkreq; i++) {  in kirin_pcie_gpio_request()
648 		if (!gpio_is_valid(kirin_pcie->gpio_id_clkreq[i])) {  in kirin_pcie_gpio_request()
650 				kirin_pcie->clkreq_names[i]);  in kirin_pcie_gpio_request()
651 			return -ENODEV;  in kirin_pcie_gpio_request()
654 		ret = devm_gpio_request(dev, kirin_pcie->gpio_id_clkreq[i],  in kirin_pcie_gpio_request()
655 					kirin_pcie->clkreq_names[i]);  in kirin_pcie_gpio_request()
659 		ret = gpio_direction_output(kirin_pcie->gpio_id_clkreq[i], 0);  in kirin_pcie_gpio_request()
682 	if (kirin_pcie->type == PCIE_KIRIN_INTERNAL_PHY)  in kirin_pcie_power_off()
685 	for (i = 0; i < kirin_pcie->n_gpio_clkreq; i++)  in kirin_pcie_power_off()
686 		gpio_direction_output(kirin_pcie->gpio_id_clkreq[i], 1);  in kirin_pcie_power_off()
688 	phy_power_off(kirin_pcie->phy);  in kirin_pcie_power_off()
689 	phy_exit(kirin_pcie->phy);  in kirin_pcie_power_off()
697 	struct device *dev = &pdev->dev;  in kirin_pcie_power_on()
700 	if (kirin_pcie->type == PCIE_KIRIN_INTERNAL_PHY) {  in kirin_pcie_power_on()
709 		kirin_pcie->phy = devm_of_phy_get(dev, dev->of_node, NULL);  in kirin_pcie_power_on()
710 		if (IS_ERR(kirin_pcie->phy))  in kirin_pcie_power_on()
711 			return PTR_ERR(kirin_pcie->phy);  in kirin_pcie_power_on()
717 		ret = phy_init(kirin_pcie->phy);  in kirin_pcie_power_on()
721 		ret = phy_power_on(kirin_pcie->phy);  in kirin_pcie_power_on()
729 	if (!gpio_request(kirin_pcie->gpio_id_dwc_perst, "pcie_perst_bridge")) {  in kirin_pcie_power_on()
730 		ret = gpio_direction_output(kirin_pcie->gpio_id_dwc_perst, 1);  in kirin_pcie_power_on()
748 	dw_pcie_host_deinit(&kirin_pcie->pci->pp);  in kirin_pcie_remove()
768 	{ .compatible = "hisilicon,kirin960-pcie", .data = &kirin_960_data },
769 	{ .compatible = "hisilicon,kirin970-pcie", .data = &kirin_970_data },
775 	struct device *dev = &pdev->dev;  in kirin_pcie_probe()
781 	if (!dev->of_node) {  in kirin_pcie_probe()
783 		return -EINVAL;  in kirin_pcie_probe()
789 		return -EINVAL;  in kirin_pcie_probe()
794 		return -ENOMEM;  in kirin_pcie_probe()
798 		return -ENOMEM;  in kirin_pcie_probe()
800 	pci->dev = dev;  in kirin_pcie_probe()
801 	pci->ops = &kirin_dw_pcie_ops;  in kirin_pcie_probe()
802 	pci->pp.ops = &kirin_pcie_host_ops;  in kirin_pcie_probe()
803 	kirin_pcie->pci = pci;  in kirin_pcie_probe()
804 	kirin_pcie->type = data->phy_type;  in kirin_pcie_probe()
816 	return dw_pcie_host_init(&pci->pp);  in kirin_pcie_probe()
823 		.name			= "kirin-pcie",
831 MODULE_DESCRIPTION("PCIe host controller driver for Kirin Phone SoCs");