20 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in _a6xx_check_idle()  local
21 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in _a6xx_check_idle()
24 	if (!adreno_has_gmu_wrapper(adreno_gpu) && !a6xx_gmu_isidle(&a6xx_gpu->gmu))  in _a6xx_check_idle()
57 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in update_shadow_rptr()  local
58 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in update_shadow_rptr()
61 	if (a6xx_gpu->has_whereami && !adreno_gpu->base.hw_apriv) {  in update_shadow_rptr()
175 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_submit()  local
176 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_submit()
700 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_set_hwcg()  local
701 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_set_hwcg()
707 	if (!adreno_gpu->info->hwcg)  in a6xx_set_hwcg()
710 	if (adreno_is_a630(adreno_gpu))  in a6xx_set_hwcg()
712 	else if (adreno_is_a610(adreno_gpu))  in a6xx_set_hwcg()
724 	if (!adreno_is_a610(adreno_gpu))  in a6xx_set_hwcg()
727 	for (i = 0; (reg = &adreno_gpu->info->hwcg[i], reg->offset); i++)  in a6xx_set_hwcg()
731 	if (!adreno_is_a610(adreno_gpu))  in a6xx_set_hwcg()
902 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_set_cp_protect()  local
906 	if (adreno_is_a650(adreno_gpu)) {  in a6xx_set_cp_protect()
911 	} else if (adreno_is_a690(adreno_gpu)) {  in a6xx_set_cp_protect()
916 	} else if (adreno_is_a660_family(adreno_gpu)) {  in a6xx_set_cp_protect()
949 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_set_ubwc_config()  local
970 	if (adreno_is_a610(adreno_gpu)) {  in a6xx_set_ubwc_config()
978 	if (adreno_is_a618(adreno_gpu))  in a6xx_set_ubwc_config()
981 	if (adreno_is_a619_holi(adreno_gpu))  in a6xx_set_ubwc_config()
984 	if (adreno_is_a640_family(adreno_gpu))  in a6xx_set_ubwc_config()
987 	if (adreno_is_a650(adreno_gpu) || adreno_is_a660(adreno_gpu)) {  in a6xx_set_ubwc_config()
995 	if (adreno_is_a690(adreno_gpu)) {  in a6xx_set_ubwc_config()
1002 	if (adreno_is_7c3(adreno_gpu)) {  in a6xx_set_ubwc_config()
1059 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;  in a6xx_ucode_check_version()  local
1060 	struct msm_gpu *gpu = &adreno_gpu->base;  in a6xx_ucode_check_version()
1061 	const char *sqe_name = adreno_gpu->info->fw[ADRENO_FW_SQE];  in a6xx_ucode_check_version()
1121 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_ucode_load()  local
1122 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_ucode_load()
1126 			adreno_gpu->fw[ADRENO_FW_SQE], &a6xx_gpu->sqe_iova);  in a6xx_ucode_load()
1152 	if ((adreno_gpu->base.hw_apriv || a6xx_gpu->has_whereami) &&  in a6xx_ucode_load()
1197 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in hw_init()  local
1198 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in hw_init()
1202 	if (!adreno_has_gmu_wrapper(adreno_gpu)) {  in hw_init()
1210 	if (adreno_is_a619_holi(adreno_gpu)) {  in hw_init()
1215 	} else if (a6xx_has_gbif(adreno_gpu)) {  in hw_init()
1224 	if (adreno_is_a619_holi(adreno_gpu))  in hw_init()
1253 	if (adreno_is_a610(adreno_gpu) ||  in hw_init()
1254 	    adreno_is_a640_family(adreno_gpu) ||  in hw_init()
1255 	    adreno_is_a650_family(adreno_gpu)) {  in hw_init()
1265 	if (adreno_is_a630(adreno_gpu))  in hw_init()
1276 	if (!adreno_is_a650_family(adreno_gpu)) {  in hw_init()
1281 			0x00100000 + adreno_gpu->info->gmem - 1);  in hw_init()
1287 	if (adreno_is_a640_family(adreno_gpu) || adreno_is_a650_family(adreno_gpu)) {  in hw_init()
1290 	} else if (adreno_is_a610(adreno_gpu)) {  in hw_init()
1298 	if (adreno_is_a660_family(adreno_gpu))  in hw_init()
1302 	if (adreno_is_a610(adreno_gpu)) {  in hw_init()
1311 	if (adreno_is_a650(adreno_gpu) || adreno_is_a660(adreno_gpu) || adreno_is_a690(adreno_gpu))  in hw_init()
1313 	else if (adreno_is_a640_family(adreno_gpu) || adreno_is_7c3(adreno_gpu))  in hw_init()
1315 	else if (adreno_is_a650(adreno_gpu) || adreno_is_a660(adreno_gpu))  in hw_init()
1317 	else if (adreno_is_a619(adreno_gpu))  in hw_init()
1319 	else if (adreno_is_a610(adreno_gpu))  in hw_init()
1336 	if (adreno_is_a619(adreno_gpu))  in hw_init()
1338 	else if (adreno_is_a610(adreno_gpu))  in hw_init()
1346 	if (adreno_is_a650_family(adreno_gpu)) {  in hw_init()
1368 	if (adreno_is_a660_family(adreno_gpu)) {  in hw_init()
1374 	if (adreno_is_a660(adreno_gpu))  in hw_init()
1399 	if (adreno_gpu->base.hw_apriv)  in hw_init()
1454 	if (adreno_has_gmu_wrapper(adreno_gpu))  in hw_init()
1472 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_hw_init()  local
1473 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_hw_init()
1492 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_recover()  local
1493 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_recover()
1527 	if (adreno_has_gmu_wrapper(adreno_gpu)) {  in a6xx_recover()
1529 		a6xx_bus_clear_pending_transactions(adreno_gpu, true);  in a6xx_recover()
1669 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_fault_detect_irq()  local
1670 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_fault_detect_irq()
1686 	if (!adreno_has_gmu_wrapper(adreno_gpu))  in a6xx_fault_detect_irq()
1748 	struct adreno_gpu *adreno_gpu = &a6xx_gpu->base;  in a6xx_llc_activate()  local
1749 	struct msm_gpu *gpu = &adreno_gpu->base;  in a6xx_llc_activate()
1765 		if (adreno_is_a660_family(adreno_gpu))  in a6xx_llc_activate()
1852 void a6xx_bus_clear_pending_transactions(struct adreno_gpu *adreno_gpu, bool gx_off)  in a6xx_bus_clear_pending_transactions()  argument
1854 	struct msm_gpu *gpu = &adreno_gpu->base;  in a6xx_bus_clear_pending_transactions()
1856 	if (adreno_is_a619_holi(adreno_gpu)) {  in a6xx_bus_clear_pending_transactions()
1860 	} else if (!a6xx_has_gbif(adreno_gpu)) {  in a6xx_bus_clear_pending_transactions()
1907 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_gmu_pm_resume()  local
1908 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_gmu_pm_resume()
1930 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_pm_resume()  local
1931 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_pm_resume()
1960 	if (adreno_is_a619_holi(adreno_gpu))  in a6xx_pm_resume()
1981 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_gmu_pm_suspend()  local
1982 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_gmu_pm_suspend()
2008 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_pm_suspend()  local
2009 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_pm_suspend()
2020 	a6xx_bus_clear_pending_transactions(adreno_gpu, true);  in a6xx_pm_suspend()
2022 	if (adreno_is_a619_holi(adreno_gpu))  in a6xx_pm_suspend()
2044 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_gmu_get_timestamp()  local
2045 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_gmu_get_timestamp()
2069 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_active_ring()  local
2070 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_active_ring()
2077 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_destroy()  local
2078 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_destroy()
2094 	adreno_gpu_cleanup(adreno_gpu);  in a6xx_destroy()
2101 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_gpu_busy()  local
2102 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_gpu_busy()
2118 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_gpu_set_freq()  local
2119 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_gpu_set_freq()
2129 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_create_address_space()  local
2130 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_create_address_space()
2161 	struct adreno_gpu *adreno_gpu = to_adreno_gpu(gpu);  in a6xx_get_rptr()  local
2162 	struct a6xx_gpu *a6xx_gpu = to_a6xx_gpu(adreno_gpu);  in a6xx_get_rptr()
2164 	if (adreno_gpu->base.hw_apriv || a6xx_gpu->has_whereami)  in a6xx_get_rptr()
2317 	struct adreno_gpu *adreno_gpu;  in a6xx_gpu_init()  local
2325 	adreno_gpu = &a6xx_gpu->base;  in a6xx_gpu_init()
2326 	gpu = &adreno_gpu->base;  in a6xx_gpu_init()
2330 	adreno_gpu->registers = NULL;  in a6xx_gpu_init()
2337 	adreno_gpu->gmu_is_wrapper = of_device_is_compatible(node, "qcom,adreno-gmu-wrapper");  in a6xx_gpu_init()
2339 	adreno_gpu->base.hw_apriv =  in a6xx_gpu_init()
2351 	if (adreno_has_gmu_wrapper(adreno_gpu))  in a6xx_gpu_init()
2352 		ret = adreno_gpu_init(dev, pdev, adreno_gpu, &funcs_gmuwrapper, 1);  in a6xx_gpu_init()
2354 		ret = adreno_gpu_init(dev, pdev, adreno_gpu, &funcs, 1);  in a6xx_gpu_init()
2364 	if (adreno_is_a618(adreno_gpu) || adreno_is_7c3(adreno_gpu))  in a6xx_gpu_init()
2367 	if (adreno_has_gmu_wrapper(adreno_gpu))  in a6xx_gpu_init()