1f721889fSRafael J. Wysocki /* 2f721889fSRafael J. Wysocki * drivers/base/power/domain.c - Common code related to device power domains. 3f721889fSRafael J. Wysocki * 4f721889fSRafael J. Wysocki * Copyright (C) 2011 Rafael J. Wysocki <rjw@sisk.pl>, Renesas Electronics Corp. 5f721889fSRafael J. Wysocki * 6f721889fSRafael J. Wysocki * This file is released under the GPLv2. 7f721889fSRafael J. Wysocki */ 8f721889fSRafael J. Wysocki 9f721889fSRafael J. Wysocki #include <linux/init.h> 10f721889fSRafael J. Wysocki #include <linux/kernel.h> 11f721889fSRafael J. Wysocki #include <linux/io.h> 12f721889fSRafael J. Wysocki #include <linux/pm_runtime.h> 13f721889fSRafael J. Wysocki #include <linux/pm_domain.h> 14f721889fSRafael J. Wysocki #include <linux/slab.h> 15f721889fSRafael J. Wysocki #include <linux/err.h> 1617b75ecaSRafael J. Wysocki #include <linux/sched.h> 1717b75ecaSRafael J. Wysocki #include <linux/suspend.h> 18f721889fSRafael J. Wysocki 195125bbf3SRafael J. Wysocki static LIST_HEAD(gpd_list); 205125bbf3SRafael J. Wysocki static DEFINE_MUTEX(gpd_list_lock); 215125bbf3SRafael J. Wysocki 225248051bSRafael J. Wysocki #ifdef CONFIG_PM 235248051bSRafael J. Wysocki 245248051bSRafael J. Wysocki static struct generic_pm_domain *dev_to_genpd(struct device *dev) 255248051bSRafael J. Wysocki { 265248051bSRafael J. Wysocki if (IS_ERR_OR_NULL(dev->pm_domain)) 275248051bSRafael J. Wysocki return ERR_PTR(-EINVAL); 285248051bSRafael J. Wysocki 29596ba34bSRafael J. Wysocki return pd_to_genpd(dev->pm_domain); 305248051bSRafael J. Wysocki } 31f721889fSRafael J. Wysocki 32c4bb3160SRafael J. Wysocki static bool genpd_sd_counter_dec(struct generic_pm_domain *genpd) 33f721889fSRafael J. Wysocki { 34c4bb3160SRafael J. Wysocki bool ret = false; 35c4bb3160SRafael J. Wysocki 36c4bb3160SRafael J. Wysocki if (!WARN_ON(atomic_read(&genpd->sd_count) == 0)) 37c4bb3160SRafael J. Wysocki ret = !!atomic_dec_and_test(&genpd->sd_count); 38c4bb3160SRafael J. Wysocki 39c4bb3160SRafael J. Wysocki return ret; 40c4bb3160SRafael J. Wysocki } 41c4bb3160SRafael J. Wysocki 42c4bb3160SRafael J. Wysocki static void genpd_sd_counter_inc(struct generic_pm_domain *genpd) 43c4bb3160SRafael J. Wysocki { 44c4bb3160SRafael J. Wysocki atomic_inc(&genpd->sd_count); 45c4bb3160SRafael J. Wysocki smp_mb__after_atomic_inc(); 46f721889fSRafael J. Wysocki } 47f721889fSRafael J. Wysocki 4817b75ecaSRafael J. Wysocki static void genpd_acquire_lock(struct generic_pm_domain *genpd) 4917b75ecaSRafael J. Wysocki { 5017b75ecaSRafael J. Wysocki DEFINE_WAIT(wait); 5117b75ecaSRafael J. Wysocki 5217b75ecaSRafael J. Wysocki mutex_lock(&genpd->lock); 5317b75ecaSRafael J. Wysocki /* 5417b75ecaSRafael J. Wysocki * Wait for the domain to transition into either the active, 5517b75ecaSRafael J. Wysocki * or the power off state. 5617b75ecaSRafael J. Wysocki */ 5717b75ecaSRafael J. Wysocki for (;;) { 5817b75ecaSRafael J. Wysocki prepare_to_wait(&genpd->status_wait_queue, &wait, 5917b75ecaSRafael J. Wysocki TASK_UNINTERRUPTIBLE); 60c6d22b37SRafael J. Wysocki if (genpd->status == GPD_STATE_ACTIVE 61c6d22b37SRafael J. Wysocki || genpd->status == GPD_STATE_POWER_OFF) 6217b75ecaSRafael J. Wysocki break; 6317b75ecaSRafael J. Wysocki mutex_unlock(&genpd->lock); 6417b75ecaSRafael J. Wysocki 6517b75ecaSRafael J. Wysocki schedule(); 6617b75ecaSRafael J. Wysocki 6717b75ecaSRafael J. Wysocki mutex_lock(&genpd->lock); 6817b75ecaSRafael J. Wysocki } 6917b75ecaSRafael J. Wysocki finish_wait(&genpd->status_wait_queue, &wait); 7017b75ecaSRafael J. Wysocki } 7117b75ecaSRafael J. Wysocki 7217b75ecaSRafael J. Wysocki static void genpd_release_lock(struct generic_pm_domain *genpd) 7317b75ecaSRafael J. Wysocki { 7417b75ecaSRafael J. Wysocki mutex_unlock(&genpd->lock); 7517b75ecaSRafael J. Wysocki } 7617b75ecaSRafael J. Wysocki 77c6d22b37SRafael J. Wysocki static void genpd_set_active(struct generic_pm_domain *genpd) 78c6d22b37SRafael J. Wysocki { 79c6d22b37SRafael J. Wysocki if (genpd->resume_count == 0) 80c6d22b37SRafael J. Wysocki genpd->status = GPD_STATE_ACTIVE; 81c6d22b37SRafael J. Wysocki } 82c6d22b37SRafael J. Wysocki 83f721889fSRafael J. Wysocki /** 845063ce15SRafael J. Wysocki * __pm_genpd_poweron - Restore power to a given PM domain and its masters. 855248051bSRafael J. Wysocki * @genpd: PM domain to power up. 865248051bSRafael J. Wysocki * 875063ce15SRafael J. Wysocki * Restore power to @genpd and all of its masters so that it is possible to 885248051bSRafael J. Wysocki * resume a device belonging to it. 895248051bSRafael J. Wysocki */ 903f241775SRafael J. Wysocki int __pm_genpd_poweron(struct generic_pm_domain *genpd) 913f241775SRafael J. Wysocki __releases(&genpd->lock) __acquires(&genpd->lock) 925248051bSRafael J. Wysocki { 935063ce15SRafael J. Wysocki struct gpd_link *link; 943f241775SRafael J. Wysocki DEFINE_WAIT(wait); 955248051bSRafael J. Wysocki int ret = 0; 965248051bSRafael J. Wysocki 975063ce15SRafael J. Wysocki /* If the domain's master is being waited for, we have to wait too. */ 983f241775SRafael J. Wysocki for (;;) { 993f241775SRafael J. Wysocki prepare_to_wait(&genpd->status_wait_queue, &wait, 1003f241775SRafael J. Wysocki TASK_UNINTERRUPTIBLE); 10117877eb5SRafael J. Wysocki if (genpd->status != GPD_STATE_WAIT_MASTER) 1023f241775SRafael J. Wysocki break; 1033f241775SRafael J. Wysocki mutex_unlock(&genpd->lock); 1043f241775SRafael J. Wysocki 1053f241775SRafael J. Wysocki schedule(); 1063f241775SRafael J. Wysocki 10717b75ecaSRafael J. Wysocki mutex_lock(&genpd->lock); 1083f241775SRafael J. Wysocki } 1093f241775SRafael J. Wysocki finish_wait(&genpd->status_wait_queue, &wait); 11017b75ecaSRafael J. Wysocki 11117b75ecaSRafael J. Wysocki if (genpd->status == GPD_STATE_ACTIVE 112596ba34bSRafael J. Wysocki || (genpd->prepared_count > 0 && genpd->suspend_power_off)) 1133f241775SRafael J. Wysocki return 0; 1145248051bSRafael J. Wysocki 115c6d22b37SRafael J. Wysocki if (genpd->status != GPD_STATE_POWER_OFF) { 116c6d22b37SRafael J. Wysocki genpd_set_active(genpd); 1173f241775SRafael J. Wysocki return 0; 118c6d22b37SRafael J. Wysocki } 119c6d22b37SRafael J. Wysocki 1205063ce15SRafael J. Wysocki /* 1215063ce15SRafael J. Wysocki * The list is guaranteed not to change while the loop below is being 1225063ce15SRafael J. Wysocki * executed, unless one of the masters' .power_on() callbacks fiddles 1235063ce15SRafael J. Wysocki * with it. 1245063ce15SRafael J. Wysocki */ 1255063ce15SRafael J. Wysocki list_for_each_entry(link, &genpd->slave_links, slave_node) { 1265063ce15SRafael J. Wysocki genpd_sd_counter_inc(link->master); 12717877eb5SRafael J. Wysocki genpd->status = GPD_STATE_WAIT_MASTER; 1283c07cbc4SRafael J. Wysocki 1295248051bSRafael J. Wysocki mutex_unlock(&genpd->lock); 1305248051bSRafael J. Wysocki 1315063ce15SRafael J. Wysocki ret = pm_genpd_poweron(link->master); 1329e08cf42SRafael J. Wysocki 1339e08cf42SRafael J. Wysocki mutex_lock(&genpd->lock); 1349e08cf42SRafael J. Wysocki 1353f241775SRafael J. Wysocki /* 1363f241775SRafael J. Wysocki * The "wait for parent" status is guaranteed not to change 1375063ce15SRafael J. Wysocki * while the master is powering on. 1383f241775SRafael J. Wysocki */ 1393f241775SRafael J. Wysocki genpd->status = GPD_STATE_POWER_OFF; 1403f241775SRafael J. Wysocki wake_up_all(&genpd->status_wait_queue); 1415063ce15SRafael J. Wysocki if (ret) { 1425063ce15SRafael J. Wysocki genpd_sd_counter_dec(link->master); 1439e08cf42SRafael J. Wysocki goto err; 1445248051bSRafael J. Wysocki } 1455063ce15SRafael J. Wysocki } 1465248051bSRafael J. Wysocki 1479e08cf42SRafael J. Wysocki if (genpd->power_on) { 148fe202fdeSRafael J. Wysocki ret = genpd->power_on(genpd); 1499e08cf42SRafael J. Wysocki if (ret) 1509e08cf42SRafael J. Wysocki goto err; 1513c07cbc4SRafael J. Wysocki } 1525248051bSRafael J. Wysocki 1539e08cf42SRafael J. Wysocki genpd_set_active(genpd); 1549e08cf42SRafael J. Wysocki 1553f241775SRafael J. Wysocki return 0; 1569e08cf42SRafael J. Wysocki 1579e08cf42SRafael J. Wysocki err: 1585063ce15SRafael J. Wysocki list_for_each_entry_continue_reverse(link, &genpd->slave_links, slave_node) 1595063ce15SRafael J. Wysocki genpd_sd_counter_dec(link->master); 1609e08cf42SRafael J. Wysocki 1613f241775SRafael J. Wysocki return ret; 1623f241775SRafael J. Wysocki } 1633f241775SRafael J. Wysocki 1643f241775SRafael J. Wysocki /** 1655063ce15SRafael J. Wysocki * pm_genpd_poweron - Restore power to a given PM domain and its masters. 1663f241775SRafael J. Wysocki * @genpd: PM domain to power up. 1673f241775SRafael J. Wysocki */ 1683f241775SRafael J. Wysocki int pm_genpd_poweron(struct generic_pm_domain *genpd) 1693f241775SRafael J. Wysocki { 1703f241775SRafael J. Wysocki int ret; 1713f241775SRafael J. Wysocki 1723f241775SRafael J. Wysocki mutex_lock(&genpd->lock); 1733f241775SRafael J. Wysocki ret = __pm_genpd_poweron(genpd); 1743f241775SRafael J. Wysocki mutex_unlock(&genpd->lock); 1753f241775SRafael J. Wysocki return ret; 1765248051bSRafael J. Wysocki } 1775248051bSRafael J. Wysocki 1785248051bSRafael J. Wysocki #endif /* CONFIG_PM */ 1795248051bSRafael J. Wysocki 1805248051bSRafael J. Wysocki #ifdef CONFIG_PM_RUNTIME 1815248051bSRafael J. Wysocki 1825248051bSRafael J. Wysocki /** 183f721889fSRafael J. Wysocki * __pm_genpd_save_device - Save the pre-suspend state of a device. 184f721889fSRafael J. Wysocki * @dle: Device list entry of the device to save the state of. 185f721889fSRafael J. Wysocki * @genpd: PM domain the device belongs to. 186f721889fSRafael J. Wysocki */ 187f721889fSRafael J. Wysocki static int __pm_genpd_save_device(struct dev_list_entry *dle, 188f721889fSRafael J. Wysocki struct generic_pm_domain *genpd) 18917b75ecaSRafael J. Wysocki __releases(&genpd->lock) __acquires(&genpd->lock) 190f721889fSRafael J. Wysocki { 191f721889fSRafael J. Wysocki struct device *dev = dle->dev; 192f721889fSRafael J. Wysocki struct device_driver *drv = dev->driver; 193f721889fSRafael J. Wysocki int ret = 0; 194f721889fSRafael J. Wysocki 195f721889fSRafael J. Wysocki if (dle->need_restore) 196f721889fSRafael J. Wysocki return 0; 197f721889fSRafael J. Wysocki 19817b75ecaSRafael J. Wysocki mutex_unlock(&genpd->lock); 19917b75ecaSRafael J. Wysocki 200f721889fSRafael J. Wysocki if (drv && drv->pm && drv->pm->runtime_suspend) { 201f721889fSRafael J. Wysocki if (genpd->start_device) 202f721889fSRafael J. Wysocki genpd->start_device(dev); 203f721889fSRafael J. Wysocki 204f721889fSRafael J. Wysocki ret = drv->pm->runtime_suspend(dev); 205f721889fSRafael J. Wysocki 206f721889fSRafael J. Wysocki if (genpd->stop_device) 207f721889fSRafael J. Wysocki genpd->stop_device(dev); 208f721889fSRafael J. Wysocki } 209f721889fSRafael J. Wysocki 21017b75ecaSRafael J. Wysocki mutex_lock(&genpd->lock); 21117b75ecaSRafael J. Wysocki 212f721889fSRafael J. Wysocki if (!ret) 213f721889fSRafael J. Wysocki dle->need_restore = true; 214f721889fSRafael J. Wysocki 215f721889fSRafael J. Wysocki return ret; 216f721889fSRafael J. Wysocki } 217f721889fSRafael J. Wysocki 218f721889fSRafael J. Wysocki /** 219f721889fSRafael J. Wysocki * __pm_genpd_restore_device - Restore the pre-suspend state of a device. 220f721889fSRafael J. Wysocki * @dle: Device list entry of the device to restore the state of. 221f721889fSRafael J. Wysocki * @genpd: PM domain the device belongs to. 222f721889fSRafael J. Wysocki */ 223f721889fSRafael J. Wysocki static void __pm_genpd_restore_device(struct dev_list_entry *dle, 224f721889fSRafael J. Wysocki struct generic_pm_domain *genpd) 22517b75ecaSRafael J. Wysocki __releases(&genpd->lock) __acquires(&genpd->lock) 226f721889fSRafael J. Wysocki { 227f721889fSRafael J. Wysocki struct device *dev = dle->dev; 228f721889fSRafael J. Wysocki struct device_driver *drv = dev->driver; 229f721889fSRafael J. Wysocki 230f721889fSRafael J. Wysocki if (!dle->need_restore) 231f721889fSRafael J. Wysocki return; 232f721889fSRafael J. Wysocki 23317b75ecaSRafael J. Wysocki mutex_unlock(&genpd->lock); 23417b75ecaSRafael J. Wysocki 235f721889fSRafael J. Wysocki if (drv && drv->pm && drv->pm->runtime_resume) { 236f721889fSRafael J. Wysocki if (genpd->start_device) 237f721889fSRafael J. Wysocki genpd->start_device(dev); 238f721889fSRafael J. Wysocki 239f721889fSRafael J. Wysocki drv->pm->runtime_resume(dev); 240f721889fSRafael J. Wysocki 241f721889fSRafael J. Wysocki if (genpd->stop_device) 242f721889fSRafael J. Wysocki genpd->stop_device(dev); 243f721889fSRafael J. Wysocki } 244f721889fSRafael J. Wysocki 24517b75ecaSRafael J. Wysocki mutex_lock(&genpd->lock); 24617b75ecaSRafael J. Wysocki 247f721889fSRafael J. Wysocki dle->need_restore = false; 248f721889fSRafael J. Wysocki } 249f721889fSRafael J. Wysocki 250f721889fSRafael J. Wysocki /** 251c6d22b37SRafael J. Wysocki * genpd_abort_poweroff - Check if a PM domain power off should be aborted. 252c6d22b37SRafael J. Wysocki * @genpd: PM domain to check. 253c6d22b37SRafael J. Wysocki * 254c6d22b37SRafael J. Wysocki * Return true if a PM domain's status changed to GPD_STATE_ACTIVE during 255c6d22b37SRafael J. Wysocki * a "power off" operation, which means that a "power on" has occured in the 256c6d22b37SRafael J. Wysocki * meantime, or if its resume_count field is different from zero, which means 257c6d22b37SRafael J. Wysocki * that one of its devices has been resumed in the meantime. 258c6d22b37SRafael J. Wysocki */ 259c6d22b37SRafael J. Wysocki static bool genpd_abort_poweroff(struct generic_pm_domain *genpd) 260c6d22b37SRafael J. Wysocki { 26117877eb5SRafael J. Wysocki return genpd->status == GPD_STATE_WAIT_MASTER 2623f241775SRafael J. Wysocki || genpd->status == GPD_STATE_ACTIVE || genpd->resume_count > 0; 263c6d22b37SRafael J. Wysocki } 264c6d22b37SRafael J. Wysocki 265c6d22b37SRafael J. Wysocki /** 26656375fd4SRafael J. Wysocki * genpd_queue_power_off_work - Queue up the execution of pm_genpd_poweroff(). 26756375fd4SRafael J. Wysocki * @genpd: PM domait to power off. 26856375fd4SRafael J. Wysocki * 26956375fd4SRafael J. Wysocki * Queue up the execution of pm_genpd_poweroff() unless it's already been done 27056375fd4SRafael J. Wysocki * before. 27156375fd4SRafael J. Wysocki */ 2720bc5b2deSRafael J. Wysocki void genpd_queue_power_off_work(struct generic_pm_domain *genpd) 27356375fd4SRafael J. Wysocki { 27456375fd4SRafael J. Wysocki if (!work_pending(&genpd->power_off_work)) 27556375fd4SRafael J. Wysocki queue_work(pm_wq, &genpd->power_off_work); 27656375fd4SRafael J. Wysocki } 27756375fd4SRafael J. Wysocki 27856375fd4SRafael J. Wysocki /** 279f721889fSRafael J. Wysocki * pm_genpd_poweroff - Remove power from a given PM domain. 280f721889fSRafael J. Wysocki * @genpd: PM domain to power down. 281f721889fSRafael J. Wysocki * 282f721889fSRafael J. Wysocki * If all of the @genpd's devices have been suspended and all of its subdomains 283f721889fSRafael J. Wysocki * have been powered down, run the runtime suspend callbacks provided by all of 284f721889fSRafael J. Wysocki * the @genpd's devices' drivers and remove power from @genpd. 285f721889fSRafael J. Wysocki */ 286f721889fSRafael J. Wysocki static int pm_genpd_poweroff(struct generic_pm_domain *genpd) 28717b75ecaSRafael J. Wysocki __releases(&genpd->lock) __acquires(&genpd->lock) 288f721889fSRafael J. Wysocki { 289f721889fSRafael J. Wysocki struct dev_list_entry *dle; 2905063ce15SRafael J. Wysocki struct gpd_link *link; 291f721889fSRafael J. Wysocki unsigned int not_suspended; 292c6d22b37SRafael J. Wysocki int ret = 0; 293f721889fSRafael J. Wysocki 294c6d22b37SRafael J. Wysocki start: 295c6d22b37SRafael J. Wysocki /* 296c6d22b37SRafael J. Wysocki * Do not try to power off the domain in the following situations: 297c6d22b37SRafael J. Wysocki * (1) The domain is already in the "power off" state. 2985063ce15SRafael J. Wysocki * (2) The domain is waiting for its master to power up. 299c6d22b37SRafael J. Wysocki * (3) One of the domain's devices is being resumed right now. 3003f241775SRafael J. Wysocki * (4) System suspend is in progress. 301c6d22b37SRafael J. Wysocki */ 3023f241775SRafael J. Wysocki if (genpd->status == GPD_STATE_POWER_OFF 30317877eb5SRafael J. Wysocki || genpd->status == GPD_STATE_WAIT_MASTER 3043f241775SRafael J. Wysocki || genpd->resume_count > 0 || genpd->prepared_count > 0) 305f721889fSRafael J. Wysocki return 0; 306f721889fSRafael J. Wysocki 307c4bb3160SRafael J. Wysocki if (atomic_read(&genpd->sd_count) > 0) 308f721889fSRafael J. Wysocki return -EBUSY; 309f721889fSRafael J. Wysocki 310f721889fSRafael J. Wysocki not_suspended = 0; 311f721889fSRafael J. Wysocki list_for_each_entry(dle, &genpd->dev_list, node) 312f721889fSRafael J. Wysocki if (dle->dev->driver && !pm_runtime_suspended(dle->dev)) 313f721889fSRafael J. Wysocki not_suspended++; 314f721889fSRafael J. Wysocki 315f721889fSRafael J. Wysocki if (not_suspended > genpd->in_progress) 316f721889fSRafael J. Wysocki return -EBUSY; 317f721889fSRafael J. Wysocki 318c6d22b37SRafael J. Wysocki if (genpd->poweroff_task) { 319c6d22b37SRafael J. Wysocki /* 320c6d22b37SRafael J. Wysocki * Another instance of pm_genpd_poweroff() is executing 321c6d22b37SRafael J. Wysocki * callbacks, so tell it to start over and return. 322c6d22b37SRafael J. Wysocki */ 323c6d22b37SRafael J. Wysocki genpd->status = GPD_STATE_REPEAT; 324c6d22b37SRafael J. Wysocki return 0; 325c6d22b37SRafael J. Wysocki } 326c6d22b37SRafael J. Wysocki 327f721889fSRafael J. Wysocki if (genpd->gov && genpd->gov->power_down_ok) { 328f721889fSRafael J. Wysocki if (!genpd->gov->power_down_ok(&genpd->domain)) 329f721889fSRafael J. Wysocki return -EAGAIN; 330f721889fSRafael J. Wysocki } 331f721889fSRafael J. Wysocki 33217b75ecaSRafael J. Wysocki genpd->status = GPD_STATE_BUSY; 333c6d22b37SRafael J. Wysocki genpd->poweroff_task = current; 33417b75ecaSRafael J. Wysocki 335f721889fSRafael J. Wysocki list_for_each_entry_reverse(dle, &genpd->dev_list, node) { 3363c07cbc4SRafael J. Wysocki ret = atomic_read(&genpd->sd_count) == 0 ? 3373c07cbc4SRafael J. Wysocki __pm_genpd_save_device(dle, genpd) : -EBUSY; 3383f241775SRafael J. Wysocki 3393f241775SRafael J. Wysocki if (genpd_abort_poweroff(genpd)) 3403f241775SRafael J. Wysocki goto out; 3413f241775SRafael J. Wysocki 342697a7f37SRafael J. Wysocki if (ret) { 343697a7f37SRafael J. Wysocki genpd_set_active(genpd); 344697a7f37SRafael J. Wysocki goto out; 345697a7f37SRafael J. Wysocki } 346f721889fSRafael J. Wysocki 347c6d22b37SRafael J. Wysocki if (genpd->status == GPD_STATE_REPEAT) { 348c6d22b37SRafael J. Wysocki genpd->poweroff_task = NULL; 349c6d22b37SRafael J. Wysocki goto start; 350c6d22b37SRafael J. Wysocki } 351c6d22b37SRafael J. Wysocki } 35217b75ecaSRafael J. Wysocki 3533c07cbc4SRafael J. Wysocki if (genpd->power_off) { 3543c07cbc4SRafael J. Wysocki if (atomic_read(&genpd->sd_count) > 0) { 3553c07cbc4SRafael J. Wysocki ret = -EBUSY; 356c6d22b37SRafael J. Wysocki goto out; 357c6d22b37SRafael J. Wysocki } 35817b75ecaSRafael J. Wysocki 3593c07cbc4SRafael J. Wysocki /* 3605063ce15SRafael J. Wysocki * If sd_count > 0 at this point, one of the subdomains hasn't 3615063ce15SRafael J. Wysocki * managed to call pm_genpd_poweron() for the master yet after 3623c07cbc4SRafael J. Wysocki * incrementing it. In that case pm_genpd_poweron() will wait 3633c07cbc4SRafael J. Wysocki * for us to drop the lock, so we can call .power_off() and let 3643c07cbc4SRafael J. Wysocki * the pm_genpd_poweron() restore power for us (this shouldn't 3653c07cbc4SRafael J. Wysocki * happen very often). 3663c07cbc4SRafael J. Wysocki */ 367d2805402SRafael J. Wysocki ret = genpd->power_off(genpd); 368d2805402SRafael J. Wysocki if (ret == -EBUSY) { 369d2805402SRafael J. Wysocki genpd_set_active(genpd); 370d2805402SRafael J. Wysocki goto out; 371d2805402SRafael J. Wysocki } 372d2805402SRafael J. Wysocki } 373f721889fSRafael J. Wysocki 37417b75ecaSRafael J. Wysocki genpd->status = GPD_STATE_POWER_OFF; 375f721889fSRafael J. Wysocki 3765063ce15SRafael J. Wysocki list_for_each_entry(link, &genpd->slave_links, slave_node) { 3775063ce15SRafael J. Wysocki genpd_sd_counter_dec(link->master); 3785063ce15SRafael J. Wysocki genpd_queue_power_off_work(link->master); 3795063ce15SRafael J. Wysocki } 38017b75ecaSRafael J. Wysocki 381c6d22b37SRafael J. Wysocki out: 382c6d22b37SRafael J. Wysocki genpd->poweroff_task = NULL; 383c6d22b37SRafael J. Wysocki wake_up_all(&genpd->status_wait_queue); 384c6d22b37SRafael J. Wysocki return ret; 385f721889fSRafael J. Wysocki } 386f721889fSRafael J. Wysocki 387f721889fSRafael J. Wysocki /** 388f721889fSRafael J. Wysocki * genpd_power_off_work_fn - Power off PM domain whose subdomain count is 0. 389f721889fSRafael J. Wysocki * @work: Work structure used for scheduling the execution of this function. 390f721889fSRafael J. Wysocki */ 391f721889fSRafael J. Wysocki static void genpd_power_off_work_fn(struct work_struct *work) 392f721889fSRafael J. Wysocki { 393f721889fSRafael J. Wysocki struct generic_pm_domain *genpd; 394f721889fSRafael J. Wysocki 395f721889fSRafael J. Wysocki genpd = container_of(work, struct generic_pm_domain, power_off_work); 396f721889fSRafael J. Wysocki 39717b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 398f721889fSRafael J. Wysocki pm_genpd_poweroff(genpd); 39917b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 400f721889fSRafael J. Wysocki } 401f721889fSRafael J. Wysocki 402f721889fSRafael J. Wysocki /** 403f721889fSRafael J. Wysocki * pm_genpd_runtime_suspend - Suspend a device belonging to I/O PM domain. 404f721889fSRafael J. Wysocki * @dev: Device to suspend. 405f721889fSRafael J. Wysocki * 406f721889fSRafael J. Wysocki * Carry out a runtime suspend of a device under the assumption that its 407f721889fSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 408f721889fSRafael J. Wysocki * struct generic_pm_domain representing a PM domain consisting of I/O devices. 409f721889fSRafael J. Wysocki */ 410f721889fSRafael J. Wysocki static int pm_genpd_runtime_suspend(struct device *dev) 411f721889fSRafael J. Wysocki { 412f721889fSRafael J. Wysocki struct generic_pm_domain *genpd; 413f721889fSRafael J. Wysocki 414f721889fSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 415f721889fSRafael J. Wysocki 4165248051bSRafael J. Wysocki genpd = dev_to_genpd(dev); 4175248051bSRafael J. Wysocki if (IS_ERR(genpd)) 418f721889fSRafael J. Wysocki return -EINVAL; 419f721889fSRafael J. Wysocki 420f721889fSRafael J. Wysocki if (genpd->stop_device) { 421f721889fSRafael J. Wysocki int ret = genpd->stop_device(dev); 422f721889fSRafael J. Wysocki if (ret) 42317b75ecaSRafael J. Wysocki return ret; 424f721889fSRafael J. Wysocki } 42517b75ecaSRafael J. Wysocki 426c6d22b37SRafael J. Wysocki mutex_lock(&genpd->lock); 427f721889fSRafael J. Wysocki genpd->in_progress++; 428f721889fSRafael J. Wysocki pm_genpd_poweroff(genpd); 429f721889fSRafael J. Wysocki genpd->in_progress--; 430c6d22b37SRafael J. Wysocki mutex_unlock(&genpd->lock); 431f721889fSRafael J. Wysocki 432f721889fSRafael J. Wysocki return 0; 433f721889fSRafael J. Wysocki } 434f721889fSRafael J. Wysocki 435f721889fSRafael J. Wysocki /** 436596ba34bSRafael J. Wysocki * __pm_genpd_runtime_resume - Resume a device belonging to I/O PM domain. 437596ba34bSRafael J. Wysocki * @dev: Device to resume. 438596ba34bSRafael J. Wysocki * @genpd: PM domain the device belongs to. 439596ba34bSRafael J. Wysocki */ 440596ba34bSRafael J. Wysocki static void __pm_genpd_runtime_resume(struct device *dev, 441596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd) 442596ba34bSRafael J. Wysocki { 443596ba34bSRafael J. Wysocki struct dev_list_entry *dle; 444596ba34bSRafael J. Wysocki 445596ba34bSRafael J. Wysocki list_for_each_entry(dle, &genpd->dev_list, node) { 446596ba34bSRafael J. Wysocki if (dle->dev == dev) { 447596ba34bSRafael J. Wysocki __pm_genpd_restore_device(dle, genpd); 448596ba34bSRafael J. Wysocki break; 449596ba34bSRafael J. Wysocki } 450596ba34bSRafael J. Wysocki } 451596ba34bSRafael J. Wysocki } 452596ba34bSRafael J. Wysocki 453596ba34bSRafael J. Wysocki /** 454f721889fSRafael J. Wysocki * pm_genpd_runtime_resume - Resume a device belonging to I/O PM domain. 455f721889fSRafael J. Wysocki * @dev: Device to resume. 456f721889fSRafael J. Wysocki * 457f721889fSRafael J. Wysocki * Carry out a runtime resume of a device under the assumption that its 458f721889fSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 459f721889fSRafael J. Wysocki * struct generic_pm_domain representing a PM domain consisting of I/O devices. 460f721889fSRafael J. Wysocki */ 461f721889fSRafael J. Wysocki static int pm_genpd_runtime_resume(struct device *dev) 462f721889fSRafael J. Wysocki { 463f721889fSRafael J. Wysocki struct generic_pm_domain *genpd; 464c6d22b37SRafael J. Wysocki DEFINE_WAIT(wait); 465f721889fSRafael J. Wysocki int ret; 466f721889fSRafael J. Wysocki 467f721889fSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 468f721889fSRafael J. Wysocki 4695248051bSRafael J. Wysocki genpd = dev_to_genpd(dev); 4705248051bSRafael J. Wysocki if (IS_ERR(genpd)) 471f721889fSRafael J. Wysocki return -EINVAL; 472f721889fSRafael J. Wysocki 473c6d22b37SRafael J. Wysocki mutex_lock(&genpd->lock); 4743f241775SRafael J. Wysocki ret = __pm_genpd_poweron(genpd); 4753f241775SRafael J. Wysocki if (ret) { 4763f241775SRafael J. Wysocki mutex_unlock(&genpd->lock); 4773f241775SRafael J. Wysocki return ret; 4783f241775SRafael J. Wysocki } 47917b75ecaSRafael J. Wysocki genpd->status = GPD_STATE_BUSY; 480c6d22b37SRafael J. Wysocki genpd->resume_count++; 481c6d22b37SRafael J. Wysocki for (;;) { 482c6d22b37SRafael J. Wysocki prepare_to_wait(&genpd->status_wait_queue, &wait, 483c6d22b37SRafael J. Wysocki TASK_UNINTERRUPTIBLE); 484c6d22b37SRafael J. Wysocki /* 485c6d22b37SRafael J. Wysocki * If current is the powering off task, we have been called 486c6d22b37SRafael J. Wysocki * reentrantly from one of the device callbacks, so we should 487c6d22b37SRafael J. Wysocki * not wait. 488c6d22b37SRafael J. Wysocki */ 489c6d22b37SRafael J. Wysocki if (!genpd->poweroff_task || genpd->poweroff_task == current) 490c6d22b37SRafael J. Wysocki break; 491c6d22b37SRafael J. Wysocki mutex_unlock(&genpd->lock); 492c6d22b37SRafael J. Wysocki 493c6d22b37SRafael J. Wysocki schedule(); 494c6d22b37SRafael J. Wysocki 495c6d22b37SRafael J. Wysocki mutex_lock(&genpd->lock); 496c6d22b37SRafael J. Wysocki } 497c6d22b37SRafael J. Wysocki finish_wait(&genpd->status_wait_queue, &wait); 498596ba34bSRafael J. Wysocki __pm_genpd_runtime_resume(dev, genpd); 499c6d22b37SRafael J. Wysocki genpd->resume_count--; 500c6d22b37SRafael J. Wysocki genpd_set_active(genpd); 50117b75ecaSRafael J. Wysocki wake_up_all(&genpd->status_wait_queue); 502c6d22b37SRafael J. Wysocki mutex_unlock(&genpd->lock); 50317b75ecaSRafael J. Wysocki 50417b75ecaSRafael J. Wysocki if (genpd->start_device) 50517b75ecaSRafael J. Wysocki genpd->start_device(dev); 506f721889fSRafael J. Wysocki 507f721889fSRafael J. Wysocki return 0; 508f721889fSRafael J. Wysocki } 509f721889fSRafael J. Wysocki 51017f2ae7fSRafael J. Wysocki /** 51117f2ae7fSRafael J. Wysocki * pm_genpd_poweroff_unused - Power off all PM domains with no devices in use. 51217f2ae7fSRafael J. Wysocki */ 51317f2ae7fSRafael J. Wysocki void pm_genpd_poweroff_unused(void) 51417f2ae7fSRafael J. Wysocki { 51517f2ae7fSRafael J. Wysocki struct generic_pm_domain *genpd; 51617f2ae7fSRafael J. Wysocki 51717f2ae7fSRafael J. Wysocki mutex_lock(&gpd_list_lock); 51817f2ae7fSRafael J. Wysocki 51917f2ae7fSRafael J. Wysocki list_for_each_entry(genpd, &gpd_list, gpd_list_node) 52017f2ae7fSRafael J. Wysocki genpd_queue_power_off_work(genpd); 52117f2ae7fSRafael J. Wysocki 52217f2ae7fSRafael J. Wysocki mutex_unlock(&gpd_list_lock); 52317f2ae7fSRafael J. Wysocki } 52417f2ae7fSRafael J. Wysocki 525f721889fSRafael J. Wysocki #else 526f721889fSRafael J. Wysocki 527f721889fSRafael J. Wysocki static inline void genpd_power_off_work_fn(struct work_struct *work) {} 528596ba34bSRafael J. Wysocki static inline void __pm_genpd_runtime_resume(struct device *dev, 529596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd) {} 530f721889fSRafael J. Wysocki 531f721889fSRafael J. Wysocki #define pm_genpd_runtime_suspend NULL 532f721889fSRafael J. Wysocki #define pm_genpd_runtime_resume NULL 533f721889fSRafael J. Wysocki 534f721889fSRafael J. Wysocki #endif /* CONFIG_PM_RUNTIME */ 535f721889fSRafael J. Wysocki 536596ba34bSRafael J. Wysocki #ifdef CONFIG_PM_SLEEP 537596ba34bSRafael J. Wysocki 538596ba34bSRafael J. Wysocki /** 5395063ce15SRafael J. Wysocki * pm_genpd_sync_poweroff - Synchronously power off a PM domain and its masters. 540596ba34bSRafael J. Wysocki * @genpd: PM domain to power off, if possible. 541596ba34bSRafael J. Wysocki * 542596ba34bSRafael J. Wysocki * Check if the given PM domain can be powered off (during system suspend or 5435063ce15SRafael J. Wysocki * hibernation) and do that if so. Also, in that case propagate to its masters. 544596ba34bSRafael J. Wysocki * 545596ba34bSRafael J. Wysocki * This function is only called in "noirq" stages of system power transitions, 546596ba34bSRafael J. Wysocki * so it need not acquire locks (all of the "noirq" callbacks are executed 547596ba34bSRafael J. Wysocki * sequentially, so it is guaranteed that it will never run twice in parallel). 548596ba34bSRafael J. Wysocki */ 549596ba34bSRafael J. Wysocki static void pm_genpd_sync_poweroff(struct generic_pm_domain *genpd) 550596ba34bSRafael J. Wysocki { 5515063ce15SRafael J. Wysocki struct gpd_link *link; 552596ba34bSRafael J. Wysocki 55317b75ecaSRafael J. Wysocki if (genpd->status == GPD_STATE_POWER_OFF) 554596ba34bSRafael J. Wysocki return; 555596ba34bSRafael J. Wysocki 556c4bb3160SRafael J. Wysocki if (genpd->suspended_count != genpd->device_count 557c4bb3160SRafael J. Wysocki || atomic_read(&genpd->sd_count) > 0) 558596ba34bSRafael J. Wysocki return; 559596ba34bSRafael J. Wysocki 560596ba34bSRafael J. Wysocki if (genpd->power_off) 561596ba34bSRafael J. Wysocki genpd->power_off(genpd); 562596ba34bSRafael J. Wysocki 56317b75ecaSRafael J. Wysocki genpd->status = GPD_STATE_POWER_OFF; 5645063ce15SRafael J. Wysocki 5655063ce15SRafael J. Wysocki list_for_each_entry(link, &genpd->slave_links, slave_node) { 5665063ce15SRafael J. Wysocki genpd_sd_counter_dec(link->master); 5675063ce15SRafael J. Wysocki pm_genpd_sync_poweroff(link->master); 568596ba34bSRafael J. Wysocki } 569596ba34bSRafael J. Wysocki } 570596ba34bSRafael J. Wysocki 571596ba34bSRafael J. Wysocki /** 5724ecd6e65SRafael J. Wysocki * resume_needed - Check whether to resume a device before system suspend. 5734ecd6e65SRafael J. Wysocki * @dev: Device to check. 5744ecd6e65SRafael J. Wysocki * @genpd: PM domain the device belongs to. 5754ecd6e65SRafael J. Wysocki * 5764ecd6e65SRafael J. Wysocki * There are two cases in which a device that can wake up the system from sleep 5774ecd6e65SRafael J. Wysocki * states should be resumed by pm_genpd_prepare(): (1) if the device is enabled 5784ecd6e65SRafael J. Wysocki * to wake up the system and it has to remain active for this purpose while the 5794ecd6e65SRafael J. Wysocki * system is in the sleep state and (2) if the device is not enabled to wake up 5804ecd6e65SRafael J. Wysocki * the system from sleep states and it generally doesn't generate wakeup signals 5814ecd6e65SRafael J. Wysocki * by itself (those signals are generated on its behalf by other parts of the 5824ecd6e65SRafael J. Wysocki * system). In the latter case it may be necessary to reconfigure the device's 5834ecd6e65SRafael J. Wysocki * wakeup settings during system suspend, because it may have been set up to 5844ecd6e65SRafael J. Wysocki * signal remote wakeup from the system's working state as needed by runtime PM. 5854ecd6e65SRafael J. Wysocki * Return 'true' in either of the above cases. 5864ecd6e65SRafael J. Wysocki */ 5874ecd6e65SRafael J. Wysocki static bool resume_needed(struct device *dev, struct generic_pm_domain *genpd) 5884ecd6e65SRafael J. Wysocki { 5894ecd6e65SRafael J. Wysocki bool active_wakeup; 5904ecd6e65SRafael J. Wysocki 5914ecd6e65SRafael J. Wysocki if (!device_can_wakeup(dev)) 5924ecd6e65SRafael J. Wysocki return false; 5934ecd6e65SRafael J. Wysocki 5944ecd6e65SRafael J. Wysocki active_wakeup = genpd->active_wakeup && genpd->active_wakeup(dev); 5954ecd6e65SRafael J. Wysocki return device_may_wakeup(dev) ? active_wakeup : !active_wakeup; 5964ecd6e65SRafael J. Wysocki } 5974ecd6e65SRafael J. Wysocki 5984ecd6e65SRafael J. Wysocki /** 599596ba34bSRafael J. Wysocki * pm_genpd_prepare - Start power transition of a device in a PM domain. 600596ba34bSRafael J. Wysocki * @dev: Device to start the transition of. 601596ba34bSRafael J. Wysocki * 602596ba34bSRafael J. Wysocki * Start a power transition of a device (during a system-wide power transition) 603596ba34bSRafael J. Wysocki * under the assumption that its pm_domain field points to the domain member of 604596ba34bSRafael J. Wysocki * an object of type struct generic_pm_domain representing a PM domain 605596ba34bSRafael J. Wysocki * consisting of I/O devices. 606596ba34bSRafael J. Wysocki */ 607596ba34bSRafael J. Wysocki static int pm_genpd_prepare(struct device *dev) 608596ba34bSRafael J. Wysocki { 609596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 610b6c10c84SRafael J. Wysocki int ret; 611596ba34bSRafael J. Wysocki 612596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 613596ba34bSRafael J. Wysocki 614596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 615596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 616596ba34bSRafael J. Wysocki return -EINVAL; 617596ba34bSRafael J. Wysocki 61817b75ecaSRafael J. Wysocki /* 61917b75ecaSRafael J. Wysocki * If a wakeup request is pending for the device, it should be woken up 62017b75ecaSRafael J. Wysocki * at this point and a system wakeup event should be reported if it's 62117b75ecaSRafael J. Wysocki * set up to wake up the system from sleep states. 62217b75ecaSRafael J. Wysocki */ 62317b75ecaSRafael J. Wysocki pm_runtime_get_noresume(dev); 62417b75ecaSRafael J. Wysocki if (pm_runtime_barrier(dev) && device_may_wakeup(dev)) 62517b75ecaSRafael J. Wysocki pm_wakeup_event(dev, 0); 62617b75ecaSRafael J. Wysocki 62717b75ecaSRafael J. Wysocki if (pm_wakeup_pending()) { 62817b75ecaSRafael J. Wysocki pm_runtime_put_sync(dev); 62917b75ecaSRafael J. Wysocki return -EBUSY; 63017b75ecaSRafael J. Wysocki } 63117b75ecaSRafael J. Wysocki 6324ecd6e65SRafael J. Wysocki if (resume_needed(dev, genpd)) 6334ecd6e65SRafael J. Wysocki pm_runtime_resume(dev); 6344ecd6e65SRafael J. Wysocki 63517b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 636596ba34bSRafael J. Wysocki 637596ba34bSRafael J. Wysocki if (genpd->prepared_count++ == 0) 63817b75ecaSRafael J. Wysocki genpd->suspend_power_off = genpd->status == GPD_STATE_POWER_OFF; 63917b75ecaSRafael J. Wysocki 64017b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 641596ba34bSRafael J. Wysocki 642596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) { 64317b75ecaSRafael J. Wysocki pm_runtime_put_noidle(dev); 644596ba34bSRafael J. Wysocki return 0; 645596ba34bSRafael J. Wysocki } 646596ba34bSRafael J. Wysocki 647596ba34bSRafael J. Wysocki /* 64817b75ecaSRafael J. Wysocki * The PM domain must be in the GPD_STATE_ACTIVE state at this point, 64917b75ecaSRafael J. Wysocki * so pm_genpd_poweron() will return immediately, but if the device 65017b75ecaSRafael J. Wysocki * is suspended (e.g. it's been stopped by .stop_device()), we need 65117b75ecaSRafael J. Wysocki * to make it operational. 652596ba34bSRafael J. Wysocki */ 65317b75ecaSRafael J. Wysocki pm_runtime_resume(dev); 654596ba34bSRafael J. Wysocki __pm_runtime_disable(dev, false); 655596ba34bSRafael J. Wysocki 656b6c10c84SRafael J. Wysocki ret = pm_generic_prepare(dev); 657b6c10c84SRafael J. Wysocki if (ret) { 658b6c10c84SRafael J. Wysocki mutex_lock(&genpd->lock); 659b6c10c84SRafael J. Wysocki 660b6c10c84SRafael J. Wysocki if (--genpd->prepared_count == 0) 661b6c10c84SRafael J. Wysocki genpd->suspend_power_off = false; 662b6c10c84SRafael J. Wysocki 663b6c10c84SRafael J. Wysocki mutex_unlock(&genpd->lock); 66417b75ecaSRafael J. Wysocki pm_runtime_enable(dev); 665b6c10c84SRafael J. Wysocki } 66617b75ecaSRafael J. Wysocki 66717b75ecaSRafael J. Wysocki pm_runtime_put_sync(dev); 668b6c10c84SRafael J. Wysocki return ret; 669596ba34bSRafael J. Wysocki } 670596ba34bSRafael J. Wysocki 671596ba34bSRafael J. Wysocki /** 672596ba34bSRafael J. Wysocki * pm_genpd_suspend - Suspend a device belonging to an I/O PM domain. 673596ba34bSRafael J. Wysocki * @dev: Device to suspend. 674596ba34bSRafael J. Wysocki * 675596ba34bSRafael J. Wysocki * Suspend a device under the assumption that its pm_domain field points to the 676596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 677596ba34bSRafael J. Wysocki * a PM domain consisting of I/O devices. 678596ba34bSRafael J. Wysocki */ 679596ba34bSRafael J. Wysocki static int pm_genpd_suspend(struct device *dev) 680596ba34bSRafael J. Wysocki { 681596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 682596ba34bSRafael J. Wysocki 683596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 684596ba34bSRafael J. Wysocki 685596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 686596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 687596ba34bSRafael J. Wysocki return -EINVAL; 688596ba34bSRafael J. Wysocki 689596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_suspend(dev); 690596ba34bSRafael J. Wysocki } 691596ba34bSRafael J. Wysocki 692596ba34bSRafael J. Wysocki /** 693596ba34bSRafael J. Wysocki * pm_genpd_suspend_noirq - Late suspend of a device from an I/O PM domain. 694596ba34bSRafael J. Wysocki * @dev: Device to suspend. 695596ba34bSRafael J. Wysocki * 696596ba34bSRafael J. Wysocki * Carry out a late suspend of a device under the assumption that its 697596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 698596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a PM domain consisting of I/O devices. 699596ba34bSRafael J. Wysocki */ 700596ba34bSRafael J. Wysocki static int pm_genpd_suspend_noirq(struct device *dev) 701596ba34bSRafael J. Wysocki { 702596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 703596ba34bSRafael J. Wysocki int ret; 704596ba34bSRafael J. Wysocki 705596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 706596ba34bSRafael J. Wysocki 707596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 708596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 709596ba34bSRafael J. Wysocki return -EINVAL; 710596ba34bSRafael J. Wysocki 711596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) 712596ba34bSRafael J. Wysocki return 0; 713596ba34bSRafael J. Wysocki 714596ba34bSRafael J. Wysocki ret = pm_generic_suspend_noirq(dev); 715596ba34bSRafael J. Wysocki if (ret) 716596ba34bSRafael J. Wysocki return ret; 717596ba34bSRafael J. Wysocki 718d4f2d87aSRafael J. Wysocki if (device_may_wakeup(dev) 719d4f2d87aSRafael J. Wysocki && genpd->active_wakeup && genpd->active_wakeup(dev)) 720d4f2d87aSRafael J. Wysocki return 0; 721d4f2d87aSRafael J. Wysocki 722596ba34bSRafael J. Wysocki if (genpd->stop_device) 723596ba34bSRafael J. Wysocki genpd->stop_device(dev); 724596ba34bSRafael J. Wysocki 725596ba34bSRafael J. Wysocki /* 726596ba34bSRafael J. Wysocki * Since all of the "noirq" callbacks are executed sequentially, it is 727596ba34bSRafael J. Wysocki * guaranteed that this function will never run twice in parallel for 728596ba34bSRafael J. Wysocki * the same PM domain, so it is not necessary to use locking here. 729596ba34bSRafael J. Wysocki */ 730596ba34bSRafael J. Wysocki genpd->suspended_count++; 731596ba34bSRafael J. Wysocki pm_genpd_sync_poweroff(genpd); 732596ba34bSRafael J. Wysocki 733596ba34bSRafael J. Wysocki return 0; 734596ba34bSRafael J. Wysocki } 735596ba34bSRafael J. Wysocki 736596ba34bSRafael J. Wysocki /** 737596ba34bSRafael J. Wysocki * pm_genpd_resume_noirq - Early resume of a device from an I/O power domain. 738596ba34bSRafael J. Wysocki * @dev: Device to resume. 739596ba34bSRafael J. Wysocki * 740596ba34bSRafael J. Wysocki * Carry out an early resume of a device under the assumption that its 741596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 742596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a power domain consisting of I/O 743596ba34bSRafael J. Wysocki * devices. 744596ba34bSRafael J. Wysocki */ 745596ba34bSRafael J. Wysocki static int pm_genpd_resume_noirq(struct device *dev) 746596ba34bSRafael J. Wysocki { 747596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 748596ba34bSRafael J. Wysocki 749596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 750596ba34bSRafael J. Wysocki 751596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 752596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 753596ba34bSRafael J. Wysocki return -EINVAL; 754596ba34bSRafael J. Wysocki 755596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) 756596ba34bSRafael J. Wysocki return 0; 757596ba34bSRafael J. Wysocki 758596ba34bSRafael J. Wysocki /* 759596ba34bSRafael J. Wysocki * Since all of the "noirq" callbacks are executed sequentially, it is 760596ba34bSRafael J. Wysocki * guaranteed that this function will never run twice in parallel for 761596ba34bSRafael J. Wysocki * the same PM domain, so it is not necessary to use locking here. 762596ba34bSRafael J. Wysocki */ 763596ba34bSRafael J. Wysocki pm_genpd_poweron(genpd); 764596ba34bSRafael J. Wysocki genpd->suspended_count--; 765596ba34bSRafael J. Wysocki if (genpd->start_device) 766596ba34bSRafael J. Wysocki genpd->start_device(dev); 767596ba34bSRafael J. Wysocki 768596ba34bSRafael J. Wysocki return pm_generic_resume_noirq(dev); 769596ba34bSRafael J. Wysocki } 770596ba34bSRafael J. Wysocki 771596ba34bSRafael J. Wysocki /** 772596ba34bSRafael J. Wysocki * pm_genpd_resume - Resume a device belonging to an I/O power domain. 773596ba34bSRafael J. Wysocki * @dev: Device to resume. 774596ba34bSRafael J. Wysocki * 775596ba34bSRafael J. Wysocki * Resume a device under the assumption that its pm_domain field points to the 776596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 777596ba34bSRafael J. Wysocki * a power domain consisting of I/O devices. 778596ba34bSRafael J. Wysocki */ 779596ba34bSRafael J. Wysocki static int pm_genpd_resume(struct device *dev) 780596ba34bSRafael J. Wysocki { 781596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 782596ba34bSRafael J. Wysocki 783596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 784596ba34bSRafael J. Wysocki 785596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 786596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 787596ba34bSRafael J. Wysocki return -EINVAL; 788596ba34bSRafael J. Wysocki 789596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_resume(dev); 790596ba34bSRafael J. Wysocki } 791596ba34bSRafael J. Wysocki 792596ba34bSRafael J. Wysocki /** 793596ba34bSRafael J. Wysocki * pm_genpd_freeze - Freeze a device belonging to an I/O power domain. 794596ba34bSRafael J. Wysocki * @dev: Device to freeze. 795596ba34bSRafael J. Wysocki * 796596ba34bSRafael J. Wysocki * Freeze a device under the assumption that its pm_domain field points to the 797596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 798596ba34bSRafael J. Wysocki * a power domain consisting of I/O devices. 799596ba34bSRafael J. Wysocki */ 800596ba34bSRafael J. Wysocki static int pm_genpd_freeze(struct device *dev) 801596ba34bSRafael J. Wysocki { 802596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 803596ba34bSRafael J. Wysocki 804596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 805596ba34bSRafael J. Wysocki 806596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 807596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 808596ba34bSRafael J. Wysocki return -EINVAL; 809596ba34bSRafael J. Wysocki 810596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_freeze(dev); 811596ba34bSRafael J. Wysocki } 812596ba34bSRafael J. Wysocki 813596ba34bSRafael J. Wysocki /** 814596ba34bSRafael J. Wysocki * pm_genpd_freeze_noirq - Late freeze of a device from an I/O power domain. 815596ba34bSRafael J. Wysocki * @dev: Device to freeze. 816596ba34bSRafael J. Wysocki * 817596ba34bSRafael J. Wysocki * Carry out a late freeze of a device under the assumption that its 818596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 819596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a power domain consisting of I/O 820596ba34bSRafael J. Wysocki * devices. 821596ba34bSRafael J. Wysocki */ 822596ba34bSRafael J. Wysocki static int pm_genpd_freeze_noirq(struct device *dev) 823596ba34bSRafael J. Wysocki { 824596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 825596ba34bSRafael J. Wysocki int ret; 826596ba34bSRafael J. Wysocki 827596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 828596ba34bSRafael J. Wysocki 829596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 830596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 831596ba34bSRafael J. Wysocki return -EINVAL; 832596ba34bSRafael J. Wysocki 833596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) 834596ba34bSRafael J. Wysocki return 0; 835596ba34bSRafael J. Wysocki 836596ba34bSRafael J. Wysocki ret = pm_generic_freeze_noirq(dev); 837596ba34bSRafael J. Wysocki if (ret) 838596ba34bSRafael J. Wysocki return ret; 839596ba34bSRafael J. Wysocki 840596ba34bSRafael J. Wysocki if (genpd->stop_device) 841596ba34bSRafael J. Wysocki genpd->stop_device(dev); 842596ba34bSRafael J. Wysocki 843596ba34bSRafael J. Wysocki return 0; 844596ba34bSRafael J. Wysocki } 845596ba34bSRafael J. Wysocki 846596ba34bSRafael J. Wysocki /** 847596ba34bSRafael J. Wysocki * pm_genpd_thaw_noirq - Early thaw of a device from an I/O power domain. 848596ba34bSRafael J. Wysocki * @dev: Device to thaw. 849596ba34bSRafael J. Wysocki * 850596ba34bSRafael J. Wysocki * Carry out an early thaw of a device under the assumption that its 851596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 852596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a power domain consisting of I/O 853596ba34bSRafael J. Wysocki * devices. 854596ba34bSRafael J. Wysocki */ 855596ba34bSRafael J. Wysocki static int pm_genpd_thaw_noirq(struct device *dev) 856596ba34bSRafael J. Wysocki { 857596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 858596ba34bSRafael J. Wysocki 859596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 860596ba34bSRafael J. Wysocki 861596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 862596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 863596ba34bSRafael J. Wysocki return -EINVAL; 864596ba34bSRafael J. Wysocki 865596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) 866596ba34bSRafael J. Wysocki return 0; 867596ba34bSRafael J. Wysocki 868596ba34bSRafael J. Wysocki if (genpd->start_device) 869596ba34bSRafael J. Wysocki genpd->start_device(dev); 870596ba34bSRafael J. Wysocki 871596ba34bSRafael J. Wysocki return pm_generic_thaw_noirq(dev); 872596ba34bSRafael J. Wysocki } 873596ba34bSRafael J. Wysocki 874596ba34bSRafael J. Wysocki /** 875596ba34bSRafael J. Wysocki * pm_genpd_thaw - Thaw a device belonging to an I/O power domain. 876596ba34bSRafael J. Wysocki * @dev: Device to thaw. 877596ba34bSRafael J. Wysocki * 878596ba34bSRafael J. Wysocki * Thaw a device under the assumption that its pm_domain field points to the 879596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 880596ba34bSRafael J. Wysocki * a power domain consisting of I/O devices. 881596ba34bSRafael J. Wysocki */ 882596ba34bSRafael J. Wysocki static int pm_genpd_thaw(struct device *dev) 883596ba34bSRafael J. Wysocki { 884596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 885596ba34bSRafael J. Wysocki 886596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 887596ba34bSRafael J. Wysocki 888596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 889596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 890596ba34bSRafael J. Wysocki return -EINVAL; 891596ba34bSRafael J. Wysocki 892596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_thaw(dev); 893596ba34bSRafael J. Wysocki } 894596ba34bSRafael J. Wysocki 895596ba34bSRafael J. Wysocki /** 896596ba34bSRafael J. Wysocki * pm_genpd_dev_poweroff - Power off a device belonging to an I/O PM domain. 897596ba34bSRafael J. Wysocki * @dev: Device to suspend. 898596ba34bSRafael J. Wysocki * 899596ba34bSRafael J. Wysocki * Power off a device under the assumption that its pm_domain field points to 900596ba34bSRafael J. Wysocki * the domain member of an object of type struct generic_pm_domain representing 901596ba34bSRafael J. Wysocki * a PM domain consisting of I/O devices. 902596ba34bSRafael J. Wysocki */ 903596ba34bSRafael J. Wysocki static int pm_genpd_dev_poweroff(struct device *dev) 904596ba34bSRafael J. Wysocki { 905596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 906596ba34bSRafael J. Wysocki 907596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 908596ba34bSRafael J. Wysocki 909596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 910596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 911596ba34bSRafael J. Wysocki return -EINVAL; 912596ba34bSRafael J. Wysocki 913596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_poweroff(dev); 914596ba34bSRafael J. Wysocki } 915596ba34bSRafael J. Wysocki 916596ba34bSRafael J. Wysocki /** 917596ba34bSRafael J. Wysocki * pm_genpd_dev_poweroff_noirq - Late power off of a device from a PM domain. 918596ba34bSRafael J. Wysocki * @dev: Device to suspend. 919596ba34bSRafael J. Wysocki * 920596ba34bSRafael J. Wysocki * Carry out a late powering off of a device under the assumption that its 921596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 922596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a PM domain consisting of I/O devices. 923596ba34bSRafael J. Wysocki */ 924596ba34bSRafael J. Wysocki static int pm_genpd_dev_poweroff_noirq(struct device *dev) 925596ba34bSRafael J. Wysocki { 926596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 927596ba34bSRafael J. Wysocki int ret; 928596ba34bSRafael J. Wysocki 929596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 930596ba34bSRafael J. Wysocki 931596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 932596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 933596ba34bSRafael J. Wysocki return -EINVAL; 934596ba34bSRafael J. Wysocki 935596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) 936596ba34bSRafael J. Wysocki return 0; 937596ba34bSRafael J. Wysocki 938596ba34bSRafael J. Wysocki ret = pm_generic_poweroff_noirq(dev); 939596ba34bSRafael J. Wysocki if (ret) 940596ba34bSRafael J. Wysocki return ret; 941596ba34bSRafael J. Wysocki 942d4f2d87aSRafael J. Wysocki if (device_may_wakeup(dev) 943d4f2d87aSRafael J. Wysocki && genpd->active_wakeup && genpd->active_wakeup(dev)) 944d4f2d87aSRafael J. Wysocki return 0; 945d4f2d87aSRafael J. Wysocki 946596ba34bSRafael J. Wysocki if (genpd->stop_device) 947596ba34bSRafael J. Wysocki genpd->stop_device(dev); 948596ba34bSRafael J. Wysocki 949596ba34bSRafael J. Wysocki /* 950596ba34bSRafael J. Wysocki * Since all of the "noirq" callbacks are executed sequentially, it is 951596ba34bSRafael J. Wysocki * guaranteed that this function will never run twice in parallel for 952596ba34bSRafael J. Wysocki * the same PM domain, so it is not necessary to use locking here. 953596ba34bSRafael J. Wysocki */ 954596ba34bSRafael J. Wysocki genpd->suspended_count++; 955596ba34bSRafael J. Wysocki pm_genpd_sync_poweroff(genpd); 956596ba34bSRafael J. Wysocki 957596ba34bSRafael J. Wysocki return 0; 958596ba34bSRafael J. Wysocki } 959596ba34bSRafael J. Wysocki 960596ba34bSRafael J. Wysocki /** 961596ba34bSRafael J. Wysocki * pm_genpd_restore_noirq - Early restore of a device from an I/O power domain. 962596ba34bSRafael J. Wysocki * @dev: Device to resume. 963596ba34bSRafael J. Wysocki * 964596ba34bSRafael J. Wysocki * Carry out an early restore of a device under the assumption that its 965596ba34bSRafael J. Wysocki * pm_domain field points to the domain member of an object of type 966596ba34bSRafael J. Wysocki * struct generic_pm_domain representing a power domain consisting of I/O 967596ba34bSRafael J. Wysocki * devices. 968596ba34bSRafael J. Wysocki */ 969596ba34bSRafael J. Wysocki static int pm_genpd_restore_noirq(struct device *dev) 970596ba34bSRafael J. Wysocki { 971596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 972596ba34bSRafael J. Wysocki 973596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 974596ba34bSRafael J. Wysocki 975596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 976596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 977596ba34bSRafael J. Wysocki return -EINVAL; 978596ba34bSRafael J. Wysocki 979596ba34bSRafael J. Wysocki /* 980596ba34bSRafael J. Wysocki * Since all of the "noirq" callbacks are executed sequentially, it is 981596ba34bSRafael J. Wysocki * guaranteed that this function will never run twice in parallel for 982596ba34bSRafael J. Wysocki * the same PM domain, so it is not necessary to use locking here. 983596ba34bSRafael J. Wysocki */ 98417b75ecaSRafael J. Wysocki genpd->status = GPD_STATE_POWER_OFF; 985596ba34bSRafael J. Wysocki if (genpd->suspend_power_off) { 986596ba34bSRafael J. Wysocki /* 987596ba34bSRafael J. Wysocki * The boot kernel might put the domain into the power on state, 988596ba34bSRafael J. Wysocki * so make sure it really is powered off. 989596ba34bSRafael J. Wysocki */ 990596ba34bSRafael J. Wysocki if (genpd->power_off) 991596ba34bSRafael J. Wysocki genpd->power_off(genpd); 992596ba34bSRafael J. Wysocki return 0; 993596ba34bSRafael J. Wysocki } 994596ba34bSRafael J. Wysocki 995596ba34bSRafael J. Wysocki pm_genpd_poweron(genpd); 996596ba34bSRafael J. Wysocki genpd->suspended_count--; 997596ba34bSRafael J. Wysocki if (genpd->start_device) 998596ba34bSRafael J. Wysocki genpd->start_device(dev); 999596ba34bSRafael J. Wysocki 1000596ba34bSRafael J. Wysocki return pm_generic_restore_noirq(dev); 1001596ba34bSRafael J. Wysocki } 1002596ba34bSRafael J. Wysocki 1003596ba34bSRafael J. Wysocki /** 1004596ba34bSRafael J. Wysocki * pm_genpd_restore - Restore a device belonging to an I/O power domain. 1005596ba34bSRafael J. Wysocki * @dev: Device to resume. 1006596ba34bSRafael J. Wysocki * 1007596ba34bSRafael J. Wysocki * Restore a device under the assumption that its pm_domain field points to the 1008596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 1009596ba34bSRafael J. Wysocki * a power domain consisting of I/O devices. 1010596ba34bSRafael J. Wysocki */ 1011596ba34bSRafael J. Wysocki static int pm_genpd_restore(struct device *dev) 1012596ba34bSRafael J. Wysocki { 1013596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 1014596ba34bSRafael J. Wysocki 1015596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 1016596ba34bSRafael J. Wysocki 1017596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 1018596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 1019596ba34bSRafael J. Wysocki return -EINVAL; 1020596ba34bSRafael J. Wysocki 1021596ba34bSRafael J. Wysocki return genpd->suspend_power_off ? 0 : pm_generic_restore(dev); 1022596ba34bSRafael J. Wysocki } 1023596ba34bSRafael J. Wysocki 1024596ba34bSRafael J. Wysocki /** 1025596ba34bSRafael J. Wysocki * pm_genpd_complete - Complete power transition of a device in a power domain. 1026596ba34bSRafael J. Wysocki * @dev: Device to complete the transition of. 1027596ba34bSRafael J. Wysocki * 1028596ba34bSRafael J. Wysocki * Complete a power transition of a device (during a system-wide power 1029596ba34bSRafael J. Wysocki * transition) under the assumption that its pm_domain field points to the 1030596ba34bSRafael J. Wysocki * domain member of an object of type struct generic_pm_domain representing 1031596ba34bSRafael J. Wysocki * a power domain consisting of I/O devices. 1032596ba34bSRafael J. Wysocki */ 1033596ba34bSRafael J. Wysocki static void pm_genpd_complete(struct device *dev) 1034596ba34bSRafael J. Wysocki { 1035596ba34bSRafael J. Wysocki struct generic_pm_domain *genpd; 1036596ba34bSRafael J. Wysocki bool run_complete; 1037596ba34bSRafael J. Wysocki 1038596ba34bSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 1039596ba34bSRafael J. Wysocki 1040596ba34bSRafael J. Wysocki genpd = dev_to_genpd(dev); 1041596ba34bSRafael J. Wysocki if (IS_ERR(genpd)) 1042596ba34bSRafael J. Wysocki return; 1043596ba34bSRafael J. Wysocki 1044596ba34bSRafael J. Wysocki mutex_lock(&genpd->lock); 1045596ba34bSRafael J. Wysocki 1046596ba34bSRafael J. Wysocki run_complete = !genpd->suspend_power_off; 1047596ba34bSRafael J. Wysocki if (--genpd->prepared_count == 0) 1048596ba34bSRafael J. Wysocki genpd->suspend_power_off = false; 1049596ba34bSRafael J. Wysocki 1050596ba34bSRafael J. Wysocki mutex_unlock(&genpd->lock); 1051596ba34bSRafael J. Wysocki 1052596ba34bSRafael J. Wysocki if (run_complete) { 1053596ba34bSRafael J. Wysocki pm_generic_complete(dev); 10546f00ff78SRafael J. Wysocki pm_runtime_set_active(dev); 1055596ba34bSRafael J. Wysocki pm_runtime_enable(dev); 10566f00ff78SRafael J. Wysocki pm_runtime_idle(dev); 1057596ba34bSRafael J. Wysocki } 1058596ba34bSRafael J. Wysocki } 1059596ba34bSRafael J. Wysocki 1060596ba34bSRafael J. Wysocki #else 1061596ba34bSRafael J. Wysocki 1062596ba34bSRafael J. Wysocki #define pm_genpd_prepare NULL 1063596ba34bSRafael J. Wysocki #define pm_genpd_suspend NULL 1064596ba34bSRafael J. Wysocki #define pm_genpd_suspend_noirq NULL 1065596ba34bSRafael J. Wysocki #define pm_genpd_resume_noirq NULL 1066596ba34bSRafael J. Wysocki #define pm_genpd_resume NULL 1067596ba34bSRafael J. Wysocki #define pm_genpd_freeze NULL 1068596ba34bSRafael J. Wysocki #define pm_genpd_freeze_noirq NULL 1069596ba34bSRafael J. Wysocki #define pm_genpd_thaw_noirq NULL 1070596ba34bSRafael J. Wysocki #define pm_genpd_thaw NULL 1071596ba34bSRafael J. Wysocki #define pm_genpd_dev_poweroff_noirq NULL 1072596ba34bSRafael J. Wysocki #define pm_genpd_dev_poweroff NULL 1073596ba34bSRafael J. Wysocki #define pm_genpd_restore_noirq NULL 1074596ba34bSRafael J. Wysocki #define pm_genpd_restore NULL 1075596ba34bSRafael J. Wysocki #define pm_genpd_complete NULL 1076596ba34bSRafael J. Wysocki 1077596ba34bSRafael J. Wysocki #endif /* CONFIG_PM_SLEEP */ 1078596ba34bSRafael J. Wysocki 1079f721889fSRafael J. Wysocki /** 1080f721889fSRafael J. Wysocki * pm_genpd_add_device - Add a device to an I/O PM domain. 1081f721889fSRafael J. Wysocki * @genpd: PM domain to add the device to. 1082f721889fSRafael J. Wysocki * @dev: Device to be added. 1083f721889fSRafael J. Wysocki */ 1084f721889fSRafael J. Wysocki int pm_genpd_add_device(struct generic_pm_domain *genpd, struct device *dev) 1085f721889fSRafael J. Wysocki { 1086f721889fSRafael J. Wysocki struct dev_list_entry *dle; 1087f721889fSRafael J. Wysocki int ret = 0; 1088f721889fSRafael J. Wysocki 1089f721889fSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 1090f721889fSRafael J. Wysocki 1091f721889fSRafael J. Wysocki if (IS_ERR_OR_NULL(genpd) || IS_ERR_OR_NULL(dev)) 1092f721889fSRafael J. Wysocki return -EINVAL; 1093f721889fSRafael J. Wysocki 109417b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 1095f721889fSRafael J. Wysocki 109617b75ecaSRafael J. Wysocki if (genpd->status == GPD_STATE_POWER_OFF) { 1097f721889fSRafael J. Wysocki ret = -EINVAL; 1098f721889fSRafael J. Wysocki goto out; 1099f721889fSRafael J. Wysocki } 1100f721889fSRafael J. Wysocki 1101596ba34bSRafael J. Wysocki if (genpd->prepared_count > 0) { 1102596ba34bSRafael J. Wysocki ret = -EAGAIN; 1103596ba34bSRafael J. Wysocki goto out; 1104596ba34bSRafael J. Wysocki } 1105596ba34bSRafael J. Wysocki 1106f721889fSRafael J. Wysocki list_for_each_entry(dle, &genpd->dev_list, node) 1107f721889fSRafael J. Wysocki if (dle->dev == dev) { 1108f721889fSRafael J. Wysocki ret = -EINVAL; 1109f721889fSRafael J. Wysocki goto out; 1110f721889fSRafael J. Wysocki } 1111f721889fSRafael J. Wysocki 1112f721889fSRafael J. Wysocki dle = kzalloc(sizeof(*dle), GFP_KERNEL); 1113f721889fSRafael J. Wysocki if (!dle) { 1114f721889fSRafael J. Wysocki ret = -ENOMEM; 1115f721889fSRafael J. Wysocki goto out; 1116f721889fSRafael J. Wysocki } 1117f721889fSRafael J. Wysocki 1118f721889fSRafael J. Wysocki dle->dev = dev; 1119f721889fSRafael J. Wysocki dle->need_restore = false; 1120f721889fSRafael J. Wysocki list_add_tail(&dle->node, &genpd->dev_list); 1121596ba34bSRafael J. Wysocki genpd->device_count++; 1122f721889fSRafael J. Wysocki 1123f721889fSRafael J. Wysocki spin_lock_irq(&dev->power.lock); 1124f721889fSRafael J. Wysocki dev->pm_domain = &genpd->domain; 1125f721889fSRafael J. Wysocki spin_unlock_irq(&dev->power.lock); 1126f721889fSRafael J. Wysocki 1127f721889fSRafael J. Wysocki out: 112817b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 1129f721889fSRafael J. Wysocki 1130f721889fSRafael J. Wysocki return ret; 1131f721889fSRafael J. Wysocki } 1132f721889fSRafael J. Wysocki 1133f721889fSRafael J. Wysocki /** 1134f721889fSRafael J. Wysocki * pm_genpd_remove_device - Remove a device from an I/O PM domain. 1135f721889fSRafael J. Wysocki * @genpd: PM domain to remove the device from. 1136f721889fSRafael J. Wysocki * @dev: Device to be removed. 1137f721889fSRafael J. Wysocki */ 1138f721889fSRafael J. Wysocki int pm_genpd_remove_device(struct generic_pm_domain *genpd, 1139f721889fSRafael J. Wysocki struct device *dev) 1140f721889fSRafael J. Wysocki { 1141f721889fSRafael J. Wysocki struct dev_list_entry *dle; 1142f721889fSRafael J. Wysocki int ret = -EINVAL; 1143f721889fSRafael J. Wysocki 1144f721889fSRafael J. Wysocki dev_dbg(dev, "%s()\n", __func__); 1145f721889fSRafael J. Wysocki 1146f721889fSRafael J. Wysocki if (IS_ERR_OR_NULL(genpd) || IS_ERR_OR_NULL(dev)) 1147f721889fSRafael J. Wysocki return -EINVAL; 1148f721889fSRafael J. Wysocki 114917b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 1150f721889fSRafael J. Wysocki 1151596ba34bSRafael J. Wysocki if (genpd->prepared_count > 0) { 1152596ba34bSRafael J. Wysocki ret = -EAGAIN; 1153596ba34bSRafael J. Wysocki goto out; 1154596ba34bSRafael J. Wysocki } 1155596ba34bSRafael J. Wysocki 1156f721889fSRafael J. Wysocki list_for_each_entry(dle, &genpd->dev_list, node) { 1157f721889fSRafael J. Wysocki if (dle->dev != dev) 1158f721889fSRafael J. Wysocki continue; 1159f721889fSRafael J. Wysocki 1160f721889fSRafael J. Wysocki spin_lock_irq(&dev->power.lock); 1161f721889fSRafael J. Wysocki dev->pm_domain = NULL; 1162f721889fSRafael J. Wysocki spin_unlock_irq(&dev->power.lock); 1163f721889fSRafael J. Wysocki 1164596ba34bSRafael J. Wysocki genpd->device_count--; 1165f721889fSRafael J. Wysocki list_del(&dle->node); 1166f721889fSRafael J. Wysocki kfree(dle); 1167f721889fSRafael J. Wysocki 1168f721889fSRafael J. Wysocki ret = 0; 1169f721889fSRafael J. Wysocki break; 1170f721889fSRafael J. Wysocki } 1171f721889fSRafael J. Wysocki 1172596ba34bSRafael J. Wysocki out: 117317b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 1174f721889fSRafael J. Wysocki 1175f721889fSRafael J. Wysocki return ret; 1176f721889fSRafael J. Wysocki } 1177f721889fSRafael J. Wysocki 1178f721889fSRafael J. Wysocki /** 1179f721889fSRafael J. Wysocki * pm_genpd_add_subdomain - Add a subdomain to an I/O PM domain. 1180f721889fSRafael J. Wysocki * @genpd: Master PM domain to add the subdomain to. 1181f721889fSRafael J. Wysocki * @new_subdomain: Subdomain to be added. 1182f721889fSRafael J. Wysocki */ 1183f721889fSRafael J. Wysocki int pm_genpd_add_subdomain(struct generic_pm_domain *genpd, 1184f721889fSRafael J. Wysocki struct generic_pm_domain *new_subdomain) 1185f721889fSRafael J. Wysocki { 11865063ce15SRafael J. Wysocki struct gpd_link *link; 1187f721889fSRafael J. Wysocki int ret = 0; 1188f721889fSRafael J. Wysocki 1189f721889fSRafael J. Wysocki if (IS_ERR_OR_NULL(genpd) || IS_ERR_OR_NULL(new_subdomain)) 1190f721889fSRafael J. Wysocki return -EINVAL; 1191f721889fSRafael J. Wysocki 119217b75ecaSRafael J. Wysocki start: 119317b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 119417b75ecaSRafael J. Wysocki mutex_lock_nested(&new_subdomain->lock, SINGLE_DEPTH_NESTING); 1195f721889fSRafael J. Wysocki 119617b75ecaSRafael J. Wysocki if (new_subdomain->status != GPD_STATE_POWER_OFF 119717b75ecaSRafael J. Wysocki && new_subdomain->status != GPD_STATE_ACTIVE) { 119817b75ecaSRafael J. Wysocki mutex_unlock(&new_subdomain->lock); 119917b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 120017b75ecaSRafael J. Wysocki goto start; 120117b75ecaSRafael J. Wysocki } 120217b75ecaSRafael J. Wysocki 120317b75ecaSRafael J. Wysocki if (genpd->status == GPD_STATE_POWER_OFF 120417b75ecaSRafael J. Wysocki && new_subdomain->status != GPD_STATE_POWER_OFF) { 1205f721889fSRafael J. Wysocki ret = -EINVAL; 1206f721889fSRafael J. Wysocki goto out; 1207f721889fSRafael J. Wysocki } 1208f721889fSRafael J. Wysocki 12095063ce15SRafael J. Wysocki list_for_each_entry(link, &genpd->slave_links, slave_node) { 12105063ce15SRafael J. Wysocki if (link->slave == new_subdomain && link->master == genpd) { 1211f721889fSRafael J. Wysocki ret = -EINVAL; 1212f721889fSRafael J. Wysocki goto out; 1213f721889fSRafael J. Wysocki } 1214f721889fSRafael J. Wysocki } 1215f721889fSRafael J. Wysocki 12165063ce15SRafael J. Wysocki link = kzalloc(sizeof(*link), GFP_KERNEL); 12175063ce15SRafael J. Wysocki if (!link) { 12185063ce15SRafael J. Wysocki ret = -ENOMEM; 12195063ce15SRafael J. Wysocki goto out; 12205063ce15SRafael J. Wysocki } 12215063ce15SRafael J. Wysocki link->master = genpd; 12225063ce15SRafael J. Wysocki list_add_tail(&link->master_node, &genpd->master_links); 12235063ce15SRafael J. Wysocki link->slave = new_subdomain; 12245063ce15SRafael J. Wysocki list_add_tail(&link->slave_node, &new_subdomain->slave_links); 12255063ce15SRafael J. Wysocki if (new_subdomain->status != GPD_STATE_POWER_OFF) 1226c4bb3160SRafael J. Wysocki genpd_sd_counter_inc(genpd); 1227f721889fSRafael J. Wysocki 1228f721889fSRafael J. Wysocki out: 122917b75ecaSRafael J. Wysocki mutex_unlock(&new_subdomain->lock); 123017b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 1231f721889fSRafael J. Wysocki 1232f721889fSRafael J. Wysocki return ret; 1233f721889fSRafael J. Wysocki } 1234f721889fSRafael J. Wysocki 1235f721889fSRafael J. Wysocki /** 1236f721889fSRafael J. Wysocki * pm_genpd_remove_subdomain - Remove a subdomain from an I/O PM domain. 1237f721889fSRafael J. Wysocki * @genpd: Master PM domain to remove the subdomain from. 12385063ce15SRafael J. Wysocki * @subdomain: Subdomain to be removed. 1239f721889fSRafael J. Wysocki */ 1240f721889fSRafael J. Wysocki int pm_genpd_remove_subdomain(struct generic_pm_domain *genpd, 12415063ce15SRafael J. Wysocki struct generic_pm_domain *subdomain) 1242f721889fSRafael J. Wysocki { 12435063ce15SRafael J. Wysocki struct gpd_link *link; 1244f721889fSRafael J. Wysocki int ret = -EINVAL; 1245f721889fSRafael J. Wysocki 12465063ce15SRafael J. Wysocki if (IS_ERR_OR_NULL(genpd) || IS_ERR_OR_NULL(subdomain)) 1247f721889fSRafael J. Wysocki return -EINVAL; 1248f721889fSRafael J. Wysocki 124917b75ecaSRafael J. Wysocki start: 125017b75ecaSRafael J. Wysocki genpd_acquire_lock(genpd); 1251f721889fSRafael J. Wysocki 12525063ce15SRafael J. Wysocki list_for_each_entry(link, &genpd->master_links, master_node) { 12535063ce15SRafael J. Wysocki if (link->slave != subdomain) 1254f721889fSRafael J. Wysocki continue; 1255f721889fSRafael J. Wysocki 1256f721889fSRafael J. Wysocki mutex_lock_nested(&subdomain->lock, SINGLE_DEPTH_NESTING); 1257f721889fSRafael J. Wysocki 125817b75ecaSRafael J. Wysocki if (subdomain->status != GPD_STATE_POWER_OFF 125917b75ecaSRafael J. Wysocki && subdomain->status != GPD_STATE_ACTIVE) { 126017b75ecaSRafael J. Wysocki mutex_unlock(&subdomain->lock); 126117b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 126217b75ecaSRafael J. Wysocki goto start; 126317b75ecaSRafael J. Wysocki } 126417b75ecaSRafael J. Wysocki 12655063ce15SRafael J. Wysocki list_del(&link->master_node); 12665063ce15SRafael J. Wysocki list_del(&link->slave_node); 12675063ce15SRafael J. Wysocki kfree(link); 126817b75ecaSRafael J. Wysocki if (subdomain->status != GPD_STATE_POWER_OFF) 1269f721889fSRafael J. Wysocki genpd_sd_counter_dec(genpd); 1270f721889fSRafael J. Wysocki 1271f721889fSRafael J. Wysocki mutex_unlock(&subdomain->lock); 1272f721889fSRafael J. Wysocki 1273f721889fSRafael J. Wysocki ret = 0; 1274f721889fSRafael J. Wysocki break; 1275f721889fSRafael J. Wysocki } 1276f721889fSRafael J. Wysocki 127717b75ecaSRafael J. Wysocki genpd_release_lock(genpd); 1278f721889fSRafael J. Wysocki 1279f721889fSRafael J. Wysocki return ret; 1280f721889fSRafael J. Wysocki } 1281f721889fSRafael J. Wysocki 1282f721889fSRafael J. Wysocki /** 1283f721889fSRafael J. Wysocki * pm_genpd_init - Initialize a generic I/O PM domain object. 1284f721889fSRafael J. Wysocki * @genpd: PM domain object to initialize. 1285f721889fSRafael J. Wysocki * @gov: PM domain governor to associate with the domain (may be NULL). 1286f721889fSRafael J. Wysocki * @is_off: Initial value of the domain's power_is_off field. 1287f721889fSRafael J. Wysocki */ 1288f721889fSRafael J. Wysocki void pm_genpd_init(struct generic_pm_domain *genpd, 1289f721889fSRafael J. Wysocki struct dev_power_governor *gov, bool is_off) 1290f721889fSRafael J. Wysocki { 1291f721889fSRafael J. Wysocki if (IS_ERR_OR_NULL(genpd)) 1292f721889fSRafael J. Wysocki return; 1293f721889fSRafael J. Wysocki 12945063ce15SRafael J. Wysocki INIT_LIST_HEAD(&genpd->master_links); 12955063ce15SRafael J. Wysocki INIT_LIST_HEAD(&genpd->slave_links); 1296f721889fSRafael J. Wysocki INIT_LIST_HEAD(&genpd->dev_list); 1297f721889fSRafael J. Wysocki mutex_init(&genpd->lock); 1298f721889fSRafael J. Wysocki genpd->gov = gov; 1299f721889fSRafael J. Wysocki INIT_WORK(&genpd->power_off_work, genpd_power_off_work_fn); 1300f721889fSRafael J. Wysocki genpd->in_progress = 0; 1301c4bb3160SRafael J. Wysocki atomic_set(&genpd->sd_count, 0); 130217b75ecaSRafael J. Wysocki genpd->status = is_off ? GPD_STATE_POWER_OFF : GPD_STATE_ACTIVE; 130317b75ecaSRafael J. Wysocki init_waitqueue_head(&genpd->status_wait_queue); 1304c6d22b37SRafael J. Wysocki genpd->poweroff_task = NULL; 1305c6d22b37SRafael J. Wysocki genpd->resume_count = 0; 1306596ba34bSRafael J. Wysocki genpd->device_count = 0; 1307596ba34bSRafael J. Wysocki genpd->suspended_count = 0; 1308f721889fSRafael J. Wysocki genpd->domain.ops.runtime_suspend = pm_genpd_runtime_suspend; 1309f721889fSRafael J. Wysocki genpd->domain.ops.runtime_resume = pm_genpd_runtime_resume; 1310f721889fSRafael J. Wysocki genpd->domain.ops.runtime_idle = pm_generic_runtime_idle; 1311596ba34bSRafael J. Wysocki genpd->domain.ops.prepare = pm_genpd_prepare; 1312596ba34bSRafael J. Wysocki genpd->domain.ops.suspend = pm_genpd_suspend; 1313596ba34bSRafael J. Wysocki genpd->domain.ops.suspend_noirq = pm_genpd_suspend_noirq; 1314596ba34bSRafael J. Wysocki genpd->domain.ops.resume_noirq = pm_genpd_resume_noirq; 1315596ba34bSRafael J. Wysocki genpd->domain.ops.resume = pm_genpd_resume; 1316596ba34bSRafael J. Wysocki genpd->domain.ops.freeze = pm_genpd_freeze; 1317596ba34bSRafael J. Wysocki genpd->domain.ops.freeze_noirq = pm_genpd_freeze_noirq; 1318596ba34bSRafael J. Wysocki genpd->domain.ops.thaw_noirq = pm_genpd_thaw_noirq; 1319596ba34bSRafael J. Wysocki genpd->domain.ops.thaw = pm_genpd_thaw; 1320596ba34bSRafael J. Wysocki genpd->domain.ops.poweroff = pm_genpd_dev_poweroff; 1321596ba34bSRafael J. Wysocki genpd->domain.ops.poweroff_noirq = pm_genpd_dev_poweroff_noirq; 1322596ba34bSRafael J. Wysocki genpd->domain.ops.restore_noirq = pm_genpd_restore_noirq; 1323596ba34bSRafael J. Wysocki genpd->domain.ops.restore = pm_genpd_restore; 1324596ba34bSRafael J. Wysocki genpd->domain.ops.complete = pm_genpd_complete; 13255125bbf3SRafael J. Wysocki mutex_lock(&gpd_list_lock); 13265125bbf3SRafael J. Wysocki list_add(&genpd->gpd_list_node, &gpd_list); 13275125bbf3SRafael J. Wysocki mutex_unlock(&gpd_list_lock); 13285125bbf3SRafael J. Wysocki } 1329