17837699fSSheng Yang /* 27837699fSSheng Yang * 8253/8254 interval timer emulation 37837699fSSheng Yang * 47837699fSSheng Yang * Copyright (c) 2003-2004 Fabrice Bellard 57837699fSSheng Yang * Copyright (c) 2006 Intel Corporation 67837699fSSheng Yang * Copyright (c) 2007 Keir Fraser, XenSource Inc 77837699fSSheng Yang * Copyright (c) 2008 Intel Corporation 87837699fSSheng Yang * 97837699fSSheng Yang * Permission is hereby granted, free of charge, to any person obtaining a copy 107837699fSSheng Yang * of this software and associated documentation files (the "Software"), to deal 117837699fSSheng Yang * in the Software without restriction, including without limitation the rights 127837699fSSheng Yang * to use, copy, modify, merge, publish, distribute, sublicense, and/or sell 137837699fSSheng Yang * copies of the Software, and to permit persons to whom the Software is 147837699fSSheng Yang * furnished to do so, subject to the following conditions: 157837699fSSheng Yang * 167837699fSSheng Yang * The above copyright notice and this permission notice shall be included in 177837699fSSheng Yang * all copies or substantial portions of the Software. 187837699fSSheng Yang * 197837699fSSheng Yang * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR 207837699fSSheng Yang * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, 217837699fSSheng Yang * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL 227837699fSSheng Yang * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER 237837699fSSheng Yang * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, 247837699fSSheng Yang * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN 257837699fSSheng Yang * THE SOFTWARE. 267837699fSSheng Yang * 277837699fSSheng Yang * Authors: 287837699fSSheng Yang * Sheng Yang <sheng.yang@intel.com> 297837699fSSheng Yang * Based on QEMU and Xen. 307837699fSSheng Yang */ 317837699fSSheng Yang 327837699fSSheng Yang #include <linux/kvm_host.h> 337837699fSSheng Yang 347837699fSSheng Yang #include "irq.h" 357837699fSSheng Yang #include "i8254.h" 367837699fSSheng Yang 377837699fSSheng Yang #ifndef CONFIG_X86_64 386f6d6a1aSRoman Zippel #define mod_64(x, y) ((x) - (y) * div64_u64(x, y)) 397837699fSSheng Yang #else 407837699fSSheng Yang #define mod_64(x, y) ((x) % (y)) 417837699fSSheng Yang #endif 427837699fSSheng Yang 437837699fSSheng Yang #define RW_STATE_LSB 1 447837699fSSheng Yang #define RW_STATE_MSB 2 457837699fSSheng Yang #define RW_STATE_WORD0 3 467837699fSSheng Yang #define RW_STATE_WORD1 4 477837699fSSheng Yang 487837699fSSheng Yang /* Compute with 96 bit intermediate result: (a*b)/c */ 497837699fSSheng Yang static u64 muldiv64(u64 a, u32 b, u32 c) 507837699fSSheng Yang { 517837699fSSheng Yang union { 527837699fSSheng Yang u64 ll; 537837699fSSheng Yang struct { 547837699fSSheng Yang u32 low, high; 557837699fSSheng Yang } l; 567837699fSSheng Yang } u, res; 577837699fSSheng Yang u64 rl, rh; 587837699fSSheng Yang 597837699fSSheng Yang u.ll = a; 607837699fSSheng Yang rl = (u64)u.l.low * (u64)b; 617837699fSSheng Yang rh = (u64)u.l.high * (u64)b; 627837699fSSheng Yang rh += (rl >> 32); 636f6d6a1aSRoman Zippel res.l.high = div64_u64(rh, c); 646f6d6a1aSRoman Zippel res.l.low = div64_u64(((mod_64(rh, c) << 32) + (rl & 0xffffffff)), c); 657837699fSSheng Yang return res.ll; 667837699fSSheng Yang } 677837699fSSheng Yang 687837699fSSheng Yang static void pit_set_gate(struct kvm *kvm, int channel, u32 val) 697837699fSSheng Yang { 707837699fSSheng Yang struct kvm_kpit_channel_state *c = 717837699fSSheng Yang &kvm->arch.vpit->pit_state.channels[channel]; 727837699fSSheng Yang 737837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 747837699fSSheng Yang 757837699fSSheng Yang switch (c->mode) { 767837699fSSheng Yang default: 777837699fSSheng Yang case 0: 787837699fSSheng Yang case 4: 797837699fSSheng Yang /* XXX: just disable/enable counting */ 807837699fSSheng Yang break; 817837699fSSheng Yang case 1: 827837699fSSheng Yang case 2: 837837699fSSheng Yang case 3: 847837699fSSheng Yang case 5: 857837699fSSheng Yang /* Restart counting on rising edge. */ 867837699fSSheng Yang if (c->gate < val) 877837699fSSheng Yang c->count_load_time = ktime_get(); 887837699fSSheng Yang break; 897837699fSSheng Yang } 907837699fSSheng Yang 917837699fSSheng Yang c->gate = val; 927837699fSSheng Yang } 937837699fSSheng Yang 948b2cf73cSHarvey Harrison static int pit_get_gate(struct kvm *kvm, int channel) 957837699fSSheng Yang { 967837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 977837699fSSheng Yang 987837699fSSheng Yang return kvm->arch.vpit->pit_state.channels[channel].gate; 997837699fSSheng Yang } 1007837699fSSheng Yang 1017837699fSSheng Yang static int pit_get_count(struct kvm *kvm, int channel) 1027837699fSSheng Yang { 1037837699fSSheng Yang struct kvm_kpit_channel_state *c = 1047837699fSSheng Yang &kvm->arch.vpit->pit_state.channels[channel]; 1057837699fSSheng Yang s64 d, t; 1067837699fSSheng Yang int counter; 1077837699fSSheng Yang 1087837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 1097837699fSSheng Yang 1107837699fSSheng Yang t = ktime_to_ns(ktime_sub(ktime_get(), c->count_load_time)); 1117837699fSSheng Yang d = muldiv64(t, KVM_PIT_FREQ, NSEC_PER_SEC); 1127837699fSSheng Yang 1137837699fSSheng Yang switch (c->mode) { 1147837699fSSheng Yang case 0: 1157837699fSSheng Yang case 1: 1167837699fSSheng Yang case 4: 1177837699fSSheng Yang case 5: 1187837699fSSheng Yang counter = (c->count - d) & 0xffff; 1197837699fSSheng Yang break; 1207837699fSSheng Yang case 3: 1217837699fSSheng Yang /* XXX: may be incorrect for odd counts */ 1227837699fSSheng Yang counter = c->count - (mod_64((2 * d), c->count)); 1237837699fSSheng Yang break; 1247837699fSSheng Yang default: 1257837699fSSheng Yang counter = c->count - mod_64(d, c->count); 1267837699fSSheng Yang break; 1277837699fSSheng Yang } 1287837699fSSheng Yang return counter; 1297837699fSSheng Yang } 1307837699fSSheng Yang 1317837699fSSheng Yang static int pit_get_out(struct kvm *kvm, int channel) 1327837699fSSheng Yang { 1337837699fSSheng Yang struct kvm_kpit_channel_state *c = 1347837699fSSheng Yang &kvm->arch.vpit->pit_state.channels[channel]; 1357837699fSSheng Yang s64 d, t; 1367837699fSSheng Yang int out; 1377837699fSSheng Yang 1387837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 1397837699fSSheng Yang 1407837699fSSheng Yang t = ktime_to_ns(ktime_sub(ktime_get(), c->count_load_time)); 1417837699fSSheng Yang d = muldiv64(t, KVM_PIT_FREQ, NSEC_PER_SEC); 1427837699fSSheng Yang 1437837699fSSheng Yang switch (c->mode) { 1447837699fSSheng Yang default: 1457837699fSSheng Yang case 0: 1467837699fSSheng Yang out = (d >= c->count); 1477837699fSSheng Yang break; 1487837699fSSheng Yang case 1: 1497837699fSSheng Yang out = (d < c->count); 1507837699fSSheng Yang break; 1517837699fSSheng Yang case 2: 1527837699fSSheng Yang out = ((mod_64(d, c->count) == 0) && (d != 0)); 1537837699fSSheng Yang break; 1547837699fSSheng Yang case 3: 1557837699fSSheng Yang out = (mod_64(d, c->count) < ((c->count + 1) >> 1)); 1567837699fSSheng Yang break; 1577837699fSSheng Yang case 4: 1587837699fSSheng Yang case 5: 1597837699fSSheng Yang out = (d == c->count); 1607837699fSSheng Yang break; 1617837699fSSheng Yang } 1627837699fSSheng Yang 1637837699fSSheng Yang return out; 1647837699fSSheng Yang } 1657837699fSSheng Yang 1667837699fSSheng Yang static void pit_latch_count(struct kvm *kvm, int channel) 1677837699fSSheng Yang { 1687837699fSSheng Yang struct kvm_kpit_channel_state *c = 1697837699fSSheng Yang &kvm->arch.vpit->pit_state.channels[channel]; 1707837699fSSheng Yang 1717837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 1727837699fSSheng Yang 1737837699fSSheng Yang if (!c->count_latched) { 1747837699fSSheng Yang c->latched_count = pit_get_count(kvm, channel); 1757837699fSSheng Yang c->count_latched = c->rw_mode; 1767837699fSSheng Yang } 1777837699fSSheng Yang } 1787837699fSSheng Yang 1797837699fSSheng Yang static void pit_latch_status(struct kvm *kvm, int channel) 1807837699fSSheng Yang { 1817837699fSSheng Yang struct kvm_kpit_channel_state *c = 1827837699fSSheng Yang &kvm->arch.vpit->pit_state.channels[channel]; 1837837699fSSheng Yang 1847837699fSSheng Yang WARN_ON(!mutex_is_locked(&kvm->arch.vpit->pit_state.lock)); 1857837699fSSheng Yang 1867837699fSSheng Yang if (!c->status_latched) { 1877837699fSSheng Yang /* TODO: Return NULL COUNT (bit 6). */ 1887837699fSSheng Yang c->status = ((pit_get_out(kvm, channel) << 7) | 1897837699fSSheng Yang (c->rw_mode << 4) | 1907837699fSSheng Yang (c->mode << 1) | 1917837699fSSheng Yang c->bcd); 1927837699fSSheng Yang c->status_latched = 1; 1937837699fSSheng Yang } 1947837699fSSheng Yang } 1957837699fSSheng Yang 1968b2cf73cSHarvey Harrison static int __pit_timer_fn(struct kvm_kpit_state *ps) 1977837699fSSheng Yang { 1987837699fSSheng Yang struct kvm_vcpu *vcpu0 = ps->pit->kvm->vcpus[0]; 1997837699fSSheng Yang struct kvm_kpit_timer *pt = &ps->pit_timer; 2007837699fSSheng Yang 201622395a9SMarcelo Tosatti if (!atomic_inc_and_test(&pt->pending)) 20206e05645SMarcelo Tosatti set_bit(KVM_REQ_PENDING_TIMER, &vcpu0->requests); 203622395a9SMarcelo Tosatti if (vcpu0 && waitqueue_active(&vcpu0->wq)) { 204a4535290SAvi Kivity vcpu0->arch.mp_state = KVM_MP_STATE_RUNNABLE; 2057837699fSSheng Yang wake_up_interruptible(&vcpu0->wq); 2067837699fSSheng Yang } 2077837699fSSheng Yang 2087837699fSSheng Yang pt->timer.expires = ktime_add_ns(pt->timer.expires, pt->period); 2097837699fSSheng Yang pt->scheduled = ktime_to_ns(pt->timer.expires); 2103cf57fedSMarcelo Tosatti if (pt->period) 2113cf57fedSMarcelo Tosatti ps->channels[0].count_load_time = pt->timer.expires; 2127837699fSSheng Yang 2137837699fSSheng Yang return (pt->period == 0 ? 0 : 1); 2147837699fSSheng Yang } 2157837699fSSheng Yang 2163d80840dSMarcelo Tosatti int pit_has_pending_timer(struct kvm_vcpu *vcpu) 2173d80840dSMarcelo Tosatti { 2183d80840dSMarcelo Tosatti struct kvm_pit *pit = vcpu->kvm->arch.vpit; 2193d80840dSMarcelo Tosatti 2203cf57fedSMarcelo Tosatti if (pit && vcpu->vcpu_id == 0 && pit->pit_state.irq_ack) 2213d80840dSMarcelo Tosatti return atomic_read(&pit->pit_state.pit_timer.pending); 2223d80840dSMarcelo Tosatti return 0; 2233d80840dSMarcelo Tosatti } 2243d80840dSMarcelo Tosatti 225*ee032c99SHarvey Harrison static void kvm_pit_ack_irq(struct kvm_irq_ack_notifier *kian) 2263cf57fedSMarcelo Tosatti { 2273cf57fedSMarcelo Tosatti struct kvm_kpit_state *ps = container_of(kian, struct kvm_kpit_state, 2283cf57fedSMarcelo Tosatti irq_ack_notifier); 2293cf57fedSMarcelo Tosatti spin_lock(&ps->inject_lock); 2303cf57fedSMarcelo Tosatti if (atomic_dec_return(&ps->pit_timer.pending) < 0) 231dc7404ceSAvi Kivity atomic_inc(&ps->pit_timer.pending); 2323cf57fedSMarcelo Tosatti ps->irq_ack = 1; 2333cf57fedSMarcelo Tosatti spin_unlock(&ps->inject_lock); 2343cf57fedSMarcelo Tosatti } 2353cf57fedSMarcelo Tosatti 2367837699fSSheng Yang static enum hrtimer_restart pit_timer_fn(struct hrtimer *data) 2377837699fSSheng Yang { 2387837699fSSheng Yang struct kvm_kpit_state *ps; 2397837699fSSheng Yang int restart_timer = 0; 2407837699fSSheng Yang 2417837699fSSheng Yang ps = container_of(data, struct kvm_kpit_state, pit_timer.timer); 2427837699fSSheng Yang 2437837699fSSheng Yang restart_timer = __pit_timer_fn(ps); 2447837699fSSheng Yang 2457837699fSSheng Yang if (restart_timer) 2467837699fSSheng Yang return HRTIMER_RESTART; 2477837699fSSheng Yang else 2487837699fSSheng Yang return HRTIMER_NORESTART; 2497837699fSSheng Yang } 2507837699fSSheng Yang 2512f599714SMarcelo Tosatti void __kvm_migrate_pit_timer(struct kvm_vcpu *vcpu) 2522f599714SMarcelo Tosatti { 2532f599714SMarcelo Tosatti struct kvm_pit *pit = vcpu->kvm->arch.vpit; 2542f599714SMarcelo Tosatti struct hrtimer *timer; 2552f599714SMarcelo Tosatti 2562f599714SMarcelo Tosatti if (vcpu->vcpu_id != 0 || !pit) 2572f599714SMarcelo Tosatti return; 2582f599714SMarcelo Tosatti 2592f599714SMarcelo Tosatti timer = &pit->pit_state.pit_timer.timer; 2602f599714SMarcelo Tosatti if (hrtimer_cancel(timer)) 2612f599714SMarcelo Tosatti hrtimer_start(timer, timer->expires, HRTIMER_MODE_ABS); 2622f599714SMarcelo Tosatti } 2632f599714SMarcelo Tosatti 2647837699fSSheng Yang static void destroy_pit_timer(struct kvm_kpit_timer *pt) 2657837699fSSheng Yang { 2667837699fSSheng Yang pr_debug("pit: execute del timer!\n"); 2677837699fSSheng Yang hrtimer_cancel(&pt->timer); 2687837699fSSheng Yang } 2697837699fSSheng Yang 2703cf57fedSMarcelo Tosatti static void create_pit_timer(struct kvm_kpit_state *ps, u32 val, int is_period) 2717837699fSSheng Yang { 2723cf57fedSMarcelo Tosatti struct kvm_kpit_timer *pt = &ps->pit_timer; 2737837699fSSheng Yang s64 interval; 2747837699fSSheng Yang 2757837699fSSheng Yang interval = muldiv64(val, NSEC_PER_SEC, KVM_PIT_FREQ); 2767837699fSSheng Yang 2777837699fSSheng Yang pr_debug("pit: create pit timer, interval is %llu nsec\n", interval); 2787837699fSSheng Yang 2797837699fSSheng Yang /* TODO The new value only affected after the retriggered */ 2807837699fSSheng Yang hrtimer_cancel(&pt->timer); 2817837699fSSheng Yang pt->period = (is_period == 0) ? 0 : interval; 2827837699fSSheng Yang pt->timer.function = pit_timer_fn; 2837837699fSSheng Yang atomic_set(&pt->pending, 0); 2843cf57fedSMarcelo Tosatti ps->irq_ack = 1; 2857837699fSSheng Yang 2867837699fSSheng Yang hrtimer_start(&pt->timer, ktime_add_ns(ktime_get(), interval), 2877837699fSSheng Yang HRTIMER_MODE_ABS); 2887837699fSSheng Yang } 2897837699fSSheng Yang 2907837699fSSheng Yang static void pit_load_count(struct kvm *kvm, int channel, u32 val) 2917837699fSSheng Yang { 2927837699fSSheng Yang struct kvm_kpit_state *ps = &kvm->arch.vpit->pit_state; 2937837699fSSheng Yang 2947837699fSSheng Yang WARN_ON(!mutex_is_locked(&ps->lock)); 2957837699fSSheng Yang 2967837699fSSheng Yang pr_debug("pit: load_count val is %d, channel is %d\n", val, channel); 2977837699fSSheng Yang 2987837699fSSheng Yang /* 2997837699fSSheng Yang * Though spec said the state of 8254 is undefined after power-up, 3007837699fSSheng Yang * seems some tricky OS like Windows XP depends on IRQ0 interrupt 3017837699fSSheng Yang * when booting up. 3027837699fSSheng Yang * So here setting initialize rate for it, and not a specific number 3037837699fSSheng Yang */ 3047837699fSSheng Yang if (val == 0) 3057837699fSSheng Yang val = 0x10000; 3067837699fSSheng Yang 3077837699fSSheng Yang ps->channels[channel].count_load_time = ktime_get(); 3087837699fSSheng Yang ps->channels[channel].count = val; 3097837699fSSheng Yang 3107837699fSSheng Yang if (channel != 0) 3117837699fSSheng Yang return; 3127837699fSSheng Yang 3137837699fSSheng Yang /* Two types of timer 3147837699fSSheng Yang * mode 1 is one shot, mode 2 is period, otherwise del timer */ 3157837699fSSheng Yang switch (ps->channels[0].mode) { 3167837699fSSheng Yang case 1: 317ece15babSMarcelo Tosatti /* FIXME: enhance mode 4 precision */ 318ece15babSMarcelo Tosatti case 4: 3193cf57fedSMarcelo Tosatti create_pit_timer(ps, val, 0); 3207837699fSSheng Yang break; 3217837699fSSheng Yang case 2: 322f6975545SAurelien Jarno case 3: 3233cf57fedSMarcelo Tosatti create_pit_timer(ps, val, 1); 3247837699fSSheng Yang break; 3257837699fSSheng Yang default: 3267837699fSSheng Yang destroy_pit_timer(&ps->pit_timer); 3277837699fSSheng Yang } 3287837699fSSheng Yang } 3297837699fSSheng Yang 330e0f63cb9SSheng Yang void kvm_pit_load_count(struct kvm *kvm, int channel, u32 val) 331e0f63cb9SSheng Yang { 332e0f63cb9SSheng Yang mutex_lock(&kvm->arch.vpit->pit_state.lock); 333e0f63cb9SSheng Yang pit_load_count(kvm, channel, val); 334e0f63cb9SSheng Yang mutex_unlock(&kvm->arch.vpit->pit_state.lock); 335e0f63cb9SSheng Yang } 336e0f63cb9SSheng Yang 3377837699fSSheng Yang static void pit_ioport_write(struct kvm_io_device *this, 3387837699fSSheng Yang gpa_t addr, int len, const void *data) 3397837699fSSheng Yang { 3407837699fSSheng Yang struct kvm_pit *pit = (struct kvm_pit *)this->private; 3417837699fSSheng Yang struct kvm_kpit_state *pit_state = &pit->pit_state; 3427837699fSSheng Yang struct kvm *kvm = pit->kvm; 3437837699fSSheng Yang int channel, access; 3447837699fSSheng Yang struct kvm_kpit_channel_state *s; 3457837699fSSheng Yang u32 val = *(u32 *) data; 3467837699fSSheng Yang 3477837699fSSheng Yang val &= 0xff; 3487837699fSSheng Yang addr &= KVM_PIT_CHANNEL_MASK; 3497837699fSSheng Yang 3507837699fSSheng Yang mutex_lock(&pit_state->lock); 3517837699fSSheng Yang 3527837699fSSheng Yang if (val != 0) 3537837699fSSheng Yang pr_debug("pit: write addr is 0x%x, len is %d, val is 0x%x\n", 3547837699fSSheng Yang (unsigned int)addr, len, val); 3557837699fSSheng Yang 3567837699fSSheng Yang if (addr == 3) { 3577837699fSSheng Yang channel = val >> 6; 3587837699fSSheng Yang if (channel == 3) { 3597837699fSSheng Yang /* Read-Back Command. */ 3607837699fSSheng Yang for (channel = 0; channel < 3; channel++) { 3617837699fSSheng Yang s = &pit_state->channels[channel]; 3627837699fSSheng Yang if (val & (2 << channel)) { 3637837699fSSheng Yang if (!(val & 0x20)) 3647837699fSSheng Yang pit_latch_count(kvm, channel); 3657837699fSSheng Yang if (!(val & 0x10)) 3667837699fSSheng Yang pit_latch_status(kvm, channel); 3677837699fSSheng Yang } 3687837699fSSheng Yang } 3697837699fSSheng Yang } else { 3707837699fSSheng Yang /* Select Counter <channel>. */ 3717837699fSSheng Yang s = &pit_state->channels[channel]; 3727837699fSSheng Yang access = (val >> 4) & KVM_PIT_CHANNEL_MASK; 3737837699fSSheng Yang if (access == 0) { 3747837699fSSheng Yang pit_latch_count(kvm, channel); 3757837699fSSheng Yang } else { 3767837699fSSheng Yang s->rw_mode = access; 3777837699fSSheng Yang s->read_state = access; 3787837699fSSheng Yang s->write_state = access; 3797837699fSSheng Yang s->mode = (val >> 1) & 7; 3807837699fSSheng Yang if (s->mode > 5) 3817837699fSSheng Yang s->mode -= 4; 3827837699fSSheng Yang s->bcd = val & 1; 3837837699fSSheng Yang } 3847837699fSSheng Yang } 3857837699fSSheng Yang } else { 3867837699fSSheng Yang /* Write Count. */ 3877837699fSSheng Yang s = &pit_state->channels[addr]; 3887837699fSSheng Yang switch (s->write_state) { 3897837699fSSheng Yang default: 3907837699fSSheng Yang case RW_STATE_LSB: 3917837699fSSheng Yang pit_load_count(kvm, addr, val); 3927837699fSSheng Yang break; 3937837699fSSheng Yang case RW_STATE_MSB: 3947837699fSSheng Yang pit_load_count(kvm, addr, val << 8); 3957837699fSSheng Yang break; 3967837699fSSheng Yang case RW_STATE_WORD0: 3977837699fSSheng Yang s->write_latch = val; 3987837699fSSheng Yang s->write_state = RW_STATE_WORD1; 3997837699fSSheng Yang break; 4007837699fSSheng Yang case RW_STATE_WORD1: 4017837699fSSheng Yang pit_load_count(kvm, addr, s->write_latch | (val << 8)); 4027837699fSSheng Yang s->write_state = RW_STATE_WORD0; 4037837699fSSheng Yang break; 4047837699fSSheng Yang } 4057837699fSSheng Yang } 4067837699fSSheng Yang 4077837699fSSheng Yang mutex_unlock(&pit_state->lock); 4087837699fSSheng Yang } 4097837699fSSheng Yang 4107837699fSSheng Yang static void pit_ioport_read(struct kvm_io_device *this, 4117837699fSSheng Yang gpa_t addr, int len, void *data) 4127837699fSSheng Yang { 4137837699fSSheng Yang struct kvm_pit *pit = (struct kvm_pit *)this->private; 4147837699fSSheng Yang struct kvm_kpit_state *pit_state = &pit->pit_state; 4157837699fSSheng Yang struct kvm *kvm = pit->kvm; 4167837699fSSheng Yang int ret, count; 4177837699fSSheng Yang struct kvm_kpit_channel_state *s; 4187837699fSSheng Yang 4197837699fSSheng Yang addr &= KVM_PIT_CHANNEL_MASK; 4207837699fSSheng Yang s = &pit_state->channels[addr]; 4217837699fSSheng Yang 4227837699fSSheng Yang mutex_lock(&pit_state->lock); 4237837699fSSheng Yang 4247837699fSSheng Yang if (s->status_latched) { 4257837699fSSheng Yang s->status_latched = 0; 4267837699fSSheng Yang ret = s->status; 4277837699fSSheng Yang } else if (s->count_latched) { 4287837699fSSheng Yang switch (s->count_latched) { 4297837699fSSheng Yang default: 4307837699fSSheng Yang case RW_STATE_LSB: 4317837699fSSheng Yang ret = s->latched_count & 0xff; 4327837699fSSheng Yang s->count_latched = 0; 4337837699fSSheng Yang break; 4347837699fSSheng Yang case RW_STATE_MSB: 4357837699fSSheng Yang ret = s->latched_count >> 8; 4367837699fSSheng Yang s->count_latched = 0; 4377837699fSSheng Yang break; 4387837699fSSheng Yang case RW_STATE_WORD0: 4397837699fSSheng Yang ret = s->latched_count & 0xff; 4407837699fSSheng Yang s->count_latched = RW_STATE_MSB; 4417837699fSSheng Yang break; 4427837699fSSheng Yang } 4437837699fSSheng Yang } else { 4447837699fSSheng Yang switch (s->read_state) { 4457837699fSSheng Yang default: 4467837699fSSheng Yang case RW_STATE_LSB: 4477837699fSSheng Yang count = pit_get_count(kvm, addr); 4487837699fSSheng Yang ret = count & 0xff; 4497837699fSSheng Yang break; 4507837699fSSheng Yang case RW_STATE_MSB: 4517837699fSSheng Yang count = pit_get_count(kvm, addr); 4527837699fSSheng Yang ret = (count >> 8) & 0xff; 4537837699fSSheng Yang break; 4547837699fSSheng Yang case RW_STATE_WORD0: 4557837699fSSheng Yang count = pit_get_count(kvm, addr); 4567837699fSSheng Yang ret = count & 0xff; 4577837699fSSheng Yang s->read_state = RW_STATE_WORD1; 4587837699fSSheng Yang break; 4597837699fSSheng Yang case RW_STATE_WORD1: 4607837699fSSheng Yang count = pit_get_count(kvm, addr); 4617837699fSSheng Yang ret = (count >> 8) & 0xff; 4627837699fSSheng Yang s->read_state = RW_STATE_WORD0; 4637837699fSSheng Yang break; 4647837699fSSheng Yang } 4657837699fSSheng Yang } 4667837699fSSheng Yang 4677837699fSSheng Yang if (len > sizeof(ret)) 4687837699fSSheng Yang len = sizeof(ret); 4697837699fSSheng Yang memcpy(data, (char *)&ret, len); 4707837699fSSheng Yang 4717837699fSSheng Yang mutex_unlock(&pit_state->lock); 4727837699fSSheng Yang } 4737837699fSSheng Yang 47492760499SLaurent Vivier static int pit_in_range(struct kvm_io_device *this, gpa_t addr, 47592760499SLaurent Vivier int len, int is_write) 4767837699fSSheng Yang { 4777837699fSSheng Yang return ((addr >= KVM_PIT_BASE_ADDRESS) && 4787837699fSSheng Yang (addr < KVM_PIT_BASE_ADDRESS + KVM_PIT_MEM_LENGTH)); 4797837699fSSheng Yang } 4807837699fSSheng Yang 4817837699fSSheng Yang static void speaker_ioport_write(struct kvm_io_device *this, 4827837699fSSheng Yang gpa_t addr, int len, const void *data) 4837837699fSSheng Yang { 4847837699fSSheng Yang struct kvm_pit *pit = (struct kvm_pit *)this->private; 4857837699fSSheng Yang struct kvm_kpit_state *pit_state = &pit->pit_state; 4867837699fSSheng Yang struct kvm *kvm = pit->kvm; 4877837699fSSheng Yang u32 val = *(u32 *) data; 4887837699fSSheng Yang 4897837699fSSheng Yang mutex_lock(&pit_state->lock); 4907837699fSSheng Yang pit_state->speaker_data_on = (val >> 1) & 1; 4917837699fSSheng Yang pit_set_gate(kvm, 2, val & 1); 4927837699fSSheng Yang mutex_unlock(&pit_state->lock); 4937837699fSSheng Yang } 4947837699fSSheng Yang 4957837699fSSheng Yang static void speaker_ioport_read(struct kvm_io_device *this, 4967837699fSSheng Yang gpa_t addr, int len, void *data) 4977837699fSSheng Yang { 4987837699fSSheng Yang struct kvm_pit *pit = (struct kvm_pit *)this->private; 4997837699fSSheng Yang struct kvm_kpit_state *pit_state = &pit->pit_state; 5007837699fSSheng Yang struct kvm *kvm = pit->kvm; 5017837699fSSheng Yang unsigned int refresh_clock; 5027837699fSSheng Yang int ret; 5037837699fSSheng Yang 5047837699fSSheng Yang /* Refresh clock toggles at about 15us. We approximate as 2^14ns. */ 5057837699fSSheng Yang refresh_clock = ((unsigned int)ktime_to_ns(ktime_get()) >> 14) & 1; 5067837699fSSheng Yang 5077837699fSSheng Yang mutex_lock(&pit_state->lock); 5087837699fSSheng Yang ret = ((pit_state->speaker_data_on << 1) | pit_get_gate(kvm, 2) | 5097837699fSSheng Yang (pit_get_out(kvm, 2) << 5) | (refresh_clock << 4)); 5107837699fSSheng Yang if (len > sizeof(ret)) 5117837699fSSheng Yang len = sizeof(ret); 5127837699fSSheng Yang memcpy(data, (char *)&ret, len); 5137837699fSSheng Yang mutex_unlock(&pit_state->lock); 5147837699fSSheng Yang } 5157837699fSSheng Yang 51692760499SLaurent Vivier static int speaker_in_range(struct kvm_io_device *this, gpa_t addr, 51792760499SLaurent Vivier int len, int is_write) 5187837699fSSheng Yang { 5197837699fSSheng Yang return (addr == KVM_SPEAKER_BASE_ADDRESS); 5207837699fSSheng Yang } 5217837699fSSheng Yang 522308b0f23SSheng Yang void kvm_pit_reset(struct kvm_pit *pit) 5237837699fSSheng Yang { 5247837699fSSheng Yang int i; 525308b0f23SSheng Yang struct kvm_kpit_channel_state *c; 526308b0f23SSheng Yang 527308b0f23SSheng Yang mutex_lock(&pit->pit_state.lock); 528308b0f23SSheng Yang for (i = 0; i < 3; i++) { 529308b0f23SSheng Yang c = &pit->pit_state.channels[i]; 530308b0f23SSheng Yang c->mode = 0xff; 531308b0f23SSheng Yang c->gate = (i != 2); 532308b0f23SSheng Yang pit_load_count(pit->kvm, i, 0); 533308b0f23SSheng Yang } 534308b0f23SSheng Yang mutex_unlock(&pit->pit_state.lock); 535308b0f23SSheng Yang 536308b0f23SSheng Yang atomic_set(&pit->pit_state.pit_timer.pending, 0); 5373cf57fedSMarcelo Tosatti pit->pit_state.irq_ack = 1; 538308b0f23SSheng Yang } 539308b0f23SSheng Yang 540308b0f23SSheng Yang struct kvm_pit *kvm_create_pit(struct kvm *kvm) 541308b0f23SSheng Yang { 5427837699fSSheng Yang struct kvm_pit *pit; 5437837699fSSheng Yang struct kvm_kpit_state *pit_state; 5447837699fSSheng Yang 5457837699fSSheng Yang pit = kzalloc(sizeof(struct kvm_pit), GFP_KERNEL); 5467837699fSSheng Yang if (!pit) 5477837699fSSheng Yang return NULL; 5487837699fSSheng Yang 5497837699fSSheng Yang mutex_init(&pit->pit_state.lock); 5507837699fSSheng Yang mutex_lock(&pit->pit_state.lock); 5513cf57fedSMarcelo Tosatti spin_lock_init(&pit->pit_state.inject_lock); 5527837699fSSheng Yang 5537837699fSSheng Yang /* Initialize PIO device */ 5547837699fSSheng Yang pit->dev.read = pit_ioport_read; 5557837699fSSheng Yang pit->dev.write = pit_ioport_write; 5567837699fSSheng Yang pit->dev.in_range = pit_in_range; 5577837699fSSheng Yang pit->dev.private = pit; 5587837699fSSheng Yang kvm_io_bus_register_dev(&kvm->pio_bus, &pit->dev); 5597837699fSSheng Yang 5607837699fSSheng Yang pit->speaker_dev.read = speaker_ioport_read; 5617837699fSSheng Yang pit->speaker_dev.write = speaker_ioport_write; 5627837699fSSheng Yang pit->speaker_dev.in_range = speaker_in_range; 5637837699fSSheng Yang pit->speaker_dev.private = pit; 5647837699fSSheng Yang kvm_io_bus_register_dev(&kvm->pio_bus, &pit->speaker_dev); 5657837699fSSheng Yang 5667837699fSSheng Yang kvm->arch.vpit = pit; 5677837699fSSheng Yang pit->kvm = kvm; 5687837699fSSheng Yang 5697837699fSSheng Yang pit_state = &pit->pit_state; 5707837699fSSheng Yang pit_state->pit = pit; 5717837699fSSheng Yang hrtimer_init(&pit_state->pit_timer.timer, 5727837699fSSheng Yang CLOCK_MONOTONIC, HRTIMER_MODE_ABS); 5733cf57fedSMarcelo Tosatti pit_state->irq_ack_notifier.gsi = 0; 5743cf57fedSMarcelo Tosatti pit_state->irq_ack_notifier.irq_acked = kvm_pit_ack_irq; 5753cf57fedSMarcelo Tosatti kvm_register_irq_ack_notifier(kvm, &pit_state->irq_ack_notifier); 5767837699fSSheng Yang mutex_unlock(&pit->pit_state.lock); 5777837699fSSheng Yang 578308b0f23SSheng Yang kvm_pit_reset(pit); 5797837699fSSheng Yang 5807837699fSSheng Yang return pit; 5817837699fSSheng Yang } 5827837699fSSheng Yang 5837837699fSSheng Yang void kvm_free_pit(struct kvm *kvm) 5847837699fSSheng Yang { 5857837699fSSheng Yang struct hrtimer *timer; 5867837699fSSheng Yang 5877837699fSSheng Yang if (kvm->arch.vpit) { 5887837699fSSheng Yang mutex_lock(&kvm->arch.vpit->pit_state.lock); 5897837699fSSheng Yang timer = &kvm->arch.vpit->pit_state.pit_timer.timer; 5907837699fSSheng Yang hrtimer_cancel(timer); 5917837699fSSheng Yang mutex_unlock(&kvm->arch.vpit->pit_state.lock); 5927837699fSSheng Yang kfree(kvm->arch.vpit); 5937837699fSSheng Yang } 5947837699fSSheng Yang } 5957837699fSSheng Yang 5968b2cf73cSHarvey Harrison static void __inject_pit_timer_intr(struct kvm *kvm) 5977837699fSSheng Yang { 5987837699fSSheng Yang mutex_lock(&kvm->lock); 59929c8fa32SAmit Shah kvm_set_irq(kvm, 0, 1); 60029c8fa32SAmit Shah kvm_set_irq(kvm, 0, 0); 6017837699fSSheng Yang mutex_unlock(&kvm->lock); 6027837699fSSheng Yang } 6037837699fSSheng Yang 6047837699fSSheng Yang void kvm_inject_pit_timer_irqs(struct kvm_vcpu *vcpu) 6057837699fSSheng Yang { 6067837699fSSheng Yang struct kvm_pit *pit = vcpu->kvm->arch.vpit; 6077837699fSSheng Yang struct kvm *kvm = vcpu->kvm; 6087837699fSSheng Yang struct kvm_kpit_state *ps; 6097837699fSSheng Yang 6107837699fSSheng Yang if (vcpu && pit) { 6113cf57fedSMarcelo Tosatti int inject = 0; 6127837699fSSheng Yang ps = &pit->pit_state; 6137837699fSSheng Yang 6143cf57fedSMarcelo Tosatti /* Try to inject pending interrupts when 6153cf57fedSMarcelo Tosatti * last one has been acked. 6163cf57fedSMarcelo Tosatti */ 6173cf57fedSMarcelo Tosatti spin_lock(&ps->inject_lock); 6183cf57fedSMarcelo Tosatti if (atomic_read(&ps->pit_timer.pending) && ps->irq_ack) { 6193cf57fedSMarcelo Tosatti ps->irq_ack = 0; 6203cf57fedSMarcelo Tosatti inject = 1; 6213cf57fedSMarcelo Tosatti } 6223cf57fedSMarcelo Tosatti spin_unlock(&ps->inject_lock); 6233cf57fedSMarcelo Tosatti if (inject) 6247837699fSSheng Yang __inject_pit_timer_intr(kvm); 6257837699fSSheng Yang } 6267837699fSSheng Yang } 627