xref: /openbmc/qemu/hw/intc/pnv_xive2.c (revision b71a3f67bcf1d24b6829d22f726dd9b7d31dfb15)
1da71b7e3SCédric Le Goater /*
2da71b7e3SCédric Le Goater  * QEMU PowerPC XIVE2 interrupt controller model  (POWER10)
3da71b7e3SCédric Le Goater  *
4da71b7e3SCédric Le Goater  * Copyright (c) 2019-2022, IBM Corporation.
5da71b7e3SCédric Le Goater  *
6da71b7e3SCédric Le Goater  * This code is licensed under the GPL version 2 or later. See the
7da71b7e3SCédric Le Goater  * COPYING file in the top-level directory.
8da71b7e3SCédric Le Goater  */
9da71b7e3SCédric Le Goater 
10da71b7e3SCédric Le Goater #include "qemu/osdep.h"
11da71b7e3SCédric Le Goater #include "qemu/log.h"
12da71b7e3SCédric Le Goater #include "qapi/error.h"
13*b71a3f67SPhilippe Mathieu-Daudé #include "qapi/type-helpers.h"
14da71b7e3SCédric Le Goater #include "target/ppc/cpu.h"
15da71b7e3SCédric Le Goater #include "sysemu/cpus.h"
16da71b7e3SCédric Le Goater #include "sysemu/dma.h"
17da71b7e3SCédric Le Goater #include "monitor/monitor.h"
18da71b7e3SCédric Le Goater #include "hw/ppc/fdt.h"
19da71b7e3SCédric Le Goater #include "hw/ppc/pnv.h"
202c6fe2e2SMarkus Armbruster #include "hw/ppc/pnv_chip.h"
21da71b7e3SCédric Le Goater #include "hw/ppc/pnv_core.h"
22da71b7e3SCédric Le Goater #include "hw/ppc/pnv_xscom.h"
23da71b7e3SCédric Le Goater #include "hw/ppc/xive2.h"
24da71b7e3SCédric Le Goater #include "hw/ppc/pnv_xive.h"
25da71b7e3SCédric Le Goater #include "hw/ppc/xive_regs.h"
26da71b7e3SCédric Le Goater #include "hw/ppc/xive2_regs.h"
27da71b7e3SCédric Le Goater #include "hw/ppc/ppc.h"
28da71b7e3SCédric Le Goater #include "hw/qdev-properties.h"
29da71b7e3SCédric Le Goater #include "sysemu/reset.h"
30da71b7e3SCédric Le Goater 
31da71b7e3SCédric Le Goater #include <libfdt.h>
32da71b7e3SCédric Le Goater 
33da71b7e3SCédric Le Goater #include "pnv_xive2_regs.h"
34da71b7e3SCédric Le Goater 
35da71b7e3SCédric Le Goater #undef XIVE2_DEBUG
36da71b7e3SCédric Le Goater 
37da71b7e3SCédric Le Goater /*
38da71b7e3SCédric Le Goater  * Virtual structures table (VST)
39da71b7e3SCédric Le Goater  */
40da71b7e3SCédric Le Goater #define SBE_PER_BYTE   4
41da71b7e3SCédric Le Goater 
42da71b7e3SCédric Le Goater typedef struct XiveVstInfo {
43da71b7e3SCédric Le Goater     const char *name;
44da71b7e3SCédric Le Goater     uint32_t    size;
45da71b7e3SCédric Le Goater     uint32_t    max_blocks;
46da71b7e3SCédric Le Goater } XiveVstInfo;
47da71b7e3SCédric Le Goater 
48da71b7e3SCédric Le Goater static const XiveVstInfo vst_infos[] = {
49da71b7e3SCédric Le Goater 
50da71b7e3SCédric Le Goater     [VST_EAS]  = { "EAT",  sizeof(Xive2Eas),  16 },
51da71b7e3SCédric Le Goater     [VST_ESB]  = { "ESB",  1,                  16 },
52da71b7e3SCédric Le Goater     [VST_END]  = { "ENDT", sizeof(Xive2End),  16 },
53da71b7e3SCédric Le Goater 
54da71b7e3SCédric Le Goater     [VST_NVP]  = { "NVPT", sizeof(Xive2Nvp),  16 },
55da71b7e3SCédric Le Goater     [VST_NVG]  = { "NVGT", sizeof(Xive2Nvgc), 16 },
56da71b7e3SCédric Le Goater     [VST_NVC]  = { "NVCT", sizeof(Xive2Nvgc), 16 },
57da71b7e3SCédric Le Goater 
58da71b7e3SCédric Le Goater     [VST_IC]  =  { "IC",   1 /* ? */         , 16 }, /* Topology # */
59da71b7e3SCédric Le Goater     [VST_SYNC] = { "SYNC", 1 /* ? */         , 16 }, /* Topology # */
60da71b7e3SCédric Le Goater 
61da71b7e3SCédric Le Goater     /*
62da71b7e3SCédric Le Goater      * This table contains the backing store pages for the interrupt
63da71b7e3SCédric Le Goater      * fifos of the VC sub-engine in case of overflow.
64da71b7e3SCédric Le Goater      *
65da71b7e3SCédric Le Goater      * 0 - IPI,
66da71b7e3SCédric Le Goater      * 1 - HWD,
67da71b7e3SCédric Le Goater      * 2 - NxC,
68da71b7e3SCédric Le Goater      * 3 - INT,
69da71b7e3SCédric Le Goater      * 4 - OS-Queue,
70da71b7e3SCédric Le Goater      * 5 - Pool-Queue,
71da71b7e3SCédric Le Goater      * 6 - Hard-Queue
72da71b7e3SCédric Le Goater      */
73da71b7e3SCédric Le Goater     [VST_ERQ]  = { "ERQ",  1,                   VC_QUEUE_COUNT },
74da71b7e3SCédric Le Goater };
75da71b7e3SCédric Le Goater 
76da71b7e3SCédric Le Goater #define xive2_error(xive, fmt, ...)                                      \
77da71b7e3SCédric Le Goater     qemu_log_mask(LOG_GUEST_ERROR, "XIVE[%x] - " fmt "\n",              \
78da71b7e3SCédric Le Goater                   (xive)->chip->chip_id, ## __VA_ARGS__);
79da71b7e3SCédric Le Goater 
80da71b7e3SCédric Le Goater /*
81da71b7e3SCédric Le Goater  * TODO: Document block id override
82da71b7e3SCédric Le Goater  */
83da71b7e3SCédric Le Goater static uint32_t pnv_xive2_block_id(PnvXive2 *xive)
84da71b7e3SCédric Le Goater {
85da71b7e3SCédric Le Goater     uint8_t blk = xive->chip->chip_id;
86da71b7e3SCédric Le Goater     uint64_t cfg_val = xive->cq_regs[CQ_XIVE_CFG >> 3];
87da71b7e3SCédric Le Goater 
88da71b7e3SCédric Le Goater     if (cfg_val & CQ_XIVE_CFG_HYP_HARD_BLKID_OVERRIDE) {
89da71b7e3SCédric Le Goater         blk = GETFIELD(CQ_XIVE_CFG_HYP_HARD_BLOCK_ID, cfg_val);
90da71b7e3SCédric Le Goater     }
91da71b7e3SCédric Le Goater 
92da71b7e3SCédric Le Goater     return blk;
93da71b7e3SCédric Le Goater }
94da71b7e3SCédric Le Goater 
95da71b7e3SCédric Le Goater /*
96da71b7e3SCédric Le Goater  * Remote access to controllers. HW uses MMIOs. For now, a simple scan
97da71b7e3SCédric Le Goater  * of the chips is good enough.
98da71b7e3SCédric Le Goater  *
99da71b7e3SCédric Le Goater  * TODO: Block scope support
100da71b7e3SCédric Le Goater  */
101da71b7e3SCédric Le Goater static PnvXive2 *pnv_xive2_get_remote(uint8_t blk)
102da71b7e3SCédric Le Goater {
103da71b7e3SCédric Le Goater     PnvMachineState *pnv = PNV_MACHINE(qdev_get_machine());
104da71b7e3SCédric Le Goater     int i;
105da71b7e3SCédric Le Goater 
106da71b7e3SCédric Le Goater     for (i = 0; i < pnv->num_chips; i++) {
107da71b7e3SCédric Le Goater         Pnv10Chip *chip10 = PNV10_CHIP(pnv->chips[i]);
108da71b7e3SCédric Le Goater         PnvXive2 *xive = &chip10->xive;
109da71b7e3SCédric Le Goater 
110da71b7e3SCédric Le Goater         if (pnv_xive2_block_id(xive) == blk) {
111da71b7e3SCédric Le Goater             return xive;
112da71b7e3SCédric Le Goater         }
113da71b7e3SCédric Le Goater     }
114da71b7e3SCédric Le Goater     return NULL;
115da71b7e3SCédric Le Goater }
116da71b7e3SCédric Le Goater 
117da71b7e3SCédric Le Goater /*
118da71b7e3SCédric Le Goater  * VST accessors for ESB, EAT, ENDT, NVP
119da71b7e3SCédric Le Goater  *
120da71b7e3SCédric Le Goater  * Indirect VST tables are arrays of VSDs pointing to a page (of same
121da71b7e3SCédric Le Goater  * size). Each page is a direct VST table.
122da71b7e3SCédric Le Goater  */
123da71b7e3SCédric Le Goater 
124da71b7e3SCédric Le Goater #define XIVE_VSD_SIZE 8
125da71b7e3SCédric Le Goater 
126da71b7e3SCédric Le Goater /* Indirect page size can be 4K, 64K, 2M, 16M. */
127da71b7e3SCédric Le Goater static uint64_t pnv_xive2_vst_page_size_allowed(uint32_t page_shift)
128da71b7e3SCédric Le Goater {
129da71b7e3SCédric Le Goater      return page_shift == 12 || page_shift == 16 ||
130da71b7e3SCédric Le Goater          page_shift == 21 || page_shift == 24;
131da71b7e3SCédric Le Goater }
132da71b7e3SCédric Le Goater 
133da71b7e3SCédric Le Goater static uint64_t pnv_xive2_vst_addr_direct(PnvXive2 *xive, uint32_t type,
134da71b7e3SCédric Le Goater                                           uint64_t vsd, uint32_t idx)
135da71b7e3SCédric Le Goater {
136da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
137da71b7e3SCédric Le Goater     uint64_t vst_addr = vsd & VSD_ADDRESS_MASK;
138da71b7e3SCédric Le Goater     uint64_t vst_tsize = 1ull << (GETFIELD(VSD_TSIZE, vsd) + 12);
139da71b7e3SCédric Le Goater     uint32_t idx_max;
140da71b7e3SCédric Le Goater 
141da71b7e3SCédric Le Goater     idx_max = vst_tsize / info->size - 1;
142da71b7e3SCédric Le Goater     if (idx > idx_max) {
143da71b7e3SCédric Le Goater #ifdef XIVE2_DEBUG
144da71b7e3SCédric Le Goater         xive2_error(xive, "VST: %s entry %x out of range [ 0 .. %x ] !?",
145da71b7e3SCédric Le Goater                    info->name, idx, idx_max);
146da71b7e3SCédric Le Goater #endif
147da71b7e3SCédric Le Goater         return 0;
148da71b7e3SCédric Le Goater     }
149da71b7e3SCédric Le Goater 
150da71b7e3SCédric Le Goater     return vst_addr + idx * info->size;
151da71b7e3SCédric Le Goater }
152da71b7e3SCédric Le Goater 
153da71b7e3SCédric Le Goater static uint64_t pnv_xive2_vst_addr_indirect(PnvXive2 *xive, uint32_t type,
154da71b7e3SCédric Le Goater                                             uint64_t vsd, uint32_t idx)
155da71b7e3SCédric Le Goater {
156da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
157da71b7e3SCédric Le Goater     uint64_t vsd_addr;
158da71b7e3SCédric Le Goater     uint32_t vsd_idx;
159da71b7e3SCédric Le Goater     uint32_t page_shift;
160da71b7e3SCédric Le Goater     uint32_t vst_per_page;
161da71b7e3SCédric Le Goater 
162da71b7e3SCédric Le Goater     /* Get the page size of the indirect table. */
163da71b7e3SCédric Le Goater     vsd_addr = vsd & VSD_ADDRESS_MASK;
164da71b7e3SCédric Le Goater     ldq_be_dma(&address_space_memory, vsd_addr, &vsd, MEMTXATTRS_UNSPECIFIED);
165da71b7e3SCédric Le Goater 
166da71b7e3SCédric Le Goater     if (!(vsd & VSD_ADDRESS_MASK)) {
16734b43130SFrederic Barrat #ifdef XIVE2_DEBUG
168da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid %s entry %x !?", info->name, idx);
16934b43130SFrederic Barrat #endif
170da71b7e3SCédric Le Goater         return 0;
171da71b7e3SCédric Le Goater     }
172da71b7e3SCédric Le Goater 
173da71b7e3SCédric Le Goater     page_shift = GETFIELD(VSD_TSIZE, vsd) + 12;
174da71b7e3SCédric Le Goater 
175da71b7e3SCédric Le Goater     if (!pnv_xive2_vst_page_size_allowed(page_shift)) {
176da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid %s page shift %d", info->name,
177da71b7e3SCédric Le Goater                    page_shift);
178da71b7e3SCédric Le Goater         return 0;
179da71b7e3SCédric Le Goater     }
180da71b7e3SCédric Le Goater 
181da71b7e3SCédric Le Goater     vst_per_page = (1ull << page_shift) / info->size;
182da71b7e3SCédric Le Goater     vsd_idx = idx / vst_per_page;
183da71b7e3SCédric Le Goater 
184da71b7e3SCédric Le Goater     /* Load the VSD we are looking for, if not already done */
185da71b7e3SCédric Le Goater     if (vsd_idx) {
186da71b7e3SCédric Le Goater         vsd_addr = vsd_addr + vsd_idx * XIVE_VSD_SIZE;
187da71b7e3SCédric Le Goater         ldq_be_dma(&address_space_memory, vsd_addr, &vsd,
188da71b7e3SCédric Le Goater                    MEMTXATTRS_UNSPECIFIED);
189da71b7e3SCédric Le Goater 
190da71b7e3SCédric Le Goater         if (!(vsd & VSD_ADDRESS_MASK)) {
19134b43130SFrederic Barrat #ifdef XIVE2_DEBUG
192da71b7e3SCédric Le Goater             xive2_error(xive, "VST: invalid %s entry %x !?", info->name, idx);
19334b43130SFrederic Barrat #endif
194da71b7e3SCédric Le Goater             return 0;
195da71b7e3SCédric Le Goater         }
196da71b7e3SCédric Le Goater 
197da71b7e3SCédric Le Goater         /*
198da71b7e3SCédric Le Goater          * Check that the pages have a consistent size across the
199da71b7e3SCédric Le Goater          * indirect table
200da71b7e3SCédric Le Goater          */
201da71b7e3SCédric Le Goater         if (page_shift != GETFIELD(VSD_TSIZE, vsd) + 12) {
202da71b7e3SCédric Le Goater             xive2_error(xive, "VST: %s entry %x indirect page size differ !?",
203da71b7e3SCédric Le Goater                        info->name, idx);
204da71b7e3SCédric Le Goater             return 0;
205da71b7e3SCédric Le Goater         }
206da71b7e3SCédric Le Goater     }
207da71b7e3SCédric Le Goater 
208da71b7e3SCédric Le Goater     return pnv_xive2_vst_addr_direct(xive, type, vsd, (idx % vst_per_page));
209da71b7e3SCédric Le Goater }
210da71b7e3SCédric Le Goater 
211da71b7e3SCédric Le Goater static uint64_t pnv_xive2_vst_addr(PnvXive2 *xive, uint32_t type, uint8_t blk,
212da71b7e3SCédric Le Goater                                    uint32_t idx)
213da71b7e3SCédric Le Goater {
214da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
215da71b7e3SCédric Le Goater     uint64_t vsd;
216da71b7e3SCédric Le Goater 
217da71b7e3SCédric Le Goater     if (blk >= info->max_blocks) {
218da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid block id %d for VST %s %d !?",
219da71b7e3SCédric Le Goater                    blk, info->name, idx);
220da71b7e3SCédric Le Goater         return 0;
221da71b7e3SCédric Le Goater     }
222da71b7e3SCédric Le Goater 
223da71b7e3SCédric Le Goater     vsd = xive->vsds[type][blk];
224da71b7e3SCédric Le Goater 
225da71b7e3SCédric Le Goater     /* Remote VST access */
226da71b7e3SCédric Le Goater     if (GETFIELD(VSD_MODE, vsd) == VSD_MODE_FORWARD) {
227da71b7e3SCédric Le Goater         xive = pnv_xive2_get_remote(blk);
228da71b7e3SCédric Le Goater 
229da71b7e3SCédric Le Goater         return xive ? pnv_xive2_vst_addr(xive, type, blk, idx) : 0;
230da71b7e3SCédric Le Goater     }
231da71b7e3SCédric Le Goater 
232da71b7e3SCédric Le Goater     if (VSD_INDIRECT & vsd) {
233da71b7e3SCédric Le Goater         return pnv_xive2_vst_addr_indirect(xive, type, vsd, idx);
234da71b7e3SCédric Le Goater     }
235da71b7e3SCédric Le Goater 
236da71b7e3SCédric Le Goater     return pnv_xive2_vst_addr_direct(xive, type, vsd, idx);
237da71b7e3SCédric Le Goater }
238da71b7e3SCédric Le Goater 
239da71b7e3SCédric Le Goater static int pnv_xive2_vst_read(PnvXive2 *xive, uint32_t type, uint8_t blk,
240da71b7e3SCédric Le Goater                              uint32_t idx, void *data)
241da71b7e3SCédric Le Goater {
242da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
243da71b7e3SCédric Le Goater     uint64_t addr = pnv_xive2_vst_addr(xive, type, blk, idx);
244ed409be1SCédric Le Goater     MemTxResult result;
245da71b7e3SCédric Le Goater 
246da71b7e3SCédric Le Goater     if (!addr) {
247da71b7e3SCédric Le Goater         return -1;
248da71b7e3SCédric Le Goater     }
249da71b7e3SCédric Le Goater 
250ed409be1SCédric Le Goater     result = address_space_read(&address_space_memory, addr,
251ed409be1SCédric Le Goater                                 MEMTXATTRS_UNSPECIFIED, data,
252ed409be1SCédric Le Goater                                 info->size);
253ed409be1SCédric Le Goater     if (result != MEMTX_OK) {
254ed409be1SCédric Le Goater         xive2_error(xive, "VST: read failed at @0x%" HWADDR_PRIx
255ed409be1SCédric Le Goater                    " for VST %s %x/%x\n", addr, info->name, blk, idx);
256ed409be1SCédric Le Goater         return -1;
257ed409be1SCédric Le Goater     }
258da71b7e3SCédric Le Goater     return 0;
259da71b7e3SCédric Le Goater }
260da71b7e3SCédric Le Goater 
261da71b7e3SCédric Le Goater #define XIVE_VST_WORD_ALL -1
262da71b7e3SCédric Le Goater 
263da71b7e3SCédric Le Goater static int pnv_xive2_vst_write(PnvXive2 *xive, uint32_t type, uint8_t blk,
264da71b7e3SCédric Le Goater                                uint32_t idx, void *data, uint32_t word_number)
265da71b7e3SCédric Le Goater {
266da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
267da71b7e3SCédric Le Goater     uint64_t addr = pnv_xive2_vst_addr(xive, type, blk, idx);
268ed409be1SCédric Le Goater     MemTxResult result;
269da71b7e3SCédric Le Goater 
270da71b7e3SCédric Le Goater     if (!addr) {
271da71b7e3SCédric Le Goater         return -1;
272da71b7e3SCédric Le Goater     }
273da71b7e3SCédric Le Goater 
274da71b7e3SCédric Le Goater     if (word_number == XIVE_VST_WORD_ALL) {
275ed409be1SCédric Le Goater         result = address_space_write(&address_space_memory, addr,
276ed409be1SCédric Le Goater                                      MEMTXATTRS_UNSPECIFIED, data,
277ed409be1SCédric Le Goater                                      info->size);
278da71b7e3SCédric Le Goater     } else {
279ed409be1SCédric Le Goater         result = address_space_write(&address_space_memory,
280ed409be1SCédric Le Goater                                      addr + word_number * 4,
281ed409be1SCédric Le Goater                                      MEMTXATTRS_UNSPECIFIED,
282da71b7e3SCédric Le Goater                                      data + word_number * 4, 4);
283da71b7e3SCédric Le Goater     }
284ed409be1SCédric Le Goater 
285ed409be1SCédric Le Goater     if (result != MEMTX_OK) {
286ed409be1SCédric Le Goater         xive2_error(xive, "VST: write failed at @0x%" HWADDR_PRIx
287ed409be1SCédric Le Goater                    "for VST %s %x/%x\n", addr, info->name, blk, idx);
288ed409be1SCédric Le Goater         return -1;
289ed409be1SCédric Le Goater     }
290da71b7e3SCédric Le Goater     return 0;
291da71b7e3SCédric Le Goater }
292da71b7e3SCédric Le Goater 
2930aa2612aSCédric Le Goater static int pnv_xive2_get_pq(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
2940aa2612aSCédric Le Goater                              uint8_t *pq)
2950aa2612aSCédric Le Goater {
2960aa2612aSCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xrtr);
2970aa2612aSCédric Le Goater 
2980aa2612aSCédric Le Goater     if (pnv_xive2_block_id(xive) != blk) {
2990aa2612aSCédric Le Goater         xive2_error(xive, "VST: EAS %x is remote !?", XIVE_EAS(blk, idx));
3000aa2612aSCédric Le Goater         return -1;
3010aa2612aSCédric Le Goater     }
3020aa2612aSCédric Le Goater 
3030aa2612aSCédric Le Goater     *pq = xive_source_esb_get(&xive->ipi_source, idx);
3040aa2612aSCédric Le Goater     return 0;
3050aa2612aSCédric Le Goater }
3060aa2612aSCédric Le Goater 
3070aa2612aSCédric Le Goater static int pnv_xive2_set_pq(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
3080aa2612aSCédric Le Goater                              uint8_t *pq)
3090aa2612aSCédric Le Goater {
3100aa2612aSCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xrtr);
3110aa2612aSCédric Le Goater 
3120aa2612aSCédric Le Goater     if (pnv_xive2_block_id(xive) != blk) {
3130aa2612aSCédric Le Goater         xive2_error(xive, "VST: EAS %x is remote !?", XIVE_EAS(blk, idx));
3140aa2612aSCédric Le Goater         return -1;
3150aa2612aSCédric Le Goater     }
3160aa2612aSCédric Le Goater 
3170aa2612aSCédric Le Goater     *pq = xive_source_esb_set(&xive->ipi_source, idx, *pq);
3180aa2612aSCédric Le Goater     return 0;
3190aa2612aSCédric Le Goater }
3200aa2612aSCédric Le Goater 
321da71b7e3SCédric Le Goater static int pnv_xive2_get_end(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
322da71b7e3SCédric Le Goater                              Xive2End *end)
323da71b7e3SCédric Le Goater {
324da71b7e3SCédric Le Goater     return pnv_xive2_vst_read(PNV_XIVE2(xrtr), VST_END, blk, idx, end);
325da71b7e3SCédric Le Goater }
326da71b7e3SCédric Le Goater 
327da71b7e3SCédric Le Goater static int pnv_xive2_write_end(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
328da71b7e3SCédric Le Goater                                Xive2End *end, uint8_t word_number)
329da71b7e3SCédric Le Goater {
330da71b7e3SCédric Le Goater     return pnv_xive2_vst_write(PNV_XIVE2(xrtr), VST_END, blk, idx, end,
331da71b7e3SCédric Le Goater                               word_number);
332da71b7e3SCédric Le Goater }
333da71b7e3SCédric Le Goater 
334da71b7e3SCédric Le Goater static int pnv_xive2_end_update(PnvXive2 *xive)
335da71b7e3SCédric Le Goater {
336da71b7e3SCédric Le Goater     uint8_t  blk = GETFIELD(VC_ENDC_WATCH_BLOCK_ID,
337da71b7e3SCédric Le Goater                            xive->vc_regs[(VC_ENDC_WATCH0_SPEC >> 3)]);
338da71b7e3SCédric Le Goater     uint32_t idx = GETFIELD(VC_ENDC_WATCH_INDEX,
339da71b7e3SCédric Le Goater                            xive->vc_regs[(VC_ENDC_WATCH0_SPEC >> 3)]);
340da71b7e3SCédric Le Goater     int i;
341da71b7e3SCédric Le Goater     uint64_t endc_watch[4];
342da71b7e3SCédric Le Goater 
343da71b7e3SCédric Le Goater     for (i = 0; i < ARRAY_SIZE(endc_watch); i++) {
344da71b7e3SCédric Le Goater         endc_watch[i] =
345da71b7e3SCédric Le Goater             cpu_to_be64(xive->vc_regs[(VC_ENDC_WATCH0_DATA0 >> 3) + i]);
346da71b7e3SCédric Le Goater     }
347da71b7e3SCédric Le Goater 
348da71b7e3SCédric Le Goater     return pnv_xive2_vst_write(xive, VST_END, blk, idx, endc_watch,
349da71b7e3SCédric Le Goater                               XIVE_VST_WORD_ALL);
350da71b7e3SCédric Le Goater }
351da71b7e3SCédric Le Goater 
352da71b7e3SCédric Le Goater static void pnv_xive2_end_cache_load(PnvXive2 *xive)
353da71b7e3SCédric Le Goater {
354da71b7e3SCédric Le Goater     uint8_t  blk = GETFIELD(VC_ENDC_WATCH_BLOCK_ID,
355da71b7e3SCédric Le Goater                            xive->vc_regs[(VC_ENDC_WATCH0_SPEC >> 3)]);
356da71b7e3SCédric Le Goater     uint32_t idx = GETFIELD(VC_ENDC_WATCH_INDEX,
357da71b7e3SCédric Le Goater                            xive->vc_regs[(VC_ENDC_WATCH0_SPEC >> 3)]);
358da71b7e3SCédric Le Goater     uint64_t endc_watch[4] = { 0 };
359da71b7e3SCédric Le Goater     int i;
360da71b7e3SCédric Le Goater 
361da71b7e3SCédric Le Goater     if (pnv_xive2_vst_read(xive, VST_END, blk, idx, endc_watch)) {
362da71b7e3SCédric Le Goater         xive2_error(xive, "VST: no END entry %x/%x !?", blk, idx);
363da71b7e3SCédric Le Goater     }
364da71b7e3SCédric Le Goater 
365da71b7e3SCédric Le Goater     for (i = 0; i < ARRAY_SIZE(endc_watch); i++) {
366da71b7e3SCédric Le Goater         xive->vc_regs[(VC_ENDC_WATCH0_DATA0 >> 3) + i] =
367da71b7e3SCédric Le Goater             be64_to_cpu(endc_watch[i]);
368da71b7e3SCédric Le Goater     }
369da71b7e3SCédric Le Goater }
370da71b7e3SCédric Le Goater 
371da71b7e3SCédric Le Goater static int pnv_xive2_get_nvp(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
372da71b7e3SCédric Le Goater                              Xive2Nvp *nvp)
373da71b7e3SCédric Le Goater {
374da71b7e3SCédric Le Goater     return pnv_xive2_vst_read(PNV_XIVE2(xrtr), VST_NVP, blk, idx, nvp);
375da71b7e3SCédric Le Goater }
376da71b7e3SCédric Le Goater 
377da71b7e3SCédric Le Goater static int pnv_xive2_write_nvp(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
378da71b7e3SCédric Le Goater                                Xive2Nvp *nvp, uint8_t word_number)
379da71b7e3SCédric Le Goater {
380da71b7e3SCédric Le Goater     return pnv_xive2_vst_write(PNV_XIVE2(xrtr), VST_NVP, blk, idx, nvp,
381da71b7e3SCédric Le Goater                               word_number);
382da71b7e3SCédric Le Goater }
383da71b7e3SCédric Le Goater 
384da71b7e3SCédric Le Goater static int pnv_xive2_nvp_update(PnvXive2 *xive)
385da71b7e3SCédric Le Goater {
386da71b7e3SCédric Le Goater     uint8_t  blk = GETFIELD(PC_NXC_WATCH_BLOCK_ID,
387da71b7e3SCédric Le Goater                             xive->pc_regs[(PC_NXC_WATCH0_SPEC >> 3)]);
388da71b7e3SCédric Le Goater     uint32_t idx = GETFIELD(PC_NXC_WATCH_INDEX,
389da71b7e3SCédric Le Goater                             xive->pc_regs[(PC_NXC_WATCH0_SPEC >> 3)]);
390da71b7e3SCédric Le Goater     int i;
391da71b7e3SCédric Le Goater     uint64_t nxc_watch[4];
392da71b7e3SCédric Le Goater 
393da71b7e3SCédric Le Goater     for (i = 0; i < ARRAY_SIZE(nxc_watch); i++) {
394da71b7e3SCédric Le Goater         nxc_watch[i] =
395da71b7e3SCédric Le Goater             cpu_to_be64(xive->pc_regs[(PC_NXC_WATCH0_DATA0 >> 3) + i]);
396da71b7e3SCédric Le Goater     }
397da71b7e3SCédric Le Goater 
398da71b7e3SCédric Le Goater     return pnv_xive2_vst_write(xive, VST_NVP, blk, idx, nxc_watch,
399da71b7e3SCédric Le Goater                               XIVE_VST_WORD_ALL);
400da71b7e3SCédric Le Goater }
401da71b7e3SCédric Le Goater 
402da71b7e3SCédric Le Goater static void pnv_xive2_nvp_cache_load(PnvXive2 *xive)
403da71b7e3SCédric Le Goater {
404da71b7e3SCédric Le Goater     uint8_t  blk = GETFIELD(PC_NXC_WATCH_BLOCK_ID,
405da71b7e3SCédric Le Goater                            xive->pc_regs[(PC_NXC_WATCH0_SPEC >> 3)]);
406da71b7e3SCédric Le Goater     uint32_t idx = GETFIELD(PC_NXC_WATCH_INDEX,
407da71b7e3SCédric Le Goater                            xive->pc_regs[(PC_NXC_WATCH0_SPEC >> 3)]);
408da71b7e3SCédric Le Goater     uint64_t nxc_watch[4] = { 0 };
409da71b7e3SCédric Le Goater     int i;
410da71b7e3SCédric Le Goater 
411da71b7e3SCédric Le Goater     if (pnv_xive2_vst_read(xive, VST_NVP, blk, idx, nxc_watch)) {
412da71b7e3SCédric Le Goater         xive2_error(xive, "VST: no NVP entry %x/%x !?", blk, idx);
413da71b7e3SCédric Le Goater     }
414da71b7e3SCédric Le Goater 
415da71b7e3SCédric Le Goater     for (i = 0; i < ARRAY_SIZE(nxc_watch); i++) {
416da71b7e3SCédric Le Goater         xive->pc_regs[(PC_NXC_WATCH0_DATA0 >> 3) + i] =
417da71b7e3SCédric Le Goater             be64_to_cpu(nxc_watch[i]);
418da71b7e3SCédric Le Goater     }
419da71b7e3SCédric Le Goater }
420da71b7e3SCédric Le Goater 
421da71b7e3SCédric Le Goater static int pnv_xive2_get_eas(Xive2Router *xrtr, uint8_t blk, uint32_t idx,
422da71b7e3SCédric Le Goater                             Xive2Eas *eas)
423da71b7e3SCédric Le Goater {
424da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xrtr);
425da71b7e3SCédric Le Goater 
426da71b7e3SCédric Le Goater     if (pnv_xive2_block_id(xive) != blk) {
427da71b7e3SCédric Le Goater         xive2_error(xive, "VST: EAS %x is remote !?", XIVE_EAS(blk, idx));
428da71b7e3SCédric Le Goater         return -1;
429da71b7e3SCédric Le Goater     }
430da71b7e3SCédric Le Goater 
431da71b7e3SCédric Le Goater     return pnv_xive2_vst_read(xive, VST_EAS, blk, idx, eas);
432da71b7e3SCédric Le Goater }
433da71b7e3SCédric Le Goater 
434e16032b8SCédric Le Goater static uint32_t pnv_xive2_get_config(Xive2Router *xrtr)
435e16032b8SCédric Le Goater {
436e16032b8SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xrtr);
437e16032b8SCédric Le Goater     uint32_t cfg = 0;
438e16032b8SCédric Le Goater 
439e16032b8SCédric Le Goater     if (xive->cq_regs[CQ_XIVE_CFG >> 3] & CQ_XIVE_CFG_GEN1_TIMA_OS) {
440e16032b8SCédric Le Goater         cfg |= XIVE2_GEN1_TIMA_OS;
441e16032b8SCédric Le Goater     }
442e16032b8SCédric Le Goater 
443835806f1SCédric Le Goater     if (xive->cq_regs[CQ_XIVE_CFG >> 3] & CQ_XIVE_CFG_EN_VP_SAVE_RESTORE) {
444835806f1SCédric Le Goater         cfg |= XIVE2_VP_SAVE_RESTORE;
445835806f1SCédric Le Goater     }
446835806f1SCédric Le Goater 
44709a7e60cSCédric Le Goater     if (GETFIELD(CQ_XIVE_CFG_HYP_HARD_RANGE,
44809a7e60cSCédric Le Goater               xive->cq_regs[CQ_XIVE_CFG >> 3]) == CQ_XIVE_CFG_THREADID_8BITS) {
44909a7e60cSCédric Le Goater         cfg |= XIVE2_THREADID_8BITS;
45009a7e60cSCédric Le Goater     }
45109a7e60cSCédric Le Goater 
452e16032b8SCédric Le Goater     return cfg;
453e16032b8SCédric Le Goater }
454e16032b8SCédric Le Goater 
455da71b7e3SCédric Le Goater static bool pnv_xive2_is_cpu_enabled(PnvXive2 *xive, PowerPCCPU *cpu)
456da71b7e3SCédric Le Goater {
457da71b7e3SCédric Le Goater     int pir = ppc_cpu_pir(cpu);
458da71b7e3SCédric Le Goater     uint32_t fc = PNV10_PIR2FUSEDCORE(pir);
459da71b7e3SCédric Le Goater     uint64_t reg = fc < 8 ? TCTXT_EN0 : TCTXT_EN1;
460da71b7e3SCédric Le Goater     uint32_t bit = pir & 0x3f;
461da71b7e3SCédric Le Goater 
462da71b7e3SCédric Le Goater     return xive->tctxt_regs[reg >> 3] & PPC_BIT(bit);
463da71b7e3SCédric Le Goater }
464da71b7e3SCédric Le Goater 
465da71b7e3SCédric Le Goater static int pnv_xive2_match_nvt(XivePresenter *xptr, uint8_t format,
466da71b7e3SCédric Le Goater                                uint8_t nvt_blk, uint32_t nvt_idx,
467da71b7e3SCédric Le Goater                                bool cam_ignore, uint8_t priority,
468da71b7e3SCédric Le Goater                                uint32_t logic_serv, XiveTCTXMatch *match)
469da71b7e3SCédric Le Goater {
470da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xptr);
471da71b7e3SCédric Le Goater     PnvChip *chip = xive->chip;
472da71b7e3SCédric Le Goater     int count = 0;
473da71b7e3SCédric Le Goater     int i, j;
474747ffe28SCédric Le Goater     bool gen1_tima_os =
475747ffe28SCédric Le Goater         xive->cq_regs[CQ_XIVE_CFG >> 3] & CQ_XIVE_CFG_GEN1_TIMA_OS;
476da71b7e3SCédric Le Goater 
477da71b7e3SCédric Le Goater     for (i = 0; i < chip->nr_cores; i++) {
478da71b7e3SCédric Le Goater         PnvCore *pc = chip->cores[i];
479da71b7e3SCédric Le Goater         CPUCore *cc = CPU_CORE(pc);
480da71b7e3SCédric Le Goater 
481da71b7e3SCédric Le Goater         for (j = 0; j < cc->nr_threads; j++) {
482da71b7e3SCédric Le Goater             PowerPCCPU *cpu = pc->threads[j];
483da71b7e3SCédric Le Goater             XiveTCTX *tctx;
484da71b7e3SCédric Le Goater             int ring;
485da71b7e3SCédric Le Goater 
486da71b7e3SCédric Le Goater             if (!pnv_xive2_is_cpu_enabled(xive, cpu)) {
487da71b7e3SCédric Le Goater                 continue;
488da71b7e3SCédric Le Goater             }
489da71b7e3SCédric Le Goater 
490da71b7e3SCédric Le Goater             tctx = XIVE_TCTX(pnv_cpu_state(cpu)->intc);
491da71b7e3SCédric Le Goater 
492747ffe28SCédric Le Goater             if (gen1_tima_os) {
493747ffe28SCédric Le Goater                 ring = xive_presenter_tctx_match(xptr, tctx, format, nvt_blk,
494747ffe28SCédric Le Goater                                                  nvt_idx, cam_ignore,
495747ffe28SCédric Le Goater                                                  logic_serv);
496747ffe28SCédric Le Goater             } else {
497da71b7e3SCédric Le Goater                 ring = xive2_presenter_tctx_match(xptr, tctx, format, nvt_blk,
498da71b7e3SCédric Le Goater                                                    nvt_idx, cam_ignore,
499da71b7e3SCédric Le Goater                                                    logic_serv);
500747ffe28SCédric Le Goater             }
501da71b7e3SCédric Le Goater 
502da71b7e3SCédric Le Goater             /*
503da71b7e3SCédric Le Goater              * Save the context and follow on to catch duplicates,
504da71b7e3SCédric Le Goater              * that we don't support yet.
505da71b7e3SCédric Le Goater              */
506da71b7e3SCédric Le Goater             if (ring != -1) {
507da71b7e3SCédric Le Goater                 if (match->tctx) {
508da71b7e3SCédric Le Goater                     qemu_log_mask(LOG_GUEST_ERROR, "XIVE: already found a "
509da71b7e3SCédric Le Goater                                   "thread context NVT %x/%x\n",
510da71b7e3SCédric Le Goater                                   nvt_blk, nvt_idx);
511da71b7e3SCédric Le Goater                     return false;
512da71b7e3SCédric Le Goater                 }
513da71b7e3SCédric Le Goater 
514da71b7e3SCédric Le Goater                 match->ring = ring;
515da71b7e3SCédric Le Goater                 match->tctx = tctx;
516da71b7e3SCédric Le Goater                 count++;
517da71b7e3SCédric Le Goater             }
518da71b7e3SCédric Le Goater         }
519da71b7e3SCédric Le Goater     }
520da71b7e3SCédric Le Goater 
521da71b7e3SCédric Le Goater     return count;
522da71b7e3SCédric Le Goater }
523da71b7e3SCédric Le Goater 
5242a24e6e3SFrederic Barrat static uint32_t pnv_xive2_presenter_get_config(XivePresenter *xptr)
5252a24e6e3SFrederic Barrat {
5262a24e6e3SFrederic Barrat     PnvXive2 *xive = PNV_XIVE2(xptr);
5272a24e6e3SFrederic Barrat     uint32_t cfg = 0;
5282a24e6e3SFrederic Barrat 
5292a24e6e3SFrederic Barrat     if (xive->cq_regs[CQ_XIVE_CFG >> 3] & CQ_XIVE_CFG_GEN1_TIMA_OS) {
5302a24e6e3SFrederic Barrat         cfg |= XIVE_PRESENTER_GEN1_TIMA_OS;
5312a24e6e3SFrederic Barrat     }
5322a24e6e3SFrederic Barrat     return cfg;
5332a24e6e3SFrederic Barrat }
5342a24e6e3SFrederic Barrat 
535da71b7e3SCédric Le Goater static uint8_t pnv_xive2_get_block_id(Xive2Router *xrtr)
536da71b7e3SCédric Le Goater {
537da71b7e3SCédric Le Goater     return pnv_xive2_block_id(PNV_XIVE2(xrtr));
538da71b7e3SCédric Le Goater }
539da71b7e3SCédric Le Goater 
540da71b7e3SCédric Le Goater /*
541da71b7e3SCédric Le Goater  * The TIMA MMIO space is shared among the chips and to identify the
542da71b7e3SCédric Le Goater  * chip from which the access is being done, we extract the chip id
543da71b7e3SCédric Le Goater  * from the PIR.
544da71b7e3SCédric Le Goater  */
545da71b7e3SCédric Le Goater static PnvXive2 *pnv_xive2_tm_get_xive(PowerPCCPU *cpu)
546da71b7e3SCédric Le Goater {
547da71b7e3SCédric Le Goater     int pir = ppc_cpu_pir(cpu);
548da71b7e3SCédric Le Goater     XivePresenter *xptr = XIVE_TCTX(pnv_cpu_state(cpu)->intc)->xptr;
549da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xptr);
550da71b7e3SCédric Le Goater 
551da71b7e3SCédric Le Goater     if (!pnv_xive2_is_cpu_enabled(xive, cpu)) {
552da71b7e3SCédric Le Goater         xive2_error(xive, "IC: CPU %x is not enabled", pir);
553da71b7e3SCédric Le Goater     }
554da71b7e3SCédric Le Goater     return xive;
555da71b7e3SCédric Le Goater }
556da71b7e3SCédric Le Goater 
557da71b7e3SCédric Le Goater /*
558da71b7e3SCédric Le Goater  * The internal sources of the interrupt controller have no knowledge
559da71b7e3SCédric Le Goater  * of the XIVE2 chip on which they reside. Encode the block id in the
560da71b7e3SCédric Le Goater  * source interrupt number before forwarding the source event
561da71b7e3SCédric Le Goater  * notification to the Router. This is required on a multichip system.
562da71b7e3SCédric Le Goater  */
5630aa2612aSCédric Le Goater static void pnv_xive2_notify(XiveNotifier *xn, uint32_t srcno, bool pq_checked)
564da71b7e3SCédric Le Goater {
565da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(xn);
566da71b7e3SCédric Le Goater     uint8_t blk = pnv_xive2_block_id(xive);
567da71b7e3SCédric Le Goater 
5680aa2612aSCédric Le Goater     xive2_router_notify(xn, XIVE_EAS(blk, srcno), pq_checked);
569da71b7e3SCédric Le Goater }
570da71b7e3SCédric Le Goater 
571da71b7e3SCédric Le Goater /*
572da71b7e3SCédric Le Goater  * Set Translation Tables
573da71b7e3SCédric Le Goater  *
574da71b7e3SCédric Le Goater  * TODO add support for multiple sets
575da71b7e3SCédric Le Goater  */
576da71b7e3SCédric Le Goater static int pnv_xive2_stt_set_data(PnvXive2 *xive, uint64_t val)
577da71b7e3SCédric Le Goater {
578da71b7e3SCédric Le Goater     uint8_t tsel = GETFIELD(CQ_TAR_SELECT, xive->cq_regs[CQ_TAR >> 3]);
579da71b7e3SCédric Le Goater     uint8_t entry = GETFIELD(CQ_TAR_ENTRY_SELECT,
580da71b7e3SCédric Le Goater                                   xive->cq_regs[CQ_TAR >> 3]);
581da71b7e3SCédric Le Goater 
582da71b7e3SCédric Le Goater     switch (tsel) {
583da71b7e3SCédric Le Goater     case CQ_TAR_NVPG:
584da71b7e3SCédric Le Goater     case CQ_TAR_ESB:
585da71b7e3SCédric Le Goater     case CQ_TAR_END:
586da71b7e3SCédric Le Goater         xive->tables[tsel][entry] = val;
587da71b7e3SCédric Le Goater         break;
588da71b7e3SCédric Le Goater     default:
589da71b7e3SCédric Le Goater         xive2_error(xive, "IC: unsupported table %d", tsel);
590da71b7e3SCédric Le Goater         return -1;
591da71b7e3SCédric Le Goater     }
592da71b7e3SCédric Le Goater 
593da71b7e3SCédric Le Goater     if (xive->cq_regs[CQ_TAR >> 3] & CQ_TAR_AUTOINC) {
594da71b7e3SCédric Le Goater         xive->cq_regs[CQ_TAR >> 3] = SETFIELD(CQ_TAR_ENTRY_SELECT,
595da71b7e3SCédric Le Goater                      xive->cq_regs[CQ_TAR >> 3], ++entry);
596da71b7e3SCédric Le Goater     }
597da71b7e3SCédric Le Goater 
598da71b7e3SCédric Le Goater     return 0;
599da71b7e3SCédric Le Goater }
600da71b7e3SCédric Le Goater /*
601da71b7e3SCédric Le Goater  * Virtual Structure Tables (VST) configuration
602da71b7e3SCédric Le Goater  */
603da71b7e3SCédric Le Goater static void pnv_xive2_vst_set_exclusive(PnvXive2 *xive, uint8_t type,
604da71b7e3SCédric Le Goater                                         uint8_t blk, uint64_t vsd)
605da71b7e3SCédric Le Goater {
606da71b7e3SCédric Le Goater     Xive2EndSource *end_xsrc = &xive->end_source;
607da71b7e3SCédric Le Goater     XiveSource *xsrc = &xive->ipi_source;
608da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
609da71b7e3SCédric Le Goater     uint32_t page_shift = GETFIELD(VSD_TSIZE, vsd) + 12;
610da71b7e3SCédric Le Goater     uint64_t vst_tsize = 1ull << page_shift;
611da71b7e3SCédric Le Goater     uint64_t vst_addr = vsd & VSD_ADDRESS_MASK;
612da71b7e3SCédric Le Goater 
613da71b7e3SCédric Le Goater     /* Basic checks */
614da71b7e3SCédric Le Goater 
615da71b7e3SCédric Le Goater     if (VSD_INDIRECT & vsd) {
616da71b7e3SCédric Le Goater         if (!pnv_xive2_vst_page_size_allowed(page_shift)) {
617da71b7e3SCédric Le Goater             xive2_error(xive, "VST: invalid %s page shift %d", info->name,
618da71b7e3SCédric Le Goater                        page_shift);
619da71b7e3SCédric Le Goater             return;
620da71b7e3SCédric Le Goater         }
621da71b7e3SCédric Le Goater     }
622da71b7e3SCédric Le Goater 
623da71b7e3SCédric Le Goater     if (!QEMU_IS_ALIGNED(vst_addr, 1ull << page_shift)) {
624da71b7e3SCédric Le Goater         xive2_error(xive, "VST: %s table address 0x%"PRIx64
625da71b7e3SCédric Le Goater                     " is not aligned with page shift %d",
626da71b7e3SCédric Le Goater                     info->name, vst_addr, page_shift);
627da71b7e3SCédric Le Goater         return;
628da71b7e3SCédric Le Goater     }
629da71b7e3SCédric Le Goater 
630da71b7e3SCédric Le Goater     /* Record the table configuration (in SRAM on HW) */
631da71b7e3SCédric Le Goater     xive->vsds[type][blk] = vsd;
632da71b7e3SCédric Le Goater 
633da71b7e3SCédric Le Goater     /* Now tune the models with the configuration provided by the FW */
634da71b7e3SCédric Le Goater 
635da71b7e3SCédric Le Goater     switch (type) {
636da71b7e3SCédric Le Goater     case VST_ESB:
637da71b7e3SCédric Le Goater         /*
638da71b7e3SCédric Le Goater          * Backing store pages for the source PQ bits. The model does
639da71b7e3SCédric Le Goater          * not use these PQ bits backed in RAM because the XiveSource
640da71b7e3SCédric Le Goater          * model has its own.
641da71b7e3SCédric Le Goater          *
642da71b7e3SCédric Le Goater          * If the table is direct, we can compute the number of PQ
643da71b7e3SCédric Le Goater          * entries provisioned by FW (such as skiboot) and resize the
644da71b7e3SCédric Le Goater          * ESB window accordingly.
645da71b7e3SCédric Le Goater          */
646da71b7e3SCédric Le Goater         if (!(VSD_INDIRECT & vsd)) {
647da71b7e3SCédric Le Goater             memory_region_set_size(&xsrc->esb_mmio, vst_tsize * SBE_PER_BYTE
648da71b7e3SCédric Le Goater                                    * (1ull << xsrc->esb_shift));
649da71b7e3SCédric Le Goater         }
650da71b7e3SCédric Le Goater 
651da71b7e3SCédric Le Goater         memory_region_add_subregion(&xive->esb_mmio, 0, &xsrc->esb_mmio);
652da71b7e3SCédric Le Goater         break;
653da71b7e3SCédric Le Goater 
654da71b7e3SCédric Le Goater     case VST_EAS:  /* Nothing to be done */
655da71b7e3SCédric Le Goater         break;
656da71b7e3SCédric Le Goater 
657da71b7e3SCédric Le Goater     case VST_END:
658da71b7e3SCédric Le Goater         /*
659da71b7e3SCédric Le Goater          * Backing store pages for the END.
660da71b7e3SCédric Le Goater          */
661da71b7e3SCédric Le Goater         if (!(VSD_INDIRECT & vsd)) {
662da71b7e3SCédric Le Goater             memory_region_set_size(&end_xsrc->esb_mmio, (vst_tsize / info->size)
663da71b7e3SCédric Le Goater                                    * (1ull << end_xsrc->esb_shift));
664da71b7e3SCédric Le Goater         }
665da71b7e3SCédric Le Goater         memory_region_add_subregion(&xive->end_mmio, 0, &end_xsrc->esb_mmio);
666da71b7e3SCédric Le Goater         break;
667da71b7e3SCédric Le Goater 
668da71b7e3SCédric Le Goater     case VST_NVP:  /* Not modeled */
669da71b7e3SCédric Le Goater     case VST_NVG:  /* Not modeled */
670da71b7e3SCédric Le Goater     case VST_NVC:  /* Not modeled */
671da71b7e3SCédric Le Goater     case VST_IC:   /* Not modeled */
672da71b7e3SCédric Le Goater     case VST_SYNC: /* Not modeled */
673da71b7e3SCédric Le Goater     case VST_ERQ:  /* Not modeled */
674da71b7e3SCédric Le Goater         break;
675da71b7e3SCédric Le Goater 
676da71b7e3SCédric Le Goater     default:
677da71b7e3SCédric Le Goater         g_assert_not_reached();
678da71b7e3SCédric Le Goater     }
679da71b7e3SCédric Le Goater }
680da71b7e3SCédric Le Goater 
681da71b7e3SCédric Le Goater /*
682da71b7e3SCédric Le Goater  * Both PC and VC sub-engines are configured as each use the Virtual
683da71b7e3SCédric Le Goater  * Structure Tables
684da71b7e3SCédric Le Goater  */
685da71b7e3SCédric Le Goater static void pnv_xive2_vst_set_data(PnvXive2 *xive, uint64_t vsd)
686da71b7e3SCédric Le Goater {
687da71b7e3SCédric Le Goater     uint8_t mode = GETFIELD(VSD_MODE, vsd);
688da71b7e3SCédric Le Goater     uint8_t type = GETFIELD(VC_VSD_TABLE_SELECT,
689da71b7e3SCédric Le Goater                             xive->vc_regs[VC_VSD_TABLE_ADDR >> 3]);
690da71b7e3SCédric Le Goater     uint8_t blk = GETFIELD(VC_VSD_TABLE_ADDRESS,
691da71b7e3SCédric Le Goater                            xive->vc_regs[VC_VSD_TABLE_ADDR >> 3]);
692da71b7e3SCédric Le Goater     uint64_t vst_addr = vsd & VSD_ADDRESS_MASK;
693da71b7e3SCédric Le Goater 
694da71b7e3SCédric Le Goater     if (type > VST_ERQ) {
695da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid table type %d", type);
696da71b7e3SCédric Le Goater         return;
697da71b7e3SCédric Le Goater     }
698da71b7e3SCédric Le Goater 
699da71b7e3SCédric Le Goater     if (blk >= vst_infos[type].max_blocks) {
700da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid block id %d for"
701da71b7e3SCédric Le Goater                       " %s table", blk, vst_infos[type].name);
702da71b7e3SCédric Le Goater         return;
703da71b7e3SCédric Le Goater     }
704da71b7e3SCédric Le Goater 
705da71b7e3SCédric Le Goater     if (!vst_addr) {
706da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid %s table address",
707da71b7e3SCédric Le Goater                    vst_infos[type].name);
708da71b7e3SCédric Le Goater         return;
709da71b7e3SCédric Le Goater     }
710da71b7e3SCédric Le Goater 
711da71b7e3SCédric Le Goater     switch (mode) {
712da71b7e3SCédric Le Goater     case VSD_MODE_FORWARD:
713da71b7e3SCédric Le Goater         xive->vsds[type][blk] = vsd;
714da71b7e3SCédric Le Goater         break;
715da71b7e3SCédric Le Goater 
716da71b7e3SCédric Le Goater     case VSD_MODE_EXCLUSIVE:
717da71b7e3SCédric Le Goater         pnv_xive2_vst_set_exclusive(xive, type, blk, vsd);
718da71b7e3SCédric Le Goater         break;
719da71b7e3SCédric Le Goater 
720da71b7e3SCédric Le Goater     default:
721da71b7e3SCédric Le Goater         xive2_error(xive, "VST: unsupported table mode %d", mode);
722da71b7e3SCédric Le Goater         return;
723da71b7e3SCédric Le Goater     }
724da71b7e3SCédric Le Goater }
725da71b7e3SCédric Le Goater 
726da71b7e3SCédric Le Goater /*
727da71b7e3SCédric Le Goater  * MMIO handlers
728da71b7e3SCédric Le Goater  */
729da71b7e3SCédric Le Goater 
730da71b7e3SCédric Le Goater 
731da71b7e3SCédric Le Goater /*
732da71b7e3SCédric Le Goater  * IC BAR layout
733da71b7e3SCédric Le Goater  *
734da71b7e3SCédric Le Goater  * Page 0: Internal CQ register accesses (reads & writes)
735da71b7e3SCédric Le Goater  * Page 1: Internal PC register accesses (reads & writes)
736da71b7e3SCédric Le Goater  * Page 2: Internal VC register accesses (reads & writes)
737da71b7e3SCédric Le Goater  * Page 3: Internal TCTXT (TIMA) reg accesses (read & writes)
738da71b7e3SCédric Le Goater  * Page 4: Notify Port page (writes only, w/data),
739da71b7e3SCédric Le Goater  * Page 5: Reserved
740da71b7e3SCédric Le Goater  * Page 6: Sync Poll page (writes only, dataless)
741da71b7e3SCédric Le Goater  * Page 7: Sync Inject page (writes only, dataless)
742da71b7e3SCédric Le Goater  * Page 8: LSI Trigger page (writes only, dataless)
743da71b7e3SCédric Le Goater  * Page 9: LSI SB Management page (reads & writes dataless)
744da71b7e3SCédric Le Goater  * Pages 10-255: Reserved
745da71b7e3SCédric Le Goater  * Pages 256-383: Direct mapped Thread Context Area (reads & writes)
746da71b7e3SCédric Le Goater  *                covering the 128 threads in P10.
747da71b7e3SCédric Le Goater  * Pages 384-511: Reserved
748da71b7e3SCédric Le Goater  */
749da71b7e3SCédric Le Goater typedef struct PnvXive2Region {
750da71b7e3SCédric Le Goater     const char *name;
751da71b7e3SCédric Le Goater     uint32_t pgoff;
752da71b7e3SCédric Le Goater     uint32_t pgsize;
753da71b7e3SCédric Le Goater     const MemoryRegionOps *ops;
754da71b7e3SCédric Le Goater } PnvXive2Region;
755da71b7e3SCédric Le Goater 
756da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_cq_ops;
757da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_pc_ops;
758da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_vc_ops;
759da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_tctxt_ops;
760da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_notify_ops;
761da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_sync_ops;
762da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_lsi_ops;
763da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_tm_indirect_ops;
764da71b7e3SCédric Le Goater 
765da71b7e3SCédric Le Goater /* 512 pages. 4K: 2M range, 64K: 32M range */
766da71b7e3SCédric Le Goater static const PnvXive2Region pnv_xive2_ic_regions[] = {
767da71b7e3SCédric Le Goater     { "xive-ic-cq",        0,   1,   &pnv_xive2_ic_cq_ops     },
768da71b7e3SCédric Le Goater     { "xive-ic-vc",        1,   1,   &pnv_xive2_ic_vc_ops     },
769da71b7e3SCédric Le Goater     { "xive-ic-pc",        2,   1,   &pnv_xive2_ic_pc_ops     },
770da71b7e3SCédric Le Goater     { "xive-ic-tctxt",     3,   1,   &pnv_xive2_ic_tctxt_ops  },
771da71b7e3SCédric Le Goater     { "xive-ic-notify",    4,   1,   &pnv_xive2_ic_notify_ops },
772da71b7e3SCédric Le Goater     /* page 5 reserved */
773da71b7e3SCédric Le Goater     { "xive-ic-sync",      6,   2,   &pnv_xive2_ic_sync_ops   },
774da71b7e3SCédric Le Goater     { "xive-ic-lsi",       8,   2,   &pnv_xive2_ic_lsi_ops    },
775da71b7e3SCédric Le Goater     /* pages 10-255 reserved */
776da71b7e3SCédric Le Goater     { "xive-ic-tm-indirect", 256, 128, &pnv_xive2_ic_tm_indirect_ops  },
777da71b7e3SCédric Le Goater     /* pages 384-511 reserved */
778da71b7e3SCédric Le Goater };
779da71b7e3SCédric Le Goater 
780da71b7e3SCédric Le Goater /*
781da71b7e3SCédric Le Goater  * CQ operations
782da71b7e3SCédric Le Goater  */
783da71b7e3SCédric Le Goater 
784da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_cq_read(void *opaque, hwaddr offset,
785da71b7e3SCédric Le Goater                                         unsigned size)
786da71b7e3SCédric Le Goater {
787da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
788da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
789da71b7e3SCédric Le Goater     uint64_t val = 0;
790da71b7e3SCédric Le Goater 
791da71b7e3SCédric Le Goater     switch (offset) {
792da71b7e3SCédric Le Goater     case CQ_XIVE_CAP: /* Set at reset */
793da71b7e3SCédric Le Goater     case CQ_XIVE_CFG:
794da71b7e3SCédric Le Goater         val = xive->cq_regs[reg];
795da71b7e3SCédric Le Goater         break;
796da71b7e3SCédric Le Goater     case CQ_MSGSND: /* TODO check the #cores of the machine */
797da71b7e3SCédric Le Goater         val = 0xffffffff00000000;
798da71b7e3SCédric Le Goater         break;
799da71b7e3SCédric Le Goater     case CQ_CFG_PB_GEN:
800da71b7e3SCédric Le Goater         val = CQ_CFG_PB_GEN_PB_INIT; /* TODO: fix CQ_CFG_PB_GEN default value */
801da71b7e3SCédric Le Goater         break;
802da71b7e3SCédric Le Goater     default:
803da71b7e3SCédric Le Goater         xive2_error(xive, "CQ: invalid read @%"HWADDR_PRIx, offset);
804da71b7e3SCédric Le Goater     }
805da71b7e3SCédric Le Goater 
806da71b7e3SCédric Le Goater     return val;
807da71b7e3SCédric Le Goater }
808da71b7e3SCédric Le Goater 
809da71b7e3SCédric Le Goater static uint64_t pnv_xive2_bar_size(uint64_t val)
810da71b7e3SCédric Le Goater {
811da71b7e3SCédric Le Goater     return 1ull << (GETFIELD(CQ_BAR_RANGE, val) + 24);
812da71b7e3SCédric Le Goater }
813da71b7e3SCédric Le Goater 
814da71b7e3SCédric Le Goater static void pnv_xive2_ic_cq_write(void *opaque, hwaddr offset,
815da71b7e3SCédric Le Goater                                   uint64_t val, unsigned size)
816da71b7e3SCédric Le Goater {
817da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
818da71b7e3SCédric Le Goater     MemoryRegion *sysmem = get_system_memory();
819da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
820da71b7e3SCédric Le Goater     int i;
821da71b7e3SCédric Le Goater 
822da71b7e3SCédric Le Goater     switch (offset) {
823da71b7e3SCédric Le Goater     case CQ_XIVE_CFG:
824da71b7e3SCédric Le Goater     case CQ_RST_CTL: /* TODO: reset all BARs */
825da71b7e3SCédric Le Goater         break;
826da71b7e3SCédric Le Goater 
827da71b7e3SCédric Le Goater     case CQ_IC_BAR:
828da71b7e3SCédric Le Goater         xive->ic_shift = val & CQ_IC_BAR_64K ? 16 : 12;
829da71b7e3SCédric Le Goater         if (!(val & CQ_IC_BAR_VALID)) {
830da71b7e3SCédric Le Goater             xive->ic_base = 0;
831da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_IC_BAR_VALID) {
832da71b7e3SCédric Le Goater                 for (i = 0; i < ARRAY_SIZE(xive->ic_mmios); i++) {
833da71b7e3SCédric Le Goater                     memory_region_del_subregion(&xive->ic_mmio,
834da71b7e3SCédric Le Goater                                                 &xive->ic_mmios[i]);
835da71b7e3SCédric Le Goater                 }
836da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->ic_mmio);
837da71b7e3SCédric Le Goater             }
838da71b7e3SCédric Le Goater         } else {
839da71b7e3SCédric Le Goater             xive->ic_base = val & ~(CQ_IC_BAR_VALID | CQ_IC_BAR_64K);
840da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_IC_BAR_VALID)) {
841da71b7e3SCédric Le Goater                 for (i = 0; i < ARRAY_SIZE(xive->ic_mmios); i++) {
842da71b7e3SCédric Le Goater                     memory_region_add_subregion(&xive->ic_mmio,
843da71b7e3SCédric Le Goater                                pnv_xive2_ic_regions[i].pgoff << xive->ic_shift,
844da71b7e3SCédric Le Goater                                &xive->ic_mmios[i]);
845da71b7e3SCédric Le Goater                 }
846da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->ic_base,
847da71b7e3SCédric Le Goater                                             &xive->ic_mmio);
848da71b7e3SCédric Le Goater             }
849da71b7e3SCédric Le Goater         }
850da71b7e3SCédric Le Goater         break;
851da71b7e3SCédric Le Goater 
852da71b7e3SCédric Le Goater     case CQ_TM_BAR:
853da71b7e3SCédric Le Goater         xive->tm_shift = val & CQ_TM_BAR_64K ? 16 : 12;
854da71b7e3SCédric Le Goater         if (!(val & CQ_TM_BAR_VALID)) {
855da71b7e3SCédric Le Goater             xive->tm_base = 0;
856da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_TM_BAR_VALID) {
857da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->tm_mmio);
858da71b7e3SCédric Le Goater             }
859da71b7e3SCédric Le Goater         } else {
860da71b7e3SCédric Le Goater             xive->tm_base = val & ~(CQ_TM_BAR_VALID | CQ_TM_BAR_64K);
861da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_TM_BAR_VALID)) {
862da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->tm_base,
863da71b7e3SCédric Le Goater                                             &xive->tm_mmio);
864da71b7e3SCédric Le Goater             }
865da71b7e3SCédric Le Goater         }
866da71b7e3SCédric Le Goater         break;
867da71b7e3SCédric Le Goater 
868da71b7e3SCédric Le Goater     case CQ_ESB_BAR:
869da71b7e3SCédric Le Goater         xive->esb_shift = val & CQ_BAR_64K ? 16 : 12;
870da71b7e3SCédric Le Goater         if (!(val & CQ_BAR_VALID)) {
871da71b7e3SCédric Le Goater             xive->esb_base = 0;
872da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_BAR_VALID) {
873da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->esb_mmio);
874da71b7e3SCédric Le Goater             }
875da71b7e3SCédric Le Goater         } else {
876da71b7e3SCédric Le Goater             xive->esb_base = val & CQ_BAR_ADDR;
877da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_BAR_VALID)) {
878da71b7e3SCédric Le Goater                 memory_region_set_size(&xive->esb_mmio,
879da71b7e3SCédric Le Goater                                        pnv_xive2_bar_size(val));
880da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->esb_base,
881da71b7e3SCédric Le Goater                                             &xive->esb_mmio);
882da71b7e3SCédric Le Goater             }
883da71b7e3SCédric Le Goater         }
884da71b7e3SCédric Le Goater         break;
885da71b7e3SCédric Le Goater 
886da71b7e3SCédric Le Goater     case CQ_END_BAR:
887da71b7e3SCédric Le Goater         xive->end_shift = val & CQ_BAR_64K ? 16 : 12;
888da71b7e3SCédric Le Goater         if (!(val & CQ_BAR_VALID)) {
889da71b7e3SCédric Le Goater             xive->end_base = 0;
890da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_BAR_VALID) {
891da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->end_mmio);
892da71b7e3SCédric Le Goater             }
893da71b7e3SCédric Le Goater         } else {
894da71b7e3SCédric Le Goater             xive->end_base = val & CQ_BAR_ADDR;
895da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_BAR_VALID)) {
896da71b7e3SCédric Le Goater                 memory_region_set_size(&xive->end_mmio,
897da71b7e3SCédric Le Goater                                        pnv_xive2_bar_size(val));
898da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->end_base,
899da71b7e3SCédric Le Goater                                             &xive->end_mmio);
900da71b7e3SCédric Le Goater             }
901da71b7e3SCédric Le Goater         }
902da71b7e3SCédric Le Goater         break;
903da71b7e3SCédric Le Goater 
904da71b7e3SCédric Le Goater     case CQ_NVC_BAR:
905da71b7e3SCédric Le Goater         xive->nvc_shift = val & CQ_BAR_64K ? 16 : 12;
906da71b7e3SCédric Le Goater         if (!(val & CQ_BAR_VALID)) {
907da71b7e3SCédric Le Goater             xive->nvc_base = 0;
908da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_BAR_VALID) {
909da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->nvc_mmio);
910da71b7e3SCédric Le Goater             }
911da71b7e3SCédric Le Goater         } else {
912da71b7e3SCédric Le Goater             xive->nvc_base = val & CQ_BAR_ADDR;
913da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_BAR_VALID)) {
914da71b7e3SCédric Le Goater                 memory_region_set_size(&xive->nvc_mmio,
915da71b7e3SCédric Le Goater                                        pnv_xive2_bar_size(val));
916da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->nvc_base,
917da71b7e3SCédric Le Goater                                             &xive->nvc_mmio);
918da71b7e3SCédric Le Goater             }
919da71b7e3SCédric Le Goater         }
920da71b7e3SCédric Le Goater         break;
921da71b7e3SCédric Le Goater 
922da71b7e3SCédric Le Goater     case CQ_NVPG_BAR:
923da71b7e3SCédric Le Goater         xive->nvpg_shift = val & CQ_BAR_64K ? 16 : 12;
924da71b7e3SCédric Le Goater         if (!(val & CQ_BAR_VALID)) {
925da71b7e3SCédric Le Goater             xive->nvpg_base = 0;
926da71b7e3SCédric Le Goater             if (xive->cq_regs[reg] & CQ_BAR_VALID) {
927da71b7e3SCédric Le Goater                 memory_region_del_subregion(sysmem, &xive->nvpg_mmio);
928da71b7e3SCédric Le Goater             }
929da71b7e3SCédric Le Goater         } else {
930da71b7e3SCédric Le Goater             xive->nvpg_base = val & CQ_BAR_ADDR;
931da71b7e3SCédric Le Goater             if (!(xive->cq_regs[reg] & CQ_BAR_VALID)) {
932da71b7e3SCédric Le Goater                 memory_region_set_size(&xive->nvpg_mmio,
933da71b7e3SCédric Le Goater                                        pnv_xive2_bar_size(val));
934da71b7e3SCédric Le Goater                 memory_region_add_subregion(sysmem, xive->nvpg_base,
935da71b7e3SCédric Le Goater                                             &xive->nvpg_mmio);
936da71b7e3SCédric Le Goater             }
937da71b7e3SCédric Le Goater         }
938da71b7e3SCédric Le Goater         break;
939da71b7e3SCédric Le Goater 
940da71b7e3SCédric Le Goater     case CQ_TAR: /* Set Translation Table Address */
941da71b7e3SCédric Le Goater         break;
942da71b7e3SCédric Le Goater     case CQ_TDR: /* Set Translation Table Data */
943da71b7e3SCédric Le Goater         pnv_xive2_stt_set_data(xive, val);
944da71b7e3SCédric Le Goater         break;
945da71b7e3SCédric Le Goater     case CQ_FIRMASK_OR: /* FIR error reporting */
946da71b7e3SCédric Le Goater         break;
947da71b7e3SCédric Le Goater     default:
948da71b7e3SCédric Le Goater         xive2_error(xive, "CQ: invalid write 0x%"HWADDR_PRIx, offset);
949da71b7e3SCédric Le Goater         return;
950da71b7e3SCédric Le Goater     }
951da71b7e3SCédric Le Goater 
952da71b7e3SCédric Le Goater     xive->cq_regs[reg] = val;
953da71b7e3SCédric Le Goater }
954da71b7e3SCédric Le Goater 
955da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_cq_ops = {
956da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_cq_read,
957da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_cq_write,
958da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
959da71b7e3SCédric Le Goater     .valid = {
960da71b7e3SCédric Le Goater         .min_access_size = 8,
961da71b7e3SCédric Le Goater         .max_access_size = 8,
962da71b7e3SCédric Le Goater     },
963da71b7e3SCédric Le Goater     .impl = {
964da71b7e3SCédric Le Goater         .min_access_size = 8,
965da71b7e3SCédric Le Goater         .max_access_size = 8,
966da71b7e3SCédric Le Goater     },
967da71b7e3SCédric Le Goater };
968da71b7e3SCédric Le Goater 
969da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_vc_read(void *opaque, hwaddr offset,
970da71b7e3SCédric Le Goater                                      unsigned size)
971da71b7e3SCédric Le Goater {
972da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
973da71b7e3SCédric Le Goater     uint64_t val = 0;
974da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
975da71b7e3SCédric Le Goater 
976da71b7e3SCédric Le Goater     switch (offset) {
977da71b7e3SCédric Le Goater     /*
978da71b7e3SCédric Le Goater      * VSD table settings.
979da71b7e3SCédric Le Goater      */
980da71b7e3SCédric Le Goater     case VC_VSD_TABLE_ADDR:
981da71b7e3SCédric Le Goater     case VC_VSD_TABLE_DATA:
982da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
983da71b7e3SCédric Le Goater         break;
984da71b7e3SCédric Le Goater 
985da71b7e3SCédric Le Goater     /*
986da71b7e3SCédric Le Goater      * ESB cache updates (not modeled)
987da71b7e3SCédric Le Goater      */
988da71b7e3SCédric Le Goater     case VC_ESBC_FLUSH_CTRL:
989da71b7e3SCédric Le Goater         xive->vc_regs[reg] &= ~VC_ESBC_FLUSH_CTRL_POLL_VALID;
990da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
991da71b7e3SCédric Le Goater         break;
992da71b7e3SCédric Le Goater 
99332af01f8SFrederic Barrat     case VC_ESBC_CFG:
99432af01f8SFrederic Barrat         val = xive->vc_regs[reg];
99532af01f8SFrederic Barrat         break;
99632af01f8SFrederic Barrat 
997da71b7e3SCédric Le Goater     /*
998da71b7e3SCédric Le Goater      * EAS cache updates (not modeled)
999da71b7e3SCédric Le Goater      */
1000da71b7e3SCédric Le Goater     case VC_EASC_FLUSH_CTRL:
1001da71b7e3SCédric Le Goater         xive->vc_regs[reg] &= ~VC_EASC_FLUSH_CTRL_POLL_VALID;
1002da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1003da71b7e3SCédric Le Goater         break;
1004da71b7e3SCédric Le Goater 
1005da71b7e3SCédric Le Goater     /*
1006da71b7e3SCédric Le Goater      * END cache updates
1007da71b7e3SCédric Le Goater      */
1008da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_SPEC:
1009da71b7e3SCédric Le Goater         xive->vc_regs[reg] &= ~(VC_ENDC_WATCH_FULL | VC_ENDC_WATCH_CONFLICT);
1010da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1011da71b7e3SCédric Le Goater         break;
1012da71b7e3SCédric Le Goater 
1013da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_DATA0:
1014da71b7e3SCédric Le Goater         /*
1015da71b7e3SCédric Le Goater          * Load DATA registers from cache with data requested by the
1016da71b7e3SCédric Le Goater          * SPEC register
1017da71b7e3SCédric Le Goater          */
1018da71b7e3SCédric Le Goater         pnv_xive2_end_cache_load(xive);
1019da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1020da71b7e3SCédric Le Goater         break;
1021da71b7e3SCédric Le Goater 
1022da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_DATA1 ... VC_ENDC_WATCH0_DATA3:
1023da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1024da71b7e3SCédric Le Goater         break;
1025da71b7e3SCédric Le Goater 
1026da71b7e3SCédric Le Goater     case VC_ENDC_FLUSH_CTRL:
1027da71b7e3SCédric Le Goater         xive->vc_regs[reg] &= ~VC_ENDC_FLUSH_CTRL_POLL_VALID;
1028da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1029da71b7e3SCédric Le Goater         break;
1030da71b7e3SCédric Le Goater 
1031da71b7e3SCédric Le Goater     /*
1032da71b7e3SCédric Le Goater      * Indirect invalidation
1033da71b7e3SCédric Le Goater      */
1034da71b7e3SCédric Le Goater     case VC_AT_MACRO_KILL_MASK:
1035da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1036da71b7e3SCédric Le Goater         break;
1037da71b7e3SCédric Le Goater 
1038da71b7e3SCédric Le Goater     case VC_AT_MACRO_KILL:
1039da71b7e3SCédric Le Goater         xive->vc_regs[reg] &= ~VC_AT_MACRO_KILL_VALID;
1040da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1041da71b7e3SCédric Le Goater         break;
1042da71b7e3SCédric Le Goater 
1043da71b7e3SCédric Le Goater     /*
1044da71b7e3SCédric Le Goater      * Interrupt fifo overflow in memory backing store (Not modeled)
1045da71b7e3SCédric Le Goater      */
1046da71b7e3SCédric Le Goater     case VC_QUEUES_CFG_REM0 ... VC_QUEUES_CFG_REM6:
1047da71b7e3SCédric Le Goater         val = xive->vc_regs[reg];
1048da71b7e3SCédric Le Goater         break;
1049da71b7e3SCédric Le Goater 
1050da71b7e3SCédric Le Goater     /*
1051da71b7e3SCédric Le Goater      * Synchronisation
1052da71b7e3SCédric Le Goater      */
1053da71b7e3SCédric Le Goater     case VC_ENDC_SYNC_DONE:
1054da71b7e3SCédric Le Goater         val = VC_ENDC_SYNC_POLL_DONE;
1055da71b7e3SCédric Le Goater         break;
1056da71b7e3SCédric Le Goater     default:
1057da71b7e3SCédric Le Goater         xive2_error(xive, "VC: invalid read @%"HWADDR_PRIx, offset);
1058da71b7e3SCédric Le Goater     }
1059da71b7e3SCédric Le Goater 
1060da71b7e3SCédric Le Goater     return val;
1061da71b7e3SCédric Le Goater }
1062da71b7e3SCédric Le Goater 
1063da71b7e3SCédric Le Goater static void pnv_xive2_ic_vc_write(void *opaque, hwaddr offset,
1064da71b7e3SCédric Le Goater                                   uint64_t val, unsigned size)
1065da71b7e3SCédric Le Goater {
1066da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1067da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
1068da71b7e3SCédric Le Goater 
1069da71b7e3SCédric Le Goater     switch (offset) {
1070da71b7e3SCédric Le Goater     /*
1071da71b7e3SCédric Le Goater      * VSD table settings.
1072da71b7e3SCédric Le Goater      */
1073da71b7e3SCédric Le Goater     case VC_VSD_TABLE_ADDR:
1074da71b7e3SCédric Le Goater        break;
1075da71b7e3SCédric Le Goater     case VC_VSD_TABLE_DATA:
1076da71b7e3SCédric Le Goater         pnv_xive2_vst_set_data(xive, val);
1077da71b7e3SCédric Le Goater         break;
1078da71b7e3SCédric Le Goater 
1079da71b7e3SCédric Le Goater     /*
1080da71b7e3SCédric Le Goater      * ESB cache updates (not modeled)
1081da71b7e3SCédric Le Goater      */
1082da71b7e3SCédric Le Goater     /* case VC_ESBC_FLUSH_CTRL: */
1083da71b7e3SCédric Le Goater     case VC_ESBC_FLUSH_POLL:
1084da71b7e3SCédric Le Goater         xive->vc_regs[VC_ESBC_FLUSH_CTRL >> 3] |= VC_ESBC_FLUSH_CTRL_POLL_VALID;
1085da71b7e3SCédric Le Goater         /* ESB update */
1086da71b7e3SCédric Le Goater         break;
1087da71b7e3SCédric Le Goater 
108832af01f8SFrederic Barrat     case VC_ESBC_CFG:
108932af01f8SFrederic Barrat         break;
109032af01f8SFrederic Barrat 
1091da71b7e3SCédric Le Goater     /*
1092da71b7e3SCédric Le Goater      * EAS cache updates (not modeled)
1093da71b7e3SCédric Le Goater      */
1094da71b7e3SCédric Le Goater     /* case VC_EASC_FLUSH_CTRL: */
1095da71b7e3SCédric Le Goater     case VC_EASC_FLUSH_POLL:
1096da71b7e3SCédric Le Goater         xive->vc_regs[VC_EASC_FLUSH_CTRL >> 3] |= VC_EASC_FLUSH_CTRL_POLL_VALID;
1097da71b7e3SCédric Le Goater         /* EAS update */
1098da71b7e3SCédric Le Goater         break;
1099da71b7e3SCédric Le Goater 
1100da71b7e3SCédric Le Goater     /*
1101da71b7e3SCédric Le Goater      * END cache updates
1102da71b7e3SCédric Le Goater      */
1103da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_SPEC:
1104da71b7e3SCédric Le Goater          val &= ~VC_ENDC_WATCH_CONFLICT; /* HW will set this bit */
1105da71b7e3SCédric Le Goater         break;
1106da71b7e3SCédric Le Goater 
1107da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_DATA1 ... VC_ENDC_WATCH0_DATA3:
1108da71b7e3SCédric Le Goater         break;
1109da71b7e3SCédric Le Goater     case VC_ENDC_WATCH0_DATA0:
1110da71b7e3SCédric Le Goater         /* writing to DATA0 triggers the cache write */
1111da71b7e3SCédric Le Goater         xive->vc_regs[reg] = val;
1112da71b7e3SCédric Le Goater         pnv_xive2_end_update(xive);
1113da71b7e3SCédric Le Goater         break;
1114da71b7e3SCédric Le Goater 
1115da71b7e3SCédric Le Goater 
1116da71b7e3SCédric Le Goater     /* case VC_ENDC_FLUSH_CTRL: */
1117da71b7e3SCédric Le Goater     case VC_ENDC_FLUSH_POLL:
1118da71b7e3SCédric Le Goater         xive->vc_regs[VC_ENDC_FLUSH_CTRL >> 3] |= VC_ENDC_FLUSH_CTRL_POLL_VALID;
1119da71b7e3SCédric Le Goater         break;
1120da71b7e3SCédric Le Goater 
1121da71b7e3SCédric Le Goater     /*
1122da71b7e3SCédric Le Goater      * Indirect invalidation
1123da71b7e3SCédric Le Goater      */
1124da71b7e3SCédric Le Goater     case VC_AT_MACRO_KILL:
1125da71b7e3SCédric Le Goater     case VC_AT_MACRO_KILL_MASK:
1126da71b7e3SCédric Le Goater         break;
1127da71b7e3SCédric Le Goater 
1128da71b7e3SCédric Le Goater     /*
1129da71b7e3SCédric Le Goater      * Interrupt fifo overflow in memory backing store (Not modeled)
1130da71b7e3SCédric Le Goater      */
1131da71b7e3SCédric Le Goater     case VC_QUEUES_CFG_REM0 ... VC_QUEUES_CFG_REM6:
1132da71b7e3SCédric Le Goater         break;
1133da71b7e3SCédric Le Goater 
1134da71b7e3SCédric Le Goater     /*
1135da71b7e3SCédric Le Goater      * Synchronisation
1136da71b7e3SCédric Le Goater      */
1137da71b7e3SCédric Le Goater     case VC_ENDC_SYNC_DONE:
1138da71b7e3SCédric Le Goater         break;
1139da71b7e3SCédric Le Goater 
1140da71b7e3SCédric Le Goater     default:
1141da71b7e3SCédric Le Goater         xive2_error(xive, "VC: invalid write @%"HWADDR_PRIx, offset);
1142da71b7e3SCédric Le Goater         return;
1143da71b7e3SCédric Le Goater     }
1144da71b7e3SCédric Le Goater 
1145da71b7e3SCédric Le Goater     xive->vc_regs[reg] = val;
1146da71b7e3SCédric Le Goater }
1147da71b7e3SCédric Le Goater 
1148da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_vc_ops = {
1149da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_vc_read,
1150da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_vc_write,
1151da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1152da71b7e3SCédric Le Goater     .valid = {
1153da71b7e3SCédric Le Goater         .min_access_size = 8,
1154da71b7e3SCédric Le Goater         .max_access_size = 8,
1155da71b7e3SCédric Le Goater     },
1156da71b7e3SCédric Le Goater     .impl = {
1157da71b7e3SCédric Le Goater         .min_access_size = 8,
1158da71b7e3SCédric Le Goater         .max_access_size = 8,
1159da71b7e3SCédric Le Goater     },
1160da71b7e3SCédric Le Goater };
1161da71b7e3SCédric Le Goater 
1162da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_pc_read(void *opaque, hwaddr offset,
1163da71b7e3SCédric Le Goater                                      unsigned size)
1164da71b7e3SCédric Le Goater {
1165da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1166da71b7e3SCédric Le Goater     uint64_t val = -1;
1167da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
1168da71b7e3SCédric Le Goater 
1169da71b7e3SCédric Le Goater     switch (offset) {
1170da71b7e3SCédric Le Goater     /*
1171da71b7e3SCédric Le Goater      * VSD table settings.
1172da71b7e3SCédric Le Goater      */
1173da71b7e3SCédric Le Goater     case PC_VSD_TABLE_ADDR:
1174da71b7e3SCédric Le Goater     case PC_VSD_TABLE_DATA:
1175da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1176da71b7e3SCédric Le Goater         break;
1177da71b7e3SCédric Le Goater 
1178da71b7e3SCédric Le Goater     /*
1179da71b7e3SCédric Le Goater      * cache updates
1180da71b7e3SCédric Le Goater      */
1181da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_SPEC:
1182da71b7e3SCédric Le Goater         xive->pc_regs[reg] &= ~(PC_NXC_WATCH_FULL | PC_NXC_WATCH_CONFLICT);
1183da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1184da71b7e3SCédric Le Goater         break;
1185da71b7e3SCédric Le Goater 
1186da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_DATA0:
1187da71b7e3SCédric Le Goater        /*
1188da71b7e3SCédric Le Goater         * Load DATA registers from cache with data requested by the
1189da71b7e3SCédric Le Goater         * SPEC register
1190da71b7e3SCédric Le Goater         */
1191da71b7e3SCédric Le Goater         pnv_xive2_nvp_cache_load(xive);
1192da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1193da71b7e3SCédric Le Goater         break;
1194da71b7e3SCédric Le Goater 
1195da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_DATA1 ... PC_NXC_WATCH0_DATA3:
1196da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1197da71b7e3SCédric Le Goater         break;
1198da71b7e3SCédric Le Goater 
1199da71b7e3SCédric Le Goater     case PC_NXC_FLUSH_CTRL:
1200da71b7e3SCédric Le Goater         xive->pc_regs[reg] &= ~PC_NXC_FLUSH_CTRL_POLL_VALID;
1201da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1202da71b7e3SCédric Le Goater         break;
1203da71b7e3SCédric Le Goater 
1204da71b7e3SCédric Le Goater     /*
1205da71b7e3SCédric Le Goater      * Indirect invalidation
1206da71b7e3SCédric Le Goater      */
1207da71b7e3SCédric Le Goater     case PC_AT_KILL:
1208da71b7e3SCédric Le Goater         xive->pc_regs[reg] &= ~PC_AT_KILL_VALID;
1209da71b7e3SCédric Le Goater         val = xive->pc_regs[reg];
1210da71b7e3SCédric Le Goater         break;
1211da71b7e3SCédric Le Goater 
1212da71b7e3SCédric Le Goater     default:
1213da71b7e3SCédric Le Goater         xive2_error(xive, "PC: invalid read @%"HWADDR_PRIx, offset);
1214da71b7e3SCédric Le Goater     }
1215da71b7e3SCédric Le Goater 
1216da71b7e3SCédric Le Goater     return val;
1217da71b7e3SCédric Le Goater }
1218da71b7e3SCédric Le Goater 
1219da71b7e3SCédric Le Goater static void pnv_xive2_ic_pc_write(void *opaque, hwaddr offset,
1220da71b7e3SCédric Le Goater                                   uint64_t val, unsigned size)
1221da71b7e3SCédric Le Goater {
1222da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1223da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
1224da71b7e3SCédric Le Goater 
1225da71b7e3SCédric Le Goater     switch (offset) {
1226da71b7e3SCédric Le Goater 
1227da71b7e3SCédric Le Goater     /*
1228da71b7e3SCédric Le Goater      * VSD table settings. Only taken into account in the VC
1229da71b7e3SCédric Le Goater      * sub-engine because the Xive2Router model combines both VC and PC
1230da71b7e3SCédric Le Goater      * sub-engines
1231da71b7e3SCédric Le Goater      */
1232da71b7e3SCédric Le Goater     case PC_VSD_TABLE_ADDR:
1233da71b7e3SCédric Le Goater     case PC_VSD_TABLE_DATA:
1234da71b7e3SCédric Le Goater         break;
1235da71b7e3SCédric Le Goater 
1236da71b7e3SCédric Le Goater     /*
1237da71b7e3SCédric Le Goater      * cache updates
1238da71b7e3SCédric Le Goater      */
1239da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_SPEC:
1240da71b7e3SCédric Le Goater         val &= ~PC_NXC_WATCH_CONFLICT; /* HW will set this bit */
1241da71b7e3SCédric Le Goater         break;
1242da71b7e3SCédric Le Goater 
1243da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_DATA1 ... PC_NXC_WATCH0_DATA3:
1244da71b7e3SCédric Le Goater         break;
1245da71b7e3SCédric Le Goater     case PC_NXC_WATCH0_DATA0:
1246da71b7e3SCédric Le Goater         /* writing to DATA0 triggers the cache write */
1247da71b7e3SCédric Le Goater         xive->pc_regs[reg] = val;
1248da71b7e3SCédric Le Goater         pnv_xive2_nvp_update(xive);
1249da71b7e3SCédric Le Goater         break;
1250da71b7e3SCédric Le Goater 
1251da71b7e3SCédric Le Goater    /* case PC_NXC_FLUSH_CTRL: */
1252da71b7e3SCédric Le Goater     case PC_NXC_FLUSH_POLL:
1253da71b7e3SCédric Le Goater         xive->pc_regs[PC_NXC_FLUSH_CTRL >> 3] |= PC_NXC_FLUSH_CTRL_POLL_VALID;
1254da71b7e3SCédric Le Goater         break;
1255da71b7e3SCédric Le Goater 
1256da71b7e3SCédric Le Goater     /*
1257da71b7e3SCédric Le Goater      * Indirect invalidation
1258da71b7e3SCédric Le Goater      */
1259da71b7e3SCédric Le Goater     case PC_AT_KILL:
1260da71b7e3SCédric Le Goater     case PC_AT_KILL_MASK:
1261da71b7e3SCédric Le Goater         break;
1262da71b7e3SCédric Le Goater 
1263da71b7e3SCédric Le Goater     default:
1264da71b7e3SCédric Le Goater         xive2_error(xive, "PC: invalid write @%"HWADDR_PRIx, offset);
1265da71b7e3SCédric Le Goater         return;
1266da71b7e3SCédric Le Goater     }
1267da71b7e3SCédric Le Goater 
1268da71b7e3SCédric Le Goater     xive->pc_regs[reg] = val;
1269da71b7e3SCédric Le Goater }
1270da71b7e3SCédric Le Goater 
1271da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_pc_ops = {
1272da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_pc_read,
1273da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_pc_write,
1274da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1275da71b7e3SCédric Le Goater     .valid = {
1276da71b7e3SCédric Le Goater         .min_access_size = 8,
1277da71b7e3SCédric Le Goater         .max_access_size = 8,
1278da71b7e3SCédric Le Goater     },
1279da71b7e3SCédric Le Goater     .impl = {
1280da71b7e3SCédric Le Goater         .min_access_size = 8,
1281da71b7e3SCédric Le Goater         .max_access_size = 8,
1282da71b7e3SCédric Le Goater     },
1283da71b7e3SCédric Le Goater };
1284da71b7e3SCédric Le Goater 
1285da71b7e3SCédric Le Goater 
1286da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_tctxt_read(void *opaque, hwaddr offset,
1287da71b7e3SCédric Le Goater                                         unsigned size)
1288da71b7e3SCédric Le Goater {
1289da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1290da71b7e3SCédric Le Goater     uint64_t val = -1;
1291da71b7e3SCédric Le Goater     uint32_t reg = offset >> 3;
1292da71b7e3SCédric Le Goater 
1293da71b7e3SCédric Le Goater     switch (offset) {
1294da71b7e3SCédric Le Goater     /*
1295da71b7e3SCédric Le Goater      * XIVE2 hardware thread enablement
1296da71b7e3SCédric Le Goater      */
1297da71b7e3SCédric Le Goater     case TCTXT_EN0:
1298da71b7e3SCédric Le Goater     case TCTXT_EN1:
1299da71b7e3SCédric Le Goater         val = xive->tctxt_regs[reg];
1300da71b7e3SCédric Le Goater         break;
1301da71b7e3SCédric Le Goater 
1302da71b7e3SCédric Le Goater     case TCTXT_EN0_SET:
1303da71b7e3SCédric Le Goater     case TCTXT_EN0_RESET:
1304da71b7e3SCédric Le Goater         val = xive->tctxt_regs[TCTXT_EN0 >> 3];
1305da71b7e3SCédric Le Goater         break;
1306da71b7e3SCédric Le Goater     case TCTXT_EN1_SET:
1307da71b7e3SCédric Le Goater     case TCTXT_EN1_RESET:
1308da71b7e3SCédric Le Goater         val = xive->tctxt_regs[TCTXT_EN1 >> 3];
1309da71b7e3SCédric Le Goater         break;
1310cce84fc9SFrederic Barrat     case TCTXT_CFG:
1311cce84fc9SFrederic Barrat         val = xive->tctxt_regs[reg];
1312cce84fc9SFrederic Barrat         break;
1313da71b7e3SCédric Le Goater     default:
1314da71b7e3SCédric Le Goater         xive2_error(xive, "TCTXT: invalid read @%"HWADDR_PRIx, offset);
1315da71b7e3SCédric Le Goater     }
1316da71b7e3SCédric Le Goater 
1317da71b7e3SCédric Le Goater     return val;
1318da71b7e3SCédric Le Goater }
1319da71b7e3SCédric Le Goater 
1320da71b7e3SCédric Le Goater static void pnv_xive2_ic_tctxt_write(void *opaque, hwaddr offset,
1321da71b7e3SCédric Le Goater                                      uint64_t val, unsigned size)
1322da71b7e3SCédric Le Goater {
1323da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1324cce84fc9SFrederic Barrat     uint32_t reg = offset >> 3;
1325da71b7e3SCédric Le Goater 
1326da71b7e3SCédric Le Goater     switch (offset) {
1327da71b7e3SCédric Le Goater     /*
1328da71b7e3SCédric Le Goater      * XIVE2 hardware thread enablement
1329da71b7e3SCédric Le Goater      */
1330da71b7e3SCédric Le Goater     case TCTXT_EN0: /* Physical Thread Enable */
1331da71b7e3SCédric Le Goater     case TCTXT_EN1: /* Physical Thread Enable (fused core) */
1332f0fc1c29SFrederic Barrat         xive->tctxt_regs[reg] = val;
1333da71b7e3SCédric Le Goater         break;
1334da71b7e3SCédric Le Goater 
1335da71b7e3SCédric Le Goater     case TCTXT_EN0_SET:
1336da71b7e3SCédric Le Goater         xive->tctxt_regs[TCTXT_EN0 >> 3] |= val;
1337da71b7e3SCédric Le Goater         break;
1338da71b7e3SCédric Le Goater     case TCTXT_EN1_SET:
1339da71b7e3SCédric Le Goater         xive->tctxt_regs[TCTXT_EN1 >> 3] |= val;
1340da71b7e3SCédric Le Goater         break;
1341da71b7e3SCédric Le Goater     case TCTXT_EN0_RESET:
1342da71b7e3SCédric Le Goater         xive->tctxt_regs[TCTXT_EN0 >> 3] &= ~val;
1343da71b7e3SCédric Le Goater         break;
1344da71b7e3SCédric Le Goater     case TCTXT_EN1_RESET:
1345da71b7e3SCédric Le Goater         xive->tctxt_regs[TCTXT_EN1 >> 3] &= ~val;
1346da71b7e3SCédric Le Goater         break;
1347cce84fc9SFrederic Barrat     case TCTXT_CFG:
1348cce84fc9SFrederic Barrat         xive->tctxt_regs[reg] = val;
1349cce84fc9SFrederic Barrat         break;
1350da71b7e3SCédric Le Goater     default:
1351da71b7e3SCédric Le Goater         xive2_error(xive, "TCTXT: invalid write @%"HWADDR_PRIx, offset);
1352da71b7e3SCédric Le Goater         return;
1353da71b7e3SCédric Le Goater     }
1354da71b7e3SCédric Le Goater }
1355da71b7e3SCédric Le Goater 
1356da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_tctxt_ops = {
1357da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_tctxt_read,
1358da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_tctxt_write,
1359da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1360da71b7e3SCédric Le Goater     .valid = {
1361da71b7e3SCédric Le Goater         .min_access_size = 8,
1362da71b7e3SCédric Le Goater         .max_access_size = 8,
1363da71b7e3SCédric Le Goater     },
1364da71b7e3SCédric Le Goater     .impl = {
1365da71b7e3SCédric Le Goater         .min_access_size = 8,
1366da71b7e3SCédric Le Goater         .max_access_size = 8,
1367da71b7e3SCédric Le Goater     },
1368da71b7e3SCédric Le Goater };
1369da71b7e3SCédric Le Goater 
1370da71b7e3SCédric Le Goater /*
1371da71b7e3SCédric Le Goater  * Redirect XSCOM to MMIO handlers
1372da71b7e3SCédric Le Goater  */
1373da71b7e3SCédric Le Goater static uint64_t pnv_xive2_xscom_read(void *opaque, hwaddr offset,
1374da71b7e3SCédric Le Goater                                      unsigned size)
1375da71b7e3SCédric Le Goater {
1376da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1377da71b7e3SCédric Le Goater     uint64_t val = -1;
1378da71b7e3SCédric Le Goater     uint32_t xscom_reg = offset >> 3;
1379da71b7e3SCédric Le Goater     uint32_t mmio_offset = (xscom_reg & 0xFF) << 3;
1380da71b7e3SCédric Le Goater 
1381da71b7e3SCédric Le Goater     switch (xscom_reg) {
1382da71b7e3SCédric Le Goater     case 0x000 ... 0x0FF:
1383da71b7e3SCédric Le Goater         val = pnv_xive2_ic_cq_read(opaque, mmio_offset, size);
1384da71b7e3SCédric Le Goater         break;
1385da71b7e3SCédric Le Goater     case 0x100 ... 0x1FF:
1386da71b7e3SCédric Le Goater         val = pnv_xive2_ic_vc_read(opaque, mmio_offset, size);
1387da71b7e3SCédric Le Goater         break;
1388da71b7e3SCédric Le Goater     case 0x200 ... 0x2FF:
1389da71b7e3SCédric Le Goater         val = pnv_xive2_ic_pc_read(opaque, mmio_offset, size);
1390da71b7e3SCédric Le Goater         break;
1391da71b7e3SCédric Le Goater     case 0x300 ... 0x3FF:
1392da71b7e3SCédric Le Goater         val = pnv_xive2_ic_tctxt_read(opaque, mmio_offset, size);
1393da71b7e3SCédric Le Goater         break;
1394da71b7e3SCédric Le Goater     default:
1395da71b7e3SCédric Le Goater         xive2_error(xive, "XSCOM: invalid read @%"HWADDR_PRIx, offset);
1396da71b7e3SCédric Le Goater     }
1397da71b7e3SCédric Le Goater 
1398da71b7e3SCédric Le Goater     return val;
1399da71b7e3SCédric Le Goater }
1400da71b7e3SCédric Le Goater 
1401da71b7e3SCédric Le Goater static void pnv_xive2_xscom_write(void *opaque, hwaddr offset,
1402da71b7e3SCédric Le Goater                                   uint64_t val, unsigned size)
1403da71b7e3SCédric Le Goater {
1404da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1405da71b7e3SCédric Le Goater     uint32_t xscom_reg = offset >> 3;
1406da71b7e3SCédric Le Goater     uint32_t mmio_offset = (xscom_reg & 0xFF) << 3;
1407da71b7e3SCédric Le Goater 
1408da71b7e3SCédric Le Goater     switch (xscom_reg) {
1409da71b7e3SCédric Le Goater     case 0x000 ... 0x0FF:
1410da71b7e3SCédric Le Goater         pnv_xive2_ic_cq_write(opaque, mmio_offset, val, size);
1411da71b7e3SCédric Le Goater         break;
1412da71b7e3SCédric Le Goater     case 0x100 ... 0x1FF:
1413da71b7e3SCédric Le Goater         pnv_xive2_ic_vc_write(opaque, mmio_offset, val, size);
1414da71b7e3SCédric Le Goater         break;
1415da71b7e3SCédric Le Goater     case 0x200 ... 0x2FF:
1416da71b7e3SCédric Le Goater         pnv_xive2_ic_pc_write(opaque, mmio_offset, val, size);
1417da71b7e3SCédric Le Goater         break;
1418da71b7e3SCédric Le Goater     case 0x300 ... 0x3FF:
1419da71b7e3SCédric Le Goater         pnv_xive2_ic_tctxt_write(opaque, mmio_offset, val, size);
1420da71b7e3SCédric Le Goater         break;
1421da71b7e3SCédric Le Goater     default:
1422da71b7e3SCédric Le Goater         xive2_error(xive, "XSCOM: invalid write @%"HWADDR_PRIx, offset);
1423da71b7e3SCédric Le Goater     }
1424da71b7e3SCédric Le Goater }
1425da71b7e3SCédric Le Goater 
1426da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_xscom_ops = {
1427da71b7e3SCédric Le Goater     .read = pnv_xive2_xscom_read,
1428da71b7e3SCédric Le Goater     .write = pnv_xive2_xscom_write,
1429da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1430da71b7e3SCédric Le Goater     .valid = {
1431da71b7e3SCédric Le Goater         .min_access_size = 8,
1432da71b7e3SCédric Le Goater         .max_access_size = 8,
1433da71b7e3SCédric Le Goater     },
1434da71b7e3SCédric Le Goater     .impl = {
1435da71b7e3SCédric Le Goater         .min_access_size = 8,
1436da71b7e3SCédric Le Goater         .max_access_size = 8,
1437da71b7e3SCédric Le Goater     },
1438da71b7e3SCédric Le Goater };
1439da71b7e3SCédric Le Goater 
1440da71b7e3SCédric Le Goater /*
1441da71b7e3SCédric Le Goater  * Notify port page. The layout is compatible between 4K and 64K pages :
1442da71b7e3SCédric Le Goater  *
1443da71b7e3SCédric Le Goater  * Page 1           Notify page (writes only)
1444da71b7e3SCédric Le Goater  *  0x000 - 0x7FF   IPI interrupt (NPU)
1445da71b7e3SCédric Le Goater  *  0x800 - 0xFFF   HW interrupt triggers (PSI, PHB)
1446da71b7e3SCédric Le Goater  */
1447da71b7e3SCédric Le Goater 
1448da71b7e3SCédric Le Goater static void pnv_xive2_ic_hw_trigger(PnvXive2 *xive, hwaddr addr,
1449da71b7e3SCédric Le Goater                                     uint64_t val)
1450da71b7e3SCédric Le Goater {
1451da71b7e3SCédric Le Goater     uint8_t blk;
1452da71b7e3SCédric Le Goater     uint32_t idx;
1453da71b7e3SCédric Le Goater 
1454da71b7e3SCédric Le Goater     if (val & XIVE_TRIGGER_END) {
1455da71b7e3SCédric Le Goater         xive2_error(xive, "IC: END trigger at @0x%"HWADDR_PRIx" data 0x%"PRIx64,
1456da71b7e3SCédric Le Goater                    addr, val);
1457da71b7e3SCédric Le Goater         return;
1458da71b7e3SCédric Le Goater     }
1459da71b7e3SCédric Le Goater 
1460da71b7e3SCédric Le Goater     /*
1461da71b7e3SCédric Le Goater      * Forward the source event notification directly to the Router.
1462da71b7e3SCédric Le Goater      * The source interrupt number should already be correctly encoded
1463da71b7e3SCédric Le Goater      * with the chip block id by the sending device (PHB, PSI).
1464da71b7e3SCédric Le Goater      */
1465da71b7e3SCédric Le Goater     blk = XIVE_EAS_BLOCK(val);
1466da71b7e3SCédric Le Goater     idx = XIVE_EAS_INDEX(val);
1467da71b7e3SCédric Le Goater 
14680aa2612aSCédric Le Goater     xive2_router_notify(XIVE_NOTIFIER(xive), XIVE_EAS(blk, idx),
14690aa2612aSCédric Le Goater                          !!(val & XIVE_TRIGGER_PQ));
1470da71b7e3SCédric Le Goater }
1471da71b7e3SCédric Le Goater 
1472da71b7e3SCédric Le Goater static void pnv_xive2_ic_notify_write(void *opaque, hwaddr offset,
1473da71b7e3SCédric Le Goater                                       uint64_t val, unsigned size)
1474da71b7e3SCédric Le Goater {
1475da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1476da71b7e3SCédric Le Goater 
1477da71b7e3SCédric Le Goater     /* VC: IPI triggers */
1478da71b7e3SCédric Le Goater     switch (offset) {
1479da71b7e3SCédric Le Goater     case 0x000 ... 0x7FF:
1480da71b7e3SCédric Le Goater         /* TODO: check IPI notify sub-page routing */
1481da71b7e3SCédric Le Goater         pnv_xive2_ic_hw_trigger(opaque, offset, val);
1482da71b7e3SCédric Le Goater         break;
1483da71b7e3SCédric Le Goater 
1484da71b7e3SCédric Le Goater     /* VC: HW triggers */
1485da71b7e3SCédric Le Goater     case 0x800 ... 0xFFF:
1486da71b7e3SCédric Le Goater         pnv_xive2_ic_hw_trigger(opaque, offset, val);
1487da71b7e3SCédric Le Goater         break;
1488da71b7e3SCédric Le Goater 
1489da71b7e3SCédric Le Goater     default:
1490da71b7e3SCédric Le Goater         xive2_error(xive, "NOTIFY: invalid write @%"HWADDR_PRIx, offset);
1491da71b7e3SCédric Le Goater     }
1492da71b7e3SCédric Le Goater }
1493da71b7e3SCédric Le Goater 
1494da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_notify_read(void *opaque, hwaddr offset,
1495da71b7e3SCédric Le Goater                                          unsigned size)
1496da71b7e3SCédric Le Goater {
1497da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1498da71b7e3SCédric Le Goater 
1499da71b7e3SCédric Le Goater    /* loads are invalid */
1500da71b7e3SCédric Le Goater     xive2_error(xive, "NOTIFY: invalid read @%"HWADDR_PRIx, offset);
1501da71b7e3SCédric Le Goater     return -1;
1502da71b7e3SCédric Le Goater }
1503da71b7e3SCédric Le Goater 
1504da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_notify_ops = {
1505da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_notify_read,
1506da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_notify_write,
1507da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1508da71b7e3SCédric Le Goater     .valid = {
1509da71b7e3SCédric Le Goater         .min_access_size = 8,
1510da71b7e3SCédric Le Goater         .max_access_size = 8,
1511da71b7e3SCédric Le Goater     },
1512da71b7e3SCédric Le Goater     .impl = {
1513da71b7e3SCédric Le Goater         .min_access_size = 8,
1514da71b7e3SCédric Le Goater         .max_access_size = 8,
1515da71b7e3SCédric Le Goater     },
1516da71b7e3SCédric Le Goater };
1517da71b7e3SCédric Le Goater 
1518da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_lsi_read(void *opaque, hwaddr offset,
1519da71b7e3SCédric Le Goater                                       unsigned size)
1520da71b7e3SCédric Le Goater {
1521da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1522da71b7e3SCédric Le Goater 
1523da71b7e3SCédric Le Goater     xive2_error(xive, "LSI: invalid read @%"HWADDR_PRIx, offset);
1524da71b7e3SCédric Le Goater     return -1;
1525da71b7e3SCédric Le Goater }
1526da71b7e3SCédric Le Goater 
1527da71b7e3SCédric Le Goater static void pnv_xive2_ic_lsi_write(void *opaque, hwaddr offset,
1528da71b7e3SCédric Le Goater                                    uint64_t val, unsigned size)
1529da71b7e3SCédric Le Goater {
1530da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1531da71b7e3SCédric Le Goater 
1532da71b7e3SCédric Le Goater     xive2_error(xive, "LSI: invalid write @%"HWADDR_PRIx, offset);
1533da71b7e3SCédric Le Goater }
1534da71b7e3SCédric Le Goater 
1535da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_lsi_ops = {
1536da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_lsi_read,
1537da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_lsi_write,
1538da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1539da71b7e3SCédric Le Goater     .valid = {
1540da71b7e3SCédric Le Goater         .min_access_size = 8,
1541da71b7e3SCédric Le Goater         .max_access_size = 8,
1542da71b7e3SCédric Le Goater     },
1543da71b7e3SCédric Le Goater     .impl = {
1544da71b7e3SCédric Le Goater         .min_access_size = 8,
1545da71b7e3SCédric Le Goater         .max_access_size = 8,
1546da71b7e3SCédric Le Goater     },
1547da71b7e3SCédric Le Goater };
1548da71b7e3SCédric Le Goater 
1549da71b7e3SCédric Le Goater /*
1550da71b7e3SCédric Le Goater  * Sync MMIO page (write only)
1551da71b7e3SCédric Le Goater  */
1552da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_IPI      0x000
1553da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_HW       0x080
1554da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_NxC      0x100
1555da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_INT      0x180
1556da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_OS_ESC   0x200
1557da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_POOL_ESC 0x280
1558da71b7e3SCédric Le Goater #define PNV_XIVE2_SYNC_HARD_ESC 0x300
1559da71b7e3SCédric Le Goater 
1560da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_sync_read(void *opaque, hwaddr offset,
1561da71b7e3SCédric Le Goater                                        unsigned size)
1562da71b7e3SCédric Le Goater {
1563da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1564da71b7e3SCédric Le Goater 
1565da71b7e3SCédric Le Goater     /* loads are invalid */
1566da71b7e3SCédric Le Goater     xive2_error(xive, "SYNC: invalid read @%"HWADDR_PRIx, offset);
1567da71b7e3SCédric Le Goater     return -1;
1568da71b7e3SCédric Le Goater }
1569da71b7e3SCédric Le Goater 
1570da71b7e3SCédric Le Goater static void pnv_xive2_ic_sync_write(void *opaque, hwaddr offset,
1571da71b7e3SCédric Le Goater                                     uint64_t val, unsigned size)
1572da71b7e3SCédric Le Goater {
1573da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1574da71b7e3SCédric Le Goater 
1575da71b7e3SCédric Le Goater     switch (offset) {
1576da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_IPI:
1577da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_HW:
1578da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_NxC:
1579da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_INT:
1580da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_OS_ESC:
1581da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_POOL_ESC:
1582da71b7e3SCédric Le Goater     case PNV_XIVE2_SYNC_HARD_ESC:
1583da71b7e3SCédric Le Goater         break;
1584da71b7e3SCédric Le Goater     default:
1585da71b7e3SCédric Le Goater         xive2_error(xive, "SYNC: invalid write @%"HWADDR_PRIx, offset);
1586da71b7e3SCédric Le Goater     }
1587da71b7e3SCédric Le Goater }
1588da71b7e3SCédric Le Goater 
1589da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_sync_ops = {
1590da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_sync_read,
1591da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_sync_write,
1592da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1593da71b7e3SCédric Le Goater     .valid = {
1594da71b7e3SCédric Le Goater         .min_access_size = 8,
1595da71b7e3SCédric Le Goater         .max_access_size = 8,
1596da71b7e3SCédric Le Goater     },
1597da71b7e3SCédric Le Goater     .impl = {
1598da71b7e3SCédric Le Goater         .min_access_size = 8,
1599da71b7e3SCédric Le Goater         .max_access_size = 8,
1600da71b7e3SCédric Le Goater     },
1601da71b7e3SCédric Le Goater };
1602da71b7e3SCédric Le Goater 
1603da71b7e3SCédric Le Goater /*
1604da71b7e3SCédric Le Goater  * When the TM direct pages of the IC controller are accessed, the
1605da71b7e3SCédric Le Goater  * target HW thread is deduced from the page offset.
1606da71b7e3SCédric Le Goater  */
160715130867SFrederic Barrat static uint32_t pnv_xive2_ic_tm_get_pir(PnvXive2 *xive, hwaddr offset)
160815130867SFrederic Barrat {
160915130867SFrederic Barrat     /* On P10, the node ID shift in the PIR register is 8 bits */
161015130867SFrederic Barrat     return xive->chip->chip_id << 8 | offset >> xive->ic_shift;
161115130867SFrederic Barrat }
161215130867SFrederic Barrat 
1613694d3cb2SFrederic Barrat static uint32_t pnv_xive2_ic_tm_get_hw_page_offset(PnvXive2 *xive,
1614694d3cb2SFrederic Barrat                                                    hwaddr offset)
1615694d3cb2SFrederic Barrat {
1616694d3cb2SFrederic Barrat     /*
1617694d3cb2SFrederic Barrat      * Indirect TIMA accesses are similar to direct accesses for
1618694d3cb2SFrederic Barrat      * privilege ring 0. So remove any traces of the hw thread ID from
1619694d3cb2SFrederic Barrat      * the offset in the IC BAR as it could be interpreted as the ring
1620694d3cb2SFrederic Barrat      * privilege when calling the underlying direct access functions.
1621694d3cb2SFrederic Barrat      */
1622694d3cb2SFrederic Barrat     return offset & ((1ull << xive->ic_shift) - 1);
1623694d3cb2SFrederic Barrat }
1624694d3cb2SFrederic Barrat 
1625da71b7e3SCédric Le Goater static XiveTCTX *pnv_xive2_get_indirect_tctx(PnvXive2 *xive, uint32_t pir)
1626da71b7e3SCédric Le Goater {
1627da71b7e3SCédric Le Goater     PnvChip *chip = xive->chip;
1628da71b7e3SCédric Le Goater     PowerPCCPU *cpu = NULL;
1629da71b7e3SCédric Le Goater 
1630da71b7e3SCédric Le Goater     cpu = pnv_chip_find_cpu(chip, pir);
1631da71b7e3SCédric Le Goater     if (!cpu) {
1632da71b7e3SCédric Le Goater         xive2_error(xive, "IC: invalid PIR %x for indirect access", pir);
1633da71b7e3SCédric Le Goater         return NULL;
1634da71b7e3SCédric Le Goater     }
1635da71b7e3SCédric Le Goater 
1636da71b7e3SCédric Le Goater     if (!pnv_xive2_is_cpu_enabled(xive, cpu)) {
1637da71b7e3SCédric Le Goater         xive2_error(xive, "IC: CPU %x is not enabled", pir);
1638da71b7e3SCédric Le Goater     }
1639da71b7e3SCédric Le Goater 
1640da71b7e3SCédric Le Goater     return XIVE_TCTX(pnv_cpu_state(cpu)->intc);
1641da71b7e3SCédric Le Goater }
1642da71b7e3SCédric Le Goater 
1643da71b7e3SCédric Le Goater static uint64_t pnv_xive2_ic_tm_indirect_read(void *opaque, hwaddr offset,
1644da71b7e3SCédric Le Goater                                               unsigned size)
1645da71b7e3SCédric Le Goater {
1646da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1647ed75a123SFrederic Barrat     XivePresenter *xptr = XIVE_PRESENTER(xive);
1648694d3cb2SFrederic Barrat     hwaddr hw_page_offset;
164915130867SFrederic Barrat     uint32_t pir;
165015130867SFrederic Barrat     XiveTCTX *tctx;
1651da71b7e3SCédric Le Goater     uint64_t val = -1;
1652da71b7e3SCédric Le Goater 
165315130867SFrederic Barrat     pir = pnv_xive2_ic_tm_get_pir(xive, offset);
1654694d3cb2SFrederic Barrat     hw_page_offset = pnv_xive2_ic_tm_get_hw_page_offset(xive, offset);
165515130867SFrederic Barrat     tctx = pnv_xive2_get_indirect_tctx(xive, pir);
1656da71b7e3SCédric Le Goater     if (tctx) {
1657ed75a123SFrederic Barrat         val = xive_tctx_tm_read(xptr, tctx, hw_page_offset, size);
1658da71b7e3SCédric Le Goater     }
1659da71b7e3SCédric Le Goater 
1660da71b7e3SCédric Le Goater     return val;
1661da71b7e3SCédric Le Goater }
1662da71b7e3SCédric Le Goater 
1663da71b7e3SCédric Le Goater static void pnv_xive2_ic_tm_indirect_write(void *opaque, hwaddr offset,
1664da71b7e3SCédric Le Goater                                            uint64_t val, unsigned size)
1665da71b7e3SCédric Le Goater {
1666da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1667ed75a123SFrederic Barrat     XivePresenter *xptr = XIVE_PRESENTER(xive);
1668694d3cb2SFrederic Barrat     hwaddr hw_page_offset;
166915130867SFrederic Barrat     uint32_t pir;
167015130867SFrederic Barrat     XiveTCTX *tctx;
1671da71b7e3SCédric Le Goater 
167215130867SFrederic Barrat     pir = pnv_xive2_ic_tm_get_pir(xive, offset);
1673694d3cb2SFrederic Barrat     hw_page_offset = pnv_xive2_ic_tm_get_hw_page_offset(xive, offset);
167415130867SFrederic Barrat     tctx = pnv_xive2_get_indirect_tctx(xive, pir);
1675da71b7e3SCédric Le Goater     if (tctx) {
1676ed75a123SFrederic Barrat         xive_tctx_tm_write(xptr, tctx, hw_page_offset, val, size);
1677da71b7e3SCédric Le Goater     }
1678da71b7e3SCédric Le Goater }
1679da71b7e3SCédric Le Goater 
1680da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_ic_tm_indirect_ops = {
1681da71b7e3SCédric Le Goater     .read = pnv_xive2_ic_tm_indirect_read,
1682da71b7e3SCédric Le Goater     .write = pnv_xive2_ic_tm_indirect_write,
1683da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1684da71b7e3SCédric Le Goater     .valid = {
1685d73a1751SFrederic Barrat         .min_access_size = 1,
1686da71b7e3SCédric Le Goater         .max_access_size = 8,
1687da71b7e3SCédric Le Goater     },
1688da71b7e3SCédric Le Goater     .impl = {
1689d73a1751SFrederic Barrat         .min_access_size = 1,
1690da71b7e3SCédric Le Goater         .max_access_size = 8,
1691da71b7e3SCédric Le Goater     },
1692da71b7e3SCédric Le Goater };
1693da71b7e3SCédric Le Goater 
1694da71b7e3SCédric Le Goater /*
1695da71b7e3SCédric Le Goater  * TIMA ops
1696da71b7e3SCédric Le Goater  */
1697da71b7e3SCédric Le Goater static void pnv_xive2_tm_write(void *opaque, hwaddr offset,
1698da71b7e3SCédric Le Goater                                uint64_t value, unsigned size)
1699da71b7e3SCédric Le Goater {
1700da71b7e3SCédric Le Goater     PowerPCCPU *cpu = POWERPC_CPU(current_cpu);
1701da71b7e3SCédric Le Goater     PnvXive2 *xive = pnv_xive2_tm_get_xive(cpu);
1702da71b7e3SCédric Le Goater     XiveTCTX *tctx = XIVE_TCTX(pnv_cpu_state(cpu)->intc);
170395d729e2SCédric Le Goater     XivePresenter *xptr = XIVE_PRESENTER(xive);
170495d729e2SCédric Le Goater 
170595d729e2SCédric Le Goater     xive_tctx_tm_write(xptr, tctx, offset, value, size);
1706da71b7e3SCédric Le Goater }
1707da71b7e3SCédric Le Goater 
1708da71b7e3SCédric Le Goater static uint64_t pnv_xive2_tm_read(void *opaque, hwaddr offset, unsigned size)
1709da71b7e3SCédric Le Goater {
1710da71b7e3SCédric Le Goater     PowerPCCPU *cpu = POWERPC_CPU(current_cpu);
1711da71b7e3SCédric Le Goater     PnvXive2 *xive = pnv_xive2_tm_get_xive(cpu);
1712da71b7e3SCédric Le Goater     XiveTCTX *tctx = XIVE_TCTX(pnv_cpu_state(cpu)->intc);
171395d729e2SCédric Le Goater     XivePresenter *xptr = XIVE_PRESENTER(xive);
171495d729e2SCédric Le Goater 
171595d729e2SCédric Le Goater     return xive_tctx_tm_read(xptr, tctx, offset, size);
1716da71b7e3SCédric Le Goater }
1717da71b7e3SCédric Le Goater 
1718da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_tm_ops = {
1719da71b7e3SCédric Le Goater     .read = pnv_xive2_tm_read,
1720da71b7e3SCédric Le Goater     .write = pnv_xive2_tm_write,
1721da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1722da71b7e3SCédric Le Goater     .valid = {
1723da71b7e3SCédric Le Goater         .min_access_size = 1,
1724da71b7e3SCédric Le Goater         .max_access_size = 8,
1725da71b7e3SCédric Le Goater     },
1726da71b7e3SCédric Le Goater     .impl = {
1727da71b7e3SCédric Le Goater         .min_access_size = 1,
1728da71b7e3SCédric Le Goater         .max_access_size = 8,
1729da71b7e3SCédric Le Goater     },
1730da71b7e3SCédric Le Goater };
1731da71b7e3SCédric Le Goater 
1732da71b7e3SCédric Le Goater static uint64_t pnv_xive2_nvc_read(void *opaque, hwaddr offset,
1733da71b7e3SCédric Le Goater                                    unsigned size)
1734da71b7e3SCédric Le Goater {
1735da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1736da71b7e3SCédric Le Goater 
1737da71b7e3SCédric Le Goater     xive2_error(xive, "NVC: invalid read @%"HWADDR_PRIx, offset);
1738da71b7e3SCédric Le Goater     return -1;
1739da71b7e3SCédric Le Goater }
1740da71b7e3SCédric Le Goater 
1741da71b7e3SCédric Le Goater static void pnv_xive2_nvc_write(void *opaque, hwaddr offset,
1742da71b7e3SCédric Le Goater                                 uint64_t val, unsigned size)
1743da71b7e3SCédric Le Goater {
1744da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1745da71b7e3SCédric Le Goater 
1746da71b7e3SCédric Le Goater     xive2_error(xive, "NVC: invalid write @%"HWADDR_PRIx, offset);
1747da71b7e3SCédric Le Goater }
1748da71b7e3SCédric Le Goater 
1749da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_nvc_ops = {
1750da71b7e3SCédric Le Goater     .read = pnv_xive2_nvc_read,
1751da71b7e3SCédric Le Goater     .write = pnv_xive2_nvc_write,
1752da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1753da71b7e3SCédric Le Goater     .valid = {
1754da71b7e3SCédric Le Goater         .min_access_size = 8,
1755da71b7e3SCédric Le Goater         .max_access_size = 8,
1756da71b7e3SCédric Le Goater     },
1757da71b7e3SCédric Le Goater     .impl = {
1758da71b7e3SCédric Le Goater         .min_access_size = 8,
1759da71b7e3SCédric Le Goater         .max_access_size = 8,
1760da71b7e3SCédric Le Goater     },
1761da71b7e3SCédric Le Goater };
1762da71b7e3SCédric Le Goater 
1763da71b7e3SCédric Le Goater static uint64_t pnv_xive2_nvpg_read(void *opaque, hwaddr offset,
1764da71b7e3SCédric Le Goater                                     unsigned size)
1765da71b7e3SCédric Le Goater {
1766da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1767da71b7e3SCédric Le Goater 
1768da71b7e3SCédric Le Goater     xive2_error(xive, "NVPG: invalid read @%"HWADDR_PRIx, offset);
1769da71b7e3SCédric Le Goater     return -1;
1770da71b7e3SCédric Le Goater }
1771da71b7e3SCédric Le Goater 
1772da71b7e3SCédric Le Goater static void pnv_xive2_nvpg_write(void *opaque, hwaddr offset,
1773da71b7e3SCédric Le Goater                                  uint64_t val, unsigned size)
1774da71b7e3SCédric Le Goater {
1775da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(opaque);
1776da71b7e3SCédric Le Goater 
1777da71b7e3SCédric Le Goater     xive2_error(xive, "NVPG: invalid write @%"HWADDR_PRIx, offset);
1778da71b7e3SCédric Le Goater }
1779da71b7e3SCédric Le Goater 
1780da71b7e3SCédric Le Goater static const MemoryRegionOps pnv_xive2_nvpg_ops = {
1781da71b7e3SCédric Le Goater     .read = pnv_xive2_nvpg_read,
1782da71b7e3SCédric Le Goater     .write = pnv_xive2_nvpg_write,
1783da71b7e3SCédric Le Goater     .endianness = DEVICE_BIG_ENDIAN,
1784da71b7e3SCédric Le Goater     .valid = {
1785da71b7e3SCédric Le Goater         .min_access_size = 8,
1786da71b7e3SCédric Le Goater         .max_access_size = 8,
1787da71b7e3SCédric Le Goater     },
1788da71b7e3SCédric Le Goater     .impl = {
1789da71b7e3SCédric Le Goater         .min_access_size = 8,
1790da71b7e3SCédric Le Goater         .max_access_size = 8,
1791da71b7e3SCédric Le Goater     },
1792da71b7e3SCédric Le Goater };
1793da71b7e3SCédric Le Goater 
1794da71b7e3SCédric Le Goater /*
1795707ea7abSCédric Le Goater  * POWER10 default capabilities: 0x2000120076f000FC
1796da71b7e3SCédric Le Goater  */
1797707ea7abSCédric Le Goater #define PNV_XIVE2_CAPABILITIES  0x2000120076f000FC
1798da71b7e3SCédric Le Goater 
1799da71b7e3SCédric Le Goater /*
1800da71b7e3SCédric Le Goater  * POWER10 default configuration: 0x0030000033000000
1801da71b7e3SCédric Le Goater  *
1802da71b7e3SCédric Le Goater  * 8bits thread id was dropped for P10
1803da71b7e3SCédric Le Goater  */
1804da71b7e3SCédric Le Goater #define PNV_XIVE2_CONFIGURATION 0x0030000033000000
1805da71b7e3SCédric Le Goater 
1806da71b7e3SCédric Le Goater static void pnv_xive2_reset(void *dev)
1807da71b7e3SCédric Le Goater {
1808da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(dev);
1809da71b7e3SCédric Le Goater     XiveSource *xsrc = &xive->ipi_source;
1810da71b7e3SCédric Le Goater     Xive2EndSource *end_xsrc = &xive->end_source;
1811da71b7e3SCédric Le Goater 
1812da71b7e3SCédric Le Goater     xive->cq_regs[CQ_XIVE_CAP >> 3] = xive->capabilities;
1813da71b7e3SCédric Le Goater     xive->cq_regs[CQ_XIVE_CFG >> 3] = xive->config;
1814da71b7e3SCédric Le Goater 
1815da71b7e3SCédric Le Goater     /* HW hardwires the #Topology of the chip in the block field */
1816da71b7e3SCédric Le Goater     xive->cq_regs[CQ_XIVE_CFG >> 3] |=
1817da71b7e3SCédric Le Goater         SETFIELD(CQ_XIVE_CFG_HYP_HARD_BLOCK_ID, 0ull, xive->chip->chip_id);
1818da71b7e3SCédric Le Goater 
1819da71b7e3SCédric Le Goater     /* Set default page size to 64k */
1820da71b7e3SCédric Le Goater     xive->ic_shift = xive->esb_shift = xive->end_shift = 16;
1821da71b7e3SCédric Le Goater     xive->nvc_shift = xive->nvpg_shift = xive->tm_shift = 16;
1822da71b7e3SCédric Le Goater 
1823da71b7e3SCédric Le Goater     /* Clear source MMIOs */
1824da71b7e3SCédric Le Goater     if (memory_region_is_mapped(&xsrc->esb_mmio)) {
1825da71b7e3SCédric Le Goater         memory_region_del_subregion(&xive->esb_mmio, &xsrc->esb_mmio);
1826da71b7e3SCédric Le Goater     }
1827da71b7e3SCédric Le Goater 
1828da71b7e3SCédric Le Goater     if (memory_region_is_mapped(&end_xsrc->esb_mmio)) {
1829da71b7e3SCédric Le Goater         memory_region_del_subregion(&xive->end_mmio, &end_xsrc->esb_mmio);
1830da71b7e3SCédric Le Goater     }
1831da71b7e3SCédric Le Goater }
1832da71b7e3SCédric Le Goater 
1833da71b7e3SCédric Le Goater /*
1834da71b7e3SCédric Le Goater  *  Maximum number of IRQs and ENDs supported by HW. Will be tuned by
1835da71b7e3SCédric Le Goater  *  software.
1836da71b7e3SCédric Le Goater  */
1837da71b7e3SCédric Le Goater #define PNV_XIVE2_NR_IRQS (PNV10_XIVE2_ESB_SIZE / (1ull << XIVE_ESB_64K_2PAGE))
1838da71b7e3SCédric Le Goater #define PNV_XIVE2_NR_ENDS (PNV10_XIVE2_END_SIZE / (1ull << XIVE_ESB_64K_2PAGE))
1839da71b7e3SCédric Le Goater 
1840da71b7e3SCédric Le Goater static void pnv_xive2_realize(DeviceState *dev, Error **errp)
1841da71b7e3SCédric Le Goater {
1842da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(dev);
1843da71b7e3SCédric Le Goater     PnvXive2Class *pxc = PNV_XIVE2_GET_CLASS(dev);
1844da71b7e3SCédric Le Goater     XiveSource *xsrc = &xive->ipi_source;
1845da71b7e3SCédric Le Goater     Xive2EndSource *end_xsrc = &xive->end_source;
1846da71b7e3SCédric Le Goater     Error *local_err = NULL;
1847da71b7e3SCédric Le Goater     int i;
1848da71b7e3SCédric Le Goater 
1849da71b7e3SCédric Le Goater     pxc->parent_realize(dev, &local_err);
1850da71b7e3SCédric Le Goater     if (local_err) {
1851da71b7e3SCédric Le Goater         error_propagate(errp, local_err);
1852da71b7e3SCédric Le Goater         return;
1853da71b7e3SCédric Le Goater     }
1854da71b7e3SCédric Le Goater 
1855da71b7e3SCédric Le Goater     assert(xive->chip);
1856da71b7e3SCédric Le Goater 
1857da71b7e3SCédric Le Goater     /*
1858da71b7e3SCédric Le Goater      * The XiveSource and Xive2EndSource objects are realized with the
1859da71b7e3SCédric Le Goater      * maximum allowed HW configuration. The ESB MMIO regions will be
1860da71b7e3SCédric Le Goater      * resized dynamically when the controller is configured by the FW
1861da71b7e3SCédric Le Goater      * to limit accesses to resources not provisioned.
1862da71b7e3SCédric Le Goater      */
1863da71b7e3SCédric Le Goater     object_property_set_int(OBJECT(xsrc), "flags", XIVE_SRC_STORE_EOI,
1864da71b7e3SCédric Le Goater                             &error_fatal);
1865da71b7e3SCédric Le Goater     object_property_set_int(OBJECT(xsrc), "nr-irqs", PNV_XIVE2_NR_IRQS,
1866da71b7e3SCédric Le Goater                             &error_fatal);
1867da71b7e3SCédric Le Goater     object_property_set_link(OBJECT(xsrc), "xive", OBJECT(xive),
1868da71b7e3SCédric Le Goater                              &error_fatal);
1869da71b7e3SCédric Le Goater     qdev_realize(DEVICE(xsrc), NULL, &local_err);
1870da71b7e3SCédric Le Goater     if (local_err) {
1871da71b7e3SCédric Le Goater         error_propagate(errp, local_err);
1872da71b7e3SCédric Le Goater         return;
1873da71b7e3SCédric Le Goater     }
1874da71b7e3SCédric Le Goater 
1875da71b7e3SCédric Le Goater     object_property_set_int(OBJECT(end_xsrc), "nr-ends", PNV_XIVE2_NR_ENDS,
1876da71b7e3SCédric Le Goater                             &error_fatal);
1877da71b7e3SCédric Le Goater     object_property_set_link(OBJECT(end_xsrc), "xive", OBJECT(xive),
1878da71b7e3SCédric Le Goater                              &error_abort);
1879da71b7e3SCédric Le Goater     qdev_realize(DEVICE(end_xsrc), NULL, &local_err);
1880da71b7e3SCédric Le Goater     if (local_err) {
1881da71b7e3SCédric Le Goater         error_propagate(errp, local_err);
1882da71b7e3SCédric Le Goater         return;
1883da71b7e3SCédric Le Goater     }
1884da71b7e3SCédric Le Goater 
1885da71b7e3SCédric Le Goater     /* XSCOM region, used for initial configuration of the BARs */
1886da71b7e3SCédric Le Goater     memory_region_init_io(&xive->xscom_regs, OBJECT(dev),
1887da71b7e3SCédric Le Goater                           &pnv_xive2_xscom_ops, xive, "xscom-xive",
1888da71b7e3SCédric Le Goater                           PNV10_XSCOM_XIVE2_SIZE << 3);
1889da71b7e3SCédric Le Goater 
1890da71b7e3SCédric Le Goater     /* Interrupt controller MMIO regions */
1891da71b7e3SCédric Le Goater     xive->ic_shift = 16;
1892da71b7e3SCédric Le Goater     memory_region_init(&xive->ic_mmio, OBJECT(dev), "xive-ic",
1893da71b7e3SCédric Le Goater                        PNV10_XIVE2_IC_SIZE);
1894da71b7e3SCédric Le Goater 
1895da71b7e3SCédric Le Goater     for (i = 0; i < ARRAY_SIZE(xive->ic_mmios); i++) {
1896da71b7e3SCédric Le Goater         memory_region_init_io(&xive->ic_mmios[i], OBJECT(dev),
1897da71b7e3SCédric Le Goater                          pnv_xive2_ic_regions[i].ops, xive,
1898da71b7e3SCédric Le Goater                          pnv_xive2_ic_regions[i].name,
1899da71b7e3SCédric Le Goater                          pnv_xive2_ic_regions[i].pgsize << xive->ic_shift);
1900da71b7e3SCédric Le Goater     }
1901da71b7e3SCédric Le Goater 
1902da71b7e3SCédric Le Goater     /*
1903da71b7e3SCédric Le Goater      * VC MMIO regions.
1904da71b7e3SCédric Le Goater      */
1905da71b7e3SCédric Le Goater     xive->esb_shift = 16;
1906da71b7e3SCédric Le Goater     xive->end_shift = 16;
1907da71b7e3SCédric Le Goater     memory_region_init(&xive->esb_mmio, OBJECT(xive), "xive-esb",
1908da71b7e3SCédric Le Goater                        PNV10_XIVE2_ESB_SIZE);
1909da71b7e3SCédric Le Goater     memory_region_init(&xive->end_mmio, OBJECT(xive), "xive-end",
1910da71b7e3SCédric Le Goater                        PNV10_XIVE2_END_SIZE);
1911da71b7e3SCédric Le Goater 
1912da71b7e3SCédric Le Goater     /* Presenter Controller MMIO region (not modeled) */
1913da71b7e3SCédric Le Goater     xive->nvc_shift = 16;
1914da71b7e3SCédric Le Goater     xive->nvpg_shift = 16;
1915da71b7e3SCédric Le Goater     memory_region_init_io(&xive->nvc_mmio, OBJECT(dev),
1916da71b7e3SCédric Le Goater                           &pnv_xive2_nvc_ops, xive,
1917da71b7e3SCédric Le Goater                           "xive-nvc", PNV10_XIVE2_NVC_SIZE);
1918da71b7e3SCédric Le Goater 
1919da71b7e3SCédric Le Goater     memory_region_init_io(&xive->nvpg_mmio, OBJECT(dev),
1920da71b7e3SCédric Le Goater                           &pnv_xive2_nvpg_ops, xive,
1921da71b7e3SCédric Le Goater                           "xive-nvpg", PNV10_XIVE2_NVPG_SIZE);
1922da71b7e3SCédric Le Goater 
1923da71b7e3SCédric Le Goater     /* Thread Interrupt Management Area (Direct) */
1924da71b7e3SCédric Le Goater     xive->tm_shift = 16;
1925da71b7e3SCédric Le Goater     memory_region_init_io(&xive->tm_mmio, OBJECT(dev), &pnv_xive2_tm_ops,
1926da71b7e3SCédric Le Goater                           xive, "xive-tima", PNV10_XIVE2_TM_SIZE);
1927da71b7e3SCédric Le Goater 
1928da71b7e3SCédric Le Goater     qemu_register_reset(pnv_xive2_reset, dev);
1929da71b7e3SCédric Le Goater }
1930da71b7e3SCédric Le Goater 
1931da71b7e3SCédric Le Goater static Property pnv_xive2_properties[] = {
1932da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("ic-bar", PnvXive2, ic_base, 0),
1933da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("esb-bar", PnvXive2, esb_base, 0),
1934da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("end-bar", PnvXive2, end_base, 0),
1935da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("nvc-bar", PnvXive2, nvc_base, 0),
1936da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("nvpg-bar", PnvXive2, nvpg_base, 0),
1937da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("tm-bar", PnvXive2, tm_base, 0),
1938da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("capabilities", PnvXive2, capabilities,
1939da71b7e3SCédric Le Goater                        PNV_XIVE2_CAPABILITIES),
1940da71b7e3SCédric Le Goater     DEFINE_PROP_UINT64("config", PnvXive2, config,
1941da71b7e3SCédric Le Goater                        PNV_XIVE2_CONFIGURATION),
1942da71b7e3SCédric Le Goater     DEFINE_PROP_LINK("chip", PnvXive2, chip, TYPE_PNV_CHIP, PnvChip *),
1943da71b7e3SCédric Le Goater     DEFINE_PROP_END_OF_LIST(),
1944da71b7e3SCédric Le Goater };
1945da71b7e3SCédric Le Goater 
1946da71b7e3SCédric Le Goater static void pnv_xive2_instance_init(Object *obj)
1947da71b7e3SCédric Le Goater {
1948da71b7e3SCédric Le Goater     PnvXive2 *xive = PNV_XIVE2(obj);
1949da71b7e3SCédric Le Goater 
1950da71b7e3SCédric Le Goater     object_initialize_child(obj, "ipi_source", &xive->ipi_source,
1951da71b7e3SCédric Le Goater                             TYPE_XIVE_SOURCE);
1952da71b7e3SCédric Le Goater     object_initialize_child(obj, "end_source", &xive->end_source,
1953da71b7e3SCédric Le Goater                             TYPE_XIVE2_END_SOURCE);
1954da71b7e3SCédric Le Goater }
1955da71b7e3SCédric Le Goater 
1956da71b7e3SCédric Le Goater static int pnv_xive2_dt_xscom(PnvXScomInterface *dev, void *fdt,
1957da71b7e3SCédric Le Goater                               int xscom_offset)
1958da71b7e3SCédric Le Goater {
1959da71b7e3SCédric Le Goater     const char compat_p10[] = "ibm,power10-xive-x";
1960da71b7e3SCédric Le Goater     char *name;
1961da71b7e3SCédric Le Goater     int offset;
1962da71b7e3SCédric Le Goater     uint32_t reg[] = {
1963da71b7e3SCédric Le Goater         cpu_to_be32(PNV10_XSCOM_XIVE2_BASE),
1964da71b7e3SCédric Le Goater         cpu_to_be32(PNV10_XSCOM_XIVE2_SIZE)
1965da71b7e3SCédric Le Goater     };
1966da71b7e3SCédric Le Goater 
1967da71b7e3SCédric Le Goater     name = g_strdup_printf("xive@%x", PNV10_XSCOM_XIVE2_BASE);
1968da71b7e3SCédric Le Goater     offset = fdt_add_subnode(fdt, xscom_offset, name);
1969da71b7e3SCédric Le Goater     _FDT(offset);
1970da71b7e3SCédric Le Goater     g_free(name);
1971da71b7e3SCédric Le Goater 
1972da71b7e3SCédric Le Goater     _FDT((fdt_setprop(fdt, offset, "reg", reg, sizeof(reg))));
1973da71b7e3SCédric Le Goater     _FDT(fdt_setprop(fdt, offset, "compatible", compat_p10,
1974da71b7e3SCédric Le Goater                      sizeof(compat_p10)));
1975da71b7e3SCédric Le Goater     return 0;
1976da71b7e3SCédric Le Goater }
1977da71b7e3SCédric Le Goater 
1978da71b7e3SCédric Le Goater static void pnv_xive2_class_init(ObjectClass *klass, void *data)
1979da71b7e3SCédric Le Goater {
1980da71b7e3SCédric Le Goater     DeviceClass *dc = DEVICE_CLASS(klass);
1981da71b7e3SCédric Le Goater     PnvXScomInterfaceClass *xdc = PNV_XSCOM_INTERFACE_CLASS(klass);
1982da71b7e3SCédric Le Goater     Xive2RouterClass *xrc = XIVE2_ROUTER_CLASS(klass);
1983da71b7e3SCédric Le Goater     XiveNotifierClass *xnc = XIVE_NOTIFIER_CLASS(klass);
1984da71b7e3SCédric Le Goater     XivePresenterClass *xpc = XIVE_PRESENTER_CLASS(klass);
1985da71b7e3SCédric Le Goater     PnvXive2Class *pxc = PNV_XIVE2_CLASS(klass);
1986da71b7e3SCédric Le Goater 
1987da71b7e3SCédric Le Goater     xdc->dt_xscom  = pnv_xive2_dt_xscom;
1988da71b7e3SCédric Le Goater 
1989da71b7e3SCédric Le Goater     dc->desc       = "PowerNV XIVE2 Interrupt Controller (POWER10)";
1990da71b7e3SCédric Le Goater     device_class_set_parent_realize(dc, pnv_xive2_realize,
1991da71b7e3SCédric Le Goater                                     &pxc->parent_realize);
1992da71b7e3SCédric Le Goater     device_class_set_props(dc, pnv_xive2_properties);
1993da71b7e3SCédric Le Goater 
1994da71b7e3SCédric Le Goater     xrc->get_eas   = pnv_xive2_get_eas;
19950aa2612aSCédric Le Goater     xrc->get_pq    = pnv_xive2_get_pq;
19960aa2612aSCédric Le Goater     xrc->set_pq    = pnv_xive2_set_pq;
1997da71b7e3SCédric Le Goater     xrc->get_end   = pnv_xive2_get_end;
1998da71b7e3SCédric Le Goater     xrc->write_end = pnv_xive2_write_end;
1999da71b7e3SCédric Le Goater     xrc->get_nvp   = pnv_xive2_get_nvp;
2000da71b7e3SCédric Le Goater     xrc->write_nvp = pnv_xive2_write_nvp;
2001e16032b8SCédric Le Goater     xrc->get_config  = pnv_xive2_get_config;
2002da71b7e3SCédric Le Goater     xrc->get_block_id = pnv_xive2_get_block_id;
2003da71b7e3SCédric Le Goater 
2004da71b7e3SCédric Le Goater     xnc->notify    = pnv_xive2_notify;
2005da71b7e3SCédric Le Goater 
2006da71b7e3SCédric Le Goater     xpc->match_nvt  = pnv_xive2_match_nvt;
20072a24e6e3SFrederic Barrat     xpc->get_config = pnv_xive2_presenter_get_config;
2008da71b7e3SCédric Le Goater };
2009da71b7e3SCédric Le Goater 
2010da71b7e3SCédric Le Goater static const TypeInfo pnv_xive2_info = {
2011da71b7e3SCédric Le Goater     .name          = TYPE_PNV_XIVE2,
2012da71b7e3SCédric Le Goater     .parent        = TYPE_XIVE2_ROUTER,
2013da71b7e3SCédric Le Goater     .instance_init = pnv_xive2_instance_init,
2014da71b7e3SCédric Le Goater     .instance_size = sizeof(PnvXive2),
2015da71b7e3SCédric Le Goater     .class_init    = pnv_xive2_class_init,
2016da71b7e3SCédric Le Goater     .class_size    = sizeof(PnvXive2Class),
2017da71b7e3SCédric Le Goater     .interfaces    = (InterfaceInfo[]) {
2018da71b7e3SCédric Le Goater         { TYPE_PNV_XSCOM_INTERFACE },
2019da71b7e3SCédric Le Goater         { }
2020da71b7e3SCédric Le Goater     }
2021da71b7e3SCédric Le Goater };
2022da71b7e3SCédric Le Goater 
2023da71b7e3SCédric Le Goater static void pnv_xive2_register_types(void)
2024da71b7e3SCédric Le Goater {
2025da71b7e3SCédric Le Goater     type_register_static(&pnv_xive2_info);
2026da71b7e3SCédric Le Goater }
2027da71b7e3SCédric Le Goater 
2028da71b7e3SCédric Le Goater type_init(pnv_xive2_register_types)
2029da71b7e3SCédric Le Goater 
2030da71b7e3SCédric Le Goater static void xive2_nvp_pic_print_info(Xive2Nvp *nvp, uint32_t nvp_idx,
2031da71b7e3SCédric Le Goater                                      Monitor *mon)
2032da71b7e3SCédric Le Goater {
2033da71b7e3SCédric Le Goater     uint8_t  eq_blk = xive_get_field32(NVP2_W5_VP_END_BLOCK, nvp->w5);
2034da71b7e3SCédric Le Goater     uint32_t eq_idx = xive_get_field32(NVP2_W5_VP_END_INDEX, nvp->w5);
2035da71b7e3SCédric Le Goater 
2036da71b7e3SCédric Le Goater     if (!xive2_nvp_is_valid(nvp)) {
2037da71b7e3SCédric Le Goater         return;
2038da71b7e3SCédric Le Goater     }
2039da71b7e3SCédric Le Goater 
2040835806f1SCédric Le Goater     monitor_printf(mon, "  %08x end:%02x/%04x IPB:%02x",
2041da71b7e3SCédric Le Goater                    nvp_idx, eq_blk, eq_idx,
2042da71b7e3SCédric Le Goater                    xive_get_field32(NVP2_W2_IPB, nvp->w2));
2043835806f1SCédric Le Goater     /*
2044835806f1SCédric Le Goater      * When the NVP is HW controlled, more fields are updated
2045835806f1SCédric Le Goater      */
2046835806f1SCédric Le Goater     if (xive2_nvp_is_hw(nvp)) {
2047835806f1SCédric Le Goater         monitor_printf(mon, " CPPR:%02x",
2048835806f1SCédric Le Goater                        xive_get_field32(NVP2_W2_CPPR, nvp->w2));
2049835806f1SCédric Le Goater         if (xive2_nvp_is_co(nvp)) {
2050835806f1SCédric Le Goater             monitor_printf(mon, " CO:%04x",
2051835806f1SCédric Le Goater                            xive_get_field32(NVP2_W1_CO_THRID, nvp->w1));
2052835806f1SCédric Le Goater         }
2053835806f1SCédric Le Goater     }
2054835806f1SCédric Le Goater     monitor_printf(mon, "\n");
2055da71b7e3SCédric Le Goater }
2056da71b7e3SCédric Le Goater 
2057da71b7e3SCédric Le Goater /*
2058da71b7e3SCédric Le Goater  * If the table is direct, we can compute the number of PQ entries
2059da71b7e3SCédric Le Goater  * provisioned by FW.
2060da71b7e3SCédric Le Goater  */
2061da71b7e3SCédric Le Goater static uint32_t pnv_xive2_nr_esbs(PnvXive2 *xive)
2062da71b7e3SCédric Le Goater {
2063da71b7e3SCédric Le Goater     uint8_t blk = pnv_xive2_block_id(xive);
2064da71b7e3SCédric Le Goater     uint64_t vsd = xive->vsds[VST_ESB][blk];
2065da71b7e3SCédric Le Goater     uint64_t vst_tsize = 1ull << (GETFIELD(VSD_TSIZE, vsd) + 12);
2066da71b7e3SCédric Le Goater 
2067da71b7e3SCédric Le Goater     return VSD_INDIRECT & vsd ? 0 : vst_tsize * SBE_PER_BYTE;
2068da71b7e3SCédric Le Goater }
2069da71b7e3SCédric Le Goater 
2070da71b7e3SCédric Le Goater /*
2071da71b7e3SCédric Le Goater  * Compute the number of entries per indirect subpage.
2072da71b7e3SCédric Le Goater  */
2073da71b7e3SCédric Le Goater static uint64_t pnv_xive2_vst_per_subpage(PnvXive2 *xive, uint32_t type)
2074da71b7e3SCédric Le Goater {
2075da71b7e3SCédric Le Goater     uint8_t blk = pnv_xive2_block_id(xive);
2076da71b7e3SCédric Le Goater     uint64_t vsd = xive->vsds[type][blk];
2077da71b7e3SCédric Le Goater     const XiveVstInfo *info = &vst_infos[type];
2078da71b7e3SCédric Le Goater     uint64_t vsd_addr;
2079da71b7e3SCédric Le Goater     uint32_t page_shift;
2080da71b7e3SCédric Le Goater 
2081da71b7e3SCédric Le Goater     /* For direct tables, fake a valid value */
2082da71b7e3SCédric Le Goater     if (!(VSD_INDIRECT & vsd)) {
2083da71b7e3SCédric Le Goater         return 1;
2084da71b7e3SCédric Le Goater     }
2085da71b7e3SCédric Le Goater 
2086da71b7e3SCédric Le Goater     /* Get the page size of the indirect table. */
2087da71b7e3SCédric Le Goater     vsd_addr = vsd & VSD_ADDRESS_MASK;
2088da71b7e3SCédric Le Goater     ldq_be_dma(&address_space_memory, vsd_addr, &vsd, MEMTXATTRS_UNSPECIFIED);
2089da71b7e3SCédric Le Goater 
2090da71b7e3SCédric Le Goater     if (!(vsd & VSD_ADDRESS_MASK)) {
2091da71b7e3SCédric Le Goater #ifdef XIVE2_DEBUG
2092da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid %s entry!?", info->name);
2093da71b7e3SCédric Le Goater #endif
2094da71b7e3SCédric Le Goater         return 0;
2095da71b7e3SCédric Le Goater     }
2096da71b7e3SCédric Le Goater 
2097da71b7e3SCédric Le Goater     page_shift = GETFIELD(VSD_TSIZE, vsd) + 12;
2098da71b7e3SCédric Le Goater 
2099da71b7e3SCédric Le Goater     if (!pnv_xive2_vst_page_size_allowed(page_shift)) {
2100da71b7e3SCédric Le Goater         xive2_error(xive, "VST: invalid %s page shift %d", info->name,
2101da71b7e3SCédric Le Goater                    page_shift);
2102da71b7e3SCédric Le Goater         return 0;
2103da71b7e3SCédric Le Goater     }
2104da71b7e3SCédric Le Goater 
2105da71b7e3SCédric Le Goater     return (1ull << page_shift) / info->size;
2106da71b7e3SCédric Le Goater }
2107da71b7e3SCédric Le Goater 
2108da71b7e3SCédric Le Goater void pnv_xive2_pic_print_info(PnvXive2 *xive, Monitor *mon)
2109da71b7e3SCédric Le Goater {
2110da71b7e3SCédric Le Goater     Xive2Router *xrtr = XIVE2_ROUTER(xive);
2111da71b7e3SCédric Le Goater     uint8_t blk = pnv_xive2_block_id(xive);
2112da71b7e3SCédric Le Goater     uint8_t chip_id = xive->chip->chip_id;
2113da71b7e3SCédric Le Goater     uint32_t srcno0 = XIVE_EAS(blk, 0);
2114da71b7e3SCédric Le Goater     uint32_t nr_esbs = pnv_xive2_nr_esbs(xive);
2115da71b7e3SCédric Le Goater     Xive2Eas eas;
2116da71b7e3SCédric Le Goater     Xive2End end;
2117da71b7e3SCédric Le Goater     Xive2Nvp nvp;
2118da71b7e3SCédric Le Goater     int i;
2119da71b7e3SCédric Le Goater     uint64_t xive_nvp_per_subpage;
2120*b71a3f67SPhilippe Mathieu-Daudé     g_autoptr(GString) buf = g_string_new("");
2121*b71a3f67SPhilippe Mathieu-Daudé     g_autoptr(HumanReadableText) info = NULL;
2122da71b7e3SCédric Le Goater 
2123da71b7e3SCédric Le Goater     monitor_printf(mon, "XIVE[%x] Source %08x .. %08x\n", blk, srcno0,
2124da71b7e3SCédric Le Goater                    srcno0 + nr_esbs - 1);
2125*b71a3f67SPhilippe Mathieu-Daudé     xive_source_pic_print_info(&xive->ipi_source, srcno0, buf);
2126*b71a3f67SPhilippe Mathieu-Daudé 
2127*b71a3f67SPhilippe Mathieu-Daudé     info = human_readable_text_from_str(buf);
2128*b71a3f67SPhilippe Mathieu-Daudé     monitor_puts(mon, info->human_readable_text);
2129da71b7e3SCédric Le Goater 
2130da71b7e3SCédric Le Goater     monitor_printf(mon, "XIVE[%x] EAT %08x .. %08x\n", blk, srcno0,
2131da71b7e3SCédric Le Goater                    srcno0 + nr_esbs - 1);
2132da71b7e3SCédric Le Goater     for (i = 0; i < nr_esbs; i++) {
2133da71b7e3SCédric Le Goater         if (xive2_router_get_eas(xrtr, blk, i, &eas)) {
2134da71b7e3SCédric Le Goater             break;
2135da71b7e3SCédric Le Goater         }
2136da71b7e3SCédric Le Goater         if (!xive2_eas_is_masked(&eas)) {
2137da71b7e3SCédric Le Goater             xive2_eas_pic_print_info(&eas, i, mon);
2138da71b7e3SCédric Le Goater         }
2139da71b7e3SCédric Le Goater     }
2140da71b7e3SCédric Le Goater 
2141da71b7e3SCédric Le Goater     monitor_printf(mon, "XIVE[%x] #%d END Escalation EAT\n", chip_id, blk);
2142da71b7e3SCédric Le Goater     i = 0;
2143da71b7e3SCédric Le Goater     while (!xive2_router_get_end(xrtr, blk, i, &end)) {
2144da71b7e3SCédric Le Goater         xive2_end_eas_pic_print_info(&end, i++, mon);
2145da71b7e3SCédric Le Goater     }
2146da71b7e3SCédric Le Goater 
2147da71b7e3SCédric Le Goater     monitor_printf(mon, "XIVE[%x] #%d ENDT\n", chip_id, blk);
2148da71b7e3SCédric Le Goater     i = 0;
2149da71b7e3SCédric Le Goater     while (!xive2_router_get_end(xrtr, blk, i, &end)) {
2150da71b7e3SCédric Le Goater         xive2_end_pic_print_info(&end, i++, mon);
2151da71b7e3SCédric Le Goater     }
2152da71b7e3SCédric Le Goater 
2153da71b7e3SCédric Le Goater     monitor_printf(mon, "XIVE[%x] #%d NVPT %08x .. %08x\n", chip_id, blk,
2154da71b7e3SCédric Le Goater                    0, XIVE2_NVP_COUNT - 1);
2155da71b7e3SCédric Le Goater     xive_nvp_per_subpage = pnv_xive2_vst_per_subpage(xive, VST_NVP);
2156da71b7e3SCédric Le Goater     for (i = 0; i < XIVE2_NVP_COUNT; i += xive_nvp_per_subpage) {
2157da71b7e3SCédric Le Goater         while (!xive2_router_get_nvp(xrtr, blk, i, &nvp)) {
2158da71b7e3SCédric Le Goater             xive2_nvp_pic_print_info(&nvp, i++, mon);
2159da71b7e3SCédric Le Goater         }
2160da71b7e3SCédric Le Goater     }
2161da71b7e3SCédric Le Goater }
2162