Lines Matching refs:pt_ops
292 struct pt_alloc_ops pt_ops __initdata;
301 #define pt_ops (*(struct pt_alloc_ops *)XIP_FIXUP(&pt_ops)) macro
477 pte_phys = pt_ops.alloc_pte(va); in create_pmd_mapping()
479 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
483 ptep = pt_ops.get_pte_virt(pte_phys); in create_pmd_mapping()
580 next_phys = pt_ops.alloc_pmd(va); in create_pud_mapping()
582 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
586 nextp = pt_ops.get_pmd_virt(next_phys); in create_pud_mapping()
607 next_phys = pt_ops.alloc_pud(va); in create_p4d_mapping()
609 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
613 nextp = pt_ops.get_pud_virt(next_phys); in create_p4d_mapping()
621 pt_ops.alloc_p4d(__va) : (pgtable_l4_enabled ? \
622 pt_ops.alloc_pud(__va) : pt_ops.alloc_pmd(__va)))
624 pt_ops.get_p4d_virt(__pa) : (pgd_next_t *)(pgtable_l4_enabled ? \
625 pt_ops.get_pud_virt(__pa) : (pud_t *)pt_ops.get_pmd_virt(__pa)))
640 #define alloc_pgd_next(__va) pt_ops.alloc_pte(__va)
641 #define get_pgd_next_virt(__pa) pt_ops.get_pte_virt(__pa)
981 pt_ops.alloc_pte = alloc_pte_early; in pt_ops_set_early()
982 pt_ops.get_pte_virt = get_pte_virt_early; in pt_ops_set_early()
984 pt_ops.alloc_pmd = alloc_pmd_early; in pt_ops_set_early()
985 pt_ops.get_pmd_virt = get_pmd_virt_early; in pt_ops_set_early()
986 pt_ops.alloc_pud = alloc_pud_early; in pt_ops_set_early()
987 pt_ops.get_pud_virt = get_pud_virt_early; in pt_ops_set_early()
988 pt_ops.alloc_p4d = alloc_p4d_early; in pt_ops_set_early()
989 pt_ops.get_p4d_virt = get_p4d_virt_early; in pt_ops_set_early()
1003 pt_ops.alloc_pte = kernel_mapping_pa_to_va(alloc_pte_fixmap); in pt_ops_set_fixmap()
1004 pt_ops.get_pte_virt = kernel_mapping_pa_to_va(get_pte_virt_fixmap); in pt_ops_set_fixmap()
1006 pt_ops.alloc_pmd = kernel_mapping_pa_to_va(alloc_pmd_fixmap); in pt_ops_set_fixmap()
1007 pt_ops.get_pmd_virt = kernel_mapping_pa_to_va(get_pmd_virt_fixmap); in pt_ops_set_fixmap()
1008 pt_ops.alloc_pud = kernel_mapping_pa_to_va(alloc_pud_fixmap); in pt_ops_set_fixmap()
1009 pt_ops.get_pud_virt = kernel_mapping_pa_to_va(get_pud_virt_fixmap); in pt_ops_set_fixmap()
1010 pt_ops.alloc_p4d = kernel_mapping_pa_to_va(alloc_p4d_fixmap); in pt_ops_set_fixmap()
1011 pt_ops.get_p4d_virt = kernel_mapping_pa_to_va(get_p4d_virt_fixmap); in pt_ops_set_fixmap()
1021 pt_ops.alloc_pte = alloc_pte_late; in pt_ops_set_late()
1022 pt_ops.get_pte_virt = get_pte_virt_late; in pt_ops_set_late()
1024 pt_ops.alloc_pmd = alloc_pmd_late; in pt_ops_set_late()
1025 pt_ops.get_pmd_virt = get_pmd_virt_late; in pt_ops_set_late()
1026 pt_ops.alloc_pud = alloc_pud_late; in pt_ops_set_late()
1027 pt_ops.get_pud_virt = get_pud_virt_late; in pt_ops_set_late()
1028 pt_ops.alloc_p4d = alloc_p4d_late; in pt_ops_set_late()
1029 pt_ops.get_p4d_virt = get_p4d_virt_late; in pt_ops_set_late()