Lines Matching refs:__pte
223 u64 __pte, __npte; in alloc_pte() local
226 __pte = *pte; in alloc_pte()
227 pte_level = PM_PTE_LEVEL(__pte); in alloc_pte()
233 if (IOMMU_PTE_PRESENT(__pte) && in alloc_pte()
245 cmpxchg64(&lpte[i], __pte, 0ULL); in alloc_pte()
251 if (!IOMMU_PTE_PRESENT(__pte) || in alloc_pte()
261 if (!try_cmpxchg64(pte, &__pte, __npte)) in alloc_pte()
263 else if (IOMMU_PTE_PRESENT(__pte)) in alloc_pte()
275 pte = IOMMU_PTE_PAGE(__pte); in alloc_pte()
370 u64 __pte, *pte; in iommu_v1_map_pages() local
395 __pte = PAGE_SIZE_PTE(__sme_set(paddr), pgsize); in iommu_v1_map_pages()
396 __pte |= PM_LEVEL_ENC(7) | IOMMU_PTE_PR | IOMMU_PTE_FC; in iommu_v1_map_pages()
398 __pte = __sme_set(paddr) | IOMMU_PTE_PR | IOMMU_PTE_FC; in iommu_v1_map_pages()
401 __pte |= IOMMU_PTE_IR; in iommu_v1_map_pages()
403 __pte |= IOMMU_PTE_IW; in iommu_v1_map_pages()
406 pte[i] = __pte; in iommu_v1_map_pages()
476 u64 *pte, __pte; in iommu_v1_iova_to_phys() local
484 __pte = __sme_clr(*pte & PM_ADDR_MASK); in iommu_v1_iova_to_phys()
486 return (__pte & ~offset_mask) | (iova & offset_mask); in iommu_v1_iova_to_phys()