xref: /openbmc/linux/arch/openrisc/mm/tlb.c (revision 8e6d08e0a15e7d4d4b608b56597350d4cdd77710)
161e85e36SJonas Bonn /*
261e85e36SJonas Bonn  * OpenRISC tlb.c
361e85e36SJonas Bonn  *
461e85e36SJonas Bonn  * Linux architectural port borrowing liberally from similar works of
561e85e36SJonas Bonn  * others.  All original copyrights apply as per the original source
661e85e36SJonas Bonn  * declaration.
761e85e36SJonas Bonn  *
861e85e36SJonas Bonn  * Modifications for the OpenRISC architecture:
961e85e36SJonas Bonn  * Copyright (C) 2003 Matjaz Breskvar <phoenix@bsemi.com>
1061e85e36SJonas Bonn  * Copyright (C) 2010-2011 Julius Baxter <julius.baxter@orsoc.se>
1161e85e36SJonas Bonn  * Copyright (C) 2010-2011 Jonas Bonn <jonas@southpole.se>
1261e85e36SJonas Bonn  *
1361e85e36SJonas Bonn  *      This program is free software; you can redistribute it and/or
1461e85e36SJonas Bonn  *      modify it under the terms of the GNU General Public License
1561e85e36SJonas Bonn  *      as published by the Free Software Foundation; either version
1661e85e36SJonas Bonn  *      2 of the License, or (at your option) any later version.
1761e85e36SJonas Bonn  */
1861e85e36SJonas Bonn 
1961e85e36SJonas Bonn #include <linux/sched.h>
2061e85e36SJonas Bonn #include <linux/kernel.h>
2161e85e36SJonas Bonn #include <linux/errno.h>
2261e85e36SJonas Bonn #include <linux/string.h>
2361e85e36SJonas Bonn #include <linux/types.h>
2461e85e36SJonas Bonn #include <linux/ptrace.h>
2561e85e36SJonas Bonn #include <linux/mman.h>
2661e85e36SJonas Bonn #include <linux/mm.h>
2761e85e36SJonas Bonn #include <linux/init.h>
2861e85e36SJonas Bonn 
2961e85e36SJonas Bonn #include <asm/segment.h>
3061e85e36SJonas Bonn #include <asm/tlbflush.h>
3161e85e36SJonas Bonn #include <asm/pgtable.h>
3261e85e36SJonas Bonn #include <asm/mmu_context.h>
3361e85e36SJonas Bonn #include <asm/spr_defs.h>
3461e85e36SJonas Bonn 
3561e85e36SJonas Bonn #define NO_CONTEXT -1
3661e85e36SJonas Bonn 
3761e85e36SJonas Bonn #define NUM_DTLB_SETS (1 << ((mfspr(SPR_IMMUCFGR) & SPR_IMMUCFGR_NTS) >> \
3861e85e36SJonas Bonn 			    SPR_DMMUCFGR_NTS_OFF))
3961e85e36SJonas Bonn #define NUM_ITLB_SETS (1 << ((mfspr(SPR_IMMUCFGR) & SPR_IMMUCFGR_NTS) >> \
4061e85e36SJonas Bonn 			    SPR_IMMUCFGR_NTS_OFF))
4161e85e36SJonas Bonn #define DTLB_OFFSET(addr) (((addr) >> PAGE_SHIFT) & (NUM_DTLB_SETS-1))
4261e85e36SJonas Bonn #define ITLB_OFFSET(addr) (((addr) >> PAGE_SHIFT) & (NUM_ITLB_SETS-1))
4361e85e36SJonas Bonn /*
4461e85e36SJonas Bonn  * Invalidate all TLB entries.
4561e85e36SJonas Bonn  *
4661e85e36SJonas Bonn  * This comes down to setting the 'valid' bit for all xTLBMR registers to 0.
4761e85e36SJonas Bonn  * Easiest way to accomplish this is to just zero out the xTLBMR register
4861e85e36SJonas Bonn  * completely.
4961e85e36SJonas Bonn  *
5061e85e36SJonas Bonn  */
5161e85e36SJonas Bonn 
52*8e6d08e0SStefan Kristiansson void local_flush_tlb_all(void)
5361e85e36SJonas Bonn {
5461e85e36SJonas Bonn 	int i;
5561e85e36SJonas Bonn 	unsigned long num_tlb_sets;
5661e85e36SJonas Bonn 
5761e85e36SJonas Bonn 	/* Determine number of sets for IMMU. */
5861e85e36SJonas Bonn 	/* FIXME: Assumption is I & D nsets equal. */
5961e85e36SJonas Bonn 	num_tlb_sets = NUM_ITLB_SETS;
6061e85e36SJonas Bonn 
6161e85e36SJonas Bonn 	for (i = 0; i < num_tlb_sets; i++) {
6261e85e36SJonas Bonn 		mtspr_off(SPR_DTLBMR_BASE(0), i, 0);
6361e85e36SJonas Bonn 		mtspr_off(SPR_ITLBMR_BASE(0), i, 0);
6461e85e36SJonas Bonn 	}
6561e85e36SJonas Bonn }
6661e85e36SJonas Bonn 
6761e85e36SJonas Bonn #define have_dtlbeir (mfspr(SPR_DMMUCFGR) & SPR_DMMUCFGR_TEIRI)
6861e85e36SJonas Bonn #define have_itlbeir (mfspr(SPR_IMMUCFGR) & SPR_IMMUCFGR_TEIRI)
6961e85e36SJonas Bonn 
7061e85e36SJonas Bonn /*
7161e85e36SJonas Bonn  * Invalidate a single page.  This is what the xTLBEIR register is for.
7261e85e36SJonas Bonn  *
7361e85e36SJonas Bonn  * There's no point in checking the vma for PAGE_EXEC to determine whether it's
7461e85e36SJonas Bonn  * the data or instruction TLB that should be flushed... that would take more
7561e85e36SJonas Bonn  * than the few instructions that the following compiles down to!
7661e85e36SJonas Bonn  *
7761e85e36SJonas Bonn  * The case where we don't have the xTLBEIR register really only works for
7861e85e36SJonas Bonn  * MMU's with a single way and is hard-coded that way.
7961e85e36SJonas Bonn  */
8061e85e36SJonas Bonn 
8161e85e36SJonas Bonn #define flush_dtlb_page_eir(addr) mtspr(SPR_DTLBEIR, addr)
8261e85e36SJonas Bonn #define flush_dtlb_page_no_eir(addr) \
8361e85e36SJonas Bonn 	mtspr_off(SPR_DTLBMR_BASE(0), DTLB_OFFSET(addr), 0);
8461e85e36SJonas Bonn 
8561e85e36SJonas Bonn #define flush_itlb_page_eir(addr) mtspr(SPR_ITLBEIR, addr)
8661e85e36SJonas Bonn #define flush_itlb_page_no_eir(addr) \
8761e85e36SJonas Bonn 	mtspr_off(SPR_ITLBMR_BASE(0), ITLB_OFFSET(addr), 0);
8861e85e36SJonas Bonn 
89*8e6d08e0SStefan Kristiansson void local_flush_tlb_page(struct vm_area_struct *vma, unsigned long addr)
9061e85e36SJonas Bonn {
9161e85e36SJonas Bonn 	if (have_dtlbeir)
9261e85e36SJonas Bonn 		flush_dtlb_page_eir(addr);
9361e85e36SJonas Bonn 	else
9461e85e36SJonas Bonn 		flush_dtlb_page_no_eir(addr);
9561e85e36SJonas Bonn 
9661e85e36SJonas Bonn 	if (have_itlbeir)
9761e85e36SJonas Bonn 		flush_itlb_page_eir(addr);
9861e85e36SJonas Bonn 	else
9961e85e36SJonas Bonn 		flush_itlb_page_no_eir(addr);
10061e85e36SJonas Bonn }
10161e85e36SJonas Bonn 
102*8e6d08e0SStefan Kristiansson void local_flush_tlb_range(struct vm_area_struct *vma,
10361e85e36SJonas Bonn 			   unsigned long start, unsigned long end)
10461e85e36SJonas Bonn {
10561e85e36SJonas Bonn 	int addr;
10661e85e36SJonas Bonn 	bool dtlbeir;
10761e85e36SJonas Bonn 	bool itlbeir;
10861e85e36SJonas Bonn 
10961e85e36SJonas Bonn 	dtlbeir = have_dtlbeir;
11061e85e36SJonas Bonn 	itlbeir = have_itlbeir;
11161e85e36SJonas Bonn 
11261e85e36SJonas Bonn 	for (addr = start; addr < end; addr += PAGE_SIZE) {
11361e85e36SJonas Bonn 		if (dtlbeir)
11461e85e36SJonas Bonn 			flush_dtlb_page_eir(addr);
11561e85e36SJonas Bonn 		else
11661e85e36SJonas Bonn 			flush_dtlb_page_no_eir(addr);
11761e85e36SJonas Bonn 
11861e85e36SJonas Bonn 		if (itlbeir)
11961e85e36SJonas Bonn 			flush_itlb_page_eir(addr);
12061e85e36SJonas Bonn 		else
12161e85e36SJonas Bonn 			flush_itlb_page_no_eir(addr);
12261e85e36SJonas Bonn 	}
12361e85e36SJonas Bonn }
12461e85e36SJonas Bonn 
12561e85e36SJonas Bonn /*
12661e85e36SJonas Bonn  * Invalidate the selected mm context only.
12761e85e36SJonas Bonn  *
12861e85e36SJonas Bonn  * FIXME: Due to some bug here, we're flushing everything for now.
12961e85e36SJonas Bonn  * This should be changed to loop over over mm and call flush_tlb_range.
13061e85e36SJonas Bonn  */
13161e85e36SJonas Bonn 
132*8e6d08e0SStefan Kristiansson void local_flush_tlb_mm(struct mm_struct *mm)
13361e85e36SJonas Bonn {
13461e85e36SJonas Bonn 
13561e85e36SJonas Bonn 	/* Was seeing bugs with the mm struct passed to us. Scrapped most of
13661e85e36SJonas Bonn 	   this function. */
13761e85e36SJonas Bonn 	/* Several architctures do this */
138*8e6d08e0SStefan Kristiansson 	local_flush_tlb_all();
13961e85e36SJonas Bonn }
14061e85e36SJonas Bonn 
14161e85e36SJonas Bonn /* called in schedule() just before actually doing the switch_to */
14261e85e36SJonas Bonn 
14361e85e36SJonas Bonn void switch_mm(struct mm_struct *prev, struct mm_struct *next,
14461e85e36SJonas Bonn 	       struct task_struct *next_tsk)
14561e85e36SJonas Bonn {
14661e85e36SJonas Bonn 	/* remember the pgd for the fault handlers
14761e85e36SJonas Bonn 	 * this is similar to the pgd register in some other CPU's.
14861e85e36SJonas Bonn 	 * we need our own copy of it because current and active_mm
14961e85e36SJonas Bonn 	 * might be invalid at points where we still need to derefer
15061e85e36SJonas Bonn 	 * the pgd.
15161e85e36SJonas Bonn 	 */
152*8e6d08e0SStefan Kristiansson 	current_pgd[smp_processor_id()] = next->pgd;
15361e85e36SJonas Bonn 
15461e85e36SJonas Bonn 	/* We don't have context support implemented, so flush all
15561e85e36SJonas Bonn 	 * entries belonging to previous map
15661e85e36SJonas Bonn 	 */
15761e85e36SJonas Bonn 
15861e85e36SJonas Bonn 	if (prev != next)
159*8e6d08e0SStefan Kristiansson 		local_flush_tlb_mm(prev);
16061e85e36SJonas Bonn 
16161e85e36SJonas Bonn }
16261e85e36SJonas Bonn 
16361e85e36SJonas Bonn /*
16461e85e36SJonas Bonn  * Initialize the context related info for a new mm_struct
16561e85e36SJonas Bonn  * instance.
16661e85e36SJonas Bonn  */
16761e85e36SJonas Bonn 
16861e85e36SJonas Bonn int init_new_context(struct task_struct *tsk, struct mm_struct *mm)
16961e85e36SJonas Bonn {
17061e85e36SJonas Bonn 	mm->context = NO_CONTEXT;
17161e85e36SJonas Bonn 	return 0;
17261e85e36SJonas Bonn }
17361e85e36SJonas Bonn 
17461e85e36SJonas Bonn /* called by __exit_mm to destroy the used MMU context if any before
17561e85e36SJonas Bonn  * destroying the mm itself. this is only called when the last user of the mm
17661e85e36SJonas Bonn  * drops it.
17761e85e36SJonas Bonn  */
17861e85e36SJonas Bonn 
17961e85e36SJonas Bonn void destroy_context(struct mm_struct *mm)
18061e85e36SJonas Bonn {
18161e85e36SJonas Bonn 	flush_tlb_mm(mm);
18261e85e36SJonas Bonn 
18361e85e36SJonas Bonn }
18461e85e36SJonas Bonn 
18561e85e36SJonas Bonn /* called once during VM initialization, from init.c */
18661e85e36SJonas Bonn 
18761e85e36SJonas Bonn void __init tlb_init(void)
18861e85e36SJonas Bonn {
18961e85e36SJonas Bonn 	/* Do nothing... */
19061e85e36SJonas Bonn 	/* invalidate the entire TLB */
19161e85e36SJonas Bonn 	/* flush_tlb_all(); */
19261e85e36SJonas Bonn }
193