xref: /openbmc/linux/arch/x86/kernel/stacktrace.c (revision 49a612c6b06defbd6e6d334c683fea28006728e3)
1250c2277SThomas Gleixner /*
2250c2277SThomas Gleixner  * Stack trace management functions
3250c2277SThomas Gleixner  *
48f47e163SIngo Molnar  *  Copyright (C) 2006-2009 Red Hat, Inc., Ingo Molnar <mingo@redhat.com>
5250c2277SThomas Gleixner  */
6250c2277SThomas Gleixner #include <linux/sched.h>
7250c2277SThomas Gleixner #include <linux/stacktrace.h>
8186f4360SPaul Gortmaker #include <linux/export.h>
902b67518STörök Edwin #include <linux/uaccess.h>
10250c2277SThomas Gleixner #include <asm/stacktrace.h>
11*49a612c6SJosh Poimboeuf #include <asm/unwind.h>
12250c2277SThomas Gleixner 
13*49a612c6SJosh Poimboeuf static int save_stack_address(struct stack_trace *trace, unsigned long addr,
14*49a612c6SJosh Poimboeuf 			      bool nosched)
15250c2277SThomas Gleixner {
16018378c5SOleg Nesterov 	if (nosched && in_sched_functions(addr))
17568b329aSAlexei Starovoitov 		return 0;
18*49a612c6SJosh Poimboeuf 
19250c2277SThomas Gleixner 	if (trace->skip > 0) {
20250c2277SThomas Gleixner 		trace->skip--;
21568b329aSAlexei Starovoitov 		return 0;
22250c2277SThomas Gleixner 	}
23*49a612c6SJosh Poimboeuf 
24*49a612c6SJosh Poimboeuf 	if (trace->nr_entries >= trace->max_entries)
25*49a612c6SJosh Poimboeuf 		return -1;
26*49a612c6SJosh Poimboeuf 
27250c2277SThomas Gleixner 	trace->entries[trace->nr_entries++] = addr;
28568b329aSAlexei Starovoitov 	return 0;
29250c2277SThomas Gleixner }
30250c2277SThomas Gleixner 
31*49a612c6SJosh Poimboeuf static void __save_stack_trace(struct stack_trace *trace,
32*49a612c6SJosh Poimboeuf 			       struct task_struct *task, struct pt_regs *regs,
33*49a612c6SJosh Poimboeuf 			       bool nosched)
34018378c5SOleg Nesterov {
35*49a612c6SJosh Poimboeuf 	struct unwind_state state;
36*49a612c6SJosh Poimboeuf 	unsigned long addr;
37*49a612c6SJosh Poimboeuf 
38*49a612c6SJosh Poimboeuf 	if (regs)
39*49a612c6SJosh Poimboeuf 		save_stack_address(trace, regs->ip, nosched);
40*49a612c6SJosh Poimboeuf 
41*49a612c6SJosh Poimboeuf 	for (unwind_start(&state, task, regs, NULL); !unwind_done(&state);
42*49a612c6SJosh Poimboeuf 	     unwind_next_frame(&state)) {
43*49a612c6SJosh Poimboeuf 		addr = unwind_get_return_address(&state);
44*49a612c6SJosh Poimboeuf 		if (!addr || save_stack_address(trace, addr, nosched))
45*49a612c6SJosh Poimboeuf 			break;
46018378c5SOleg Nesterov 	}
47018378c5SOleg Nesterov 
48*49a612c6SJosh Poimboeuf 	if (trace->nr_entries < trace->max_entries)
49*49a612c6SJosh Poimboeuf 		trace->entries[trace->nr_entries++] = ULONG_MAX;
509745512cSArjan van de Ven }
519745512cSArjan van de Ven 
52250c2277SThomas Gleixner /*
53250c2277SThomas Gleixner  * Save stack-backtrace addresses into a stack_trace buffer.
54250c2277SThomas Gleixner  */
55250c2277SThomas Gleixner void save_stack_trace(struct stack_trace *trace)
56250c2277SThomas Gleixner {
57*49a612c6SJosh Poimboeuf 	__save_stack_trace(trace, current, NULL, false);
58250c2277SThomas Gleixner }
598594698eSIngo Molnar EXPORT_SYMBOL_GPL(save_stack_trace);
609745512cSArjan van de Ven 
6139581062SMasami Hiramatsu void save_stack_trace_regs(struct pt_regs *regs, struct stack_trace *trace)
62acc6be54SVegard Nossum {
63*49a612c6SJosh Poimboeuf 	__save_stack_trace(trace, current, regs, false);
64acc6be54SVegard Nossum }
65acc6be54SVegard Nossum 
669745512cSArjan van de Ven void save_stack_trace_tsk(struct task_struct *tsk, struct stack_trace *trace)
679745512cSArjan van de Ven {
681959a601SAndy Lutomirski 	if (!try_get_task_stack(tsk))
691959a601SAndy Lutomirski 		return;
701959a601SAndy Lutomirski 
71*49a612c6SJosh Poimboeuf 	__save_stack_trace(trace, tsk, NULL, true);
721959a601SAndy Lutomirski 
731959a601SAndy Lutomirski 	put_task_stack(tsk);
749745512cSArjan van de Ven }
758594698eSIngo Molnar EXPORT_SYMBOL_GPL(save_stack_trace_tsk);
7602b67518STörök Edwin 
7702b67518STörök Edwin /* Userspace stacktrace - based on kernel/trace/trace_sysprof.c */
7802b67518STörök Edwin 
79c9cf4dbbSFrederic Weisbecker struct stack_frame_user {
8002b67518STörök Edwin 	const void __user	*next_fp;
818d7c6a96STörök Edwin 	unsigned long		ret_addr;
8202b67518STörök Edwin };
8302b67518STörök Edwin 
84c9cf4dbbSFrederic Weisbecker static int
85c9cf4dbbSFrederic Weisbecker copy_stack_frame(const void __user *fp, struct stack_frame_user *frame)
8602b67518STörök Edwin {
8702b67518STörök Edwin 	int ret;
8802b67518STörök Edwin 
8902b67518STörök Edwin 	if (!access_ok(VERIFY_READ, fp, sizeof(*frame)))
9002b67518STörök Edwin 		return 0;
9102b67518STörök Edwin 
9202b67518STörök Edwin 	ret = 1;
9302b67518STörök Edwin 	pagefault_disable();
9402b67518STörök Edwin 	if (__copy_from_user_inatomic(frame, fp, sizeof(*frame)))
9502b67518STörök Edwin 		ret = 0;
9602b67518STörök Edwin 	pagefault_enable();
9702b67518STörök Edwin 
9802b67518STörök Edwin 	return ret;
9902b67518STörök Edwin }
10002b67518STörök Edwin 
1018d7c6a96STörök Edwin static inline void __save_stack_trace_user(struct stack_trace *trace)
10202b67518STörök Edwin {
10302b67518STörök Edwin 	const struct pt_regs *regs = task_pt_regs(current);
10402b67518STörök Edwin 	const void __user *fp = (const void __user *)regs->bp;
10502b67518STörök Edwin 
10602b67518STörök Edwin 	if (trace->nr_entries < trace->max_entries)
10702b67518STörök Edwin 		trace->entries[trace->nr_entries++] = regs->ip;
10802b67518STörök Edwin 
10902b67518STörök Edwin 	while (trace->nr_entries < trace->max_entries) {
110c9cf4dbbSFrederic Weisbecker 		struct stack_frame_user frame;
1118d7c6a96STörök Edwin 
11202b67518STörök Edwin 		frame.next_fp = NULL;
1138d7c6a96STörök Edwin 		frame.ret_addr = 0;
11402b67518STörök Edwin 		if (!copy_stack_frame(fp, &frame))
11502b67518STörök Edwin 			break;
11602b67518STörök Edwin 		if ((unsigned long)fp < regs->sp)
11702b67518STörök Edwin 			break;
1188d7c6a96STörök Edwin 		if (frame.ret_addr) {
11902b67518STörök Edwin 			trace->entries[trace->nr_entries++] =
1208d7c6a96STörök Edwin 				frame.ret_addr;
1218d7c6a96STörök Edwin 		}
12202b67518STörök Edwin 		if (fp == frame.next_fp)
12302b67518STörök Edwin 			break;
12402b67518STörök Edwin 		fp = frame.next_fp;
12502b67518STörök Edwin 	}
12602b67518STörök Edwin }
1278d7c6a96STörök Edwin 
1288d7c6a96STörök Edwin void save_stack_trace_user(struct stack_trace *trace)
1298d7c6a96STörök Edwin {
1308d7c6a96STörök Edwin 	/*
1318d7c6a96STörök Edwin 	 * Trace user stack if we are not a kernel thread
1328d7c6a96STörök Edwin 	 */
1338d7c6a96STörök Edwin 	if (current->mm) {
1348d7c6a96STörök Edwin 		__save_stack_trace_user(trace);
1358d7c6a96STörök Edwin 	}
13602b67518STörök Edwin 	if (trace->nr_entries < trace->max_entries)
13702b67518STörök Edwin 		trace->entries[trace->nr_entries++] = ULONG_MAX;
13802b67518STörök Edwin }
13902b67518STörök Edwin 
140