xref: /openbmc/linux/arch/x86/kernel/stacktrace.c (revision 186f43608a5c827f8284fe4559225b4dccaa49ef)
1250c2277SThomas Gleixner /*
2250c2277SThomas Gleixner  * Stack trace management functions
3250c2277SThomas Gleixner  *
48f47e163SIngo Molnar  *  Copyright (C) 2006-2009 Red Hat, Inc., Ingo Molnar <mingo@redhat.com>
5250c2277SThomas Gleixner  */
6250c2277SThomas Gleixner #include <linux/sched.h>
7250c2277SThomas Gleixner #include <linux/stacktrace.h>
8*186f4360SPaul Gortmaker #include <linux/export.h>
902b67518STörök Edwin #include <linux/uaccess.h>
10250c2277SThomas Gleixner #include <asm/stacktrace.h>
11250c2277SThomas Gleixner 
12250c2277SThomas Gleixner static int save_stack_stack(void *data, char *name)
13250c2277SThomas Gleixner {
1429a67975SSteven Rostedt 	return 0;
15250c2277SThomas Gleixner }
16250c2277SThomas Gleixner 
17568b329aSAlexei Starovoitov static int
18018378c5SOleg Nesterov __save_stack_address(void *data, unsigned long addr, bool reliable, bool nosched)
19250c2277SThomas Gleixner {
20ade1af77SJan Engelhardt 	struct stack_trace *trace = data;
21147ec4d2SOleg Nesterov #ifdef CONFIG_FRAME_POINTER
221650743cSVegard Nossum 	if (!reliable)
23568b329aSAlexei Starovoitov 		return 0;
24147ec4d2SOleg Nesterov #endif
25018378c5SOleg Nesterov 	if (nosched && in_sched_functions(addr))
26568b329aSAlexei Starovoitov 		return 0;
27250c2277SThomas Gleixner 	if (trace->skip > 0) {
28250c2277SThomas Gleixner 		trace->skip--;
29568b329aSAlexei Starovoitov 		return 0;
30250c2277SThomas Gleixner 	}
31568b329aSAlexei Starovoitov 	if (trace->nr_entries < trace->max_entries) {
32250c2277SThomas Gleixner 		trace->entries[trace->nr_entries++] = addr;
33568b329aSAlexei Starovoitov 		return 0;
34568b329aSAlexei Starovoitov 	} else {
35568b329aSAlexei Starovoitov 		return -1; /* no more room, stop walking the stack */
36568b329aSAlexei Starovoitov 	}
37250c2277SThomas Gleixner }
38250c2277SThomas Gleixner 
39568b329aSAlexei Starovoitov static int save_stack_address(void *data, unsigned long addr, int reliable)
40018378c5SOleg Nesterov {
41018378c5SOleg Nesterov 	return __save_stack_address(data, addr, reliable, false);
42018378c5SOleg Nesterov }
43018378c5SOleg Nesterov 
44568b329aSAlexei Starovoitov static int
455bc27dc2SArjan van de Ven save_stack_address_nosched(void *data, unsigned long addr, int reliable)
469745512cSArjan van de Ven {
47018378c5SOleg Nesterov 	return __save_stack_address(data, addr, reliable, true);
489745512cSArjan van de Ven }
499745512cSArjan van de Ven 
509689ba8aSJan Beulich static const struct stacktrace_ops save_stack_ops = {
51250c2277SThomas Gleixner 	.stack		= save_stack_stack,
52250c2277SThomas Gleixner 	.address	= save_stack_address,
5361c1917fSFrederic Weisbecker 	.walk_stack	= print_context_stack,
54250c2277SThomas Gleixner };
55250c2277SThomas Gleixner 
569745512cSArjan van de Ven static const struct stacktrace_ops save_stack_ops_nosched = {
579745512cSArjan van de Ven 	.stack		= save_stack_stack,
589745512cSArjan van de Ven 	.address	= save_stack_address_nosched,
5961c1917fSFrederic Weisbecker 	.walk_stack	= print_context_stack,
609745512cSArjan van de Ven };
619745512cSArjan van de Ven 
62250c2277SThomas Gleixner /*
63250c2277SThomas Gleixner  * Save stack-backtrace addresses into a stack_trace buffer.
64250c2277SThomas Gleixner  */
65250c2277SThomas Gleixner void save_stack_trace(struct stack_trace *trace)
66250c2277SThomas Gleixner {
67e8e999cfSNamhyung Kim 	dump_trace(current, NULL, NULL, 0, &save_stack_ops, trace);
68250c2277SThomas Gleixner 	if (trace->nr_entries < trace->max_entries)
69250c2277SThomas Gleixner 		trace->entries[trace->nr_entries++] = ULONG_MAX;
70250c2277SThomas Gleixner }
718594698eSIngo Molnar EXPORT_SYMBOL_GPL(save_stack_trace);
729745512cSArjan van de Ven 
7339581062SMasami Hiramatsu void save_stack_trace_regs(struct pt_regs *regs, struct stack_trace *trace)
74acc6be54SVegard Nossum {
75e8e999cfSNamhyung Kim 	dump_trace(current, regs, NULL, 0, &save_stack_ops, trace);
76acc6be54SVegard Nossum 	if (trace->nr_entries < trace->max_entries)
77acc6be54SVegard Nossum 		trace->entries[trace->nr_entries++] = ULONG_MAX;
78acc6be54SVegard Nossum }
79acc6be54SVegard Nossum 
809745512cSArjan van de Ven void save_stack_trace_tsk(struct task_struct *tsk, struct stack_trace *trace)
819745512cSArjan van de Ven {
82e8e999cfSNamhyung Kim 	dump_trace(tsk, NULL, NULL, 0, &save_stack_ops_nosched, trace);
839745512cSArjan van de Ven 	if (trace->nr_entries < trace->max_entries)
849745512cSArjan van de Ven 		trace->entries[trace->nr_entries++] = ULONG_MAX;
859745512cSArjan van de Ven }
868594698eSIngo Molnar EXPORT_SYMBOL_GPL(save_stack_trace_tsk);
8702b67518STörök Edwin 
8802b67518STörök Edwin /* Userspace stacktrace - based on kernel/trace/trace_sysprof.c */
8902b67518STörök Edwin 
90c9cf4dbbSFrederic Weisbecker struct stack_frame_user {
9102b67518STörök Edwin 	const void __user	*next_fp;
928d7c6a96STörök Edwin 	unsigned long		ret_addr;
9302b67518STörök Edwin };
9402b67518STörök Edwin 
95c9cf4dbbSFrederic Weisbecker static int
96c9cf4dbbSFrederic Weisbecker copy_stack_frame(const void __user *fp, struct stack_frame_user *frame)
9702b67518STörök Edwin {
9802b67518STörök Edwin 	int ret;
9902b67518STörök Edwin 
10002b67518STörök Edwin 	if (!access_ok(VERIFY_READ, fp, sizeof(*frame)))
10102b67518STörök Edwin 		return 0;
10202b67518STörök Edwin 
10302b67518STörök Edwin 	ret = 1;
10402b67518STörök Edwin 	pagefault_disable();
10502b67518STörök Edwin 	if (__copy_from_user_inatomic(frame, fp, sizeof(*frame)))
10602b67518STörök Edwin 		ret = 0;
10702b67518STörök Edwin 	pagefault_enable();
10802b67518STörök Edwin 
10902b67518STörök Edwin 	return ret;
11002b67518STörök Edwin }
11102b67518STörök Edwin 
1128d7c6a96STörök Edwin static inline void __save_stack_trace_user(struct stack_trace *trace)
11302b67518STörök Edwin {
11402b67518STörök Edwin 	const struct pt_regs *regs = task_pt_regs(current);
11502b67518STörök Edwin 	const void __user *fp = (const void __user *)regs->bp;
11602b67518STörök Edwin 
11702b67518STörök Edwin 	if (trace->nr_entries < trace->max_entries)
11802b67518STörök Edwin 		trace->entries[trace->nr_entries++] = regs->ip;
11902b67518STörök Edwin 
12002b67518STörök Edwin 	while (trace->nr_entries < trace->max_entries) {
121c9cf4dbbSFrederic Weisbecker 		struct stack_frame_user frame;
1228d7c6a96STörök Edwin 
12302b67518STörök Edwin 		frame.next_fp = NULL;
1248d7c6a96STörök Edwin 		frame.ret_addr = 0;
12502b67518STörök Edwin 		if (!copy_stack_frame(fp, &frame))
12602b67518STörök Edwin 			break;
12702b67518STörök Edwin 		if ((unsigned long)fp < regs->sp)
12802b67518STörök Edwin 			break;
1298d7c6a96STörök Edwin 		if (frame.ret_addr) {
13002b67518STörök Edwin 			trace->entries[trace->nr_entries++] =
1318d7c6a96STörök Edwin 				frame.ret_addr;
1328d7c6a96STörök Edwin 		}
13302b67518STörök Edwin 		if (fp == frame.next_fp)
13402b67518STörök Edwin 			break;
13502b67518STörök Edwin 		fp = frame.next_fp;
13602b67518STörök Edwin 	}
13702b67518STörök Edwin }
1388d7c6a96STörök Edwin 
1398d7c6a96STörök Edwin void save_stack_trace_user(struct stack_trace *trace)
1408d7c6a96STörök Edwin {
1418d7c6a96STörök Edwin 	/*
1428d7c6a96STörök Edwin 	 * Trace user stack if we are not a kernel thread
1438d7c6a96STörök Edwin 	 */
1448d7c6a96STörök Edwin 	if (current->mm) {
1458d7c6a96STörök Edwin 		__save_stack_trace_user(trace);
1468d7c6a96STörök Edwin 	}
14702b67518STörök Edwin 	if (trace->nr_entries < trace->max_entries)
14802b67518STörök Edwin 		trace->entries[trace->nr_entries++] = ULONG_MAX;
14902b67518STörök Edwin }
15002b67518STörök Edwin 
151