1*ee65728eSMike Rapoport 2*ee65728eSMike Rapoport:Original: Documentation/mm/hwpoison.rst 3*ee65728eSMike Rapoport 4*ee65728eSMike Rapoport:翻译: 5*ee65728eSMike Rapoport 6*ee65728eSMike Rapoport 司延腾 Yanteng Si <siyanteng@loongson.cn> 7*ee65728eSMike Rapoport 8*ee65728eSMike Rapoport:校译: 9*ee65728eSMike Rapoport 10*ee65728eSMike Rapoport 11*ee65728eSMike Rapoport======== 12*ee65728eSMike Rapoporthwpoison 13*ee65728eSMike Rapoport======== 14*ee65728eSMike Rapoport 15*ee65728eSMike Rapoport什么是hwpoison? 16*ee65728eSMike Rapoport=============== 17*ee65728eSMike Rapoport 18*ee65728eSMike Rapoport 19*ee65728eSMike Rapoport即将推出的英特尔CPU支持从一些内存错误中恢复( ``MCA恢复`` )。这需要操作系统宣布 20*ee65728eSMike Rapoport一个页面"poisoned",杀死与之相关的进程,并避免在未来使用它。 21*ee65728eSMike Rapoport 22*ee65728eSMike Rapoport这个补丁包在虚拟机中实现了必要的(编程)框架。 23*ee65728eSMike Rapoport 24*ee65728eSMike Rapoport引用概述中的评论:: 25*ee65728eSMike Rapoport 26*ee65728eSMike Rapoport 高级机器的检查与处理。处理方法是损坏的页面被硬件报告,通常是由于2位ECC内 27*ee65728eSMike Rapoport 存或高速缓存故障。 28*ee65728eSMike Rapoport 29*ee65728eSMike Rapoport 这主要是针对在后台检测到的损坏的页面。当当前的CPU试图访问它时,当前运行的进程 30*ee65728eSMike Rapoport 可以直接被杀死。因为还没有访问损坏的页面, 如果错误由于某种原因不能被处理,就可 31*ee65728eSMike Rapoport 以安全地忽略它. 而不是用另外一个机器检查去处理它。 32*ee65728eSMike Rapoport 33*ee65728eSMike Rapoport 处理不同状态的页面缓存页。这里棘手的部分是,相对于其他虚拟内存用户, 我们可以异 34*ee65728eSMike Rapoport 步访问任何页面。因为内存故障可能随时随地发生,可能违反了他们的一些假设。这就是 35*ee65728eSMike Rapoport 为什么这段代码必须非常小心。一般来说,它试图使用正常的锁规则,如获得标准锁,即使 36*ee65728eSMike Rapoport 这意味着错误处理可能需要很长的时间。 37*ee65728eSMike Rapoport 38*ee65728eSMike Rapoport 这里的一些操作有点低效,并且具有非线性的算法复杂性,因为数据结构没有针对这种情 39*ee65728eSMike Rapoport 况进行优化。特别是从vma到进程的映射就是这种情况。由于这种情况大概率是罕见的,所 40*ee65728eSMike Rapoport 以我们希望我们可以摆脱这种情况。 41*ee65728eSMike Rapoport 42*ee65728eSMike Rapoport该代码由mm/memory-failure.c中的高级处理程序、一个新的页面poison位和虚拟机中的 43*ee65728eSMike Rapoport各种检查组成,用来处理poison的页面。 44*ee65728eSMike Rapoport 45*ee65728eSMike Rapoport现在主要目标是KVM客户机,但它适用于所有类型的应用程序。支持KVM需要最近的qemu-kvm 46*ee65728eSMike Rapoport版本。 47*ee65728eSMike Rapoport 48*ee65728eSMike Rapoport对于KVM的使用,需要一个新的信号类型,这样KVM就可以用适当的地址将机器检查注入到客户 49*ee65728eSMike Rapoport机中。这在理论上也允许其他应用程序处理内存故障。我们的期望是,所有的应用程序都不要这 50*ee65728eSMike Rapoport样做,但一些非常专业的应用程序可能会这样做。 51*ee65728eSMike Rapoport 52*ee65728eSMike Rapoport故障恢复模式 53*ee65728eSMike Rapoport============ 54*ee65728eSMike Rapoport 55*ee65728eSMike Rapoport有两种(实际上是三种)模式的内存故障恢复可以在。 56*ee65728eSMike Rapoport 57*ee65728eSMike Rapoportvm.memory_failure_recovery sysctl 置零: 58*ee65728eSMike Rapoport 所有的内存故障都会导致panic。请不要尝试恢复。 59*ee65728eSMike Rapoport 60*ee65728eSMike Rapoport早期处理 61*ee65728eSMike Rapoport (可以在全局和每个进程中控制) 一旦检测到错误,立即向应用程序发送SIGBUS这允许 62*ee65728eSMike Rapoport 应用程序以温和的方式处理内存错误(例如,放弃受影响的对象) 这是KVM qemu使用的 63*ee65728eSMike Rapoport 模式。 64*ee65728eSMike Rapoport 65*ee65728eSMike Rapoport推迟处理 66*ee65728eSMike Rapoport 当应用程序运行到损坏的页面时,发送SIGBUS。这对不知道内存错误的应用程序来说是 67*ee65728eSMike Rapoport 最好的,默认情况下注意一些页面总是被当作late kill处理。 68*ee65728eSMike Rapoport 69*ee65728eSMike Rapoport用户控制 70*ee65728eSMike Rapoport======== 71*ee65728eSMike Rapoport 72*ee65728eSMike Rapoportvm.memory_failure_recovery 73*ee65728eSMike Rapoport 参阅 sysctl.txt 74*ee65728eSMike Rapoport 75*ee65728eSMike Rapoportvm.memory_failure_early_kill 76*ee65728eSMike Rapoport 全局启用early kill 77*ee65728eSMike Rapoport 78*ee65728eSMike RapoportPR_MCE_KILL 79*ee65728eSMike Rapoport 设置early/late kill mode/revert 到系统默认值。 80*ee65728eSMike Rapoport 81*ee65728eSMike Rapoport arg1: PR_MCE_KILL_CLEAR: 82*ee65728eSMike Rapoport 恢复到系统默认值 83*ee65728eSMike Rapoport arg1: PR_MCE_KILL_SET: 84*ee65728eSMike Rapoport arg2定义了线程特定模式 85*ee65728eSMike Rapoport 86*ee65728eSMike Rapoport PR_MCE_KILL_EARLY: 87*ee65728eSMike Rapoport Early kill 88*ee65728eSMike Rapoport PR_MCE_KILL_LATE: 89*ee65728eSMike Rapoport Late kill 90*ee65728eSMike Rapoport PR_MCE_KILL_DEFAULT 91*ee65728eSMike Rapoport 使用系统全局默认值 92*ee65728eSMike Rapoport 93*ee65728eSMike Rapoport 注意,如果你想有一个专门的线程代表进程处理SIGBUS(BUS_MCEERR_AO),你应该在 94*ee65728eSMike Rapoport 指定线程上调用prctl(PR_MCE_KILL_EARLY)。否则,SIGBUS将被发送到主线程。 95*ee65728eSMike Rapoport 96*ee65728eSMike RapoportPR_MCE_KILL_GET 97*ee65728eSMike Rapoport 返回当前模式 98*ee65728eSMike Rapoport 99*ee65728eSMike Rapoport测试 100*ee65728eSMike Rapoport==== 101*ee65728eSMike Rapoport 102*ee65728eSMike Rapoport* madvise(MADV_HWPOISON, ....) (as root) - 在测试过程中Poison一个页面 103*ee65728eSMike Rapoport 104*ee65728eSMike Rapoport* 通过debugfs ``/sys/kernel/debug/hwpoison/`` hwpoison-inject模块 105*ee65728eSMike Rapoport 106*ee65728eSMike Rapoport corrupt-pfn 107*ee65728eSMike Rapoport 在PFN处注入hwpoison故障,并echoed到这个文件。这做了一些早期过滤,以避 108*ee65728eSMike Rapoport 免在测试套件中损坏非预期页面。 109*ee65728eSMike Rapoport unpoison-pfn 110*ee65728eSMike Rapoport 在PFN的Software-unpoison页面对应到这个文件。这样,一个页面可以再次被 111*ee65728eSMike Rapoport 复用。这只对Linux注入的故障起作用,对真正的内存故障不起作用。 112*ee65728eSMike Rapoport 113*ee65728eSMike Rapoport 注意这些注入接口并不稳定,可能会在不同的内核版本中发生变化 114*ee65728eSMike Rapoport 115*ee65728eSMike Rapoport corrupt-filter-dev-major, corrupt-filter-dev-minor 116*ee65728eSMike Rapoport 只处理与块设备major/minor定义的文件系统相关的页面的内存故障。-1U是通 117*ee65728eSMike Rapoport 配符值。这应该只用于人工注入的测试。 118*ee65728eSMike Rapoport 119*ee65728eSMike Rapoport corrupt-filter-memcg 120*ee65728eSMike Rapoport 限制注入到memgroup拥有的页面。由memcg的inode号指定。 121*ee65728eSMike Rapoport 122*ee65728eSMike Rapoport Example:: 123*ee65728eSMike Rapoport 124*ee65728eSMike Rapoport mkdir /sys/fs/cgroup/mem/hwpoison 125*ee65728eSMike Rapoport 126*ee65728eSMike Rapoport usemem -m 100 -s 1000 & 127*ee65728eSMike Rapoport echo `jobs -p` > /sys/fs/cgroup/mem/hwpoison/tasks 128*ee65728eSMike Rapoport 129*ee65728eSMike Rapoport memcg_ino=$(ls -id /sys/fs/cgroup/mem/hwpoison | cut -f1 -d' ') 130*ee65728eSMike Rapoport echo $memcg_ino > /debug/hwpoison/corrupt-filter-memcg 131*ee65728eSMike Rapoport 132*ee65728eSMike Rapoport page-types -p `pidof init` --hwpoison # shall do nothing 133*ee65728eSMike Rapoport page-types -p `pidof usemem` --hwpoison # poison its pages 134*ee65728eSMike Rapoport 135*ee65728eSMike Rapoport corrupt-filter-flags-mask, corrupt-filter-flags-value 136*ee65728eSMike Rapoport 当指定时,只有在((page_flags & mask) == value)的情况下才会poison页面。 137*ee65728eSMike Rapoport 这允许对许多种类的页面进行压力测试。page_flags与/proc/kpageflags中的相 138*ee65728eSMike Rapoport 同。这些标志位在include/linux/kernel-page-flags.h中定义,并在 139*ee65728eSMike Rapoport Documentation/admin-guide/mm/pagemap.rst中记录。 140*ee65728eSMike Rapoport 141*ee65728eSMike Rapoport* 架构特定的MCE注入器 142*ee65728eSMike Rapoport 143*ee65728eSMike Rapoport x86 有 mce-inject, mce-test 144*ee65728eSMike Rapoport 145*ee65728eSMike Rapoport 在mce-test中的一些便携式hwpoison测试程序,见下文。 146*ee65728eSMike Rapoport 147*ee65728eSMike Rapoport引用 148*ee65728eSMike Rapoport==== 149*ee65728eSMike Rapoport 150*ee65728eSMike Rapoporthttp://halobates.de/mce-lc09-2.pdf 151*ee65728eSMike Rapoport 09年LinuxCon的概述演讲 152*ee65728eSMike Rapoport 153*ee65728eSMike Rapoportgit://git.kernel.org/pub/scm/utils/cpu/mce/mce-test.git 154*ee65728eSMike Rapoport 测试套件(在tsrc中的hwpoison特定可移植测试)。 155*ee65728eSMike Rapoport 156*ee65728eSMike Rapoportgit://git.kernel.org/pub/scm/utils/cpu/mce/mce-inject.git 157*ee65728eSMike Rapoport x86特定的注入器 158*ee65728eSMike Rapoport 159*ee65728eSMike Rapoport 160*ee65728eSMike Rapoport限制 161*ee65728eSMike Rapoport==== 162*ee65728eSMike Rapoport- 不是所有的页面类型都被支持,而且永远不会。大多数内核内部对象不能被恢 163*ee65728eSMike Rapoport 复,目前只有LRU页。 164*ee65728eSMike Rapoport 165*ee65728eSMike Rapoport--- 166*ee65728eSMike RapoportAndi Kleen, 2009年10月 167