AIOT人人都是极客

文章数:971 被阅读:1011938

账号入驻

如何跟踪谁分配的每个页面?

最新更新时间:2023-02-01
    阅读数:

问题背景

Linux中常用的内存分配API主要包括

  • 基于slab/slub的kmalloc等API
  • vmalloc相关API
  • alloc_pages等直接基于buddy的API

我们可以在/proc/meminfo中轻易得到关于通过slab/slub API 或者vmalloc分配到的内存。然而除非内核模块主动进行统计,内核并没有直接提供一个类似meminfo的方案来统计通过alloc_pages相关API申请的内存。所以有时候当kernel发生OOM的时候,我们发现有大量的内存是unaccount的。

为了统计这些直接从buddy申请走的内存,内核提供了page owner功能。

概述

page owner是用来追踪谁分配的每一个页面。它可以用来调试内存泄漏或找到内存占用者。当分配发生时,有关分配的信息,如调用堆栈和页面的顺序被存储到每个页面的特定存储中。当我们需要了解所有页面的状态时,我们可以获得并分析这些信息。

尽管我们已经有了追踪页面分配/释放的tracepoint,但用它来分析谁分配的每个页面是相当复杂的。我们需要扩大跟踪缓冲区,以防止在用户空间程序启动前出现重叠。而且,启动的程序会不断地将跟踪缓冲区转出,供以后分析,这将会改变系统的行为,会产生更多的可能性,而不是仅仅保留在内存中,所以不利于调试。页面所有者也可以用于各种目的。例如,可以通过每个页面的gfp标志信息获得精确的碎片 统计。如果启用了page owner,它就已经实现并激活了。我们非常欢迎其他用途。

page owner在默认情况下是禁用的。所以,如果你想使用它,你需要在你的启动cmdline 中加入”page_owner=on”。如果内核是用page owner构建的(使能宏CONFIG_PAGE_OWNER),并且由于没有启用启动选项而在运行时禁用page owner(即没有在boot cmdline中添加 page_owner=on),那么运行时的开销是很小的。如果在运行时禁用,它不需要内存来存储所有者信息,所以没有运行时内存开销。而且,page owner在页面分配器的热路径中只插入了两个不可能的分支,如果不启用,那么分配就会像没有page owner的内核一样进行。这两个不可能的分支应该不会影响到分配的性能,特别是在静态键跳转标签修补功能可用的情况下。以下是由于这个功能而导致的内核代码大小的变化。

没有page owner:

text    data     bss     dec     hex filename
48392   2333     644   51369    c8a9 mm/page_alloc.o

有page owner:

text    data     bss     dec     hex filename
48800   2445     644   51889    cab1 mm/page_alloc.o
6662     108      29    6799    1a8f mm/page_owner.o
1025       8       8    1041     411 mm/page_ext.o

虽然总共增加了8KB的代码,但page_alloc.o增加了520字节,其中不到一半是在hotpath中。构建带有page owner的内核,并在需要时打开它,将是调试内核内存问题的最佳选择。

有一个问题是由实现细节引起的。页所有者将信息存储到struct page扩展的内存中。这个内存的初始化时间比稀疏内存系统中的页面分配器启动的时间要晚一些,所以,在初始化之前,许多页面可以被分配,但它们没有所有者信息。为了解决这个问题,这些早期分配的 页面在初始化阶段被调查并标记为分配。虽然这并不意味着它们有正确的所有者信息,但至少,我们可以更准确地判断该页是否被分配。在2GB内存的x86-64虚拟机上,有13343 个早期分配的页面被捕捉和标记,尽管它们大部分是由结构页扩展功能分配的。总之,在这之后,没有任何页面处于未追踪状态。

使用方法

  • 构建用户空间的帮助

cd tools/vm

make page_owner_sort

  • 启用page owner: 添加 “page_owner=on” 到 boot cmdline.
  • 做你想调试的工作
  • 分析来自页面所有者的信息

cat /sys/kernel/debug/page_owner > page_owner_full.txt

./page_owner_sort page_owner_full.txt sorted_page_owner.txt

page_owner_full.txt 的一般输出情况如下:

Page allocated via order XXX, ...
PFN XXX ...
// Detailed stack

Page allocated via order XXX, ...
PFN XXX ...
// Detailed stack

page_owner_sort 工具忽略了 PFN 行,将剩余的行放在buf中,使用regexp提 取页序值,计算buf的次数和页数,最后根据参数进行排序。

在 sorted_page_owner.txt 中可以看到关于谁分配了每个页面的结果。一般输出:

XXX times, XXX pages:
Page allocated via order XXX, ...
// Detailed stack

默认情况下,page_owner_sort 是根据buf的时间来排序的。如果你想按buf的页数排序,请使用-m参数。详细的参数是:

基本函数:

Sort:

-a
  按内存分配时间排序
-m
  按总内存排序
-p
  按pid排序
-P
  按tgid排序
-r
  按内存释放时间排序
-s
  按堆栈跟踪排序
-t
  按时间排序(默认)

其它函数:

Cull:
-c
  通过比较堆栈跟踪而不是总块来进行剔除

Filter:
-f
  过滤掉内存已被释放的块的信息

end


人人极客社区 


关注,回复【peter】海量Linux资料赠送

精彩文章合集

文章推荐

【专辑】Linux内存管理
【专辑】Linux进程管理
专辑Linux文件系统
专辑Linux中断管理
专辑Linux同步管理
【专辑】Linux电源管理
【专辑】Linux时钟管理
【专辑】Linux性能分析
【专辑】Linux DMA
【专辑】Linux 驱动
【专辑】图形显示

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2023 EEWORLD.com.cn, Inc. All rights reserved