Linux Swap使用分析

Linux操作系统性能分析主要包含磁盘IO、CPU、内存以及网络流量，而这里主要针对系统内存的使用进程情况做个分析。
一、如何查看系统内存使用情况
1、根据常用命令查看系统内存使用概况
free  -g
                  total      used      free    shared    buffers    cached
Mem:            31          31          0          0          0          3
-/+ buffers/cache:        28          3
Swap:          15            7          7
（根据free命令可以看到，系统使用了28G的物理内存，3G的剩余内存，其中swap总15G，已使用7G）

top  （f p M）
top – 14:18:50 up 1280 days,  7:15,  1 user,  load average: 1.05, 1.25, 1.12
Tasks: 229 total,  1 running, 227 sleeping,  0 stopped,  1 zombie
Cpu(s):  0.2%us,  0.1%sy,  0.0%ni, 99.7%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:  32949816k total, 32848840k used,  100976k free,  169308k buffers
Swap: 16771776k total,  8384616k used,  8387160k free,  3276360k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  SWAP DATA COMMAND                                                     
12428 mysql    15  0 22.2g  20g 3964 S  3.3 66.5  91946:06 1.3g  22g mysqld                                                       
22840 cyldj    15  0 9059m 6.7g 9012 S  0.0 21.5  22:05.42 2.1g 8.7g DBAgent                                                     
28689 root      15  0  358m  30m 3036 S  0.0  0.1 187:37.41 328m 137m salt-minion                                                 
30768 cyldj    21  0  462m  10m 1908 S  0.0  0.0  10:44.60 451m 373m java                                                         
22567 root      15  0 86004 3292 2576 S  0.0  0.0  0:00.01  80m  688 sshd                                                         
28690 root      20  0  267m 2188  704 S  0.0  0.0  0:00.00 264m  47m salt-minion                                                 
  661 root      18  0 16340 1836 1632 S  0.0  0.0  0:47.42  14m  308 zabbix_agentd                                               
22569 root      15  0 68156 1520 1188 S  0.0  0.0  0:00.02  65m  408 bash                                                         
 2901 root      18  0  197m 1336  884 S  0.0  0.0  4:04.57 196m 174m AxisAgent                                                   
11236 root      15  0 60672 1324  760 S  0.0  0.0  2:01.21  57m  608 sshd                                                         
  665 root      15  0 18432 1260  992 S  0.0  0.0  11:39.82  16m  308 zabbix_agentd                                               
  662 root      15  0 18432 1256  992 S  0.0  0.0  11:43.36  16m  308 zabbix_agentd
(根据top命令可以看到使用内存最大的进程是mysql进程，其次是dbagent，其中dbagent使用的交换分区较多)

nmon (m)

nmon下载地址：
https://sourceforge.net/projects/nmon/files/nmon_x86_64_rhel5/download  （RHEL5）
https://sourceforge.net/projects/nmon/files/nmon_linux_14i_newer_Linux_versions.tar.gz/download （RHEL6）
(通过nmon可以看到内存的详细分配情况，其中总内存为32177.6 MB，总swap 16378.7 MB ,空闲93.4 MB，可回收3188.2+166.5 MB，已使用交换分区7273.6MB，已使用的活动数据大小为30099.9MB，可以被交换出内存的数据大小为1590.7  MB)

2、根据系统监控查看系统内存使用情况

（近7天的内存使用情况）
3、查看指定进程的系统内存使用信息
cat /proc/22840/statm
#virt    res    shr  text lib data dt  
2319113 1768037 2253 3836 0 2292997 0
(上述是查看dbagent的内存使用信息，其中单位是页数，所以要看系统页大小4K，第一列是虚拟内存2319113页，第二列是驻留内存1768037页，第三列是共享内存2253页，进程独占内存大小为res-shr)
getconf  PAGESIZE
4096
awk ‘/^Swap:/ {SWAP+=$2}END{print SWAP” KB”}’ /proc/${pid}/smap
for i in `cd /proc;ls |grep “^[0-9]”|awk ‘ $0 >100’` ;do awk ‘/Swap:/{a=a+$2}END{print ‘”$i”‘,a/1024″M”}’ /proc/$i/smaps ;done |sort -k2nr
（上述命令可以查看进程虚拟内存使用情况）
cat /proc/22840/status |grep Vm
VmPeak:  9341632 kB
VmSize:  9276452 kB
VmLck:        0 kB
VmHWM:  7074296 kB
VmRSS:  7073540 kB
VmData:  9171904 kB
VmStk:        84 kB
VmExe:    15344 kB
VmLib:      4728 kB
VmPTE:    15596 kB
(上述命令可以查看指定进程的内存使用情况VmSize表示虚拟内存大小，VmRSS表示驻留内存大小)
二、综合分析MYSQL数据库内存使用情况
sh show_mem_usage.sh
全局内存大小：18592.00 MB
单线程最大内存:25.18 MB
最大线程占用内存： 8815.62 MB
历史最大线程占用内存： 5213.81 MB
Innodb Buffer Pool使用率: 99.00%
从mysql的内存使用和总的物理内存使用来看，服务器的内存使用已经基本达到上限（mysql驻留内存大约是21G，dbagent大约为7G，物理总内存为31G，缓存了3G，大约有2G左右的非活动区内存），当mysql进程、dbagent使用超过5G内存，物理内存不够，就会使用到了swap分区。
三、什么情况下会使用swap分区
1、物理内存确实不够用的情况下，会使用到swap分区。
2、物理内存还有足够的内存使用，比如cache,buffer的剩余较多的情况下使用了swap分区
四、使用swap分区扩展
如果有足够的物理内存，依旧使用了swap分区，可以从以下几方面查看为什么使用了swap分区
1、swap分区比例调整
cat /etc/sysctl.conf  |grep swap   
vm.swappiness=0
设置为0表示优先最大限度的使用物理内存缓存数据，而不是磁盘作为分区，值越大越不利于物理内存的充分利用
2、numa陷阱

为了提高cpu和内存的数据访问速度、并发度，设计了numa架构，但如果numa的内存分配策略不合理，那么将会严重影响到内存的使用，尤其是对大内存块使用的数据库服务器。
#numactl –hardware   
available: 2 nodes (0-1)
node 0 size: 16160 MB
node 0 free: 15 MB
node 1 size: 16131 MB
node 1 free: 78 MB
node distances:
node  0  1
  0:  10  20
  1:  20  10
（上述命令可以查看各个node节点的物理内存分配情况，可以看到两节点的内存分配比例基本平均，如果node0节点free和和node1的free值相差较大，说明分配策略存在问题，很大可能会带来swap使用，而物理内存空闲的状态）
也可以通过查看numastat查看numa的miss和hit比例来进一步确认
#numastat
                          node0          node1
numa_hit            39150779957    38736256884
numa_miss            2658848763      8851827358
numa_foreign          8851827296      2658848763
interleave_hit        122652306      137287417
local_node          39096884744    38598664497
other_node            2712743976      8989419745
3、解决方案
（1）启用大页管理
（2）关闭numa
***BIOS关闭NUMA
***启动内核关闭：
vi /boot/grub/grub.conf
kernel /boot/vmlinuz-2.6.18-128.1.16.0.1.el5 root=LABEL=DBSYS ro bootarea=dbsys rhgb quiet console=ttyS0,115200n8 console=tty1 crashkernel=128M@16M numa=off
重启操作系统，通过cat /proc/cmdline和numactl –hardware查看是否关闭
（3）调整内核参数
内核参数：zone_reclaim_mode，如果为0的话，那么系统会倾向于从其他节点分配内存，如果是1表示系统会倾向于从本地节点回收Cache内存多数时候
              vm.swappiness=0
echo 0 > /proc/sys/vm/zone_reclaim_mode ; echo “vm.zone_reclaim_mode = 0” >> /etc/sysctl.conf
（4）调整内核参数
Mysql可以调整相关参数、交叉启动方式来改善numa，例如numactl –interleave=all  /etc/init.d/mysql start
localalloc规定进程从当前node上请求分配内存；
preferred比较宽松地指定了一个推荐的node来获取内存，如果被推荐的node上没有足够内存，进程可以尝试别的node。
membind可以指定若干个node，进程只能从这些指定的node上请求分配内存。
interleave规定进程从指定的若干个node上以RR（Round Robin 轮询调度）算法交织地请求分配内存。

#NUMA support

numa_interleave = 1
innodb_buffer_pool_populate = 1
flush_caches=1

https://www.percona.com/doc/percona-server/5.5/performance/innodb_numa_support.html

本文永久更新链接地址：http://www.linuxidc.com/Linux/2017-11/148513.htm