记一次服务器CPU跑满事件

本文为php中文网认证作者:“齐天大圣”投稿,欢迎加入php中文网有偿投稿计划!
事情经过
昨天早上,打开电脑发现自己的博客网站打开不了,准备远程登录服务器查看问题,发现服务器远程不上 。没办法,登录阿里云后台,重启服务器 。重启完成后,网站能正常打开,所以当时就不以为然,以为阿里云那边是不是出了什么毛病 。
到了下午的时候,发现网站又打不开了,而且又远程连接不了服务器 。进入阿里云控制台,查看监控发现cpu跑满了 。只能再重启服务器,等重启完成后再远程连接上去,这次需要好好排查问题 。
记一次服务器CPU跑满事件

文章插图
 
解决问题
当时首先想到的是中病毒了,先不管那么多,第一步是找到那些耗cpu的进程杀死 。使用top命令,查看耗cpu的进程有哪些 。一看就明白了,都是bzip2搞得鬼 。
记一次服务器CPU跑满事件

文章插图
 
杀进程的过程发现一个问题,就是这些进程杀死了,过一会又出现了 。这种现象,我知道肯定要找到他们的父进程,擒贼先擒王 。
# ps -lA | grep bzip2
0 R 0 1965 1964 44 80 0 - 3435 - ? 00:01:43 bzip2
0 S 0 1981 1980 33 80 0 - 3435 pipe_w ? 00:00:56 bzip2
0 R 0 1997 1996 30 80 0 - 3435 - ? 00:00:31 bzip2
0 R 0 2013 2012 27 80 0 - 3435 - ? 00:00:07 bzip2
0 R 0 2024 2023 15 80 0 - 3435 - ? 00:00:00 bzip2
但是发现他们的ppid不是同一个,这就让我很疑惑了 。我打算用进程树看看
pstree -up

记一次服务器CPU跑满事件

文章插图
 
【记一次服务器CPU跑满事件】这时候,我就知道了,原来是自己的定时脚本有问题 。那么我需要做以下几件事:
  1. 关闭crond服务
  2. crontab -e 将weekly.sh去掉
  3. 杀掉那些耗cpu的进程
# 关闭
[root@iz8vb626ci0aehwsivxaydz ~]# kill 1622
[root@iz8vb626ci0aehwsivxaydz ~]# systemctl status crond
● crond.service - Command Scheduler
Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)
Active: inactive (dead) since Tue 2019-11-12 10:44:32 CST; 10s ago
Main PID: 1622 (code=exited, status=0/SUCCESS)
 
# 修改crontab -e
 
# 杀掉耗cpu进程,下面的命令执行了好几遍,才将所有耗cpu进程全部杀掉了
ps -lA | grep bzip2 | awk '{print $4}' | xargs -n 10 kill -9
问题原因与思考
刚开始,我以为是自己的shell脚本有问题,出现死循环导致问题出现 。但是查看脚本,发现没有问题,没有死循环的情况出现 。一时间,百思不得姐 。
#!/bin/bash
# 每周备份脚本
 
export PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin
export
 
backdir=/backup/weekly # 备份目录
 
[ -z "$backdir" ] || mkdir -p $backdir
 
dirs=(/etc /home /root /usr /var/spool/cron /var/spool/at) # 需要备份的目录
 
for dir in ${dirs[@]}
do
if [ ! -d $dir ];then
continue
fi
 
cd $backdir
tar -jcpf $(basename $dir)_$(date +%Y%m%d).tar.bz2 $dir
done
 
# 删除mtime大于30天的文件
find $backdir -mtime +30 -name *.tar.bz2 -exec rm -f {} ;
过了很长时间,终于找到了原因所在,原来是自己的定时任务写法有问题
* 3 * * 1 /root/bin/weekly.sh 1>/dev/null 2>&1
我原本的想法是每周1凌晨3点执行一次备份脚本,但是这样写的结果是每周一凌晨3点的每分钟都会执行该脚本一次 。正确的写法应该如下:
# 每周一凌晨三点零一分执行该脚本
1 3 * * 1 /root/bin/weekly.sh 1>/dev/null 2>&1
问题解决了,原因也找到了 。自己该写一个服务器资源监控脚本了 。




    推荐阅读