服务器cpu异常抖动排查

麦浪2年前技术文章1562


问题背景  

    当天下午某某客户服务器cpu使用率80%报警持续10分钟左右后又恢复了联系客户排查有出现不同的应用服务器都有收到cpu报警,而且出现这样的抖动不止一次,每隔一段时间就会出现类似情况,在业务低峰的时候也出现过类似的报警 

故障回顾:

    告警提示CPU使用率到达90% 打开阿里云控制台,通过云监控发现在下午16:55-17:05左右发现云上机器某台服务器cpu使用率波动较大(先升后降),负载过高,网络流量达到一定峰值,磁盘io都出现上升后下降趋势、TCP连接数也是出现上升状态,后面恢复原来正常。现象如下图:

                           1.png

CPU先升后降使用率情况使用率近90%

2.png

系统平均负载先升后降情况:load超过25

3.png

网络流入流量网络带宽流入流出先

9.png

TCP 连接数情况先升后降

4.png

磁盘io读写情况:先升后降

问题排查过程

1) 通过监控报警现象

  以及出现的应用服务器,开始让客户确认是否有定时任务,或者大的拉取账单等业务导致,通过业务日志排查并没有相关的异常业务操作

 

2) 查看安全产品是否有受到攻击

查看安全产品目前没有相关这几个服务器报警的通知,查看外部slb流量都是正常流量,应该没有受到外部攻击。

5.png

3) 问题定位分析

当下一个时段出现报警的啥时候,ssh去连接服务器被拒绝的情况

6.png

登入机器后发现有大量ssh登入链接

7.png

cpu占用也是因为sshd服务引起的

8.png

4) 处理结论

经过上述分析,最终定位确认是ssh默认22端口被内网其他机器恶意破解登入攻击,客户的sshd服务都默认都是22端口,被攻击的服务器后来确认都是阿里云经典网络下的ecs

优化建议

根据服务器安全考虑,修改sshd默认22监听端口,还有就是迁移经典网络下的应用服务器到vpc网络下,确保内部服务器不被外部扫描到


相关文章

ACK版本升级

ACK版本升级

需求:将ACK版本从1.14.8升级至1.16.9升级前注意事项:集群升级需要机器可以公网访问,以便下载升级所需的软件包。集群升级Kubernetes过程中,可能会有升级失败的情况,为了您的数据安全,...

PG参数整理

一、参数的分类参数的类型名称说明internal内部参数,只读无法修改。postgres程序写死或者是在初始化指定后无法修改的参数postmaster更改该类参数,需重启生效sighup不需重启,重新...

MySQL运维实战之备份和恢复(8.3)xtrabackup增量备份

xtrabackup支持增量备份。在做增量备份之前,需要先做一个全量备份。xtrabackup会基于innodb page的lsn号来判断是否需要备份一个page。如果page lsn大于上次备份的l...

docker日志管理

docker日志管理

docker的日志分类 一、Docker 引擎日志(也就是 dockerd 运行时的日志)Ubuntu14.04: /var/log/upstart/docker.logCentos 6/7或ubun...

strace

一、简介strace常用来跟踪进程执行时的系统调用和所接收的信号。 在Linux世界,进程不能直接访问硬件设备,当进程需要访问硬件设备(比如读取磁盘文件,接收网络数据等等)时,必须由用户态模式切换至内...

k8s集群内的DNS原理与配置

背景:最近公司有个需求,要在POD应用容器里面能够访问到一些外部域名,这些域名都在一台自建的DNS服务器上做了解析绑定。如果直接在Pod容器里的/etc/hosts文件中设置域名解析,或修改/etc/...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。