资讯专栏INFORMATION COLUMN

Linux三板斧

IT那活儿 / 1155人阅读
Linux三板斧
点击上方“IT那活儿”公众号,关注后了解更多内容,不管IT什么活儿,干就完了!!!

  

随着X86服务器的普及,目前各种主流数据库、中间件、容器等都在逐步迁往Linux平台,那对于应用开发人员还有系统运维人员掌握Linux相关技术将显得尤为重要。

大家都知道服务器硬件简单理解就是Cpu+内存+硬盘(存储)这些,那Linux就是负责调度这些硬件的软件,让大家一起和谐工作产生GDP。由此我们可以发现Linux主要就是管Cpu、内存、硬盘这3类的工作,那换一个角度也就是说Linux运行异常也大概率就这3类问题。

今天我们就来分享一下Linux三板斧摆脱小白的烦恼。


三板斧之--CPU

一说cpu,熟悉linux的都知道vmstat、top之类的命令,这里我们找个案例来解读一下:

图中可以看到这是一台4cpu的服务器,目前procs-r17,18左右,cpuid空闲为0,由于这是一台4cpu的服务器,理论上在某一时刻CPU的并行处理能力上限将是4,那procs-r远远大于cpu核心数意味着CPU忙不过来了,拼了命淦但还是有一堆任务等着它淦(来者不拒),所以后面的cpuidle是0,那这就是一个高并发场景的cpu过载的特征。

通过top命令同样可以看到目前有17个进程处于running状态,31.4%us:用户状态的调用,68.4%sy:涉及到系统内核的调用.在进程模块中可以看到大量的dd进程以及外层的bash(测试启动的ddif=/dev/zeroof=/dev/null命令)。当发现服务器cpu过载时便可以通过这个思路来排查是否存在异常高消耗进程。

注意对于多线程的程序比如java,%CPU字段很可能出现1100%这种情况,简单理解就是多个线程在cpu上运行,相当于消耗了11颗cpu的运算量。

参考man vmstat:

   Procs

       r: The number of processes waiting for run time.

       b: The number of processes in uninterruptible sleep.

三板斧之--内存

再来说说内存,由于内存容量存在上限,比如服务器物理内存128G,当我们进行一个500G数据运算时,内存是明显放不下的,这时候Linux就引入了一个叫swap的东西,相当于一个临时空间,它基于磁盘,当内存不够时,将部分当前不使用的数据转储到swap空间中,这样就可以最大化的利用有限的内存进行计算。

这个设计理念是好的,但实际生产环境中往往引发各种惨痛的案例,如下:

可以看到图中的服务器总共配置了32Gswap空间,当前已经使用了12G说明已经有数据被从内存中swapout到临时空间,top进程也同样出现kswapd[0-9],这些进程就是专门负责swapin,swap out,Top中看到这类进程时需额外注意

这时cpu6.%us,12.6%sy,13.9%id,66.7%wa,这个wa说明存在磁盘IO等待,那简单理解就是由于swap空间的硬盘性能不足,内存中的数据swapout速度过慢,引发系统层的panic,服务器hang,造成业务中断故障。实际在这个案例过程中vmstat命令输出也可以发现cpu–b/si so这些指标的异常。

总结一下swap,一般在服务器系统安装时系统管理员便会用本地盘划分swap分区,这里本地盘的性能比较容易出现瓶颈,大量的swap易引发系统panic,另外一个Linux使用vm.swappiness参数来控制使用物理内存还是使用交换空间的权重,在老旧一些的版本中设置为0容易引发系统bug推荐设置为1,在较新的版本中比如redhat7/8则推荐设置为0来避免使用交换空间,那在一些数据库一体机等专有服务器上物理内存都能达到TB级,这种也可以直接关闭swap功能。

参考Man :

Swappiness is a Linux kernel parameter that controls the relative weight given to swapping out runtime memory, as opposed to dropping pages from the system page cache. Swappiness can be set to values between 0 and 100 inclusive. A low value causes the kernel to avoid swapping, a higher value causes the kernel to try to use swap space. The default value is 60, and for most desktop systems, setting it to 100 may affect the overall performance, whereas setting it lower (even 0) may decrease response latency.

Man vmstat

Procs

       r: The number of processes waiting for run time.

       b: The number of processes in uninterruptible sleep.

man top

   2c. SUMMARY Area Fields

The summary area fields describing CPU statistics are abbreviated.  They provide information about times spent in:

      us = user mode

      sy = system mode

       ni = low priority user mode (nice)

       id = idle task

       wa = I/O waiting

man vmstat ,

   Swap

       si: Amount of memory swapped in from disk (/s).

       so: Amount of memory swapped to disk (/s).

三板斧之--磁盘

最后我们在来说说磁盘类的问题,目前主流方法都是基于磁盘响应时间作为判断依据(iostat命令输出的await值),这里不区分读写,比如SSD存储响应时间都在5ms以内,高端SSD的响应时间甚至达到1ms以内,而传统的机械硬盘响应时间则较慢一些,高端类的存储阵列也在20ms以内,差一点的40ms,50ms也比较常见。

了解了这些当我们通过iostat命令来核查服务器磁盘响应情况时便能够直观的发现是否存在问题。如图:

可以看到%iowait已经超过了%user,%system,IO方面压力较大,再往下可以看到sdb/sdc读写都非常少而await(响应时间单位ms)值却异常的大,IO几乎无法完成,推测存储出现异常,通知系统管理员核验确认RAID出现降级故障.这里需要额外注意iostat输出的sdb/sdc的%util值为100%,这个%util100实际没有参考意义,因为系统也并不知道后端存储的iops能力以及使用率,只有await才能判断磁盘IO响应是否正常.如图:

这是一台本地机械盘(sda),在少量的读写情况下%util已经97.9,但响应时间24.18任然在正常范围内,不能根据util%值来判断sda是否存在问题。而下面的sdb/sdc等等磁盘都是外挂SSD存储,可以看到iops近万的情况下较慢的盘await也才1点几ms,快的盘都不到1ms。

参考man iostat:

await

The average time (in milliseconds) for I/O requests issued to the device to be served. This includes the  time  spent by the requests in queue and the time spent servicing them.

通过以上三板斧,我们便可以对当前Linux系统的运行情况做到心中有数,在此基础上实际运用过程中,比如swap引起的案例中,vmstatcpu-b/si so以及iostat的swap空间挂载盘一定会有所表现,不能教条的认为一定是这一方面的问题,所以需要结合起来分析。

文章首发于2021年02月25日

本文作者:胡 杰(上海新炬王翦团队)

本文来源:“IT那活儿”公众号

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/129277.html

相关文章

  • Linuxlinux环境基础开发工具使用

    摘要:函数名列出某个函数的源代码,含函数名上下各五行类比调试或从开始连续而非单步执行程序遇到断点停下。相当于中的或单条执行。 目录 一、调试器gdb 1、可以使用gdb的可执行文件生成 2、使用命令 1、开始调试和退出调试 2、list 3、类比vs调试 4、代码调试三剑客 5、变量 6、断点 二...

    dongfangyiyu 评论0 收藏0
  • Linux环境基础开发工具使用

    摘要:环境基础开发工具使用软件包管理器的三板斧查看软件包安装软件卸载软件和互传文件的三种模式的转换命令模式插入模式底行模式编译器使用函数库调试器使用项目自动化构建工具软件包管理器软件包和软件包管理器就好比手机上的和应用 ...

    Dean 评论0 收藏0
  • 前端工程师要懂些什么

    摘要:沟通方面的技巧,后端,产品,设计,测试等领域的知识。可以看出,前端需要跟团队中的各种角色交流对接,对相关的领域有了解可以降低沟通的成本。 前端除了JS,HTML,CSS三板斧,还要懂些什么?有什么东西对我们提升自己前端水平有帮助? 开发的过程 我们不如先了解一下前端开发的过程 跟产品了解需求 跟后台沟通接口 跟美术对接设计 写文档 编写代码 使用babel,sass等工具编译代码 部...

    Wildcard 评论0 收藏0
  • 线上java.lang.OutOfMemoryError问题定位板斧

    摘要:如果发现某类对象占用内存很大例如几个,很可能是类对象创建太多,且一直未释放。 OOM(OutOfMemoryError) 问题归根结底三点原因: 本身资源不够 申请的内存太多 资源耗尽 解决思路,换成Java服务分析,三个原因也可以解读为: 有可能是内存分配确实过小,而正常业务使用了大量内存 某一个对象被频繁申请,却没有释放,内存不断泄漏,导致内存耗尽 某一个资源被频繁申请,系统...

    everfight 评论0 收藏0
  • 一看就懂的JS抽象语法树

    摘要:前言是现在几乎每个项目中必备的一个东西,但是其工作原理避不开对的解析在生成的过程,有引擎,早期了项目,了解这个之前我们先来看看这种引擎解析出来是什么东西。 前言 babel是现在几乎每个项目中必备的一个东西,但是其工作原理避不开对js的解析在生成的过程,babel有引擎babylon,早期fork了项目acron,了解这个之前我们先来看看这种引擎解析出来是什么东西。不光是babel还有...

    HackerShell 评论0 收藏0

发表评论

0条评论

IT那活儿

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<