深入理解CPU Load

摘要

每一个程序员应该都对CPU load不陌生,我们在Linux系统中输入uptime或者top命令就可以看到load average,大家知道这个值代表了CPU的繁忙程度,而且是越低越好。比如下面是我在一台服务器上执行uptime命令的结果:

$ uptime
21:18:53 up 176 days, 12:06,  1 user,  load average: 3.76, 3.38, 3.31

load average的三个值分别代表了CPU在过去1分钟,5分钟,15分钟的平均load。

但是这个值具体的含义是什么呢?load在什么范围内才算是正常的呢?我们应该更关注三个值中的哪一个呢?还有,CPU load和CPU利用率又有什么区别呢?

为了回答上面的问题,本文将对CPU load进行较为深入的分析,首先介绍基本概念,从单核场景扩展到多核的场景;再讨论开发运维时需要关心的关键指标;最后还探讨了CPU load和CPU利用率的区别。

基本概念

关于load,Wikipedia的解释是这样的

In UNIX computing, the system load is a measure of the amount of computational work that a computer system performs. The load average represents the average system load over a period of time.

系统的Load是对于计算机系统执行计算任务数量的一种度量(注意关键词:amount,数量)。load average代表了一段时间内的系统平均load。

单核场景

首先以最简单的单核场景进行分析。

这篇文章做了一个很生动的比喻:有一座只有单车道的大桥,这座大桥能同时容纳的通车数是有上限的,假设为10。那么:

示意图

  • load = 0 时,代表桥上没有车辆通行,桥完全处于空闲状态。
  • load = 0.5时,代表桥上有50%的车辆,但还剩下50%的容量。事实上,只要Load还未达到1,桥就还有空余容量,所以此时如果有新的车辆到来,是可以直接上桥不用排队的。
  • load = 1时,代表桥上有100%的车辆,已经没有空余,但也没有车在排队。
  • load = 1.7时,代表桥上有100%的车辆,已经没有空余,而且有70%的车在排队等待上桥。事实上,只要Load大于等于1,就代表桥已经满载,所以此时如果有新的车辆到来,就需要在外面排队等待。
    对应到计算机术语里来,大桥代表着CPU,汽车代表着任务,进车过桥代表着任务在使用CPU时间,汽车排队代表着任务在等待CPU分配时间片。

一个空闲CPU的 load number = 0,每一个正在使用或者等待使用CPU的任务会使 load number + 1,每一个结束的任务会使 load number - 1。系统会计算一段时间内的 exponentially damped/weighted moving average 作为load average。数学公式先抛开,只看结论的话就是,load average代表着正在使用和等待使用CPU的任务数之和。

对应上面大桥的例子,就是:

  • load = 0 时,代表CPU完全空闲,没有任务执行,没有任务等待。
  • load = 0.5时,代表CPU正在执行的任务量达到50%,但还剩下50%的空闲。
  • load = 1时,代表CPU已经达到100%,已经没有空余,但也没有任务在排队。
  • load = 1.7时,代表CPU已经达到100%,已经没有空余,而且有70%的任务在排队等待。

多核场景

单核场景理解清楚了,扩展到多核其实也很简单,把多核CPU理解为多车道大桥即可,有几个核心就对应几条车道。因为多核CPU同时能执行多个任务,所以在多核的场景下,load值只要不高于核心数即可。就像我在开始时执行的那个例子,因为那台服务器有很多个,所以即使load为3.71,CPU也是非常空闲的。

有一点需要特别说明,load的上下文里,我们只关心核心数,并不关心核心的分布,也即是:1个4核CPU = 2个双核CPU = 4个单核CPU。

关键指标

为了说明方便,以下指标以单核为例,多核场景下用load除以核心数进行换算。

因为单核CPU同一时间只能执行一个任务,所以一旦这个load值大于1就代表着有任务在等待了,请务必保持CPU load小于1。 那么是不是load只要小于1就行了呢?这样其实不太好,如果load很逼近1,就代表CPU几乎没有余量,无法应对意外情况。按照经验值来说,load维持在0.7以下是比较好的。

1分钟,5分钟,15分钟的load average应该更加关注哪一个呢?一般来说应该关注第三个,也即是15分钟平均。因为如果单单只有一个1分钟平均指标高,那很可能只是这一分钟的突发情况,而如果15分钟平均都高,那就需要引起重视了。

load average和CPU利用率的区别

还有另一个CPU指标:CPU利用率,以百分比形式表示,也能表示CPU的繁忙程度。那么这两个指标有什么区别呢?

正如前面基本概念里加粗强调的那样,CPU load是对于任务数量的度量。而CPU利用率则是: CPU使用时间 / (CPU使用时间 + 空闲时间)。

二者一般呈现正相关关系,但是也有特例:

  1. load average低,利用率高:如果CPU执行的任务数很少,则load average会低,但是这些任务都是CPU密集型,那么利用率就会高。
  2. load average高,利用率低:如果CPU执行的任务数很多,则load average会高,但是在任务执行过程中CPU经常空闲(比如等待IO),那么利用率就会低。

进程还是线程?

我读到的文章里,统计load时都是算的进程,但是我在Mac上写代码验证时发现,在同一个java进程下创建线程,也会提高load average。上网查了一下原来OSX是基于线程调度的,这也和我写代码验证的现象一致。

再结合这篇回答 说:Linux调度的是task,有可能是进程,也可能是线程。所以我认为统计load时应该是按照当前OS的CPU调度的基本单位来算的,可能是进程,也可能是线程。所以为了严谨起见,我就把上文中所有出现的 进程 都改为了 任务 ,以免产生误导。

参考

转载自(https://muyig.github.io/blog/2017/11/26/CPU-load/)

暂无评论

发送评论 编辑评论


				
上一篇
下一篇