理解Linux 的软中断

当进程处于长时间不可中断状态,就有可能出现系统异常。除了iowait 还有软中断也是常见的 CPU 使用率升高的问题之一。

什么是中断

中断是系统用来响应硬件设备请求的一种机制,它会打断进程的正常调度和执行,然后调用内核中的中断处理程序来响应设备的请求。

软中断就比如说你订了一份外卖,但是不确定外卖什么时候送到,也没有别的方法了解外卖的进度,但是,配送员送外卖是不等人的,到了你这儿没人取的话,就直接走人了。所以你只能苦苦等着,时不时去门口看看外卖送到没,而不能干其他事情。

不过呢,如果在订外卖的时候,你就跟配送员约定好,让他送到后给你打个电话,那你就不用苦苦等待了,就可以去忙别的事情,直到电话一响,接电话、取外卖就可以了。 这里的“打电话”,其实就是一个中断。没接到电话的时候,你可以做其他的事情;只有接到了电话(也就是发生中断),你才要进行另一个动作:取外卖。

中断其实是一种异步的事件处理机制,可以提高系统的并发处理能力。

由于中断处理程序会打断其他进程的运行,所以,为了减少对正常进程运行调度的影响,中断处理程序就需要尽可能快地运行。如果中断本身要做的事情不多,那么处理起来也不会有太大问题;但如果中断要处理的事情很多,中断服务程序就有可能要运行很长时间。

中断处理程序在响应中断时,还会临时关闭中断。这就会导致上一次中断处理完成之前,其他中断都不能响应,也就是说中断有可能会丢失。

那么还是以取外卖为例。假如你订了 2 份外卖,一份主食和一份饮料,并且是由 2 个不同的配送员来配送。这次你不用时时等待着,两份外卖都约定了电话取外卖的方式。

但是,问题又来了。 当第一份外卖送到时,配送员给你打了个长长的电话,商量发票的处理方式。与此同时,第二个配送员也到了,也想给你打电话。 但是很明显,因为电话占线(也就是关闭了中断响应),第二个配送员的电话是打不通的。所以,第二个配送员很可能试几次后就走掉了(也就是丢失了一次中断)

什么是软中断

Linux 中的软中断包括网络收发、定时、调度、RCU 锁等各种类型,可以通过查看 /proc/softirqs 来观察软中断的运行情况。

为了解决中断处理程序执行过长和中断丢失的问题,Linux 将中断处理过程分成了两个阶段,也就是上半部和下半部:

  • 上半部用来快速处理中断, 它在中断禁止模式下运行,主要处理跟硬件紧密相关的或时间敏感的工作。

  • 下半部用来延迟处理上半部未完成的工作,通常以内核线程的方式运行。

举个例子

网卡接收到数据包后,会通过硬件中断的方式,通知内核有新的数据到了。这时,内核就应该调用中断处理程序来响应它。你可以自己先想一下,这种情况下的上半部和下半部分别负责什么工作呢?

对.上半部来说,既然是快速处理,其实就是要把网卡的数据读到内存中,然后更新一下硬件寄存器的状态(表示数据已经读好了),最后再发送一个软中断信号,通知下半部做进-步的处理。

而下半部被软中断信号唤醒后,需要从内存中找到网络数据,再按照网络协议栈,对数据进行逐层解析和处理,直到把它送给应用程序。

所以,这两个阶段你也可以这样理解:

  • 上半部直接处理硬件请求,也就是我们常说的硬中断,特点是快速执行;

  • 而下半部则是由内核触发,也就是我们常说的软中断,特点是延迟执行。

实际上,. 上半部会打断CPU正在执行的任务,然后立即执行中断处理程序。而下半部以内核线程的方式执行,并且每个CPU都对应一个软中断内核线程,名字为“ksoftirqd/CPU编号”,比如说,0号CPU对应的软中断内核线程的名字就是ksoftirqd/0。

不过要注意的是,软中断不只包括了刚刚所讲的硬件设备中断处理程序的下半部,一些内核自定义的事件也属于软中断,比如内核调度和 RCU 锁(Read-Copy Update 的缩写,RCU 是 Linux 内核中最常用的锁之一)等。

查看软中断和内核线程

  • /proc/softirqs 提供了软中断的运行情况

  • /proc/interrupts 提供了硬中断的运行情况。

查看/proc/ softirqs文件内容时,特别注意以下这两点。

第一,要注意软中断的类型,也就是这个界面中第- -列的内容。从第一列你可以看到, 软中断包括了10个类别,分别对应不同的工作类型。比如NET_ RX表示网络接收中断,而NET_TX表示网络发送中断。

第二,要注意同一种软中断在不同CPU上的分布情况,也就是同- -行的内容。正常情况下,同一种中断在不同CPU.上的累积次数应该差不多。比如这个界面中,NET_ _RX在CPU0和CPU1上的中断次数基本是同一个数量级,相差不大。

TASKLET 在不同CPU.上的分布并不均匀。TASKLET是最常用的软中断实现机制,每个TASKL ET只运行一次就会结束,并且只在调用它的函数所在的CPU上运行。

因此,使用TASKLET特别简便,当然也会存在一些问题,比如说由于只在一个CPU上运行导致的调度不均衡,再比如因为不能在多个CPU上并行运行带来了性能限制。

1
2
3
4
5
6
7
8
9
10
11
12
root@linux:~# cat /proc/softirqs 
CPU0 CPU1
HI: 0
TIMER: 40969
NET_TX: 5
NET_RX: 25
BLOCK: 0
IRQ_POLL: 0
TASKLET: 11
SCHED: 33747
HRTIMER: 0
RCU: 43498
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
root@linux:~# cat /proc/interrupts
CPU0 CPU1
0: 2 0 IO-APIC 2-edge timer
1: 0 9 IO-APIC 1-edge i8042
4: 0 1949 IO-APIC 4-edge ttyS0
6: 3 0 IO-APIC 6-edge floppy
8: 1 0 IO-APIC 8-edge rtc0
9: 0 0 IO-APIC 9-fasteoi acpi
10: 0 0 IO-APIC 10-fasteoi virtio4
11: 0 32 IO-APIC 11-fasteoi uhci_hcd:usb1
12: 15 0 IO-APIC 12-edge i8042
14: 0 0 IO-APIC 14-edge ata_piix
15: 0 0 IO-APIC 15-edge ata_piix
24: 0 0 PCI-MSI 65536-edge virtio1-config
25: 9136 0 PCI-MSI 65537-edge virtio1-virtqueues
26: 0 0 PCI-MSI 81920-edge virtio2-config
27: 14546 0 PCI-MSI 81921-edge virtio2-req.0
28: 0 0 PCI-MSI 98304-edge virtio3-config
29: 129 0 PCI-MSI 98305-edge virtio3-req.0
30: 0 0 PCI-MSI 507904-edge virtio5-config
31: 42194 0 PCI-MSI 507905-edge virtio5-req.0
32: 0 0 PCI-MSI 49152-edge virtio0-config
33: 0 1465 PCI-MSI 49153-edge virtio0-input.0
34: 0 1 PCI-MSI 49154-edge virtio0-output.0
NMI: 0 0 Non-maskable interrupts
LOC: 88730 91706 Local timer interrupts
SPU: 0 0 Spurious interrupts
PMI: 0 0 Performance monitoring interrupts
IWI: 0 0 IRQ work interrupts
RTR: 0 0 APIC ICR read retries
RES: 61981 67365 Rescheduling interrupts
CAL: 2877 28951 Function call interrupts
TLB: 1198 594 TLB shootdowns
TRM: 0 0 Thermal event interrupts
THR: 0 0 Threshold APIC interrupts
DFR: 0 0 Deferred Error APIC interrupts
MCE: 0 0 Machine check exceptions
MCP: 10 10 Machine check polls
HYP: 0 0 Hypervisor callback interrupts
ERR: 0
MIS: 0
PIN: 0 0 Posted-interrupt notification event
NPI: 0 0 Nested posted-interrupt event
PIW: 0 0 Posted-interrupt wakeup event

软中断实际上是以内核线程的方式运行的,每个CPU都对应一个软中断内核线程。可以通过以下命令查看,有中括号的一般都是内核线程。

1
2
3
root@linux:~# ps aux | grep softirq
root 7 0.0 0.0 0 0 ? S 10:47 0:00 [ksoftirqd/0]
root 16 0.0 0.0 0 0 ? S 10:47 0:00 [ksoftirqd/1]