目录
1、多线程多进程关闭连接的区别
2、close的主要流程
1)关闭监听句柄
2)关闭普通ESTABLISH状态的连接(未设置so_linger)
3)使用了so_linger的连接
TCP连接的关闭有两个方法close和shutdown,这篇文章将尽量精简的说明它们分别做了些什么。
为方便阅读,我们可以带着以下5个问题来阅读本文:
1、当socket被多进程或者多线程共享时,关闭连接时有何区别?
2、关连接时,若连接上有来自对端的还未处理的消息,会怎么处理?
3、关连接时,若连接上有本进程待发送却未来得及发送出的消息,又会怎么处理?
4、so_linger这个功能的用处在哪?
5、对于监听socket执行关闭,和对处于ESTABLISH这种通讯的socket执行关闭,有何区别?
先不提其原理和实现,从多进程、多线程下 close和shutdown方法调用时的区别说起。
1、多线程多进程关闭连接的区别
看看close与shutdown这两个系统调用对应的内核函数:(参见unistd.h文件)
#define __NR_close 3
__SYSCALL(__NR_close, sys_close)
#define __NR_shutdown 48
__SYSCALL(__NR_shutdown, sys_shutdown)
但sys_close和sys_shutdown这两个系统调用最终是由tcp_close和tcp_shutdown方法来实现的,调用过程如下图所示:
sys_shutdown与多线程和多进程都没有任何关系,而sys_close则不然,上图中可以看到,层层封装调用中有一个方法叫fput,它有一个引用计数,记录这个socket被引用了多少次。在说明多线程或者多进程调用close的区别前,先在代码上简单看下close是怎么调用的,对内核代码没兴趣的同学可以仅看fput方法:
void fastcall fput(struct file *file)
{
if (atomic_dec_and_test(&file->f_count))//检查引用计数,直到为0才会真正去关闭socket
__fput(file);
}
当这个socket的引用计数f_count不为0时,是不会触发到真正关闭TCP连接的tcp_close方法的。
在clone系统调用中,会调用方法copy_files来拷贝文件描述符(包括socket)。创建线程时,传入的flag参数中包含标志位CLONE_FILES,此时,线程将会共享父进程中的文件描述符。而创建进程时没有这个标志位,这时,会把进程打开的所有文件描述符的引用计数加1,即把file数据结构的f_count成员加1,如下:
static int copy_files(unsigned long clone_flags, struct task_struct * tsk)
{
if (clone_flags & CLONE_FILES) {
goto out;//创建线程
}
newf = dup_fd(oldf, &error);
out:
return error;
}
再看看dup_fd方法:
static struct files_struct *dup_fd(struct files_struct *oldf, int *errorp)
{
for (i = open_files; i != 0; i--) {
struct file *f = *old_fds++;
if (f) {
get_file(f);//创建进程
}
}
}
get_file宏就会加引用计数。
#define get_file(x) atomic_inc(&(x)->f_count)
所以,子进程会将父进程中已经建立的socket加上引用计数。当进程中close一个socket时,只会减少引用计数,仅当引用计数为0时才会触发tcp_close。
到这里,对于第一个问题的close调用自然有了结论:
单线程(进程)中使用close与多线程中是一致的,但这两者与多进程的行为并不一致,多进程中共享的同一个socket必须都调用了close才会真正的关闭连接。
而shutdown则不然,这里是没有引用计数什么事的,只要调用了就会去试图按需关闭连接。所以,调用shutdown与多线程、多进程无关。
2、close的主要流程
这个图稍复杂,这是因为它覆盖了关闭监听句柄、关闭普通连接、关闭设置了SO_LINGER的连接这三种主要场景。
1)关闭监听句柄
先从最右边的分支说说关闭监听socket的那些事。用于listen的监听句柄也是使用close关闭,关闭这样的句柄含义当然很不同,它本身并不对应着某个TCP连接,但是,附着在它之上的却可能有半成品连接。什么意思呢?之前说过TCP是双工的,它的打开需要三次握手,三次握手也就是3个步骤,其含义为:客户端打开接收、发送的功能;服务器端认可并也打开接收、发送的功能;客户端认可。当第1、2步骤完成、第3步步骤未完成时,就会在服务器上有许多半连接,close这个操作主要是清理这些连接。
参照上图,close首先会移除keepalive定时器。keepalive功能常用于服务器上,防止僵死、异常退出的客户端占用服务器连接资源。移除此定时器后,若ESTABLISH状态的TCP连接在tcp_keepalive_time时间(如服务器上常配置为2小时)内没有通讯,服务器就会主动关闭连接。
接下来,关闭每一个半连接。如何关闭半连接?这时当然不能发FIN包,即正常的四次握手关闭连接,而是会发送RST复位标志去关闭请求。处理完所有半打开的连接close的任务就基本完成了。
2)关闭普通ESTABLISH状态的连接(未设置so_linger)
首先检查是否有接收到却未处理的消息。
如果close调用时接收缓冲区存在没有处理的消息,直接丢弃这些消息。但丢弃消息后,意味着连接远端误以为发出的消息已经被本机收到处理了(因为ACK包确认过了),但实际上确是收到未处理,此时也不能使用正常的四次挥手关闭,而是会向远端发送一个RST报文。所以,这也要求我们程序员在关闭连接时,要确保已经接收、处理了连接上的消息。
如果此时没有未处理的消息,那么进入发送FIN来关闭连接的阶段。
这时,先看看是否有待发送的消息。前一篇已经说过,发消息时要计算滑动窗口、拥塞窗口、Nagle算法等,这些因素可能导致消息会延迟发送的。如果有待发送的消息,那么要尽力保证这些消息都发出去的。所以,会在最后一个报文中加入FIN标志,同时,关闭用于减少网络中小报文的Nagle算法,向连接对端发送消息。如果没有待发送的消息,则构造一个报文,仅含有FIN标志位,发送出去关闭连接。
3)使用了so_linger的连接
首先要澄清,为何要有so_linger这个功能?因为我们可能有强可靠性的需求,也就是说,必须确保发出的消息、FIN都被对方收到。例如,有些响应发出后调用close关闭连接,接下来就会关闭进程。如果close时发出的消息其实丢失在网络中了,那么,进程突然退出时连接上发出的RST就可能被对方收到,而且,之前丢失的消息不会有重发来保障可靠性了。
so_linger用来保证对方收到了close时发出的消息,即,至少需要对方通过发送ACK且到达本机。
怎么保证呢?等待!close会阻塞住进程,直到确认对方收到了消息再返回。然而,网络环境又得复杂的,如果对方总是不响应怎么办?所以还需要l_linger这个超时时间,控制close阻塞进程的最长时间。注意,务必慎用so_linger,它会在不经意间降低你程序中代码的执行速度(close的阻塞)。
所以,当这个进程设置了so_linger后,前半段依然没变化。检查是否有未读消息,若有则发RST关连接,不会触发等待。接下来检查是否有未发送的消息时与第2种情形一致,设好FIN后关闭Nagle算法发出。接下来,则会设置最大等待时间l_linger,然后开始将进程睡眠,直到确认对方收到后才会醒来,将控制权交还给用户进程。
这里需要注意,so_linger不是确保连接被四次挥手关闭再使close返回,而只是保证我方发出的消息都已被对方收到。例如,若对方程序写的有问题,当它收到FIN进入CLOSE_WAIT状态,却一直不调用close发出FIN,此时,对方仍然会通过ACK确认,我方收到了ACK进入FIN_WAIT2状态,但没收到对方的FIN,我方的close调用却不会再阻塞,close直接返回,控制权交还用户进程。
最后做个总结。调用close时,可能导致发送RST复位关闭连接,例如有未读消息、打开so_linger但l_linger却为0、关闭监听句柄时半打开的连接。更多时会导致发FIN来四次挥手关闭连接,但打开so_linger可能导致close阻塞住等待着对方的ACK表明收到了消息。