几个问题
了解以下几个问题的同学可以直接忽略下文:
listen 库函数主要做了什么?
2、 什么是最大并发连接请求数?
3、什么是等待连接队列?
socket
listen( server_sockfd, 5) ;
其中,第一个参数 server_sockfd为服务端 socket所对应的文件描述符,第二个参数5 代表监听socket 能处理的最大并发连接请求数,在2.6.26 内核中,该值为 256 ;
listen 库函数调用的主要工作可以分为以下几步:
1 、根据 socket文件描述符找到内核中对应的 socket结构体变量;这个过程在《socket地址绑定 》 一文中描述过,这里不再重述;
2 、设置 socket的状态并初始化等待连接队列;
3 、将 socket放入listen 哈希表中;
listen 调用代码跟踪
下面是 listen库函数对应的内核处理函数:
asmlinkage long sys_listen(int fd, int backlog)
{
struct socket *sock;
int err, fput_needed;
int somaxconn;
// 根据文件描述符取得内核中的socket
sock = sockfd_lookup_light(fd, &err, &fput_needed);
if (sock) {
// 根据系统中的设置调整参数backlog
somaxconn = sock_net(sock->sk)->core.sysctl_somaxconn;
if ((unsigned)backlog > somaxconn)
backlog = somaxconn;
err = security_socket_listen(sock, backlog);
// 调用相应协议簇的listen函数
if (!err)
err = sock->ops->listen(sock, backlog);
fput_light(sock->file, fput_needed);
}
return err;
}
根据《创建socket 》 一文的介绍,例子中,这里sock->ops-> listen(sock, backlog) 实际上调用的是 net/ipv4/Af_inet.c:inet_listen() 函数:
int inet_listen(struct socket *sock, int backlog)
{
struct sock *sk = sock->sk;
unsigned char old_state;
int err;
lock_sock(sk);
err = -EINVAL;
// 1 这里首先检查socket的状态和类型,如果状态或类型不正确,返回出错信息
if (sock->state != SS_UNCONNECTED || sock->type != SOCK_STREAM)
goto out;
old_state = sk->sk_state;
// 2 这里检查sock的状态是否是TCP_CLOSE或TCP_LISTEN,如果不是,返回出错信息
if (!((1 << old_state) & (TCPF_CLOSE | TCPF_LISTEN)))
goto out;
/* Really, if the socket is already in listen state
* we can only allow the backlog to be adjusted.
*/
// 3 当sock的状态不是TCP_LISTEN时,做监听相关的初始化
if (old_state != TCP_LISTEN) {
err = inet_csk_listen_start(sk, backlog);
if (err)
goto out;
}
// 4 设置sock的最大并发连接请求数
sk->sk_max_ack_backlog = backlog;
err = 0;
out:
release_sock(sk);
return err;
}
上面的代码中,有点值得注意的是,当 sock 状态已经是 TCP_LISTEN 时,也可以继续调用 listen() 库函数,其作用是设置 sock 的最大并发连接请求数;
下面看看 inet_csk_listen_start() 函数:
int inet_csk_listen_start(struct sock *sk, const int nr_table_entries)
{
struct inet_sock *inet = inet_sk(sk);
struct inet_connection_sock *icsk = inet_csk(sk);
// 初始化连接等待队列
int rc = reqsk_queue_alloc(&icsk->icsk_accept_queue, nr_table_entries);
if (rc != 0)
return rc;
sk->sk_max_ack_backlog = 0;
sk->sk_ack_backlog = 0;
inet_csk_delack_init(sk);
// 设置sock的状态为TCP_LISTEN
sk->sk_state = TCP_LISTEN;
if (!sk->sk_prot->get_port(sk, inet->num)) {
inet->sport = htons(inet->num);
sk_dst_reset(sk);
sk->sk_prot->hash(sk);
return 0;
}
sk->sk_state = TCP_CLOSE;
__reqsk_queue_destroy(&icsk->icsk_accept_queue);
return -EADDRINUSE;
}
nr_table_entries 是参数 backlog 经过最大值调整后的值;
相关数据结构
先看下接下来的代码中提到了几个数据结构,一起来看一下:
1 、 request_sock
struct request_sock {
struct request_sock *dl_next; /* Must be first */
u16 mss;
u8 retrans;
u8 cookie_ts; /* syncookie: encode tcpopts in timestamp */
/* The following two fields can be easily recomputed I think -AK */
u32 window_clamp; /* window clamp at creation time */
u32 rcv_wnd; /* rcv_wnd offered first time */
u32 ts_recent;
unsigned long expires;
const struct request_sock_ops *rsk_ops;
struct sock *sk;
u32 secid;
u32 peer_secid;
};
socket 在侦听的时候,那些来自其它主机的 tcp socket 的连接请求一旦被接受(完成三次握手协议),便会建立一个 request_sock ,建立与请求 socket 之间的一个 tcp 连接。该 request_sock 会被放在一个先进先出的队列中,等待 accept
2 、 listen_sock
struct listen_sock {
u8 max_qlen_log;
/* 3 bytes hole, try to use */
int qlen;
int qlen_young;
int clock_hand;
u32 hash_rnd;
u32 nr_table_entries;
struct request_sock *syn_table[0];
};
新建立的 request_sock 就存放在 syn_table 中;这是一个哈希数组,总共有 nr_table_entries
成员 max_qlen_log 以 2 的对数的形式表示 request_sock
qlen
hash_rnd
3 、 request_sock_queue
struct request_sock_queue {
struct request_sock *rskq_accept_head;
struct request_sock *rskq_accept_tail;
rwlock_t syn_wait_lock;
u16 rskq_defer_accept;
/* 2 bytes hole, try to pack */
struct listen_sock *listen_opt;
};
结构体 struct request_sock_queue 中的 rskq_accept_head 和 rskq_accept_tail 分别指向 request_sock
等待连接队列初始化
先看下 reqsk_queue_alloc()
int reqsk_queue_alloc(struct request_sock_queue *queue,
unsigned int nr_table_entries)
{
size_t lopt_size = sizeof(struct listen_sock);
struct listen_sock *lopt;
// 1 控制nr_table_entries在8~ sysctl_max_syn_backlog之间
nr_table_entries = min_t(u32, nr_table_entries, sysctl_max_syn_backlog);
nr_table_entries = max_t(u32, nr_table_entries, 8);
// 2 向上取2的幂
nr_table_entries = roundup_pow_of_two(nr_table_entries + 1);
// 3 申请等待队列空间
lopt_size += nr_table_entries * sizeof(struct request_sock *);
if (lopt_size > PAGE_SIZE)
lopt = __vmalloc(lopt_size,
GFP_KERNEL | __GFP_HIGHMEM | __GFP_ZERO,
PAGE_KERNEL);
else
lopt = kzalloc(lopt_size, GFP_KERNEL);
if (lopt == NULL)
return -ENOMEM;
// 4 设置listen_sock的成员max_qlen_log最小为3,最大为nr_table_entries的对数
for (lopt->max_qlen_log = 3;
(1 << lopt->max_qlen_log) < nr_table_entries;
lopt->max_qlen_log++);
// 5 相关字段赋值
get_random_bytes(&lopt->hash_rnd, sizeof(lopt->hash_rnd));
rwlock_init(&queue->syn_wait_lock);
queue->rskq_accept_head = NULL;
lopt->nr_table_entries = nr_table_entries;
write_lock_bh(&queue->syn_wait_lock);
queue->listen_opt = lopt;
write_unlock_bh(&queue->syn_wait_lock);
return 0;
}
整个过程中,先计算 request_sock 的大小并申请空间,然后初始化 request_sock_queue
TCP_LISTEN 的 socket 管理
在《端口管理》一文中提到管理 socket 的哈希表结构 inet_hashinfo ,其中的成员 listening_hash[INET_LHTABLE_SIZE] 用于存放处于 TCP_LISTEN 状态的 sock
当 socket 通过 listen() 调用完成等待连接队列的初始化后,需要将当前 sock
if (!sk->sk_prot->get_port(sk, inet->num)) {
// 这里再次判断端口是否被占用
inet->sport = htons(inet->num);
sk_dst_reset(sk);
// 将当前socket哈希到inet_hashinfo中
sk->sk_prot->hash(sk);
return 0;
}
这里调用了 net/ipv4/Inet_hashtables.c:inet_hash()
void inet_hash(struct sock *sk)
{
if (sk->sk_state != TCP_CLOSE) {
local_bh_disable();
__inet_hash(sk);
local_bh_enable();
}
}
static void __inet_hash(struct sock *sk)
{
// 取得inet_hashinfo结构
struct inet_hashinfo *hashinfo = sk->sk_prot->h.hashinfo;
struct hlist_head *list;
rwlock_t *lock;
// 状态检查
if (sk->sk_state != TCP_LISTEN) {
__inet_hash_nolisten(sk);
return;
}
BUG_TRAP(sk_unhashed(sk));
// 计算hash值,取得链表
list = &hashinfo->listening_hash[inet_sk_listen_hashfn(sk)];
lock = &hashinfo->lhash_lock;
inet_listen_wlock(hashinfo);
// 将sock添加到链表中
__sk_add_node(sk, list);
sock_prot_inuse_add(sock_net(sk), sk->sk_prot, 1);
write_unlock(lock);
wake_up(&hashinfo->lhash_wait);
}
3 个问题,应该没什么问题了吧 :)