最近遇到一个非常有趣的问题。其中有一组haproxy，频繁出现问题。登录上服务器，cpu、内存、网络、io一顿猛查。最终发现有超过6万个连接处于机器的time_wait状态。
TIME_WAIT状态，一般都会出现在HAProxy、Nginx这种代理机器上，主要是由于频繁的主动关闭所造成的。通过修改reuse和回收参数，可以比较快速的解决问题。
网络状态的统计数量，可以使用下面的命令进行统计。
netstat -ant|awk '/^tcp/ {++S[$NF]} END {for(a in S) print (a,S[a])}' ESTABLISHED 70 FIN_WAIT2 30 CLOSING 33 TIME_WAIT 65520
这本来没什么神奇的，但65535这个数字，实在是太过于敏感。应该是触发了某种上限。
使我们更加感到疑惑的是：为什么TIME_WAIT状态的连接，仅仅达到了65535，服务就不可用了?
到处号称的单机百万连接，是在吹牛皮么?怎么这么经不起折腾?
65535，表示等于2的16次方减一，是一个神奇的数字。把这个小数字暂且搁置，我们先了解一下Linux支持多大的连接容量。
1. Linux能够支持多少连接?
答案是无数个。可是端口只有65535个啊。
为什么端口只有65535个?
TCP和UDP协议在开头分别用16位存储源端口号和目标端口号，这是基于历史原因。很遗憾的是，这个值是short类型的，大小也是2^16-1。
因为历史原因造成的不可改变的标准，就是那么根深蒂固。
那Linux到底能支持多少个连接呢?答案是无数个。
拿nginx来说，我们把它监听在80端口上。这时候A机器去连接Nginx，可以发起多达6w多条长连接。如果B机器去连接Nginx，同样也可以发起6w多条连接。这是由于确定一条连接，是由src和dst来共同决定的。
认为Linux只能接受65535条连接的想法，只能说是犯了非常浅显的想当然主义。
65535个端口，作为压测机可能对你来说太小了一些。但对于服务器来说，已经绰绰有余了。
2. 如何支持百万连接?
从上面可以看到，连接数，是没有限制的。但Linux还有一层防护，那就是文件句柄数。通过lsof命令查看到的那些东西，就是所谓的文件句柄。
无线网络修复工具是一款联想出品的小工具，旨在诊断并修复计算机的无线网络问题。它全面检查硬件故障、驱动程序错误、无线开关设置、连接设置和路由器配置。 该工具支持 Windows XP、Win7 和 Win10 系统。请注意，在运行该工具之前，应拔出电脑的网线，以确保准确诊断和修复。 使用此工具，用户可以轻松找出并解决 WiFi 问题，无需手动排查故障。它提供了一键式解决方案，即使对于非技术用户也易于使用。
先来看一下几个命令的展示。
ulmit，展示了每个进程所能占用的文件句柄数量。
ulimit -n 65535
file-max，展示了操作系统能够占用的文件句柄数量总和，针对的是所有的进程。
cat /proc/sys/fs/file-max 766722
file-nr，展示了当前已经使用的句柄数量和总的句柄数量。可以拿来做监控。
cat /proc/sys/fs/file-nr 1824 0 766722
为了支持百万连接，需要释放操作系统级别的句柄和进程级别的句柄。也就是说，ulimit和file-max的显示，都要大于百万才成。
3. 如何设置?
虽然常用的一种方案是ulimit来设置进程句柄数，但是我非常不推荐使用。只有在同一shell中启动的进程，才会受到ulimit设置的影响，原因没有其他的。如果你打开另一个shell或重启机器，那么ulimit的更改都会消失。就是下面这种方式：
ulimit -n 1000000
正确的方式，是修改/etc/security/limits.conf文件。比如下面的内容。
root soft nofile 1000000 root hard nofile 1000000 * soft nofile 1000000 * hard nofile 1000000
可以看到，我们可以针对于特定的用户，修改其句柄数量。这在安装es等应用时，经常碰到。
es - nofile 65535
使用这种方法，仍需要打开一个新的shell才能进行操作。这个命令无论是在修改后的shell中还是在修改之前的shell中，都不会生效。xjjdog曾遇到过多个案例，尽管限制已经被放开，仍发生了问题。
查看进程的内存映射文件可以确定这些更改是否已经生效。例如，在命令“cat /proc/180323/limits”中，将会展示详细信息。
这个数值，也并不是想要设多大就多大的。它的大小上限，是由nr_open决定的。要增加大小，需要在/ect/sysct.conf中更改fs.nr_open的值。
cat /proc/sys/fs/nr_open 1048576
如果想修改file-max参数，建议在/etc/sysctl.conf文件中加入以下内容。足足有6百多万!
fs.file-max = 6553560
当文件数量超出的时候，就会报kernel: VFS: file-max limit 65535 reached的错误。
总结一下。
Linux即使放开一个端口，能够接受的连接也是海量的。这些连接的上限，受到单进程文件句柄数量和操作系统文件句柄数量的限制，也就是ulimit和file-max。
为了能够将参数修改持久化，我们倾向于将改动写入到文件里。进程的文件句柄限制，可以放在/etc/security/limits.conf中，它的上限受到fs.nr_open的制约;操作系统的文件句柄限制，可以放到/etc/sysctl.conf文件中。最终，一定要检查/proc/$id/limits文件，确认修改是否生效于进程。
