Go 语言使用 TCP_NODELAY 控制发包流量

以下文章来源于非常程序员 ,作者yoko
编写健壮且高性能的网络服务需要付出大量的努力 。提高服务性能的方式有很多种,比如优化应用层的代码,更进一步,还可以看看垃圾回收器,操作系统,网络传输,以及部署我们服务的硬件是否有优化空间 。
TCP/IP 协议栈中的一些算法会影响到服务性能 。本文将简单介绍其中的 Nagle 算法,与 Nagle 算法相关的 socket 选项TCP_NODELAY,以及在 Go 语言中如何使用它 。
理论大部分平台上的 TCP 实现都提供了 socket 选项,用于控制连接生命周期,流量控制等算法 。
其中一个会对网络传输性能造成影响的算法是 Nagle 算法,它在 linux,macOS,windows 平台默认都是打开的 。
Nagle 算法的做法是:将要发送的小包合并,并延缓发送 。延缓后的发送策略是,收到前一个发送出去的包的 ACK 确认包,或者一定时间后,收集了足够数量的小数据包 。
Nagle 算法的目的是减少发送小包的数量,从而减小带宽,并提高网络吞吐量,付出的代价是有时会增加服务的延时 。(译者 yoko 注:补充解释一下为什么减少小包的数量可以减小带宽 。因为每个 TCP 包,除了包体中包含的应用层数据外,外层还要套上 TCP 包头和 IP 包头 。由于应用层要发送的业务数据量是固定的,所以包数量越多,包头占用的带宽也越多)
引入的延时通常在毫秒级别,但是对于延迟敏感的服务来说,减少一些毫秒数的延迟也是值得的 。
【Go 语言使用 TCP_NODELAY 控制发包流量】Nagle 算法所对应的 TCP socket 选项是TCP_NODELAY 。开启TCP_NODELAY可以禁用 Nagle 算法 。禁用 Nagle 算法后,数据将尽可能快的被发送出去 。
另外,我们也可以在应用层对数据进行缓存合并发送来达到 Nagle 算法的目的(译者 yoko 注:在 Go 语言中即使用bufio.Writer 。个人认为,使用bufio.Writer还有一个好处,就是减少了调用 write 系统调用的次数,但是相应的,增加了数据拷贝的开销) 。
在 Go 语言中,TCP_NODELAY默认是开启的,并且标准库提供了net.SetNodelay(bool)方法来控制它 。
实验我们通过一个小实验来观察TCP_NODELAY打开和关闭时底层 TCP 包的变化 。
代码逻辑十分简单,client 端连续调用 5 次conn.Write函数向 server 端发送相同的字符串GOPHER 。
服务端代码(server.go):
package mainimport ("bufio""fmt""log""net""strings")func main() {port := ":" + "8000"// 创建监听l, err := net.Listen("tcp", port)if err != nil {log.Fatal(err)}defer l.Close()for {// 接收新的连接c, err := l.Accept()if err != nil {log.Println(err)return}// 处理新的连接go handleConnection(c)}}func handleConnection(c net.Conn) {fmt.Printf("Serving %sn", c.RemoteAddr().String())for {// 读取数据netData, err := bufio.NewReader(c).ReadString('n')if err != nil {log.Println(err)return}cdata := strings.TrimSpace(netData)if cdata =https://www.isolves.com/it/cxkf/yy/go/2019-12-30/= "GOPHER" {c.Write([]byte("GopherAcademy Advent 2019!"))}if cdata == "EXIT" {break}}c.Close()}客户端代码(client.go):
package mainimport ("fmt""log""net")func main() {target := "localhost:8000"raddr, err := net.ResolveTCPAddr("tcp", target)if err != nil {log.Fatal(err)}// 和服务端建立连接conn, err := net.DialTCP("tcp", nil, raddr)if err != nil {log.Fatal(err)}// conn.SetNoDelay(false) // 如果打开这行代码,则禁用TCP_NODELAY,打开Nagle算法fmt.Println("Sending Gophers down the pipe...")for i := 0; i < 5; i++ {// 发送数据_, err = conn.Write([]byte("GOPHERn"))if err != nil {log.Fatal(err)}}}为了观察 TCP 包,首先开启抓包程序 tcpdump 。为了简单,两个程序都在本机运行 。我环境的内网环路网卡为lo0,不同机器上可能不同:
$sudo tcpdump -X-i lo0 'port 8000'然后,再打开两个终端窗口,先执行服务端程序,再执行客户端程序:
$go run server.go$go run client.go观察抓包结果,我们会发现每次调用 write 函数发送"GOPHER",对应的都是一个独立的 TCP 包被发送 。总共有 5 个 TCP 包 。以下是抓包结果,为了简单,我只贴出两个包:
....14:03:11.057782 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 15:22, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 70x0000:4500 003b 0000 4000 4006 0000 7f00 0001E..;..@.@.......0x0010:7f00 0001 e2ae 1f40 80c5 9759 6171 9822.......@...Yaq."0x0020:8018 18eb fe2f 0000 0101 080a 2c5a 8eda...../......,Z..0x0030:2c5a 8eda 474f 5048 4552 0a,Z..GOPHER.14:03:11.057787 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 22:29, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 70x0000:4500 003b 0000 4000 4006 0000 7f00 0001E..;..@.@.......0x0010:7f00 0001 e2ae 1f40 80c5 9760 6171 9822.......@...`aq."0x0020:8018 18eb fe2f 0000 0101 080a 2c5a 8eda...../......,Z..0x0030:2c5a 8eda 474f 5048 4552 0a,Z..GOPHER....


推荐阅读