Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束

前言不知道你有没有过这样的经历,你的Spring项目通过http接口远程调用外部系统时,通常你会设置超时时间,比如5秒钟,但是实际情况却是由于外部系统出现故障并导致连接超时,有些请求花费远远超过5秒时间,甚至1分钟,这直接导致你本身的接口响应很慢,如果访问你接口的流量很大的话,甚至拖垮你的系统,这将会是灾难性的后果 。

Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束

文章插图
你可能会好奇到底是什么原因导致的,很可能是你忽略了这个超时配置项connectionRequestTimeout导致的 。
Spring中的连接池【Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束】在深入了解 connectionRequestTimeout 之前,我们需要了解外部 HTTP 请求是如何在 Spring 中进行的 。
Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束

文章插图
Spring 通过Http调用外部系统的时候,会使用连接池去管理他们 。因为HTTP请求创建连接代价比较高,而连接池可以做到连接的复用,回过头,我们思考下为什么会代价高呢?
  • DNS 解析:在建立连接之前,客户端必须首先使用域名系统 (DNS) 将服务器的域名解析为 IP 地址 。DNS 解析可能需要时间,尤其是在客户端的 DNS 缓存很冷且服务器的域名尚未缓存的情况下 。
  • TCP 握手:确定服务器的 IP 地址后,客户端必须与服务器建立 TCP 连接 。这涉及三次握手过程,这可能会花费时间并增加请求的开销 。
  • SSL/TLS 协商:如果服务器使用 HTTPS,客户端还必须在可以交换任何数据之前与服务器协商 SSL/TLS 连接 。这涉及一个复杂的握手过程,可能会增加请求的大量开销 。
为 HTTP 请求使用连接池可以显着提高性能 。但是,我们需要对其进行适当配置以防止出现灾难情况 。
什么是连接请求超时?现在让我们用连接池的概念再来看问题 。
Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束

文章插图
本例中B组件是外部系统,处于无法建立HTTP连接的情况,导致A中的连接超时,请仔细看上面A指向连接池的箭头,A 正在等待另一个连接来建立到 B 的 HTTP 连接 。
connectionRequestTimeout 是 Spring 中的一个配置参数,用于确定客户端在超时前等待来自连接池的连接的时间 。此超时值用于防止客户端无限期地等待可能不可用的连接,并在不再需要时释放连接池中的资源 。
API 响应时间 = connectionRequestTimeout? + connectionTimeout? + readTimeout  。
  • connectionRequestTimeout:等待从连接池获取连接的时间 。
  • connectionTimeout:等待与外部组件建立连接的时间 。
  • readTimeout:等待外部组件响应的时间 。
如何设置connectionRequestTimeout?connectionRequestTimeout 的默认值为 -1,这意味着它无限期地等待来自连接池的连接 。由于我们希望避免外部组件中断导致系统故障,因此我们需要为其设置一个显式值 。
假设您将值设置得太短:1 秒 。如果系统需要高延迟,这可能是一个频繁的故障,因为它可能一直渴望连接 。另一方面,如果该值太长,比如 10 分钟,系统很容易因外部故障而失败 。
因此,你需要统计系统的API响应时间, 最大超时响应时间如下:
API 响应时间 = connectionRequestTimeout + connectionTimeout + readTimeout 。看看是否有很多请求超过了connectionTimeout和readTimeout?之和, 如果是这样的话,系统需要增大连接池的大小或者减小connectionRequestTimeout?值 。否则就将 connectionRequestTimeout 合理设置为 15 秒到 30 秒之间 。下面是设置 connectionRequestTimeout 的示例代码 。
import org.springframework.http.client.HttpComponentsClientHttpRequestFactory;import org.springframework.web.client.RestTemplate;public class ConnectionRequestTimeoutExample {public static void main(String[] args) {RestTemplate restTemplate = new RestTemplate();HttpComponentsClientHttpRequestFactory requestFactory = new HttpComponentsClientHttpRequestFactory();// Set the connectionRequestTimeout value to 10 secondsrequestFactory.setConnectionRequestTimeout(10000);restTemplate.setRequestFactory(requestFactory);...}}在这个例子中,我们创建了一个新的RestTemplate?和一个新的HttpComponentsClientHttpRequestFactory?,然后我们connectionRequestTimeout?使用该方法将该值设置为 10 秒,并使用该方法为 RestTemplate? 设置请求工厂setRequestFactory() 。


推荐阅读