Java虚拟机：SpringCloud的限流、降级和熔断——Hystrix |设计|硬件|美好

本文插图

一、前言分布式系统环境中，服务间类似依赖非常常见，一个业余调用通常依赖多个基础服务。如下图，对于同步调用，当库存服务不可用时，商品服务请求线程被阻塞，当有大批量请求调用库存服务时，最终可能导致整个商品服务资源耗尽，无法继续对外提供服务。并且这种不可用可能沿请求调用链向上传递，这种现象称为雪崩效应。

本文插图

二、雪崩效应 1、常见场景
（1）硬件故障：如服务器宕机，机房断电，光纤被挖断等。
（2）流量激增：如异常流量，重试加大流量等。
（3）缓存穿透：一般发生在应用重启，所有缓存失效时，以及短时间内大量缓存失效时。大量的缓存不命中，使请求直击后端服务，造成服务提供者超负荷运行，引起服务不可用。
（4）程序bug：如程序逻辑导致内存泄漏， JVM长时间FullGC等。
（5）同步等待：服务间采用同步调用模式，同步等待造成的资源耗尽。
2、应对策略
针对造成雪崩效应的不同场景，可以使用不同的应对策略，没有一种通用所有场景的策略。
（1）硬件故障：多机房容灾、异地多活等。
（2）流量激增：服务自动扩容、流量控制（限流、关闭重试）等。
（3）缓存穿透：缓存预加载、缓存异步加载等。
（4）程序bug：修改程序bug、及时释放资源等。
（5）同步等待：资源隔离、MQ解耦。、不可用服务调用快速失败等。资源隔离通常指不同服务调用采取不同的线程池；不可用服务调用快速失败一般通过熔断模式结合超时机制实现。
综上所述，如果一个应用不能对来自依赖的故障进行隔离，那该应用本身就处在被拖垮的风险中。因此，为了构建稳定、可靠的分布式系统，我们的服务应当具有自我保护能力，当依赖服务不可用时，当前服务启动自我保护功能，从而避免发生雪崩效应。本文将重点介绍使用Hystrix解决同步等待的雪崩问题。
三、初探Hystrix Hystrix ，中文含义是豪猪，因其背上长满荆棘，从而拥有了自我保护的能力。本文所说的Hystrix是Netflix公司开源的一款容错框架，同样具有自我保护能力。为了实现容错和自我保护，下面我们看看Hystrix如何设计和实现的。
Hystrix设计目标：