在开发分布式高并发系统时有三把利器用来保护系统：缓存、降级、限流
缓存缓存的目的是提升系统访问速度和增大系统处理容量
降级降级是当服务出现问题或者影响到核心流程时，需要暂时屏蔽掉，待高峰或者问题解决后再打开
限流限流的目的是通过对并发访问/请求进行限速，或者对一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理
问题描述1、某天A君突然发现自己的接口请求量突然涨到之前的10倍，没多久该接口几乎不可使用，并引发连锁反应导致整个系统崩溃 。如何应对这种情况呢？生活给了我们答案：比如老式电闸都安装了保险丝，一旦有人使用超大功率的设备，保险丝就会烧断以保护各个电器不被强电流给烧坏 。同理我们的接口也需要安装上“保险丝”，以防止非预期的请求对系统压力过大而引起的系统瘫痪，当流量过大时，可以采取拒绝或者引流等机制 。整编：微信公众号，搜云库技术团队，ID：souyunku
2、缓存的目的是提升系统访问速度和增大系统能处理的容量，可谓是抗高并发流量的银弹；而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉，待高峰或者问题解决后再打开；而有些场景并不能用缓存和降级来解决，比如稀缺资源（秒杀、抢购）、写服务（如评论、下单）、频繁的复杂查询（评论的最后几页），因此需有一种手段来限制这些场景的并发/请求量，即限流 。
3、系统在设计之初就会有一个预估容量，长时间超过系统能承受的TPS/QPS阈值，系统可能会被压垮，最终导致整个服务不够用 。为了避免这种情况，我们就需要对接口请求进行限流 。
4、限流的目的是通过对并发访问请求进行限速或者一个时间窗口内的的请求数量进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待 。
5、一般开发高并发系统常见的限流模式有控制并发和控制速率，一个是限制并发的总数量（比如数据库连接池、线程池），一个是限制并发访问的速率（如Nginx的limitconn模块，用来限制瞬时并发连接数），另外还可以限制单位时间窗口内的请求数量（如Guava的RateLimiter、nginx的limitreq模块，限制每秒的平均速率） 。其他还有如限制远程接口调用速率、限制MQ的消费速率 。另外还可以根据网络连接数、网络流量、CPU或内存负载等来限流 。
相关概念：PV:page view 页面总访问量，每刷新一次记录一次 。
UV:unique view 客户端主机访问，指一天内相同IP的访问记为1次 。
QPS:query per second,即每秒访问量 。qps很大程度上代表了系统的繁忙度，没次请求可能存在多次的磁盘io，网络请求，多个cpu时间片，一旦qps超过了预先设置的阀值，可以考量扩容增加服务器，避免访问量过大导致的宕机 。整编：微信公众号，搜云库技术团队，ID：souyunku
RT:response time,每次请求的响应时间,直接决定用户体验性 。
本文主要介绍应用级限流方法，分布式限流、流量入口限流（接入层如NGINX limitconn和limitreq 模块） 。
应用级限流一、控制并发数量属于一种较常见的限流手段，在实际应用中可以通过信号量机制（如JAVA中的Semaphore）来实现 。操作系统的信号量是个很重要的概念，Java 并发库 的Semaphore 可以很轻松完成信号量控制，Semaphore可以控制某个资源可被同时访问的个数，通过 acquire() 获取一个许可，如果没有就等待，而 release() 释放一个许可 。
举个例子，我们对外提供一个服务接口，允许最大并发数为10，代码实现如下：
public class DubboService {private final Semaphore permit = new Semaphore(10, true);public void process(){try{permit.acquire();//业务逻辑处理} catch (InterruptedException e) {e.printStackTrace();} finally {permit.release();}}}在以上代码中，虽然有30个线程在执行，但是只允许10个并发的执行 。Semaphore的构造方法Semaphore(int permits) 接受一个整型的数字，表示可用的许可证数量 。Semaphore(10)表示允许10个线程获取许可证，也就是最大并发数是10 。Semaphore的用法也很简单，首先线程使用Semaphore的acquire()获取一个许可证，使用完之后调用release()归还许可证，还可以用tryAcquire()方法尝试获取许可证，信号量的本质是控制某个资源可被同时访问的个数，在一定程度上可以控制某资源的访问频率，但不能精确控制，控制访问频率的模式见下文描述 。
二、控制访问速率在工程实践中，常见的是使用令牌桶算法来实现这种模式，常用的限流算法有两种：漏桶算法和令牌桶算法 。
推荐阅读
- Web 攻击越发复杂，如何保证云上业务高可用性的同时系统不被入侵？| 专家谈
- Nginx 为什么是高效服务器，架构设计是怎样的？
- 床上可以写字的小桌子一般买多高,一般写字桌子多高
- 八零后弃外企高薪销售 改行做茶膏
- 都江堰四措并举推进茶业升级
- 教练|职业足球运动员真是个高危职业，这五点和三个方面，都要考虑
- 海豚跟虎鲸哪个聪明 海豚和白鲸哪个智商更高
- 三件事，能看出你情商高低
- 如何搭建一支高效的互联网运营团队
- 淘宝商品竞争度高了好还是低了好 淘宝竞争度越大越好吗